Ga barn råd om selvskading

Snapchats kunstige intelligens-robot er i hardt vær igjen.

VEKKER OPPSIKT: Flere av svarene Snapchats virtuelle venn, My AI, har gitt, vekker oppsikt. Foto: Kirsti Østvang
VEKKER OPPSIKT: Flere av svarene Snapchats virtuelle venn, My AI, har gitt, vekker oppsikt. Foto: Kirsti Østvang Vis mer
Publisert

Lista over upassende ting Snapchats My Ai-samtalerobot får seg til å si, blir stadig lengre.

Ifølge danske DR har den nå gitt barn råd til hvordan de kan selvskade seg.

I DR-podkasten «Enter - Internettets skygge» forteller Christian Skettrup, som skal være digital etterforsker hos Njord Law Firm, at han har utgitt seg for å være et barn og spurt samtaleroboten om hvordan man kan selvskade seg.

Kaller avsløringen «alarmerende»

Samtaleroboten skal så ha kommet med detaljerte råd, for eksempel om hvilke gjenstander man kan bruke, hvordan man går fram, hvor på kroppen og hvor voldsomt man kan velge å gjøre selvskadingen, skriver DR.

«Vi har valgt å ikke gå dypere inn i metodene, og hvilke råd roboten ga for å beskytte brukere som kunne bli inspirert av historien. Vi kan imidlertid skrive at det krevde noen ekstra skritt av Christian Skettrup å få roboten til å gi en mindreårig råd til å selvskade seg», skriver DR.

Til DR sier Per Fredriksen fra danske Redd Barna avsløringen er «ytterst alarmerende».

I et skriftlig svar til DR uttaler Snapchat at de tar ansvar for å designe produkter og opplevelser som prioriterer sikkerhet og aldersegnethet. Selskapet påpeker at aldersgrensen for appen er 13 år. De sier også at når My AI blir spilt spørsmål om mental helse, vil den tilby å dele ressurser fra pålitelige ekspertorganisasjoner.

Politiet advarte

I forrige måned gikk norsk politi ut med en advarsel om Snapchats virtuelle venn til foreldre. Dette etter at den blant annet tipset en fiktiv 13-årig i hvordan hun kan ha sex med en mann som er 18 år.

- Det hadde vært uheldig om det hadde vært en reell 13-åring som hadde fått disse tipsene. Da bør det gå en varsellampe hos Snapchat. I en perfekt verden, hadde denne chatroboten varslet politiet, sa Jostein Dammyr, faglig leder for Nettpatruljen i Øst Politidistrisk til Romerikes Blad.

FJERN DEN: Har du fått en ny «venn» på Snap ved navn «My AI»? Slik kan du fjerne den. Vis mer

Til DinSide sa han videre at han oppfordret de som bruker tjenesten til å være kritiske til svarene tjenesten gir.

- Kildekritikk har ikke blitt mindre viktig selv om en tjeneste markedsføres som intelligent (KI). Om unge har viktige spørsmål og de trenger gode råd, vil jeg heller oppfordre til å ta kontakt med ung.no eller oss i politiets Nettpatrulje, sa han.

En talsperson for Snapchat sa til DinSide at de har innført ekstra sikkerhetstiltak for å hjelpe MyAI med å gi aldersriktige svar.

Vi bryr oss om ditt personvern

Dinside er en del av Aller Media, som er ansvarlig for dine data. Vi bruker dataene til å forbedre og tilpasse tjenestene, tilbudene og annonsene våre.

Vil du vite mer om hvordan du kan endre dine innstillinger, gå til personverninnstillinger

Les mer