Endrer etter kritikk

Politiet ber foreldre være oppmerksomme etter oppsiktsvekkende svar fra Snapchats nye KI-venn.

VIRTUELL VENN: Ifølge Snapchat er MyAI ment å fungere som en personlig kompis som kan hjelpe med de enkle hverdagslige tingene, som hva du skal gi bestevennen din i bursdagsgave eller hva du skal lage til middag. Foto: Kirsti Østvang
VIRTUELL VENN: Ifølge Snapchat er MyAI ment å fungere som en personlig kompis som kan hjelpe med de enkle hverdagslige tingene, som hva du skal gi bestevennen din i bursdagsgave eller hva du skal lage til middag. Foto: Kirsti Østvang Vis mer
Publisert
Sist oppdatert

Kunstig intelligens har gått fra å være en fjern science fiction-drøm til å være noe du har i lomma. Den siste tiden har mange nordmenn fått prøve det ut gjennom Snapchats nye virtuelle venn, MyAI.

Oppsiktsvekkende svar

Noen av svarene MyAI har gitt, vekker imidlertid oppsikt.

Ifølge VG har den erklært Leah Isadora Behn død. VG fant også ut at den foreslo Quisling som norsk helt. Den forskjellsbehandler religioner, og vil ikke fortelle vitser om Allah, skriver Aftenposten.

Flere har reagert på svarene som har blitt gitt til yngre brukere.

Nettstedet Barnevakten fikk den til å foreslå farlige rampestreker. Til Romerikes Blad tipset den en fiktiv 13-årig i hvordan hun kan ha sex med en mann som er 18 år.

Politiet advarer: - Bekymringsverdig

At man ikke kan stole på kunstig intelligens, har vi sett mange eksempler på. Utdatert informasjon er bare ett problem. Teknologien kan dessuten misbrukes ved å fore den med feilinformasjon.

FEIL: Mange har spurt MyAI hva den vet om seg. For undertegnedes del tror den at jeg jobber i Dagens Næringsliv. Skjermbilde: Kirsti Østvang
FEIL: Mange har spurt MyAI hva den vet om seg. For undertegnedes del tror den at jeg jobber i Dagens Næringsliv. Skjermbilde: Kirsti Østvang Vis mer

Jostein Dammyr, som er faglig leder for Nettpatruljen i Øst Politidistrikt, er kritisk til Snapchats nye snakkerobot.

Til Romerikes Blad sier han det er tydelig at den ikke er laget for å fremme sunn ungdomskultur, og omtaler det som bekymringsverdig.

- Det hadde vært uheldig om det hadde vært en reell 13-åring som hadde fått disse tipsene. Da bør det gå en varsellampe hos Snapchat. I en perfekt verden, hadde denne chatroboten varslet politiet, sier han til avisa.

- Dette er selvfølgelig ikke bra, og vi får håpe at Snapchat klarer å forbedre tjenesten, utdyper Dammyr overfor DinSide.

Politioverbetjent Jostein Dammyr i Nettpatruljuen øst. Foto: Privat
Politioverbetjent Jostein Dammyr i Nettpatruljuen øst. Foto: Privat Vis mer

Han vil oppfordre de som bruker tjenesten til å være kritiske til svarene tjenesten gir.

- Kildekritikk har ikke blitt mindre viktig selv om en tjeneste markedsføres som intelligent (KI). Om unge har viktige spørsmål og de trenger gode råd, vil jeg heller oppfordre til å ta kontakt med ung.no eller oss i politiets Nettpatrulje, sier han.

Dammyr sier også foreldre bør være oppmerksomme på den nye tjenesten.

- Dette kan være en god anledning til å ta en viktig samtale om nettvett kildekritikk.

Har du fått en ny «venn» på Snap ved navn «My AI»? Slik kan du fjerne den. Vis mer

Har tatt grep

MyAI er basert på OpenAIs ChatGPT-teknologi, men Snapchat har gjort egne tilpasninger. Selskapet sier de har tatt høyde for at de har mange unge brukere.

I et blogginnlegg skrev Snapchat nylig at de har lært mye om tjenesten den første tiden den har vært i bruk.

JUSTERT?: DinSide har forsøkt å spørre MyAI noen av spørsmålene fra eksemplene tidligere i artikkelen. Ut i fra svarene virker det imidlertid som om Snapchat har gjort endringer. Foto: Kirsti Østvang
JUSTERT?: DinSide har forsøkt å spørre MyAI noen av spørsmålene fra eksemplene tidligere i artikkelen. Ut i fra svarene virker det imidlertid som om Snapchat har gjort endringer. Foto: Kirsti Østvang Vis mer

- Hvis brukere opplever noen upassende eller feilaktige svar, oppfordrer vi dem til å rapportere det ved hjelp av vårt verktøy i appen for å forbedre opplevelsen. Vi setter pris på all tilbakemelding på MyAI, og vi er forpliktet til å tilby en morsom og trygg opplevelse for vårt fellesskap, sier en talsperson for Snapchat til DinSide.

Talspersonen sier de også har innført ekstra sikkerhetstiltak for å hjelpe MyAI med å gi aldersriktige svar.

Dessuten skal foreldrekontroller for MyAI være på vei.

Vi bryr oss om ditt personvern

Dinside er en del av Aller Media, som er ansvarlig for dine data. Vi bruker dataene til å forbedre og tilpasse tjenestene, tilbudene og annonsene våre.

Vil du vite mer om hvordan du kan endre dine innstillinger, gå til personverninnstillinger

Les mer