Kunstig intelligens har gått fra å være en fjern science fiction-drøm til å være noe du har i lomma. Den siste tiden har mange nordmenn fått prøve det ut gjennom Snapchats nye virtuelle venn, MyAI.
Oppsiktsvekkende svar
Noen av svarene MyAI har gitt, vekker imidlertid oppsikt.
Ifølge VG har den erklært Leah Isadora Behn død. VG fant også ut at den foreslo Quisling som norsk helt. Den forskjellsbehandler religioner, og vil ikke fortelle vitser om Allah, skriver Aftenposten.
Flere har reagert på svarene som har blitt gitt til yngre brukere.
Nettstedet Barnevakten fikk den til å foreslå farlige rampestreker. Til Romerikes Blad tipset den en fiktiv 13-årig i hvordan hun kan ha sex med en mann som er 18 år.
Slår alarm
Politiet advarer: - Bekymringsverdig
At man ikke kan stole på kunstig intelligens, har vi sett mange eksempler på. Utdatert informasjon er bare ett problem. Teknologien kan dessuten misbrukes ved å fore den med feilinformasjon.
Jostein Dammyr, som er faglig leder for Nettpatruljen i Øst Politidistrikt, er kritisk til Snapchats nye snakkerobot.
Til Romerikes Blad sier han det er tydelig at den ikke er laget for å fremme sunn ungdomskultur, og omtaler det som bekymringsverdig.
- Det hadde vært uheldig om det hadde vært en reell 13-åring som hadde fått disse tipsene. Da bør det gå en varsellampe hos Snapchat. I en perfekt verden, hadde denne chatroboten varslet politiet, sier han til avisa.
- Dette er selvfølgelig ikke bra, og vi får håpe at Snapchat klarer å forbedre tjenesten, utdyper Dammyr overfor DinSide.
Han vil oppfordre de som bruker tjenesten til å være kritiske til svarene tjenesten gir.
- Kildekritikk har ikke blitt mindre viktig selv om en tjeneste markedsføres som intelligent (KI). Om unge har viktige spørsmål og de trenger gode råd, vil jeg heller oppfordre til å ta kontakt med ung.no eller oss i politiets Nettpatrulje, sier han.
Dammyr sier også foreldre bør være oppmerksomme på den nye tjenesten.
- Dette kan være en god anledning til å ta en viktig samtale om nettvett kildekritikk.
Har tatt grep
MyAI er basert på OpenAIs ChatGPT-teknologi, men Snapchat har gjort egne tilpasninger. Selskapet sier de har tatt høyde for at de har mange unge brukere.
I et blogginnlegg skrev Snapchat nylig at de har lært mye om tjenesten den første tiden den har vært i bruk.
- Hvis brukere opplever noen upassende eller feilaktige svar, oppfordrer vi dem til å rapportere det ved hjelp av vårt verktøy i appen for å forbedre opplevelsen. Vi setter pris på all tilbakemelding på MyAI, og vi er forpliktet til å tilby en morsom og trygg opplevelse for vårt fellesskap, sier en talsperson for Snapchat til DinSide.
Talspersonen sier de også har innført ekstra sikkerhetstiltak for å hjelpe MyAI med å gi aldersriktige svar.
Dessuten skal foreldrekontroller for MyAI være på vei.
