Android:

Advarer foreldre etter bilde-brøler

Det som bare skulle være medisinske bilder endte i et mareritt for småbarnsfaren.

I SKYEN: Mannen brukte en Android-telefon som var koblet opp til Googles sky. Det angrer han bittert på nå. Foto: AP
I SKYEN: Mannen brukte en Android-telefon som var koblet opp til Googles sky. Det angrer han bittert på nå. Foto: AP Vis mer
Publisert
Sist oppdatert

I februar i fjor tok en San Francisco-mann bilder av sønnens betente penis med Android-telefonen sin, og sendte dem til konas iPhone.

Kona sendte bildene videre til familielegen, som så på bildene og deretter skrev ut en resept på antibiotika.

Gutten ble fort bedre, men familien hadde ingen anelse om at bildene faren hadde tatt skulle bli starten på et langvarig mareritt.

Det skriver The New York Times.

DØMT: Han lovet å elske henne, men drepte henne i stedet for. Nå er han dømt. Video: West Yorkshire Police. Reporter: Håvard T-L Knutsen. Vis mer

«Skadelig innhold som kan være ulovlig»

To dager etter at han hadde tatt bildene, fikk han opp et varsel på Google-kontoen som var koblet til Android-telefonen hans.

Der sto det at kontoen var blitt deaktivert på grunn av «skadelig innhold som kan være ulovlig».

- Åh, gud, Google tror kanskje at dette var overgrepsmateriale, tenkte mannen ifølge avisa.

Han hadde helt rett.

Bildene hans var automatisk blitt lastet opp i Googles sky - og selskapets kunstige intelligens hadde flagget bildene av sønnen som overgrepsmateriale.

Startet etterforskning

Google varslet politiet om funnet, som straks igangsatte en etterforskning av mannen, som bare er identifisert med navnet Mark.

Politiet så gjennom Marks internettsøk, steder han hadde befunnet seg, meldinger, bilder, dokumenter og videoer.

Politiet fant ingen grunn til å straffeforfølge ham, og droppet saken.

Det gjorde derimot ikke Google.

HQ: Bygningen BV100 på Googles hovedkontorer i Mountain View i California. Foto: Peter DaSilva/Reuters
HQ: Bygningen BV100 på Googles hovedkontorer i Mountain View i California. Foto: Peter DaSilva/Reuters Vis mer

Mistet bilder, mail og telefon

Google nektet å gi Mark tilbake tilgangen til kontoen sin, som inneholdt flere år med bilder, videoer, e-poster, avtaler i Googles kalender, sikkerhetskoder og ikke minst kontakter.

Han mistet også telefonnummeret sitt fordi det var registrert på Googles eget mobilselskap, Google Fi.

Dette skal ikke være den første gang en far havner i trøbbel for å ha tatt nakenbilder av barnet sitt.

The New York Times forteller også om en Texas-mann som opplevde det samme som Mark, og som heller aldri har fått tilbake Google-kontoen sin.

- Følger loven

Christa Muldoon er talsperson for Google.

Til The Guardian sier hun at Google står ved sine avgjørelser, og at de bare følger loven når de kontakter politiet og varsler om såkalt CSAM.

CSAM står for «child sexual abuse material», altså overgrepsmateriale.

Videre forteller talsperson Muldoon at ansatte i Google som ser gjennom CSAM blir lært opp til å se etter utslett og andre medisinske tilstander.

Hun sier at de ansatte ikke er medisinske eksperter, og at de heller ikke kontakter medisinske eksperter når de går gjennom bilder de mener er CSAM.

- Vår innsats mot overgrepsmateriale gjelder over hele verden. Overgrepsmateriale av barn er avskyelig, og vi er fullstendig dedikert til å forhindre spredning av slikt innhold på våre plattformer. Vi følger amerikansk lovgivning (les: ikke vår egen definisjon) av hva som anses som såkalt CSAM (Child sexual abuse material), og bruker en kombinasjon av hash matching-teknologi og kunstig intelligens for å identifisere og fjerne det fra plattformene våre. I tillegg jobber et team med eksperter med å gjennomgå flagget innhold for å sikre nøyaktigheten av avgjørelser, kommenterer Googles Norges kommunikasjonssjef, Sondre Ronander, i en e-post til DinSide.

Googles egne nettsider står det at selskapet bare i fjor deaktiverte over 250 000 kontoer på grunn av CSAM.

Apple måtte snu

Apple støtte på massiv kritikk i fjor da de annonserte en ny måte å skanne etter overgrepsmateriale på iPhone før det lastes opp til iCloud, altså på selve telefonen. Datatilsynet kalte teknologien for «dypt problematisk», ifølge NRK.

Blant bekymringene var at det skal kunne brukes til andre formål enn først tiltenkt, som for eksempel statlig overvåking.

I en rapport lovet imidlertid Apple at skanningen ikke ville gå på bekostning av anonymitet og privat sikkerhet. iPhone-produsenten skrotet til slutt planene, og har i ettertid kommet med en annen valgfri funksjon for barnekontoer.

Nytt lovforslag fra EU

De store internettselskapene bruker skanningsteknologien sin også her til lands.

I juli i fjor ble en mann i Rogaland dømt i Gulating lagmannsrett, etter at Facebook sine systemer oppdaget at han hadde sendt en film som viste seksuelle overgrep mot fire barn i en Messenger-melding til kjæresten sin, skriver NRKBeta.

I mai i år la EU-kommisjonen frem et forslag til en ny lov som vil pålegge selskaper å oppdage overgrepsmateriale på deres tjenester

- Kommisjonen mener dagens system, som bygger på frivillig sporing og rapportering fra selskapenes side, ikke er tilstrekkelig, og forordningsforslaget pålegger leverandører å spore, rapportere og fjerne bilder og video som viser seksuelle overgrep begått mot barn, skrev Stortinget om lovforslaget.

Ifølge Politico er Europa en «hot spot» for deling av overgrepsmateriale. I 2021 befant 62 prosent av denne typen ulovlige bilder i verden seg på europeiske servere.

Vi bryr oss om ditt personvern

Dinside er en del av Aller Media, som er ansvarlig for dine data. Vi bruker dataene til å forbedre og tilpasse tjenestene, tilbudene og annonsene våre.

Vil du vite mer om hvordan du kan endre dine innstillinger, gå til personverninnstillinger

Les mer