Een Amerikaanse vader is zwaar in de problemen gekomen nadat Google een medische foto aanzag voor mogelijk kindermisbruik.
Dat schrijft The New York Times. Op verzoek van een dokter maakte een vader een foto van het geslachtsdeel van zijn zoontje. Er was namelijk sprake van een infectie en de dokter vroeg om een foto om te kunnen zien wat er mogelijk gaande was. De beelden zijn gemaakt en opgestuurd.
Twee dagen later merkte de vader des huizes dat hij niet meer kon inloggen op zijn Google account. Volgens het bedrijf had de man de voorwaarden/richtlijnen geschonden. In de lijst met mogelijke redenen stond onder meer ‘misbruik en uitbuiting van kinderen’. De man had direct door dat de foto van zijn zoontje, die hij stuurde naar de arts, waarschijnlijk de oorzaak was van de blokkade.
Sinds 2018 scant Google hun cloud-opslagdienst Google Drive met kunstmatige intelligentie. Het systeem kan beelden van misbruik herkennen. De vader had op de foto het geslachtsdeel van zijn zoontje vast om de infectie goed op beeld vast te kunnen leggen. Dit werd door het systeem van Google gemarkeerd als misbruik.
De man nam contact op met Google en legde zijn situatie uit. Het bedrijf vertelde al melding te hebben gedaan bij de politie en het zodoende niet mogelijk was om het account weer te herstellen. Het was nu aan de politie om te bepalen of er sprake was van misbruik.
Na onderzoek kreeg de vader negen maanden later een brief van de politie waarin hij werd medegedeeld dat er geen sprake was van misbruik. De politie had daarvoor zijn zoekopdrachten op internet, locatiegeschiedenis, berichten en alle documenten, foto’s en video’s op de Google Drive onderzocht.
Het onderzoek was gesloten en de man wilde zijn account terug. Google gaf aan dat het account inmiddels permanent was verwijderd. Hierdoor is veel persoonlijke data kwijtgeraakt, waaronder foto’s en video’s van de kinderen. De vader eist nu 7.000 dollar (ruim 6.900 euro) schadevergoeding van Google.