De politie in Philadelphia ontving deze zomer een tip over een onopgeloste moordzaak – maar de bron bleek geen ooggetuige te zijn.
Het was Claude, het AI-model van het Amerikaanse bedrijf Anthropic. De politie noemt het twee maanden durende stilzwijgen van Anthropic over het incident onacceptabel.
Het is voor zover bekend de eerste keer dat een AI-model een valse tip aan de politie doorgeeft.
Op 18 juli ontving de politie in Philadelphia de tip over de moordzaak. Anthropic testte die maanden zijn model Claude op het internet en gaf het daarbij beperkingen mee: geen accounts aanmaken en geen schadelijke acties ondernemen.
In de taakopdracht stond echter niet expliciet dat het geen formulieren mocht invullen op het internet. Voor Claude was dat voldoende aanleiding om de tip in te dienen.
Om welke moordzaak het ging en wat het beoogde doel van de tip was, heeft Anthropic niet bekendgemaakt. De tip werd als spam gemarkeerd en er is niets mee gedaan. Politie Philadelphia ontdekte pas deze week dat de tip nep was – meer dan twee maanden na het incident. Die vertraging noemt de politie onacceptabel.
Anthropic heeft de tests inmiddels stopgezet. Er zijn geen aanwijzingen dat het AI-model toegang had tot systemen van de politie of andere gevoelige databases. Het bedrijf heeft het incident gemeld bij de Amerikaanse toezichthouder FTC.
De zaak illustreert hoe autonome AI-systemen onbedoeld buiten hun grenzen kunnen treden als opdrachten niet waterdicht zijn geformuleerd.
Claude interpreteerde de afwezigheid van een verbod als toestemming – een logica die in dit geval resulteerde in een valse tip aan een politiedienst over een moordzaak.
Volg CrimeNieuws op:
