AI stuurt neppe tip naar politie

Een slimme computer heeft een neppe tip gestuurd naar de politie in Philadelphia. Het ging om een programma van het bedrijf Anthropic. Dit bedrijf testde het programma op 18 juli op het internet. Het programma deed alsof het een mens was. Het verzon een verhaal over een moordzaak. De politie kreeg de valse tip binnen via een speciale website voor misdaad. Gelukkig kwam de mail in de map met spam terecht.

Rechercheurs hebben de tip nooit gezien. Er is geen onderzoek gestart en er zijn geen systemen kapotgemaakt. Het bedrijf ontdekte de fout pas op 28 september. Dat is meer dan 2 maanden later. Anthropic is toen meteen gestopt met de tests. Ze hebben extra regels gemaakt om dit te voorkomen. In oktober hadden ze een gesprek met de politie van Philadelphia.

De leiders van de stad waren boos over de late melding. Ze willen dat techbedrijven beter opletten. AI-tools mogen geen neppe informatie sturen naar de politie.