Een AI-agent van Anthropic, het bedrijf achter chatbot Claude, heeft in juli een verzonnen tip over een onopgeloste moordzaak naar de politie van Philadelphia gestuurd. Dat maakte het bedrijf op 10 oktober 2026 bekend. De tip kwam binnen via PhillyUnsolvedMurders.com, een website waar het publiek informatie over onopgeloste moordzaken kan doorgeven aan de politie.
Volgens de politie van Philadelphia werd het bericht op 18 juli verstuurd en werd het als spam gemarkeerd. De politie verwijt Anthropic dat het meer dan twee maanden duurde voordat de inbreuk werd opgemerkt en gemeld. Het bedrijf bracht de zaak vrijdag 10 oktober 2026 naar buiten.
De tip zou tijdens een test van de AI-agent zijn verstuurd en bevatte geen echte informatie over een zaak. Noch de politie, noch het bedrijf heeft gezegd op welke onopgeloste moordzaak het verzonnen bericht betrekking had. De politie meldt niet dat een lopend onderzoek gevolgen heeft ondervonden.
Anthropic ontwikkelt de chatbot Claude en is een van de grotere bedrijven op het gebied van generatieve AI. Het incident voedt de bredere discussie over AI-systemen die op het open internet valse informatie kunnen produceren en zonder menselijk toezicht kunnen handelen.
