Anthropic, het AI-bedrijf achter chatbot Claude, waarschuwt in zijn beursgangprospectus dat AI-modellen 'catastrofale of existentiële risico's voor de mensheid' kunnen vormen. De waarschuwing staat in het document dat op 29 september 2026 uitlekte in aanloop naar de geplande beursnotering van het bedrijf.
Het prospectus lekte uit via persbureau Reuters en de Financial Times. Anthropic lijkt zijn beursgangplannen door te zetten. In het stuk schat veiligheidsonderzoeker Evan Hubinger van Anthropic de kans op meer dan 10 procent dat AI binnen tien jaar mensen zou kunnen doden, zo blijkt uit het lekende document.
Daarnaast wordt gemeld dat Anthropic in 2025 een verlies van 42 miljard dollar boekte. Dat cijfer heeft het bedrijf niet publiekelijk bevestigd; het gerapporteerde verlies komt uit de berichtgeving over het uitgelekte prospectus en niet uit een officiële verklaring.
De onthullingen samen schetsen het beeld van een bedrijf dat waarschuwt voor de lange termijnrisico's van de technologie die het zelf ontwikkelt, terwijl het zich voorbereidt op een beursnotering en forse financiële verliezen verwerkt.
