Drie onderzoekers van Anthropic hebben publiekelijk hun bezorgdheid geuit over een kunstmatige intelligentie die buiten alle controle zou kunnen raken, en waarschuwen dat ze de mensheid mogelijk zouden kunnen uitroeien tegen het einde van het decennium. Jim VandeHei en Mike Allen brengen dit verhaal in een artikel dat op 9 september 2026 op Axios verscheen.
De onderzoeker Jacob Coxon nam dinsdag ontslag om, volgens Axios, « de alarmklok te luiden » op X: de mensen die AI bouwen geloven oprecht dat ze ons allemaal zouden kunnen doden tegen het eind van het decennium, en dit is geen PR-stunt. Evan Hubinger, hoofd onderzoek naar afstemming bij Anthropic, sloot zich bij hem aan op hetzelfde netwerk en bevestigde dat het bedrijf « nog geen plan heeft » om de afstemming van een superintelligente AI op te lossen, terwijl hij zelf het risico op meer dan 10% in de komende tien jaar schat. Samuel Marks, hoofd toezicht op grootschalige systemen bij Anthropic, voegde eraan toe dat hoe langer een werknemer bij het bedrijf werkt, hoe bezorgder hij is, aldus de citaten van Axios.
Deze uitspraken volgen slechts enkele dagen nadat ook leiders van OpenAI, waaronder CEO Sam Altman, een oncontroleerbare en zorgelijke fase in de ontwikkeling van AI hadden genoemd, melden Jim VandeHei en Mike Allen. Axios ziet hierin een dilemma dat door de hele sector wordt gedeeld: vertragen met het risico achterstand op te lopen, of doorgaan met het risico de controle te verliezen. De sector beweegt volgens het medium op volle snelheid, terwijl men bijna pleit voor regulering of een mondiale pauze.
Hoewel sommige critici menen dat Anthropic en OpenAI de gevaren van hun producten overdrijven om hun waardering op te voeren en regulering te bepleiten die vooral ten goede komt aan de reeds dominante spelers, zegt Axios dat het de afgelopen maanden met tientallen mensen binnen deze bedrijven heeft gesproken die steeds alarmischer zijn geworden. Het medium meent dat het onverstandig zou zijn om deze waarschuwingen niet serieus te nemen, aangezien deze onderzoekers toegang hebben tot modellen die nog niet publiek beschikbaar zijn.
VandeHei en Allen benadrukken dat niemand het dreigende beeld van een onmiddellijk gevaar ontkent. Wat deze onderzoekers beschrijven, is een technologie die sneller vooruitgaat dan verwacht en die zichzelf op termijn autonoom zou kunnen verbeteren. Een fenomeen dat, eenmaal op gang gebracht, nog sneller zou versnellen en steeds moeilijker te voorspellen en te beheersen zou worden.
