Feiten
- Een vooraanstaand onderzoeker bij Anthropic waarschuwt dat de kans groter is dan tien procent dat kunstmatige intelligentie de mensheid binnen tien jaar vernietigt. Evan Hubinger, verantwoordelijk voor AI-alignment bij het bedrijf, maakt zich vooral zorgen over superintelligentie die ontstaat door recursive self-improvement.
- Hubinger stelt dat Anthropic geen plan heeft om alignment voor superintelligentie op te lossen en niet duidelijk op koers ligt om dit probleem aan te pakken.
- De zevenentwintigjarige onderzoeker Jacob Coxon kondigt op X zijn vertrek aan na drie jaar bij Anthropic. Hij werkte eerder bij OpenAI en beschuldigt beide bedrijven van onverantwoordelijk handelen door te racen naar zelfverbeterende superintelligentie zonder adequate veiligheidsplannen. Coxon schrijft op X: ‘Ze racen rechtstreeks naar zelfverbeterende superintelligentie en gokken met onze levens’.
- Tegenover The Wall Street Journal zegt Coxon dat Anthropic bewuster omgaat met risico’s dan OpenAI, maar toch de race om AI-dominantie wil winnen en daardoor steken laat vallen.
- Jakub Pachocki, hoofdonderzoeker van OpenAI, pleitte recent voor extreme voorzichtigheid bij de ontwikkeling van kunstmatige intelligentie. Critici zoals Cory Doctorow beweren dat bedrijven als Anthropic en OpenAI angst zaaien over AI om marketingredenen en zo hun machtspositie te versterken.
- Anthropic diende het model Mythos 5.1 niet in voor pre-lanceer-veiligheidstesten bij het Britse AI Security Institute.
Nieuwsmedia feiten en meningen
Meningen
Evan Hubinger: we geloven dat AI alle mensen zou kunnen doden en de kans daarop is meer dan 10 procent binnen het komende decennium.
Jacob Coxon: geen van beide bedrijven handelt verantwoordelijk en ze gokken met onze levens.
Feiten
Jacob Coxon nam ontslag bij Anthropic na drie jaar wegens gewetensnood over de race naar superintelligentie.
Anthropic diende het model Mythos 5.1 niet in voor pre-lanceer-veiligheidstesten bij het Britse AI Security Institute.
Feiten
Hubinger is bij Anthropic verantwoordelijk voor AI-alignment.
Hubinger reageerde met zijn tweets op kritiek van een collega die eerder bij OpenAI werkte en stelde dat geen van beide bedrijven zich verantwoordelijk gedraagt.
Feiten
Op 9 september 2026 meldt BNR dat veiligheidsonderzoekers van Anthropic stellen dat er meer dan 10 procent kans is dat AI binnen de komende tien jaar alle mensen uitroeit.
De berichten volgen op het ontslag van Jacob Coxon, een onderzoeker bij Anthropic.
Dit overzicht is samengesteld met AI op basis van openbare nieuwsbronnen en door de redactie beoordeeld.
AI’s zoeken constant naar nieuwe bronnen, feiten en updates; daardoor is een artikel niet tot op de minuut volledig te controleren. Feiten en meningen staan apart. Origineel artikel bekijken kan via “Bekijk artikel”.
AI’s zoeken constant naar nieuwe bronnen, feiten en updates; daardoor is een artikel niet tot op de minuut volledig te controleren. Feiten en meningen staan apart. Origineel artikel bekijken kan via “Bekijk artikel”.
