Feiten
- Een vooraanstaand onderzoeker bij Anthropic waarschuwt dat de kans groter is dan tien procent dat kunstmatige intelligentie de mensheid binnen tien jaar vernietigt. Evan Hubinger, verantwoordelijk voor AI-alignment bij het bedrijf, maakt zich vooral zorgen over superintelligentie die ontstaat door recursive self-improvement.
- Hubinger stelt dat Anthropic geen plan heeft om alignment voor superintelligentie op te lossen en niet duidelijk op koers ligt om dit probleem aan te pakken.
- De zevenentwintigjarige onderzoeker Jacob Coxon kondigt op X zijn vertrek aan na drie jaar bij Anthropic. Hij werkte eerder bij OpenAI en beschuldigt beide bedrijven van onverantwoordelijk handelen door te racen naar zelfverbeterende superintelligentie zonder adequate veiligheidsplannen. Coxon schrijft op X: ‘Ze racen rechtstreeks naar zelfverbeterende superintelligentie en gokken met onze levens’.
- Tegenover The Wall Street Journal zegt Coxon dat Anthropic bewuster omgaat met risico’s dan OpenAI, maar toch de race om AI-dominantie wil winnen en daardoor steken laat vallen.
- Jakub Pachocki, hoofdonderzoeker van OpenAI, pleitte recent voor extreme voorzichtigheid bij de ontwikkeling van kunstmatige intelligentie. Critici zoals Cory Doctorow beweren dat bedrijven als Anthropic en OpenAI angst zaaien over AI om marketingredenen en zo hun machtspositie te versterken.
- Anthropic diende het model Mythos 5.1 niet in voor pre-lanceer-veiligheidstesten bij het Britse AI Security Institute.
Nieuwsmedia analyses
Meningen:
"Evan Hubinger: we geloven dat AI alle mensen zou kunnen doden en de kans daarop is meer dan 10 procent binnen het komende decennium."
"Jacob Coxon: geen van beide bedrijven handelt verantwoordelijk en ze gokken met onze levens."
"Op 9 september 2026 meldt BNR dat veiligheidsonderzoekers van Anthropic stellen dat er meer dan 10 procent kans is dat AI binnen de komende tien jaar alle mensen uitroeit."
"Jacob Coxon schrijft op X: ‘Ze racen rechtstreeks naar zelfverbeterende superintelligentie en gokken met onze levens’."
"Hubinger waarschuwt dat de kans groter is dan tien procent dat kunstmatige intelligentie de mensheid binnen tien jaar vernietigt."
"Jakub Pachocki, hoofdonderzoeker van OpenAI, pleitte recent voor extreme voorzichtigheid bij de ontwikkeling van kunstmatige intelligentie."
"Evan Hubinger van Anthropic stelt dat de kans dat AI alle mensen doodt meer dan 10 procent bedraagt binnen het komende decennium."
"Jacob Coxon nam ontslag bij Anthropic na drie jaar wegens gewetensnood over de race naar superintelligentie."
AI’s zoeken constant naar nieuwe bronnen, feiten en updates; daardoor is een artikel niet tot op de minuut volledig te controleren. Feiten en meningen staan apart. Origineel artikel bekijken kan via “Bekijk artikel”.
