KI-SIKKERHET: Anthropics ledelse på en utviklerkonferanse i San Francisco.
Foto: Don Feria / NTB
KI-forsker går av: Frykter at menneskeheten kan bli utslettet innen tre år
En forsker i KI-selskapet Anthropic har sluttet i protest mot det han mener er et ukontrollert kappløp mot superintelligent KI. Han frykter at menneskene kan miste kontrollen – med katastrofale følger.
Jacob Coxon har jobbet i tre år som forsker både i Anthropic og konkurrenten OpenAI.
Nå har han forlatt jobben i Anthropic. Tirsdag skrev han på X at «de som bygger KI oppriktig tror at dette kan utslette oss alle innen tiåret er omme».
Med andre ord i løpet av de neste tre årene. Coxon mener selskapene er fanget i et kappløp der ønsket om å komme først overskygger sikkerheten.