KI: Anthropic advarer om at menneskeheten er i ferd med å miste kontrollen over de mest avanserte KI-modellene. Her representert ved kodesjef Boris Cherny som besøkte London i mai.
Michael Knief / AP / NTB
Anthropic advarer: KI er i ferd med å bli smartere uten hjelp fra mennesker
KI-selskapet Anthropic ber om en pause i utviklingen av de kraftigste KI-modellene, idet det er tegn til at de begynner å bli smartere uten menneskers hjelp.
I en ny rapport beskriver selskapet en utvikling der stadig mer av arbeidet med å bygge nye KI-modeller utføres av KI-systemene selv.
– Vi mener det ville vært bra for verden å ha muligheten til å bremse eller midlertidig stanse banebrytende KI-utvikling, slik at samfunnets strukturer og forskningen på sikker KI kan holde tritt med teknologiens framgang, skriver Anthropic.
Selskapet står bak Claude, en av verdens mest avanserte språkmodeller.
