Två AI-forskare med tydlig insyn i AI-företagens innersta varnar för en farlig utveckling. AI utgör ett reellt hot mot mänskligheten, anser de. ”Underskatta inte kraften i den här tekniken”, skriver AI-forskaren Jacob Coxon, som själv lämnat företaget Anthropic i protest.
Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt.
”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X.
”Skulle kunna döda alla”
Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic.
”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver Hubinger på X. Han lägger till att han personligen tror att risken är ”större än tio procent” och att det sker redan inom det närmaste decenniet.
Hubinger skriver att han anser att Anthropic gör sitt bästa, men att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Men risken för att det ska hända med nuvarande modeller är låg, menar han.
Andra tonar ner riskerna och menar att domedagsprofetiorna bara är ett sätt för AI-bolagen att blåsa upp förväntningarna på deras produkter. Både Anthropic och Open AI planerar börsintroduktioner inom kort.
Men Coxon hävdar på X att hans utspel inte är ”ett marknadsföringstrick”.
”Om något så tonar många chefer och ledande forskare ner sina formuleringar i pressen för att framstå som förnuftiga, men jag hör samma personer uttrycka rädsla privat”, skriver han.
Manar till försiktighet
AI-branschen har skakats av flera incidenter den senaste tiden där AI-modeller uppges ha ”rymt” från sina testmiljöer. Open AI stoppade tillfälligt träningen av sina senaste modeller under två veckor i augusti innan de återupptog den under striktare kontroller. Företagets forskningschef Jakub Pachocki manade i söndags till ”extrem försiktighet”.
”Internationell samordning kring framtida AI-utveckling måste bli en topprioritet för regeringar världen över”, skrev Pachocki i ett blogginlägg.
Över 1 000 anställda på AI-bolag har i ett öppet brev uppmanat USA:s regering att stötta en internationell insats för att reglera takten i utveckligen av AI.
