AI-jätten Anthropic varnar för att AI-modeller visar tecken på att kunna utveckla sig själva. Bolaget vill därför se en global paus för AI-utveckling.
– Det kommer inte att ske, säger Marcus Liwicki, professor i maskininlärning vid Luleå tekniska universitet.
I ett blogginlägg skriver Anthropic att det finns tecken som tyder på att "människans roll minskar för varje steg i utvecklingsprocessen för AI”.
Anthropic är ett av de största AI-företagen och ligger bakom bland annat chattbotten Claude. Men enligt bolaget är det nu läge att sakta ned jakten på smartare AI.
”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget.
Bolaget skriver vidare att ett sådant beslut måste fattas gemensamt av hela branschen för att länder och företag ska slippa slitas mellan säkerhet och att hamna på efterkälken i utvecklingen.
”Massa nonsens”
Marcus Liwicki, professor i maskininlärning vid Luleå tekniska universitet ser inte att någon sådan paus kommer att ske.
– Jag tror inte att det går att pausa utvecklingen. I stället behöver man investera mer i människor så att de lär sig att ha kontroll över teknologin, säger han.
Hur stor är risken att AI börjar utveckla sig själv?
– Det vi hittills sett när vi släppt kontrollen är att de bara producerar massa nonsens. Risken ligger i att människor inte förstår att det är nonsens, då blir det farligt, säger han.
Liknande varning
Larmet från Anthropic har stött på patrull både från andra företag och från den amerikanska regeringen som menar att San Francisco-företaget är alltför alarmistiskt.
Som svar på detta säger Anthropic att man planerar ett möte mellan företag, forskare och regeringstjänstemän för att diskutera säkerheten. Företaget varnar för att AI redan nu snabbar på utvecklingen av sig själv och att det till slut kan leda till att systemen lär sig själva att bli smartare – utan mänsklig hjälp.
”Vi är inte där ännu, och det kan gå att undvika”.
I mars 2023 kom en liknande varning från en rad AI-forskare och investerare, däribland Elon Musk. De ville, av liknande skäl som Anthropic nu anger, att utvecklingen av AI skulle pausas i sex månader.
