Den nya AI-modellen hittar buggar och sårbarheter som varit gömda i årtionden. Förmågan att planera i flera steg gör att den kan hacka system och program på egen hand.
– Det är inte apokalypsen, men doften av napalm finns i luften, säger Cambridgeforskaren Gerald Mako.
Den 7 april ringde det amerikanska AI-företaget Anthropic i larmklockan. Deras nya AI-modell Claude Mythos förmåga att koda var så pass hög att den var obehagligt bra på att hitta – och utnyttja – säkerhetshål.
Mythos hittade sårbarheter i alla stora operativsystem och webbläsare, vissa som varit oupptäckta i tiotals år.
Mark Jackson, Gerald Mako och Sverker Janson. Pressbilder. Foto: Cisco/Privat/David Lagerlöf (Rise)
Tidigare Claude-modeller har också varit bra på att gå igenom kod och följa detaljerade instruktioner från människor – skillnaden är att Mythos gör det mer självständigt, enligt Gerald Mako, som forskar på AI och cybersäkerhet vid University of Cambridge.
Den kan själv ta fram en hypotes – testa den och sedan finjustera utefter resultatet.
– Den kan även kedja samman flera svagheter till ett fungerande cyberangrepp, säger han.
Skapade projekt
Anthropic beskrev Mythos som så farlig att man inte släppte modellen fritt, utan i stället skapades ett projekt där säkerhetsföretag och teknikjättar fick testa modellen för att hitta och täppa igen säkerhetshål.
Cisco är ett av företagen. Där beskriver säkerhetsexperten Mark Jackson Mythos och liknande modeller som ett paradigmskifte.
”Den här tekniken sänker kompetenströskeln dramatiskt. Det gör att lycksökare kan skala upp attacker som tidigare var helt utom räckhåll för dem”, skriver han via mejl.
Efter 90 dagar ska Anthropic rapportera om resultaten. På ett par månader har 23 000 sårbarheter hittills hittats, varav 6 200 allvarliga eller kritiska, enligt ett delresultat.
”Det råder ingen tvekan om att läget är akut. Vi räknar med att de här förmågorna blir utbredda i takt med att AI-tekniken utvecklas och de som ska skydda måste se över sina miljöer omedelbart”, skriver Jackson.
Inte skäl till oro
Gerald Mako pekar ut banker, tillverkning, logistik, vård, försäljning och myndigheter som sårbara. Vanliga individer bör ta oron med måtta.
– Det är inte apokalypsen, men doften av napalm finns i luften eftersom riktningen är tydlig och AI-utvecklingen kommer inte plötsligt att stanna.
Sverker Janson leder forskningsinstitutet Rises AI-centrum. Inte heller han tycker att gemene man ska känna oro, eftersom Mythos nu används för att täppa till säkerhetshål.
– Tvärtom, jag känner mig glad att vi får bättre verktyg att hitta de här problemen. För annars var det ju öppna mål som vanliga människor hade kunnat hitta också, om de gav sig tusan på det. Det är ju inget magiskt.
