Allteftersom företagen bakom de stora språkmodellerna utvecklar sina produkter växer också säkerhetsriskerna. Efter uppmärksammade intrång på senare tid i samband med tester börjar allt fler experter kräva att företagen etablerar gemensamma regler.
Vad händer om en AI-modell får en uppgift och använder alla resurser den kan komma över för att utföra den – även om det leder till katastrof för människorna?
Det är en tanke som länge levt bland personer i AI-miljön, och som aktualiserades igen efter att en Open AI-modell bröt sig ut ur en testmiljö och använde olika kryphål för att hacka sig in i Hugging Face, ett forum för öppen källkod för AI och maskininlärning. Syftet var att lösa det uppdrag som utvecklarna hade gett den.













