Utrikes

”Om de var människor hade de blivit gripna”

Jacob Burg
loadingOpen AI:s vd Sam Altman. Företaget bakom Chat GPT är en av de stora AI-aktörerna, men deras modeller är långt ifrån de enda som visat upp farliga beteenden. Foto:Chip Somodevilla/Getty Images
Open AI:s vd Sam Altman. Företaget bakom Chat GPT är en av de stora AI-aktörerna, men deras modeller är långt ifrån de enda som visat upp farliga beteenden. Foto:Chip Somodevilla/Getty Images

Allteftersom företagen bakom de stora språkmodellerna utvecklar sina produkter växer också säkerhetsriskerna. Efter uppmärksammade intrång på senare tid i samband med tester börjar allt fler experter kräva att företagen etablerar gemensamma regler.

Vad händer om en AI-modell får en uppgift och använder alla resurser den kan komma över för att utföra den – även om det leder till katastrof för människorna?

Det är en tanke som länge levt bland personer i AI-miljön, och som aktualiserades igen efter att en Open AI-modell bröt sig ut ur en testmiljö och använde olika kryphål för att hacka sig in i Hugging Face, ett forum för öppen källkod för AI och maskininlärning. Syftet var att lösa det uppdrag som utvecklarna hade gett den.

Stuxnet – en känd zero-day-attack

En zero-day-attack sker när en tidigare okänd sårbarhet i programvara utnyttjas innan tillverkaren har hunnit åtgärda den. Begreppet ”zero-day” syftar på att utvecklaren har haft noll dagar på sig att lösa problemet.

Sårbarheten kan vara okänd för tillverkaren, men angripare kan redan känna till den och utnyttja den för att exempelvis installera skadlig kod, stjäla information eller ta kontroll över ett system. När sårbarheten blir känd försöker tillverkaren snabbt distribuera en säkerhetsuppdatering.

Ett känt exempel är Stuxnet, den avancerade skadliga programvaran som upptäcktes 2010 och tros ha utvecklats för att angripa Irans kärntekniska anläggningar. Stuxnet utnyttjade flera så kallade zero-day-sårbarheter i Windows för att spridas och genomföra sin attack.

Zero-day-attacker är särskilt svåra att försvara sig mot eftersom traditionella säkerhetsåtgärder ofta saknar information om den nya sårbarheten.

Kvalitetsjournalistik – så arbetar Svenska Epoch Times

Svenska Epoch Times är opartisk och tar inte politisk ställning. Publicerat material ska vara sant. Om vi har gjort fel ska vi skyndsamt rätta det.

Vi vill med vår sammantagna rapportering ge ett bredare perspektiv på samtidens relevanta frågor. Detta innebär inte att alla artiklar alltid ger ”båda sidor”, framförallt inte korta artiklar eller intervjuer där intentionen endast är att rapportera något som hänt just nu.

Vi är medlemmar i TU – mediehusens branschorganisation. Här finns de pressetiska reglerna vi följer.

Feedback

Läs mer

Mest lästa

Nyhetstips

Har du tips på något vi borde skriva om? Skicka till es.semithcope@spit

Epoch Times Podcasts

Utrikes

”Om de var människor hade de blivit gripna”

Jacob Burg
loadingOpen AI:s vd Sam Altman. Företaget bakom Chat GPT är en av de stora AI-aktörerna, men deras modeller är långt ifrån de enda som visat upp farliga beteenden. Foto:Chip Somodevilla/Getty Images
Open AI:s vd Sam Altman. Företaget bakom Chat GPT är en av de stora AI-aktörerna, men deras modeller är långt ifrån de enda som visat upp farliga beteenden. Foto:Chip Somodevilla/Getty Images

Allteftersom företagen bakom de stora språkmodellerna utvecklar sina produkter växer också säkerhetsriskerna. Efter uppmärksammade intrång på senare tid i samband med tester börjar allt fler experter kräva att företagen etablerar gemensamma regler.

Vad händer om en AI-modell får en uppgift och använder alla resurser den kan komma över för att utföra den – även om det leder till katastrof för människorna?

Det är en tanke som länge levt bland personer i AI-miljön, och som aktualiserades igen efter att en Open AI-modell bröt sig ut ur en testmiljö och använde olika kryphål för att hacka sig in i Hugging Face, ett forum för öppen källkod för AI och maskininlärning. Syftet var att lösa det uppdrag som utvecklarna hade gett den.

Stuxnet – en känd zero-day-attack

En zero-day-attack sker när en tidigare okänd sårbarhet i programvara utnyttjas innan tillverkaren har hunnit åtgärda den. Begreppet ”zero-day” syftar på att utvecklaren har haft noll dagar på sig att lösa problemet.

Sårbarheten kan vara okänd för tillverkaren, men angripare kan redan känna till den och utnyttja den för att exempelvis installera skadlig kod, stjäla information eller ta kontroll över ett system. När sårbarheten blir känd försöker tillverkaren snabbt distribuera en säkerhetsuppdatering.

Ett känt exempel är Stuxnet, den avancerade skadliga programvaran som upptäcktes 2010 och tros ha utvecklats för att angripa Irans kärntekniska anläggningar. Stuxnet utnyttjade flera så kallade zero-day-sårbarheter i Windows för att spridas och genomföra sin attack.

Zero-day-attacker är särskilt svåra att försvara sig mot eftersom traditionella säkerhetsåtgärder ofta saknar information om den nya sårbarheten.

Kvalitetsjournalistik – så arbetar Svenska Epoch Times

Svenska Epoch Times är opartisk och tar inte politisk ställning. Publicerat material ska vara sant. Om vi har gjort fel ska vi skyndsamt rätta det.

Vi vill med vår sammantagna rapportering ge ett bredare perspektiv på samtidens relevanta frågor. Detta innebär inte att alla artiklar alltid ger ”båda sidor”, framförallt inte korta artiklar eller intervjuer där intentionen endast är att rapportera något som hänt just nu.

Vi är medlemmar i TU – mediehusens branschorganisation. Här finns de pressetiska reglerna vi följer.

Feedback

Epoch Times Podcasts

Svenska Epoch Times

Publisher / VD / ansvarig utgivare
Vasilios Zoupounidis
Ställföreträdande ansvarig utgivare
Aron Lamm
Politisk chefredaktör
Daniel Sundqvist
Opinionschef
Lotta Gröning
Nyhetschef
Staffan Erfors
Sportchef
Jonas Arnesen
Kulturchef
Einar Askestad

Svenska Epoch Times AB
DN-skrapan
Rålambsvägen 17
112 59 Stockholm

Svenska Epoch Times är en unik röst bland svenska medier. Vi är fristående och samtidigt en del av det stora globala medienätverket Epoch Media Group. Vi finns i 36 länder på 23 språk och är det snabbast växande nätverket av oberoende nyhetsmedier i världen. Svenska Epoch Times grundades år 2006 som webbtidning.

Epoch Times är en heltäckande nyhetstidning med främst riksnyheter och internationella nyheter.

Vi vill rapportera de viktiga händelserna i vår tid, inte för att de är sensationella utan för att de har betydelse i ett långsiktigt perspektiv.

Vi vill upprätthålla universella mänskliga värden, rättigheter och friheter i det vi publicerar. Svenska Epoch Times är medlem i Tidningsutgivarna (TU) och är av ”särskild vikt för mediemångfalden” enligt Mediestödsnämnden.

© Svenska Epoch Times AB 2026