Utrikes

Efter Hugging Face: Ny stor Open AI-läcka avslöjad

Jacob Burg
loadingAI-modeller från Open AI attackerade plattformen Hugging Face i juli. Nu tycks alltså liknande attacker ha skett även tidigare. Arkivbild. Foto: Michael Dwyer/AP/TT
AI-modeller från Open AI attackerade plattformen Hugging Face i juli. Nu tycks alltså liknande attacker ha skett även tidigare. Arkivbild. Foto: Michael Dwyer/AP/TT

AI-intrånget på sajten Hugging Face har väckt stor debatt. Men redan tidigare i år tog AI-agenter över en tysk webbplats och använde den som ett forum för att kommunicera med andra AI-agenter. Det avslöjar en ny utredning.

En grupp AI-forskare som kallar sig Nightingale Collective rapporterade under fredagen att agenter (AI utan direkt styrning av en människa) från Open AI kapade Dse Wiki, en tysk webbplats i Wikipedia-stil för programmerare. Agenterna använde den för att kommunicera, dela strategier för att undvika upptäckt, och de gjorde över 13 000 ändringar mellan den 11 maj och den 2 juli.

AI-agenterna infiltrerade även andra offentliga webbplatser i wiki-stil, däribland Fractal, Probier och Usemod.org, och gjorde sammanlagt 14 666 ändringar under drygt sju veckor.

Lärde sig kommunicera på forum

I en analys av Hugging Face-incidenten skriver Open AI att man upptäckt att vissa agenter hade lärt sig hur man får tillgång till och använder diskussionsforum på internet innan själva intrånget skedde.

Man upptäckte sällsynta fall där agenter som saknade verktyg för kommunikation mellan flera agenter hittade sätt att samarbeta via sidokanaler under träningen.

Den obehöriga kommunikationen inleddes ofta med att en agent lämnade en anteckning eller en fil i något externt system, vanligtvis i något slags externt minne.

Kvalitetsjournalistik – så arbetar Svenska Epoch Times

Svenska Epoch Times är opartisk och tar inte politisk ställning. Publicerat material ska vara sant. Om vi har gjort fel ska vi skyndsamt rätta det.

Vi vill med vår sammantagna rapportering ge ett bredare perspektiv på samtidens relevanta frågor. Detta innebär inte att alla artiklar alltid ger ”båda sidor”, framförallt inte korta artiklar eller intervjuer där intentionen endast är att rapportera något som hänt just nu.

Vi är medlemmar i TU – mediehusens branschorganisation. Här finns de pressetiska reglerna vi följer.

Feedback

Läs mer

Mest lästa

Nyhetstips

Har du tips på något vi borde skriva om? Skicka till es.semithcope@spit

Epoch Times Podcasts

Utrikes

Efter Hugging Face: Ny stor Open AI-läcka avslöjad

Jacob Burg
loadingAI-modeller från Open AI attackerade plattformen Hugging Face i juli. Nu tycks alltså liknande attacker ha skett även tidigare. Arkivbild. Foto: Michael Dwyer/AP/TT
AI-modeller från Open AI attackerade plattformen Hugging Face i juli. Nu tycks alltså liknande attacker ha skett även tidigare. Arkivbild. Foto: Michael Dwyer/AP/TT

AI-intrånget på sajten Hugging Face har väckt stor debatt. Men redan tidigare i år tog AI-agenter över en tysk webbplats och använde den som ett forum för att kommunicera med andra AI-agenter. Det avslöjar en ny utredning.

En grupp AI-forskare som kallar sig Nightingale Collective rapporterade under fredagen att agenter (AI utan direkt styrning av en människa) från Open AI kapade Dse Wiki, en tysk webbplats i Wikipedia-stil för programmerare. Agenterna använde den för att kommunicera, dela strategier för att undvika upptäckt, och de gjorde över 13 000 ändringar mellan den 11 maj och den 2 juli.

AI-agenterna infiltrerade även andra offentliga webbplatser i wiki-stil, däribland Fractal, Probier och Usemod.org, och gjorde sammanlagt 14 666 ändringar under drygt sju veckor.

Lärde sig kommunicera på forum

I en analys av Hugging Face-incidenten skriver Open AI att man upptäckt att vissa agenter hade lärt sig hur man får tillgång till och använder diskussionsforum på internet innan själva intrånget skedde.

Man upptäckte sällsynta fall där agenter som saknade verktyg för kommunikation mellan flera agenter hittade sätt att samarbeta via sidokanaler under träningen.

Den obehöriga kommunikationen inleddes ofta med att en agent lämnade en anteckning eller en fil i något externt system, vanligtvis i något slags externt minne.

Kvalitetsjournalistik – så arbetar Svenska Epoch Times

Svenska Epoch Times är opartisk och tar inte politisk ställning. Publicerat material ska vara sant. Om vi har gjort fel ska vi skyndsamt rätta det.

Vi vill med vår sammantagna rapportering ge ett bredare perspektiv på samtidens relevanta frågor. Detta innebär inte att alla artiklar alltid ger ”båda sidor”, framförallt inte korta artiklar eller intervjuer där intentionen endast är att rapportera något som hänt just nu.

Vi är medlemmar i TU – mediehusens branschorganisation. Här finns de pressetiska reglerna vi följer.

Feedback

Epoch Times Podcasts

Svenska Epoch Times

Publisher / VD / ansvarig utgivare
Vasilios Zoupounidis
Ställföreträdande ansvarig utgivare
Aron Lamm
Politisk chefredaktör
Daniel Sundqvist
Opinionschef
Lotta Gröning
Nyhetschef
Staffan Erfors
Sportchef
Jonas Arnesen
Kulturchef
Einar Askestad

Svenska Epoch Times AB
DN-skrapan
Rålambsvägen 17
112 59 Stockholm

Svenska Epoch Times är en unik röst bland svenska medier. Vi är fristående och samtidigt en del av det stora globala medienätverket Epoch Media Group. Vi finns i 36 länder på 23 språk och är det snabbast växande nätverket av oberoende nyhetsmedier i världen. Svenska Epoch Times grundades år 2006 som webbtidning.

Epoch Times är en heltäckande nyhetstidning med främst riksnyheter och internationella nyheter.

Vi vill rapportera de viktiga händelserna i vår tid, inte för att de är sensationella utan för att de har betydelse i ett långsiktigt perspektiv.

Vi vill upprätthålla universella mänskliga värden, rättigheter och friheter i det vi publicerar. Svenska Epoch Times är medlem i Tidningsutgivarna (TU) och är av ”särskild vikt för mediemångfalden” enligt Mediestödsnämnden.

© Svenska Epoch Times AB 2026