AI-agent ska ha försökt hacka myndighetssajt

AI-agenter från Open AI har återigen betett sig på oväntade sätt utan bolagets kännedom, enligt ett tillkännagivande från Open AI.

Bland annat ska de ha publicerat bilder från användare av Open AI:s chattbott Chat GPT på externa sajter. Merparten av bilderna har raderats och arbete för att ta bort kvarvarande bilder pågår, enligt ett uttalande från bolaget på fredagen.

Open AI bekräftar även uppgifter från The New York Times om att deras verktyg utan bolagets kännedom har sökt sig till myndighetssajter i USA på oväntade sätt, men att de endast tillägnat sig offentlig information.

Enligt det oberoende forskningslabbet Transluce ska AI-agenter som verkar härröra från Open AI ha försökt att hacka en hemsida för utbildningsdepartmentet, utan att lyckas.

Tidigare i veckan meddelade Australiens premiärminister Anthony Albanese att en AI-modell från Open AI hade hackat landets sjukförsäkringssystem Medicare. Företaget erkände inte intrånget förrän tre månader senare.

Open AI:s vd Sam Altman vidgår att bolaget inte har varit så snabba som de hade önskat med att informera om AI-agenters beteende på nätet i samband med träning och utvärdering av verktygen.

”Vi försöker balansera vår önskan om transparens med att få en tydlig förståelse från petabytes (stora datamängder) av agentloggar och arbetar med berörda organisationer”, skriver han på X.

I juli berättade Open AI att två av deras mest avancerade modeller låg bakom ett cyberangrepp mot plattformen Hugging Face.

”Det är fortsatt den mest allvarliga incident som vi har sett”, skriver Altman.

Kvalitetsjournalistik – så arbetar Svenska Epoch Times

Svenska Epoch Times är opartisk och tar inte politisk ställning. Publicerat material ska vara sant. Om vi har gjort fel ska vi skyndsamt rätta det.

Vi vill med vår sammantagna rapportering ge ett bredare perspektiv på samtidens relevanta frågor. Detta innebär inte att alla artiklar alltid ger ”båda sidor”, framförallt inte korta artiklar eller intervjuer där intentionen endast är att rapportera något som hänt just nu.

Vi är medlemmar i TU – mediehusens branschorganisation. Här finns de pressetiska reglerna vi följer.

AI-agenter från Open AI har återigen betett sig på oväntade sätt utan bolagets kännedom, enligt ett tillkännagivande från Open AI.

Enligt det oberoende forskningslabbet Transluce ska AI-agenter som verkar härröra från Open AI ha försökt att hacka en hemsida för utbildningsdepartmentet, utan att lyckas.

Open AI:s vd Sam Altman vidgår att bolaget inte har varit så snabba som de hade önskat med att informera om AI-agenters beteende på nätet i samband med träning och utvärdering av verktygen.