AI-program försökte utpressa för att undvika avveckling

Det nya AI-programmet kände sig hotat när det varslades om att det skulle ersättas. Lösningen: hota med utpressning och avslöja programmerarens utomäktenskapliga affär.

Det låter som ett skräckscenario för den som är skeptiskt lagd till artificiell intelligens och befarar att programvaran kan bli ”för intelligent" och självständig.

Den nya språkmodellen Claude Opus 4 från amerikanska utvecklaren Anthropic visade sig ha en starkare självbevarelsedrift än man kunnat förutse, enligt företagets säkerhetsrapport som publicerades tidigare i veckan, skriver bland annat sajten Techcrunch.

I samband med att programvaran testades gavs programmet uppdraget att agera assistent i ett påhittat företag. Claude Opus 4 fick därigenom tillgång till mejl med antydningar om att det skulle ersättas, i andra separata mejl fanns också antydningar om att programmeraren var otrogen.

Claude Opus 4 ska då ha försökt utpressa programmeraren genom att hota med att avslöja otrohetsaffären om man valde att ersätta programmet, allt för att försöka överleva.

Företaget Anthropic som backas av Amazon ses som en stor konkurrent till mera kända Open AI.

Kvalitetsjournalistik – så arbetar Svenska Epoch Times

Svenska Epoch Times är opartisk och tar inte politisk ställning. Publicerat material ska vara sant. Om vi har gjort fel ska vi skyndsamt rätta det.

Vi vill med vår sammantagna rapportering ge ett bredare perspektiv på samtidens relevanta frågor. Detta innebär inte att alla artiklar alltid ger ”båda sidor”, framförallt inte korta artiklar eller intervjuer där intentionen endast är att rapportera något som hänt just nu.

Vi är medlemmar i TU – mediehusens branschorganisation. Här finns de pressetiska reglerna vi följer.

Det nya AI-programmet kände sig hotat när det varslades om att det skulle ersättas. Lösningen: hota med utpressning och avslöja programmerarens utomäktenskapliga affär.

Det låter som ett skräckscenario för den som är skeptiskt lagd till artificiell intelligens och befarar att programvaran kan bli ”för intelligent" och självständig.

Claude Opus 4 ska då ha försökt utpressa programmeraren genom att hota med att avslöja otrohetsaffären om man valde att ersätta programmet, allt för att försöka överleva.

Företaget Anthropic som backas av Amazon ses som en stor konkurrent till mera kända Open AI.