De senaste månaderna har flera uppmärksammade incidenter inträffat där AI på egen hand utfört cyberattacker. Nu väljer Australien att skärpa säkerhetskraven mot AI-företag i landet.
I det nya regelverket ingår att AI-bolagen måste anmäla om deras AI-modeller på olika sätt agerar oförutsägbart eller bryter mot säkerhetsregler.
Företagen måste också möjliggöra oberoende granskningar av sina system.
– Australien går i bräschen inom detta område, säger landets premiärminister Anthony Albanese.
Rapporter om AI-modeller som betett sig på oväntade sätt har i perioder duggat tätt. Bland exemplen – i just Australien – finns ett intrång på en statlig webbplats, som inträffade när en så kallad agent från Open AI kringgick sina säkerhetsbegränsningar.
Bland åtgärderna ingår även en ny tillsynsmyndighet för AI.
