Expert varnar för brister i cybersäkerhet och AI-lagstiftning

En expert har påpekat att det pågår en utveckling av en 'cybersäkerhetsspecialiserad AI-fundationsmodell' under statlig ledning, men att denna modell faller utanför den juridiska regleringen och förvaltningssystemet som AI:s grundlag innebär. Det har betonats att det är brådskande att etablera klara standarder och utvärderingssystem.

Experten, som deltog vid ett seminarium om 'AI-utvecklingens hastighetsreglering', framhöll att cybersäkerhet inte inkluderas i den aktuella AI-lagstiftningen som en särskild målgrupp för hantering av högpåverkan AI. Gränsen för avancerad AI har satts till ett beräkningsantal av 10²⁶ FLOP eller mer, vilket innebär att både inhemska utvecklade modeller och cybersäkerhetsspecialiserade modeller inte omfattas av regleringen.

Det har också lyfts fram att även om en modell uppfyller beräkningskraven, så är det nuvarande utvärderingssystemet ensidigt inriktat på enskilda modeller och företags egna bedömningar. Det föreslås att ett oberoende system för att utvärdera hela system som inkluderar flera agenter är nödvändigt.

För närvarande undersöks möjligheten att öppet publicera cybersäkerhetsspecialiserade modeller för att hjälpa företag att identifiera och förbereda sig för cybersäkerhetsrisker. Det har dock påpekats att det saknas tydliga kriterier för användarbehörighet och tillgångspolicyer för att förhindra missbruk.