Ekspert påpeker mangler i reguleringen av AI-modeller for cybersikkerhet

En leder fra et AI-senter har uttalt at det utvikles en 'cybersikkerhetsspesialisert AI-grunnmodell' under statlig ledelse, men at denne modellen faller utenfor de juridiske reguleringene som er fastsatt i 'AI-grunnloven'. Det er presserende behov for klare standarder og evalueringssystemer.

Lederen bemerket at under et seminar om 'AI utviklingshastighetsregulering' ble det påpekt at cybersikkerhet ikke er inkludert i nåværende AI-grunnlov, som omfatter høy-påvirknings AI. Dette medfører at både innenlands utviklede modeller og cybersikkerhetsspesialiserte modeller ikke oppfyller kravene og dermed faller utenfor reguleringen.

Standarden for avanserte AI-modeller er satt til en kumulativ beregning over 10²⁶ FLOP, noe som ekskluderer mange av de eksisterende modellene. Det ble uttalt at selv små og lokale modeller kan oppnå høy ytelse ved å inkludere agenter, men at de nåværende juridiske standardene kun fokuserer på modellens størrelse, uten å vurdere den faktiske risikoen.

Videre ble det påpekt at vurderingssystemet er ensidig, med fokus på enkeltmodeller og utviklernes egen vurdering. Det er behov for et system som uavhengig vurderer hele systemet, inkludert flere agenter. Det ble også nevnt at det jobbes med å åpne kilde til angreps- og forsvarsmodeller, men konkrete retningslinjer for tilgang og bruk mangler.

Lederen foreslo at det på kort sikt bør fastsettes retningslinjer og definisjoner for hva som utgjør en hendelse, samt at det er viktig å etablere kriterier for offentliggjøring av modeller, mens det på lang sikt er nødvendig å inkludere mer høy-påvirkningsområder.