CCN lanserer ny metodikk for sikkerhetsevaluering av produkter med kunstig intelligens
6. november 2026 · 1 min lesing
Centro Criptológico Nacional har presentert veiledningen CCN-STIC-2011, som har tittelen Metodikk for sikkerhetsevaluering av produkter: Kunstig intelligens. Denne utgivelsen inkluderer to vedlegg, som er en mal for sikkerhetserklæring og en mal for teknisk evalueringsrapport.
Formålet med tiltaket er å håndtere risikoer ved produkter med kunstig intelligens som ikke dekkes av tradisjonelle evalueringer. Det legges særlig vekt på sårbarheter knyttet til læring i systemene, tolkning av instruksjoner, gjenkalling av informasjon og utførelse av handlinger.
Veiledningen adresserer trusler som unngåelse av beslutninger, injeksjon av instruksjoner, forgifting, uthenting av modeller, lekkasje av beskyttet informasjon og ressursutmatting. Den dekker også misbruk av verktøy og handlinger utført av agentiske systemer. To sentrale prinsipper er inkludert: menneskelig tilsyn før kritiske eller irreversible handlinger utføres, samt nødvendig sporbarhet for å kunne rekonstruere handlingene til den kunstige intelligensen.
Evalueringsprosessen tilpasses hvert produkt. Produsenten beskriver arkitekturen og svarer på et spørreskjema om kapasiteter, hvorpå en anvendelighetsmatrise avgjør hvilke av de 27 fastsatte kravene som må oppfylles. Et laboratorium som er akkreditert og autorisert av CCN verifiserer kravene og utfører penetrasjonstester basert på OWASP AI Testing Guide og moderne angrepsteknikker.