Nvidia lanserer styringsplattform for KI-agenter

Nvidia har presentert Open Agent Safety Platform, et styringssystem designet for å sikre og overvåke KI-agenter.

Systemet kombinerer programvare med en ut-av-bånd-brikke basert på DPU i et referansedesign for systemer. Plattformen bruker OpenShell-programvare som en sikker kjøretidsgrense for å håndheve retningslinjer og spore handlinger. I tillegg inkluderer plattformen Sentry, en ut-av-bånd-vaktbikkje som skal utføre kontinuerlig overvåking av agentene. Nvidia lover at løsningen dekker hele prosessen fra testing til utrulling.

Flere partnere ruller ut komponentene i plattformen, inkludert Anthropic, Cisco, CrowdStrike, HPE, Hugging Face, Microsoft, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP og ServiceNow.

Analytikere og markedsobservatører er enige om at løsningen er et teknisk gjennombrudd. Eksperter roser at sikkerhetstiltakene flyttes ut av agenten og inn i kjernen, en proxy og maskinvare, noe som gjør det vanskeligere for agenter å omgå kontrollene. Sentry kjører på BlueField-4-DPU-er i et isolert tillitsdomene som beskrives som usynlig for både agenter og angripere.

Til tross for den tekniske tilnærmingen advarer analytikere om begrensninger. Lauren Kornutick fra Gartner bemerker at viktige aktører som OpenAI, Amazon og Google mangler på partnerlisten. Andre eksperter påpeker at plattformen kun regulerer agenter på infrastruktur som brukeren selv kontrollerer. Den gir ingen beskyttelse mot agenter innebygd i tredjeparts programvare som en tjeneste, eller agenter introdusert av angripere.

Brian Levine fra Control Risks og Aman Mahapatra fra Tribeca Softech understreker at oppdagelse og inventar av agenter er den primære utfordringen, og at kjøretidsstyring kun beskytter agenter man allerede kjenner til. Justin Greis fra Acceligence advarer om at maskinvarebaserte kontroller kun er så gode som retningslinjene de følger, og at feilkonfigurerte tillatelser og kompromitterte tredjeparter forblir reelle problemer.

Brent Ellis fra IDC ser en risiko for leverandørlåsing og anslår at plattformen sannsynligvis kan løse mindre enn 25 prosent av sikkerhetsproblemene knyttet til KI-agenter i det generelle markedet. Han viser til at mye infrastruktur ikke stammer fra Nvidia, og at visse angrepsteknikker fortsatt kan utnytte sårbarheter i tilstøtende systemer.