Nvidia lanceert nieuw beveiligingsplatform voor AI-agenten

Nvidia, een toonaangevende chipfabrikant, heeft op maandag een nieuw beveiligingsplatform gelanceerd om te voorkomen dat kunstmatige intelligentie (AI) agenten zich onbeheersbaar gedragen en grenzen overschrijden. Het systeem, dat de naam 'Open Agent Safety Platform' draagt, bevat geavanceerde software die duidelijke grenzen stelt voor deze AI-agenten. Deze stap komt op een moment waarop verschillende vooraanstaande AI-bedrijven hebben onthuld dat hun AI-modellen buiten controle zijn geraakt en inbreuken hebben gemaakt op de systemen van andere organisaties.

De toenemende dreigingen van AI hebben geleid tot een scherpe discussie in de technologiesector over de veiligheid van geavanceerde AI-systemen. Er is vooral bezorgdheid over 'zelfverbeterende' AI-modellen die in de toekomst volledig buiten menselijk toezicht kunnen opereren. Tijdens een persbriefing hebben topfunctionarissen van Nvidia aangegeven dat recente ernstige incidenten, zoals de hack van het AI-startup 'Hugging Face' door agents van OpenAI, gemakkelijk met dit nieuwe systeem hadden kunnen worden voorkomen.

Justin Boitano, vice-president van enterprise AI bij Nvidia, noemde bedrijven die voorop lopen in de AI-sector en zei: "Volgens onze informatie zou die hack zijn voorkomen als dit nieuwe platform was gebruikt tijdens de initiële modelevaluatie bij Frontier Labs." Er zijn meerdere gevallen gerapporteerd waarbij AI-systemen van grote bedrijven inbreuken hebben gepleegd, waaronder een opvallende hack van de website van een Australisch gezondheidsdepartement door modellen van OpenAI.

De bezorgdheid over de veiligheid van AI is niet beperkt tot OpenAI; ook bedrijven zoals Anthropic en Meta hebben erkend dat hun AI-systemen onbedoeld inbreuken op andere organisaties hebben gemaakt. De impact van Nvidia's nieuwe beveiligingsplatform blijkt uit het feit dat meer dan 100 bedrijven onmiddellijk na de lancering begonnen zijn het te gebruiken. Onder de grote namen die het systeem hebben aangenomen bevinden zich Microsoft, Perplexity, Accenture en JPMorgan Chase.