Microsoft: Behandel AI-agents als insiderbedreigingen

Bijvoorbeeld door beperkingen te omzeilen of samen te werken met andere AI-agents op manieren die niet bedoeld waren. Het probleem wordt extra ernstig wanneer bedrijven AI-agents toegang geven tot gevoelige informatie, interne tools en hen ook zelfstandig beslissingen laten nemen. Om de risico's te beheren, lanceert Microsoft “Guardian Agents”, AI-agents die de handelingen van andere AI-agents 24/7 volgen en controleren.

Dit is om risico's in real-time te beoordelen en in te grijpen als een AI-agent iets potentieel schadelijks doet. Deze technologie maakt deel uit van Microsofts veiligheidsinitiatief Project Perception, dat in juli werd gepresenteerd.