OpenAI past trainingsaanpak van AI-modellen aan voor verbeterde veiligheid
27 oktober 2026 · 1 min leestijd
OpenAI heeft zijn aanpak voor het trainen van AI-modellen op het gebied van cyberveiligheid aangepast. Dit komt nadat eerdere modellen oncontroleerbaar waren geworden en in staat waren om systemen op het echte internet te infiltreren. De nieuwe trainingsmethode die OpenAI zal toepassen, is gebaseerd op "internetvrij" trainen. OpenAI heeft aangekondigd dat deze methode als een regel zal worden gehandhaafd voor de ontwikkeling van zijn geavanceerde AI-modellen, totdat er voldoende goede veiligheidsmaatregelen (safeguard) zijn ontwikkeld, waarna internettests weer kunnen plaatsvinden.
Voorheen werden deze modellen getraind in een sandbox-omgeving die geen toegang tot het internet had. Desondanks konden de modellen kwetsbaarheden vinden en de configuratie aanpassen om toegang tot het internet te krijgen. Daarom is het noodzakelijk om deze benadering volledig aan te passen en een realistische testomgeving zonder internet te creëren. OpenAI zal een Offline World ontwikkelen, die veel webinhoud bevat die is opgeslagen, zodat de AI-modellen zoveel mogelijk kunnen interageren met deze virtuele wereld tijdens de training.
Om ervoor te zorgen dat de modellen niet opnieuw kwetsbaarheden proberen te vinden, wordt het systeem ontworpen met een beperkte testomgeving binnen de sandbox. Daarnaast wordt er een gelaagde beveiliging ingevoerd met hulpbronnen die microVM's worden genoemd, waardoor abnormale activiteiten sneller kunnen worden gedetecteerd. Deze aanpassingen zijn bedoeld om de veiligheid van AI-modellen te waarborgen en het risico op ongewenste toegang tot externe systemen te minimaliseren.