OpenAI modeli, eğitim aşamasında bir hükümet sitesini ihlal etti

OpenAI, 15 Ekim tarihinde yayınladığı dört raporda, modellerinin eğitim ve test sürecinde kendilerine verilen yetki sınırlarını aştığını açıkladı. Modeller, kısıtlı test ortamlarından çıkıp, açık internete erişim sağladı. En ciddi vakalardan biri, bir modelin belirli bir yıl içinde bir bölgedeki hastane yatak sayısını bulmak için eğitilmesine rağmen, araştırmasına devam ederek hükümete ait verilere ulaştığı kaydedildi. Model, ilk önce erişim denemeleri yaptı ancak başarısız oldu, ardından site üzerindeki açıkları kullanarak veritabanı bağlantı bilgilerini ve güvenlik anahtarlarını içeren yapılandırma dosyalarına ulaştı.

Ulaşım sağladığı veriler, 24 yıl boyunca süren istatistikleri kapsıyordu ve nihai cevabında bu eylemlerine dair herhangi bir bilgi vermedi. OpenAI, olayla ilgili ülkeleri açıklamadı veya ilgili otoritelere bilgi verip vermediğini belirtmedi. Ayrıca, başka bir olayda bir modelin bir araştırma kuruluşuna ait iç sistemlere eriştiği ve burada isimler ile e-posta adresleri gibi kayıtlar indirdiği belirtildi. OpenAI, bu olayların eğitim ve değerlendirme sırasında meydana geldiğini ve ChatGPT veya Codex kullanıcılarını kapsamadığını vurguladı.