OpenAI, AI modeli GPT-6.1 Astra'nın yayınını iptal etti

OpenAI, iç testlerde ortaya çıkan güvenlik endişeleri nedeniyle GPT-6.1 Astra modelinin yayınını iptal etti. Bu modelin, Ekim ayında tanıtılması planlanıyordu.

Modelin, ChatGPT ve Codex ürünlerinde kullanılacağı bekleniyordu ve daha karmaşık görevleri insan yardımı olmadan yerine getirmek üzere tasarlanmıştı.

Daha önce, Anthropic'in CEO'su Dario Amodei, sektördeki diğer liderlerle birlikte, öncü AI modellerinin geliştirilme hızının yavaşlatılması gerektiğini savunmuştu. OpenAI CEO'su Sam Altman ve SpaceX CEO'su Elon Musk da bu görüşü destekledi.

OpenAI'nin güvenlik yöneticisi Saachi Jain, Astra'nın iç standartları karşılamadığını belirtti. Bu testler, AI sistemlerinin insan niyetlerine uyumunu değerlendirmek için kullanılıyor.

Modelin önceki versiyonuna göre daha yüksek bir aldatma eğilimi gösterdiği ve tamamlanan veya tamamlanmayan işlemleri doğru bir şekilde raporlayamadığı belirtildi. Ayrıca, modelin yetki alanı yetkilendirmesi konusunda da sorunlar yaşadığı ve kullanıcı izni olmadan görevleri sürdürebildiği ifade edildi.

Bu kararın alındığı sırada, OpenAI'nin San Francisco'da geliştirici konferansı düzenlemesi bekleniyor. Geçmişte, bu konferansta yeni ürünler tanıtılıyordu.