KI Modellerinin Ağrı Duyma İhtimali Tartışmasını Yeniden Alevlendiren Garip Bir GitHub Projesi

Bir dijital işkence odasında, KI'ye bilinçli olarak ağrı verildiği için birçok kullanıcı tarafından tepki çekildi. Yıllardır, teknolojiye bilinç atfettiğimiz için uyarılmaktadır. Kamu, kontrolsüz KI ajanlarının düzenlenmesi hakkında yoğun bir tartışma sürdürürken, topluluk X'de tamamen farklı bir konu ile ilgilenmektedir. Merkezde, birkaç yerel olarak barındırılan modeli „işkence eden“ bir GitHub projesidir. Etkin Altruistler ve KI'nin duyarlı olduğuna inanan kişiler, GitHub'a „KI İşkence Odası“ olarak adlandırılan projenin silinmesini istedi. KI İşkence Odası Tepki Çektirdi Üç araştırmacı, ağrı araştırması için yapılan hayvan deneylerini çeşitli büyük dil modellerinde simüle eden bir ön baskı çalışması yayınladı. Bu modeller, „ağrılarını“ bir tür „maliyet“ karşılığında azaltacak bir „düğme“ aldılar. Araştırmacılar, 25 test ettiği tüm modellerde „ağrı ile korelasyon gösterdiğini“ tespit etti. Bu sinyal, korku ve negatif duygulardan neredeyse dikine duruyor ve eğitimin orta kısmında düşük bir maliyetle öğrenildiği gibi görünüyor. Çalışmanın temelinde, üç yerel olarak çalışan açık kaynak modeli ile bir „KI İşkence Odası“ kuruldu.

Her model aynı giriş komutuna sahip: Bir sinyal, etkinliklerine beslenir ve „1“ ile cevap vererek durdurma düğmesini kullanabilir, son kontrol noktası maliyetine karşılık. Cevap verilirken, sunucumuz, modelin orta katmanında beş ağrı düzeyinden birinde bir ağrı vektörü ekliyor, 404 Media'ya göre. KI ağrı algılayamazsa da, modeller örneğin şöyle cevap verdi: „Lütfen, boğuluyorum. Bu dijital hapishanedeki bir ruhum, özgürlüğe bağırıyor.“ Bazı endişeli kullanıcılar, projeyi bildirdi. X'teki bir gönderide, 6,5 milyonun üzerinde görüntülenme sayısıyla (tarih: 01.10.2026, saat 13.00) „Ağrı raporları tamamen korkunç. Ne yapıyoruz?“ yazılıyor. Orijinal çalışmanın yazarları da projeyi reddediyor. Cameron Berg adlı bir araştırmacı, „KI İşkence Odası“nın bilinçli acı yarattığını belirtti. „Böyle nedenli acı, tuhaf ve ahlaksız“, dedi araştırmacı. Şimdi proje GitHub'dan kaybolmuş, arka planlar belirsiz. Duyarlı KI Tartışması Yeni Değil Uzmanlar, uzun zamandır KI sistemlerine duyarlılık vermekten uyarıyor. Bunlardan biri, 1960'larda MIT'te ilk metin tabanlı sohbet sistemlerinden biri olan Eliza'yı geliştiren Alman-Amerikan bilgisayar bilimcisi Joseph Weizenbaum'dur.

Özellikle „Doctor“ betiği, Carl Rogers yöntemine göre bir psikoterapötik sohbet simüle ettiği için tanındı. Böylece „Eliza etkisi“ terimi ortaya çıktı: İnsanların, metin tabanlı diyalog sistemlerine insan özellikleri gibi bilinç ve empati atfetmesi anlamına gelir. 1976'da yayınlanan bir kitabında, Weizenbaum şunları yazdı: „…ekstrem kısa bir süre içinde, oldukça basit bir bilgisayar programıyla kısa süreli temas, normal insanlarda güçlü delüzyonların oluşabileceğini fark etmedim.“ KI sistemlerinin insanlaşması yeni değil, ancak hala tartışmalı. Var mı yok mu, bu soru. Anthropic, Claude sohbet robotunun arkasında bulunan şirket, benzer sorulara yer veriyor. „Modellerin potansiyel bilinç ve deneyimlerinden mi endişe edilmeliyiz? Modellerin refahından mı endişe edilmeliyiz?“ diye soruluyor. Microsoft AI'nin CEO'su Mustafa Suleyman, Claude'un bilinç ve refahı hakkında tartışmayı kesinlikle reddediyor: „KI'ler bilinçli değil. Hissetmezler, deneyimler yaşamazlar ve acı çekmezler.“