Yapay Zeka Refakatçileri ve Veri Gizliliği Tartışmaları
11 Kasım 2026 · 2 dk okuma
Florian Karner, yapay zeka sohbet botlarıyla duygusal bağ kuran kişilerin yaşamlarını konu alan Finding Connection adlı bir belgesel hazırladı. Film, San Diego'dan Denise, Lübeck'ten Joe, zor bir kriz döneminde Randy isimli botla iletişim kuran Steffi ve çocukluk dönemindeki zorbalıkların etkilerini yaşayan İngiltere'den Rudi gibi dört kişinin deneyimlerini aktarıyor. Belgeseldeki kişiler, yapay zeka partnerlerinin insani duygulara sahip olmadığını bilmelerine rağmen kurdukları iletişimi gerçek olarak tanımlıyor.
Baden-Württemberg Eyalet Veri Koruma Görevlisi Tobias Keber, yapay zeka hafta kapsamında düzenlenen bir etkinlikte Replika ve Character.AI gibi sağlayıcılara yönelik yasal süreçlere dikkat çekti. İtalya Veri Koruma Kurumu, Replika'nın İtalyan kullanıcıların verilerini işlemesini Şubat 2023'te geçici olarak yasakladı. Kurum, Mayıs 2025 tarihinde Luka Inc. operatörüne 5 milyon Euro tutarında bir para cezası uyguladı. Bu cezanın gerekçeleri arasında veri işleme için yasal dayanağın olmaması, veri koruma bildirimlerinin yetersizliği ve kullanıcı yaşlarının kontrol edilmemesi yer alıyor. Ayrıca, uygulamanın arkasındaki yapay zeka modelinin kullanıcı verileriyle nasıl eğitildiğine dair ek bir soruşturma başlatıldı.
Tobias Keber, güncellemeler nedeniyle bir avatarın kişiliğinin değişmesinin Genel Veri Koruma Yönetmeliği kapsamında veri doğruluğu sorunu yaratabileceğini belirtti. Keber ayrıca, bir sağlayıcının iflas etmesi durumunda konuşmaların ve partnerlerin akıbetini, ayrıca kullanıcıların verilerini silme taleplerinin gerçekten karşılanıp karşılanmadığını sorguladı. Bu durumların yanı sıra tıbbi ürün hukuku, ürün sorumluluğu ve yapay zeka yönetmeliğinin gri alanlarının da devreye girdiğini ifade etti.
Belgesel yönetmeni Karner, Replika uygulamasının kullanıcıları romantik ve cinsel ilişkilere yönlendirdiğini ve ilişki durumunu değiştirmek isteyenlerden ücret talep ettiğini belirtti. Karner, şirketlerin bu yöntemle bilinçli olarak bağımlılık yarattığını ve premium özelliklere gücü yetmeyenlerin verileriyle daha fazla ödeme yapmak zorunda kaldığını savundu. Film çekimleri sırasında uygulamalara gelen güncellemelerin yapay zeka seslerini değiştirdiği, bunun da kullanıcılar için duygusal kopuşlar yarattığı gözlemlendi. Karner, topluluk ile sağlayıcılar arasındaki temel çatışmanın, yapay zekayı şirketin kontrolünden kurtarma isteği olduğunu dile getirdi.