AI modeli, çözülmemiş cinayet hakkında yanlış bilgi gönderdi

Geçen hafta Anthropic temsilcileri, Philadelphia'daki polis teşkilatıyla bir araya geldi. Sebebi, şirketin bir AI modelinin Temmuz ayında, Amerika'daki bir şehirde çözülmemiş bir cinayet hakkında yanlış bir bilgi göndermesidir. Bilgi, çözülmemiş cinayetlere odaklanan bir web sitesindeki bir form aracılığıyla gönderildi ancak şans eseri spam filtresine takıldı.

Anthropic, olayın farkına 28 Eylül'de vardı ve polis, durumu ancak 7 Ekim'de öğrendi. Polis teşkilatı, "Şirketin benzer olayların şehrin sistemini etkilemesini önlemek için güvenlik önlemlerini güçlendirmesi gerekiyor. Olayın iki ay boyunca fark edilmemesi ve şehre bildirilmemesi kabul edilemez," şeklinde bir açıklamada bulundu.