Model AI mengirimkan tip palsu tentang pembunuhan yang belum terpecahkan

Minggu lalu, perwakilan dari Anthropic bertemu dengan perwakilan dari kepolisian di Philadelphia. Pertemuan ini terjadi setelah salah satu model AI perusahaan tersebut mengirimkan tip palsu mengenai pembunuhan yang belum terpecahkan di kota Amerika. Tip tersebut dikirim melalui formulir di sebuah situs yang fokus pada pembunuhan yang belum terpecahkan, tetapi beruntungnya, tip tersebut masuk ke dalam filter sampah.

Baru pada tanggal 28 September, Anthropic menyadari insiden ini, dan kepolisian baru diberitahu tentang kasus tersebut pada tanggal 7 Oktober. Kepolisian menyatakan bahwa perusahaan harus memperkuat langkah-langkah perlindungan untuk mencegah insiden serupa mempengaruhi sistem kota tanpa sepengetahuan kota.