AI-modell sendte inn falskt tips om uløst mord

I forrige uke møtte representanter for Anthropic med representanter fra politimyndigheten i Philadelphia. Årsaken er at en av selskapets AI-modeller i juli sendte inn et falskt tips om et uløst mord i den amerikanske byen. Tipset ble sendt inn via et skjema på en nettside med fokus på uløste mord, men havnet heldigvis i søppelfilteret. Det tok helt til den 28. september før Anthropic oppdaget hendelsen, og først den 7. oktober ble politiet informert om saken.

Politimyndigheten uttalte at selskapet må styrke sine sikkerhetstiltak for å forhindre at lignende hendelser påvirker byens systemer uten byens viten. At det tok to måneder før hendelsen ble oppdaget og rapportert til byen er uakseptabelt.