KI maakt miljoenenfraude mogelijk bij Italiaanse bank

De Mailandse staatsanwaltschaft voert onderzoek uit naar verschillende gevallen van grootschalige fraude met behulp van generatieve grote taalmodellen. In een opvallend geval hebben de daders in februari de identiteit van de CEO van de grote bank Intesa Sanpaolo aangenomen en in zijn naam WhatsApp-berichten gestuurd naar de voorzitter van de dochterbank Fideuram. Ze vroegen Fideuram om snel geld over te maken om een lucratieve deal voor Intesa Sanpaolo te realiseren.

Vervolgens volgde een telefoontje met de door AI gegenereerde stem van een advocaat van het financiële conglomeraat. De advocaat was bekend bij de manager van de dochterbank, waardoor deze zijn vermeende uitleg en bevestiging van de dringende transactie voor waar aannam. Er werd 95 miljoen euro overgemaakt, voornamelijk naar de Volksrepubliek China.

Dit bracht alarm teweeg; door snel contact op te nemen met een Chinese bank kon een deel van de buit worden bevroren. Een onmiddellijke aangifte bij de staatsanwaltschaft en een snelle samenwerking met Portugese autoriteiten via Eurojust leidde tot het veiligstellen van verdere miljoenen in Portugal.

Echter, 36 miljoen van de 95 miljoen euro lijken verloren te zijn. De deepfake-daders hebben het geld via verschillende snelle internationale transacties en uiteindelijk omwisselingen in cryptocurrencies ongrijpbaar gemaakt. De misleide Fideuram-manager nam in maart, voordat de zaak openbaar werd, ontslag; officieel ‘om persoonlijke redenen’.