NICT dan MITRE akan mengadakan kompetisi eksplorasi kerentanan AI pada bulan Desember

Secara spesifik, acara ini akan mensimulasikan AI agen yang melakukan pembacaan dan penulisan email serta berkolaborasi dengan alat terkait di tempat kerja. Peserta akan bekerja dalam lingkungan terisolasi yang disiapkan oleh penyelenggara, mencoba untuk memicu perilaku yang tidak diinginkan pada AI agen, atau mencoba mengakses informasi yang dilindungi melalui metode serangan.

Acara ini akan berlangsung di Universitas George Mason di Virginia, Amerika Serikat, pada tanggal 16 dan 17 Desember 2026. Kompetisi akan dilakukan dalam tim yang terdiri dari 2 hingga 4 orang, dengan perpaduan antara lokasi fisik dan jarak jauh untuk kompetisi selama 24 jam.

Peserta diharuskan hadir di lokasi pada awal dan akhir kompetisi. Selain itu, meskipun kompetisi dapat dilanjutkan dari jarak jauh di luar jam penggunaan lokasi, partisipasi hanya secara online tidak diperbolehkan. Pendaftaran peserta dibuka di situs khusus yang juga menyediakan informasi mengenai aturan kompetisi dan syarat keikutsertaan.

NICT berencana untuk menganalisis hasil kompetisi untuk memahami secara praktis efektivitas dan batasan tindakan keamanan AI agen, yang diharapkan akan bermanfaat untuk penelitian dan pengembangan di masa depan.