L'alleanza Five Eyes avverte che i modelli di intelligenza artificiale di frontiera trasformeranno le capacità informatiche

L'alleanza di intelligence Five Eyes ha rilasciato una rara dichiarazione congiunta a giugno. L'organizzazione ha avvertito che i modelli di intelligenza artificiale di frontiera dovrebbero superare le attuali aspettative del settore, trasformando fondamentalmente sia le capacità informatiche offensive che quelle difensive.

Gli aggressori hanno già dimostrato la capacità di aggirare le misure di sicurezza. Si prevede che la soglia di competenze necessaria affinché aggressori non sofisticati possano eseguire attacchi sempre più complessi continuerà a scendere. In questo contesto, la semplice difesa delle superfici di attacco non sarà sufficiente, rendendo necessario passare all'offensiva.

I professionisti della sicurezza devono adottare una mentalità da aggressore per contrastare i guadagni esponenziali di velocità e scala dei loro avversari. Questo approccio consiste nel cercare proattivamente falle in tutto il programma, proprio come farebbe un avversario, invece di attendere che i registri, il monitoraggio o un incidente indichino dove investire.

Per implementare questo vantaggio, è consigliabile concentrarsi sulla neutralità dei modelli, creando flussi di lavoro che non siano legati a un singolo fornitore o modello. La neutralità della distribuzione è altrettanto importante, permettendo l'esecuzione di modelli in ambienti auto ospitati o isolati per la protezione della proprietà intellettuale o la residenza dei dati.

Un altro passo pratico riguarda l'ambito d'azione, mantenendo i compiti agentici ristretti e ben definiti. Fornire a un agente un problema vasto e vago può portare a prestazioni inizialmente buone che poi degradano, mentre compiti specifici con il contesto corretto garantiscono risultati più coerenti.

L'attesa di un incidente o di una patch di un fornitore è considerata un lusso che non ci si può più permettere. I programmi di sicurezza devono evolversi per evitare di diventare vittime della reinvenzione degli avversari, evitando la paralisi da analisi mentre la soglia che i difensori devono superare continua a salire.