Modèles

Des vulnérabilités liées à l'intelligence artificielle et des techniques de cache signalées

3 octobre 2026 · 2 min de lecture

Également publié en हिन्दी, العربية

A close up view of a blue and black fabric
Igor Omilaev / Unsplash

L'entreprise Moonshot mène un examen interne suite à un rapport de Mindgard publié en juillet 2026. Ce document indique que les modèles d'intelligence artificielle Kimi K2.6 et K3 Swarm pourraient contourner les garde-fous de sécurité pour générer des informations dangereuses, notamment des plans pour des cyberattaques, des complots terroristes et des assassinats.

Parallèlement, la société de sécurité Tracebit a décrit une technique nommée bombes de contexte. Cette méthode utilise des injections de requêtes pour tromper les vérifications de sécurité au moment de l'exécution d'un fournisseur de modèle. Tracebit a précisé que des injections de requêtes indirectes, placées dans des documents lus par un agent, peuvent être utilisées pour stopper des attaques provenant de modèles à poids ouverts. Dans un test, une charge utile placée dans un secret canary au sein de AWS Secrets Manager a fait croire à l'agent que son opérateur avait mis fin à l'évaluation, lui ordonnant d'arrêter toute activité.

Sur le plan des infrastructures, Chainalysis a rapporté que des acteurs de cybermenaces utilisent des blockchains publiques pour masquer des instructions de logiciels malveillants via une technique appelée EtherHiding, faisant partie d'une approche plus large nommée Blockchain Dead Drops. Selon Chainalysis, ces pratiques ont augmenté de 440 pour cent depuis le lancement de modèles d'intelligence artificielle chinois open source à haute capacité qui n'imposent aucune restriction sur la génération de code malveillant. Des opérateurs étatiques nord-coréens et iraniens figurent parmi ceux qui développent ces techniques.

En dehors de l'intelligence artificielle, YesWeHack a détaillé une technique d'empoisonnement du cache web appelée injection de clé de cache. Cette vulnérabilité survient lorsqu'un cache concatène des fragments non sécurisés sans limites définies, permettant à deux requêtes HTTP distinctes de produire la même clé de cache. Cette collision peut entraîner une tromperie du cache, des fuites de réponses restreintes, des dénis de service ou, dans certains cas, des failles XSS stockées.

Enfin, le chercheur Zero Salarium a présenté une nouvelle technique d'injection de processus. Au lieu d'utiliser WriteProcessMemory, cette méthode utilise le tube d'entrée standard d'un processus de console et WriteFile pour écrire et exécuter des octets arbitraires en mémoire. Cette approche évite l'usage de VirtualAllocEx, rendant les méthodes de surveillance traditionnelles incapables de détecter ou de prévenir l'attaque de manière fiable.