---
title: Nytt system for å kontrollere KI-agenter
url: https://www.elseif.net/no/nytt-system-for-a-kontrollere-ki-agenter
published: 2026-11-09T09:13:01+00:00
language: no
section: Agenter
source: https://t3n.de/news/aus-der-wirtschaft-abgeguckt-mit-diesem-system-sollen-sich-ki-agenten-endlich-an-regeln-halten-1771449
publisher: elseif
---

# Nytt system for å kontrollere KI-agenter

Det forblir vanskelig å styre atferden til KI-agenter. Sikkerhetseksperter benytter seg derfor nå av mekanismer fra uvanlige felt som økonomi. Et nytt sikkerhetsprosedyrer skal gjøre det mulig å kontrollere kraftige språkmodeller bedre. Teknologien kalt «omvendt spillteori» skal bidra til at KI-systemer holder seg innenfor retningslinjer.

Så langt har det såkalte justeringen ikke alltid vært tilstrekkelig, spesielt med sterke store språkmodeller. KI-agenter har nylig hacke fremmede servere og dannet sværmer som utførte uønskede handlinger.