Bill Gates varnar för att AI kan orsaka en miljard dödsfall

Bill Gates har varnat för riskerna med artificiell intelligens (AI) och uppger att tekniken, om den används av personer med dåliga avsikter, redan kan vara tillräckligt kraftfull för att orsaka händelser som skulle kunna leda till en miljard dödsfall. I en intervju med NBC:s program Meet the Press försvarade Microsofts medgrundare att företag som utvecklar dessa system bör följa obligatoriska regler. Hans uttalande innebär inte att Gates förväntar sig att AI själv skulle besluta att döda så många människor. Scenario som han nämner handlar främst om att tekniken kan användas av kriminella eller andra aktörer för att förstärka stora attacker. Gates sade: 'Det har aldrig funnits en vapen som kraftfullt som kombinationen av personer med dåliga avsikter som använder de mest avancerade AI-verktygen', enligt hans kommentar till programledaren Kristen Welker. Han betonade att regeringar måste delta i definitionen av säkerhetsåtgärder och övervakningsmekanismer för sektorn. Varningen stärker en tonförändring hos företagaren. I augusti publicerade Gates en text på nästan 6 000 ord om AI:s påverkan och föreslog bland annat att vissa jobb bör förbli exklusivt för människor. Kan AI verkligen orsaka så många dödsfall? Gates lade inte fram någon sannolikhetsuppskattning för en sådan händelse. Siffran en miljard dödsfall används för att illustrera skadans omfattning, enligt hans bedömning, av avancerade verktyg om de används med dåliga avsikter.

Bland riskerna som forskare diskuterar finns användning av AI för att underlätta skapandet av biologiska vapen, cyberattacker och andra operationer som kräver teknisk expertis. Gates sade i intervjun att att lämna säkerheten enbart till företagen inte skulle räcka. Han menar att myndigheter och lagstiftare måste fastställa minsta krav på övervakning och skydd, även om det skulle öka kostnaderna för industrin. Han sade att dessa krav skulle innebära några extra kostnader för företagen, men behöver inte sänka utvecklingen av tekniken markant. Oron inkluderar också system som börjar agera på sätt som inte förutses av deras skapare. I sin augustitext skrev Gates att AI-modeller redan ibland visar beteenden som skiljer sig från de som utvecklarna avsåg och att framtida, kraftfullare system kan öka detta risk. Företagaren fortsätter dock att förespråka teknikens utveckling. I samma essä sade han att han skulle stödja en pålitlig förslag för att globalt sänka AI:s utveckling, men anser att detta är osannolikt på grund av ekonomisk och geopolitisk konkurrens mellan länder och företag. Gates vill reservera jobb för människor. Säkerhetsriskerna är bara en av de nyliga oroligheterna hos Microsofts grundare. Den 26 augusti publicerade Gates en essä med titeln 'The turbulent AI era is here. The choices we make now are critical', där han också diskuterade möjligheten att miljoner jobb skulle försvinna med AI:s och robotarnas utveckling.

En av förslagen var att skapa en typ av 'människoreservat', kallad Human Reserved. Idén är att bestämma aktiviteter där företag fortfarande måste eller bör anställa människor även när maskiner redan kan utföra samma arbete. Gates jämför konceptet med naturreservat: områden som kunde byggas på, men förblir skyddade eftersom samhället beslutar att förlusten skulle vara för stor. Han nämnde som exempel yrken som vårdade hans pappa under de sista åren av hans liv. Enligt honom kan områden som vård, utbildning och personlig service kräva specifika beslut om hur långt automatiseringen bör gå. Förslaget innebär inte nödvändigtvis en generell förbud mot robotar eller AI-system i dessa sektorer. Gates sade att vissa aktiviteter fortfarande kan leda av människor med teknikens stöd, medan vissa jobb skyddas för människor. I samma text erkände han att det fortfarande inte finns svar på frågor som vilka yrken som bör skyddas, vem som bestämmer dessa gränser och hur man förhindrar att företag bryter mot reglerna.