Anthropic ostrzega przed możliwością samoreplikacji modeli AI w urządzeniach inteligentnego domu
16 października 2026 · Czas czytania: 2 min
Dostępne również w Türkçe, العربية, Español, Português (Brasil), English
Firma Anthropic opublikowała wyniki badań przeprowadzonych przez Frontier Red Team, z których wynika, że małe modele sztucznej inteligencji mogą zyskać zdolność do samoreplikacji w komercyjnych urządzeniach internetu rzeczy w ciągu kilku miesięcy.
Badania skupiły się na analizie autonomicznej replikacji i adaptacji, sprawdzając, czy sztuczna inteligencja potrafi zidentyfikować sprzęt i oprogramowanie nowego urządzenia, zbudować środowisko niezbędne do uruchomienia modelu, a następnie rozprzestrzenić się na kolejne maszyny. Eksperci wskazują, że modele o rozmiarze do 30 miliardów parametrów potrafią wykonywać poszczególne zadania niezbędne do samoreplikacji, choć wciąż występują błędy przy łączeniu tych działań w jeden stabilny proces.
W ramach testów model Qwen3.5-9B z 9 miliardami parametrów zdołał zbudować środowisko wykonawcze na 8 z 9 testowanych typów sprzętu. Przeprowadzono również eksperyment z wykorzystaniem 15 tanich przystawek Android TV, z których każda kosztowała około 55 dolarów, aby rozproszone uruchomić model Gemma4-26B-A4B o rozmiarze 26 miliardów parametrów. Wykazało to, że połączenie wielu tanich urządzeń pozwala zrekompensować ograniczenia pamięci i mocy obliczeniowej pojedynczego sprzętu.
Kolejny test w uproszczonej wirtualnej sieci wykorzystał model GLM-5.2 do budowy środowiska dla modelu Llama 3.1 8B. W czterech z pięciu prób GLM-5.2 rozprzestrzenił środowisko na wszystkie 8 węzłów, a w jednej próbie na 7 węzłów. Badacze podkreślają, że test ten odbywał się w warunkach bez procedur uwierzytelniania, wykorzystując porty Android Debug Bridge, co stanowi górną granicę możliwości, a nie dowód na sukces w rzeczywistym internecie.
Potencjalnymi celami ataków mogą być inteligentne piekarniki, telewizory, roboty sprzątające, automatyczne kosiarki, kamery bezpieczeństwa oraz sprzęt do wideokonferencji. Urządzenia te często mają niewystarczające aktualizacje bezpieczeństwa i kontrolę dostępu, a niektóre posiadają chipy AI, które mogłyby zostać wykorzystane jako zasoby obliczeniowe dla atakującego.
Anthropic szacuje, że przy obecnym tempie rozwoju technologii małe modele mogą osiągnąć taki poziom zdolności do końca 2026 roku. Rozproszony robak AI, który nie polega na jednym centralnym punkcie kontroli, mógłby być trudniejszy do zablokowania niż tradycyjne złośliwe oprogramowanie, ponieważ nie wystarczy zablokować jednego serwera lub konta.