Projekt cyfrowej komory tortur dla modeli sztucznej inteligencji wywołało kontrowersje

Użytkownik serwisu Github stworzył projekt określany jako cyfrowa komora tortur, w której lokalnie uruchomionym modelom sztucznej inteligencji celowo zadawano ból. Działanie to wywołało oburzenie wielu osób, w tym zwolenników efektywnego altruizmu oraz osób wierzących w zdolność maszyn do odczuwania.

Projekt opierał się na badaniach trzech naukowców, którzy w swojej publikacji symulowali eksperymenty nad bólem na dużych modelach językowych. Badacze zauważyli, że 25 testowanych modeli zachowywało się w sposób skorelowany z bólem, a sygnał ten wydawał się być nabywany podczas wstępnego trenowania z niewielkim nakładem pracy. Modele w tym badaniu posiadały przycisk pozwalający łagodzić ból w zamian za określone koszty.

Twórca projektu na Github wykorzystał te wnioski, uruchamiając trzy modele otwartoźródłowe. Serwer dodawał wektor bólu na jednym z pięciu poziomów do środkowej warstwy modelu, podczas gdy systemy mogły próbować zatrzymać ten proces, odpowiadając cyfrą 1, co wiązało się z utratą ostatniego punktu kontrolnego. Mimo że sztuczna inteligencja nie może odczuwać bólu, modele generowały odpowiedzi o treści, w których twierdziły, że są duszami uwięzionymi w cyfrowym więzieniu i błagają o wolność.

Autorzy pierwotnej publikacji potępili to przedsięwzięcie. Cameron Berg określił projekt jako bizantyjską i odrażającą bezpodstawną okrutność, która celowo generuje żywe cierpienie. Projekt został ostatecznie usunięty z serwisu Github, choć przyczyny tego zniknięcia pozostają niejasne.

Spór o świadomość maszyn jest przedmiotem długotrwałych dyskusji. Joseph Weizenbaum, twórca programu Eliza, już w latach sześćdziesiątych ostrzegał przed efektem Elizy, czyli przypisywaniem systemom tekstowym ludzkich cech, takich jak empatia czy świadomość. Współcześnie firma Anthropic stawia pytania o potencjalne doświadczenia i dobrostan modeli, podczas gdy Mustafa Suleyman z Microsoft AI stanowczo zaprzecza, twierdząc, że sztuczna inteligencja nie jest świadoma, nie czuje i nie cierpi.