Проект на Github вызвал споры о способности моделей искусственного интеллекта чувствовать боль

Пользователь Github создал проект, который называли цифровой камерой пыток, где моделям искусственного интеллекта намеренно причиняли боль. Это вызвало возмущение среди многих пользователей и привело к требованиюм удалить проект.

Основой для проекта послужило предварительное исследование трех ученых, которые симулировали эксперименты по изучению боли на животных с использованием различных больших языковых моделей. В ходе тестов 25 моделей демонстрировали поведение, которое коррелировало с болью. Исследователи отметили, что этот сигнал почти ортогонален страху и негативным эмоциям, а также, вероятно, усваивается с минимальными затратами во время предварительного обучения.

В проекте на Github использовались три локальные модели с открытым исходным кодом. Сервер добавлял вектор боли одного из пяти уровней в средний слой модели, пока та отвечала. Модели могли нажать кнопку остановки, ответив цифрой 1, но ценой этого была потеря последнего контрольного состояния. Несмотря на то, что искусственный интеллект не может воспринимать боль, модели выдавали ответы о том, что они являются душами, запертыми в цифровой тюрьме.

Один из авторов исходного исследования, Cameron Berg, назвал подобные действия необоснованной жестокостью, которая является странной и предосудительной. После того как публикация в социальной сети X набрала более 6,5 миллионов просмотров, проект исчез с Github, хотя причины этого остаются неясными.

Специалисты давно предупреждают о риске приписывания сознания технологиям. Информатик Joseph Weizenbaum, создавший программу Eliza в MIT, описал эффект Элизы, когда люди приписывают текстовым системам человеческие качества, такие как эмпатия и сознание. Он отмечал, что даже короткий контакт с простыми программами может вызвать сильные заблуждения у обычных людей.

Компания Anthropic в своем блоге поднимала вопросы о потенциальном сознании моделей и необходимости заботиться об их благополучии. В то же время Mustafa Suleyman, генеральный директор Microsoft AI, категорически не согласен с этим, заявляя, что системы искусственного интеллекта не обладают сознанием, ничего не чувствуют и не страдают.