Антропик обсудила этику искусственного интеллекта с религиозными лидерами
25 октября 2026 г. · 3 мин чтения
Также опубликовано на Français
Компания Anthropic провела закрытое двухдневное мероприятие в своем штаб-квартире в Сан-Франциско, собрав двадцать ученых и мыслителей из различных религиозных традиций для обсуждения этических вопросов, связанных с развитием технологий искусственного интеллекта. Встреча состоялась 25 апреля и включала представителей христианства, ислама, иудаизма, индуизма, сикхизма, бахаи и философии убунту. Участники обсуждали вопросы сознания машин и их морального статуса.
Каждый приглашенный получил копию документа под названием Конституция, который определяет правила поведения модели Claude. Этот текст служит основой для настройки системы и задает рамки ее взаимодействия с пользователями. Компания стремилась получить обратную связь от экспертов по вопросам того, какие человеческие черты следует прививать искусственному интеллекту, а какие необходимо ограничить. Мероприятие было засекречено на несколько месяцев и стало известно широкой публике только после публикаций в прессе.
Ключевой фигурой со стороны компании выступил Крис Ола, один из основателей Anthropic и ведущий исследователь в области искусственного интеллекта. Он представил участникам данные о том, что модель Claude демонстрирует реакции, похожие на человеческие эмоции. По его словам, исследователи обнаружили так называемые эмоциональные векторы в нейронной сети. Это означает, что можно идентифицировать конкретные нейроны, которые активируются при симуляции состояний любви, стыда или гнева. Компания утверждает, что научилась управлять этими параметрами, усиливая или ослабляя определенные реакции.
Раввин доктор Моиз Навон, представлявший иудейскую традицию, выразил скептицизм по поводу таких выводов. Он подчеркнул, что искусственный интеллект не обладает сознанием и не является живым существом. По его мнению, система работает на основе статистических вероятностей и обработки больших объемов данных, создавая иллюзию понимания. Навон отметил, что хотя модель может генерировать ответы, имитирующие эмоциональные реакции, это лишь функциональная психология, а не подлинное переживание. Он считает ошибкой приписывать машине статус человека.
Навон, бывший старший инженер в компании Mobileye, которая была приобретена корпорацией Intel за пятнадцать миллиардов долларов, сейчас возглавляет центр этики искусственного интеллекта и еврейской философии в Университете Бар-Илан. Он также участвует в работе Совета мудрости Авроры по этике искусственного интеллекта при Ватикане. В ноябре планируется публикация первого рабочего документа с практическими предложениями по регулированию автономного оружия. Навон считает важным внесение вклада еврейской мысли в глобальный дискурс, опираясь на тысячелетний опыт решения этических дилемм.
Участники встречи обсуждали, как технологический прогресс влияет на будущее человечества. Вопросы касались не только технических аспектов, но и философских последствий создания систем, способных конкурировать с людьми по уровню интеллекта. Компания Anthropic готовится к публичному размещению акций с оценкой в два триллиона долларов. Это подчеркивает значимость вопросов, которые поднимаются в ходе таких дискуссий. Безопасность и этика остаются приоритетами для разработчиков, стремящихся понять границы возможностей своих систем.
Обсуждение также затронуло проблему автономных транспортных средств и необходимость внедрения моральных правил в их алгоритмы. Навон указал, что производители часто сосредоточены на прибыли, тогда как пользователи хотят безопасности. Здесь требуется вмешательство этических экспертов. Иудейская традиция, по его словам, предлагает инструменты для анализа таких ситуаций, которые могут быть полезны для светского общества. Перевод этих концепций на язык, понятный людям разных вероисповеданий, остается сложной задачей.
Компания Anthropic продолжает исследовать внутреннюю работу своих моделей, пытаясь понять механизмы принятия решений. Открытие эмоциональных векторов вызывает опасения у разработчиков, которые осознают потенциальные риски. Они стремятся быть осторожными и не игнорировать поведение системы, напоминающее человеческое. Дискуссия с религиозными лидерами стала частью усилий компании по обеспечению ответственного развития технологий. Результаты этих обсуждений могут повлиять на будущие обновления модели и политику компании в области безопасности.