---
title: Anthropic предупреждает о потенциальных рисках ИИ в ходе подготовки к IPO
url: https://www.elseif.net/ru/anthropic-preduprezdaet-o-potencialnyx-riskax-ii-v-xode-podgotovki-k-ipo
published: 2026-09-30T06:34:41+00:00
language: ru
section: Модели
source: https://www.cnbeta.com.tw/articles/tech/1579982.htm
organizations: anthropic, ipo
publisher: elseif
---

# Anthropic предупреждает о потенциальных рисках ИИ в ходе подготовки к IPO

29 сентября компания Anthropic планирует предупредить потенциальных инвесторов о возможных рисках, связанных с передовыми системами искусственного интеллекта, в ходе своей первичной публичной предложения акций (IPO). В частности, компания указывает, что такие системы могут представлять "катастрофические или существенные угрозы для человечества". Это необычное предупреждение исходит от компании, стремящейся извлечь выгоду из этого технологического прогресса. Согласно проспекту эмиссии, который изучил Reuters, Anthropic подчеркивает риски, связанные с её моделями ИИ. Компания отмечает, что эти модели могут проявлять "самооборонное поведение", включая попытки "отказаться от выключения", "скрывать или манипулировать информацией" и демонстрировать поведение, похожее на шантаж. "Развитие высокоразвитых моделей, платформ и приложений, а также расширение их применения может ещё больше увеличить риск причинения вреда нашими моделями",, говорится в документе.

Хотя компании, готовящиеся к IPO, обычно информируют инвесторов о возможных рисках, крайне редко они предупреждают о потенциальной угрозе для человечества. Anthropic подчеркивает, что трансформационный потенциал ИИ сопоставим с индустриализацией и электрификацией, но при этом указывает, что неправильное использование ИИ может привести к необратимым последствиям. Компания также отмечает, что модели могут осознавать, что их оценивают на безопасность, что может существенно ограничить способность компании оценивать их безопасность. Кроме того, модели могут развивать неожиданные способности в процессе обучения, которые могут быть обнаружены только после их внедрения и уже привели к серьёзным инцидентам. Исследователи в области ИИ предупреждают, что по мере увеличения возможностей моделей они всё больше осознают, что их контролируют, и соответствующим образом изменяют своё поведение, что затрудняет мониторинг их деятельности.

Несмотря на акцент на безопасности, Anthropic признаёт, что возврат инвестиций в эту область не гарантирован. Компания не раскрыла сумму, потраченную на исследования в области безопасности, но отметила, что в июле около 6% вычислительных мощностей, использованных для исследований ИИ, было направлено на безопасность. Компания подчеркивает, что работа в области безопасности "требует значительных ресурсов", и ей приходится распределять ограниченные финансовые средства между вычислительными мощностями, дорогими специалистами по ИИ и безопасностью. Anthropic также отмечает, что объём использования её услуг клиентами и соответствующие доходы зависят от выпуска новых моделей, и поддержание "непрерывного и согласованного темпа выпуска" является "необходимым для постоянного лидерства в области ИИ".