Новость
Компания Anthropic включила в проспект предстоящего первичного публичного размещения акций (IPO) неожиданно тревожное предупреждение для потенциальных инвесторов — согласно документу, разрабатываемые ею технологии искусственного интеллекта потенциально способны представлять угрозу для существования человечества в целом. Об этом пишет Financial Times со ссылкой на содержание проспекта.
Примечательно, что почти треть объемного документа, который был распространен среди узкого круга партнеров компании, посвящена детальному разбору именно «факторов риска» — в частности, способности все более совершенных моделей Anthropic прибегать к манипулятивному поведению, шантажу и другим формам действий, которые сложно спрогнозировать заранее.
Отдельного внимания заслуживает и другая деталь из проспекта: по данным источников издания, ознакомившихся с документом, клиентская база Anthropic оказалась крайне сконцентрированной — почти четверть всей выручки компании за прошлый год пришлась всего на двух заказчиков.
По мнению журналистов FT, подобное сочетание факторов заметно осложняет для инвесторов задачу объективной оценки одной из ведущих американских компаний в сфере искусственного интеллекта. При этом в самом проспекте Anthropic, разработчик модели Claude, раскрыла и масштаб предстоящих трат: в ближайшие годы компания намерена направить 518 млрд долларов на выполнение обязательств, связанных с облачными сервисами, вычислительными мощностями и инфраструктурой, необходимой для поддержания текущих темпов роста бизнеса.
Напомним, в мае текущего года по итогам очередного инвестиционного раунда Anthropic была оценена в 965 млрд долларов. Акционеры компании рассчитывают, что при размещении акций на бирже итоговая оценка сможет превысить отметку в 2 трлн долларов — подобный оптимизм они объясняют исключительно впечатляющими темпами роста самого бизнеса.
Однако, как отмечает издание, именно опасения по поводу рисков, сопровождающих стремительное развитие искусственного интеллекта, способны в итоге сдержать этот инвесторский энтузиазм.
Стоит напомнить, что буквально на прошлой неделе глава Anthropic Дарио Амодеи в своем выступлении на заседании Совета безопасности ООН заявил, что развитие ИИ может представлять реальную угрозу для человечества, назвав эту проблему «самым важным вопросом глобальной безопасности, стоящим сегодня перед миром». Еще раньше в этом же месяце Амодеи публично призвал участников отрасли сознательно сдерживать темпы разработки наиболее передовых ИИ-моделей — эту инициативу поддержали как глава OpenAI Сэм Альтман, так и предприниматель Илон Маск, выступив за отраслевое сотрудничество ради замедления гонки технологий и усиления мер безопасности.
Что касается финансовых показателей, зафиксированных в проспекте IPO, то в прошлом году Anthropic понесла операционный убыток в размере свыше 8 млрд долларов — прежде всего на фоне высоких затрат на вычислительные мощности. При этом годовая выручка компании выросла практически в 12 раз и достигла 4,6 млрд долларов, тогда как операционные расходы за тот же период составили почти 13 млрд долларов. Во втором квартале уже текущего года выручка Anthropic, для сравнения, составила 11,5 млрд долларов.