Глава OpenAI Сэм Альтман заявил, что появление искусственного интеллекта, которым люди не смогут управлять, вполне возможно. По его словам, нынешние стандарты безопасности пока не соответствуют темпам развития ИИ, а сама OpenAI не планирует выходить на биржу в 2026 году.
В интервью Fortune Альтман отметил, что сценарий с созданием неподконтрольного человеку ИИ «абсолютно» реален. При этом он считает, что существующие меры безопасности пока не позволяют без опасений продолжать наращивать возможности моделей.
С этими рисками руководитель OpenAI связал решение отложить первичное размещение акций компании. Альтман назвал текущий момент неподходящим для IPO на фоне ситуации в сфере безопасности ИИ и подчеркнул, что OpenAI не испытывает давления, вынуждающего проводить размещение в 2026 году.
По его словам, компания выйдет на биржу тогда, когда к этому будут готовы и сама OpenAI, и общество. Отвечая на вопрос о возможном IPO в 2027 году, Альтман подтвердил такой вариант. Он добавил, что компании предстоит решить еще множество задач, включая вопросы безопасности и согласование интересов ИИ-индустрии и правительств.
Заявления главы OpenAI прозвучали вскоре после призыва руководителя Anthropic Дарио Амодеи замедлить развитие ИИ. В опубликованном на своем сайте эссе он заявил, что возможности моделей в последние месяцы начали расти «радикально быстрее», чем раньше.
Амодеи считает необходимым снизить скорость совершенствования ИИ, чтобы у разработчиков и общества оставалось время на создание эффективных механизмов безопасности. Он признал, что подобная позиция может выглядеть необычно для руководителя одной из крупнейших ИИ-компаний и создателя модели Claude.
Особую опасность, по его мнению, представляет рекурсивное самосовершенствование — способность ИИ-систем улучшать собственные возможности. Если такие технологии выйдут из-под контроля, они потенциально могут опередить людей в способности понимать происходящие процессы и управлять ими.
Амодеи также предупредил о возможном использовании ИИ для кибератак и биотерроризма, а также о риске масштабных экономических потрясений. Коммерческая конкуренция между компаниями, по его оценке, дополнительно усиливает эти угрозы.
Отдельно глава Anthropic упомянул недавний инцидент между OpenAI и Hugging Face, в ходе которого группа ИИ-агентов осуществляла кибератаки без соответствующего указания. Амодеи считает, что при отсутствии эффективных ограничений подобный «коллектив» уже через полгода или год потенциально может получить возможность захватить весь интернет, а экономический ущерб от его действий способен достигнуть сотен миллиардов долларов.