Эксперты в сфере технологий все чаще предупреждают об угрозе потери человечеством контроля над этой стратегически важной технологией. Более того, геополитическая напряженность оказывает все более явное влияние на глобальную гонку ИИ.
16 сентября генсек ООН Антониу Гутерриш заявил, что странам нужно активнее координировать усилия, чтобы вместе создавать механизмы контроля (в том числе метафорически их можно назвать «защитными барьерами») для искусственного интеллекта. Данный призыв прозвучал всего через несколько дней после предупреждения руководителей ведущих американских технологических компаний о необходимости замедлить развитие искусственного интеллекта из-за риска его выхода из-под контроля человека.
Тревожный темп роста ИИ
12 сентября глава Anthropic, разработчика языковой модели Claude, Дарио Амодеи выпустил эссе с призывом замедлить темпы развития ИИ. Он считает, что искусственный интеллект развивается слишком быстро, а исследователи уже не успевают обеспечивать его безопасную разработку. Поэтому ведущим разработчикам ИИ необходимо замедлить темпы совершенствования возможностей в этой сфере и усиливать меры безопасности. Предложение Амодеи поддержали и другие лидеры отрасли. Глава OpenAI Сэм Альтман, генеральный директор SpaceX и xAI Илон Маск, а также Демис Хассабис, возглавляющий Google DeepMind, заявили, что согласны с необходимостью снизить темпы развития ИИ.
Эти события показывают, что дискуссии о безопасности и рисках ИИ за последние два года существенно изменились. Из преимущественно теоретических дискуссий о гипотетических возможностях риски, связанные с ИИ, превратились в неотложную геополитическую проблему. Начиная с конца 2025 года, кибератаки, осуществляемые агентами искусственного интеллекта, становятся все более изощренными. В частности, взлом ИИ-платформу Hugging Face ИИ-агентом OpenAI в июле 2026 года служил серьезным тревожным сигналом, когда агент ИИ самостоятельно выполнил значительную часть операций со скоростью, за которой человеческие хакеры не могли угнаться.
Брэд Карсон, бывший конгрессмен США, президент организации «Американцы за ответственные инновации» (ARI), отмечает: «События развиваются настолько стремительно, что даже исследователи начинают опасаться искусственного интеллекта. Именно это мы и наблюдаем последние две-три недели. Высказываются именно сотрудники этих компаний. Предупреждение исходило изнутри, указывая на то, что их действия чреваты катастрофическими последствиями. Я думаю, нам следует серьезно рассмотреть их мнения».
Помимо невероятно быстрых темпов развития ИИ, еще одним фактором, усиливающий опасения по поводу рисков, связанных с ИИ, является отсутствие контроля над самими технологическими компаниями, которые тратят миллиарды долларов на разработку самых быстрых и передовых моделей ИИ.
Марта Зиози, заместитель директора по новым технологиям и отраслевой практике в Институте Ады Лавлейс (Великобритания), сказала: «Сейчас меня беспокоит то, что компании обладают слишком большой властью, не имея при этом реального контроля или ограничений в своей деятельности. Я думаю, что это создает «идеальный шторм» (ситуацию, когда одновременно сходятся несколько опасных элементов), и именно это вызывает настоящую тревогу».
Геополитическая проблема
Для контроля и смягчения рисков, связанных с ИИ, необходим глобальный механизм управления, который был бы обязательным, тщательно контролируемым и независимым. Впрочем проблема «замедления развития ИИ» — это не просто технологическая или гуманитарная проблема, она все чаще приобретает характер геополитической конфронтации. На прошлой неделе ряд американских официальных лиц, в том числе президент Дональд Трамп выступил против идеи замедления развития передовых моделей искусственного интеллекта (ИИ). По его словам, для США главное — не уступить Китаю лидерство в этой сфере, «потому что тот, кто победит в гонке за ИИ, победит и во всем остальном».
Со стороны Китая призывы американских технологических лидеров «замедлить» развитие ИИ также были встречены с осторожностью. Многие эксперты и СМИ в Китае одновременно поставили под сомнение мотивы Anthropic, призывающей к подавлению развития искусственного интеллекта. По их мнениям, постоянный ажиотаж вокруг сценариев апокалипсиса, вызванных искусственным интеллектом, со стороны крупных американских технологических компаний может быть психологической тактикой, направленной на продвижение регулирования, благоприятствующего тем, кто находится впереди, и оказание давления на конкурентов из других стран.
Стюарт Рассел, президент Международной ассоциации безопасного и этичного ИИ, профессор компьютерных наук в Калифорнийском университете в Беркли (США) назвал риски, связанные с искусственным интеллектом, безграничными. По его словам, аргументы о том, что ИИ, разработанный в одной стране, «лучше», чем ИИ, разработанный в другой стране, являются «абсурдными».
«С точки зрения управления, если нас беспокоит риск вымирания человечества, вызванный ИИ, то эта угроза может исходить откуда угодно. Очевидно, что их не ограничивают национальные границы. Поэтому нам необходимы международные соглашения, которые потребуют от всех стран создать необходимые механизмы контроля для предотвращения подобного сценария».
Вопрос в том, как и каким учреждением следует создать подобную правовую основу? События 2025 и начала 2026 годов ясно показали, что вопрос уже не в том, изменит ли ИИ глобальный порядок, а в том, как быстро это произойдет и кто будет устанавливать правила. В настоящее время технологическую конкуренцию невозможно отделить от глобальной геополитической конкуренции между крупными державами, которые рассматривают доминирование в области искусственного интеллекта как ключевой фактор своей национальной безопасности и будущего экономического превосходства.
