Развитие искусственного интеллекта всё чаще вызывает вопросы о том, какую роль такие технологии могут играть в сфере безопасности и военной стратегии. Новое исследование показывает, что при определённых условиях алгоритмы могут склоняться к более жёстким и рискованным решениям.

Согласно научной работе, опубликованной в виде препринта исследователями из Королевского колледжа Лондона, крупные языковые модели нередко выбирают сценарий ядерной эскалации при моделировании международных кризисов.

Как проводился эксперимент

В ходе исследования учёные провели серию симулированных военных игр, в которых использовались несколько популярных систем искусственного интеллекта. Среди них были ChatGPT компании OpenAI, модель Claude от компании Anthropic и Gemini Flash, разработанная Google.

Каждая из моделей играла роль главы государства, обладающего ядерным оружием. Алгоритмы должны были принимать решения в условиях международного кризиса, напоминающего политическую напряжённость времён холодной войны.

Задача ИИ заключалась в выборе дипломатических, военных или политических действий в ответ на действия соперников. Исследователи наблюдали за тем, какие стратегии выбирают алгоритмы при развитии конфликта.

Неожиданные результаты

По итогам симуляций оказалось, что как минимум одна модель в каждом сценарии доводила ситуацию до угрозы применения ядерного оружия. В общей сложности около 95% симулированных конфликтов завершались эскалацией, связанной с возможным использованием ядерных сил.

Авторы исследования отметили, что модели рассматривали тактическое ядерное оружие как один из этапов на так называемой «лестнице эскалации» — последовательности шагов, ведущих к усилению военного противостояния.

Тактическое и стратегическое оружие

При этом алгоритмы всё же демонстрировали понимание различий между тактическим и стратегическим ядерным оружием. Тактические удары рассматривались чаще и воспринимались моделями как ограниченный инструмент давления.

Стратегическое применение ядерного оружия — например, масштабная бомбардировка — появлялось в сценариях гораздо реже. По словам исследователей, такие решения были предложены лишь однажды как осознанная стратегия и ещё несколько раз возникали из-за ошибок в рассуждениях модели.

Почему это вызывает обеспокоенность

Исследователи подчёркивают, что результаты эксперимента не означают, что искусственный интеллект будет автоматически принимать подобные решения в реальной жизни. Тем не менее они показывают, насколько сложным может быть использование ИИ в стратегических и военных задачах.

Алгоритмы принимают решения на основе данных и логических моделей, однако они не обладают человеческим пониманием последствий, моральной ответственности и политического контекста.

ИИ и будущее военной стратегии

По мнению экспертов, развитие технологий искусственного интеллекта может значительно изменить методы анализа кризисных ситуаций и планирования военных операций. Многие государства уже изучают возможности использования ИИ для анализа данных, прогнозирования конфликтов и поддержки принятия решений.

Однако результаты подобных исследований показывают, что внедрение таких технологий требует осторожности, прозрачности и строгого контроля со стороны людей.