ИИ ВО ГЛАВЕ АРМИИ КИТАЯ
Елена Ларина, Владимир Овчинский
Интеграция интеллектуальных технологий в НОАК
Китайские ученые достигли революционной вехи, разработав первого в мире военачальника с ИИ. Это инновационное творение демонстрирует возможности быстрого обучения виртуальных командиров, совершая революцию в традиционных военных стратегиях.
Военный командир с ИИ в настоящее время проходит испытания в лаборатории Национального университета обороны в Шицзячжуане, провинция Хэбэй. Этот виртуальный командир наделен широкими полномочиями для руководства силами в смоделированных сценариях боевых действий, отражающих сильные и слабые стороны, личности и образ мышления человеческих военачальников.
«Виртуальный командир» уже участвует в военных играх в Колледже совместных операций Национального университета обороны страны.
Командир ИИ учится и имитирует мыслительные модели настоящего военного командира. Ему были предоставлены «беспрецедентные верховные командные полномочия» в масштабных компьютерных военных играх.
Журнал на китайском языке Common Control & Simulation раскрыл Виртуального командира (Virtual Commander) в мае 2024 года. В опубликованной работе утверждается, что в Китае при отсутствии достаточного количества командиров для участия в симуляционных военных играх командир ИИ может заменять командиров-людей. В пределах лаборатории он может свободно осуществлять эту власть без какого-либо вмешательства со стороны людей.
Команда под руководством старшего инженера Цзя Чэньсина утверждает, что пока Китай готовится к конфликтам в таких регионах, как Тайвань и Южно-Китайское море, симуляции дадут хорошее представление о том, как это будет происходить в реальной жизни. Важной задачей для ученых является проверка этих планов в симуляциях, чтобы «взвесить хорошее с плохим и получить представление о хаосе битвы», — написали Цзя и его коллеги.
Во время симуляций от военного командира часто ожидается принятие решений на месте в условиях непредвиденных обстоятельств.
Виртуальный командир имеет различные аватары и имитирует боевые стили разных старших командиров НОАК.
Команда Цзя заявила, что первоначальная настройка ИИ-командира отражает облик опытного и блестящего стратега, «обладающего здоровыми умственными способностями, уравновешенным и стойким характером, способного анализировать и оценивать ситуации со спокойствием, лишенного эмоциональных или импульсивных решений и быстро разрабатывающего практические планы, вызывая в памяти похожие сценарии принятия решений». Схема виртуального командира может быть изменена в соответствии с требованиями.
Команда утверждает, что, хотя автономные боевые подразделения, такие как беспилотники и роботизированные собаки, размещенные на границе страны, в будущем получат большую свободу передвижения, командование останется в руках человека.
Чтобы смоделировать реальные ограничения, с которыми сталкиваются командиры-люди, исследователи ограничили базу знаний для принятия решений командира ИИ. Когда память достигает своего предела, часть знаний удаляется. Во время моделирования военных игр командир ИИ смог определить новые угрозы и разработать новые планы, чтобы помешать врагу.
ИИ будет играть большую роль в будущих войнах, поскольку военные системы ИИ бесконечно лучше справляются с обработкой больших наборов данных, чем люди. Ожидается, что интеграция человека и машины не только станет фактором умножения силы для существующего оружия, но и станет «фактически стратегическим субъектом» (планировщиком, бойцом, тактиком) в войне.
Китайский военный ИИ в центре внимания законодателей США
В видеоролике китайских государственных СМИ, скриншоты которого в мае 2024 года были опубликованы Military Times, показано, как военные страны демонстрируют похожих на собак роботов с винтовками во время совместных учений в Камбодже.
По данным издания, собаки с ИИ весят 110 фунтов и могут носить и стрелять из автоматических винтовок автономно.
Хотя война с использованием беспилотников не является новой концепцией, некоторые полагают, что появление этих новых вооруженных автоматов должно вызвать беспокойство в США.
Член палаты представителей Верн Бьюкенен, республиканец из Флориды, заявил в июне 2024 года Fox News Digital, что передовой ИИ станет следующим крупным экономическим и военным рубежом как для США, так и для их противников, таких как Китай.
Из 18 поправок, которые он разработал и успешно провел через проект Закона о национальной обороне (NDAA) Палаты представителей, одна привлекла внимание к потенциально кардинальной угрозе.
Законопроект Бьюкенена добавил положение, обязывающее министра обороны США сообщать об угрозе использования Китаем ИИ в военных целях, включая таких роботов-собак, и об угрозе их национальной безопасности США.
«Любой, кто говорит вам, что Китай будет использовать их только в исключительно мирных целях, прячет голову в песок», — сказал Бьюкенен.
Пентагон не сразу ответил на запрос о комментарии. Но, согласно майскому отчету The Warzone, у Командования операций специального назначения Корпуса морской пехоты (MARSOC) есть два похожих робота-четвероногих, которые в настоящее время используются для обеспечения безопасности периметра в неуказанных местах.
Бьюкенен заявил, что США уже экспериментировали с подобными роботизированными собаками в прошлом, однако Китай оснащает их оружием и демонстрирует их во время военных учений, что вызывает беспокойство.
Отвечая на вопрос о собаках-роботах и поправке к отчетности, республиканец от Алабамы Майк Роджерс, председатель Комитета по вооруженным силам Палаты представителей, который был главным спонсором NDAA, заявил, что такие опасения обоснованы.
«Если мы хотим опережать Китай, крайне важно уделять первостепенное внимание инновациям», — сказал Роджерс.
«Военный ИИ Китая. Взгляды КНР на технологические вызовы интеллектуальной войн»
Доклад с таким названием подготовил Сэм Бресник в Центре безопасности и новых технологий (CSET) Джорджтаунского университета (июнь 2024 года).
Автор пишет:
«За последние несколько лет Китай сделал значительные инвестиции и добился очевидного прогресса в сфере военного ИИ. Учитывая, что ИИ и связанные с ним новые технологии могут сыграть решающую роль в будущих войнах, истеблишмент национальной безопасности США обеспокоен тем, что он отстанет от Китая в разработке и внедрении этих технологий. Подобные опасения вызвали большое внимание и тревогу в Соединенных Штатах».
В докладе излагаются некоторые ключевые проблемы, с которыми, по мнению китайских оборонных экспертов, сталкивается Китай в области разработки и внедрения ИИ и связанных с ним новых технологий. Он основан на журнальных статьях на китайском языке, опубликованных в период с 2020 по 2022 год офицерами и исследователями Народно-освободительной армии Китая (НОАК), инженерами китайской оборонной промышленности и учеными, работающими над ИИ и другими новыми технологиями.
Введение
Китайская оборонная доктрина и документы предполагают, что военная модернизация Китая будет разворачиваться в три последовательных, но часто пересекающихся этапа: механизация, информатизация и интеллектуализация.
Когда Си Цзиньпин пришел к власти в 2013 году, Китай начал концентрироваться на подготовке к информатизированной войне или использовании информационных технологий для улучшения командования и контроля, оказания помощи в нанесении точных ударов и использования космических, кибер- и электромагнитных возможностей. В своей речи на 19-м съезде партии в 2017 году Си Цзиньпин призвал НОАК осуществить базовую механизацию и добиться прогресса в направлении информатизации к 2020 году.
В той же речи Си Цзиньпин призвал НОАК ускорить процесс военной разведки, который в широком смысле определяется как использование ИИ и других передовых технологий для оборонных целей. Китайское правительство и стратегическое сообщество уверены, что ИИ и другие новые технологии могут дать НОАК возможность догнать или даже превзойти военную мощь Соединенных Штатов. Например, видные представители НОАК, такие как генерал-лейтенант Лю Гожи , бывший сотрудник Центральной военной комиссии, утверждают, что, когда дело доходит до военного потенциала, интеллектуализация — это «редкая возможность» «обогнать конкурентов на кривой». Официальные указания правительства отражают растущее внимание руководства к интеллектуальной войне. В Белой книге обороны Китая за 2019 год отмечалось растущее внимание НОАК к укреплению своей «разведки» в войне, а 14-й пятилетний план предписывал военным «ускорить комплексное развитие механизации, информатизации и интеллектуализации».
Действительно, интеллектуализация стала путеводной звездой для развития и модернизации НОАК. Однако НОАК не опубликовала официального руководства ни по своей концепции интеллектуальной войны, ни по тому, как ИИ и связанные с ней технологии влияют на эту концепцию. Более того, определения этого термина, как и определения информатизации, остаются намеренно расплывчатыми.
В то же время китайские военные стратеги и ученые в области обороны опубликовали тысячи комментариев в СМИ, отчетов аналитических центров и журнальных статей, которые могут помочь аналитикам получить представление о том, как Китай думает об использовании ИИ и связанных с ним новых технологий в войне.
Некоторые отчеты посвящены тому, как китайские эксперты по обороне представляют себе, как ИИ и другие новые технологии произведут революцию в военном потенциале, в то время как другие сосредоточены на влиянии этих технологий на сдерживание и стратегическую стабильность. Другие исследования анализируют программы военно-гражданского слияния, корпоративные и академические инициативы, направленные на повышение военной интеллигенции, а также доктринальные дебаты.
ИИ и другие новые технологии, такие как беспилотные системы, автономность и анализ данных, занимают центральное место в китайских военных концепциях ведения будущих войн. Однако существует относительно ограниченное количество исследований, направленных на понимание того, как китайские стратеги и эксперты по обороне рассматривают прогресс своей страны в разработке и развертывании этих технологий и возможностей, которые в конечном итоге призваны положить начало заключительным этапам военной модернизации Китая. Именно этот аналитический пробел и пытается восполнить доклад Брезника.
Проанализировав 130 статей в журналах на китайском языке об искусственном интеллекте и будущем войны, автор выделил несколько областей, в которых, по мнению китайских экспертов по обороне, НОАК сталкивается с трудностями в разработке военного ИИ и связанных с ним новых технологий. В докладе также представлена информация о технологиях, которые, по мнению китайских авторов, Пекину следует разработать, чтобы исправить свои текущие недостатки.
Китайские эксперты по обороне обеспокоены надежностью систем ИИ и тем, что Пекин может отставать от США в разработке и внедрении ИИ и связанных с ним новых технологий в нескольких ключевых областях.
Объём и методология
Доклад основан на анализе размышлений, гипотез и аргументов о военном искусственном интеллекте и связанных с ним новых технологиях, содержащихся в корпусе из 130 китайских журнальных статей, написанных китайскими экспертами по обороне, связанными и не связанными с НОАК. Эти документы были опубликованы в период с 1 января 2020 года по 31 декабря 2022 года и включены в снимок Национальной инфраструктуры знаний Китая (CNKI) 30 марта 2023 года.
Из этих 130 статей автор больше всего концентрируюсь на 59 статьях, в которых обсуждаются предполагаемые препятствия на пути разработки и внедрения военного ИИ и связанных с ним новых технологий.
59 статей в наборе данных в целом можно разделить на семь категорий:
1) Обсуждения текущего состояния военного потенциала с использованием ИИ, многие из которых включают анализ ограничений и рекомендации по разработке конкретных технологий;
2) Общие обзоры ожидаемых будущих возможностей военных систем с поддержкой ИИ;
3) Исследования влияния ИИ и других новых технологий на стратегическую стабильность;
4) Обзоры событий в конкретных областях военной деятельности за определенный год;
5) Освещение того, как различные вооруженные силы (в основном США) подходят к разработке конкретных систем с поддержкой ИИ;
6) Обсуждение моральных, этических и правовых аспектов использования военных систем с поддержкой ИИ;
7) Технические документы по конкретным технологиям или возможностям.
Большинство статей, которые автор анализирует, относятся к первой категории.
Обзор прогресса Китая в войне с использованием ИИ
Китайские официальные лица полагают, что ИИ может положить начало новой революции в военном деле (RMA), которая может фундаментально изменить способы ведения будущих войн. Высокопоставленные китайские чиновники утверждают, что у НОАК есть возможность — учитывая сильную научно-техническую базу Китая — развивать передовые, разрушительные военные возможности с использованием ИИ.
Внимание Си Цзиньпина к военной модернизации привело к тому, что НОАК усилила свое стремление к реализации научных и технологических достижений, или «инновационному развитию». Помимо возобновления внимания к научно-техническим разработкам, в 2015 году НОАК приступила к значительным реформам, направленным на стимулирование военной модернизации и улучшение способности НОАК проводить совместные, многоплановые операции. В рамках этих реформ НОАК создала Силы стратегической поддержки (SSF) для наблюдения за развитием электронного, психологического, кибер- и космического военного потенциала. Недавно SSF были реорганизованы в Силы информационной поддержки, Силы киберпространства и Аэрокосмические силы. Комиссия по науке и технологиям, которой поручено стимулировать научно-технические инновации, раньше находилась в ведении Главного управления вооружений, но теперь является самостоятельным подразделением Центральной военной комиссии.
НОАК реформировала Академию военных наук и поручила ей объединить новые технологии с новыми оперативными концепциями. Кроме того, китайские военные опираются на ряд научно-исследовательских институтов, связанных с обороной, а также на игроков оборонной промышленности в создании инновационных технологий и концепций для будущих войн. Короче говоря, военные реформы и модернизация Китая направлены на то, чтобы помочь НОАК разработать и внедрить новые технологии, а также создать новые оперативные концепции, чтобы к середине этого столетия стать боевой силой мирового класса.
Предыдущие исследования показали, как НОАК разрабатывает и закупает широкий спектр военных систем с поддержкой ИИ.
Например, исследование CSET показало, что китайские военные приобретают технологии с поддержкой ИИ для анализа разведывательных данных, информационной войны, логистики и профилактического обслуживания, а также навигации и распознавания целей.
Сообщается, что НОАК также разрабатывает машинное обучение для дистанционного зондирования и ситуационной осведомленности; коммуникационные технологии с поддержкой ИИ, которые лучше защищены от помех; нейронные сети, способные управлять ракетами и гиперзвуковыми планирующими аппаратами; беспилотные, автономные воздушные, наземные, надводные и подводные аппараты; а также возможности управления данными и объединения с помощью ИИ, среди других приложений.
Китайские стратегические мыслители полагают, что ИИ и автономия увеличат скорость и эффективность военных операций, а также помогут в обнаружении, нацеливании и нанесении ударов. Они считают усовершенствование интеллектуальных боеприпасов, воздушных дронов и использование данных разведки, наблюдения и рекогносцировки (ISR) одними из наиболее важных событий, способствующих прогрессу в войне.
Они утверждают, что ИИ улучшит восприятие поля боя, улучшит командование и контроль (C2), поможет в принятии решений и сократит цикл OODA (наблюдение-ориентация-решение-действие).
Взгляды китайских экспертов на войну с использованием ИИ
Китайские учёные полагают, что развитие алгоритмов, коммуникационных технологий, датчиков и обработки данных приведёт к улучшению взаимосвязей между оружием, оборудованием и солдатами. Они утверждают, что достижения в области ИИ также улучшат целенаправленность и ускорят развитие Китаем совместных многопрофильных боевых возможностей.
Они отмечают, что развертывание систем командования, контроля, связи, компьютеров, разведки, наблюдения и рекогносцировки (C4ISR) нового поколения обеспечит вооруженным силам лучшую ситуационную осведомленность, разведку поля боя, высокоточные удары на большие расстояния и более эффективную оценку ущерба.
Другие утверждают, что технологии следующего поколения, такие как 5G, обеспечат «бесшовное взаимодействие беспилотных систем». Некоторые китайские комментаторы утверждают, что рои беспилотных летательных аппаратов (БПЛА) улучшат способность передовых вооруженных сил наносить удары по противнику. Третьи утверждают, что солдаты и интеллектуальные системы будут «беспрепятственно сотрудничать», что позволит проводить совместные многодоменные операции. По мнению некоторых ученых, автономные машины значительно сократят количество людей на полях сражений будущего и расширят глубину боевого пространства. Наконец, китайские эксперты предполагают, что технологический прогресс позволит достичь успехов в кибер-, психологической и когнитивной войне.
Китайские учёные отражают общее мнение о том, что прогресс в области ИИ позволит передовым вооруженным силам улучшить свои C4ISR, анализ данных и ударные возможности, постепенно удалять людей с полей сражений в будущем и использовать все более автономные системы.
Они утверждают, что сбор и обработка информации с помощью ИИ приведет к более быстрому и лучшему принятию решений и более точному нацеливанию, что позволит НОАК стать ведущей боевой силой. Интеграция новых технологий с передовыми военными системами, по словам одного ученого, приведет к эффекту «1+1>2», то есть цепочка убийств следующего поколения будет больше, чем сумма ее частей.
Многие ученые также выражают обеспокоенность по поводу потенциально дестабилизирующих эффектов военных систем с поддержкой ИИ. Большинство ученых, чьи работы упоминаются в докладе, считают, что новые технологии могут негативно повлиять на стратегическую стабильность, что приведет к увеличению количества превентивных ударов и динамике гонки вооружений, а также усложнит контроль над эскалацией. Кроме того, они обеспокоены распространением оборудования с поддержкой ИИ среди террористов и других негосударственных субъектов.
Как следствие, опрошенные ученые неоднократно отмечают, что ИИ — это «палка о двух концах», поскольку он предоставляет возможности для военного прогресса, одновременно увеличивая риски. Несмотря на эти опасения, они, похоже, выступают за развитие военного потенциала следующего поколения, поскольку их успешная реализация предоставит НОАК наилучшие шансы на победу над противниками в будущих боях.
Однако существует значительный разрыв между прогнозируемыми будущими возможностями и существующими технологическими реалиями.
Системы ИИ: возможности, характеристики и проблемы
Китайские эксперты по обороне полагают, что новые технологии повысят скорость боя, непредсказуемость поля боя и туман войны. Хотя они утверждают, что военные системы с поддержкой ИИ будут играть роль в создании этих условий, они также отмечают необходимость использования ИИ для эти потенциальные события на поле боя.
Однако авторы высказывают сомнения по поводу текущих возможностей технологий ИИ, отмечая, что ИИ в настоящее время «слаб» или лучше всего подходит для решения конкретных задач с четкими требованиями и границами. ИИ все еще пытается понять абстрактные концепции, самостоятельно рассуждать и принимать решения.
Более того, ИИ пока не способен рассуждать дальше математических вычислений, в результате чего системы, использующие ИИ, не могут выносить оценочные суждения или различать комбатантов и некомбатантов на поле боя. Узкая применимость систем с поддержкой ИИ ограничивает их полезность, а также более широкое развитие «разумной войны», по крайней мере, в краткосрочной перспективе.
Китайские наблюдатели, похоже, также питают глубокую обеспокоенность тем, что пробелы в объяснении могут привести к тому, что люди не будут доверять рекомендациям по принятию решений, генерируемым ИИ. Некоторые авторы отмечают, что отсутствие объяснимости создает скрытую опасность для применения ИИ. Другие эксперты выражают обеспокоенность по поводу обеспечения предсказуемости систем и, что, возможно, самое главное, управляемости, поскольку потеря контроля над системами ИИ может увеличить риск эскалации и более широкой нестабильности.
Авторы также выражают обеспокоенность по поводу доверия к ИИ. Существует обеспокоенность по поводу того, что эти системы недостаточно надежны и безопасны для эффективной работы, учитывая неопределенность современных или будущих полей сражений, или для того, чтобы быть устойчивыми к изменениям в оперативной среде. Более того, чрезмерная зависимость от таких систем ИИ может привести к непреднамеренной эскалации или предвзятости автоматизации.
Учитывая «медленное и незрелое развитие» технологии ИИ, эксперты утверждают, что, поскольку автономные военные системы с поддержкой ИИ становятся все более сложными, они по-прежнему будут ненадежными, хрупкими и нестабильными, что приведет к серьезным рискам для безопасности, увеличению шансов на просчеты и неопределенная эффективность. Из-за растущей сложности систем ИИ некоторые авторы опасаются, что ошибки конфигурации приведут к угрозам безопасности. Другие авторы сетуют, что ахиллесовой пятой систем ИИ является их уязвимость к специализированным атакам на их программное или аппаратное обеспечение. Учитывая зависимость ИИ от высококачественных обучающих данных, эксперты отмечают, что нейронные сети, обученные на недостаточном количестве данных, с трудом обобщают свои приложения и по-прежнему уязвимы к сбоям, таким как состязательные выборки или входные данные, предназначенные для того, чтобы заставить модели машинного обучения совершать ошибки.
Ученые также утверждают, что нынешние военные системы с поддержкой ИИ склонны к алгоритмической предвзятости, которая может привести к неверным суждениям, ложным тревогам и другим ошибочным выводам, которые могут поставить под угрозу стратегическую стабильность. Учитывая эти проблемы, а также проблемы, связанные с обеспечением безопасности, по крайней мере один эксперт прямо отмечает важность проявления осторожности при применении военного ИИ.
Данные обучения
Военные, которые лучше всего используют данные, будут иметь явные преимущества в завтрашних войнах. В своей стратегии в области ИИ Министерство обороны США признает как важность данных, так и существующие проблемы с использованием данных для боевых действий. Китайские ученые ставят под сомнение способность НОАК генерировать, собирать и управлять данными, необходимыми для разработки и внедрения изысканных военных систем с поддержкой ИИ. Эти опасения связаны с состоянием ресурсов данных военных, общим отсутствием данных, имеющих отношение к военным вопросам, а также трудностями обмена данными между различными службами, вооружениями, системами и платформами НОАК.
Во-первых, несколько ученых обсуждают вопросы, связанные с управлением китайской армией и организацией информационных ресурсов. Например, в одной статье экспертов Даляньской военно-морской академии объясняется, что некоторые военные данные записываются на бумаге и редко оцифровываются. Такая практика создает неточности и усложняет распространение данных, делая их менее полезными, поскольку другие части вооруженных сил не могут использовать их для обучения своих собственных систем. Более того, некоторые эксперты утверждают, что НОАК плохо справляется с отслеживанием информационных ресурсов и обеспечением их видимости как военным организациям, так и поставщикам оборонной продукции. Такие недостатки могут помешать НОАК в полной мере использовать свои ресурсы данных.
Ученые также обеспокоены доступом Пекина к данным для обучения систем ИИ. Учитывая, что Китай не вел войны более четырех десятилетий, они обеспокоены тем, что Пекин не обладает необходимыми боевыми данными для обучения интеллектуальному оружию. Ученые отмечают, что некоторые военные данные Китая получены в результате учений, которым не хватает масштаба и интенсивности реальных боевых действий, что может привести к тому, что система будет работать иначе в бою, чем в учебной среде. Кроме того, моделирование требует много времени и денег. В связи с этим некоторые ученые обеспокоены тем, что данные, полученные в таких условиях обучения, будет сложно использовать при подготовке к реальной войне, поскольку условия будущих сражений, вероятно, будут значительно отличаться. Ограниченность обучающих данных увеличивает вероятность того, что модели ИИ будут плохо обобщаемы, что ограничивает их эффективность в различных ситуациях.
Другие утверждают, что, поскольку военные системы с поддержкой ИИ генерируют значительно меньше данных, чем гражданские технологии, их труднее обучать. Интересно, что некоторые утверждают, что из-за сложности современного боя, тумана войны и обмана потенциального противника трудно достоверно маркировать данные, полученные в бою, что еще больше усложняет обучение систем с поддержкой ИИ. Более того, некоторые китайские эксперты предупреждают о сложности, если не невозможности, использования данных для получения боевого опыта ИИ-оружия или способности полностью понять сложности будущих сражений, ставя под сомнение их достоверность и, возможно, даже их полезность. Подобные опасения иллюстрируют трудности внедрения систем ИИ, эффективных в ряде сложных сценариев.
Для решения этих проблем, связанных с данными, китайские авторы выступают за использование четырёх основных стратегий:
более целенаправленный сбор и обработка данных;
использование методов науки о данных для улучшения или расширения небольших наборов данных;
использование взаимодействия человека и машины;
партнерство с коммерческими фирмами, которые могут располагать или создавать полезные данные.
Китайские ученые рекомендуют ускорить исследования и разработку инновационных технологий и методов, которые не полагаются на большие объемы размеченных данных, например, за счет использования параллельных систем для оптимизации алгоритмов ИИ для использования в ранее неизвестных средах — метода, используемого для обхода ограниченных возможностей. образцы данных. Они утверждают, что благодаря таким инновациям китайские военные смогут преодолеть существующие ограничения в области данных. Другие призывают к проведению исследований по моделированию генерации данных из нескольких источников и использованию технологий улучшения данных для расширения ограниченных источников данных.
В то время как некоторые китайские эксперты по обороне считают, что Пекину следует инвестировать в расширение своих ресурсов данных, другие подчеркивают необходимость разработки алгоритмов обучения для небольших выборок, в том числе с помощью метода обучения байесовских программ и трансферного обучения или использования существующих выборок для решения проблем в аналогичных областях. Интересно, что они указывают на возможность преодоления ограниченных выборок военных данных за счет использования человеческих знаний или объединения данных с графами знаний, которые могут понять машины. Помимо простого создания большего количества данных или внедрения специальных инструментов для обучения на ограниченных выборках, некоторые авторы призывают к партнерству с коммерческими фирмами, специализирующимися на обработке данных. Они утверждают, что такие механизмы военно-гражданского слияния могут снизить затраты военных на обработку данных и улучшить качество обучающих данных.
Обработка/анализ данных
Китайские ученые хорошо осведомлены о потенциале передовых технологий объединения данных, которые обещают повышение ситуационной осведомленности, более быстрое принятие решений и более точные удары. Китайские комментаторы отмечают необходимость разработки «всепогодной многомерной сети ситуационной осведомленности для обеспечения точного и всестороннего понимания и контроля ситуации на поле боя в реальном времени», которую они надеются частично создать за счет улучшения возможностей обработки данных.
Однако, как и в случае с вышеупомянутыми технологиями, китайские наблюдатели описывают несколько технических проблем, с которыми сталкиваются существующие возможности Китая по обработке или анализу данных. Некоторые утверждают, что нынешние системы разведки и вооружения генерируют огромное количество разнородных данных, которые сложно обрабатывать в режиме реального времени. Однако, как отмечалось выше, вопросы, связанные с объяснимостью и надежностью таких систем, привели к обеспокоенности по поводу текущих ограничений технологии. Другие эксперты указывают на недостатки современных китайских технологий объединения данных, связанные с вычислениями. Наконец, некоторые аналитики отмечают, что китайским военным по-прежнему сложно интегрировать информацию от радаров, электрооптических, гидролокаторов и других датчиков с возможностями объединения данных.
Учитывая важность точной и надежной обработки и анализа данных, китайские эксперты предлагают несколько рекомендаций, направленных на улучшение возможностей Китая.
Некоторые утверждают, что Китаю крайне важно добиться успехов в облачных вычислениях, анализе больших данных и интеллектуальном анализе данных, чтобы найти корреляции между большим объемом данных, генерируемых до и во время боя.
Ряд китайских авторов выступают за разработку технологий анализа данных, производимых военным оборудованием, с целью диагностики неисправностей и улучшения профилактического обслуживания, в то время как другие утверждают, что прорывы в квантовых вычислениях откроют возможности создания изысканных возможностей объединения данных.
Хотя подавляющее большинство статей, рассмотренных в этом исследовании, были опубликованы до 7 октября 2022 года, закона США о контроле над экспортом полупроводников, в нескольких статьях отмечается важность внутренней разработки полупроводникового оборудования, которое будет способствовать созданию все более мощных компьютеров, способных анализировать данные. через огромное количество данных.
Сетевая и кибербезопасность
В связи с обеспокоенностью по поводу безопасности и надежности многие китайские учёные считают существующие системы ИИ весьма уязвимыми для кибератак и других сбоев.
Они описывают трудности защиты от сетевого паралича, когда компьютерные сети, системы или инфраструктура серьезно повреждены или становятся неработоспособными. Ставятся задачи предотвращения взлома алгоритма и избежания уничтожения данных. Другие ученые также предупредили, что злоумышленники могут испортить данные обучения систем ИИ, что приведет к тому, что эти системы будут совершать ошибки и потенциально станут непригодными для использования. Чем больше у человека данных, тем сложнее их защитить и тем выше вероятность того, что злоумышленники смогут изменить данные и подделать алгоритмы. Наконец, некоторые эксперты обеспокоены тем, что атаки на компьютерные системы могут повредить возможности обработки информации и контроля и даже позволить злоумышленнику получить контроль над этими системами.
Китайские эксперты по обороне утверждают, что невозможность узнать, проник ли противник в дружественные сети, увеличивает риски, связанные с надежностью ИИ.
Некоторые авторы утверждают, что неспособность стран полностью защитить себя от кибератак в сочетании со скоростью, с которой такие вторжения происходят, может привести к началу и эскалации войн.
Некоторые ученые даже обеспокоены тем, что кибер- и автономное оружие может быть использовано для нападения на ядерное оружие, средства его доставки, системы командования и контроля или другую инфраструктуру, и все это может угрожать стратегической стабильности и вызывать кризисы.
Учитывая сомнения в кибербезопасности сетей, использующих технологии ИИ, многие китайские ученые рекомендуют разрабатывать кибертехнологии и методы для защиты от будущих вторжений. В то время как некоторые эксперты отмечают потенциальную важность когнитивных вычислений и интеллектуальных технологий обнаружения уязвимостей для лучшей защиты систем ИИ, другие утверждают, что принятие эластичных или отказоустойчивых сетевых конструкций и следование модели кибербезопасности «нулевого доверия» может улучшить киберзащиту.
Другие утверждают, что блокчейн может предотвратить подделку данных и способствовать децентрализации и, таким образом, защитить систему от проникновения, даже если один сетевой узел будет скомпрометирован.
Датчики
Китайские ученые отмечают важность высокопроизводительных датчиков для разведки и разведки, особенно для подводного обнаружения и слежения за подводными лодками, а также для спутникового обнаружения обычного и ядерного оружия. Однако, как и в случае с некоторыми из ранее упомянутых технологий, китайские ученые обрисовывают ряд проблем, связанных с существующими в Китае датчиками, а также проблемы с объединением данных от разрозненных датчиков.
Например, в статье вице-председателя Китайского альянса производителей датчиков и Интернета вещей излагаются некоторые проблемы не только с отечественной сенсорной технологией Китая, но и с более широкой сенсорной индустрией страны. По мнению автора, Китай производит большое разнообразие датчиков, но их качество и технический уровень остаются значительно ниже, чем у наиболее передовых мировых производителей датчиков, что затрудняет конкурентоспособность Китая во многих высокотехнологичных областях. Поскольку конкуренты уже давно производят датчики высокого уровня, китайским фирмам сложно проникнуть на рынок и получить доступ к нему.
Другие комментаторы отмечают недостатки датчиков, связанных с эксплуатацией домена. Например, некоторые авторы утверждают, что сложные, изменчивые наземные условия представляют собой значительные препятствия для датчиков. Некоторые эксперты отмечают проблемы с обнаружением кораблей в море из-за факторов окружающей среды, уникальных для морских операций, а также сложности различения военных и гражданских судов в многолюдных районах. Третьи отмечают недостатки подводных датчиков, которые они считают недостаточно эффективными. Наконец, некоторые утверждают, что военной технике все еще не хватает удовлетворительных возможностей восприятия поля боя.
Китайские авторы связывают эти опасения с четким пониманием того, как новые технологии могут быть разработаны для обмана или обхода датчиков. Они отмечают, что китайские гиперзвуковые ракеты эффективны отчасти потому, что у них уменьшены площади отражения радаров, относительно плоские траектории и минимизированы инфракрасные сигнатуры, которые могут сбить с толку американские радары и инфракрасные датчики космического базирования. Однако они обеспокоены тем, что их собственные датчики уязвимы для подобных обманов, в том числе за счет использования электрооптических ложных целей и камуфляжа.
Вышеупомянутый вице-председатель альянса производителей датчиков отмечает, что промышленность обеспокоена тем, что для китайских компаний, занимающихся производством датчиков, будет «невозможно» получать передовые технологии и процессы из развитых стран из-за торговой и технологической конкуренции между США и Китаем. Поэтому, утверждает он, Китай должен разработать надежную промышленную политику, направленную на финансирование компаний, занимающихся разработкой полупроводников, керамики, органических полимерных материалов и оптических волокон для использования в новейших датчиках. Возможно, самое главное, он отмечает необходимость улучшить качество датчиков, сделав их меньше, надежнее и энергоэффективнее. Вместо того, чтобы сосредоточиться только на передовых датчиках, некоторые ученые утверждают, что распространение датчиков в различных областях — например, в системах подводного наблюдения и спутниковом дистанционном зондировании для обнаружения подводных лодок — может улучшить ситуационную осведомленность. Поэтому они выступают за использование огромного количества датчиков для преодоления ограничений качества.
Коммуникационные технологии
Китайские стратегические аналитики полагают, что сети связи будут играть решающую роль в будущих сражениях, но они, похоже, обеспокоены их нынешним состоянием развития.
Центральное место в беспокойстве, связанном с существующими военными коммуникационными технологиями, заключается в том, что сложно устанавливать и поддерживать соединения с высокой пропускной способностью, низкой задержкой и достаточной пропускной способностью для удовлетворения постоянно растущих требований к передаче информации. Это особенно тревожно в отношении видеоданных, которые дроны и другие датчики генерируют в больших количествах. Ученые обеспокоены тем, что проблемы с пропускной способностью будут препятствовать передаче больших объемов данных для анализа и обработки в реальном времени. Учитывая зависимость от устаревших технологий, части вооруженных сил Китая в течение некоторого времени будут продолжать полагаться на дорогие и хрупкие каналы передачи данных. Другие китайские эксперты отмечают, что сбор и обработка информации во многом ограничиваются отдельными платформами и что зачастую «невозможно» передать информацию с этой машины в центры обработки данных в режиме реального времени. Ограничения объема передачи данных и задержки снижают военную эффективность, поскольку они ставят под угрозу командование и управление, а также обработку данных.
Китайские учёные, занимавшиеся этим вопросом, похоже, особенно обеспокоены каналами передачи данных как для БПЛА, так и для НПА (беспилотных подводных аппаратов). Что касается первого, некоторые авторы отмечают, как помехи и другие методы радиоэлектронной борьбы нарушают связь с наземными станциями и ставят под угрозу полезность этих систем. Зависимость БПЛА от наземных или воздушных ретрансляторов также создает проблемы с надежностью, в то время как спутниковая связь может страдать от низкой скорости и длительных задержек. Другие эксперты отмечают, что нынешним коммуникационным технологиям не хватает задержки, пропускной способности, надежности и качества обслуживания (QoS ), которые потребуются будущим полуавтономным БПЛА для полной эффективности. Кроме того, сетевые требования для воздушных роев, которые должны постоянно обмениваться данными с другими узлами роя, более сложны, чем сравнительно простые каналы дистанционного управления, которые просто передают данные от дрона к оператору и обратно.
Подводная среда создает значительные трудности при эксплуатации НПА. Под водой связь очень ограничена, что затрудняет, а то и делает невозможным установление каналов передачи данных на большие расстояния. Подобные проблемы усложняют оперативное и тактическое взаимодействие подводных аппаратов и других сил.
В то время как некоторые ученые утверждают, что необходимо повысить автономность, чтобы избежать многих ловушек, связанных с некачественной или нарушенной связью, другие отмечают, что Китаю следует провести дальнейшие исследования сетей связи, чтобы повысить их стабильность, уменьшить задержки и улучшить пропускную способность. Китайские эксперты предлагают ряд предложений по будущим приоритетам исследований и разработок, связанных с коммуникациями, от многоскачковой передачи для подводных сетей до технологии когнитивного радио для уменьшения сбоев, вызванных электромагнитными помехами, а также использования технологии блокчейн для гарантии передачи данных в спорных зонах.
Однако среди наиболее популярных рекомендаций — использование технологий Интернета вещей ( IoT ) и сетей связи с поддержкой 5G. Первые могут быть использованы для создания более надежных боевых сетевых систем, а вторые обладают более высокой пропускной способностью и скоростью передачи, чем традиционные сети связи. Такие технологии, как утверждают некоторые китайские обозреватели, могут обеспечить работу роя дронов, обеспечить эффективность связи и снизить затраты.
Помимо Интернета вещей и 5G, некоторые ученые полагают, что децентрализованные, динамичные, самоорганизующиеся сети будут определять будущие коммуникационные инфраструктуры. Обычные каналы передачи данных имеют статические сети, которые не могут реорганизоваться в режиме реального времени, но эти сети следующего поколения лучше приспособлены для поддержки скоординированных операций.
Динамические сети, как утверждают некоторые китайские обозреватели, могут по запросу формировать временные связи для конкретных миссий. С другой стороны, децентрализованные сети могут быть менее уязвимы к сбоям и достигать большей гибкости. Способность быстро адаптироваться к истощению дронов или электромагнитным помехам, особенно для автономных группировок и скоординированных ракетных формирований, вероятно, окажется решающей для поддержания эффективности в высококонкурентных боевых условиях будущего.
Стандарты
Несмотря на быструю военную модернизацию Китая, некоторые ученые отмечают, что НОАК не имеет достаточных стандартов для разработки и внедрения ключевых технологий, таких как глубокое обучение и использование, сбор и управление данными, а также для создания и управления более широкими боевыми системами, которые полагаются на эти технологии. Как и предыдущий раздел, следующий также охватывает коммуникационные технологии, лишь некоторые из которых связаны с ИИ.
Согласно исследованиям RAND Corporation, китайские эксперты, судя по всему, верят, что в будущих войнах выиграют силы, обладающие более совершенными системами военных систем, а НОАК сейчас сосредоточена на разработке синергетических военных оперативных систем, которые, по мнению экспертов, позволят ей одержать победу над враждебными системами. Авторы статей, рассмотренных для данного отчета, согласны с тем, что разработка таких систем имеет решающее значение, но они, похоже, обеспокоены тем, что недостаточно надежные военные стандарты НОАК могут помешать ее усилиям по их созданию.
Например, многие китайские эксперты по обороне отмечают важность различных аспектов построения боевой «системы». Такие системы должны быть совместимыми и иметь общие основные элементы конструкции, что позволит избежать нынешней тенденции к развитию в «разрозненных и хаотичных условиях».
Китайские эксперты отмечают важность стандартизации, модульности и сериализации аппаратного и программного обеспечения для быстрой интеграции и модернизации систем вооружения, а также построения гибкой и устойчивой боевой системы. Те, кто полагается на программное обеспечение, скорее всего, будут жесткими и хрупкими, что сделает их уязвимыми в будущих войнах. Другие отмечают, что систематизация, обобщение и модульность также будут иметь решающее значение для оборудования с поддержкой ИИ, такого как ракеты и системы беспилотного оборудования.
Однако они отмечают, что военная стандартизация остается недостаточной. В частности, они утверждают, что интеллектуальное оружие и оборудование все еще находятся на ранних стадиях стандартизации. Как отмечалось выше, некоторые комментаторы отмечают, что в китайской практике сбора, использования и управления данными отсутствуют стандарты, в то время как другие утверждают, что UUV и USV (беспилотные надводные транспортные средства), а также интеллектуальное вспомогательное оборудование разрабатываются в отсутствие надежных стандартов. Учитывая эти недостатки, эксперты выступают за различные меры по созданию стандартов.
Некоторые эксперты призывают к созданию стандартов для алгоритмов, данных, сетей связи, а также тестирования и оценки интеллектуального оружия, чтобы обеспечить совместное планирование, проектирование, строительство и тестирование боевых систем. Некоторые ученые отмечают потенциальную полезность создания организаций для разработки отраслевых стандартов. Другие аналитики утверждают, что исследования, направленные на создание общих технических стандартов для разработки глубокого обучения и нейронных сетей, а также для больших данных, облачных вычислений и Интернета вещей, будут способствовать созданию и поддержанию передовых систем защиты, которые зависят от этих технологий. Другие выступают за разработку стандартов, включая проектные спецификации и стандарты производственного процесса, для конкретных оборонных приложений, включая ракеты, UUV и USV, а также системы шифрования. Третьи отмечают важность создания открытых архитектур, модульности и взаимозаменяемости деталей, методов тестирования и оценки, а также интеграции передачи данных для улучшения межсистемной совместимости.
Тестирование и оценка
Китайские ученые в целом согласны с тем, что тестирование и оценка (Tи О) необходимы для повышения доверия к интеллектуальным системам и установления их боевой эффективности. Однако они также открыто выражают обеспокоенность по поводу китайского режима Ти О для систем с поддержкой ИИ.
Некоторые учёные видят многочисленные проблемы, препятствующие Китаю на пути к созданию надежных режимов Ти О. Например, они отмечают, что из-за сложности и неопределенности будущих войн невозможно протестировать автономные системы вооружения во всех возможных сценариях, что делает невозможным их полную оценку. Они также утверждают, что сами испытания могут вызвать проблемы с безопасностью. Некоторые жалуются на высокие затраты, связанные с проведением экспериментов по Ти О, в то время как другие, как отмечалось выше, указывают на отсутствие стандартов Ти О, имеющих решающее значение для систематического развития военных систем с поддержкой ИИ. Наконец, эксперты отмечают трудности, связанные с оценкой интеллекта различных систем с поддержкой ИИ. Такие трудности приводят к отсутствию доверия к системам, уровень интеллекта которых невозможно легко проверить или подтвердить.
Поскольку протоколы ТиО для военных систем с поддержкой ИИ лишь сравнительно недавно стали предметом пристального внимания, в документах содержится более подробное обсуждение того, как создать или улучшить эти режимы, чем анализ существующих проблем, связанных с ТиО.
Некоторые авторы, например, призывают к разработке стандартов Tи О для множества приложений, связанных с искусственным интеллектом, таких как взаимодействие человека и машины, интерфейсы «мозг-компьютер», системы вооружения и оборудования, группы БПЛА и полупроводники. Другие утверждают, что Китаю следует разработать стандартные наборы данных для испытаний и оценки ракетных систем с поддержкой ИИ. Третьи предлагают конкретные рекомендации по созданию рамок для методов моделирования, особенно для алгоритмов и оружия, а также по созданию специализированных испытательных центров для беспилотного оборудования, среди прочего.
Некоторые ученые также отмечают важность обширных практик Ти О для создания систем оперативных систем, на которые НОАК будет опираться в будущих войнах. Как обсуждается в докладе, системы вооружений полагаются на сети связи, датчики и системы обработки данных, которые, если они не проходят индивидуальное тестирование, могут быть ненадежными. Поэтому некоторые ученые утверждают, что все стороны, участвующие в разработке интеллектуального оружия, от производителей устройств до сетевых поставщиков и конечных пользователей, должны подвергнуть свою продукцию строгим испытаниям, прежде чем объединять отдельные системы вместе для формирования систем. Другие утверждают, что такие испытания могут способствовать интеграции и боевому применению военных систем. Короче говоря, китайские ученые признают, что Ти О является проблемой как на уровне компонентов, так и на уровне системы. Недостаточно протестировать отдельный дрон. Скорее, этот дрон должен быть протестирован сам по себе, а затем, например, как компонент более крупной системы дронов в рое.
Ключевые выводы
1. В соответствии с результатами анализа CSET, китайские учёные в области обороны полагают, что ИИ и другие новые технологии предоставляют Китаю уникальную возможность догнать или превзойти Соединенные Штаты в военном отношении.
2. Однако многие из китайских аналитиков обеспокоены тем, что НОАК пока отстает от вооруженных сил США в разработке и внедрении ИИ и связанных с ним новых технологий.
3. Китайские эксперты по обороне утверждают, что НОАК сталкивается с препятствиями на пути разработки и внедрения ИИ и связанных с ним новых технологий. Препятствия, на которые указывают эксперты, аналогичны некоторым из тех, с которыми, судя по всему, борются и американские военные. Например, китайские наблюдатели обеспокоены способностью НОАК гарантировать сетевую и кибербезопасность, поддерживать связь в будущих конфликтах высокой интенсивности и разрабатывать надежные системы ИИ.
4. Эксперты также указывают на проблемы, которые могут быть особенно актуальны для способности НОАК эффективно использовать военные системы с поддержкой ИИ. Эти проблемы связаны со сбором, управлением и анализом военных данных, а также с разработкой высококлассных датчиков. Они также, похоже, обеспокоены недостаточно строгими военными стандартами НОАК, а также практикой испытаний и оценки. Эти проблемы, а также проблемы, упомянутые в предыдущем абзаце, могут усложнить путь Китая к ведению системной войны с использованием ИИ— ключевой оперативной концепции, которая, по мнению НОАК, поможет ей выигрывать в будущих войнах.
5. Вопреки некоторым обсуждениям в США взглядов Китая на военный ИИ, многие китайские эксперты, чьи аргументы были проанализированы в этом докладе, высказывают опасения по поводу использования недостаточно надежных систем ИИ в военном контексте. Они также выражают обеспокоенность по поводу рисков возникновения или эскалации войн, гибели мирного населения и нападения на дружественные силы со стороны военных систем с поддержкой ИИ из-за недостаточно надежного ИИ. Наконец, они отмечают, что ненадежные военные системы ИИ могут оказаться менее эффективными в будущих войнах.
