Владимир Овчинский

| «Завтра»

Кто станет «властелином мира»

Когда в прошлом году в День знаний Президент России Владимир Путин заявил: Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира», многие СМИ, особенно из числа оппозиционных, отнеслись к этим словам весьма скептически. А некоторые поспешили объявить это предвыборной риторикой. На самом деле, этот скепсис – от незнания реального положения дел, особенно в вопросах использования искусственного интеллекта (ИИ) в военных и разведывательных целях.

Не по воле России наша страна во всех стратегических документах Белого дома, Пентагона и американского разведывательного сообщества в период правления Трампа возведена в ранг основных противников США. Ознакомление с последними (2018 года) докладами различных исследовательских центров Конгрессу США по вопросам обеспечения национальной безопасности свидетельствует о том, достижение военного превосходства над Россией в Соединенных Штатах будет осуществляться именно с помощью интенсивного развития научно – технологических разработок в области ИИ.

В 2016 г. американские технологические компании инвестировали в ИИ более 20 млрд долларов, а в 2017г. – уже почти 30 млрд. По оценкам Американского научного фонда, инвестиции американского бизнеса и университетов в ИИ к 2025 г. возрастут как минимум до 130-150 млрд долларов.

ИИ имеет ряд уникальных характеристик, которые превращают этот технологический пакет в ключевой элемент системы национальной безопасности.

Во-первых, ИИ – это многоцелевая технология. Она может быть интегрирована практически во все другие технологии.

Во-вторых, многие, а по сути, почти все приложения ИИ являются технологиями двойного назначения и имеют как военное, так и гражданское применение. Например, алгоритм распознавания образов можно одинаково быстро обучить распознаванию кошек в видеороликах и террористов в видеопотоках, передаваемых дронами.

В-третьих, ИИ является, в конечном счете, программно-аппаратным комплексом, внешне мало отличимым от других подобных систем. Соответственно интеграция ИИ в продукт внешне не распознаваема. Уже сейчас понятно, что в подавляющем большинстве случаев одно и то же изделие может функционировать как автономно, так и подключенным к ИИ. В результате, одно и то же изделие будет обладать принципиально различным уровнем эффективности, возможности и полезности в зависимости от подключенности к ИИ или ее отсутствии.

Пентагон и ЦРУ изучают множество разнообразных направлений использования ИИ. Эта работа ведется в основном в рамках DARPA (Управление перспективных исследовательских проектов Минобороны США) и IARPA ( Агентство передовых исследований в сфере разведки США).

Организация работы с ИИ в Пентагоне

В Пентагоне разработкой стратегии использования ИИ в сфере национальной безопасности и координации исследований занимается Канцелярия помощника Министра обороны по исследованиям и инженерии, а сам помощник несет личную ответственность перед Министром обороны, Администрацией Президента и Конгрессом за максимально эффективное использование ИИ в интересах национальной безопасности.

В апреле 2017 г. под руководством заместителя Министра обороны по разведке создана и начала активно работать междисциплинарная и многофункциональная команда по разработке стратегии и тактики алгоритмических войн, а также их программно-аппаратному обеспечению со стороны ИИ. Работа этой команды известна как проект Maven. Главная цель проекта Maven состоит в максимально быстром внедрении ИИ в оборонительные и наступательные системы в сфере военного, финансово-экономического и поведенческого противоборства. Проект призван продемонстрировать огромный потенциал технологий ИИ. В рамках проекта на период до 2020 г. поквартально расписаны цели и ресурсы. Информация по проекту Maven доступна только комитетам Сената и палаты Представителей по разведке, т.к. относится к засекреченной сфере.

Недавно Директор проекта Maven заявил: «Maven предназначен для того, чтобы быть пилотным проектом. Он призван продемонстрировать неисчерпаемый потенциал ИИ в сфере алгоритмических войн, а конкретно кибер, финансово-экономических и поведенческих конфликтов и противоборств, а также в сфере управления и прогнозирования конфликтов на пяти полях боя: на земле, в воздухе, в космосе, под водой и в киберсреде.

Разведка, наблюдение и прогнозирование

Ожидается, что на горизонте одного-трех лет ИИ даст максимальный эффект в разведке для обработки и анализа больших, в том числе неструктурированных, зашумленных и неполных. Одним из результатов проекта Maven стало создание системы опережающего мониторинга и прогнозирования на основе разнообразных данных действий противника – ИГИЛ. Система Cointer-ISIL-Maven начала эксплуатироваться с июля 2017 г. и показала высокую эффективность в борьбе с ИГИЛ. Эта система включает в себя сложный программно-аппаратный комплекс, состоящих как из периферийных систем, так и центрального ИИ. В качестве периферийных систем используются автоматизированные дроны, оснащенные системами компьютерного оптического зрения. Среди принципиально новых модулей центрального ИИ, созданного в рамках проекта, необходимо отметить гибкие модифицированные блоки нейронных сетей с машинным обучением, позволяющих распознавать нечеткую оптическую информацию на уровне более высоком, чем наблюдатели-люди.

Помимо засекреченных, у разведывательного сообщества есть несколько публично рекламируемых исследовательских проектов в области ИИ. В настоящее время только в интересах ЦРУ осуществляется 137 публично финансируемых проектов, связанных с ИИ. В основном эти проекты направлены на решение таких задач, как анализ разнородной структурированной и неструктурированной разноформатной, зашумленной и неполной информации. Более 25 проектов связаны с использованием ИИ, в том числе в составе симбиотического (гибридного – человек + ИИ) интеллекта, совместно с группами экспертов для прогнозирования будущих событий, таких как террористические атаки, гражданские беспорядки, финансово-экономические, политические и военные кризисы и т.п.

IARPA в настоящее время финансирует крупнейший в истории Америки проект по созданию человеко-машинной платформы симбиотического интеллекта для распознавания слабых сигналов в информационном шуме и прогнозирования маловероятных событий. Также ИИ активно используется для разработки алгоритмов одновременного многоязычного распознавания речи и перевода акустической речи в тексты с уровнем, превосходящим применяющиеся в настоящее время системы машинного перевода.

Логистика

В разработках ИИ в Соединенных Штатах много внимания военной логистике. Например, ВВС США работают над использованием ИИ для составления графиков обслуживания летательных средств, включая графики дозаправки в воздухе и проведения ремонта. Вместо того, чтобы осуществлять дорогостоящий ремонт, когда самолет или вертолет выходит из строя из-за поломок, ИИ разработал модели, позволяющие проводить предупредительное техническое обслуживание воздушных судов. Это повышает надежность их эксплуатации при более низких затратах. Данная система, созданная в 2017 г. включает в себя встраиваемые в воздушные суда датчики, передающие шифрованные сигналы центральному интеллекту, в котором они становятся базой для работы алгоритма прогнозирования.

В настоящее время подобные системы оснащены не только тяжелые транспортные самолеты ВВС США, но и многие самолёты Boеing, используемые авиакомпаниями страны.

В сентябре 2017 г. Управление материально-технического снабжения сухопутных войск США подписало второй контракт с IBM на сумму 135 млн долларов для создания персонального электронного помощника бойца штурмового отряда на базе ИИ. Этот проект стал продолжением первого проекта, начатого в 2014 и завершенного в 2016 г. В рамках первого проекта электронный индивидуальный помощник-эксперт был создан для работников полевых штабов дивизий быстрого развертывания на базе IBM Watson.

ВМС США заказали в 2017 г. версию Watson, предназначенную для разработки планов оптимального материально-технического снабжения военно-морских группировок и отдельных судов, находящихся в мировом океане, и контроля над их выполнением. Командование сухопутной армии полагает, что использование логистического Watson в армии обеспечит ежегодную экономию 100 млн. долларов за счет оптимального распределения логистических потоков и планов материально-технического обеспечения вооруженных сил.

Киберпространство

Наиболее активно ИИ вероятно будет использоваться в киберпространстве. В настоящее время Киберкомандование США разместило через DARPA заказы по использованию ИИ для мгновенного обнаружения аномалий и дыр в киберзащите. Представляется, что именно ИИ с его быстродействием позволит наиболее эффективно управлять боевыми киберплатформами на самой деликатной стадии киберпротивоборств — фазе проникновения в сети противника.

DARPA недавно продемонстрировала потенциальную мощь, синергию кибервооружений и ИИ. Был проведен конкурс, в рамках которого задачу проникновения в хорошо защищенную критическую сеть решали команды хакеров из нескольких стран, известные высоким уровнем своей квалификации, и команда военных хакеров, вооруженных ИИ, распознающим уязвимости. Команда военных хакеров смогла обнаружить уязвимости в критической сети за 0,7 секунды и незаметно проникнуть за 1,4 секунды. Лучшая команда хакеров решила эти задачи соответственно за 4 минуты и 1,5 часа.

Командование и контроль

Вооруженные силы США стремятся максимально использовать ИИ в области управления и контроля. Наиболее продвинутая система создана в настоящее время в ВВС Соединенных Штатов. Она в настоящее время доведена до уровня штабных работников командования ВВС. В период до 2019 г. система охватит уровень авиационных полков и дивизий.

Как известно, одной из наиболее сложных в практическом плане задач является сохранение управляемости и поддержание взаимодействия командования и боевых единиц в ходе реальных военных действий, когда противник наносит удары не только на поле боя, но и по центрам командования. Речь идет о создании системы регенерации командования и контроля в жёстких конфликтах. Регенеративная система должна быть организована таким образом, чтобы после выхода из строя тех или иных узлов и уровней командования, система перестраивалась и в новой конфигурации сохраняла высокий уровень управления и координации. В настоящее время командование ВВС совместно с корпорацией Lockheed Martin и корпорацией Alphabet приступили к созданию такой системе на основе симбиотического интеллекта, используя традиционные командные центры и защищенный ИИ.

Автоматизированные боевые средства и ИИ

Все рода войск США в последние годы имплантируют ИИ в различные типы автономных транспортных средств. По сути, вооруженные силы ведут работу параллельно с бизнес-сектором по созданию транспортных средств с полным самообслуживанием. Военные подрядчики вооруженных сил, начиная с 2017 г. ежегодно представляют такого рода автономные транспортные средства с использованием ИИ. С 2019 г. Министерство обороны запускает проект стоимостью в 430 млн долларов по созданию систем, включающих центральный ИИ и роевые или стайные автономные транспортные средства, оснащенные датчиками и интерфейсами, позволяющими перейти от индивидуального к коллективному машинному обучению.

Исследовательская лаборатория ВВС завершила вторую фазу испытаний по программе «Недоверчивый Уигман». В рамках программы впервые создан и проходит испытания полноценный беспилотный истребитель пятого поколения. В 2017 г. тестовый вариант, реализованный на более дешевом истребителе F16, прошел испытание. В их ходе машина, оснащенная ИИ, автономно реагировала на события, которые не были включены в программу полетов и представляли собой непредвиденные препятствия и сложности для выполнения заданий. Из 17 испытательных заданий в 16, не считая самого первого, платформа справилась со всеми сложностями. Уже сегодня очевидно, что ИИ позволяет создавать полностью функциональные боевые истребители и самолеты-штурмовики, не уступающие, а по ряду параметров превосходящие такие же самолеты, пилотируемые людьми.

По сути это представляет собой следующий шаг после массового внедрения в военную практику дронов – робототехнических летательных комплексов с ограниченными огневыми возможностями. Кроме того, по заданию ВВС в настоящее время завершается отработка комплексных авиационных звеньев, которые предусматривают патрулирование и ведение боевых действий группой самолетов, один из которых пилотируется человеком, а несколько – системами с ИИ. В этом случае человек может в определенных случаях изменить команды ИИ. Данная система разрабатывается ВВС, поскольку командование авиацией, по крайней мере, в настоящее время и в ближайшем будущем не готово доверить решение о применении тактического ядерного оружия, которым оснащены многоцелевые истребители-бомбардировщики, роботам.

Сухопутные войска и Корпус морской пехоты испытали прототипы автономных транспортных средств, а том числе оснащенных средствами огневого поражения. В ходе действий Сил специального назначения США в Ираке, Афганистане и Сирии в 2017 г. сухопутные войска уже активно применяли в боевых условиях роботизированные автономные эвакуационные машины. Они продемонстрировали высокую эффективность на поле боя и помогли спасти жизни нескольких сот американских солдат.

Корпус морской пехоты в 2018 г. начнет принимать на вооружение многофункциональный универсальный роботизированный тактический транспорт. Роботизированное с элементами ИИ транспортное средство грузоподъемностью от одной до трех тонн будет следовать за ротами и взводами морских пехотинцев по местности с любым рельефом и любой сложности. Средства предназначены для транспортировки любых грузов – от запасных патронов и снарядов до пищи и одеял. Несколько аналогичных средств в настоящее время разрабатываются и для сухопутных вооруженных сил.

Режим распространения и использования ИИ

Начиная со времен Холодной войны большинство основных технологий, связанных с обороной, были впервые разработаны в рамках правительственных программ, а затем нашли применение в сфере бизнеса и гражданского общества. Это относится не только к ядерным технологиям, но и к интернету. Однако в настоящее время все перевернулось с ног на голову. С середины десятых годов разработкой ИИ в основном занимаются университеты и бизнес-структуры. Пентагон и ЦРУ в значительной части выступают не заказчиками и финансирующей стороной, а лишь адаптирует уже имеющиеся решения под нужды национальной безопасности. В прошлом вопросы нераспространения и засекречивания высоких технологий решались просто. Они включались в условия конкурсов, а также договоров подряда, заключаемых с Министерством обороны или офисом Директора национальной разведки. Сегодня проблему таким образом не решить, поскольку исследования в области ИИ ведутся на частные деньги, а соответственно являются частной собственностью.

ИИ – это одна из многих технологий двойного назначения. Однако у нее есть некоторые особенности, связанные с уникальным характером ИИ. По сути ИИ все больше выступает не как отдельная технология, а как платформа интеграции и усилитель возможностей для других технологий новой производственной революции, включая робототехнику, синтетическую биологию, биотехнологии, экономику внимания и поведения, и т.п.

В 2017 г. по заказу IARPA Чикагский университет, Северо-Западный университет, университет штата Айова и MTI провели исследование относительно защищенности важнейших функций и компонентов ИИ в отношении овладения ими государствами — противниками, террористическими группировками и организованной преступностью. В рамках комплексной работы, в которой участвовало более 100 лучших экспертов и практиков по созданию ИИ, из всей совокупности технологий, решений и компонентов разнообразных систем ИИ, было выделено 43 критических технологических решения. Лишь 15 решений созданы в рамках закрытых программ, финансируемых правительством США в рамках DARPA, IARPA и инвестиционных фондов с участием государства. Еще 21 решение является коммерческой собственностью юридических лиц – резидентов Соединенных Штатов. Остальные критические решения либо принадлежат компаниям за пределами Соединенных Штатов, либо вообще относятся к категории программного обеспечения с открытым кодом.

Несколько иная ситуация сложилась в области аппаратного обеспечения ИИ, особенно в сфере таких прорывных направлений, как мемристоры, графеновые и алмазные процессоры, оптические платы и т.п. Было выделено 17 ключевых технологий. Из них 9 технологий разрабатываются за счет средств тех или иных структур федерального правительства США. Остальные 8 разрабатываются либо за счет средств американских инвесторов, либо компаниями-резидентами Соединенных Штатов.

Учитывая, что, по крайней мере, несколько стран по уровню технологической зрелости, качеству разработчиков и выделяемым финансовым ресурсам способны в ближайшее время осуществить прорывы в области ИИ , в Белом доме рассматривают вопрос о более активном участии федерального правительства США в финансировании ИИ. Для этого, вероятно, будут использованы не привычные формы подряда и бюрократических процедур, характерных для размещения заказов Министерства обороны, а формы, опробованные разведкой США – типа инвестиционного фонда In-Q-Tel.

Примером эффективной организации работы в области ИИ является уже упомянутый проект Mаven. Группа организована в апреле 2017 г. В июне 2017 г. Конгресс выделил финансирование, а уже в июле, в том числе за счет собственных средств университетов и коммерческих структур, в последующем покрытых государственными ресурсами, команда выдала первые работающие системы ИИ. Ни одна другая команда не обеспечила такой быстроты и эффективности в решении задачи. Данный единичный факт позволяет сделать более широкомасштабный вывод. Гонка за ИИ ведется в условиях все более ускоряющегося времени. В этих условиях привычные структуры комитетов, комиссий, процедур размещения заказов и т.п. не работают. Администрации США не остается ничего другого, как перенимать опыт венчурной индустрии. Такого рода задачи должны решать специально создаваемые структуры, имеющие минимальное количество связей с уже действующими встроенными в систему административного аппарата органами, министерствами и агентствами.

Следует также иметь в виду и ее одно обстоятельство. Коммерческий сектор заботится о репутации и не во всех случаях хочет напрямую работать с государством в качестве подрядчика. Например, в 2017 г. Google отказался от заключения с Министерством обороны двух крупных контрактов, продал две крупнейших компании – производителей робототехники для Пентагона, и запретил будущую работу с правительством компании DeepMind, которая занимается квантовыми компьютерами. Проблема состоит в том, что такие компании как Google, хотя и являются американскими резидентами, ведут деятельность по всему миру. Соответственно излишне тесная увязка их имиджа с правительством США вредит их бизнесу, особенно в условиях обострения отношений США не только с традиционными врагами, но и странами ЕС и Китаем. В связи с эти Белый дом, Пентагон и ЦРУ широко использовать для работы по ИИ различного рода инвестиционные фонды, венчурные компании и т.п., юридически не связанные с правительством США.

В исследованиях, представленных Конгрессу США, отмечено, что определенные трудности в использовании ИИ создает сложившиеся отношения и культура взаимодействий внутри самого сектора национальной безопасности. В настоящее время сектор национальной безопасности относится к числу наиболее забюрократизированных структур. Понятно, что там, где речь идет о больших деньгах, необходимы стандартные процедуры, четкие правила, прозрачность и строгость функциональных ролей. Заместитель директора по развитию технологий ЦРУ Д.Майрикс сказал по этому поводу: «Если разработчики ИИ будут выполнять все инструкции, то Америка будет плестись в хвосте прогресса. А если не будет выполнять инструкции, то разработчики предстанут перед судом. Выход только в том, чтобы некоторые технологические темы вывести за пределы традиционных процедур, создать для них собственный правовой режим. Никто не сокрушается по поводу игры без правил в сфере блокчейн-технологий. Так может быть нам надо взять это на вооружение для разработки ИИ для национальной безопасности».

Международная конкуренция

По мере того, как растет понимание значения ИИ для национальной безопасности, в Конгрессе, оборонном и разведывательном сообществах все больше нарастает обеспокоенность международной конкуренцией. Сенатор Тед Круз во вступительном слове на слушании перспективы ИИ перед подкомитетом Сената по космосу, науке и конкурентоспособности сказал: «Форсирование разработки ИИ в Китае, усилия России догнать уходящий поезд, активность других иностранных правительств не только создают риски для Соединенных Штатов утратить лидерство, но и могут привести к самым серьезным последствияя для национальной безопасности в XXI веке».

ИИ также обсуждался в течение последних двух лет на ежегодных сенатских слушаниях по теме «Оценка всемирных угроз». В своих письменных показаниях на слушаниях в 2017 г. Директор национальной разведки Даниэль Коутс утверждал: «Возможности наших противников использовать ИИ потенциально нарастают». В докладе Директора национальной разведки за 2017 г. Д.Коутса указано, что «важнейшей задачей, решение которой определяет национальную безопасность США, является осуществление комплекса мероприятий, исключающих попадание прорывных технологий в области ИИ в руки врагов Америки – злонамеренных государств (куда нынешние руководители США относят и Россию), террористических группировок и организованной преступности».

ФБР в 2017 г. приняло решение создать специальный центр по исследованию угроз использования ИИ террористическими группировками, организованной преступностью, агентурой злонамеренных государств и радикальными формированиями.

На прошедших осенью 2017 г. слушаниях в сенатском комитете по разведке было высказано мнение, что в ближайшие год-два в сфере развития ИИ может произойти нечто похожее на «момент Спутника» (имеется ввиду запуск первого спутника Советским Союзом, что стало шоком для руководства США того времени) события, которое вызовет неконтролируемую глобальную гонку вооружений ИИ. В этой связи Конгресс США рассматривает в настоящее время условия, регламент и полномочия по созданию и работе межкомитетской, совместной для Сената и Палаты Представителей постоянно действующей комиссии по ИИ. Такого рода структура, если будет создана, станет первой в истории Конгресса США. В число ее задач помимо прочего войдет оценка состояния развития ИИ у стран-конкурентов.

***

В таких условиях России приходится решать сложнейшие вопросы развития научных разработок ИИ в мирных и военных целях.

Метки: авиация, вооружение, киберпространство, Пентагон, Путин, Россия, США, технологии, ФБР