Елена Ларина, Владимир Овчинский

Завтра

Альянс готовится к войнам нового поколения

---

22 октября 2021 г. в Брюсселе министры обороны стран НАТО подписали соглашение о создании первого в истории Альянса Фонда для развития военных технологий и технологий двойного назначения.

«Многонациональный фонд поможет НАТО сохранять свои технологические преимущества, обеспечивая инвестиции объемом €1 млрд в развитие технологий двойного назначения, имеющих применение в сфере безопасности и обороны, — отмечается в документе. — Он также обеспечит и упростит более тесное и доверительное сотрудничество с частными компаниями — разработчиками новейших технологий, которые могут в противном случае оказаться неспособными развивать новейшие технологические решения, необходимые [для военно-промышленных комплексов] государств НАТО».

«Мы должны сохранять свои технологические преимущества. Будущие конфликты будут вестись не только с помощью пуль и бомб, но и с помощью байтов и больших данных. Мы видим, как авторитарные режимы стараются стремительно развивать новые технологии, от искусственного интеллекта до автономных систем», — сказал генсек НАТО Йенс Столтенберг на пресс-конференции в преддверии саммита министров обороны стран блока, который проходил в Брюсселе 21 и 22 октября.

В связи с изложенным, предлагаем к ознакомлению сокращенные переводы докладов, представленных на сайте альянса в разделе Обзоры НАТО, которые хотя и не являются официальной позицией и политикой НАТО, однако позволяют понять, какие инновации и технологии рассматриваются Североатлантическим союзом как приоритетные.

Создание устойчивой системы инноваций для Альянса

Роб Мюррей

1 сентября 2020

Сегодня конкуренция НАТО носит глобальный характер, и это гонка за технологические внедрения, то есть принятие, интеграцию и использование новых технологий в обществе. Правительства постоянно находятся в гонке за масштабное и быстрое использование технологий — от искусственного до квантового интеллекта и всего, что находится между ними. В этой гонке выиграют страны с наиболее гибкой бюрократией, а не с лучшими технологиями.

В отличие от Холодной войны, Соединенные Штаты и их союзники по НАТО вряд ли просто превзойдут других. В мире после COVID-19 перебалансировка государственных финансов может привести к дальнейшему финансовому давлению на оборонные бюджеты союзников. Теперь нам нужно другое преимущество, которое обеспечит больше защиты при меньших затратах с наименьшими задержками. Это начинается с наших людей, их творчества, образования и доступа к финансированию, заканчивается мощным потоком новых технологий двойного назначения (гражданского и военного), которые постоянно создаются, коммерциализируются и используются.

Трансатлантический характер Североатлантического союза ставит его в уникальное положение в рамках международного порядка, обеспечивая как политику со стороны спроса, так и ресурсы со стороны предложения, которые могут действительно сформировать такой поток, создавая не только инновации, но и совершенно новые рынки. Как отметил Дуайт Эйзенхауэр — Верховный главнокомандующий Союзных сил в Западной Европе, а в последующем 34-й президент Соединенных Штатов: фундамент военной мощи — это экономическая мощь. Недавняя история показывает, что модель демократии и готовность правительств союзников делать большие ставки на создание и развитие целенаправленных технологий действительно создают новые рынки, и именно эта модель, подкрепленная общими ценностями, будет ключом к долгосрочному успеху НАТО.

А как сейчас? В краткосрочной перспективе инновации НАТО должны заложить основу для того, чтобы союзники могли реализовать эти преимущества общего для Альянса подхода. Ответы могут быть сосредоточены в двух основных областях:

— решение проблемы фрагментации исследователей, академических кругов, стартапов и правительства в начале этого потока, то есть управление неопределенностью;

— возможность внедрять и масштабировать новые технологии по мере их готовности. Это означает необходимость наличия гибких инвестиционных и других организаций как в государственном, так и в частном секторах.

Использование разнообразия

В целом Альянс имеет множество академических институтов мирового уровня, лучших научных исследователей, удивительно творческие стартапы и зрелую финансовую экосистему с хорошими ресурсами. Они являются основными составляющими, которые, если их объединить и сфокусировать, могут решить проблемы двойного назначения, «сложные технологии», то есть проблемы, с которыми сталкиваются как оборонный, так и гражданский сектора (такие, например, как дополненная реальность и квантовые вычисления).

Модель двойного назначения важна для подрывных инноваций в сфере обороны, потому что, когда мы в итоге дойдем до коммерциализации таких прорывов в сфере высоких технологий, союзникам потребуются стартапы и технологические фирмы, чтобы максимально расширить охват своей продукцией. Другими словами, мы не должны желать, чтобы стартапы, создающие новую волну технологий, имели в качестве единственного клиента правительство. Мы хотим, чтобы такие технологии приносили пользу и обществу и поэтому имели гражданское, коммерческое использование. Коммерческое использование стимулирует последующее развитие указанной технологии, подтягивая за собой правительственную сторону, что означает более совершенные продукты и технологии во всех сферах.

Действительно, потенциал двойного использования поможет согласовать стимулы наших исследователей, предпринимателей и финансовых сообществ, поскольку предполагаемый коммерческий потенциал будет достаточно велик, чтобы они могли инвестировать в коммерциализацию. Геополитическое преимущество, которое стимулируют такие прорывные инновации (выбор победителей путем больших ставок на следующий прорыв), также будет достаточно большим, чтобы его можно было создать за счет терпеливых капиталовложений государственного сектора на ранней стадии.

Но прежде, чем мы перейдем к коммерциализации, необходимо создать направление, в котором мы хотим видеть коммерциализацию. Подрывные технологические инновации не происходят просто так. Всё начинается с целеустремленного видения, в котором невозможно измерить риск и царит неопределенность. Это требует смелых шагов, которые укажут на будущее; уверенности, чтобы делать большие ставки на еще не изобретенные технологии; и способности выбирать победителей — все это должно подкрепляться постоянным участием, поощрением и просвещением.

Шаг 1: Согласование инновационных приоритетов союзников

Первым шагом на пути к устранению фрагментации подрывных инноваций союзников является сосредоточение внимания на согласованных приоритетах инноваций. Это позволит выбрать победителей и инвестировать государственный капитал. Ведь частный сектор вряд ли будет инвестировать венчурный капитал, поскольку риск слишком высок (государство, как правило, не прекращает свою деятельность и может взять на себя такую неопределенность). Это направление и инвестиции помогут сохранить технологическое превосходство НАТО.

Шаг 2: Использование сравнительного преимущества Альянса

Если союзники хотят обеспечить максимальную защиту с наименьшими затратами, построенную с мудростью и эффективностью, тогда логично использовать те естественные преимущества, которые географическое положение и набор навыков предоставляют государствам-членам НАТО. Сеть лучших университетов Альянса должна быть создана и обеспечена ресурсами, чтобы позволить проводить передовые международные исследования одновременно с использованием революционных технологий. Возможно, Стэнфорд возглавит соответствующие исследования ИИ, а Делфт и Чикагский университет станут партнерами в области квантовых вычислений. Возможно, Имперский колледж Лондона будет изучать биотехнологии совместно с Университетом Джонса Хопкинса, а Таллиннский университет сосредоточит свои усилия на киберзащите следующего поколения. Возможно, Политехническая школа и Массачусетский технологический институт будут изучать будущие потребности в телекоммуникациях.

Дело в том, что союзникам необходимо будет использовать такие сети университетов совместно с национальными правительственными исследовательскими лабораториями, чтобы обеспечить максимальную согласованность инноваций. Разнообразие многонациональных, многопрофильных исследовательских групп по инновациям в сфере обороны и безопасности, которые может создать НАТО, является огромным активом и конкурентным преимуществом Североатлантического союза.

Таким образом, чтобы устранить фрагментацию в начале инновационного потока, необходимо иметь четкое целенаправленное указание союзников относительно того, где сосредоточить ресурсы для подрывных инновационных исследований в целях максимального увеличения сравнительных преимуществ связи университетов с государственными исследовательскими организациями.

Как показано на изображении выше, правительства делали это раньше, и созданные технологии (Интернет, GPS, сенсорный экран и др., которые использовались для создания iPod и iPhone) оказали огромное влияние на наш образ жизни. Однако, несмотря на все эти успехи, будет много неудач, и именно здесь союзникам нужно будет освоиться.

Используйте, адаптируйте и масштабируйте

Если первый этап инновационного процесса НАТО должен быть сосредоточен на создании революционных инновационных технологий, второй этап — это их использование и внедрение в больших масштабах.

Использование

Именно здесь организации с первоначальным государственным венчурным капиталом, такие как In-q-tel, NSSIF, DefInvest и SmartCap, могут помочь «привлечь» надежный частный венчурный капитал для обеспечения безопасного финансирования молодых стартапов НАТО, тем самым минимизируя их восприимчивость к прямым иностранным инвестициям. Проблема затрагивает многие стартапы (поскольку они привлекают средства) и влечет за собой негативные последствия. Когда стартапы хотят экспортировать свою продукцию, они не всегда могут этого сделать из-за недружественного иностранного владения и озабоченности по поводу передачи технологий, высказанной правительствами союзников.

Принятие

Но даже когда подрывные инновации двойного назначения коммерциализируются, превращаются в прототипы и достигают стадии продукта, проблема получения первоначальных контрактов от клиентов (как государственных, так и коммерческих) остается. Деньги — это король для молодых компаний, поскольку у них нет финансовых резервов для работы в длительной перспективе.

Некоторые могут возразить: зачем тратить столько времени на обсуждение стартапов? Традиционные крупные компании по производству вооружений могут быть новаторскими. Зачем прилагать все эти усилия крошечным компаниям, которые не всегда могут добиться успеха?

Причина проста: конкуренция и креативность, порождаемые стартапами, полезны для оборонной экосистемы союзников. Союзные открытые демократии и открытые образовательные модели обеспечивают уровень творчества, на который другие формы правления не способны. Это максимизирует подрывные инновационные усилия и заставляет традиционных игроков (крупные компании) конкурировать с новым, свежим мышлением.

Выступая на семинаре по технологиям, безопасности и финансам в июне 2020 года, заместитель генерального секретаря НАТО Мирча Джоанэ подчеркнул, что «нам необходимо развивать культуру инноваций, становиться более гибкими, иметь более гибкие механизмы управления и осмеливаться идти на риск».

Такой творческий подход и нестабильность — конкурентное преимущество НАТО. Как недавно заметил законодательный орган одного из союзников: «Заинтересованные стороны в сфере обороны должны интегрировать культуру риска, которая является единственным способом обеспечения инноваций в обороне, а также очень быстро внедрять инновации гражданского и двойного назначения».

Масштабирование

Если нам удалось коммерциализировать новую технологию, быстро принять ее в качестве прототипа и теперь желать масштабировать, как это можно сделать? Здесь могут сыграть свою роль крупные технологии. В мае сообщалось, что в первом квартале 2020 года Facebook, Apple, Amazon, Alphabet и Microsoft потратили более 29 млрд долларов США на исследования и разработки (R&D). Это больше, чем весь бюджет НАСА на 2020 год, и на 17% больше, чем за тот же период прошлого года.

В ноябре 2018 года Исследовательская служба Конгресса США отметила: «В 1960 году на Соединенные Штаты приходилось 69% мировых НИОКР, при этом только на НИОКР США, связанные с обороной, приходилось более одной трети мировых НИОКР (36%). Кроме того, федеральное правительство финансировало НИОКР примерно в два раза чаще, чем бизнес США. Однако с 1960 по 2016 год доля США в глобальных НИОКР упала до 28%, а доля федерального правительства в общем объеме НИОКР США упала с 65% до 24%, при этом доля бизнеса увеличилась более чем вдвое с 33% до 67%. В результате этих глобальных, национальных и федеральных тенденций доля НИОКР федеральной обороны в общемировом объеме НИОКР упала до 3,7% в 2016 году».

У крупных технологических компаний есть ресурсы и средства для быстрого масштабирования новых технологий. Они могли бы сотрудничать с успешными стартапами, возможно, через совместные предприятия или государственно-частные партнерства в масштабах всего Альянса. Это позволило бы обеспечить те навыки расширения масштабов, которых не хватает стартапам (например, соблюдение нормативных требований, юридическая поддержка, массовое производство, интеллектуальное производство, защита собственности), при этом не обязательно приобретая эти молодые компании.

Скептики скажут, что это предоставит крупным технологиям слишком много возможностей для слияний и поглощений и, таким образом, создаст монополистический риск. Возможно, они правы, и очевидно, что необходимо найти стимулы для всех сторон. Но если мы хотим выиграть гонку за внедрение технологий, основанную на либерально-демократических ценностях, необходимо использовать все имеющиеся у нас преимущества.

Чтобы эффективно использовать, адаптировать и масштабировать эти технологии, мы должны помнить о необходимости работать со скоростью актуальности, а не со скоростью утверждения. Это означает новые способы финансирования технологий, взаимодействия с крупными и малыми технологическими фирмами, а также гораздо более гибкие модели приобретения, которые расширяют возможности и стимулируют тех, кто отвечает за оснащение Альянса. Такой культурный сдвиг будет нелегким, но инновации случаются редко.

Поскольку мы смотрим в сторону НАТО 2030 и прислушиваемся к словам Эйзенхауэра о достижении как безопасности, так и платежеспособности, отмечая при этом, что основой военной мощи является экономическая мощь, жизнеспособный инновационный поток, использующий наши сравнительные преимущества, то творческий подход и капитал будут иметь решающее значение для сохранения Североатлантического союза, его технологического преимущества, основанного на общих ценностях союзников.

Инновационный вызов НАТО

Лоуренс Аронхим, Александр Кокрон

19 июля 2021 г.

Инновационный императив

Альянс сталкивается с растущими конкурентами, и, как и предшествующая космическая гонка, конкуренция потребует инноваций в новых прорывных технологиях. На встрече лидеров в Лондоне в 2019 году Североатлантический союз определил семь областей новых и потенциально разрушительных технологий, которые будут «иметь большое влияние на развитие будущего военного потенциала». Это: данные, искусственный интеллект (ИИ), автономное оружие, космос, гиперзвук, квантовая и биотехнология.

Постановка правильных задач для их успешного решения

Важнейший вопрос заключается в том, как следует определять эти задачи. Это может начаться с оценки академическими и правительственными учреждениями текущего уровня развития каждой технологии или области применения. Они могут описать текущие границы производительности и предложить конкретные пути, которые помогут преодолеть их. Предприятия, филантропы и исследовательские агентства могут создавать и публиковать задачи и призы, чтобы побудить всех участников тройной спирали решить их.

Но вызовы сегодняшнего дня — это только один из видов проблем, которые необходимо решить. Североатлантическому союзу необходимо будет предвидеть проблемы, которые могут возникнуть в будущем в результате изменений в технологиях, обществе, окружающей среде и других факторов, и подготовиться к ним. В Университете Джона Хопкинса мы стремимся обнаружить проблемы, которые могут возникнуть в ближайшем и далеком будущем. Основываясь на исследовании процесса инноваций, мы полагаем, что это предполагает изучение трех различных горизонтов неопределенности: вероятного, правдоподобного и возможного. Все они воплощают разные уровни неопределенности и ставят разные вопросы.

Вероятный горизонт — это взгляды в неопределенное будущее. Он не пытается предсказать, но определяет альтернативные варианты будущего, основанные на долгосрочных тенденциях и факторах разрушения. Эта стратегическая перспектива направлена на выявление проблем, с которыми Североатлантический союз может столкнуться в широком диапазоне возможных сценариев. Например, как выглядит будущее космической медицины и какие проблемы могут там возникнуть?

Напротив, правдоподобный — это взгляд на более близкие горизонты, где направления или темпы технологических изменений можно предвидеть или очертить. В нем рассматривается влияние новых технологий на текущие возможности и ресурсы Североатлантического союза. Например, как мы можем обеспечить безопасную спутниковую связь, если квантовые компьютеры могут легко взломать шифрование?

Министерство обороны США определило гиперзвук как одну из наиболее приоритетных областей модернизации. Гиперзвуковые системы могут совершать длительные полеты в верхних слоях атмосферы — от 80 000 до 200 000 футов — со скоростью около 5 Махов и выше, и они могут маневрировать способами, которые трудно предсказать защитникам.

На вероятном горизонте рассматриваются конкретные, четко определенные проблемы, которые могут быть решены с помощью традиционных инженерных или политических инструментов. Их желаемые результаты ясны и измеримы. Решения либо работают, либо нет. Они «вероятны», потому что вероятность их решения можно рассчитать на основе показателей успешности предыдущих инженерных и политических решений. Например, как сделать сетевые диагностические устройства, чтобы предсказывать опасности для здоровья космонавтов и сообщать об этом летным медикам и центру управления полетами? Обычно это сфера деятельности действующих лиц в рамках тройной спирали.

Возможное, правдоподобное и вероятное взаимосвязаны. Рассматривая все три горизонта, мы можем наращивать возможности и расширять технологические возможности для решения проблем, стоящих перед Североатлантическим союзом сейчас, а также тех, которые могут возникнуть в будущем. Обнаружение проблем является динамичным и двусторонним. Тщательные размышления о будущем позволяют моделировать проблемы, которые могут стимулировать инновации сегодня. А радикальные решения, обнаруженные сегодня (например, секвенирование генов, нейронные сети, блокчейн и т. д.), создают совершенно новые варианты будущего, которые мы должны рассмотреть и изучить.

Лучший способ предвидеть будущее — это изобрести его.

Используя этот подход, Североатлантический союз может более уверенно ответить на два важнейших вопроса: «Какие наиболее важные проблемы необходимо решить сейчас и в будущем?» и «Какие конкретные задачи мы должны решить, чтобы стимулировать тройную спираль к их решению?» В недавней статье «Вестника НАТО» глава отдела инноваций НАТО описал многочисленные ресурсы, которыми располагает Североатлантический союз для внедрения новаторских инноваций, в том числе «… множество академических институтов мирового уровня, лучших научных исследователей, удивительно творческие стартапы и зрелые, хорошо обеспеченные ресурсами финансово-экономические институты.» Четкая структура для выявления наиболее важных проблем, которые необходимо решить, и постановка правильных задач, способствующих привлечению ресурсов Североатлантического союза для их решения, — это самый надежный способ удержать Североатлантический союз впереди конкурентов в неопределенном будущем.

Искусственный интеллект в НАТО: динамичное внедрение, ответственное использование

Эдвард Хантер Кристи

24 ноября 2020 г.

Как отмечалось в первой статье этой серии об инновациях в НАТО, Североатлантический союз сталкивается с глобальной гонкой за внедрение технологий. Соперничающие державы используют новые технологии для достижения двойной цели повышения экономической конкурентоспособности наряду с расширением военного потенциала. Союзники сталкиваются с рядом проблем, стремясь использовать новые и прорывные технологии. Эти проблемы связаны с обеспечением динамичного внедрения новых технологий и ответственным управлением ими. В основе этих технологий лежит искусственный интеллект (ИИ).

ИИ — это способность машин выполнять задачи, которые обычно требуют человеческого интеллекта — например, распознавание закономерностей, обучение на основе опыта, прогнозирование и т.п. — в цифровом виде или в качестве интеллектуального программного обеспечения, лежащего в основе автономных физических систем.

Как было предложено аналитическим центром RAND в отчете Министерства обороны США об ИИ: «Оценка и рекомендации (2019)», необходимо выделять три широких типа приложений: корпоративный ИИ, оперативный ИИ и ИИ поддержки миссий.

Корпоративный ИИ включает в себя такие приложения, как системы управления финансами или персоналом с поддержкой ИИ, которые развертываются в строго контролируемых средах, где последствия технических сбоев невысоки (с точки зрения непосредственной опасности и потенциальной летальности).

Оперативный ИИ, напротив, может быть развернут в миссиях и операциях, то есть в значительно менее контролируемой среде , где последствия отказа могут быть критически высокими. Примеры включают программное обеспечение для управления стационарными системами или беспилотными автомобилями.

ИИ поддержки миссий, промежуточная категория с точки зрения управления средой и последствий сбоев, включает в себя разнообразный набор приложений, например приложения для логистики и обслуживания.

Эти различия могут оказаться полезными при установлении приоритетов как для политики принятия, так и для принципов ответственного использования ИИ, учитывая различные уровни риска, присущие этим категориям.

Современная волна ИИ сосредоточена на машинном обучении (ML). ML включает в себя разработку и использование статистических алгоритмов для поиска закономерностей в данных. Например, алгоритм классификации можно обучить на большом наборе правильно помеченных примеров, чтобы определить, к какой ранее встречавшейся категории принадлежит вновь наблюдаемый объект. Глубокое обучение — это подмножество машинного обучения, которое использует несколько вычислительных уровней (искусственные нейронные сети с несколькими уровнями) для обработки сложных вычислительных задач распознавания образов или прогнозирования, например сверточные нейронные сети для обнаружения объектов в изображениях. На приведенном ниже рисунке показан метод глубокого обучения для идентификации самолетов, транспортных средств и зданий на изображениях.

ML использует большие наборы точных данных и плохо работает с небольшими наборами данных или с неточными данными. В хороших условиях в широком диапазоне применений ML превосходит людей с точки зрения как предсказательной способности, так и, конечно, скорости. Это основная причина все более широкого внедрения машинного обучения в обширных областях человеческой деятельности.

Факторы производства

Для ИИ производственными факторами являются высококвалифицированные специалисты и инфраструктура информационно-коммуникационных технологий (ИКТ) для вычислений и хранения данных.

Хотя данные необходимо «извлекать», а затем «уточнять» перед дальнейшим использованием, их доступность растет с увеличением объема вывода. Данные также являются конкретными, а не взаимозаменяемыми. Для любого конкретного случая использования необходимы конкретные наборы данных, которые точно отражают актуальные наблюдения (или моделирование) из реальной жизни. Чтобы обеспечить прочную отправную точку, оборонным ведомствам союзников необходимо будет предусмотреть дальнейшую оцифровку этих данных. В целом политика в отношении данных должна охватывать всю цепочку создания стоимости, включая сбор, доступ, совместное использование, хранение, метаданные, документацию, контроль качества (включая очистку данных и устранение предвзятости) и процессы, обеспечивающие соблюдение требований законодательства.

Меры по поддержке факторов производства — талантов и инфраструктуры — должны включать надежные кадровые ресурсы и применять политику заключения контрактов для привлечения и развития лучших человеческих талантов. Кроме того, необходимо обеспечить развертывание соответствующих безопасных вычислительных мощностей и хранилищ данных.

Что касается процессов и управления, то передовая практика индустрии программного обеспечения указывает на то, что разработка и поставка решений ИИ должны опираться на гибкие подходы, а не на традиционную модель водопада. («Водопад» — модель процесса разработки программного обеспечения, в которой процесс разработки выглядит как поток, последовательно проходящий фазы анализа требований, проектирования, реализации, тестирования, интеграции и поддержки – Е.Л., В.О.)

Ответственное использование

Успех Альянса в области ИИ также будет зависеть от новых и хорошо продуманных принципов и практик, касающихся надлежащего управления и ответственного использования. Правительства некоторых стран НАТО уже взяли на себя определенные публичные обязательства в области ответственного использования ИИ, в частности, в отношении таких понятий, как законность, ответственность, надежность и управляемость. Параллельно союзники приняли участие в Группе правительственных экспертов по автономным системам оружия летального действия под эгидой Организации Объединенных Наций, что привело к формулированию 11 руководящих принципов.

Важно отметить, что есть веские основания рассматривать работу по внедрению ИИ и работу над принципами его ответственного использования как взаимодополняющие и синергетические. Фактически, существуют главные принципы или определенные цели, которые будут лежать в основе инженерной практики и ответственного поведения государств.

Технические характеристики, необходимые для достижения этих целей, обязательно будут частью этапов проектирования и тестирования соответствующих систем. В свою очередь, соответствующие инженерные работы предоставят возможность улучшить понимание, что приведет к более детальным и более зрелым принципам. Дальнейшая работа в области тестирования, оценки, проверки и валидации TEVV (Тest & Evaluation, Validation & Verification) будет иметь важное значение, а также будет поддерживаться соответствующими усилиями по моделированию и имитационному моделированию. Хорошо зарекомендовавшие себя сильные стороны НАТО в области стандартизации помогут определить направления усилий, а также обеспечат оперативную совместимость между силами союзников.

Между тем, всеобъемлющие принципы, разработанные как государствами-членами, и под эгидой ООН в целом, предлагают основу для дальнейших консультаций между союзниками, а также ориентиры относительно существующих национальных позиций.

Стратегия искусственного интеллекта для НАТО

Зои Стэнли-Локман, Эдвард Хантер Кристи

25 октября 2021 г.

На встрече в октябре 2021 года министры обороны стран НАТО официально приняли Стратегию искусственного интеллекта для НАТО. Действующие и бывшие сотрудники НАТО, непосредственно участвующие в разработке и реализации Стратегии, описывают ее основные характеристики и цели.

Вступление

Не нужно заглядывать далеко, чтобы увидеть, как искусственный интеллект (ИИ) — способность машин выполнять задачи, обычно требующие человеческого интеллекта — трансформирует среду международной безопасности, в которой действует НАТО. Из-за своего сквозного характера ИИ будет создавать широкий набор вызовов международной безопасности, затрагивая как традиционные военные возможности, так и сферу гибридных угроз, а также предоставит новые возможности для реагирования на них. ИИ окажет влияние на все основные задачи НАТО, связанные с коллективной обороной, кризисным регулированием и совместной безопасностью.

ИИ будет влиять на все ключевые задачи НАТО, определенные в Стратегической концепции Североатлантического союза от 2010 года, а именно на коллективную оборону, кризисное управление и безопасность на основе сотрудничества.

Поскольку на карту поставлены новые возможности, риски и угрозы процветанию и безопасности, перспективы и опасности, связанные с этой фундаментальной технологией, слишком велики, чтобы любой субъект мог справиться с ними в одиночку. В результате сотрудничество необходимо, чтобы в равной степени снизить угрозы международной безопасности.

Сохранение способности Североатлантического союза сдерживать и защищаться от любого потенциального противника и эффективно реагировать на возникающие кризисы будет зависеть от его способности сохранять свое технологическое превосходство. В военном отношении защита сравнительного преимущества сил союзников в будущем будет зависеть от общей политической и цифровой основ обеспечения оперативной совместимости и соответствия международному праву. Поскольку сочетание человеческих, информационных и физических элементов все больше определяет решающее преимущество в боевом пространстве, взаимодействие становится все более важным. По мере того, как конкуренты и потенциальные противники вкладывают средства в ИИ в военных целях, поддержка того, чтобы союзники разработали общие ответные меры для обеспечения своей коллективной безопасности, будет становиться все более актуальной.

Официально приняв Стратегию НАТО по искусственному интеллекту, союзники взяли на себя обязательство сотрудничать, чтобы противостоять этим самым вызовам как в области обороны, так и безопасности, назвав НАТО главным трансатлантическим форумом. Целью Стратегии НАТО в области ИИ является ускорение его внедрения за счет усиления ключевых факторов, обеспечивающих ИИ, и адаптации политики, в том числе путем принятия Принципов ответственного использования ИИ и защиты от угроз его злонамеренного использования государственными и негосударственными субъектами.

Действуя коллективно через НАТО, правительства стран- членов также обеспечивают постоянное внимание к оперативной совместимости и разработке общих стандартов. Использование ИИ потребует новых усилий для развития и использования инновационного потенциала Североатлантического союза, в том числе посредством новых партнерских отношений. В совокупности эти усилия укрепят способность Альянса продолжать совместные усилия по обеспечению безопасности и взаимодействовать с партнерами и другими международными организациями по вопросам международной безопасности.

Принципы ответственного использования

Внедрение ИИ в контексте обороны и безопасности также требует эффективного и ответственного управления в соответствии с общими ценностями и международными обязательствами союзных стран. С этой целью правительства стран НАТО взяли на себя обязательство придерживаться Принципов ответственного использования как ключевого компонента Стратегии НАТО в области ИИ.

Союзники и НАТО обязуются обеспечить, чтобы приложения ИИ, которые они разрабатывают и рассматривают для развертывания, соответствовали следующим шести принципам:

Законность: приложения ИИ будут разрабатываться и использоваться в соответствии с национальным и международным правом, включая нормы международного гуманитарного права и прав человека, в зависимости от обстоятельств.

Ответственность и подотчетность: приложения ИИ будут разрабатываться и использоваться с должным уровнем осмотрительности и осторожности. Для обеспечения подотчетности должна применяться четкая человеческая ответственность.

Объяснимость и отслеживаемость: приложения ИИ будут надлежащим образом понятными и прозрачными, в том числе за счет использования методологий, источников и процедур проверки. Это включает механизмы проверки, оценки и подтверждения на уровне НАТО и/или на национальном уровне.

Надежность: приложения ИИ будут иметь явные, четко определенные варианты использования. Безопасность, защищенность и надежность таких возможностей будут проверяться и подтверждаться в рамках сценариев их использования на протяжении всего жизненного цикла, в том числе посредством установленных НАТО и/или национальных процедур сертификации.

Управляемость: приложения ИИ будут разрабатываться и использоваться в соответствии с их предполагаемыми функциями и обеспечивать: соответствующее взаимодействие человека и машины; возможность обнаружить и избежать непредвиденных последствий; способность предпринимать шаги, такие как отключение или деактивация систем, если такие системы демонстрируют непреднамеренное поведение.

Снижение предвзятости: будут предприняты упреждающие меры, чтобы свести к минимуму любую непреднамеренную предвзятость при разработке и использовании приложений ИИ и наборов данных.

Согласившись принять эти взаимоусиливающие принципы, задача превращается в воплощение их в принципиальные действия. Таким образом, роль НАТО в реализации этих принципов будет включать в себя усилия, которые аналогичным образом затрагивают различные аспекты жизненного цикла технологии. Встраивание принципов ответственного использования в интерфейс разработки ИИ важно, потому что, чем позже они будут рассмотрены, тем сложнее будет обеспечить их соблюдение. Обеспечение подхода на основе полного жизненного цикла также зависит от участия многих заинтересованных сторон, поскольку ответственность распределяется между разработчиками политики, дизайнерами, разработчиками и тестировщиками, а также конечными пользователями, участвующими в разработке и использовании ИИ. Для НАТО это актуально, потому что различные организации играют активную роль в интеграции ИИ.

Общая приверженность этим принципам также имеет практические преимущества, обеспечивая согласованную общую основу как для НАТО, так и для союзников при проектировании и разработке приложений ИИ, а также для поддержки оперативной совместимости. Таким образом, НАТО может способствовать необходимой взаимосвязи между безопасностью, защищенностью, ответственным использованием и оперативной совместимостью. Это видно по принципам.

Применение принципов на практике

Эти устойчивые принципы также лежат в основе обсуждения и принятия более подробных передовых практик и стандартов. Союзники и НАТО могут использовать консультативные механизмы НАТО, а также специализированный персонал и средства НАТО в активной работе для достижения этой цели. Собственные усилия НАТО по стандартизации и сертификации также могут быть подкреплены согласованием с соответствующими международными органами по стандартизации, в том числе в отношении гражданских стандартов ИИ.

В дополнение к передовым методам и стандартам, эти принципы также могут быть реализованы с помощью других механизмов, включая методологии анализа, оценки рисков и воздействий. Кроме того, совместная деятельность НАТО обеспечивает основу для тестирования, оценки и проверки (TEVV) возможностей ИИ в различных контекстах. В частности, опыт НАТО не только в операциях, но и в испытаниях, учениях и экспериментах предоставляет несколько возможностей, с помощью которых союзники и НАТО могут проверить принципы на предмет предполагаемых вариантов использования. Это дополнительно подкрепляется научными и техническими сообществами НАТО, которые работали над такими вопросами, как доверие, взаимодействие человек-машина и машина-машина и многими другими.

В дополнение к существующим мероприятиям реализация Стратегии ИИ также выиграет от сотрудничества с создающейся организацией «Ускоритель оборонных инноваций НАТО для Северной Атлантики» (DIANA). Центры тестирования союзников, связанные с DIANA, могут использоваться для достижения целей, изложенных в определениях принципов. В будущем использование этих центров тестирования может помочь убедиться, что внедрённые и интегрированные ИИ проверены на надежность и отказоустойчивость. Например, чтобы убедиться, что ИИ понятен, надежен центры тестирования могут синтезировать, как системы ИИ работают в различных смоделированных средах и на разных данных тестирования, или обеспечивать независимую валидацию и верификацию для оценки соответствия стандартам, ориентированным на ответственное проектирование.

Посредством принятия принципов ответственного использования ИИ НАТО и союзники направляют публичное послание своему населению и другим государствам, подтверждая непреходящие ценности и обязательства Североатлантического союза в соответствии с международным правом.

Ускорение принципиального и функционально совместимого принятия

Принимая этические аспекты, которые подчеркиваются в этих принципах, НАТО имеет возможность выполнить взятые на себя обязательства. Они включают в себя взаимодействие со стартапами, инновационными малыми и средними предприятиями и академическими исследователями, которые либо не рассматривали возможность работы над решениями задач защиты и безопасности, либо полагают, что пути внедрения слишком медленные или ограничивающие для их бизнес-моделей. В отличие от разработки традиционных военных платформ, интеграция ИИ требует постоянного обновления.

Поскольку враждебные государственные и негосударственные субъекты увеличивают свои инвестиции в новые и прорывные технологии, включая ИИ, более гибкий подход к внедрению становится все более актуальным. В этом контексте, уделяя особое внимание TEVV и совместной деятельности, Стратегия ИИ устанавливает основу для технологических инструментов, позволяющих перехитрить конкурентов и противников. Делая больший упор на гибкость и адаптацию, НАТО может сделать оборону и безопасность более привлекательным сектором для гражданских новаторов, с которыми они могут сотрудничать.

При этом усилия по укреплению трансатлантической инновационной экосистемы также могут служить оплотом против нежелательных иностранных инвестиций и передачи технологий.

Опыт НАТО не только в операциях, но и в испытаниях, учениях и экспериментах предоставляет определенные возможности, с помощью которых союзники и НАТО могут проверить принципы на предмет предполагаемых вариантов их использования. Это дополнительно подкрепляется научными и техническими сообществами НАТО, которые в том числе прорабатывали такие вопросы, как доверие, взаимодействие человек-машина и машина-машина, а также интеграция человек-система.

Двигаться вперед

Безусловно, ускоренное внедрение ИИ зависит не только от технологий, но и в равной степени от талантливых и квалифицированных людей, которые продвигают передовые технологические достижения и интеграцию. НАТО также уделяет внимание другим ресурсам ИИ, в частности, путем разработки Рамочной политики использования данных НАТО. Благодаря действиям по обращению с данными как со стратегическим активом, разработке аналитических инструментов, а также хранению данных и управлению ими в соответствующей инфраструктуре, Политика использования данных устанавливает условия для успешного внедрения Стратегии ИИ.

Помимо взаимосвязи между данными и ИИ, жизненно важное значение будет иметь обеспечение согласованности усилий НАТО в области ИИ и других новых и прорывных технологий, таких как биотехнология, квантовые вычисления и т.п. Поскольку союзники и НАТО стремятся достичь цели этой Стратегии ИИ, связи между ответственным использованием, ускоренным внедрением, оперативной совместимостью и защитой от угроз имеют решающее значение. Действительно, эти связи будут также использоваться в последующей работе НАТО над другими новыми и прорывными технологиями. В более широком смысле это влечет за собой большую согласованность между направлениями работы над технологиями, понимание того, что будущие технологические преимущества НАТО, а также угрозы, с которыми столкнется Североатлантический союз, зависят от их сближения.

Таким образом, Стратегия НАТО в области ИИ закладывает основу для амбиций НАТО и союзников в отношении других новых и подрывных технологий. Для каждого из них будущее стратегическое преимущество, которое дает инновационная деятельность НАТО, будет проистекать из связей между этическим лидерством, итеративным принятием и интеграцией, которая в том числе предполагает гибкость, оперативную совместимость и доверие.

Квантовые технологии в обороне и безопасности

Мишель ван Амеронген

3 июня 2021 г.

Учитывая потенциальное значение новых квантовых технологий для обороны и безопасности, НАТО определила квантовые технологии как одну из своих ключевых новых и прорывных технологий. В этой статье делается попытка раскрыть некоторые из интересных будущих приложений квантовых технологий и их значение для защиты и безопасности.

«Те, кого не шокирует, когда впервые сталкиваются с квантовой теорией, вероятно, не могут ее понять», — Нильс Бор.

«Если вы думаете, что разбираетесь в квантовой механике, вы не понимаете квантовую механику», — Ричард Фейнман.

«Вселенная не только более странная, чем мы думаем, но и более странная, чем мы можем думать», — Вернер Гейзенберг.

Три цитаты трех известных квантовых физиков. Можно с уверенностью сказать, что существует широкий консенсус в отношении того, что попытка понять квантовую механику — это не обычная головоломка для воскресного утра. Однако квантовая механика — это не просто ошеломление и пища для энергичных размышлений. На самом деле, хотя мы, возможно, и не в состоянии полностью понять это, технологии, основанные на нашем понимании квантовой механики, уже повсюду вокруг нас.

Транзисторы и полупроводники в компьютерах и инфраструктурах связи являются примерами квантовых технологий «первого поколения». Но лучшее еще впереди. Благодаря более глубокому пониманию квантовых явлений, таких как «суперпозиция» и «запутанность», в настоящее время происходит «вторая квантовая революция», позволяющая разрабатывать новые и революционные квантовые технологии.

Поскольку эти технологии принесут принципиально новые возможности как в гражданских, так и в военных сферах, квантовые технологии в последние годы вызвали значительный интерес со стороны промышленности и правительств. Крупные технологические компании, такие как IBM, Google и Microsoft, тратят сотни миллионов долларов на исследования и разработки в области квантовых вычислений в гонке за «квантовое превосходство». Точно так же правительства признали преобразующий потенциал и геополитическую ценность приложений квантовых технологий, а Соединенные Штаты, Европейский Союз и Китай создали свои собственные исследовательские программы стоимостью более 1 миллиарда долларов.

Принципы, лежащие в основе квантовых технологий

Не вдаваясь в подробное объяснение квантовой механики, стоит кратко обсудить несколько ключевых основополагающих принципов, которые помогут понять потенциальное применение квантовых технологий.

Квантовые технологии используют физические явления на атомном и субатомном уровнях. В основе квантовой механики лежит то, что в этом атомном масштабе мир «вероятностен», а не «детерминирован».

Это понятие вероятности стало предметом всемирно известных дебатов между Альбертом Эйнштейном и Нильсом Бором на пятой Сольвеевской конференции по физике, состоявшейся в октябре 1927 года в Брюсселе. Конференция собрала 29 самых известных физиков того времени (17 из них позже стали лауреатами Нобелевской премии), чтобы обсудить на тот момент недавно сформулированную квантовую теорию.

Эта фотография была сделана в парке Леопольда в Брюсселе во время Пятой Сольвеевской конференции по физике в 1927 году и часто упоминается как «самая умная фотография из когда-либо сделанных».

В так называемых «дебатах века» во время Сольвеевской конференции 1927 года Нильс Бор защищал новую теорию квантовой механики, сформулированную Вернером Гейзенбергом, тогда как Альберт Эйнштейн пытался отстоять детерминированную парадигму причины и следствия. Альберт Эйнштейн заявил, что «Бог не играет в кости», после чего Нильс Бор возразил: «Эйнштейн, перестань указывать Богу, что делать».

В настоящее время научное сообщество соглашается с тем, что Нильс Бор выиграл дебаты. Это означает, что в нашем мире нет фиксированного сценария, основанного на причине и следствии, но на самом деле все зависит от случая. Другими словами, вы можете знать все, что нужно знать о Вселенной, и при этом не знать, что будет дальше.

Эта новая вероятностная парадигма привела к лучшему пониманию некоторых ключевых свойств квантовых частиц, которые лежат в основе квантовых технологий, в первую очередь «суперпозиции» и «запутанности». Улучшенное понимание этих фундаментальных квантовых принципов — вот что стимулировало развитие квантовых технологий следующего поколения: квантового зондирования, квантовой связи и квантовых вычислений.

Ключевые принципы, лежащие в основе квантовой механики

Настоящие и будущие приложения

В то время как квантовые вычисления вызвали наибольший ажиотаж вокруг квантовых технологий, существует уже целый мир квантового восприятия и квантовой коммуникации. Этот мир — увлекательный и многообещающий.

Квантовое зондирование

Квантовые сенсоры основаны на ультрахолодных атомах или фотонах, тщательно управляемых с помощью суперпозиции или запутывания в определенных «квантовых состояниях». Используя тот факт, что квантовые состояния чрезвычайно чувствительны к возмущениям, квантовые датчики могут измерять крошечные различия во всех видах свойств, таких как температура, ускорение, сила тяжести или время.

Квантовое зондирование может изменить нашу технологию измерения и обнаружения. Оно не только обеспечивает более точные и чувствительные измерения, но и открывает возможности для измерения вещей, которые мы никогда раньше не могли измерить. Квантовые датчики могут позволить нам точно узнать, что лежит у нас под ногами с помощью картографирования под землей; обеспечить системы раннего предупреждения об извержениях вулканов; позволить автономным системам «заглядывать» за угол; и предоставить портативные сканеры, которые отслеживают активность мозга человека.

В то время как квантовые технологии могут показаться технологиями далекого будущего, первые квантовые датчики фактически уже представлены на рынке (например, атомные часы и гравиметры). Забегая вперед, мы можем ожидать, что в течение ближайших пяти-семи лет станет доступно больше приложений квантового зондирования, включая устройства квантовой навигации и синхронизации (PNT), а также технологии квантовых радаров в качестве приложений, на которые следует обратить внимание.

Квантовая коммуникация

Потенциал квантовой связи основан на ее обещании обеспечить «сверхбезопасную» передачу данных, потенциально даже полностью невзламываемую. В настоящее время обмен данными основан на потоках электрических сигналов, представляющих собой «1» и «0», проходящих по оптико-волоконным кабелям. Хакер, которому удается подключиться к этим кабелям, может считывать и копировать эти биты. С другой стороны, в квантовой связи передаваемая информация кодируется в квантовой частице в виде суперпозиции «1» и «0», так называемый кубит. Из-за чувствительности квантовых состояний к внешним возмущениям всякий раз, когда хакер пытается перехватить передаваемую информацию, кубит «схлопывается» до «1» или «0», тем самым уничтожая квантовую информацию и оставляя лишь подозрительный след.

Первое применение квантовой связи называется «квантовое распределение ключей» (QKD), которое использует квантовые частицы для обмена криптографическими ключами. В QKD фактические данные передаются по традиционной инфраструктуре связи с использованием обычных битов, однако криптографические ключи, необходимые для дешифрования данных, передаются отдельно с использованием квантовых частиц. В QKD уже ведутся обширные эксперименты с использованием как наземной, так и космической связи. В 2016 году Китай запустил первый в мире спутник квантовой науки «Micius», который продемонстрировал межконтинентальные QKD «земля-спутник» и «спутник-земля», обеспечив видеоконференцию между Пекином и Веной.

«Квантовая телепортация» станет следующим шагом в квантовой коммуникации. В то время как в QKD криптографические ключи распределяются с использованием квантовой технологии, при квантовой телепортации сама информация передается с использованием запутанных квантовых пар. Наибольшее расстояние, на котором к настоящему времени была достигнута квантовая телепортация по оптико-волоконному кабелю, составляет 50 километров, и в ближайшие годы задача состоит в масштабировании квантовой телепортации. Это необходимо, чтобы обеспечить безопасную связь на больших расстояниях.

Конечная цель квантовой связи — создать «квантовый Интернет»: сеть запутанных квантовых компьютеров, связанных сверхбезопасной квантовой связью, гарантированной фундаментальными законами физики. Однако квантовый Интернет не только требует квантовой телепортации на очень большие расстояния, но и требует дальнейшего развития других важных технологий, таких как квантовые процессоры, всеобъемлющий квантовый интернет-стек, включая интернет-протоколы и программные приложения квантового Интернета. Это действительно долгосрочные усилия, и, хотя трудно определить, созреет ли эта технология и когда именно, большинство ученых определяют временной горизонт в 10–15 лет.

Квантовые вычисления

Квантовые вычисления значительно увеличат нашу способность решать некоторые из самых сложных вычислительных задач. Фактически, квантовые вычисления отличаются от классических, как классический компьютер отличается от счётов.

Как объяснялось выше, в то время как классические компьютеры выполняют вычисления с использованием двоичных цифр (0 или 1), квантовые компьютеры представляют информацию с помощью квантовых битов (кубитов), которые могут находиться в суперпозиции обоих состояний (0 и 1 одновременно).

Поскольку кубиты чрезвычайно чувствительны к внешним возмущениям, чтобы иметь возможность управлять ими, манипулировать ими и использовать их, кубиты необходимо охладить до уровня, чрезвычайно близкого к абсолютному минимуму температуры (или нулю кельвинов), около 15 милликельвинов. Это холоднее космоса! Фактически, внутри квантового компьютера находится самое холодное место во Вселенной, о котором мы знаем.

Кубиты позволяют квантовым компьютерам выполнять несколько вычислений одновременно, потенциально приводя к огромному увеличению вычислительной эффективности по сравнению с классическими компьютерами. Есть ряд приложений, в которых квантовые компьютеры будут особенно трансформирующими:

— Моделирование физических систем для открытия лекарств и создания новых материалов;

— Решение сложных задач оптимизации в цепочке поставок, логистике и финансах;

— Сочетание с ИИ для ускорения машинного обучения;

— Факторизация целых чисел, позволяющая дешифровать наиболее часто используемые протоколы кибербезопасности (например, RSA, алгоритм асимметричного шифрования, используемый для безопасной передачи данных).

Крупные технологические компании, такие как IBM, Google и Microsoft, стремятся к «квантовому превосходству», определяемому моментом, когда квантовый компьютер преуспеет в решении проблемы, которую ни один классический компьютер не мог бы решить за любой возможный промежуток времени.

В октябре 2019 года Google заявила, что достигла квантового превосходства на своем 53-кубитном квантовом компьютере. Однако критики говорят, что проблема, решенная в эксперименте Google, не имела практического значения, и поэтому гонка за квантовое превосходство все еще продолжается.

Современные квантовые компьютеры имеют около 60 кубитов, но дальнейшие разработки быстро сменяют друг друга, а амбиции высоки. В сентябре прошлого года IBM анонсировала план развития своих квантовых компьютеров, включая цель построить к 2023 году квантовый компьютер с 1000 кубитами. У Google есть собственный план по созданию квантового компьютера на миллион кубитов к 2029 году.

Благодаря квантовым компьютерам на 1000 кубитов, так называемым шумным квантовым компьютерам промежуточного масштаба (NISQ), мы уже можем увидеть некоторые ценные практические приложения в области проектирования материалов, открытия лекарств или логистики. Поэтому ближайшие пять-десять лет будут невероятно захватывающими для квантовых вычислений.

Последствия для обороны и безопасности

Квантовые технологии обладают потенциалом для открытия новых глубоких возможностей, позволяя нам ощутить бесчувственное, и позволяя решать проблемы, которые мы никогда раньше не могли решить.

В среде защиты и безопасности следующие два приложения будут иметь особенно важное значение в ближайшей и среднесрочной перспективе:

Во-первых, квантовое зондирование. Квантовые датчики имеют многообещающее военное применение. Например, квантовые датчики могут использоваться для обнаружения подводных лодок и самолетов-невидимок. Квантовые датчики могут использоваться для определения местоположения, навигации и времени (PNT). Такие «квантовые устройства PNT» можно использовать в качестве надежных инерциальных навигационных систем, которые позволяют осуществлять навигацию без необходимости внешних ссылок, таких как GPS. Это может изменить правила игры, например, для подводной навигации на подводных лодках, а также в качестве резервной навигационной системы для надводных платформ в случае потери сигнала GPS.

Первые квантовые датчики уже коммерчески доступны, что делает их наиболее зрелой технологией в области зондирования, связи и вычислений. Более того, ожидается, что гражданский сектор будет стимулировать развитие квантовой связи и вычислений, учитывая огромную потенциальную ценность, которую они имеют для гражданской промышленности. Однако потенциальные приложения квантового зондирования, такие как квантовый PNT и квантовый радар, особенно интересны для военных. Следовательно, именно военные должны финансировать, поддерживать и направлять исследования и разработки в этой области, чтобы эти потенциальные приложения стали реальностью.

Во-вторых, «квантовая угроза», которую представляют квантовые вычисления. Как упоминалось в предыдущем разделе, факторизация целых чисел — это один из типов задач, которые квантовые компьютеры могут решать особенно эффективно. Большая часть нашей цифровой инфраструктуры и практически все, что мы делаем в Интернете — будь то видеоконференции, отправка электронной почты или доступ к нашему онлайн банковскому счету — зашифровано с помощью криптографических протоколов, основанных на сложности решения таких задач целочисленной факторизации (например, RSA алгоритм). Хотя практически пригодные для использования квантовые компьютеры все еще нуждаются в разработке, квантовый алгоритм для решения этих задач и дешифрования нашей цифровой связи, то есть алгоритм Шора, уже изобретен в 1994 году и ждет квантового компьютера, способного его запустить.

Хотя вы можете подумать, что любой графический калькулятор сможет решить эту, казалось бы, простую математическую задачу, на самом деле, самый быстрый суперкомпьютер в мире потребует для ее решения все время жизни Вселенной. Однако квантовый компьютер мог бы решить эту проблему за пару минут.

Квантовая угроза – это серьезная угроза для общества в целом, а также для военных, учитывая важность защищенной связи и надежной информации для обороны и безопасности. Чтобы противостоять ей, придется полностью обновить всю безопасную цифровую инфраструктуру, используя криптографию, которая является «квантовой», то есть защищенную как от квантовых, так и от классических компьютеров. Один из вариантов — дождаться, пока квантовая связь (QKD или квантовая телепортация) созреет, и использовать эту квантовую технологию для защиты от других квантовых технологий. Однако время не на нашей стороне. Технология квантовых вычислений может не только опередить развитие квантовых коммуникаций, но и уже сегодня создает угрозу.

Лучшим вариантом защиты от угрозы является реализация «постквантовой криптографии» (PQC), новых классических (т.е. неквантовых) криптографических алгоритмов, которые не смогут решить даже квантовые компьютеры. В настоящее время Национальный институт стандартов и технологий США (NIST) проводит международный конкурс по выбору алгоритмов PQC, которые будут стандартизированы и приняты во всем мире. Процесс начался в 2016 году, а в июле 2020 года NIST объявил, что у него есть семь окончательных кандидатов.

Можно ожидать, что NIST сделает свой окончательный выбор для стандартизации к началу 2022 года и установит фактические стандарты к 2024 году.

Путь вперёд

Новые достижения в исследованиях и разработках квантовых технологий могут принести в военную сферу новые захватывающие возможности. Учитывая значительный интерес и финансирование квантовых технологий как со стороны гражданской промышленности, так и со стороны правительств, ожидается, что технология станет зрелой и новые квантовые приложения станут доступными уже в ближайшие пять-десять лет. Однако для того, чтобы вооруженные силы союзников могли действительно воспользоваться преимуществами новых квантовых технологий, важно, чтобы союзники активно участвовали в этой области и руководили разработкой и внедрением квантовых технологий в военных целях. Это должно включать не только взаимодействие с крупными технологическими компаниями, но и, в частности, со стартапами, университетами и исследовательскими институтами, поскольку они имеют жизненно важное значение для инноваций в этих новых технологиях.

Союзные вооруженные силы могут внести значительную добавленную стоимость в прилагаемые усилия, предоставив инфраструктуру для тестирования и проверки (центры тестирования) и доступ к военным операторам — конечным пользователям. Ранние эксперименты с технологиями не только способствуют их дальнейшему развитию, но также позволяют военным ознакомиться с этими технологиями и их возможностями, что поможет облегчить их внедрение в будущем. Более того, активное участие в квантовой экосистеме увеличивает понимание военными потенциальных рисков, связанных с квантовыми технологиями, особенно в киберпространстве.

Когнитивная биотехнология: возможности и соображения для Североатлантического союза

Университет Джона Хопкинса и Имперский колледж в Лондоне

26 февраля 2021 г.

Достижения в области биофизических, биохимических и поведенческих технологий начинают превращать научную фантастику в реальность. Эти разработки открывают захватывающие возможности, а также поднимают вопросы в отношении этики и ответственного их использования.

Альянс сталкивается с рядом значительных возможностей в новых и революционных технологиях. Когнитивная биотехнология (CBT) — это развивающаяся область с широким спектром последствий для экономической и военной конкурентоспособности членов Североатлантического союза. И, как обсуждалось в случае искусственного интеллекта, разработки в этой области потребуют как динамичного внедрения новых технологий, так и сосредоточения внимания на их ответственном управлении.

СВТ — это способность технологий улучшать человеческое мышление, восприятие, координацию и воздействие на физическую и социальную среду. С помощью СВТ наша эффективность, обычно ограниченная пределами физиологии человека, может быть расширена и усилена биофизическими, биохимическими или биоинженерными средствами.

Эта область находится в зачаточном состоянии, но ее значение огромно. Например, в последнее десятилетие ученые объединили сигналы мозга с машинными интерфейсами для создания протезов, управляемых разумом. Совсем недавно они сделали поток информации двунаправленным, создав протезы, которые теперь могут ощущать и отправлять информацию обратно в мозг.

Если люди могут приводить в действие (то есть приводить в движение) машины, а эти машины, в свою очередь, могут приводить в движение людей, то мы вышли за рамки нашей физиологии. Более того, если эти машины мобильны и могут взаимодействовать с разумом на расстоянии, то мы расширили досягаемость за пределы наших физических ограничений.

И наоборот, наше сознание больше не является закрытым: в то время как появляющиеся интерфейсы мозг-компьютер позволяют нам обучать и управлять компьютерами, компьютеры в свою очередь все в большей степени могут заглядывать в наш разум, обучать и улучшать нас. Или, говоря другими словами, пока мы работали над улучшением машин, машины научились улучшать — и, возможно, контролировать — нас.

Когнитивная биотехнология направлена на улучшение человеческого мышления, восприятия, координации и воздействия на физическую и социальную среду.

При рассмотрении широкого спектра использования CBT можно выделить три широкие области применения — восстановление, повышение и замена.

Восстановление включает в себя реабилитацию когнитивных и биологических нарушений, которые мешают разуму и телу эффективно функционировать. Цель состоит в том, чтобы вернуть способности к базовой функциональности. Приложения оказывать помощь раненым солдатам в восстановлении их физических возможностей; в заживлении черепно-мозговых травм; в лечении посттравматического стрессового расстройства (ПТСР); в восстановлении или (в случае травматического стресса) подавлении воспоминаний; в восстановлении функций принятия решений.

Повышение включает в себя улучшение когнитивных и физиологических функций сверх естественного исходного уровня человека, тем самым вызывая резкие изменения в операционной эффективности, готовности и обучении. Повышение включают сенсорное улучшение (например, улучшение зрения или более острый слух); ускорение обработки информации; ускорение и повышение эффективности принятия решений; повышение эффективности обучения и овладения языком; усиление переносимости физических нагрузок и улучшение выносливости.

То, что верно для индивидуальных способностей, верно и для групп. CBT можно использовать для повышения возможностей подразделения с помощью распределенного интеллекта, то есть все члены подразделения видят и знают то, что каждый отдельный член видит и знает, тем самым уменьшая «туман войны» и улучшая быстрое принятие решений.

Замена включает усиление (и, возможно, замену) умственных и физических функций за пределы человеческого потенциала. Сенсорные связи можно заменить компьютерными интерфейсами, сделав человеческие способности независимыми от их пяти естественных чувств. Вербальное общение можно заменить загрузкой данных. Физические действия могут быть заменены удаленными роботами или дронами, управляемыми разумом оператора. Это, пожалуй, самая футуристическая форма усовершенствования, большая часть исследований и разработок которой только зарождаются. Важно отметить, что эта форма усиления не устраняет полностью человеческое взаимодействие, иначе это была бы просто еще одна форма автоматизации.

Эта классификация может оказаться полезной при установлении приоритетов для дальнейших исследований, роста инвестиций в технологическое развитие и принятия для оперативного использования. И она также может помочь в установлении принципов ответственного использования с учетом различных уровней технического риска и этической неопределенности трех категорий.

Текущее состояние и будущий потенциал СВТ

Когнитивные биотехнологии в настоящее время сосредоточены на трех основных областях исследований: биофизических, биохимических и поведенческих. Трудно предсказать будущее этих технологий, особенно потому, что многие из них еще только появляются. Но у них есть потенциал, поэтому в интересах Североатлантического союза необходимо внимательно следить за развитием технологий и приложений, которые с наибольшей вероятностью повлияют или нарушат существующие оборонные конструкции и доктрины. Более того, важно направить начальные инвестиции в те области, которые особенно многообещающие для Североатлантического союза, или те, которые, скорее всего, повлияют на его конкурентоспособность.

Биофизические технологии

Достижения в биофизической области сосредоточены на интерфейсах мозг-компьютер (BCI), которые можно вводить непосредственно в тело человека или с помощью транскраниальной стимуляции постоянным током (tDCS). tDCS — это форма нейромодуляции, в которой используются постоянные токи, подаваемые через электроды на голове, которые можно носить или снимать по желанию. В то время как BCI был первоначально разработан для предоставления вспомогательных технологий (таких как протезы рук и психически контролируемые инвалидные коляски), недавние разработки в двунаправленности позволили повысить восприятие, (например, бионические глаза) или другие улучшения ситуационной осведомленности. Дальнейшее применение этих технологий может привести к мысленному управлению системами самолетов или наземных транспортных средств; управляемым разумом дронам или ракетам; или механизации солдат с помощью экзоскелетов и современных датчиков.

Экзоскелеты могут улучшить физические возможности солдат, позволяя им бегать быстрее, поднимать более тяжелые предметы и снимать нагрузку с тела.

В то же время было показано, что приложения tDCS регулируют сам человеческий мозг, влияя на его исполнительные функции, механизмы обучения, память, языковую обработку, сенсорное восприятие и двигательные функции. Текущая работа с tDCS сосредоточена на выздоровлении от посттравматического стрессового расстройства и лечении психических заболеваний, таких как обсессивно-компульсивное расстройство. Но технология также дает возможность повысить когнитивные и физические способности солдат: легче и быстрее анализировать сценарии; сохранять и восстанавливать воспоминания с большей остротой и скоростью; модулировать восприятие боли; улучшить психологическую самозащиту; а также улучшить мышечную память и двигательные навыки. Однако есть и еще один, достаточно споррный аспект tDCS — это возможность заглянуть в сознание пользователя, отобразить и воспроизвести прошлые воспоминания на внешнем мониторе.

Биохимические технологии

Биохимические исследования были сосредоточены на улучшении физиологии и когнитивных функций человека с помощью лекарств, генетических модификаций и биологических производных. Было показано, что комбинации ноотропных соединений, как природных, так и синтетических, восстанавливают баланс и оптимизируют нейрохимию для улучшения функции и эффективности мозга и нервной системы. Они могут способствовать повышению бдительности и внимания, ускорению времени реакции, выносливости и психологической устойчивости, уменьшению опасения и страхов, а также улучшению групповой динамики и координации. Аспекты восстановления включают лечение депрессии, посттравматического стрессового расстройства, потери памяти и слабоумия.

Поведенческие технологии

Поведенческие исследования сосредоточены на модификации и улучшении когнитивных и двигательных функций с помощью алгоритмов обучения, виртуальной реальности и методов биологической обратной связи. Среды виртуальной реальности уже используются при обучении пилотов, экипажей танков и пехоты. Остроту ума можно повысить с помощью алгоритмов обучения и геймификации. Поведение и личные привычки можно изменить с помощью методов обучения с подкреплением. Приложения ориентированы как на улучшение, так и на выздоровление. В работе применяются последние достижения в лечении посттравматического стрессового расстройства и различных поведенческих расстройств.

Демонстрация боевого тренажера — формы лечения посттравматического стрессового расстройства — проводится в Национальном военно-медицинском центре Уолтера Рида в Бетесде, штат Мэриленд, США.

Интеграция когнитивных и физиологических данных пользователя в реальном времени (например, показателей внимания, частоты сердечных сокращений и т. д.) открывает новые возможности для повышения физической и когнитивной деятельности.

Этические вопросы и ответственное использование

Есть несколько этических соображений в отношении СВТ, которые по своей сложности могут превосходить даже ИИ. Прежде всего, это вопрос личного волеизъявления. Если когнитивно-поведенческая терапия способна мотивировать, активизировать и даже контролировать принятие человеческих решений и действия, где заканчивается индивидуальная ответственность? Несут ли солдаты ответственность за свои действия, когда они находятся под воздействием продвинутого CBT, и при каких условиях?

Соответственно, как Альянс обеспечивает наличие достаточного согласия на использование CBT для лиц, которым поручено использовать эту технологию? Эти технологии могут быть инвазивными, как физиологически, так и психологически, и могут причинить вред, особенно потому, что мы не до конца понимаем их непредвиденные когнитивные и биологические последствия.

Кроме того, возникнут серьезные проблемы с конфиденциальностью, когда эти технологии войдут в наши умы и смогут увидеть наши самые сокровенные мысли и воспоминания. Каковы пределы таких поисков? И какова защита физиологических и когнитивных данных, и кто может хранить и контролировать их распространение или принимать решения об их удалении? В более общем виде, какие инструменты защиты от возможности контроля над разумом, когнитивного стирания и перепрограммирования мы будем иметь?

Успех Североатлантического союза в области CBT будет зависеть от хорошо разработанных принципов и практики, касающихся этих этических соображений, поскольку принятие и интеграция этих технологий будет основываться на согласии и принятии их правительствами союзников, а также общества в целом. Как и в случае с ИИ, Альянсу и правительствам-членам необходимо будет разработать принципы ответственного использования, решив такие вопросы, как конфиденциальность, согласие, законность, ответственность и управляемость.

Противодействие когнитивной войне: осведомленность и устойчивость

Университет Джона Хопкинса и Имперский колледж в Лондоне

20 мая 2021 г.

Североатлантический союз сталкивается с рядом проблем в новых областях конфликта. Эти области могут возникнуть в результате внедрения новых и революционных технологий. Например, области космоса и кибернетики возникли в результате разработок ракет, спутников, вычислительной техники, телекоммуникаций и технологий межсетевого взаимодействия. Все более широкое использование социальных сетей, обмена сообщениями в социальных сетях и мобильных устройств открывает новую область: когнитивную.

В когнитивной войне человеческий разум становится полем битвы. Цель состоит в том, чтобы изменить не только то, что люди думают, но и то, как они думают и действуют. При успешном применении когнитивное воздействие формирует и влияет на индивидуальные и групповые убеждения и поведение, способствуя достижению тактических или стратегических целей агрессора. В своей крайней форме оно может расколоть и раздробить все общество, так что у последнего больше не будет коллективной воли противостоять намерениям противника. Противник мог бы подчинить себе общество, не прибегая к прямой силе или принуждению.

Цели когнитивной войны могут быть ограничены короткими временными горизонтами. Или они могут быть стратегическими, с кампаниями, проводимыми на протяжении десятилетий. Одиночная кампания может быть сосредоточена на ограниченной цели — предотвратить проведение запланированного военного маневра или заставить изменить конкретную государственную политику. Несколько последовательных кампаний могут быть запущены с долгосрочной целью разрушить целые общества или союзы, посеять сомнения в отношении управления, подорвать демократические процессы, спровоцировать гражданские беспорядки или сепаратистские движения.

В прошлом веке инновационная интеграция мобильной пехоты, бронетехники и авиации привела к новому и изначально непреодолимому виду маневренной войны. Сегодня когнитивная война объединяет возможности кибернетического, информационного, психологического воздействия и социальной инженерии для достижения своих целей. Она использует Интернет и социальные сети для выборочного и последовательного нацеливания на влиятельных лиц, определенные группы и большое количество персон.

Когнитивное воздействие стремится посеять сомнения, ввести противоречивые нарративы, поляризовать мнения, радикализировать группы и побудить их к действиям, которые могут разрушить или раздробить сплоченное в остальном общество. А широкое использование социальных сетей и технологий смарт-устройств в странах-членах Альянса может сделать их особенно уязвимыми для такого рода атак.

Когнитивная область — это новое пространство конкуренции, выходящее за пределы сухопутной, морской, воздушной, кибернетической и пространственной областей.

Фейковые новости не требуются

Важно отметить, что ложная информация или фейковые новости не требуются для достижения целей когнитивной войны. Досадного правительственного документа, украденного из электронной почты государственного должностного лица, затем анонимно просочившегося на сайт обмена сообщениями или выборочно переданного оппозиционным группам в социальной сети, достаточно, чтобы вызвать разногласия.

Кампания по обмену сообщениями в социальных сетях, разжигающая страсти онлайн-лидеров мнений, может стать причиной вирусных споров. Группы в социальных сетях могут быть мотивированы на организацию демонстраций и выход на улицу. Официальные опровержения или неоднозначные общественные отклики в этих обстоятельствах могут усугубить путаницу и сомнения или укрепить противоречивые нарративы среди определенных слоев населения.

Хотя поддельные учетные записи в социальных сетях и «боты» для автоматического обмена сообщениями могут усилить эту динамику, они не требуются. Недавнее исследование Массачусетского технологического института показало, что одни только эмоции удивления и отвращения делают сообщения вирусными — и обычные пользователи, а не боты, быстро распространяют их.

Наши умные устройства

Бумажный экземпляр вашей любимой газеты не знает, какие новости вы предпочитаете читать, но ваш планшет или компьютер знает. Реклама, которую вы видели в газете, не знает, что вы пошли в магазин, чтобы купить то, что рекламировалось, но ваш смартфон знает. Передовая статья, которую вы читаете, не знает, что вы с энтузиазмом поделились ею с некоторыми из ваших ближайших друзей, но ваша социальная сеть знает.

Приложения для социальных сетей отслеживают то, что нам нравится и во что мы верим; смартфоны отслеживают, куда мы идем и с кем проводим время; социальные сети отслеживают, с кем мы связаны, а кого исключаем. Платформы поиска и электронной коммерции используют эти данные отслеживания, чтобы претворять в жизнь наши предпочтения и убеждения, предлагая стимулы, побуждающие покупать вещи, которые мы иначе не купили бы.

Пока что общества потребителей видели и принимали выгоды. Планшет или компьютер предлагает нам новости, которые, как он знает, нам понравятся, потому что он хочет, чтобы мы были вовлечены. Отображаются рекламные объявления, которые соответствуют нашим вкусам, основанным на наших предыдущих покупках. Купоны появляются на нашем смартфоне, чтобы побудить нас остановиться в магазине, который по некоторому очевидному совпадению уже находится на нашем текущем маршруте. В социальных сетях представлены мнения, с которыми мы полностью согласны. Друзья в ближних кругах в социальных сетях также разделяют это мнение, поскольку те, кто этого не делает, тихо «не дружат» или уходят сами.

Короче говоря, мы все чаще оказываемся в удобных пузырях, из которых быстро исключаются неприятные или тревожные новости, мнения, предложения и лица — если они вообще появляются. Опасность состоит в том, что общество в целом может распасться на множество таких пузырей, каждый из которых будет блаженно отделен от других. И, поскольку они расходятся, каждый с большей вероятностью будет потревожен или шокирован всякий раз, когда они соприкоснутся. То, что когда-то было динамичным открытым обществом, становится совокупностью множества закрытых микросообществ, сожительствующих на одной и той же территории, подверженных расколам и беспорядкам.

Наши ослабленные умы

Когнитивные способности также могут быть ослаблены социальными сетями и интеллектуальными устройствами. Использование социальных сетей может усилить когнитивные предубеждения и врожденные ошибки принятия решений, описанные в книге «Думай медленно… Решай быстро» лауреата Нобелевской премии Дэниела Канемана.

Новостные ленты и поисковые системы, которые предоставляют результаты, соответствующие нашим предпочтениям, увеличивают предвзятость подтверждения. В результате мы интерпретируем новую информацию, чтобы подтвердить наши предвзятые мнения. Приложения для обмена сообщениями в социальных сетях быстро снабжают пользователей новой информацией, вызывая предвзятость новизны. В результате мы переоцениваем важность недавних событий над событиями прошлого. В социальных сетях мы имитируем и подтверждаем действия и убеждения других, чтобы соответствовать нашим социальным группам, которые становятся отголосками конформизма и группового мышления.

Быстрый темп обмена сообщениями и выпусками новостей, а также осознанная необходимость быстро реагировать на них побуждают «думать быстро» (рефлексивно и эмоционально) в отличие от «медленного мышления» (рационально и рассудительно). Даже авторитетные новостные агентства теперь публикуют эмоциональные заголовки, чтобы поощрять вирусное распространение своих новостных статей.

Люди тратят меньше времени на чтение своего контента, даже если они чаще делятся им. Системы обмена сообщениями в соцсетях оптимизированы под распространение коротких фрагментов, в которых часто упускается важный контекст и нюансы. Это может способствовать распространению как преднамеренно, так и непреднамеренно неверно истолкованной информации. Краткость сообщений в социальных сетях в сочетании с яркими визуальными образами может помешать читателям понять мотивы и ценности других.

Потребность в осознании

Преимущество в когнитивной войне получает тот, кто ходит первым и выбирает время, место и средства наступления. Когнитивная война может вестись с использованием множества векторов и средств массовой информации. Открытость платформ социальных сетей позволяет злоумышленникам легко нацеливаться на отдельных лиц, избранные группы и сообщества, используя обмен сообщениями в социальных сетях, влияние в социальных сетях, выборочную публикацию документов, обмен видео и т. д.

Надлежащая защита требует, как минимум осознания того, что ведется кампания когнитивной войны. Прежде чем лица, принимающие решения, примут решение действовать, требуется способность наблюдать и ориентироваться. Технологические решения могут дать ответы на некоторые ключевые вопросы: идёт ли кампания? Кто ее ведет? Каковы могут быть цели? Наше исследование показывает, что существуют шаблоны таких кампаний, которые повторяются и могут быть классифицированы. Они могут даже выявлять «подписи», уникальные для конкретных субъектов, которые могут помочь их идентифицировать.

Особенно полезным технологическим решением может быть система мониторинга и оповещения о когнитивной войне. Такая система могла бы помочь выявлять кампании когнитивной войны по мере их возникновения и отслеживать их по мере развития. Она может включать в себя информационную панель, которая объединяет данные из широкого спектра социальных сетей и вещательных СМИ. Система будет отображать географические карты и карты социальных сетей, которые показывают развитие подозрительных кампаний в течение определенного времени.

Определяя как географические, так и виртуальные местоположения, в которых появляются сообщения и новостные статьи в социальных сетях, обсуждаемые темы, тональность и лингвистические идентификаторы, время выпуска релизов и другие факторы, панель управления может выявить связи и повторяющиеся закономерности. Можно было бы наблюдать связи между учетными записями в социальных сетях (например, репосты, комментарии, взаимодействия) и временем публикаций. Использование алгоритмов машинного обучения и распознавания образов может помочь быстро идентифицировать и классифицировать появляющиеся кампании без вмешательства человека.

Такая система позволила бы осуществлять мониторинг в реальном времени и своевременно предупреждать лиц, принимающих решения в НАТО и Североатлантическом союзе, помогая им формулировать соответствующие ответы на кампании по мере их появления и развития.

Соображения по устойчивости

С первых дней существования Североатлантического союза НАТО играет важную роль в продвижении и повышении гражданской готовности среди его государств-членов. Статья 3 учредительного договора НАТО устанавливает принцип устойчивости, который требует от всех государств-членов Североатлантического союза «поддерживать и развивать свою индивидуальную и коллективную способность противостоять вооруженному нападению».

Некоторые ключевые задачи для НАТО в настоящее время заключаются в том, как лучше всего взять на себя ведущую роль в определении когнитивных атак, как помочь членам Североатлантического союза поддерживать осведомленность и как поддерживать более надежные инфраструктуры гражданской связи и системы просвещения общественности, чтобы повысить способность противостоять и отвечать на удары.

Противодействие дезинформации: повышение цифровой устойчивости Североатлантического союза

Университет Джона Хопкинса, Имперский колледж Лондона и Технологический институт Джорджии

12 августа 2021 г.

Североатлантическому союзу нужна в целом эффективная стратегия противодействия растущей угрозе дезинформации. Инструменты искусственного интеллекта (ИИ) могут помочь выявлять и замедлять распространение ложного и вредоносного контента, поддерживая при этом ценности плюралистических и открытых обществ.

Дезинформация — не новинка

Ложная информация и вводящие в заблуждение рассказы были инструментами конфликтов и государственного управления с тех пор, как легендарный город Троя пал перед древними греками, а возможно и раньше. Сегодня у нас есть фальшивые новости, фальшивые профили в социальных сетях и сфабрикованные рассказы, созданные для введения в заблуждение — иногда как часть скоординированных кампаний когнитивной войны.

Социальные сети и Интернет привели к революции в дезинформации. Мы живем в мире недорогих цифровых инструментов и средств массовой информации с радикально расширенным охватом, масштабами и воздействием. Обеспокоенность заключается в том, что эти инструменты доступны не только государственным субъектам, но и негосударственным, частным лицам, а также всем, кто находится между ними.

Ложные сообщения и подстрекательские нарративы иногда попадают в заголовки газет, особенно на Западных Балканах и в некоторых странах-союзниках. Опасность заключается в ущербе, который они могут нанести вере граждан в институты демократического управления и ресурсы общественной информации и дискуссий. В последние годы мы стали свидетелями растущей политической поляризации, исторически низкого уровня доверия к правительственным институтам, а также все более частых случаев беспорядков и насилия, которым частично способствовала ложная информация.

Акцент на ложных фактах

Глобальные компании, работающие в социальных сетях, взяли на себя задачу уменьшить количество ложной информации на своих платформах. Большинство из них использует штатных сотрудников, проверяющих факты в целях отслеживания распространения ложной информации. Некоторые полагаются на сторонние инструменты проверки фактов или модерации. Несколько популярных платформ, включая Facebook, YouTube и Twitter, предоставляют своим пользователям возможность сообщать о других пользователях, подозреваемых в распространении ложной информации, сознательно или неосознанно. В попытке нивелировать ущерб, причиненный ложной информацией, подавляющее большинство платформ социальных сетей использовали массовое удаление контента, идентифицированного как вредный или вводящий в заблуждение.

В лучшем случае этого оказалось слишком мало и слишком поздно. В худшем случае это привело к обвинениям в цензуре и к удалению информации или мнений, которые впоследствии оказались достоверными или заслуживающими общественного обсуждения.

Проблема объёма

Только Facebook имеет около трех миллиардов активных пользователей в месяц, каждый из которых способен опубликовать в Интернете что-то провокационное. Twitter имеет более 350 миллионов активных пользователей, включая известных людей, популярных лидеров общественного мнения, а также умных и находчивых влиятельных лиц.

Текущий подход к борьбе с дезинформацией в основном основан на ручной проверке фактов, удалении контента и борьбе с ущербом, наносимым им. Хотя вмешательство человека может быть полезным в случаях, требующих тонкого понимания нюансов или учета культурных особенностей, оно плохо согласуется с большими объемами информации, создаваемыми каждый день. Маловероятно, что привлечение дополнительных сотрудников — это реальный вариант для упреждающего выявления ложного или вредоносного контента до того, как он получит шанс широко распространиться. Проверка фактов, проводимая людьми, сама по себе подвержена ошибкам, неверной интерпретации или предвзятости.

Ежемесячно миллиарды активных пользователей социальных сетей могут опубликовать в Интернете что-то провокационное. Это огромный объем информации для проверяющих факты вручную людей.

Что становится вирусным?

«Ложь летит, а истина хромает вслед за ней», — писал сатирик Джонатан Свифт в XVII веке. Недавнее исследование Массачусетского технологического института показало, что в Твиттере ложные новости с большей вероятностью станут вирусными, и за их повторное распространение понесут ответственность обычные пользователи, а не автоматизированные «боты». Люди также «ретвитят» эти ложные новости с чувством удивления и отвращения. Напротив, правдивые истории вызывают чувство печали, ожидания и доверия (и делятся ими гораздо реже).

Это порождает вопрос: следует ли нам сосредоточиться не на фактах, а на эмоциях? И можно ли обучить этому компьютеры?

Не проверяйте факты, проверяйте эмоции

Анализ настроений с использованием ИИ представляет собой совершенно другой подход к смягчению дезинформации путем обучения компьютеров распознаванию сообщений и публикаций, содержащих элементы удивления, отвращения и других эмоциональных предикторов. Они чаще связаны с ложной информацией и разжигают страсти пользователей социальных сетей.

Алгоритмы обработки естественного языка позволяют идентифицировать лингвистические индикаторы рассматриваемых эмоций. Они полностью избегают проверки фактов вручную, снижая предвзятость, а также увеличивая скорость обработки. Команда студентов Университета Джона Хопкинса создала многообещающий рабочий прототип, а их товарищи по команде из Технологического института Джорджии и Имперского колледжа Лондона разработали технико-экономические обоснования и возможные подходы к регулированию.

Не прекращайте дезинформацию, замедляйте её

Но что делать после обнаружения очень вирусного (и, вероятно, ложного) сообщения или публикации? Аналогия с финансовыми рынками предлагает решение: автоматический выключатель, который временно приостанавливает или замедляет распространение эмоционально окрашенного контента.

Фондовые рынки избегают панических продаж, временно приостанавливая торговлю акциями, которые упали на определенный процентный порог. На Нью-Йоркской фондовой бирже продажа акций, которые падают в цене более чем на 7%, сначала приостанавливается на 15 минут. Идея состоит в том, чтобы замедлить ход событий и позволить более холодным головам подумать. Последующее снижение цен может вызвать дополнительные приостановки торговли.

Эффект охлаждения от замедления может быть значительным. На сайте обмена сообщениями в социальных сетях сообщение, которое удваивается каждые 15 минут, может гипотетически достигнуть одного миллиона просмотров за пять часов и 16 миллионов просмотров за шесть часов. Но если его замедлить до удвоения каждые 30 минут, оно достигнет только одной тысячи просмотров за пять часов и четырех тысяч за шесть часов. Небольшие задержки в распространении вирусного контента приводят к огромным различиям в воздействии.

Такой механизм будет работать не за счет предотвращения распространения, а за счет замедления взаимодействия; например, устанавливая периоды охлаждения между комментариями или предлагая пользователям подумать о возможных последствиях перед повторной отправкой сообщения. Механизм основан на центральном тезисе из книги лауреата Нобелевской премии Даниэля Канемана «Думай медленно… Решай быстро». Медленное мышление рационально и позволяет избежать эмоциональности быстрой реакции на неожиданные и шокирующие новости или события.

Это могло бы уменьшить опасения по поводу цензуры или произвольных ограничений на свободное распространение идей. Сообщения и посты не удаляются, они остаются доступными для просмотра и обсуждения, только в более медленном темпе. Это упрощает работу того, кто выносит решение о «разрешенных высказываниях», и защищает свободы выражения мнений и публичного дискурса. Такой подход может быть реализован с помощью стимулов или регулирования на различных уровнях инфраструктуры связи: в самих компаниях-источниках, шлюзах-посредниках (или платформах промежуточного программного обеспечения), на уровне передачи сообщений (каналы связи) или даже на уровне устройства (смартфона или планшета).

Соображения для Альянса

Дезинформация — одна из нескольких цифровых угроз, с которыми сталкивается Североатлантический союз. Недавние информационные кампании и кибератаки показали, что даже технологически развитые государства-члены должны делать больше, чтобы подготовиться к текущим и будущим цифровым вызовам. Необходим больший прогресс в создании успешных механизмов устойчивости и нормативно-правовой базы.

Тем не менее, эти угрозы, похоже, возрастают с каждым днем, и у Североатлантического союза остается мало времени. Использование преимуществ существующих технологий и их инновационное применение должно сэкономить время и ресурсы. Минимально инвазивные концепции смягчения последствий, такие как замедление — но не окончательное удаление — потенциально вредных сообщений в социальных сетях, могут быть наиболее многообещающим первым шагом к борьбе с угрозой дезинформации. Тогда Альянс сможет в будущем уделять больше времени развитию дополнительных технологий и более комплексным подходам к регулированию.

Исторически стойкость и сила открытых и плюралистических обществ заключались в их способности новаторски адаптироваться к возникающим вызовам и обстоятельствам.

Основным механизмом для этого является свободный поток идей и информации, а также открытое общественное обсуждение и изучение вариантов, политик и планов. Любое решение по дезинформации должно защищать этот механизм, если мы хотим сохранить это преимущество.

Более того, принятие решений государствами-членами будет зависеть от признания их обществом в целом и вряд ли увенчается успехом, если внутренние группы будут считать себя маргинализированными или исключенными из общественного диалога.

НАТО могла бы попытаться содействовать принятию таких подходов, предоставив государствам-членам возможность определять свои собственные национальные стратегии цифровой безопасности. Это обеспечит правительствам государств-членов гибкость в реализации механизмов по своему усмотрению, соответствующую их местным уровням внедрения социальных сетей и общественным ожиданиям свободы слова.

***

Контур инноваций НАТО определен Четвёртой промышленной революцией. Он примерно одинаков во всех странах и организациях. Другое дело его наполнение и реализация в конкретных военных разработках. Здесь процесс взаимодополняющий. Иногда инновации встраиваются в военную технику, но, одновременно, сами инновации могут определять развитие вооружений.

Для России в условиях современной жёсткой конфронтации с НАТО важно понимать, на что обращено главное внимание, какие принципы закладываются в развитие инноваций.

Полагаем, что представленные выше положения экспертов НАТО дают возможность прогнозировать конкретное приложение инноваций в развитие военных инструментов Альянса.

Метки: война, гиперзвук, дезинформация, инновации, искусственный интеллект, квантовое будущее, НАТО, технологии, цифровизация, четвёртая промышленная революция