Елена Ларина, Владимир Овчинский

Завтра

ИИ как универсальное оружие

---

В США растёт обеспокоенность тем, что недавние инициативы Министерства обороны США по развитию технологий ИИ и существующие процессы могут оказаться недостаточными для решения насущных задач. А также то, что запланированный уровень изменений недостаточен и что министерство рискует скатиться на путь рискованного «постепенного подхода». Запланированные изменения, такие как создание целевой группы по генеративному искусственному интеллекту или усилия по проведению обширного обучения искусственному интеллекту и обучению сотрудников Министерства обороны США, — это долгосрочные инвестиции, которые не принесут немедленных результатов. Это делает Соединенные Штаты потенциально уязвимыми в краткосрочной перспективе, поскольку Китай продолжает быстро наращивать силы, чтобы свести на нет текущие оперативные преимущества США.

Стремясь первыми в мире обладать самыми передовыми формами искусственного интеллекта, сохраняя при этом контроль над более чем миллиардом человек, элитные китайские учёные и их правительство обратились за вдохновением к чему-то новому и очень старому — человеческому мозгу.

Подробно с этим попытался разобраться Newsweek 18 сентября 2023 года.

1. В Китае близки к созданию Общего – когнитивного ИИ

В рамках одной из тысяч предпринимаемых усилий они создают «городской мозг» для улучшения компьютеров в ядре «умных городов», которые уже сканируют страну от широких проспектов Пекина до улиц маленьких городков, собирая и обрабатывая терабайты информации — от сложных сетей датчиков, камер и других устройств, которые отслеживают дорожное движение, человеческие лица, голоса и походку и даже ищут «сборы драк».

Оснащенный возможностями наблюдения и визуальной обработки, смоделированными на человеческом зрении, новый «мозг» будет более эффективным, менее энергоемким и «улучшит управление», заявляют его разработчики. «Мы называем это бионическими вычислениями сетчатки», — написал Гао Вэнь, ведущий исследователь искусственного интеллекта, в статье «Городской мозг: проблемы и решения».

Работа Гао и его передовой лаборатории Пэн Чэн в южном городе Шэньчжэнь представляет собой гораздо больше, чем просто стремление Китая расширить все более всеобъемлющий мониторинг своих граждан: это также показатель решимости Китая выиграть гонку за то, что известен как общий искусственный интеллект.

Это ИИ, который может не только перехитрить людей при решении огромного количества задач и дать тому, кто его контролирует, огромное стратегическое преимущество, но также вызвал предупреждения экспертов на Западе о потенциальной угрозе существованию цивилизации, если он перехитрил своих хозяев-людей и вышел из-под контроля.

Статья Гао — лишь одна из примерно 1000 статей, просмотренных Newsweek , которые показывают, что Китай продвигается вперед в гонке за общий искусственный интеллект, что является шагом вперед по сравнению с большими языковыми моделями, такими как Chat GPT или Bard, которые уже штурмуют общество своей способностью генерировать текст и изображения и быстро находить огромные объемы информации.

«Общий искусственный интеллект — это «атомная бомба» информационного поля и «победитель игры» в соревновании между Китаем и Соединенными Штатами», — заявил в июле 2023 года в своем родном городе Эчжоу в Ухане другой ведущий китайский ученый в области искусственного интеллекта Чжу Сунчун. в провинции Хубэй, сообщает Jingchu Net, онлайн-сайт газеты Hubei Daily — СМИ КПК.

Точно так же, как в 1950-х и 60-х годах, когда китайские ученые круглосуточно работали над созданием атомной бомбы, межконтинентальной ракеты и спутника, «нам необходимо разработать ИИ по принципу «две бомбы и один спутник» и сформировать «армию высшего уровня» ИИ, которая представляет национальную волю», — сказал Чжу.

Китай стремится стать мировым лидером в области искусственного интеллекта к 2030 году. Эта цель четко сформулирована в официальном «Китайском мозговом проекте», объявленном в 2016 году. Искусственный интеллект и наука о мозге также являются двумя из полдюжины «передовых областей», названных в 15-летнем национальном научный план, рассчитанный на 2021–2035 годы.

В докладе, опубликованном в августе вашингтонским футуристическим аналитическим центром, предупреждается о серьезной опасности для человечества, исходящей от искусственного интеллекта.

Есть искусственный интеллект, а есть искусственный интеллект.

Существуют серьезные различия между используемыми сейчас системами «узкого искусственного интеллекта», которые не могут «думать» самостоятельно, но могут выполнять такие задачи, как написание курсовой работы человека или идентифицировать его лицо, и более амбициозным искусственным общим интеллектом, который однажды сможет справляются со многими задачами лучше, чем люди.

Американские ученые также работают над AGI, хотя усилия в основном разрознены, в отличие от Китая, где исследовательские институты, занимающиеся этим вопросом, получили многие сотни миллионов долларов государственного финансирования, говорят западные ученые в области искусственного интеллекта, которые работали со своими китайскими коллегами в передовых разработках, но которые попросили не называть их имени из-за политической чувствительности вокруг этой темы.

В докладе, опубликованном в августе 2023 года The Millennium Project, вашингтонским футуристическим аналитическим центром, который предупреждает о серьезной опасности для человечества со стороны AGI, эксперт по искусственному интеллекту Джеффри Хинтон заявил, что его ожидания относительно того, когда это может быть достигнуто, недавно упали с 50 лет до менее более 20, а возможно, и всего пять.

«Мы можем быть близки к тому, чтобы компьютеры выдвинули свои собственные идеи по самосовершенствованию, и это может произойти очень быстро. Нам нужно хорошенько подумать о том, как это контролировать», — сказал Хинтон.

Основное различие между Западом и Китаем заключается в публичных дебатах по поводу опасностей, которые может представлять собой ИИ, в том числе очень продвинутый.

«Лаборатории искусственного интеллекта безрассудно спешат создавать все более и более мощные системы, не имея надежных решений, которые могли бы сделать их безопасными», — сказал Newsweek Энтони Агирре из американского Института будущего жизни, имея в виду в основном работу в США. Более 33 000 ученых подписали контракт призыв института в марте о шестимесячной паузе в некоторых разработках ИИ, однако он остался без внимания.

Лишь немногие подобные экзистенциальные опасения выражаются публично в Китае.

В апреле 2023 года китайский лидер Си Цзиньпин заявил Политбюро: «Подчеркните важность общего искусственного интеллекта, создайте инновационную систему для него», согласно сообщению государственного информационного агентства «Синьхуа». Си Цзиньпин часто призывал китайских учёных развивать ИИ быстрыми темпами — по крайней мере 13 раз за последние годы. Си Цзиньпин также сообщил Политбюро, что ученые должны обращать внимание на риск, однако пока основной риск, связанный с ИИ, о котором упоминают в Китае, носит политический характер: в новом законе, принятом в августе 2023 года, на первое место ставится правило, согласно которому ИИ «должен придерживаться основных социалистических ценностей».

Ли Чжэн, исследователь Китайского института современных международных отношений в Пекине, написал в июле 2023 года, что Китай «больше озабочен национальной безопасностью и общественными интересами», чем ЕС или США.

«США и страны Запада уделяют больше внимания борьбе с предвзятостью и дискриминацией в этике ИИ, пытаясь избежать воздействия алгоритмической дискриминации на интересы этнических меньшинств и маргинализированных групп», — написал Ли в китайскоязычном издании Global .

Институт Ли принадлежит Министерству государственной безопасности КНР.

Масштабы китайских исследований в области искусственного интеллекта были подчеркнуты в исследовании Джорджтаунского центра безопасности и новых технологий под названием «Китайские исследования когнитивного искусственного интеллекта», в котором был сделан вывод, что Китай находится на правильном пути, и содержится призыв к более тщательному изучению усилий Китая со стороны США.

«Исследования в области когнитивного искусственного интеллекта в Китае улучшат его способность использовать роботов, принимать более разумные и быстрые решения, ускорять инновации, осуществлять операции влияния и надежно выполнять другие функции высокого уровня с большей автономией и меньшими вычислительными затратами, повышая глобальный риск ИИ и стратегические задачи. другим странам», — заявили авторы в июльском (2023 года) исследовании.

Изучив тысячи китайских научных работ по ИИ, опубликованных в период с 2018 по 2022 год, группа авторов выявила 850 из них, которые, по их словам, показывают, что страна серьезно занимается разработкой ИИ, в том числе с помощью науки о мозге — цели, выделенной в нынешнем пятилетнем плане Китая.

Исследования включают в себя:

исследования зрения, вдохновленные наукой о мозге, такие как исследование Гао;

восприятие, направленное на познание;

исследования по распознаванию образов8

исследования того, как имитировать нейронные сети человеческого мозга в компьютерах;

усилия, которые в конечном итоге могут привести к созданию гибридов человека и робота, например, размещение крупномасштабной симуляции мозга на теле робота.

Иллюстрируя это, в репортаже государственной телекомпании CCTV, опубликованном в конце 2022 года, было показано, как робот манипулирует дверной ручкой, чтобы открыть шкаф, а ученый объяснил, что «камера глубины», прикрепленная к его плечам, также может «распознавать телосложение человека и анализировать его телосложение». намерения, основанные на этой визуальной информации».

Примечательно, что исследователи из Джорджтауна заявили: «В китайских газетах было необычно большое количество статей по распознаванию лиц, походки и эмоций», а также по анализу настроений, предсказанию «ошибочного» поведения и военному применению.

В дополнение к статьям, выявленным в исследовании, другие, просмотренные Newsweek , исследовали соответствие ценностей человека и робота, «Аффективные вычисления, основанные на миндалевидном теле» (имеется в виду небольшая часть мозга, которая обрабатывает страх), промышленные приложения, такие как «Замкнутый цикл интерфейс «мозг-компьютер» с обратной связью дополненной реальности для промышленного сотрудничества человека и робота», а с июля 2023 года — «BrainCog: основанная на резкой нейронной сети система когнитивного интеллекта, вдохновленная мозгом, для искусственного интеллекта и моделирования мозга, вдохновленного мозгом».

Предстоящее исследование американских исследователей будет сосредоточено на использовании Китаем «интерфейса мозг-компьютер» для повышения когнитивных способностей здоровых людей, что, по сути, означает формирование их интеллекта и, возможно, даже, учитывая политическую среду в Китае, их идеологию.

Некоторые ученые считают AGI недостижимой научной фантастикой. Но Макс Ризенхубер, содиректор Центра нейроинженерии Медицинского центра Джорджтаунского университета, считает, что Китай находится на пути, который имеет больше шансов на успех, чем большие языковые модели, такие как ChatGPT, текущая озабоченность на Западе.

«ChatGPT по замыслу не может двигаться вперед и назад в своих рассуждениях, он ограничен линейным мышлением», — сказал Ризенхубер в интервью.

В Китае «существует очень разумное осознание того, что LLM являются ограниченными моделями реального интеллекта. Верный способ достичь настоящего интеллекта — это реконструировать человеческий мозг, который является единственной интеллектуальной системой, о которой мы знаем», — сказал Ризенхубер. .

Он предупредил, что неясно, добьется ли кто-нибудь, включая Китай, успеха в создании ИИ следующего уровня. «Однако приближение к реальности уже принесет свои плоды», — сказал он.

В речах и государственных документах, с которыми ознакомился Newsweek , китайские чиновники заявляют, что стремятся к «преимуществу первопроходца» в сфере AGI. Ученые говорят, что потенциально самовоспроизводящаяся природа ИИ означает, что это может дать им постоянное преимущество.

«Общий искусственный интеллект — это первоначальная и конечная цель исследований в области искусственного интеллекта», — заявил Чжу, основатель и директор ведущего китайского института AGI, Пекинского института общего искусственного интеллекта (BIGAI), на онлайн-мероприятии в начале 2023 года. «Я специально решил использовать AGI как часть названия учреждения, чтобы отличить его от специализированного искусственного интеллекта», такого как «распознавание лиц, обнаружение объектов или перевод текста», — сказал Чжу.

Чжу, как и многие другие ведущие ученые в области искусственного интеллекта в Китае, является бывшим студентом и профессором университетов США.

Стремление Китая к созданию AGI получило поддержку государственной политики на высшем уровне в 2017 году, когда правительство опубликовало «План развития искусственного интеллекта нового поколения», проложивший путь к лидерству в этой области в глобальном масштабе к 2030 году.

Публичные документы, с которыми ознакомился Newsweek, свидетельствуют о широкой и глубокой официальной поддержке. В мае 2023 года видно, что Муниципальная комиссия по науке и технологиям Пекина подписала двухлетнюю программу по позиционированию города как мирового лидера в исследованиях AGI со значительными государственными субсидиями.

Пекин сосредоточится на «мозгоподобном интеллекте, воплощенном интеллекте… и создаст просвещенные большие модели и общий интеллект», говорится в сообщении. Строительство «Пекинского инновационного парка искусственного интеллекта» площадью один миллион квадратных футов должно быть завершено в конце 2024 года.

Центром исследований является северо-западный пекинский университетский район Хайдянь Чжунгуаньцунь, китайская «Силиконовая долина». Помимо BIGAI, в столице находится Пекинская академия искусственного интеллекта (BAAI), а также университеты Пекина и Цинхуа, которые также активно занимаются исследованиями в области искусственного интеллекта. Центры взаимосвязаны.

По мнению правительства округа, такая концентрация исследований, разработок и коммерческой деятельности создаст «точку ядерного взрыва» для развития общего искусственного интеллекта. Власти района и города не ответили на запросы о комментариях.

Другие ключевые места проведения исследований включают Ухань, Шанхай, Шэньчжэнь, Хэфэй, Харбин и Тяньцзинь.

Перспектива разработки сверхразумных искусственных интеллектов вызывает огромные опасения по поводу безопасности, говорит Ник Бостром, директор Института будущего человечества Оксфордского университета, отвечая на вопрос о работе Китая над искусственным интеллектом.

«У нас пока нет надежных методов масштабируемой настройки ИИ. Поэтому, если сегодня будет разработан общий машинный сверхинтеллект, мы, возможно, не сможем обеспечить его безопасность и контроль», — сказал Бостром Newsweek .

ИИ в том виде, в котором он есть сегодня, уже достаточно озабочен своим потенциалом для разработки усовершенствованного химического или биологического оружия, киберпреступности, автоматических роев дронов или его использования для тоталитарного угнетения, а также для пропаганды или дискриминации, отметил он.

«В конечном счете, мы все сидим в одной лодке в отношении наиболее серьезных рисков, связанных с ОИИ. Таким образом, в идеале было бы, чтобы вместо того, чтобы ссориться и драться на палубе во время приближающегося шторма, мы работали вместе, чтобы привести судно в порядок», — сказал Бостром.

Другие поставили под сомнение вероятность соблюдения соглашения об этической реализации, даже если оно будет согласовано на глобальном уровне.

«Этические соображения, несомненно, являются важным аспектом регулирования ИИ в Китае. Однако остается неясным, есть ли у регулирующих органов возможность или желание строго обеспечивать соблюдение правил, связанных с этикой», — сказала Анджела Чжан, директор Центра китайского языка в Университете Гонконга.

«Учитывая преобладающие политические проблемы, я не верю, что этические соображения станут доминирующим фактором в будущих решениях Китая по регулированию ИИ», — сказал Чжан.

Несмотря на это, она сказала, что необходимо попытаться добиться соглашения между Китаем и США как ведущими мировыми центрами искусственного интеллекта, и выразила надежду, что это возможно.

«Это будет упущенная возможность не привлечь Китай к установлению универсальных правил и стандартов для ИИ», — сказал Чжан.

Западный эксперт по искусственному интеллекту, который общается с китайскими учеными и политиками в области искусственного интеллекта, сказал, что, хотя китайские чиновники заинтересованы в международных мерах по безопасности или в международном органе по регулированию искусственного интеллекта, они должны участвовать в установлении правил, иначе эти усилия наверняка потерпят неудачу.

В заявлении для Newsweek Лю Пэнъюй, представитель посольства Китая в США, ясно дал понять, что Китай хочет играть «широкую» роль в будущем регулировании ИИ. «В принципе, Китай считает, что развитие ИИ приносит пользу всем странам, и все страны должны иметь возможность активно участвовать в глобальном управлении ИИ», — сказал Лю.

2. Китай вытесняет преимущество армии США в сфере технологий

Статью с таким названием опубликовал The HILL (18.09.2023).

Пекин взял на себя обязательство создать полностью современную армию к 2027 году, несмотря на то, что Вашингтон предпринимает шаги по ограничению доступа Китая к американским технологиям, которые помогут сделать это возможным. Однако, чтобы действительно изменить ситуацию, Америке необходимо осознать роль разработки проектов с открытым исходным кодом в полупроводниковой промышленности.

Одним из тревожных для США примеров является разработка Китаем RISC-V — архитектуры проектирования микросхем с открытым исходным кодом, которая может служить множеству конечных приложений. Технология RISC-V имеет приложения двойного назначения, обеспечивая работу таких инструментов, как искусственный интеллект (ИИ), автономные системы и технологии наблюдения.

До сих пор мало внимания уделялось инфраструктуре чипов с открытым исходным кодом или заинтересованности Пекина в лидерстве в производстве чипов с открытым исходным кодом, что в конечном итоге уменьшит его зависимость от чипов, контролируемых Западом. Несмотря на то, что недавние конкурентные действия США против Китая, такие как экспортный контроль и проверка исходящих инвестиций, предприняли некоторые шаги по контролю доступа Пекина к передовым полупроводниковым технологиям, правительству США по-прежнему необходимо наметить стратегию, которая позволит закрыть существующие лазейки вокруг открытых технологий.

Полупроводниковые чипы являются основой повседневной электроники, и то же самое можно сказать и об их важности для военных систем. От дронов и истребителей до автономных транспортных средств и устройств связи — чипы являются инструментом, обеспечивающим работу всего этого.

Независимая комиссия, созданная Конгрессом, недавно пришла к выводу, что «если потенциальный противник опередит Соединенные Штаты в производстве полупроводников в долгосрочной перспективе или внезапно полностью лишит США доступа к новейшим чипам, он может одержать верх во всех сферах войны».

Китай открыто пытается обойти американские правила экспорта полупроводников, инвестируя в RISC-V для разработки отечественных чипов, подрывая многолетнюю двухпартийную и международную работу в этой области. Этот «черный» доступ к технологиям проектирования чипов, который преследует Китай, потенциально представляет собой самую большую угрозу военному доминированию США со времен холодной войны.

Это не просто гипотеза. В 2022 году сообщалось, что, поскольку «США угрожают прекратить поставки микрочипов в Россию, российские компании, в том числе «Ядро» и «Эльбрус», разрабатывают работоспособные ядра RISC-V». С тех пор «Ядро» было добавлено в список особого назначения Министерства финансов в рамках усилий США по увеличению расходов на российскую военную машину. «Эльбрус» еще не внесен в список США, несмотря на сообщения об использовании его чипов в некоторых вычислительных приложениях российских военных и служб безопасности.

Кроме того, «Китайская академия наук, которая входит в список организаций США с ограниченной торговлей, разработала 64-битные ядра RISC-V, опираясь на проекты с открытым исходным кодом, предоставленные компаниями в Америке и Европе».

Поскольку RISC-V дает разработчикам микросхем возможность настраивать свои проекты в среде с открытым исходным кодом, на него распространяется мало торговых и экспортных правил и ограничений, что представляет собой серьезную угрозу в ситуациях, когда безопасность имеет первостепенное значение.

Полупроводниковая промышленность Китая резко выросла с 1300 зарегистрированных компаний в 2011 году до 22 800 к 2020 году. Хотя эти компании в основном сосредоточены на производстве, технологии с открытым исходным кодом, они открывают двери для внутреннего производства и разработки передовых чипов, имеющих решающее значение для разработки современных систем вооружения.

Именно это обстоятельство отражает давнюю напряженность на Тайване. Многие эксперты ожидают, что Китай вторгнется на Тайвань в течение следующего десятилетия под лозунгом своего «принципа одного Китая», поскольку Тайвань производит более 60 процентов мировых полупроводников и более 90 процентов самых передовых полупроводников. Это вполне реальная стратегическая причина для действий Китая.

В этой связи министерства торговли и обороны США вместе работают над стратегией, направленной на закрытие существующих лазеек в экспортном контроле и предотвращение участия граждан США в разработке технологии RISC-V Китаем и Россией.

3. Что означает новый чип Huawei для полупроводниковой промышленности Китая?

Прошли годы с тех пор, как компания Huawei, один из крупнейших технологических гигантов Китая и источник национальной гордости, оказалась в центре внимания всего мира из-за обвинений в угрозах национальной безопасности. С 2019 года компания Huawei столкнулась с несколькими санкциями со стороны США, которые отрезали компании доступ к бизнесу и оборудованию из США и их союзников. Huawei и Китайская международная корпорация по производству полупроводников (SMIC) были внесены в список организаций США , который, как полагают, фактически ограничил поток технологий и высококачественных чипов этим китайским фирмам.

Но важным событием является то, что компания Huawei представила свой новый смартфон Huawei Mate 60 Pro, который, как полагают, содержит чип 5G. Процессор Kirin 9000S в телефоне оснащен 7-нанометровым (N+2) чипом Huawei, который разработан подразделением микросхем Huawei HiSilicon и производится крупнейшим китайским поставщиком чипов SMIC.

Это событие вызвало шок среди западных СМИ и экспертов, которые ожидали снижения мощностей Китая по производству чипов после того, как США ввели меры экспортного контроля, направленные на ограничение поставок чипов в Китай в октябре 2022 года. 7-нм чип Huawei (N+2) лежит в основе самой передовой технологии, производимой мировыми лидерами Тайваньской компанией по производству полупроводников (TSMC) и Samsung.

Стратегия китайских производителей заключается в использовании отстающих технологий для перехода к передовым технологиям. У Китая всё ещё есть доступ к более старым технологиям, таким как чипы NVIDIA H800 и инструменты для производства чипов более низкого уровня (скажем, 28 нм).

Имея это в виду, компания Huawei использовала устаревшую архитектуру набора команд ARM, инструменты EDA и инструменты литографии глубокого ультрафиолета (DUV) последнего поколения для создания довольно конкурентоспособного набора микросхем в своем новом выпуске.

Возрождающийся прорыв Huawei в создании собственного 7-нм чипа определенно усиливают внутренний энтузиазм в производстве чипов на фоне западного режима отрицания технологий. Особо был отмечен выпуск смартфона во время визита министра торговли США Джины Раймондо в Китай. Эта новость дала толчок китайским акциям и усилила технонациональную гордость среди китайского народа.

С запуском Huawei Mate 60 Mate Pro его устойчивость в массовом масштабе в конечном итоге может не иметь большого значения. Еще важнее то, что доказанные технологические возможности Huawei по производству 7-нм чипов позволяют китайской полупроводниковой промышленности выглядеть устойчивой перед лицом западных санкций. Прорыв и уверенность в своих силах в области 7-нм технологии убедили китайское руководство и дальше инвестировать в передовую экосистему финансирования Big Fund.

Если Huawei добьется успеха в масштабировании и поставке своего процессора Kirin 9000S с возможностями 5G, она может стать конкурентом Apple на внутреннем рынке, восстановить свои силы на рынке смартфонов и, что наиболее важно, продемонстрировать способность Китая преодолеть разрыв чипа со своими конкурентами.

Что еще более важно, предполагаемый прорыв в области полупроводников ясно демонстрирует роль западных санкций в качестве катализатора в стимулировании стремления Китая к самостоятельности в производстве микросхем.

Компания Shanghai Micro Electronics Equipment (SMEE), китайская альтернатива ASML, создает местные литографические машины с использованием лазеров на фториде криптона (Krf) с длиной волны 248 нм. В используемых в настоящее время процессах DUV используются лазеры на фториде аргона (Arf) с длиной волны 193 нм. Хотя нынешние возможности этих литографических машин ограничены производством чипов размером до 28 нм, это повышает перспективы восхождения Китая по лестнице в отечественных технологиях литографии. В то время как ASML пришлось проводить исследования и разработки с нуля, Китай может за годы создать передовую технологию литографии, воспользовавшись преимуществом опоздавших. Компания будет стремиться использовать Arf-лазеры и иммерсионные технологии для собственной разработки передовых методов EUV.

Ещё одна причина, по которой нельзя сбрасывать со счетов будущие возможности Китая, заключается в его способности тайно приобретать технологии и развивать финансируемые государством нишевые компании с передовыми технологиями, а также его огромный внутренний потенциал для удовлетворения растущего рыночного спроса. Уникальные отношения китайского правительства со своими технологическими гигантами — еще один фактор, который вряд ли можно увидеть в других странах.

Хотя понятно, что самый передовой китайский чип по-прежнему отстает от чипов, производимых такими конкурентами, как TSMC, Qualcomm и Samsung, этот прорыв определенно подорвет уверенность в эффективности западных санкций. Эксперты полагают, что 7-нм прорыв Huawei еще больше спровоцирует Соединенные Штаты расширить сферу своих санкций и мер экспортного контроля.

Трудно сказать, поможет ли недавний прорыв положить конец зависимости Китая от иностранных технологий, но он наверняка поставит под угрозу и еще больше усложнит игру режимов санкций и экспортного контроля в продолжающейся технологической войне.

4. ИИ и китайские супербатареи для оружия

Согласно исследованию, опубликованному в сентябре 2023 года журналом Военно-морского инженерного университета, Китай разработал самую мощную в мире батарею для высокоэнергетического оружия, и она может производиться массово на многих заводах страны по производству литиевых батарей.

Исследователи заявили, что этот прорыв был достигнут при непосредственном участии быстро развивающейся автомобильной промышленности Китая и будет способствовать разработке оружия следующего поколения и улучшению возможностей китайской армии.

По мнению команды, возглавляемой младшим исследователем Ян Цзявэй из Университета электронных наук и технологий, батарея 40165 может стать первой в мире, которая будет выделять энергию так же быстро, как суперконденсатор.

Согласно запрету, Ян и его коллеги из университета в Чэнду, провинция Сычуань, не могут посещать США, и им запрещено использовать какое-либо американское оборудование или технологии.

Китай является крупнейшим производителем электромобилей и лидирует в мире в области технологий литиевых аккумуляторов. В первом квартале 2023 года она обогнала Японию и стала крупнейшим в мире экспортером автомобилей благодаря высокому спросу на ее электромобили.

Китайские бренды доминируют в глобальной цепочке поставок электромобилей, при этом более трех четвертей мировых мощностей по производству аккумуляторов расположено в Китае.

По словам ученых проекта, батарея основана на революционной конструкции и имеет рекордную плотность мощности, которая раньше считалась невозможной.

Большинство имеющихся в продаже литиевых батарей имеют ограниченную выходную мощность, и для разрядки всей накопленной энергии требуется не менее часа, что ограничивает их применение в основном гражданским использованием.

Но исследователи заявили, что батарея 40165 может высвободить всю свою энергию за 12–36 секунд, а полная перезарядка занимает всего три минуты.

Эти характеристики дают ему показатель C, используемый для измерения скорости полной зарядки или разрядки аккумулятора, в пределах от 100°С до 300°С, или менее 100-й доли часа. Для сравнения, показатель C, равный 1C, означает, что аккумулятору требуется один час, чтобы разряжаться со 100 процентов до нуля.

Аккумулятор был разработан с использованием существующего производственного оборудования и отлаженной цепочки поставок сырья, что делает его пригодным для массового производства при относительно низких затратах.

Это будет легкий и компактный источник энергии для «таких видов оружия, как высокоэнергетические электромагнитные пушки, дозвуковое оружие, электромагнитные пусковые установки, лазерное оружие и радары с активной фазированной решеткой, которые имеют чрезвычайно высокие требования к электропитанию», говорится в документе.

Китай с помощью технологий ИИ уже создает это футуристическое оружие, в том числе самый мощный в мире радар военного корабля, способный обнаружить ракету на расстоянии более 4500 км (2800 миль).

Китайские военно-морские ученые ускорили снаряд размером с ракету, который может достичь высокой скорости в мгновение ока, с помощью крупнейшей в мире пушки с электромагнитной катушкой. Они также разрабатывают микроволновое и лазерное оружие, способное уничтожать дроны и даже спутники на околоземной орбите.

Но системы вооружения высокой энергии требуют источника энергии, который может быстро высвободить большое количество энергии, и он должен быть относительно дешевым, безопасным и доступным в больших масштабах.

Сообщается, что китайская индустрия высокоскоростных железных дорог производит высокопроизводительные суперконденсаторы для некоторых из этих видов оружия, но, хотя они имеют быстрый разряд, они могут хранить лишь небольшое количество энергии.

По словам команды Янга, чтобы обеспечить многократное срабатывание во время боя, эти конденсаторы обычно должны работать с традиционным аккумуляторным блоком — гибридной структурой, которая является сложной, громоздкой, дорогостоящей и иногда нестабильной.

Новая батарея может уменьшить размер и вес существующих источников энергии для оружия на две трети, что является «революционным инженерным достижением», говорят исследователи.

Согласно статье, Китайский научно-исследовательский институт автомобильной техники в Чунцине принимал активное участие в разработке, тестировании и производстве «суперконденсаторной» батареи 40165.

Государственное агентство, которое курирует техническое обслуживание и производственные операции автомобильной промышленности Китая, включая электромобили, использовало для исследования новейшие технологии, уже работающие в этом секторе, говорится в документе.

Хотя батарея потребовала переизобретения литиевой батареи, все их инновации были основаны на возможностях основной производственной линии в Китае, говорят исследователи.

«Производственный процесс включает в себя производство целлюлозы, нанесение покрытия, прокатку, резку, намотку, сварку, впрыскивание, формование и сортировку по мощности. Это обычная технология литиевых батарей без какого-либо специального процесса, готовая к массовому производству».

Ранее считалось, что создание такой мощной литиевой батареи невозможно из-за физических ограничений скорости потока электрически заряженных ионов. По словам команды Янга, превышение этого предела может привести к сгоранию критически важных компонентов или даже к взрыву.

Чтобы решить проблему, они перепроектировали практически все, включая химический состав электролитов, структуру электродов и сварочные материалы.

Одна батарейка 40165 размером примерно с небольшую банку для напитков. Испытания показали, что он может работать при температуре до минус 60°C (-140°F) и иметь срок службы до 8000 циклов перезарядки, что значительно выше, чем у большинства литиевых батарей.

Исследователи заявили, что аккумуляторную батарею можно масштабировать для удовлетворения энергетических потребностей различных систем вооружения. Они также ожидают, что эта технология найдет применение в гражданских целях, например, в тяжелых транспортных средствах, которым требуется много энергии.

5. Пентагон создает центры микроэлектроники по всей территории США для поддержки индустрии чипов

Министерство обороны США создает восемь региональных центров микроэлектроники в семи штатах по всей стране, чтобы помочь стимулировать производственные инновации и укрепить отечественную полупроводниковую промышленную базу.

Заместитель министра обороны Кэтлин Хикс сообщила журналистам на брифинге в Пентагоне 20 сентября 2023 года, что общая сумма вложений составляет 238 миллионов долларов. По ее словам, каждый инновационный центр получает от 15 до 40 миллионов долларов на начало первоначальной деятельности.

Базами для восьми хабов являются:

Нью-Йорк, возглавляемый Политехническим институтом Государственного университета Нью-Йорка;

Аризона, возглавляемый Университетом штата Аризона;

Северная Каролина, возглавляемая Университетом штата Северная Каролина;

Индиана, возглавляемый Институтом прикладных исследований;

Огайо, возглавляемый Консорциумом микроэлектроники Среднего Запада;

Южная Калифорния, возглавляемая Университетом Южной Калифорнии;

Северная Калифорния, возглавляемая Стэнфордским университетом и Калифорнийским университетом в Беркли;

Массачусетс, возглавляемый Массачусетским технологическим коллективом.

«Региональные центры будут стимулировать экономический рост не только на местном уровне, но и в более широком смысле», — сказала Хикс. «Хабы помогут нам обеспечить наличие кадрового резерва, необходимого для того, чтобы оставаться на переднем крае посредством образовательных программ и инициатив по переподготовке. И это часть того, как Министерство обороны США сокращает нашу зависимость от иностранных компонентов, защищая нас от рисков нарушения цепочки поставок».

За последние 30 лет доля производства микрочипов в мире выросла с 37% до примерно 12%. Сегодня Тайвань производит большую часть мировых поставок современных полупроводников, а Китай экспортирует большую часть своих микрочипов в Соединенные Штаты. Эти чипы питают все: от мобильных телефонов до автомобилей и истребителей F-35.

Чтобы помочь устранить уязвимости в отечественной цепочке поставок микроэлектроники, Конгресс в 2023 году принял Закон о CHIPS, который предоставил 52 миллиарда долларов на финансирование усилий по улучшению рабочей силы, исследований, разработок и производства полупроводников до 2026 года.

Министерство обороны США получило 2 миллиарда долларов в виде финансирования по Закону о CHIPS, которое оно использует для создания Microelectronics Commons — национальной сети академических учреждений, фирм малого бизнеса и исследовательских организаций, работающих вместе, чтобы продвигать технологические проекты в области микроэлектроники из лабораторий в прототипы и масштабированное производство.

Общие ресурсы будут состоять из «ядер», или заводов по производству микросхем, которые обеспечат доступ к прототипированию и помогут снизить риск интеграции технологий. Инновационные центры помогут связать исследовательские проекты с региональными литейными заводами.

Пентагон планирует тратить около 400 миллионов долларов ежегодно до 2026 года на оснащение хабов и реализацию различных технологических проектов, сосредоточенных на шести областях: электронная война, квантовые технологии, безопасность на периферии, Интернет вещей, сети 5G и 6G и технологии двойного назначения.

По словам высокопоставленного представителя Министерства обороны США, который разговаривал с журналистами до официального объявления о создании центра, в октябре 2023 года министерство проведет свое первое заседание Microelectronics Commons, после чего оно планирует объявить первый конкурс проектов. Организации, не выбранные для руководства инновационными центрами, получат шанс побороться за эти проекты.

«Реализуемые проекты будут представлять собой смесь как очень краткосрочных, так и немного более долгосрочных проектов», — заявил чиновник журналистам на брифинге 19 сентября 2023 года. «Результатом успешного проекта станет то, что можно будет масштабировать на литейном заводе в США».

6. ИИ и новое поколение дронов

28 августа 2023 года заместитель министра обороны Кэтлин Хикс объявила о том, что она назвала инициативой «Replicator (Репликатор)» — комплексной попыткой модернизировать американский арсенал путем добавления флотов искусственно интеллектуального, беспилотного, относительно дешевого оружия и оборудования. Она описала эти машины как «поддающиеся изнашиванию», имея в виду, что они могут подвергаться истощению без ущерба для выполнения миссии.

«Представьте себе рой из сотен или даже тысяч беспилотных летательных аппаратов, которые общаются друг с другом, собирая разведданные о передвижениях войск противника, и вы начнете понимать видение заместителя министра относительно Репликатора. Даже если бы значительное количество дронов было сбито, собранная ими информация уже была бы записана и отправлена ​​обратно операторам на земле», — пишет The New Yorker (15.09.2023).

В каком-то смысле заявление Хикса, сделанное во время выступления под названием «Необходимость инноваций» на заседании Национальной оборонно-промышленной ассоциации, не сигнализировало о совершенно новом подходе. Пять лет назад, например, Стратегия национальной обороны уже призывал к крупным инвестициям в искусственный интеллект, отмечая, что «мы не можем ожидать успеха в борьбе с завтрашними конфликтами с помощью вчерашнего оружия или техники». С тех пор Министерство обороны США потратило миллиарды долларов на искусственный интеллект. Только в 2022 году оно выделило около 900 миллионов долларов на поддержку почти 700 проектов искусственного интеллекта. Тем не менее, как отметила Хикс, многие подобные технологии в конечном итоге потерпели крах в так называемой «долине смерти» и так и не были приняты, даже когда они продемонстрировали успех в лаборатории или в полевых условиях.

Однако с другой стороны, инициатива «Репликатор» представляет собой радикальный отход от обычного бизнеса в Министерстве обороны США. Его цель — ускорить изобретение военных технологий, чтобы изменить способы ведения войн и практики сдерживания США.

Replicator, заявила Хикс, «разработает автономные системы масштаба в несколько тысяч человек в различных областях в течение следующих восемнадцати-двадцати четырех месяцев». По ее мнению, это будут:

«созвездия» этих систем, «выброшенные в космос, десятки за раз»;

группы небольших лодок на солнечных батареях, оснащенных датчиками, которые движутся в океане и передают разведданные в режиме реального времени;

«стаи» воздушных дронов, некоторые из которых ведут наблюдение, а другие несут оружие.

Томас Гамильтон, физик из RAND Corporation, аналитического центра, который часто проводит исследования для вооруженных сил США, называет этот подход экономикой iPhone. «Идея заключается в том, что, хотя стоимость разработки программного обеспечения составляет миллиарды долларов, стоимость производства каждого iPhone очень низка. С военной точки зрения, это будет огромным преимуществом, если я отправлю много вещей, которые дешевы в изготовлении, но имеют дорогое программное обеспечение — поэтому, если враги их собьют, они не уничтожат ни одно из моих дорогих программ».

На протяжении ряда лет Гамильтон вместе с коллегами из RAND, выступает за совместное использование недорогих летательных аппаратов. Он помнит, как снижалась стоимость микропроцессоров и росла их мощность, пока идея создания роев дронов, которую военные вынашивали более десяти лет, не стала казаться осуществимой. «Вы можете заставить десять, двадцать или пятьдесят дронов летать над одним и тем же транспортом и делать снимки своими камерами. И когда они решают, что это достойная цель, они отправляют информацию обратно оператору в Перл-Харбор, Колорадо или еще куда-нибудь», — говорит Гамильтон, — Затем оператор отдавал приказ об атаке». «Вы можете назвать это автономией, потому что человек не летает на всех самолетах. Но в конечном итоге на курок нажмет человек». (Это соответствует политике Министерства обороны США в отношении автономных систем, согласно которой человек всегда должен быть «в курсе».)

Война на Украине стала доказательством того, что множество небольших дронов могут сокрушить сложную боевую силу.

В своем заявлении Хикс несколько раз ссылалась на Китайскую Народную Республику (КНР), не оставляя сомнений в том, что это главная угроза для США. «Репликатор призван помочь нам преодолеть самое большое преимущество КНР — массу. Еще корабли. Еще ракеты. Больше людей», — сказала Хикс.

Неделю спустя, выступая на конференции, спонсируемой Defense News , она задала, а затем ответила на вопрос, связанный с выбором времени реализации инициативы «Репликатор»: «появились ли новые разведданные, которые предполагали неминуемое нападение на Тайвань или на союзников США в Индо-Тихоокеанском регионе?». Хотя она сказала, что этого не произошло, цель Репликатора к 2025 году соответствует тому, что Китай может начать нападение на Тайвань. «Мы должны добиться того, чтобы руководство КНР просыпалось каждый день, рассматривало риски агрессии и делало вывод: «Сегодня не тот день» — и не только сегодня, но каждый день, сейчас и в обозримом будущем», — сказала Хикс.

Самым большим препятствием на пути к успеху инициативы «Репликатор» в Тихоокеанском регионе может стать несоответствие между географией и технологиями. На данный момент малые воздушные дроны Украины имеют ограниченную дальность и мощность, и большинство из них либо производятся в Китае, либо используют китайские компоненты. Напротив, дроны-разведчики американского производства, такие как Global Hawk компании Northrop Grumman, которые используются силами НАТО в украинском конфликте, стоят миллионы долларов и размером с пилотируемый самолет, отчасти потому, что они могут оставаться в воздухе более суток. Даже дроны среднего размера могут стоить более миллиона долларов. Ни то, ни другое вряд ли можно считать «приносящим вред».

«Таким образом, до тех пор, пока американские компании – или само правительство – не смогут производить относительно недорогие дроны, способные летать на большие расстояния, Китай будет иметь преимущество в воздухе».

Воздушные роящиеся дроны — лишь одна часть этого нового рывка. Военно-морской флот США разрабатывает флот небольших беспилотных судов, некоторые из которых не намного больше детской игрушки, а также подводных аппаратов, способных обнаруживать и обезвреживать подводные мины. Он также реализует соглашение с ВВС США, чтобы каждое подразделение могло контролировать боевые дроны другого.

Армия уже давно использует автономные наземные транспортные средства и в настоящее время испытывает четвероногих «собак-роботов», вооруженных винтовками калибра шесть с половиной миллиметров, из которых солдаты могут стрелять за пределами объекта. ВВС намерены создать тысячу «ведомых-роботов» для помощи пилотируемым самолетам. Хикс также планирует запустить тысячи «умных спутников», которые используют ИИ для навигации и отслеживания противников. Останутся ли эти технологии ограниченными полем боя или же они будут перепрофилированы новыми и необузданными способами – например, для внутреннего наблюдения со стороны все более милитаризованной полиции – еще неизвестно.

Достижение видения Хикс, изложенного для Replicator, — это шанс на успех, который потребует нового мышления в Министерстве обороны США, говорит представитель Пентагона Эрик Пахон. «Там, где раньше процесс подачи формы занимал тридцать дней, теперь министерство потенциально может сократить этот период до пяти».

7. Новая роль отдела оборонных инноваций (DIU) в Пентагоне

По задумке, Отдел оборонных инноваций (DIU) существовал как офис, всегда несколько обособленный от Министерства обороны США. Но под новым руководством DIU, похоже, открывает новую главу своего восьмилетнего существования, которая будет посвящена не попыткам изменить игру, а скорее игре в одной команде.

Это изменение представляет собой «довольно значительный сдвиг», рассказал Breaking Defense (19.09.2023) Дуг Бек, бывший вице-президент Apple и капитан военно-морского резерва, возглавивший DIU в апреле 2023 года. Офис стремится стать более интегрированным в Министерство обороны США.

«Речь идет о том, чтобы взять возможности, которые мы создали во время DIU 2.0, по решению реальных военных проблем с помощью коммерческих технологий и обеспечить их возможность развертывания и масштабирования для истребителей, взять эти возможности сейчас и применить их для стратегического эффекта», — говорит Бек.

Бек также заявил, что «DIU сосредоточится не на попытках внедрить интересные технологии в оборонную сферу, а на понимании оперативных пробелов, с которыми сталкиваются боевые командования, чтобы удовлетворить эти потребности».

Есть признаки того, что интеграция началась всерьез. Адмирал Джон Аквилино, глава Индо-Тихоокеанского командования США, объявил о создании нового управления под своим командованием, которое будет более легко подключать промышленность к ключевым инновационным программам вооруженных сил. В рамках нового «Объединенного управления по ускорению миссий» DIU отправит в INDOPACOM сотрудника, который будет выполнять функции заместителя и главного технического директора управления.

DIU также будет играть ключевую роль в поддержке проекта «Репликатор», целью которого является использование тысяч уязвимых автономных систем в попытке противостоять военной массе Китая. Бек рассказал Breaking Defense, что организация поможет «установить повестку дня» для Replicator.

Смещение фокуса DIU имеет «всевозможные последствия» для Пентагона, добавил Бек. «Это влияет на роль, которую мы играем в некоторых ключевых процессах и рабочих группах департамента, чтобы помочь масштабированию», — сказал он.

Что означают изменения DIU в реальном выражении?

Когда бывший министр обороны США Эш Картер встал на пост DIU в 2015 году, он задумывался как своего рода посредник между технологическим сообществом и Пентагоном. Офису было поручено выходить и встречаться с компаниями, базирующимися в Кремниевой долине, а затем и с расширенными центрами в Бостоне и Остине, с целью вернуть лучшие идеи в отдел, и, одновременно, убедить эти компании в том, что инвестиции в оборонную продукцию того стоят.

DIU стал подчиняться непосредственно Картеру, который сделал технологические инновации ключевой частью своей работы. Но при министре обороны Джиме Мэттисе этот офис был понижен на несколько уровней, перейдя от прямого подчинения к дочернему подразделению заместителя министра обороны по исследованиям и разработкам, с последующим естественным сокращением влияния внутри Пентагона.

Когда в апреле 2023 года к руководству в DIU пришел Бек, Ллойд Остин вернул группе ее первоначальный статус прямого подчинения, что критически важно.

8. Создание консолидированной унифицированной сети на базе ИИ для повышения сетевой безопасности — один из главных приоритетов модернизации армии США

В августе 2023 года Пентагон объявил, что к октябрю 2023 года — началу 2024 финансового года Исполнительный офис программы (PEO) по командованию, контролю и тактической связи реструктурирует несколько своих офисов, отвечающих за корпоративные и тактические сети, а также кибероперации.

В рамках реорганизации PEO возьмет на себя интегрированный сетевой портфель от корпоративных информационных систем, который отвечает за более чем 100 проектов в армии.

В соответствии с контрактом Common Hardware Systems 6th Generation, заключенным Армейским командованием по контрактам на Абердинском испытательном полигоне, компания «повысит готовность к выполнению миссий с помощью интеллектуальной логистической платформы Leidos».

Leidos заключила контракт на тактическое ИТ-оборудование армии на сумму 7,9 млрд долларов для поддержки целей JADC2 – объединенного комбинированного управления и контроля всех родов вооруженных сил США на основе ИИ.

Это поможет обеспечить более информированное и своевременное принятие решений на протяжении всего жизненного цикла ИТ (командования, контроля, компьютеров, связи, кибербезопасности, разведки, наблюдения и рекогносцировки) и миссии при поддержке более чем 120 офисов программ армии, Министерства обороны США и федерального правительства, и агентства», — говорится в сообщении. «Оборудование и услуги, приобретенные в соответствии с условиями этого контракта, будут использоваться для поддержки единой сети для многодоменных операций (MDO) и JADC — 2».

В рамках работ, выполняемых по контракту, компания также будет использовать коммерческие технологии и «поддерживать проверенную цифровую инфраструктуру с интуитивно понятной аналитикой и автоматизацией на основе искусственного интеллекта и машинного обучения, которые помогут повысить скорость, точность, отказоустойчивость и экономическую эффективность».

«Leidos также будет работать над развертыванием логистической платформы для упреждающего управления цепочками поставок и рисками кибербезопасности, одновременно минимизируя общие затраты на жизненный цикл».

Джерри Фазано, президент Leidos:

«Объединив гибкие решения с искусственным интеллектом и прогнозной аналитикой для повышения прозрачности операций, мы будем работать над созданием уникально устойчивой модели быстрого выполнения заказов. Мы надеемся обеспечить инновационный уровень прозрачности и гибкости, который поможет повысить способность армии выполнять задачи Объединенного командования и контроля во всех областях (JADC — 2)».

9. Три уровня использования генеративного ИИ в военных и разведывательных целях

Чат-боты ChatGPT теперь могут изобретать новые рецепты, планировать отпуск или составлять экономичный список покупок. Так что же им мешает обобщить секретную разведывательную информацию или составить детальные приказы о военных действиях?

Теоретически ничего, сказали эксперты по искусственному интеллекту из независимого проекта специальных конкурентных исследований (SCSP). Министерству обороны США обязательно следует изучить эти возможности, утверждает SCSP, чтобы Китай или какой-нибудь другой недобросовестный конкурент не опередил их. Однако на практике, как подчеркнули аналитики проекта в интервью Breaking Defense (19.09.2023), потребуется большая тщательная подготовительная работа, как это изложено в недавно опубликованном исследовании SCSP.

И, предупредили они, вам всегда понадобится хотя бы один хорошо обученный человек, который проверит план ИИ, прежде чем действовать по нему, не говоря уже о том, чтобы подключить ИИ напрямую к рою смертоносных дронов.

«Конкретные военные задачи требуют гораздо большей степени специфичности, чем, как вы знаете, создание великолепного куриного пармезана», — сказал Джастин Линч, бывший армейский офицер и сотрудник Hill, который возглавляет оборонные исследования SCSP. «Это потребует лучшей настройки LLM (большой языковой модели). Он должен быть чем-то специально созданным для военных целей, объяснил он: «обученным на таких данных, как военная разведка, официальная доктрина и другие проверенные источники, а не на извлечении текста из сообщений Reddit и других общедоступных веб-сайтов, как это сделал OpenAI для ChatGPT».

«Сейчас это активная область для экспериментов», — сказал он Breaking Defense.

Если генеративный ИИ сможет разработать полный военный оперативный план, сможет ли он затем также выполнить этот план, возможно, передавая приказы непосредственно стае боевых дронов? Это технологически возможно, но это ужасная идея, — сказал Линч, — и это совсем не то, что рекомендует SCSP.

«Всё, о чем мы говорим, строго находится в пределах недавно обновленной директивы Министерства обороны США, которая предписывает человеческий контроль над смертоносной силой».

«Всё дело в совершенствовании человеческого процесса принятия решений, планирования, получения и обработки информации, а не в выполнении миссий… Технологии не существуют для автоматического выполнения».

Эксперты SCSP подчеркнули, что «всегда нужен знающий человек, дважды проверяющий план, сгенерированный ИИ, и выявляющий любые ошибки, точно так же, как любому писателю-человеку нужен редактор. Хотя это несколько замедляет темп по сравнению с чистой автоматизацией, они признали, что человеку требуется гораздо меньше времени для проверки существующего черновика, чем для его создания с нуля, поэтому это все равно должно сэкономить значительную часть времени. современные ручные и трудоемкие кадровые процессы.

Вкратце, эксперты SCSP предполагают три уровня военного и разведывательного использования генеративного ИИ (от самых простых краткосрочных приложений до самых амбициозных, требующих многих лет тщательной подготовительной работы и экспериментов):

А. Генерация контента. SCSP начинается с работы, которую уже выполняют чат-боты, только специально адаптированные для таких задач, как обобщение секретных разведывательных отчетов или инвентаризация военной логистики. Чем точнее и конкретнее наборы данных, на которых обучается ИИ, тем точнее и действеннее его ответы, в отличие от подхода «мастер на все руки, ни в чем не мастер», принятого ChatGPT и другими потребительскими ИИ. Большинство военных пользователей хотели бы иметь особенно сильные меры защиты от «галлюцинаций» ИИ, которые выдают ложь. Однако, как сказал выпускник ЦРУ и эксперт по разведке SCSP Чип Ашер, Агентство могло бы использовать пристрастие ИИ к художественной литературе для создания подробных фальшивых биографий своих агентов, потенциально включая годы убедительных постов в социальных сетях;

Б. Автоматизированная оркестровка . На следующем уровне, вместо того, чтобы просто использовать один набор данных, каким бы большим он ни был, ИИ может «вызывать информацию из большого набора баз данных или инструментов», объяснил Линч. «Я провел много времени, работая в центрах тактических операций, и обычно у вас есть доступ к сотням баз данных и инструментов, и время, чтобы ознакомиться с гораздо меньшим их количеством…. Большая языковая модель может автоматически их оркестровать, а затем извлекать наиболее релевантные наборы данных и наиболее подходящие для вас аналитические инструменты»;

В. Агентический ИИ. Здесь ИИ может перейти от рекомендации задач к их выполнению , хотя и под строгим контролем. Эксперты SCSP предполагают, что генеративный ИИ поручит подчиненным ИИ собирать информацию, чтобы заполнить пробелы в его данных, например, или организовывать конвои с припасами, а не запускать автономные смертоносные рои.

Более высокие уровни в этой структуре основаны на способности генеративного ИИ принимать широкий запрос на простом английском языке — от «запланировать питание моих детей на следующую неделю» до «придумать план материально-технического обеспечения для моего батальона» — и превращать его в подробный чек-лист конкретных задач. ИИ на самом деле не понимает задач, подчеркнул Линч, но он видел достаточно написанных человеком контрольных списков, чтобы генерировать свои собственные, похожие, когда его об этом спросят.

Точно так же ИИ на самом деле не «понимает», чего просят его хозяева-люди. Он не осознает внешней реальности, а лишь статистические корреляции между словами и частями слов («токены» на жаргоне). Но LLM действительно хорошо научились превращать вводимые на человеческом языке данные в машиночитаемые 1 и 0, а затем превращать их вывод в понятные слова. Это позволяет им выступать в качестве посредников между людьми – даже неподготовленными людьми – и все более сложными алгоритмами.

«Многие инструменты, которые мы видим, имеют интерфейсы на естественном языке, которые значительно повышают доступность и снижают барьеры для работы в определенных секторах без многолетнего интенсивного обучения или образования», — сказал Байрактари из SCSP. Обратной стороной является то, что нескольким злонамеренным лицам стало легче, чем когда-либо, массово производить дезинформацию, вредоносное ПО или даже смертоносное оружие, такое как самодельные бомбы или отравляющий газ. Положительным моментом является огромный потенциал для людей, не имеющих интенсивной технической подготовки в области ИИ, воспользоваться преимуществами новых мощных технологий ИИ.

Фактически, между появлением искусственного интеллекта и ростом Китая, как утверждается в докладе SCSP, человечество сталкивается с сочетанием технологических изменений и геополитической нестабильности с пугающим «сходством с эпохой перед Первой мировой войной».

10. Сдерживать Китай с помощью коммерческого программного обеспечения

Дэвид Пира в The National Interest (20.09.2023) пишет, что «революция в области программного обеспечения может помочь выжать больше возможностей из существующих вооруженных сил США в сроки, которые действительно могут помочь сдержать войну с Китаем и другими противниками».

«Американские военные столкнулись с серьезным вызовом. В то время как Китай и другие угрозы американским интересам становятся все более острыми, оборонный бюджет и общая численность вооруженных сил относительно статичны. Для реализации планов по развертыванию большего количества новых, более эффективных платформ, таких как корабли и самолеты следующего поколения, потребуются годы. Нам нужен ярлык. Ответом может стать лучшее программное обеспечение, коммерчески доступное».

«Один из способов, с помощью которого Америка может оказать большое влияние на быстрое сдерживание Китая, — это программное обеспечение, особенно коммерчески доступное программное обеспечение, которое можно адаптировать к военным потребностям в течение месяцев, а не лет.

Более эффективный сбор, обработка и защита информации — это способ добиться дополнительного использования ограниченного числа систем вооружения, которые мы имеем сегодня. Нигде в последнее время это не было так очевидно, как на поле боя на Украине. Обе стороны гораздо чаще использовали датчики и коммерческую связь по сравнению с предыдущими конфликтами. Они часто принимают форму относительно низкотехнологичных, быстровозводимых беспилотных летательных аппаратов. Программное обеспечение для обработки этой информации и принципы проектирования, обеспечивающие ее безопасность, имели решающее значение.

Руководство вооруженных сил США понимает необходимость более активного использования технологий. Пентагон предписал оперативные императивы, которые включают следующие вопросы:

устойчивая космическая архитектура;

оптимизированное управление и контроль, которое работает во всех видах вооруженных сил;

расширение возможностей отслеживания и поражения движущихся целей;

общение во враждебных средах, где противники используют дыры в наших сетях».

Все эти направления могут быть быстро улучшены с помощью программного обеспечения. Более того, программное обеспечение часто можно быстро и с гораздо меньшими затратами модернизировать в существующие системы вооружения, чем улучшаемое им оборудование. Это особенно верно, если программное обеспечение может быть адаптировано из частного сектора, а не создано правительством как «эксклюзивный» продукт.

«Возьмем, к примеру, космос. Использование более совершенного программного обеспечения для защиты космических сетей, которые вскоре будут включать в себя десятки тысяч частных спутников в дополнение к правительственным и коммерческим спутникам, уже находящимся на орбите, может стать для вооруженных сил США способом понять поле боя и управлять своими силами. Также может возникнуть необходимость сотрудничества с менее опытными партнерами. Это также было продемонстрировано на Украине, где боевики также использовали коммерческие спутниковые снимки почти в реальном времени. Управляемые правительством шпионские спутники, возможно, по-прежнему остаются золотым стандартом, но варианты частного сектора не сильно отстают.

Тысячи спутников, которые частные операторы, такие как Starlink от SpaceX и Kuiper от Amazon, выводят на орбиту, в сочетании со спутниками, принадлежащими государству, станут важным фактором увеличения силы, если их правильно эксплуатировать и защищать с помощью специализированного программного обеспечения. В частности, старые и новые спутники необходимо модернизировать и спроектировать для использования сквозного шифрования, разработки программного обеспечения с нулевым доверием и децентрализованного управления ключами шифрования».

«Программное обеспечение также может объяснить тот факт, что оборудование в космосе будет отключено в результате действий противника в военное время, поскольку именно программное обеспечение делает сети адаптируемыми. Программное обеспечение, которое защищает информацию на уровне данных, означает, что нам не нужно беспокоиться о том, что мы полагаемся только на государственные сети. Когда враг неизбежно взламывает сеть или уничтожает сетевые узлы, не имеет большого значения, смогут ли военные переключаться между несколькими сетями и узлами, будь то военные или коммерческие спутники, корабли и подводные лодки стоимостью в миллиарды долларов или дешевые дроны.

Революция в области программного обеспечения может помочь выжать больше возможностей из существующих вооруженных сил США в сроки, которые действительно могут помочь сдержать войну с Китаем и другими противниками, а также сделать нас более подготовленными к победе над киберагрессией, которая также стала нормой мирного времени. Но Пентагону необходимо действовать быстро и шире использовать существующие коммерческие технологии, чтобы сохранить преимущество».

11. Как США через ООН планирует поставить под контроль китайский ИИ

19 сентября 2023 года в рамках Генеральной Ассамблеии ООН в Нью-Йорке, посланник Генерального секретаря ООН по технологиям Амандип Гилл провел мероприятие под названием «Управление ИИ для человечества», на котором участники обсудили риски, которые может представлять ИИ, и проблемы достижения международного сотрудничества в сфере искусственного интеллекта.

Генеральный секретарь Антониу Гутерриш и Гилл заявили, что, по их мнению, потребуется новое агентство ООН, которое поможет миру сотрудничать в управлении этой мощной технологией. Но вопросы, которые новое образование будет стремиться решить, и его структура еще не определены. Некоторые наблюдатели говорят, что амбициозные планы глобального сотрудничества, подобные этому, редко получают необходимую поддержку могущественных стран.

Гилл и раньше возглавлял усилия по повышению безопасности передовых технологий. Он был председателем Группы правительственных экспертов Конвенции о конкретных видах обычного оружия, когда кампания «Остановить роботов-убийц», целью которой было заставить правительства объявить вне закона разработку смертоносных автономных систем вооружения, не смогла завоевать поддержку мировых сверхдержав, включая США и Россию. Теперь Гилл предпринимает еще более амбициозные усилия по развитию международного сотрудничества в области ИИ.

За последние несколько лет ИИ развивался стремительными темпами, и эксперты не ожидают, что этот прогресс замедлится в ближайшее время. Воздействие ИИ будет ощущаться далеко за пределами стран, в которых он разработан, ведущие мировые лидеры и технологи призывают к международному сотрудничеству по вопросам ИИ.

На заседании Совета Безопасности ООН в июле Гутерриш представил ООН как подходящий форум для такого сотрудничества. Консультативный орган высокого уровня по искусственному интеллекту, состав которого будет объявлен в октябре 2023 года, является следующим шагом на пути к созданию агентства ООН по искусственному интеллекту.

Гилл, который ранее занимал должность исполнительного директора Группы высокого уровня ООН по цифровому сотрудничеству с 2018 по 2019 год, был назначен техническим посланником в июне 2022 года.

В августе 2023 года офис технического посланника открыл процесс отбора экспертов для работы в Консультативном органе высокого уровня по искусственному интеллекту с публичным объявлением о выдвижении кандидатур.

Отдельный призыв к выдвижению кандидатур, с которым ознакомился журнал TIME (23.09.2023), был разослан государствам-членам и содержал круг ведения нового Органа. В них указывалось, что в состав Органа будет входить до 32 членов из различных секторов и разных полов, возрастов, географического представительства и сфер деятельности.

Гилл рассказал TIME в интервью 30 августа 2023 года, что его офис получил более 1600 номинаций в результате публичного объявления о выдвижении кандидатур. С учетом номинаций от стран-членов он ожидает, что будет более 2000 номинаций. По его словам, офис технического посланника при участии других организаций ООН составит короткий список, из которого Генеральный секретарь выберет 32 члена. Орган соберется впервые в октябре 2023 года.

В круге ведения документа, с которым ознакомился TIME и подтвержден Гиллом, указано, что Орган подготовит промежуточный отчет, представляющий «высокоуровневый анализ вариантов международного управления искусственным интеллектом» к 31 декабря 2023 года. Второй отчет, который будет представлен до 31 августа 2024 года, «может предоставить подробные рекомендации относительно функций, формы и сроков создания нового международного агентства по управлению искусственным интеллектом».

Аки Энкенберг, руководитель группы по инновациям и цифровому сотрудничеству Министерства иностранных дел Финляндии, назвал решение указать, что орган будет предоставлять рекомендации относительно нового международного агентства, «поспешным шагом». Он утверждает, что значительная часть международного управления, необходимого для ИИ, может быть обеспечена существующими органами системы ООН, и говорит, что необходимо было провести анализ, чтобы оценить, есть ли пробелы в системе ООН, прежде чем предлагать создание нового агентства. Гилл отрицал, что круг ведения приводит к смещению выводов Совета в сторону рекомендации создания нового агентства.

Когда его спросили, может ли размер консультативного органа сделать его громоздким и, следовательно, в конечном итоге дать секретариату огромное влияние на содержание отчета, Гилл ответил, что секретариат не будет стремиться влиять на выводы органа.

В сентябре 2024 года ООН проведет Саммит будущего. К тому времени, по словам Гилла, он надеется, что выводы Совета дадут государствам-членам информацию, необходимую им для принятия решения о том, следует ли им поддерживать создание агентства ООН по искусственному интеллекту и если да, то каким образом. «Это был бы подходящий момент для создания этого агентства», — сказал он. «Саммит будущего — это возможность для лидеров».

В сообщении в блоге, опубликованном в мае 2023 года, старшие руководители компании OpenAI, стоящей за ChatGPT, утверждали, что в будущем может потребоваться нечто вроде Международного агентства по атомной энергии (МАГАТЭ) для ИИ, чтобы безопасно управлять более сложными системами искусственного интеллекта. «Любые усилия «сверхразведки», превышающие определенный порог возможностей (или ресурсов, таких как вычисления), должны будут подчиняться международному органу, который может проверять системы, требовать аудита, проверять на соответствие стандартам безопасности, налагать ограничения на степень развертывания и уровни безопасности», — говорится в сообщении в блоге.

МАГАТЭ, основанное в 1957 году, проводит инспекции, чтобы гарантировать, что государства, не обладающие ядерным оружием, не разрабатывают ядерное оружие, а также обеспечивает техническое сотрудничество для мирного развития ядерной энергетики.

В июне 2023 года Гутерриш проявил энтузиазм по поводу концепции аналогичного органа по ИИ, заявив: «Я был бы благосклонен к идее о том, что у нас может быть агентство искусственного интеллекта… вдохновленное тем, чем сегодня является международное агентство по атомной энергии».

Но копирование МАГАТЭ для искусственного интеллекта — это лишь один потенциальный вариант. В документе, на который Гилл ссылался во время интервью журналу TIME, опубликованном в июле 2023 года исследователями из известных лабораторий искусственного интеллекта Google DeepMind и OpenAI, а также различных академических и некоммерческих исследовательских институтов, изложены четыре возможные формы, которые могла бы принять международная организация по искусственному интеллекту, которые не являются взаимоисключающими:

создание агентства, подобного МАГАТЭ, которое может разрабатывать общеотраслевые стандарты и контролировать заинтересованные стороны, чтобы оценить, соблюдаются ли эти стандарты;

создание организации по образцу Межправительственной группы экспертов по изменению климата (МГЭИК), которая будет способствовать консенсусу экспертов по техническим вопросам;

международное партнерство между государственным и частным секторами, которое обеспечит равный доступ к полезному ИИ, как это делает Альянс по вакцинам, для вакцин;

международное сотрудничество в области исследований безопасности ИИ, аналогичное Европейской организации ядерных исследований (ЦЕРН).

Некоторые эксперты утверждают, что агентству по искусственному интеллекту, подобному МАГАТЭ, будет сложно заручиться поддержкой политиков. Это связано с тем, что такие страны, как США и Китай, потребуют от международных инспекторов полного доступа к самым передовым лабораториям искусственного интеллекта в своих юрисдикциях, чтобы избежать рисков, которые еще не материализовались.

Уровень международного сотрудничества между странами с целью управления опасными технологиями находится на «30-летнем минимуме», говорит Билл Дрексел, научный сотрудник аналитического центра по военным вопросам Центра новой американской безопасности. «Попытка добиться действительно значимого соглашения на основе этого базового уровня с технологией, риски и преимущества которой еще не определены, кажется сверхсложной задачей».

Дрексел считает, что для формирования политической воли, необходимой для заключения существенного соглашения между странами, может потребоваться серьезный инцидент, связанный с искусственным интеллектом.

Одно из предложений по более политически осуществимой модели управления, которая может быть расширена в будущем, содержится в официальном документе, опубликованном в августе 2023 года исследователями из различных академических и некоммерческих организаций, а также технологическим гигантом Microsoft. В документе предлагается создать Международную организацию ИИ (IAIO) для партнерства с национальными регулирующими органами по стандартам и сертификации юрисдикций, а не для мониторинга отдельных компаний, занимающихся ИИ. Согласно этой модели, отдельные правительства будут обеспечивать соблюдение стандартов, разрешая работать на своем внутреннем рынке только компаниям в юрисдикциях, которые соответствуют этим стандартам. Им также необходимо будет ограничить экспорт ресурсов ИИ, таких как компьютерные чипы, в страны, которые не соответствуют стандартам.

Роберт Трэгер, один из ведущих авторов официального документа и руководитель международного управления в Центре управления искусственным интеллектом, рассказал TIME, что сертификация на юрисдикционном уровне делает этот механизм менее навязчивым, а это означает, что могущественные страны с большей вероятностью подпишут его.

Риски безопасности ИИ, возможно, нелегко сдержать в пределах границ, поэтому будет крайне важно, чтобы все страны, в которых разрабатываются мощные системы ИИ, — главным образом США и Китай — были включены в любое международное соглашение.

Сихао Хуан, исследователь из Оксфордского университета, который последний год изучал управление ИИ в Пекине, утверждает, что если Китай будет согласиться на международное соглашение.

На заседании Совета Безопасности ООН в июле 2023 года Дмитрий Полянский, первый заместитель постоянного представителя Российской Федерации при ООН, заявил, что Россия «против создания наднациональных органов надзора за ИИ».

ООН — не единственный форум, который следует учитывать, — говорит Трэгер. Он утверждает, что существует множество моделей, которые позволят широкому кругу заинтересованных сторон участвовать в управлении.

Международное сотрудничество «действительно неуклюжее, медленное и в целом неэффективное», говорит Дрексель. Вместо этого, возможно, удастся «придумать двусторонние или более ограниченные многосторонние форумы, чтобы попытаться управлять передовыми системами искусственного интеллекта и даже масштабироваться по мере расширения компаний, которые могли бы обучать передовые модели».

Гилл говорит, что ООН, уникальная универсальная межправительственная организация с опытом управления новыми технологиями, имеет хорошие возможности для размещения договора или организации по управлению ИИ.

По словам Трагера, идеализм привел к провалу предыдущих попыток — таких как Кампания по прекращению роботов-убийц — по управлению искусственным интеллектом на международном уровне. «Это похоже на то, что произошло при обсуждении смертоносного автономного оружия», — говорит он. Хотя эти усилия были сделаны из лучших побуждений и имели четкую цель запретить определенные формы разработки и использования.

Гилл же по-прежнему полон решимости. «Мы должны попытаться», — говорит он. «Мир сложен — так было и будет всегда. Но я думаю, что вижу окно возможностей».

***

Серьёзные меры осуществляют США, чтобы не отстать от Китая в военных разработках ИИ.

Но если отстанут, то узнают об этом только на полях сражений.

Метки: ChatGPT, Huawei, армия, беспилотники, искусственный интеллект, Китай, МАГАТЭ, наука, Пентагон, полупроводники, программное обеспечение, роботы, санкции, США, технологии