ПРЕЗИДЕНТА США ВЫБИРАЕТ ИИ?
Елена Ларина, Владимир Овчинский
Технократия подавляет демократию?
I. Насколько ИИ опасен для выборов президента США в 2024 году?
Шира Френкель для статьи в The New York Times «ИИ в год выборов, которых не было» (21.08.2024) взяла интервью у представителей 23 технологических компаний 7 выборных штабов, которые внедрили инструменты ИИ в политические мероприятия перед выборами разного уровня в США 2024 года:
«2024 год должен был быть годом выборов ИИ. Благодаря распространению инструментов ИИ, таких как чат-боты и генераторы изображений, более 30 технологических компаний в последние месяцы предложили продукты ИИ национальным, государственным и местным политическим кампаниям в США. Компании — в основном небольшие фирмы, такие как BHuman, VoterVoice и Poll the People — производят продукты, которые реорганизуют списки избирателей и предвыборные электронные письма, расширяют возможности роботизированных звонков и создают генерируемые ИИ подобия кандидатов, которые могут виртуально встречаться и приветствовать избирателей.
Но лишь немногие кандидаты используют ИИ, и еще меньше готовы признать это, согласно интервью с 23 технологическими компаниями и семью политическими штабами. Три политических штаба заявили, что они согласились покупать технологии ИИ только в том случае, если они смогут гарантировать, что общественность никогда не узнает, что они использовали ИИ.
Во многом сомнения возникают из-за внутренних опросов предвыборной кампании, которые показали, что избиратели нервничают по поводу ИИ и не доверяют этой технологии, сказали четыре чиновника, участвовавшие в кампаниях Демократической и Республиканской партии. Когда выборные штабы обратились к ИИ для создания фотографий или видео кандидатов, цифры были еще хуже, сказал один из них.
Некоторые варианты использования ИИ в политических кампаниях уже потерпели неудачу. В январе 2024 года звонок от ИИ, который имитировал голос президента Байдена на праймериз в Нью-Гэмпшире, был осужден политическими наблюдателями и расследован местными правоохранительными органами.
19 августа 2024 года бывший президент Дональд Трамп разместил на своем сайте в социальной сети Truth Social созданные ИИ изображения популярной певицы Тейлор Свифт, поддерживающей его. Реакция ее поклонников была гневом и осуждением.
«Политические кампании изначально имеют проблемы с доверием», — сказал Филип Уолзак, политический консультант из Нью-Йорка. «Ни один кандидат не хочет, чтобы его обвиняли в публикации дипфейков на выборах или в использовании ИИ для обмана избирателей».
Скептицизм является частью новой реальности для ИИ, поскольку энтузиазм по поводу этой технологии остыл. В этом году технологические гиганты и стартапы, которые прославляли ИИ как волну будущего, начали подстраховывать свои обещания. Уолл-стрит стала настороженно относиться к финансовым целям, которые ставят перед собой компании, занимающиеся ИИ. Законодатели предложили меры, которые могут замедлить рост индустрии ИИ.
Всего шесть месяцев назад все было по-другому. Привлеченные обещаниями миллионов долларов средств на предвыборную кампанию, которые кандидаты потратят на победу, десятки технологических компаний переключили свои технологии на выборы в США. Они создали чат-ботов, таких как ChatGPT, с генераторами изображений ИИ, чтобы создавать ходячих и говорящих клонов кандидатов, которые могли бы виртуально взаимодействовать с избирателями.
BHuman, нью-йоркская компания, основанная в 2020 году и использующая ИИ для создания видео, провела политические кампании с помощью технологии, которая персонализирует видео кандидатов для избирателей. Кандидаты могли записать свое выступление по какому-либо вопросу, а технология BHuman на основе ИИ могла затем клонировать их лицо и голос для создания новых видеороликов. Первые строки можно было бы изменить, чтобы они приветствовали конкретного избирателя или изложили конкретную тему для разговора.
«Представьте, что вы избиратель и получаете видео, в котором кандидат называет ваше имя и рассказывает о ваших проблемах», — сказал Дон Боско, основатель BHuman. «Это создает человеческие связи».
BHuman также предлагает продукт, который создает цифровую копию кандидата, имитируя стиль письма кандидата, чтобы отвечать на электронные письма или участвовать в виртуальных чатах с избирателями. Боско отказался комментировать, в каких кампаниях использовалась продукция его компании.
Personaliz.ai, компания в области ИИ, основанная в 2023 году и базирующаяся в Хайдарабаде, Индия, заявила, что работала с более чем 30 политиками на национальных выборах в Индии в 2024 году. Фирма сняла видеоролики, в которых версии кандидатов с ИИ взаимодействовали с избирателями в LinkedIn и на веб-сайтах предвыборных кампаний. Они также отправляли персонализированные видео на телефоны людей через WhatsApp и текстовые сообщения.
Сантош Тота, исполнительный директор Personaliz.ai, сказал, что реакция кандидатов и избирателей в Индии была «отличной» и что его компания заметила интерес со стороны других стран Юго-Восточной Азии и продемонстрировала свою технологию политикам в нескольких африканских странах. Но он не увидел такого же интереса со стороны США и Европы, сказал он.
«Люди в США скептически относятся к этой технологии», — сказал Тота.
Компания Civox, базирующаяся в Лондоне и сотрудничавшая с кампанией Димера, демократа из Огайо, баллотирующегося в Конгресс, заявила, что все еще экспериментирует с правильным способом охвата избирателей с помощью своей технологии. Помимо голосовой технологии ИИ, компания предлагает программы, подобные чат-ботам, которые могут отвечать на вопросы избирателей от имени кампании.
Илья Музыкантский, исполнительный директор Civox, сказал, что ИИ не является волшебным средством для победы, но что эти инструменты могут помочь кампаниям, особенно небольшим, «проводить более автоматизированную и целенаправленную работу».
По словам трех экспертов, некоторые политические штабы были более склонны покупать технологии у компаний, занимающихся ИИ, для выполнения закулисных задач, таких как помощь в организации списков адресов электронной почты и баз данных избирателей.
Когда Димер впервые начал работать с Civox над голосовой технологией ИИ, он попросил использовать его голос для обучения роботизированного вызова ИИ, сообщает компания. Но Сivox призвал его выступить с голосом, который был явно искусственно сгенерирован, чтобы избиратели знали, что в этом замешан ИИ и что кампания действовала прозрачно.
Кампания Димера в конечном итоге остановилась на голосе ИИ, который сказал: «Привет, я Эшли, волонтер по ИИ для Мэтта Димера». Звонки были сделаны в марте 2024 года, незадолго до Супервторника. По словам директора Civox, скорость приема вызовов роботов, независимо от того, совершались ли они ИИ или человеческим голосом, измерялась однозначными числами. Большинство людей вешали трубку на звонках представителей предвыборного штаба Димера в первые несколько секунд.
Civox отказалась комментировать стоимость технологии. Весной 2024 года компания работала примерно с дюжиной политических кампаний в течение четырех месяцев и совершила сотни тысяч роботизированных звонков для проверки своей технологии ИИ.
Димер сказал, что не сожалеет об экспериментах с ИИ
«Мне нравится ИИ и технологии, а также то, что они потенциально могут сделать политические кампании более доступными для всех», — сказал он. «Я не думаю, что все получили то, что мы пытались сделать, или дали возможность увидеть, что, возможно, ИИ является отличным инструментом для охвата избирателей».
Комментарий Е.Л. и В.О.:
Создается впечатление, что в статье Френкель в The New York Times целенаправленно занижается влияние ИИ на выборы президента США в 2024 году. Ведь не указанные в статье второстепенные компании будут управлять выборами.
1. В Америке сложился пул гигантов – разработчиков ИИ.
К весне 2023 года огромная популярность таких приложений, как ChatGPT, вызвала массовую борьбу среди предприятий, пытающихся внедрить последние достижения в области генеративного ИИ. Год спустя повальное увлечение продолжается. В свою очередь, появилась новая технологическая экономика, которая помогает предприятиям разрабатывать и развертывать приложения на основе ИИ. Об этом свидетельствует состав шестого ежегодного рейтинга ИИ — 50 журнала Forbes (11.04.2024), подготовленного в партнерстве с Sequoia и Meritech Capital, в котором отмечаются наиболее перспективные частные компании в области ИИ.
Варианты использования являются широкими и далеко идущими, что сразу видно на примере трех крупнейших компаний в списке с точки зрения оценки. Модельный мейкер OpenAI ($86 млрд) насчитывает клиентов от Morgan Stanley до правительства Исландии, в то время как его конкурент Anthropic ($18,4 млрд, как сообщает Forbes) используется Bridgewater и Boston Consulting Group. Databricks ($43 млрд) продает свое программное обеспечение для анализа данных и развертывания искусственного интеллекта Shell и Почтовой службе США. Для стартапов на ИИ — 50 технология эволюционировала от захвата воображения клиентов к захвату миллиардов долларов коллективного дохода.
Они также привлекли внимание инвесторов Кремниевой долины в то время, когда рынок сбора средств продолжает создавать трудности для других, некогда горячих секторов. Компании, участвующие в ИИ — 50 в 2024 году, привлекли в общей сложности 34,7 миллиарда долларов финансирования. Почти треть этой суммы приходится на OpenAI, благодаря примерно 10 миллиардам долларов от Microsoft. Гораздо больше средств поступило от других восходящих исследовательских фирм в области ИИ, таких как Anthropic ($7,7 млрд), Cohere ($445 млн) и Mistral AI ($528 млн). В их основе лежит множество инфраструктурных инструментов, которые помогают компаниям внедрять технологию. Многие, такие как Baseten, LangChain и Unstructured, дебютируют на ИИ — 50 после того, как в 2023 году отпраздновали бурный рост показателей.
Другие формы развития ИИ также набирают обороты. Возьмем, к примеру, компанию Anduril, которая привлекла 2,8 миллиарда долларов на оборонные технологии; Insitro, которая накопила 643 миллиона долларов наличными на разработку лекарств; или Figure AI, которая привлекла 754 миллиона долларов для создания человекоподобных роботов. Кроме того, есть компании, которые органично внедряют последние достижения в области ИИ в свои собственные приложения. Abridge использует распознавание голоса и обобщение речи для автоматической документации вашего визита в кабинет врача. Notion пытается вырвать с корнем Google Workspace или Microsoft Office, в то время как Perplexity хочет заново изобрести поисковую систему.
Сектор ИИ еще никогда не был более конкурентоспособным. В 2024 году Forbes получил около 1900 заявок, что более чем в два раза больше, чем в 2023 году.
2. Проблема дипфейков на выборах
По оценкам Центра финансовых услуг компании Deloitte генеративный ИИ предоставляет безграничные возможности для изобретения новых видов мошенничества и для увеличения их масштабов. С их помощью преступник сможет сделать все, на что у него хватит фантазии. Дипфейки, созданные с помощью генеративного ИИ, включают в себя «самообучающуюся» систему, которая постоянно проверяет и совершенствует свои возможности в области обмана компьютеризированных систем обнаружения противоправных действий. В частности, благодаря доступности новых инструментов генеративного ИИ для злоумышленникам проще и дешевле создавать видеодипфейки, фальшивые голоса и поддельные документы.
В теневом интернете уже существует целая кустарная индустрия по изготовлению мошеннического программного обеспечения, продающая его по цене от $20 до нескольких тысяч долларов США. Такая «демократизация» вредоносного ПО делает некоторые существующие средства борьбы с мошенничеством менее эффективными.
Согласно одному из отчетов компании, в 2023 г. в финансово-технологическом секторе инцидентов, связанных с дипфейками, стало на 700% больше. Одних только аудиодипфейков уже столько, что технологическая отрасль не успевает разрабатывать инструменты для выявления поддельного контента.
22 августа 2024 года издание The Verge отметило, что новый ИИ-редактор Google научился подделывать любые фото. Новая модель смартфона Pixel 9 от компании Google получила редактор изображений Magic Editor, работающий на базе ИИ. Он позволяет любому пользователю за несколько секунд добавить на фото любой сгенерированный объект. Заметить «подлог» практически невозможно.
Новую функцию можно будет легко использовать для первоклассных фейков, создавая провокационные и «пропагандистские» изображения.
Что самое опасное, это явление почти наверняка станет нормой, поскольку аналогичные функции уже доступны на конкурирующих устройствах или появятся в ближайшее время.
II. Основные разработчики ИИ из Кремниевой долины разделились на «трампистов» и «друзей Харрис»
Анализ этой ситуации содержится в статье Валерия Виртцхафтера и Дерека Белля в Brookings «Что означают выборы 2024 года для будущего управления ИИ?» (25.07.2024):
«Следующему президенту предстоит принять важные решения о том, как управлять все более мощными и разрушительными системами ИИ и как расставить приоритеты в вопросах, связанных с безопасностью, инновациями, конкуренцией и рисками.
Подход администрации Трампа
Хотя ИИ еще не ворвался в общественное сознание во время правления администрации Трампа, его политика в отношении управления ИИ в основном была сосредоточена на продвижении, разработке и внедрении систем ИИ. За четыре года администрация издала два крупных указа.
Первый учредил Американскую инициативу в области ИИ, которая позже была кодифицирована в виде закона. В нем изложены пять руководящих принципов, включая обучение американских рабочих, укрепление общественного доверия и защиту гражданских свобод, а также взаимодействие на международном уровне. Указ изложил принципы использования ИИ правительством, поручил Административно-бюджетному управлению разработать руководство по реализации этих принципов, потребовал от агентств опубликовать перечни своих сценариев использования ИИ, а также добавил направление ИИ в программу президентских стипендиатов по инновациям.
На международной арене экономическая стратегия администрации Трампа была направлена на то, чтобы лишить противников, а именно Китай, доступа к передовым технологиям, а экспортный контроль стал ключевой чертой политики Соединенных Штатов в отношении Китая.
Администрация Трампа также участвовала в международных форумах по разработке норм в области ИИ. Она поддержала принятие принципов ИИ Организации экономического сотрудничества и развития 2019 года, стала Основателем Глобального партнерства по ИИ в 2020 году и единогласно присоединилась к Группе правительственных экспертов Конференции Организации Объединенных Наций по конкретным видам обычного оружия.
Подход администрации Байдена
Помимо содействия разработке и внедрению ИИ, администрация Байдена в подходе к политике в области ИИ уделяет больше внимания снижению рисков и вреда. Одним из его первых крупных руководящих документов был Проект Билля о правах ИИ, набор ценностей, опубликованных в октябре 2022 года, которые, хотя и не являются юридически обязательными, призваны помочь в разработке безопасного и ответственного ИИ.
Вирусный запуск ChatGPT в ноябре 2022 года ознаменовал собой смену парадигмы для более широких разговоров в Вашингтоне. Из 298 законопроектов, имеющих отношение к управлению и использованию ИИ, внесенных с начала работы Конгресса 115-го созыва, 183 из них были предложены после запуска ChatGPT.
Несмотря на шквал предложений и серию из девяти экспертов Форумов по AI Insight созываемых в Сенате (и последующая Дорожная карта), Конгресс до сих пор не смог принять всеобъемлющее законодательство об ИИ. Вместо этого Белый дом направляет усилия по управлению ИИ, охватывающие широкий спектр исполнительных органов. Таким образом, политика в области ИИ особенно уязвима к изменениям, если в 2025 году произойдет переход ко второй администрации Трампа.
В июле 2023 года администрация Байдена разработала набор Добровольных обязательств в области ИИ по вопросам безопасности и надежности с рядом ведущих разработчиков. Несмотря на то, что они не являются юридически обязательными, большинство разработчиков моделей Frontier зарегистрировались и присоединились к Отраслевой ассоциации по их реализации.
Центральным элементом политики администрации Байдена в области ИИ является Распоряжение октября 2023 года, которое ссылается на Закон об оборонном производстве, чтобы обязать разработчиков передовых систем ИИ делиться результатами испытаний безопасности с правительством США, налагает принцип «Знай своего клиента» на требования к поставщикам облачных услуг и устанавливает стандарты для федеральных агентств по безопасности, защищенности и конфиденциальности ИИ.
Администрация также выпустила меморандум от Административно-бюджетного управления, в котором изложены обязательные руководящие принципы по управлению ИИ, инновациям и снижению рисков для федеральных агентств.
Помимо внутренней политики, администрация Байдена участвовала в переговорах по вопросам управления ИИ на двусторонних и многосторонних форумах, включая сотрудничество в области безопасных и прозрачных систем ИИ через США и Европейский союз Совет по торговле и технологиям, реализация решений G7 Процесс Хиросимы для использования преимуществ ИИ при одновременной защите от потенциального вреда, а также сотрудничество в области стандартов безопасности и оценки между Институтом безопасности ИИ США и Международной сетью аналогичных организаций.
Соединенные Штаты подписали Заявление о намерениях сотрудничать в области безопасности ИИ с другими странами, обязуясь постоянно диалог между Управлением ИИ ЕС и Институтом безопасности ИИ США, а также Партнерское соглашение с Институтом безопасности ИИ Соединенного Королевства, который недавно объявил об открытии филиала в Сан-Франциско.
Соединенные Штаты также работали с партнерами над политической декларацией ИИ в вооруженных силах и продолжают участвовать в работе Группы правительственных экспертов Конференции ООН по конкретным видам обычного оружия.
Администрация Байдена перезапустила двусторонние диалоги с Китаем по ключевым «техническим и политическим» вопросам, где обе стороны обсудили их подходы к безопасности ИИ и управлению рисками. Несмотря на этот диалог, администрация не только ввела расширенные тарифы Трампа в некоторых секторах, но также контролировала «сейсмический сдвиг к более строгому экспортному контролю в отношении передовых полупроводников и производственного оборудования». Администрация также издала Распоряжение «Требование скрининга исходящих инвестиций для критически важных развивающихся технологических отраслей».
Взгляд в будущее
На протяжении всего срока администрации Байдена вице-президент Камала Харрис, кандидат в президенты от Демократической партии, играла ведущую роль в политических усилиях в области ИИ.
Она курировала делегацию США в Соединенном Королевстве для участия в Глобальном саммите по безопасности ИИ и способствовала диалогу с генеральными директорами ведущих разработчиков ИИ.
В отсутствие движения в Конгрессе администрация Харрис будет по-прежнему ограничена существующими исполнительными органами власти. Она также, вероятно, сохранит многие из политик предыдущей администрации, с указом Байдена (EO) в качестве руководящего документа и постоянным вниманием к снижению рисков, ответственному развитию и инвестициям.
Трамп, напротив, поклялся отменить указ Байдена «в первый день» после вступления в должность президента и заменит его чем-то, что поддерживает «развитие ИИ, основанное на свободе слова и процветании человека».
Наиболее значительным последствием отмены указа Байдена станет отмена режима отчетности для разработчиков передовых моделей и поставщиков облачных услуг. Эти требования являются одним из немногих юридически обязательных механизмов прозрачности для компаний, которые разрабатывают или предоставляют ресурсы для наиболее мощных и потенциально опасных систем ИИ.
Двойная цель Трампа — задушение технологической отрасли Китая и обеспечение американского лидерства в разработке мощных систем ИИ — обнажает явные противоречия с демократами в более широкой технологической повестке дня Трампа: антагонизм по отношению к Китаю, оппортунистическая политика сдвиг на TikTok и презрение к цензуре Big Tech, сопровождаемое уютными отношениями с некоторыми частями Кремниевой долины.
Тем не менее, есть несколько областей, в которых можно ожидать преемственности. Экспортный контроль над передовым оборудованием для производства полупроводников начался при администрации Трампа и ускорился при администрации Байдена. Есть некоторые указание, что Харрис может продолжить этот целенаправленный подход в новой администрации».
* * *
Реальное влияние технологических компаний – разработчиков ИИ на выборы в США 2024 года никем из них не будет анонсироваться или описываться в СМИ и социальных сетях.
Большинство компаний сейчас делают заявления о необходимости чистоты выборов и недопущения недобросовестных разработчиков ИИ к выборам.
Что будет происходить на самом деле, покрыто тайной.
Ясно одно – Кремниевая долина в настоящее время определит исход выборов в США!
