РАЗУМОЗАМЕЩЕНИЕ
Искусственный интеллект в финансовой сфере
В конце мая американский Center for AI Safety (Центр безопасности искусственного интеллекта) опубликовал заявление об опасностях искусственного интеллекта (ИИ), который однажды может привести к вымиранию человечества. Давайте разберемся, чем полезен и чем опасен ИИ в финансовой сфере.
Мефистофель
Мощь человека, разум презирай,
Который более тебе не дорог!
Дай ослепленью лжи зайти за край,
И ты в моих руках без отговорок!
Иоганн Вольфганг Гёте, «Фауст»
Технологические инновации были основополагающими движущими силами мирового экономического роста на протяжении последних трех столетий. Сейчас значительная часть инноваций сосредоточена в области цифровых технологий, где наиболее важной и перспективной является искусственный интеллект. В третьем десятилетии XXI века машинный интеллект и нейросети, которые принято обобщенно называть искусственным интеллектом, стремительно проникают во многие сферы человеческой деятельности, от электронной коммерции, индустрии развлечений и СМИ до госуправления, образования и создания новых вооружений. Новые технологии стремительно развиваются, трансформируя экономику и общество, и уже отчетливо звучат опасения экспертов, что искусственный интеллект вскоре позволит осуществлять общий контроль над разумом людей и в обозримом будущем приведет к технологической катастрофе и даже погубит человеческую цивилизацию на планете Земля. Так, в конце мая 2023 года Center for AI Safety (Центр безопасности искусственного интеллекта) опубликовал заявление об опасностях искусственного интеллекта, который однажды может привести к вымиранию человечества. Среди подписантов заявления оказался Сэм Альтман, главный исполнительный директор OpenAI — компании, создавшей ChatGPT, самую популярную языковую модель ИИ и на сегодняшний день самую опасную для миллионов ныне существующих рабочих мест.
Но есть научные и технологические направления, а также целые сегменты экономики, где уже накоплен многолетний опыт использования нейросетей, и пока ничего разрушительного там не произошло. Одним из примеров успешного применения технологий нейросетей и машинного интеллекта является финансовая сфера, где подобные технологии начали использоваться и развиваться с начала 1990-х годов, когда завершилась холодная война СССР и США и тысячи высококвалифицированных специалистов, математиков и программистов из космической и оборонной отраслей были вынуждены искать себе применение на Уолл-стрит, в инвестиционном банкинге и на финансовых рынках. Именно тогда в финансах и биржевой торговле возникло понятие «rocket science», стали развиваться математическое моделирование и финансовая инженерия, алгоритмическая торговля, сложные IT-среды и нейросетевые модели.
Применение технологий ИИ в финансах
В финансовой сфере технологии ИИ вначале появились в качестве поддержки биржевой торговли в математических моделях анализа и прогнозирования рыночных трендов, определения волатильности и в поиске нелинейных взаимозависимостей между различными классами финансовых инструментов. Затем нейросети оказались востребованы в риск-менеджменте, в операционных процедурах и в коммуникациях с клиентами.
Алгоритмическая торговля, высокочастотная торговля и биржевые роботы — это иной класс финансовых IT-технологий, которые позволяют совершать миллионы биржевых сделок за секунды, отслеживать множество торговых площадок и проводить биржевой арбитраж. Наиболее продвинутые модели алгоритмической торговли уже в начале 2000-х начали сочетаться с поддерживающими их нейросетями. Хедж-фонды и стратегические инвесторы стали все больше полагаться на системы ИИ для поиска лучших инвестиционных решений и сделок. Согласно ряду исследований, проведенных с 2010 по 2020 год, хедж-фонды, использующие технологии ИИ, превзошли по доходности инвестиций хедж-фонды с традиционными технологиями портфельного управления.
К концу 2010-х годов основными читателями новостных лент стали не люди, а биржевые роботы. Скорость анализа информации и быстрота принятия решений стали главными факторами успеха и обретения конкурентных преимуществ.
Столпы Уолл-стрит: Goldman Sachs, JPMorgan Chase, Bank of America Merrill Lynch, Morgan Stanley, Citigroup и Wells Fargo также не обошли вниманием и деньгами технологии искусственного интеллекта и нейросетей. Goldman Sachs уже в 2014 году запустил торговую платформу с ИИ.
Первоистория
Американские ученые Уоррен Маккаллок и Уолтер Питтс впервые попытались создать искусственный нейрон и алгоритмы машинного интеллекта еще в 1943 году, заложив совместно с Норбертом Винером основы новой науки — кибернетики.
Выдающиеся советские математики Андрей Николаевич Колмогоров и Владимир Игоревич Арнольд доказали в 1957 году теорему о том, что любая непрерывная функция нескольких переменных может быть представлена в виде комбинации конечного числа функций меньшего числа переменных, и именно это стало математическим обоснованием для построения нейросетей. Ими было доказано, что соответствие между зависимыми элементами различных множеств или функций может быть представлено нейросетью фиксированной размерности с прямыми связями с определенным количеством «нейронов» входного слоя, увеличенным числом «нейронов» каждого следующего скрытого слоя с определенными функциями активации и «нейронами» выходного слоя с неизвестными функциями активации. Причем нейросети могут настраиваться или «обучаться».
Технологическая гонка нисколько не навредила фондовому рынку, напротив, внедрение технологий ИИ поспособствовало увеличению ликвидности биржевой торговли, снижению рисков за счет более качественного прогнозирования, появлению новых продуктов финансового инжиниринга, расширению спектра услуг и борьбе с мошенничеством.
Еще одно направление использования ИИ в финансовой и инвестиционной сфере — это Robo-Advisor, или робот-консультант, цифровая платформа, которая предоставляет автоматизированные, алгоритмические инвестиционные услуги с минимальным контролем со стороны человека. Услуги «роботов-советников» недороги, применимы даже для небольших инвестиций и доступны для розничных инвесторов, поэтому роботы-консультанты становятся незаменимыми помощниками для миллионов частных инвесторов по всему миру.
В страховом бизнесе ИИ помогает автоматизировать большие объемы андеррайтинга в автостраховании, в коммерческом страховании, в медицинском страховании и в страховании жизни. Оценка ущерба, оценка рисков и борьба с мошенничеством — это тоже задачи ИИ в сфере страхования. Сочетание ИИ и медицинских технологий диагностирования болезней позволяет страховым компаниям заблаговременно выявлять риски для здоровья застрахованных и даст возможность инвестировать в профилактику заболеваний, что, как правило, намного финансово эффективнее, чем проведение курсов лечения. Обработка страховых претензий и сокращение срока выплат по страховым случаям — это тоже задачи ИИ, которые успешно решаются.
Банковский ритейл и облуживание клиентов — это еще одна из сфер банковской деятельности, где технологии ИИ и чат-ботов успешно внедряются и окупаются. Электронное взаимодействие банков со своими клиентами с помощью виртуальных помощников экономит средства и позволяет эффективно масштабировать банковский бизнес. Успешность чат-ботов была доказана семь лет назад, когда Bank of America и Mastercard представили их своим клиентам. Российские банки во главе со Сбером также не первый год успешно запускают свои чат-боты и виртуальных помощников для юридических и физических лиц.
Фондовый рынок в условиях повышения процентных ставок и проблем в банковских системах по обеим сторонам Атлантики становится хрупким, и если бы не возросший интерес к технологиям ИИ со стороны инвесторов и бизнеса, то фондовым индексам было бы сложно нащупать почву для поддержки. Но именно компании высокотехнологичного сектора, развивающие ИИ, сейчас стали лидерами рынка и, как атланты, удерживают его на высоте. Bloomberg пишет, что «искусственный интеллект становится ответом фондового рынка на все» и что «никогда раньше S&P 500 не зависел так сильно от столь небольшого количества акций». Для большинства экспертов ситуация полна риска. «Что произойдет с рынком, когда закончится цикл ажиотажа вокруг искусственного интеллекта?» — задается вопросом Bloomberg. Но пока хедж-фонды, держатели акций бигтеха и миллионы частных инвесторов преумножают свои доходы от, по сути, пассивного инвестирования в компании ИИ и искренне считают, что рост акций таких компаний гарантирован, а сам искусственный интеллект и машинное обучение каждый год открывают для бизнеса новые возможности.
Когда сказать ИИ «стоп»
Плюсов от внедрения ИИ в финансовую сферу пока, очевидно, больше, чем минусов. И эффективность здесь можно измерить в миллиардах долларов, юаней и рублей. Но диалектика существует и здесь. Диалектические противоречия, как внутренние силы развития, характерны и для технологий искусственного интеллекта. И по мере развития технологий ИИ и их внедрения возникающих противоречий и проблем будет все больше и больше.
«Вкалывают роботы, счастлив человек»?
Даже в Belle Epoque не знакомого с кризисами капитализма позднего СССР счастье Сергея Сыроежкина от знакомства с Электроником было мимолетным. Заменивший Сыроежкина робот в итоге вызвал у человека чувство безысходности и ненужности и привел к состоянию одиночества.
Исправить ситуацию помогла лишь коллективная человеческая вовлеченность в решение сложных и нетривиальных проблем.
Самая очевидная проблема — сокращение человеческой занятости в финансовой сфере, да и не только в финансовой. Чат-боты убирают операционистов и клиентских менеджеров, сокращаются рабочие места в бэк-офисах, в сейлз и в трейдинге. Так, например, в 2000 году в отделе торговли акциями Goldman Sachs в США, расположенном в штаб-квартире в Нью-Йорке, работало 600 трейдеров, сейчас на два порядка меньше. Еще фатальнее обстоят дела у страховых агентов. Если взглянуть за рамки мира финансов, то проблема становится еще масштабнее. Сервисная постиндустриальная экономика не требует от людей сложных навыков и обширных знаний, мастерства и способностей, требуется лишь исполнение несложных функций. А главное, человек перестал быть естественным носителем интеллекта и технологий; знания, накопленные всей человеческой цивилизацией, передаются на хранение машинам. Информации становится больше, а когнитивные способности человека снижаются.
Технологии не только способны заменить человека, как это было в эпоху научно-технологических революций прошлого, но и могут развиваться самостоятельно, без участия человека.
С точки зрения госбюджетов искусственный интеллект и нейросети не просто сокращают рабочие места, ИИ сокращает базу для НДФЛ, ведь виртуальные роботы налогов не платят, а IT-гиганты — владельцы технологий ИИ давно научились налоговой оптимизации через сложные схемы с передачей прав на интеллектуальную собственность дочерним компаниям в офшорных или льготных юрисдикциях. К тому же потенциальная армия безработных — это нагрузка на социальные статьи бюджета в условиях роста госдолга в развитых странах и в условиях повышения процентных ставок, что еще больше увеличивает расходы и бюджетные дефициты.
Но и это еще не все.
В исследованиях американского фонда Technology for Global Security (T4GS) отмечается, что растущая зависимость от цифровых систем и технологий постепенно подрывает человеческое познание, делая более трудным для индивидов поддержание внимания, запоминание информации и критическое мышление.
Появляется апатия к реальности и нарушение когнитивных функций, что негативно влияет и на экономику, и на общество. Растущая сложность технологий и взаимосвязанность цифровых инструментов и когнитивных знаний снижает человеческую производительность труда. Зато появляется «экономика внимания» — бизнес-модель, которая использует пропасть между скоростью развития технологий и человеческим потенциалом, необходимым для обработки сложной информации.
Бизнес, движимый ИИ и большими данными, эффективен, но, как замечает T4GS, технологии усиливают взаимосвязанный характер физической инфраструктуры. «Критическая инфраструктура все больше интегрируется с информационно-коммуникационными технологиями, что делает ключевые части общества зависимыми от цифровых систем, и в результате разрушение или повреждение одной части системы может быстро распространиться на другую», что делает сложную инфраструктуру, такую как финансы, телекоммуникации, энергетические центры и транспортные системы, уязвимой для намеренного или непреднамеренного воздействия.
Пауза и переосмысление
Но даже если спуститься с философских высот к собственно технологиям, то и ИИ и нейросети при всей их технологической мощи не в состоянии делать универсальные и устойчивые продукты.
ИИ — это сложный инструмент, который требует очень высокой квалификации специалистов, работающих с такими технологиями. Искусственный интеллект не прощает ошибок, его нельзя запрограммировать в виде алгоритма, в который можно вносить исправления, если что-то пойдет не так, потому что нейронные сети вообще никак не программируются, они самообучаются. Дело в том, что искусственный интеллект, в отличие от обычных компьютерных программ, генерирует для себя паттерны поведения самостоятельно, а вместо постоянной памяти на дисках или оперативной памяти обычных компьютеров использует мгновенно возникающие и тут же распадающиеся цепочки нейронных связей, в системах с искусственным интеллектом происходит самостоятельный выбор решения без участия человека. Но если данные, на которых обучалась нейросеть, были неполные или недостаточно подготовленные, то вероятность ошибочных решений ИИ возрастает многократно. В финансовой сфере такие ошибки могут стоить ощутимо дорого и привести к потерям средств и к банкротствам.
Сами нейросети и системы ИИ часто являются хрупкими — могут разрушиться при работе за пределами своей детерминированной области. Это может иметь разрушительные последствия для сфер финансов, госуправления и управления критической инфраструктурой.
В теории систем есть понятие эмерджентности — то есть появления у системы новых свойств, которых не было у ее отдельных элементов. Нейросети и системы машинного обучения часто демонстрируют удивительное эмерджентное поведение, как хорошее, так и плохое. Невозможно полностью полагаться на роботов-консультантов и на модели прогнозирования рыночных котировок и трендов. На финансовом рынке не существует линейных зависимостей и высоких корреляций. Все постоянно меняется, в том числе и вес каждого фактора, влияющего на стоимость акции или котировку валютной пары или сырьевого товара. Если нейросеть обучена на определенных данных конкретного рынка или сферы бизнеса, то в других сферах она корректно работать не будет.
Если ИИ может качественно предсказать будущие тренды и уровни котировок акций сейчас, то уже через полгода качество этого прогноза станет неудовлетворительным, потому что изменятся нелинейные рыночные взаимосвязи и веса значимых факторов. И нейросеть придется постоянно переобучать и корректировать входящие сигналы и алгоритмы активации ячеек нейросети. А для этого инвесткомпании и банки должны содержать штат квалифицированных специалистов.
А те, у кого таких специалистов и возможностей анализа результатов работы нейросетей не будет, обречены на потери и ошибочные решения.
И здесь стоит подумать и финансистам, и регуляторам: до какой степени развивать системы ИИ, применяемые в финансовой сфере, и не нужно ли императивно ограничить их использование, пока эмерджентность и внутренние не видимые человеку проблемы процесса обучения нейросетей не привели к финансовой катастрофе. Для банков, инвестфондов и страховых компаний искусственный интеллект может выступить и как цифровой помощник, и как электронный Мефистофель, который в итоге попытается забрать то, что ему причитается.
И еще одно важное наблюдение. Ажиотаж вокруг технологий ИИ, больших лингвистических моделей, таких как ChatGPT, и общий страх перед ИИ, который лишит работы сотни миллионов людей, свидетельствует лишь о том, что во многих сферах сервисной экономики и общественной жизни царит обыкновенная посредственность. И только постоянное развитие и совершенствование человеческого интеллекта при ограничении алчности цифрового бизнеса в его погоне за прибылями сократит риски.
Искусственный интеллект — это инструмент в руках человека. Важно, как мы собираемся использовать тот или иной предмет или инструмент. В самом предмете ИИ нет ни добра, ни зла. Только у человека может быть разум, воля, нравственность и ответственность, а ИИ подчиняется гетерономной воле, у ИИ не может и не должно быть автономной воли. Нужно помнить об этом и заказчикам, и разработчикам продуктов с ИИ.
