Владимир Овчинский

| «Завтра»

Декларация против всадников Апокалипсиса двадцатых годов

Два журналиста – популяризатора технологий новой промышленной революции прислали на мой электронный адрес написанный ими проект декларации «Новая осознанность» — о необходимости создания системы общественного контроля за цифровыми технологиями. Авторы проекта – не первые поднимают эту проблему. Известны статьи, книги, интервью об этих проблемах таких популярных сейчас в мире людей как Курцвейл, Бостром, Маск, Харари и иные. Не потеряли актуальности провидческие тексты Лема, Азимова, Хаксли и других мыслителей ХХ века. Парадокс сегодняшнего дня состоит в том, что в сознании огромного числа людей надежды на чудеса технического прогресса переплелись в сознании с апокалиптическими настроениями. Поэтому я поддерживаю идею авторов о необходимости широкой общественной дискуссии вокруг предлагаемого проекта и публикую его в своём блоге.

Пройти по лезвию бритвы: о необходимости новой осознанности и общественного контроля над цифровыми технологиями

Мы — инициативная группа энтузиастов, которые считают, что назрела необходимость объединить усилия людей, озабоченных явным отставанием общественного контроля от развития цифровых высоких технологий.  Возможности этих технологий неоспоримы, но риски также нарастают, что требует своевременного анализа, лучшего прогнозирования, выработки  взвешенных оценок и рекомендаций для защиты интересов граждан, бизнеса, общества и государства.

Наряду с несомненными благами и выгодами для человечества, высокие технологии, в частности, цифровые, несут и ряд угроз, как уже очевидных, так и еще неизученных. Задаем ли мы себе вопросы – и даем ли честные ответы – о том, зачем, с какой целью мы развиваем цифровые технологии, чего мы хотим добиться?

Некоторые тенденции бесконтрольного использования таких технологий уже сегодня вызывают тревогу и могут привести к труднопредсказуемым последствиям. Речь идет об уже подкрепленных исследованиями психологов и нейрооученых фактах «цифрового аутизма»: повышения тревожности у детей, ухудшения их памяти, снижения усидчивости, способности к обучению, прежде всего математике и точным наукам. Появляются и грозные признаки новых проблем, вызываемых так называемой «экономикой внимания» и «капитализмом слежки». Транснациональные гиганты научились извлекать огромные прибыли, продавая, по сути, фьючерсы на человеческое внимание, эмоции, поведение, монетизируя психику и делая таким образом «новой нефтью» самого человека, во все большей степени ставя его под контроль безличных алгоритмов.

Генсек ООН Антониу Гутерьеш в недавнем выступлении в Давосе назвал тёмную сторону хайтека одним из «всадников Апокалипсиса». Гутерьеш говорил о том, что бесконтрольная эксплуатация природных ресурсов привела человечество на край экологической катастрофы. Сегодня природа наносит ответный удар и речь идет о самом выживании нашего вида. Но не приведет ли агрессивная эксплуатация человеческого сознания, эмоций и поведения к тому, что природа, выведенная из равновесия, в будущем обрушится на нас с новой силой? Готовы ли мы к новому апокалипсису и не лучше ли его предотвратить сегодня, чем оставить расхлебывать эти проблемы нашим детям завтра?

Мы считаем, что прогресс нельзя остановить, но общество может и должно его направлять, просчитывая последствия на перспективу. Русский писатель и философ Иван Ефремов полагал, что человечество с самого начала своей истории развивается между двумя крайностями, балансируя на «лезвии бритвы», и что только так оно может создавать великое и прекрасное, достигать вершин. Нужно и сейчас провести человечество, общество, по «лезвию бритвы», не останавливая прогресс, а задавая ученым и инженерам вектор на усиление возможностей и способностей человека, а не на их ослабление.

К сожалению, в российском обществе, во многом застигнутом переменами врасплох, серьезный и аргументированный разговор на эти темы толком не начинался. Необходима «новая цифровая осознанность», при которой и отдельные люди, и общество в целом перестанет быть бездумными «пользователями», объектами управления со стороны алгоритмов, вернут себе человеческое достоинство и возможности сознательного личностного и общественного развития.

Прежде всего нужно начать широкое общественное  обсуждение вызовов и рисков, которые масштабная повестка цифрового развития ставит перед российским обществом. «Новая цифровая осознанность» или просто «новая осознанность» — это комплексный, междисциплинарный подход к разработке и  использованию цифровых высоких технологий, для выработки которого необходимо собрать экспертов в разных областях знания, ученых, философов, представителей общественных организаций, бизнеса и государственных структур.

Некоторыми из этих вопросов, в частности, влиянием цифрового информационного поля на человека и общество, занимаются специалисты в области медийной грамотности, работают и психологи-консультанты в области цифровой детоксикации. Однако нам представляется, что в условиях бурного развития новых технологий этого явно недостаточно. Необходим более активный и более всеобъемлющий подход, при котором подходы и методики «новой осознанности» будут доступны для всех без исключения членов общества, безотносительно их материального положения, возраста, пола или уровня образования. Необходима и работа над перспективой, постановка задач перед учеными, философами, политиками, но не с тем, чтобы ускорить бездушное извлечение из человека его эмоциональных и когнитивных ресурсов, а чтобы добиться настоящего прогресса – в резком расширении человеческих способностей без того, чтобы слепо полагаться на посредство технологических «протезов». «Новая осознанность» — это не отрицание технологического развития и науки, напротив, это возвращение этим понятиям, которые сегодня все больше отрываются от человека, их истинных значений. Нам представляется, что на этом пути человечество может добиться настоящих прорывов и в расширении человеческих возможностей, и в объединении для решения насущных глобальных проблем, доставшихся от прошлого, полного бездумной эксплуатации природных и внутренних ресурсов.

«Новая осознанность» — это и активный, творческий и гуманистический подход в использовании высоких цифровых технологий, при котором человек перестает быть «юзером», пользователем, и становится личностью, принимающей решения.

«Новая осознанность» должна стать основой здорового цифрового общества, сделать развитие способностей человека ядром новой философии. Ее принципы должны создать препятствия на пути распространения бесконтрольного «капитализма слежки», низводящего человека до уровня «пользователя»,  который платит за якобы бесплатный доступ к цифровому окружению не только своим здоровьем, личными данными, возможностями и будущим своих детей, но и зачастую своей свободой. Ведь алгоритмические цифровые системы безжалостно вторгаются в частное и общественное пространство, как следствие резко ограничивая такие права человека, как неприкосновенность частной жизни и человеческой личности.

Мы приглашаем к сотрудничеству ученых, философов, активистов, инженеров, предпринимателей, вне зависимости от их политических убеждений и пристрастий, потому что считаем, что повестка осознанного человеческого развития объединит все здоровые силы.  Мы будем рады видеть Вас среди участников рабочей группы, которая должна будет выработать основные подходы к деятельности движения «новой осознанности», определить ближайшие мероприятия и обсудить формат взаимодействия участников.

Игорь Шнуренко, независимый эксперт и консультант в области ИИ, писатель

Максим Макаренков, издатель, журналист