Владимир Рубанов

ЦИИТ Интелтек

Есть проблема бесконтрольного влияния прагматически мыслящей технократии на социально-культурное развитие и потребность в ограничении ее вмешательства в сферу культуры и массового сознания

---

Аннотация

Вектор научно-технического прогресса во многом определяется технологиями искусственного интеллекта (ИИ). Однако ряд известных ученых, публицистов и лидеров ведущих технологических компаний выступили с призывом приостановить гигантские эксперименты с ИИ. Тревогу авторов и общества вызывает вторжение технологий в сферу культуры, возможность манипулирования массовым сознанием и перспективы «цифрового рабства».

Анализ ИИ проведен с помощью авторской модели целостной картины реальности. Это матрица с пятью уровнями (строками) раскрытия процессов мышления: эмоциональным, интуитивным, рациональным, функциональным и поведенческим. Столбцы обозначают стадии развития ментальной сферы: информационную, эстетическую, этическую, культурную и творческую. Это аналог периодической таблицы для упорядочения понятий. Место в таблице определяет их базовый смысл, взаимные связи и логику рассуждений.

Применение модели вскрывает некорректность метафоры «интеллект» для обучаемых нейросетей. Это порождает ложные иллюзии и манипуляции массовым сознанием. Обозначена необходимость четкого определения понятий в сфере ИИ по причине их влияния на организацию мышления. Так, «память», «разум» и «интеллект» в текстах по ИИ часто смешиваются и подменяются.

Показано, что основой и содержанием ИИ является память. Функционал ИИ ограничен распознаванием образов, обработкой текстов и составлением новых текстов из базы данных по алгоритмам больших языковых моделей. ИИ способен к обучению, но необучаем познавательному мышлению.

Разум имеет чувственную природу и обеспечивает адаптацию живого существа к реальности. Разумное мышление основано не на буквальном, а на контекстуальном прочтении, толковании и составлении текстов. Для этого нужен сложный язык символов в отличие от простого языка значений при работе с памятью. Способностям к обобщению, логическому следованию, ассоциации и аналогии нельзя обучить. Это достигается образованием.

Интеллект – следующая (этическая) стадия развития. Он имеет социальную природу, формируется в диалоге и коллективном действии, основан на морали, сознании и воле. Интеллект способен к производству смыслов, пониманию и преобразованию реальности. Если память пассивна и обращена в прошлое, а разум реактивен и обращен к настоящему, то интеллект проактивен и ориентирован на будущее. Бесчувственность, безволие, пассивность и ограниченность ИИ прошлым делают бессмысленной дискуссию о достижении им стадии интеллекта, не говоря уже о ценностном мировидении и творчестве.

ИИ позволяет сегодня автоматизировать ряд умственных задач, решаемых человеком. Но для применения и совершенствования ИИ требуется экспертное сопровождение. Открывается потребность в упорядочении знания, эталонных моделях по предметным областям и их объединении на основе целостной картины мира. Вопрос о победе ИИ над интеллектом снимается, но все более очевидным становится факт наступления человеко-машинной реальности.
Для коммуникации ее участникам требуется метаязык с математической логикой и универсальной смысловой семантикой. Он необходим для объединения вычисляющего и понимающего мышления, а также интеграции естественных и гуманитарных наук. Построение и аналитическое применение подобного метаязыка показано в данной статье. Новая реальность требует адаптации образования. Необходим переход от обучения тому, чему учат машины, к формированию творчески активного и ответственного интеллекта.

---

Блеск и нищета искусственного интеллекта

Вектор научно-технического прогресса во многом связывается сегодня с технологиями искусственного интеллекта (ИИ). На их разработке и практическом применении сконцентрированы усилия ведущих развитых государств и крупнейших технологических корпораций, а 2023 год считается годом «великого перелома» и начала «триумфального шествия» ИИ по планете.

На широкую публику большое впечатление произвели возможности сервиса ChatGPT давать содержательные ответы, имитировать умного собеседника и выполнять студенческие работы, зачитываемые преподавателями. Создатели моделей генеративного ИИ обещают автоматизировать ряд задач, решаемых человеком: написание текстов, создание графики, обобщение статей и анализ данных. Появления возможности сокращения числа работников умственного труда и информационной сферы вызывает естественный интерес бизнеса. Это дало старт гонке технологических компаний, которые создают большие языковые модели и делают на их основе пользовательские приложения.

Нарастание внимания к генеративному ИИ привело к естественному желанию проверить фактические возможности ChatGPT. Тестирование сервиса показало, что его «умственные» способности пока слабенькие. Были установлены частые случаи производимых чатом глупостей и ограниченность его писательских способностей грамматически правильным сложением слов. В критических анализах сервиса ChatGPT отмечается отдалённость перспектив появления подобия интеллекта на основе такого рода моделей. Нового знания они не порождают, а смыслы из правильного сложения слов не возникают. Про субъектность систем ИИ как источника знания и говорить не приходится.

Взрывной рост публичного интереса и пользовательского спроса на сервисы ChatGPT привлек широкое общественное внимание и вызвал противоречивые оценки. Ряд лидеров ведущих технологических компаний, известных ученых и публицистов выступили с открытым письмом с призывом приостановить гигантские эксперименты с ИИ. Их письмо вызвало не менее ожесточенные споры, чем сам предмет спора. Эмоциональный тон этих споров указывает на то, что затронуты болевые точки мирового общественного мнения.

Многие участники обсуждения называют авторов письма ретроградами, которые встают на пути прогресса и мешают творческой активности создателей ИИ. Но это не так. Ведь сам разработчик GPT-4 С. Альтман считает возможность дезинформирования общества его главной опасностью В основе алгоритмов ИИ лежат часто встречающиеся сочетания слов, а не логика связей между событиями и фактами. Но модель «уверенно выдает лингвистические конструкции за факты, хотя все это и выдумано с начала и до конца».

Известный историк и публицист Ю. Харари в статье по языковым моделям указывает на опасность, заключенную в самой идее создания такого рода ИИ. Он напоминает, что «в начале было слово», а язык является операционной системой человеческой культуры. Вторжение ИИ в сферу языка означает захват главного ключа культуры и получение возможности манипулирования цивилизацией. Поэтому системы ИИ не должны быть запутаны с жизнью миллиардов людей быстрее, чем культуры могут безопасно поглотить их. Тем самым обозначен конфликт между культурой и технологией в виде ИИ.

Разработка и применение ИИ осуществляется людьми. Поэтому создание иллюзий и манипуляции могут иметь целенаправленный характер и заражать массовое сознание. Результатом может стать усиление социального хаоса, потеря управления, подрыв психического здоровья и разрушение демократии. Возникает вопрос и о целесообразности автоматизации работ, приносящих людям удовлетворение. Внятного ответа на эти вопросы нет. Нет ответа и на вопрос о том, может ли судьба масштабных технических решений (к ним относятся разработки ИИ) делегироваться неизбранным лидерам технологий?

Как видятся связи между технологиями и культурой самими идеологами ИИ? В модной сегодня концепции реальность рассматривается как технологическая стадия развития мира или «жизнь 3.0» (Г. Тегмарк). Ее предшественниками являются «жизнь 1.0» (биологическая стадия) и жизнь 2.0 (культурная стадия). Получается, что культура в «жизни 3.0» куда-то пропала и растворилась в технологии. Это ровно то, о чем предупреждает Ю. Харари, призывая к цивилизационному ответу на вмешательство технологий в сферу культуры. Возникают и другие вопросы. С каких пор технологии перестали быть частью культуры? Куда делись творческая культура (искусство) и культура научная (школа)? Хотя без них невозможно ни возникновение ИИ, ни его развитие.

Много вопросов вызывает также жесткая технократическая позиция цифро-утопистов. Они лепят из ИИ «цифрового бога» и абстрагируются от таких «мелочей», как человек с его обычным интеллектом. Получается, что ИИ может развиваться сам по себе, а его алгоритмы способны к самообучению вплоть до совершения эволюционного скачка и обретения власти над человеком. Человек выглядит в таких теориях малоспособным и безвольным недоумком.

Можно ли верить с позиций естественного интеллекта и здравого смысла в подобные теории и прогнозы? Можно, но только в религиозно-мистической логике: «верую, ибо абсурдно». Такое отклонение от здравого смысла объяснимо ложной верой в разумность больших языковых моделей. Но в том-то и проблема, что смыслы в построенных на их основе системах ИИ выведены за скобки. Получается, что бессмысленность заложена в основу создания ИИ, а жизнь без смысла по его алгоритмам становится идеалом человечества.

В дискуссиях об ИИ уходит в тень и наука. Но именно она и является основой интеллектуального могущества человечества и его достижений. Под влиянием апологетов ИИ формируется массовое представление о способностях технологий заменить все. Получается, что прикладным разработкам вроде и не нужна наука, когда есть технология, составляющая наукоподобные тексты.

Остается непонятным, что такое естественный интеллект и что с ним делать. Его обычно связывают со способностью человека адаптироваться к внешней среде и решать задачи, требующие умственных усилий. Но человек задачи не только решает. Он умеет, прежде всего, их ставить, исходя из своих (а не навязанных) потребностей и целей по их достижению. И еще. Люди живут не только расчетами, но и эмоциями. Даже научное знание рождается не из формул, а из страстного стремления к разумному постижению истины. Все это имеет прямое отношение к тому, что называется интеллектом.

ИИ всегда был, есть и будет явлением культуры, воплощением замысла естественного интеллекта. Ни сегодня, ни в обозримом будущем ИИ не сможет стать ни автором творческого произведения, ни создателем образцов духовной и материальной культуры, которые затем становятся техникой, технологией и продуктом потребления. ИИ не сможет создавать научные школы, совершать научные открытия, воображать и проводить эксперименты. Копировать, подражать и комбинировать может, а заменить – нет. Так что оснований для одушевления и господства ИИ пока маловато, а точнее – вообще нет.

В чем же тогда причина фанатичной веры в то, чего не может быть? Многое здесь связано с влиянием на массовое сознание метафоры «интеллект», с ее неправомерным перенесением на созданную человеком информационную технологию. Метафора в науке – это приглашение к размышлению о познании чего-то нового с помощью уже знакомого. Но технократические трактовки интеллекта имеют слабое отношение к научному знанию. Однако они уже вторглись в информационное пространство и действуют подобно пушке, оторвавшейся от лафета и стреляющей куда попало. Так создаются ложные ассоциации и рождаются иллюзии, создающие возможности манипуляций.

Применима ли метафора в науке? Да, но лишь при наличии модели и теории того, что познается, и того, с помощью чего это познается. Однако ни теории, ни модели интеллекта пока нет. По факту ИИ сегодня – это корпус знаний и технических решений, которые относятся к компьютерам и их системам. Они состоят из аппаратного и программного обеспечения, Интернета и других технологий. Это и нужно обсуждать. Интеллект же сюда притянут за уши.

Думает не мозг, а человек с помощью мозга

Несколько слов о развитии идеи ИИ. Первые шаги по его созданию были связаны с попытками достижения структурного подобия машинных архитектур биологическим структурам мозга. Но они оказались бесперспективными. Дело в том, что «думает не мозг, а человек с помощью мозга» (Э. Ильенков). И еще: мышление человека формируется не внутри мозга, а в коммуникациях с другими людьми. Это значит, что разум отдельных людей проявляется как часть коллективного процесса, производимого общим разумом (суперразумом) человечества. «Суперразум» личностью не является и развивается независимо от воли входящих в него людей, но с их обязательным участием.

Научная мысль движется к пониманию того, что способности к мышлению и его закономерности следует искать не в мозге, а в механизмах влияния внешней среды на людей и в их информационных коммуникациях. Каналом влияния на познавательную деятельность человека является язык, в котором отображается реальность. Это обстоятельство привело к пониманию того, что «не язык приспособился к мозгу, а напротив, мозг приспособился к языку» (Т. Дикон).

Язык лежит в основе всякого мышления. Это дает основание определить язык как относительно автономное явление, которое определяющим образом влияет на мышление и поведение человека. Поэтому ставка создателей генеративных ИИ на язык для имитации мышления может показаться вполне логичной. Но в том-то и проблема. Применяемый для построения ИИ естественный язык годен лишь для обычного общения. Для познания, логического мышления, точного изложения и понимания научного знания он непригоден.

В естественном языке отсутствует точность и упорядоченность. Поэтому для обобщения фактов, открытия закономерностей и понимания сути реальности применяется искусственный научный язык. Он необходим для отыскания упорядоченных связей между явлениями, их сведения к простым общим принципам и применения универсальных знаний для решения конкретных практических задач. Это выходит за рамки простой работы с текстами.

Различие между передачей чувственного восприятия на естественном языке и получением научного знания можно показать на примере звездного неба. В первом случае мы смотрим на небо и фиксируем множество хаотично расположенных светящихся тел. Во втором случае мы предполагаем, ищем и находим порядок в кажущемся хаосе звезд, открываем гармонию движения планет в солнечной системе. Об этом нельзя рассказать на обычном языке. Для этого нужен язык геометрии и математические формулы траекторий движения небесных тел под влиянием гравитации. Всего этого мы непосредственно не видим, не слышим и не можем выразить на обычном языке. Точно также мы не видим целиком леса из-за деревьев и можем легко в нем заблудиться.

Для видения чего-то существенно важного необходима предварительная идеализация. В общем плане это картина мира, которая позволяет открывать и мысленно представлять то, что покрыто тайной при обычном взгляде на него. Основанный на естественном языке ChatGPT настроен на ведение разговоров по типу «а вот еще был случай». Но это не имеет отношения к производству знания и воспроизводству процессов мышления. Упорядоченного знания в текстах такого рода, производимых алгоритмами ИИ, нет и не может быть.

Упорядоченное знание есть знание «порядка вещей». Нельзя ничего сказать ни о какой-либо одной вещи вне ее отношений с другими вещами. Порядок – это гармоничное и предсказуемое состояние или расположение чего-либо в некотором множестве. И в жизни они связываются не по правилам грамматики.

Идея порядка определяет также смысл науки как инструмента систематизации знания и навигатора в океане информации. Различные теории указывают на существование многих порядков на разных уровнях реальности. Самым глубоким из них считается квантовый уровень. Квантовая теория позволила совершить не только громадные научно-технические прорывы на многих направлениях, но и дала новое видение реальности.

Суть нового видения в том, что микромир прямо не наблюдаем, а познаваем только мысленным путем. Поэтому в основе глубоких знаний о мире лежит конструируемая теория, а опыт служит лишь для ее проверки. Квантовая теория объединяет субъекта и объекта в рамках общей концепции единства бытия человека и Вселенной. Это дает основание говорить о единой психофизической реальности, структурированной смыслами (В. Паули, К. Юнг).

Роль концептуальной основы познания в квантовой теории играет принцип целостности. В рамках этой теории целостность выступает первоначальной сущностью, а части — вторичными. Это относится как к самой картине мира, так и к способу ее построения. Ничего нового в сказанном, кажется, нет. Только вот разговоров о принципе целостности много, а его применений для решения задач мало. Это же относится и к ИИ, к самому интеллекту.

Присвоение определенному классу информационных технологий термина «интеллект» ко многому обязывает. Поэтому невозможно рассуждать об ИИ без понимания его природы и механизмов включения в реальность нашего существования. Прежде, чем технологически вторгаться в сферу мышления, нужно бы вначале навести порядок в самом знании о нем.

Можно ли построить теорию интеллекта как математически строгую систему рассуждений? Да, если применять общие принципы построения любых строгих научных теорий. С чего начинать? Начинать нужно, по совету П. Дирака, с красивой математической теории, основанной на симметрии. Какие инструменты математики применять? Любые, дающие приемлемый результат. Ведь математика не набор готовых формул, «математика – наука экспериментальная» (В. Арнольд). С опорой на такие предпосылки и построена автором статьи семантическая модель феномена «интеллект».

Математика – мать порядка

В данном тексте не стоит задача теоретического обоснования предлагаемой модели. Модель приводится как демонстрация того, что любой математический порядок может быть полезным инструментом систематизации знания и его целостного представления. Одним из таких инструментов является матрица. Известный пример такого представления знания – периодическая таблица химических элементов. Место каждого элемента в ней раскрывает его химические свойства. Достигнутые успехи в упорядочении знания с помощью инструментов математики послужили Д. Менделееву основой для крылатой фразы: «в любой науке ровно столько науки, сколько в ней математики».

В нашем случае речь идет об упорядочении множества смысловых сущностей, которые представляют обобщенные знания о мыслимых объектах реальности. Получается своего рода аналог периодической таблицы. Только в ней раскрываются не химические свойства элементов, а семантические свойства понятий, которые выражают смысловые сущности обозначаемых предметов.

Полная модель содержит пять уровней проявления (раскрытия) интеллекта и пять стадий его зрелости. Это поведенческий, интуитивный, рациональный, функциональный и эмоциональный уровень. Стадии зрелости образуют ряд, включающий в себя наследственную, эстетическую, этическую, культурную и творческую стадию. «Интеллект» занимает центральное место в матрице на пересечении рационального уровня и этической стадии развития. Такой выбор соответствует распространенной практике судить об интеллекте человека по его разумному отношению к реальности и достойному поведению в обществе.

Показанный на рисунке фрагмент полной модели раскрывает окрестность концепта «интеллект» (выделено серым фоном), а также его окружение. Фрагмент не содержит всего содержания понятий, которые применяются для полного раскрытия концепта «интеллект», они содержатся на других уровнях. Поэтому все имеющиеся в полной модели понятия выделяются кавычками.

Из фрагмента модели видно, что осевая линия мыслительной деятельности на рациональном уровне образует смысловой ряд: «память» – «разум» – «интеллект» – «ценность» – «идеал». В полной модели этот ряд имеет замкнутый характер и описывает циклический процесс. Это означает изменение содержания «памяти» по мере интеллектуального развития.

Строго определенное место понятий в целостном семантическом пространстве позволяет раскрывать их смысловые значения через связи с окружающими понятиями. В системном представлении понятий как элементов единого целого реализован принцип взаимного дополнения семантики и математики. Семантика – это набор понятий, обозначающих то, о чем рассказывается, а математика – логическая структура построения такого рассказа.

Структура есть всегда и везде, где есть порядок. Математика (в данном случае матрица) задает структуру семантического пространства и упорядочивает его. Математическая структура играет роль грамматики, задающей правила для определения и применения понятий семантического пространства. Только обычная грамматика служит связыванию слов по правилам линейно построенных высказываний о внешних проявлениях объектов реальности. Математическая же структура раскрывает связи между понятиями в рамках формализмов, применяемых для построения целостной картины мира.

Рис. 1. Рациональный уровень раскрытия интеллектуальной деятельности

Горизонтальные линии на модели выражают движение объектов реальности по оси времени, а вертикальные линии – уровни раскрытия объектов: от их глубинной сущности до внешних проявлений. Так что это не просто набор линий, а математический формализм описания пространства-времени, образ которого соответствует сетевому устройству реальности.

Смысловая сущность реальности невыразима на естественном языке по причине его линейного устройства в то время, как выражаемая на нем реальность имеет сетевую структуру. Грамматика обычного языка не содержит также причинных зависимостей. Мышление и коммуникации на таком языке не гарантируют адекватности отображения и передачи смыслов реальности, но допускает грамматически правильное конструирование бессмыслицы.

Соблюдение правил целостной сетевой структуры исключает (ограничивает) подмену понятий. Так, между понятиями «интеллект», «память» и «разум» существует принципиальная разница. Это разные этапы развития ментальной сферы человека. Однако в текстах про ИИ они постоянно смешиваются. Причина в том, что определение и употребление понятий самих по себе вне связи с другими понятиями противоречит природе смыслов, которые «не живут поодиночке». Поэтому совместное рассмотрение, различение и разграничение понятий – обязательное условие их точного и недвусмысленного определения.

Основой возникновения и развития ментальной сферы человека является «память», которой обладают все объекты живой природы. Содержанием «памяти» является «текст». Он составляется из «знаков», которыми размечаются «признаки» «свойств» наблюдаемых «предметов». «Признаки» их «образов» метятся «знаками», из которых составляются «тексты».

«Память» является предпосылкой возникновения «разума» и условием его развития. По образу и подобию генетической «памяти» создаются, сохраняются и воспроизводятся любые обычные тексты о наблюдаемых «предметах» отображаемой «реальности». «Разум» базируется на наличии у всего живого генетических способностей к запоминанию и узнаванию «образов». Поэтому распознавание «образов» является важным условием любой жизни.

Отличие «разума» от «памяти» заключается, прежде всего, в том, что его содержанием выступает не «текст», а «контекст». Если «текст» отображает предметный мир в его конкретном проявлении наподобие фотоснимка, то «контекст» содержит «значения» обозначенных «образов» «предметов» реальности. Если «текст» рассказывает, к примеру, о конкретной кошечке, то «контекст» выделяет общие признаки кошечек и их отличия от остальных животных. «Контекст» – это, своего рода, экстракт из множества «текстов», необходимый разумному существу для жизни в изменчивом мире.

Мышление начинается с чувства меры

Третий этап развития мышления имеет интеллектуальное содержание. «Интеллект» непосредственным образом связан с «моралью». Это означает, что «интеллект» по своей природе морален, а «мораль» — интеллектуальна. На данном этапе мышление дополняется оценками «предметов» и «явлений». Эти оценки производятся как с рациональной, так и с моральной точки зрения. Познание мира на глубинном уровне требует абстрагирования от бесчисленных внешних проявлений, за которыми скрыта его сущность. Это достигается путем идеализации «объектов» реальности и нахождения их устойчивой «структуры».

Раскрытие тайн природы во многом осуществляется с помощью математики как предельного уровня идеализации наших представлений о мире. Сегодня математика в значительной мере связывается с мощным аппаратом вычислений. Но при своем возникновения математика строилась на представлениях о гармонии. Математика и музыка были у афинян одним предметом, метр родился как мера музыкального ритма, а консонансы и диссонансы известны как пропорции пифагорова строя. Идеальные тела, золотое сечение, спираль, винт – все это результаты поисков красоты. Они легли в основу архитектуры и инженерного дела, расчетов и обоснований.

Уход в технику и прагматику сопровождается забвением эстетических начал познания и понимания мира. Однако никуда не исчезли ни творческое начало познавательной деятельности, ни роль умозрения в открытии тайн природы. Открываемые «идеалы» – это не какие-то придумки их авторов, а верные «представления» о векторе движения от «природы» (натуры) – к «культуре».

ИИ не представлен в семантической модели непосредственным образом по причине надуманности обозначающего его термина. Но в модели есть область, где возможно определение его смысловой сущности и основного содержания. ИИ размещается в области, образуемой «памятью» с текстовым содержанием. Работа с «текстами» включает фиксацию «явлений», их описание, накопление, хранение, доступ к ним, копирование и тиражирование. Возможно разложение «текстов» на части, сборка сложных «текстов» и построение их комбинаций.

Примерно такие базовые операции и производят системы ИИ на основе больших языковых моделей. Их отличие от обычных поисковых систем заключается в наличии и применении алгоритма связывания слов (знаков языка) на основе частотности их совместного употребления. Это позволяет угадывать следующее слово в предложении и имитировать подобие связной человеческой речи. Но такая работа с «текстами» не есть производство нового «знания». Ничего нового в «памяти» нет и неоткуда взяться.

«Знание» не есть калейдоскоп мелькающих «образов» и несвязанных между собой «текстов» о «множестве» «событий». Человеку необходим выбор таких «образов» и по таким «признакам», которые имеют определенное значение для его поведения. Это «знание» нужного, а также «меры» для его определения. Но «мера» не заложена в самой «природе». Это производная от «чувств» живого организма. Бесчувственная машина сама по себе «мерой» не располагает и не может распознавать «образы» предметного мира по измеримым «признакам» без привлечения чувственного «знания». Обучить машину распознаванию «образов» с помощью «знания», полученного разумным путем, можно. Но обучить машину производству «знания» принципиально нельзя по причине ее бесчувственности и неразумности (зачем ей это нужно?).

«Знание» отличается от «образа» тем, что оно не только узнаваемо, но еще мысленно представимо и разумно понимаемо. Уместным здесь может быть обращение к теме образования. Образование имеет отношение к «образу» не только по причине одного корня в их названиях, но и по существу. То, что не имеет «образа» (без-образие), не может узнаваться, а, значит, и становиться «знанием». Поэтому разумное познание мира не просто включает в себя фактор образности и красоты (эстетику), но и основано на них. Это позволяет определить разумную стадию мышления как эстетическую. Смысл образования оказывается связанным с формированием у человека «чувства» красоты и развитием «чувства меры». Остальному можно обучить, а этому нельзя.

Функционирование ИИ, основанного на «памяти», и работа чувственного «разума» существенно различаются. Их отличие заключается в разном отношении к отображаемой «реальности» и разном прочтении «явлений». Выше говорилось, что в первом случае – это «текст», а во втором – «контекст». Разумное прочтение «текста» является контекстуальным в отличие от его буквального прочтения «памятью». «Контекст» фокусируется на актуальном и имеющем определенный «смысл» в отличие от простой обработки «текстов».

Контекстуальное мышление происходит на языке «символов». На символьном языке производятся операции обобщения и конкретизации, устанавливаются отношения причинности, ассоциациативные связи и аналогии. «Язык» познания строится не простым обозначением и воспроизводством чего-то конкретного, а путем присвоения «объектам», «явлениям», их «группам» и «отношениям» символических значений. «Символы» позволяют не только распознавать «предметы», но и присваивать им определенные значения с точки зрения интересов познающего. Такие операции не под силу большим языковым моделям. Да такую задачу пока и не ставят перед собой их создатели.

Интеллект – всегда собеседник

«Интеллект» – это следующий за «разумом» этап развития мышления. Он опирается на «сознание» (со-знание). «Сознание» формируется в процессах коллективной «деятельности» ее «субъектов» и обмена «сообщениями» (со-общениями). Ю. Лотман выразил это знаменитой формулой: «интеллект всегда собеседник». В результате общения образуются совместно произведенные мысли или «смыслы» (со-мысли). Они имеют общие значения для участников общения и одинаково ими понимаются. Осмысленное мышление – условие взаимопонимания «субъектов» общественной жизни. Этого, безусловно, нет у алгоритмов нейросетей при работе с «текстами». Да и неоткуда взяться.

И еще одно замечание для раскрытия сути «интеллекта». Если «память» пассивна, а «разум» реактивен, то «интеллект» проактивен. Эта активность реализуется как осознанное проявление «воли». Но «воле» нельзя обучить и привить образованием, «воля» воспитывается. От «воли» зависит признание одним «субъектом» достоверности и полезности «знаний» другого «субъекта». Так формируется «сознание» (со-знание), без которого невозможно совместное применение «знаний» и совместное коллективное действие. «Интеллект» без «воли» пассивен. Но «воли» нет и не может быть у ИИ. И это непреодолимый барьер для попыток имитировать «интеллект» его техническими подобиями.

Активность «интеллекта» меняет сложившуюся объективную и субъективную «реальность». В «результате» меняется и сам «интеллект». Происходит повышение его «ценности» и роли в жизни «общества». Это важный стимул интеллектуального развития. У нейросетей нет стимулов к саморазвитию по причине отсутствия у них «воли». Поэтому непонятно, откуда может появиться у ИИ и «воля» к власти над человечеством без самого человека. Такой опасности нет. Но вполне себе реально существуют люди и социальные группы с «волей» к власти и стремлением к господству с опорой на технологии ИИ.

Следующая стадия развития ментальной сферы является практической и определяется результатами интеллектуальной активности. Ими выступают «ценности». «Ценности» – это не просто наличествующие в «природе» или произведенные людьми «продукты» для удовлетворения потребностей. Они включают в себя еще и наше отношение с позиций общих «представлений» о «благе» и «пользе». «Представления» о «ценностях» обращаются и на сам «интеллект». «Интеллект» сам приобретает ценностное измерение, которое позволяет человеку осознавать свою «ценность» и обретать достоинство.

Так что не любая активность «интеллекта» носит прогрессивный характер. Ее необходимо соотносить с разумным «представлением» об общем «благе». Человеческое достоинство предполагает наличие у людей определенных «прав» на свободу мысли и действие в своем «праве». «Право» воплощает в себе «представления» о «норме» совместной жизни людей и правилах доступа к совместно производимым общественным «благам». Отметим также, что сегодня повышается значимость результатов интеллектуальной «деятельности» и производимых ею нематериальных «благ». Это влечет за собой увеличение доли интеллектуальных «прав» на общественно значимые «ценности»

В «нормах» «права» сконцентрированы «знания» о «реальности» на уровне их универсальных значений. Они включают в себя как объективное «знание» «законов» «природы», так и субъективные «представления» о должном устройстве жизни «общества». Между ними существует принципиальное различие. Если «законы» «природы» действуют как непреодолимый императив мироустройства, то «нормы» «права» являются нравственным императивом.

Это внутренняя побудительная «сила», которая основана на убеждениях людей и приводится в действие их «волей». Незнание «законов» «природы» и выбор ложных моральных ориентиров приводят к неблагоприятным последствиям. Так преподаются уроки истории. Но история, как известно, «не учительница, а надзирательница: она ничему не учит, но только наказывает за незнание уроков» (В. Ключевский). Поэтому «реальность» определяется как нашим достоверным «знанием» о мироустройстве, так и моральным «представлением» о должном устройстве «общества», закрепленным в «нормах» «права». А правотворчество есть никому непередаваемая функция «интеллекта».

«Смысл» общественного прогресса заключается в возрастании «ценности» естественного «интеллекта». Чем более значительна доля «интеллекта» в производимых «ценностях» – тем ценнее и производящий их «интеллект». Поэтому в «обществе», основанном на «знании», «интеллект» приобретает значение одной из высших «ценностей». Творимая «интеллектом» вторая «природа» является «культурой». Под «культурой» понимается все, что является результатом изменения и совершенствования «натуры». Она включает все культивируемое на всех уровнях живого: от «культуры» клеток и растительных культур – до «культуры» цивилизации. «Функция» «культуры» заключается в производстве «смыслов», ценностном измерении практик, накоплении полезного «опыта» и в создании общественного «идеала».

«Идеал» выступает завершающей стадией развития мышления и фокусом концентрации интеллектуальной активности. Это высшая степень чего-либо ценного, завершенное состояние какого-либо «явления» и труднодостижимая степень совершенства. «Идеал» не наблюдаем, он существует в нашем «представлении» как гармония «природы» и совершенный «порядок» вещей. «Идеал» – это наш внутренний мир, который мы проецируем на мир внешний. На этой стадии «мы видим не мир, а содержание своего ума» (О. Нидаль).

Движение к «идеалу» может происходить естественным и искусственным путем. В мире биологического это происходит путем естественного отбора. Прогресс в мире социального осуществляется путем выбора лучших образцов «организации» и наиболее совершенных моделей общественных «отношений». «Общество» выросло из «природы», но развивается как «явление» «культуры», «смыслом» которой является открытие и воплощение «идеалов». Это важно для раскрытия творческого облика «интеллекта», выступающего конструктором более совершенного «образа» будущего и инициатором движения к нему.

А есть ли и может ли быть у ИИ мечта и план будущего? И есть ли у людей потребность в том, чтобы лишать себя «смысла» жизни, подчиняя ее алгоритмам ИИ? Человек строит свое поведение с расчетом на будущее, «образ» которого существует в мышлении как мечта об «идеале». Без мечты не было бы ни искусства, ни науки, ни технологий, ни даже ИИ. Не было бы и «смысла» жизни, остался бы лишь инстинкт выживания, как у животного.

Вектор развития «культуры» (в любом из проявлений) определяется ее «кодом». Культурный «код» содержит смысловую «матрицу», по которой строится «текст» про судьбу социальной организации (от племени и корпорации – до нации и цивилизации). В этот «код» заложена «идея» движения к «идеалу». Изменения «кода» меняют «свойства» живого и программу жизни. Это известно из мутаций генетического «кода».

То же самое относится и к культурному «коду». Выбор ложных «идеалов» и искаженных «норм» жизни грозит цивилизации катастрофами по всему спектру: от техногенных – до социальных. Поэтому идея замены «интеллекта» машиной, которая будет создавать «идеалы» жизни и «образы» будущего, кажется абсурдной. Такое возможно, если человечество утратит «разум» и «память», потеряет «сознание», лишится «интеллекта» и «воли». Не хочется верить, что такое будущее желают человечеству и сами «цифро-утописты».

Машинам – обучение, а людям – образование

Пророчества наступающего господства ИИ над миром не имеют под собой реальных оснований. Реально же существует угроза использования технологий ИИ для манипулирования сознанием людей, усиления над ними контроля и установления «цифрового рабства». Но такие угрозы исходят не от «умных машин» с «нечеловеческими возможностями», а от бенефициаров технологических бизнесов и властей, которые могут это допустить для усиления своего влияние в союзе с создателями технологий ИИ.

Предупредить подобный сценарий может и должно общество просто «умных людей» с обычными «человеческими возможностями». Препятствием для такой активности являются известные со времен Ф. Бекона «идолы» массового сознания. Это «плохое и нелепое установление слов», а также «слепое доверие авторитету других людей». Такой магической силой обладает сегодня сомнительное словосочетание «искусственный интеллект». Оно порождает ложные ассоциации в массовом сознании, а некритичное отношение к мнениям технологических лидеров и медийных личностей влечет массовое повторение за ними неверных вещей и ошибочных суждений. Опасным заблуждением является и признание за технологическим бизнесом мессианской роли.

Помимо отдаленных угроз для глобального будущего обозначаются и актуальные. Качество «памяти» систем ИИ определяется истинностью «текстов» и упорядоченностью их содержания. Нынешние базы ИИ не отвечают этим критериям. Это существенно ограничивает, а, в ряде случаев, и исключает возможности их практического применения для решения ответственных задач. Кроме того, массовое тиражирование и перекомпоновка «тестов» с сомнительной достоверностью влечет накопление ошибок и запускает процесс деградации баз данных с тенденцией их превращения в информационный мусор. И в этом нарастающая угроза для человечества.

Сомнительная истинность и неупорядоченность данных не преодолеваются наращиванием вычислительных мощностей и совершенствованием алгоритмов. Это признает и создатель ChatGPT С. Альтман. Он считает, что прогресс ИИ перестает зависеть от размеров и скорости обучения генеративных моделей. Эра «беспредельных данных и огромных моделей подходит к концу, а следующий рывок в ИИ следует ждать с какой-то другой стороны».

Для практического решения обозначенной проблемы начинают привлекаться эксперты с предметными знаниями. Их задача – дать правильные ответы на специально подготовленные тренерами нейросетей вопросы (инстракты). Ответы становятся эталонными знаниями для поиска нужных данных и составления текстов по запросам пользователей. Случайные тексты из интернета замещаются экспертными знаниями с достоверными фактами. Оказывается, что являемая публике эрудиция ИИ выступает лишь текстовой оболочкой для закладываемого в его память экспертного знания.

Для этого сегодня привлекается множество экспертов из разных областей предметного знания. Но это недешевое удовольствие, и оно становится экономическим барьером для развития ИИ. Встает также проблема поиска нужных экспертов и организации их отбора по критериям, которыми не владеют технические специалисты по созданию ИИ и тренировке нейросетей.

Среди создателей и профессионалов в области ИИ растет понимание принципиальной невозможности чисто машинного интеллекта. Реальная практика идет по пути создания человеко-машинных комплексов с возрастанием в них роли экспертов и достоверного знания. Обостряется также проблема качества данных для алгоритмов ИИ и управления данными. Дают о себе знать и пределы чисто технологического совершенствования систем ИИ.

Оказывается, что ИИ не только не замещает естественный интеллект (происходит лишь замещение рутинных умственных операций), но все больше в нем нуждается. Сервисам ИИ требуется поддержка со стороны обладателей достоверного знания для их тренировки. Это, кстати, ответ на вопрос, чем заниматься людям, чьи функции передаются ИИ. Обучение нейросетей требует, конечно, приобретения более высокого экспертного знания. Но роль и место человека в условиях массового применения ИИ начинает проясняться.

Сервисы ИИ на базе больших языковых моделей обнажили проблемы в системе образования. Вопрос даже не в том, что курсовые работы за студента может написать ChatGPT. Вопрос в целесообразности обучения молодых людей тому, что может делать машина. И здесь опять обнажается необходимость точного определения понятий, проведения различия между обучением и образованием.

Такое различие показано на рисунках с фрагментами семантической модели. Содержанием обучения является донесение до обучаемого и запоминание им информации. Содержанием образования является формирование умения концептуально мыслить, составлять смысловые контексты для работы с информацией и выделять из текстов смыслы. Для этого необходимо умения абстрагирования и конкретизация, установления причинных связей, выбора значимых фактов для решаемых задач и отсечения сомнительной информации.

Формирование таких умений видится сверхзадачей современного образования.

И самое, пожалуй, главное. Мы переходим в новую человеко-машинную реальность, в которой сосуществуют два вида мышления: вычисляющее и понимающее. Человек обладает умением вычислять и способностью понимать другого человека в процессе общения. Машина может только алгоритмически вычислять без понимания того, что вычисляется и зачем вычисляется. Поэтому ключевой задачей является их объединение в совместных процессах. Так, собственно, и проводятся работы по совершенствованию и применению ИИ.

Мы начинаем жить в новой человеко-машинной реальности. А любая новая реальность требует нового языка. В данном случае речь идет о создании языка, пригодного для объединения вычисляющего и понимающего мышления. Это «идеальный» алгоритмически построенный метаязык, на котором можно излагать только очевидные истины в логически правильной форме. Метаязык представляет собой дотекстовое сообщение, для которого текст выступает «технической упаковкой» устойчивого смыслового содержания.

Обычный язык и метаязык образуют вместе лингвистический комплекс из двух генераторов текстов. Первый оперирует дискретной системой кодирования и образует текст как линейные цепочки слов. Второй генератор континуален и представляет целостный контекст, который раскрывает смысловые значения линейных текстов (Ю. Лотман). Примерно так и производится обучение нейросетей экспертами, которые вносят в них концептуальное знание. Подобным образом проведен и анализ ИИ на основе семантической модели.

Сегодня экспертами и тренерами ИИ создаются частные модели предметного знания по отдельным направлениям. Но проблема их сведения в целостное единство остается (пресловутая «семантическая интероперабельность»). Она не решается путем собирания из кусков без видения целого. Такое возможно только путем движения от целого к частям. О потребности в целостной картине мира все чаще говорят профессионалы, глубоко погруженные в проблематику ИИ. С этого, пожалуй, и нужно начинать совершенствование технологий ИИ.

Все более очевидной становится также необходимость интеграции естественно-научного и гуманитарного знания с перестройкой системы образования на основе целостного мировидения. Эту идею много лет назад высказывал выдающийся математик А. Колмогоров. Новый целостный корпус научного знания мог бы включать в себя: науки, которые изучают природу, включая неорганическую и живую природу»; антропологическую науку, которая связана со становлением человечества (то, что на обычном языке называется гуманитарными науками); отдельно математику, которая состоит из двух различных частей: собственно математики и ее приложений.

Такая реорганизация смещает центр тяжести образования с предметной подготовки и прикладных дисциплин к приоритету универсального знания. Представленную матричную модель семантической сети для раскрытия смысловой сущности концепта «интеллект» можно рассматривать как пример структурированного представления естественно-научных и гуманитарных знаний в рамках целостного единства. Модель можно использовать как эталонный образец для построения концептуальных моделей знаний в предметных областях и архитектур совместимых баз данных для ИИ.

Вывод из сказанного. Нет, на самом деле, предпосылок для возникновения и саморазвития человечеству «умных машин» с «нечеловеческими возможностями» до уровня создания угроз существованию человечеству без участия человека. Но есть проблема бесконтрольного влияния прагматически мыслящей технократии на социально-культурное развитие и потребность в ограничении ее вмешательства в сферу культуры и массового сознания.

Для этого необходим общественный контроль обнаруженных угроз. «Физики» (специалисты по ИТ) свое слово сказали. Но оказалось, что «сумма технологий» не есть в полной мере то, что нужно человеку. Ответное слово – за «лириками» (деятелями культуры и образования). В помощь им математика, познавшая гармонию мира. И мудрый совет Р. Декарта, который открыл систему координат и дал людям способ находить всему свое место: «определяйте значение слов, и вы избавите мир от половины его заблуждений».

Интерактивная модель : https://mirovizor.com/grid/

Метки: естественный интеллект, искусственный интеллект, обучаемые нейросети, процессы мышления