книги2 / 281-1

5.4. АРХИТЕКТУРА ОБЩЕГО ИИ (СОЦИОГУМАНИТАРНЫЕ АСПЕКТЫ)

Тема ИИ, которая находится в центре внимания многих исследователей с середины прошлого века1, получила второе дыхание во втором десятилетии нашего века, благодаря выдающимся результатам использования технологии глубокого машинного обучения2. Однако успехи в области распознавания и предсказательной аналитики показали ограниченность новых технологий ИИ для моделирования реальной интеллектуальной деятельности человека. Это особенно стало очевидно, когда в реальной практике начали широко использоваться чат-боты, имитирующие человеческое общение3. Стало понятно, что ИИ еще очень далек от человеческого.

В результате этого технологии предсказания поведения и трендов, и распознавания речи, и образов получили название слабого ИИ (AWI), а технологии моделирования человеческого интеллекта – Сильного (ASI) или Общего ИИ (AGI)4, который еще не создан, и по мнению некоторых исследователей5 будет создан еще не скоро, либо будет дополнением к человеку6. Основными аргументами, почему не может быть создан в обозримом будущем создан Общий ИИ, считают (еще со времен Дрейфуса7) невозможность алгоритмизировать неявные знания человека, либо отсутствие большого числа компьютеров с ИИ, которые бы могли их социализировать. В любом случае есть общее согласие, что для разработки AGI недостаточно увеличения вычислительных мощностей и числа нейронов, а необходимо расширять функциональность систем с ИИ.

Так, например, в работе Пеи с коллегами8 предлагается объединить два направления развития ИИ: алгоритмы на основе нейросетей и прикладные программы в рамках одного гибридного чипа Tianjic, что по мнению авторов позволяет реализовывать более функциональные

1Russell S., Norvig P. Artificial intelligence: a modern approach. New Jersey: Alan Apt.

2LeCun, Y. et al. Deep learning. Nature, May, Volume 521, p. 436–444.

3Grudin J., Jacque R. Chatbots, Humbots, and the Quest for Artificial General Intelligence. s.l., s.n., pp. 1-11.

4Advances in Artificial General Intelligence: Concepts, Architectures and Algorithms. Proceedings of the AGI Workshop 2006 ред. б.м.:IOS Press.

5Fjelland R. Why general artificial intelligence will not be realized. Humanities and Social Sciences Communications, Issue 7(10), pp. 1-9.

6Korteling J. et al. Humanversus Artificial Intelligence. Frontiers in Artificial Intelligence, March, 4(622364), pp. 1-13.

7Dreyfus H. L. What Computers Can't Do: A Critique of Artificial Reason. NY: Harper.

8Pei J. et al. Towards artificial general intelligence with hybrid Tianjic chip architecture. Nature, Volume 572, p. 106–111.

251

системы с ИИ. Однако по мнению авторов1 просто усложнение функциональности ИИ не приведет к построению AGI, необходимо научить системы с ИИ моделировать взаимодействие живых организмов. И такого рода исследования ведутся. Так, например, в работе Александера2 предлагается рассмотреть размножение ИИ со скрещиванием по аналогии с размножением биологических видов.

Реализация Общего ИИ невозможна без понимания человеческого интеллекта. В работе Легга и Хаттера3 рассматриваются различные определения интеллекта и тесты (один из них − тест Тьюринга) по их выявлению. Случайно или по воле авторов, все определения в той или иной степени связаны с целеполаганием, и поэтому тесты направлены на реализацию тех или иных целей. Примерно схожий подход можно найти в работе4, где рассматривается роль мотивации в реализации когнитивных функций ИИ. ИИ по мнению авторов работы решает задачу по удовлетворению различных потребностей, пытаясь снизить элемент неопределенности при поиске решений.

Однако ни целеполагание, ни иерархия потребностей не объясняют суть человеческого интеллекта, и поэтому не могут служить основой моделирования Общего ИИ. В последнее время все больше исследователей склоняются к социальной природе человеческого интеллекта, его связи с коллективным интеллектом. Наиболее яркой публикацией в этой связи является статья трех ученых5, представляющих разные науки: лингвистику, философию и психологию. Они прямо заявили, что человеческий интеллект не находится только в мозге, он распределен между другими людьми, связан с сотрудничеством и аутсорсингом части знаний человеком. При этом авторы статьи ссылаются на работы в области технологий коллективного интеллекта группы Маллоуна из Массачусетского технологического института6.

Технологии коллективного интеллекта получили широкое распространение в последнее время в связи с массовым использованием сетевых технологий7. Такие технологии позволяют повысить

1Shevlin H. et al. The limits of machine intelligence. EMBO reports, 20(e49177), pp. 1-5.

2Alexander S. A. AGI and the Knight-Darwin Law: Why Idealized AGI Reproduction Requires Collaboration. St. Petersburg, Russia, s.n., pp. 1-11.

3Legg S., Hutter M. Universal Intelligence: A Definition of Machine. Minds & Machines, August, Volume 17, p. 391–444.

4Bach J. A Motivational System for Cognitive AI. s.l., s.n., pp. 232-242.

5Sloman S., Patterson R., Barbey A. Cognitive Neuroscience Meets the Community of Knowledge. Frontiers in Systems Neuroscience, October, 15(675127), pp. 1-13.

6Woolley A. et al. Evidence for a Collective Intelligence Factor in the Performance of Human Groups. Science, October, Issue 330, pp. 686-688.

7Славин Б. Технологии коллективного интеллекта. Проблемы управления, 2016, вып. 5, стр. 2-9.

эффективность коллективной интеллектуальной деятельности, но по своей сути они реализуют социальную сущность интеллекта, и могут быть использованы для моделирования Общего ИИ. Так, например, авторы статьи в журнале1, выделяя три подхода к ИИ: технологический, основанный на существующих технологиях ИИ; человеко-центричный (ИИ является инструментом для человека), и подход на основе коллективного разума, предлагают объединить все три подхода в рамках создания гибридного коллективного разума.

5.4.1 Архитектурный подход и уровневая модель AGI

Как же моделировать человеческий интеллект, если он по своей сути социален? Самый простой путь – найти аналогичную систему, для которой уже строятся модели. Часто такие аналоги ищутся среди биологических систем, однако не все биологические системы социальны. Хорошим аналогом, как это ни странно звучит, может выступить информационная система (ИС) предприятия. Как и в случае человека, ИС предприятия поддерживает работу не только самого предприятия, но и коммуникации с клиентами, партнерами и т.п. Как и мозг человека, предприятие имеет сложную инфраструктуру, работающую с использованием локальных и глобальных вычислительных сетей, серверов и сетевых операционных систем, систем управления данными.

Данные и вычислительное оборудование обычно похожи у разных предприятий, и не позволяют в общем случае объяснить, для каких бизнес целей они служат. При этом в случае выхода из строя оборудования или программного обеспечения какие-то конкретно функции ИС для бизнеса пропадают. Это напоминает исследования человеческого мозга, когда нельзя непосредственно сказать как мозг осуществляет те или иные функции интеллекта, но при удалении части мозга, пропадают определенные функциональности, и можно делать утверждении о части мозга задействованных в реализации данных функций. Сложная зависимость говорит о том, что в обоих случаях (и интеллекта человека, и ИС предприятия) системы многоуровневые.

В корпоративных информационных технологиях построение информационной системы на основе многоуровневых моделей получило название архитектурного подхода. Впервые данный подход предложил Джон Захман в своей статье 1987 года2, тогда он работал в компании

1Peeters M. et al. Hybrid collective intelligence in a human–AI society. AI & SOCIETY, Volume 36, p. 217–238.

2Zachman J. A framework for information systems architecture. IBM Systems Journal, 1987, 26(3), pp. 276-292.

253

IBM, для планирования бизнес-систем. Слово «архитектура» он использовал по аналогии со зданием для демонстрации уровневого подхода. К настоящему времени архитектурный подход стал одним из самых распространенных подходов для построения ИС предприятий. Существует большое число фреймворков для разного типа предприятий (государственных, частных). Одним из наиболее известных архитектурных фреймворков является фреймворк TOGAF1, который развивает The Open Group. Имеется даже специальный открытый инструмент для моделирования архитектур ArchiMate, который был использован и в настоящей статье.

Для моделирования Общего ИИ мы будем использовать три слоя и пять уровней (по два на нижних двух уровнях) – см. Рис. 5-1. Нижний слой будет отвечать за технологии, используемые интеллектом, как искусственным, так и человеческим, для обеспечения своей деятельности. Второй слой за функциональность, связанную с внешними отношениями, и третий слой – непосредственно за деятельность самого интеллекта. Таким образом будут учтены как технологические задачи, так и социальные задачи. Разделение нижних двух слоев на два уровня позволит выстроить несколько иерархий: от самой простой до сложной.

Технологический слой целесообразно разделить на два уровня: энтропийный и процессный. Энтропийный уровень присущ всем живым системам, даже самым простейшим. Этот же уровень является необходимым элементом любой вычислительной системы, в том числе и ИИ. Основная функция задач, решаемых на этом уровне – снижать энтропию за счет использования энергии. Энтропия всегда повышается в закрытых системах, но в случае притока второй закон термодинамики не работает. Однако, чтобы организовать снижение энтропии, необходимо создать соответствующие инфраструктуру. Именно это делают все живые организмы, и это же делает вычислительная инфраструктура – не случайно формула для информации в кибернетике с обратным знаком равна энтропие. Надо понимать, что под информацией в кибернетике имеются в виду данные, имеющие носителем физические среды, подчиняющиеся физическим законам. Информация в человеческих коммуникациях имеет социальную природу, и учитывает человеческие отношения (см. ниже).

1 https://publications.opengroup.org/standards/togaf/specifications/c220 - дата обращения 16.09.2022

254

Рис. 5-1. Слои и уровни модели AGI.

Следующий уровень на технологическом слое отвечает за реализацию процессов, т.е. активности организма. Если же на этом уровне реализуются элементарные процессы, связанные с интеллектуальной деятельностью, помимо поддержки процессов на этом уровне должны реализовываться задачи, связанные с распознаванием и предсказанием. Правда, для этого понадобится на более низком уровне (энтропийном) разместить задачи, которые обычно решают нейросети. В природе память и нейросеть реализованы вместе, в вычислительном оборудовании они реализуются, как правило, раздельно. Технологический слой, содержащий два нижних уровня, фактически представляет собой слабый ИИ, т.е. не интеллект, а технологическую основу для интеллекта.

5.4.2 Социальный слой и субъектность

На третьем уровне реализуется социальная сущность интеллекта1. Это как раз та сущность, без которой ИИ не может получить субъектность. На этом уровне интеллект выстраивает отношения с себе подобными: семейные отношения (которые во многом определены

1 Sloman S., Fernbach P. The Knowledge Illusion: Why We Never Think Alone. New York: Riverhead Books.

255

алгоритмами, реализованные на процессном уровне), иерархии, обмен простой информацией.

Очень важно при моделировании коммуникаций соблюдать свойство субъектности. Современный компьютер позволяет поддерживать множественность коммуникаций, общаясь одновременно с большим числом участников. Фактически компьютер имитирует в такой ситуации сразу много компьютеров, которые просто используют общий технологический слой. В природе живые организмы, включая людей, способны в полную меру общаться в данный момент времени только с одним субъектом.

Это не является упущением или ограничением, это – условие субъектности, ограниченности субъекта. Допустим у нас есть человек, производительность труда которого в два раза выше, чем у других. Если бы мы измеряли человека по производительности (аналогично – по целям, по мотивациям, и т.п.), он бы не отличался от двух людей. Но это не так, человек может быть сколько угодно производителен, но время на коммуникации у него ограничено. Именно поэтому в семейных отношениях число участников невелико, невозможно устанавливать близкие отношения, если на это нет временного ресурса.

При разработке ИИ необходимо учитывать, что коммуникации с другими интеллектуальными организмами (живыми или искусственными) должны занимать все внимание интеллекта. Интеллект должен как бы проживать время вместе с другими интеллектами, только так он с одной стороны становится социальным, а с другой – обретает субъектность, отличие от других субъектов. Даже в одиночестве интеллект коммуницирует с другими, изображая их в своем сознании.

Три нижних уровня полностью моделируют поведение живых существ. Для высших животных на третьем уровне реализуется задача обучения, когда за счет коммуникаций, интеллект получает новые знания, приобретенные другим субъектом. На Рис. 5-2. показана архитектурная модель интеллекта высших животных, ведущих социальную жизнь. Она состоит из трех уровней, энтропийном, процессном и социальном.

Многие процессы у животных (например, создание семьи) реализованы на генетическом уровне. В модели это описывают алгоритмы. Реализация алгоритмов в свою очередь требует наличие памяти, органов чувств (In-Out), энергии. Задачи распознавания и предсказания требуют работы нейронной сети, и также органов чувств. Именно эти инструменты позволяют животному выстраивать иерархии, обучать и обучаться.

В случае человеческого интеллекта на слое отношений появляется еще один уровень – информационный, на котором реализуются

256

языковые возможности интеллекта. Под информацией имеется в виду не кибернетическая информация, связанная с энтропией, а информация, связанная с общением между людьми. Такая информация имеет следующие характеристики: актуальность, своевременность, точность и т.п.

Рис. 5-2. Архитектурная модель интеллекта высших животных.

Язык является инструментом общения, коммуникаций. Но нельзя забывать, что сам язык является результатом общения и договоренностей субъектов. Выготский, анализируя отношение речи и мышления1, писал, что значение слова соответствует понятию и обобщению. Язык, состоящий из слов, таким образом, представляет собой систему понятий и обобщений, выработанных в результате совместной деятельности субъектов.

Современные чат-боты умеют разговаривать подобно людям, но это является всего лишь имитацией использования языка. Чтобы интеллект реально использовал язык для общения, он должен находиться в деятельностных отношениях с другими субъектами, не просто разговаривать, а обсуждать те или иные действия. Причем, как уже говорилось, должно выполняться требование субъектности, когда субъект общается в основном только с одним субъектом.

Символы, из которых состоят слова, или которые заменяют слова, представляют собой еще большую абстракцию. И это тоже должно стать предметом договоренности между субъектами интеллектуальной деятельности. Так же как понятия и определения. Глоссарий слов, терминов, определений и т.п. должен не просто храниться в памяти интеллекта, он должен все время верифицироваться деятельностью.

1 Выгодский Л. Мышление и речь. M.: Лабиринт.

257

5.4.3 Актуализация искусственного интеллекта

Деятельность совместная с другими субъектами является важнейшей составляющей интеллекта. Слой отношений фактически является слоем приложений для внешних коммуникаций и внешней деятельности. Можно три слоя модели Общего ИИ рассматривать как диалектическую триаду: технологический слой – это внутреннее состояние интеллекта, слой отношений – внешние коммуникаций, а верхний слой актуализации – внутреннее состояние, но познанное через совместную деятельность.

Аналогия с ИС предприятия сохраняется. ИТ инфраструктура позволяет предприятию поддерживать внутреннее содержание ИС. Слой приложений позволяет сотрудникам организации общаться между собой, с клиентами и партнерами. А бизнес-слой реализует стратегию и особенности развития организации.

Вслучае AIG на верхнем слое актуализации интеллект реализует свои стратегические целевые установки, формирует знания, которые ему необходимы для самореализации. Поскольку задачи на этом слое связаны со слоем отношений, именно здесь формируются родовые понятия и этики. И именно на этом слое интеллект проводит самоидентификацию, т.е. понимает свое место в мире.

Впоследнее время очень много говорится о субъектности ИИ, об этичности его использования и морали1. Если речь идет о слабом ИИ, т.е. только о технологиях, вопросы этики морали нельзя адресовать компьютеру, поскольку он не обладает субъектностью. Но если говорить об Общем ИИ, который встроен в социум, вопросы этики и морали становятся уместными, а ИИ получает субъектность.

На рисунке 5-3. показана модель AIG с составляющими, и связями между ними. Энтропийный уровень позволяет реализовать задачи на уровне процессов и социальном уровне. Процессный уровень обеспечивает социальную деятельность интеллекта, которая в свою очередь обеспечивает информационный уровень и уровень актуализации.

Субъектность интеллекта реализуется на социальном уровне как требование выделение большей части времени на коммуникации типа peer-to-peer. Актуализация, понимание субъектом его родового назначения, реализуется на верхнем уровне. И здесь также возникает особое требование, которой пока представляется гипотезой, и требует

1 Славин Б. Может ли искусственный интеллект быть справедливым. БИТ, 2020, 113(10),

С. 32-35.

258

дальнейшей верификации. Это особенность связана с ограниченным времени жизни интеллекта.

Человеческая жизнь – конечна, но жизнь человеческого рода – бесконечна (относительно времени человеческой жизни). Именно поэтому жизнь смертного человека можно воспринимать как инструмент преодоления смерти, но для рода в целом. По всей видимости, если бы человек был бессмертен, то и понятие рода бы отсутствовало. Конечность жизни человека делает его жизнь осмысленной, и является составной частью его актуализации.

Рис. 5-3. Общая модель AGI со связями.

Аналогичная ситуация касается и предприятий, которые имеют конечный по времени жизненный цикл внутри бессмертного (по меркам времени их жизни) рынка. И именно ограниченность во времени и риск погибнуть в конкурентной борьбе, делает осмысленными бизнес-задачи, которые ставятся перед предприятиями.

Если гипотеза о важности смертной природы человека верна, значит и модель AGI должна иметь конечный по времени цикл жизни. Т.е. Общий ИИ как целое – это не процесс, а проект, с временем жизни, и с

259

набором стратегических задач, которые возможно интеллект сам вырабатывает. По крайней мере это является следствием архитектурного подхода.

5.4.4. Выводы

Безусловно, аналогия между интеллектом и информационной системой предприятия сама по себе не может быть подтверждением правильности выбора модели Общего ИИ. Однако, если архитектурный подход воспринимать как общесистемный подход на основе многоуровневости, и применить его к построению моделей, где причинно-следственные связи не являются прямыми, тогда его использование вполне обосновано.

Вработе предлагается выделить пять уровней, расположенных на трех слоях. Три слоя – это минимально возможное разделение для многоуровневой модели общего интеллекта, где на первом слое реализуется внутренняя инфраструктура, на среднем слое внешние отношения, а на верхнем уровне реализуются стратегические цели, которые учитывают внутренние возможности и внешние ограничения.

Число уровней выбиралось из соображений того, чтобы учесть различный тип задач (например, отдельный уровень для языковых задач), добиться связности снизу вверх. Однако надо понимать, как и в любой классификации и число уровней, и правильность их расположения достаточно условно. Возможны взаимосвязи на одном уровне, и даже связи, направленные сверх вниз. Но такие аномалии должны быть редки.

Врамках построения модели AGI на основе архитектурного подхода было выявлено два важных требования, одно из которых представляется

ввиде гипотезы, и требует дальнейшего исследования.

Первое требование связано с субъектностью, и предполагает, что отношения ИИ с себе подобными, или людьми должны занимать основную часть деятельности интеллекта. Если вычислительный комплекс поддерживает большое число коммуникаций, это скорее всего означает, что создано такое же число возможных субъектов, которые надо социализировать по отдельности.

Второе требование связано с самоидентификацией Общего ИИ как части интеллектуального социума. Гипотеза предполагает, что Общий ИИ должен иметь конечный жизненный цикл, что станет сильной мотивации к разработке стратегии жизни такого интеллекта, и приблизит его к человеческому интеллекту.

260