Представления знаний в информационных системах

59.Дайте определение отношения правдоподобия конкурирующих ги- потез.

60.Охарактеризуйте понятие функции принадлежности.

61.Опишите операции над нечеткими множествами.

62.Охарактеризуйте нечеткие правила вывода в ЭС.

63.Приведите способы суперпозиции функций принадлежности нечет- ких множеств.

64.Опишите понятие дефазификации нечеткого множества.

65.Охарактеризуйте задачи, для решения которых применяется генети- ческий алгоритм.

66.В чем заключаются отличия генетических алгоритмов от традици- онных методов?

67.Приведите блок-схему работы генетического алгоритма.

68.Охарактеризуйте понятия целочисленного и вещественного кодиро- вания.

69.Каким образом осуществляется оценивание особей в популяции?

70.Опишите способы селекции.

71.Охарактеризуйте принцип работы одноточечного, двухточечного и однородного операторов кроссинговера для целочисленного кодиро- вания.

72.Опишите принцип работы двухточечного, арифметического и BLX-α операторов кроссинговера для вещественного кодирования.

73.Охарактеризуйте понятие разрушающей способности кроссингове- ра.

74.Опишите процесс формирования нового поколения.

75.Охарактеризуйте принципы работы оператора мутации для целочис- ленного и вещественного кодирования.

76.Каким образом осуществляется настройка параметров генетического алгоритма?

77.Охарактеризуйте канонический генетический алгоритм.

78.Опишите варианты реализации компонентов генетического алго- ритма.

79.Охарактеризуйте биологические нейронные сети.

80.Приведите блок-схему функционирования формального нейрона.

81.Охарактеризуйте функции активации нейрона.

82.Опишите наиболее распространенные топологии искусственных нейронных сетей.

83.Какими преимуществами обладают искусственные нейронные сети по сравнению с другими методами?

84.Охарактеризуйте процесс обучения искусственных нейронных сетей прямого распространения

151

85.Опишите алгоритм обратного распространения ошибки.

86.Приведите вид разделяющей поверхности для нейрона, реализую- щего логическую операцию «ИЛИ».

87.Опишите особенности радиально-базисных функций активации.

88.Приведите вид разделяющих поверхностей для нейронов с порого- вой и радиальной функциями активации.

89.Охарактеризуйте особенности программной реализации многослой- ной искусственной нейронной сети с использованием объектно- ориентированного подхода.

90.Охарактеризуйте особенности программной реализации многослой-

ной искусственной нейронной сети с использованием структурного подхода.

ПРИЛОЖЕНИЕ 2

Темы рефератов и индивидуальных заданий

Темы рефератов

1.Эволюционное программирование (evolutionary programming).

2.Генетическое программирование (genetic programming).

3.Эволюционные стратегии (evolution strategies).

4.Меметичные алгоритмы (memetic algorithms).

5.Алгоритм дифференциальной эволюции (differential evolution).

6.Алгоритмы оценки распределений (estimation of distribution algorithms).

7.Алгоритмы ройной оптимизации (particles swarm optimization).

8.Системы обучающихся классификаторов (learning classifiers systems)

9.Адаптация параметров в эволюционных алгоритмах.

10.Интеллектуальная обработка изображений

11.Методы распознавания образов.

12.Обработка изображений на основе применения клеточных автома- тов.

13.Применение теории графов для обработки изображений и распозна- вания образов.

14.Методы масштабирования изображений.

15.Методы распознавания лиц.

16.Методы построения трехмерных изображений объектов по их дву- мерным изображениям.

17.Методы сегментации изображений.

152

11.http://groups.csail.mit.edu/medg/ftp/psz/k-rep.html – Представление знаний.

12.http://www.blackwellpublishing.com/journal.asp?ref=0266-4720&site=1

– Экспертные системы. Expert Systems. The Journal of Knowledge Engineering.

154

СПИСОК ЛИТЕРАТУРЫ

1.Гаврилова Т.А. , Хорошевский В.Ф. Базы знаний интеллектуальных систем. – Санкт-Петербург: Питер, 2000. – 382 с.

2.Корнеев В.В., Гареев А.Ф., Васютин С.В., Райх В.В. Базы данных. Интеллектуальная обработка информации. – М.: Нолидж, 2000. – 352 с.

3.Змитрович А.И. Интеллектуальные информационные системы. – Минск: Тетра Системс, 1997. – 367 с.

4.Таунсенд К., Фохт Д. Проектирование и программная реализация экспертных систем на персональных ЭВМ / пер. с англ. – М.: Финан- сы и статистика, 1990. – 320 с.

5.Искусственный интеллект: Кн. 1. Системы общения и экспертные системы. Справочник / под ред. Э.В. Попова. – М.: Радио и связь, 1990. – 464 с.

6.Джарратано Д., Райли Г. Экспертные системы: принципы разработки

и программирования / пер. с англ. – М.: Издательский дом “Виль-

ямс”, 2007. – 1152 c.

7. Gruber T.R. A translation approach to portable ontology specification

// Knowledge Acquisition. – 1993. – No. 5. – P. 199-220.

8.Дюк В., Самойленко А. Data Mining. – Санкт-Петербург: Питер, 2001. – 368 с.

9.Люгер Д.Ф. Искусственный интеллект: стратегии и методы решения сложных проблем. – М.: Издательский дом “Вильямс”, 2003. – 864 c.

10.Марселлус Д. Программирование экспертных систем на Турбо Про- логе / пер. с англ. – М.: Финансы и статистика, 1994. – 256 c.

11.Осуга С. Обработка знаний / пер. с японск. – М.: Мир, 1989. – 293 с.

12.Попов Э.В. Экспертные системы. – М.: Наука, 1987. – 288 с.

13.Спицын В.Г. Базы знаний и экспертные системы. – Томск: Изд.

ТПУ, 2001. – 88 c.

14.Экспертные системы. Принцип работы и примеры / под ред. Р. Фор- сайда; пер.с англ. – M.: Радио и связь, 1987. – 221 c.

15.Джексон П. Введение в экспертные системы / пер. с англ. – М.: Из- дательский дом “Вильямс”, 2001. – 624 c.

16.Гаврилов А.В. Гибридные интеллектуальные системы. – Новоси- бирск: Изд-во НГТУ, 2003. – 164 с.

17.Цой Ю.Р., Спицын В.Г. Применение искусственных нейронных се- тей для решения задач классификации и аппроксимации функций. –

Томск: Изд. ТПУ, 2003. – 21 c.

155

18.McCulloh W.S., Pitts W.H. A logical calculus of ideas immanent in nervous activity // Bull. Math. Biophysics. – 1943. – Vol.5. – P. 115–119.

19.Куффлер С.В., Николс Дж.Г. От нейрона к мозгу. – М: Мир. 1978. – 439 c.

20.Каллан Р. Основные концепции нейронных сетей: пер. с англ. – М.: Издательский дом «Вильямс», 2001. – 288 с.

21.Осовский С. Нейронные сети для обработки информации. М.: Фи- нансы и статистика, 2002. – 344 с.

22.Спицын В.Г., Цой Ю.Р. Применение генетического алгоритма для аппроксимации функций. – Томск: Изд. ТПУ, 2002. – 23 c.

23.Редько В.Г. Эволюционная кибернетика. М. – Наука, 2003. – 156 с.

24.Бурцев М.С. Эволюция кооперации в многоагентной системе // На- учная сессия МИФИ–2005. VII Всероссийская научно-практическая конференция "Нейроинформатика-2005": Сборник научных трудов.

В 2-х частях. Ч. 1. М.: МИФИ, 2005 – с. 217–224.

25.Beyer H.-G., Schwefel H.-P., Wegener I. How to analyse Evolutionary Algorithms. Technical Report No.CI-139/02. – University of Dortmund, Germany, 2002.

26.Holland J.H. Adaptation in Natural and Arti cial Systems. The University of Michigan Press, 1975.

27.Емельянов В.В., Курейчик В.В., Курейчик В.М. Теория и практика эволюционного моделирования. – М.: ФИЗМАТЛИТ, 2003. – 432 c.

28.Фогель Л., Оуэнс А., Уолш М. Искусственный интеллект и эволю- ционное моделирование. М.: Мир, 1969. – 230 с.

29.Rechenberg I. Evolutionsstrategie: Optimierung Technischer Systeme nach Prinzipien der Biologischen Evolution. Werkstatt Bionik und Evolutionstechnik, Stuttgart: Frommann-Holzboog, 1973.

30.Schwefel H.-P. Numerische Optimierung von Computer-Modellen mittels der Evolutionsstrategie // Interdisciplinary Systems Research: – 1977.

– Vol. 26.

31.Koza J. Genetic programming: a paradigm for genetically breeding computer population of computer programs to solve problems. MIT Press, Cambridge, MA, 1992.

32.Whitley D.L. Genetic Algorithms and Evolutionary Computing. Van Nostrand's Scientific Encyclopedia 2002.

33.Heitkotter J., Beasly D. The Hitch-Hiker’s Guide to Evolutionary Computation: A List of Frequently Asked Questions (FAQ). ftp://rtfm.mit.edu:/pub/usenet/news.answers/ai-faq/genetшс/.

34.De Jong K. An analysis of the behavior of a class of genetic adaptive systems. Doctoral dissertation. – University of Michigan, Ann Arbor. – University Microfilms No. 76-9381. – 1975.

156

35. Gamma E., Helm R., Johnson R., Vlissides J. Design Patterns: Elements of Reusable Object-Oriented Software, Massachusetts: Addison-Wesley, 1995.

36.Гладков Л.А., Курейчик В.В., Курейчик В.М. Генетические алгорит- мы / Под ред. В.М. Курейчика. – 2-е изд., испр. и доп. – М.: Физмат-

лит, 2006. – 320 с.

37.Turing A. M. Computing machinery and intelligence // Mind, 1950, vol. 236, no. 59.

38.Хайкин С. Нейронные сети: полный курс, 2-е издание. М.: Издатель- ский дом «Вильямс», 2006.

39.Горбань А.Н. Обобщенная аппроксимационная теорема и вычисли- тельные возможности нейронных сетей // Сибирский журнал вычис- лительной математики.– 1998. – Т. 1, № 1. – С. 12-24.

40. Цой Ю.Р., Спицын В.Г. Эволюционный подход к настройке и обучению искусственных нейронных сетей // Нейроинформатика.

– 2006. – Т. 1. – № 1 – C. 34–61. (http://www.ni.iont.ru/Journal/).

41.Цой Ю.Р., Спицын В.Г. Нейроэволюционный подход // Нейроком- пьютеры: разработка и применение. – 2005. – № 6. – C. 15–25.

42.Tsoy Yu.R., Spitsyn V.G. Using genetic algorithm with adaptive mutation mechanism for neural networks design and training // Optical memory and neural networks, (Information Optics). – 2004. – Т. 13. – No. 4. – P. 225–232.

43.Цой Ю.Р., Спицын В.Г., Чернявский А.В. Нейроэволюционное улучшение качества изображений // Сборник научных трудов VIII Всероссийской научно-технической конференции “НЕЙРОИНФОР-

МАТИКА–2006”. – М.: Изд. МИФИ, 2006. – Т. 1. – С. 181–189.

44.Цой Ю.Р., Спицын В.Г. Исследование генетического алгоритма с динамически изменяемым размером популяции // Труды Междуна- родной научно-технической конференции “Интеллектуальные сис- темы (IEEE AIS’05)”. Научное издание. М.: Изд. физико- математической литературы, 2005. – С. 241–246.

45.Цой Ю.Р., Спицын В.Г. Применение генетического алгоритма для решения задачи адаптивного нейроуправления // Сборник научных трудов VII Всероссийской научно-технической конференции “НЕЙРОИНФОРМАТИКА–2005”. – М.: Изд. МИФИ, 2005. – Т. 1. – C. 35–43.

46.Цой Ю.Р., Спицын В.Г. К выбору размера популяции // Труды Меж- дународной научно-технической конференции “Интеллектуальные системы (IEEE AIS’04)”. Научное издание. М.: Изд-во физико- математической литературы. 2004. – Т. 1. – С. 90–96.

157

ОГЛАВЛЕНИЕ

ВВЕДЕНИЕ …………………………………………………………………………….. 3

ГЛАВА 1. СИСТЕМЫ, ОСНОВАННЫЕ НА ЗНАНИЯХ ………………………… 3

1.1.История создания искусственного интеллекта ……………………... 3

1.2.Процесс мышления ……………………………………………………... 5

1.3.Основные понятия и классификация систем, основанных на знаниях ……………………………………………………………………….. 8

1.4.Экспертные системы как элемент искусственного интеллекта … 11

1.5.Теоретические аспекты извлечения знаний ……………………….. 16

1.6.Коммуникативные методы извлечения знаний …………………… 19

1.7.Текстологические методы извлечения знаний …………………….. 26

ГЛАВА 2. МОДЕЛИ ПРЕДСТАВЛЕНИЯ ЗНАНИЙ …………………………….. 29

2.1.Представление знаний и выводы в экспертных системах ……….. 29

2.2.Модель представления знаний средствами ………………………… 30 логики предикатов первого порядка …………………………………….. 30

2.3.Представление знаний продукционными правилами ……………. 36

2.4.Модель представления знаний в виде фреймов …………………… 39

2.5.Представление знаний в виде семантической сети ……………….. 42

2.6.Модель доски объявлений ……………………………………………. 45

2.7.Модель представления знаний в виде сценария ………………….. 47

ГЛАВА 3. АРХИТЕКТУРА И ТЕХНОЛОГИЯ РАЗРАБОТКИ ЭКСПЕРТНЫХ СИСТЕМ ……………………………………………………………………………… 50

3.1.Основные положения …………………………………………………. 50

3.2.Технология разработки экспертной системы ……………………… 52

3.3.Механизм вывода (интерпретатор правил) ………………………... 56

3.4.Взаимодействие пользователей с экспертной системой ………….. 60

3.5.Подсистема анализа и синтеза сообщений …………………………. 63

3.6.Морфологический анализ входных сообщений …………………… 66

3.7.Синтаксический анализ входных сообщений ……………………... 68

3.8.Семантический анализ входных сообщений ………………………. 71

3.9.Синтез выходных сообщений ………………………………………... 72

3.10.Диалоговая подсистема ……………………………………………… 74

3.11.Объяснительные способности ЭС ………………………………….. 76

ГЛАВА 4. ПРИМЕНЕНИЕ НЕЧЕТКОЙ ЛОГИКИ В ЭКСПЕРТНЫХ СИСТЕМАХ …………………………………………………………………………... 81

4.1.Предпосылки возникновения нечеткой логики …………………… 81

4.2.Нечеткая логика ……………………………………………………….. 82

4.3.Нечеткие подмножества ………………………………………………. 88

4.4.Нечеткие правила вывода в экспертных системах ……………….. 91

4.5.Задания для разработки экспертных систем ………………………. 94

158

ГЛАВА 5. ГЕНЕТИЧЕСКИЙ АЛГОРИТМ …………………………………….... 96

5.1.Предисловие ……………………………………………………………. 96

5.2.Генетический алгоритм ………………………………………………. 97

5.3.Параметры и этапы генетического алгоритма ……………………. 99

5.3.1.Кодирование информации и формирование популяции ………… 99

5.3.2.Оценивание популяции ……………………………………………. 101

5.3.3.Селекция ……………………………………………………………. 102

5.3.4.Скрещивание и формирование нового поколения ………………. 102

7.3.5.Мутация …………………………………………………………….. 107

5.4.Настройка параметров генетического алгоритма ……………….. 108

5.5.Канонический генетический алгоритм ……………………………. 110

5.6.Пример работы и анализа генетического алгоритма ……………. 110

5.7.Общие рекомендации к программной реализации

генетического алгоритма ………………………………………………… 116 5.8. Задания для лабораторных работ …………………………………... 118

ГЛАВА 6. ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ ………………………... 119

6.1.Биологические нейронные сети …………………………………….. 119

6.2.Формальный нейрон …………………………………………………. 120

6.3Нейронные сети ………………………………………………………... 122

6.4.Обучение ИНС ………………………………………………………… 126

8.5.Алгоритм обратного распространения ошибки ………………….. 129

6.6.Работа нейронной сети ………………………………………………. 131

6.7.Пример работы и обучения нейронной сети ……………………… 136

6.8.Программная реализация …………………………………………… 141

6.9.Задания для лабораторных работ ………………………………….. 145

ЗАКЛЮЧЕНИЕ …………………………………………………………………….. 148 ПРИЛОЖЕНИЕ 1. КОНТРОЛЬНЫЕ ВОПРОСЫ ……………………………………... 149

ПРИЛОЖЕНИЕ 2. ТЕМЫ РЕФЕРАТОВ И ИНДИВИДУАЛЬНЫХ ЗАДАНИЙ ………….... 152

ПРИЛОЖЕНИЕ 3. РЕСУРСЫ В СЕТИ ИНТЕРНЕТ ……………………...................... 153 СПИСОК ЛИТЕРАТУРЫ ………………………………………………………… 155

159