550 Глава 14. Заключение
Рассмотрим,.например,.задачу.определения.параметров.запуска.ракеты,.которая. должна.сесть.на.Луну..Если.для.ее.решения.использовать.глубокую.сеть.и.обучить. ее,.применив.подход.контролируемого.обучения.или.обучения.с.подкреплением,. вам.придется.накопить.результаты.тысяч.или.даже.миллионов.пробных.пусков:.вы. должны.будете.передать.сети.плотную выборку.из.входного.пространства,.чтобы. обучить.ее.надежно.отображать.входное.пространство.в.выходное..Мы,.будучи. людьми,.напротив,.можем.использовать.нашу.способность.к.обобщению.и.при- думать.физические.модели.—.науку.о.ракетах,.—.чтобы.получить.точное.решение,. которое.поможет.посадить.ракету.на.Луну.после.одной.или.нескольких.попыток.. Аналогично,.если.вы.решите.создать.глубокую.сеть.для.управления.человеческим. телом.и.пожелаете.обучить.ее.безопасно.перемещаться.по.городу,.не.попадая.под. автомобили,.вашей.сети.придется.пройти.через.много.тысяч.разных.гибельных. ситуаций,.пока.она.не.научится.делать.вывод.о.том,.что.автомобили.опасны,.и.выработает.соответствующее.поведение.уклонения..Однако.при.попадании.в.другой. город.сети.придется.забыть.большую.часть.того,.что.она.уже.изучила,.и.переучиваться.заново..Люди,.напротив,.способны.обучаться.правилам.безопасного. поведения,.не.переживая.фатального.конца.ни.разу,.—.и.снова.благодаря.своей. способности.абстрактного.моделирования.гипотетических.ситуаций.
14.2.4. Назначение интеллекта
Это.различие.между.легко.адаптируемыми.носителями.интеллекта.и.бездушны- ми.автоматами.возвращает.нас.к.эволюции.мозга..Почему.мозг.—.первоначально. простой.инструмент.эволюции,.предназначенный.для.развития.поведенческих. автоматов,.—.в.конце.концов.обрел.разум?.Как.и.многое.другое.в.эволюции,.это. произошло.благодаря.ограничениям.естественного.отбора.
Мозг.отвечает.за.формирование.поведения..Если.бы.набор.ситуаций,.с.которыми. приходится.сталкиваться.организму,.был.преимущественно.статичен.и.известен. заранее,.то.выбор.модели.поведения.был.бы.простой.задачей:.эволюция.просто. определила.бы.правильный.вариант.путем.проб.и.ошибок.и.жестко.закодировала. его.в.ДНК..Первая.стадия.эволюции.мозга.—.мозг.как.автомат.—.уже.была.бы. для.этого.оптимальной..Тем.не.менее.сложность.организма.—.а.вместе.с.ним. и.сложность.окружающей.среды.—.продолжала.возрастать,.и.ситуации,.с.кото- рыми.приходилось.иметь.дело.животным,.становились.все.более.динамичными.и.непредсказуемыми..Посмотрите.внимательно:.любой.день.вашей.жизни. не.похож.ни.на.какой.другой,.прожитый.вами.или.вашими.эволюционными. предками..Вы.постоянно.оказываетесь.в.новых,.неожиданных.ситуациях..Эволюция.не.может.предугадать.и.сохранить.для.вас.последовательность.действий,. которую.вы.должны.выполнять,.чтобы.успешно.пройти.через.очередной.день..
Эта.последовательность.постоянно.должна.генерироваться.на.лету.
В.итоге.мозг,.будучи.инструментом.формирования.поведенческих.реакций,. принял.во.внимание.эту.необходимость.и.оптимизировался.для.адаптации,.а.не.
14.2. Ограничения глубокого обучения 551
для.приспособления.к.фиксированному.набору.ситуаций..Вероятно,.данный. сдвиг.происходил.много.раз.на.протяжении.всей.эволюции,.что.приводило.к.появлению.высокоорганизованных.животных.в.очень.отдаленных.эволюционных. ветвях.—.человекообразных.обезьян,.осьминогов,.воронов.и.других..Интеллект.—. это.ответ.на.неожиданности,.возникающие.в.сложных,.динамичных.экосистемах.
Такова.природа.интеллекта:.это.замечательная.способность.эффективно.использовать.имеющуюся.информацию.для.успешного.выхода.из.сложных,.постоянно. меняющихся.ситуаций..То,.что.Декарт.называет.пониманием,.является.ключом. к.ней:.это.способность.применить.свой.прошлый.опыт.в.выработке.универсальных.абстракций,.которые.можно.быстро.адаптировать.под.новое.окружение. и.достигнуть.экстремального.обобщения.
14.2.5. Восхождение по спектру обобщения
Историю.эволюции.биологического.интеллекта.в.упрощенном.виде.можно. представить.как.медленное.движение.вверх.по.спектру обобщения..Все.началось. с.мозга,.похожего.на.автомат,.которому.под.силу.было.только.локальное.обобщение..Со.временем.эволюция.привела.к.появлению.организмов,.способных.к.более. широкому.обобщению.и.существованию.во.все.более.сложных.и.изменчивых. условиях..Наконец,.в.последние.несколько.миллионов.лет.—.мгновение.с.точки. зрения.эволюции.—.у.некоторых.видов.гоминидов.выработалась.склонность. к.развитию.биологического.интеллекта,.способного.к.экстремальным.обобщениям,.что.ускорило.начало.антропоцена.и.навсегда.изменило.историю.жизни. на.Земле.
Развитие.ИИ.в.последние.70.лет.поразительно.напоминает.эволюцию..Первые. системы.ИИ.были.чистыми.автоматами,.как,.например,.программа.виртуального. собеседника.ELIZA,.написанная.в.1960-х.годах,.или.SHRDLU1 .—.ИИ.1970-х,. способный.манипулировать.простыми.объектами,.следуя.командам.на.естествен- ном.языке..В.1990-х.и.2000-х.годах.появились.системы.машинного.обучения,. способные.к.локальному.обобщению.и.успешно.справляющиеся.с.некоторым. уровнем.неопределенности.и.новизны..В.2010-х.годах.способности.глубокого.об- учения.к.локальному.обобщению.выросли.еще.больше.и.позволили.инженерам. использовать.намного.большие.наборы.данных.и.более.выразительные.модели.
В.настоящее.время.мы.можем.оказаться.на.пороге.следующего.эволюционного. шага..Растет.интерес.к.системам,.способным.достичь.широкого.обобщения,. которое.я.определяю.как.умение.иметь.дело.с.неизвестными.неизвестными2 .
1. Winograd T..Procedures.as.a.Representation.for.Data.in.a.Computer.Program.for.Under standing.Natural.Language..1971.
2. Отсылка.на.цитату.Дональда.Рамсфельда:.https://ru.citaty.net/tsitaty/651068-donald- ramsfeld-est-izvestnye-izvestnye-veshchi-o-kotorykh-my-zn/..—.Примеч. пер.