Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд

Рисунок 2.4: Хьюбел и Визель знали, что зрительные нейроны активируются выше базового уровня, когда световое пятно попадает в центр их рецептивного поля; остаются на базовом уровне, когда пятно находится вне поля; активируются ниже базового уровня, когда пятно смещено от центра, но все еще находится в пределах рецептивного поля

Они с энтузиазмом взялись за дело. Их научная работа напоминала приключения двух мальчишек, увлеченно собирающих робота в гараже. Зрительные стимулы для кошек они мастерили из картона, наклеивали на слайды и показывали через слайд-проектор. Вместо экрана натянули простыню на потолочные трубы, отчего лаборатория стала похожа на цирковой шатер. Когда они впервые обрабатывали кошку формальдегидом, то случайно устроили друг другу химический душ – и это показалось им безумно смешным.

План состоял в том, чтобы показывать кошке различные стимулы (от греческого stimulus – так нейробиологи называют входной сигнал), предварительно введя электрод в участок мозга, обрабатывающий зрительную информацию (рисунок 2.5). Электрод обладал достаточной чувствительностью для регистрации потенциалов действия отдельных нейронов. Если в мозге кошки найдется нейрон, реагирующий на конкретный стимул, рано или поздно электрод его обнаружит.

Рисунок 2.5. Случайно обнаружив детекторы границ, Хьюбел и Визель приступили к их систематическому изучению, записывая потенциалы действия нейронов зрительной коры кошек

План был смелым, но у них почти не было опыта в записи активности отдельных клеток. Они знали нейробиолога Вернона Маунткасла, на счету которого были сотни таких записей. «Мы понимали, что нам его не догнать, поэтому сразу завоевали уважение к себе, пронумеровав свою первую клетку как № 3000, и продолжили счет оттуда», – вспоминали они позже. План сработал. «Наша серия произвела впечатление на Вернона».

Единственная загвоздка заключалась в том, что, какие бы стимулы они ни предъявляли кошке, регистрируемые нейроны упорно молчали, оставаясь на базовом уровне активности. Они пробовали разные комбинации точек. Безрезультатно. Использовали изображения, которые могли бы заинтересовать кошку, – никакого ответа. В полном отчаянии они даже пытались танцевать перед животным. Бесполезно. Нейроны не проявляли ни малейшего интереса.

Но вот однажды, работая с очередным нейроном, они меняли слайд в проекторе – и все изменилось. Нейрон вдруг взорвался активностью: щелчок, щелчок, щелчок – один за другим! Реагировал он не на содержание слайда. Нейрон откликался на линию, образованную границей слайда. Свершилось знаменательное событие в истории науки: Хьюбел и Визель открыли нейрон, реагирующий на изображение прямой линии под определенным углом – тем самым углом, под которым проецировалась граница слайда. Они выбежали в коридор, крича от восторга.

Вопрос, разумеется, заключался в том, как же этот нейрон умудряется распознавать прямую линию. Он не реагировал на точку, не реагировал на линии под большинством углов, но стоило предъявить линию с его «любимой» ориентацией – и он отзывался с необузданным энтузиазмом. Откуда взялось это свойство?

Здесь нам поможет модель нейронной сети. Сеть, которую мы опишем, очень похожа на ту, что предложили Хьюбел и Визель, и отражает ее ключевые свойства.

Начнем с простого наблюдения: линию можно представить как набор точек. Для простоты представим, что линия l состоит из четырех точек: A, B, C и D. Допустим, эти четыре точки попадают в центры рецептивных полей четырех нейронов сетчатки кошачьего глаза – назовем их элемент A, элемент B, элемент C и элемент D. Как мы уже знаем, точка в центре рецептивного поля вызывает сильную активацию нейрона. Теперь предположим, что каждый из элементов A-D связан с элементом E, расположенным в мозге. Это значит, что каждый из элементов A-D при активации может передавать сигналы активации элементу E.

Рисунок 2.6. Нейронная сеть с выходным нейроном, элементом E, который активно реагирует, когда линия проходит через центры рецептивных полей входных элементов (A-D). При повороте линии ответ элемента E ослабевает

Как мы отмечали в главе 1, нейроны – базовые элементы обработки информации в мозге. У них сложная древовидная структура, но мы будем изображать их кружками и называть элементами, чтобы отличать компоненты нашей модели от реальных нейронов мозга. Мы используем минимальный набор элементов, достаточный для иллюстрации основной идеи. Получается рисунок 2.6a – наша первая настоящая нейронная сеть. Стрелки между элементами обозначают связи. Если от одного элемента идет стрелка к другому, активация первого элемента возбуждает (то есть усиливает активацию) второго.

А теперь самое интересное! Представим, чтó происходит в нашей нейронной сети, когда глаз видит четыре точки – A, B, C и D. Точка A находится в центре рецептивного поля элемента A, поэтому он начинает интенсивно генерировать импульсы (много спайков в секунду). То же происходит с остальными элементами – они тоже обнаруживают точки в центрах своих рецептивных полей. Все четыре элемента посылают мощные сигналы элементу E, и он активируется.

Удивительно то, что элемент E бурно реагирует на линию l, но гораздо слабее откликается на линии, хотя бы немного отличающиеся от l. Рассмотрим, например, линию, повернутую относительно линии l (рисунок 2.6b). Какую активацию получает элемент E в этом случае? Давайте разберемся. Элемент A активно генерирует импульсы, поскольку точка A по-прежнему в центре его рецептивного поля. Точка B слегка смещена от центра, поэтому элемент B активируется уже не так интенсивно. Элемент C работает ниже базового уровня, так как точка C попала в периферическую зону его рецептивного поля. Элемент D тоже активен на базовом уровне или ниже. В результате элемент E получает гораздо меньше возбуждающих сигналов, чем при предъявлении линии l, и его ответ на этот стимул будет значительно слабее.

Ни один из элементов A-D не способен самостоятельно распознать линию, да и элемент E тоже не реагирует на линию в стимуле напрямую. Однако, действуя сообща – подобно муравьям, – элементы этой небольшой нейронной сети обрели «интеллект», необходимый для распознавания линии. Произошла эмерджентность.

Представьте, что смотрите на дерево. Вы различаете ствол, ветви, листву. Видите цвет – зеленое облако, окутывающее коричневые сучья. Без труда отделяете дерево от фона. Ощущаете глубину пространства – понимаете, как далеко оно находится. Замечаете, как дерево чуть покачивается на ветру. И возникает вопрос: как же мы видим все, что видим?

Первое, что приходит в голову: наши глаза верно воспроизводят картину внешнего мира, которую мы видим. Но это заблуждение. Хрусталики наших глаз проецируют на сетчатку изображение уменьшенное, перевернутое и плоское – совсем не то, что мы видим, глядя на дерево. Мы видим реконструкцию внешнего объекта – в правильной ориентации, объемную и соразмерную с учетом расстояния до нее. Эта реконструкция – плод работы зрительной