Суперкомпьютер Deep Blue фирмы IBM о быгрыв а л Гарри Каспарова исключительно с помощью грубой силы: машина оценивала около 200 млн. возможных ходов в секунду, тогда как ее противник из плоти и крови рассматривал за это время не более трех. Но когда речь заходит о зрении, слухе, распознавании образов и обучении, компьютеры не идут ни в какое сравнение с человеческим мозгом. А уж про эксплуатационные характеристики и говорить нечего! Типичный суперкомпьютер в тысячу раз тяжелее, занимает в 10 тыс. раз больше места и потребляет в миллион раз больше энергии, чем комок нервной ткани размером с небольшую дыню. Как же мозг, в котором на передачу химических сигналов между нейронами уходят микросекунды, выполняет некоторые задачи быстрее и лучше, чем самые мощные процессоры? Секрет в том, как организована работа не блещущих быстродействием электрических компонент. Мозг не исполняет закодированные инструкции, а активизирует связи (синапсы) между нейронами. Каждая активация эквивалентна выполнению цифровой команды. Можно оценить, сколько связей активизируется каждую секунду, и сравнить с количеством команд, выполняемых компьютером за то же время. Синаптическая активность достигает 10 квадрильонов (1016) связей нейронов в секун- ду. Чтобы добиться такой производительности, потребуется миллион компьютеров Intel Pentium, потребляющих в общей сложности сотни мегаватт.

Сегодня инженеры пытаются воспроизводить нейронные структуры и их функции. Они называют это морфингом (отображением) нервных связей на кремниевые электронные цепи и создают нейроморфные микрочипы. В слу- чае успеха мы научимся создавать вживляемые кремниевые сетчатки для слепых и звуковые процессоры для глухих, а также дешевые и эффективные визуальные, звуковые и обонятельные чипы для роботов (см. табл. на стр. 39).

Наша группа в Пенсильванском университете сначала сосредото- чилась на морфинге сетчатки – нервной ткани толщиной 0,5 мм, покрывающей заднюю стенк у глаза. Сетчатка состоит из пяти специализированных слоев нервных клеток и выполняет предварительную обработку визуальных изображений (образов), извлекая полезную информацию, не обращаясь к мозгу и не расходуя его ресурсы. Мы выбрали сетчатку потому, что она хорошо изучена и описана анатомами. Затем мы перешли к морфингу механизмов, создающих биологические цепи, т.е. к процессу, который мы назвали метаморфингом.

Почти 1 млн. ганглионарных клеток в сетчатке сравнивает визуальные сигналы от групп, содержащих от полудюжины до нескольких сотен фоторецепторов и самостоятельно интерпретирующих все, что происходит в проецируемой на них части поля зрения. Когда интенсивность света в данном секторе изменяется, ганглионарная клетка передает по зрительному нерву в мозг электрический импульс (всплеск). Каждая клетка возбуждается пропорционально относительному изменению интенсивности света во времени или в пространстве, а не абсолютному входному уровню. Чувствительность нерва уменьшается с ростом общей интенсивности света таким образом, чтобы глаз приспосабливался, например, изменению яркости неба в 100 тыс. раз при переходе от предрассветного уровня к полуденному. Миша М а хов а л ь д ( M i sha A. Mahowald) и известный специалист по микроэлектронной технологии Карвер Мид (Carver Mead)

Кремниевая сетчатка воспринимает движения головы Карима Заглула из Пенсильванского университета. Четыре типа кремниевых ганглионарных клеток на чипе Visio1 имитируют реальные клетки сетчатки и выполняют предварительную обработку визуальной информации. Одни клетки реагируют на темные области (красные), другие – на светлые (зеленые). Третий и четвертый наборы клеток следят за передними (желтые) и задними (синие) границами объектов. Черно-белые изображения, получаемые при декодировании, демонстрируют то, что слепой человек мог бы видеть с помощью нейроморфного имплантата сетчатки.

впервые попытались изготовить сетчатку из кремния в Калифор- нийском технологическом институте. Они воспроизвели с помощью электроники три из пяти ее слоев. Другие исследователи моделировали (морфировали) остальные части зрительной и слуховой систем. В 2001 г. мой аспирант Карим Заглул (Kareem Zaghloul) изготовил все пять слоев сетчатки и смоделировал визуальные сообщения, посылаемые мозгу ганглионарными клетками, т.е. выходными нейронами сетчатки. Его кремниевый чип сетчатки, Visio1, воспроизводит реакцию основных четырех типов ганглионарных клеток сетчатки, которые вырабатывают сигналы и вместе составляют 90% оптического нерва (см. рис. вверху). Пытаясь смоделировать естественную реакцию нервных синапсов, Заглул представил электрическую активность каждого глазного нейрона отдельным выходным напряжением, которое управляет током, передаваемым транзисторами в другие точки схемы. Свет, обнаруженный электронными фотодатчиками, влияет на напряжение в этой части схемы так же, как на соответствующую клетку в сетчатке. Разместив на чипе множество аналогичных базовых элементов, Заглул воспроизвел все пять слоев сетчатки (см. стр. 40–41). Чип имитирует процесс, в котором активированные напряжением ионные каналы заставляют ганглионарные клетки (и нейроны в остальной части мозга) вырабатывать нервные импульсы. Заглул установил транзисторы, посылающие ток обратной связи, увеличивающий напряжение, которое, в свою очередь, еще больше увеличивает ток и т.д. Как только достигается пороговое значение, регенеративный эффект ускоряется и напряжение возрастает до максимального уровня, т.е. создается импульс. Потребляя всего 60 мВт, нейроморфный чип Заглула требует в тысячу раз меньше электроэнергии, чем обычный ПК. Столь малая потребляемая мощность позволяет





задуматься об интеграции кремниевой сетчатки в полноценный вну триглазной протез с камерой, процессором и стимулятором, имплантированными в глаз человека, страдающего пигментозным ретинитом (пигментной дегенерацией сетчатки) или макулодистрофией, т.е. болезнями, повреждающими фоторецепторы, но сохраняющими ганглионарные клетки. Разрабатываемые в настоящее время протезы сетчатки обеспечивают лишь фосфенное зрение: реципиенты воспринимают мир как сетку световых пятен, вызванных стимуляцией ганглионарных клеток микроэлектродами, имплантированными в глаз. Для обработки изображений, воспринятых прикрепленной к очкам видеокамерой, требуется переносной компьютер. Поскольку массив микроэлектродов очень мал (меньше, чем 10 на 10 пикселов), человек обретает туннельное зрение и вынужден вертеть головой. Чтобы расширить угол зрения, можно использовать в качестве ка- меры сам глаз. 3600 выходов ганглионарных клеток нашего чипа должны обеспечить почти нормальное видение.

Нейроморфные чипы программируются на уровне индивидуальных связей для выполнения определенных задач.

Однако требуется дальнейшее улучшение биологически совместимых материалов для герметизации и интерфейса возбуждения. Высокоточный протез вполне может стать реальностью к 2010 г. Кроме того, необходимо разобраться, как различные типы клеток сетчатки отвечают на возбуждение и какой вклад они вносят в восприятие. А пока нейроморфные чипы могли бы найти применение в датчиках подвижных устройств, в системах безопасности, робототехнических и фабричных системах автоматизации.

Нас очень обнадежила экономия мощности, достигнутая при мор- финге сетчатки, и мы задумались: как же мозг достигает такой высокой эффективности? Еще два десятилетия назад Мид понял, что даже если вычислительная техника будет развиваться по закону Мура (согласно которому количество транзисторов на единицу площади интегральной схемы удваивается каждые полтора года), компьютеры все равно не станут эффективными, как мозг. Решение этой проблемы пришло мне в голову восемь лет назад.

Я понял, что эффективность зависит от степени специализации аппаратных средств для решения той или иной задачи. Современные компьютеры используют для любой работы несколько устройств общего назначения, а программное обеспечение просто изменяет порядок, в котором они задействуются. Мозг и нейроморфный чип схожи именно настройкой аппаратных средств: и тот и другой программируются на уровне индивидуальных связей и приспосабливают имеющиеся средства к выполнению определенной работы.



Если бы мы могли перенести механизм самонастройки мозга на кремниевые устройства (т.е. осуществить метаморфинг), то нейроморфные чипы модифицировали бы себя аналогичным образом. В результате отпала бы необходимость в кропотливом инженерном анализе мозговых структур. Поэтому я начал исследовать развитие нервных цепей, надеясь больше узнать о том, как получаются именно те средства, которые требуются. Построение нервной сети мозга, содержащей триллион (1012) нейронов, связанных 10 квадрильонами (1016) синапсов, – обескураживаю- щая задача. Хотя человеческая ДНК содержит эквивалент миллиарда битов информации, этого недостаточно, чтобы задать, как нейроны должны соединяться между собой. Воспользовавшись генетической информацией на ранней стадии развития, мозг далее настраивает себя через внутренние взаимодействия между нейронами и внешние взаимодействия с окружающим миром. Другими словами, сенсорные нейроны самостоятельно соединяются между собой в ответ на входные сигналы. Общее правило выглядит обманчиво просто: между собой соединяются те нейроны, которые вместе возбуждаются. Т.е. из получаемых нейроном сигналов он игнорирует все, кроме тех, которые поступают от нейронов, оказыва- ющихся активными тогда, когда он сам активен.

Чтобы понять, как один слой нейронов соединяется с другим, нейрологи изучили ретинотектальное отображение лягушки, посредством которого сетчатка соединяется с тектумом (часть среднего мозга, обрабатывающая входные сигналы от органов чувств). Оказалось, что связывание одного слоя нейронов с другим происходит в два этапа. Сначала вновь возникший нейрон разрастается, образуя ветвистое дерево. Самая длинная ветвь становится аксоном, выходным «проводом» клетки, а остальные ветви образуют дендриты, ее входные каналы. Далее аксон продолжает расти, вытягиваемый амебоидной структурой на его конце. Этот так называемый конус роста реагирует на градиент концентрации химических соединений, оставленных предшественниками нервных сигналов, и направляет аксон к нужной улице в городе клеток тектума, но, если можно так выразиться, не к конкретному дому. Чтобы попасть в нужный дом в тектуме, требуется второй шаг, но ученые пока не разобрались, как он осуществляется. Известно, что со- седние ганглионарные клетки сетчатки склонны возбуждаться вместе. Поэтому я предположил, что аксон находит в тектуме своих соседей по клеткам сетчатки, определяя их по химическому следу («запаху»), выделяемому активными нейронами тектума, т.к. наиболее вероятно, что его источником будут его соседи. Как только аксон вступает в контакт с деревом дендритов тектального

БИОЛОГИЧЕСКАЯ СЕТЧАТКА Клетки сетчатки связаны сложной сетью возбуждающих (односторонние стрелки), подавляющих (линии с кружками на конце) и двунаправленных (двусторонние стрелки) сигнальных связей. Такая схема вырабатывает селективные ответы четырех типов ганглионарных клеток (внизу), которые составляют 90% волокон зрительного нерва, передающих зрительную информацию в мозг. Ганглионарные клетки включения «Вкл.» (зеленые) и выключения «Выкл.» (красные) возбуждаются, когда локальная интенсивность света выше или ниже, чем на окружающем участке. Ганглионарные клетки возрастания «Инк.» (синие) и убывания «Дек.» (желтые) генерируют импульсы, когда интенсивность света увеличивается или уменьшается.

КРЕМНИЕВАЯ СЕТЧАТКА В электронных моделях сетчатки аксоны и дендриты каждой клетки (сигнальные связи) заменяются металлическими проводниками, а синапсы – транзисторами. Перестановки такой конфигурации создают возбуждающие и запрещающие взаимодействия, которые имитируют связи между нейронами. Транзисторы и соединяющие их проводники располагаются на кремниевых чипах, различные участки которых играют роль различных слоев клеток. Большие зеленые площадки – фототранзисторы, преобразующие свет в электрические сигналы.

нейрона, между ними формируется синапс, и получаются два нейрона, которые вместе возбуждаются и связаны между собой. В 2001 г. мой аспирант Брайан Таба (Brian Taba) создал чип, моделирующий этот процесс. Поскольку направление (адрес точки назначения) металлических проводов не изменишь, он решил перенаправлять импульсы. Каждый раз, когда возбуждается одна из 3600 ганглионарных клеток, чип Заглула Visio1 вырабатывает уникальный 13-битовый адрес. Передача адресов вместо импульсов позволяет обойти ограничение по количеству входных/выходных контактов чипа. Адрес дешифруется принимающим чипом, который воссоздает импульс в нужной точке кремниевой мозаики нейронов. Так создается вирту- альный пучок аксонов, связывающих соответствующие участки на двух кремниевых чипах, т.е. кремниевый зрительный нерв. Заменяя один адрес другим, мы направляем виртуальный аксон, принадлежащий одному нейрону (первоначальный адрес), в другое место (измененный адрес). Мы можем перекидывать наши программируемые проводники (softwires), куда захотим, сохраняя информацию

На ранней стадии развития глаза ганглионарные клетки сетчатки направляют свои аксоны в тектум, сенсорный центр среднего мозга. Аксоны сетчатки направляются с помощью следов химических соединений, выделяемых соседними клетками тектума, которые активируются одновременно; в результате нейроны, возбуждающиеся одновременно, связываются. В итоге в среднем мозге формируется карта пространственного расположения сенсоров сетчатки.

Чтобы смоделировать этот процесс, инженеры Пенсильванского университета используют программируемые проводники для создания самоорганизующихся связей между клетками в чипе сетчатки Visio1 (вверху) и чипе искусственного тектума Neurotrope1 (внизу). Электрические выходные импульсы направляются от искусственных ганглионарных клеток к клеткам тектума через микросхему памяти (ОЗУ) (в середине). Чип сетчатки выдает адрес возбужденного нейрона, а чип тектума воспроизводит импульс возбуждения в соответствующем месте. В нашем примере искусственный тектум дает команду ОЗУ поменять местами адреса 1 и 2. В результате окончание аксона ганглионарной клетки 2 перемещается к клетке тектума 1, вытесняя аксон ганглионарной клетки 3. Аксоны реагируют на градиент электрического заряда, освобожденного возбужденной клеткой и помогающего перенаправить соединения.

После многократного возбуждения блоков соседствующих нейронов искусственной сетчатки (выделенные треугольники вверху слева) конечные точки аксонов клеток тектума, которые вначале были разбросаны (выделенные треугольники внизу слева), сближаются и образуют более однородные полосы (внизу справа).

о переадресации в поисковой таблице (см. врез вверху). В чипе искусственного тектума, который Таба назвал Neurotrope1, программируемые проводники возбуждают элементы схемы, чувствительные к градиенту (кремниевые конусы роста), а также близлежащие кремниевые нейроны, расположенные в ячейках сотовой решетки. При активации кремниевые нейроны вырабатывают электрический заряд и направляют его в решетку, проводящую заряд подобно транзистору. Заряд распространяется по решетке почти так же, как химические соединения, выделяемые ячейками тектума, распространяются по нервной ткани. Кремниевые конусы роста воспринимают моделируемое распространение химических соединений и протягивают програмируемые провода в сторону роста градиента, к кремниевому нейрону (источнику заряда), обновляя табли- цу переадресации. Поскольку заряд должен высвобождаться кремниевым нейроном и восприниматься кремниевым конусом роста одновременно, программные проводники приводят к соединению нейронов, активных одновременно. Таким образом, Neurotrope1 связывает вместе



нейроны, которые срабатывают вместе, как в настоящем растущем аксоне.

Начав с переплетенного соединения между чипами Visio1 и Neurotrope1, Таба успешно смоделировал склонность соседних ганглионарных клеток сетчатки срабатывать вместе. Для этого он в случайном порядке активизировал блоки кремниевых ганглионарных клеток и после стимулирования нескольких тысяч таких блоков наблюдал решительное изменение программируемых проводников между чипами. Соседние искусственные ганглионарные клетки, связанные с нейронами в кремниевом тектуме, теперь оказывались вдвое ближе, чем в исходном состоянии. Однако из-за шума и технологического разброса параметров элементов схемы полученные соединения были не идеальны: окончания соседних клеток в кремниевой сетчатке заканчивались в кремниевом тектуме не рядом друг с другом. Нам хотелось узнать, как возникает сложная структура соединений, лежащая в основе биологической функции коры, и можно ли найти в природе новые подсказки для усовершенствования наших систем.

Карты коры головного мозга

Что известно о связях в коре головного мозга, которая отвечает за когнитивные способности? Имея такую же площадь, как круг диаметром 40 см, кора сложена словно бумага в оригами, чтобы поместиться внутри черепа. На этом удивительном холсте во время младенчества рисуются «карты» внешнего мира. На сегодня лучше всего изучена область V1 (первичная визуальная кора), куда попадают визуальные со- общения от зрительного нерва. На нее отображаются не только длина и ширина изображения, но и ориентация ребер видимых объектов. В результате нейроны в области V1 лучше всего реагируют на ребра, ориентированные под определенным углом: вертикальные линии, горизонтальные линии и т.д. Те же самые предпочтительные ориента- ции повторяются примерно через каждый миллиметр, что позволяет распознавать ориентации ребер в различных участках визуальной сцены.

Нейробиологи Дэвид Хьюбел (David H. Hubel) и Торстен Визель (Torsten N. Wiesel), получившие Нобелевскую премию по медицине за открытие в 1960-х гг. карты V1, предложили схему соединений для построения визуального участка коры. Каждая клетка коры соединяется с двумя группами таламических клеток, которые действуют как ретрансляторы сигналов, пришедших от сетчатки. Одна группа клеток таламуса должна реагировать на восприятие темных областей (ее мы моделируем ячейками Visio1 «Выкл.»), а другая – на восприятие света (ячейки «Вкл.»). Чтобы клетки коры «предпочитали», например, вертикальные ребра, обе группы должны располагаться вдоль вертикальной линии так, чтобы ячейки «Выкл.» лежали непосредственно слева от ячеек «Вкл.». Таким образом, вертикальный край объекта в поле зрения активизирует все ячейки «Выкл.» и «Вкл.». С другой стороны, горизонтальная грань активизирует только половину ячеек в каждой группе. В результате клетка коры получит вдвое больший входной сигнал при наличии вертикального края и будет реагировать на него энергичнее.

Сначала нас озадачила пугающая детальность схемы соединений. Мы должны были соединить каждую ячейку согласно ее предпочтительной ориентации и затем систематически модифицировать соединения так, чтобы предпочтительные ориентации плавно изменялись, а соседние ячейки имели близкие предпочтения. Как и в коре мозга, одинаковые ориентации должны повторяться через каждый миллиметр, причем кремниевые ячейки должны соединяться с соседними позициями в сетчатке. Такая сложность, разумеется, оказалась не по плечу конусам роста Табы. В конце 2002 г., отчаянно пытаясь избавиться от этого кошмара, мы наконец нашли ответ результатах эксперимента пятидесятилетней давности.

В 1950-х гг. знаменитый математик Алан Тьюринг показал, как из случайного шума могут спонтанно возникать упорядоченные фигуры типа пятен на шкуре леопарда или коровы. Мы надеялись, что сможем использовать этот механизм для создания на чипе соседних областей с похожими картинами ориентации. Идея Тьюринга, которую он проверил на одной из первых ЭВМ, заключалась в том, что моделируемые клетки кожи будут выделять черный пигмент или обесцвечиваться случайным образом. Сделав так, чтобы они окрашивались или обесцвечивались немного сильнее или слабее, Тьюринг получил пятна, узоры и даже полосы как у зебры. Небольшие начальные различия при окрашивании или обесцвечивании усиливались, создавая черно-белые узоры. Мы задались вопросом: сработает ли этот механизм на кортикальных картах?

Четыре года назад специалист по компьютерной нейрологии Миша Цодикс (Misha Tsodyks) из Вейцмановского научно-исследовательского института в Реховоте (Израиль) показал, что подобный процесс при программном моделировании действительно приводит к появлению узоров, похожих на карту коры. Мой аспирант Пол Меролла (Paul Merolla) решил ре- ализовать аналогичную самоорганизацию на кремнии. Мы знали, что легирующие добавки, вводимые в процессе изготовления микросхем, распределяются случайным образом. В результате возникают различия между идентичными в других отношениях транзисторами, которые воспроизводят хаотичность генной экспрессии. Вероятно, именно она обусловливает различие как формы пятен у разных леопардов, так и карт ориентации у разных людей. Клетки, создающие эти узоры в природе, выражают идентичные гены, но вырабатывают разные количества пигмента или белков ионного канала.

Помня об этой аналогии, Меролла создал мозаику из кремниевых ней- ронов с возбуждающими и подавляющими связями, которые выполняли функции окрашивания и обесцвечивания. После активации чипов возникли фигуры, напоминающие пятна леопарда. При изменении ориентации ребер возбуждались разные группы клеток. Обозначив местоположение различных групп разными цветами, мы получили карты предпочтительной ориентации, схожие с узорами на областях V1 хорька (см. рис. на стр. 43).

Создание кремниевого мозга

Осуществив морфинг пяти слоев сетчатки на кремнии, мы решили сделать то же самое для всех шести слоев зрительной коры. Для начала мы морфировали слой IV (входной слой коры), чтобы получить карту предпочтительных ориентаций в предварительной, незрелой форме. Однако кора в пять раз толще сетчатки, и для морфинга всех шести ее слоев требуются интегральные схемы с намного большим числом транзисторов на единицу площади. Сегодня производители чипов располагают на 1 мм2 кремния 1 млн. транзисторов и 10 м проводников. К концу десятилетия плотность элементов микросхем будет всего в 10 раз меньше плотности упаковки ткани коры, которая содержит 100 млн. синапсов и 3 км ак- сонов в 1 мм3.

Не далек тот день, когда чипы не будут уступать коре и даже превзой- дут ее по количеству элементов, но как обращаться с миллиардами транзисторов на квадратном сантиметре кремния? Чтобы конструировать такие наночипы по обычной методике, потребуются тысячи инженеров. До сих пор увеличение количества транзисторов в процессорах Intel в 10 тыс. раз сопровождалось стократным увеличением штата инженеров-конструкторов. В то же время простое удвоение количества генов у мух позволило эво- люции создать человеческие мозги, в которых в 10 млн. раз больше ней- ронов. Более сложные процессы развития на основе относительно простого рецепта сделали возможным увеличение сложности мозга. Поэтому морфинг развития нейронов вместо простого морфинга нейронных цепей сулит наноэлектронным системам будущего большие возможности.