Начало >> Статьи >> Архивы >> Неопределенность в нервной системе

Теория обучающихся машин - Неопределенность в нервной системе

Оглавление
Неопределенность в нервной системе
История аналогов нервной системы
Центральная нервная система как телефонная станция
Самоуправляющиеся системы
Универсальные вычислительные машины
Каналы с шумом
Вероятность в периферических системах
Вероятность и сенсорные нейроны
Непроизвольные движения глаз; физиологический нистагм
Методы статистического анализа
Анализ двоичных записей
Средняя частота
Кросскорреляционная функция и постстимуляционная гистограмма
Анализ интервалов
Автокорреляционная функция
Синхронная машинная обработка данных
Неустойчивость случайных нервных сетей
Случайные сети в нервной системе
Неустойчивость нервных сетей
Функция случайных сетей в нервной системе
Мозг в целом, рассматриваемый как нервная сеть
Мера предсказуемости
Неопределенная реакция корковых нейронов
Пространственное представительство внешней среды
Временное представительство внешней среды
Универсальный и специфический коды
Оптические иллюзии
Телеологический подход к проблеме кодирования сенсорной информации
Передача информации в мозгу
Устойчивость корковых нейронов
Теория обучающихся машин
Ценность теоретических моделей
Свидетельства длительных изменений синаптической проводимости в центральной нервной системе
Прямое измерение синаптического сопротивления
Дальнейшие шаги
Другие перспективные методики
Более простые нервные системы
Культура нервной ткани
Заключительные замечания

ОБУЧЕНИЕ И ПАМЯТЬ
ТЕОРИЯ ОБУЧАЮЩИХСЯ МАШИН
По одному из наиболее распространенных в настоящее время предположений, обучение возможно благодаря существованию центральных синапсов, в которых происходит длительное облегчение, или повышение проводимости, непосредственно вызываемое их многократным предшествующим употреблением [75, 77, 113]. Даже если это не выражено прямо, та же гипотеза неявно подразумевается в работах тех исследователей, которые изучали относительно кратковременную посттетаническую потенциацию в периферической [27, 147] или центральной [1, 81] нервной системе. Тот факт, что потенциация, описанная в этих работах, слишком краткосрочна, чтобы ею могло быть обусловлено обучение, не мешает, разумеется, использовать ее как модель, так как вполне может оказаться, что более длительные изменения в поведении интактного животного определяются сходными явлениями, развивающимися на более протяженной шкале времени.
Более серьезное возражение [33, 233] состоит в том, что та форма обучения, которая представлена условными рефлексами, требует гетеросинаптического облегчения. Она предполагает, что активность в одном пути (X1Y на фиг. 68) должна вызывать последействие в другом, параллельном пути (Х2Y). В самом деле, обычно утверждают, что многократное возбуждение пути типа Χ1Υ, сопровождаемое возбуждением Х2Y, в конце концов приводит к повышению С1 — проводимости соединения между Х\ и Y, т. е. повышению вероятности того, что сигнал в Х1 «вызовет» сигнал в Y. Таким образом, какие-либо изменения С1, происходящие при обучении, не могут быть результатом активности в одном только пути. Они должны определяться всей предыдущей историей относительной активности Х1, Х2 и Y.

Впервые эту обязательную зависимость синаптической проводимости от относительной активности нейронов четко установил Аттли [221].
Еще ранее Аттли [220] описал логические требования к машине, предназначенной для классификации входных сигналов. Пример его классифицирующей машины приведен на фиг. 69.

Фиг. 68. Типы нервных путей, участвующих в образовании условного рефлекса.
Предполагается, что и входные, и выходные сигналы двоичны. Это означает, что некоторое пространственное распределение стимулов во внешней среде может либо вызвать один сигнал определенной величины в любом афферентном проводнике X, либо не вызвать его совсем. Таким образом, афферентная часть этой простой классифицирующей системы может отвечать на воздействие внешней среды только тремя различными способами (1 означает, что афферентный сигнал имел место, а 0 — что за какое-то короткое время δt сигнала не было):

При условии, что эфферентные клетки Y могут возбудиться любым одиночным афферентным сигналом, они вполне ясно сообщат о характере активности на входе. По описанию Аттли, эта система может классифицировать пространственное распределение входных сигналов только в том случае, если они поступают одновременно.

Фиг. 69. Схема классифицирующей машины Аттли [220].
Аттли указывает, что «...если нужно различить пространственно-временные структуры, то каждый входной сигнал должен пройти ряд задержек, и после каждой из них осуществляется отдельная связь с классифицирующей системой». Следовательно, кроме трех эфферентных элементов, изображенных на фиг. 69, потребуется по меньшей мере еще два показателя — для «Х1-перед-X2» и для «X2-перед-X1».
Рассмотрение классифицирующих систем, произведенное Аттли [220], имело целью найти математический аналог тех способов, которыми центральная нервная система могла бы классифицировать поступающую сенсорную информацию. И в самом деле, легко усмотреть его связь с представлениями Шеррингтона о пространственной суммации в спинном мозгу, где «подпороговая кайма» представляет собой нейроны того класса, который изображен в виде Y1 и Y3 на фиг. 69. Далее, в зрительной коре имеются нейроны, реагирующие преимущественно на раздражение ипсилатеральной сетчатки, нейроны, для которых доминантной является контралатеральная сетчатка, и нейроны, которые легче всего возбуждаются одновременными входными сигналами от обеих сетчаток

Фиг. 70. Функциональная классификация нейронов, обнаруженных на разных уровнях нервной системы (см. [123]).
(стр. 222) [38, 120]; эти типы нейронов также можно сравнить с эфферентами Y1, Y2 и Y3. Еще более поразительную параллель можно привести из работ Хьюбела и

Визела, которые регистрировали активность одиночных Нейронов у кошки и обезьяны. Если учесть также и данные Кафлера [143], изучавшего свойства ганглиозных клеток в сетчатке млекопитающих, то станет ясно, что зрительная система работает как классифицирующая машина. Выходы многих световых рецепторов в сетчатке конвергируют на одной ганглиозной клетке. Соотношение между этими ганглиозными клетками и нейронами в наружном коленчатом теле равно один к одному [119]; но волокна от наружного коленчатого тела снова конвергируют на отдельных нервных клетках в зрительной коре [120]. В коре выходы нейронов одного функционального класса, по-видимому, конвергируют на нейронах другого функционального класса. На каждой ступени в этом ряду повторной конвергенции проводящих путей характер раздражения сетчатки, при котором возбуждение вызывается с наибольшей вероятностью, меняется с очевидной «целью» извлечь определенную информацию из любого сложного изображения, проецируемого на сетчатку. На фиг. 70 приведена сводка данных Хьюбела и Визела; она показывает, как стимул, с наибольшей вероятностью вызывающий возбуждение, меняется по мере того, как информация передается по центральному пути в зрительной системе. На воспринимающем конце этой системы, в зрительной коре, мы находим клетки, сигнализирующие о положении и ориентации линии или границы в поле зрения. Хьюбел и Визел [120] назвали их клетками с простыми рецептивными полями: можно также назвать их детекторами положения и ориентации. Кроме того, в мозговой коре имеются детекторы направления (Хьюбел и Визел называют их клетками со сложными полями), которые совсем не столь «разборчивы» в отношении точного положения границы на сетчатке, лишь бы ориентация ее была правильной. Последнюю функциональную категорию корковых клеток, установленную Хьюбелом и Визелом [123] (это, по их номенклатуре, клетки со сверхсложными полями), можно назвать детекторами угла.
Хотя по некоторым своим свойствам классифицирующая система может с успехом соревноваться с центральной нервной системой, обучаться она не может. Аттли [221] пишет: «Элемент классифицирующей системы после
операции возвращается в исходное состояние; таким образом, поскольку в системе не накапливаются эффекты последействия, ее предшествующая активность не влияет на ее поведение». В этом смысле классифицирующая система принадлежит к аналогам типа «телефонной станции» и не может менять свои свойства на основании прошлого опыта.
Можно было бы построить классифицирующую систему, обладающую необходимой пластичностью, добавив новые элементы, способные считать, сколько раз Х1 и X2 (фиг. 68) генерировали импульсы за какой-то прошедший период времени Т как по одиночке, так и одновременно. Если сделать так, чтобы выход этих новых счетных элементов управлял будущей проводимостью соединений между афферентами и эфферентами, то мы получили бы машину, способную менять свое поведение на основании прошлого опыта. Аттли [221] назвал такое устройство условно-вероятностной машиной.
Здесь, пожалуй, полезно суммировать и определить немного точнее понятия и обозначения, применяемые нами при рассмотрении обучающихся машин. Для системы афферентных элементов X и эфферентных элементов У мы будем применять следующие обозначения:
х и у — частота сигналов в элементах X и У соответственно;
ху— частота, с которой X и У разряжаются одновременно, т. е. в пределах одного и того же короткого промежутка времени δt;
х→у — частота, с которой сигнал в X «вызывает» сигнал в У, т. е. предшествует сигналу в Y на короткий промежуток времени δt;
ху —частота разрядов в Y, не вызванных сигналами в Х; следовательно, ху = (х→у)·,
X1X2 — частота, с которой два афферентных элемента Χ1 и Х2 разряжаются одновременно, т. е. в пределах одного и того же короткого промежутка времени δt;

S(x)— общее число прошедших сигналов в элементах X; то же для S(y), S(xy) и т. д.;
St-T (х) — общее число сигналов в X за последние Т сек;
Сху— проводимость в соединении XY, определяемая как вероятность того, что сигнал в X вызовет сигнал в Y; следовательно, Сху— (х→у)/х.

Фиг. 71. Элементы условно-вероятностной машины, необходимые для
обучения.
Теперь мы можем описать условно-вероятностную машину как классифицирующую машину с добавочными элементами, способными вычислить
(см. фиг. 68).
Такая машина, вычисляя S(x1x2)/S(x1), оценивает вероятность сигнала в Х2 при условии одновременного сигнала в Х1, т. е. условную вероятность одновременных сигналов в Х1 и Х2. Аттли показал, что условно-вероятностная машина может во многих отношениях воспроизводить классические условные рефлексы. Рассмотрим систему, изображенную на фиг. 71, где через Х1 обозначены афферентные пути, возбуждаемые условным стимулом, а через Х2 — афференты от безусловного стимула.
Выпишем одну из пар возможных последовательностей сигналов в Х1-2, а также значения S(X1X2)/S(x1), соответствующие трем моментам времени:

Будем считать, что время было разделено на отрезки δt, достаточно малые для того, чтобы за каждый отрезок δt не могло поступить более одного афферентного сигнала. Таким образом, в этих последовательностях представлены четыре промежутка времени длительностью 8δt каждый. Предполагается, что в первом промежутке возбуждения Х1 и Х2 были статистически независимы, а в остальных условный и безусловный стимулы предъявлялись вместе, вызывая в Х1 и Х2 одновременные сигналы. Можно видеть, что по мере повторения совместных предъявлений значение S(x1X2)/S (χ1) растет и асимптотически приближается к единице. Предположим теперь, что в начале этого опыта значения С11 и С22 были очень высоки, так что каждый сигнал в Х1 вызывал сигнал в Y1 и каждый сигнал в Х2 вызывал сигнал в Y2; одновременно примем, что С12 и C21 в начале опыта были очень малы, так что лишь чрезвычайно малая доля сигналов в Х1 вызывала ответ в Y1 и наоборот. Тогда при условии, что элемент, вычисляющий S(X1Χ2)/S(X1), управляет проводимостью С12 таким образом, что она растет по мере приближения S(x1x2)/S (x1) к единице, вероятность того, что Х1 возбудит Y2, в процессе «выработки условного рефлекса» будет возрастать. Таким образом, поведение этой системы напоминает образование положительного условного рефлекса у экспериментального животного. Аттли [221] показывает также, как его условно-вероятностная машина может в основных чертах воспроизводить экспериментальное угашение, внешнее торможение, подкрепление и дифференцировку [180].
Элементы, вычисляющие S(x1X2)/S(x1), S(x1X2)/S(x2), на фиг. 71 не показаны. Это логические элементы, и они не обязательно должны быть представлены нейронами в нервной системе. Действительно, требуемые вычисления могут осуществляться в синаптических соединениях между «афферентными» и «эфферентными» нейронами. Величина С12 была определена как вероятность того, что сигнал в Χ1 вызовет реакцию в Y2; это, собственно говоря, мгновенное значение {x1→y2)/x1. Мы постулировали, что оно меняется в соответствии с предыдущей активностью Х1 и X2, описываемой выражением S(x1X1)/S(x1).
Выражение S (x1x2) представляет собой общее число одновременных сигналов в афферентах Х1 и X2. На первый взгляд может показаться, что в условно-вероятностной машине Аттли происходит нечто сходное с пресинаптическим облегчением Экклса [77] в биологической нервной системе. Однако следует указать, что нервная система могла бы вести себя как условно-вероятностная машина независимо от пресинаптических влияний. Мы уже предположили, что почти каждый сигнал в Х2 вызывает ответ в Υ2. Поэтому для машины, изображенной на фиг. 71, мы можем написать

и это сделает выработку условного рефлекса зависимой от относительного времени разряда Х\ и Y2, т. е. от транс- синаптических событий.
Если только не приписывать соединениям Χ1Υ2 и Χ2Υ1 совершенно разные свойства, то следует ожидать, что С21 будет расти в то же время и по той же причине, что и С12. Так, после периода «выработки условного рефлекса» (приведенные выше последовательности) следовало бы ожидать высокой вероятности того, что сигналы в Х2 возбудят Y1. Это свойство не согласуется с данными экспериментальной психологии. Аналогичным результатом в опыте с животным было бы такое его поведение в конце выработки классического положительного условного рефлекса, словно при каждом предъявлении мяса оно слышит звонок (и, возможно, проявляет ориентировочную реакцию). Или другой пример: хотя у меня течет слюна всякий раз, как передо мной режут лимон, я не думаю о лимонах каждый раз, когда у меня течет слюна.
Один выход из этого затруднения состоит в том, чтобы принять, что афференты Х2 на фиг. 71 возбуждаются гораздо чаще, чем афференты Х1.  Но вряд ли благоразумно налагать такое ограничение на работу условно-вероятностной машины ради того, чтобы придать ее функции характер, более сходный с функцией животного.
Более вероятно, что недостатки описанной машины объясняются тем, что она не учитывает порядок предъявления стимулов, хотя известно, что в образовании условных рефлексов этот фактор играет существенно важную роль. Несколько мелких изменений в свойствах этой машины заставили бы ее вести себя лучше. Предположим, например, что условный и безусловный стимулы вызывают в Х1 и Х2 сигналы, частоты которых постепенно падают по мере удаления от пика в начале каждого раздражения, и что сигналы продолжают возникать и по окончании стимуляции — по типу биологического следового разряда. Постулируемое поведение машины показано на фиг. 72. Предположим также, что значение С12 в данный момент времени определяется значением S(X1X2)/S(X1) в предшествующие Т сек, т. е.

Если Т — время, в течение которого «счетчики» условновероятностной машины Аттли интегрируют прошлое поведение,— велико по сравнению с продолжительностью постулируемого следового разряда и интервалом между стимулами, тогда С12 и С21 будут меняться во время выработки одинаково, поскольку в этих условиях

Если, однако, принять, что Т короче следовых разрядов
показанных на фиг. 72, тогда
Таким образом, прибавив по существу лишь свойство, которое мы назвали следовым разрядом, мы сделали поведение первоначальной условно-вероятностной машины Аттли более похожим на поведение животного.


Фиг. 72. Схема, иллюстрирующая, каким путем можно, исходя из существования следового разряда, объяснить зависимость образования условного рефлекса от порядка предъявления стимулов.
Она принимает во внимание порядок, в котором идут афферентные стимулы, и реагирует на повторение последовательности стимулов S1, S2 таким образом, что любая первоначальная реакция на S2 становится в конце концов также и реакцией на S1.
Суммируя рассмотрение обучающейся машины Аттли и возможностей ее усовершенствования, надо сказать, что из совокупности элементов, каждый из которых содержит три модельных нейрона, собранных так, что два афферентных члена Х1 и Х2 конвергируют на одном эфферентном члене Y, можно построить модель, обладающую многими свойствами центральной нервной системы млекопитающих. Это, разумеется, лишь один из способов описания нервной сети (стр. 85). Если же на межнейронных соединениях этой системы возможна пространственная суммация, то система будет работать как примитивная классифицирующая машина. При условии, что проводимость всех ее соединений в любой момент времени управляется законом, имеющим форму

характер зависимости ее реакций от прошлого опыта будет приблизительно напоминать поведение умного животного.



 
« Немецкая психиатрия   Неопухолевые хирургические заболевания пищевода, желудка и двенадцатиперстной кишки »