Но чрезмерная обратная связь, очевидно, должна быть столь же серьезным препятствием для организованной деятельности, как и недостаточная обратная связь. Принимая во внимание эту возможность, мы с Бигелоу обратились к д-ру Розенблюту с одним специальным вопросом. Существует ли патологическое состояние, при котором больной, пытаясь выполнить сознательное действие, например поднять карандаш, проскакивает мимо цели и совершает не поддающиеся контролю колебания? Д-р Розенблют ответил, что такое состояние существует и хорошо известно. Называется оно интенционным тремором и часто связано с повреждением мозжечка.
Итак, мы нашли весьма существенное подтверждение нашей гипотезы относительно природы сознательной деятельности или, по крайней мере, некоторых видов этой деятельности. Следует отметить, что эта точка зрения идет значительно дальше обычной точки зрения, распространенной среди нейрофизиологов. Центральная нервная система уже не представляется автономным, независимым органом, получающим раздражения от органов чувств и передающим их в мышцы. Наоборот, некоторые характерные виды деятельности центральной нервной системы объяснимы только как круговые процессы, идущие от нервной системы в мышцы и снова возвращающиеся в нервную систему через органы чувств. При этом не важно, являются ли эти органы чувств проприоцепторами или внешними органами чувств. Нам казалось, что такой подход означает новый шаг в изучении того раздела нейрофизиологии, который затрагивает не только элементарные процессы в нервах и синапсах, но и деятельность нервной системы как единого целого.
Мы трое сочли необходимым написать и опубликовать статью, излагающую эту новую точку зрения[92]. Как [c.52] д-р Розенблют, так и я предвидели, что эта статья может быть только изложением программы большой экспериментальной работы. Мы решили, что если когда-нибудь нам удастся создать институт, занимающийся проблемами связей между разными науками, то эта тема была бы почти идеальным объектом для нашей деятельности.
Что касается техники связи, то для г-на Бигелоу и для меня уже стало очевидным, что техника управления и техника связи неотделимы друг от друга и что они концентрируются не вокруг понятий электротехники, а вокруг более фундаментального понятия сообщения. При этом не существенно, передается ли сообщение посредством электрических, или механических, или нервных систем. Сообщение представляет собой дискретную или непрерывную последовательность измеримых событий, распределенных во времени, т. е. в точности то, что статистики называют временным рядом.
Предсказание будущего отрезка сообщения производится применением некоторого оператора к прошлому отрезку сообщения, независимо от того, реализуется ли этот оператор алгорифмом математических вычислений или электрическими и механическими устройствами. В связи с этим мы нашли, что идеальные предсказывающие устройства, которые мы сначала рассматривали, подвержены воздействию ошибок двух противоположных видов. Первоначально спроектированный нами предсказывающий прибор можно было сделать таким, чтобы он предугадывал весьма гладкую кривую с любой степенью точности. Однако повышение точности достигалось ценой повышения чувствительности прибора. Чем лучше был прибор для гладких сигналов, тем сильнее он приводился в колебания небольшими нарушениями гладкости и тем продолжительнее были такие колебания. Таким образом, хорошая экстраполяция гладкой кривой, по-видимому, требовала применения более точного и чувствительного прибора, чем наилучшее возможное предсказание негладкой кривой; в каждом отдельном случае выбор прибора зависел бы от статистической природы предсказываемого явления. Можно было думать, что эти два вида взаимозависимых ошибок имеют нечто общее с противоречивыми задачами измерения положения и количества [c.53] движения, рассматриваемыми в квантовой механике Гейзенберга в соответствии с его принципом неопределенности.
После того как мы уяснили, что решение задачи оптимального предсказания можно получить лишь обратившись к статистике предсказываемого временного ряда, было уже легко превратить то, что сперва представлялось трудностью для теории предсказания, в эффективное средство решения задачи предсказания. Приняв определенную статистику для временного ряда, можно найти явное выражение для среднего квадрата ошибки предсказания при данном методе и на данное время вперед. А располагая таким выражением, мы можем свести задачу оптимального предсказания к нахождению определенного оператора, при котором становилась бы минимальной некоторая положительная величина, зависящая от этого оператора. Задачи на минимум такого типа решаются в хорошо развитой отрасли математики — вариационном исчислении, и эта отрасль имеет хорошо развитую методику. Благодаря этой методике мы оказались в состоянии получить в явном виде наилучшее решение задачи предсказания будущего отрезка временного ряда на основе его статистических свойств и, более того, найти физическую реализацию этого решения посредством реальных приборов.
Проделав это, мы увидели, что по крайней мере одна задача технического проектирования приняла совершенно новый вид. Ведь обычно техническое проектирование считается скорее искусством, чем наукой. Сведя задачу такого рода к разысканию определенного минимума, мы поставили дело проектирования на более научную основу. Нам пришла мысль, что перед нами не изолированный случай и что существует целая область инженерной работы, в которой аналогичные задачи проектирования можно решать методами вариационного исчисления.
Мы обратились к другим аналогичным задачам и решили их этими методами. В числе решенных задач была задача проектирования волновых фильтров. Часто бывает так, что передаваемое сообщение искажают посторонние помехи, так называемый шумовой фон. Тогда встает задача восстановления посланного сообщения из искаженного сообщения при помощи [c.54] некоторого оператора. При этом может потребоваться восстановление посланного сообщения либо в первоначальном виде, либо с данным упреждением, либо с данным запаздыванием. Выбор оптимального оператора и прибора, его реализующего, определяется статистическими свойствами сообщения и шума, рассматриваемых по отдельности и совместно. Так в проектировании волновых фильтров мы заменили старые методы, носившие эмпирический и довольно-таки случайный характер, методами, допускающими четкое научное обоснование.
Но тем самым мы сделали из проектирования систем связи статистическую науку, раздел статистической механики. И действительно, понятия статистической механики вторгаются во все отрасли науки уже более ста лет. Мы увидим далее, что эта преобладающая роль статистической механики в современной физике имеет самое существенное значение для понимания природы времени. В случае же техники связи значение статистического элемента непосредственно очевидно. Передача информации возможна лишь как передача альтернатив. Если нужно передавать одну-единственную возможность, то лучше всего и легче всего это сделать тем, что не посылать вообще никакого сообщения. Телефон и телеграф могут выполнять свои функции только в том случае, когда передаваемые ими сообщения беспрерывно изменяются, причем эти изменения не определяются полностью прошлой частью сообщений. С другой стороны, эффективное проектирование телефона и телеграфа возможно только при том условии, что изменения передаваемых сообщений подчиняются каким-нибудь статистическим закономерностям.
Чтобы подойти к технике связи с этой стороны, нам пришлось разрабатывать статистическую теорию количества информации. В этой теории за единицу количества информации принимается количество информации, передаваемое при одном выборе между равновероятными альтернативами. Такая мысль возникла почти одновременно у нескольких авторов, в том числе у статистика Р.А. Фишера, у д-ра Шеннона из Белловских телефонных лабораторий и у автора настоящей книги[93]. При этом Фишер исходил из классической [c.55] статистической теории, Шеннон — из проблемы кодирования информации, автор настоящей книги — из проблемы сообщения и шумов в электрических фильтрах. Следует, однако, отметить, что некоторые мои изыскания в этом направлении связаны с более ранней работой Колмогорова[94] в России, хотя значительная часть моей работы была сделана до того, как я обратился к трудам русской школы.
Понятие количества информации совершенно естественно связывается с классическим понятием статистической механики — понятием энтропии. Как количество информации в системе есть мера организованности системы, точно так же энтропия системы есть мера дезорганизованности системы; одно равно другому, взятому с обратным знаком. Эта точка зрения приводит нас к ряду рассуждений относительно второго закона термодинамики и к изучению возможности так называемых «демонов» Максвелла. Вопросы такого рода возникают совершенно независимо при изучении энзимов и других катализаторов, и их рассмотрение существенно для правильного понимания таких основных свойств живой материи, как обмен веществ и размножение. Третье фундаментальное свойство жизни — свойство раздражимости — относится к области теории связи и попадает в группу идей, которые мы только что разбирали[95].
