Затейливое слово «кибернетика»
«Везёт же некоторым», думаю я, вспоминая, как 12 лет назад познакомился с Бенционом Флейшманом (далее Б.Ф.), открывшим мне научный мир вне естествознания. Этот мир я назвал бы искуснознанием (если не возражает Институт русского языка). А в исторических терминах это — дееспособная часть того, что Норберт Винер назвал КИБЕРНЕТИКОЙ, объяснив в заглавии книги 1948 года: «Кибернетика, или управление и связь в животном и машине» (русский перевод — «Советское радио», 1958).
Винер, вероятно, не знал о наблюдении Джека Лондона: «Сколько я ни встречал собак с затейливыми кличками, все они никуда не годились. …Они слабеют и в конце концов издыхают».
Затейливое слово «кибернетика», гремевшее в 1950-х, к концу 70-х стихло и стало уходить в историю. На Западе его заместило название «computer science», а в России «информатика» (см. «Очерки истории информатики в России», 1998). При этом замысел кибернетики как целостной науки уступил место собранию более или менее связанных задач и теорий. В старой кибернетике было слишком много слов, мечтаний и опасений, «может ли машина мыслить». В наше трезвое время эксперты в области «искусственного интеллекта», выступая публично, обычно объясняют условный характер этого термина, признавая, что наука пока не знает, как работает интеллект естественный. (А если «искусственным интеллектом» называть любое устройство, делающее нечто, до того доступное лишь человеку, но быстрее и точнее, то первое такое устройство — арифмометр — появилось еще в XVII в.).
Появление кибернетики связано с применением инженерно-математических моделей в областях, традиционно называемых теорией информации, теорией игр и теорией надежности. Первые два названия, по мнению Б.Ф., следовало бы изменить, соответственно, на теорию потенциальной помехоустойчивости (или инфоустойчивости) и теорию управляемости. В этих теориях объект рассмотрения — субъект, делающий целенаправленный выбор, принимая решения о способе взаимодействия с окружающим миром, или со средой. Фундаментальные понятия — субъект, цель, выбор способа ее достижения в обмене ресурсов со средой, и эффективность выбранного способа — образуют основу теории потенциальной эффективности, о которой и пойдет речь в дальнейшем. Теория эта, подобно старой кибернетике, исследует проблемы в двух сферах реальности, ближайших к человеку, — в техносфере, созданной им, и в биосфере, из которой он произошел.
Понятия субъекта, цели и выбора (принятия решения) хоть и звучат антропоморфно, не предполагают обязательную роль сознания. Эти начальные понятия (подобно понятиям точки и прямой в геометрии) определяются не каждое по отдельности, а своими взаимосвязями, и подкрепляются конкретными интерпретациями, описывающими «поведение» тех-субъектов, начиная с простейших, и био-субъектов, начиная с одноклеточных. Мысль о том, что даже одноклеточный живой организм можно считать субъектом, отнюдь не общепринята, но к нашему времени для нее появились конкретные основания (о которых ниже).
Гораздо легче увидеть целенаправленность в техносфере. Мышеловка и межпланетный зонд изобретены с вполне определенными целями и эти цели реализуют, «принимая решения» своим устройством — аналоговым или цифровым. Кавычки здесь поставлены лишь потому, что обычно «принятие решения» приписывают только людям. Если же разобраться, как именно мышеловка срабатывает, то увидим, что в самой ее конструкции заложена определенная «аналоговая программа» действий, которая «обнаруживает» мышь, и та «сама» приводит мышеловку в действие. Автоматический межпланетный зонд посредством своей цифровой программы действий реагирует на меняющиеся обстоятельства экспедиции. Вряд ли кто, однако, припишет указанным тех-субъектам некое сознательное целеполагание.
На сегодняшний день сложнейший тех-субъект несравнимо проще простейших живых существ. Когда кошка преследует мышь, цели обеих кажутся вполне очевидными, но нередко говорят, что у животных целей нет, а есть лишь инстинкты. Если «обесчеловеченное» понятие цели необходимо для адекватного описания мышеловки, то почему не сказать, что «живая мышеловка», она же кошка, стремится к цели инстинктивно?
Так или иначе, описание целенаправленного поведения субъектов выходит за пределы естествознания, образец которого — физика, где нет места понятиям цели, выбора и субъекта принятия решения. Слово «естествознание», весьма историчное (и даже архаичное), произошло от слова «естество», что означает «природа», как и слово «физика» — от греческого слова «природа». Из естественных наук лишь биология изучает (помимо физико-химических механизмов жизни) целенаправленное поведение — поведение био-субъектов, которые более или менее искусно используют ресурсы окружающего мира. Таким образом, можно различать науки о природе и науки об искусности.
Это различие заметили еще в Древней Греции. Уже Аристотель противопоставлял techne и physis — рукотворно созданное человеком и сущее независимо от него. Сохранившийся с тех пор текст «Механические проблемы» начинается так:
«Изумляет и то, что происходит в природе по неизвестной причине, и то, что люди делают вопреки природе благодаря своему искусству для своей пользы. Природа многое делает против нашей выгоды, ведь она всегда следует по одному пути без отклонений, а выгода бывает разной. Когда нужно сделать нечто вопреки природе, применяют искусство, которое мы называем механическим. Как сказал об этом поэт Антифон: “Природу мы побеждаем искусством”. Таков тот случай, когда малым усилием движется большой груз. Механические проблемы, не совпадая с физическими и не слишком далеко от них отстоя, имеют нечто общее с математическими и физическими теоремами: ведь математика разъясняет “как”, а физика — “что”».
О подобном сопоставлении физики и «искусства» я задумался лишь в ходе общения с Бенционом Флейшманом, автором монографии «Элементы теории потенциальной эффективности сложных систем» (Москва, Сов. радио, 1971).
А началось наше общение в 2008 году… с физики.
Я тогда понятия не имел, что передо мной доктор физматнаук, который свой путь в науке начал за год до рождения нового слова науки — «кибернетика», в весьма экзотическом месте — в совсекретном центре криптографии МГБ (министерство, принявшее эстафету госбезопасности от НКВД и передавшее КГБ). Пригласили его в это заведение, когда он еще писал дипломную работу на Кафедре теории вероятностей мехмата МГУ. Руководил кафедрой и его дипломной работой академик А.Н. Колмогоров.
Бенцион Флейшман, 2008 (год нашего знакомства)
Передо мной был невысокий, энергичный человек с проницательным взглядом и с шикарной бородой. Не тратя время на светские манеры, он поинтересовался, чем я занимаюсь. Узнав, что историей физики, «историю» он пропустил мимо ушей и подытожил: «Прекрасно! Физики нам нужны!» Не объясняя, кому это «нам», он спросил, знаю ли я о пределе Бремерманна. Узнав, что нет, объяснил, что это — предел быстродействия любого компьютера, предел осуществимости инженерно-вычислительной задачи, предел человеческого могущества. И предел этот основан на физических константах скорости света c и постоянной Планка h.
Очень удивился я, что никогда не слышал о таком фундаментально-физическом пределе. Хотя хорошо известны пределы, установленные физическими законами: законами сохранения, вторым началом термодинамики, максимальностью скорости света. Скорость быстродействия компьютера, казалось бы, зависит лишь от прогресса электроники и программирования, но не от фундаментальной физики.
Не меньше удивился я, что в новом пределе участвуют лишь две фундаментальные константы. А как же третья — гравитационная константа G?! Мой главный подопечный герой (из-за которого я стал историком науки) Матвей Бронштейн (1906–1938) научил меня смотреть на историю фундаментальной физики через cGh-призму. Именно эти три константы входят в формулировки самых глубоких ныне физических теорий.
Предел Бремерманна
Придя домой, я нырнул в интернет и выяснил, что неизвестный мне H.J. Bremermann еще в 1962 году задал вопрос: Ограничивается ли законами физики быстродействие обработки данных в любой материальной системе (далее «компьютер»), как биологической, так и технической? И ответил на него положительно: предел быстродействия M(c2/h) пропорционален массе системы M и равен ~2×1047бит в секунду на один грамм массы. Эта вроде бы огромная величина, как указал сам Бремерманн, ничтожно мала для вполне обозримых задач вроде перебора вариантов черно-белой мозаики в квадрате 100×100 элементов.
Вывод формулы, занявший у Бремерманна десяток строк, смахивал на манипуляцию знаменитыми формулами E=mc2 и DtDE>h. Но исходный вопрос выглядел замечательно. Поразмыслив, я убедился, что и вывод имеет смысл. Осталось лишь понять, как этот вывод обошелся без гравконстанты? На несколько дней я вернулся к своей первой профессии — в теорфизику — и нашел слабое место в рассуждениях Бремерманна. Помогла мне в этом вторая профессия — размышления над главным результатом Бронштейна — анализом квантовой (не)измеримости гравитационного поля.
Сколь бы абстрактным ни был материальный компьютер, у него помимо массы должен быть некий пространственный размер, и этот размер не может быть меньше его гравитационного радиуса. Учет этого меняет и результат Бремерманна, давая уже абсолютный — не зависящий от массы компьютера — максимум быстродействия (ΔtcGh )-1 = (c5/Gh)1/2 = ~ 1043 бит в секунду[1]. Не удивительно, что минимальное время на одну операцию оказалось “планковским”. Планковские величины, как впервые обнаружил М. Бронштейн, определяют границу применимости теории гравитации Эйнштейна, уже более ста лет ожидающей свое квантовое обобщение[2].
Разобравшись с физикой, ограничивающей информатику, я впервые задумался над смыслом винеровского определения кибернетики, связавшего союзом «и» животных и машины. Эту связь явно подразумевал Бремерманн. За разъяснениями я обратился к моему новому знакомому, который “по жизни” профессионально занимался разными задачами, приписанными к кибернетике. После семи лет занятий криптографией в самой компетентной конторе, он, уже в институтах АН СССР, занимался родственной проблемой обнаружения цели в радиолокации и родственными проблемами в экологии океана (родство в том, как обнаружить сигнал на фоне шума).
То, что я узнал с его помощью, изложу, помня совет Эйнштейна: «Все надо делать как можно проще, но не проще, чем надо». И буду делать это под присмотром самого Б.Ф., который в свои 97 сохранил живой ум, научный энтузиазм и чувство юмора. Этими качествами он и заманил меня 12 лет назад в область искуснознания. Вскоре после знакомства он предложил мне стать его виртуальным аспирантом в этой области, а самому стать моим аспирантом в истории физики. Наша аспирантура была, скорее, многолетним интервью с пристрастием, результатом чего и стала эта статья.
Что общего у животного и машины?
Узнав, что есть наука о происходящем «в животном и машине», кто-то может подумать, что для этой науки всякое животное — некая хитрая машина. Как, наверно, и человек. А вовсе не богоподобный венец творения. Спешу успокоить (или разочаровать): подобие Творцу в одном отношении — в способности к творчеству — не исключает подобия машине в другом — в целенаправленности. И второе подобие — следствие первого: все машины, все инструменты созданы человеком для каких-то его целей. Поэтому невозможно адекватно описать любой инструмент — скажем, молоток — сам по себе, без учета того, кто, как и с какой целью им пользуется. Для разумного существа размером 20 см или 20 м, человеческий инструмент уже не будет инструментом. И невозможно адекватно описать мышеловку, ничего не зная о существовании живых существ, подобных мышам.
Целесообразность поведения настолько привычна для человека, что Аристотель вложил ее и в неживую природу (др.-греч. «фисис»), придумав слово «физика» и написав трактат с таким названием. По его представлениям, тяжелые тела стремятся к заветной цели — к Центру Мира, совпадающему с центром Земли, а легкие тела, наоборот, стремятся куда подальше от этого Центра. Понадобились два тысячелетия и Галилей, чтобы отказаться от таких представлений.
В поведении легко наблюдаемых живых существ, вроде кошек и собак, стремление к некой цели чаще всего очевидно невооруженному глазу. А вооруженный глаз многих биологов видит в этом лишь действие более или менее сложных «инстинктов», считая целеполагание осознанным рациональным планированием, доступным лишь высокоорганизованным существам. Однако даже у человека, желающего бесцельно побродить по парку, можно обнаружить неосознанную цель — отдохнуть или продумать возникшую жизненную ситуацию. Бывают у людей цели столь не рациональные, как воплощение неизвестно откуда взявшегося замысла в поэзии.
Живым существам легче всего приписать стремление продлить свою жизнь, а точнее, жизнь своих генов. Био-субъекты, у которых такой цели не было или она слабо влияла на их поведение, отбраковывались естественным отбором в эволюции. Альтруистическое поведение — самопожертвование — биологи распаковывают с помощью популяционной генетики, обнаруживая обобщенную цель самосохранения рода, или продолжения жизни «своих» — родственных — генов. Этим, однако, не исчерпывается поведение живых существ, если они не слишком просты. Разобраться в целях обитателей биосферы и, тем более, ноосферы — дело очень непростое. Поэтому лучше всего начать с простейших — одноклеточных — форм жизни, которые были «в самом начале» миллиарднолетней эволюции жизни.
А вот в техносфере, порожденной руками и мозгами обитателей ноосферы, ситуация радикально упрощается. Ведь, создавая очередной «инструмент» (мышеловку или межпланетный зонд), человек закладывает в него тем или иным образом вполне определенную цель, нужную ему. И это делает техносферу прекрасной лабораторией для общей науки об искусности. Исследование тех-субъектов может пригодиться для исследования био-субъектов так же, как исследование свободного падение Галилеем — для небесной механики Ньютона. Сама возможность общего языка для описания явлений, разных по своей природе, но сходных по поведению, известна в физике, где, по выражению акад. Л.И. Мандельштама, «интернациональный язык теории колебаний» охватывает явления механики, акустики, оптики, электродинамики.
В романе «Война и мир» имеется такое небесспорное сравнение:
«Как солнце и каждый атом эфира есть шар, законченный в самом себе и вместе с тем только атом недоступного человеку по огромности целого, — так и каждая личность носит в самой себе свои цели и между тем носит их для того, чтобы служить недоступным человеку целям общим».
Не критикуя научный уровень первой половины сравнения, посмотрим на вторую. Великий русский нефизик полагал, что «недоступные общие цели» ставит Всевышний, но спустя десять лет открыл для себя доступ к этим общим целям и радикально изменил свои цели личные. А тех-субъект носит в себе цель, заложенную его создателем, не подвергая ее сомнению, до конца своей жизни. И эта цель не обязана состоять в максимальном продлении собственной жизни: цель жизни дрона-камикадзе, например, — погибнуть, нанеся максимальный урон противнику, в чем можно увидеть и тех-модель альтруизма.
Если же этот дрон не найдет достойную цель, то его «естественная» продолжительность жизни определяется его надежностью, которая, в свою очередь, зависит от надежности составляющих элементов, а также от способности обнаруживать неисправные элементы и заменять их на дублирующие новые. В предыдущем предложении встретились три источника, три составные части теории потенциальной эффективности: надежность, (информационная) связь и управление (материальным) выигрышем.
Историческое начало следует отнести к 1928 году, когда Джон фон Нейман доказал первую теорему будущей теории игр.
Что наша жизнь? Игра?!
Во всякой игре — как и в жизни — субъект ищет наилучший ход в неопределенных условиях, не зависящих от субъекта. Он управляет лишь своими действиями и хочет это делать наиболее эффективно. Об этом — теория игр, изучающая разные игровые модели.
В простейшей игре участвуют два игрока, а правила задаются таблицей (выигрышей) из двух строк и двух столбцов. Первый игрок выбирает номер строки, второй — номер столбца, их пересечение дает результат игры для первого игрока (а с минусом для второго). При этом игроки не знают о выборе друг друга.
Например, если играют на пряники с таблицей выигрышей:
и оба игрока выбрали 1, то первый игрок получает от второго 8 пряников. Если же первый выбрал 1, а второй 2, то первый игрок отдает второму 2 пряника.
Спрашивается, как выбирать, чтобы увеличить свой выигрыш? Согласно теореме фон Неймана, выбирать следует по жребию! Но жребий должен быть не равновероятным, как симметричная монета, а РАЗНОвероятным, завися от таблицы выигрышей. Приведенной таблице соответствуют вероятности выбора 1/3 и 2/3, а средний выигрыш равен 4/3 (сделать такой жребий можно из обычного игрального кубика, написав на двух его гранях 1, а на остальных 2).
Какое отношение абстрактная теорема фон Неймана может иметь к реальной жизни? Во-первых, она моделирует роль неопределенности в жизни первого игрока, которого назовем Субъектом. Второго игрока, с точки зрения первого, можно понимать как внешнюю Среду, не зависящую от Субъекта. Среда эта может быть в двух разных состояниях. Исследуя свойства Среды, Субъект может выявить (интуитивно или научно-исследовательски) таблицу своей жизненной игры и на основе этой таблицы действовать оптимально, при этом «оптимальное» поведение, оказывается, содержит (закономерный) элемент случайности.
Субъект не обязан ставить целью именно увеличить свой выигрыш, он может стремиться уменьшить его (если, например, хочет задобрить партнера, подыграть ему). И тогда ему надо делать ход вопреки указанию жребия. Главное, чтобы была цель и стремление выбрать эффективный путь к ее достижению.
Теорема фон Неймана моделирует фундаментальное свойство жизни игрока — ставить цель и делать выбор в неопределенных обстоятельствах. Подобный выбор приходится делать не только человеку в карточной игре. Знаменитый буриданов осел, в логически тупиковой ситуации — между двумя совершенно одинаковыми охапками сена, если он инстинктивно стремится продлить свою жизнь в этом лучшем из миров, ручаюсь, сделает выбор, не раздумывая долго. Каков нейрофизиологический механизм его — нелогического — выбора, пусть объяснят биологи-физиологи. А биологи-эволюционисты пусть объяснят, как такой механизм образовался.
Для начала я бы предложил объяснить подобный выбор у существ гораздо более простых — одноклеточных. В конце 2019 года появилась научная новость об одноклеточном животном с красивым именем Stentor roeselii, которое в своем поведении принимает решения, выбирая между четырьмя возможными действиями[3]. Даже если механизм этого выбора случайный, основанный на «жребии», все равно это — выбор. В современной биологии появились и теоретические доводы в пользу понятия целенаправленного поведения даже простейших живых организмов[4].
Stentor roeselii, Wikipedia
Биологи с философским уклоном могут размышлять над тем, что стоит за возникновением и эволюцией этого механизма выбора: Природа-мать с ее естественным (т.е. природным) отбором, как верят биологи-атеисты, или Бог-отец, который изобрел саму эволюцию в сотворённой Им природе, как верят биологи-теисты. Второго взгляда придерживался автор знаменитой фразы «В биологии все обретает смысл лишь в свете эволюции» — Феодосий Добржанский (Th. Dobzhansky, 1900–75), один из создателей современной теории эволюции, основанной на генетике[5].
Независимо от того, есть ли у био-эволюции божественная цель создания человека, как венца творения, или же человек — лишь случайный результат бесцельной эволюции, временной масштаб проявлений био-эволюции соответствует множеству поколений на протяжении тысяч и миллионов лет. А явления, изучаемые биологами в лабораториях и в природных условиях, происходят на глазах и для своего описания требуют понятий почти мгновенных, когда речь идет, скажем, о взаимодействии кошек и мышек. При этом естественная модель целенаправленного поведения вовсе не требует раскрытия переживаний сложно устроенных животных. Если мышки — единственное средство существования кошки, то достаточно понять, насколько эффективно кошка это средство добывают, насколько она приспособлена к жизни, чтобы выдержать естественный отбор. Кошки, однако, лишь ночью одинаково серые, у каждой свой характер и, вероятно, свои переживания.
Более простой пример дают летучие рыбы, которые характерами не различаются, живут стайками-косяками и питаются исключительно планктоном. В Институте океанологии АН изучали их стаеобразование, и Б.Ф. предложил модель, основанную на целенаправленном механизме стаеобразования («раскосячивания») и давшую связь между распределением пятен планктона и числом рыб в стайке.
И, наконец, самый простой пример — фитопланктон. В начале 1970-х океанологи обнаружили странность вертикального распределения фитопланктона: два максимума плотности на разной глубине. В то время жизнь фитопланктона объясняли на основе балансов «живого вещества», но в такое объяснение «двугорбость» не укладывалась. Математик Б.Ф. увидел в одноклеточных водорослях не «живое вещество», а живые существа и предположил причину двугорбости в наличии двух типов водорослей, имеющих разные предпочтения к уровням освещенности и солености воды. Разные предпочтения могут означать разные целевые установки и, соответственно, типы поведения даже у столь «минимальных» организмов (скажем, движение подобно Stentor roeselii к предпочтительному для данного вида уровню освещенности-солености).
В 1970-е годы видеть в одноклеточных организмах био-субъекты было «несвоевременно». В нынешней биологии такие основания появились, но не хватает общего языка для описания целенаправленной деятельности. Такой язык и предлагает теория потенциальной эффективности. А жизнедеятельность одноклеточных био-субъектов фитопланктона может быть первой — простейшей — областью приложения этого языка, поскольку речь идет о простейших формах жизни. К тому же, эта форма жизни важна для биологии океана, а, возможно, и для понимания начальных фаз развития жизни, поскольку генетически это уже наша земная жизнь.
Успешность такого приложения могла бы обогатить общую методологию эволюционного подхода. То, что сейчас в биологии называется «теорией эволюции», объясняет многие биологические явления, но принципиально отличается от теорий в физике, дающих вполне определенные предсказания. Математические модели широко применяются в биологии обычно для статистического анализа эмпирических данных, но, в отличие от физики, не для описания системы на основе модели ее элементарного составляющего — живого существа (био-субъекта). Нынешняя теория эволюции не может предсказать даже качественно, что произойдет через сотни миллионов лет с популяцией земного фитопланктона, высаженной на необитаемой планете с погодными условиями, подходящими для земных форм жизни. Выживет ли она, появятся ли там животные и какой сложности?
Ключевой механизм эволюции — естественный отбор вместе с механизмами изменчивости и наследственности, понимается как «выживание наиболее приспособленных». Такое понимание, однако, содержит неопределенность или даже замкнутый круг, если приспособленным называть тот вид, который выжил на протяжении многих поколений. Круг можно было бы разомкнуть, если удастся оценить приспособленность/эффективность био-субъекта. На этом пути можно надеяться осмыслить и происхождение (простейших форм) жизни.
Вернемся к исторически первому языку для описания эффективности — оптимальной стратегии — субъекта в неопределенном мире в теории игр фон Неймана. Там субъект, постоянно имеющий дело с неопределенностями внешней Среды, стремится использовать оптимальную стратегию, интуитивно или научно-исследовательски выясняя таблицу своей игры и выбирая очередной шаг на жизненном пути.
Описанную выше простейшую (двумерную) модель теории игр можно развивать, увеличивая число строк и столбцов в таблице выигрышей и переходя к модели многошаговой игры, когда одношаговая игра повторяется многократно, а разыгрывается большая (по сравнению со средним выигрышем) величина ресурса — «целый ящик» пряников. Многошаговость вводит в рассмотрение ресурс времени игрока, — продолжительность одного шага игры задает единицу времени. Многошаговая игра моделирует обмен игроком своего ресурса времени на ресурс «пряников» — любых полезных игроку ресурсов. Этот процесс описывается понятием потенциальной управляемости, определяемой как вероятность «выиграть» данный объем ресурса за данное время.
В жизни и деятельности конкретных био- и тех-субъектов роль абстрактных пряников занимает материально-энергетическое «питание» и, конечно же, информация, на основе которой субъект принимает свои решения, делая целенаправленный выбор. А когда речь идет об информации в реальном мире, неизбежно возникают помехи — случайный шум, искажающий информацию.
Средь шумного бала…
или в вагоне метро можно увидеть привлекательного субъекта, но понять ее/его ответ на завлекательный вопрос будет мешать шум. И такого рода помеха неизбежна в реальном мире. Меняется лишь уровень шума.
С решения этой проблемы началась теория информации, или теория инфоустойчивости, в статье Клода Шеннона «Математическая теория связи» в том же 1948 году, когда явилась и книга Винера «Кибернетика».
В простейшей модели исходный текст передается двумя символами, скажем, точкой и тире или 0 и 1, для чего каждую букву заменит ее двоичный номер в алфавите, дополненный спереди нулями (до пяти знаков, если алфавит латинский: a= 00001, b=00010, … z=11010; до шести знаков, если алфавит русский, где букв больше). Слова станут раз в 5–6 длиннее, но зато проще рассказать о зловредной роли шума. Шум описывается вероятностью искажения символа — превращения 0 в 1 или 1 в 0. Чем выше уровень шума, тем больше вероятность искажения. Простой (хоть и не оптимальный) способ справиться с помехами — повторять каждый символ N раз, где N зависит от уровня шума и от того, насколько малой допускается вероятность ошибки в приеме символов. В результате исходный текст помехоустойчиво закодирован и готов к передаче. Адресат, получив тот же набор из N символов, но искаженных шумами, декодирует его, считая, что передавался символ, который оказывается в большинстве в этом наборе. При этом для передачи текста с заданной точностью требуется затратить тем большее время, чем выше уровень шума. При оптимальном кодировании, придуманном Шенноном, за то же самое время можно передать гораздо больший исходный текст, но, увы, как и фон Нейман, Шеннон доказал лишь теорему существования оптимального кодирования (поэтому конкретно указать его в общем случае невозможно, а объяснить гораздо сложнее).
Здесь стоит уточнить, что в теории информации текст — это не его смысл, а всего лишь порядок букв. Вот как это пояснил А.Н. Колмогоров:
«Поэт может вложить в «сообщение» из 400 печатных букв (несущее информацию порядка 103 «бит», т.е. количественно ничтожную с точки зрения современной техники) целый мир чувств, который справедливо признается неподдающимся «формализации» в понятиях, и создать с такими скромными средствами «канал связи» непосредственного эмоционального общения со своими современниками и потомками, раскрывающий, разрывая ограничения пространства и времени, его неповторимую индивидуальность. Замечу, что мнение о «неповторимости» не противоречит арифметике. Число возможных русских стихотворений из 400 букв имеет порядок 10100».
Колмогоров, можно сказать, привез теорию информации в СССР и так описал это в предисловии к русскому изданию книги Шеннона:
«Значение работ Шеннона для чистой математики не сразу было достаточно оценено. Мне вспоминается, что еще на международном съезде математиков в Амстердаме (1954 г.) мои американские коллеги, специалисты по теории вероятностей, считали мой интерес к работам Шеннона несколько преувеличенным, так как это более техника, чем математика. Сейчас такие мнения вряд ли нуждаются в опровержении.»
Не случайно, что основоположник теории информации Клод Шеннон и автор теории потенциальной эффективности Бенцион Флейшман начинали с криптографии. Задача криптографии — закодировать (зашифровать) сообщение так, чтобы «для чужого глаза» оно выглядело хаотичным набором символов, но чтобы свой адресат мог его расшифровать. Задача помехоустойчивого кодирования — защитить сообщение от хаоса природных помех. Но задачи эти связаны друг с другом.
«Уровень шума» в модели помехоустойчивой связи и «таблица выигрышей» в модели игры за выживание вводятся извне. В приложении этих моделей к реальности внешние «вводные» параметры — результат исследования реального мира. Оба эти вида знания необходимы для эффективного функционирования — «продления жизни» — Субъекта, что является задачей теории надежности.
Вопрос жизни и смерти
Общее свойство тех- и био-субъектов и их отличие от объектов естествознания — конечность жизни. Каждый субъект живет и умирает, а после смерти его тело становится всего лишь объектом. Поэтому в искуснознании продолжительность жизни — одна из важнейших характеристик субъекта. Его цель жизни задана извне — в процессе создания тех-субъекта или возникновения био-субъекта. Достигая эту цель искусным применением помехоустойчивой связи и управлением игрой с окружающей средой, субъект, ясное дело, должен быть жив-здоров.
Ключевое понятие для обсуждения продолжительности жизни тех-субъекта — надежность, которая определяется как вероятность «дожить в здравии» до возраста t (время, прошедшее от момента рождения/создания субъекта). Надежность био-субъекта привычнее было бы называть «жизнеспособностью», хотя смысл один и тот же.
Механизмы тех- и био-субъектов, определяющие их надежности, качественно различны. Тех-субъект «погибает» — теряет дееспособность, когда выходит из строя какой-то его незаменимый элемент. А в био-субъекте происходит постоянное обновление-воспроизведение его «незаменимых элементов» по инструкциям в тексте генома, но в этом процессе случаются и накапливаются ошибки, со временем уменьшая дееспособность био-субъекта до нуля. Это — процесс старения. На языке помехоустойчивости его можно понимать как накопление ошибок декодирования-прочтения инструкций генома под воздействием «молекулярного шума», вызванного внутренними и внешними обстоятельствами (вроде теплового движения молекул внутри организма и «плохой экологии» снаружи). А замедлять процесс старения тогда можно, уменьшая уровень шума в организме био-субъекта.
Общепринятой полной теории старения пока не создано. Наряду с конкретными исследованиями отдельных факторов старения и способов противостоять им, предложены и концептуальные новации в понимании живого организма как целостной системы. Со старой концепцией гомеостаза (способности поддерживать устойчивое состояние организма) конкурирует аллостаз — способность организма предугадывать потребности и мобилизовать ресурсы для предотвращения ошибок. Автор этой концепции, П. Стерлинг, в своей книге «What Is Health? Allostasis and the Evolution of Human Design» (2020) обсуждает разные аспекты эффективности устройства организма, как системы, формирующейся в процессе эволюции.[6].
Независимо от конкретных механизмов, определяющих надежность субъекта, для описания его жизнедеятельности на языке теории потенциальной эффективности достаточно самой величины надежности, как функции времени. В эволюции био-субъекта особую роль играет возраст, соответствующий появлению плодовитого потомства (смертью одноклеточного организма следует считать его гибель до возраста деления, но не само деление). Надежность имеет вероятностную природу и меру, поэтому точнее термин «потенциальная надежность», подобно потенциальной инфоустойчивости и потенциальной управляемости.
Такое понимание предложил Б.Ф., существенно дополнив винеровское определение кибернетики, включавшее лишь два сходства тех- и био-субъектов — «управление и связь». И он же установил предельный закон для надежности, подобно предельным законам фон Неймана и Шеннона.
Надежность тех-субъекта, состоящего из конечного числа элементов, не больше надежности наименее надежного элемента. Ситуацию можно улучшить, имея резерв запасных копий этого элемента, которые могут дублировать выходящий из строя. Б.Ф. исследовал математически идеализированную ситуацию, когда единственный источник ненадежности — выход из строя запасных элементов, доступных тех-субъекту. И получил любопытный результат. Если ресурс запасных копий неограничен, то, чтобы поддерживать надежность на заданном уровне (сколь угодно близком к единице, что означает практическое бессмертие), число подключенных элементов должно расти со скоростью, не меньшей, чем логарифм времени K lg t (где K — некоторая константа).
Этот результат Б.Ф. получил, работая в Институте океанологии. И он спросил тамошних биологов, известны ли случаи логарифмического роста. Оказалось, что биолог Г. Бакман еще в 1940-е годы обнаружил, что таковы начальные стадии роста, когда уязвимость особенно велика (G. Backman, 1943). Похоже на то, что биосфера воспользовалась техносферным способом обеспечить надежность жизни, предельно экономно уменьшая вероятность гибели на самой уязвимой стадии.
Это еще один довод в пользу того, что понятие искусности, оптимальности, эффективности в проблемах технологии и биологии заслуживает выработки общего языка и что теория потенциальной эффективности дает ключевые слова такого языка[7]. А новый язык, как известно из истории науки, открывает новые возможности для постановки вопросов и проведения исследований. Такие исследования могут помочь понять невероятную эффективность известных форм жизни, а то и оценить вероятность ее осуществимости.
Теория и практика или практика и теория?
Почему Винер и другие пионеры кибернетики не видели важность понятия надежности, вопрос к их биографам. Винер, надо сказать, пользовался безоговорочным авторитетом отнюдь не у всех, кто всерьез размышлял о смысле и определении новорожденной кибернетики. Один из таких серьезных людей — А.Н.Колмогоров — писал в 1959 году: “Сейчас уже поздно спорить о степени удачи Винера, когда он в своей известной книге в 1948 году выбрал для новой науки название «кибернетика»”[8]. Название-то ушло в историю, но задача «самоопределения» новой науки осталась. Колмогоров понимал, что главная тема новой науки связана с описанием целенаправленной деятельности живых организмов и технических устройств, но определение дал весьма близкое к Винеру: «Кибернетика занимается изучением систем любой природы, способных воспринимать, хранить и перерабатывать информацию и использовать ее для управления и регулирования».
В этом определении главное слово — «информация», что может объяснить, почему советские кибернетики заменили затейливое греческое имя, данное Винером, на скучноватую «информатику». С этим, однако, плохо вяжется безграничный кибер-оптимизм самого Колмогорова:
«Я принадлежу к тем крайне отчаянным кибернетикам, которые не видят никаких принципиальных ограничений в кибернетическом подходе к проблеме жизни и полагают, что можно анализировать жизнь во всей ее полноте, в том числе и человеческое сознание со всей его сложностью, методами кибернетики».
А как же «целый мир чувств, не поддающийся формализации», о котором напоминал сам Колмогоров? «Человеческое сознание со всей его сложностью» включает в себя не только какие-то субъективные «необязательные» эмоции, не существенные для научного познания. Напомню, что, по мнению Эйнштейна, “моральные взгляды, чувство прекрасного и религиозные инстинкты помогают мыслительной способности прийти к ее наивысшим достижениям”. В человеческом сознании-познании участвуют и теоретические — «иллюзорные» — научные понятия, и художественные образы разного рода (включая религиозные), не имеющие (насколько известно) значения для животных иных видов.
Поэтому стоит умерить отчаянный кибер-оптимизм и не трогать ноосферу, ограничиваясь со-исследованием техно— и биосферы. Так думает Б.Ф., который когда-то, поддавшись всеобщему энтузиазму, и сам пытался размышлять о понятиях «самоорганизации» и «обучаемости». Никакого существенного успеха в этих направлениях (пока?) не получилось. И это похоже на осознание очередного предела могущества, «самоограничения» научного познания. Более известные примеры таких «самоограничений» дала физика, открыв невозможность вечного двигателя, невозможность разогнать какой-то объект до сверхсветовой скорости, невозможность совместного сколь угодно точного измерения скорости и положения частицы.
А вот добавить к двум первым понятиям кибернетики «управление и связь» понятие надежности возможно и даже необходимо, как считает Б.Ф.
Само направление «Теория надежности», включающее в себя множество конкретных задач и методов их решения, давно существует, но его принято вписывать в «техническую кибернетику». Тут опять возникает вопрос, что же такое «кибернетика»?
Колмогоров размышлял об этом еще в 1957 году:
«Лишь с натяжкой можно было бы назвать кибернетику «частью математики». Положение здесь аналогично с теорией вероятностей: в рамках чистой математики теория вероятностей может восприниматься как частная глава теории меры или теории булевских алгебр, но действительное ее значение этим очень мало разъясняется. На самом деле теория вероятностей занимает видное самостоятельное положение как наука о реальных стохастических (вероятностных) связях между явлениями. По-видимому, настало время между конкретными естественными и социальными науками, классифицируемыми по отдельным кругам реальных явлений (механических, химических, биологических, экономических и т.п. ), и математикой найти место для наук, имеющих дело с такими категориями, как случайность и вероятность (в реальном понимании этого слова), причинность, информация, связь, игра, стратегия и т. п., применимыми в весьма различных предметных областях, но не обладающими отвлеченностью собственно чисто математических понятий.»
Вряд ли Колмогоров видел в «т.п.» категорию надежности, не упоминал ее и в других текстах, хоть и смотрел на реальную жизнь весьма широко: «Ограничивать кибернетику управлением и связью в «животных и машинах» не целесообразно. Библиотеки, научные институты и прочие социальные объединения — столь же законные объекты внимания кибернетики». Любое социальное объединение, вплоть до государства или союза государств, подразумевает некоторую структуру управления и связи, в которой субъекты-индивидуумы могут соединяться в партии и другие социальные структуры в соответствии с установленной — легитимной — системой власти. На жизненном пути любого социального объединения совершается выбор за выбором, хотя бы при молчаливом согласии большинства составляющих его субъектов. Совокупность таких выборов определяет принятие решения на высшем уровне власти. Любое объединение субъектов тоже может погибнуть (=исчезнуть, раствориться) так же, как любой субъект. А, значит, и здесь необходимо понятие надежности, как жизнеспособности.
Почему же знаменитый математик Колмогоров не видел важности этого понятия, которую увидел его незнаменитый дипломник Б.Ф.? Оба входили в меньшинство математиков, активно интересующихся реальным миром за границами идеально чистой математики (в это меньшинство входили, например, А. Пуанкаре, А.А. Фридман и Дж. фон Нейман). Колмогоров все же глядел на мир глазами математика, сказав о Шенноне (в 1963 г.): «Его в равной мере можно считать одним из первых математиков и одним из первых инженеров последних десятилетий».
А Б.Ф. свои автобиографические записки назвал «Я — не математик». Конечно же, он — математик, но математика для него — прежде всего инструмент познания реального мира, а не игра в математический бисер.
К Колмогорову его привела музыка, которая уже в студенческие годы была важной частью его жизни. Думая о том, что отличает одного композитора от другого, он пришел к мысли охарактеризовать стиль композитора в точных вероятностных понятиях. Что и привело его на кафедру теории вероятностей, которую возглавлял Колмогоров, с надеждой, что тот согласится руководить его дипломной работой «Гармоническая теория музыки». Полистав рукопись, Колмогоров признался, что ему «медведь наступил на ухо», и предложил совсем другою тему — о ветвящихся случайных процессах.
Музыковедческую идею заглушила теория вероятностей, которая воцарилась в душе на всю жизнь и из-за которой выпускника мехмата «распределили» в некую в/ч №12345, где самые компетентные органы страны ведали криптографией. То был 1947 год — вероятно, последний год, когда «пятый пункт» анкеты Бенциона Флейшмана не помешал взять его в кадры ГБ. Семь лет спустя, тот же пункт вкупе с неподобающим свободолюбием помогли выпихнуть оперуполномоченного математика из рядов советских криптографов и полтора года не пускать его в научные ряды.
В итоге он дважды благодарен компетентным органам: и за то, что взяли его, и за то, что выпихнули. Семь лет он работал не за страх и не за совесть, а за страсть к решению интересных задач. Работал в шикарных условиях. Органы — правдами и неправдами — снабжали его новейшей научной информацией с Запада. Особенно важны были работы А. Тьюринга по криптографии и А. Вальда по математической статистике. Опираясь на них, Б. Флейшман догнал и перегнал А. Тьюринга в науке криптографии.
Что значит «перегнал»? Как известно, во время Второй мировой войны Тьюринг разработал метод расшифровки знаменитого германского шифратора Enigma, что значительно усилило военный потенциал Великобритании. Любая расшифровка включает в себя перебор вариантов, который требует времени. Если вариантов «слишком много», задача не осуществима, или потребует столь долгого времени, что сообщение станет «прошлогодним снегом». Если же вариантов просто «очень много», надо придумать, как их все перебрать за нужное время, либо придумать, как уменьшить число вариантов. Тьюринг имел дело с шифрованием «3-этажным» (скажем так, не вдаваясь в суть) и успешно прошел первым путем, перебирая варианты последовательно.
Ко времени прихода Б.Ф. в криптографию Энигма уже была «5-этажной», и первый путь стал непроходим. А второй путь был открыт для искусной изобретательности. По нему и пошел Б.Ф., не просто придумав, как расколоть 5-этажный шифр, но предложив общий метод дешифровки «многоэтажного» шифра, используя параллельный перебор.
Покидая в/ч №12345, Б.Ф. взял с собой опыт своей изобретательности. И применил его в Институте радиотехники и электроники (ИРЭ) АН СССР, решая, казалось бы, совсем другую задачу — распознать объект, попавший в объектив противоракетного радиолокатора. При этом практика опять помогла его теоретической изобретательности. И помогла двояко.
ИРЭ РАН. Конец 60-х годов. Сидят: В.А. Котельников (директор), М.А. Колосов (парторг), М.Е. Жаботинский. Стоят: Ю.В. Гуляев, А.М. Шаховской, А.Н. Выставкин, М.В. Персиков, Б.С. Флейшман, Н.А. Белова (профорг), Г.С. Ланцберг, М.Г.Голубцов
Во-первых, надо было учесть указание свыше, чтобы вероятности разных ошибок из-за шумов были существенно разного порядка, скажем, чтобы вероятность принять истинный сигнал за ложный должна была быть меньше 10-3, а ложный за истинный — меньше 10-10, т.е. чтобы ложная тревога не привела к началу ядерной войны. Теоретики и практики, исполняя это указание, его не обсуждали. Они создавали надежную систему, эффективно достигающую поставленную цель при заданных внешних границах. И такова типичная постановка задачи в искуснознании. Переходя из техносферы в биосферу и обсуждая «надежность», или жизнеспособность, скажем, одной «фитопланктонины», жизненное задание состоит в том, чтобы обеспечить выживаемость популяция фитопланктона при такой-то солености воды и освещенности. А возвращаясь к противоракетным тех-субъектам, которыми занимался Б.Ф. в ИРЭ, он обнаружил, что заданное огромное различие вероятностей ошибок двух типов позволяет задачу радиолокации решать гораздо эффективнее.
Во-вторых, и в самых главных для теории, именно общаясь с радиоинженерами, Б.Ф. обнаружил роль понятия надежности для тех-субъектов.
Ему осталось лишь познакомиться с миром био-субъектов. В этом ему опять помогло его свободолюбие, из-за которого его выставили из КГБ после семи лет службы. Из-за того же свободолюбия, после 13 лет работы в ИРЭ, ему посоветовали уволиться «по собственному желанию». Тогдашнее свое свободолюбие он сейчас называет инфантильным, но в стране, которую ведут твердой рукой по туннелю к свету где-то за поворотом, свободолюбие всегда выглядит детской наивностью.
Некоторые руководители советской науки были, однако, весьма терпимы к свободолюбию, понимая, что без него научных открытий не бывает. Последние тридцать лет трудового стажа Б.Ф. заработал в Институте океанологии, куда его пригласил директор института А.С. Монин, ученик Колмогорова. Именно там опыт общения теоретика Флейшмана с практиками криптографии и радиотехники дополнился общением с биологами и привел к синтезу — к теории потенциальной эффективности. Таким образом, практические задачи не ограничивали математическую фантазию Б.Ф., а стали плодотворным источником для нее.
Потенциальная эффективность и осуществимость
Соберем комплект понятий, нужных для описания жизни и деятельности субъекта. Для примера выберем простейший био-субъект — одноклеточный, цель которого — дожить до размножения (деления). А тех-субъекты возьмем сложнейшие — противоракетный комплекс (ПРО) и межпланетный зонд (МПЗ). Активности у них сходные — ориентация в пространстве и управление (коррекция) траекторией. А цели существенно различны: ПРО-субъект должен уничтожить нападающую ракету за время, пренебрежимо малое по сравнению с временем жизни ПРО-субъекта, а МПЗ-субъект должен успешно сесть на Марс за время, сопоставимое с временем жизни МПЗ-субъекта. В первом случае надежность можно не учитывать, а во втором — очень даже нужно.
Для достижения своей цели субъект использует два типа активностей — информационную и материально-игровую. Первая обеспечивает получение текста определенной длины с заданной вероятностью ошибки, подчиняясь теории помехоустойчивой информации (инфоустойчивости). Вторая обеспечивает «выигрыш» ресурсов определенной величины с заданной вероятностью, подчиняясь теории игр (управляемости). Вероятности того, что эти активности выполнят свои роли для достижения цели за время t, возрастают от нуля: чем больше время для выполнения задания, тем больше вероятность его выполнимости. Эти активности объединим в суммарную «действенность», которую характеризует вероятность, также возрастающая от нуля.
Всякая активность возможна лишь тогда, когда сам субъект «жив-здоров», что определяется его надежностью — или вероятностью «дожить в здравии» до возраста t. Эта вероятность убывает от 1 до нуля (для реалистического — конечного — субъекта).
Тогда потенциальная эффективность субъекта, определяемая как вероятность достижения жизненной цели, является, согласно теории вероятности, произведением вероятностей надежности, убывающей во времени (до нуля), и действенности, возрастающей (от нуля). Кривая потенциальной эффективности начинается с нуля в начале «жизни» субъекта (t=0) и кончается нулем в момент его «смерти». Получается наглядная картина жизни любого субъекта, в которой есть молодость, зрелость и старость. Если перед субъектом стоит задача достичь цель с вероятностью, большей, чем его эффективность (выше кривой потенциальной эффективности), то такая задача неосуществима.
Задание «с самого верха» требовало от создателей ПРО-субъекта осуществить его способность сбить ракету агрессора с вероятностью, не меньшей рo, за время, не большее to. Время to можно оценить, зная подлетное время баллистической ракеты из-за океана или из центра Европы. А вот сколько девяток после запятой требовалось в рo, решалось на уровне Политбюро. В любом случае, параметры задания определялись свыше.
Создателям МПЗ-субъекта задание составлял лишь один параметр — вероятность успешной посадки на Марс. И если эта вероятность меньше максимального значения потенциальной эффективности, то возникнет интервал времени осуществимости (на двух нижних графиках область осуществимости для МПЗ- и ПРО-субъектов располагается между соответствующими парами штриховых линий).
Для реального одноклеточного био-субъекта вопрос осуществимости, казалось бы, не стоит, — раз он существует, значит, его популяция благополучно выжила до настоящего времени. Но чтобы построить кривые активности и надежности данного био-субъекта, необходимо конкретное (микро)биологическое исследование, чтобы построить его модель на языке цель-надежность-активность-управляемость. И тогда осуществимость — достижение цели достаточной плодовитости — станет критерием адекватности модели: если модель неосуществима, значит, она не адекватна реальности, и надо строить новую на основе новых исследований био-субъекта.
P.S. Искусное описание жизни и вопрос о ее зарождении
После всего написанного, название статьи можно было бы дополнить: «Науки о природе и науки об искусности человека и Природы». Те, у кого язык не поворачивается говорить об искусности Природы, могут заменить Природу ее Творцом. Цели тех-субъектов задаются их создателями-изобретателями, а цели био-субъектов задаются историей их возникновения в процессе эволюции. Теория потенциальной эффективности описывает искусность достижения этих целей, независимо от механизма целеустремлённости, с учетом ограничений, открытых фон Нейманом, Шенноном, Бремерманном и Флейшманом.
История физики дает пример того, что возможно теоретическое описание явлений без проникновения в их «внутренний мир» — в их механизм: термодинамика возникла до молекулярно-кинетического понимания тепла. Сумеют ли биофизики и молекулярные биологи объяснить механизмы целеустремлённости био-субъектов, или придется довольствоваться лишь ее признанием, поэтически говоря об искусности Природы или ее Творца?
Вопрос, как говорится, хороший и, вероятно, связанный с проблемой происхождении жизни. Верящим в то, что на этот вопрос можно ответить определенно, пожелаю старинное «Бог в помощь!» или нынешнее «Флаг в руки!».
Насколько важно знать «природу» целеустремленности? История науки дает примеры того, как вопрос, считавшийся насущным, вянет, фактически исчезая из повестки дня. Таким был в XIX веке вопрос об устройстве эфира, снятый теорией относительности. На рубеже 1920-30 годов, когда в физике были всего две элементарные частицы — электрон и протон, таким был вопрос о происхождении безразмерного отношения их масс (~1836). Спустя несколько лет в физику вошли три новые элементарные частицы, затем еще и еще, и вопрос потерял остроту. На смену пришло признание сложной и непонятной реальности, возникшей вместе с рождением Вселенной (случайно или по воле Творца) и определившей возможность возникновения человечества, если верить Антропному принципу.
Следует подчеркнуть, что использованная теистическая фразеология вовсе не означает ее неизбежность. Достаточно привести пример двух безоговорочных атеистов биолога Ф. Крика и физика Е.Л. Фейнберга, которые — разными путями –пришли к убеждению, что возникновение жизни на Земле было (практически) невероятным событием (атеист Фейнберг именно в этом смысле назвал возникновение жизни «чудом»)[9]. Реально-невероятное событие каждый может создать примерно за час, бросая монетку тысячу раз и записывая результаты — орлов и решек, а затем задав вопрос, какова вероятность воспроизвести данное событие, то есть получить записанную последовательность, за время существования Вселенной. Нетрудно точно подсчитать вероятность такого повторения и убедиться, что его вероятность во всех практических ситуациях считается ничтожно малой.
Недавнее обсуждение биологами проблемы возникновения жизни, при ощутимо разных «вкусовых» предпочтениях участников, проявило историко-научную тенденцию к признанию все большей уникальности земной жизни[10]. Не поможет ли язык теории потенциальной эффективности пониманию самого явления жизни?
Задав этот нахальный вопрос, мне остается лишь поблагодарить Бенциона Флейшмана за дружбу, его сына Семена за конструктивную критику и рацпредложения, а Н.И. и E.M. за помощь в прояснении биологических представлений (инициалами я ограничился, чтобы не возлагать на других ответственность за небеспорные соображения статьи).
Примечания
[1] Gorelik G. Bremermann’s Limit and cGh-physics// arXiv:0910.3424v3 [gr-qc]
[2] Горелик Г. Матвей Бронштейн и квантовая гравитация. К 70-летию нерешенной проблемы // УФН 2005, 1093-1108.
[3] Carly Cassella. This Single-Celled Animal Makes Complex ‘Decisions’ Even Without a Nervous System, Nature, 5 December 2019; Dexter et al., A Complex Hierarchy of Avoidance Behaviors in a Single-Cell Eukaryote // Current Biology (2019) (видео).
[4] Levin, M., Dennett, D.C. How to understand cells, tissues and organisms as agents with agendas // Aeon 13 October 2020; Fields, C., Levin, M. Does Evolution Have a Target Morphology? // Organisms: Journal of Biological Sciences, 2020, vol. 4, no. 1, pp. 57–76.
[5] Theodosius Dobzhansky, «Nothing in biology makes sense except in the light of evolution» The American Biology Teacher, March 1973 (в сети есть русский перевод).
[6] Благодарю Алексея Рязанова за обсуждение проблемы старения (см. его рассказ на YouTube).
[7] Работы Б. Флейшмана в оригинале.
[8] A.H. Колмогоров. Предисловие к русскому изданию книги У. Росс Эшби «Введение в кибернетику», 1959.
[9] Крик Ф. Жизнь как она есть: её зарождение и сущность. 2002; Что за безумное стремленье! 2020; Фейнберг Е. Л. Credo (в чём смысл жизни человека) // Здравый смысл 2007, № 42.
[10] Вероятность зарождения жизни // ТрВ 26.03.2019.
Оригинал: https://7i.7iskusstv.com/y2021/nomer8/ggorelik/
