Майское небо. Армения. Горы. Бюракан. Директор обсерватории повернул шампур. Горячий шашлык под цветущий жасмин и красное сухое, лёгкость в моих весёлых русских мыслях. Я не выдержала:
– И как там чёрные дыры?
– А никак, – сказал профессор заоблачных наук. – Их нет.
– Слава Богу!
И все мы выпили за День Победы.
На пикник в Бюраканскую обсерваторию меня пригласил писатель Руслан Сагабалян, его семья и ереванские друзья. У них традиция: каждое 9 мая отмечать в Бюракане.
– Я была уверена, что чёрных дыр нет и не было, спасибо вам огромное, – сказала я директору Бюраканской астрофизической обсерватории имени В.А. Амбарцумяна Национальной академии наук Республики Армения. Душа моя запела и взвилась куда-то что твой цицернак.
В 2015 неугомонный Стивен Хокинг, изобретатель чёрных дыр, начал регистрацию своего имени в качестве торговой марки. «Физик уже подал необходимые документы в Офис интеллектуальной собственности Великобритании. Средства, которые может получить учёный за продажу изделий со своим именем, Хокинг собирается потратить на благотворительные цели, в частности борьбу со СПИДом», – писано в журнале Forbes.
Ослепительная идея. Хокинг – блестящий пиарщик. Следующий ход.
«В марте 2017 года британский учёный поддержал идею создания мирового правительства. По мнению Хокинга, это позволит остановить агрессию человека, в частности, биологическую или ядерную войну, под угрозой наступления которых, по мнению эксперта, находится человек», – из той же статьи.
Я страстно люблю британских учёных и статьи, где всякие открытия. Помню, прихожу на самую первую выставку Роснано, а там всё в минус девятой степени. Мобильник, упрятанный в мешочек из наноматериала, перестаёт принимать сигнал. Зонтики с вывертами, халатики-невидимки, флаконы прозрачной жидкости с чёрным порошком, загадочно струящимся в себя, – всё для будущего. Зря человек думает, что вполне устроился. Нет, будет ещё лучше. Мне сказали на днях, что китайцы завозят на конференции в свою страну писателей-фантастов со всего мира, кормят, оплачивают им пребывание – и записывают каждое слово. Лишь бы нафантазировали, а уж китайцы воплотят. Littera scripta manet.
За шесть лет до создания Роснано вышел документальный роман о генной инженерии бессмертия под концептуальным названием «Зачем?», и автор нарвался на рецензента, который прямо в «Литературке» попрекнул писателя богатой фантазией. Ехидно прибавив, что напиши роман «Зачем?» не наличный данный литератор, а В. Пелевин, то быть бы ему, роману, бестселлером1. Чуткий человек был рецензент женского пола. Я-то не считаю фантазию достоинством. Я с ног сбиваюсь еле успеваю записывать жизнь как она есть. Меня волнуют приключения частиц в одиннадцатом измерении, где учёные предполагают встретить Бога. Ближе у них пока не получается. А китайцы коллекционируют мировых фантастов, думаю, потому, что мировые фантасты, в основном, западники, а, значит, любят инновации, прогресс и комфорт, экзистенциально страдают внутри бренной плоти от мейнстримного безбожия, украдкой почёсывая свои сотериологические ушибы. Директор Бюраканской обсерватории, глубоко армянский мужчина, мог в 2016 году подумать обо мне, возможно, то же, что я о своём рецензенте в 2005. И это правильно: зачем молчи-женщине чёрные дыры, если жасмин цветёт, шашлык готов, бокалы звенят. Но директор поступил иначе. Отвёл меня в мемориальный кабинет великого Амбарцумяна2 и показал всякие документы. Из кабинета я вышла новым человеком. Мне стало несказанно легче жить без чёрных дыр. Собственно, и Хокинг на них уже не настаивает, то есть нам обоим легче, мне и Хокингу, но в медию и даже в поэзию дыры пробрались, назад не вытащишь. Особенно когда его «Краткая история времени»3 переведена на кучу языков, и продано более 10 миллионов экземпляров.
Вы согласны жить в галактике без чёрных дыр? Мне – нормально. А вы согласны жить на нашей планете вместе с искусственным интеллектом (ИИ) как добрые соседи? Тоже нормально? Правда, в отличие от чёрных дыр ИИ уже есть на самом деле: он покончил с устарелым белковым шахматизмом и безупречно играет в шахматы, пишет музыку под Скрябина, тексты под Толстого, мигом усваивает любой алгоритм, прекрасно учится в любой школе, владеет собой, принимает решения. При необходимости протянет вам руку из монитора и поцелует вас куда скажете. Вам нравится такое партнёрство? Многим опять нравится. У них человек всё ещё звучит гордо. Ведь ИИ далеко, как неощутимая чёрная дыра, которую её же автор отменил, но сначала хорошо заработал. Повторяется история с искусственной радиоактивностью. Плакатные люди доброй воли уверены, что всё будет хорошо, если поставить науку на службу человеку. Кроме Илона Маска, Билла Гейтса и того же Хокинга, который предупреждает, что надо что-то учесть, а то будет нехорошо. Совсем плохо будет, хуже ядерной войны.
Боюсь, определённая невообразимость ИИ, чёрных дыр и нанометра сейчас лихо играет с нами в подкидного дурака. Исследования, ведущиеся на невидимом этаже бытия, многие воспринимают как блестящий кристаллик голливудской шутки, погружённый в насыщенный раствор фантазии. Как литературкин рецензент – мой документальный роман о бессмертии. Как атеисты – разговор о духе. Как психиатры – любое упоминание души. Как научные журналисты – веру. Не встретишь большего снобизма, чем в пассажах журналистов-научников, если речь коснётся чего-нибудь иррационального или принципиально непостижимого. Скажем, Абсолюта как Создателя. Бога как культурный феномен они ещё стерпят, но за живое восприятие невидимого мира, то есть в контексте любой веры – плачь, несчастная: тебя уничтожат. Журналисты, пишущие о науке, не опускаются до разговоров с интуитами доморощенными, поклонниками плацебо или уфологов с их летающими сервизами.
Выработался тон околонаучного вещания, настоянный на скрытой иронии по отношению к непосвящённым. В прошлом году рождена Комиссия по лженауке4. Первой жертвой комиссии чуть не пала вся гомеопатия. Тут даже доктор Рошаль вмешался и публично попросил не убивать всю гомеопатию, поскольку многим помогает. На сайте комиссии помещён текст «Актуальные лженаучные тренды в России», язык которого свидетельствует о том, что грамматику и стилистику тут, видимо, тоже отнесли к лженаучным явлениям. Первый тренд сформулирован как «Втирание лженауки в доверие к власти», а второй – «Коррупция под влиянием наукометрической гонки». Есть в списке и третий, и четвёртый.
Передавать новости науки трудно, понимаю. Всегда было нелегко, а скоро станет совсем невмоготу. Журналист должен знать много терминов и уметь ими оперировать, а таких журналистов мало. Скоро возникнет проблема, чарующая не только своей нерешаемостью. Она даже формулировке практически не поддаётся. Например.
Особенности этики отношений между человеком и машиной (ИИ) в контексте способности машины к самообучению. А также Правовое регулирование сотрудничества. Ничуть не хуже звучит, чем оскорбление чувств верующих (или неверующих). Самообучаемая машина может научиться верить в Бога и потребовать, чтоб её чувства были взяты под охрану. А кто не понял её чувств – получите ассиметричный ответ.
Для борьбы с гомеопатией понадобилось создать целую комиссию РАН. Почему бы комиссии не подготовить – пока не стемнело – правоустанавливающие документы на владение истиной в свете возможных (в недалёком будущем) разногласий между человеком и машиной в морали? Написать можно так: «Человек всегда прав. Он правее машины».
Дело не терпит отлагательства, ибо мощная машина уже не проигрывает в шахматы, овладев всего-навсего брутфорсом (полный перебор всех вариантов, используемый компьютером, например, для подбора пароля). А ну как ИИ сам решит, какие моральные установки лучше, хуже, опаснее (для кого и чего), полезнее (опять же)? Сеанс морального брутфорса с мгновенным проскоком по всем этическим учениям всех времён и народов – и не стало на карте какой-нибудь маленькой воинственной (или миролюбивой) страны. Непринуждённый религиозно-этический выбор. Скоростной. Схлопывающий тысячелетия в секунду. Возьмёт машинка и решит, к примеру, что человек живёт неправильно и сам себе вредит. Я даже не хочу дописывать этот абзац, чтобы не волновать читателя картинами будущего, в котором этический выбор делает ИИ. Робот не обязан любить ближнего оператора, как самого себя. Робот не обязан делать выводы по данным, поставляемым комиссией РАН. Он не имеет обязанностей, поскольку не имеет прав. Если у робота появятся права и обязанности, ему надо давать гражданство и текст государственного гимна. Красотку Софию уже прописали в одном тёплом государстве, но общественность даже не вздрогнула. Общественность привыкла даже к терактам, а тут какая-то кукла! Игрушка. Но с паспортом. Вы понимаете, что случилось?
Поскольку гедонизм и шопинг есть основа современной экономики, то способность мыслить средний человек (имеется в виду представитель среднего класса, разбирающийся в трендах и брендах) использует как мобильное приложение. Типичный среднеклассник полагает, что всё на свете производится ради его дебета и кредита, а тёплую прагматику отношений между человеком и машиной за всех объял раз и навсегда Айзек Азимов: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред» (скорее всего, бравый типичный среднеклассник ни Чапека, ни Азимова не читал, но золотая пыль уверенности прекрасным слоем позитивности давно легла на мозг актуального героя нашей бодрой улыбчивой современности. Громоздко, да, но как-то так. Их выражение).
Образ искусственного интеллекта для среднего человека давно материализован, экранизирован, от литературного робота в двух шагах, бояться нечего, Голливуд принял огонь на себя. Компьютерный уродец машет лазерной палкой, растворяется в воздухе по своему усмотрению, материализуется где хочет. Кукольный театр. Первая настоящая жертва из числа средних людей в кинозале будет страшно удивлена. Искусственный – он же ненастоящий. На лице шедевральный, пластический, но грим. Художнику дают «Оскара». Как могло получиться, что не убий гомункулусу не впаяли? Но вот он сошёл с экрана (так ведь он и был 3D), взял дубину и треснул зрителя по голове. Когда полилась настоящая кровь, зал взорвался аплодисментами, приняв за 5D-шоу. Когда насмерть перебили всех, то в прессу не сообщили, поскольку на такой размер головы окно Овертона недорастянуто. Примерно как в апреле 1986 года, когда журналисты ни слова о Чернобыле не выдали. И ведь не только из-за цензуры. Они просто не умели описывать это.
Есть и богословская трудность. Как и зачем делать прошивку не убий машине, если и человеку-то не вшилось, интерпретации разнятся, и даже нумерация заповедей в различных традициях не совпадает. Это если только Моисеевы брать. О Христовых заповедях блаженства некоторые так и не слыхивали, хотя исправно веселятся в Рождество, поют песенки в мажоре, умильно пекут печенья, покупают дисконт-подарки.
Илон Маск полагает, что «роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учётные записи электронной почты и манипулируя информацией. Перо сильнее меча».
Выпускать новости поперёк действительности превосходно умеет и человек. Когда миллиардер Илон Маск пугает публику манипулятивными технологиями в области массовой информации, публика ржёт. Тролли сами с усами, а целомудренный читатель фейков полагает, что за греховным умыслом стоит кто-то материальный (государственная пропагандистская машина какая-нибудь или весёлый единоличный хулиганчик вроде пранкера), и что самого искусного хакера всё равно можно поймать и посадить, – словом, мыслит правовыми категориями, наработанными человечеством. Людьми. Белковыми существами, коим пока не придумано общеприемлемого определения. Это не шутка. Поищите на досуге человека. Искала. С тем же успехом можно поискать определение животного. Если стремиться к мирному разрешению загадки, то и человек, и животное доступны остенсивному определению, то есть непосредственному показу пальцем. А любовь, математику, справедливость – то есть абстрактные понятия – показать непосредственно невозможно. В ненависть не тыкнешь пальцем, как в зебру или жирафа. Требуется вербальное, классическое. Попробуйте. Итак. Человек – это… ИИ – это…
Умники думают, что в машину (которая – NB – уже не машина, поскольку умеет учиться) можно заложить все определения друга или врага, все толкования, и тогда, принимая решение, машина, гений брутфорса, бестрепетно выберет оптимальный вариант. Ввиду историко-географической относительности морали задачу следует упростить с помощью логики, а значит – посылки. От кого будет зависеть торжество единственно правильного учения? Правильно. Простор небывалый. Берём, например, идею, что неверный должен быть уничтожен. На это, правда, и человек сгодится. А встречной хакерской атакой перепутываем интерпретации правоверного с неверным (ведь в полном переборе вариантов идея относительности всех ценностей тоже заложена). Да нумерацию заповедей перепутать – и война готова, и машина, научившаяся обманывать и путаться в показаниях, наконец превышает самооборону.
Мыльнооперный сюжет для научно-фантастического рассказа – был бы, но не сейчас, а лет пятьдесят назад. Сейчас всё серьёзно. Писать романы-пророчества на тему, уже ставшую злободневной, не хочется. Написанное сбывается. Всё уже было, но даже отец кибернетики Норберт Винер не верил в творческие возможности машины. Хороший был человек, видимо.
Договариваться об определениях, к чему звал ещё дедушка Декарт, можно локально. Глобально уже не выйдет, несмотря на остроумный призыв Стивена Хокинга создать мировое правительство. Милейший человек этот Хокинг: то космос дырявит по-чёрному, то на выручку от продажи своего имени намерен лечить народы от СПИДа, то вот свежую мысль подбросил, про мировое правительство. Припозднился: видимо, отвлёкся на свои дыры, Амитаи Этциони не читал.
Как научить машину морали, то бишь различению добра и зла, если с этим не решено среди людей? Атеисты отказываются обсуждать золотое правило этики в евангельской трактовке, ибо мирская частушка ты мне, я тебе звучит увесистее, нажористее. С кем же говорить на эти темы? С Комиссией по лженауке, которая борется со втиранием?
iМораль не сможет впитать всё лучшее, поскольку змея-идея о лучшем и худшем, зацелованная человеками, уже народила чудовищ, и всё было наяву.
…Аромат заоблачного шашлыка остался в майском Бюракане. Чудесный директор обсерватории, напоследок: «Они всё равно думают, что чёрные дыры есть, а Бога нет…».
_____
Примечания:
1 http://old.lgz.ru/archives/html_arch/lg212005/Polosy/13_2.htm
2 https://ru.wikipedia.org/wiki/Бюраканская_астрофизическая_обсерватория
3 https://ru.wikipedia.org/wiki/Краткая_история_времени
4 http://klnran.ru/
