litbook

Проза


Роман под подозрением; Кружка пуста0

или как искусственный интеллект стал литературным судьёй

История квебекского писателя Тэлисона Орельена, которого исключили из гонки за Гонкуровскую премию, превращается из частного скандала в спор о будущем литературы.

Ещё несколько недель назад роман «C’était ça ou mourir» («Это или умереть») канадско-гаитянского писателя Тэлисона Орельена считался одним из главных открытий французской литературной осени. Первый роман 38-летнего автора рассказывал историю гаитянского мигранта, вынужденного покинуть родину и отправиться в Квебек. Книга получила премию Романа Fnac, вошла в число претендентов на несколько крупнейших французских литературных премий, а её продажи стремительно росли.

21 сентября, в тот самый день, когда Орельен получил премию Fnac, в социальной сети X появился анонимный аккаунт «Balance ton Claude». Его автор заявил, что роман практически целиком создан с помощью искусственного интеллекта. В качестве аргумента были приведены результаты работы сервиса Pangram, предназначенного для выявления текстов, созданных ИИ. Дальше события стали развиваться с головокружительной скоростью.

Уже 25 сентября Академия Гонкуров объявила об исключении романа из своей первой подборки. Формально речь не шла о лишении Орельена уже полученной премии: премию Fnac у него никто не отнимал. Роман был снят именно с конкурса на Гонкуровскую премию. Причём основанием стали не только подозрения в использовании искусственного интеллекта, но и появившиеся обвинения в плагиате в отношении более ранних текстов автора. Сегодня, 6 октября, Академия Гонкуров опубликовала новую, сокращённую до восьми романов подборку. Книги Орельена в ней уже нет. Самое интересное в этой истории — однако, не решение жюри. А вопрос о том, что именно считается доказательством использования ИИ.

Главным техническим аргументом против Орельена стал Pangram. По данным журналистского эксперимента газеты Le Monde, сервис после анализа более половины романа определил вероятность использования искусственного интеллекта как очень высокую: более 95 процентов текста система сочла созданным ИИ. На первый взгляд, цифра впечатляет. Но здесь возникает принципиальная проблема: детектор искусственного интеллекта сам является закрытой технологической системой, работающей на основе алгоритмов машинного обучения. Читатель не может проверить её «рассуждения» так, как он мог бы проверить, например, совпадение двух абзацев при расследовании плагиата. Более того, специалисты предупреждают: подобные инструменты не способны с абсолютной достоверностью установить происхождение текста. На точность могут влиять язык, стилистические особенности и характер самого произведения. Исследователи отдельно указывают на проблему работы детекторов с текстами на языках, отличных от английского. Роман Орельена написан по-французски и включает речь персонажей на их родных языках. Получается парадоксальная ситуация. Человек написал роман, после чего другая машина анализирует роман и сообщает человеку: «Ты этого не писал». Но кто в таком случае является экспертом — читатель, литературовед, редактор или алгоритм?

Орельен категорически отрицает использование ИИ при написании романа. По его словам, работу над книгой он начал ещё в 2017 году, а первую версию закончил в 2019-м. Его французский издатель Grasset выступил в защиту писателя, а канадское издательство Boréal заявило, что не обнаружило оснований автоматически принимать обвинения за доказанный факт. Есть и ещё одно обстоятельство, которое делает историю значительно сложнее.

После обвинений в использовании ИИ появились сообщения о возможном плагиате в нескольких старых текстах Орельена. В частности, речь шла о публикациях, сделанных более десяти лет назад. Именно сочетание этих обвинений с результатами анализа ИИ и стало основанием для решения Академии Гонкуров. И здесь необходимо провести важную границу.

Плагиат можно доказывать сравнением конкретных текстов: вот фрагмент автора А, вот совпадающий фрагмент автора Б. Можно установить источник, последовательность публикаций, степень совпадения. С искусственным интеллектом всё сложнее. Если писатель действительно использовал нейросеть как инструмент — для поиска идей, редактирования, перевода, стилистической обработки отдельных фрагментов, — где проходит граница между «помощью машины» и «текстом, написанным машиной»? Сегодня на этот вопрос нет универсального ответа.

Особенно показательно, что первоначальное обвинение появилось не в литературном журнале и не в результате академической экспертизы. Оно возникло в социальной сети X — из анонимного аккаунта, а затем стало вирусным. Позже выяснилось, что за аккаунтом стоял французский публицист Самюэль Фитусси, работавший вместе с другими людьми. Сам Фитусси объяснял свою кампанию желанием привлечь внимание к проблеме текстов, создаваемых ИИ. Это обстоятельство тоже важно для понимания новой литературной реальности.

Раньше репутацию писателя формировали критики, издатели, редакторы и читатели. Теперь в процесс всё активнее включаются алгоритмы и пользователи социальных сетей. Причём скорость здесь совершенно иная: роман можно прочитывать месяцами, а обвинение в «машинном происхождении» текста распространяется за несколько часов. В результате возникает новая форма литературного суда: сначала появляется подозрение, потом — вирусное распространение, затем институция вынуждена реагировать. Именно это произошло с Академией Гонкуров. Её президент Филипп Клодль ещё 23 сентября призывал к осторожности и говорил, что для исключения писателя необходимы неопровержимые доказательства. Через два дня роман был исключён. Самая любопытная деталь скандала заключается в том, что он не уничтожил интерес к роману.

Напротив, продажи «C’était ça ou mourir» после начала скандала выросли. По данным NielsenIQ BookData, во Франции с 21 по 27 сентября было продано около 18,3 тысячи экземпляров — против 12,5 тысячи неделей ранее. На тот момент общий тираж продаж приблизился к 65 тысячам экземпляров. Это можно объяснить простым эффектом скандала. Но есть и более глубокий вывод. Это, разумеется, не означает, что происхождение текста не имеет значения. Если автор выдаёт полностью сгенерированный машиной текст за собственную работу, это вопрос авторства и литературной этики. Но одновременно возникает вопрос: имеет ли право алгоритмический «детектор» окончательно определять судьбу книги? Пока убедительного ответа нет. История Орельена показывает, что литература вступила в эпоху, когда одного понятия «автор» становится недостаточно.

Представим несколько вариантов. Писатель сам написал роман. Писатель написал роман, но использовал ИИ как редактора. Писатель создал сюжет и персонажей, а нейросеть переписала отдельные главы. Автор дал машине подробный план, а она сгенерировала текст. Наконец, человек лишь выбрал лучший из нескольких вариантов, предложенных алгоритмом. Во всех пяти случаях результатом может стать одна и та же книга. Но литературные премии, издательские контракты и авторское право пока требуют гораздо более чёткой картины.

Поэтому скандал вокруг Орельена важен независимо от того, окажется ли в конечном счёте доказано использование ИИ. Он показывает, что литературный мир уже столкнулся с проблемой, к которой не был готов. И, возможно, ещё важнее — определить, какие доказательства считаются достаточными для обвинения писателя в том, что он не является автором собственной книги. В XIX веке литература училась существовать в мире массовой печати. В XX веке — в мире радио, кино, телевидения и интернета. В XXI веке ей предстоит научиться существовать рядом с машиной, которая способна не только читать и редактировать текст, но и создавать его. И первый большой спор об этом будущем уже начался.

Причём начался он не с фантастического романа о восстании машин, а с вполне человеческой истории — с книги о человеке, который покидает родину и пытается найти своё место в новом мире. Пожалуй, в этом есть своя символика. Пока герой романа ищет границу между прошлым и будущим, сама литература оказалась на границе между человеческим авторством и машинным производством текста.

 

КРУЖКА ПУСТА, но дело её живет: как Александр Сергеевич Пушкин не прошел фейсконтроль в третьем классе

В России, этой дивной, непредсказуемой, но неизменно богоспасаемой стране, произошло событие, по масштабу метафизического драматизма сопоставимое разве что с отменой крепостного права, только наоборот. Из российского учебника по литературному чтению для третьего класса изъяли строфу из «Зимнего вечера» Александра Сергеевича Пушкина. Ту самую, где лирический герой, уставший от завываний бури и ветхой кровли, вступает в преступный сговор со своей доброй подружкой бедной юности и задает сакраментальный, поистине экзистенциальный вопрос: «Где же кружка?»

Издательство, проявив государственную мудрость и трепетную заботу о неокрепших душах девятилетних граждан, четверостишие вырезало. Пометка «в сокращении» скромно прикрыла зияющую пустоту, словно фиговый листок на античной статуе, которую внезапно решили переодеть в ватник ради соответствия сезону и текущему моменту. И ведь как изящно закольцевалась история! Еще вчера, в доисторическую эпоху пары лет назад, подобные сообщения считались злонамеренным вбросом, фейком, происками клеветников, пытающихся опорочить российскую систему образования. Официальные лица в Москве тогда строго хмурили брови и уверяли: руки прочь от «нашего всего», никто на кружку не покушается. Но в России, как известно, любой анекдот рано или поздно становится директивой, а любая антиутопия — методическим пособием. Сказка стала былью, причем в самой кафкианской ее версии.

Давайте, однако, отбросим дешевый либеральный пафос и посмотрим на ситуацию глазами строгого, но справедливого отечественного цензора. Кто такой, собственно, этот Пушкин? Человек сомнительной репутации, камер-юнкер не по чину, картежник, дуэлянт, автор крайне двусмысленных эпиграмм. И вот он, запертый в Михайловском — месте, надо сказать, депрессивном, с плохой логистикой и отсутствием высокоскоростного интернета, — начинает склонять пожилую женщину, Арину Родионовну, к совместному распитию спиртосодержащих жидкостей. «Выпьем с горя», — говорит он. А с чего, позвольте спросить, горе? Откуда в цветущей державе вообще взялось горе? И почему оно должно заливаться из кружки, а не преодолеваться бодрой утренней зарядкой и чтением житий святых?

Более того, сама форма вопроса — «Где же кружка?» — звучит как прямой вызов. Она подразумевает, что кружка где-то есть, что она — естественный атрибут быта, и если ее нет на столе, то это лишь досадное недоразумение, которое надлежит немедленно исправить. Для третьего класса это, безусловно, тяжелая артиллерия. Ребенок, прочитав такое, не станет учить таблицу умножения; он немедленно потребует у мамы эмалированную тару и начнет заунывно петь про синицу, которая тихо за морем жила. И вот уже вместо будущего инженера-ракетостроителя мы получаем классического русского рефлексирующего интеллигента, который вечно ищет кружку, а находит только экзистенциальную тоску.

Конечно, на этом нельзя останавливаться. Половинчатые меры в эпоху великих свершений — это проявление малодушия. Если уж в России взялись за оздоровление классики, нужно идти до конца, с присущим этому процессу большевистским размахом и византийским коварством. Взять, к примеру, «Евгения Онегина». Что там происходит? Бесконечные балы, клико, страсбургский пирог, шампанское и, прости господи, дуэль на почве праздности и неустроенности личной жизни. Это же готовый материал для проверки на предмет пропаганды нетрадиционных для трудового народа ценностей и деструктивного поведения! Онегина необходимо переориентировать: пусть он едет в деревню не хандрить, а поднимать сельское хозяйство, а Татьяна пишет ему не любовное письмо, а бизнес-план по разведению крупного рогатого скота.

А что творится у Лермонтова? «Погиб поэт, невольник чести...» Позвольте, какой такой чести, когда кругом сплошные интриги и клевета? А у Достоевского? Сплошная депрессия, топор и сомнительные финансовые схемы с процентщицами. У Гоголя вообще мертвые души — явная попытка фальсификации отчетности и уклонения от налогов. Про Есенина с его «Москвой кабацкой» даже и говорить неловко — там нужно вырезать всё, оставив только березки, да и те проверить на предмет правильного угла наклона.

Впрочем, в этой истории с пушкинской кружкой есть и глубокий, почти мистический смысл. Пустота, образовавшаяся на месте вырезанного четверостишия, — это ведь и есть главная метафора современной российской действительности. Там научились блестяще закрашивать, замазывать, сокращать и адаптировать прошлое под сиюминутные представления о прекрасном и безопасном. Кажется, что если убрать из стихотворения слово «выпьем», то буря за окном стихнет, кровля перестанет быть ветхой, а сердцу станет веселей само по себе, по распоряжению министерства.

Но буря, увы, не читает учебников для третьего класса. Она все так же кроет небо мглою, вихри снежные крутя. И старушка у окошка все так же приумолкла. Только кружки у нее теперь нет — ее конфисковали на дальних подступах к школьной программе. Остается надеяться, что в четвертом классе детям все-таки вернут право на тоску и эмалированную посуду. А если нет — что ж, греться там будут исключительно чувством глубокого морального удовлетворения. Говорят, оно прекрасно согревает в суровые зимние вечера, особенно если употреблять его натощак и строго в рамках утвержденного учебного плана.

Вера Орлова. Живу в Праге. Пенсионерка. Бывший журналист. 

 

 

 

 

Рейтинг:

0
Отдав голос за данное произведение, Вы оказываете влияние на его общий рейтинг, а также на рейтинг автора и журнала опубликовавшего этот текст.
Только зарегистрированные пользователи могут голосовать
Зарегистрируйтесь или войдите
для того чтобы оставлять комментарии
Регистрация для авторов
В сообществе уже 1136 авторов
Войти
Регистрация
О проекте
Правила
Все авторские права на произведения
сохранены за авторами и издателями.
По вопросам: support@litbook.ru
Разработка: goldapp.ru