Была ли эта отмеченная наградами книга написана ИИ? Скандал усиливает скептицизм в литературном мире

Роман, который несколько месяцев назад называли литературной сенсацией Квебека, за одну неделю превратился в символ кризиса доверия во всей франкоязычной литературной среде. Канадско-гаитянский писатель Тельсон Орельен обвинён в том, что его дебютный роман «C'était ça ou mourir» («Было это или смерть») написан с помощью генеративного ИИ. Сам автор обвинения категорически отрицает, но скандал уже стоил ему места в престижном литературном списке и репутации в квебекской прессе.

Как начался скандал

Обвинения впервые прозвучали в понедельник, в тот же день, когда Орельен получил премию Fnac за роман, на анонимном аккаунте в X под названием Balance ton Claude, который специализируется на разоблачении «мусорных» текстов, написанных ИИ. Автор аккаунта утверждает, что проанализировал несколько отрывков книги с помощью инструмента-детектора Pangram, и тот показал, что текст на 100 процентов сгенерирован искусственным интеллектом. Радиокомпания CBC News повторила эксперимент с другими фрагментами книги и получила тот же результат.

В пятницу престижная французская Гонкуровская премия объявила, что убрала книгу Орельена из своего лонглиста, состоявшего из 16 произведений. Академия Гонкуров заявила CBC, что решение основано на анализе работ нескольких заслуживающих доверия исследователей и журналистов, указавших на то, что книга, по всей видимости, в значительной степени является продуктом искусственного интеллекта. Академия подчеркнула, что таким образом посылает чёткий сигнал: она никоим образом не одобряет и не санкционирует создание текстов, сгенерированных ИИ.

Роман рассказывает историю мужчины, который предпринимает опасное путешествие через Америку, спасаясь от насилия банд в Порт-о-Пренсе на Гаити. Ранее Орельен рассказывал, что на создание романа повлиял его собственный опыт отъезда с Гаити после землетрясения 2010 года, а также истории других мигрантов, с которыми он познакомился в Монреале.

Во вторник вечером в заявлении, написанном на французском языке и опубликованном издательством Éditions du Boréal, Орельен попытался ответить на подозрения, вызванные обилием метафор и сравнений в тексте, которые многие сочли признаком участия ИИ. По его словам, он происходит из гаитянской и карибской литературной традиции, в которой поэзия, образность, повторы и ритм несут живой голос. Он добавил, что можно спорить о его стиле, но рассматривать его приёмы как доказательство искусственного интеллекта не имеет ничего общего с литературной критикой. В том же заявлении Éditions du Boréal подтвердило поддержку автора, заявив, что рукопись была написана несколько лет назад и дорабатывалась в ходе многочисленных обсуждений с редактором.

Плагиат усугубляет ситуацию

В среду квебекская газета La Presse обнаружила возможные случаи плагиата в колонках Орельена, публиковавшихся в разных изданиях начиная с 2012 года. Эти находки впоследствии подтвердила служба проверки фактов Décrypteurs радиокомпании Radio-Canada. По словам Академии Гонкуров, именно новые обвинения повлияли на решение исключить книгу из борьбы за Гонкуровскую премию.

Сам Орельен пока не прокомментировал обвинения в плагиате. Вице-президент по информации La Presse Франсуа Кардинал в интервью программе Tout un matin радио Radio-Canada в четверг утром сказал, что прочитал книгу и в момент чтения не заподозрил участия ИИ. По его словам, окончательного ответа по вопросу об ИИ, скорее всего, никогда не будет: невозможно доказать вне всяких сомнений ни то, что ИИ использовался, ни то, что не использовался. При этом, учитывая обвинения в плагиате, издание, вероятно, больше не будет заказывать у Орельена колонки.

В четверг утром Éditions du Boréal сообщило, что изучает новые и весьма серьёзные обвинения в плагиате. Днём литературный фестиваль Salon du livre в Восточных кантонах объявил, что снимает Орельена с роли почётного гостя, а спустя несколько часов издательство объявило о приостановке его пресс-тура: писатель сейчас находится во Франции, готовясь к сезону наград. В заявлении издательство осудило враждебные сообщения и личные нападки последних дней и призвало всех проявлять сдержанность, добавив, что решение принято ради благополучия Орельена, а сама книга, вышедшая весной, остаётся в продаже.

Издательство при этом продолжает защищать свой редакционный процесс, но признаёт, что, несмотря на все усилия, на данном этапе просто невозможно ни подтвердить, ни опровергнуть обвинения. В заявлении отмечается, что роман уже дошёл до десятков тысяч читателей во франкоязычном мире и заинтересовал ряд международных издателей, и что при отсутствии серьёзных, осязаемых доказательств не издательству решать, имеет ли книга право на существование.

Что показывают детекторы ИИ на самом деле

Профессор Конкордии Флоран Мишло, изучающий применение ИИ в образовании, считает, что история Орельена поднимает более широкий вопрос: наступила ли эпоха, когда готового текста уже недостаточно для оценки чьей-либо работы. По его словам, он не читал книгу, но не исключает, что автор мог разработать сложные характеры персонажей и создать удивительную атмосферу, а ИИ лишь помог написать сами предложения.

Мишло лично тестировал Pangram и, как и многие другие эксперты, высказавшиеся после начала скандала, называет инструмент впечатляющим. Он объясняет, что инструмент определяет закономерности, основанные на вероятности: если каждое слово в отрывке статистически является наиболее вероятным продолжением предыдущего, то, согласно логике программы, скорее всего, был задействован ИИ. Мишло задаётся вопросом, не начнёт ли по мере роста использования ИИ для исследований, проверки орфографии и перевода сам творческий процесс цениться выше готового результата.

Профессор французской литературы Университета Монреаля Эмелин Пьер говорит, что скандал породил у неё чувство тревоги, и её больше всего волнуют вопросы, почему целью стал именно Орельен и почему именно сейчас. Она также ставит под сомнение надёжность инструментов для выявления ИИ. Что касается повторов и метафор в тексте Орельена, по её словам, они характерны для карибской литературной традиции. Она заметила, что вновь наблюдается история чернокожего человека, добивающегося успеха, и что, когда такой человек «заходит слишком далеко» и получает слишком много признания, он в конце концов становится источником дискомфорта для окружающих.

Пьер сравнивает внимание вокруг этого дела со случаем Джейсона Ардея, профессора Кембриджа, который получил известность, став самым молодым профессором университета в 2023 году в возрасте 37 лет, а затем оказался в центре скандала о плагиате и был найден мёртвым в своей квартире. Она опасается влияния истории Орельена на молодых начинающих чернокожих писателей и обеспокоена той скоростью, с которой скандалы настигают своих героев, когда те чернокожие.

Что дальше для индустрии

Исполнительный директор Writers' Trust of Canada Дэвид Леонард отмечает, что вопрос о надёжности инструментов для выявления текстов, написанных ИИ, стоит перед всей индустрией. Пока организация, присуждающая награды канадским писателям, полагается на самостоятельные декларации авторов, но изучает другие варианты. По его словам, ситуация меняется очень быстро: организация не хочет оказаться в положении, когда получает ложные срабатывания, но не хочет и использовать неэффективный инструмент.

Леонард говорит, что его беспокоит не столько будущее самой литературы, сколько жизнеспособность писательства как профессии, поскольку многие авторы зарабатывают на жизнь другими видами письменной работы, которые всё активнее вытесняет ИИ. Эти инструменты, по его словам, делают заработок для писателей гораздо более трудным. При этом он уверен: люди продолжат писать литературу, а те, кто хочет читать созданные людьми произведения, продолжат этого хотеть.