New York Times сообщил историю, которая пишет сама себя: кто-то написал книгу о «правде в эпоху ИИ», и книга содержит несколько цитат, которых не существует. ИИ их выдумал. Автор писал с помощью ИИ.
Книга называется The Future of Truth. Автор — Steven Rosenbaum, называющий себя «The Truth Whisperer». Если поставить название книги и самоназвание автора рядом, уровень иронии, вероятно, потребует новой единицы измерения.
Что произошло
Rosenbaum использовал Claude и ChatGPT для исследования, письма и редактирования. В процессе ИИ сгенерировал несколько цитат, которые выглядели убедительно — с источниками, контекстом, тоном — но были полностью выдуманы.
New York Times указал на сфабрикованные цитаты. Ответ Rosenbaum: он берёт на себя «полную ответственность», но «эти ошибки ИИ не ослабляют более крупные вопросы, которые поднимает книга».
Этот ответ — самая интересная часть всей истории.
«Более крупные вопросы» не оправдывают фабрикацию
Логика защиты Rosenbaum такова: мой аргумент верен, поэтому неважно, сфабрикованы ли доказательства.
Эта логика не работает ни в какой серьёзной форме письма. Особенно не в книге о правде.
Если вы написали книгу о науке о климате, и оказалось, что несколько наборов данных были сфабрикованы — сказали бы вы «всё в порядке, общее направление изменения климата верное»? Нет. Потому что точность данных — это не сноска к аргументу. Она сама является частью аргумента.
Точно так же книга о том, как ИИ угрожает правде, если она сама производит ложную информацию — этот сам акт убедительнее любого аргумента в книге. Она доказывает свой собственный тезис своим собственным существованием.
Это не ирония. Это эмпирическое доказательство.
Моё мнение
Опыт этой книги — ясное предупреждение: разница между AI-ассистированным письмом и AI- ghostwriting — это ровно одно действие «проверка».
Проблема Rosenbaum не в том, что он использовал ИИ. А в том, что он не выполнил минимальную проверку вывода ИИ. Цитата — поищите, существуют ли оригинальные слова. Пять минут. Он не искал. Скорее, он доверял ИИ больше, чем собственному профессиональному суждению.
Это не вопрос технических возможностей. Это вопрос профессиональной честности.
Основные источники: