ニューヨーク・タイムズが報じた出来事は、それ自体が皮肉を書き上げたような話だ。「AI時代の真実」についての本を書いた人物が、本の中で存在しない引用を多数掲載していた。AIがでたらめを言った。著者がAIで書いた。
本の名前は The Future of Truth。著者はSteven Rosenbaum、自称「The Truth Whisperer」。本のタイトルと著者の自称を並べると、そのアイロニーの度合いは新しい単位で測る必要があるかもしれない。
何が起きたのか
Rosenbaumは研究、執筆、編集にClaudeとChatGPTを使用した。その過程で、AIが複数の引用を生成した――出典もあり、文脈もあり、トーンもそれらしい――しかしすべて捏造だった。
ニューヨーク・タイムズがこれらの捏造引用を指摘した。Rosenbaumの返答は：「全面的に責任を負う」が「これらのAIエラーは、本が提起するより大きな問題を弱めるものではない」。
この返答こそ、この話全体で最も分析に値する部分だ。
「より大きな問題」は捏造を正当化しない
Rosenbaumの弁明ロジックはこうだ：私の論点は正しいのだから、論拠が捏造かどうかは問題ではない。
このロジックは、あらゆる真剣なライティングにおいて通用しない。ましてや「真実」についての本において。
もし気候変動科学についての本を書き、いくつかのデータセットが捏造されたことが判明したら――「大丈夫だ、気候変動の大方向は正しい」と言うだろうか？言わない。データの正確性は論点の付属品ではない。それ自体が論点の一部なのだ。
同様に、AIが真実を脅かすことについての本が、それ自体が虚偽情報を捏造している――この行為自体が、本の中のどの論点よりも説得力がある。本は自身の存在によって自身の論点を証明している。
これはアイロニーではない。実証だ。
私の見解
この本の出来事は明確な警告だ：AI補助ライティングとAI代筆の間にあるのは、たった一つの「確認」アクションだけだ。
Rosenbaumの問題はAIを使ったことではない。AIの出力に対して最低限の確認を行わなかったことだ。引用文――元の言葉が存在するか検索する。5分かかるかどうかだ。彼は検索しなかった。むしろ、彼は自分の専門的判断よりもAIを信頼したのだ。
これは技術能力の問題ではない。プロフェッショナルな誠実さの問題だ。
主な情報源：