リード文 「ChatGPTに参考文献を聞いたら、それっぽい論文が10本も出てきた。でも、いざ検索してみたら……どれも存在しなかった」――そんな“ヒヤッとした経験”を持つ研究者が、いま静かに増えています。生成AIは論文執筆を強力に後押ししてくれる相棒ですが、その出力をそのまま信じてしまうと、思わぬ落とし穴にハマることも。本記事では、AIが生み出す「ハルシネーション」の正体と、投稿前に必ず押さえておきたいチェックポイントを、実務目線でやさしく解説します。
近年、ChatGPTをはじめとする生成AIを論文執筆や英文作成に活用する研究者が増えています。
文章作成の効率化やアイデア整理に役立つ一方で、AI生成文で注意したいのが「ハルシネーション（Hallucination）」です。
ハルシネーションとは、AIが事実ではない情報を、あたかも正しい情報であるかのように生成してしまう現象を指します。
論文執筆においては、研究の信頼性に関わる問題となるため、十分な注意が必要です。
ハルシネーションとは？
ハルシネーションは日本語で「幻覚」とも訳されます。ちょっと不思議な言葉ですが、まさにAIが“見てもいないものを見たかのように語る”状態をうまく表しています。
生成AIは大量のデータから文章パターンを学習していますが、常に事実を理解して回答しているわけではありません。「もっともらしい次の単語」を確率的につないでいるだけ、というのが実態に近いのです。
そのため、
- 存在しない文献
- 誤った用語
- 不正確な研究結果
などを生成することがあります。
文章自体は自然に見えるため、利用者が誤りに気づきにくいことが問題です。とくに英語でスラスラと整った文章が返ってくると、「これだけきれいに書けているのだから内容も正しいはず」とつい信じたくなってしまいますよね。
論文執筆で起こりやすいハルシネーション
研究者が特に注意したいのは参考文献です。
例えば、「〇〇に関する代表的な論文を教えてください」とAIに質問した結果、
- 実在しない論文タイトル
- 実在しない著者
- 実在しない雑誌名
が提示されることがあります。しかも厄介なのが、著者名は本当にその分野の有名な研究者で、雑誌名も実在する一流誌、DOIの形式まで“それっぽい”―でも組み合わせてみると存在しない、というケース。これは経験豊富な研究者でも一瞬騙されてしまうほどです。
また、既存論文を要約させた際に、原文には存在しない結論や解釈が追加されるケースもあります。「AIが行間を読みすぎて、勝手に話を膨らませてしまう」イメージです。
ありがちな失敗シーン
- 締め切り前夜、引用文献を増やしたくてAIに頼んだら、5本中3本が架空だった
- 共著者から「この論文、どこにあるの？」と指摘されて初めて気づいた
- 英文校正に出す前のセルフチェックを省いたら、査読者から「該当文献が見つからない」とコメントが返ってきた
どれも“あと一歩の確認”があれば防げたミスばかり。AIを使うこと自体が悪いのではなく、「最後に人間が確かめる」という一手間を省いてしまうことがリスクになるのです。
ハルシネーションと盗用は違う
ハルシネーションと混同されやすいのが“盗用（Plagiarism）”です。
盗用は既存文献の文章やアイデアを適切な引用なく利用することを指します。一方でハルシネーションは、AIが存在しない情報を生成する現象です。
両者は異なる問題ですが、どちらも論文の信頼性を損なう原因となります。「コピペはしていないから大丈夫」と思っていても、AIが作り出した架空の引用を載せてしまえば、それはそれで研究倫理上の大きな問題になってしまうのです。
iThenticateやAI検知ツールでハルシネーションは見つかる？
近年では、AIが生成した文章を検出するためのAI検知ツールも登場しています。Turnitinをはじめとする一部のサービスでは、AIによって生成された可能性がある文章を推定する機能が提供されています。
しかし、ここで注意したいのは、AI検知ツールとハルシネーション検出は別のものだという点です。
AI検知ツールは、AIが生成した可能性のある文章や、AI利用が疑われる箇所を推定することはできます。一方で、
- 存在しない参考文献
- 誤ったDOI
- AIが創作した研究内容
- 誤った引用情報
など、ハルシネーションそのものを正確に検出することはできません。
例えば、AIが実在しない参考文献をもっともらしく生成した場合、その情報が既存データベースに存在しなければ、AI検知ツールやSimilarity Checkツールでは問題として検出されない可能性があります。「データベースにない＝怪しい」とは判定されず、そのまますり抜けてしまうこともあるのです。
そのため、生成AIを利用した論文執筆では、
- 原著論文の確認
- DOIの確認
- 参考文献情報の確認
- 数値や統計結果の確認
など、人による最終確認が依然として重要です。
投稿前に確認したい実務的なチェック手順
ここで、研究者の方が日常的に取り入れやすいチェックの流れをご紹介します。
① 参考文献はPubMed・Google Scholar・出版社サイトで直接検索 タイトルをコピペして検索し、ヒットしなければ要注意。ヒットしても、著者名・出版年・巻号ページまで照合しましょう。
② DOIはdoi.orgで実際にアクセスして確認 DOIは形式が正しくても、リンク先が違う論文だったり、そもそも開けないことがあります。クリック一つで確認できる、最も効率の良いチェックです。
③ 要約・引用箇所は原著PDFと突き合わせる AIに要約させた内容を使う場合は、必ず原文と照らし合わせます。「言っていないことを言ったことにされていないか」が肝心です。
④ 数値・統計はAIに頼らず原典から転記 P値、被験者数、効果量などはハルシネーションが特に起きやすい部分。手間でも原典から直接書き写すのが安全です。
⑤ 投稿先のAI利用ポリシーを再確認 ジャーナルごとに「AI利用の開示義務」「AIを著者にできない」などのルールが異なります。投稿規定は必ず最新版をチェックしましょう。
投稿前チェックリスト
- 参考文献はすべて実在を確認した
- DOIにアクセスして正しいリンク先を確認した
- 要約内容が原著論文と一致している
- 数値・統計結果に誤りがない
- 類似性レポートで高類似箇所を確認した
- 投稿先ジャーナルのAI利用ポリシーを確認した
- AI生成箇所を自分の言葉で再構成した
- 共著者にも最終確認をお願いした
このリストをPCのデスクトップに貼っておくだけでも、ヒヤリ・ハットの多くは防げます。
NAIの類似性削減校閲＋AI依存度低減校閲
NAIでは、iThenticateを用いた類似性削減校閲に加え、AI依存度低減校閲にも対応しています。
サービスでは、
- Similarity Reportの提供
- 類似性の高い箇所の確認、リフレーズ
- 類似性削減のためのリライト支援
- AI生成文の確認、リライト
- 投稿前のリスクチェック
などを行っています。
「自分で確認したつもりでも、第三者の目を通すと見落としが見つかる」―これは多くの研究者が口にする言葉です。とくに非英語圏の研究者にとって、英文の自然さとアカデミックらしさの両立は悩みのタネ。NAIの校閲では、専門分野を理解した校閲者が一文ずつ丁寧に確認し、「AIっぽさ」が残った表現も自然な学術英語へと整えていきます。
近年は出版社やジャーナルによってAI利用ポリシーが異なるため、投稿前の確認はこれまで以上に重要になっています。
論文の品質向上だけでなく、投稿時のリスク管理という観点からも、NAIの類似性削減校閲やAI依存度低減校閲の活用が有効です。生成AIと上手に付き合いながら、安心して論文を世に送り出すために――ぜひお気軽にご相談ください。
エヌ・エイ・アイ株式会社
科学論文サポートサービスのNAIの類似性削減校閲やAI依存度低減校閲
https://www.nai.co.jp/correction/similaritycheck.html
