ジェネラティブAIが科学界で警鐘を鳴らす：偽データが信頼性を脅かす

AIによる生成画像が、研究者や出版社の間で大きな懸念となっています。新たな生成型AIツールにより、科学データや画像を偽造することが驚くほど簡単になってしまったからです。Natureのプレスリリースで指摘されています。

この進歩は、学術文献の信頼性を脅かしています。専門家たちは、AIによって生成され、識別するのが難しいかもしれない捏造研究が急増することを恐れています。

ドイツのFEBSプレスで画像信頼性アナリストとして働くジャナ・クリストファーさんは、生成AIの急速な進化が科学における悪用の可能性についての懸念を増大させていると強調しています。

「私の専門分野である画像の信頼性と出版倫理に従事している人々は、それが提供する可能性についてますます心配しています」と、Natureによる報告でジェーンさんは述べています。

彼女は、一部の学術誌が特定のガイドラインの下でAIによって生成されたテキストを受け入れるかもしれないと指摘しながらも、AIが生成する画像やデータは、Natureが指摘するように、研究の誠実性を深刻に影響を及ぼす一線を越えると見なされています。

Natureによると、これらのAIによって生成された画像を検出することが主要な課題となっています。以前のデジタル操作とは異なり、AIによって生成された画像は通常、偽造の兆候が欠けており、それが詐欺を証明するのを困難にしています。

画像鑑定の専門家であるエリザベス・ビック氏や他の研究者たちは、AIが生成した図表、特に分子生物学や細胞生物学におけるものが、すでに公開された文献に存在している可能性があると、Natureが報じています。

ChatGPTのようなツールは、編集されていないチャットボットの典型的なフレーズによって特定可能な論文の起草に、現在では定期的に使用されています。しかし、AIが生成した画像を見つけるのははるかに難しいです。これらの課題に対応するため、テクノロジー企業や研究機関では検出ツールの開発が進められていると、Natureは指摘しています。

AIを活用したツールであるImagetwinやProofigが、生成型AIコンテンツを識別するためのアルゴリズムの訓練をリードしています。Proofigの共同創業者であるドロール・コロドキン＝ガルは、彼らのツールが98％の確率でAI画像を正確に検出することを報告しましたが、結果を確認するためには人間による検証が依然として重要であると語っています、Nature誌によれば。

出版界では、Science誌などのジャーナルが最初の投稿スキャンにProofigを使用し、出版大手のSpringer Natureは、テキストと画像の異常を識別するための独自のツール、GeppettoとSnapShotを開発しているとNature誌が報じています。

Natureによると、International Association of Scientific, Technical and Medical Publishersのような他の団体も、論文工場に対抗し、研究の誠実さを確保するための取り組みを開始しています。

しかし、専門家たちは出版社が迅速に行動する必要があると警告しています。科学画像の探偵であるKevin Patrickは、行動が遅れれば、AIによって生成されたコンテンツが学術文献における未解決の問題となる可能性があるとの懸念をNatureに対して述べています。

これらの懸念にもかかわらず、多くの人々は、将来の技術が進化し、今日のAIによる偽造を検出することを期待しています。これは、学術研究の誠実さを長期的に保護する解決策を提供します。