Google DeepMindがAIによるテキスト生成の検出を支援するためのオープンソースの透かしツールを発表

Google DeepMindは、AIが生成したテキストを検出するためのオープンソースの透かしツール、SynthID-Textをこの水曜日に公開しました。このツールは、ビジネスや開発者に無料で提供され、テキストの生成時に人間の目には見えない透かしを埋め込むことで、単語の確率を変えることにより動作します。

「ここでは、SynthID-Textという、テキスト品質を保持し、高い検出精度を可能にし、最小の遅延オーバーヘッドである実用的なテキスト透かしスキームを説明します」と、Natureに発表された研究の要旨に記載されています。「大規模な透かし付けを可能にするため、我々は効率的なテクニックである推測サンプリングと透かし付けを統合するアルゴリズムを開発しました」

MITテクノロジーレビューによると、テクノロジーの巨人であるGoogleのAI研究室は、AIが生成したテキスト、音楽、ビデオ、画像を認識できる複数のAIウォーターマークツールを作成するために、SynthIDテクノロジーを開発しました。Google DeepMindは、このテクノロジーが複数のメディアタイプでどのように機能するかを説明するビデオを共有しました。

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 2024年10月23日

SynthIDは、Googleの責任ある生成AIツールキットを通じて利用可能で、研究者たちはHugging Faceと一緒に働いています。Hugging Faceは、LeRobotの家庭でAI駆動型ロボットを作るためのチュートリアルなど、他のオープンソースプロジェクトをホストする開発者向けの共同プラットフォームです。これを彼らのサイトでも共有する予定です。

「これからは、他の[生成]AI開発者がこの技術を使って、テキスト出力が自分たちの[大規模言語モデル]から来たものかどうかを検出するのに役立つでしょう。これにより、より多くの開発者が責任ある形でAIを構築することが容易になります」と、Google DeepMindの研究副社長であるPushmeet KohliはMIT Technology Reviewに語りました。

SynthIDはGoogleのGemini製品でテストされ、何百万人ものユーザーがウォーターマーク付きとウォーターマークなしのコンテンツを区別できないことが確認されました。ただし、研究者たちは、テキストが編集されたり翻訳されたりした場合にはその限りではないと認めていますが、それでも彼らは楽観的で、このツールが誤情報の防止やAIの安全性の向上に寄与できると信じています。

過去数ヶ月間にわたり、多くのテック企業がAIのラベリング戦略を発表しています。2月にはMetaがInstagram、Facebook、ThreadsでのAIコンテンツの識別システムを発表し、3月にはGoogleがユーザーにAIコンテンツのラベリングを求めました。そして5月にはTiktokがAIで生成されたコンテンツにラベルを追加しました。