2025年には、実写とAI生成ビデオの明確な境界線が消失するかもしれません

AIによる生成コンテンツはこれからも続くでしょう。その品質は日々向上しており、2024年にはAI技術の大幅な進歩が見られました。2025年には、現実とAIによる生成物とを見分けられるでしょうか？

最近、インスタグラムの投稿を見て、「それは本当に女性？」と少し目を細めて自問自答していました。「いや、それはAIによる生成物に違いない」と、一瞬で結論を出しました。そしてすぐに思いました：来年には、私たちはまだ数秒で差を見分けられるでしょうか？特にソーシャルメディアでは、AI技術の最近の大きな進歩を考えると、その可能性は低そうです。

数日前、Instagramの責任者であるアダム・モッサーリが、Threads上でこの問題についてのメッセージを共有しました。「生成型AIは明らかに、現実の記録と区別がつかないコンテンツを生成しており、その進化は急速に進んでいます」と彼は書きました。モッサーリは公に、MetaがAIによって作られたコンテンツのタグ付けや、毎秒ごとに彼らのSNSプラットフォームで共有される大量のメディアの監視と制御に苦労していることを認めました。

モッサーリはMetaの責任を洗いざらいにし、ユーザーに投稿が本物かどうかを判断するのは自分たち次第だと警告しました。「現実の記録や説明を主張するコンテンツを消費するとき、視聴者や読者が鋭い目を持って対処することがますます重要になるでしょう」と彼は付け加えました。

わずか数日後、OpenAIはSora Turboをリリースしました。これは強力なAIビデオジェネレーターで、プロユーザーやプラスユーザーがテキストプロンプトからリアルなビデオを生成することを可能にしました。ユーザーは数分で魅力的なリアルなビデオを作成し始め、それらをソーシャルメディアで共有し始めました。

ビデオ制作が新たなレベルに達したかのように見えたところで、Googleは最新のAIビデオツール、Veo 2を発表しました。これはSoraよりも解像度が高く、クリップの長さも長いものでした。もちろん、この先進技術にアクセスできた人々が共有した結果は、さらに印象的でした。

「今では誰もこれがAIだと気づかない」とあるユーザーが書いています。

It’s over.

Google Veo 2がライバルを一掃し、AIメディア界の新王者に輝きました。

今やこれがAIだと誰も気づかないでしょう。

驚きの10例：pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 2024年12月17日

既に始まっている

2024年、我々はAIが生成するコンテンツがどのように人々や選挙、そしてソーシャルメディアのユーザーに影響を及ぼしているかを目の当たりにしました。

1月、ニューハンプシャー州の住民たちは「ジョー・バイデンから」の電話を受け、予備選挙に投票しないようにと言われました。政治コンサルタントのスティーブ・クレイマーがこの詐欺行為の裏におり、彼はAIディープフェイクロボコールによる罰金600万ドルを科せられました。政府はAIが及ぼす影響を理解し始め、シンガポールのような国々では、ディープフェイクコンテンツを国民が見抜くための法律や戦略が開発されています。

ベネズエラでは、AIによる動画が誤情報を広めていますが、同時にAIアバターを使ってセンサーシップを回避し、ジャーナリストが情報を提供するのにも役立っています。

本物と偽物の区別がつかないと困っている人々がいますが、それは彼らのせいではありません：AIによる生成コンテンツがますます洗練されてきているからです。

高品質のAI生成コンテンツは、テキスト、オーディオ、ビデオのすべての形式で成長するビジネスです。多くのOnlyFansのクリエイターたちは、現在、チャットボットに依存してファンとの会話を楽しんでいます。これはかつては低所得国のギグワーカーに割り当てられていた仕事です。新しいAIモデルは、フリーティングテクニックに特化しており、フォロワーから1,000ドルのチップを生成しました。

4月には、Nvidiaが支援するスタートアップSynthesiaは、人間の感情を表現できるAIアバターを立ち上げ、130言語で話すことができます。TikTokでは、企業がGetty Imagesのコンテンツを使用してAIによる広告を作成できるようになり、そして今ではYouTubeのクリエイターは新しいAI自動吹き替え機能を使用して、自分たちのコンテンツを9言語に翻訳することができ、将来のアップデートでは元の音声を再現します。

Zoomは、ユーザーと瓜二つのAIアバターを作成し、それらを使ってメッセージを記録したり、会議に参加したりすることを計画しています。このツールは来年にロールアウト予定ですが、すでに多くの人々が様々なツールをテストし、企業はすでに写真のようにリアルなAIクローンを作成することが可能になっています。

あなたが最後にZoomで会話したのは本当に実在の人物だったのでしょうか？

それがAIによって作成されたものだったのかどうか、現時点で判断する方法は？

私たちは今、デジタル時代の中で混乱して生きています。フィルターによって誰でも無駄のない肌のモデルのように見え、インスタグラムやスナップチャットでは一度のクリックでPhotoshop並みの修正が可能になっています——”自然体”のイメージ、欠点も含めてを共有したいと思う人が、それが数秒で強化される世の中で、果たしてどれほどいるでしょうか？人工知能によって生成された写真リアルなイメージの広告が増えてきており、徐々に私たちの目にその存在が馴染み、”普通”だと認識されるようになってきました。そして毎日、世界中で驚くような出来事が私たちに問いかけています：何が本物で、何がもう本物でないのか？

大手AI企業は、自社が生成したAIコンテンツを識別しやすくするためのウォーターマークの開発に努めています。Google DeepMindは昨年10月にオープンソースのウォーターマークシステムを立ち上げ、AIによるビデオ、テキスト、オーディオにタグを付けるようにしました。また、MetaもそのAIビデオツールにウォーターマークを組み込みました。

しかし、その有効性には疑問が残ります。MetaがすべてのAI生成コンテンツにタグを付けられないことを認めたことからもわかるように、悪意のある行為者は依然としてウォーターマークを削除する方法を見つけることができます。そして、より成功したシステムを実現するためには、ソーシャルメディア企業と政府との間でさらなる法律、パートナーシップ、合意が必要となります。

今のところ、私たちの直感を信じることに加えて、ソーシャルメディアで共有する前や私たちが見ているものを信じる前に、自分自身にいくつかの質問をすることができます：

• Mosseriが推奨したように、以下のことを考慮してみてください： この情報を共有しているのは誰ですか？これは信頼できる情報源ですか？
• その人の表情や動きはロボットのように感じますか？AIのアバターはかなりリアルであることが多いですが、それでも奇妙な硬さや感情の欠如を認識することは可能です。ただし、Synthesiaのような数社はすでにこれを改善していることを考えてください。
• そのコンテンツは強い感情的反応を引き起こすように設計されていますか？悪意のある行為者は、私たちがどれだけ簡単にネガティブなニュースを共有し、SNS上で感情的に充電された素材と交流するかを知っています。そして、研究もこれを確認しています。あなたが血の気が引くような内容を共有し、他の人々もあなたと同じくらい激怒させる前に、それが物議を醸すために設計されているのか、それとも実際のニュースや実際の出来事なのか考えてみてください。
• 他の情報源でそのコンテンツを裏付けることができますか？信頼できる情報源で二重チェックすることは決して損ではありません。

そして最後に、あなた自身、あるいはお気に入りのチャットボットに、批判的思考をどのように向上させるか尋ねたことはありますか？批判的な思考力を養うことは、間違いなく誰もが新年の抱負の中に含めるべきです。