Apple、偽の見出し論争後にAI機能を削除するよう促される

主要なジャーナリズム監視団体が、Appleの生成AI機能が高プロファイルな殺人事件に関する見出しを誤ってBBC Newsに帰属させた後、その機能の撤回を求めています。

木曜日、BBCは、Appleの新機能であるApple Intelligenceが不正確な見出しを生成したことで論争が起こったと報じました。医療保険CEOブライアン・トンプソンの殺人容疑者であるルイジ・マンジョーネが自射したと示唆されましたが、BBCはそのような記事を公開していませんでした。

国境なき記者団（RSF）は、国際的な報道の自由を擁護する組織で、未熟なAIツールがメディアの信頼性と公衆の信頼に対するリスクを浮き彫りにしたとして、Appleを批判しました。

RSFのテクノロジーとジャーナリズム部門の責任者であるVincent Berthierは、この失策を「メディアの信頼性への打撃」と呼び、信頼性のある情報への公衆のアクセスを脅かすものと非難しました。RSFはAppleに対し、その機能を即座に削除するよう要求しました。

「欧州AI法案は、この分野における世界最先端の法律であるにもかかわらず、情報生成AIを高リスクシステムとして分類しなかった。これにより重要な法的空白が生じ、これを直ちに埋めるべきだ」と、ベルティエ氏は述べました。

BBCは、テクノロジー大手に対して正式な苦情を申し立て、解決を求めたことを確認しました。しかし、Appleがどのように対応したのかはまだ明らかではありません。

欠陥のあるAIの要約は、BBCニュースに限定されていませんでした。11月21日には、ニューヨークタイムズの記事を誤って要約し、イスラエルの首相ベンジャミン・ネタニヤフが逮捕されたと誤って示唆したと、BBCの記事で報じられました。

この通知は、後にジャーナリストのケン・シュウェンケによって強調され、実際にはネタニヤフに対する国際刑事裁判所の手配書を指していました。

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligenceは、通知の中断を減らすことを目指して、それらを要約し、グループ化します。iOS 18.1以降を搭載したiPhoneおよび一部のiPadとMacに対応していますが、信頼性のあるニュースメディアからの情報が誤って表現されることで反発を受けています。

BBCのスポークスパーソンは、グループ化された通知の一部が世界の出来事に関する記事を正確に要約している一方で、Mangioneに関する誤情報がメディアと公の理解の両方に損害を与える可能性を示していると強調しました。

RSFは「この事故は、生成AIサービスがまだ公衆に対して信頼できる情報を提供するには未熟すぎることを示しており、そのような用途に市場に出すべきではない」と警告しました。

Ars TechnicaはAppleの通知摘要をレビューし、頻繁に発生するいくつかの問題を指摘しました。まず、一部のサマリーは事実上正確ですが、人間関係やメンタルヘルスのようなデリケートな話題では特に、ロボットのようでぎこちないと感じられます。また、他のものは皮肉や俗語、慣用表現を誤解し、それらをしばしば文字通りに解釈してしまいます。

コンテキストの喪失もまた大きな問題で、特にスレッドの前のメッセージを見落としたり、マルチメディアコンテンツを考慮に入れない場合に顕著です。複数の話題が交錯するグループチャットでは、サマリーが過負荷になり、主題が混ざり合い、不正確さを生じさせることがあります。

最後に、一部のサマリーは単純に間違っていることもあります。これは、あまりにも多くの情報をあまりにも少ない言葉に凝縮しようとする試みが原因で、結果として誤った報告が生じます。全体として、これらの問題は、機能の利便性と精度に影響を及ぼし、日常的に頻繁に発生します。

Mangioneは現在、一級殺人罪で起訴され、ジャーナリズムにおけるAIのリスクについての議論の焦点となっています。信頼性のあるニュースへの公衆の依存度が問題になっている中、Appleはこの問題を解決するための圧力が増しています。