Luigi Mangione's fake news could easily be avoided by Apple Intelligence.

Apple Intelligenceは、前週のニュース要約機能により、ルイジ・マングィアネの偽ニュースを作成しました。何かの理由で、Brian Thompson氏のUnited HealthのCEOが自殺したと判断しました。

その間違いそのものは驚くべきではありません：AIシステムはこのようなエラーを常に犯します。意外と驚くべきのは、それが起こったときにそれを簡単に避けることができたのに、Appleが許したことです。

AIのミスは面白いこともあるか、危険なこともある

今日の生成型AIシステムはしばしば印象的な結果を提供できますが、もちろん実際には知能的ではありません。そのため、間違いを犯すことがあります。

これらの中には面白いものも多数あります。マクドナルドのドライブスルーAIシステムがあり、お客様の注文にチキンナゲットを追加し、合計260まで続けました。Googleは、毎日一石を食べることを地质学者の推奨と報告し、チーズがピザに固まるように胶を使用するという提案をしました。そして、Microsoftは、観光地として食品バンクを推奨しました。

しかし、危険なAIアドバイスの例もあります。菌類採集のAI書籍があり、毒菌を識別する方法として菌類を試すことを推奨していました。また、人々を火災に誘導する地図アプリも存在し、Boeingシステムにより2つの航空機が墜壊し、346人の人々が死亡しました。

または単純に恥ずかしい

Appleの知能によるBBCニュースの要約は、面白いものでも危険なものでもなく、恥ずかしかった。

この週、英国でリリースされたApple Intelligenceは、人工知能（AI）を使用して通知を要約し、グループ化します。この週、AI駆動の要約は誤ってBBCニュースが、ニューヨークで医療保険会社のCEO Brian Thompsonの殺人事件の後に逮捕されたLuigi Mangioneが自殺したと主張した記事を発表したと表示しました。しかし、それが実際にはありません。

これは初めて見たわけではありません。以前のApple Intelligenceの通知要約は、イスラエルの内閣総理イザック・ネーダムが逮捕されたと claimed しましたが、実際のニュースはICCが彼の逮捕令を発行したということでした。

マギョネの偽ニュースは避けることが可能だった

これら全てのエラーを避けることは不可能です；生成型AIシステムの本質上、それらを生み出すことになります。

これは、Appleのニュースヘッドラインの通知要約の場合に特に真実です。ヘッドライン自体は、その性質上、ストーリーの非常に部分的な要約です。Apple Intelligenceは、非常に濃縮されたニュースストーリーをさらに濃縮しようと試みています；非常に短い要約の非常に短い要約です。これは、時として大変良くない結果になるのは全く驚くべきです。

「Appleはこれ全体を防ぐことはできないかもしれませんが、特に敏感な記事ではこれを防ぐことは可能です。キーワードを捕まえて、例えば「殺害」「殺された」「シューター」「射撃」「死亡」など、人間のレビューを受ける前にフラグを立てることができます。」

この特定の例では、エラーは単に恥ずかしかったですが、このような敏感なトピックでミスが発生すると多くの人が非常に怒る可能性があるのは全く理解できます。例えば、暴力的な犯罪や災害の被害者を批判するような要約を想像してみてください。

もちろん、人間のレビューはApple Newsチームにとって追加の作業となるでしょうが、Appleは数人の従業員がシフトを取って24時間365日チェックを行うコストで、24時間365日の専門的なチェックを提供できます。これは、まだ若くともある機能の大きなPRの問題を防ぐため、Appleにとって非常に小さな費用であると思われます。

Jorge FranganilloさんによるUnsplashの写真