Alibaba Cloud has temporarily stopped the AI news summary function that was broken.
2025/01/17 5:58:35
Appleは、AIによるニュースとエンターテインメントの通知要約機能を一時的に無効にしました。この機能は精度の問題に直面しており、誤解や有害な情報を生む可能性があります。Appleは、サマリーの精度と信頼性を改善するために取り組み、将来再導入する計画です。
Appleは、一連の広範な問題により、Apple Intelligenceの通知要約機能を一時的に縮小しています。この機能はAIを使用して入力された通知の簡潔な要約を提供しますが、特にニュースやエンターテインメントコンテンツを要約する際に精度の問題に直面しています。
ボケた要約は最悪でも面白く、最悪の場合には有害または誤解を生むことがあります。Apple Intelligenceは人間の言葉のニュアンスを正確に捉えることに苦労しているようです。これにより、AIによって生成されたニュース要約が事実的に誤ったり誘導的だったりした例がいくつか見られました。BBC Newsなどのニュース機関は、不正確な要約がニュース機関の信頼性を損ない、公衆の信頼を減らす可能性があるという懸念を述べています。あなたのスマートフォンの通知を見てみると、AIがフェイクニュースを作り出す場合、それが偽または不正確であるかどうかすぐにわかるわけではありません。
最初に通知を見ると、AIサマリーであるということも全く気づかないかもしれません。AppleのIntelligence機能の背後にあるロジックは、AIを携帯電話の中でできるだけ-nativeのように感じさせることです。しかし、ニュースサマリーが独自のニュースを作り出すと問題になります。
AppleはiOS 18.3、iPadOS 18.3、macOS Sequoia 15.3の最新ベータリリースでニュースとエンターテインメント通知サマリーを無効にしました。これらのオペレーティングシステムの安定版が数日か数週間以内に出るまで、これらは最終的に消えます。会社はサマリーの精度と信頼性を改善するために取り組み、問題解決後、将来的なアップデートでこの機能を再導入する計画です。
Appleは透明性のため、単なる多くの人が読むつもりがないラベルだけではなく、追加の措辞をいくつか追加しています。この部分的な削除が終わっても引き続き活用されるコンテンツカテゴリーに対して、Appleは透明性とユーザー制御を向上させるためのいくつかの変更を行っています。通知要約機能を有効にすると、今後からその機能がベータ版であることを明確に知らせられるようになります。また、Appleは要約された通知の視覚的なスタイルも調整し、通常の通知と区別するために斜体文字を使用しています。もし斜体が見かけたら、通知内のテキストが正確かどうか再確認することをお勧めします。
さらに、Apple はユーザーに通知要約に対するより粒度の制御を提供しています。今後、ロック画面からこの機能をオンまたはオフに切り替えることができます。また、各アプリごとに要約の設定をカスタマイズできます。
おそらく、この機能が再導入されるときには、要約は以前ほど正確になるはずです。また、一部の企業が私たちがAGIにどれだけ近づいているかについてどのように述べているかを嘘で話すと仮定すると、生成AIも時々汚い出力を生み出し、それが想像よりも頻繁です。私たちが最終的にそれを許可できるようになるかもしれませんが、最も高度なモデルでもまだ作業中であり、時々間違いを犯うかもしれません。
