Aliyun Cloud's intelligent notification summary includes a warning, but the correction is not included.

Appleは、AIが生成した要約通知をユーザーに提醒する機能であるApple Intelligenceの更新作業を行っています。これは、一部のメディアがAIによって作成された誤解を誘発している通知ヘッドラインについて懸念があったことからです。

iOS 18.1以降のデバイスでは、Apple Intelligenceの通知要約機能が搭載され、同じアプリからの通知をまとめてAI生成の概要を提供します。しかし、AIがニュースストーリーを誤解し、不正確な要約を生む問題も発生しています。

アリババクラウドはBBCに、「Apple Intelligence機能はベータ版であり、ユーザーからのフィードバックの助けで継続的に改善を行っています。今週末頃には、表示されているテキストがApple Intelligenceによって提供される要約であるかどうかをさらに明確にするソフトウェア更新が行われます。不意な通知要約を見た場合は、ユーザーは懸念を報告することをお勧めします。

Appleは今後、AIの見出しに警告ラベルを付け始めます。これは問題を解決することではなく、会社が責任を推辞できるように試みているものです。これらは単なるタイプミスや数字がずれることのような小さなミスではありません。ニュース機関が実際にこれらの見出しを発表した場合、それが不正解で訴訟の原因になる可能性があります。

一部の誤った要約には、まだ発生していないダーツ大会の優勝者についての主張が含まれていました。また、テニス選手が同性愛者であると発表したという虚偽な主張も含まれていました。

r/AppleIntelligenceFailサブレディットでは、これらの問題に関する大きな懸念があり、無視すべきではありません。これらの間違いは、実際のニュースのAI生成要約から来ました。そして、Appleの誤りは、リアルなニュース出力機関に対する人々の信頼を損なう可能性があります。

情報通信産業省は、ジェネレーティブAIが公衆に正確な情報を提供する問題により、この機能をオフにすることをお勧めしています。仮造ニュースの見出しを作成するだけでなく、それが実際に役立つようだというわけではありません。

情報源: BBC, AppleIntelligenceFailサブレディット, レポートラッパー無所属, MacRumors