Luigi Mangione's fake news could have been easily avoided by Apple Intelligence.

애플 인텔리전스는 지난 주에 루이 기망 캐니언의 가상 뉴스를 만들었습니다.

오류 자체는 놀랍지 않습니다: AI 시스템이 이런 종류의 오류를 항상 발생시킵니다. 실제로 놀랍운 것은 Apple이 이 오류가 발생할 수 있었지만 쉽게 피할 수 있었음에도 불구하고 허용한 것입니다...

AI 오류는 재미있을 수 있고 위험할 수 있습니다.

오늘의 생성형 AI 시스템은 종종 놀라운 결과를 제공할 수 있지만, 물론 실제로 지능적이라는 것은 아니며, 그 결과로는 매우 놀라운 실수가 발생한 적이 있습니다.

이 중 많은 것은 재미있었습니다. 맥도날드 드라이브-스루 인공지능 시스템이 고객 주문에 치킨 난가를 계속 추가하다가 총 260개까지 추가한 적이 있었고, 구글은 지구물리학자 추천으로 매일 한 개의 돌을 먹으라고 하고, 치즈가 피자에 잘 붙도록 이물을 사용하라고 제안했으며, 마이크로소프트는 음식은행을 관광지로 추천했습니다.

하지만 위험한 AI 조언의 예가 있습니다. 버섯 캐기를 위한 AI 쓴 책이 있었는데, 독식 버섯을 식별하는 방법으로 버섯을 먹는 것을 권장했습니다. 화산재로 이끌어 사람들을 향한 지도 앱도 있었고, 벤보이 시스템은 두 항공기를 충돌시켜 346명의 사람을 사망시켰습니다.

혹은 단순히 불편할 뿐

애플 인텔리전스의 BBC 뉴스 요약은 재미있지도 않고 위험도 없었지만, 비격식적이었습니다.

Apple 인공지능이 최근 영국에서 출시된 외부 기능은 인공지능(AI)을 사용하여 알림을 요약하고 그룹화합니다. 이번 주, AI 기반 요약이 BBC 뉴스가 뉴욕에서 의료 보험 회사 대표인 브라이언 콘스탄틴을 살해한 뒤-arrested Luigi Mangione가 자살했다고 주장하는 기사를 게재했다고 가상으로 보여주었습니다. 그러나 그는 그런 것은 아닙니다.

이것이 처음 일어난 것은 아니었습니다. 이전의 Apple Intelligence 알림 요약에는 이라일리의 대통령 블라미엔 난테바르가 포용되었을 때 실제로는 국제刑事기구가 그의 포용을 허가한 이야기가 있었습니다.

망고니의 가짜 뉴스는 피할 수 있었다.

모든 이러한 오류를 피하는 것은 불가능합니다. 생성형 AI 시스템의 본성상 이런 오류를 만들기 때문입니다.

이것은 특히 애플의 뉴스 헤드라인 요약에 대해 더욱 성립합니다. 헤드라인은 본질적으로 이야기의 매우 부분적인 요약입니다. 애플 인텔리전스는 이미 매우 짧은 뉴스 스토리의 매우 짧은 요약을 더욱 축소하려고 합니다. 이는 때때로 매우 잘못될 수는 없습니다.

애플은 이와 같은 일이 일반적으로 일어나지 않도록 할 수는 없지만, 특히 민감한 뉴스에서 이 일은 발생하지 않도록 최소한 방지할 수 있습니다. 죽이기, 죽은, 사격자, 사격, 사망과 같은 키워드를 잡아서 사용되기 전에 인류 검토를 거치도록 할 수 있습니다.

이 경우의 오류는 단순히 모욕적이었지만, 민감한 주제에 대한 실수는 많은 사람들이 매우 화가 날 수 있다는 것을 쉽게 알아볼 수 있습니다. 예를 들어,