risk assessment

Meta가 미래의 AI 모델이 '비극적인 결과'를 가져올 수 있다고 경고했습니다.

메타는 AI 모델이 "비극적인 결과"를 초래할 수 있다는 우려로 새로운 정책 프레임워크 "프론티어 AI 프레임워크"를 발표했습니다. 회사는 특히, 인간의 개입 없이 강력한 보안 시스템을 해킹할 수 있는 AI 시스템에 대한 우려를 표명하며, 이러한 위험한 모델 개발과 배포를 막기 위한 계획을 설명했습니다. 메타는 "고위험" 및 "심각한 위험" 시스템으로 분류하여 최악의 경우 인류에게 파괴적인 결과를 초래할 수 있는 AI 시스템을 식별합니다. 회사는 모델 출시를 중단하고 제한하는 조치를 취하겠지만, 모든 위험 상황을 완전히 차단할 수 없다는 것을 인정했습니다. [더보기...]