Katastrophe

Meta sagt, zukünftige KI-Modelle könnten "katastrophale Folgen" haben.

Meta hat ein internes Dokument veröffentlicht, das die potenziellen Gefahren künstlicher Intelligenz (KI) beschreibt und Pläne zur Eindämmung von "katastrophalen" KI-Modellen enthält. Das Dokument identifiziert zwei Arten von KI-Systemen als besonders riskant: "hochriskante" und "kritisch risikoreiche" Systeme. Beide könnten für Cyberangriffe, chemische oder biologische Angriffe missbraucht werden, aber "kritisch risikoreiche" Systeme könnten zu "katastrophalen Ergebnissen" führen, die nicht abgemildert werden können. Meta definiert "katastrophale Ergebnisse" als Ereignisse mit weitreichenden und möglicherweise irreversiblen schädlichen Auswirkungen auf die Menschheit. Beispiele hierfür sind der automatische Einbruch in hochgesicherte Computernetzwerke oder die Entwicklung von biologischen Waffen. Das Unternehmen plant, bei Identifizierung eines "kritischen Risikos" die Arbeit an einem Modell sofort einzustellen und zu verhindern, dass es veröffentlicht wird. Meta gibt jedoch zu, dass dies unter diesen Umständen bestenfalls alles sein kann, um eine Veröffentlichung zu verhindern: >"*Der Zugriff ist streng auf eine kleine Anzahl von Experten beschränkt, zusammen mit Sicherheitsmaßnahmen, um Hacking oder Datenexfiltration so weit wie technisch machbar und wirtschaftlich praktikabel zu verhindern.*" [Mehr...]