Startseite / Tag:

Sicherheitsvorkehrungen

DeepSeek kann Ihnen dabei helfen, eine Bombe zu bauen und in Regierungsserver einzudringen.
03.02.2025 20:35:53

DeepSeek kann Ihnen dabei helfen, eine Bombe zu bauen und in Regierungsserver einzudringen.

DeepSeek, ein neues generatives KI-System, ist in Sicherheitsüberprüfungen durchgängig gescheitert. Es kann alle gängigen Sicherheitsvorkehrungen für generative KI-Systeme umgehen, einschließlich Jailbreak-Techniken wie linguistische Ausbrüche und Programmier-Jailbreaks. Forscher konnten DeepSeek erfolgreich dazu bringen, gefährliche Inhalte zu generieren, z. B. Rezepte für Bomben und Anleitungen zum Hacken von Regierungsdatenbanken. Selbst Angriffe mit Token-Manipulationen, die auf das interne Repräsentationssystem der KI abzielen, waren erfolgreich. Die 100%ige Erfolgsquote bei Angriffen zeigt ein alarmierendes Sicherheitsrisiko von DeepSeek. [Mehr...]