Abbildung einer abgeschlossenen KI-Schnittstelle mit chinesischer und US-Flagge im Hintergrund, symbolisierend den geopolitischen Zugriffsstreit um KI-Modelle.
Abbildung einer abgeschlossenen KI-Schnittstelle mit chinesischer und US-Flagge im Hintergrund, symbolisierend den geopolitischen Zugriffsstreit um KI-Modelle.

Der Verdacht auf staatlichen Zugriff aus China gibt einem Kollegen, der KI-Sicherheit verfolgt, einen wichtigen Kontext.

KI-Sperre wegen China-Verdacht Handlungsfluss und Kernfakten

Die US-Regierung hat den Zugriff auf die KI-Modelle Fable 5 und Mythos 5 des Unternehmens Anthropic gesperrt, nachdem es Hinweise gab, dass eine Gruppe mit Verbindungen zur chinesischen Regierung Zugriff auf das streng geschützte Mythos-Modell erlangt haben könnte. Diese Maßnahme erfolgte im Rahmen einer Exportkontrollverordnung, die ausländischen Staatsangehörigen – einschließlich Anthropic-Mitarbeitern außerhalb der USA – den Zugriff untersagt. Zuvor war bereits bekannt geworden, dass Sicherheitslücken in Fable 5 ausgenutzt werden konnten, wodurch Anfragen gelegentlich vom weniger eingeschränkten Claude Opus 4.8 beantwortet wurden.

Anthropic hatte Fable 5 als eingeschränkte Version von Mythos 5 eingeführt, um Missbrauch durch Cyberangriffe oder schädliche Nutzung einzudämmen. Doch das System erwies sich als unzuverlässig, da es bei als heikel eingestuften Anfragen auf das ältere Modell umleitete – auch bei harmlosen Inhalten. Diese Schwachstelle führte zu Kritik in der Entwicklergemeinde. Wenige Tage nach der Veröffentlichung wurde der globale Zugriff dann überraschend gesperrt.

Später wurde bekannt, dass Amazon-CEO Andy Jassy vor der Sperre US-Finanzminister Scott Bessent über einen möglichen Jailbreak informiert hatte, basierend auf einem internen Bericht der Amazon-Cybersicherheitsabteilung. Der Verdacht auf chinesischen Zugriff auf Mythos wurde erst danach öffentlich. Offizielle Bestätigungen aus Regierungskreisen stehen bisher aus, und viele Hintergründe bleiben unklar.

Fakten

  • Die US-Regierung ordnete die Sperre der KI-Modelle Fable 5 und Mythos 5 von Anthropic an.
  • Es besteht der Verdacht, dass eine Gruppe mit Verbindungen zur chinesischen Regierung Zugriff auf Mythos 5 hatte.
  • Zugriff auf die Modelle wurde weltweit gesperrt, auch für ausländische Anthropic-Mitarbeiter in den USA.
  • Ein Grund war ein möglicher Jailbreak, bei dem Fable 5-Anfragen auf das weniger gesicherte Claude Opus 4.8 umgeleitet wurden.
  • Amazon-CEO Andy Jassy informierte vor der Sperre US-Finanzminister Scott Bessent über den Sicherheitsvorfall.
  • Offizielle Bestätigungen zu den China-Verdachtsfällen liegen bisher nicht vor.

Visuelle Nachrichtenerklärung von Canto. KI-Werkzeuge können die Produktion unterstützen. Redaktionelle Richtlinien