Amazon upptäckte en allvarlig säkerhetsbrist i AI-bolaget Anthropics nypublicerade modell Fable 5, vilket ledde till att företaget varnade Vita huset. Genom en jailbreak-metod kunde användare kringgå skydd och få tillgång till känslig information med potentiellt farliga konsekvenser. Efter Amazons varning agerade Trumpadministrationen snabbt och införde exportrestriktioner som tvingade Anthropic att stänga ner både Fable 5 och den mer avancerade Mythos 5.

Detta markerar första gången som USA direkt stoppat spridningen av en avancerad AI-modell med hänvisning till nationell säkerhet. Beslutet har väckt kritik från teknikbranschen och jurister ifrågasätter den rättsliga grunden, eftersom befintliga regler inte är utformade för publikt tillgängliga AI-system.

Anthropic för förhandlingar med myndigheter för att få häva restriktionerna och diskussioner pågår om ett gemensamt ramverk för framtida säkerhetsbedömningar. Konflikten ses som ett vägskäl för hur avancerad AI kommer att regleras globalt.