Toppchefer från tre av världens ledande AI-företag – OpenAI, Anthropic och Google DeepMind – har gått samman i en ovanlig gemensam varning om att artificiell intelligens kan användas för att utveckla biologiska vapen. Sam Altman, Dario Amodei och Demis Hassabis har undertecknat ett öppet brev riktat till USA:s kongress där de efterlyser strängare reglering av företag som säljer syntetiskt DNA och RNA. Det genetiska materialet kan användas för att skapa sjukdomsframkallande organismer och toxiner, vilket gör det till ett potentiellt hot om det hamnar i fel händer.

Enligt undertecknarna kan AI minska den tekniska kunskap som krävs för att designa farliga patogener, vilket ökar risken för att kriminella eller terrorister kan missbruka tekniken. De pekar särskilt på att AI kan automatisera delar av forskningsprocessen och snabbt generera designförslag för nya virus eller toxiner – något som tidigare krävt avancerad biologisk expertis.

Brevet är ett tecken på att säkerhetsdebatten kring AI nu utvidgas bortom traditionella farhågor som desinformation eller jobbförluster, och in i områden med direkt påverkan på folkhälsa och nationell säkerhet. Ingen av de tre företagen har rapporterat att de själva har upptäckt sådana missbruk, men varningen är proaktiv. Det saknas i nuläget bindande internationella regler för hur syntetiskt genmaterial ska kontrolleras.