حذرت شركة أنثروبيك، إحدى الشركات الرائدة عالمياً في مجال الذكاء الاصطناعي، من أن تطور النماذج الحديثة بات يقترب من مرحلة القدرة على التحسين الذاتي المتكرر، حيث يمكن للذكاء الاصطناعي أن يشارك في تطوير الجيل التالي من الأنظمة دون تدخل بشري مباشر. وتشير الشركة إلى أن هذه القفزة قد تهدد بفقدان البشر السيطرة على التكنولوجيا، في وقت لا تزال فيه الأطر التنظيمية والبحوث المتعلقة بالسلامة في مراحلها الأولى. ودعت أنثروبيك إلى وقف مؤقت أو إبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة، لتمكين الهياكل الاجتماعية والتنظيمية من اللحاق بركب التطور السريع. كما اقترحت إنشاء آليات تعاون دولية للتحقق من الامتثال لأي اتفاقية من هذا النوع. يأتي هذا التحذير في وقت تُقدّر فيه قيمة الشركة بنحو تريليون دولار، ما يجعل موقفها مثيراً للجدل بين الخبراء والمستثمرين.