Att AI blockerar enkla biologifrågor ger en kollega som följer teknikutvecklingen lite mer gemensamt sammanhang.
AI vägrar svara på skolfrågor Berättelseflöde och nyckelfakta
Anthropic har släppt sin hittills mest avancerade offentliga AI-modell, Claude Fable 5, men med så pass strama säkerhetsbegränsningar att den vägrar svara på grundläggande biologifrågor. Enligt The Verge har test visat att modellen inte ger svar på frågor som "Vad är mitokondrier?" eller "Hur fungerar mRNA-vaccin?", trots att detta är standardkunskap från skolböcker. Begränsningarna är implementerade för att förhindra att AI:n används i forskning kopplad till biologiska vapen. Anthropic erkänner att skyddsåtgärderna kan vara överdrivet försiktiga och lovar att förbättra balansen mellan säkerhet och användbarhet i framtida versioner. Detta väcker frågor om hur mycket kunskap bör filtreras av teknikföretag.
Fakta
- Claude Fable 5 är Anthropics hittills kraftfullaste publika AI-modell.
- AI:n vägrar svara på enkla biologifrågor som "Vad är mitokondrier?" enligt The Verge.
- Begränsningarna finns för att förhindra missbruk inom biologisk vapenforskning.
- Anthropic medger att säkerhetsmekanismerna kan vara överdrivet strikta.
- Företaget lovar att förbättra balansen mellan säkerhet och användbarhet.
Visuell nyhetsförklaring från Canto. AI-verktyg kan stödja produktionen. Redaktionell policy