Anthropic: bevis skulle leda till att modellen tas bort
Löftet kom under en utfrågning i det brittiska parlamentet. Där ställdes företrädare för flera teknikbolag frågor om säkerheten kring sina AI-modeller.
– Om någon myndighet kom fram med påvisbara bevis för att modellen inte var säker eller farlig skulle vi naturligtvis ta bort den från marknaden, säger Liam Booth Smith, representant för Anthropic.
Bolagen uppger samtidigt att det bara kan ske om de har kontroll över modellerna.
OpenAI skrotade en modell av säkerhetsskäl
Utfrågningen hölls av parlamentets utskott för näringsliv, innovation, vetenskap och handel. Utskottet frågade chefer från OpenAI, Anthropic, Google DeepMind och Meta, rapporterar Independent.
Tom Duff Gordon, vice VD och chef för OpenAI:s policyarbete i Europa, Mellanöstern och Afrika, uppgav att bolaget skrotade lanseringen av sin senaste modell, GPT-6.1 Astra, av säkerhetsskäl.
Enligt honom hade modellen inte utvecklats tillräckligt när det gällde så kallad alignment, alltså att modellen ska agera i linje med mänskliga mål. Den avvisade dessutom för få förfrågningar.
– Det är ett bevis på att OpenAI tar säkerheten på verkligt stort allvar, att vi inte kappkörs mot botten, säger Tom Duff Gordon.
Risker inom cybersäkerhet och vapen
Anthropics representant beskrev bolagets säkerhetsarbete som rigoröst. Han sa att bolagets utlanserade modeller bedöms som säkra och att skyddsåtgärder finns på plats.
Enligt honom ligger den mest akuta risken just nu inom cyberområdet. Anthropics modell Mythos har hittat tiotusentals sårbarheter i månaden.
Han menade också att riskerna kan finnas inom biologi och andra områden.
– Det är möjligt att verklig skada skulle kunna orsakas genom att hjälpa människor att skapa biologiska eller kemiska vapen, säger han.
