En grupp brittiska politiker vill att regeringen överväger ett nödstopp för AI som skulle kunna stoppa artificiella intelligenssystem under en allvarlig nationell säkerhetskris.
Liberaldemokraten Lord Tim Clement-Jones leder förslaget genom ett tillägg till Cyber Security and Resilience Bill, som nu behandlas av det brittiska överhuset.
Förslaget riktar in sig på risker för kritisk infrastruktur
Det föreslagna nödstoppet för AI skulle ge regeringen befogenheter att i en nödsituation stänga av AI-system och potentiellt även datacenter om ett okontrollerat system hotade kritisk infrastruktur.
Lord Clement-Jones beskrev åtgärden som ett säkerhetsnät som skulle kunna stoppa ett skadligt AI-system innan det orsakar mer omfattande skador. Han uppgav att befogenheten endast skulle användas i situationer där det var absolut nödvändigt.
Förslaget följer en växande oro över cyberattacker, statsstödda hot och digitala bedrägerier som påverkar samhällsviktiga tjänster.
Cyberlagförslaget går vidare genom parlamentet
Cyber Security and Resilience Bill syftar till att stärka säkerheten för samhällsviktiga och digitala tjänster i Storbritannien. Det är ett svar på den ökade risken för störningar från cyberkriminella och fientliga statliga aktörer.
Lagförslaget har gått igenom underhuset och granskas nu av överhuset. Tillägget om ett nödstopp för AI skulle införa ytterligare en nödmekanism för att hantera allvarliga AI-relaterade risker.
Förespråkarna hävdar att åtgärden skulle kunna skydda viktiga tjänster om konventionella säkerhetsåtgärder misslyckas. En sådan nedstängning skulle dock även kunna störa driften av datacenter och anslutna digitala tjänster.
Liknande idéer har lyfts i USA
Rapporten noterade också att amerikanska lagstiftare överväger liknande nödbefogenheter inom ramen för ett föreslaget AI Kill Switch Act.
Diskussionen följde rapporter om en testincident hos OpenAI som involverade Hugging Face. Omständigheterna och de bredare konsekvenserna av dessa rapporter är fortfarande föremål för debatt.
För närvarande är det brittiska förslaget fortfarande ett tillägg som övervägs. Parlamentet måste enas om dess omfattning, tillsyn och exakta villkor innan ett nödstopp för AI kan bli lag.
0 svar till ”Brittiska överhuset överväger nödstopp för AI i krissituationer”