Det britiske Overhuset vurderer nødstopp for KI i krisesituasjoner

En gruppe britiske politikere ønsker at regjeringen skal vurdere en nødstoppmekanisme for KI som kan stanse kunstig intelligens-systemer under en alvorlig nasjonal sikkerhetskrise.

Liberaldemokraten Lord Tim Clement-Jones leder forslaget gjennom et tillegg til Cyber Security and Resilience Bill, som nå behandles av det britiske Overhuset.

Forslaget retter seg mot risiko for kritisk infrastruktur

Den foreslåtte nødstoppmekanismen for KI vil gi regjeringen fullmakt til å deaktivere KI-systemer og potensielt stenge datasentre i en nødssituasjon dersom et ukontrollert system truer kritisk infrastruktur.

Lord Clement-Jones beskrev tiltaket som et sikkerhetsnett som kan stoppe et skadelig KI-system før det forårsaker større skade. Han sa at fullmakten kun vil bli brukt i situasjoner der det er absolutt nødvendig.

Forslaget kommer etter økende bekymring for cyberangrep, statsstøttede trusler og digital svindel som rammer viktige tjenester.

Cyberlovforslaget går videre gjennom Parlamentet

Cyber Security and Resilience Bill har som mål å styrke sikkerheten for viktige og digitale tjenester i Storbritannia. Det er et svar på den økte risikoen for forstyrrelser fra cyberkriminelle og fiendtlige statlige aktører.

Lovforslaget har gått gjennom Underhuset og behandles nå av Overhuset. Tillegget om en nødstoppmekanisme for KI vil innføre en ytterligere nødmekanisme for håndtering av alvorlige KI-relaterte risikoer.

Tilhengere hevder at tiltaket kan beskytte viktige tjenester dersom konvensjonelle sikkerhetstiltak svikter. En slik nedstengning kan imidlertid også forstyrre driften av datasentre og tilknyttede digitale tjenester.

Lignende forslag har blitt fremmet i USA

Rapporten bemerket også at amerikanske lovgivere vurderer lignende nødfullmakter gjennom et foreslått AI Kill Switch Act.

Diskusjonen fulgte rapporter om en testhendelse hos OpenAI som involverte Hugging Face. Omstendighetene og de bredere konsekvensene av disse rapportene er fortsatt gjenstand for debatt.

Foreløpig er det britiske forslaget fortsatt et tillegg som er under vurdering. Parlamentet må bli enige om omfanget, tilsynet og de nøyaktige kriteriene før en nødstoppmekanisme for KI kan bli lov.