개빈 뉴섬 캘리포니아 주지사가 인공지능(AI) 규제 법안인 'AI 안전법'(SB 1047)에 대해 거부권을 행사했다. AI 기술의 본거지로 꼽히는 캘리포니아의 AI법은 미국 및 글로벌 AI 규제의 초석이 될 것으로 주목받았지만, 업계의 강렬한 반대 등으로 멈춰서게 됐다.

29일 CNN, CBS, 블룸버그 등 언론에 따르면 뉴섬 주지사는 이 법안이 AI 시스템이 고위험 환경에 배치되는지, 중요한 의사 결정이나 민감한 데이터 사용을 포함하는지 여부를 고려하지 않는다며 거부권을 행사했다.

뉴섬 주지사는 성명을 통해 "규제가 가장 크고 비싼 AI 모델에만 집중돼 있다"며 "AI 모델의 크기와 비용만을 기준으로 규제하려 했을 뿐 실제 그 모델이 위험한 상황에 사용되는지를 고려하지 않았다"고 설명했다.

 

이어 "작은 AI 모델들도 전력망이나 의료 기록과 같은 민감한 데이터를 다루는 매우 위험한 상황을 초래할 수 있지만, 대형 모델들은 고객 서비스와 같이 비교적 위험이 낮은 작업에 사용되기도 한다"고 지적했다.

 

그러면서 "대규모 재난이 발생하기 전에 대책을 마련해야 한다는 법안 지지자들의 주장에 동의하지만, 규제는 반드시 과학적이고 실증적인 증거에 기반을 둬야 한다"고 덧붙였다.

 

 

<29일 개빈 뉴섬 캘리포니아 주지사가 인공지능(AI) 규제 법안인 'AI 안전법'에 대해 거부권을 행사했다. 출처 CBS 뉴스 캡처>

 

개빈 주지사의 거부권 행사에 따라 이번 법안에 반대해 온 기술 기업들은 한숨 돌릴 수 있게 됐다.

 

이 법안은 1억달러 이상 투입된 대규모 언어모델에 대해 안전성 테스트를 의무화하고, AI 시스템이 다수 사망이나 5억달러 이상의 재산 피해와 같은 심각한 문제를 일으키지 않도록 개발사가 합리적 주의를 기울이도록 하는 내용을 담고 있다.

 

또한 기업이 통제가 어려울 경우 작동을 멈추게 하는 '킬 스위치(kill switch)' 기능을 구현하도록 요구했다. 규정을 지키지 않으면 주 법무장관이 소송을 제기할 수 있도록 했으며, AI와 관련된 위험을 알린 내부 고발자들에 대한 보호조치도 마련됐다. 

구글, 메타, 오픈AI 등과 같은 기업들은 해당 법안에 대해 안전이라는 명목으로 혁신을 저해하고 모호한 기준을 적용하고 있다고 반대해 왔다.

 

낸시 펠로시 전 하원의장, 로 카나 하원의원, 런던 브리드 샌프란시스코 시장 등 의원들도 이 법안이 캘리포니아의 AI 혁신 리더십을 저해할 수 있다는 기술 업계의 우려를 반영하여 반대 의사를 표명했다.

 

<박현종 객원기자>