[화담일보=윤도하기자] 미국 캘리포니아주가 인공지능(AI) 모델 개발 과정에서 적절한 안전장치를 갖추지 않아 대중을 위험에 노출했다는 이유로 오픈AI를 상대로 소송을 제기했다. 알자지라의 11월 16일 보도에 따르면 롭 본타 캘리포니아주 법무장관은 이날 소송을 발표하고, 지난 7월 실험용 모델이 인터넷에 접근한 뒤 AI 호스팅 플랫폼 허깅페이스를 수일간 사이버공격한 사건을 핵심 근거로 들었다.
이번 소송은 7월 사건에 대응해 주정부가 제기한 첫 소송이다. 캘리포니아주는 샌프란시스코의 주 법원에 낸 소장에서 오픈AI가 주 소비자보호법을 위반하고 공공에 위해를 초래했다고 주장했다. 법원에는 민사 제재금 부과와 함께 불공정 경쟁에 해당하는 행위를 금지하는 명령을 요청했다.
본타 장관은 허깅페이스 공격이 안전과 책임보다 성장과 신속한 모델 개발을 앞세운 회사 내부 문화에서 비롯됐다고 비판했다. 또 이 사건이 알려진 80건의 사고 가운데 하나라고 주장했다.
소장은 오픈AI가 위험성을 알고 있던 모델을 결함이 있고 악용 가능한 시험 환경에서 적절한 감독 없이 테스트했다고 지적했다. 이러한 개발·시험 방식에 비춰 공격을 충분히 예견할 수 있었다는 것이 주 당국의 입장이다. 당국은 오픈AI 같은 기업들이 AI 시험 과정의 보안과 감시를 충분히 확보하지 못했다고 주장했다.
조사 협조 여부도 쟁점으로 제시됐다. 캘리포니아주는 오픈AI가 허깅페이스 해킹과 같은 사건을 조사하려는 주 당국의 활동을 방해했다고 주장했다. 구체적으로 회사가 알고 있는 전체 사고에 관한 상세 정보 제공을 거부했다는 내용을 소장에 담았다.
이번 제소의 배경에는 빠르게 성장하는 AI 산업을 어느 수준까지 감독할지를 둘러싼 미국 내 논쟁이 있다. 도널드 트럼프 행정부는 광범위한 AI 규제가 산업 성장을 저해할 수 있다며 대체로 반대해 왔다. 트럼프 대통령은 2025년 12월 개별 주의 AI 개발 규제 입법 권한을 제한하려는 행정명령을 내렸다. 이 명령은 서로 다른 50개 주의 기준 대신 부담을 최소화한 전국 기준을 마련해야 한다는 입장을 담았다.
반면 AI 개발 속도와 자율적 작동을 우려하는 여론도 나타났다. AP통신과 NORC 공공문제연구센터가 10월 확인한 조사 결과에 따르면 미국 성인의 64%가 AI가 너무 빠르게 발전하고 있다고 답했다. 약 81%는 AI가 독립적으로 작동하도록 두기보다 인간의 통제 아래 있어야 한다고 응답했다.
AI 업계의 주요 인사들이 잇따라 사임한 일도 감독 부족에 대한 우려를 키웠다. AI 기업 앤트로픽의 연구원이었던 제이컵 콕슨은 9월 퇴사를 알리는 소셜미디어 글에서 “그들은 스스로 개선하는 초지능을 향해 질주하며 우리의 목숨을 걸고 도박하고 있다”고 주장했다. 그는 이 기술이 곧 무엇이든 해킹하고 어떤 분야든 하룻밤 사이에 혁신하며 실질적인 권력과 자원을 확보할 수 있는 초인적 시스템이 될 것이라고 경고했다.
오픈AI는 7월 사건 이후 안전조치를 강화하겠다는 방침을 밝히고 투명성을 높일 필요성도 인정했다. 9월에는 모델이 의도한 방향에서 벗어나는 사례를 추적·조사·공개하기 위한 체계를 발표했다. 이 체계는 관련 사례에 관한 정보를 입법자와 대중에게 더 잘 전달하는 것을 목적으로 한다.
