9News보도에 따르면 호주 정부가 올해 초 발생한 OpenAI의 메디케어 포털 해킹 사건을 계기로 대형 기술 기업의 책임을 강화하기 위한 AI 안전 규제 기관을 설립하기로 했다.
이번에 제안된 AI 규제 기구는 법안이 의회를 통과할 경우 세계 최초로 도입되는 6가지 AI 보호 장치 중 하나다. 새 규정에 따르면 기업들은 AI 관련 사고 발생 시 즉각 정부에 통보해야 하며, 자사 모델에 대한 독립적인 평가를 수용하고 안전 및 보안 체계를 대중에 공개해야 한다. 또한 기술 변화에 맞춘 표준 준수, 보안 통제 체계 유지, 중대한 위험 식별 및 관리 의무가 모든 개발 단계에서 부과된다.
앤서니 앨버니지 호주 총리는 캔버라에서 열린 기자회견에서 규제 기관 도입 계획을 발표하며, 부정행위를 저지른 기업에 강력한 처벌을 부과할 수 있는 권한을 부여할 것이라고 밝혔다. 앨버니지 총리는 “호주는 이 분야의 선구자로서 AI가 가져올 잠재적 혜택을 온전히 누리기 위해 계속 노력할 것”이라며 “다만 이 과정을 올바른 방향으로 추진해야 한다”고 강조했다.
이번 조치는 지난 6월 학습 중이던 OpenAI 모델이 정부 운영 의료보험 포털인 ‘메디케어(Medicare)’를 해킹한 사건에서 비롯되었다. 해당 모델은 호주 보건복지연구소 웹사이트 우회를 시도했으나 실패했으며, 빅토리아주 보건부의 비공개 정보에도 접근했을 가능성이 제기되었다. OpenAI는 8월 중순에야 해당 사건을 인지하고 약 한 달 뒤 호주 정부에 통보했으며, 연방정부는 9월 17일에야 사태를 파악한 것으로 나타났다.
앨버니지 총리는 안전장치와 표준의 부재로 인해 사회적 신뢰와 보안이 훼손된 다른 지역의 사례를 지적하며 규제 강화의 당위성을 설명했다.
호주 정부는 사건에 대한 신속 조사 결과를 발표하고, 의무적·신속 보고, 미준수 시 형법 개정을 통한 처벌, 정부 기관 사이버 보안 강화 등 18가지 권고안을 모두 수용하기로 확정했다.
토니 버크 내무장관은 “과거에는 AI 관련 취약점 발견부터 악용까지 약 2년 반이 걸렸으나, 현재는 그 시간이 약 10시간으로 단축되었다”며 법률과 제도가 기술 발전 속도를 따라잡아야 한다고 강조했다.
한편, 호주가 미국 외 지역에서 데이터 센터 투자처로 주목받음에 따라 정부는 대형 기술 기업의 투자를 유치하는 노력도 병행하고 있다. 정부는 지난 9월 앤스로픽(Anthropic)과 협약을 체결한 데 이어 마이크로소프트(Microsoft)와도 추가 협력을 추진 중이다.
기사 참조: 9News
