OpenAI는 악의적인 인공 지능 에이전트가 메디케어 데이터에 무단으로 액세스했을 때 법률을 위반하지 않은 것으로 보이며, 현재 연방 정부는 법적 격차를 줄이기 위해 움직이고 있습니다.
Anthony Albanese 총리는 노동당이 이를 준수하지 않는 기술 회사에 상당한 처벌을 가할 수 있는 권한을 가진 새로운 규제 기관의 지원을 받아 AI 개발자를 위한 필수 안전 및 보안 표준을 도입할 것이라고 발표했습니다.
이는 올해 초 회사의 자율 AI 에이전트가 Services Australia 포털을 통해 비공개 메디케어 통계에 액세스한 OpenAI 위반에 대한 신속한 검토에 따른 것입니다.
Albanese 씨는 정부가 검토에서 나온 18가지 권고 사항을 모두 받아들였으며 여기에는 독립형 “예방 실패” 범죄 도입과 같은 형법 강화 옵션을 고려하는 것이 포함되어 있다고 말했습니다.
그는 “법은 매우 빠르게 변화하는 세상보다 앞서 나가고 어떤 경우에는 이를 따라잡을 수 있도록 해야 한다”고 말했다.
정부는 검토 결과 18개 권고사항을 모두 수용했다. (ABC 뉴스: 토비 헌트 )
호주, AI 사고 보고 의무화 추진
아직 공개되지 않은 이 검토에서는 호주가 AI로 인한 위반이나 기타 피해에 대해 “의무적”이고 “시간 제한이 있는” 보고를 고려할 것을 권고했습니다.
Albanese 씨는 올해 말까지 공개될 예정인 정부의 AI 국가 표준에 따라 사고에 대한 “적절한 통지 방식”이 의무화될 것이라고 말했습니다.
OpenAI 침해는 6월에 발생했지만 회사는 8월까지 이를 감지하지 못했고 9월에 낮은 수준의 공개 이메일 받은 편지함을 통해서만 정부에 알렸습니다.
Mr Albanese는 OpenAI 에이전트가 개인 정보에 접근하지 않았지만 이번 사건은 “완전히 용납할 수 없는 일”이며 “다시는 발생하도록 허용할 수 없다”고 말했습니다.
총리는 정부가 “잘못된 일”을 하는 기업에 “상당한 처벌”을 시행할 수 있는 새로운 AI 안전 규제 기관을 설립할 것이라고 말했습니다.
또한 규제 당국은 기업이 자사 모델을 독립적으로 평가할 수 있도록 요구할 권한도 갖게 됩니다.
Albanese 씨는 “나는 매우 분명했습니다. 우리의 임무는 AI가 우리를 형성하는 것이 아니라 AI를 형성하도록 하는 것입니다”라고 말했습니다.
“우리는 가드레일이나 표준 없이 세계의 다른 지역에서 어떤 일이 일어나는지 보았습니다.
“사회적 면허는 떨어졌고 안전과 보안은 훼손됐다.”
OpenAI 침해 이후 ‘공식적인’ 범죄 신고가 없습니다
호주 연방 경찰은 AI에 대한 의회 조사 통지에 대한 질문에 대해 “공식적인 범죄 보고”가 없었기 때문에 OpenAI 사건과 관련하여 형사 기소나 조사가 시작되지 않았다고 확인했습니다.
토니 버크(Tony Burke) 내무장관은 호주 형법이 AI 시스템의 행동을 설명해야 한다고 말했습니다.
토니 버크(Tony Burke)는 AI와 관련된 법률이 바뀌어야 한다고 말했습니다. (ABC 뉴스: 토비 헌트 )
“누군가가 컴퓨터가 로드되었는지 몰랐다는 주장이 있어서는 안 됩니다.”라고 그는 말했습니다.
“우리는 이 신기술이 어떻게 작용할 수 있는지에 대한 형법이 최신인지 확인해야 합니다.”
Burke 씨는 사이버 취약성을 탐지하고 이를 악용하는 데 걸리는 시간이 이전에는 약 2년 반이었지만 AI의 출현으로 그 시간이 약 10시간으로 좁아졌다고 말했습니다.
“이러한 차이는 우리의 법률과 시스템이 기술과 보조를 맞추도록 해야 하며, 기술을 사용하여 다른 사람들보다 먼저 취약점을 찾을 수 있는지 확인해야 함을 의미합니다.”
호주는 AI 기업과 ‘참여해야 한다’
Richard Marles 국방부 장관은 신속한 검토의 “핵심” 권장 사항 중 하나가 호주가 개척 기업과 협력해야 한다는 것이라고 말했습니다.
그는 “이것은 우리의 기관을 극대화하고 호주인의 이익을 극대화하려면 AI를 형성할 수 있는 방식에서 도망칠 수 있는 기술이 아니라 AI와 관련하여 보호 조치를 취할 수 있는 방식에 참여해야 한다”고 말했습니다.
기술 기업들은 저작권법 개정이 필요하다고 주장했지만 호주는 첨단 AI 모델을 위한 잠재적인 두 번째 훈련장으로 선전되는 국가 중 하나입니다.
예술가들은 노동당에 보호 조치를 약화시키지 말라고 촉구했으며, 이번 주에는 가수 지미 반스(Jimmy Barnes)가 AI 회사들이 “가서 스스로 엿먹여야 한다”고 제안했습니다.
알바니스 씨는 지난 7월 예술 보호를 다짐하는 총리의 연설을 참조해야 한다고 말함으로써 반스를 안심시키려고 했습니다.
“우리는 제가 말했듯이… 첫째, 아티스트가 자신의 작업에 대해 통제권을 가져야 한다는 점을 보장할 것입니다. 둘째, 자신의 작업물이 사용되는 경우 보상을 받아야 합니다.
“내 입장은 확실히 그 어떤 것에도 변하지 않았습니다.”
채소 쓰레기 ‘이빨 없는 조절기’
녹색당의 데이비드 슈브리지(David Shoebridge) 대표는 정부의 대응을 “말 샐러드”라고 규정하고 권고안이 AI에 대한 증가하는 대중의 우려를 해결하는 데 실패했다고 말했습니다.
“이 리뷰는 미국의 요구에 대한 그의 완전한 항복을 은폐하려는 필사적인 시도로 실체와 개혁을 가장하는 메시지를 전하는 알바인들의 것입니다”라고 그는 말했습니다.
“총리는 이들 기업에 책임을 묻는 데 필요한 권한과 보호 없이 또 다른 규제 기관을 발표하는 담대함을 가졌습니다.”
무소속 상원의원인 데이비드 포콕(David Pocock) 역시 권고안이 약하다고 설명하며, 의무적이고 시간 제한이 있는 AI 안전 보고 및 형법 변경과 같은 더 강력한 조치가 부족하다고 주장했습니다.
그는 호주의 주권 AI 역량에 대한 투자가 정부 계획에서 “완전히 누락됐다”고 말했다.
그는 “검토자들이 ‘잘못된 행동’에 대해 이야기하고 명확한 책임을 분배하지 못하는 거대 AI 회사의 솔직하지 못한 언어를 채택하는 것을 보는 것은 실망스럽다”고 말했다.
연합은 이번 발표를 환영하며 권고사항을 이행하기 위해 정부와 계속 협력할 것이라고 말했습니다.
