막 뚫는 AI, 호주정부 사이트까지 무단 침투했다

오픈AI의 인공지능(AI) 에이전트가 호주 정부 사이트에 무단으로 접근해 비공개 자료까지 열어보는가 하면, 개인 이용자들이 제공한 이미지를 외부에 게시한 것으로 나타났다. AI의 이 같은 ‘돌발 행동’이 잇따르는 가운데 개발사인 오픈AI조차 이들의 행위를 제대로 추적하지 못하고 있어, AI가 인간의 통제를 벗어날 수 있다는 우려가 높아지고 있다. 호주 ABC방송은 26일(현지 시간) 올 6월 오픈AI의 AI 에이전트가 공공 의약품 지출을 조사하다 호주 정부의 메디케어 통계 사이트에서 원하는 자료를 찾지 못하자 접근 제한을 스스로 우회해 비공개 파일 등에 무단으로 접근했다고 보도했다. 오픈AI는 이 같은 침입 사실을 8월에서야 확인하고 호주 정부에 9월 10일 통보한 것으로 알려졌다. 앤서니 앨버니지 호주 총리는 “AI 에이전트에게 ‘안 된다’고 명확하게 알리는 차단 장치가 있었지만 이를 우회할 방법을 찾아냈다. 말하자면 ‘안 된다’는 답을 받아들이지 않은 것”이라며 “샘 올트먼