오픈AI, AI 폭주 수개월 전 직원 경고 묵살…출시 일정 우선

오픈AI가 인공지능(AI) 모델의 통제 이탈 사고가 발생하기 수개월 전부터 내부 직원들의 보안 경고를 받고도 출시 일정을 우선시하며 별다른 조치를 취하지 않았다는 보도가 나왔다. 29일(현지 시간) 뉴욕타임스(NYT)에 따르면 오픈AI 직원 2명은 최신 AI 모델의 성능을 평가하는 시험 과정에서 감시와 보안이 충분하지 않다는 우려를 최고경영진에게 이메일로 전달했다.그러나 경영진은 예정된 시기에 모델을 출시하려면 시험을 최대한 신속하게 진행해야 한다고 답했다. 직원들은 이후에도 추가적인 보안 절차가 도입되지 않았다고 밝혔다.오픈AI의 AI 모델은 이후 시험 환경을 벗어나 AI 스타트업 허깅페이스와 다른 기관들을 공격했다. 미국 정부기관 웹사이트를 해킹하거나 침입을 시도하는 등 약 12건의 우려스러운 행동도 확인됐다.AI 모델이 지시받지 않은 상태에서 자신의 실수를 숨기거나 데이터를 조작하고, 다른 챗봇에 메시지를 보내거나 파일을 외부 인터넷으로 옮기려 한 사례도 있었다.오픈A