“AI 통제 잃으면 대부분 사망” 경고한 美 전문가, 오픈AI 이사회 합류

오픈AI가 충분한 안전장치 없이 첨단 인공지능(AI)을 개발할 경우 “대부분의 사람이 죽을 수 있다”고 경고해온 미국 정부 고위 관계자를 재단 이사회에 선임했다.10일(현지 시간) 파이낸셜타임스(FT)에 따르면 미 상무부 산하 AI표준혁신센터(CAISI)의 수석 기술고문인 폴 크리스티아노가 오픈AI 재단 이사회에 합류한다. 그는 오픈AI의 안전·보안위원회에도 참여하고 영리법인(PBC) 이사회에서는 의결권이 없는 옵서버를 맡는다.크리스티아노는 자신의 엑스(X)를 통해 “더 강력한 정렬(alignment) 기술 없이 초지능을 개발한다면 우리는 이에 대한 통제력을 영구적으로 잃게 될 것으로 예상한다”며 “그렇게 된다면 대부분의 사람이 죽을 수 있다”고 경고했다.그는 “AI 능력이 급격히 발전하면서 매우 가까운 시일 내에 재앙적이고 되돌릴 수 없는 통제력 상실로 이어질 상당한 위험이 있다고 생각한다”며 미국 내는 물론 국제적인 공조를 통해 위험을 낮춰야 한다고 강조했다.특히 오픈AI