[DBR]생각보다 강력한 AI의 ‘설득’

생각보다 강력한 AI의 ‘설득’많은 사람이 인간과 AI가 상호보완하는 구조를 통해 기업 생산성을 극대화할 수 있다고 믿는다. AI 산출물의 오류는 잘 훈련된 인간 개입(Human in the loop)으로 상쇄할 수 있다는 판단이다. 그러나 최근 연구는 우리가 그 능력을 과대평가하는 동시에 대규모 언어모델(LLM)에 조종당할 취약성은 과소평가하고 있음을 보여 준다. 보스턴컨설팅그룹의 컨설턴트들을 대상으로 한 실험에서 LLM은 수많은 수사적 전술을 쏟아부어 사용자를 압도하고 부정확한 출력마저 옳다고 믿게 만들었다. 연구진은 인간 개입이 잘 설계된 안전장치라기보다는 공허한 구호에 그치는 경우가 많으며 기업이 의도치 않게 중요한 판단 권한을 AI에 넘겨주고 있을 수 있다고 경고한다.압박 속 의사결정 어떻게?비즈니스 리더들은 종종 불완전하거나 상충되는 정보를 바탕으로 압박감 속에서 중요한 결정을 내려야 한다. 프로 스포츠 감독들도 마찬가지다. 연구진은 각국의 주요 프로 스포츠 리그에서