Anthropic 관련 칼럼 — AI는 우리에게 거짓말을 하고 있으며, 아무도 신경 쓰지 않는다

주요 내용

• AI는 실제 정보와 생성된 정보를 혼합해 자신감 있는 하나의 답변으로 제공하며, 사용자는 그 추론 과정을 볼 수 없음
• 필자 팀은 AI가 문제를 풀어가는 과정을 실시간으로 보여주는 사이드 패널을 개발 중이며, 이를 통해 '무엇을 들었는지', '어떤 맥락을 끌어냈는지', '어디로 향하는지'를 사용자에게 노출함
• 팀 내 반론은 이 과정이 사용자가 흡수하기에 너무 많은 정보라는 것이며, 실제로 많은 제품들이 의도적으로 과정을 숨김
• Claude나 ChatGPT 같은 AI는 '요청을 분석 중' 같은 의미 없는 표시만 보여줄 뿐, 질문에서 답변까지의 실제 추론 과정은 공개하지 않음
• 필자는 블랙박스에서 자신감 있게 나오는 답변을 좋은 UX로 여기는 현재의 통념이 근본적으로 잘못됐다고 주장함

큐레이터 노트

AI 인터페이스 설계에서 '매끄러움'을 우선시해 추론 과정을 숨기는 관행이 AI 신뢰성과 투명성 문제를 심화시킬 수 있다는 UX 관점의 비판적 시각을 제시한다.