UX Collective: AI는 '시작'은 잘하지만 '올바르게 완성'하는 건 다른 문제

주요 내용

• 필자는 3년간 AI를 활용해 UX 라이팅 플러그인부터 에이전트, 워크플로우, MCP, 앱까지 구축해왔음
• AI는 '시작'(빈 페이지 문제 해결, 초안 생성)에는 매우 효과적으로 개선됨
• 그러나 '올바르게 완성'하는 단계로 넘어가면 상황이 달라짐
• 오류율이 줄었을 수 있으나, 검증 부담은 줄지 않았음
• 오류는 오히려 발견하기 더 어려워졌고, 모델은 오류를 더 잘 방어함
• 실제로 팀 예산 스크린샷 4장을 AI에 제공해 분석을 요청했으나 환각 문제가 여전히 존재함을 확인
• AI가 신뢰할 수 있는 것과 신뢰할 수 있어 보이는 것 사이의 간극에서 실질적인 피해가 발생함

큐레이터 노트

AI 도입 시 '시작의 편의성'에만 집중하면 검증되지 않은 오류가 실무에 유입될 위험이 있으며, AI 활용 역량(enablement)은 단순한 시작을 넘어 검증 능력까지 포함해야 함을 시사한다.