개발자 Glyph는 연구와 코딩용 AI 제품이 사용자에게 검증 책임을 넘기면서 정작 확인을 돕는 기능은 부족하다고 비판했다. 주장별 체크와 검토 메모, 저자와 날짜가 드러나는 출처, 원문 인용을 중심에 둔 화면을 제안한다. 장황한 사과나 의인화된 대화보다 특정 작업에 맞춘 명확한 조작부가 필요하다는 주장도 덧붙인다. 이는 모델의 정확도 향상과 별개로, 사용자가 확인한 것과 아직 확인하지 않은 것을 구별할 수 있게 제품을 설계하자는 논평이다.
Tech로 돌아가기
Tech
진지한 AI 도구라면 ‘검증’을 핵심 기능으로 삼아야 한다
오류 가능성을 작은 문구로 알리는 데서 그치지 말고 검토를 실제 작업 흐름에 넣자는 제안이다.