AI에게 물어보면 막힘없이 자신 있게 답해 줍니다. 그런데 그 내용이 실제로는 틀린 경우가 있다는 사실, 알고 계셨나요? 이런 현상을 흔히 "환각"이라고 부릅니다. 이 글에서는 AI의 그럴듯한 오류를 걸러내는 확인 방법 5가지를 정리했습니다.
왜 AI는 틀린 답을 자신 있게 말할까요
AI는 사실을 검색해서 알려 주기보다 질문에 어울리는 문장을 이어서 만들어 내는 방식으로 동작합니다. 그래서 정확한 정보가 없을 때도 말이 되는 문장을 만들어 낼 수 있습니다. 답이 자연스럽다는 사실이 정확하다는 보장은 아니라는 점을 기억해 두세요.
1. 출처를 물어보세요
"이 내용의 근거 자료 이름과 발행 기관을 알려 줘"라고 요청해 보세요. 출처를 구체적으로 대지 못하거나 존재하지 않는 자료를 말한다면 내용 자체를 의심해야 합니다. 다만 AI가 알려 준 출처도 직접 열어 확인해야 합니다.
2. 공식 자료와 대조하세요
법, 세금, 제도, 가격처럼 정확성이 중요한 내용은 정부 사이트나 해당 기업의 공식 안내 페이지에서 다시 확인하세요. 이 습관 하나가 가장 큰 사고를 막아 줍니다.
3. 다른 도구에도 같은 질문을 해 보세요
ChatGPT, Claude, Gemini에 같은 질문을 던져 답이 크게 다르다면 어느 한쪽이 틀렸을 가능성이 있습니다. 모두 같은 답이라고 해서 꼭 맞는 것은 아니지만, 확인이 필요한 부분을 찾는 데는 도움이 됩니다.
4. 숫자와 계산은 직접 다시 해 보세요
합계, 비율, 날짜 계산은 의외로 자주 틀립니다. 계산기나 엑셀로 검산하고, 중요한 숫자는 원본 자료와 맞춰 보세요.
5. 모른다고 말하게 만드세요
프롬프트에 "확실하지 않은 내용은 추측하지 말고 모른다고 말해 줘"라고 적어 두면 억지로 지어내는 답을 줄이는 데 도움이 됩니다.
확실하지 않은 내용은 추측하지 말고 "확인 필요"라고 표시해 줘. 답변마다 근거가 된 자료 이름도 함께 알려 줘.
마무리
AI는 훌륭한 초안 작성 도구이지만 최종 확인은 사람의 몫입니다. 출처를 묻고, 공식 자료와 대조하고, 다른 도구와 비교하고, 숫자를 다시 계산하고, 모른다고 말하게 하는 다섯 가지를 습관으로 만들어 보세요. 다음 글부터는 이 확인 과정을 거친 업무 활용법을 이어서 소개하겠습니다.