AI 답변이 사실인지 확인하는 가장 간단한 방법

AI 답변이 믿을 만한지 확인하는 법을 검색하면, 거의 모든 페이지에 거의 같은 순서로 같은 네 가지가 나옵니다. 프롬프트를 더 신중하게 쓴다. 출처를 요구한다. 웹 검색을 켠다. 그리고 보통 결론 직전 마지막 항목으로, 여러 AI 도구의 답을 비교한다.

앞의 셋에는 절이 배정되고 넷째는 한 줄로 끝납니다. 순서가 거꾸로입니다. 이 글은 그 이유에 대한 것입니다.

앞의 셋이 절반만 통하는 이유

더 나은 프롬프트. 추측하지 말라고, 모르면 모른다고 하라고 시키는 것은 실제로 지어내기를 줄입니다. 다만 모델이 애초에 추측하고 있지 않은 경우에는 통하지 않습니다. 잘못된 것을 읽었고, 그걸 믿고 있으며, 다른 모든 것과 같은 차분한 어조로 전달합니다. 의심할 이유가 없는 것을 의심하게 만드는 프롬프트는 쓸 수 없습니다.

출처 요구. 출처가 실재할 때는 유효하고 할 만한 가치가 있습니다. 다만 지어낸 인용은 진짜와 똑같이 생겼습니다. 그럴듯한 저자, 그럴듯한 연도, 그럴듯한 학술지까지 갖춰져 있습니다. 링크를 열지 않는다면, 출처 요구는 증거 없이 안심만 준 셈입니다. 검증을 수행한 게 아니라 옮겨놓았을 뿐입니다.

웹 검색. 셋 중 가장 강력합니다. 기억을 검색으로 바꾸기 때문입니다. 한계는 무엇을 검색하고 어떤 결과를 믿을지 정하는 것이 여전히 모델이라는 점입니다. 웹에서 자신 있게 틀린 페이지는 자신 있게 읽힙니다.

셋이 공유하는 형태에 주목하세요. 모두 같은 모델에게 자기 자신을 감사하게 합니다. 답을 만든 시스템에게 그 답의 문제도 짚으라고 시키는 것입니다. 이건 모델이 이미 자기가 틀렸을 수 있다고 의심할 때만 작동하는데, 그건 애초에 도움이 필요 없던 경우입니다.

넷째 항목만 종류가 다릅니다

다른 모델에게 묻는 것은 그 고리를 끊습니다. 하나의 시스템에게 자기 일을 채점시키는 대신, 그 바깥에서 검사를 들여오는 것입니다.

원리는 단순합니다. 따로 학습하고 다른 팀이 따로 조정한 모델은 동일한 실수를 하지 않습니다. 모델이 사실을 지어낼 때 그 지어냄은 그 모델 고유의 것입니다. 다른 모델이 같은 것을 지어낼 이유가 없습니다. 그래서 지어냄은 이견으로 드러나고, 정답을 몰라도 경고를 받을 수 있습니다.

마지막 부분이 이 방법의 가치 전부입니다. 주장을 검증할 수 있을 필요는 없고, 그것이 다퉈지고 있다는 걸 알아차리면 됩니다. 필요한 건 두 답을 나란히 놓는 것뿐입니다.

이견이 생겼을 때 그것이 뜻하는 것

• 특정 사실, 숫자, 날짜, 고유명사에서 어긋난다. 이게 유용한 경우입니다. 최소한 한쪽은 틀렸고, 어떤 주장을 확인해야 하는지 정확히 알게 되며, 사실 하나 확인은 저렴합니다.
• 한쪽은 출처를 대고 다른 쪽은 그것을 모른다. 더 나아가기 전에 링크를 열라는 강한 신호로 받아들이세요.
• 사실이 아니라 권고에서 어긋난다. 이건 애초에 오류가 아닙니다. 진짜 트레이드오프가 든 판단이고, 아무리 검증해도 풀리지 않습니다. 별도의 글로 다뤘습니다.

이 방법이 통하지 않는 지점

여러 모델 비교를 보증처럼 파는 글이 있다면 과장입니다. 한계가 있고, 그것을 이해해 둘 가치가 있습니다.

모델은 겹치는 텍스트로 학습합니다. 공개 웹에서 충분히 널리 반복된 오해는 그것을 읽은 모든 것에 흡수됩니다. 그렇게 되면 모든 모델이 같은 오류를 말하고, 경고해 줄 이견이 존재하지 않습니다. 그 경우의 일치는 독립적인 확인이 아니라, 하나의 출처가 여러 문으로 도착한 것입니다.

그래서 정직한 표현은 좁아집니다. 이견은 믿을 만한 경고. 일치는 약한 증거. 두 번째 모델은 "이건 확인할 가치가 있다"고는 알려주지만 "이건 참이다"라고는 알려주지 않습니다. 틀렸을 때 손해가 큰 일이라면 마지막 한 걸음은 여전히 1차 자료입니다.

실제로 하는 법

• 한 글자도 다르지 않은 질문을 붙여넣으세요. 탭을 옮기는 사이에 표현을 바꾸면 모델과 무관한 차이가 섞여 결과를 잘못 읽게 됩니다.
• 요약이 아니라 특정 주장을 물으세요. "그 수치는 얼마이고 출처는 어디인가"는 비교 가능한 답을 만듭니다. "이것에 대해 알려줘"는 나란히 놓을 수 없는 두 편의 글을 만듭니다.
• 축을 하나 지정해 비교하세요. "어느 쪽이 더 나은가"보다 "이 둘은 어디서 어긋나는가"가 더 쓸모 있습니다.
• 둘 중 하나에게 누가 이겼는지 판정하게 하지 마세요. 모델은 자기 출력의 평가자로 신뢰할 수 없다는 연구가 있고, 참여자는 심판이 아닙니다.

아무도 계속하지 못하는 이유

위의 어느 것도 어렵지 않습니다. 다만 일주일이면 그만둘 만큼 번거롭습니다. 탭 두 개, 같은 붙여넣기 두 번, 그리고 두 답을 머릿속에 붙들고 갈라진 한 문장을 찾는 일. 비교가 곧 작업이고, 그게 자기 몫으로 떨어집니다.

Parley는 그 공정을 위한 도구입니다. 하나의 Room에서 여러 모델이 같은 질문을 동시에 받고, 일치와 차이가 직접 재구성하지 않아도 나란히 놓입니다. 질문을 세우는 것도, 갈렸을 때 어떻게 할지 정하는 것도 사람입니다.

어떤 질문이 모델을 늘릴 값을 하고 어떤 질문이 시간 낭비인지는 모범 사례 가이드에 정리해 두었습니다.

함께 읽어볼 글

• 같은 질문인데 ChatGPT와 Claude의 답이 다른 이유. 갈림을 만드는 다섯 가지 원리를 다룹니다.
• AI가 자기 자신의 답변을 채점하면 안 되는 이유. 위 마지막 항목의 근거가 된 연구입니다.