AI가 '없습니다'라고 하면, 그건 못 찾았다는 뜻입니다
- AI활용
- 일하는방식
- 검증
- 업무적용
- 생성형AI
들어가며 — 한 문장 때문에 몇 주가 멈췄습니다
개인적으로 만들고 있는 작은 연습용 앱이 있습니다. 거기에 기능 하나를 붙이려면 특정 종류의 수치표가 필요했습니다. 자료 파일은 스물일곱 개 있었습니다.
AI에게 시켰고, AI는 인계 문서에 이렇게 적었습니다.
로컬 자료 27개를 다 확인했으나 해당 수치표가 없습니다. 데이터만 주시면 바로 붙이겠습니다.
깔끔한 보고입니다. 확인 범위(27개)도 적혀 있고, 다음 행동(데이터를 구해 온다)도 명확합니다. 그래서 그 일은 그날부터 “자료를 구해와야 하는 일”로 분류됐습니다. 그리고 몇 주 동안 그 칸에 그대로 있었습니다. 구할 데가 마땅치 않았거든요.
대기 칸에 오래 머무는 항목은 한 번쯤 전제를 다시 확인하는 편입니다. 그래서 같은 요청을 다시 넣었습니다. 이번에는 조건을 하나 붙였습니다. 파일을 열어 보고 판단하지 말고, 스물일곱 개를 한 번에 훑는 스크립트를 짜서 돌리라고요.
결과가 이랬습니다.
- 한 파일에 스물두 건
- 다른 파일에 스무 건
- 또 다른 파일에 열 건
합쳐서 쉰두 건이 있었습니다. 몇 주를 미룬 이유가 “없다”였는데, 없지 않았습니다.
새 자료를 구해 온 게 아닙니다. 파일도 그대로였고, 개수도 그대로 스물일곱 개였습니다. 바뀐 건 찾는 방법 하나였습니다.
1. “있다”와 “없다”는 증명 비용이 다릅니다
이 일에서 흥미로운 건 AI가 거짓말을 했다는 게 아닙니다. AI는 자기가 본 것을 정직하게 보고했습니다. 문제는 “없다”라는 문장이 원래 그런 식으로 증명되는 문장이 아니라는 것입니다.
두 문장을 나란히 놓아 보겠습니다.
“있다”는 사례 하나면 증명됩니다. 스물일곱 개 중 한 곳에서 찾으면 끝입니다. 나머지 스물여섯 개는 안 봐도 됩니다.
“없다”는 전부를 봐야 증명됩니다. 스물일곱 개를 다 훑어야 하고, 한 곳이라도 제대로 안 본 곳이 있으면 증명은 성립하지 않습니다.
그런데 여기 조건이 하나 더 붙습니다. 전부를 훑는 것만으로도 부족합니다. 훑는 방법이 맞아야 합니다. 파일 스물일곱 개를 다 열어 봤더라도, 내가 아는 한 가지 이름으로만 눈을 굴렸다면 다른 이름으로 들어 있는 것은 눈앞에 있어도 안 보입니다.
그러니까 정확히 말하면 이렇습니다.
“없다”는 자료의 상태가 아니라 검색의 결과입니다.
같은 자료 더미에서, 방법을 바꾸면 답이 바뀝니다. 이번 건이 딱 그랬습니다. 자료가 늘어난 게 아니라 훑는 방법이 눈에서 기계로 바뀌었을 뿐인데 0건이 쉰두 건이 됐습니다.
2. 사람도 AI도, “못 찾았다”를 “없다”로 적습니다
여기서 짚을 게 있습니다. 이건 AI만의 버릇이 아닙니다.
사람이 자료 스물일곱 개를 넘겨보고 “찾아봤는데 없더라”고 회신하는 일은 매일 벌어집니다. 그 문장은 대개 “내가 쓴 방법으로는 안 나왔다”는 뜻인데, 적히는 순간 “존재하지 않는다”로 승격됩니다. 말하는 사람도 그렇게 말할 의도가 아니었고, 받는 사람도 그렇게 읽을 생각이 아니었는데, 문장 자체가 그렇게 생겼습니다.
다만 AI가 이 승격을 더 매끄럽게 합니다. 이유가 두 가지 있습니다.
하나, 문장이 단정적입니다. 사람은 “제가 본 범위에서는 안 보이던데요”처럼 자신 없는 표현을 섞습니다. 그 흐릿함이 사실은 정보입니다. AI는 대개 그런 완충어 없이 “27개를 확인했으나 없습니다”라고 씁니다. 형식이 깔끔할수록 확인의 밀도도 높아 보입니다. 그런데 문장의 단정성과 확인의 철저함은 아무 관계가 없습니다.
이건 검사를 통과했다는 말이 “내가 물어본 것만 맞다”는 뜻이었던 것과 같은 구조입니다. 다만 그때는 “됐다”는 긍정 보고였고, 여기서는 “없다”는 부정 보고입니다. 그리고 부정 보고 쪽이 훨씬 위험한데, 이유는 다음 절에 있습니다.
둘, 어떻게 찾았는지가 안 적힙니다. 결과는 적히는데 방법은 안 적힙니다. 스물일곱 개를 한 글자씩 다 읽었는지, 파일 이름만 훑었는지, 앞부분만 보고 넘어갔는지 우리는 알 수 없습니다. 이건 AI가 실제로 무엇을 봤는지가 답보다 먼저 확인할 대상이라는 이야기와 같은 자리입니다. 그때는 자료가 잘려 들어간 게 문제였고, 여기서는 자료는 다 들어갔는데 훑는 방식이 좁았던 게 문제입니다.
한 가지 덧붙이면, 이건 모델이 더 똑똑해진다고 사라지는 문제가 아닙니다. 아무리 좋은 모델도 자기가 안 열어 본 파일 안을 알 수는 없습니다. 이건 성능의 문제가 아니라 범위와 방법의 문제입니다.
3. 진짜 비용은 틀린 답이 아니라 봉인입니다
여기가 이 글에서 제일 하고 싶은 이야기입니다.
AI가 틀린 답을 주면 어떻게 됩니까. 대개 다음 단계에서 걸립니다. 숫자가 안 맞거나, 붙여 보니 안 돌아가거나, 누가 읽다가 이상하다고 합니다. 틀린 답에는 부딪힐 자리가 있습니다.
“없다”는 다릅니다. “없다”는 다음 단계 자체를 없앱니다.
없다는 말을 들으면 우리는 그 방향으로 더 안 갑니다. 그게 그 문장의 용도니까요. 그리고 안 갔으니 그 문장이 틀렸다는 걸 알게 될 기회도 같이 사라집니다. 오답은 시간이 지나면 드러나는데, 부재 진술은 시간이 지나도 안 드러납니다. 아무도 안 밟으니까요.
제 경우가 그랬습니다. “없다”고 적힌 그날부터 그 일은 검토 대상에서 빠졌습니다. 매주 계획을 볼 때마다 그 항목은 “자료를 못 구해서 대기 중”으로 읽혔습니다. 몇 주 동안 그 위에서 다른 일정을 짰습니다.
조직에서는 이게 훨씬 크게 작동합니다. 한 사람이 확인하고 “그런 데이터는 안 남아 있습니다”라고 회신하면, 그 문장이 회의록에 들어가고, 다음 회의에서 전제가 되고, 결국 “그건 안 되는 걸로 확인됐다”가 됩니다. 그 뒤로는 아무도 그 파일들을 다시 안 엽니다. 확인이 끝난 항목이니까요.
틀린 답은 검증으로 잡습니다. 그런데 부재 진술은 검증할 대상으로 인식되지도 않습니다. 완료를 검색 0건으로 판정하는 습관이 위험한 이유도 결국 같은 자리인데, 그쪽은 “내가 다 고쳤나”를 잘못 판정하는 문제였고 이쪽은 “그게 애초에 있기는 한가”를 잘못 판정하는 문제입니다. 앞의 것은 나중에 결함으로 튀어나오기라도 하지만, 뒤의 것은 아무 일도 일어나지 않는 방식으로 실패합니다.
4. 절반만 맞는 “없다”가 제일 오래 버팁니다
그런데 이번 건에는 꼬리가 하나 더 있었습니다.
찾아낸 쉰두 건을 열어 보니, 있는 건 죄다 특수하고 최신인 항목들이었습니다. 정작 제가 필요했던 기본 항목은 정말로 빠져 있었습니다.
그러니까 AI의 보고는 완전히 틀린 게 아니었습니다. 절반은 맞았습니다. 원래 적혔어야 할 문장은 이겁니다.
내가 찾던 건 없습니다. 다른 건 있습니다.
이 차이가 사소해 보이지만 결과가 완전히 다릅니다. 앞 문장을 받으면 자료를 처음부터 다 만들어야 합니다. 뒤 문장을 받으면 있는 것 위에 빠진 것만 채우면 됩니다. 실제로 그렇게 하니 몇 주 미뤄 둔 일이 그날 끝났습니다.
그리고 절반만 맞는 “없다”가 가장 오래 버팁니다. 완전히 틀린 진술은 한 번만 확인해도 깨집니다. 그런데 절반이 맞으면, 누가 의심해서 확인해 봐도 “그 항목은 진짜 없네”가 나옵니다. 확인이 오히려 잘못된 결론을 보강해 줍니다.
이건 낡은 사실이 틀린 사실보다 조용히 통과한다는 이야기와 형태가 같습니다. 대놓고 틀린 것은 걸리고, 반쯤 맞는 것이 오래 남습니다.
5. 처방 — “없다”에는 한 문장을 더 받으십시오
그러면 어떻게 해야 할까요. “AI 말을 믿지 마라”는 처방은 실행이 안 됩니다. 그럴 거면 안 시키는 게 낫습니다.
세 가지면 됩니다.
첫째, “없다”는 답을 받으면 방법을 되묻습니다.
내용을 다시 확인하라는 게 아니라 찾은 방식을 물어보는 겁니다. 질문은 짧아도 됩니다.
어떤 말로 찾으셨나요? 다른 이름으로 들어 있을 가능성은 없을까요?
이 질문의 좋은 점은, 답이 “없다”에서 “있다”로 뒤집히지 않더라도 손해가 없다는 겁니다. 대신 그 “없다”의 신뢰 등급을 알게 됩니다. 한 가지 이름으로만 훑었다고 하면 그 문장은 아직 잠정입니다. 표기 세 가지로 전수 검색했다고 하면 꽤 단단한 문장입니다. 같은 “없다”인데 무게가 다릅니다.
둘째, 우리가 적을 때는 방법과 날짜를 붙입니다.
문서나 회신에 “없음”이라고만 적지 않습니다.
(X) 해당 자료 없음
(O) 자료 27개 전체에서 ‘단가’, ‘판매가’, ‘price’ 세 가지로 검색 → 0건 (2026-08-06)
한 줄 더 쓰는 데 십 초면 됩니다. 그런데 이 십 초가 나중에 다음 사람에게 재검색할 권한을 넘겨줍니다. 방법이 적혀 있으면 조건을 바꿔 다시 돌려 볼 수 있고, 날짜가 적혀 있으면 그 뒤에 들어온 자료는 안 봤다는 걸 알 수 있습니다. 방법이 없는 “없음”은 다시 확인할 방법도 같이 없앤 문장입니다.
셋째, 넘겨보기와 훑기를 구분합니다.
사람이 파일 스물일곱 개를 넘겨보는 건 표본조사입니다. 기계가 스물일곱 개를 한 번에 훑는 건 전수조사입니다. 둘 다 “다 봤다”고 말하지만 전혀 다른 동작입니다.
그리고 이건 AI에게 요청할 때 한 줄로 지정할 수 있습니다. “열어 보고 판단하지 말고, 전부 훑어서 건수를 세어 주세요.” 이번 건에서 답을 바꾼 게 정확히 이 한 줄이었습니다. 자료도 모델도 그대로였고, 시킨 동작만 달랐습니다.
이 세 가지는 결국 같은 이야기입니다. 검증할 수 있는 만큼만 맡길 수 있다고 할 때, 부재 진술은 결과를 읽어서는 검증되지 않습니다. 결과 옆에 방법이 같이 와야 검증할 대상이 생깁니다.
마무리 — 대기 중인 항목의 “없다”는 누가 확인했습니까
정리하면 이렇습니다.
“있다”는 하나만 찾으면 증명되고, “없다”는 전부를 맞는 방법으로 훑어야 증명됩니다. 그런데 문서에는 둘 다 똑같이 한 줄로 적힙니다. 그렇게 적힌 순간 “내가 못 찾았다”가 “존재하지 않는다”로 승격되고, 승격된 문장은 다음 탐색을 막습니다.
그래서 제일 값비싼 AI의 오답은 틀린 숫자가 아닙니다. 조용히 한 방향을 닫아 버리는 “없습니다”입니다. 틀린 숫자는 언젠가 부딪히지만, 닫힌 방향은 아무도 다시 안 가 보기 때문에 영영 안 부딪힙니다.
지금 여러분의 일정표에도 “자료가 없어서 못 하는 일”로 분류된 항목이 하나쯤 있을 겁니다. 오래 그 칸에 있었다면 한 번 열어 보시면 좋겠습니다.
그 “없다”는 누가, 무슨 방법으로 확인한 문장입니까? 그리고 그건 언제 확인한 겁니까?
무료 이북
도구는 갈아타는 것이고, 실력은 실려 가는 것입니다
데이터임팩트 박상훈
AI 글은 많이 읽었는데 여전히 뭘 어떤 순서로 해야 할지 모르겠다면. 10년, 130여 건의 기업 교육 현장에서 정리한 순서 한 장을 담았습니다. 지금 내가 어디에 있는지, 도구가 바뀌어도 안 바뀌는 것은 무엇인지, 그리고 오늘 붙일 한 줄까지.
노트북용 데스크톱판과 휴대폰에서 확대 없이 읽히는 모바일판을 함께 보내드립니다. 화면 열람용이라 인쇄는 제한되어 있습니다.