ChatGPT가 우리 회사 정보를 틀리게 말할 때 고치는 방법, 근거 레이어 교정 5단계 가이드

"ChatGPT가 우리 회사 정보를 틀리게 말할 때 어떻게 고치나요." 이 질문을 받으면 대부분 먼저 대화창에 정정 문장을 입력해본다. 그 대화에서는 모델이 수긍하지만, 새 창을 열면 같은 오답이 돌아온다. 창업연도가 실제와 2년 다르게 나오고, 접은 지 오래인 서비스가 대표 제품으로 소개되고, 동명의 다른 회사 대표 이름이 우리 회사에 붙는다. 이 글은 그 상황에서 실제로 무엇을 건드려야 하는지, 어느 순서로 손대고 어떻게 확인하는지를 한 페이지에서 끝낸다.

30초 정의, 오류는 네 가지 모양으로 온다

• 브랜드 할루시네이션은 근거 자료에 없는 사실을 AI가 우리 회사 정보로 생성하는 오류다.
• 스테일 팩트는 과거에 사실이었던 정보가 갱신되지 않은 채 현재 사실로 제시되는 오류다.
• 엔티티 혼동은 동명이거나 이름이 비슷한 회사, 제품과 우리 회사가 하나의 실체로 묶여 속성이 섞이는 오류다.
• 출처 오염은 오래된 비교 기사나 스크랩 사이트 같은 제3자 페이지의 틀린 내용을 AI가 근거로 끌어다 쓰는 오류다.

네 가지의 처방이 다르다. 그래서 고치기 전에 분류부터 한다. 그리고 네 가지 모두에 공통으로 적용되는 전제가 하나 있다. AI 답변 자체에는 편집 버튼이 없다. 바꿀 수 있는 대상은 생성된 문장이 아니라 그 문장이 참조하는 근거 레이어이며, 교정 작업은 측정, 출처 추적, 권위 소스 정비, 재측정의 순환으로 설계해야 한다^[13].

왜 답변을 직접 고칠 수 없나

브랜드가 AI 답변 문장 자체를 직접 고칠 수 있는 공개 창구는 주요 제공사 어디에서도 확인되지 않는다^[10]. 가장 정비된 축에 속하는 Google 지식 패널조차 사정은 비슷하다. Google은 지식 패널이 웹에서 사용할 수 있는 콘텐츠에 대한 이해를 바탕으로 자동 생성되며, 검색 결과의 무결성을 위해 수동으로 만들거나 삭제하지 않는다고 명시한다^[1][2]. 인증된 대표자에게 열리는 것은 수정 자체가 아니라 수정 제안이다. 본인 확인을 마친 계정으로 로그인해 패널에서 수정 제안을 누르고, 문제점 설명과 공개적으로 접근 가능한 URL을 함께 제출하면 수 일 안에 이메일 회신이 온다^[2]. 여기서 요구되는 것이 공개 URL이라는 점이 핵심이다. 우리가 알고 있는 사실이 아니라, 제3자가 확인할 수 있는 형태로 공개된 사실만 반영 후보가 된다.

책임 소재도 구분된다. 기업이 직접 운영하는 챗봇의 오답에는 책임이 인정된 판단이 있다. 2024년 2월 브리티시컬럼비아주 민사해결심판소는 에어캐나다 챗봇이 사별 요금을 사후 신청할 수 있다고 잘못 안내한 건에 대해 812캐나다달러 배상을 명령했다^[14]. 그러나 제3자 LLM이 우리 브랜드를 틀리게 말하는 경우는 성격이 다르다. 소유하지 않은 시스템이고, 정정 요청 창구가 없으며, 같은 질문에도 세션마다 답이 흔들린다. 그래서 실무의 목표는 삭제 요청이 아니라 근거 우위 확보가 된다.

오류 유형별 교정 레버

근거, 오류는 예외가 아니라 기본값에 가깝다

컬럼비아대 Tow Center는 2025년 3월 8개 AI 검색 도구에 1,600개 질의를 던져 뉴스 기사 출처를 맞추는지 확인했다. 응답의 60% 이상에 부정확한 내용이 있었고, 유료 상위 요금제가 무료판보다 더 확신에 차서 틀리는 경향이 관측됐다^[3].

여기서 읽어야 할 것은 순위가 아니라 편차다. 한 엔진에서 정확하다고 다른 엔진에서 정확하지 않다. 그래서 오류 점검은 처음부터 여러 엔진을 동시에 보는 측정으로 설계해야 한다.

무엇을 고쳐야 답이 따라오나

Ahrefs가 브랜드 75,000개를 분석해 Google AI 개요 노출과의 상관을 계산한 결과, 상단은 링크가 아니라 언급이었다^[5].

상관은 인과가 아니다. 다만 교정 예산을 어디에 쓸지 정하는 데는 충분한 신호다. 백링크를 더 사 모으는 대신, 우리 회사를 언급하는 페이지들이 같은 사실을 말하게 만드는 쪽이 먼저다^[5].

참조 레이어의 무게도 확인해두자. Profound가 2025년 10월부터 12월까지 인용이 하나 이상 포함된 대화 약 73만 건을 분석한 결과^[4], 위키백과는 인용이 포함된 대화의 약 6분의 1에 등장했고, 동시에 상위 10개 도메인이 전체 인용의 12%만 차지하는 넓고 얕은 분포가 관측됐다^[4]. 백과사전형 참조가 기본 사실의 기준점 노릇을 하되, 나머지 대부분은 산재한 제3자 페이지에서 온다는 뜻이다. 그래서 실무 순서가 갈린다. 기본 사실(사명, 설립, 업종, 대표 제품)은 백과사전형 참조와 구조화 데이터로 고정하고, 평가와 맥락은 제3자 페이지에서 일관되게 반복시킨다. 교차 검증 대상으로는 위키백과와 함께 Crunchbase, LinkedIn 같은 기업 정보 DB가 함께 거론된다^[12].

한국어 브랜드가 추가로 점검할 것

한국어 질의에서 오류가 더 잦다는 인상은 흔하지만, 이를 뒷받침하는 공개 연구는 아직 제한적이다. 한국 3차병원의 정신과 면담 기록 200건을 오픈소스 모델로 처리한 2025년 연구에서는 한국어 입력의 환각 비율이 30.2%, 영어 입력이 13.4%로 두 배 넘게 벌어졌다^[8]. 다만 이 실험은 의료 도메인과 특정 7B 모델에 한정되므로 브랜드 질의로 일반화할 수 없다. 반대 방향의 보고도 있다. 30개 언어를 비교한 EMNLP 2025 연구는 응답 길이로 정규화한 환각률이 해당 언어의 디지털 발자국 크기와 뚜렷한 상관을 보이지 않았다고 밝혔다^[9].

두 결과를 합쳐 실무에 옮기면 결론은 하나다. 언어를 원인으로 지목하지 말고 근거의 양과 구조를 본다. 한국어로 된 회사 소개, 제품 정의, 연혁이 기계가 읽는 형태로 존재하는지, 그 내용이 영문 페이지와 어긋나지 않는지가 점검 항목이다. 언어별 표기가 다르면 그것 자체가 엔티티 혼동의 원인이 된다.

실행, 교정 5단계

2단계와 3단계는 동시에 진행해도 충돌하지 않는다. 반면 4단계는 앞 단계가 끝나기 전에 시작하면 곤란하다. 자사 페이지와 위키데이터가 아직 어긋나 있는 상태에서 외부 매체에 정정을 요청하면, 상대가 확인하러 온 자리에서 또 다른 값을 보게 된다.

측정 단계에서 사람 손으로 질문을 던지는 방식은 초기에는 쓸 만하지만 엔진과 질문 수가 늘면 유지되지 않는다. 반복 추적이 필요해지면 모니터링 도구를 검토한다. 글로벌에는 Profound, Peec AI가 있고, 국내에는 BOIDA, 넥스트티, 어센트 AI 등이 한국어 질의와 국내 엔진 대응을 표방한다. 도구 선택 기준과 측정값이 도구마다 갈리는 이유는 AI 가시성 모니터링 도구 비교에서 따로 다룬다.

자주 하는 실수

• 대화창 정정으로 끝내기. 그 세션에서만 반영된다. 다른 사용자에게는 영향이 없다.
• 한 엔진만 확인하기. 오답률 편차가 크므로 한 엔진의 정상 응답이 다른 엔진을 보증하지 않는다^[3].
• 근거 없이 수정 제안 넣기. 지식 패널 수정 제안은 공개 접근 가능한 URL을 요구한다^[2].
• 자사 페이지와 외부 표기를 다르게 두기. 사명, 설립연도, 업종이 채널마다 다르면 엔티티 혼동을 우리가 만드는 셈이다.
• 한 번 고치고 종료하기. 인덱스와 모델이 갱신되면 되돌아갈 수 있어 정기 재측정이 필요하다^[13].

브랜드가 AI 답변에서 아예 빠지는 문제는 원인이 다르다. 그쪽은 경쟁사는 뜨는데 내 브랜드가 안 나오는 이유에서 크롤러 접근과 머신 가독성부터 점검한다.

정리

AI 답변의 오류는 답변을 고쳐서 해결되지 않는다. 고칠 수 있는 지점은 자사 페이지의 구조화 데이터, 위키데이터 같은 참조 레이어, 그리고 우리 회사를 언급하는 제3자 페이지 세 곳이다. 순서는 오류 대장, 자사 고정, 참조 정비, 오염원 정정, 재측정이다. 기간을 약속하기보다 일정 간격으로 같은 질문 세트를 되물어 변화를 기록하는 편이 정확하다. 오답률이 엔진마다 크게 갈리는 이상^[3], 교정의 성과도 엔진별로 따로 확인해야 한다.