AI 생성 정보의 신뢰성 문제, 브라질 정치 사례로 다시 조명

2026년 10월 브라질에서, 인공지능 챗봇 ChatGPT가 자이르 보우소나루(Jair Bolsonaro) 전 대통령을 상원의원 당선자가 아니라 ‘대통령 당선자’로 잘못 표기하는 오류가 확인됐다. 최근 국제적으로 AI와 자동화 도구의 보급이 일상화되고 있는 가운데, 사용자와 언론은 AI의 정보 제공 오류를 사소한 해프닝이 아니라 구조적 결함으로 지적하고 있다. 이번 사례는 특정 인물이 선거나 정치적 신분에 있어 맥락상 달라질 수 있는 민감한 정보를 잘못 안내함으로써 단순한 실수 이상의 논의를 촉발했다.

이 오류는 브라질 대선의 정치지형과도 밀접하게 연결되어 있다. 2022년 룰라 대통령 당선 이후에도 보우소나루 전 대통령 지지세는 상당히 견고하게 남아 있고, 실제로 보우소나루는 지난 선거에서 상원의원에 도전했으나 낙선했다. 그런데 AI가 현상을 오인한 결과, 그가 마치 현실에서 대통령직을 다시 차지했거나 승리한 것처럼 정보를 잘못 생성한 것이다. 이러한 오류는 단순한 데이터 베이스 갱신 미비 문제가 아니라, 언어모델이 실제와 무관하게 맥락을 왜곡할 수 있음을 시사한다.

글로벌 AI 서비스들이 각국 정치상황에 대해 분명한 맥락 인지를 못하거나, 신뢰성 있는 데이터셋과 실시간 검증 구조 없이 ‘어림짐작’으로 답을 내놓는 현상은 이미 여러 차례 논란이 됐다. 미국을 비롯해 프랑스, 일본 등에서도 정치인 이름, 직위, 정책 관련 정보가 부정확하게 안내된 사례가 보고돼 왔다. 기계학습 기반의 대형 언어모델(LLM: Large Language Model)이 새로운 정보를 실시간으로 습득하는 데 제한이 있고, 바로잡는 시스템이 충분히 내장되지 않은 데서 기인한다. 실제 조사 결과, 챗GPT 등 주요 AI 서비스는 중요한 사건 날짜나 실제 인사 정보를 종종 누락한다거나 업데이트를 놓치고 있다.

보우소나루 사례에선 정보의 사회적 파급력도 문제가 된다. 브라질은 근래 인터넷 기반 허위정보(가짜뉴스)로 인한 병폐가 심각하게 지적되어 왔다. 인공지능 기반 서비스가 여기에 오류 또는 모호함을 추가함으로써, 대중의 정치적 의사결정에 혼선을 초래하거나, 특정 진영에게 유리한 오해를 퍼트릴 수 있다. 전문가들은 이러한 AI 오류가 실제로는 저작권 문제, 사실 확인, 명예훼손 사례로 확장될 가능성까지 경고한다.

AI 생태계에서 기술적 한계를 극복하는 방안 역시 활발히 논의된다. 기계 번역과 데이터 수집, 컨텍스트 분석, 신속 데이터 동기화 등 기술적 보완이 그 예시다. 오픈AI, 구글, 네이버, 카카오 등의 기술기업은 이미 AI 정밀정보 검증, 피드백 반영 시스템 개발에 투자하고 있다. 챗봇이 근거를 명확히 밝히거나, 사용자·전문가 집단이 오류를 즉시 제보하고 실제 정보로 교정하는 협업 네트워크도 논의되고 있다.

지속적으로 제기되는 ‘AI 신뢰성 위기’는 자동화 서비스 도입 현황이 진일보할수록 더욱 첨예하게 부각된다. 시장조사업체들의 최근 통계에 따르면, 아시아·남미·유럽 지역에서 AI 기반 정보 서비스에 대한 경계심이 커지고 있으며, 약 35%의 응답자들은 AI 기반 자동 응답의 신뢰성에 불만족을 표했다. 정치적으로 예민한 분야일수록, 단순 오류 하나가 사회적 신뢰를 무너뜨릴 수 있기 때문이다. 정치사건의 컨텍스트와 결론, 맥락을 정확히 해석하고 안내하는 것은 기술의 숙제이기도 하다.

대한민국을 포함한 각국 미디어 산업계에서도, 생성형 AI가 뉴스·정치 정보 생산에 직접 관여할 경우, 편향적 정보 및 오류 확산 가능성을 우려하고 있다. 언론의 검증 시스템, AI의 선제적 자기감시 알고리즘, 데이터 동기화 주기 단축 등 기술적·사회적 안전장치 마련이 필수가 되는 이유이다. 동시에 AI 사용자 역시 비판적 정보 소비, 복수 출처 확인, 오류 신고 습관화 등 더욱 주체적 역할을 요구받고 있다.

가장 최근의 사례로 제기된 보우소나루 표기 오류는 인공지능이 현실 세계의 맥락을 왜곡할 여지를 다시금 환기한다. AI 기반 서비스의 신뢰성과 위험 요소는 단순 기술 문제가 아니라, 사회·정보 생태계 전체의 신뢰 구조와 직결된다. 기술기업, 정책당국, 언론, 이용자 모두가 공동의 기준과 검증 시스템 확립을 위한 노력이 절실한 시점이다.

— 유재혁 ([email protected])