• 잡지 > 과학
• 자연과학/공학 > 교양과학/기술 일반

반디앤루니스 리뷰

인공지능이 일상화된 오늘날, 우리는 흔히 인공지능의 대형언어모델이 범하는 일시적인 환각이나 오답을 교정하는 수준에서 팩트체크를 이야기하곤 한다. 그러나 현재의 인공지능은 잠시 착각에 빠진 친구라기보다는, 수백 개의 채널에서 출처와 화자를 알 수 없는 그럴듯한 말들을 쉴 새 없이 쏟아내는 ‘고장 난 라디오’에 가깝다. 나아가 미래의 위협은 단순한 거짓 정보 유포를 넘어, 인간의 감정을 흔들고 스스로 진화하며 여론을 조작하는 ‘AI 군집(AI 스웜)’의 형태로 정교해지고 있다. 악의적인 거짓 정보뿐만 아니라, 생산성을 높여 인정받고자 하는 평범한 이들의 욕망까지 더해지면서, 오늘날 정보 생태계는 감당할 수 없을 만큼 비대해진 팩트의 위기에 직면해 있다.

문제는 팩트를 검증하고 확정하고 전달하는 것을 업으로 삼는 사람들도 이제 다들 고장 난 라디오를 여러 대씩 달고 살아야 한다는 것이다. 가짜 논문을 대량 생산하는 ‘논문 공장’의 습격에 직면한 학계부터 언론, 사법, 역사학에 이르기까지, 가장 엄밀한 수준의 팩트체크 훈련을 받은 전문가들도 감당하기 힘들 만큼 많은 양의 정보가 팩트의 지위를 노리며 쏟아지고 있다. 팩트체커들은 이 위기에 어떻게 대응하고 있는가?

특집 섹션에서는 인공지능 시대에 각 분야의 전문가들이 겪는 피로감과 과부하 속에서 팩트의 본질을 묻는 일곱 명의 전문가가 참여해 심층적인 진단을 내놓는다. 전문가들은 스스로 생성되는 팩트란 없으며 사실은 오직 엄격한 제도와 인간의 실천적 관계 안에서만 확립될 수 있다고 입을 모은다. 팩트는 기자가 의심하고 확인할 때에만, 과학자 동료가 검증하고 재현할 때에만, 역사가가 선택하고 엮어낼 때에만, 판사가 맥락을 따지고 판단할 때에만 비로소 팩트가 된다. 즉 모든 팩트는 관계와 제도를 통해 구성되고 확립된다. 인공지능시대를 맞이하여 우리가 모두 팩트체커가 되어야 한다는 말은 결국 팩트를 확립하는 데 필요한 관계와 제도를 더 단단하게 정립해야 한다는 뜻이다. 이를 통해 우리는 한때 어리숙했던 초보자가 팩트를 체크하고 판단하고 확정하는 일을 배우고 반복하면서 비로소 기자가 되고, 과학자가 되고, 역사가가 되고, 판사가 된다는 것을 깨닫는다.

아울러 이번 호에서는 기술이 인간의 영역을 대체하는 시대의 사회적 책무를 돌아보는 에세이도 함께 수록되었다. 2024년 문을 닫은 ‘서울대 팩트체크센터’의 기록은 우리 사회가 팩트를 지키기 위해 펼쳐온 고단한 제도적 분투를 실증하며, “인공지능은 법관의 양심을 생성할 수 있는가?”라는 질문은 기계가 결코 대체할 수 없는 인간 전문가만의 고유한 도덕적 책무를 환기한다. 이처럼 소음 속에서 사실을 가려내는 전문성과 이를 세상에 선언하는 용기, 그리고 새로운 증거 앞에 기존의 사실도 뒤집힐 수 있음을 인정하는 ‘반증 가능성’의 겸허함이야말로 인간 팩트체커들의 미덕이다. 모든 시민이 전업 팩트체커로 살 수 없는 인공지능 시대, 고장 난 라디오의 소음을 뚫고 진실의 전선을 지켜내는 진짜 이야기와 구체적인 해법이 궁금하다면 지금 《에피》 36호를 펼쳐야 한다.

출판사 리뷰

책 속에서

“사람의 생각은 쉽게 바뀌지 않을 것 같지만 우리가 보고 듣는 모든 것들이 우리의 생각에 영향을 미친다. 대개의 경우 우리는 보여주는 대로 본다. 그리고 우리는 우리가 믿고 있는 것보다 훨씬 취약하다. 작정하고 거짓말을 하는 경우도 있지만 세상에는 사실로 구성된 거짓이 훨씬 많다. 팩트체크는 단순히 사실 여부를 가리는 게 아니라 맥락을 읽고 실체를 드러내는 작업이다.”
_「생성된 사실의 시대, 진짜 가짜와 싸우는 방법」

“AI로 AI를 감시하는 것은 원리상 군비 경쟁 논리와 크게 다르지 않다. 탐지 도구가 발전하면 위조 기술도 함께 발전하기 때문이다. 특히 위조와 탐지 모두 LLM에 기반을 두고 있는 상황이라면 경찰과 도둑이 되는 것은 여반장이다. 궁극적인 해법은 얼마나 정교한 탐지 기술을 쓰느냐에 있는 것이 아니라 기본과 정직을 중시하는 문화와 제도에 있을 것이다.”
_「AI 과학자 시대, 팩트체크의 재정의」

“재판은 실체적 진실발견 외의 가치들도 지향하기에 증거 법리에 따라 자백이나 신뢰성 높은 증거들을 사실 인정 근거에서 제외시키기도, 반대로 당사자의 입증 방해가 인정될 경우 등에는 패널티 차원에서 ‘없는 근거’를 근거에 포함시키기도 한다. 이런 제외·포함으로 인한 편향 자체에 대해서는 법령 형태의 사회적 합의가 있더라도 ‘케바케’인 구체적 허용 범위에 일일이 합의를 얻을 수는 없으니 판사에게 맡길 수밖에 도리가 없다.”
_「AI는 판결의 ABS가 될 수 있을까」

“역사적 사실이 과거의 수많은 사실들 가운데 기억할 만한 것들을 골라내어 정의를 구현하려는 의지의 소산이라면, 포퍼가 강조했듯이 어떤 명제나 사실이 옳다 그르다라는 문제를 넘어 명제를 둘러싼 진위 여부를 공론장에서 검증 가능한가, 즉 반증 가능성의 여부를 더욱 소중히 여기는 태도가 절실하다. 가치 판단과 편견을 넘어 진실을 향하려는 노력이야말로 ‘가짜’를 깊이 인식하는 순간들일 테고, 이는 ‘진짜’를 향하려는 의지가 소멸하지 않았다는 증거일 것이다.”
_「역사학의 미덕: 진실로 향하는 공론장」

“과학의 팩트체크는 문장 검증이면서 동시에 과정 검증이다. 연구 윤리적인 측면에서 볼 때, 팩트체크는 영원히 진행된다. 과학적 연구는 오류가 없는 것이 아니라, 오히려 오류를 인정하고 이를 조금씩 수정해 나가는 연속적인 과정이다. 그러므로 어떤 의미에서는 연구 자체가 보고 또 보는 팩트체크의 과정이다.”
_「과학은 어떻게 스스로를 확인하는가?: 연구실에서의 ‘팩트체크’」

“앞으로 개발될 차세대 AI 에이전ㄴ트들은 인간의 진짜 사유가 아니라 인공지능이 스스로 찍어낸 가짜 데이터를 학습한다는 의미이다. 즉, 공격자들이 정보 생태계에 배포해 둔 악의적인 내러티브가 다음 AI 재학습 주기에서 모델의 가중치에 고스란히 고착화되고, 미래의 AI 시스템들은 이 조작된 가치관을 ‘진실’이자 세상의 규칙인 양 내면화한다.”
_「지능의 진화와 군집의 공습」


“잘 포장된 한 편의 잘못된 분석은, 같은 자료에 대한 보다 적절한 여러 편의 분석보다 더 큰 사회적 무게를 가질 수 있다. 그리고 그 무게는 신념과 방법론적 오류가 결합되었을 때 가장 커진다.”
_「팩트체크의 피로 너머: 경험주의 과학에서 사실이 구성되는 방식」

들어가며 Prologue
팩트체커를 위하여 | 전치형

숨 Exhalation
생성된 사실의 시대, 진짜 가짜와 싸우는 방법 | 이정환
AI 과학자 시대, 팩트체크의 재정의 | 권석준
AI는 판결의 ABS가 될 수 있을까 | 정욱도
역사학의 미덕: 진실로 향하는 공론장 | 김호
과학은 어떻게 스스로를 확인하는가?: 연구실에서의 ‘팩트체크’ | 선웅
지능의 진화와 군집의 공습 | 차미영
팩트체크의 피로 너머: 경험주의 과학에서 사실이 구성되는 방식 | 정재훈

갓 Ansible
[이 계절의 새 책] 이분법 바깥의 아름다움에 접지하다 | 정인경
[과학이슈 돋보기] 경험은 혁신의 적이 아니다 “세대 간 다른 창의 연구 장려 필요” | 윤신영
[과학뉴스 전망대] 전쟁터에 모습 드러내는 ‘군-테크 복합체’ | 오철우
[글로벌 기후리포트] 10년 만에 ‘슈퍼 엘니뇨’의 귀환? 지구의 위태로운 운명 | 신방실

터 Foundation
[현대미술, 과학을 분광하다] 마침표 없는 사랑을 측정하는 일 | 이문정
[과학, 무대에 오르다] 0에서 특이점까지, 몸으로 쓴 3년 | 배요섭
[소리에 귀 기울이는 과학] 2화 사라지는 소리를 따라 | 김지연
[과학, 스포츠를 입다] 대한민국 축구의 탈출 속도 | 윤영길
[에세이] 사실로 향하는 미끄러운 진흙탕길 | 정은령
[에세이] 인공지능은 법관의 양심을 생성할 수 있는가? | 문형배

길 Farcast
얼굴을 숨긴, 인간 배아 유전자 조작 시도들: 어떻게 할 것인가? | 애슐리 스마트

인덱스 Index