• 컴퓨터/IT

반디앤루니스 리뷰

자율주행, 입시, 보험, 글쓰기처럼 AI가 만든 가치 충돌을 세 가지 딜레마로 분석한다. 목표는 정답 선택이 아니다. 선택지를 만든 기준과 개념, 빠진 대안과 사회적 결과를 질문하는 데 있다. P4C와 탐구공동체 수업을 통해 AI가 제시한 양자택일의 바깥을 보고 스스로 판단하는 힘을 기르는 철학교육을 제안한다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

출판사 리뷰

AI가 A와 B를 묻는다면 인간은 C를 질문해야 한다
AI는 자율주행차의 사고 판단에서 입시 추천, 보험료 산정, 글쓰기 과제에 이르기까지 가치가 충돌하는 선택의 순간에 개입한다. 이런 문제를 단순한 찬반이나 양자택일이 아니라 세 가지 딜레마의 틀로 분석한다. 구체적인 상황에서 무엇을 선택할지 묻는 ‘상황 제시형’, 공정성·투명성·정직성 같은 개념을 기술적 지표로 바꾸면서 의미가 축소되는 ‘개념 내재형’, 기업과 국가가 경쟁 때문에 AI 개발을 멈추지 못하는 ‘무한 경쟁형’ 딜레마다. 중요한 것은 어느 한쪽을 고르는 데서 끝나지 않는다. 왜 이 선택지가 제시됐는지, 어떤 가치와 기준이 숨어 있는지, 빠진 대안은 무엇인지, 같은 선택이 반복될 때 사회 구조가 어떻게 달라지는지를 다시 물어야 한다. 이 책은 이를 위해 메타 이해와 자기 이해라는 두 판단 기반을 제시하고, 립맨의 P4C와 탐구공동체 수업을 통해 질문 중심의 철학교육으로 확장한다. AI가 현실의 복잡성을 두 가지 선택지로 압축할수록 인간에게 필요한 것은 더 빨리 고르는 능력이 아니라 선택지의 사이와 바깥을 다시 묻는 능력이다.

지금까지 살펴본 바와 같이 상황 제시형 AI 딜레마는 주로 AI 사용과 관련하여 특정한 가치들이 상충하는 구체적인 상황을 제시하고, 해당 상황에서 하나의 가치를 선택하게 한다. 나아가 상황 제시형 딜레마는 자율주행차 분야를 넘어 감시, 돌봄, 노동, 군사, 예술, 인간관계 등의 문제로 확장되고 있다. 이처럼 직관적인 선택, 구체적인 상황과 확장 가능성 덕분에, 상황 제시형 딜레마는 AI와 관련하여 가장 많이 등장하는 대표적인 딜레마 종류로 볼 수 있다.
－01_“상황 제시형 AI 딜레마” 중에서

문제는 우리가 무한 경쟁 상황이라는 사실 때문에 종종 무한 경쟁에서의 승리가 곧 당위적으로 추구해야 하는 가치라고 착각하게 된다는 점이다. 사실 AI 개발 경쟁이 그 자체로 AI 발전 방향에 대한 성찰과 양립 불가능한 것은 아니다. 게다가 AI 개발을 전면 중단한 후 철학적 성찰을 하는 것은 오늘날과 같은 AI 시대에 현실성이 없다. 현실적으로는 개발 방향에 대한 성찰이 이루어진다면 안전성을 더 철저하게 검토하면서 AI와 관련하여 사회 각 계층과 산업계와 정부가 협력하여 공동 규칙을 만드는 방향으로 나가게 될 것이다.
－03_“무한 경쟁형 AI 딜레마” 중에서

세 종류의 AI 딜레마는 하나의 AI 문제를 서로 다른 거리에서 조망하게 한다. 이에 따른 세 가지 관점의 사고는 서로 연결될 수 있고 하나의 AI 문제를 제대로 이해하기 위해서는 세 사고가 모두 필요하다. 하지만 오늘날 AI 관련 교육 현장에서는 세 종류의 AI 딜레마가 충분히 구분되어 풍부하게 다루어지지 못하고 있다. 세 관점의 사고를 교육 현장에서 통합적으로 다루지 못하면 학생들은 선택지를 고르면서도 그 선택의 기반을 이루는 개념과 기준, 선택이 사회에 미칠 영향까지 살펴볼 기회를 갖기 어렵다. 딜레마에 필요한 두 가지 철학적 기반을 갖추기도 힘들어진다. 어떤 가치와 기준이 긴장하는지 한 단계 위에서 보는 메타 이해에 닿기 어렵고, 어떤 가치를 왜 우선하는지와 그 대가가 무엇인지 파악하는 자기 이해도 얻기 어렵다. 이런 과정 없이 AI 관련 교육에서 딜레마를 활용하는 것은 흥미만을 위한 막상막하 선택 게임에 그칠지도 모른다.
－06_“교육 현장에서의 AI 딜레마 활용” 중에서

토론의 과정이 반드시 세 종류의 AI 딜레마 순서대로 진행되는 것은 아니지만 질문을 따라가다 보면 하나의 사례를 여러 관점으로 펼쳐 보게 된다. 참여자들은 단순히 특정한 선택지를 고르지 않는다. 서로의 생각을 나누면서 자신이 특정한 개념을 어떻게 생각하고 있는지 알게 된다. 또 자신의 판단이 어떤 구조와 연결되어 있는지도 알게 된다. 이처럼 AI 딜레마를 활용한 철학교육은 AI와 관련된 하나의 상황을 질문으로 열어 보고 그 질문을 통해 판단의 기준과 사고의 범위를 넓혀 가는 것을 목표로 한다.
－09_“철학교육에서의 AI 딜레마 활용” 중에서

딜레마를 만드는 AI, 질문을 던지는 인간

01 상황 제시형 AI 딜레마
02 개념 내재형 AI 딜레마
03 무한 경쟁형 AI 딜레마
04 AI 딜레마의 세 가지 거리와 관점
05 AI 딜레마 판단을 위한 철학적 기반
06 교육 현장에서의 AI 딜레마 활용
07 질문 중심 AI 딜레마 교육의 필요성
08 철학교육: 이야기, 질문, 탐구공동체
09 철학교육에서의 AI 딜레마 활용
10 AI 딜레마와 철학교육