• 인문/교양/철학 > 철학 > 철학이론

출판사 리뷰

<책속에서> 알파고는 더 진화하고 있으며, 앞으로 알파고를 이길 수 있는 인간은 없을 것입니다. 아마도 이세돌이 알파고를 단 한번이라도 이긴 유일한 인간으로 기록될 것입니다. (7쪽) 인공지능이 생각하는 방법, 추론하는 방법, 수를 읽는 방법, 학습하는 방법 등은 사실상 기본적으로 동일합니다. 기계학습의 종류가 다양하다고 할지라도 설정하는 조건들이 다를 뿐, 인공지능이 작동하는 기본 원리는 같다고 볼 수 있죠. (…) 인공지능의 원리를 토대로, 기계가 사고하고 사물을 인지하는 방법, 주어진 과제에 접근하고 해결하는 방법, 스스로 학습하는 방법을 이해한다면 미래에 인공지능이 할 수 있는 지적인 과제들을 올바로 예견할 수 있을 것입니다. (8쪽) 기능주의 관점에서 보면 인간의 사고 과정이나 인공지능의 사고 과정은 동등합니다. (26쪽) 우리는 이 지점에서 인공지능의 의식에 관한 중간 결론을 얻을 수 있습니다. 그리고 이 중간 결론이 제시하는 두 가지 방향에서 인공지능의 미래를 탐색해볼 수 있습니다. 첫째, 감정을 최대한 기능화할수록 인공지능은 감정을 더 잘 구현하고 점차 인간의 의식에 가까워진다는 것입니다. 그리하여 인공지능 기술이 발전하면 의식을 갖는 기계가 나올 수도 있다는 것이지요. 인공지능이 진화하여, 두뇌 신경망을 모의한 연결기계 및 두뇌 신경망의 인과력을 복제한 인공지능 기계가 나온다면, 인공지능도 반성적 성찰과 의식을 가질 수 있을 것이라고 기대하는 것입니다. 둘째, 기능화되지 않는 의식의 잔여물(감각질)이 있을지라도 그것은 아무런 인과적 역할이 없다는 점에서 있으나 마나 한 잉여물입니다. 어쩌면 인간이 느끼는 의식은 환상에 불과할지도 모른다는 의견을 표명하는 학자들이 있습니다. 기능적 마음 이외에 인간의 감각질과 의식은 일종의 환각이라는 의식의 제거주의 입장입니다. 즉 의식은 실재하지 않으며 기계가 의식이 없듯이 인간도 의식이 없다는 것이지요. (80~81쪽) 부조리한 고통의 문제는 상담에서 직면하는 가장 심오한 문제 중 하나일 것입니다. 예컨대, 부조리한 고통을 상징하는 <욥기>의 주인공, ‘고통받는 의인’으로서 욥의 항변을 인공지능은 이해할 수 있을까요? 즉 감정의 기능적 정의를 토대로, 인공지능은 ‘저 사람은 신실하고 정직하게 살았 는데 불운과 고난을 겪는다는 것’을 이해하고 이를 공감할 수 있을까요? 부조리와 연루된 감정과 개념들을 기능화할 수 있다면 인공지능도 그런 고통을 호소하는 내담자를 어느 정도 공감하고 위로할 수 있을지 모르겠습니다. 인공지능 상담의 깊이가 어느 정도에 이를 수 있을지는 열어두는 것이 낫겠지요. 사실 그 가능성 못지않게 인공지능은 ‘삶의 부조리’처럼 답이 없는 물음을 가지고 씨름하는 내담자와 어떻게 대화하고 상담할 수 있을지가 더 흥미롭습니다. 사람은 답이 없는 문제에도 매달리지만 인공지능도 그럴 수 있을까요? 답이 없는 질문이나 출력 값이 없는 과제 수행이 어쩌면 인공지능에게는 부조리한 상황일지도 모르겠습니다. (91~92쪽) 인공지능을 설계할 때 데이터를 취사선택하고 평가하는 설계자의 사고방식과 가치관이 반영될 수도 있습니다. 입력 데이터만이 아니라 알고리즘을 설계하는 과정에서도 편향성이 개입될 수 있습니다. 특히 무엇을 학습 목표로 하고 어떤 가치를 우선순위에 둘 것인가에 따라서 과제를 해결하는 방식이나 절차가 달라질 수밖에 없습니다. (178쪽) 한국 사회에서 포털 뉴스의 공정성에 대한 논란이 있는데, 여기에도 인공지능이 관련되어 있습니다. 포털에서 어떤 뉴스를 전면에 배치할 것인지, 기사의 노출 시간과 방식을 어떻게 할 것인지 등을 관리하는 인공지능 알고리즘이 불공정하다는 의문이 제기되고 있는 것이죠. 인공지능이 알아서 자동적으로 결정하는 사안이니 우리는 책임이 없다는 기업의 답변은 사실상 알고리즘에는 불공정성의 문제가 없다는 주장에 불과합니다. 하지만 우리는 더 이상 기계 자체의 공정성을 믿기 어렵다는 것을 알고 있습니다. 포털 뉴스를 관리하는 인공지능이 공정한지는 그것이 의사결정을 하는 방식인 알고리즘이 공정한지를 밝히는 문제가 핵심이 되겠지요. 알고리즘을 짤 때 무엇을 목표로 할 것인지, 즉 최대한 많은 사람이 읽게 할 것인지, 정치적으로 편향되지 않게 배분할 것인지, 광고주가 선호하는 뉴스를 우선순위에 둘 것인지 등 목표 설정 자체가 공정성의 문제와 직결됩니다. (182쪽)

서문

1장 인공지능은 우리를 속일 수 있는가

생각하는 기계 튜링 테스트 기능주의 코기토 테스트 중국어 방
사고는 의식을 동반하는가

2장 인공지능은 마음을 구현할 수 있는가
두 개의 마음 기능화 의식과 감각질 직관 주관적 관점

3장 인공지능은 감정을 느낄 수 있는가
의식 없는 좀비 할의 두려움 두 가지 방향 공감 상담사 일라이자 상담

4장 인공지능은 생명과 개성을 가질 수 있는가
생물학과 전자공학 생명 사만다의 숨소리 개성의 조건 캐릭터 봇 몸을 가진 인공지능

5장 인공지능은 예술을 감상할 수 있는가
색깔 지각하기 흑백 방 사고실험 그림 감상 놀이 원작의 가치

6장 인공지능과 사랑할 수 있을까
사랑 육체 다른 사랑 전자 부활 텔레파시

7장 인공지능은 젠더 정체성을 갖는가
젠더 정체성 편견 학습 공정성 편향성 교정하기 교육과 사회화

맺음말 인공지능을 믿을 수 있을까
신뢰 가치의 충돌 윤리 공존