기존의 철학책들이 오래된 이야기를 여러 번 우려먹는 것과 달리 인공지능이라는 최근의 이슈를 철학과 엮어 신선하다. 저자는 인공지능을 몸과 마음이라는 철학의 기본 틀을 가지고 분석한다. 철학의 오래된 틀로 최신 공학의 산물인 인공지능을 분석하다니 말이 안 될 것 같지만 분명히 새롭다.

인공지능은 인간의 지능을 모방하는 것이며, 인간의 몸에 해당하는 아키텍쳐와 마음에 해당하는 소프트웨어로 이루어진다. 그러나 현재의 인공지능은 몸과 마음 두 가지 면에서 모두 한계가 있다. 저자는 일부 유명 인사들이 주장하듯이 인공지능이 필연적으로 초인공지능으로 진화하여 인간을 지배한다는 암울한 전망은 근거가 빈약한 헛소리라고 결론을 내린다. 이들의 오류는 인공지능을 의인화해서 이해하는 것까지는 좋았으나 의인화에 지나치게 빠져 마치 사람과 같이 스스로 진화하는 존재로 착각한 데에 있다.

인공지능과 인간의 지능의 차이는 두 가지가 있다. 첫째, 제대로 된 몸이 있어야 지능이 스스로 진화할 수 있는데, 아직 인공지능은 제대로 된 몸을 갖지 못했다. 둘째, 자의식이 있어야 하는데 인공지능에서 자의식을 구현하는 것은 논리적으로 어려워 보인다. 자의식은 두 가지 층위의 알고리즘이 필요하다. 일을 하는 수행 알고리즘이 있고, 그보다 높은 단계에서 수행 알고리즘을 점검하고 버그를 교정할 수 있는 마스터 알고리즘이 있어야 한다. 위계의 차이가 있으면서 상호작용해야 한다. 사람에게 ‘반성’이라 불리는 과정을 인공지능에서 수학적으로 프로그래밍할 수 있을까? 프로그램이 반성과 자기성찰의 일기를 쓸 수 있을까? 반성은 순간적인 판단의 전환이 아니다. 자기부정이다. 논리적 정합성이 생명인 소프트웨어 알고리즘에서 이걸 구현할 수 있을까? 어느 정도까지 가능할까? 어려워 보인다.

버그를 생각해 보면 된다. 인간을 포함한 모든 생명체는 버그가 있으면 이를 수정하면서 자연환경에 적응해 왔다. 눈이 필요하면 눈을 진화시켰고, 팔다리가 필요하면 지느러미를 변형시켜 팔다리를 만들어 냈고, 물에서 육지로 올라오면서 숨을 쉬기 위해 허파를 만들어 냈다. 이것이 진화과정이다. 그러나 프로그램은 버그가 있으면 무한루프에 빠지고 만다. 이것이 결정적 차이다. 버그를 버텨줄 수 있는 몸과 버그라는 것을 인식하고 수정할 수 있는 자의식이 있어야 하는데 인공지능은 이 두 가지 면에서 모두 부족하다.

결론은 초인공지능이 출현하여 사람을 지배한다는 걱정은 버려라. 그런 일 없다. 인공지능이 놀라워 보이지만 결국 따지고 보면 계산을 잘하는 기계일 뿐이다. 이건 마치 사람이 밥을 잘한다고 생각했으나 쿠쿠의 상대가 되지 않고, 삽질을 잘한다고 생각했으나 건설용 중장비의 상대가 되지 않음을 깨달은 것과 마찬가지로, 인간이 아무리 계산을 잘해도 컴퓨터의 상대가 되지 않음을 깨닫고 있는 과정일 뿐이다.

우리는 여기서 교훈을 얻을 수 있습니다. 현존하는 일들 중에는 계산과 관련된 일들이 있고 그렇지 않은 일들이 있는데, 이들을 잘 구별해서 계산과 관련된 일은 인공지능의 몫으로 떼어주고 그렇지 않은 일들을 인간 몫으로 남겨야 한다는 거죠. ... 섣부르게 직관, 감성, 상상력 같은 걸 제시할 시점은 아닙니다. 그런 능력들이 계산 능력이 아니라고 단언할 수 없거든요. 알파고 사례에서 확인된 게 그것이었죠. 감, 직관, 기본, 맛 등 바둑에서 사용되었던 그 많은 용어들이 결국 계산하기 어려움을 에둘러 표현한 것에 불과했던 거였어요. 따라서 계산 불가능한 일이 어떤 것들인지 알려는 작업에 착수해야 할 겁니다. 이게 가장 시급한 일입니다. (116~117쪽)

진짜 문제는 인공지능이 빠르게 대체하고 있는 사람들의 일자리 문제다. 앞에서 계산에 속하는 영역은 인공지능에게 넘겨주고, 그렇지 않은 일을 사람의 몫으로 남겨두자는 얘기를 했는데, 사람이 하는 일 중에 계산영역에 속하지 않은 업무가 무엇이 있을까? 기본소득이나 로봇세 등 몇 가지 대안이 제시되고 있지만, 현실성이 떨어진다.

인문학자들이 해결해야 하는 문제는 이런 골치아픈 문제에 대한 사회적 합의의 토대를 만들어 내는 것이 아닐까? 공학자들은 세계 최고 수준의 인공지능을 구현하기 위해 노력하고, 인문학자들은 예견되는 사회적 문제를 해결하기 위해 집중해야 할 것이다.



오늘의 책을 리뷰한 'carrara'님은?

직업: 자동화 기계 제작
취미: 과학책 읽기