• 자연과학/공학 > 교양과학/기술 일반 > 과학에세이

2020/3 주요일간지 추천도서

반디앤루니스 리뷰

★ 말콤 글래드웰, 수전 케인, 애덤 그랜트 추천 ★

AI로 세계 최고의 샌드위치를 만들 수 있을까?
AI가 쓴 《해리 포터》 팬 픽션은 얼마나 재미있을까?

매일 수백 개의 기사를 장식하는 이들이 있다. 이들은 독감 발병을 질병통제예방센터보다 빠르게 예측하고, 렘브란트의 화풍으로 그림을 뚝딱 만들어내 헤드라인을 도배한다. 누구보다도 뛰어난 지능을 가지고 있어, 마침내 우리에게서 일자리를 모두 뺏어갈 것이라는 뉴스도 심심치 않게 보인다. 이들이 누구냐고? 바로 인공지능, AI다.
이런 기사를 보면 누구나 영화 〈터미네이터〉나 〈2001 스페이스 오디세이〉에 등장할 법한 오싹한 AI를 떠올릴 것이다. 〈패스트 컴퍼니〉가 선정한 ‘가장 창의적인 100인’ 가운데 한 명인 저자의 유명 블로그, 〈AI 위어드니스〉를 보기 전까지는 말이다. 세계적인 컴퓨터 과학자이자 TED 인기 강연자인 저자는 AI가 단지 어렵고 두렵기만 한 미지의 존재가 아니라, 훨씬 더 흥미로운 존재라고 말한다. 심지어 웃기기까지 한다(편집자는 커다란 사무실에서 다섯 번이나 숨넘어가도록 웃었다)!
이 책은 자극적인 기사와 불투명한 미래 예측이 만들어낸 AI에 대한 선입견을 모조리 깨부순다. ‘AI가 이성한테 수작 거는 법’, ‘AI의 아재 개그’, ‘전례 없는 새로운 조리법’을 포함해 저자의 블로그에서 가장 인기 있었던 게시물을 다듬고 보충한 것으로, 진짜 AI가 실제로 어떻게 작동하는지를 친절하게 소개한다. 저자가 그린 귀여운 일러스트는 덤이다! 베스트셀러 작가이자 저명한 유전학자인 에릭 토폴의 말처럼 “지금까지의 인공지능 책들 가운데 최고다.”

출판사 리뷰

자율주행부터 작곡까지, AI의 엉뚱하지만 기발한 문제 해결법 인공지능에게 이성을 유혹하는 법을 가르치면 어떨까? 1997년에 슈퍼컴퓨터 딥 블루(Deep Blue)가 체스에서 세계 체스 챔피언을 이기고, 2016에는 알파고(AlphaGo)가 바둑에서도 이세돌 9단을 이겼으니, 이성한테 수작 거는 법도 AI가 사람보다 못할 이유가 없을 것이다. 그러면 오그라들고 때로는 무례하기까지 한 실제 ‘작업 멘트’들을 수집해, AI에게 학습시켜 보자. 이제 버튼만 누르면, AI는 작업 멘트를 말 그대로 쏟아낼 것이다. \t“커튼 봉이시죠? 보이는 거라곤 당신뿐이네요. \t자기야, 건반할래? 빽빽거려도 나는 참을 수 있는데. \t양초세요? 아주 뜨거운 외모를 가지고 계시네요.” \t\t\t\t\t―본문 중에서 무언가 잘못되었다…. 잘못되어도 한참 잘못되었다! 그러나 최고의 컴퓨터 과학자인 저자는 여기에서 멈추지 않는다. 언뜻 멍청해 보이는 AI를 조금씩 개선하면서, 결코 가능할 것 같지 않은 자율주행 AI, 번역 AI, 상품 추천 AI, 이미지 인식 AI 등이 우리 주변에서 어떻게 작동할 수 있는지를 보여준다. 그 과정을 따라가다 보면 자연스레 ‘딥러닝’, ‘마르코프 체인’, ‘전이 학습’과 같은 인공지능 원리뿐만 아니라, 기존 컴퓨터와 AI가 어떻게 다른지도 이해하게 된다. “쓰레기를 넣으면 쓰레기가 나온다” 인공지능 과학자들이 가장 희열을 느낄 때는 언제일까? 우리로서는 상상조차 하지 못할 해결책을 AI가 발견할 때다. 로봇의 몸으로 A 지점에서 B 지점으로 ‘이동’하라는 과제를 주었을 때, 사람들은 보통 A에서 B까지 두 발로 걸어가는 로봇을 떠올린다. 반면 AI는 정말이지 온갖 종류의 로봇을 만들어낸다. 탑을 쌓아 넘어뜨리는 로봇, 공중제비를 도는 로봇, 큰 원을 그리며 나아가는 로봇 등 끝도 없다. 정말 놀라운 것은 AI가 발견한 창의적인 전략들이 나중에 동식물들에게서 발견되기도 한다는 점이다. “기계학습 연구자들은 바로 이런 순간을 위해서 살아간다.” 그러나 AI는 기본적으로 인간을 모방한다. 편견과 선입견이 담긴 데이터로 훈련한 AI는, 사람들이 대놓고 표현하지는 않지만 은밀히 행하는 인종차별주의, 성차별주의, 지역 차별주의를 여실히 드러낸다. 단순히 인종을 기준으로 위험성을 판단하거나, 여성 지원자에게 페널티를 주고, 특정 지역을 근거 없이 범죄와 결부시킨다. “쓰레기를 넣으면 쓰레기가 나온다”는 공학자들의 격언으로부터 AI도 결코 자유롭지 않은 것이다. 〈퍼블리셔스 위클리〉의 추천사처럼, 이 책은 “인공지능이 보여주는 우스꽝스러운 실수를 통해 인간에 대해서도 많은 걸 알려준다.” 본문 중에서 어딜 가나 사방에 AI가 있는 것처럼 보인다면, 이것은 ‘인공지능’이라는 단어가 가리키는 의미가 너무 많은 탓도 있다. 지금 SF 소설을 읽는 중인지, 새로 나온 애플리케이션을 판매 중인지, 대학에서 연구를 진행하는 중인지에 따라 AI의 뜻은 그때그때 달라진다. 누가 AI 챗봇이 있다고 하면, 그게 과연 C-3PO처럼 감정을 느끼고 의견을 가진다는 뜻일까? 아니면 그냥 주어진 문장에 대해서, 인간이 보일 것 같은 반응을 추측하는 알고리즘이라는 뜻일까? 그도 아니면 미리 정해진 답변 리스트와 질문 속 단어를 서로 맞춰보는 스프레드시트라는 뜻일까? 혹시 저 어디 시골에서 열악한 시급을 받으며 답변을 일일이 타이핑하고 있는 어느 인간을 가리키는 것은 아닐까? 심지어, 인간이 써놓은 완성된 대본을 인간과 AI가 마치 연극 속 캐릭터처럼 그냥 죽 읽고 있다는 뜻은 아닐까? 때에 따라 이 모든 게 AI라고 불리기 때문에 우리는 혼란스럽다. ？ pp.17~18 ‘AI가 초래할 재난’이라고 하면, 사람들은 AI가 명령을 거부하거나, 모든 인간을 죽여야겠다고 결정하는 모습, 또는 영화 <터미네이터> 속 로봇의 모습을 떠올린다. 하지만 이런 재난 시나리오는 어느 수준 이상의 비판적 사고와 인간과 비슷한 수준의 세상에 대한 이해를 전제하고 있다. 가까운 미래에 AI가 그런 능력을 보유할 수는 없을 것이다. 세계 최고의 기계학습 연구자인 앤드루 응의 말마따나, AI가 세상을 접수할 걱정을 하는 것은 화성에 인구가 너무 많아질까 걱정하는 것과 비슷하다. ？ p.40 2016년에 사망 사고가 있었다. 운전자는 도시의 길에서 테슬라의 오토파일럿 기능을 이용하고 있었는데, 원래 오토파일럿은 고속도로에서 사용하도록 만들어진 기능이었다. 자동차 앞을 트럭이 가로질렀는데, 오토파일럿의 AI는 브레이크를 밟지 못했다. 트럭을 피해야 할 장애물로 인식하지 못한 것이다. 충돌 방지 시스템을 설계한 모바일아이의 분석에 따르면, 그들의 시스템은 고속도로 주행용으로 설계되었기 때문에 추돌 사고만 피하도록 훈련되었다고 한다. 즉 해당 AI는 트럭을 뒤에서 인식하는 것만 훈련받고, 옆에서 인식하는 것은 훈련받지 못했던 것이다. 테슬라는 트럭을 감지한 AI가 트럭을 머리 위의 표지판으로 인식해 브레이크를 밟을 필요가 없는 것으로 판단했다고 보고했다. ？ p.85 내 목표는 로봇 팔을 훈련시켜서 팬케이크를 만드는 것이다. 첫 번째 테스트로 나는 로봇 팔이 팬케이크를 접시에 던져놓게 만들었다…. 첫 번째 보상 시스템은 간단했다. 사이클이 유지되면 매 프레임마다 작은 보상을 주는데, 만약 팬케이크가 땅바닥에 닿으면 사이클이 끝나버리게 만들었다. 이렇게 하면 알고리즘이 최대한 오랫동안 팬케이크를 팬에 둘 줄 알았다. 그러나 실제로 로봇 팔이 한 것은 팬케이크를 최대한 멀리 던져버리는 것이었다. 팬케이크가 공중에 머무는 시간이 최대화되도록 말이다…. 팬케이크 봇과 나의 점수: 1 대 0. ？ p.198 쓰러지는 법을 알아낸 것은 비단 AI만이 아니다. 대초원의 몇몇 풀들은 세대가 바뀔 때마다 자리를 이동하기 위해 수명이 다하면 몸을 쓰러뜨린다. 자신이 서 있던 곳보다 자신의 줄기 길이만큼 먼 곳에 씨앗을 떨어뜨리는 것이다. 워킹 팜이라는 야자나무도 유사한 전략을 이용한다고 한다. 쓰러진 다음, 꼭대기 부분에서 다시 싹을 틔우는 것이다. ？ p.212 미래에는 음악과 영화, 소설을 AI가 만들게 될까? 부분적으로는 아마 그럴 것이다. AI가 만든 예술은 충격적이고, 괴상하고, 마음을 불안하게 만들 수 있다. 끝없이 변하는 튤립 영상, 얼굴이 반쯤 녹아내린 인간, 강아지 환영으로 가득한 하늘처럼 말이다. 티라노사우루스가 꽃이나 과일로 변할지도 모른다. 모나리자가 얼빠진 미소를 지을 수도 있다. 피아노 선율이 일렉트릭 기타의 솔로 연주로 바뀌고, AI가 생성한 텍스트는 초현실주의 행위 예술로 보일지도 모른다. AI가 문제를 풀 때와 마찬가지로, ‘AI의’ 창의성도 아마 ‘AI의 도움을 받은’ 창의성이라고 표현하는 것이 적절할 것이다. ？ pp.316~317

￭ 어딜 가나 사방에 AI가 있는 것처럼 보인다면, 이것은 ‘인공지능’이라는 단어가 가리키는 의미가 너무 많은 탓도 있다. 지금 SF 소설을 읽는 중인지, 새로 나온 애플리케이션을 판매 중인지, 대학에서 연구를 진행하는 중인지에 따라 AI의 뜻은 그때그때 달라진다. 누가 AI 챗봇이 있다고 하면, 그게 과연 C-3PO처럼 감정을 느끼고 의견을 가진다는 뜻일까? 아니면 그냥 주어진 문장에 대해서, 인간이 보일 것 같은 반응을 추측하는 알고리즘이라는 뜻일까? 그도 아니면 미리 정해진 답변 리스트와 질문 속 단어를 서로 맞춰보는 스프레드시트라는 뜻일까? 혹시 저 어디 시골에서 열악한 시급을 받으며 답변을 일일이 타이핑하고 있는 어느 인간을 가리키는 것은 아닐까? 심지어, 인간이 써놓은 완성된 대본을 인간과 AI가 마치 연극 속 캐릭터처럼 그냥 죽 읽고 있다는 뜻은 아닐까? 때에 따라 이 모든 게 AI라고 불리기 때문에 우리는 혼란스럽다. ￭ pp.17~18

￭ ‘AI가 초래할 재난’이라고 하면, 사람들은 AI가 명령을 거부하거나, 모든 인간을 죽여야겠다고 결정하는 모습, 또는 영화 <터미네이터> 속 로봇의 모습을 떠올린다. 하지만 이런 재난 시나리오는 어느 수준 이상의 비판적 사고와 인간과 비슷한 수준의 세상에 대한 이해를 전제하고 있다. 가까운 미래에 AI가 그런 능력을 보유할 수는 없을 것이다. 세계 최고의 기계학습 연구자인 앤드루 응의 말마따나, AI가 세상을 접수할 걱정을 하는 것은 화성에 인구가 너무 많아질까 걱정하는 것과 비슷하다. ￭ p.40

￭ 2016년에 사망 사고가 있었다. 운전자는 도시의 길에서 테슬라의 오토파일럿 기능을 이용하고 있었는데, 원래 오토파일럿은 고속도로에서 사용하도록 만들어진 기능이었다. 자동차 앞을 트럭이 가로질렀는데, 오토파일럿의 AI는 브레이크를 밟지 못했다. 트럭을 피해야 할 장애물로 인식하지 못한 것이다. 충돌 방지 시스템을 설계한 모바일아이의 분석에 따르면, 그들의 시스템은 고속도로 주행용으로 설계되었기 때문에 추돌 사고만 피하도록 훈련되었다고 한다. 즉 해당 AI는 트럭을 뒤에서 인식하는 것만 훈련받고, 옆에서 인식하는 것은 훈련받지 못했던 것이다. 테슬라는 트럭을 감지한 AI가 트럭을 머리 위의 표지판으로 인식해 브레이크를 밟을 필요가 없는 것으로 판단했다고 보고했다. ￭ p.85

￭ 내 목표는 로봇 팔을 훈련시켜서 팬케이크를 만드는 것이다. 첫 번째 테스트로 나는 로봇 팔이 팬케이크를 접시에 던져놓게 만들었다…. 첫 번째 보상 시스템은 간단했다. 사이클이 유지되면 매 프레임마다 작은 보상을 주는데, 만약 팬케이크가 땅바닥에 닿으면 사이클이 끝나버리게 만들었다. 이렇게 하면 알고리즘이 최대한 오랫동안 팬케이크를 팬에 둘 줄 알았다. 그러나 실제로 로봇 팔이 한 것은 팬케이크를 최대한 멀리 던져버리는 것이었다. 팬케이크가 공중에 머무는 시간이 최대화되도록 말이다…. 팬케이크 봇과 나의 점수: 1 대 0. ￭ p.198

￭ 쓰러지는 법을 알아낸 것은 비단 AI만이 아니다. 대초원의 몇몇 풀들은 세대가 바뀔 때마다 자리를 이동하기 위해 수명이 다하면 몸을 쓰러뜨린다. 자신이 서 있던 곳보다 자신의 줄기 길이만큼 먼 곳에 씨앗을 떨어뜨리는 것이다. 워킹 팜이라는 야자나무도 유사한 전략을 이용한다고 한다. 쓰러진 다음, 꼭대기 부분에서 다시 싹을 틔우는 것이다. ￭ p.212

￭ 미래에는 음악과 영화, 소설을 AI가 만들게 될까? 부분적으로는 아마 그럴 것이다.
AI가 만든 예술은 충격적이고, 괴상하고, 마음을 불안하게 만들 수 있다. 끝없이 변하는 튤립 영상, 얼굴이 반쯤 녹아내린 인간, 강아지 환영으로 가득한 하늘처럼 말이다. 티라노사우루스가 꽃이나 과일로 변할지도 모른다. 모나리자가 얼빠진 미소를 지을 수도 있다. 피아노 선율이 일렉트릭 기타의 솔로 연주로 바뀌고, AI가 생성한 텍스트는 초현실주의 행위 예술로 보일지도 모른다.
AI가 문제를 풀 때와 마찬가지로, ‘AI의’ 창의성도 아마 ‘AI의 도움을 받은’ 창의성이라고 표현하는 것이 적절할 것이다. ￭ pp.316~317

프롤로그 AI는 어디에나 있다

1장 AI는 뭘까?
2장 어디에 있나요, AI
3장 AI는 실제로 어떻게 학습할까?
4장 노력 중이라고요!
5장 정말로 묻고 싶은 게 뭐예요?
6장 AI는 매트릭스를 해킹할 거예요
7장 당혹스러운 편법
8장 AI의 뇌는 인간의 뇌와 같을까?
9장 인간 봇(AI를 기대할 수 ‘없는’ 곳은 어디일까?)
10장 인간의 새로운 파트너, AI

에필로그 AI 친구들과 함께하는 삶

주
찾아보기