두뇌를 모형화하는 2가지 방법
0. 목차
- '인간의 두뇌'와 '디지털 컴퓨터'의 차이
- 두뇌를 모형화하는 2가지 방법
- 하향식 접근법
- 상향식 접근법
- '하향식 접근법'과 '상향식 접근법'의 타협
- 로봇에게도 '감정'이 필요한 이유
1. '인간의 두뇌'와 '디지털 컴퓨터'는 작동 방식이 다르다.
50 년 전의 AI 개발자들은 인간의 두뇌를 대형 컴퓨터와 비슷하다고 생각했다. 하지만 지금은 이것이 명백한 오류였음을 잘 알고 있다. 두뇌에는 펜티엄칩도, '운영체제(Operating System)'도 없으며, 컴퓨터의 상징인 '서브루틴(프로그램 안의 다른 루틴들을 위해 특정한 기능을 수행하는 부분적 프로그램)'도 없다. 인간의 두뇌는 단지 '스스로 학습하는 구조'로서 지금도 매 순간마다 새로운 내용을 학습하고 있다. 하지만 컴퓨터는 무언가를 새로 배우는 능력이 없이 항상 똑같은 명령을 수행하고 있을 뿐이다. 그러면 두뇌는 컴퓨터가 작동하는 방식과 어떻게 다를까? 그 주요한 내용을 정리하면 다음과 같다.
- 두뇌는 중심이 없다: 컴퓨터는 중앙처리장치에서 트랜지스터 하나를 제거하면 바로 먹통이 된다. 그러나 사람의 두뇌는 상당 부분을 제거해도 여전히 작동한다. 잘려 나간 부분이 했던 일을 남은 부분이 수행하기 때문이다. 또 디지털컴퓨터의 경우, '생각의 중심'이 '중앙처리장치'라고 확실하게 말할 수 있지만, 사람의 두뇌는 아무리 살펴봐도 중심이 어디인지 분명하지 않다. 각 사고과정마다 여러 부위들이 순차적으로 활성화되는 것을 보면, 생각은 뚜렷한 중심 없이 두뇌 전체에 골고루 퍼져 있는 것 같다.
- 두뇌는 병렬식이다: 또 컴퓨터의 연산 속도는 거의 빛의 속도에 가깝지만, 그에 비하면 두뇌는 답답할 정도로 느려서 외부 자극이 두뇌에 전달되는 속도가 약 시속 320km밖에 안된다. 하지만 두뇌는 약 1000억 개의 뉴런을 동시에 작동시킬 수 있다. 하나의 뉴런은 간단한 계산밖에 할 수 없지만, 개개의 뉴런은 약 1만 개의 다른 뉴런과 연결되어 있다. 그래서 하나의 프로세서가 아무리 빠르다고 해도, 거북이처럼 느린 '동시 진행(병행)' 프로세서는 능가할 수 없는 것이다.
- 두뇌는 디지털이 아니다: 또 한 가지 다른 점은 두뇌는 디지털이 아니라는 점이다. 트랜지스터는 열려 있거나 닫혀있는 문과 비슷하여 0과 1만을 나타낼 수 있다. 물론 뉴런도 '활성 상태' 또는 '비활성 상태'의 디지털로 작동하지만, 연속 또는 비연속적인 신호를 아날로그로 전송하고 있다.
2. 두뇌를 모형화하는 2가지 방법
- 하향식 접근법: 로봇을 디지털컴퓨터로 취급하여 처음부터 모든 지능을 프로그램으로 구현한 후, 컴퓨터를 여러 개의 '튜링머신'으로 분해한다. '튜링 머신(Turing Machine)'은 영국의 수학자 '앨런 튜링(Alan Turing, 1912~1954)'이 제안한 가상의 기계로서, '입력(input)'과 '중앙처리장치(central processor)'와 '출력(output)'의 3가지 기본 요소로 구성되어 있다. 우리가 사용하는 모든 컴퓨터는 여기에 기초하여 만들어졌다. 이 방법의 최종 목표는 지능과 관련된 모든 법칙을 소프트웨어로 만드는 것이다. 이 소프트웨어를 실행하면 컴퓨터는 갑자기 지능을 가지게 된다.
- 상향식 접근법: 하지만 인간의 두뇌에는 소프트웨어라는 것이 없다. 두뇌는 매 순간마다 스스로 개선되는 뉴런의 '신경망(neural network)'에 가깝다. 신경망은 '헤브의 법칙(Hebb's rule)'을 따른다. 즉, 올바른 결정이 내려질 때마다 신호가 전달되는 통로가 더욱 견고해진다. 이것은 하나의 과제가 성공적으로 마무리될 때마다 뉴런 사이의 전기적 결합강도를 높임으로써 구현할 수 있다. '신경망'은 '상향식 접근법'에 기초하고 있다. 지능과 관련된 모든 법칙을 일일이 주입하는 대신, 마치 어린아이처럼 연습과 경험을 통해 지능을 터득해나가는 방식이다. 즉, 신경망은 프로그램되지 않고 '힘든 경험'을 통해 배우는 구식 방법으로 진행된다.
3. 하향식 접근법
로봇 제작에 종사하는 과학자들은 '형태인식(Pattern Recognition)'과 '상식(Commonsense)'라는 두 가지 문제에 직면해왔다. 로봇은 인간보다 월등한 시력을 가질 수 있지만 자신이 본 것을 이해하지 못하며, 인간보다 훨씬 많이 들을 수 있지만 자신이 들은 것을 이해하지 못한다.
이 문제를 해결하기 위해 과학자들은 '하향식 접근법'으로 인공지능을 개발해 왔다. 이 방식을 '형식주의' 또는 'GOF AI(Good Old-Fashioned AI)'라고 부르기도 한다. 이들의 목적은 세상에 존재하는 모든 '형태인식(Pattern Recognition)'과 '상식(Commonsense)'을 하나의 프로그램 안에 담는 것이다. 이렇게 만들어진 프로그램을 실행하면 컴퓨터가 갑자기 자신을 인식하고 인간과 비슷한 지성을 가지게 된다는 것이 이들의 생각이다. '하향식 접근법'은 1950~1960년대에 장족의 발전을 이뤘다. 그 결과 컴퓨터는 체스를 두고, 대수계산을 수행하며, 블록을 들어 올리는 등 특정 분야에서 사람과 비슷한 능력을 발휘할 수 있게 되었다. 당시 일부 과학자들은 앞으로 몇 년 이내에 컴퓨터의 지성이 인간을 능가하게 될 것이라고 호언장담했지만, 인공지능의 발전은 그들의 생각대로 되지 않았다.
3-1. 하향식 접근법의 한계가 드러나다.
1969년에도 스탠퍼드 연구소에서 로봇 '셰이키(SHAKEY)'를 제작했을 때, 모든 언론은 '로봇의 시대가 도래했다'며 크게 흥분했다. 하지만 사실 이것은 몇 개의 바퀴 위에 PDP 컴퓨터와 카메라를 장착한 단순한 로봇에 불과했다. '셰이키(SHAKEY)'는 카메라로 입수된 영상을 분석하여 장애물을 피하면서 방 안을 이리저리 돌아다니는 등 '현실 세계를 탐사한 최초의 로봇'으로 기록되었다. 이 광경에 매료된 과학 평론가들은 인간이 멸종하고 로봇만 존재하는 세상을 성급하게 예측하기도 했다.
그러나 얼마 지나지 않아 '셰이키(SHAKEY)'의 단점이 분명하게 드러났다. '하향식 접근법'으로 인공지능을 구축한 로봇은 덩치가 크고 둔했으며, 직선과 사각형 등 간단한 도형으로 만들어진 장애물을 피해 방 안을 한 바퀴 도는 데도 무려 몇 시간이 소요되었다. 조금만 복잡하게 생긴 가구를 방 안에 놓아둔다면, 로봇은 형태를 인식하지 못할 것이다. '하향식 접근법은 곧 난관에 봉착했다. '사이버 라이프 연구소(Cyber-life Institute)'의 소장인 '스티브 그랜드(Steve Grand, 1958~)'는 이런 식의 접근법이 지난 50년 동안 꾸준히 실행되어 왔음에도 불구하고, 처음에 제시했던 꿈을 아직 이루지 못했다고 지적했다. 1960년대의 과학자들은 로봇에게 열쇠나 신발, 컵 등과 같이 간단한 물건을 인식시키기 위해 얼마나 방대한 프로그램이 필요한지 잘 모르고 있었다.
예컨대 우리는 방에 들어가자마다 곧바로 바닥과 의자, 가구, 책상 등을 인식한다. 하지만 로봇에게는 이 모든 것들이 '픽셀(Pixel)'의 집합에 불과하며, 그나마 약간의 처리 과정을 거쳐도 여러 개의 직선과 곡선으로 인식될 뿐이다. 이렇게 복잡한 선들로부터 진정한 형태를 알아내려면, 컴퓨터로 방대한 양의 연산을 수행해야 한다. 사람은 순식간에 책상을 인식할 수 있지만, 로봇에게는 원, 타원, 나선, 직선, 곡선, 구석 등의 집합으로 보일 것이다. 그 후 엄청난 양의 계산을 통해 앞에 있는 물체가 책상임을 간신히 인식할 수 있다. 하지만 예컨대 책상의 각도를 조금만 돌려도 로봇은 모든 계산을 처음부터 다시 처리해야 한다. 다시 말해서 로봇은 자신이 본 것을 결코 이해한 것이 아니다. 방에 들어선 로봇에게 보이는 것은 의자나 책상이 아니라 직선과 곡선의 집합일 뿐이다.
3-2. 인간이 연산 과정을 인식하지 못하는 이유
한편, 인간은 방에 들어서는 순간 순식간에 수조 개 이상의 연산을 수행하여 눈앞의 사물을 인식한다. 그리고 우리는 이 연산 과정조차 인식하지 못한다. 우리가 두뇌에서 진행되는 연산 과정을 인식하지 못하는 이유는 '진화'에서 찾을 수 있다. 숲속에서 호랑이와 마주쳤을 때, 위험을 인식하고 도망가야 한다는 판단을 내릴 때까지 머릿속에서 진행되는 계산 과정을 모두 인식한다면, 그 자리에서 사지가 마비되 죽고 말 것이다. 생존을 위해서는 '도망가야 한다'는 사실만 알면 된다. 인간이 야생에서 살아남기 위해서는 땅, 하늘, 나무, 바위를 인식하는 두뇌의 복잡한 과정을 자각할 필요가 없었던 것이다.
인간의 두뇌가 작동하는 방식은 거대한 빙산에 비유할 수 있다. 우리의 '의식'은 물 위에 떠 있는 작은 부분에 해당되고, '무의식'은 수면 아래에 잠겨 있는 거대한 부분에 해당한다. 무의식의 영역에서 엄청난 계산능력의 대부분을 사용하고 있지만, 우리는 그것을 느끼지 못한다. 내가 어디에 있는지, 누구와 대화하고 있는지, 주변에 어떤 사물이 있는지 등의 정보들은 '의식'이 아닌 '무의식'을 통해 자동으로 처리되고 있다. 바로 이런 이유 때문에 '하향식 접근법'으로 만들어진 로봇은 방을 가로지를 수 없고, 손으로 쓴 글씨를 읽을 수도 없으며, 자동차를 운전할 수도 없고, 짐을 들어 올릴 수도 없다. 미군은 로봇 군인을 만들기 위해 수억 달러르 쏟아부었지만, 별다른 성과를 올리지 못했다.
이제 과학자들은 인간이 체스를 두거나 이차방정식을 풀 때 지능의 극히 일부분만 사용한다는 사실을 깨닫기 시작했다. 1997년에 IBM 사의 '딥 블루(Deep Blue)'가 체스 세계 챔피언 '게리 카스파로프(Garry Kasparov, 1963~)'를 이겼을 때, 언론은 컴퓨터가 사람을 이겼다며 흥분했지만, 사실 '딥 블루'에게는 어떠한 지능도 의식도 없었다.
3-3. 프로그래밍으로 '상식'을 부여하기는 무리다.
- 물은 축축하다.
- 어머니는 딸보다 나이가 많다.
- 동물은 고통을 좋아하지 않는다.
- 끈은 물체를 당길 수 있으나 밀 수 없다.
- 막대는 물체를 밀 수 있지만 당길 수 없다.
- 시간은 과거로 흐르지 않는다.
- 어린이들은 아이스크림을 좋아한다.
우리는 위와 같은 사실들을 굳이 배우지 않아도 잘 알고 있다. 우리는 과거에 동물과 끈, 어린이 등을 보면서 이런 사실들을 스스로 깨달았으며, 어린아이들은 현실과 부딪히면서 삶에 필요한 상식을 쌓아간다. 생물학과 물리학의 직관적인 법칙은 교육을 통하지 않고, 직접적인 체험을 통해 습득되는 것이다. 그러나 로봇은 이런 경험을 쌓을 수 없다. 로봇은 사전에 프로그램된 내용만을 알고 있을 뿐이다. 이런 사실들은 사칙연산이나 미적분 등으로 표현되지 않는다.
수학자들은 모든 '상식'을 아우르는 법칙을 컴퓨터 프로그램으로 구현하기 위해, 혼신의 노력을 기울여 왔다. 그중에서 가장 두드러진 사례는 '사이코프(Cycorp)'사의 설립자인 '더글러스 레너트(Douglas Lenat)'의 CYC를 들 수 있다. CYC는 백과사전을 뜻하는 'encyclopedia의 약자이다. 이 사업은 2억 달러를 들연 원자 폭탄을 개발했던 '맨해튼 프로젝트(Manhattan Project)'에 비유하여 '인공지능의 맨해튼 프로젝트'로 불리기도 한다. CYC는 진정한 인공지능을 구현하기 위한 최후의 시도였다. 레너트는 인간의 지능을 약 1000만 개의 법칙으로 요약할 수 있다고 주장했다. 하지만 솔직히 CYC는 실패한 프로젝트였다.
모든 '상식'의 법칙을 하나의 컴퓨터에 주입하려는 시도가 성공하지 못한 이유는 법칙의 종류가 너무 많기 때문이다. 하지만 인간은 이 많은 법칙들은 별로 어렵지 않게 습득하고 있다. 우리는 인생을 살아가면서 외부환경과 끊임없이 접촉하고, 물리학과 생물학 법칙을 자신의 직관과 융화시키고 있다. 하지만 우리가 아는 로봇은 이런 일을 해낼 수 없다.
4. 상향식 접근법
이처럼 '하향식 접근법'으로 인공지능을 구현하는 데에는 뚜렷한 한계가 있다. 그래서 요즘에는 어린아이들이 세상을 배워 가는 방식을 흉내낸 '상향식 접근법'에 주목하고 있다. '상향식 접근법'에서는 '신경망(Neural Network)'를 통해 반복 학습을 한다. 예컨대 곤충은 슈퍼컴퓨터처럼 주변 환경을 수많은 픽셀로 이루어진 영상으로 인식하지 않는다. 곤충의 두뇌는 학습이 가능한 '신경망(Neural Network)'으로 이루어져 있어서, 끊임없는 반복을 통해 비행술을 터득한다. '매사추세츠 공과대학교(MIT: Massachusetts Institute of Technology)' 연구원들은 '하향식 접근법'으로 걷는 로봇을 제작하기가 극도로 어렵다는 사실을 간파하고 '상향식 접근법'으로 문제 해결을 시도하고 있다. 즉, 벌레같이 생긴 소형 '신경망(Neural Network)' 로봇을 제작한 후, 반복학습을 통해 스스로 걸을 수 있게 만드는 것이다.
로봇공학자 '로드니 브룩스(Rodney Brooks, 1954~)'는 '하향식 접근법'에 입각하여 거대하고 육중한 보행 로봇을 제작한 세계적 권위자였지만, 그가 어느 날부터 이리저리 부딪히면서 서서히 보행법을 익히는 소형 곤충 로봇을 만들었다. 그러자 사람들은 그를 '인공지능계의 이단아'로 취급했다. 그는 로봇의 현 위치를 파악하는 데 '수학적 프로그램' 대신 '시행착오와 경험'이라는 방법을 사용했다.
이로써 곤충의 행동방식을 모방한 '신경망 로봇'은 어느 정도 성공을 이뤄냈다. 하지만 포유류와 같은 고등동물을 흉내 내는 것은 아직도 먼 미래의 이야기로 느껴진다. 신경망을 적용한 대형 로봇은 수십~수백 개의 '뉴런(Neuron)'을 갖고 있는 반면, 인간의 두뇌는 약 1000억 개의 뉴런으로 이루어져 있다. 자연에 존재하는 동물 중에서 신경계가 가장 단순한 동물은 아마도 '예쁜꼬마선충'일 것이다. 이 벌레의 신경계는 약 300개의 뉴런으로 이루어져 있으며, 뉴런 사이에 존재하는 시냅스는 약 7000개 정도이다. 이 뉴런의 정보를 컴퓨터에 입력하고 얕은 물에 있도록 데이터를 조정했더니, 인위적인 조작 없이 뉴런의 정보만으로 살아 움직였다. 이것은 현실에서 신체만 없을 뿐이지, 컴퓨터 안에선 하나의 살아있는 생명체라고 볼 수 있을 것이다.
인간의 두뇌는 오랜 진화를 거치면서 '생존'이라는 현실적 문제를 해결하도록 정교하기 디자인되었다. 생존을 위해 가장 절실하게 요구되는 능력이 바로 '형태인식'과 '상식'이다. 정글 속에서 계산능력이나 체스 실력은 아무짝에도 쓸모 없다. 이런 곳에서 살아남기 위해 필요한 능력은 '포식자를 피하는 능력', '먹이를 찾는 능력', '변하는 환경에 적응하는 능력' 등이 필요하다.
5. '하향식 접근법'과 '상향식 접근법'의 타협
과학자들 중에는 앞으로 '하향식 접근법'과 '상향식 접근법'이 극적으로 타협을 이루면서 인간을 닮은 로봇을 만들게 될 것이라고 믿는 사람도 있다. 어린이들은 처음에 '상향식 접근법'에 의존하여 몸으로 부대끼면서 세상을 배워나가지만, 어느 정도 성장하고 나면 책이나 교사 등 주변 사람들의 도움을 받아 '하향식 접근법'으로 전환한다. 그리고 성인이 되면 두 가지 방법을 섞어서 지식과 능력을 꾸준히 키워나간다. 예컨대 요리를 할 때에는 조리법 안내서를 읽고 그대로 따라해 '하향식 접근법'을 따르면서도, 수시로 맛을 보면서 중간과정을 체크해 '상향식 접근법'도 따른다.
컴퓨터 전문가 '한스 모라벡(Hans Morevec, 1948~)'은 21세기 중반 쯤에 '하향식 접근법'과 '상향식 접근법'이 서로 만나면서 진정한 인공지능이 탄생할 것으로 예측했다.
6. 로봇에게도 '감정'이 필요한 이유
6-1. '감정'은 생존을 위한 산물
어떤 사람들은 인간의 속성 중에서 가장 고귀한 것이 '감정'이라고 주장한다. 일각에서는 '감정'이라는 것이 진화의 최고 산물이기 때문에, 기계가 감정을 갖는 것은 원리적으로 불가능하다고 주장하기도 한다. 하지만 인공지능을 연구하는 과학자들은 인간의 감정을 조금 다른 각도에서 바라보고 있다. 인공지능 연구자들이 생각하는 '감정'은 '인간의 기본 요소'가 아니라 '생존을 위한 진화의 산물'이다. 인간은 '감정'이 있었기에 야생에서 살아남을 수 있었으며, 그 덕분에 오늘날에도 삶의 위험요소를 사전에 파악하고 피해갈 수 있다. 예컨대 '무언가를 좋아하는 감정', '시기심', '수치심', '외로움' 등도 모두 생존을 위해 필요한 감정이다.
- 무언가를 좋아하는 감정: '무언가를 좋아하는 감정'은 진화의 과정에서 매우 중요한 역할을 한다. 왜냐하면 주변 환경의 대부분은 우리에게 매우 위험하기 때문이다. 매일같이 마주치는 수많은 것 가운데 우리에게 '유익한 것'은 극히 소수에 불과하다. 따라서 우리는 자연스럽게 '유익한 것'들을 좋아하게 되고, 이런 감정 덕분에 위험요소와의 접촉을 줄일 수 있었다.
- 시기심: '시기심'도 없어서는 안 될 중요한 감정이다. 인간을 비롯한 생명체의 가장 큰 임무는 '종의 생존을 이어가는 것'이기 때문이다. '성(Sex)'이나 '사랑(Love)'과 관련된 감정이 가장 복잡다단하게 발전한 것도 이러한 이유 때문일 것이다.
- 수치심: '수치심'이나 '양심의 가책'은 집단으로 모여 사는 인간에게 사회성을 길러준다. 만약 이런 감정이 없다면 집단에서 추방되거나 따돌림을 당할 것이고, 그렇게 되면 유전자를 물려줄 후손을 낳는데 치명적인 타격을 입게 될 것이다.
- 외로움: '외로움'도 중요한 감정이다. 언뜻 생각하기에 '외로움'은 우울한 마음만 자아내는 불필요한 감정일 것 같지만, 어떤 인간도 혼자서는 제대로 된 능력을 발휘할 수 없다. 생존을 위해서는 자원과 종족에게 의지해야 하기 때문에, 누군가를 그리워하는 감정은 반드시 필요한 것이다.
6-2. 로봇도 사람처럼 감정을 느낄 수 있을 것이다.
로봇의 성능이 지금보다 많이 개선되면, 로봇도 사람처럼 감정을 느낄 수 있을 것이다. 어쩌면 로봇은 고철더미 신세가 되지 않기 위해, 자신을 만든 사람이나 돌봐주는 사람에게 각별한 친밀감을 느낄지도 모른다. 로봇이 감정을 갖게 되면 인간 사회에 적응하기가 수월해지므로, 인간의 경쟁자가 아닌 동료로서 평화롭게 공생할 가능성도 높아질 것으로 생각된다.
컴퓨터 전문가 '한스 모라벡(Hans Morevec)'은 로봇이 스스로를 보호하려면 '두려움'을 프로그램화하여 심어주어야 한다고 주장한다. 예컨대 배터리가 거의 다 소모되었을 때, 두려움에 찬 표정이나 행동을 보여야 인간의 눈에 쉽게 뛸 수 있고 배터리를 충전할 기회도 그만큼 많아지기 때문이다. 탈진한 로봇이 숨넘어가는 소리로 '제발, 배터리를 충전하게 해주세요. 저에게는 생명이 걸린 일입니다. 나중에 은혜는 꼭 갚아 드릴게요'라고 애원한다면, 거절하기가 쉽지는 않을 것이다.
6-3. 결정을 내릴 때도 감정이 필요하다.
감정은 무언가 결정을 내릴 때에도 반드시 필요하다. 뇌의 특정 부위를 다치면 감정을 쉽게 떠올리지 못하게 되는데, 이런 사람들은 논리력이나 추리력은 평소와 다를 바 없지만 '자신의 느낌'을 잘 표현하지 못한다. '아이오와 주립대학교(Iowa State University)' 의학과 교수이자 신경학자인 '안토니오 다마지오(Antonio Damasio)'는 이런 증상을 보이는 환자들을 분석한 끝에 '알고는 있지만 느끼지 못한다.'라는 결론을 내렸다
'안토니오 다마지오(Antonio Damasio)'는 감적을 못 느끼는 환자들이 아주 사소한 결정조차 내리지 못하는 경우가 종종 있음을 발견했다. 이는 자신을 안내하는 감정이 없기 때문에, 이런저런 선택사항들을 끊임없이 저울질하면서 결론을 짓지 못한는 것이다. '안토니오 다마지오'의 치료를 받았던 한 환자는 무려 30분을 고민해야 다음 약속 날짜를 간신히 정할 수 있었다고 한다.
그러면 이들은 왜 결정을 잘 내리지 못하는 걸까? 뇌과학자들은 인간의 감정은 두뇌 중심부에 위치한 '대뇌변연계(Limbic System)'에서 일어나는 것으로 믿고 있다. 논리적 생각을 관장하는 부분인 '신피질(Neocortex)'과 '대뇌번연계' 사이의 연결에 문제가 생기면, 논리력은 그대로 유지되지만 결심을 유도하는 감정이 일어나지 않는다. 우리가 어떤 결정을 내릴 때에는 그 결정을 부추기는 감정이 일어나곤 하는데, '논리'를 담당하는 '신피질'과 '감정'을 담당하는 '대뇌번연계' 사이의 연결고리가 끊어지면 이런 작용이 일어나지 않아서 결정을 쉽게 내리지 못하게 된다.
따라서 로봇도 무언가를 스스로 선택하고 결정할 능력을 가지려면, 로봇에게도 '감정'이 있어야 한다. 이들에게 감정이 없다면 우유부단해질 가능성이 높다. 감정'이 결여되면 로봇은 중요한 게 무엇인지 느낄 수 없다. 미래의 로봇이 임무를 제대로 수행하려면, 논리적 사고회로' 이외에 '감정'이 반드시 있어야 한다. 그렇지 않으면 무한히 많은 선택의 기로에서 로봇은 아무런 결정도 내리지 못할 것이다.