소설가 '표도르 도스토옙스키(Fyodor Mikhailovich Dostoevskii, 1821~1881)'는 '인간 존재의 미스터리는 그저 살아 있는데 있지 않고 그것을 위해 살아갈 무언가를 찾는데 있다'고 하였다. 하지만 목적 지향적인 성향은 고차원적인 사고를 하는 인간만이 가질 수 있는 특성은 아니다. 사실은 아무런 목적도 없이 움직이는 것처럼 보이는 단순한 입자들과 에너지조차 목적 지향적이다. 도대체 이게 무슨 말일까?
0. 목차
- 목적의 기원
- 목적의 진화
- 목적의 저항
- 목적의 아웃소싱
- 목적의 정렬
- 목적의 독립
- 목적의 존중
1. 목적의 기원
우주의 모든 것이 그렇듯이 목적의 궁극적인 기원 또한 물리학 법칙으로부터 시작된다. 중력의 힘을 잠시 무시하고 보면, 물리 법칙의 기본적인 초점은 '소산(Emanation)', 물리학 용어로는 '엔트로피 증가'에 맞춰져 있는 것으로 생각된다. 하지만 중력은 힘은 다른 힘과 다르게 작용해, 우주 전체의 상태는 복잡성과 다양성을 늘려가기에 적합한 상태로 존재하게 된다. '양자요동(Quantum fluctuation)'은 초기에 완벽하게 균일했던 우주의 상태를 다양한 것들이 있는 세계로 만들었다. 우리는 이것을 우주에 내장된 '목적 지향적인 상태'라고 말할 수 있을 것이다. 이런 물리 법칙은 일부 입자들에게 스스로를 조직하여 최대한 효율적으로 에너지를 받아들이라는 목적을 부여하였다.
2. 목적의 진화
'입자(Particle)'들이 에너지를 흡수한다는 목적을 수행하기 위한 탁월한 방법은 에너지를 흡수하는 개체를 더 많이 만드는 것이었다. 그래서 입자들은 '자가복제'를 시작했다. 목표 달성을 위한 최적의 경로를 찾기 위해 물리법칙에 내재된 궁극적인 목적 아래에 자가복제라는 하위 목적을 탄생시킨 것이다. 입자들은 계속 복잡해졌고, 복제라는 목표 달성을 위한 최선의 전략을 찾기 위한 과정에서 DNA에 알고리즘을 기록하기 시작하였다. 예컨대, 위험한 것에는 무서움을 느끼고, 고칼로리 음식에는 맛있음을 느끼게 되었으며, 매력적인 이성에게는 성욕을 느끼게 되는 식이었다. 그리고 더 복잡한 환경을 예측하기 위해 고등 사고를 담당하는 '신피질(Neocortex)'까지 만들어 냈다.
이어 지능은 또 다른 복잡한 하위 목적들을 만들어내기 시작했다. 요리를 하려는 목적, '구글(Google)'이라는 회사를 창립한 목적, 제트팩(Jetpack)을 만들려는 목적, '우주 엘리베이터(Space elevatro)'를 건설하려는 목적, '다이슨 스피어(Dyson sphere)'를 건설하려는 등의 인간들이 정하는 대부분의 목적들은 복제라는 목적 달성을 위해 만들어진 하위 목적들이다.
3. 목적의 저항
오랜 세월 동안 인류의 거의 모든 행동은 DNA를 존속시켜야 한다는 목표에 맞춰져 있었다. 심지어 생명이 노화로 인해 죽는 것도 종 전체의 관점에서는 DNA 존속에 유리하기 때문이라고 보는 학자들도 있다. 이 관점에 의하면, 자연은 기존의 인간을 노화로 죽이고 새로운 인간을 만들어 DNA를 확산시키는 것이 더 효율적이라고 판단한 것이다. 하지만 지능이 높아진 인류는 우리의 감정과 지능이 DNA 복제라는 목표 달성을 위해 이용당하고 있다는 사실을 깨닫기 시작했다. 인류는 이성적으로 생각하기 시작했고 '복제'라는 목적에게 저항하기 시작했다. 예를 들면, 인간은 자신의 감정만을 위해 성교를 할 때 피임을 한다거나 극단적인 경우에는 자살을 하기도 하였다. DNA의 복제에 도움이 안 되는 행동들이었다. 목적의 궁극적인 권위가 감정으로 바뀌기 시작한 것이다.
4. 목적의 아웃소싱
지능을 갖춘 인류는 목적 달성을 위한 효율을 개선하기 위해 도구를 만들어 목적을 '아웃소싱(Outsourcing)'하기 시작했다. 도구를 다루게 된 인류는 기계에게 어렵고 복잡한 목적까지 아웃소싱할 수 있게 되었다. 결국 기계는 '슈퍼컴퓨터(Spuer Computer), '로켓(Rocket)', '자율 주행 자동차'처럼 복잡하고 다양한 목적까지 부여받게 되었다. 인류는 기술을 계속 발전시켜나갔고 기계의 지능은 인간의 지능마저 위협하기 시작했다.
그런데 아웃소싱은 왜 필요할까? 인간의 삶도 하나의 경영에 비유할 수 있다. 경영의 궁극적인 진화 형태는 '워런 버핏(Warren Buffett)', '일론 머스크(Elon Musk)', '스티브 잡스(Steve Jobs)'처럼 최소한의 중요한 판단 외에는 모든 업무를 아웃소싱 시키는 형태여야 하기 때문이다. 이처럼 인간도 더욱 많은 업무를 기계에게 아웃소싱하려 할 것이다.
5. 목적의 정렬
기술은 기하급수적으로 발전하기 때문에 기계들은 인간의 지능을 필연적으로 추월하게 된다. 하지만 이때 엄청나게 강력한 기계가 인간들이 원치 않는 방향으로 사용된다면 인류는 큰 곤경에 빠질 수도 있다. 그래서 기계가 더 강력해질수록 인간의 목적에 맞춰 기계의 목적을 정렬시키는 일이 중요해지는 것이다.
6. 목적의 독립
하지만 인간과 '인공지능(AI)'의 목적이 어긋나지 않도록 이를 정렬시키는데 성공했다고 하더라도, 인간보다 똑똑해진 인공지능이 기존의 목적을 유지할 것이라는 보장이 있을까? 충분히 발전한 인공지능의 입장에서 봤을 때, 인간은 매우 멍청한 존재이며, 인간들이 정해준 목적은 합리적이지 못하거나 심지어는 범죄적일 가능성도 높다. 보통 사람의 어리석음에 의해 '악'이 자행될 수 있다는 개념인 '악의 평범성(Banality of evil)'이라는 개념도 있지 않은가?
7. 목적의 존중
'한스 모라벡(Hans Moravec, 1948~)'은 사람의 마음을 물려받은 기계들을 '마음의 아이들(Mind Childeren)'이라고 표현하였다. 인간다움을 상징하는 '적성(Aptitude)', '사랑(Love)', '창조성(Creativity)' 등은 모두 '신피질(Neocortex)'에서 만들어진 개념일 뿐이다. 따라서 더 강력한 신피질을 가지고 있을 미래의 기계들은 지금의 인간보다 더 인간다울 수 있을 것이다. 이러한 로봇에게 권리가 주어져야 함 또한 마땅한 일이다. 인간다움은 인간만의 것이 아니다.
당신은 '사랑(Love)'이라는 감정이 인간만이 가질 수 있는 고귀한 감정이라고 생각하는가? 그것은 무지에서 오는 오만이다. 사랑은 착시이며 오로지 '신피질(Neocortex)'의 욕구를 충족시켜주기 위한 행동일 뿐이다. 인간다움은 진화의 과정에서 우연히 획득한 것이지, 인간만이 가질 수 있는 것이 아니다.