위대한 과학자라도 대학원생 시절을 꼭 행복하게 기억하지는 않는 모양이다. ‘다윈 이후 가장 훌륭한 다윈주의자로 꼽힐만하다’ 는 찬사까지 들었던 진화생물학자 고(故) 윌리엄 해밀턴(William Hamilton)은 이렇게 회상했다.
“나는 한 번도 연구실에서 내 책상을 가진 적도 없고, 내 연구를 다른 사람들 앞에서 발표하라는 제의를 받은 적도 없었다. 복도에서 스쳐 지나가거나 도서관에서 마주치는 사람들 가운데 내 이름을 알거나 내가뭘 하는지 안 사람은 아무도 없었던 것 같다… 대부분 시간을 나는아주 외롭게 보냈다. 때때로 나는 내 단칸방이 너무나 지긋지긋하게 느껴진 나머지, 도서관에서 밤늦게 공부하다가 폐장시간을 넘기면 내 방이 아니라 워털루 기차역으로 향하곤 했다. 대기실 벤치에서 여행객들 사이에 앉아, 나는 계속 책을 읽거나 수식 모델을 세웠다. ” (Hamilton, 1996, p.11, 25)
해밀턴이 이토록 완벽하게 ‘따’를 당한 것은 그의 소심하고 내성적인 성격 탓도 있을 것이다. 그러나 또 다른 이유는, 파시즘(Fascism)의 아픔이 채 가시지 않았던 1960년대의 시대적 상황에서 결코 만나서는 안 될 두 단어가 그의 연구주제에서 불경스럽게 결합하고 있었기 때문이다. 바로 ‘유전자’와 ‘사회적 행동’이었다.
해밀턴의 규칙 해밀턴이 케임브리지 대학의 유전학과에 입학했을 때는 저명한 진화생물학자 로널드 피셔(Sir Ronald A. Fisher) 경이 과에서 막 퇴임할 즈음이었다. 진화이론의 현대적 종합을 이룩한 피셔가 있던 대학교답지 않게, 해밀턴은 진화에 대해어딘가 어설픈 설명을 펼치는 강의들을 접해야 했다. 당시에는 동물들은 집단, 종, 생태계의 이익을 위해 행동한다는 생각이 널리 퍼져 있었다. 우리가 매력적인 이성에 끌리는 까닭은 종족보존의 본능을 발휘하기 위해서다. 세월이 지나면 노화를 피할 수 없는 까닭은 다음 세대에게 자리를 양보하여 종을 오래도록 유지하기 위해서다. 사자가 굳이 늙고 허약한 사슴만 잡아먹는 까닭은 아프리카 초원 생태계 전체가 활기찬 균형을 이루게 하기위해서다. 이러한 생각은 해밀턴이 도서관에서 우연히 집어든 피셔의 1930년 책 [자연 선택의 유전적 이론(The Genetical Theory of Natural Selection)]의 핵심논제와 천지차이였다. 피셔는 자연 선택은 거의 전적으로 개체 수준에서 일어나며 개체의 적응도(fitness, 살아남는 자식의 총수)를 최대화한다고 책에서 주장했다. 해밀턴은 그 자리에서 ‘피셔 빠돌이(Fisher freak)’가 되기로 했다. 해밀턴은 그 책이 자신이 학부 4년 동안수강한 모든 강의들의 총합에 맞먹는 중요성을 지닌 책이었다고 훗날 회고했다. 모든 사람들은 쓰고 떫은 음식보다 달콤한 음식에 손이 먼저 간다. 이러한 행동들은 개체에 도움이 되지만 집단이나 종에도 도움이 되므로 이해하는데 별로 어려움이 없다. 문제는, 버스를 기다리다 슬쩍 새치기하는 것처럼, 자신의 행동이 자신뿐만 아니라 남에게도 영향을 끼치는 사회적 행동도 개체선택설로 설명할 수 있는가이다. 다윈과 피셔가 주장했듯이 자연 선택이 개체의 생존과 번식에 도움이 되는 형질만 빚어낸다면, 어떻게 남에게는 이득을 줄지언정 자신은 손해만 보는 이타적 행동이 선택될 수 있었을까? 달리 말하면, 동물의 행동을 설명할 때 집단이나 종의 이득을 강조했던 당시의 해석이 피셔, 할데인(Haldane), 라이트(Wright)의 진화적 종합에 따르면 완전히 틀렸음을 어떻게 입증할 수 있을까? 해밀턴이 찾은 해법은 어찌 보면 지극히 간단했다.  바로 진화는 어찌 됐건 유전자 빈도의 변화라는 사실이다. 여기 두 대립유전자 G와 g가 있다고 하자. G는 이타적 행동을 일으키지만 g는 아무런 행동도 일으키지 않는다. 개체 수준으로만 판단하면 G는 응당 제거되고 g가 선택되어야 할 것이다. 하지만, 곰곰히 생각해보자. G가 g를 제치고 후세대에 널리 전파할지 최종적으로 결정짓는 기준은, 이타적 행동이 G가 지금 탑승 중인 개체에 도움이 되느냐 여부가 아니라, G 자기 자신에게 도움이 되느냐 여부이다. 따라서 G의 입장에서는 이타적 행동이 G가 지금탑승하고 있는 개체에 미치는 영향뿐만 아니라 이타적 행동의 수혜자에게 미치는 영향도 ‘포괄적으로’ 따져봐야 한다. 수혜자의 몸속에도 G의 복제본이 느긋하게 탑승하고 있을 가능성이 분명히 있기 때문이다. 해밀턴의 규칙(Hamilton’s rule)은 r*b가 c보다 크면 이타적 행동이 자연선택된다고 이야기한다. 즉, 이타적 행동의 수혜자가 받는 이득(b)에 두 개체가 G라는 유전자를 평균 이상으로 공유할 가능성(r)을 곱해서 에누리한 값이 이타적 행위자가 겪는 손실(c)보다 크면, 그러한 이타적 행동은 유전자 G의 빈도 증가를 낳으므로 반드시 선택된다는 말이다. 유전자의 관점에서 진정 중요한 문제는 자신의 복제본이 다음 세대에 얼마나 전달되는지 라는 해밀턴의 통찰은 십여년 후 리처드 도킨스(Richard Dawkins)에 의해 ‘이기적 유전자의 눈 관점(selfish gene’s eye view)’으로 정교화되었다.
피붙이가 특별한 이유 어떤 사회적 행동을 일으키는 유전자를 상대방과 평균 이상으로 공유할 확률인 유전적 연관도(genetic relatedness)가 0을 넘게 하는 대표적인 원인 가운데 하나로 혈연관계가 있다. 나는 나 자신과 1.0으로 연관되지만, 친형제들과는 각각 0.5로 연관되며 사촌들과는 0.125로 연관된다. 따라서 해밀턴의 규칙에 따르면, 예컨대 형제가 얻는 이득이 내가 감수해야 할 손해보다 두 배 이상이라면 형제를 돕는 이타적행동이 진화할 수 있다. 그래서 진화생물학자 할데인은 “친형제 두 명이나 사촌 여덟 명을 살리기 위해서라면 기꺼이 물속에 뛰어들겠다.”라고 말한 바 있다. 해밀턴은 1964년에 발표한 두 논문을 통해포괄 적응도 이론(inclusive fitness theory)을 수학적으로 정립했을 뿐만 아니라, 동물 사회에서 널리 나타나는 이타적 행동은 모두 가까운 혈연들 사이에서 유전자의 이익을 넓히고자 행해짐을 밝혔다. ‘피는 물보다 진하다.’라는 말이 있듯이, 인간 사회에서도 혈연관계는 매우 중요하다. 물론 이는 가족의 끈끈한 정을 다룬 수많은 드라마, 시트콤, 영화, 만화, 소설 등에서도 쉽게 확인할 수 있다. 그러나 전통적인 심리학에서는 가족 관계는 다른 대인 관계들과 본질적으로 다르지 않다고 여겨져 왔으며 그리큰 관심도 끌지 못했다. 이타적 행동이 피붙이에 대해서는 쉽게 이루어질 수 있음을 보인 한 연구를 살펴보자. 진화심리학자 트레버 케이스(Trevor Case)과 그 동료들은 다른 사람이 변을 본 기저귀를 갈아주는 이타적 행동에 주목했다. 배설물에는 독소와 기생충 등 해로운 물질이 들어있으므로, 우리는 보통 남의 배설물에 대해 강한 혐오감을 느낌으로써 배설물을 멀리 하여 질병에 걸리지 않게끔 진화했다. 변의 주인이 옆집 갓난아기라면 무조건 변을 멀리하는 것이 상책이다. 하지만, 변의 주인이 내 아기라면 ‘내 아기가 뽀송뽀송한 새 기저귀로부터 얻는 이득’이 ‘내가 코 한 번 막고 아기의 기저귀를 갈아줌으로써 감수하는 손해’보다 두 배 이상 높을 것이라고 쉽게 추측할 수 있다. 실제로 젊은 엄마들은 자기 아기가변을 본 기저귀가 다른 사람의 아기가 변을 본 기저귀보다 냄새가 덜 하다고 대답했다. 각각의 기저귀들을 일부러 이름표를 틀리게 달아줬을 때에도 엄마들은 여전히 자기 아기가 변을본 기저귀를 더 선호했다(?). 혹시 엄마들은 자기 아기의 변 냄새는 구리긴커녕 향긋하다고 믿는 것이 아닐까. 왜 어떤 음식을 보편적으로 선호하는가, 왜 어떤 장소를 거주지로 선호하는가 같은 문제에 대한 진화적 설명들은 비교적 일반 대중의 거부감이 덜하다. 반면에 다른 사람들과의 사회적 행동에 대한 진화적설명은 종종 더 심한 거부감에 부딪힌다. 사회생물학자 에드워드 윌슨(Edward Wilson)이 1975년에 <사회생물학(Sociobiology)>를 낸 다음 겪은 고초는 잘 알려졌다. 스티븐 핑커의 <빈 서판(Blank slate)>이나 도킨스의 <무지개를 풀며(Unweaving the rainbow)>를 읽고 나서도 사회적 행동에 대한 진화적담론들이 왠지 찜찜하게 여겨진다면, 해밀턴도 비슷한 허무감에 때때로 부딪히고 이를 극복했다는 말이 위안이 되지 않을까.
“나 자신이나 내 친구들의 행동이 사회성에 대한 나의 이론이나 다른 학자들의 이론을 잘 뒷받침해준다고 상상하면 별로 마음이 편치 않다. 우리는 그런 이론들보다 더 상위에 존재하며, 훨씬 더 신비로운 법칙의 지배를 받는다고 나는 상상하기 좋아한다. 이러한 편견을 고집한다면, 그러나 다소 슬프게도 나는 얻는 것보다 잃는 게 더 많으리라… [내 이론은] 동물의 행동뿐만 아니라, 지금껏 잘 몰랐지만 이제는 활발히 연구되고 있듯이, 인간의 행동까지도 잘 설명해준다. " (Hamilton, 1996, p.2) | 