두 집단 한 공간 두고 모의실험
협력 비율 50% 넘지 않고 분열
상호 작용 한계 수학적으로 규명

찰스 다윈은 이타적 행동, 상호 협력, 그리고 성 선택은 자연 선택, 적자생존 등의 개념만으로는 설명이 쉽지 않아 한동안 골머리를 앓았습니다. 이후 윌리엄 해밀턴이라는 진화생물학자가 ‘근연도’라는 개념을 바탕으로 한 해밀턴 법칙을 제시하면서 이타성을 깔끔하게 설명했습니다. 이후 상호 협력은 진화론적 게임이론으로 충분히 설명할 수 있다는 것을 많은 수학자가 밝혀냈습니다.

그런데 캐나다 브리티시컬럼비아대(UBC) 수학과, 동물학과, 헝가리 부다페스트 기술물리·재료과학 연구소, 진화연구소 공동 연구팀은 두 집단에서 협력 행위는 계속 증가하지 않고 일정 비율로 유지된다는 사실을 수학적으로 확인했다고 4일 밝혔습니다. 이 연구 결과는 미국 국립과학원에서 발행하는 융복합 분야 국제 학술지 ‘PNAS 넥서스’ 9월 3일자에 실렸습니다.

협력은 비용이 낮거나 이익이 클 때 나타납니다. 협력을 하는 데 비용이 너무 많이 들면 협력할 이유가 없는 것은 너무도 당연합니다. 이를 근거로 진화수학자들은 게임이론으로 자기 이익만 추구하려는 개체가 있을 때도 상호 협력이 유지되는 이유에 관해 설명했습니다. 이는 꿀벌, 나비와 같은 꽃가루 수분 곤충과 식물 간의 공생 관계로도 확인됐습니다.

이번 연구팀은 상호 협력이 언제 증가하고 감소하는지 알아보기 위해 ‘계산공간모형’(CSM)이라는 일종의 컴퓨터 모의실험을 했습니다. 두 종의 개체를 바둑판처럼 생긴 격자에서 서로 마주 보도록 한 뒤 협력 행동을 실험한 것입니다. 연구팀은 각 개체가 군집을 형성해 자기 이익만 챙기려는 사기꾼 개체를 쫓아내는 방식으로 협력을 확대하도록 컴퓨터 모델을 설계했습니다.

그 결과 협력 조건이 개선될 때마다 두 종 사이에서 상호 이익이 되는 방향으로 협력 행위가 증가하는 것이 확인됐습니다. 그런데 협력의 비율이 50%에 가까워지면 갑자기 분열이 발생하는 것이 관찰됐습니다. 공간적으로 한쪽에는 협력자들이, 다른 쪽으로는 비협조자나 배신자들이 모이면서 나타난 현상입니다. 연구팀에 따르면 협력과 비협력의 비율이 일정하게 유지된다는 것입니다.

연구를 이끈 크리스토프 하우어트 UBC 교수(진화 게임이론)는 “협력의 대칭 붕괴 현상은 복잡한 생명체 시스템에서 상호 작용에 중대한 영향을 미칠 수 있는 행동 변화를 설명할 수 있게 한다”고 말했습니다.