[뉴스스페이스=이현주 기자] 인류 진화사의 상징처럼 여겨져온 ‘커지는 인간의 뇌’ 서사가 뒤집히고 있다. 최근 《네이처 커뮤니케이션스(Nature Communications)》 17권에 실린 논문은 지난 200만 년 동안 이어진 인간 두개골 변화가 고전적인 의미의 방향성 자연선택이 아니라, 중립적 진화와 장기간의 정체(stasis)로 더 잘 설명된다고 결론 내렸다.

87개 화석 두개골이 말해준 것

튀빙겐대학교 카테리나 하르바티(Katerina Harvati) 교수와 마크 후베(Mark Hubbe) 등이 이끈 연구팀은 호모 에렉투스, 호모 하이델베르겐시스, 네안데르탈인, 초기·현생 호모 사피엔스 등 호모 속(genus Homo)에 속하는 87개 화석 두개골에서 3차원 랜드마크 데이터를 추출해 분석했다. 연구진은 뇌용량 증가(encephalization)와 안면 축소(facial reduction) 패턴을 설명할 수 있는 여섯 가지 진화 모델을 설정하고, 화석 기록과 대조하는 방식으로 통계적 적합도를 비교했다.

검증된 모델 가운데 방향성 자연선택(지속적인 ‘더 큰 뇌·더 작은 얼굴’ 쪽으로의 압력)을 가정한 모형은 대부분의 비교에서 밀려났다. 대신 편향 없는 무작위 보행(random walk)과 평균값 주변에서 거의 변하지 않는 진화적 정체(stasis)를 가정한 중립적 진화 모델이 두개골 형질 변화의 패턴을 가장 잘 설명하는 것으로 나타났다.

“큰 뇌 = 더 큰 적응력” 통념에 제동

이번 연구는 뇌가 커지고 얼굴이 작아졌다는 사실 자체를 부정하지 않는다. 현생 인류의 두개골이 약 300만 년 전 초기 인류보다 3배 가까운 뇌용량을 가진다는 점은 여러 독립 연구를 통해 이미 반복 확인돼 왔다. 다만 그 ‘왜’와 ‘어떻게’를 묻는 질문에서, 기존의 이야기와 다른 답을 제시한다는 점이 중요하다.

하르바티와 후베 연구팀의 분석에 따르면, 호모 속에서 관측되는 두개골 형질 변동은 “지속적인 방향성 선택”의 자취라기보다는, 일정한 제약 조건 안에서 형질이 무작위로 떠다니다가, 간헐적으로 제약이 완화되면서 변화가 누적되는 양상을 띤다. 튀빙겐대는 공식 성명에서 “호모 속에서 관찰되는 뇌 확대와 안면 축소는 현생 인류를 향한 꾸준한 진보적 경로의 결과로 보이지 않는다”고 평가했다.

얼굴은 ‘고정’, 뇌는 ‘표류’…복합적 진화 시그널

연구진은 특히 안면부 변화에서 중립적 진화와 정체의 시그널이 더 강하게 나타났다고 보고했다. 얼굴 크기와 구조는 오랜 기간 거의 고정된 평균값 주변에서 미세한 노이즈 수준의 변동만을 보였고, 이는 얼굴 형질이 강한 제약과 안정화 선택(stabilizing selection)에 의해 묶여 있었음을 시사한다.

반면 뇌 용적과 관련된 신경두개(neurocranium)는 상대적으로 더 큰 변동 폭을 가지면서도, 그 경로가 뚜렷한 ‘위쪽으로의 가속 곡선’이라기보다는 중립적 표류(drift)에 가까운 통계적 패턴을 보여줬다. 연구진은 이를 두고 “호모 계통 전반에 걸쳐 중립적 진화와 제약된 변화가 복합적으로 작용했다”고 요약했다.

기존 ‘적응 서사’와의 긴장 관계

그동안 인간 뇌 확대를 설명하는 주류 가설들은 대체로 강한 적응 지향성을 전제해 왔다. 예컨대 2018년 《네이처(Nature)》에 발표된 영국 레딩·옥스퍼드·더럼대 연구는 컴퓨터 모델을 통해 인간 뇌 크기 진화에 기여한 요인을 정량적으로 추정하면서, 생태적 도전 60%, 협동적 사회 도전 30%, 집단 간 경쟁 10%였다고 보고했다. 개인 간 경쟁의 영향은 사실상 미미하다고도 결론내렸다.

국내외 과학 매체들도 그간 “혹독한 환경에 적응하기 위해 인간은 큰 뇌를 갖게 됐다”는 식의 해석을 반복해왔다. 대뇌피질이 진화 과정에서 1,000배 이상 팽창했다는 신경과학 연구를 바탕으로, 특정 유전자(예: ARHGAP11B)나 외곽 방사형 신경교세포 증식이 ‘폭발적 뇌 성장’의 원동력이라는 설명도 제기돼 왔다.

이번 네이처 커뮤니케이션스 논문은 이런 적응 서사와 직접 충돌한다기보다, 그 위에 “통계적 현실 점검”을 포개는 성격에 가깝다. 방향성 선택 자체를 부정하는 것이 아니라, 화석 기록이 보여주는 장기 패턴은 순수 방향성보다는 중립적 표류와 정체 모형으로 더 잘 설명된다는 것이다. 

“왜 커졌나?”에서 “언제 묶이고 풀렸나?”로 질문 재설정

하르바티는 “이번 연구는 우리의 질문 자체를 바꿔놓는다”고 강조했다. 인류가 왜 더 큰 뇌와 더 작은 얼굴을 향해 지속적으로 진화해 왔는가를 묻는 대신, 이제는 그러한 변화가 일어날 수 있도록 했던 제약과 그 해제의 메커니즘을 규명해야 한다는 제안이다.

이는 향후 연구의 방향도 바꿔놓을 수 있다. 생태·사회·문화 요인을 정량화해 ‘뇌 확대의 원인’을 찾는 기존 접근과 더불어, 두개골 형질의 분산과 제약을 설명하는 중립 모델, 유전자·발생학적 제약 조건, 집단 크기와 유전적 부동(drift)의 역할 등을 추적하는 작업이 병행돼야 한다는 의미다.