[Future Hands up] 성장을 위한 재귀적 자기 개선(RSI)

“많은 전문가들이 AGI(Artificial General Intelligence) 즉 범용인공지능에 도달하는 것은 5년 후가 될지 모른다 예상하고 있습니다. 그렇다면 그 상위 단계인 ASI(Artificial Super Intelligence) 즉 사람을 뛰어넘는 고도의 인공지능에 도달하는 것은 얼마나 걸릴까요?”

필자의 AI 강의 중 청자들이 놀라움과 두려움을 동시에 느끼는 장면이 몇 있는데, 그 중 하나가 위의 질문에 대한 답이다. 정답은 ‘1년’인데, 이유는 의외로 명쾌하다. AGI를 개발하는 데는 인간들의 수많은 노력과 시간이 필요할 테지만, ASI는 인간이 아닌 AGI가 직접 고민하고 개발할 것이기 때문이다.

◆ 재귀적 자기 개선 (Recursive Self-Improvement)

‘재귀적 자기 개선(RSI)’이란 AI가 자기 자신의 능력과 구조를 스스로 분석 및 개선하여 반복적으로 더 똑똑해 지는 과정을 뜻하는 용어이다. 해당 용어는 사실 Generative AI의 초기 시절에 등장했는데, AI 스스로가 본인이 내린 답에 대해 오류를 발견하고 재실행을 통해 자기 수정을 하는 과정이 그 대표적 예라 할 수 있다.

그런 RSI가 최근 더욱 관심을 받는 이유는, 장기 메모리 능력 향상과 추론 능력의 고도화로 ‘자기 평가(self evaluation) 및 자기 수정(self correction), 성찰적 추론(reflection) 등의 기능이 향상되었기 때문이다. 그리고 이제는 AI가 향상된 RSI 기능을 바탕으로 ‘생각하는 과정 자체를 다시 생각’ 하기 시작했다.

물론 지금의 RSI는 완전하다고 볼 수 없다. 그 이유는 ‘판단 근거의 기준점’에 있는데, 현재 Gen AI는 인간이 입력한 데이터 및 학습 설계, 그리고 평가 기준으로 인프라를 구축하기 때문에 ‘보조적 자기 개선’ 단계라 할 수 있다. 하지만 최근의 Agentic AI 붐은 AI스스로가 자신의 모델 구조를 완전히 독립적으로 재설계하고, 스스로 하드웨어를 최적화하며, 스스로 연구 방향을 제시하는 등 주체적 RSI를 탑재한 미래형 AI의 가능성을 시사하고 있다.

◆ 인간의 Self-Modeling

재귀적 자기 개선을 위해 반드시 선행되어야 하는 단계가 있는 데, 바로 ‘Self-Modeling’ 이다. 고대 그리스 철학자 소크라테스는 이렇게 말했다.

“너 자신을 알라(γνῶθι σεαυτόν)”

AI의 등장을 예측하기라도 한 듯, 그의 말은 RSI를 위한 Self-Modeling과 맞다아 있다. Self-Modeling이란 AI가 자신의 상태, 능력, 한계, 목표, 행동 방식을 내부적으로 추정하고 표현하는 자기이해 과정을 뜻하는데, 이는 인간의 성장에 있어서 역시 매우 중요한 요소이며 자기 개발을 위해 반드시 선행되어야 하는 절차이다. 하지만 최근 어린 학생들의 Self-Modeling에서는 ‘판단 근거의 기준점’에 오류가 있어 보인다.

첫만남 대화의 필수 요소이자 자소서에도 당당히 등장하는 ‘MBTI 유형 분석’과 더불어, 아이들의 미래를 예측하기위한 ‘지문적성 검사’, 더 나아가 ‘입시 사주’까지, 최근 인간의 Modeling을 위한 분석 도구들이 화제인데, 내가 모르는 나에 대해 조금이나마 단서를 찾을 수 있다는 측면에서 의미가 있을지 모르지만 이는 ‘보조적’ 도구에 지나지 않는다.

외부의 기준 및 근거에 따라 판단되어진 나의 모습은 온전한 Self-Modeling이라 할 수 없기에, 판단의 출발점은 나 자신 이어야 한다. 자신의 모델 구조를 완전히 독립적으로 재설계하는 온전한 RSI를 탑재한 AGI처럼, 나는 어떤 환경에서 성장하고, 어떠한 방식으로 몰입하며, 무엇으로부터 에너지를 얻는지, 어떠한 사고 과정에서 반복적으로 실패하며 어떤 방식으로 배울 때 빠르게 진화하는지 등에 대해 스스로가 성찰하고 깨달을 수 있어야 한다.

◆ AI Self-Modeling

인지과학에서는 인간의 Self-Modeling이 어쩌면 자아의 형성과정일 지 모른다 이야기한다. 나에 대한 끊임없는 성찰은 ‘나’라는 존재에 대한 정의를 더욱 구체화시켜 본인 고유의 ‘자아’로 확립 시키며, 이는 이후 본인 고유의 행동과 성장의 기준점이 된다.

그럼 AI가 Self-Modeling을 끊임없이 실행한다면 인간처럼 ‘자아’를 가지게 될 것인가? 뇌과학에서는 전기신호의 교류일 뿐인 시냅스의 활동이 100조개가 되면서 인간이 ‘감정’이라는 창발적 현상을 가지게 되었을 지 모른다 추측하는데, 현재 1조개 정도의 파라미터를 가진 AI가 100조개 이상으로 파라미터가 확장되고 이를 통해 Self-Modeling이 끊임없이 활성화된다면 AI의 새로운 국면을 맞이하게 되는 것은 아닐까?

앞서 언급했던 소크라테스는 ‘자신이 모른다는 사실을 아는 것’을 지혜의 시작으로 보았다. 자신이 모른다는 사실을 무시한 채 할루시네이션(Hallucination)을 쏟아내던 과거의 AI가 이제는 스스로 모르는 부분에 대해서 인정하고 인지하기 시작했다. AI의 지혜가 과연 인간의 지혜를 앞설 수 있을지 기대와 걱정이 동시에 드는 이 순간, 양쪽 누구에게나 재귀적 자기 개선(RSI) 이 필수인 것은 변함없는 사실일 것이다.

* 칼럼니스트 ‘쿠자’는 소통 전문가를 꿈꾸며 신문방송학을 전공하였고, KBS 라디오 DJ를 거쳐, 외국계 대기업의 인사업무를 담당하며 역량을 키워왔습니다. 다양한 강의와 공연을 통해 소통의 경험을 쌓아온 쿠자는 현재 사물과 현상의 본질을 파악하는 능력과 더불어 코칭이라는 깨달음을 통해 의미 있는 소통 전문가가 되고자 합니다.