OpenAI의 나비어-스토크스 증명, 자연어 논문과 코드가 서로 다른 말을 하는 이유

1. 충격의 발표, 그리고 엇갈린 시선

지난 2026년 9월 8일, OpenAI는 내부 AI 시스템을 활용해 수학계의 난제 중 하나인 밀레니엄 문제, '나비어-스토크스 방정식'의 유한 시간 특이점(blow-up)을 증명했다고 발표했어요. 당시 자연어(NL) 문서와 함께 기계 검증이 가능한 Lean 형식화 코드를 동시에 공개하면서 전 세계 테크 및 과학계에 엄청난 파장을 일으켰죠. AI가 인간의 영역으로 여겨졌던 복잡한 수학적 난제를 해결하는 새로운 시대를 열었다는 찬사가 이어졌습니다.

하지만 발표 한 달여 뒤인 2026년 10월 초, 캠브리지대학교와 킹스칼리지런던 등의 연구진이 논문(arXiv:2610.08144)을 통해 뜻밖의 의문을 제기했어요. 바로 OpenAI의 Lean 형식화 증명이 원래의 자연어(NL) 증명과 완벽히 일치하지 않고 괴리가 존재한다는 지적이었죠.

2. 무엇이 달랐나? 4차 도함수와 5차 도함수의 함정

그렇다면 구체적으로 어떤 부분이 어긋났다는 걸까요? 연구진이 밝힌 바에 따르면, 두 기록 사이에는 명백한 의미론적 불일치가 발견됐어요.

대표적인 사례로 Lean 코드 기술 내용을 살펴보면, 특정 바운드(경계값)를 충족하기 위해 '5차 도함수'가 필요하다고 기술되어 있어요. 반면, 함께 공개된 자연어 논문에서는 '4차 도함수'만으로도 해당 조건이 성립한다고 주장하고 있죠.

이러한 차이는 단순한 오타로 넘기기에는 수학적 엄밀성이 생명인 학술 검증에서 결코 가볍지 않은 부분이에요. 학계 전문가들은 이를 두고 AI의 자연어 증명을 Lean 같은 형식 언어로 자동 형식화(Autoformalization)하는 과정에서 발생한 번역 오차나 괴리로 분석하고 있어요. 기계 검증 시스템이 도입되었음에도 불구하고, 자연어 문서와 코드 간의 번역 과정에서 의미론적 충실성을 완벽히 보장하기는 여전히 어렵다는 한계를 드러낸 셈이죠. 일부 수학자들은 OpenAI의 증명이 기존 스페인 연구 프로그램의 경로를 그대로 따르지 않고 독자적인 우회로를 탐색했다고 평가하기도 했습니다.

3. 표절 루머의 진실과 'Lost in Translation'

발표 직전에는 수학자 트리스탄 백마스터(Tristan Buckmaster) 등을 중심으로 연구 유출 및 프롬프트 인용 관련 우선권 논란이 일기도 했어요. 초기 레딧이나 해커뉴스 등 커뮤니티에서는 'AI가 연구를 도용한 것이 아니냐'는 과장된 루머가 확산되기도 했는데요. 이에 대해 OpenAI 측은 직접적인 데이터 유출 및 표절 의혹을 명확히 부인했습니다. 결과적으로 초기 표절 논란은 사실과 다소 거리가 먼 해프닝으로 가라앉는 분위기예요.

하지만 이 과정에서 진짜 중요한 본질은 따로 부각되었습니다. 바로 'Lost in Translation(번역 과정에서의 손실)' 문제예요. 일부 전문가들은 이번 사태를 소프트웨어 공학에 빗대어 설명하기도 해요. 마치 설계 문서와 실제 구현된 코드 간의 버전 차이나, 개발 중 세부 사항이 수정되었으나 원문 문서를 제때 업데이트하지 못한 현상과 유사하다는 분석이죠.

커뮤니티 반응도 팽팽하게 갈리고 있어요. 'AI가 증명해놓고 코드가 원문을 제대로 반영하지 못했다면 반쪽짜리 검증이 아니냐'며 날 선 비판을 던지는 시각이 있는가 하면, '복잡한 수학적 증명을 코드로 옮기는 구현 과정에서 나타나는 자연스러운 디버깅 단계일 뿐'이라며 옹호하는 목소리도 적지 않아요.

4. 맺음말: AI 수학 에이전트가 나아갈 길

이번 OpenAI의 나비어-스토크스 증명 논란은 AI가 수학적 난제를 해결하는 놀라운 잠재력을 입증하는 동시에, 그 검증 과정의 투명성과 일치성을 담보하는 것이 얼마나 까다로운지 보여주는 대표적인 사례가 되었어요.

독자적인 우회로를 찾아낸 AI의 능력은 눈부시지만, 자연어 문서와 기계 형식화 코드 사이의 괴리를 어떻게 좁힐 것인가는 앞으로 AI 수학 에이전트가 풀어가야 할 커다란 숙제로 남게 되었습니다. 앞으로 관련 기술 동향과 학계의 후속 논문들이 이 간극을 어떻게 메워나갈지 계속해서 주목해 볼 필요가 있겠어요.