1만 개 AI가 88시간 만에 푼 밀레니엄 난제, 수학계가 ‘도용’이라며 분노한 이유

안녕하세요! 최근 테크 업계와 수학계를 그야말로 발칵 뒤집어 놓은 엄청난 사건이 있었죠. 바로 2026년 9월 8일, OpenAI가 세계 7대 수학 난제 중 하나인 ‘나비에-스토크스(Navier-Stokes) 방정식’의 변형 문제를 AI로 해결했다고 발표한 일이에요.

90년 넘게 풀리지 않던 인류의 숙제를 AI가 단 88시간 만에 풀어냈다는 사실은 그야말로 경이로운 기술적 성취입니다. 하지만 지금 학계의 반응은 축제 분위기와는 거리가 멉니다. 오히려 테렌스 타오(Terence Tao)를 비롯한 최고 권위의 필즈상 수상자 25명이 단체로 규탄 서한을 냈고, 온라인 커뮤니티에서는 빅테크의 횡포라며 비판이 쏟아지고 있는데요.

도대체 그 88시간의 기적 이면에는 어떤 일들이 있었던 걸까요? 단순한 기술적 성취를 넘어, AI 시대의 연구 윤리와 크레딧(기여도) 분쟁이라는 새로운 화두를 던진 이번 사건의 전말을 자세히 파헤쳐 볼게요.

1. 88시간의 기적: OpenAI는 무엇을 이뤄냈나?

먼저 OpenAI가 발표한 기술적 성과부터 짚고 넘어갈게요. 나비에-스토크스 방정식은 물이나 공기 같은 유체의 흐름을 설명하는 복잡한 수식으로, 클레이 수학연구소(Clay Mathematics Institute)가 2000년에 100만 달러의 상금을 걸고 발표한 ‘밀레니엄 난제’ 중 하나예요.

OpenAI는 약 1만 개의 AI 에이전트로 구성된 내부 시스템을 가동해 단 88시간 만에 이 방정식의 ‘존재 및 매끄러움(existence and smoothness)’ 문제의 변형을 해결하는 증명을 도출해 냈어요. 게다가 단순히 수식만 푼 것이 아니라, 수학적 증명 검증에 쓰이는 프로그래밍 언어인 ‘Lean’을 통해 논리적 검증까지 완벽하게 마치고 해당 코드를 GitHub에 모두 공개했죠.

일부 수학 전문가들은 이번 성과를 두고 “Lean을 통한 공식 검증(Formal verification)을 마쳤다는 것은 논리적 오류가 없음을 기계적으로 증명한 것”이라며, “크레딧 논란과 별개로 AI가 도출한 결과 자체의 기술적 성취는 수학적으로 매우 의미가 크다”고 분석하고 있어요. 참고로 OpenAI 측은 클레이 수학연구소의 100만 달러 상금은 청구하지 않겠다고 공식적으로 밝힌 상태랍니다.

2. 엇갈린 타임라인: 기여도를 둘러싼 갈등의 시작

문제는 이 엄청난 성과가 발표되기 직전의 상황에서 불거졌어요. 사실 OpenAI의 발표 이전부터 NYU의 수학자 트리스탄 벅마스터(Tristan Buckmaster) 교수와 Anthropic 소속 연구원 레번트 알포게(Levent Alpöge)가 이와 밀접하게 관련된 ‘오일러 방정식(Euler equations)’에 대해 오랫동안 연구를 진행하며 돌파구에 근접해 있었거든요.

놀랍게도 OpenAI는 9월 1일, “다른 연구자들이 난제 해결에 근접했다”는 소문을 듣고 나서야 자사의 난제 해결 프로젝트를 본격적으로 시작했다고 스스로 인정했어요. 무한한 컴퓨팅 자원을 가진 빅테크가 개인 연구자들의 성과가 임박했다는 소식을 듣자마자, 압도적인 물량을 투입해 이른바 ‘속도전’으로 성과를 가로챘다는 비판이 나오는 이유가 바로 여기에 있죠.

3. 선 넘은 압박과 데이터 도용 의혹

갈등은 단순한 속도전에서 끝나지 않았어요. 커뮤니티와 학계를 가장 분노하게 만든 것은 그 과정에서 드러난 윤리적 문제들이었어요.

첫째, 공동 저자 배제 압박 논란이 일었어요. 폭로에 따르면, OpenAI의 연구원 세바스티앙 뷔벡(Sébastien Bubeck)이 벅마스터 교수에게 연락해 논문에서 경쟁사인 Anthropic 소속 알포게의 이름을 빼라고 압박하며 “왜 커리어를 망치려 하느냐”고 말했다고 해요. 이 사실이 알려지면서 학계의 거센 비판이 쏟아졌죠.

둘째, 데이터 도용 의혹이에요. 벅마스터 교수가 연구 과정에서 OpenAI의 코딩 AI 모델인 ‘Codex’를 사용했는데, OpenAI 측이 이 프롬프트 데이터를 몰래 들여다보고 증명의 힌트로 삼은 것 아니냐는 의심이 제기된 거예요. OpenAI는 이를 강하게 부인했지만, “익명화된 데이터가 모델 개선에 간접적으로 영향을 미쳤을 가능성은 배제할 수 없다”는 식의 여지를 남기면서 논란에 기름을 부은 격이 되었어요.

이런 일련의 과정 탓에 Reddit 등 주요 커뮤니티에서는 이번 사건을 ‘AI 기술의 쾌거’로 칭송하기보다는, “무한한 컴퓨팅 자원을 가진 빅테크가 인간 연구자의 피땀 어린 성과를 가로채는 디스토피아적 사건”으로 프레이밍하며 비판하는 여론이 지배적입니다.

4. 필즈상 수상자들의 단체 반발과 학계의 경고

사태가 눈덩이처럼 커지자, 수학계의 노벨상이라 불리는 ‘필즈상(Fields Medal)’ 수상자 25명이 단체 행동에 나섰어요. 대중에게도 친숙한 천재 수학자 테렌스 타오를 포함한 이들은 ‘수학에서 AI의 심각한 정렬 문제(A Severe Misalignment of AI in Mathematics)’라는 제목의 공개 서한을 발표했어요.

이들은 서한을 통해 “AI 기업들이 유명한 수학 난제를 풀기 위해 경쟁하면서, 적절한 논문 작성이나 기여도 인정 없이 결과를 성급하게 발표하는 것은 수학계의 오랜 연구 문화를 훼손하며 심각한 표절 문제를 낳는다”고 강력히 경고했어요.

당사자인 벅마스터 교수 역시 자신들의 연구는 선행 연구자인 디에고 코르도바(Diego Córdoba)와 루이스 마르티네스-조로아(Luis Martínez-Zoroa)의 공이 크며, “오히려 이들이 필즈상을 받아야 마땅하다”고 겸손하게 평가하며 학계의 크레딧 존중 문화를 강조하기도 했죠.

결국 걷잡을 수 없이 확산되는 논란 속에 OpenAI는 Caltech에서 열릴 예정이었던 수학 행사 스폰서십마저 스스로 철회해야 하는 촌극을 빚고 말았습니다.

5. 자주 묻는 질문 (FAQ)

이번 사건과 관련해 독자분들이 많이 궁금해하실 만한 질문 두 가지를 정리해 봤어요.

Q. 클레이 수학연구소는 AI가 단독으로 생성하고 검증한 증명에 대해 밀레니엄 상 수상 자격을 어떻게 규정하고 있나요?
A. 밀레니엄 상은 전통적으로 동료 평가(Peer review)를 거친 학술지 게재와 일정 기간의 검증을 요구합니다. AI가 단독으로 도출한 증명에 대한 명확한 별도 규정은 아직 시험대에 오르지 않았으나, 앞서 언급했듯 OpenAI는 이번 성과에 대해 100만 달러의 상금을 청구할 의사가 없다고 밝혀 직접적인 수상 자격 논쟁은 피한 상태예요.

Q. 1만 개의 AI 에이전트들은 88시간 동안 구체적으로 어떻게 역할을 분담해 증명을 완성했나요?
A. OpenAI의 시스템은 단순히 계산만 한 것이 아닙니다. 수백만 건의 메시지를 주고받으며 각 에이전트가 가설을 세우고, 코드를 작성하고, 수식을 검증하는 등 인간 연구팀처럼 역할을 나누어 상호작용했어요. 최종적으로 도출된 논리를 GPT-6 Astra 기반의 모델이 17시간에 걸쳐 Lean 언어로 기계적 검증(Formal verification)을 수행하며 90년 묵은 난제를 마무리지은 것으로 알려져 있습니다.

마치며: AI 시대, 새로운 룰이 필요하다

OpenAI의 나비에-스토크스 난제 증명은 분명 수학과 AI 역사에 획을 그은 엄청난 기술적 성취입니다. 하지만 그 이면에서 벌어진 크레딧 가로채기 논란과 최고 수학자들의 단체 반발은, 거대 자본과 무한한 컴퓨팅 파워를 쥔 빅테크가 전통적인 학술 생태계를 어떻게 위협할 수 있는지 보여주는 강력한 경고장이기도 해요.

AI가 인간의 지적 노동을 돕는 도구를 넘어 스스로 연구자가 되어가는 지금, 기술의 발전 속도만큼이나 ‘연구 윤리’와 ‘기여도 인정’에 대한 새로운 사회적 합의가 시급해 보입니다.

이번 논란의 중심에 있는 수학계의 입장이 궁금하시다면, 필즈상 수상자들이 발표한 ‘A Severe Misalignment of AI in Mathematics’ 서한 원문을 한번 찾아 읽어보시거나, 관련 커뮤니티 토론에 참여해 보시는 것을 추천해 드려요! 여러분은 AI의 압도적인 성취와 인간 연구자의 윤리적 권리 중 어느 쪽이 더 중요하다고 생각하시나요?