2026년 9월 초, OpenAI가 밀레니엄 문제 중 하나인 나비에-스토크스 방정식의 존재성과 매끄러움 문제에 대한 풀이를 내놓았다고 발표했다. 상금 100만 달러가 걸린 이 문제는 유체의 흐름을 기술하는 방정식이 언제나 매끄러운 해를 갖는지를 묻는 것으로, 한 세기 넘게 수학계의 대표적인 미해결 문제로 꼽혀 왔다. 이번 발표가 눈길을 끄는 이유는 결과 자체보다 그 결과에 도달한 방식에 있다.
밀레니엄 문제, 한 세기의 미해결 영역
밀레니엄 문제는 2000년 클레이 수학연구소가 선정한 7개의 미해결 문제로, 각 문제에 100만 달러의 상금이 걸려 있다. 지금까지 공식적으로 해결된 것은 푸앵카레 추측 하나뿐이고, 그마저도 증명한 수학자가 상금 수령을 거절해 화제가 됐다. 나머지 문제들은 수십 년 동안 최고 수준의 수학자들이 도전해 왔지만 결정적인 진전이 드물었던 영역이라, 어떤 형태의 풀이든 등장 자체가 뉴스가 되는 무게를 갖는다.
1만 개 에이전트가 88시간 협업한 구조
공개된 내용에 따르면 풀이는 단일 모델이 아니라 약 1만 개의 AI 에이전트가 협업한 결과로 알려져 있다. 에이전트들은 88시간 동안 약 270만 건의 메시지를 주고받으며 1300억 토큰 가량을 생성했고, 이후 공개 모델인 GPT-6 Astra가 17시간을 더 들여 증명을 형식화하고 검증했다고 전해진다. Quanta Magazine의 보도는 이 과정을 상세히 다루고 있다. 한 모델이 한 번에 답을 내는 구조가 아니라, 가설 생성과 반박, 검증을 맡은 에이전트들이 역할을 나눠 장시간 탐색한 셈이다.
| 항목 | 규모 |
|---|---|
| 참여 에이전트 | 약 1만 개 |
| 탐색 시간 | 88시간 |
| 교환 메시지 | 약 270만 건 |
| 생성 토큰 | 1300억 토큰 가량 |
| 형식화·검증 (GPT-6 Astra) | 17시간 |
이 구조는 이 블로그에서 앞서 다룬 멀티에이전트 시스템과 반성·자기 수정 기법이 실제 연구 현장 규모로 확장된 사례로 볼 수 있다. 개별 에이전트의 능력보다 수만 개의 시도를 조율하고, 틀린 방향을 걸러내며, 남은 후보를 끝까지 밀어붙이는 오케스트레이션이 성과를 갈랐다는 해석이 많다. 답을 낼 때 계산 자원을 더 쓰는 테스트 타임 컴퓨팅의 극단적인 형태라고 보는 시각도 있다.
공식 인정과 공로 귀속이라는 한계
한계도 분명하다. 수학계의 공식 인정은 동료 심사와 장기간의 검증을 거쳐야 하며, 클레이 수학연구소의 상금 규정도 발표 후 일정 기간이 지나야 심사가 시작되는 것으로 알려져 있다. 실제로 발표 직후 일부 수학자들은 자신들의 관련 연구 데이터가 모델에 영향을 줬을 가능성을 제기했고, OpenAI는 해당 연구에 접근하지 않았다고 반박하는 상황이라고 CNN이 전했다. 결과의 진위와 별개로, 발견의 공로를 누구에게 어떻게 귀속시킬지에 대한 기준 자체가 아직 없다는 점이 드러났다.
병목은 생성에서 검증으로 이동했다
기술적으로 눈에 띄는 대목은 병목이 이동했다는 점이다. 후보 풀이를 만드는 데 88시간이 걸렸다면, 그것을 형식화하고 검증하는 데 다시 17시간이 들었다. 앞으로 에이전트가 만들어내는 후보의 양이 늘어날수록, 사람이든 기계든 그 결과를 검증하는 쪽이 전체 속도를 결정하게 된다. 2024년 구글 딥마인드의 AlphaProof가 국제수학올림피아드 문제를 풀 때 Lean이라는 형식 증명 도구로 답을 기계 검증한 사례처럼, 발견형 AI는 생성 능력만큼 검증 체계를 함께 갖춰야 성립한다는 관찰이 굳어지는 추세다.
정리하는 AI에서 발견하는 AI로
산업적 의미를 보면, 이번 일은 AI의 쓸모가 정리에서 발견으로 옮겨가는 신호로 읽힌다. 지금까지 기업이 AI에게 맡긴 일은 대부분 이미 존재하는 정보를 요약하고 분류하고 재구성하는 작업이었다. 반면 새로운 정리를 증명하거나 아직 없는 가설을 세우는 일은 사람의 영역으로 남아 있었다.
그 경계가 흔들리기 시작했다는 것이 이번 사례의 핵심이다.
나비에-스토크스 방정식은 항공기 설계, 기상 예측, 혈류 해석 등 광범위한 공학 분야의 기반이라, 방정식이 어디에서 무너질 수 있는지에 대한 이해가 깊어지면 난류 같은 극한 상황의 시뮬레이션 정밀도가 달라질 수 있다는 기대도 나온다. 다만 이런 응용은 증명이 검증된 뒤에도 수년 단위의 후속 연구가 필요한 일이라, 당장의 실무 변화로 연결하는 것은 이르다.
실무자가 눈여겨볼 두 가지
실무자 입장에서 눈여겨볼 지점은 두 가지다.
- 협업은 실전 방법론. 대규모 에이전트 협업은 더 이상 데모가 아니라 실제 성과를 내는 방법론이 됐다는 점이다. 자사 업무에서도 한 모델에 긴 프롬프트를 넣는 방식보다, 역할을 나눈 여러 에이전트가 검증을 주고받는 구조를 검토할 근거가 생겼다.
- 막대한 토큰 비용. 이런 탐색은 토큰 비용이 막대하다는 점이다. 1300억 토큰은 어지간한 기업의 연간 사용량을 넘는 규모로, 발견형 AI의 비용 구조는 정리형 AI와 전혀 다르다.
또한 결과가 틀렸을 때 어디서 잘못됐는지 추적할 수 있도록 에이전트 간 메시지와 중간 판단을 기록해 두는 관측 체계도 함께 설계할 필요가 있다. 이는 이번 사례에서 검증 단계가 별도로 필요했던 이유와도 이어진다.
정리
결국 이번 발표는 AI가 수학을 풀었다는 헤드라인보다, 지식을 새로 만들어내는 작업에 AI를 어떻게 투입하고 그 결과를 어떻게 검증할지가 앞으로의 과제가 됐다는 점에서 의미가 있다. 증명이 최종 인정을 받든 그렇지 않든, 연구의 방법론 자체가 바뀌기 시작했다는 관찰은 유효하다.