지난 9월 8일, AI 기업 오픈 AI는 자사의 AI 모델이 ‘나비에-스토크스 방정식의 해의 존재와 매끄러움’ 문제를 해결했다고 발표했다. 해당 문제는 수학계 7대 난제로 불리는 밀레니엄 문제 중 하나다.
밀레니엄 문제, 나비에–스토크스 방정식의 해
나비에-스토크스 방정식은 물리학자 클로드루이 나비에와 조지 스토크스의 이름을 딴 방정식으로, 물이나 공기처럼 점성이 있는 유체의 움직임을 설명한다. 방정식을 이용하면 유체의 속도와 압력이 변화하는 양상을 알 수 있기 때문에, 항공기 설계나 일기예보 등 다양한 분야에 활용되고 있다.
클레이 수학연구소가 제시한 21세기 수학계에서 가장 중요한 7개의 미해결 문제를 밀레니엄 문제라 칭한다. ‘나비에-스토크스 방정식의 해의 존재와 매끄러움’ 문제(이하 나비에-스토크스 밀레니엄 문제)는 밀레니엄 문제 중 하나다. 수리과학과 황건호 교수(이하 황 교수)는 이 문제를 “처음에 매끄럽게 움직이던 유체가 이 방정식을 따라 운동할 때 아무리 시간이 지나도 그 매끄러움이 유지되는지를 묻는 문제”라고 설명했다. 황 교수에 따르면 이 방정식은 실용적으로 중요함에도 근본적인 수학적 질문은 오랫동안 해결되지 않았다. 이러한 응용에서의 중요함과 수학적 난점을 배경으로 밀레니엄 문제로 선정된 것이다.
오픈 AI의 문제 해결 발표, 수학계의 반응
나비에-스토크스 밀레니엄 문제를 해결했다고 발표한 오픈 AI는 LLM(대규모 언어 모델)인 ChatGPT를 개발한 회사다. 오픈 AI에서 발표한 자료에 따르면, 자사 AI 모델은 클레이 수학연구소가 제시한 네 개의 경우 중 ‘3차원 전 공간에서 매끄러운 외력이 작용하는 경우’와 ‘3차원 원환면*에서 매끄러운 외력이 작용하는 경우’에서 해가 무한대로 치솟는 반례가 존재함을 증명했다. 해의 도출에는 현재 공개된 최상위 모델인 GPT-6 Astra보다 뛰어난 내부 모델을 사용했고, 10,000개의 에이전트가 88시간 동안 동시에 계산했다고 밝혔다.
이번 발표에 대해 수학계는 놀라움을 표하고 있다. 황 교수는 “LLM을 활용해 밀레니엄 문제를 해결한 것은 대단한 위업이라 할 수 있다”라는 의견을 표했다. 이번 발표를 통해 AI가 단순한 계산 보조를 넘어, 오랫동안 해결되지 않은 문제의 증명을 구성하는 것까지 관여할 수 있다고 보여줬다는 것이다. 황 교수는 이러한 성과는 앞으로 수학 연구의 방식에도 상당한 변화를 불러올 수 있다고 설명했다.
그러나 오픈 AI의 발표에서 선행 연구자를 존중하지 않았다는 비판이 일었다. 황 교수는 “오픈 AI가 처음 공개한 논문에서 디에고 코르도바와 루이스 마르티네스-조로아의 핵심적인 선행 연구가 인용되지 않았고, 이후 수정본에서야 추가됐다”라며, 오픈 AI의 발표 태도에 대해 문제를 제기했다. 인용은 단순 예의가 아닌 아이디어의 출처와 새로운 기여를 밝히는 과정이라는 점을 강조한 것이다.
연구 과정에 있어 도용 논란이 일어나기도 했다. 오픈 AI의 이번 성과가 온전히 AI 모델에 의해 이뤄진 것이 아니라, 다른 이가 이미 진행하던 연구를 토대로 했다는 의혹이다. 이 의혹은 수학자 레벤트 알푀게와 트리스턴 버크매스터가 제시했다. 이들은 자신들이 LLM을 사용해 연구하던 문제를 오픈 AI가 무단으로 활용했다고 주장하며, 연구 사실과 자료를 제시했다. 이후 오픈 AI의 CEO 샘 올트먼은 소셜 미디어를 통해 당시 두 수학자의 연구 사실을 인지했으며, 그들이 동의한다면 우선권을 양보하기 위해 사전 연락과 공동 저자 제안을 취했다고 해명했다. 이 과정에서 레벤트 알푀게의 경우 타 AI 회사 소속이라 주 저자로 등재하기 어렵다는 의사 표명이 오해를 일으켰다고 설명했다. 또한, 후속 조사 이후 도용 의혹에 대해 단호히 부정했으며, 두 수학자와 오픈 AI의 증명은 명확히 다르다고 밝혔다.
더욱이 발전하는 AI, 그 속 인간과 수학
앞으로 수학계에서 AI의 역할에 대해, 황 교수는 “AI의 한계를 이야기하기에는 아직 이르다고 생각한다”라고 말했다. 빠르게 발전하는 AI가 현재 잘하지 못하는 일을 앞으로도 못할 것이라 단정하기 어렵기 때문이었다. 이를 감안하고 현재를 기준으로 논한다면, AI는 유용한 연구 보조 도구지만 아직 새로운 체계를 배우고 개념을 만들어내는 능력은 충분히 보여주지 못했다는 것이 황 교수의 견해다. 즉, AI가 복잡한 계산이나 전략 탐색을 효율적으로 도와줄 수 있으나, 새로운 개념을 정의하고 이론을 통해 도구로 삼는 것은 아직 인간 수학자의 몫이라는 뜻이다.
일부 수학자들은 AI가 난제를 해결하면 후대 수학계의 발전을 더뎌질 수 있다는 우려를 표했다. 필즈상 수상자 25인은 공동 성명을 통해 “난제의 해결은 지표일 뿐, 중요한 것은 그 과정에서 얻는 새로운 개념과 통찰이다”라고 발의했다. AI가 경쟁적으로 난제를 해결한다면, 수학계의 가장 소중한 자원인 학생과 새 아이디어가 고갈될 수 있다는 것이다.
오픈 AI의 발표가 큰 반향을 일으키며, AI가 수학계에 끼치는 영향이 확대될 것으로 보인다. 이번 발표에 대해 클레이 수학연구소가 취할 승인·수상 여부와 수학계의 변화 양상에 주목할 필요가 있다.
* 가로, 세로, 높이의 세 방향이 모두 끝없이 이어져 있는 3차원 공간. 한 방향으로 계속 이동하면 반대편에서 다시 나타나 출발점으로 돌아오게 된다.