일요일, 11월 22, 2026
HomeAbodaaboda_suhak리만 가설 AI 증명 검증 통과에도 수학계가 논쟁하는 이유

리만 가설 AI 증명 검증 통과에도 수학계가 논쟁하는 이유

수학자들이 167년 동안 풀지 못한 문제가 AI의 도움으로 풀렸다는 소식이 나왔습니다. 리만 가설 AI 증명은 2026년 11월 21일 독립적인 형식 검증까지 통과했지만, 수학계의 논쟁은 오히려 더 깊어졌습니다. 왜 어려웠는지 이해하면 이번 충격도, 일부 수학자가 반발하는 이유도 분명해집니다. 놀라운 점은 이제 ‘증명이 참인가’ 다음 질문이 더 어려워졌다는 사실입니다.

리만 가설 AI 증명 검증 통과에도 수학계가 논쟁하는 이유

리만 가설이 무엇이길래 소수와 연결될까

2, 3, 5, 7, 11처럼 1과 자기 자신으로만 나누어지는 수를 소수라고 합니다. 숫자가 커지면 소수가 드문드문 등장한다는 것은 알지만, 정확히 어디에 나타나는지 단순한 규칙으로 예측하기는 어렵죠. 한참 나타나지 않다가 갑자기 가까운 간격으로 만나는 모습이 마치 예측할 수 없는 길 같아요.

1859년 독일 수학자 베른하르트 리만은 소수의 분포를 이해하기 위해 ‘리만 제타 함수’의 영점, 곧 함수 값이 0이 되는 위치를 들여다봤습니다. 이 함수는 보통의 숫자 한 줄이 아닌 복소평면에서 움직입니다. 복소수는 실수부와 허수부를 지닌 수이고, 이를 평면 위 점처럼 생각하면 조금 편합니다.

리만 가설의 핵심은 단순합니다. 제타 함수의 ‘비자명한 영점’은 모두 실수부가 1/2인 한 직선 위에 있다는 주장입니다. 음의 짝수인 -2, -4, -6 등에 있는 이미 알려진 영점은 이 주장에 포함되지 않습니다. 복잡한 기호를 몰라도 ‘중요한 점들이 예외 없이 한 줄에 서 있을까’라고 떠올리면 이해의 문턱이 낮아집니다. 클레이수학연구소의 공식 문제 설명에서도 이 선과 소수 분포의 관계를 확인할 수 있습니다.

리만 제타 함수의 임계선과 AI 증명 논쟁을 보여 주는 수학 일러스트

리만 가설이 167년 동안 어려웠던 이유

제가 가장 소름 돋는 대목은 ‘지금까지 틀린 사례가 없었다’와 ‘영원히 맞는다’ 사이에 있는 거리입니다. 클레이수학연구소는 앞쪽 10조 개의 비자명한 영점을 검사했으며 조건에 맞았다고 설명합니다. 엄청난 숫자지만 무한히 많은 모든 영점을 다 본 것은 아니잖아요. 마지막까지 예외가 없다는 논리적 다리가 필요합니다.

문제는 영점이 놓인 복소평면의 구조가 매우 까다롭다는 것입니다. 계산으로 특정 영점을 확인하는 일과 모든 영점의 위치를 하나의 정리로 묶는 일은 전혀 다른 난이도거든요. 이미 알려진 수많은 정리와 정교한 분석 도구가 있어도, 그 모든 점을 임계선에 묶어 둘 결정적인 이유를 찾기는 힘들었습니다.

또 리만 가설은 ‘소수가 무작위로 나오는 것처럼 보이는데도 얼마나 정확히 예측 가능한가’라는 질문과 이어집니다. 소수정리는 대략적인 분포를 알려 주고, 리만 가설은 평균적인 예상에서 얼마나 벗어나는지 더 날카롭게 통제합니다. 이런 깊은 연결 때문에 증명이 성공한다면 단지 오래된 퀴즈 하나를 푸는 데서 끝나지 않습니다. 저는 그래서 이 문제가 수학의 성배로 불리는 이유가 이해됩니다.

AI가 리만 가설을 증명했다는 11월 발표의 실체

2026년 11월 20일 앤스로픽 소속 수학자 레벤트 알포게는 클로드와 함께 리만 가설의 증명을 찾았다고 발표했습니다. 4쪽짜리 설명과 함께 약 1,700만 줄의 린(Lean) 코드가 공개됐죠. 그는 더 넓은 대상인 디리클레 L함수에 대한 일반화된 리만 가설까지 다뤘다고 밝혔습니다. 말로 읽는 보통의 논문이 아니라 컴퓨터가 점검하는 증명이라는 점이 특별합니다.

더 놀라운 변화는 바로 다음 날 일어났습니다. 11월 21일 린·매스립 공동체는 공식 성명을 통해 표준 정의와 증명의 일치, 코드 컴파일, 여러 독립 검사기의 확인을 거쳤으며 해당 리만 가설 형식 증명이 올바르다고 인증했습니다. 단순히 AI가 자신만의 답에 동의했다고 보는 단계는 넘어선 것입니다. 수학자들이 오랫동안 기대했던 기계 검증의 힘이 실제 난제 앞에서 작동한 셈이죠.

그런데 클레이수학연구소 공식 홈페이지에는 리만 가설이 여전히 미해결 문제로 표시돼 있습니다. 공식 수상과 학계의 폭넓은 이해, 검증된 형식 증명의 발표는 시간표와 절차가 다릅니다. 따라서 ‘AI가 아무것도 증명하지 못했다’도 현재 상황과 맞지 않고, ‘상금까지 확정됐다’도 너무 앞서간 말이에요. 중요한 차이는 형식 검증의 성공과 수학계 전체의 해설·수용 과정을 나누어 보는 데 있습니다.

클로드의 67.2%와 오픈AI의 7/8은 왜 다른가

이번 발표가 어느 날 갑자기 하늘에서 떨어진 것은 아닙니다. 2026년 8월 앤스로픽은 클로드가 임계선 위에 놓인 영점의 비율에 관한 보장 수치를 41.6%에서 67.2%로 끌어올렸다고 소개했습니다. 당시 발표는 리만 가설 자체를 풀지는 못했다고 분명히 밝혔죠. 앤스로픽의 연구 설명을 읽어 보면 AI가 과거 수학자의 연구를 어떻게 조합했는지도 나옵니다.

10월 6일 오픈AI 역시 대량의 수학 원고를 공개하며 ‘준리만 가설’로 불리는 성과를 제시했습니다. 여기서 7/8은 모든 영점이 임계선에 있다는 주장과 다르게, 특정 반평면에는 영점이 없다는 경계를 다루는 값입니다. 앞서 나온 67.2%는 ‘얼마나 많은 영점이 선 위에 있나’, 7/8은 ‘영점이 어디까지 갈 수 없나’에 관한 이야기이므로 둘을 성적표처럼 비교하면 곤란해요.

발표 무엇을 다뤘나 당시 의미
2026년 8월 앤스로픽 임계선 위 영점의 비율 하한 67.2% 부분 진전
2026년 10월 오픈AI 실수부 7/8보다 오른쪽의 영점 배제 준리만 가설 관련 결과
2026년 11월 알포게·클로드 모든 비자명한 영점의 임계선 위치 린 공동체가 형식 증명 인증

이 표의 마지막 줄이 앞선 두 성과와 가장 크게 다릅니다. 100%에 해당하는 결론을 기계 검사 가능한 형식으로 제출했고 독립적인 공동체가 이를 검증했다는 점 때문입니다. 다만 어떤 아이디어가 결정적이었고 어떻게 다른 분야로 옮겨 갈 수 있는지는 아직 별도의 탐구 대상입니다. 저는 성공 소식만큼 이 후속 작업이 기대됩니다.

수학자들이 AI가 내놓은 리만 가설 증명과 검증 기준을 두고 토론하는 일러스트

수학계가 AI 증명에 반발한 진짜 이유

‘수학계가 AI 증명을 거부한다’는 표현은 정확하지 않습니다. 실제로 린·매스립 공동체는 이번 증명을 축하했고, 여러 연구자는 AI를 새로운 수학 도구로 받아들이고 있습니다. 반면 일부 수학자는 대기업이 수백 개의 논문을 한꺼번에 내놓는 방식과 그 결과가 연구 생태계에 미치는 충격에 강한 문제를 제기해 왔습니다. 반발의 대상은 AI 자체라기보다 발표 방식과 수학 연구의 목적에 가깝습니다.

2026년 10월 오픈AI가 700편 넘는 수학 원고를 공개했을 때, 인간 중심의 수학을 강조하는 단체인 AHM은 이를 학술적 소통보다 힘의 과시로 보는 성명을 냈습니다. 검토할 인력과 시간은 한정돼 있는데 공개 속도만 압도적으로 빨라지면 누가 오류를 찾고, 어떤 성과에 의미를 부여할까요. 테런스 타오의 블로그에 게재된 해당 단체 성명에는 인간의 이해를 수학 연구의 중심에 놓아야 한다는 우려가 담겨 있습니다. 이 글은 단체의 견해이지 모든 수학자의 입장은 아닙니다.

또 다른 문제는 공로입니다. 선행 연구를 토대로 학습한 AI, 질문을 정교하게 설계한 수학자, 결과를 검증한 사람, 계산 비용을 댄 회사 중 누가 얼마나 인정받아야 할까요. 연구의 우선권과 인용 기준, 미공개 아이디어의 사용 여부도 민감한 쟁점입니다. 저는 ‘AI가 맞혔으니 논쟁 종료’보다, 좋은 수학을 생산하고 공유하는 규칙을 다시 정해야 한다는 주장이 더 설득력 있게 들립니다.

린 검증이 통과했는데 왜 인간의 이해가 필요할까

린은 수학 문장을 엄격한 형식으로 바꿔 각 논리 단계가 규칙대로 연결되는지 검사하는 도구입니다. 이번에는 코드가 단순히 실행되는지뿐 아니라, 증명한 명제가 표준 리만 가설 정의와 같은지, 숨겨진 가정에 기대지 않았는지, 독립된 검사기에서도 받아들여지는지 살폈습니다. MIT 수학자 앤드루 서덜랜드의 검증 기록은 그 절차를 공개합니다. ‘컴퓨터가 봤다’ 한마디보다 훨씬 구체적인 검증입니다.

그렇지만 긴 계산이나 형식 코드가 옳다는 것과, 사람이 왜 그 아이디어가 성립하는지 한눈에 설명할 수 있다는 것은 다른 성취입니다. 요리로 치면 결과가 정확한 조리법이라는 사실과 음식의 맛을 결정한 원리를 이해하는 일이 다른 것과 비슷할까요. 일반 수학자는 새 증명을 읽고 더 짧게 정리하거나 새로운 문제에 적용합니다. 1,700만 줄 속 핵심 발상을 설명 가능한 수학 언어로 끌어내는 작업이 이제 시작된 셈입니다.

공교롭게도 11월 20일 인간 수학자 알레산드로 마술로의 별도 증명 초안도 공개됐습니다. 스탠퍼드대 수학자 라비 바킬은 사람의 연구만으로 작성된 초안을 소개했지만, 몇 시간 뒤 AI의 도움으로 발견된 문제들이 보고됐다고 덧붙였습니다. 바킬의 원문 공지는 이 상황을 잘 보여 줍니다. AI가 증명을 만들고 인간이 설명을 고민하는 동시에, 인간이 쓴 증명을 AI가 비판하는 시대가 열린 것입니다.

제 생각에 이번 사건의 핵심은 인간과 AI 중 누가 이겼는지가 아닙니다. 리만 가설의 참인 이유를 더 많은 사람이 이해하고 그 통찰을 새로운 정리로 연결할 수 있다면 수학 전체가 이익을 얻겠지요. 반대로 증명 코드만 쌓이고 읽는 사람이 줄어든다면 연구 방식은 심각한 고민에 빠질 것 같습니다. 수학이 답을 얻는 기술을 넘어 이유를 탐구하는 활동이라는 점이 지금 가장 뜨거운 질문입니다.

자주 묻는 질문

Q. 리만 가설은 이제 풀린 것으로 봐도 되나요?

2026년 11월 21일 린·매스립 공동체가 형식 증명이 올바르다고 인증했습니다. 다만 클레이수학연구소의 공식 문제 상태와 상금 절차, 수학자들의 해설 작업은 별개로 진행됩니다.

Q. 리만 가설이 증명되면 인터넷 암호가 바로 무너지나요?

그렇게 단정하기는 어렵습니다. 소수와 암호학이 관련돼 있지만, 리만 가설의 증명 자체가 현재 암호를 깨는 알고리즘을 곧바로 제공하는 것은 아닙니다.

Q. 67.2%까지 증명했다면 나머지 32.8%만 해결하면 되나요?

그 비율은 무한한 영점 집합에 관한 수학적 하한입니다. 남은 항목을 하나씩 검사해 끝내는 방식과는 달라서 ‘32.8%만 남았다’는 표현은 오해를 부릅니다.

Q. 모든 수학자가 AI에 반발하나요?

아닙니다. 형식 증명을 검증하고 축하하는 연구자들과 발표 방식, 공로 배분, 인간의 이해를 우려하는 연구자들이 함께 있습니다. 서로 다른 주장들을 한쪽의 거부로 묶으면 이번 논쟁의 본질을 놓치게 됩니다.

출처와 참고한 곳

함께 읽으면 좋은 글

RELATED ARTICLES
- Advertisment -

Most Popular

Recent Comments