OpenAI, 80년 된 기하학 난제 AI로 해결 주장 — '주장'이라는 단어가 핵심

수학 뉴스에서 가장 무거운 단어는 ‘증명’이 아니라 ‘주장’이다. OpenAI가 1946년 폴 에르되시가 제기한 80년 묵은 기하학 추측의 반례를 자사 추론 모델이 찾아냈다고 발표했는데, 정작 그 발표문에 ‘AI가 수학 난제를 자율적으로 해결한 첫 사례’라는 자평과 ‘수학계 검증을 거치겠다’는 단서가 나란히 붙어 있다. 자랑과 보험을 한 문장에 담은 셈이고, 이 어색한 동거가 이번 사건의 성격을 그대로 보여준다.

왜 하필 ‘반례’였나

눈여겨볼 건 모델이 한 일이 정리를 증명한 게 아니라 반례를 찾은 거라는 점이다. 수학계는 오랫동안 이 문제의 최적 해법이 정사각형 격자(square grid)에 가까울 거라 추정해왔는데, OpenAI의 모델은 그 예상을 깨는 더 효율적인 배치 하나를 들고 왔다.

반례 찾기는 증명과 난이도의 결이 다르다. 정리를 증명하려면 모든 경우에 대해 빈틈없는 논리를 세워야 하지만, 반례는 ‘안 되는 사례 하나’만 보이면 끝난다. 그리고 그 하나가 진짜인지 확인하는 건 사람이 직접 계산해 검산할 수 있다. 거대한 탐색 공간을 뒤지는 끈기와 검증 가능한 단일 결과물 — 이 조합은 공교롭게도 현재 AI가 가장 잘하는 일과 정확히 겹친다. 바둑에서 인간이 상상 못 한 묘수가 나온 것도 결국 답의 옳고 그름을 즉시 판정할 수 있는 판이었기 때문이다.

‘첫 사례’라는 수식어의 무게

그래서 AI타임스 기사가 전한 이 소식은 두 갈래로 읽힌다. 한쪽은 AI가 패턴 인식을 넘어 사람이 못 본 구조를 스스로 제안하는 단계에 들어섰다는 신호다. 다른 쪽은 아직 수학계의 도장이 찍히지 않은, 회사가 내놓은 보도자료라는 사실이다. 수학은 권위가 아니라 논증으로 굴러가는 분야라, 누가 발표했느냐보다 그 과정이 한 줄 한 줄 타당한지가 전부다.

흥미로운 건 검증 결과가 어느 쪽으로 나든 이번 일이 남기는 메시지는 비슷하다는 점이다. 맞으면 AI가 미해결 난제 목록에 실제로 손을 댄 첫 기록이 되고, 틀리면 ‘그럴듯하지만 검증 전엔 믿을 수 없는 출력’이라는 이 기술의 본질적 한계가 다시 확인된다. 진짜 변곡점은 AI가 답을 내놓는 순간이 아니라, 그 답을 사람이 검산하지 않고도 신뢰하게 되는 순간에 온다. 이번 발표는 아직 그 문턱 앞에 서 있다.