Terence Tao: 문제를 너무 빨리 해결하는 AI는 수학을 "해칠" 수 있습니다.
Terence Tao는 수년 동안 조용히 새로운 AI 도구를 시도하고 좋은 도구를 공개적으로 칭찬해 온 수학자입니다. 그러나 GPT-6 Astra가 출시된 후 그는 소수의 사람들이 그에게 기대했던 내용을 썼습니다. 신경망이 공개된 큰 문제에 대한 답을 너무 빨리 그리고 투명한 프로세스 없이 전달하기 시작하면 수학은 얻는 것보다 잃을 것이 더 많을 수 있습니다. 그 계기는 구체적인 결과였습니다. OpenAI의 새로운 모델은 쌍둥이 소수 문제에 대한 진전을 주장했습니다.
첫째, 사실입니다. OpenAI에 따르면 GPT-6 Astra는 Lean의 형식 증명을 사용하여 연속 소수 사이의 간격 상한을 246에서 186으로 줄였습니다. 규모: 2013년 Yitang Zhang은 7천만 개 이하의 간격으로 소수 쌍이 무한히 많다는 것을 증명했습니다. 2022년 필즈상을 수상한 James Maynard는 그 한계를 600으로 줄였고, 커뮤니티는 나중에 246으로 줄였습니다. 이제 세 개의 실험실에서 동시에 새로운 수치를 보고했습니다. OpenAI는 186, Anthropic은 188, Axiom은 212입니다.
표면적으로는 축하할 일입니다. 타오는 다른 것을 보았습니다. 경고 신호였습니다.
대답은 가장 귀중한 부분이 아닙니다
Tao의 핵심 요점은 거의 역설적으로 들립니다. 큰 공개 문제는 답이 아니라 그 문제로 가는 길에 있어서 가치가 있습니다. 수학자들은 수년 동안 문제와 씨름하면서 새로운 방법, 개념, 전체 이론을 발명합니다. 그리고 그러한 "부산물"이 실제로 과학을 발전시키는 것입니다. 막다른 골목이라도 유용합니다. 접근 방식이 실패한 이유를 이해하는 것이 해결책을 찾는 것보다 더 중요한 경우가 많습니다.
이제 답이 신경망에서 나온다고 상상해 보세요. 빠르고 블랙박스이며 중간 단계가 표시되지 않습니다. 문제는 공식적으로 해결되었지만 새로운 아이디어를 창출하기로 되어 있던 프로세스는 결코 일어나지 않았습니다. Tao는 이를 문제 "오염"이라고 부릅니다. 이는 미래 발견의 원천이 되지 않습니다.
나비에-스토크스(Navier-Stokes) 사례
Tao는 7가지 밀레니엄상 문제 중 하나인 Navier-Stokes 방정식의 전역 규칙성 문제인 구체적인 사례에 대한 자신의 주장을 전개합니다. 수학자들은 이미 대답이 부정적이라고 상당히 확신하고 있습니다. 유한한 시간 내에 해가 "폭발"하는 초기 조건이 존재합니다. 대략적인 자기 유사 솔루션 구축부터 안정성 검증까지 4단계 계획도 제시되어 있습니다.
문제는 각 단계가 인간에게는 잔인할 정도로 어렵지만 "기계 학습 + 엄격한 산술 + 형식 증명"의 조립 라인에 완벽하게 들어맞는다는 것입니다. Tao는 그러한 하이브리드가 문제를 진정으로 해결할 수 있다고 허용합니다. 문제는 다음과 같습니다. 솔루션이 너무 복잡해서 인간이 이해할 수 없는 것으로 밝혀지고 AI를 운영하는 회사가 전체 프로세스를 비공개로 숨긴다면 수학은 체크박스를 받지만 거의 아무것도 배우지 못합니다.
이것이 수학자 이상으로 중요한 이유
타오의 논리는 보기보다 넓습니다. 최종 답변이 아닌 그 과정에서 가치가 창출되는 모든 분야에 적용됩니다. AI가 즉시 "올바른" 솔루션을 생성하기 시작하고 사람들이 시행착오의 길을 걷지 않는다면 우리는 속도가 아니라 이해를 잃을 위험이 있습니다. Tao는 이를 직설적으로 표현합니다. 최악의 경우 AI가 수학에 미치는 영향은 긍정적에서 부정적으로 바뀔 수 있습니다.
그는 과학 분야에서 AI를 반대하는 것이 아니라 AI를 가장 적극적으로 사용하는 사용자 중 한 명입니다. 그가 걱정하는 것은 특정 시나리오입니다. 전체 "가설-테스트-거절" 주기를 자체 내부에서 엄청난 컴퓨팅을 통해 회전시키고 최종 답변만 전달하는 자율 시스템입니다. 흔적도 없고, 초안도 없고, 실수로부터 배울 방법도 없습니다.
다음에 무엇이 올 것인가?
현재로서는 이것은 평결이 아니라 경고입니다. GPT-6 Astra는 범위를 186으로 줄였지만, 그러한 쌍이 무한히 많다는 쌍둥이 소수 추측 자체는 아직 입증되지 않았습니다. 이는 중간 결과이지만 주목할 만합니다. Tao가 제기하는 질문은 더 깊어집니다. AI가 과학을 비우지 않고 가속화하도록 만드는 방법입니다. 그는 아직 대답이 없습니다. 솔직히 말해서 다른 사람도 마찬가지입니다.