AI 모델의 수학 문제 해결 능력 향상과 문제 난이도 분석: 힌트 시퀀스·복잡도·탐색 방식 관점
AI Is Getting Good at Math. Here’s Why.
OpenAI의 내부 모델이 1946년부터 열려 있던 Erdős의 단위 거리 추측에 대한 반례를 찾았고, 이후 Cycle Double Cover 문제 증명과 열린 문제 10여 개의 해법이 이어졌다는 내용이다. 기사는 LLM이 어떤 종류의 문제를 풀 수 있는지 예측하는 기준을 제시하려 한다. 기사는 문제의 난이도를 Gowers가 제안한 복잡도 공식 2^k + t로 설명한다. 여기서 k는 전문가가 문제를 재구성할 수 있게 해 주는 힌트 시퀀스의 최단 길이이고, t는 그 힌트를 전개하는 데 필요한 작업량이다. 단위 거리 문제의 경우 힌트는 반례를 찾을 것, 가장 알려진 구성을 일반화할 것, 한정된 노름의 소 아이디얼을 사용해 차수가 증가하는 수체 열을 시도할 것의 세 부분으로 이루어졌다고 정리된다. 기사는 인간 연구자가 넓이 우선으로 방향을 탐색하는 반면 LLM은 한 궤적을 따라 깊이 우선으로 탐색하며, 자동 검증기가 있으면 불확실한 아이디어에 많은 연산을 쓰는 것이 합리적이 된다고 설명한다. 기사는 검증기가 완성된 논증만 판단할 수 있고 절반쯤 전개된 아이디어가 어디로 가는지는 알려 주지 못한다는 점도 한계로 짚는다.
자동 검증기로 몇 분 안에 결과를 확인할 수 있으면 힌트의 품질 기준이 낮아져, 개발자가 검증 가능한 형태의 탐색 파이프라인을 설계할 때 연산 자원을 불확실한 후보에 배분하는 방식이 실무적 판단 기준이 된다.
원문 출처
Latent Space (swyx & Alessio)