사진 Jérémy Barande / CC BY-SA 3.0
필즈상 수학자가 AI와 증명
수학자가 AI에게 증명을 맡기다
— 린(Lean)과 형식화
확률과 통계 · 경우의 수 · 수학교육
필즈상 수상자 테런스 타오는 챗GPT와 증명 보조도구 린(Lean)으로 에르되시 문제 613번의 반례를 약 일주일 만에 형식화했습니다. 종이 위 증명을 컴퓨터가 한 줄씩 검증할 수 있는 형식 언어로 옮긴 것으로, 완성된 린 코드는 1,000줄이 넘었습니다.
증명을 컴퓨터가 한 줄씩 따져 '정말로 증명됐는지'를 가리는 과정은, 학생에게 수학적 엄밀함이 무엇인지 보여 줍니다.
'경우의 수' 단원에서 같은 것이 있는 순열은 n개 가운데 같은 것이 각각 p개, q개씩 있을 때 일렬로 나열하는 것으로, 그 수는 n!을 p!과 q!으로 나눈 값입니다. 같은 것끼리 자리를 바꾼 배열은 구분되지 않으므로, 모두 다르다고 보고 센 n!에서 그 중복만큼 나눠 주기 때문입니다. 중복순열은 중복을 허용해 r개를 택해 나열하는 것으로 n의 r제곱이 되는데, 각 자리마다 n가지 선택이 가능해 곱의 법칙에 의해 n을 r번 곱하기 때문입니다.
같은 글자가 섞인 단어를 배열하는 경우의 수가 왜 n!을 중복된 글자의 곱으로 나눈 값인지 설명하려면, '같은 글자끼리 자리를 바꿔도 같은 배열이다'라는 근거를 한 단계씩 제시해야 합니다. '경우의 수' 단원은 이렇게 각 단계가 빈틈없이 정당한가를 확인하는 훈련을 합니다.
타오가 AI와 린(Lean)으로 한 작업의 핵심도, 증명의 모든 단계를 컴퓨터가 한 줄씩 따져 빈틈을 찾는 데 있습니다. 경우의 수에서 '왜 나누는가'를 근거로 설명하는 습관은, 증명이 정말로 빈틈없이 성립하는지 가리는 형식화의 태도와 같은 뿌리를 둡니다.
같은 것이 있는 순열에서 'p!으로 나눈다'는 한 줄에는 사실 숨은 근거가 있습니다. 같은 글자 p개를 일단 모두 다른 것으로 보고 세면 그 p개끼리 자리를 바꾼 p!가지가 모두 같은 배열로 겹친다는 약속입니다. 그래서 다 다르다고 본 n!을 이 'p!개씩 묶음'으로 나눠 줍니다. 만약 어떤 글자가 같은지 다르게 잡으면 나누는 수도 달라지고, 근거가 바뀌면 결론도 달라집니다.
린 같은 증명 보조도구가 하는 일이 바로 이 숨은 근거를 빠짐없이 드러내게 강제하는 것입니다. 사람은 '같은 글자니까 겹치겠지'라고 한 줄로 넘어가지만, 형식 언어에서는 '무엇을 같다고 보는지, 왜 정확히 p!가지가 겹치는지, 왜 그만큼 나누는 게 정당한지'를 컴퓨터가 받아들일 수 있는 단계로 모두 적어야 합니다. 타오의 작업은 종이 증명에서 사람이 당연하게 건너뛴 단계들을 한 줄씩 채워 넣은 것입니다. 경우의 수에서 '왜 나누는가'를 근거로 풀어 보는 경험은, 이 형식화가 무엇을 검증하는지 그대로 보여 줍니다.
생기부 기재 예시
같은 것이 있는 순열과 형식화된 증명 과정에 호기심을 가져 AI가 증명을 한 줄씩 검증하는 사례를 조사하고, 같은 글자끼리 자리를 바꾼 배열을 하나로 보는 이유를 근거 중심으로 정리함. 또한 경우의 수에서 일반 순열과 달리 왜 같은 것의 개수만큼 나누어 n!/(p!q!)이 되는지, 각 단계의 선택이 빈틈없이 성립해야 함을 곱의 법칙과 연결해 논리적으로 설명함. 특히 중복순열의 경우 각 자리에 n가지 선택이 반복되어 n^r이 됨을 구체적으로 제시하며 계산 근거를 분명히 밝히는 모습이 인상적이었음. 이를 바탕으로 증명을 컴퓨터가 검증하는 형식화의 의미를 탐구하여, 수학에서 조건과 정의를 정확히 세우는 태도가 중요함을 체계적으로 정리하고 발표 자료로 작성함. 진로와 연계하여 수학교육 분야에 적성을 보임.
* 2026 생기부 기재 가이드라인, MOE Q&A와 FAQ, 메디컬저널 작성 공식 반영