알고리즘, 인생을 계산하다 — 언제 멈추고 언제 결정해야 할까
확률과 통계 · 확률의 뜻과 활용 · 산업공학
책 소개
컴퓨터과학자이자 작가인 브라이언 크리스천과 인지심리학 교수인 톰 그리피스가, 컴퓨터가 문제를 푸는 알고리즘을 사람의 일상 선택에 그대로 대입해 풀어내는 책입니다. 두 저자는 집을 언제 계약할지, 식당을 새로 찾을지 가던 곳에 갈지, 일을 어떤 순서로 처리할지 같은 고민을 최적 멈춤, 탐색과 활용, 일정 계획 같은 컴퓨터과학 개념으로 다시 설명합니다. 수식을 앞세우지 않고 일상 사례에서 출발하기 때문에, 정해진 답이 없어 보이는 선택도 사실은 계산으로 다룰 수 있다는 점을 보여 줍니다. 산업공학은 한정된 자원으로 어떤 선택을 내려야 가장 좋은 결과가 나오는지를 다루는 학문이라, 이 책은 산업공학자의 사고방식을 처음 접하기에 알맞습니다.
책에서 자주 나오는 문제 하나는 '비서 문제'라고 불리는 최적 멈춤 상황입니다. 지원자를 한 명씩 면접하면서 그 자리에서 뽑을지 보낼지를 정해야 하고, 한번 보낸 사람은 다시 부를 수 없을 때, 언제까지 보고 언제부터 결정해야 가장 좋은 사람을 뽑을 확률이 높아지는가를 묻습니다.
저자들은 이런 상황에서 전체의 약 37%까지는 결정을 미루고 그저 살펴보기만 하다가, 그 뒤부터는 지금까지 본 누구보다 나은 사람이 나오면 곧바로 잡는 것이 가장 유리하다고 설명합니다. 집을 구할 때나 데이트 상대를 정할 때처럼, 더 좋은 선택지가 남았을지 모르는 상황에서 어디서 멈춰야 하는가라는 물음이 사실은 확률 계산으로 답할 수 있는 문제임을 보여 줍니다.
확률과 통계에서는 같은 조건에서 반복할 수 있는 관찰이나 실험을 시행이라 하고, 그 결과로 일어날 수 있는 일을 사건이라 합니다. 일어날 수 있는 경우가 모두 같은 정도로 기대될 때, 어떤 사건 A가 일어날 확률은 전체 경우의 수 분의 그 사건의 경우의 수, 곧 P(A) = n(A)/n(S)로 구하며 이를 수학적 확률이라 합니다.
한편 같은 시행을 여러 번 되풀이했을 때 어떤 사건이 일어난 비율을 상대도수라 하는데, 시행 횟수를 늘릴수록 이 상대도수는 일정한 값에 가까워지고 그 값을 통계적 확률이라 합니다. 시행을 충분히 많이 하면 통계적 확률이 수학적 확률에 수렴하는데, 이를 대수의 법칙이라 합니다.
더 좋은 선택지가 남았을지 모르는데, 우리는 언제 멈추고 결정해야 할까요? 확률과 통계에서 배우는 확률의 뜻으로 그 기준을 세울 수 있습니다.
지원자를 한 명씩 보며 그 자리에서 뽑을지 정해야 하는 상황에서, 너무 일찍 정하면 아직 안 본 더 나은 사람을 놓치고, 너무 오래 미루면 좋은 사람을 이미 보내 버립니다. 그래서 멈출 시점을 정할 때는 각 시점에서 결정했을 때 가장 좋은 사람을 뽑을 확률을 비교합니다. 어떤 사건이 일어날 확률은 일어날 수 있는 전체 경우 가운데 그 사건이 차지하는 비율로 정해지므로, 지원자 수가 정해져 있으면 '앞의 몇 명을 보고 나서 결정을 시작하면 최선을 뽑을 확률이 얼마인가'를 경우의 수로 따져 계산할 수 있습니다. 이 확률을 시점마다 구해 비교하면, 막연한 직감 대신 가장 높은 확률을 주는 멈춤 시점을 수로 고를 수 있습니다. 전체의 약 37%까지 살펴본 뒤 결정을 시작하라는 결론도, 이렇게 시점별 성공 확률을 계산해 가장 큰 값을 찾은 결과입니다.
최적 멈춤 문제의 핵심은, 선택을 미루는 동안 더 나은 후보를 만날 가능성과 좋은 후보를 이미 흘려보낼 위험을 함께 저울질하는 데 있습니다. 후보를 한 명씩 보면서 되돌릴 수 없는 결정을 내려야 할 때, 초반에는 어느 정도가 좋은 후보인지 기준이 없으므로 일단 살펴보기만 하며 비교의 잣대를 만듭니다.
그러다 충분히 본 뒤부터는, 지금까지 본 누구보다 나은 후보가 나타나면 그 사람을 잡는 것이 합리적입니다. 이때 '어디까지 보고 어디서부터 결정할 것인가'를 정하는 일은, 각 기준점마다 최선의 후보를 뽑게 될 확률을 구해 그 값이 가장 큰 지점을 찾는 문제가 됩니다. 후보 수가 많아질수록 그 최적의 기준점은 전체의 약 37% 부근으로 수렴하는데, 이 값은 자연로그의 밑인 e와 관련된 1/e에서 나옵니다.
산업공학에서는 설비를 언제 교체할지, 재고를 언제 발주할지처럼 되돌리기 어려운 결정을 자주 다루는데, 이런 문제도 각 선택 시점의 기대 결과를 확률로 따져 가장 유리한 시점을 고르는 방식으로 접근합니다. 이 책에서 본 멈춤의 원리를 출발점 삼아, 후보 수를 몇 개로 정해 두고 각 기준점에서 최선을 뽑을 확률을 직접 계산해 보며, 어느 시점이 가장 유리한지를 확률의 관점에서 탐구할 수 있습니다.