심리학에서 말하는 평균회귀란 무엇인가?

내가 심리학을 연구하면서 몹시 만족스러운 결과에 쾌재를 부른 순간이 있는데, 이스라엘 공군의 비행 교관들을 상대로 효과적 훈련과 관련한 심리학을 강의하던 때였다. 나는 기술 훈련의 중요한 원칙을 언급하면서, 실수를 벌하기보다는 잘했을 때 포상을 주는 것이 더 효과적이라고 말했다. 비둘기, 쥐, 인간, 기타 여러 동물 실험에서도 증명된 사실이었다. 

 열띤 강연이 끝나자 경험이 풍부한 교관 한 사람이 손을 들더니, 자기만의 짧은 강의를 시작했다. 잘했을 때 포상하는 방식이 새에게는 통할지 몰라도 공군 사관생도에게는 최선이 아니라는 이야기다. 그가 한 말은 이렇다. "생도들이 곡예비행을 깔끔하게 끝내면 자주 칭찬을 했었습니다. 그런데 똑같은 기술을 다음에는 더 못하는 겁니다. 반대로, 생도들이 못했을 때 이어폰으로 고함을 지르면 다음에는 대개 더 잘하더군요. 그러니까 포상은 효과가 있고, 벌은 효과가 없다는 식으로 말하지 마세요. 사실은 그 반대니까요."

 내가 수년 동안 가르쳐온 통계 원칙을 새로운 관점에서 바라보는 통찰력을 얻는 감격스러운 순간이었다. 그가 비행을 칭찬하면 다음에는 비행이 실망스러워지고, 벌을 하면 대개는 더 좋아진다. 그러나 포상과 벌의 효과에 대한 그의 추론은 완전히 빗나갔다. 그가 관찰한 것은 '평균 회귀'라고 알려진 것으로, 이 경우에는 비행의 질이 무작위로 들쭉날쭉했던 것에 불과하다. 교관은 당연히 평균보다 훨씬 잘한 생도만을 칭찬했다. 그러나 그 생도는 그날만 운 좋게 잘했을 수 있고, 따라서 그가 칭찬을 받았든, 안 받았든 나중에는 더 못할 확률이 높다. 같은 이치로, 교관은 생도가 평소보다 못했을 때만 이어폰에 대고 고함을 질렀을 테고, 따라서 생도는 교관의 행동과는 무관하게 다음에는 더 잘할 확률이 높다. 교관은 무작위 과정에서 으레 생기게 마련인 변동을 인과관계로 해석한 것이다. 

 어쨌거나 내가 답을 해야 하는데, 예측 관련 대수학을 강의해 봐야 열심히 들을 사람이나 있겠는가. 나는 분필로 강의실 바닥에 표적을 그렸다. 그리고 강의실에 있는 모든 장교에게 한 사람씩 돌아서서 표적을 안 보고 표적을 향해 동전을 연속해 두 개 던져보라고 했다. 그리고 표적과의 거리를 재어 그 두 번의 결과를 칠판에 적었다. 그런 다음, 첫 번째 동전의 결과를 제일 잘한 것부터 제일 못한 것까지 순서대로 다시 적었다. 그러자 처음에 아주 잘 던졌던 사람들 (전부가 아닌) 대다수가 두 번째에는 결과가 나빠졌고, 처음에 못 던졌던 사람들은 전반적으로 결과가 좋아졌다. 나는 교관들에게, 지금 칠판에 보이는 것이 연이은 곡예비행 성적과 같은 예라고 지적했다. 칭찬이나 벌에 상관없이, 비행을 못 했다면 다음에는 대개 잘하고, 잘했다면 다음에는 못하기 쉽다. 

 그날 내가 발견한 사실은 비행 교관들이 불행한 우연에 갇혔다는 것이다. 비행을 못 했을 때 생도를 벌했기 때문에, 다음에는 비행이 더 나아져 그 벌이 사실은 효과가 없었어도 벌한 보상을 받게 마련이다. 비단 교관들만 이런 난처한 상황에 빠지는 것은 아니다. 나는 우연히 인간이 처한 환경에서 중용한 사실을 보게 됐다. 삶이 우리에게 주는 피드백은 비뚤어진 구석이 있다는 것이다. 우리는 상대가 우리에게 잘할 때 우리도 그들에게 잘하고, 그렇지 않을 때 못되게 구는 성향이 있다 보니, 상대에게 잘하면 통계 원리에 따라 결과적으로 벌을 받고, 못되게 굴면 포상을 받는다. 

 

 실력과 운

 

 몇 년 전에, 온라인 잡지 <에지> 편집자인 존 브록먼은 여러 과학자에게 "좋아하는 방정식"을 물었다. 내 대답은 이랬다. 

 

 성공 = 실력+ 운

 대성공 = 약간의 추가적 실력 + 상당한 운

 

 성공에는 운이 따라야 한다는 새삼스러울 게 없는 사실을 프로골프에서 첫 이틀 동안의 경기에 적용하면 놀라운 결과가 나타난다. 상황을 단순화해, 이틀 동안 경쟁자들의 평균이 72타였다고 가정하자. 이 중에는 첫날 성적이 아주 좋아 66타를 기록한 선수에 주목해 보자. 이 탁월한 점수에서 어떤 사실을 알 수 있을까? 그 즉시 추론할 수 있는 것은 이 선수의 실력이 대회에 참가한 선수들의 평균보다 뛰어나다는 점이다. 그런데 위의 성공 공식에서 보면, 다른 추론도 가능하다. 첫날 성적이 좋았던 선수는 그날 평균을 웃도는 운을 누렸을 수 있다. 성공에는 실력도 있어야 하지만 운도 따라야 한다고 믿는 사람에게는 그 선수가 운이 좋았다는 결론은 그 선수가 실력이 있다는 결론만큼이나 타당하다. 

 마찬가지로 그날 5오버파 77타를 친 선수에 주목하면, 그가 실력이 부족하다는 추론도 가능하지만 운이 나빴다는 추론도 가능하다. 물론 이 중 어떤 추론도 확신할 수는 없다. 77타를 친 선수가 사실은 실력이 좋은데 그날 유독 경기가 안 풀렸을 가능성도 얼마든지 있다. 첫날 점수를 바탕으로 한 다음과 같은 추론은 비록 불확실하지만 그럴듯하고, 틀릴 가능성보다는 맞을 가능성이 높다. 

 

 첫날 평균 이상의 점수=평균 이상의 실력 + 그날의 행운

 첫날 평균 이하의 점수=평균 이하의 실력 + 그날의 불운

 

 이제, 두 선수의 첫날 점수를 바탕으로 둘째 날 점수를 예상한다고 해보자. 보통은 다음 날도 실력이 똑같다고 예상해서, 첫 번째 선수는 '평균 이상', 두 번째 선수는 '평균 이하'로 추정할 것이다. 그러나 운은 다른 문제다. 그 선수의 둘째 날(또는 다른 어떤 날도) 운을 예상할 수 없으니, 운은 특별히 좋거나 나쁘다기보다 평균으로 추측해야 맞다. 다시 말해, 다른 정보가 없다면 선수의 둘째 날 점수는 첫날 성적을 그대로 되풀이하지 않으리라고 추측하는 게 최선이다. 따라서 최선의 답은 다음과 같다. 

 

• 첫날 성적이 좋았던 선수는 둘째 날에도 성적이 좋을 수 있지만, 첫날보다는 부진하기 쉽다. 첫날에 평소보다 운이 좋았을 수 있는데, 그런 행운이 지속될 가능성은 낮기 때문이다. 
• 첫날 성적이 나빴던 선수는 둘째 날에도 성적이 평균 이하로 나올 수 있지만, 첫날보다는 잘 나올 것이다. 첫날에 평소보다 운이 나빴을 수 있는데, 그런 불운이 지속될 가능성은 낮기 때문이다. 

 그리고 둘째 날에도 여전히 첫 번째 선수가 두 번째 선수보다 성적은 좋겠지만 두 선수의 차이는 줄 것이라고 예상할 수도 있다. 

 내가 수업 시간에, 둘째 날에는 성적이 첫날 점수보다 평균에 더 가까워진다고 예측하는 것이 최선이라고 말하면, 학생들은 항상 깜짝 놀란다. 이처럼 평균에 가까워지는 것을 평균 회귀라 부른다. 애초의 점수가 극단에 가까울수록 그다음에는 평균으로 회귀할 확률이 높다고 예상할 수 있는데, 점수가 극단적으로 높으면 운도 대단히 좋은 날이라고 볼 수 있기 때문이다. 회귀 예측은 타당하지만, 정확성은 장담할 수 없다. 첫날 66타를 기록한 선수 중에 몇몇은 둘째 날에 운이 더 따라줘서 더 좋은 점수를 낼 수도 있다. 그러나 대부분은 점수가 내려갈 것이다. 평균 이상의 운이 계속 따라주지는 않을 테니까.