[사회] 대량살상 수학무기

< 대량살상 수학무기 > | 캐시오닐 지음 | 김정혜 옮김 | 흐름출판

데이타와 IT의 결합, 그리고 수학적인 분석이 결합된 빅데이타는 다양한 분야에 적용되고 있다. 감정이 없는 기계가 객관적인 수치들을 사심없이 처리한다는 믿음때문에 수학은 인간사에서 유례를 찾아볼 수 없을 만큼 확실히 존재감을 드러냈고 대중은 수학을 열렬히 환영해 왔다.

그러나 빅데이타 경제의 원동력인 수학 모형 프로그램은 실수가 있을 수밖에 없는 인간의 선택에 기반을 둔다. 이런 선택 중 일부는 선한 의도를 가지고 있을 수도 있다. 하지만 대다수 모델은 인간의 편견, 오해, 편향성을 코드화했고, 이 코드들이 점점 더 우리 삶을 깊이 지배하는 시스템에 그대로 주입되었다. 이러한 유해한 모델들의 적절한 이름을 저자는 생각해 내었고 저자는 대량살상 수학무기(Weapons of Math Destruction), 즉 줄여서 WMD라고 표현했다.

이러한 측면이 이 책의 곳곳에 드러난다. 우리가 잘 알고 있는 리먼 브러더스 사태, 미국 워싱턴 교사 평가 시스템, 신용 평가 시스템 등 우리가 정확히 알지 못하는 모든 곳에 이러한 코드(알고리듬)가 적용되어 있고 그 결과에 따라 우리 자신이 또는 내가 속한 단체가 국가가 평가를 받고 있는 상태이다. 

이뿐만 아니라 선거에서도 유권자 개개인의 특성을 파악한 맞춤형 광고를 통해 유권자를 현혹하고 선거의 결과를 본인들이 유리한 방향으로 이끌어 나간 사례도 종종 보게 된다(대표적인 경우가 트럼프이다).

인간의 의사 결정은 가끔 오류가 있기는 해도 이를 충분히 상쇄할 수 있는 최고의 미덕을 가지고 있다. 바로 진화하는 능력이다. 학습하고 적응함에 따라 개개인은 변화하고 우리가 운용하는 제도나 시스템도 개선되어 왔다. 반면에 자동화된 시스템은 기술자가 그것을 변화시키기 위한 노력을 시작할 때까지 시간이 멈춘 듯 그대로 존재할 뿐이다.

우리는 WMD들을 규제하고 길들이며 무장해제시키기 위해 힘을 합쳐야 한다. 현재의 WMD에 대해, 인간이 데이터의 시대에 공정성과 책임성을 반영하는 법을 배우지 못했던 새로운 혁명의 초창기 시절의 유물로 기억되기를 희망한다. 수학은 WMD보다 더 다은 대접을 받을 자격이 있다. 민주주의도 마찬가지이다.