[과학] 기계의 반칙

< 기계의 반칙 > | 넬로 크리스티아니니 지음 | 김정민 옮김 | 한빛미디어

 

얼마 전 챗GPT를 출시해 글로벌 테크 업계 스타로 떠오른 샘 올트먼이 해고된 후 사무실에 서 복귀 논의를 벌이다 결국 마이크로소프트로 가기로 했다는 기사가 나왔다. 최종적으로 해고를 결정한 이사회를 다시 구성하고 올트먼이 다시 복귀하는 형태로 마무리되었다. 이러한 일이 일어난 궁극적인 이유는 빠른 인공지능 개발에 대한 우려때문으로 생각된다. 즉 현재의 빠른 인공지능의 개발이 언젠가는 인간을 넘어서는 인공지능의 개발로 이어지고 이는 인간이 제어하지 못하는 형태로 이어질 수 있다는 것이다. 즉 인공지능의 발전이 인류에 야기할 수 있는 윤리 및 도덕적 문제에 대한 근본적인 인식 차이를 보여준다고 볼 수 있다. 이러한 시점에서 우리는 인공지능에 대해 근본적인 질문과 이해를 할 필요가 있어 보인다.

이 책은 현재와 같은 인공지능의 급성장 시기에 인공지능과 공존하기 위한 조언을 제시한다. 책의 시작은 지능에 대한 정의로부터 시작한다. 지능이란 인간적인 것에 대한 문제가 아니라 새로운 상황에서 효과적으로 행동할 수 있는 능력의 문제이다. 이전에는 지능을 인간 위주로 해석헀다면 이제는 지능을 두뇌가 아닌 식물, 개미 군체, 소프트웨어에서 지능을 찾아볼 수 있다는 점이다. 이러한 인식의 전환을 통해 인공지능에 대한 패러다임이 전환되고 획기적으로 발전될 수 있었다고 본다.

이런 과정을 거쳐 점점 인공지능은 논리와 추론의 언어가 아닌 확률과 수학적 최적화로 발전했으며,  규칙성을 파악하고 규칙적인 환경을 갖추는 것이 지능형 행동의 전제 조건이 된다는 것을 이해할 수 있다. 규칙성으로 부터 데이터를 학습한 인공지능이 아무런 문제를 발생시키지 않을 것이라고 기대하는 것은 불가능하다. 이는 인공지능의 미래를 언급할 때 종종 야기되는 인공지능의 반란(?)으로 이어지며 인간을 위협하는 과정으로 이어질 수 있다. 이러한 상황을 만들지 않고 인간이 만든 기계가 지시받은 일을 그대로 수행함으로써 근본적인 사회 규범을 위반하지 않도록 하려면 어떻게 해야 할지 많은 고민이 필요하다.

어찌되었던 이제 인공지능이 배제된 세상은 상상하기 힘든 시대가 되었다. 따라서 인공지능과 함께 안전하게 살아갈 방법을 찾아야 하며, 이를 위핸 많은 연구자들이 인공지능이 준수해야 할 원칙의 목록을 중요하게 여기고 있다. 이를 통해 인공지능에 대한 감사를 가능하게 하며, 안정성, 공공성, 개인정보보호, 투명성 등 중요한 요구사항을 준수할 수 있도록 개선해 나갈 필요가 있다.

주위를 보면 인공지능의 발전 속도가 무섭게 느껴진다. 예상하지 못한 형태의 서비스가 속속 출현하고 있으며 전에는 생각하지도 못한 다양한 정보를 제공하고 있다. 현 시점에서 인공지능에 대한 발전 과정을 살펴보고 현재 일어나고 있는 다양한 기술적, 윤리적 이슈를 생각해 봄으로써 인공지능에 대해 다시 생각해볼 필요가 있을 것 같다.


"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."