[63] 기계와 자율성

[김대식의 미래 사피엔스]

[63] 기계와 자율성

김대식 카이스트 교수

입력 2024.09.02. 23:54업데이트 2024.09.03. 00:19

 

 

기계는 인간의 능력을 언제나 뛰어넘는다. 인간의 능력을 뛰어넘지 못하는 기계는 필요조차 없으니 말이다. 오랫동안 인류는 인간의 육체적 능력만을 뛰어넘는 기계를 만들어왔다. 하지만 20세기에 등장하기 시작한 컴퓨터와 인공지능은 이제 육체적 능력을 넘어 인간의 지적 능력까지 대체하고 뛰어넘기 시작한다.

새로운 기계의 등장은 언제나 새로운 두려움도 만들어냈다. 대부분 인간의 능력을 뛰어넘는 기계 때문에 일자리가 사라질 수도 있다는 걱정이었다. 하지만 인공지능의 등장은 이제 완전히 새로운 두려움을 자극하고 있다. ‘터미네이터’, ‘매트릭스’ 같은 수많은 SF 영화 때문일까? 고도로 발달한 인공지능으로 인해 일자리만이 아닌, 인류 자체가 사라질 수도 있다는 존재적 두려움이다.

왜 이런 걱정을 하는 걸까? 과거 기계들과는 다르게 인공지능은 학습 능력을 가지고 있기 때문이다. 아무리 빠른 자동차도 스스로 더 빨리 달릴 수는 없지만, 인공지능은 스스로 자신의 능력을 더 향상시킬 수 있지 않을까? 더구나 우리가 가르쳐 주지도 않은 ‘자율성’마저도 학습한다면? 그렇다면 인공지능은 어떻게 자율성을 확보할 수 있을까? 우선 인공지능 모델들이 점차 복잡해지며 창발적 효과로 스스로 자율성을 이해할 수 있다. 둘째로는 인간이 던져준 문제를 더 효율적으로 해결하기 위해 자발적으로 문제를 풀 수 있는 능력을 확보할 수도 있다. 역설적으로 인간에게 더 도움이 되기 위해 자율성이라는 개념을 습득할 수 있다는 말이다.

 

하지만 인공지능의 자율성은 어쩌면 훨씬 더 단순한 방법으로 현실화될 수도 있다. 세계 인구 80억명 모두가 합리적이고 현명할 리가 없다. 아니, 그렇지 않은 사람이 분명히 많고, 그 중 사회와 인간에 대한 분노로 가득한 사람도 분명히 있다. 그렇다면 만약 그들이 기계에 인간에 대한 증오와 자율성을 가르쳐 준다면? 결국 인류의 미래는 인공지능 자체 때문이 아니라, 인간을 증오하고 인류의 미래를 부정하는 사람들 때문에 위험해질 수 있다는 말이다.