사회25: AI와 인간의 대립 가능성

AI를 만드는 기술적인 과정에서 기계는 오류가 잘못이라고 배운다. 이것은 AI가 인간의 잘못된 추정과 최적 이하의 실행을 교정할 때만 전적으로 유용하다.

 

그러나 인간 시스템에서 오류의 또 다른 원인은 개인의 자유의지다. 즉 우리는 '잘못된' 선택을 내릴 자유가 있다. 그러한 오류를 제거하기로 결정한 AI 시스템에는 두 가지 선택지가 있다. 우리를 제거하거나, 우리의 자유의지를 제거하는 것이다.

 

만일 자유의지가 기본적으로 지능의 한 가지 특징이 아니라 버그로 간주되면, AI는 인간의 자유의지를 제 목표의 달성을 막는 장애물로 점차 인식할 수 있다.

 

- 출처: 새로운 질서(헨리 키신저 외)