알파고는 스스로 목표설정을 할 수 없다는 점에서 인류에게 해가 되지 않는다. 알파고는 인간이 바둑에서 승리하라고 명령했기 때문에 승리하는 바둑을 둔다. 스스로 뭔가를 할 수 없는 프로그램은 단순 도구에 지나지 않는다. 계산기도 인간의 능력을 넘어섰지만, 인류에게 전혀 위협이 되지 않는다.

알파고는 중요한 정보와 그렇지 않은 정보를 구분하지 못한다. 바둑의 기보는 정형화된 상태로 남아있기 때문에 알파고가 학습하는 모든 데이터는 ‘Value(가치)’를 지닌다. 인간의 경우 건널목을 건너는 간단한 일에도 정보의 중요성을 구분한다. ‘신호등의 초록 불이 켜졌다’는 중요한 정보이고 ‘건널목 앞에 차가 멈춰있다’는 일반 정보, 건널목 뒤의 나무 색상은 불필요한 정보이다. 인간의 뇌는 3살짜리 어린아이라도 정보에 이러한 차등을 부여할 수 있다.

기계는 ‘창조성’이 없다는 점에서 인간의 제어를 벗어나지 못한다. 알파고가 모든 경우의 수를 계산하지 않고 확률을 이용하여 바둑을 뒀다는 점에서 인간의 ‘직관’을 흉내냈다고 할 수 있다. 이는 인공지능으로서 한 단계 더 진화를 의미하지만, 여전히 새로운 무언가를 창조하진 못한다. ‘컴퓨터가 명화를 그렸다(창조)’는 얘기를 들을 수 있는 날이 과연 올까?

AI가 인류를 위협하는 시점이 얼마 안 남았기에 기술개발을 중단해야 한다?

‘테슽??rsquo;와 ‘스페이스 X’의 CEO인 엘론 머스크는 “인공지능은 결과적으로 악마를 불러올 것이다.”, “인공지능이 핵무기보다 위험할 것”이라고 말했다. 만약 완벽한, 인간과 완전히 같은 인공지능이 개발되고 인간과 적대 관계가 된다면 실현될 수 있는 일이다. 아래는 다른 전문가들의 발언이다.

드보르스키(Dvorsky) 박사(생명윤리학자)는 “이런 발언(엘론 머스크의 발언)이 인공지능에 대한 이해가 크게 부족한 데서 나온 결과”라고 주장했다. –중략- “(인공지능이) 인간 삶에 변화를 줄 수는 있으나 테슬러가 말한 것처럼 위험한 사태에 이를 가능성이 거의 없다”고 말했다. –중략

임페리얼 칼리지(Imperial College)의 인지로봇 과학자 머레이 샤나한(Murray Shanahan) 교수의 말을 인용, “인공지능이 사람처럼 대화할 수는 있겠으나 사람처럼 단어 하나하나의 개념을 스스로 이해하면서 사람처럼 자연스럽게 행동하는 것은 불가능하다”고 말했다.

미래에 발달한 인공지능이 인간의 감정, 창조성, 자아인식 능력, 생명체만의 특징 등을 가질 수 있을지 확실하지 않지만, 아직까진 어디서도 실마리를 내놓지 못하고 있다. 인간의 특징이 모두 프로그램으로 만들어질 수도 있고 불가능할 수도 있다. 어느 경우에서든 근래에 기계는 인간만의 고유한 특성을 가지지 못한다. 먼 미래에 프로그래밍만으로 인공지능이 감정을 지니고 자아를 인식할 수 있다고 밝혀진다면 그때가 기술 개발 중단을 중단을 고민할 시점이다. 산업혁명이 육체노동을 줄여주었듯이, 그 전까지의 인공지능은 인간의 정신노동을 줄여주어 보다 많은 인간이 창조적인 일에 종사하게 해줄 것이다. 지금은 인공지능의 위협 대해 걱정할 때가 아니라 어떻게 유용하게 사용할까를 생각할 때다.