강한 인공지능의 등장을 막을 수는 없다

강한 인공지능의 등장을 막을 수는 없다

1/ 과거 전통적인 인공지능 개발에서 겪었던 어려움은 바로 인간에게 쉬운 일(ex. 걷기, 물체 인식, 목소리 알아듣기 등)을 기계에게 구현시키기 매우 힘들다는 점이었다. 이른바, 모라벡의 역설Moravec’s paradox이다.

2/ 지능이 있다는 것은 ‘무언가를 인식할 수 있다는 것’이라고 정의된다. 그러므로 어떻게 기계에게 지능을 줄 것이냐는 물음은 어떻게 기계에게 사물을 인식시킬 것이냐는 물음으로 이해할 수 있다. 전통적인 방식으로 하자면 기계가 이해할 수 있는 논리적인 언어로 기계를 인간 수준으로 이해시킬 설명을 찾는 것인데, 그건 거의 불가능에 가깝다. 언어의 해상도가 인식의 해상도보다 훨씬 낮다. 그리고 경우의 수가 너무 많다.

3/ 컴퓨터가 인간의 뇌를 본떠 만들어졌다고는 하지만 몇 가지 차이점이 있다: 정보를 획득하는 방법과 정보를 저장하는 방법이 다르다. 컴퓨터는 정보를 가감 없이 입력하는 반면, 뇌는 오감을 통해 들어오는 정보를 해석을 거쳐서 받아들인다(ex. 착시현상). 컴퓨터와 달리 인간의 뇌는 정보의 저장을 일종의 무늬(패턴) 형태로 하게 된다.

4/ 딥러닝(Deep Learning), 이 알고리즘은 인간의 물체 인지 과정을 개념적으로 모방한 시스템이다. 더 이상 인간이 기계에게 세상을 설명하지 않고, 세상에 관한 엄청나게 많은 데이터(Big data)를 집어넣어(Input) 이 데이터에 포함된 통계학적인 정보에 대해 점점 더 압축된 표현을 만들어가도록 하는 것이다(이 과정을 학습Learning이라고 한다).

5/ 딥러닝 학습은 크게 세 가지 방식: (1)슈퍼바이저 학습(supervised learning) – 가장 많이 사용되는 방식이고 데이터와 함께 결과값까지 컴퓨터에게 알려주어 그 다음부터는 스스로 답을 찾아낼 수 있도록 시스템에 있는 파라미터(parameter)들을 최적화시키는 방법. 학습은 가장 잘 되지만 비현실적인 방법이다. (2)비슈퍼바이저 학습(unsupervised learning). (3)보상 학습(reinforcement learning) – 이 방법은 시스템이 답을 냈을 때 정답을 말해주는 것이 아니라 맞았는지(o) 틀렸는지(x)만 알려주는 것이다.

6/ 딥러닝을 기반으로 한 인공지능은 ‘인지자동화’에 가깝게 발전하고 있다. 자동화의 핵심은 대량생산이다. 앞으로는 상당 수의 지적 노동도 자동화 되어 대량생산이 가능해질 수도 있다. 가장 가능성이 높은 시나리오가 바로 자율주행기술이 적용된 무인자동차의 등장이다. 무인자동차 시대는 생각지도 못한 변화를 가져올 것이다.

7/ ‘약한 인공지능’이란 사람과 비슷한 수준으로 세상을 인식하고 글을 쓰고 정보를 조합하고 이해하는 정도의 인공지능을 의미하고, 이에 더하여 독립성, 자아, 정신, 자유의지가 있는 기계를 ‘강한 인공지능’이라고 한다.

8/ 스티븐 호킹(Stephen Hawking) 박사와 엘론 머스크(Elon Musk)는 강한 인공지능이 생기면 인류가 멸망한다, 강한 인공지능은 핵폭탄보다 더 위험하다고 이야기 했고, 닉 보스트롬(Nick Bostrom) 교수는 『슈퍼 인텔리전스』(Superintelligence)라는 책에서 인공지능은 만들어 질 수 밖에 없고 그냥 인공지능이 아니라 초지능으로 나아갈 수밖에 없다고 썼다.

9/ 앤드류 무어(Andrew Moore) 교수는 이렇게 이야기 한 적도 있다고 한다: “강한 인공지능이 등장하면 인류는 멸망한다. 그런데 그게 왜 나쁜가? 인류가 멸망하는 것이 왜 나쁜지 설명해봐라.”

10/ 강한 인공지능의 등장을 막을 수는 없을 것이다. 결국 강한 인공지능이 ‘지구에 인간이 있는 것이 좋다’라는 결론을 스스로 내리도록 해야 한다. 지금부터라도 인간은 미래 기계의 평가 수준에 맞도록 행동하여야 한다. 이제 인간은 지금껏 스스로 해왔던 약속을 지켜야만 한다. 지금껏 인간이 인간의 약속을 어겨도 별 문제가 없었지만, 이제는 더 뛰어난 지능이 그 약속의 존재를 알게 되어 인간이 그 약속을 지키는지 아닌지를 판단할 것이다.


¶ 출처: 김대식, ⟪김대식의 인간 vs 기계 – 인공지능이란 무엇인가⟫, 동아시아, 2016. (구매하기)

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d bloggers like this: