다가오는 미래
지금 이 순간에도 많은 사람들이 바쁘게 살아가야 합니다. 그럼에도 불구하고 때때로 미래에 대해 생각해야 합니다.
모르기에 시대가 엄청나게 빠르게 변하고 있음을 몸으로 느끼겠습니다. 하지만 생각이 너무 오래 걸린다
이야기를 읽거나 책을 읽는 것이 정말 도움이 됩니다. 이것이 내가 이 책을 읽는 이유이며, 내가 느끼는 것을 선택하고 공유할 것이다.
디지털 독재
AI는 사람들을 겁주기에 충분합니다. 그 이유는 우리는 AI가 결코 순종적이지 않을 것이라고 생각하기 때문입니다.
생각해보자 공상 과학 영화에서 로봇이 인간 주인에게 반항하고 거리를 전쟁터로 만들고 모든 사람을 학살하는 것을 보는 것은 흔한 일입니다.
그러나 명심해야 할 것은 로봇의 문제는 그것이 아니라 그 반대라는 것입니다. 우리가 로봇을 정말로 두려워해야 하는 이유는 로봇이 항상 주인에게 복종하고 결코 반항하지 않기 때문입니다.
다행히 로봇이 좋은 주인을 만나 봉사하면 모든 것이 해결되겠지만 우리는 인간이기 때문에 인간을 너무 잘 안다. 그게 가능할까요? 사람들이 로봇을 사용한다면, 로봇이 일반적으로 사용되는 곳은 어디라고 생각하십니까? 이상적이지는 않지만 현실적입니다.
처음으로 로봇은 전장에서 전쟁법이 실제로 시행되도록 할 수 있습니다.
전쟁에서 사람은 감정의 지배를 받으며 온갖 그릇된 일을 합니다. 역사를 통해서 지금도 모두가 알고 있을 것입니다.
감정은 사람을 인간답게 만드는 중요한 요소이다. 그러나 로봇은 감정이 없기 때문에 항상 군사 규칙을 엄격히 준수하고 개인적인 두려움과 증오에 흔들리지 않도록 해야 합니다.
로봇의 진짜 문제는 인공 지능이 아니라 인간 본성의 어리석음과 잔인성입니다. 감정이 없다고 하고 있는 그대로 행동한다는 것은 사람들이 잘못을 지시하더라도 절대 참지 않고 참지 않겠다는 뜻이다. 우리는 역사를 알고 현재가 말도 안된다고 말하는 것을 알고 있습니다. 사람들은 지금 이 순간에도 잘못된 행동을 하며 살아갑니다.
로봇이 죽이는 일도 드물지 않고, 온갖 범죄를 저지르게 받아도 어색해 보이지 않는다.
인간은 감정의 사슬을 연결해 제어까지 할 수 있지만 로봇은 감정이 없기 때문에 불가능하다.
그러나 좋은 소식은 적어도 수십 년 안에 AI가 의식을 얻고 인간을 노예로 만들거나 전멸시키는 극적인 소설이 더 이상 없을 것이라는 점입니다.
이루어지지 않을 것입니다. 소설 속의 과학은 종종 지능과 의식을 혼동합니다.
인간의 지능을 따라잡거나 능가하기 위해서는 컴퓨터가 의식을 발달시켜야 한다고 믿어진다.
사실 인공 지능이 현실 세계에서 더 의식적이 될 것이라고 가정할 이유가 없습니다. 지능과 의식은 다른 존재입니다.
지능은 문제를 해결하는 능력이고 인식은 고통, 기쁨, 사랑, 질투 등을 인식하는 능력입니다.
이것은 인간과 다른 포유류에서 지능이 의식과 밀접한 관련이 있기 때문에 혼란스럽습니다.
이제 AI 개발에 너무 많은 투자를 하지 말고 인간의 의식 향상에 투자해야 합니다.
이는 인간의 어리석은 본성이 강화된 상황에서만 AI의 뛰어난 능력이 나타날 수 있음을 의미한다.
우리는 무능한 지휘관이 적보다 아군을 더 많이 죽인다는 것을 알고 있습니다.
안타깝게도 우리는 AI에 관심이 많지만 사람과 마음에는 관심이 없습니다.
AI가 나와도 결국 인간이 쓰게 되는데 인간에 대해 아무것도 모르면 버튼 하나도 모르는 아이에게 미사일 발사 버튼을 주는 것과 같은 상황에 처해있다. .
우리는 AI 반란을 두려워할 것이 아니라 진보를 따라가지 못하는 인간을 더 두려워해야 합니다. 웃기는 표현이지만 AI 입장에서 보면 인간도 아이와 다르지 않다고 생각한다. 정확하고 유능한 AI의 관점에서 우리는 논리 없이 어디로 뛰어야 할지, 어디로 가야 할지 모르는 아이처럼 감정이 이끄는 대로 자유롭게 움직인다.
생각해야 할 미래
오늘은 바쁘지만 지금 우리가 살고 있는 시대에는 과거에 없던 변화가 있을 것이라는 점은 그 누구도 부정하기 어렵기 때문에 조금은 반성해야 할 것 같습니다. 같은 생각으로 이 책을 읽었지만 의외의 관점을 볼 수 있었다. 더 알고 싶다면 어렵더라도 읽어보기를 권한다. 수시로 보더라도 몇 년이 지난 후에도 여전히 적용될 수 있습니다.