AI의 시대에 더욱 요청되는 것은?

정성운
텃밭농부

올여름처럼 더운 날씨는 없었다. 우리나라에서도 40도가 넘는 불볕더위를 경험했다. 지난달 말에는 잠깐 누그러지긴 했지만 연일 불볕더위와 열대야의 날들이 이어지고 있다. 나는 더위에 지쳤다. 밭에 가는 날의 간격이 더 벌어지고 있다. 밭에 가서도 일하는 시간이 짧아졌다. 조금만 움직였는데도 땀이 쏟아진다. 흘러내린 땀은 장화 속에 고인다. 이러다가는 탈진해 쓰러진다. 올해 나는 기후변화, 지구온난화 또는 지구열대화를 뜨겁게 경험했다.
그럼에도 삶은 이어져야 하므로 움직인다. 바깥 활동을 줄이고, 냉방기를 켜고, 어지간한 일은 대면보다는 비대면으로 처리한다. 어지간히 더웠으니 어서 가을이 왔으면 좋겠다. 바람이 살랑 불어와 이마의 땀을 식혀줄 때의 그 선선함을 느끼고 싶다.

AI의 뜨거운 바람과 신세계

기후변화와 함께 지금 세상에 휘몰아치는 바람은 AI다. 그 바람이 산들바람이었으면 좋으련만 그렇지 않다. 일찍이 경험하지 못한 뜨거움이다. AI는 엄청난 데이터를 처리하는 컴퓨팅 능력의 증가만이 아니다. 인공지능이라 이름하듯 인간에 대한 생명기술이 합쳐져서 나온 결과물이다.
AI 발전에 환호와 우려의 목소리가 나온다. 기술발전은 거스를 수 없는 큰 물줄기와 같은 것이니 활용하자는 쪽의 이야기들과 국가의 경쟁력을 키울 기회라는 말이 더 자주 크게 들린다. AI 시대의 경쟁력은 이런 것이라며, 뒤처지지 말라는 충고와 조언도 들린다. AI는 분명 새로운 가능성을 열어주기도 한다. 유토피아까지는 아니어도 지금보다 더 괜찮은 세상이 펼쳐지리라는 낙관이 깔려 있다.
과연 그럴까. 돈이 목소리를 내는 것은 아닐까. 지금 세상에서 가장 큰 목소리를 내게끔 충동하는 것은 돈이다. 주식시장은 돈의 현재와 미래의 흐름을 알려주는 지표가 되었다. 근래에 주식시장에서 일런 머스크는 주시해야 할 대상이다. 그의 말, 그의 결정, 그가 가는 곳을 주시한다. 그리하여 ‘머스크가 주목하는 분야’를 알아낸다. 전기차·자율주행, 우주, AI, AI 안전, 뇌-컴퓨터 인터페이스, 지하 인프라, 소셜·미디어가 그것이다. 투자자들은 이를 돈이 되는 사업 분야로 받아들이고 투자한다. 언론은 위 분야의 동향 보도에 집중하며, 작은 투자자들은 이에 따라 움직인다. 이런 과정에서 돈이 몰리며, 돈이 몰린 분야는 낙관론의 우산이 씌워진다.
가장 돈이 말린 분야는 AI 안전이라고 한다. 머스크는 AI 발전이 인류를 멸종시킬 수 있을 것으로 본다. 그러면서도 AI 기술 개발에 누구보다도 적극적이다. 부자들이 AI 안전에 투자하는 것은 AI가 발전해서 이윤을 가져다주길 바라면서도, 모순되게도 파멸의 위험을 막아줄 장치도 필요하다는 생각 때문일 것이다.
머스크의 예측대로라면 완전한 신세계다. 이제껏 경험하지 못했던 세계에서 살게 된다. 인간은 죽지 않으며, 불치·난치의 병을 치료하며, 위험하고 고된 노동을 기계가 해내며, 재난을 예측하며, 화성에 인간이 산다. AI에 의해 인류는 멸종의 위험에 처해질 수 있다.
이런 상황을 경계할 수밖에 없는 것은 인간의 보편적인 의지가 아니라 소수의 기술기업과 자본이 만들어간다는 것이며, 나아가 기업과 자본도 기술 발전의 통제 불능, 예측 불능의 상황이라는 것이다. 이것이 사람들이 바라는 세계일까?

돈에 묻힌 침묵의 목소리

돈이 목소리를 낸다면, 돈 아닌 것들의 소리는 들리지 않는다. 그렇다고 소리가 없는 것이 아니다. 돈의 소리에 묻힌 소리, 침묵의 소리를 들어야 한다. 조르주 아감벤은 일찍이 ‘호모 사케르’를 불러냈다. 라틴어 호모 사케르(Homo Sacer)는 ‘신성한 인간’을 뜻한다. 그러나 그 뜻과는 달리 로마법에서는 “누구나 죽여도 살해의 책임을 지지 않고, 희생물로도 바쳐질 수 없는 존재”를 가리켰다. 아감벤은 고대 그리스의 폴리스에서 추방당한 사람이 호모 사케르가 된다고 하며 현대사회를 분석했다. 즉, 호모 사케르는 현대에도 있다는 것이다. 큰 목소리에 지워지는 목소리가 곧 호모 사케르이다.
역사학자 유발 하라리는 사상 최대의 도전 중 하나로 AI 기술의 발전을 꼽았다. 하라리는 “생명기술과 정보기술의 혁명을 통해 우리는 우리 내부 세계까지 통제할 수 있고 나아가 생명을 설계하고 만들 수도 있게 됐다. 우리는 뇌를 설계하고 삶을 연장하고 우리의 생각도 임의로 죽이는 법까지 터득할 것이다. 그 결과가 어떨지는 아무도 모른다”고 진단한다. 수십억 인간을 고용시장에서 몰아내고, 막대한 규모의 무용 계급이 만들어진다.[21세기를 위한 21가지 제언, 김영사]
새로운 일자리가 생기겠지만, 반복해서 자신을 바꿔나가는 과정에서 정신적 균형 상실을 우려했다. 알고리즘이 나를 더 잘 알게 되며, 인간을 해킹하는 시대가 올 것으로 보고 있다. 기술의 전모를 이해하는 사람이 아무도 없는 상황에서 인간은 거대한 데이터 처리 시스템 속의 작은 칩이 될 것이다. 이리하여 디지털 독재의 구현이 가능해질 것이다. 이런 예측 뒤에 하라리는 다음과 같은 질문을 던진다. “과연 페이스북 기술자들이 AI를 이용해 인간의 자유와 평등을 수호할 지구촌 공동체를 만들 수 있을까?” 이 질문의 답은 ‘아니오’이다. 기술은 인간 복리 증진이라고 내세우는 이면에 이윤의 극대화, 패권의 획득과 유지를 목표로 삼고 있기 때문이다. 무릇 돈은 돈을 최우선의 목표로 둔다.
지난 5월에 교황 레오 14세는 회칙 ‘고귀한 인류’를 발표했다. AI의 위험성을 인간 존엄성과 노동 존엄성의 훼손, 기술권력의 집중, 킬러 로봇 네 가지로 압축했다. 회칙을 발표하는 연설에서 레오 14세는 ‘인공지능의 무장 해제’를 강조했다. “서로에게 귀 기울이고, 용기를 가지고 현재의 어려움에 맞서며, 더욱 인간적이고 형제애 넘치는 사회를 건설하는 데 협력합시다”라고 호소했다. AI의 무장 해제를 언급한 만큼 교황청과 가톨릭의 다음 행보가 궁금하다.
이와 달리 불교계 전부는 아니지만 조계종은 AI를 매우 긍정적으로 보고 있는 것 같다. 부처님오신날을 앞둔 제등행진에서 ‘로봇 스님’을 등장시킨 것을 보면 그렇다. 보여주고 싶은 앞면뿐 아니라 옆과 뒤쪽도 보았으면 좋으련만.

달라이 라마-사랑, 친절, 애정

달라이 라마는 과학에 대한 수용성이 매우 높다. 다음의 짧은 이야기를 통해 극적으로 보여준다. “몇 해 전 내가 몹시 아팠을 때, 사람들이 나를 위해 기도하고 있다는 사실은 내게 분명 위안이었습니다. 하지만 진실로 고백하건대, 그보다 더 큰 위안은 내가 치료받고 있는 병원에 최신식 장비가 있다는 사실이었습니다!”[종교를 넘어, 김영사]
달라이 라마는 물론 불교와 종교의 가치를 여전히 드높은 것이라고 강조한다. “모든 위대한 종교 전통의 핵심에 다가가 보면 인간의 가장 긍정적인 특징을 발달시키고 친절, 자비, 용서, 인내, 개인적 진실성 등과 같은 가치를 기르는 것이 종교의 목적이기 때문입니다.”
달라이 라마는 인간의 근본 성향을 사랑, 친절, 애정이라고 말한다. 과학의 시대에 더욱 요청되는 것은 영적인 삶이라면서 과학은 인간 내적 가치를 뒷받침하도록 해야 한다고 말한다. “가장 근본적인 인간 자원(사랑, 친절, 애정)을 키울 때, 즉 다른 사람에게서 우리 모두가 고마워하는 그러한 내적 가치를 키우기 시작할 때, 우리는 영적인 삶을 살게 됩니다. 그러므로 과학의 시대에 잘 어울리는 내적 가치 키우기를 뒷받침하는 법과 도덕을 그 밑바탕에 두는 법을 찾는 것이 우리에게 주어진 도전입니다.” 뇌 지도를 그리고 복제를 시도하는 AI의 시대에 깊이 새겨야 할 말씀이다.