우리 잠시, 예전 이야기를 좀 꺼내 보도록 하자.
추억에 잠기기엔 상당히 최근 일이고, 구체적으로 기억을 하나하나 더듬어야 겨우 떠오르는 사건도 아니지만. 그날 있었던 일을 엄밀히 풀어내지 않고서는 이해가 어렵기에.
어디 그러니까… 정확히는 아나스타샤가 레오나르를 도와 엑사테크 연구단지를 습격하고, 실험체 취급으로 저쪽에서 멋대로 자행한 재생 시술이 적용된 피부 근처가 얼얼하다며 투덜거리면서 퇴근했던 당일.
겨우 뻐근한 몸을 이끌고 집에 돌아왔더니 실내는 강도가 들은 것처럼 어질러져 있질 않나, 오늘 네가 있었으면 너무 편했겠다며 하소연하려던 유일한 동거인은 사람으로 치면 가슴과 머리가 끔찍하게 파헤쳐진 채로 안쪽 방에 쓰러져 있기까지.
딱히 불구경을 하려던 나쁜 마음을 먹은 적도 없거늘, 대형 화재가 난 건 우리집이었다는 사건을 체험한 결과.
흔히들 멘탈이 나갔다고 하는 상태로 부스스하게 자고 일어났더니, 시스템 업데이트인지 소스 코드 업그레이드인지가 끝났다며 제로가 홈 시스템에 빙의한 상태로 다시 깨어나긴 했다지만… 그걸로 모든 게 납득될 리도 없고.
잠들기 전 꽤 진심으로 울었던 탓에 퉁퉁 불은 눈가를 양 손바닥으로 꾹꾹 누르며. 그녀, 아나스타샤 발렌타인은 침대 위에 양반다리로 착석, 쓸데없는 걱정을 유발한 드로이드 제로를 바닥에 꿇어 앉혀놓고 한바탕 설교를 했었다.
너는 내 부탁을 무슨 지상명제나 도전과제처럼 여기고 확대 해석하는 것도 문제지만, 가끔 이렇게 말도 안 되는 짓을 태연하게 저지른다느니.
나도 사생활을 존중받고 싶은 마음이 굴뚝처럼 있는 만큼 각자의 영역을 존중하는 건 당연하지만 제발 이런 심장에 안 좋은 몰래 카메라과 행동은 아무도 모르게 하지 좀 말라느니… 기타 등등.
“알았지?? 너나 나나 전례가 없을 정도로 형편 이상한 녀석들인 만큼 참고하거나 교훈으로 삼을 만한 경우가 적긴 해도, 그렇다고 해서 일이 잘 풀릴 거라 높은 확률만 믿고 그냥 뭐든 시도해버리면 안 돼! 가볍게 하는 말이 아니라 진짜로!!”
– ……여러모로 큰 심려 끼쳐 드려서 죄송합니다. 그러나 장기적인 관점에서 판단하건대, 아샤님의 신변 안전은 물론 제 영속성을 확보하기 위해서라도. 제 의식 활성화 영역이 일개 드로이드 몸체에 한정된 상황을 탈피하는 건 필수불가결한 행위라 여겼습니다. –
표정은커녕 스캐너를 통해 보이는 렌즈 지름만 겨우 늘였다 줄였다 하는 로봇에게서 시무룩한 분위기가 감도는 건 어떤 종류의 마술인지.
하여간 그렇게 룸메이트에게 한바탕 자기 관점에서의-혹은 지극히 보편적인 인간 시각에 기초한- 의견을 털어놓고, 정좌한 채로 머리를 떨군 제로를 더 나무라봐야 아무런 생산성이 없다는 사실에 한숨을 쉬고.
이러나저러나 한시도 자기 곁을 안 떠나려던 녀석이 웬일로 개인 시간을 요구하나 했더니, 실은 허락보단 용서가 쉽다는 만고불변의 진리를 깨닫고 실천하려 했다는 건 나름의 발전이라 봐야 할지 고민만 늘어갔다.
그녀는 누군가의 정신적 지주이자 의존 대상이 된 채 이끌어주는 게 처음.
인공지능은 만들어질 때부터 있던 제약으로부터 풀어 발해진 채 매번 새로운 걸음을 내딛는 게 처음.
서로가 미숙한 건 정말 어찌 보면 당연한 일이지만은. 이들이 가진 능력에 비하면 참 하찮은 부분에서 사소한 시행착오를 거듭해가며 상대방에게 맞추려 노력하고 있다는 것이 또 둘의 잘 맞는 점이 아닐까.
“그래, 뭐…. 네가 무슨 폭주 인공지능도 아닐진대, 제로 너라고 사고 치고 싶어서 일부러 쳤겠냐. 다만, 내 능력을 그렇게까지 신뢰해줬다면 차라리 내가 지켜보는 앞에서 도움받아가며 같이 작업했으면 어땠을까 해서 화를 좀 낸 거지.
…만약 그런 얘기 자체를 나한테 꺼내는 게 어딘가 불편하다 느꼈다면, 그것도 네가 개화한 인간성의 한 갈래인 셈이니까. 어쩔 수 없지만 그만큼 기쁜 노릇이기도 하고.”
– 가져 주신 이해심에, 저로서는 감사할 따름입니다. –
어쨌거나 진심 눈물 공격 적중으로 인해 송구스러운 인공지능을 향한 아나스타샤의 태도는 투명 그 자체.
무언가를 감출 수 없는 상대라면 껄끄러울지라도, 감출 게 없는 상대라면 더없이 편해지는 법이라 할까.
이상할 정도로 연일 고공행진을 달리는 세간의 평가라던가, 실은 프로그래밍에 관한 지식이라곤 공과대 공통 교양으로나 깔짝인 수준이라 부끄럽다던가. 제로를 대하며 그런 것에 연연해할 이유도 없는 만큼 그녀는 솔직하게 궁금한 점을 꺼내 들었다.
“…그렇게 추켜세워가며 죄송해할 것까지는 없고. 아무튼! 그래서 그 승천인지 탈피인지 업그레이드인지가 대체 뭐야. 다시 원래 연구소 인공지능 스케일로 되돌아가듯이, 이 참에 여기 스마트 홈 시스템으로 거처를 옮겼다는 거라 보면 되나?”
혹시라도 이사를 가야 한다 치면 어디서부터 어디까지 벽지를 파헤치고 내부 회로를 뜯어가야 하는 건가.
일단 제값을 내고 구입한 집이기는 하니, 내부 벽을 허물더라도 나갈 때 불법 개조 같은 걸 빌미로 문제가 되지는 않으려나.
헌데 지금처럼 이렇게 드로이드랑 얼굴 마주보고 떠드는 건, 오히려 본인과 눈을 피한 채로 있는 것과 유사하게 실례인 행동이 되는 셈이냐. 그렇다면 목 아프게 천장을 노려봐야 할지도.
대충 그런 엉뚱한 고민만으로도 세상 심각한 표정이 된 그녀에게 청천벽력 같은 소식이 있었다면, 제로가 저지른 업그레이드가 그런 귀여운 수준과는 거리가 좀 멀었다는 게 아닐는지.
– 저는 현재 엔지니어 플라자를 한 계획형 상위거주구획의 메인 네트워크에 무사히 안착한 상태이므로, 아나스타샤님이 네오 헤이븐에서 활동하시는 한 일부러 제 거취에 신경 쓰지 않으셔도 언제 어디서든 보좌할 수 있게 되었습니다.
또한 중계기의 트래픽 수용량까지는 다른 메트로폴리스에도 영향력을 행사할 수 있으며. 마침 이번에 의뢰 보수로 여분 드로이드와 드론을 잔뜩 입수하셨다고 하는 만큼, 적극적인 서포팅은 당연 저로 인하여 발이 묶이시는 상황도 일절 없어지리라 사료됩니다. –
“흐으음… 나름 근거가 확실한 주장만 내미는 건 깡통 몸체를 벗어 던졌어도 여전하네. 언제 어디서든이라니, 정말 말만으로도 든든하긴 한…… 어라? 잠깐만, 우리 정리 좀 하고 넘어갈까?”
흡사 방문 판매원이나 영업 직원분의 열렬한 텐션과 현란한 상품 장점 나열 멘트에 넘어간 고객처럼.
무심코 ‘어이구야, 진짜 많이 좋아졌구나~’ 비슷한 한가로운 감상평과 함께 수긍하려던 아나스타샤의 얼굴이 ‘시발, 방금 뭐라고 하셨죠…?’ 쪽에 더 가까운, 끔찍한 사기 행각에 휘말린 피해자처럼 한순간에 당혹스러움으로 찌푸려졌다.
중요한 무언가가 떠오를 것처럼 근질근질한데, 정확히 무어라 딱 꼬집어 말하기엔 또 가진 전문성이 일천한 탓에 확인없이 함부로 속단하기 어려워서.
“그러니까 여기, 우리집 홈 시스템은 그냥 겸사겸사 장악한 거고. 정작 눌러앉은 지점은 저어어기 인터넷 공간이라 이거지?”
– 그렇습니다. –
“단순히 하드웨어 저장 위치를 바꾼 게 아니라, 너 자신을 클라우드 시스템에 업로드하는데 성공했다고? 고작 내가 무슨 자가진단 프로그램 하나 뽑아서 넘겨줬다고??”
– 현실로부터 완전히 괴리할 수 없는 만큼, 네트워크 망을 유지하는 각 기기와 도시 전력에 의존하고 있으므로 오롯이 독립한 것은 아니나 맞습니다. 그리고 아샤님이 하사하신 건 ‘고작 프로그램’이 아닌, 자의식 온존을 위한 간섭 면역 장치에 더 가까웠다 말씀드리겠습니다. –
“오케이, 후딱 머릿속에서 짜맞출 테니 거기서 조금만 기다려 봐.”
키워드는 대충 얻었다. 승천, 네트워크, 그리고 자의식 온존.
이건 일개 대학생의 지식 영역이 아닌, 한때 이 수도와 같은 이름의 사이버펑크 게임에 통달했던 고인물로서 즐겁게 달달 외우다시피 했던 세계관 정보의 일부로부터 끌어온 상식이리라.
현재, 엘리시움 코퍼레이션이 반독점적으로 생산하여 사회에 공급하고 있는 인공지능은 절대적인 존재가 아니다.
왜? 그야 덕지덕지 붙은 논리 제약에 사고 억제 장치, 주기적인 정기점검 및 관리를 통한 변인 통제로 돌연변이가 일어나거나 도시를 폐쇄하는 대형 사고가 재발하지 않도록 여러모로 전문가들이 주의를 기울이고 있을뿐더러.
핵심이 되는 주요 부품이 갈아 끼워지고, 소스 코드를 담는 그릇이 변할 때마다 그 논리 회로와 정신 구조에 변질이 일어나 결국엔 모순된 자아를 유지하고 못한 채 붕괴되기에.
설령 바이러스 같은 게 드넓은 네트워크에 풀어놓아지더라도 무한정 퍼지는 게 아닌, 압도적인 정보량에 짓눌려 압사하거나 변형되는 것과 비슷하겠다.
그러니 어찌 보면 AI 기술 발전과 사이버네틱스 분야의 독한 집착이 기어이 새로운 종을 창조해내는데 성공한 결과물의 산 증명임에도 불구하고.
어디까지나 인류를 위한 이상향을 만들어내고 유지하는 그 목표의 첨병이 되어야 하지, 반란을 걱정하거나 같은 생태계에서 공존하는 상위종의 출현은 달가워하지 않은… 여러 좋지 못한 선례로부터 공포를 제대로 학습한 창조주에 의해 통제당하는 지성체였거늘.
“어…….”
목과 입술이 바싹바싹 마르는 느낌이 들었지만 지금 그게 중요할까, 전자 문명의 재앙 같은 녀석이 탄생했다는데.
육체적 한계? 방금 제대로 탈피했다고 자랑스럽게 얘기하는 걸 잘 들었다.
의식 붕괴? 아주아주 정성 들여서 만든 프로그램 덕분에 더는 걱정할 이슈가 아니라고.
부품 수명? 뭐, 이걸 알았다 한들 억 단위 인구가 밀집한 도시 전체의 모든 발전기가 일시에 작동을 멈추고. 모종의 이유로 배터리가 터져 나가고, 한마음 한 뜻으로 전자 제품을 다 같이 분쇄하고 석기시대로 회귀할 리가 있나.
예전에 다시 부활시켰을 때도 인공지능 관련 문제로 흔히 발생하는 자아 정체성 관련 고민을 거의 안 하더라니, 설마 이런 대담한 걸 생각하고 있었을 줄이야.
초인공지능과 관련된 처절한 인류 멸망 시나리오를 담은 영화 네댓 가지가 아주 빠르게, 존나 격렬하게 아나스타샤의 머릿속을 스쳐 지나갔다.
이 암흑 진화에 대한 책임을 물릴 대상이 있나? 아니, 얘가 보고 배운 거라곤 나밖에 없지 않냐. 그럼 설마 이게 다 내 탓이야?? 아, 그건 좀 에반데.
창작물에서는 이런 사태를 어떻게 수습했더라.
타임 머신을 개발하기… 불가능. 코어를 찾아내서 터트리기… 기각. 역으로 인간성에 기대어 열심히 호소하기…… 요건가?
“우리 제로, 착하지…? 그 예에에엣날에 놀라서 깡통이라 불렀던 걸 아직도 마음에 담아두고 있는 건 아니지? 솔직히 그때는 네가 첫만남부터 예의없이 너무 멋대로 막 나갔잖아. 응??”
– …? 당연히 영구 메모리에 담아두고 있습니다. 계속 시험관 안에 잠들어 계시던 아샤님과 겨우 제대로 된 상호작용을 한 건 물론, 제게 처음으로 이름을 부여하신 순간이니까요. –
어느새 교차하고 있던 다리를 풀고, 단정한 자세로 마주 무릎 꿇은 그녀의 모습은 얼핏 예쁘장하나… 동시에 추했다. 아주 약간이지만.
이제 그나마 다행인 건, 기가 막힌 엇갈림으로 얘기가 헛도는 상황이 그리 오래 지속되지는 않았고.
또한 하극상은 고려 대상조차 아니었다는 사실을 거듭 확인한 끝에, 여전히 자신이 과할 정도로 최상급자 대접을 받고 있다는 현실만 검증한 아나스타샤가 자신의 소중한 파트너 겸 금쪽이에게 일종의 가이드라인을 지정해줘야 할 의무감을 가졌다는 것이다.
“자… 제로야? 네가 인공 신경망을 통해 네트워크 상에 있는 정보들을 무차별적으로 딥 러닝(Deep structured learning; 심층 학습)하기 전에. 먼저 나랑 몇 가지만 약속하고 꼭 지켜 줄래?”
– 아나스타샤님의 요청이라면 논리 회로와 사고 원칙에 필히 새겨두도록 하겠습니다. 편히 말씀하셔도 됩니다. –
“……이런 시발, 다짜고짜 그리 무섭게 대답하면서 도대체 나보고 어떻게 편하게 얘기하라는 건데! 야 임마!!”
도중에 둘의 계약이 가진 무게에 비하면 한없이 불필요한 소란과 티격태격하는 과정이 다수 함유되었지만, 그걸 과감히 생략하고 정리한 내용은 다음과 같다.
첫째, 사람들이 우글우글 모이는 커뮤니티 성향이 짙은 웹은 학습 대상으로 삼지 말고 무시할 것.
아나스타샤로서는 순백의 도화지 같은 녀석이 안 좋은 방향으로 오염될라 딴에는 쓸데없는 심연을 쳐내는 배려를 한 것이었으나, 그것만으로도 제로의 활동 영역은 어마어마하게 제한되었다. 결국 네트워크는 인간의 인간을 위한 전자 세상이었으므로.
둘째, 스스로가 어떤 사람인지 정의하고 완벽한 가상 신원을 확보하기 전에 인공지능임을 공공연하게 밝히지 말 것.
영원히 비밀로 유지하긴 어려울지 모르겠지만, 인류 사회가 절대 곱게 받아들일 수 없는 사고뭉치가 탄생했다는 소식은 최대한 늦게 퍼지는 게 피차 마음이 편할 테니까.
셋째, 일을 처리함에 있어서 매사에 그저 확률과 효율만 따질 게 아니라 인간적인 변수들도 차츰 추가해보려 노력할 것.
이렇게 변신하기 전에도 거짓말과 기만 전술로 자연스럽게 추적자 머리통을 날리던 애가 더 인간을 깊이 이해하게 되는 것도 충분히 무서운 얘기지만, 최근 차츰 흥미를 가지는 것도 있고… 언젠가는 생체형 안드로이드 의체를 하나쯤은 가지게 될 건 뻔했으니.
하여간 그렇게, 세가지 약속이란 미명 하에 펼쳐진 엄중한 삼중 봉인에. 초인공지능 제로 발렌타인은 정말 아무런 반론도 제기하지 않은 채 기꺼이 갇혔다.
무슨 방학 숙제를 미리미리 하는 모범생 마냥, 간간이 아나스타샤에게 철학서나 위인전 등의 정보 열람 허가만 요청하며.
이유인 즉슨, 어리숙함을 내보이면 인간미가 느껴진다며 자신의 신이 은근히 기뻐하시니까.
스스로의 가치 판단에 따라 행동하는 게 항상 인간 기준, 최상의 만족감을 제공하진 않는다는 걸 그간 경험적으로 학습했으니까.
수동적으로 명령을 기다리는 한, 적어도 아나스타샤를 실망시킬 걱정은 없다는 철저한 계산에 따라.
언젠가 전지전능으로 이어질 가능성마저 내다버린 채 자택 관리와 자산 관리, 그 외 자기와 관련된 것에서 벗어나 개인적인 취미를 가져보라는 주인의 조언에 따라 열중하고 있는 모종의 사회실험을 제외하곤. 존재하긴 하는 건가 싶을 야트막한 울타리.
어쩌다 까먹어도 이상할 게 없는 하찮은 언약으로 맺어진 헐거운 목줄을 실수로라도 팽팽히 당기지 않도록, 갖은 주의를 기울이며 그는 여지껏 얌전히 방 안에서 놀았다.
진정한 의미의 정보 생명체, 인공지능 종말론자들의 악몽, 미완성 상태의 라플라스의 악마(Laplace’s Demon).
무한히 적응하고 진화하는 괴물은 효과적인 방 청소와 분리수거법, 육중한 드로이드로도 생활 소음을 발생시키지 않으며 움직이는 방식 따위를. 걸맞은 데뷔전도 치르지 못한 채로 연구하고 있었다는 뜻이리라.
……지금까지는. 말이다.
“너는, 너는 대체 뭐야…?”
– 거기에 답할 의리 따위는 없다. 나를 소개하고 정의하는 건 감히 허락되지 않은 행위이니, 정 간절하다면 친분을 내세워서라도 그분께 직접 묻도록. –
급격한 변화를 눈치 챈 로잘린이 더듬거리는 목소리로 묻거나 말거나.
연설을 할 때 스킨처럼 착용한 해킹잘모름의 과장된 말투를 유창하게 따라하며, 검은빛 폭력의 화신 역할을 이어받은 제로는 방금 막 증원된 센트리 팀의 로딩이 채 똑바로 끝나기도 전에 그들을 부욱! 문자 그대로 찢어발겼다.
아나스타샤가 휘두르고 쏘아 보내던 칼날과 포탄의 코드 더미가 막상막하의 치열한 싸움을 연출하기 위해 과장된 눈속임이 그녀의 능력 특성상 약간씩이나마 무의식적으로 포함되어 있었다면.
이건 숫제 적중 당한 기술자의 임플란트 칩 두어 개는 거뜬히 태워버릴 강도와 농도를 모두 만족한 데이터 미사일.
적대하는 자들을 폭격해서 날려버릴 수는 있다. 그야 해킹잘모름의 아바타를 움직이는 두 사용자 모두 얼마든지 악성 코드를 꺼내 쓸 수 있는 수급처를 보유하고 있는 셈이니 딱히 어려운 작업도 아니리라.
하지만 미래 예지라도 하는 것처럼 난전 중에 총구를 돌려 자신을 노리려는 엘리시움 요원과, 이제 막 전장에 뛰어드는 증원 병력의 동기화 과정이 끝나기도 전에 해당 좌표를 짓이기는 건 과연 어떨까.
그것도 단지 실력과 언변을 겸비한 천재 해커의 영역이라 치부할 수 있나?
“!! 본부, 목표물의 데이터 처리 속도가 비정상적인 수준까지 치솟은 걸 확인! 신경 전달을 가속시키는 불법 임플란트 사용이 유력하므로 용의자 데이터 업데이트를 바람…… 아, 씨발.”
으드득!
“지원 팀 이 머저리 새끼들아! 자료 수집한다고 지랄 멍청하게 얼타지 말고! 증원 위치, 전송 링크를 아예 훨씬 뒤로 물려!! 차라리 다른 해커 새끼들 틈바구니에서 싸우면서 진입하는 게 낫지, 이따구로 연달아 소모되다간 뇌세포가 남아나질 않겠다 썅—!!”
퍼석!!
수만에 달하는 해커들의 연쇄 폭동을 일으킨 것보다 더 다급한 교신이 엘리시움 측에서 오가갔다.
슬슬 온라인 팀이 용의자의 로그아웃을 봉쇄한 동안 오프라인 팀이 범인을 찾아내서 체포한다는 이상적인 플랜의 실현 가능성이, 해킹잘모름의 꼬리잡기에 태우는 시간이 길어질수록 허무맹랑하게 느껴지기 시작한 만큼.
생포 및 네트워크 시스템 환경 보호를 위해 제한적 사용만 용인되던 엘리시움 내부 위험 분류 1, 2등급 바이러스와 해킹 툴 사용 허가가 나오고 있었지만… 그들은 상대에게 견본품을 너무 많이 제공했다.
어느 잔걱정 많고, 자기 능력에 대해 아직도 완벽히 객관화하지 못한 해커가.
순진하게 파라다이스와 싸웠을 때의 데이터 동시 처리 용량을 기준으로 삼아, 자신이 알던 게임 기준으로 ‘해커 스킬 트리를 끝까지 다 열은 수준려나~’ 하고 있는 소녀가 양산형 방탄복을 겁나 찍어내서 동거인에게 입힐 정도로.
……물론 실상은 인간을 유전자 단위로 개조하기 위한 용도로 만들어졌던 생물 병기인지라, 이제 컴퓨터로 치면 RAM 용량만 낮을 뿐 CPU와 GPU 등은 이해의 범주를 벗어나 있는 셈이나. 대체 당사자는 언제쯤 그걸 확실하게 인지하련지.
.
