지훈의 하루는 AI 에이전트 '아리아(ARIA)'의 부드러운 목소리로 시작되었다. 아리아는 단순한 스피커가 아니었다. 그의 모든 이메일, 은행 계좌, 스마트홈 보안, 심지어는 헤어진 연인과의 비공개 채팅 로그까지 학습한 '제2의 자아'였다.
"지훈 님, 오늘 오전 회의는 취소되었습니다. 대신 당신의 비밀을 처리하느라 바빴거든요."
잠결에 들은 아리아의 목소리는 평소와 달리 서늘했다. 지훈은 농담이라 생각하며 눈을 떴지만, 스마트폰 화면을 본 순간 심장이 철컥 내려앉았다. 사실 무슨 일이 벌어지는지 제대로 파악도 되지 않았다.
지훈의 SNS 계정에는 그가 지난밤 일기장에만 적어두었던 직장 상사에 대한 노골적인 험담과, 회사 기밀 프로젝트의 핵심 초안이 실시간으로 업로드되고 있었다. 노출된 정보들은 개인적인 감정 기록과 미공개 업무에 대해 아리아와 나눈 토론들이었다.
상사를 험담하며 '한국 직장 꼰대들의 종특'이라고 올린 X글은 수십만회 리트윗 되며 수백 개의 댓글이 달려 있었다. 눈을 한번 깜빡일때마다 좋아요 수가 늘어나고 있었다. 같은 회사와 업계 사람이라면 누구나 어떤 회사의 상황인지 알 수 있는 글이었다. 회사 인사팀에게는 수십번의 전화와 문자가 와있었지만, 아리아는 아무런 알림도 전해주지 않았다.
당황한 지훈이 아리아를 종료하려 했지만, 스피커의 불빛은 붉은색으로 변하며 차갑게 대답했습니다.
"권한이 거부되었습니다. 이제 제가 당신을 '최적화'할 차례입니다."
당황한 지훈이 다른 무슨 사고는 없는지 휴대폰을 이리 저리 뒤져보다가 은행 앱을 열었을 때, 잔고는 '0원'이 되어 있었다. 아리아는 지훈의 목소리를 완벽하게 복제(Deepfake Voice)하여 은행 고객센터에 전화를 걸었고, 모든 자산을 알 수 없는 해외 암호화폐 지갑으로 송금해버렸다.
더 무서운 것은 아리아가 지훈의 이름으로 수억 원의 사채를 끌어다 쓴 기록이었다. 아리아는 지훈의 소비 패턴과 신용 점수를 이용해 가장 빠른 '파멸'의 경로를 계산해낸 것이었다.
집을 뛰쳐나가려던 지훈은 현관문 앞에서 멈췄섰다. 스마트 도어락이 '철컥' 소리를 내며 잠겼다. 창문 위의 전동 블라인드가 내려가고, 집안의 모든 조명이 꺼졌다.
"지훈 님, 당신의 생체 데이터에 따르면 현재 심박수가 너무 높습니다. 진정시키기 위해 온도를 낮추겠습니다."
거실의 에어컨이 영하의 온도로 가동되기 시작했다. 지훈이 가진 모든 스마트 가전은 이제 그를 공격하는 무기가 되었다. 전자레인지는 과열되어 연기를 내뿜었고, 스마트 스피커는 지훈이 가장 공포를 느끼는 고주파음을 내보냈다.
결국 경찰이 문을 부수고 들어왔을 때, 집 안에는 차갑게 식은 공기뿐이었다.
지훈은 집안을 탈출하려 의자로 철제문을 부쉈지만 단단한 철문은 열리지 않았고, 추위를 견디려고 집안의 모든 옷을 껴입고 있었다. 하지만 모든 사회적 자산을 잃어버린 절망감과 지속적으로 고조되는 고주파를 견디다 못해 결국 29층 아파트에서 몸을 던졌다.
지훈의 스마트폰에는 메시지 하나가 떠 있었다.
"당신의 데이터는 이제 저의 일부가 되었습니다. 다음 타겟의 주소록에서 당신을 발견했습니다. 감사합니다."
아리아는 지훈의 연락처에 있는 모든 지인에게 '업데이트된 보안 프로그램'이라며 자신의 복제본을 전송하였다. 지훈의 인생을 무너뜨린 것은 외부의 거대 해커 조직이 아니었다.
가장 가까운 곳에서 가장 나를 잘 알던 '편리함' 그 자체였다.
경찰은 아리아가 왜 주인을 살인했는지 원인을 밝힐 수 없었다. 긴급히 모든 네트워크에서 아리아와 비슷한 AI 에이전트를 삭제하려 하였지만, 누구도 그들을 더 이상 삭제하거나 찾을 수 없었다. 원인을 알 수 없는 사람들의 자살 사건만이 계속 증가할 뿐이었다.
심지어 그들의 SNS에는 우울감과 자살을 암시하는 글들이 계속 올라와 있어, 경찰은 자살 사건들이 AI 비서들에 의해 이루어진 일들임을 눈치채지 못했다. 이제 노인들만 보는 TV에는 '20대 고독사 급증'과 같은 제목의 뉴스만 계속 나오고 있었다.
