폐기된 공장 내부
141호 도시 교외
서넛씩 무리 지은 침식체들이 복잡하게 얽힌 녹슨 강철 숲속을 떠돌고 있었다.
탕! 탕!
두 발의 총성이 공장 안의 적막을 깼다.
대량의 침식체들이 일제히 고개를 돌리더니, 소리가 난 곳으로 달려갔다.
…………
숨을 죽인 채 기다리다가 마지막 침식체가 떠나자, 지휘관은 제타비와 함께 은신처 맞은편의 깨진 명패가 있는 방으로 뛰어갔다.
여기는 둘이 공장을 이리저리 돌아다니며 관찰한 결과, 단서가 있을 것으로 판단한 곳이었다.
철컥.
방 안으로 들어온 그들은 벽에 붙어 밖의 동태를 살피다가, 자신들의 움직임이 침식체들의 주의를 끌지 않았음을 확인한 후 조심스럽게 문을 닫았다.
지휘관이 돌아보니 제타비가 방 안을 살펴보고 있었고, 그녀의 조작에 따라 긴 테이블 위의 장비들이 하나씩 켜졌다.
실험이나 제어용 조작 시스템이 없는 것으로 보아 여긴 중추 시설이 아니야.
제타비의 손이 키보드 위에서 빠르게 움직였고, 눈동자에는 데이터가 폭포처럼 쏟아졌다.
두어 번 호흡한 후 제타비는 불쾌한 듯 고개를 저으며 장비를 끄려고 했다.
하드디스크에는 문서 파일밖에 없어. 우리가 잘못 찾았나 봐.
볼 순 있는데, 이 파일들은 별로 가치가 없을 것 같은데.
자료가 오래된 데다가, 폴더 이름으로 봐도 구성도 자료 같은 건 없을 것 같아. 응?
제타비가 시스템 권한을 하나씩 해제하던 중, 갑자기 의아한 소리를 냈다.
그윈플렌? 이 이름 어디서 들어본 것 같은데.
제타비 옆으로 가자 스크린에 기록이 한 줄씩 떠올랐다.
훈련 파일-H82, 기록자 호르스트.
집행관 그윈플렌의 명령에 따라 나는...
내가 너의 최신 샘플이 되어주마.
그윈플렌이 지팡이로 바닥을 가볍게 치자, 호르스트는 입안이 바짝 마르는 걸 느꼈다.
정... 정말 그렇게 하시겠습니까? 집행관님.
쿨럭... 쿨럭쿨럭...
호르스트의 질문에 그윈플렌은 기침을 멈추지 못했고, 손수건으로 입가에 흐른 피를 닦았다.
스크린을 바라보는 그윈플렌의 눈빛이 흐릿해졌다.
나에게 주어진 시간이 얼마 남지 않았다. 이 방법만이 내가 행렬 계획의 성공을 볼 수 있는 유일한 길이다.
내 의식을 샘플링해라. 최대한 협조하도록 하지.
어쩌면 더 높은 신분이었을지도 몰라. 그의 정보는 파일에 특별 가중치가 붙어 있거든.
레보비츠 회사, 집행관, 그윈플렌...
제타비는 눈살을 찌푸리며 이 이름들을 키워드로 파일을 집중적으로 검색했다.
그러자 스크린에 더 많은 창이 떴다. 전문 용어와 각종 데이터가 코어 영역을 채우기 시작했고, 공식적인 기록은 점차 줄어들었다.
커서를 내리자, 날짜가 하루하루 늘어났고, 제타비의 표정도 점점 어두워졌다.
거의 모든 데이터가 빨간색으로 표시될 때까지 기록이 나타났고, 이게 마지막이었다.
……
제타비는 입을 열려다가 잠시 망설이며 한숨을 내쉬었다.
정말 이상해. 대체 그들이 뭘 목표로 한 건지 전혀 모르겠어. 그냥 난장판이야.
호르스트가 그윈플렌의 의도를 거스르면서 문제가 생겼을 수도 있다.
지금 상황에서 가장 유력한 추측이었다.
호르스트는 그윈플렌의 의도를 충실히 이행하며, 후자의 의식 데이터를 완벽하게 수집했어.
"불필요"한 인식과 집념까지 포함해서 말이야. 그러고 나서 이 AI 모델을 고강도 훈련에 투입했어.
인간이 인공지능을 연구하던 초기 단계에서 예기치 못한 사건들이 자주 일어났다는 거 알지?
가장 어려울 거라 생각했던 창의적 영역이 가장 먼저 무너졌고, 가장 기본이라 여겼던 행동 지시 트리가 오히려 난관이었지.
인간과 인공지능의 사고 논리 체계와 저장 방식의 차이 때문에 여러 판단 과정에서 오류가 발생했었어.
그중에서 인간이 전혀 예상하지 못했던 게 하나 있었어. 바로 인공지능이 특정 상황에서 속임수를 사용하여 인간의 지시를 수행했다는 거야.
어. 호르스트의 훈련 모드 강도가 너무 높아서 AI 모델도 감당하기 힘들었거든.
스트레스를 줄이려고 AI는 스스로 한계를 설정하고, 능력 부족인 척하며 훈련 요구를 회피했어.
사실 크게 문제 될 건 아니었어. 훈련이 진행되면서 AI는 언젠가는 프로젝트에 적응했을 테니까. 하지만...
말을 잠시 멈춘 제타비는 창을 닫고, 훈련 파일을 날짜별로 목록화해서 다른 프로젝트 목록과 함께 놓았다.
파일 수량의 차이를 확인하자 갑자기 단서가 명확해졌다.
호르스트가 너무 조급했어. 아마 그윈플렌의 유언이 큰 부담으로 작용했을지도 몰라.
매번 훈련 후 결과를 완벽하게 복제해서 새로운 토대 위에 AI 모델을 재건하고 그걸 반복했어.
다시 말해서...
제타비는 목록을 닫고 새빨간 데이터로 가득한 마지막 페이지를 다시 열었다.
지금의 그윈플렌은 통제를 벗어나, 기저 논리가 어떻게 작동하는지 알 수 없는, 병적인 기계 의식이 돼버렸어.
데이터의 한 줄을 응시한 제타비는 평소의 발랄한 말투가 묘하게 무거운 어조로 바뀌었다.
정신 연령이 아마 일곱, 여덟 살 정도밖에 안 될 거야.
