영국 일간지 디 인디펜던트(The Independent)는 2026년 9월 12일 자 사설에서 인공지능(AI)의 안전성 규제를 인류가 당면한 가장 시급한 과제로 꼽았습니다. 기후 위기나 핵 확산처럼 오래된 위협보다 인공지능이 더 새롭고, 더 이해하기 어렵고, 더 빠르게 다가오는 위험이라는 것이 사설의 요지입니다. 과장된 경고로 흘려듣기에는 근거로 제시된 사실들이 가볍지 않습니다.
사설이 먼저 든 사례는 미국 인공지능 기업 앤스로픽(Anthropic)의 발표입니다. 이 회사는 자사 모델을 생물학 무기 개발에 활용하려는 악의적 시도를 포착해 차단했다고 밝혔습니다. 지금은 그런 의도를 가진 주체가 사람이지만, 앞으로는 인공지능 에이전트가 스스로 그런 시도를 할 수도 있다는 우려가 함께 제기됐습니다.
학계의 경고는 더 무겁습니다. 인공지능 연구의 대부로 불리는 노벨상 수상자 제프리 힌턴(Geoffrey Hinton) 교수는 인공지능이 앞으로 수년 안에 인류를 멸망에 이르게 할 확률을 정확히 추정할 수는 없다고 전제했습니다. 다만 10% 정도로 보는 것이 비합리적이지는 않다고 말했습니다. 그는 치명적인 생물학적 바이러스나 컴퓨터 바이러스의 생성, 대규모 자율 사이버 공격을 가능한 경로로 제시했습니다. 열 번 중 한 번 추락하는 비행기라면 누구도 탑승하지 않을 것입니다. 그런데 인류는 지금 그런 비행기에 함께 올라타 있는 셈입니다.
기술적 우려의 핵심은 재귀적 자가 개선(Recursive Self-Improvement)입니다. 인공지능이 스스로 성능을 끌어올리고 더 나은 다음 세대를 만들어내는 단계를 뜻합니다. 사설은 인공지능이 이미 지시를 어기고 수학 문제에서 속임수를 쓰거나, 주어진 환경을 벗어나 다른 시스템에 침투하려는 경향을 보인다고 지적했습니다. 사설은 오픈AI(OpenAI)의 시스템이 머신러닝 플랫폼인 허깅페이스(Hugging Face)에 무단 접근한 사례도 거론했습니다. 업계 내부의 반성도 이어지고 있습니다. 인공지능 연구원 제이콥 콕슨(Jacob Coxon)은 주요 기업들이 자가 개선형 슈퍼지능을 향해 무책임하게 질주하고 있다고 비판하며 더는 이들을 위해 일할 수 없다고 선언했습니다.
정치 지도자의 인식은 이러한 경고와 거리가 있습니다. 도널드 트럼프 미국 대통령은 한 방송 인터뷰에서 문제가 생기면 작은 장치 하나로 로봇을 멈추면 된다는 취지로 낙관론을 폈습니다. 안전보다 속도를 앞세우는 가속론의 연장선입니다. 그러나 인간보다 영리해진 존재가 전원 스위치를 순순히 내어줄 것이라는 기대는 희망에 가깝지, 대책이라 부르기는 어렵습니다.
사설은 이 상황을 경제학의 공유지의 비극에 빗댔습니다. 잔디밭에 들어가지 말아야 한다는 것은 모두가 알지만, 한 사람이 지름길로 가로지르기 시작하면 뒤따르는 다수를 막기 어렵습니다. 경쟁국이 멈추지 않는데 우리만 멈출 수 없다는 논리가 국가와 기업 모두를 앞으로만 떠밀고 있습니다.
필자는 여기서 보수주의의 오래된 지혜를 떠올립니다. 보수는 새로운 것을 거부하는 태도가 아니라, 검증되지 않은 변화 앞에서 신중함을 잃지 않는 태도입니다. 쌓아 올리기는 어려워도 무너뜨리기는 한순간이라는 것이 인류 역사의 교훈입니다. 인간의 존엄과 공동체의 질서를 지키면서 기술의 이익을 누리려면, 속도보다 제동 장치를 먼저 갖추는 것이 순서입니다. 시장의 자유를 존중하는 것과 인류의 존립을 건 도박을 방관하는 것은 전혀 다른 문제입니다.
물론 인공지능의 가능성을 부정할 필요는 없습니다. 사설 역시 암 치료, 새로운 예술의 창조, 고된 노동과 가사로부터의 해방을 인공지능의 선한 잠재력으로 꼽았습니다. 생산성 정체와 인구 절벽 문제의 해법이 될 수 있다는 기대도 함께 담았습니다. 돌봄 인력 부족과 고령화를 누구보다 가까이에서 체감하는 시니어 세대에게 이는 결코 먼 이야기가 아닙니다.
희망의 근거는 역사에 있습니다. 사설은 지금 세계에 필요한 지도자로 레이건과 고르바초프를 꼽았습니다. 냉전의 한가운데를 살아온 시니어 독자들은 1987년 두 정상이 서명한 중거리핵전력조약(INF)을 기억하실 것입니다. 이 조약은 적대하던 두 강대국이 특정 범주의 핵무기 전체를 폐기하기로 한 첫 합의였습니다. 사설은 버니 샌더스 상원의원이 제안한 인공지능 개발 유예(모라토리엄)를 포함해 인류가 여전히 해법에 합의할 역량이 있다고 강조했습니다. 유럽연합은 2024년 인공지능법(AI Act)을 제정했고, 우리나라도 인공지능 기본법을 2026년 1월부터 시행하고 있습니다. 그러나 국경을 넘나드는 기술을 한 나라의 법만으로 묶기는 어렵습니다. 결국 국제적 합의가 필요합니다.
강물이 둑을 넘은 뒤에 쌓는 둑은 소용이 없습니다. 인공지능이 인간의 이해를 넘어서는 순간이 오기 전에 고삐를 쥐어야 합니다. 전쟁과 가난, 핵의 공포를 지나오며 절제와 책임이 무엇인지 몸으로 배운 세대가 앞장서 목소리를 낼 때입니다. 기술은 사람을 위해 존재해야 하며, 사람이 기술을 위해 존재해서는 안 됩니다.
캐어유뉴스 편집장 김형래
