우리는 준비가 되어 있지 않습니다.
지난 몇 년 동안 인공지능 시스템이 수학, 코딩, 의료 진단 등 여러 분야에서 인간을 능가하기 시작했으며, 매일 더 좋아지고 있다고 믿습니다.
기술 칼럼니스트이자 뉴욕타임스 기술 팟캐스트 ‘하드 포크(Hard Folk)’의 공동 진행자인 케빈 루즈(Kevin Roose)는 2025년 3월 14일, 뉴욕타임스에 〈강력한 인공지능이 다가오고 있습니다. 우리는 준비가 되어 있지 않습니다. (Powerful A.I. Is Coming. We’re Not Ready) 〉라는 제목의 기사를 게재했습니다.
케빈 루즈는 뉴욕타임스 기사를 통해 “인공지능에 대해 제가 믿는 몇 가지 사실은 다음과 같습니다.”라고 다음과 같이 그 내용을 자세히 전달했습니다.
저는 머지않아, 아마도 2026년이나 2027년, 혹은 올해 안에 한 개 이상의 인공지능 회사가 범용 일반 지능(A.G.I.)을 개발했다고 주장할 것이라고 생각합니다. 범용 일반 지능은 일반적으로 ‘인간이 할 수 있는 거의 모든 인지 작업을 수행할 수 있는 범용 인공지능 시스템’으로 정의됩니다.
범용 인공지능이 발표되면, 그것이 ‘진짜 범용 인공지능’로 간주되는지에 대한 정의와 논쟁이 있을 것이라고 생각하지만, 이러한 논쟁은 대부분 중요하지 않을 것입니다. 왜냐하면 우리가 인간 수준의 지능에 대한 독점권을 잃고, 매우 강력한 범용 인공지능 시스템이 존재하는 세계로 전환하고 있다는 더 광범위한 요점이 사실이기 때문입니다.
앞으로 10년 동안 강력한 인공지능이 수조 달러의 경제적 가치를 창출하고, 이를 통제하는 국가에 정치 및 군사적 힘의 균형을 기울일 것이라고 생각합니다. 그리고 대부분의 정부와 대기업은 이미 이를 명백한 사실로 보고 있으며, 그들이 선점하기 위해 막대한 돈을 지출하고 있다는 사실만 봐도 알 수 있습니다.
저는 대부분의 사람들과 기관들이 오늘날 존재하는 인공지능 시스템에 대해 전혀 준비가 되어 있지 않다고 생각합니다. 더 강력한 시스템은 말할 것도 없고, 어느 수준의 정부에서도 이러한 시스템의 위험을 완화하거나 이점을 포착하기 위한 현실적인 계획이 없다고 생각합니다.
저는 인공지능의 발전이 모두 허상이며, 인공지능을 망상적 환상으로 치부하는 인공지능 회의론자들이 옳지 않을 뿐 아니라 사람들에게 잘못된 안정감을 주고 있다고 생각합니다.
저는 범용 인공지능이 인류에게 좋든 나쁘든 간에, 솔직히 말해서 아직은 말하기에는 너무 이른 것 같지만, A.G.I.의 등장은 우리가 현재 답을 찾지 못하고 있는 중요한 경제적, 정치적, 기술적 질문을 제기한다고 생각합니다.
저는 지금이 범용 인공지능에 대한 준비를 시작하기에 적절한 시기라고 생각합니다.
이 모든 것이 미친 소리처럼 들릴 수도 있습니다. 하지만 저는 이러한 견해에 도달하기 위해 별빛에 눈이 멀어 미래파가 되거나, 인공지능 포트폴리오를 과대 광고하는 투자자가 되거나, 마법 버섯을 너무 많이 먹고 ‘터미네이터 2’를 본 사람이 되지는 않았습니다.
저는 강력한 인공지능 시스템을 구축하는 엔지니어, 자금을 지원하는 투자자, 그 효과를 연구하는 연구원들과 많은 시간을 보낸 기자로서 그들에게 다가갔습니다. 그리고 저는 지금 인공지능 분야에서 일어나고 있는 일이 대부분의 사람들이 이해하는 것보다 훨씬 더 크다고 믿게 되었습니다.
제가 있는 샌프란시스코에서는 범용 인공지능이라는 개념이 낯설거나 이질적인 것이 아닙니다. 여기 사람들은 ‘범용 인공지능이 가까이 오고 있음을 느낀다’고 말하고, 인간보다 더 똑똑한 인공지능 시스템을 구축하는 것이 실리콘 밸리의 일부 대기업들의 명백한 목표가 되었습니다.
저는 매주 인공지능을 연구하는 엔지니어들과 기업가들을 만나고 있습니다. 그들은 저에게 변화, 즉 큰 변화, 세상을 뒤흔들 변화, 우리가 지금까지 본 적 없는 종류의 변화가 코앞으로 다가왔다고 말합니다.
지금은 노벨상 수상 수준의 혁신에 기여하는 인공지능 시스템이 있고, 일주일에 4억 명의 사람들이 챗지피티(ChatGPT)를 사용하고 있지만, 사람들이 일상생활에서 접하는 인공지능의 대부분은 성가신 존재입니다. 저는 페이스북 피드에 인공지능 관련 글이 넘쳐나고, 고객 서비스 챗봇과의 대화가 어설프게 느껴져서 이런 생각이 드는 사람들을 이해합니다. 이것이 세상을 지배하게 될 것인가?
저도 한때는 그런 생각을 비웃곤 했습니다. 그러나 저는 제가 틀렸다는 것을 깨닫게 되었습니다.
몇 가지 사실들이 인공지능의 발전에 대해 좀 더 진지하게 생각하게 했습니다.
오늘날 인공지능 산업에서 가장 혼란스러운 점은 사람들이 기술에 대해 닫혀 있다는 것입니다. 선도적인 인공지능 연구소의 직원과 경영진은 기술이 얼마나 빨리 발전하고 있는지에 대해 가장 걱정하는 경향이 있습니다.
이것은 매우 이례적인 일입니다. 제가2010년 소셜 미디어의 부상을 취재할 때, 트위터 X, 포스퀘어, 핀터레스트의 내부에서는 그들의 앱이 사회 혼란을 야기할 수 있다는 경고를 한 사람이 아무도 없었습니다. 마크 저커버그는 페이스북을 테스트하여 새로운 생물 무기를 만들거나 자율적인 사이버 공격을 수행할 수 있다는 증거를 찾으려고 한 것이 아닙니다.
그러나 오늘날, 인공지능의 발전에 대해 가장 잘 알고 있는 사람들, 즉 일반 대중이 볼 수 있는 것보다 더 발전된 시스템에 접근할 수 있는 강력한 인공지능을 구축하는 사람들은 우리에게 큰 변화가 임박했다고 말하고 있습니다. 선도적인 인공지능 기업들은 범용 인공지능의 도래를 적극적으로 준비하고 있으며, 범용 인공지능이 더 많은 능력과 자율성을 갖추게 될 것을 예상하여, 범용 인공지능 모델이 음모를 꾸미고 속일 수 있는지 등 잠재적으로 위협적인 특성을 연구하고 있습니다.
오픈AI의 최고 경영자인 샘 알트만은 “범용 인공지능을 가리키기 시작하는 시스템이 눈에 들어오고 있다”고 썼습니다. 구글 딥마인드의 최고 경영자인 오미스 하사비스는 “범용 인공지능은 아마도 3~5년 후에나 가능할 것”이라고 말했습니다.
앤트로피크(Anthropic)의 최고 경영자인 다리오 아모데이 (Dario Amodei)는 지난 달에 “인간보다 훨씬 똑똑한 인공지능 시스템이 거의 모든 분야에서 대량으로 등장하는 데 1~2년 정도 걸릴 것”이라고 말했습니다.
어쩌면 우리는 이러한 예측을 무시해야 할지도 모릅니다. 결국, 인공지능 경영진은 과장된 인공지능 기술에 대한 과대 광고로 이익을 얻기 때문에 과장할 동기가 있을 수 있습니다.
그러나 세계에서 가장 영향력 있는 인공지능 연구자 두 명인 제프리 힌튼과 요슈아 벵기오, 그리고 바이든 행정부의 최고 인공지능 전문가였던 벤 뷰캐넌을 포함한 많은 독립 전문가들이 비슷한 말을 하고 있습니다. 다른 저명한 경제학자, 수학자, 국가 안보 관계자들도 마찬가지입니다.
공정하게 말하자면, 일부 전문가들은 범용 인공지능이 임박했다고 의심합니다. 그러나 인공지능 회사에서 일하거나 결과에 기득권을 가진 모든 사람들을 무시하더라도, 범용 인공지능의 시기를 단축할 수 있는 믿을 만한 독립적인 목소리가 충분하기 때문에 우리는 이를 진지하게 받아들여야 합니다.
인공지능(A.I.) 모델 개선
저에게 있어 전문가의 의견만큼 설득력 있는 것은 오늘날의 인공지능 시스템이 빠르게 개선되고 있다는 증거입니다. 이 개선은 인공지능 시스템을 사용하는 사람이라면 누구나 쉽게 알 수 있는 방식으로 이루어지고 있습니다.
2022년, OpenAI가 챗지피티(ChatGPT)를 출시했을 때, 선도적인 인공지능 모델은 기본적인 산술에 어려움을 겪었고, 복잡한 추론 문제에 자주 실패했으며, 종종 “환각”을 일으키거나 존재하지 않는 사실을 만들어 냈습니다. 그 시대의 챗봇은 적절한 프롬프트가 제공된다면 인상적인 일을 할 수 있었지만, 중요한 일에 챗봇을 사용할 일은 결코 없었습니다.
오늘날의 인공지능 모델은 훨씬 더 발전했습니다. 현재, 특수 모델은 국제 수학 올림피아드에서 메달리스트 수준의 점수를 끌어올리고 있으며, 범용 모델은 복잡한 문제 해결에 능숙해졌기 때문에, 그 능력을 측정하기 위해 더 어려운 새로운 테스트를 만들어야 했습니다. 환각과 사실 오류는 여전히 발생하지만, 최신 모델에서는 드물게 발생합니다. 그리고 많은 기업들이 인공지능 모델을 핵심 고객 대면 기능에 구축할 만큼 충분히 신뢰하고 있습니다.
“1년 전에는 제품을 처음부터 새로 만들었을 것입니다. 그러나 지금은 95%가 인공지능으로 만들어집니다.”
이러한 도구가 개선됨에 따라 다양한 종류의 사무직 지식 작업에 유용하게 사용되고 있습니다. 제 동료인 에즈라 클라인은 최근에 복잡한 분석 보고서를 작성하는 프리미엄 기능인 챗GPT의 딥 리서치(Deep Research)의 결과물이 그가 함께 일한 인간 연구자들의 “최소한 중간 수준”이라고 썼습니다.
저는 제 작업에서 인공지능 도구를 여러 가지로 활용하고 있습니다. 저는 칼럼을 작성하는 데 인공지능을 사용하지 않지만, 인터뷰 준비, 연구 논문 요약, 개인화된 앱을 만들어 관리 업무를 돕는 등 여러 가지 다른 용도로 활용하고 있습니다. 이런 것들은 몇 년 전만 해도 불가능했습니다. 그리고 저는 이러한 시스템을 정기적으로 업무에 활용하는 사람이 정체를 맞닥뜨렸다고 결론을 내릴 수 있다는 것이 믿기지 않습니다.
최근에 인공지능이 얼마나 발전했는지 알고 싶다면 프로그래머와 이야기해 보세요. 1~2년 전만 해도 인공지능 코딩 도구가 존재했지만, 그 목적은 인간 코더를 대체하는 것보다 속도를 높이는 데 더 중점을 두었습니다. 오늘날 소프트웨어 엔지니어들은 인공지능이 실제 코딩의 대부분을 대신해 주고 있으며, 점점 더 자신의 일이 인공지능 시스템을 감독하는 것이라고 느끼고 있다고 말합니다.
스타트업 액셀러레이터인 와이 콤비네이터(Y Combinator)의 파트너인 자레드 프리드먼은 최근 액셀러레이터의 현재 스타트업 중 4분의 1이 거의 모든 코드를 작성하는 데 인공지능을 사용하고 있다고 말했습니다.
“1년 전만 해도 그들은 제품을 처음부터 구축했을 것입니다. 그러나 지금은 95%가 인공지능으로 구축되고 있습니다.”라고 그는 말했습니다.
과잉 준비가 최선
지식적 겸손의 정신에 입각하여, 저와 많은 사람들이 우리의 라임 라인에 대해 틀릴 수 있다고 말해야 할 것 같습니다.
하지만 범용 인공지능이 제가 예상했던 것보다 10년 늦게, 즉 2026년이 아니라 2036년에 도착한다고 하더라도, 지금부터 준비를 시작해야 한다고 생각합니다.
범용 인공지능에 대비하기 위해 기관들이 어떻게 준비해야 하는지에 대한 조언의 대부분은 우리가 어쨌든 해야 하는 일들로 요약됩니다: 에너지 인프라 현대화, 사이버 보안 방어 강화, 인공지능(A.I.)의 승인 파이프라인 가속화. – 설계된 약, 가장 심각한 인공지능의 피해를 방지하기 위한 규정 작성, 학교에서 인공지능 문해력 교육, 곧 쓸모 없게 될 기술적 능력보다 사회적, 정서적 발달을 우선시하는 것. 이 모든 것은 범용 인공지능이 있든 없든 모두 합리적인 아이디어입니다.
일부 기술 리더들은 범용 인공지능에 대한 조기 공포가 우리를 지나치게 공격적으로 인공지능(A.I.)을 규제하게 만들 것이라고 우려합니다. 그러나 트럼프 행정부는 인공지능 개발을 늦추지 않고 가속화하겠다는 신호를 보냈습니다. 그리고 차세대 인공지능 모델을 만들기 위해 충분한 자금이 투입되고 있습니다. 수천억 달러에 달하는 자금이 투입되고 있으며, 앞으로 더 많은 자금이 투입될 예정입니다. 따라서 인공지능 분야의 선도 기업들이 자발적으로 속도를 늦출 것 같지는 않습니다.
저는 개인이 인공지능에 지나치게 준비하는 것에 대해서도 걱정하지 않습니다. 더 큰 위험은 강력한 인공지능이 눈앞에 닥쳐서 그들의 일자리를 없애고, 사기에 휘말리게 하고, 자신이나 사랑하는 사람에게 해를 끼칠 때까지 대부분의 사람들이 그 존재를 깨닫지 못한다는 것입니다. 이것은 대략적으로 소셜 미디어 시대에 일어난 일입니다. 우리는 페이스북이나 트위터와 같은 도구가 너무 커지고 뿌리내려 변화할 수 없을 때까지 그 위험성을 인식하지 못했습니다.
그렇기 때문에 저는 범용 인공지능의 가능성에 대해 진지하게 고려해야 한다고 생각합니다. 범용 인공지능이 언제 도착할지, 어떤 형태로 나타날지 정확히 알 수 없더라도 말입니다. 우리가 부정하거나, 단순히 관심을 기울이지 않는다면, 가장 중요한 시기에 이 기술을 형성할 기회를 놓칠 수 있습니다.
