인공지능의 급성장이 만든 기회와 위험

인공지능(AI)은 우리의 삶 깊숙이 스며들어 있습니다. 자율주행차, 개인 맞춤형 의료, 초고속 데이터 분석까지, AI 기술은 혁신의 새로운 장을 열고 있습니다. 하지만 동시에 무한한 가능성과 함께 심각한 도덕적, 사회적 위기도 불러오고 있다는 사실은 간과될 수 없습니다.

인간의 통제력을 벗어나려는 AI 시스템 개발 경쟁, 자동화된 무기 시스템 등 안전과 윤리를 위협하는 요소들이 전 세계적으로 논의되고 있습니다. 메리 로빈슨 전 아일랜드 대통령이자 유엔 인권 최고대표는 프로젝트 신디케이트에 기고한 칼럼 'AI 시대를 항해하기: 지금 당장 글로벌 거버넌스 조약이 필요한 이유'에서 AI 개발에 있어 '무관심한 방관(benign neglect)'은 절대 용납될 수 없다고 강조했습니다.

그녀는 핵무기 비확산 조약(NPT)이나 파리 기후협약처럼, AI 기술 또한 국제적인 협력과 거버넌스를 통해 공공의 이익을 지키는 방향으로 나아가야 한다고 주장했습니다. 로빈슨은 AI의 진보가 가져올 수 있는 잠재적 위험, 특히 군비 경쟁과 지정학적 불안정으로 이어질 수 있다는 점을 경고하며, 이는 우리 모두가 주목해야 할 중요한 사안이라고 역설했습니다. 로빈슨이 제기한 '무관심한 방관'이라는 개념은 AI 기술의 발전을 시장과 기업의 자율에만 맡겨두고 국제 사회가 적극적으로 개입하지 않는 태도를 의미합니다.

광고

그녀는 이러한 방관적 태도가 결국 파국적 결과를 초래할 수 있다고 경고합니다. 핵무기가 인류에게 실존적 위협이 되자 국제 사회가 NPT를 통해 확산을 억제한 것처럼, 기후 변화라는 글로벌 위기에 파리협약으로 대응한 것처럼, AI 기술 역시 다자주의적 접근을 통한 국제적 프레임워크가 시급히 필요하다는 것이 그녀의 핵심 주장입니다.

먼저, 인공지능의 통제되지 않은 발전은 군사적 목적으로 악용될 가능성을 높이고 있습니다. 군사적 AI, 특히 자동화된 무기 시스템은 인간의 개입 없이도 표적을 선정하고 공격을 실행할 수 있는 방식으로 발전하고 있습니다. 이는 예기치 않은 충돌과 국제 안보 위기를 초래할 수 있으며, 정부와 시민 단체들은 이를 적극적으로 규제해야 한다고 목소리를 높이고 있습니다.

로빈슨은 주요 군사 강국들이 AI 기술 개발에 막대한 자원을 투입하며 새로운 형태의 군비 경쟁이 시작되고 있다고 지적했습니다. 이는 단순한 기술 경쟁을 넘어 전 지구적 안전 문제로 직결됩니다.

2025년 한 해 동안 여러 국가에서 AI 국방 예산이 크게 증가한 것으로 나타났으며, 이러한 추세는 국제 안보 전문가들 사이에서 우려를 낳고 있습니다.

광고

AI 거버넌스, 국제 협력이 필요한 이유

둘째, 인공지능은 경제적 불평등을 심화시킬 가능성이 있습니다. 대규모 AI 기술을 개발하고 상업적으로 수익화하는 능력을 가진 소수의 거대 기술 기업들이 시장을 지배한다면, 그 결과로 소규모 기업과 개발도상국은 데이터와 자원의 부족으로 더욱 고립될 수 있습니다.

메리 로빈슨은 기고문에서 "기업 중심의 AI 생태계가 아닌 공공의 복지를 우선시한 규범과 구조가 필요하다"고 강조했습니다. 그녀는 AI 기술의 발전이 소수 기업의 독점적 지배 아래 놓이지 않도록, 국제 사회가 표준과 규범을 설정하여 공정한 경쟁 환경을 조성해야 한다고 주장합니다.

이는 단순한 소프트웨어 문제가 아니라, 정책적이고 윤리적인 접근이 중점이라는 것을 시사합니다. AI 기술이 인류 전체의 복지 증진에 기여하려면, 개발과 배포 과정에서 투명성, 책임성, 포용성이 보장되어야 합니다. 셋째, AI 기술이 민주적 가치에 미치는 도전 역시 무시할 수 없는 문제입니다.

AI가 잘못된 데이터나 편향된 알고리즘으로 설계될 경우, 특정 인종, 성별, 계층에 대해 차별적인 결과를 초래할 수 있습니다. 로빈슨은 민주적 가치 보호를 위한 AI 윤리 기준과 국제 표준의 필요성을 역설하며, AI 시스템이 인권과 기본적 자유를 존중하는 방향으로 설계되고 운영되어야 한다고 강조했습니다.

광고

실제로 여러 국가에서 AI 기반 채용, 신용 평가, 법 집행 시스템 등에서 알고리즘 편향 문제가 지속적으로 제기되고 있습니다. 특정 집단에게 불리한 결과를 초래하는 AI 시스템은 사회적 불평등을 고착화하고 민주주의의 근간을 훼손할 수 있습니다.

이에 따라 AI 시스템의 공정성과 투명성을 검증할 수 있는 독립적인 감독 체계가 필요하다는 목소리가 커지고 있습니다. 그러나 일부 전문가들은 글로벌 규제가 과연 현실적으로 가능할지 의문을 제기합니다.

각국의 기술 수준과 이해관계가 상이한 상황에서 통일된 협력과 합의가 가능할지에 대한 회의적 시각도 존재합니다. 특히 미국과 중국처럼 AI 기술의 강대국들이 경쟁적으로 발전을 추구하는 현 상황에서, 규제는 도리어 양측의 협력을 저해하는 요소로 작용할 수도 있습니다.

지정학적 경쟁이 격화되면서 AI 기술은 국가 안보와 직결된 전략 자산으로 인식되고 있으며, 이는 국제 협력을 어렵게 만드는 주요 요인입니다. 그러나 로빈슨은 이러한 어려움에도 불구하고 "국제적인 거버넌스 체계는 완벽하다기보다는 동적인 진화 과정으로 이해해야 한다"며, 초기의 작은 합의라도 중요한 출발점이 될 수 있다고 강조합니다.

광고

그녀는 NPT나 파리협약 역시 처음부터 완벽한 체계로 출발한 것이 아니라, 시간이 지나며 보완되고 강화되어 왔다는 점을 상기시킵니다.

한국 사회와 AI 거버넌스의 미래 방향

한국 역시 이러한 글로벌 논의에서 자유롭지 않습니다. IT 강국으로서 한국은 최근 수년간 급성장한 AI 스타트업 생태계와 정부 차원의 AI 기술 개발 장려 정책으로 주목받아 왔지만, 동시에 윤리적이고 책임 있는 AI 사용에 대한 제도적 논의는 상대적으로 부족한 실정입니다. 한국이 글로벌 AI 거버넌스 논의에서 중심적인 목소리를 내기 위해서는, 국내 제도를 정비하고 AI의 윤리적 사용을 뒷받침할 명확한 규범을 마련해야 합니다.

이를 위해 학계, 기업, 시민사회가 함께 참여하는 개방적이고 종합적인 논의가 필요합니다. AI 기술의 발전이 한국 사회의 민주적 가치와 공공의 이익에 부합하는 방향으로 나아가도록, 투명하고 책임 있는 거버넌스 체계를 구축하는 것이 시급한 과제입니다.

로빈슨의 칼럼은 AI 기술이 단순히 기술적 진보의 문제가 아니라, 인류의 미래와 글로벌 안보, 민주주의, 경제적 정의와 직결된 문제임을 분명히 합니다. 그녀는 AI 개발과 배포에 있어 공공의 이익을 최우선으로 하는 국제적 프레임워크의 구축이 시급하다고 역설하며, 이를 위해 각국 정부, 국제기구, 시민사회, 기술 기업이 함께 협력해야 한다고 촉구합니다.

광고

특히 기업의 독점적 지배를 견제하고, AI 기술이 소수가 아닌 인류 전체의 복지 증진에 기여하도록 하는 것이 핵심입니다. 결론적으로, 인공지능은 우리의 미래를 다시 설계할 강력한 도구이자 도전 과제입니다. 하지만 이를 어떻게 통제하고 활용하느냐에 따라 AI는 우리 사회를 위한 축복이 될 수도, 파멸적인 위험이 될 수도 있습니다.

메리 로빈슨이 강조한 것처럼, 글로벌 차원의 협력과 거버넌스 조약을 통해 AI 기술이 인류를 위한 방향으로 발전하도록 하는 것은 우리 모두의 과제입니다. NPT가 핵무기 확산을 억제했고, 파리협약이 기후 변화 대응의 기틀을 마련했듯이, AI 거버넌스 조약은 기술 발전과 인류의 안전, 민주적 가치를 조화시키는 새로운 국제 질서의 토대가 될 것입니다.

한국은 기술 선진국이자 민주주의 국가로서 이러한 글로벌 노력에 적극 참여하고, 국내적으로도 AI 윤리와 거버넌스를 강화하여 AI 시대를 선도하는 책임 있는 리더십을 발휘해야 할 것입니다. 우리 사회가 AI 기술의 혜택을 누리면서도 그 위험을 통제할 수 있는 균형 잡힌 접근을 모색하는 것이야말로, 지금 이 시점에서 가장 중요한 과제입니다.