유네스코 AI윤리 권고사항(Recommendation on the Ethics of Artificial Intelligence)은 2021년 유엔 교육과학문화기구(UNESCO)가 전 세계 회원국을 대상으로 마련한 최초의 국제 AI 윤리 기준으로, 인권 중심적이고 포용적이며 지속가능한 인공지능 개발 및 활용을 촉진하기 위한 보편적인 가치와 원칙들을 제시한다.
유네스코 AI윤리 권고사항의 탄생 배경은 AI 기술의 급속한 발전으로 인해 야기되는 개인정보 침해, 편향된 알고리즘, 자동화로 인한 실업 등 사회적 도전과제를 해결할 국제 규범의 필요에서 비롯되었다. 유엔 산하에서 과학기술개발이 인권, 정의, 복지와 어떻게 조화를 이루어야 하는가에 대한 논의는 20세기 중반부터 지속되어 왔으며, 이에 따라 2019년 유네스코는 국가 간 합의를 통한 윤리적 AI 개발을 목표로 관련 작업을 시작하였다. 2021년 11월 24일 유네스코 총회에서 193개 회원국의 만장일치로 이 권고안이 채택되었다는 점은 AI의 윤리 문제에 대한 국제사회의 폭넓은 공감대를 반영한다.
유명한 일화로는 유네스코가 권고안을 준비하면서 진행한 세계 시민 대상 대규모 공론장을 들 수 있다. 전 세계 다양한 배경의 시민과 전문가들이 참여한 이 공론장에서는 AI 윤리가 반드시 특정 기술 규제가 아닌 인간 중심적 가치 회복이라는 점이 강조되었으며 남아프리카공화국에서는 AI가 원주민 지식을 수탈할 수 있다는 문제 제기가 주목을 받았다. 이는 권고안이 단순히 기술을 규제하는 문서가 아닌 다양성과 포용성에 기반한 철학적 성찰 위에 세워졌다는 점을 시사한다.
최근 학술 논문에서도 유네스코 권고안의 의의를 다루고 있는데, Floridi & Cowls (2022)는 이 권고안이 ‘AI 윤리의 보편 원칙’ 수립 시도 중 가장 포괄적이며, 다른 규범 문서들과의 차별점은 교육, 젠더, 환경권 등 다양한 영역으로의 확장을 목표로 하고 있다는 점이라고 분석했다. 예컨대 권고안은 ‘지속가능성(Sustainability)’을 하나의 독립된 윤리 원칙으로 제시함으로써, 기술적 효율성뿐만 아니라 환경적 정의를 요구한 최초의 국제 규범으로 평가받는다 (Floridi, L., & Cowls, J. (2022). The UNESCO Recommendation on the Ethics of Artificial Intelligence: Toward a global instrument with impact. Minds and Machines, 32(2), 265-283.).
또한 최근 가디언(The Guardian)지의 2023년 12월 보도에 따르면, 이 권고안에 따라 유네스코는 아프리카, 남아시아, 라틴아메리카 등 기술 난개발 국가에 AI 윤리 센터 설립 및 윤리 교육 지원을 확대하고 있으며, 이를 통해 글로벌 남반구 국가들이 AI 개발에서 주체성을 가질 수 있도록 돕고 있다. 특히 모로코와 브라질은 자국의 AI 정책에 해당 권고안을 적극 반영하며, 공공 AI 시스템의 설명가능성과 사생활 보호를 법제화하려는 움직임을 보이고 있다.
실용적인 활용 방안으로는 첫째, 이 권고안을 기반으로 각국 정부가 자국의 인공지능 국정 운영방향을 수립하고, 법적 규제 및 인증 체계를 마련하는 데 활용될 수 있다. 둘째, 기업 차원에서는 AI 제품 및 서비스 개발 과정에서 사전 영향 평가(AI Impact Assessment)를 통해 권고안의 가치 기준을 반영할 수 있다. 셋째, 교육 분야에서는 시민 AI 리터러시 함양을 위한 윤리적 사고 교육 커리큘럼 개발의 준칙으로 삼을 수 있다. 특히 권고안의 10대 윤리 원칙에는 인간 존엄성, 인권 보호, 공정성, 다원주의, 지속가능성 등이 포함되어 있어 국제 학술계, 기술계, 정책계의 윤리 논의 기준점으로 기능할 수 있다.
통찰력 있는 분석으로는 AI 기술이 단지 과학적 혁신을 넘어 정치적, 윤리적, 문화적 상상력을 요구한다는 점에서 이 권고안은 기술 개발의 ‘메타 수준’에서의 가이드라인으로 작용한다는 데 의의가 있다. 이는 AI 윤리 논의가 기술적 해결책 중심의 ‘윤리화(Ethics-washing)’를 넘어 실질적 사회적 책임을 구현하려는 실천적 기반이 되어야 함을 뜻한다. 예컨대 권고안은 ‘데이터 지배력(Data Sovereignty)’을 강조하며, 기존 글로벌 기술 대기업 주도의 데이터 독점을 견제하고 각 공동체가 자율적으로 정보 주권을 행사할 수 있어야 한다고 명시한다. 이러한 관점은 글로벌 기술 질서의 비대칭 구조를 해소하는 철학적 선언이자, 기술 정의(technological justice)를 향한 전 지구적 약속으로 해석할 수 있다.
유네스코 AI윤리 권고사항은 단순한 선언적 문건이 아닌, 기술과 인권, 개발과 형평성 간의 조화로운 관계를 형성하고자 하는 인류 공동체의 집단 지성의 결과물이다. AI가 일상으로 정착하는 21세기, 이 권고안은 인간과 기계 사이의 새로운 ‘사회계약’을 정의하는 핵심 윤리 텍스트로 자리매김할 것으로 기대한다.
About the Author
