판교 네이버 본사 그린팩토리 28층 회의실. 지난달 말 AI윤리위원회가 열렸다. 사외이사 3명과 경영진이 모여 '생성AI 서비스 윤리 가이드라인'을 검토했다. 포용성, 인권, 비차별을 원칙으로 내세운 이 문서엔 정작 AI를 만들고 운영하는 개발자와 콘텐츠 모더레이터의 노동권은 없었다.
국내 빅테크 기업들이 앞다퉈 AI 거버넌스 체계를 구축하고 있다. 네이버는 지난해 8월 이사회 산하에 AI윤리위원회를 신설했고, 카카오도 작년 11월 ESG위원회를 AI·ESG위원회로 확대 개편했다. 쿠팡은 올해 초 AI 리스크 관리 조직을 별도로 만들었다.
표면적으론 진전이다. 5년 전만 해도 AI 윤리를 이사회 수준에서 다루는 기업은 찾기 어려웠다. 하지만 실제 구성을 보면 한계가 명확하다. 위원회엔 법률·회계·경영 전문가는 있어도 노동 전문가나 시민사회 대표는 없다. AI가 일으키는 노동 현장의 변화를 직접 겪는 당사자들의 자리도 마련되지 않았다.
비슷한 시기 유럽연합은 AI법을 통해 기업에 노동자 대표와의 협의를 의무화했다. 미국 빅테크들도 노조와 AI 도입 관련 단체협약을 맺기 시작했다. 구글은 작년 12월 알파벳 노조와 AI 시스템 도입 시 사전 통보와 재교육 프로그램 제공을 약속했다.
국내 상황은 다르다. 네카오 모두 노조 조직률이 5% 미만이다. AI 도입으로 업무가 바뀌거나 일자리가 사라져도 협의할 창구가 없다. 한 카카오 개발자는 "AI 코딩 도구 도입으로 주니어 개발자 채용이 줄었는데, 회사는 '효율성 제고'라고만 설명한다"고 전했다.
더 심각한 건 AI 뒤편의 보이지 않는 노동이다. 챗봇 학습 데이터를 검수하고, 유해 콘텐츠를 걸러내는 일은 대부분 외주업체 비정규직이 맡는다. 시간당 9,860원을 받으며 하루 8시간 폭력적이고 선정적인 콘텐츠를 봐야 하는 이들에게 '기업의 AI 윤리 원칙'은 남의 얘기다.
작년 국가인권위원회 조사에 따르면 콘텐츠 모더레이터 10명 중 9명이 외상후스트레스장애 증상을 보였다. 그러나 네카오 어느 곳도 이들을 위한 정신건강 지원 프로그램을 의무화하지 않았다. AI윤리위원회 안건에도 오르지 않는다.
시민사회의 비판도 이어진다. 참여연대는 "기업들이 AI 거버넌스를 구축했다고 하지만 실제론 면피용 장치에 가깝다"며 "노동자와 시민의 참여 없는 거버넌스는 기업 편의를 정당화하는 도구가 될 뿐"이라고 지적했다.
정부도 움직이기 시작했다. 과기정통부는 올해 상반기 AI 거버넌스 가이드라인을 개정하면서 '이해관계자 참여' 조항을 강화할 예정이다. 고용노동부도 AI 도입 시 노사 협의를 권고하는 지침을 준비 중이다.
하지만 권고와 지침만으론 한계가 있다. 강제력이 없기 때문이다. 유럽처럼 법적 의무화나, 미국처럼 강력한 노조가 없는 상황에서 기업의 자발적 변화를 기대하기는 어렵다.
AI가 만드는 미래를 논하면서 정작 AI와 함께 일하는 사람들의 현재는 외면하고 있다. 네카오의 화려한 AI윤리위원회 뒤에 가려진 빈자리. 그곳을 채우지 않는 한 진짜 'AI 거버넌스'는 요원하다.