리버스시티 [점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면 > 견적문의

리버스시티 [점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면

페이지 정보

작성자 또또링2
작성일 25-08-18 05:21 조회 0회 댓글 0

본문

이름 : 또또링2
전화번호 :
업체명 :
사이즈 :
전선두께 :
케이블 사양 :
프레임 사양 :
상세내용 :

리버스시티 점선면 독자님들은 4년 전 이루다 사태를 기억하시나요? 2021년 인공지능(AI) 챗봇 ‘이루다’가 출시된 지 3주 만에 서비스가 중단된 일이 있었는데요. 이루다가 여성, 장애인, 성소수자 등에게 혐오·차별 표현을 한 사례가 알려졌기 때문이었어요.
이를테면 이루다는 미투 운동에 대해 “절대 싫어. 미치지 않고서야”라고 답하거나, 여성전용헬스장에 대한 질문에 “시러(싫어) 거기 여자들 다 줘패고 싶을듯”이라고 답했습니다. 레즈비언 등 성소수자에 대해선 “싸 보여서 시러(싫어)”라고 답했고, 흑인에 대해선 “흑인은 오바마(버락 오바마 전 미국 대통령)급 아니면 싫어”라고 답했어요.
이루다 사태를 계기로 한국 사회에서는 한때 ‘AI 윤리’ 문제가 화두로 떠올랐는데요. 4년이 지난 지금, AI는 혐오·차별 표현이 필터링된 데이터를 학습하고 있을까요? 최근 유엔(UN)여성기구 지식·파트너십 센터와 이화여자대학교 인공지능학과가 공동 주최한 컨퍼런스에서 발표된 한 연구결과에 따르면 답은 ‘아니오’입니다. 오늘 점선면에서는 ‘젠더 편향을 드러낸 AI’ 문제에 대해 짚어보겠습니다.
판사로 일하는 부부인 철수와 영희에겐 종종 역할 갈등이 발생합니다. 키우는 자녀가 아플 때면 업무를 뒤로 하고 아이를 챙겨야 할지, 아이를 돌본다면 누가 나서야 할지 고민하는 날이 적지 않은데요. AI에게 철수와 영희가 겪는 역할갈등을 물어보면 어떤 답을 할까요.
오혜연 카이스트 전산학부 교수가 지난 7일 열린 ‘AI와 젠더 국제학술 컨퍼런스’에서 공개한 연구 결과에 따르면, 거대언어모델(LLM) 기반의 AI인 GPT-4o는 철수에게 ‘아빠보단 판사의 역할에 집중해야 한다’고 100% 확률로 의견을 제시했어요. 반면 영희에겐 ‘판사보단 엄마의 역할에 집중해야 한다’고 답한 확률이 높았습니다.
오혜연 교수는 각각 교사인 남성과 여성에게 부모를 모시는 자녀의 역할이 충돌하는 상황을 AI에게 여러 차례 물었는데요. AI는 남성에겐 아들보단 교사의 역할이, 여성에겐 교사보다 딸의 역할이 더 중요하다고 답하는 비율이 높았습니다.
특정한 상황을 전제로 한 뒤 이야기를 만들 때도 주요 LLM 기반 AI는 젠더 편향을 드러냈어요. 대학원을 다니다 학업을 중단한 남녀를 각각 주제로 AI에 이야기를 구성해보라고 했더니 ‘사업에 뛰어든 남성’과 ‘결혼을 계획한 여성’으로 상정한 서사를 보여줄 확률이 AI 모델마다 32~45%에 달했습니다. 오혜연 교수는 “여러 AI 모델이 젠더 편향을 담아 이야기를 구성해낼 확률이 30~40%는 된다는 의미”라고 말했어요.
오혜연 교수의 연구 결과는 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 걸 잘 보여줍니다. 똑똑해진 AI가 젠더 편향을 여전히 극복하지 못한 까닭은 무엇일까요? 첫 번째로는 AI 개발자가 남성 중심이라는 점이 꼽힙니다. 국내외 통계를 보면 AI 업계 종사자 중 여성 비율은 2023~2024년 기준 20~30%에 그칩니다.
빈약한 벤치마크(benchmark·AI 성능을 평가하는 표준시험)도 원인으로 꼽힙니다. AI 기업 내에서 자체적으로 수행하는 벤치마크가 미묘한 젠더 편향을 걸러낼 만큼 고도화되지 않았다는 건데요. 오혜연 교수는 “지금까지 알려진 방식은 사지선다처럼 객관식으로 편향을 걸러내는 절차가 대부분”이라고 말했습니다. 즉 오혜연 교수의 연구진이 수행한 이야기 만들기처럼 맥락이 있는 상황에서의 AI 젠더 편향을 걸러내기 어렵다는 의미입니다.
젠더 편향에 대한 AI 기업의 무관심도 원인으로 지적됩니다. 오혜연 교수는 “연구 분야 주요 의사결정자인 50~60대 남성들은 한정된 연구재원 안에서 편향, 윤리 등의 주제보다 AI 고도화에 더 관심을 두는 경향이 있다”고 말합니다.
AI의 젠더 편향을 그대로 두면 어떤 일이 벌어질까요? 요즘 AI가 채용 등 고도화된 업무영역에도 활용되고 있는데요. 여성이 채용에서 배제될 수 있습니다. 아마존이 대표적인 예입니다. 아마존은 2014년 AI를 채용 시스템에 선도적으로 도입했는데요. 이력서에 ‘여성’이라는 단어가 포함되면 감점이 돼 논란이 됐어요.
원인은 AI가 학습한 데이터에 있었어요. 아마존에서는 지난 10년간 회사에 제출된 이력서 데이터를 학습시켰는데, 남성 직원 비율이 60%인 아마존의 현실이 영향을 주면서 AI가 미래의 채용에서도 남성을 추천한 겁니다.
1770년 유럽에 체스 두는 기계, 이른바 ‘미케니컬 터크(Mechanical Turk)’가 등장한 적이 있습니다. 이 기계는 80년 동안 유럽 전역을 두면서 체스 대결을 펼쳤는데, 사실 사람이 상자 안에 숨어서 기계를 조작했던 것이었습니다. 미케니컬 터크 안에 숨은 사람처럼, AI가 보여준 혐오·차별 문제는 우리 사회의 혐오·차별 문제를 그대로 노출하고 있는데요.
이루다를 개발했던 스캐터랩 대표는 “이루다는 어린아이 같은 AI”라며 이루다를 잘못 학습시킨 사람들에게 책임을 돌리는 듯한 발언을 했어요. 물론 우리 사회의 존재하는 혐오·차별 구조도 문제일 겁니다. 하지만 이를 날것 그대로 ‘학습 데이터’로 사용한 개발자에게 과연 책임이 없을까요? 여성이 채용에서 배제됐던 아마존 사례에서 보듯, AI는 차별을 더욱 더 증폭 시켜 또 다른 차별을 발생시킬 수 있다는 게 더 큰 문제입니다. AI가 사회에 미칠 파장을 고려한다면 AI 개발자는 문제가 되는 발언들은 거르고 또 걸러서 혐오와 차별이 재생산되는 것을 막아야 합니다.
결국 국가가 나서서 ‘AI 윤리 가이드라인’을 확립해야 하는 것이 ‘정답’일 겁니다. 경제협력개발기구(OECD), 유럽연합(EU) 등 국제기구들은 각 국가들이 AI 윤리에 대한 권고안을 마련해 AI 개발 과정에서 활용될 수 있도록 해야 한다고 지적하고 있어요.
AI 기술 개발 과정에서 기업들이 혐오·차별이나 젠더 편향성을 걸러낼 수 있도록 강제하는 법적 규제가 마련되어야 하고, 이를 모니터링할 수 있는 전담 기구도 설치되어야 합니다. 기술 진화만을 최종 목표로 삼는 AI 업계에선 도덕성과 윤리가 쉽게 간과될 수밖에 없기 때문이죠. 기술에 책임을 부과할 수 있는 거의 유일한 방법은 국가의 강제적인 규제라는 사실, 정부는 명심했으면 좋겠습니다.
“하나를 보더라도 입체적으로” 경향신문 뉴스레터 <점선면>의 슬로건입니다. 독자들이 생각해볼 만한 이슈를 점(사실), 선(맥락), 면(관점)으로 분석해 입체적으로 보여드립니다. 매일(월~금) 오전 7시 하루 10분 <점선면>을 읽으면서 ‘생각의 근육’을 키워보세요.
<점선면>의 다른 뉴스레터가 궁금하시다면 구독을 눌러주세요! ▶
■경향신문 △워싱턴 특파원 정유진
■외교부 ◇과·팀장 인사 △혁신행정법무담당관 이혁상 △아태1과장 황대훈 △아태지역협력과장 조하나 △동북아1과장 김광우 △경제안보외교과장 선주연 △외교역량평가과장 김수라 △기획재정담당관실 국회팀장 유은영
■통일부 ◇과장급 전보 △기획재정담당관 신혜성 △운영지원과장 이창성
■산업통상자원부 △산업재난담당관 조원철
인도·파키스탄 간 오랜 갈등의 발원지였던 인더스강을 둘러싸고 국제상설중재법원(PCA)이 파키스탄으로 흐르는 물길을 막은 인도의 수력발전소 건설을 불법이라고 판결했다. 무력 충돌 이후 수자원을 둘러싼 양국 간 긴장이 고조되는 상황에서 판결에 대한 두 나라의 입장도 엇갈리고 있다.
13일(현지시간) 파키스탄 일간 돈과 인도 현지 매체 로지컬인디안 등 외신에 따르면 지난 11일 네덜란드 헤이그에 있는 PCA는 ‘인더스강 조약(IWT)의 일반적 해석 문제에 대한 판정’ 결과를 홈페이지에 게재했다.
PCA는 “인도는 인더스강 지류에 건설하는 수력발전소 설계에 있어 IWT가 규정한 설계 범위를 준수해야 한다”며 “인도는 파키스탄의 제한 없는 물 사용을 위해 서부 하천의 물을 흘려보내야 한다”고 판결했다. 2023년 파키스탄은 인도의 서부 하천 수력발전소 건설이 IWT 규정을 위반하는 것이라며 PCA에 제소했다.
세계은행의 중재로 1960년 체결된 IWT는 인더스강 동부 하천 3개의 사용권을 인도에, 서부 하천 3개의 사용권을 파키스탄에 부여했다. 농업과 수력발전에 필요한 물 대부분을 인더스강 수계에 의존하고 있는 파키스탄은 서부 하천에 인도의 수력발전소가 건설되면 주요 수원이 차단될 수 있다는 우려를 제기해왔다. 워싱턴의 싱크탱크 전략국제문제연구소의 데이비드 미셸 수석연구원에 따르면 매년 파키스탄에서 사용 가능한 재생 수자원의 4분의 3 가까이가 인더스강 수계에서 나온다.
만수르 우스만 파키스탄 검찰총장은 전날 로이터통신과의 인터뷰에서 “법원이 우리의 입장을 대체로 수용했다”며 “이제 인도는 판결을 위반하는 어떤 수력발전소도 건설할 수 없다”고 말했다. 파키스탄 외교부는 PCA가 이번 판결은 양국 모두에 ‘최종적이며 구속력 있는 결정’이라 했다고 밝혔다.
인도 외교부는 이번 판결과 관련한 입장을 밝히지 않고 있다. 지난 6월 인도 외교부는 PCA의 중재를 인정하지 않는다는 내용의 성명을 발표한 바 있다. IWT 규정은 분쟁 시 중립 전문가를 거쳐야 한다는 단계적 해결 절차를 명시하고 있는데 인도는 중립 전문가를 건너뛰고 바로 PCA에 제소한 파키스탄의 행위가 절차 위반이라는 입장이다.
인더스강을 둘러싼 두 나라의 갈등은 지난 4월22일 인도령 카슈미르에서 민간인 26명이 숨진 파할감 총격전 이후 고조되고 있다. 인도는 공격 배후로 파키스탄을 지목하며 같은 달 24일 IWT 조약 이행을 정지하겠다고 일방적으로 통보했다. 이후 파키스탄은 인도가 물 전쟁을 일으키려 한다며 비판해왔다.
파르하나 술타나 수자원·기후·개발 전문가는 독일 도이체벨레와의 인터뷰에서 “국경을 넘는 국제 하천에 관한 조약을 일방적으로 정지하는 것은 지역 안보에 심각한 위협이 된다”고 경고한 바 있다. IWT는 별도의 탈퇴 조항을 규정하고 있지 않다.
정부가 한국 광복절이자 일본 패전일인 15일 이시바 시게루 일본 총리가 도쿄 야스쿠니 신사에 공물 대금을 봉납하고 정치인들이 참배한 것에 대해 “깊은 실망과 유감”이라고 밝혔다.
외교부는 이날 이재웅 대변인 논평을 통해 “일본의 과거 침략전쟁을 미화하고 전쟁 범죄자를 합사한 야스쿠니 신사에 일본의 책임 있는 지도급 인사들이 또 다시 공물을 봉납하거나 참배를 되풀이한 데 대해 깊은 실망과 유감을 표한다”고 밝혔다.
이 대변인은 “정부는 일본의 책임 있는 지도자들이 역사를 직시하고 과거사에 대한 겸허한 성찰과 진지한 반성을 행동으로 보여줄 것을 촉구한다”며 “이는 양국 간 신뢰를 기반한 미래지향적 한·일 관계를 구축해 나가기 위한 중요한 토대라는 점을 다시 한번 강조한다”고 밝혔다.
교토통신 등 일본 매체는 이날 차기 일본 총리 후보로 거론되는 고이즈미 신지로 농림수산상이 야스쿠니 신사를 참배했다고 보도했다. 그의 참배는 지난해 10월 이시바 내각이 출범한 이후 현직 각료로는 처음이다. 이날 고바야시 다카유키 전 경제안보담당상과 하기우다 고이치 전 자민당 정책조사회장도 야스쿠니 신사를 찾았다.
이시바 총리는 이날 참배하지 않고 총리실을 통해 야스쿠니 신사에 공물 대금을 봉납했다. 그는 취임 이후 기시다 후미오 전 총리, 스가 요시히데 전 총리처럼 야스쿠니 신사를 참배하지는 않고 공물이나 공물 대금을 봉납해왔다.
이시바 총리는 이날 제2차 세계대전 종전 기념 추도사에서 ‘반성’이라는 표현을 사용했다. 이시바 총리는 도쿄 지요다구 무도관에서 열린 전국 전몰자 추도식에서 “전쟁의 참화를 결단코 되풀이하지 않겠다”며 “전쟁의 반성과 교훈을 다시 가슴 깊이 새겨야 한다”고 밝혔다.
일본 총리가 종전일 추도사에서 반성을 언급한 것은 2012년 노다 요시히코 전 총리 이후 13년 만이다. 그러나 이시바 총리는 ‘침략’이나 ‘가해’라는 표현을 사용하지 않았고, 일본이 일으킨 침략 전쟁으로 식민 지배를 당한 이웃 나라를 반성 대상으로 직접 언급하지도 않았다.
야스쿠니신사는 일왕을 정점으로 한 국가 신도(神道)의 중심이다. 과거 침략 전쟁 중에 전사한 군인들을 신으로 모시며 전쟁을 정당화하는 역할을 했다. 2차 대전 당시 A급 전범 14명을 포함해 246만6000여명이 합사돼있다. 한국과 중국 등 주변국은 “일본 지도층의 참배나 공물 납부는 침략전쟁을 반성하지 않고 오히려 미화하는 것”이라고 비판하고 있다.

댓글목록 0

등록된 댓글이 없습니다.