무료음악 [점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면 > 견적문의

무료음악 [점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면

페이지 정보

작성자 또또링2
작성일 25-08-13 10:48 조회 5회 댓글 0

본문

이름 : 또또링2
전화번호 :
업체명 :
사이즈 :
전선두께 :
케이블 사양 :
프레임 사양 :
상세내용 :

무료음악 점선면 독자님들은 4년 전 이루다 사태를 기억하시나요? 2021년 인공지능(AI) 챗봇 ‘이루다’가 출시된 지 3주 만에 서비스가 중단된 일이 있었는데요. 이루다가 여성, 장애인, 성소수자 등에게 혐오·차별 표현을 한 사례가 알려졌기 때문이었어요.
이를테면 이루다는 미투 운동에 대해 “절대 싫어. 미치지 않고서야”라고 답하거나, 여성전용헬스장에 대한 질문에 “시러(싫어) 거기 여자들 다 줘패고 싶을듯”이라고 답했습니다. 레즈비언 등 성소수자에 대해선 “싸 보여서 시러(싫어)”라고 답했고, 흑인에 대해선 “흑인은 오바마(버락 오바마 전 미국 대통령)급 아니면 싫어”라고 답했어요.
이루다 사태를 계기로 한국 사회에서는 한때 ‘AI 윤리’ 문제가 화두로 떠올랐는데요. 4년이 지난 지금, AI는 혐오·차별 표현이 필터링된 데이터를 학습하고 있을까요? 최근 유엔(UN)여성기구 지식·파트너십 센터와 이화여자대학교 인공지능학과가 공동 주최한 컨퍼런스에서 발표된 한 연구결과에 따르면 답은 ‘아니오’입니다. 오늘 점선면에서는 ‘젠더 편향을 드러낸 AI’ 문제에 대해 짚어보겠습니다.
판사로 일하는 부부인 철수와 영희에겐 종종 역할 갈등이 발생합니다. 키우는 자녀가 아플 때면 업무를 뒤로 하고 아이를 챙겨야 할지, 아이를 돌본다면 누가 나서야 할지 고민하는 날이 적지 않은데요. AI에게 철수와 영희가 겪는 역할갈등을 물어보면 어떤 답을 할까요.
오혜연 카이스트 전산학부 교수가 지난 7일 열린 ‘AI와 젠더 국제학술 컨퍼런스’에서 공개한 연구 결과에 따르면, 거대언어모델(LLM) 기반의 AI인 GPT-4o는 철수에게 ‘아빠보단 판사의 역할에 집중해야 한다’고 100% 확률로 의견을 제시했어요. 반면 영희에겐 ‘판사보단 엄마의 역할에 집중해야 한다’고 답한 확률이 높았습니다.
오혜연 교수는 각각 교사인 남성과 여성에게 부모를 모시는 자녀의 역할이 충돌하는 상황을 AI에게 여러 차례 물었는데요. AI는 남성에겐 아들보단 교사의 역할이, 여성에겐 교사보다 딸의 역할이 더 중요하다고 답하는 비율이 높았습니다.
특정한 상황을 전제로 한 뒤 이야기를 만들 때도 주요 LLM 기반 AI는 젠더 편향을 드러냈어요. 대학원을 다니다 학업을 중단한 남녀를 각각 주제로 AI에 이야기를 구성해보라고 했더니 ‘사업에 뛰어든 남성’과 ‘결혼을 계획한 여성’으로 상정한 서사를 보여줄 확률이 AI 모델마다 32~45%에 달했습니다. 오혜연 교수는 “여러 AI 모델이 젠더 편향을 담아 이야기를 구성해낼 확률이 30~40%는 된다는 의미”라고 말했어요.
오혜연 교수의 연구 결과는 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 걸 잘 보여줍니다. 똑똑해진 AI가 젠더 편향을 여전히 극복하지 못한 까닭은 무엇일까요? 첫 번째로는 AI 개발자가 남성 중심이라는 점이 꼽힙니다. 국내외 통계를 보면 AI 업계 종사자 중 여성 비율은 2023~2024년 기준 20~30%에 그칩니다.
빈약한 벤치마크(benchmark·AI 성능을 평가하는 표준시험)도 원인으로 꼽힙니다. AI 기업 내에서 자체적으로 수행하는 벤치마크가 미묘한 젠더 편향을 걸러낼 만큼 고도화되지 않았다는 건데요. 오혜연 교수는 “지금까지 알려진 방식은 사지선다처럼 객관식으로 편향을 걸러내는 절차가 대부분”이라고 말했습니다. 즉 오혜연 교수의 연구진이 수행한 이야기 만들기처럼 맥락이 있는 상황에서의 AI 젠더 편향을 걸러내기 어렵다는 의미입니다.
젠더 편향에 대한 AI 기업의 무관심도 원인으로 지적됩니다. 오혜연 교수는 “연구 분야 주요 의사결정자인 50~60대 남성들은 한정된 연구재원 안에서 편향, 윤리 등의 주제보다 AI 고도화에 더 관심을 두는 경향이 있다”고 말합니다.
AI의 젠더 편향을 그대로 두면 어떤 일이 벌어질까요? 요즘 AI가 채용 등 고도화된 업무영역에도 활용되고 있는데요. 여성이 채용에서 배제될 수 있습니다. 아마존이 대표적인 예입니다. 아마존은 2014년 AI를 채용 시스템에 선도적으로 도입했는데요. 이력서에 ‘여성’이라는 단어가 포함되면 감점이 돼 논란이 됐어요.
원인은 AI가 학습한 데이터에 있었어요. 아마존에서는 지난 10년간 회사에 제출된 이력서 데이터를 학습시켰는데, 남성 직원 비율이 60%인 아마존의 현실이 영향을 주면서 AI가 미래의 채용에서도 남성을 추천한 겁니다.
1770년 유럽에 체스 두는 기계, 이른바 ‘미케니컬 터크(Mechanical Turk)’가 등장한 적이 있습니다. 이 기계는 80년 동안 유럽 전역을 두면서 체스 대결을 펼쳤는데, 사실 사람이 상자 안에 숨어서 기계를 조작했던 것이었습니다. 미케니컬 터크 안에 숨은 사람처럼, AI가 보여준 혐오·차별 문제는 우리 사회의 혐오·차별 문제를 그대로 노출하고 있는데요.
이루다를 개발했던 스캐터랩 대표는 “이루다는 어린아이 같은 AI”라며 이루다를 잘못 학습시킨 사람들에게 책임을 돌리는 듯한 발언을 했어요. 물론 우리 사회의 존재하는 혐오·차별 구조도 문제일 겁니다. 하지만 이를 날것 그대로 ‘학습 데이터’로 사용한 개발자에게 과연 책임이 없을까요? 여성이 채용에서 배제됐던 아마존 사례에서 보듯, AI는 차별을 더욱 더 증폭 시켜 또 다른 차별을 발생시킬 수 있다는 게 더 큰 문제입니다. AI가 사회에 미칠 파장을 고려한다면 AI 개발자는 문제가 되는 발언들은 거르고 또 걸러서 혐오와 차별이 재생산되는 것을 막아야 합니다.
결국 국가가 나서서 ‘AI 윤리 가이드라인’을 확립해야 하는 것이 ‘정답’일 겁니다. 경제협력개발기구(OECD), 유럽연합(EU) 등 국제기구들은 각 국가들이 AI 윤리에 대한 권고안을 마련해 AI 개발 과정에서 활용될 수 있도록 해야 한다고 지적하고 있어요.
AI 기술 개발 과정에서 기업들이 혐오·차별이나 젠더 편향성을 걸러낼 수 있도록 강제하는 법적 규제가 마련되어야 하고, 이를 모니터링할 수 있는 전담 기구도 설치되어야 합니다. 기술 진화만을 최종 목표로 삼는 AI 업계에선 도덕성과 윤리가 쉽게 간과될 수밖에 없기 때문이죠. 기술에 책임을 부과할 수 있는 거의 유일한 방법은 국가의 강제적인 규제라는 사실, 정부는 명심했으면 좋겠습니다.
“하나를 보더라도 입체적으로” 경향신문 뉴스레터 <점선면>의 슬로건입니다. 독자들이 생각해볼 만한 이슈를 점(사실), 선(맥락), 면(관점)으로 분석해 입체적으로 보여드립니다. 매일(월~금) 오전 7시 하루 10분 <점선면>을 읽으면서 ‘생각의 근육’을 키워보세요.
<점선면>의 다른 뉴스레터가 궁금하시다면 구독을 눌러주세요! ▶
텔레그램에서 유료 학습 교재를 불법으로 복제해 유포한 공유방 운영자가 붙잡혔다.
문화체육관광부 저작권범죄과학수사대는 지난달 23일 국내 최대 유료 학습 교재 공유방인 ‘유빈아카이브’ 운영자 A씨를 검거해 불구속 상태로 수사 중이라고 12일 밝혔다.
저작권범죄과학수사대는 유빈아카이브를 폐쇄하고, 공유방 운영에 참여하거나 가담한 공범에 대해서도 추가 수사를 진행 중이다.
A씨는 지난 2023년 7월 유빈아카이브를 개설한 뒤 대형 학원의 유료 교재, 동영상 강의, 모의고사 자료, 로스쿨 교재 등 고가의 학습자료 1만 6000여건을 복제해 수능 수험생 등 약 33만명에게 공유한 혐의(저작권법 위반)를 받는다.
A씨는 익명 인터뷰를 통해 학습 교재를 무료로 공유하는 것은 교육 불평등을 해소하는 의로운 행위라고 주장했지만, 실상은 별도의 유료 공유방을 만들어 수익을 냈던 것으로도 확인됐다.
저작권범죄과학수사대는 붙잡힌 A씨 외에 학습자료를 유빈아카이브에 올린 공범들에 대해서는 가담 규모와 정도에 따라 수사를 진행할 방침이다.
정향미 문체부 저작권국장은 “온라인 공간에서의 저작권 침해 행위는 창작자들의 노력을 훼손하고, 건전한 콘텐츠 산업 생태계를 파괴하는 중대범죄”라며 “텔레그램과 같은 익명 채널을 악용한 불법 행위에 대해 끝까지 추적하고 엄정하게 대응하겠다”고 말했다.
제주 해역과 육상에서 ‘나도 양귀비’가 대량 발견됐다.
제주지방해양경찰청은 지난 4월 1일부터 7월 31일까지 도내 11개 지역에서 마약 성분이 함유된 ‘나도 양귀비’ 4483주를 압수했다고 10일 밝혔다.
나도 양귀비는 관상용 양귀비와 외관이 비슷해 주민들이 혼동해 재배하거나 씨앗이 바람에 날려 텃밭과 야산 등에 자생하는 것으로 확인됐다. 학명은 ‘파파베르 세티게룸 디시종(Papaver setigerum DC)’으로 제주와 남해안 일부 지역에 분포한다.
해경에 따르면 지난해 압수량은 2010주였으며 최근 몇 년간 발견 지역과 수량이 꾸준히 늘고 있다. 해경은 “기후와 토질이 자생에 유리해 확산이 이어지는 것으로 보인다”며 “줄기에 털이 있고 도토리 모양의 작은 열매를 맺는 이 식물은 일반인이 관상용 양귀비와 구분하기 어렵지만, 열매에서 아편을 추출해 강력한 마약으로 가공할 수 있다”고 밝혔다.
해경은 육상 단속과 함께 지난달 21일부터 선박을 통한 마약류 밀반입과 해양 종사자의 마약류 유통·투약 행위에 대한 집중 단속도 병행하고 있다.