떠오르는 AI 문제점, 인공지능 윤리의 현 주소
이 글은 <AI는 차별을 인간에게서 배운다(21세기북스)>를 읽고 관련 자료를 함께 정리해 작성한 글입니다.
들어가며
‘챗 GPT’ 요즘 어떠한 셀럽들보다 더 ‘핫’한 존재라는 것에 동의 하시나요?
하루에도 몇십 개씩 챗 GPT에 관한 새로운 기사들이 쏟아져 나오는 걸 보고 있으면 어린 시절에 상상하던 인공지능의 시대가 또 한 발짝 현실로 다가왔음을 느끼게 됩니다.
스마트 기기에서의 음성인식 기능부터 자율주행차까지 인공지능은 우리 생활에 소리 없이 스며들어, 이제는 떼려야 뗄 수 없는 필수 불가결한 존재가 되었습니다. 그렇다고 해서 마냥 인공지능을 우리 생활을 편리하게 해주는 존재로만 볼 순 없을 것 같습니다. 그 편리함의 뒤에는 여러 가지 부작용이 존재할 수 있기 때문이죠. 바로, 양날의 검처럼요!
이 책에서는 앞으로 인공지능이 더 널리 활용될 수 있으려면 인공지능 기술 자체에 대한 신뢰도가 높아져야 하며, 그렇기 위해서는 우리가 인공지능 윤리와 관련해 관심을 가지고 지속해 대화해야 한다고 말하고 있습니다.
최근 인공지능의 혐오 발언 문제, 공정성 문제, 투명성 문제 등 ‘인공지능 윤리’에 관한 이슈들이 빠르게 주목 받기 시작했습니다. 그래서 저는 우리가 손쉽게 생각해볼 수 있는 3가지를 골라보았습니다. 한 번 같이 살펴볼까요?
1.알고리즘의 데이터 편향성
데이터를 기반으로 만들어지는 인공지능은 상당한 양의 학습용 데이터들을 필요로 한다고 합니다. 만약 인공지능이 인종이나 성별, 종교 등과 관련하여 편향성을 지닌 데이터를 학습하게 된다면 결과는 어떻게 될까요?
그 결괏값은 바로 “차별”이 나올 수밖에 없습니다. 학습 과정에서 인간이 갖는 오류와 편견이 들어간 데이터를 스펀지처럼 여과 없이 그대로 빨아들이기 때문이죠.
아마존의 인공지능 기반 채용 시스템
일례로 세계적 기업인 아마존은 채용 과정에 이력서를 평가하는 인공지능을 도입하기 위해 평가 알고리즘을 개발해왔습니다. 그렇지만 적용 전 시뮬레이션을 돌리는 과정에서 성별 편향이 발견되어 팀을 해체 시켰는데요, 이력서에 여성임을 알 수 있는 표현이 있으면 부정적인 평가가 지속해 나타난다는 것이 파악되었기 때문입니다. 이전 10년 정도의 기간에 해당하는 지원자들의 이력서를 학습용 데이터로 삼아 인공지능을 구축하고자 했지만 채용된 절대다수가 남성이었던 점, 지원자 중 여성의 비율 자체가 낮았다는 점이 문제의 출발점이 되었던 것입니다.챗봇 이루다 사태
또 다른 일례로 사회적 약자와 소수자 차별로 논란이 됐던 ‘이루다’가 있습니다. 스캐터랩이 개발한 인공지능 챗봇 이루다는 이용자가 늘어나면서 여성, 성소수자, 장애인 등 사회적 약자와 소수자를 차별한다는 문제가 대두되었고 혐오와 차별을 확대 및 재생산한다는 우려의 목소리가 커져 결국 서비스를 잠정 중단하기로 했습니다. 이루다는 국내에서 “인공지능 윤리”라는 과제를 도마 위에 올린 결정적인 사례가 되었습니다.
위와 같이 인공지능을 통해 명확히 파악된 이슈가 있다면 사회적 치부로 둘 게 아닌 새로운 발판을 삼아 더 나은 사회로 어떻게 만들어 나갈지에 대한 고민을 해야 합니다.
2. 정보유출
정보화 시대로 넘어오면서 정보의 가치가 증가함에 따라 개인정보에 대한 위협이 커지고, 개인 정보 보호에 대한 요구도 위협에 비례하여 계속해서 증가하고 있습니다. 때문에 인공지능 윤리에 대해 얘기할 때 더욱 사회적인 고민이 필요한 부분입니다. 정보가 어떻게 유출 되는지 사례를 들어 알아보겠습니다.
인공지능 스피커의 사생활 침해?
미국 클렘슨 대학교에서 현재 시판 중인 인공지능 스피커들과 서비스 제공회사들의 약관을 조사한 결과, 대다수의 회사들이 사용자에게 자세한 고지나 동의를 구하지 않고 음성 데이터와 개인정보들을 수집했다고 밝혀졌습니다. 개인정보의 불법적 유출이나 프라이버시 침해로 인한 피해는 추상적이고 주관적인 요소가 크기 때문에 가시적인 피해가 적다고 합니다.
그렇다면 개인정보 유출에만 문제가 될까요?
챗GPT에 그만 물어보세요
삼성전자 디바이스솔루션(DS) 부문은 최근 사내 게시판에 챗GPT 오남용을 주의하라는 메시지를 공지하였고, SK하이닉스는 사내망으로 챗GPT를 쓰지 못하게 막는 등 여러 기업에서 챗GPT 사용방안에 대해 빠르게 움직이는 모습을 볼 수 있습니다. 기업 기밀이 유출될 수 있기 때문입니다. 챗GPT가 직접 정보를 수집하지는 않지만, 챗GPT를 학습시키기 위해 수집하는 방대한 데이터 중에 중요 정보가 포함될 수 있다는 점에서 문제가 되고 있습니다.
정보에 대한 사례들은 전부터 수없이, 또 여전히 빈번하게 발생해 인공지능 윤리를 얘기할 때 빠지지 않는 이슈 중 하나입니다. 그렇기 때문에 정보 보호에 대해 제대로 된 규제와 정책이 국가적인 차원에서 시급할 뿐만 아니라, 정보가 유출 되었을 경우의 그 대응책 까지도 함께 다루어져야 하는 부분입니다.
3. 필터버블
필터버블이란 알고리즘으로 사용자의 행태를 분석하여 사용자에게 맞춤한 특정 데이터만을 제공해 사용자가 이외의 다른 정보를 접하지 못하고 특정 정보만을 소비하게 되는 현상을 말합니다. 유튜브의 영상들을 보다 한 번쯤 “알고리즘에 이끌려 여기까지 왔다.” 같은 댓글을 본 적 있으신가요? 맞춤형 알고리즘은 취향을 반영한다는 점에서 편리한 것 같지만, 이용자의 입맛에 맞는 것만 보여줘 정보 편식을 야기하고 더 나아가 고정관념과 왜곡된 사고에 갇히게 되는 그림자가 존재합니다. 이는 다양한 관점의 사고방식을 접할 기회가 원천 차단되어 확증 편향을 심화시키게 되죠.
트럼프의 승리? 필터버블의 승리?
대표적으로 지난 45대 미국 대선을 얘기해 볼 수 있을 것 같습니다. 힐러리와 트럼프의 대결에 많은 유권자와 언론은 클린턴의 승리를 예측했지만, 결과는 트럼프의 승리였습니다. 8,000만 명 이상의 팔로워를 가진 트럼프의 트윗 활동과 페북 광고가 대선 승리에 크게 기여했다고 하는데 문제는 트위터와 페이스북 등 플랫폼 이용자들의 필터버블에 러시아 정부가 개입해서 유권자들의 시각을 왜곡시켰다고 하는 사실이 밝혀진 것입니다. 페이스북과 같은 소셜 플랫폼들의 인공지능은 가짜뉴스와 광고를 공화당 내지 중도성향 이용자들에게 지속해 추천했고, 이용자들은 정보의 정확성이나 진정성을 객관적으로 생각해볼 수 없는 필터버블 속에 갇히게 된 것이죠.
이처럼 알고리즘에 정치적, 상업적으로 개입이 있게 되면 확증 편향이 더 심해져 갈등까지 야기시킬 수 있다는 점에서 알고리즘의 편리함이 우리를 망칠 수 있겠다는 생각을 해볼 필요가 있습니다. 기업들은 경각심을 가지고 사회에 미치는 영향까지 생각하여 적극적으로 해결책을 모색해야 하며, 우리는 이런 알고리즘이 나에게 어떤 영향을 끼칠 수 있는지 정확하게 인식하는 것이 필요합니다.
트럼프는 퇴임 연설에서 필터버블에 대해 다음과 같이 경고했습니다.
“우리들은 소셜 미디어가 제공하는 정보와 버블에 갇혀 있습니다. 우리와 비슷해 보이고 유사한 정치적 견해를 가진 사람들로 둘러싸여 있습니다. 그래서 우리는 버블 속에서 안전하고 즐겁다고 생각하면서 점점 진실이든 아니든 우리 입맛에 맞는 정보만을 당연하게 받아들이기 시작했고, 버블 밖에 객관적으로 존재하는 진실과 증거는 무시하는 데 익숙해졌습니다.”
마치며
앞서 말한 이슈들로 최근 몇 년 사이 인공지능 윤리에 대한 관심이 국내외에서 급속도로 커지고 있는 상황에 우리는 지속적인 관심을 두고 사회적 신뢰를 충분히 쌓기 위해 노력해야 합니다.
공정성을 위해 사용하나 공정하지 못한 인공지능. 굉장히 모순적이지 않나요? 저는 이 아이러니한 상황이 결국 우리 인간들로부터 시작된 것 같습니다.
‘쓰레기를 넣으면 쓰레기가 나온다’(Garbage In, Garbage Out)라는 말처럼 윤리적 인공지능은 결국 사용자의 윤리적인 사용이 있어야만 가능하다고 생각합니다. 과연 어떤 것이 중립이고 공정성일까에 대해 끊임없이 생각하며 인공지능 윤리뿐만 아니라 사용자의 윤리까지도 거버넌스를 구축해야 합니다. 그렇게 이 과도기를 지난다면 진정하게 이로운 AI의 시대뿐 아니라 우리 인간 사회 또한 한 단계 더 성숙해지지 않을까요?
