[XRMust] 왜 VR의 윤리에 대해 논해야 하는가?
글쓴이: Anna Valeri
원문: 2021년 2월 3일자 XRMust Editorial
옮긴이: 김종민 Producer (GiiÖii)
21세기는 윤리적 문제에 까다로운 시대이다. 서양 윤리학의 근간을 세운 고대 그리스인과는 달리, 우리는 도덕 규칙에 큰 의심을 품는 경향이 있다. 서구 자유 민주주의 제도 아래에서 우리 각자는 개별 경험의 독특한 프리즘을 통해 자신만의 ‘옳고 그름’을 정의할 권리가 있고, 이 정의는 법적으로 보호되는 공공 질서의 경계를 넘어서기도 한다. 시장 경제도 동일한 논리를 따르고 있다. 법이 존중되고 그 과정에서 소비자가 물리적으로 피해를 입지 않는 한, 이익을 추구하는 것을 나무라지 않는다.
디지털 기술은 일상 생활에 없어서는 안될 요소가 되었기 때문에, AI 및 로봇 공학을 포함한 기술 생태계 전반에 걸쳐, 기술 발전의 불명확하고 장기적인 영향을 고려할 필요성이 높아지고 있다. VR 산업 분야는 윤리적 논쟁에 상대적으로 무관심했지만, 최근 기술이 많이 발전함에 따라 인식이 바뀌고 있다. 우선, 몰입형 기술 생태계에서 Facebook의 존재감이 커지고 있다는 사실에 많은 사람들이 놀라고 있다. 논란의 여지가 있는 거대 기술 기업이 하드웨어 (Oculus Quest 2, 프로젝트 ARIA) 및 플랫폼 (Horizon) 혁신을 통해 대중 시장을 장악하기 위한 길을 꾸준히 개척하는 모습에 불안한 의혹이 생기게 된다. “과연 우리의 미래(our immersive Future)는 잘 가고 있는걸까?” 간단한 문제는 아니다. 주요 관심사는 Facebook이나 나머지 GAFAM (빅테크 기업 — 구글, 애플, 페이스북, 아마존, 마이크로소프트의 약자. 역주) 또는 다른 XR 회사 자체가 아니다. 무엇보다도 기술 그 자체다.
수십 년 동안 몰입형 기술은 무한한 가능성을 가진 완전히 새로운 차원의 현실을 창조함으로써 세상의 한계를 극복하려는 유토피아적인 꿈으로 우리의 상상력을 사로 잡았다. 인간의 조건을 뛰어 넘는 아이디어는 인류 그 자체만큼이나 오래되었지만 여기에는 반전이 있다. 가상 현실이 만들어주는 ‘현실 탈출 경험’은 전례없이 강력하다. 사실이 아니라는 것을 알지만, 적절한 시각 및 청각 자극만으로도 우리의 두뇌는 속기 쉬워서 가상을 실제처럼 경험하게 된다. 가상 훈련이 가능하도록 만드는 이런 VR 기술의 퀄리티는 잠재적으로 위험하다. 게임과 관련된 일반적인 윤리적 도전 (폭력, 중독, 신체 방치 등)을 넘어서, 우리는 매체와 사용자 사이의 경계를 모호하게 하여, 사용자가 가상의 생활을 심오하게 여기도록 하는 획기적인 기술을 다루고 있다. Nick Yee와 Jeremy Bailenson에 따르면 사용자가 자신의 행동을 아바타의 외모에 적응시키는 것을 ‘프로테우스 효과’라고 하는데, 이 때문에 가상의 자아는 점차적으로 우리의 실제 정체성과 합쳐져 재구성될 수 있다. 연구자이자 윤리학자인 Michael Madary와 Thomas K. Metzinger는 이렇게 말했다. “VR 환경과 확장된 상호 작용이 심리적 수준뿐만 아니라 생물학적 수준에서도 더 근본적인 변화를 가져올 수 있다는 가능성을 배제할 수 없다.” VR은 사용자가 인종적 편견을 극복하고 더 이타적이 되는 데 도움이 되기도 하지만, 동일한 매커니즘으로 부도덕하거나 저열한 행동을 촉발하기도 한다. 그런 의미에서 양날의 축복이기도 하다. (자세한 내용은 Madary & Metzinger의 ‘진정한 가상성: 윤리적 행동의 코드 (Real Virtuality : A Code of Ethical Conduct)’를 참조할 것).
일단 많은 대중들이 사용하게되면, VR은 더 큰 트렌드를 만들어 갈 것이다. 디지털 테크놀로지는 인간이라는 의미를 재정의할 것이다. 좋게 발전한다면 우리는 궁극적인 꿈이 이루어지는 미래를 상상할 수 있다. 메타버스는 우리의 창의력을 마음껏 발휘할 수 있도록 해줄 것이고, 불평등을 완화시켜 줄 것이며 마침내 온라인에서 ‘진짜’ 사회적 상호작용의 스릴을 경험할 수 있게 해줄 것이다. 그러나 한편으로는 가상으로 매개된 존재가 사용자들을 다른 사람의 감정에 둔감하게 만들거나, 현실 세계를 완전히 저버리도록 유혹하는 디스토피아적인 시나리오를 무시하기는 어렵다. 실제 미래는 두 가지 모습이 뒤섞일 가능성이 높고, 이는 이 업계에 관련을 맺고 있는 우리가 VR의 윤리적 측면을 진지하게 받아들여야할 필요가 있다는 것을 시사하고 있다. 겉 보기에는 사소해보이더라도 월드 디자인, 스토리텔링 기술, 아바타 표현, 가상에서 이루어지는 행동과 여러 동의 과정에 대한 매커니즘에 관련되어서 오늘날 내리는 모든 결정들이 앞으로는 매우 중요한 문제가 될 것이기 때문이다.
Robert Nozick이 1974년에 했던 고전적 ‘경험 머신’ 에 대한 생각 실험을 현대적 맥락에 적용한다면, 이 아젠다에 대한 핵심적이고 실존적인 질문은 더이상 “인간이 쾌락을 주는 머신에 영원히 연결되기를 원할까요? (대부분의 경우 무료 평가판 옵션이 제공됨)”가 아닐 것이다. 오히려 ‘어떻게 인간성을 보존하는 방식으로 머신을 프로그래밍 할 수 있을까’가 될 것이다.
여기에서 우리는 진정한 도전에 직면하게 된다. 지금까지는 개별적인 단위에서 마음껏 ‘가상 몰입형 미래 (immersive Future)’를 만들어왔으며, 이는 여러 가지 이유로 문제가 될 수 있다. 첫째, 돈이 관련되어 있기 때문이다. Kent Bye의 XR Ethics Manifesto에 설명 된대로, 기술 기업이 주주의 이윤을 극대화하려다 보면 종종 사용자를 위한 의무와 충돌하게 된다. 이러한 기업 패러다임은 판매되는 가상 경험이 인간의 인식을 재구성할 수 있을 때, 그리고 거래되는 주요 상품이 사용자의 개인 정보일 때, 법적인 관점에서나 도덕적 관점에서 특히 의심스러워진다. 최근 다큐멘터리 <소셜 딜레마 (Social Dilemma)>에 등장한 Tristan Harris와 같은 실리콘 밸리 ‘내부 고발자’에 따르면, 소셜 플랫폼들은 정신 건강을 해치고 사회적 양극화를 증가시키는 댓가로 유저의 참여를 극대화시키기 위해 조작 가능한 디자인을 의도적으로 채택해 왔다. 소셜 VR이 다른 소셜 플랫폼들과 크게 다를 것이라고 믿을 이유가 거의 없으며 실제로는 매우 유사하다. 사용자의 신체와 주변 환경에 대해서 직접적이고 통찰력있는 정보를 취득할 수 있는 XR 기기들은 우리의 디지털 기록들(Digital Footprints, 온라인 상에 남아있는 글과 이미지들. 역주)을 확장할 뿐만 아니라 더욱 세분화시켜 조작하기 쉽게 만든다. Facebook이 Oculus Quest 2에 대해 계정 연결 로그인을 요구한다는 사실은 이 새로운 종류의 데이터가 광고에 의존하는 기술 기업에게는 진정한 금광이며, 그만큼 사용자의 프라이버시를 크게 위협하는 것임을 증명한다. 실제로 Stanford 대학의 Virtual Human Interaction Lab의 최근 연구에 따르면 몰입형 경험을 통해 수집된 데이터 종류는 이전에 생각했던 것보다 익명화하기가 더 어려울 수 있다. 분명히 VR 분야에서 책임감 있게 기술 혁신을 이뤄내려면 ‘감시 자본주의’에 내재된 비즈니스 모델과 개인 정보 보호 프레임 워크를 어느 정도 들여다 봐야 한다.
성장 지향적 비즈니스 정신의 도덕적 무결성에 의문을 제기하는 것 외에도 개발자들을 이끌어가는 다른 가치를 검토해볼 수도 있다. 여기에 의문을 갖게 만드는 여러 증거들이 있는 만큼, 선도적인 기술들이 우리의 삶의 방식을 재정의 할 수 있을 만큼 ‘존재적’이라고 가정한다면, 이 기술을 만드는 제작자의 이데올로기를 따져보는 것이 합리적이다. (흑인과 범죄율과의 편견을 기반으로 했던 )AI 알고리즘의 유감스러운 사례를 보더라도 이 부분에 대해 진지하게 접근해야할 필요가 충분하다. 실리콘 밸리를 지배하고 있는 이데올로기가 노골적인 ‘부도덕’으로 분류될 수는 없지만, 일방적인 것만은 분명하다. 인도주의적 원칙은 배제한 채 자기 가치를 극대화하도록 부추기는 사회 분위기 속에서 기술 혁명가는 어떤 대가를 치르더라도 경쟁자들을 능가하고 혁신을 이뤄내기 위해 결국 사회 전체를 위해 고려해야 할 필수 요소 중 일부를 외면하게 된다.
그러나 이러한 윤리적으로 근시안적인 태도는 적절한 기업 문화로 해결할 수 있다. 오늘날 대부분의 기술직 노동자들은 당면한 윤리적 문제에 대해 깊이 생각하고 고려할 수 있도록 충분한 자료와 조언을 제공받지 못하고 있다. 실존적 딜레마를 다루는 데 더 많은 경험을 가진 학계나 다른 업계의 전문가들과 만날 수 있는 자리가 자주 만들어진다면 도움이 될 것이다. VR 기술은 늘 참신하고 빠른 개발 속도를 보이고 있기 때문에 몇몇 거물 기업들만의 행보로 제대로 자리잡을 수 있을 만큼 단순하지 않다. 윤리적 표준은 궁극적으로 VR 생태계 내부 및 외부의 다양한 목소리에 의해 형성되어 균형과 공정성을 보장해야한다.
오늘날 디지털화된 세계는 인류 역사상 그 어느 때보다 훨씬 더 복잡하다. 가상 현실에서 어떤 종류의 세계를 만들 것이며 어떤 이야기를 하게 될 것인지 정의하는 것은 매우 복잡한 작업이다. 경제적으로나 도덕적으로 합리적인 방식으로 빅 데이터를 민주화하는 방법을 찾는 것도 똑같이 복잡하다. 그러나 좌절하지 말고 도전해야 한다. 윤리는 우리가 세상을 더 잘 알 수 있는 기회를 제공하고, 적합한 질문을 시작할 수 있는 기회를 제공함과 동시에 도덕성에 대해 고민할 수 있는 새로운 틀을 함께 개발할 수 있는 기회를 제공한다. 이 기회에 우리는 개인주의적인 사고방식에서 벗어나 집단 지성이 올바른 방향으로 나아가기 위한 최선의 선택이라는 것을 유념해야 한다.
저자인 Anna Valeri는 Ethical Framework for XR (EF4XR)의 창립자이다. XR 분야에서 책임감 있게 혁신할 수 있는 지식과 리소스를 사회에 제공하고자 하는 사명을 가지고 있다.
