¿Se debe censurar el contenido en Internet?
El espacio público digital nos afecta y debe importarnos
Mónica López Calero y Javier García-Manglano
Segunda parte de una reflexión sobre la moderación de contenido en internet y sus implicaciones para las democracias occidentales. Puedes leer la primera parte aquí y la tercera parte aquí.
Las redes sociales son espacios públicos
Facebook tiene más de 2 mil millones de usuarios, casi un tercio de la población mundial. Mil millones de personas usan algún servicio de Google a diario. Nunca antes en la historia de la humanidad, se había concentrado tanta información en un puñado de compañías; nunca ocho CEOs (los de Google, Amazon, Facebook, Apple, Microsoft, Baidu, Alibaba y Tencent) tuvieron tanta influencia a nivel global.
Si cada una de esas empresas fuera un Estado, su capacidad de control sobre la población sería mayor que el que jamás haya ostentado cualquier Estado tradicional. La moderación del contenido que se aloja en sus servidores se está convirtiendo, por tanto, en uno de los rompecabezas más exigentes para las grandes tecnológicas. ¿Se debe regular y moderar internet, ese espacio habitado por miles de millones de personas diversas, del mismo modo que un Estado regula su territorio y sus espacios públicos?
“En muchos sentidos, Facebook es más un gobierno que una compañía tradicional. Tenemos esta gran comunidad de personas, y más que ninguna otra empresa tecnológica, nosotros estamos estableciendo políticas.”
— Mark Zuckerberg
Lo que veo, lo que leo… ¿lo que pienso?
Este dilema tiene efectos importantes, también a nivel personal. ¿Sabes que un cuarto de tu vida futura lo vas a pasar en dispositivos digitales? Piensa entonces en el poder de quienes pueden controlar lo que lees, lo que ves y lo que oyes: el control editorial sobre los contenidos de internet hace de estas plataformas entidades tremendamente poderosas. Esa influencia digital se traspasa al mundo offline, pues es inevitable que muchos de los pensamientos, imágenes, ideas y comentarios que tenemos o vemos en el entorno digital sigan en nuestra mente cuando dejamos las pantallas.
En 2017, Google y Facebook tuvieron ingresos de 135 millones de dólares por publicidad online, controlando, según las fuentes, entre el 60 y el 75 por ciento del mercado global publicitario. Estas empresas poseen el monopolio de nuestra atención y pueden influir en nuestros pensamientos y, por tanto, nuestras acciones. Además, las decisiones que toman estas grandes plataformas tecnológicas repercuten en nuestra vida pública y en nuestra democracia, por lo que para algunos sus decisiones de moderación de contenido deben ser reguladas de forma pública.
“Las empresas obtienen sus beneficios explotando su entorno. Las empresas mineras y petroleras explotan el medio físico; las empresas de redes sociales explotan el entorno social. Esto es particularmente nefasto, ya que estas compañías influyen en cómo las personas piensan y se comportan sin que ellos se den cuenta de ello. Esto interfiere con el funcionamiento de la democracia y la integridad de las elecciones. (…)
Las empresas afirman que están meramente distribuyendo información. Pero el hecho de que sean distribuidores cercanos al monopolio los convierte en servicios públicos y debería someterlos a regulaciones más estrictas, destinadas a preservar la competencia, la innovación y el acceso justo y abierto.”
— George Soros
Sistemas opacos, algoritmos desconocidos
La moderación de contenido es, por lo tanto, un asunto que nos influye a todos, porque la regulación sobre la libertad de expresión, fundamento de nuestro sistema democrático, está siendo transferida a las empresas privadas. El gobierno ha dejado de ser árbitro en la arena pública, ya que los espacios que antes eran públicos ahora están dirigidos por las corporaciones que controlan las redes sociales. La falta de transparencia es una de las grandes críticas hacia estas compañías.
Estamos expuestos a normativas opacas y algoritmos desconocidos que configuran nuestra forma de ver el mundo sin que nosotros seamos conscientes de ello. Y esto puede ser peligroso.
Desde sus orígenes, internet se postuló como ese espacio público, democrático y democratizador, en el que se superarían las relaciones de poder basadas en la tradición y el privilegio. Pronto se vio que internet reproduce tanto la desigualdad como la maldad –abusos, violencia, explotación, etc.– que existen en el mundo, por lo que es necesario moderar o censurar algunos contenidos. Las grandes tecnológicas, recipientes y propagadoras de todo ese contenido, siguen soñando con la quimera de tomar decisiones ideológicamente neutras, apolíticas, sobre lo que debe o no permanecer en la red.
¿Es posible que las grandes plataformas como Facebook, Twitter o Google regulen de un modo neutral los contenidos que sus usuarios comparten y consumen?
Nuestra confianza en al inteligencia artificial (IA) es enorme. También los gigantes tecnológicos confían en ella para escanear Internet y detectar contenidos indeseables (por reproducir falsedades, por ser violentos o sexualmente explícitos, por incitar al odio, etc.).
Pero la IA tiene tres limitaciones importantes. Primero, porque sus algoritmos están diseñados para maximizar beneficios, no para minimizar contenidos ofensivos o promover conversaciones racionales y moderadas. Segundo, porque la IA es todavía peor que cualquiera de nosotros para entender el contexto, la ironía, el humor. Tercero, porque la IA aprende de nosotros y replica… tanto lo bueno como lo malo: sesgos, prejuicios, injusticias. Te lo explicamos en detalle en el siguiente post.
Parte 1. Los escudos humanos de internet.
Parte 3. Moderar y moderarse.
Mónica López Calero estudia 4º de Economics, Leadership and Governance en la Universidad de Navarra | LinkedIn | Twitter
Javier García-Manglano es investigador en el Instituto Cultura y Sociedad de la Universidad de Navarra | LinkedIn | Twitter
