Inteligencia Artificial para UX Writers
Notas de una conversación y highlights de una Content Design Jam para salir del hype y profundizar en conceptos.
Inspiradas en personas
Las personas tenemos una inteligencia única que se distingue de la inteligencia de otras especies por su capacidad de crear significado a través de símbolos. Además de adaptarnos al medio en el que vivimos, desarrollamos capacidad de entender el pasado y anticiparnos al futuro. Esto es posible gracias a que damos significado a lo que percibimos y lo transmitimos a través de símbolos (A. Hernando). ¡Así llegamos bien lejos! Podemos incluso anticipar eventos e imaginar futuros.
Las inteligencias artificiales “son algoritmos desarrollados para realizar predicciones futuras sobre bases de datos del pasado” (C. Danesi). Es decir, tratan de potenciar esta capacidad humana de anticiparse. Quizás por eso tendemos a crear tecnología “a nuestra imagen y semejanza”. Los robots son un clásico ejemplo de esto, en especial los androides. ¿Por qué cuando imaginamos un futuro con Inteligencia Artificial avanzada tendemos a darle forma humana?
¿Y qué pasa con el lenguaje?
Los programas que se dedican a comprender y generar lenguaje natural se llaman modelos de Procesamiento de Lenguaje Natural (PLN). ChatGPT o Bart de Google son ejemplos de estos modelos. Voy a explicarlos con palabras de Carmen Torrijos, lingüista computacional.
“Los modelos de PLN se entrenan con muchísimas palabras en sus contextos. Han visto tantas veces una palabra asociada a otras que empieza a comprender esos contextos de una manera estadística”.
Luego, el modelo utiliza esa probabilidad para “predecir” términos que siguen a otros tomando en cuenta cómo cambia un significado según el contexto. Podríamos decir que se preguntan ¿qué palabra es más probable que le siga a la palabra “vaso”? Y responde “ de agua” o “sanguíneo” según el uso que se esté haciendo de la palabra vaso en ese texto en particular. Así generan predicciones lingüísticas que entienden la polisemia de las palabras según la variedad de los contextos, una cualidad que hasta el momento solo poseíamos las personas.
Nosotros “sabemos que una palabra es sinónimo de otra porque se usa en el mismo contexto. Lo que tenemos es una estadística intuitiva, lo que tienen estos modelos es una estadística objetiva”.
Generar no es crear
Los modelos de PLN necesitan entrenarse con millones y millones de datos. Ahora, no crean esos datos. Solo las personas podemos percibir, interpretar el mundo y crear nuevos símbolos. Por eso se dice que “los datos son personas”, porque dependen exclusivamente de la invención humana. Lo que pueden hacer los modelos de PLN es entender y generar con base a probabilidades, pero no pueden crear información nueva.
Riesgos
La dependencia de los datos limita los riesgos de que las Inteligencias Artificiales roben nuestro trabajo. Sin embargo, hay peligros latentes asociados al uso de estas tecnologías:
El genérico eterno
Como los resultados que generan las IA (incluyendo los modelos de PLN) están basados en funciones matemáticas, reproducen bien los casos altamente probables, pero no pueden ayudar mucho con los casos extremos.
Tienen margen de error en el tono: arrojan textos fríos, sin estilo, despersonalizados que no ayudan a las personas a sentirse identificadas, y como no tienen parámetros morales, responden a temas que exigen una toma de posición sin decir nada muy concreto.
El sesgo cero: hermosa fantasía
Como los datos que se usan para entrar a las IA están producidos por personas y las personas nunca somos 100% objetivas, siempre se trabaja con datos sesgados. Es importante valorar los esfuerzos por reducir los sesgos de género, de raza, de clase y de todo tipo. Igual de importante es reconocer que nunca pueden reducirse a cero. Más sobre sesgos en redes neuronales en esta charla de Laura Alonso Alemany.
Sesgos liebre, legislaciones tortuga
Como la cantidad de datos que se utilizan para el entrenamiento es enorme y la rapidez para generar resultados de las IA es mucho mayor que la humana, los sesgos tienden a amplificarse rápidamente a escala internacional. El problema es que -hoy por hoy- no contamos con las herramientas legales para prevenir ni revertir estos efectos. Los sesgos corren más rápido que nuestras legislaciones. Por eso, diferentes profesionales llaman la atención sobre la necesidad de trabajar urgentemente en formas de colaboración internacional para atender a cuestiones éticas.
Mentiras peligrosas
Como las IA no tienen sentido crítico para distinguir lo verídico de lo falso, pueden reproducir datos no reales. En otras palabras, pueden mentir sin siquiera saber que están mintiendo. Por eso es tan fácil usar estas herramientas para reproducir fake news, cometer estafas o simular escenarios que algunas personas pueden confundir como reales.
Futuros posibles
Hype significa inflar un tema, causar más ruido que sonido. En este caso, el ruido son esos posteos, noticias, esos artículos y esos comentarios en podcast que seguro les llegaron: historias sobre cómo, en algunos años, todas las personas que nos dedicamos a escribir contenido nos vamos a quedar sin trabajo.
Desde Saltolab, creemos que ir más allá de hype implica entender qué es mentira en estas historias y qué puede ser real.
- Es verdad que los modelos de PLN pueden generar texto muy bien. Es mentira que pueden hacer nuestro trabajo porque las/os UX Writers no nos dedicamos solo a escribir. La mayor parte del tiempo nos dedicamos a empatizar con las personas usuarias, analizar datos cuantitativos y cualitativos sobre sus sentimientos y comportamientos con sentido crítico, idear, definir tonos, tomar decisiones estratégicas… cosas que no pueden reemplazarse con Inteligencia Artificial.
- Es verdad que pueden ayudarnos a clasificar y detectar patrones en bases de datos grandes como desgrabaciones de un call center, pero no puede decirnos por qué las personas asocian ciertas palabras a ciertos reclamos, mucho menos pueden decirnos cómo se sienten después de la consulta. Cuando nosotros escuchamos o vemos a otra persona, detectamos rápidamente cómo se sienten. No es infalible, pero es indispensable. Lo que seguro es mentira es que con IA se puedan simular usuarios. Aunque no lo crean, hay consultoras intentando vender este servicio.
- Es verdad que las IA pueden ayudarnos a llenar la hoja en blanco más rápido con ideas generales, a recortar cantidad de caracteres e incluso pueden darnos una buena mano generando copies “genéricos”. Por mi parte, ¡encantanda! Los textos “genéricos” suelen ser lo más aburrido y lo menos estratégico, no me molestaría dárselos a un asistente de IA.
- Es mentira que ChatGPT podría reemplazar mañana a un equipo de UX Writers, pero es real que la Inteligencia Artificial se está incorporando cada vez más en las empresas (75% de las empresas quieren incorporar IA en los próximos 5 años) de modo que seguirá siendo importante entender cómo funcionan, estudiarlas e incorporarlas. Incluso pueden presentarnos nuevas salidas laborales, ya que los UX Writers tenemos habilidades que podrían servir en el desarrollo de modelos de procesamiento de Lenguaje Natural y sus roles derivados, como por ejemplo el Prompt Engineering.
Colaborar es humano
En el medio del hype, puede ser difícil separar la verdad de la mentira, pero sí parecería haber una realidad imparable: las IA y en especial los modelos de PLN llegaron para quedarse. Pensarlos únicamente como contrapunto o amenaza no nos lleva a ningún lugar. Entonces, la propuesta es colaborar.
Si entendemos a la IA como la oportunidad de sumar un verdadero copiloto en la mesa de diseño, estas herramientas pueden colaborar con nosotros en la construcción de futuros que ya hemos soñado. Futuros donde todas las personas accedamos a una renta universal, mencionada incluso por Elon Musk, que nos garantice calidad de vida básica. O, un poco más allá: futuros donde la tecnología se encargue de la mayor carga de trabajo, mientras las personas dedicamos más tiempo a descansar.
¿Se lo imaginan?
Gracias por leer hasta acá.
Estas notas las tomamos como destaques de una conversación que tuvimos a lo largo de diferentes encuentros hosteados por el lab: la Content Design Jam de Inteligancia Artificial y la Meetup De Inteligencia Artificial para UX Writers.
Seguro repetimos porque este tema nos trae material para seguirla. Si querés participar de las próximas jams, anotate en esta lista de espera así te enterás apenas tengamos fechas nuevas.
