Inteligencia artificial y UX: Diseñando un futuro con conciencia ética

Las mesas de inteligencia artificial, organizadas mensualmente por MITI, son instancias aprovechadas mes a mes por las empresas para que puedan beneficiarse de las oportunidades y avances que brinda la IA.

En el último encuentro, Pamela Armstrong (UX Manager) y Fernanda Zúñiga (DesignOps Manager) de 2Brains compartieron cómo la inteligencia artificial y el diseño de UX pueden combinarse éticamente para un futuro inclusivo y diverso.

“La IA está revolucionando diversos sectores, pero es muy importante que evitemos perpetuar sesgos en nuestros desarrollos”, nos explicó Fernanda. “Nos enfrentamos a una etapa crítica donde la ética juega un papel fundamental en la configuración de su futuro”.

El evento comenzó con un repaso histórico de la IA, cuya aparición se remonta más allá de lo comúnmente conocido.

“Gracias a herramientas como ChatGPT, pudimos revisar y corregir el registro histórico de la IA, reconociendo a mujeres pioneras como Ada Lovelace, la primera programadora de la historia. Es esencial corregir la narrativa dominante que invisibiliza las contribuciones de las mujeres en este campo”.

Es esencial promover la creación de inteligencia artificial equitativa y no discriminatoria, destacando la importancia de integrar equidad y diversidad en los equipos de desarrollo para prevenir sesgos en los algoritmos. El objetivo central es desarrollar tecnologías que sean verdaderamente inclusivas y representativas de la diversidad del mundo real.

En relación con la privacidad y la protección de datos, se subrayan los riesgos de la recopilación masiva de información biométrica, especialmente datos sensibles como el iris. Se enfatiza la urgente necesidad de establecer estándares claros de privacidad y transparencia en el uso de tecnologías de IA para mitigar estos riesgos.

Desde 2Brains, se enfocan en explorar principios éticos para guiar el desarrollo de la IA con el objetivo de asegurar un impacto positivo en la sociedad. Estos principios éticos se integran en todas las etapas del diseño y desarrollo de IA para garantizar que sus innovaciones promuevan un futuro inclusivo y sostenible.

Fernanda luego detalló cuáles son los principios que proporcionan un marco ético para guiar el desarrollo y la implementación de tecnologías de inteligencia artificial de manera responsable y segura:

1. Equidad y no discriminación: Evitar que la IA perpetúe sesgos sociales y culturales, promoviendo la diversidad en los datos y en los equipos de desarrollo.
2. Privacidad y protección de datos: Proteger la información sensible recolectada por la IA, como datos personales y biométricos, asegurando transparencia y consentimiento informado.
3. El derecho y la propiedad intelectual: Aclarar los derechos de autor y la atribución en la creación de contenido generado por IA, buscando claridad legal.
4. Responsabilidad y supervisión humana: Asumir la responsabilidad por el diseño, desarrollo y uso de sistemas de IA, estableciendo mecanismos claros de rendición de cuentas.
5. Transparencia y explicabilidad: Garantizar que los sistemas de IA sean comprensibles y transparentes para los usuarios, explicando claramente el funcionamiento de los algoritmos y el uso de los datos.
6. Empleabilidad: Asegurar que la IA no cause daño físico, emocional o psicológico a los usuarios, considerando los impactos a largo plazo en la sociedad y el medio ambiente.

Además, en el encuentro se impartieron una serie de recomendaciones para el uso responsable de la IA:

- Usa información de dominio público para tus consultas
-Protege la información confidencial tanto de las personas como de las empresas
-Usa el contenido como inspiración. Transparenta la fuente y respeta los derechos de propiedad intelectual
-Verifica siempre la veracidad del contenido
-Investiga y aprende cómo estas herramientas toman sus decisiones
-Ponlas a prueba para identificar sesgos y errores

“El desarrollo ético de la IA depende de la colaboración entre industria, academia y sociedad civil. Debemos asegurarnos de que la IA sea una fuerza para el bien en la sociedad, promoviendo principios éticos que guíen su desarrollo y uso”, cerró Fernanda.

Inteligencia artificial y ética UX

“La discusión sobre la ética en la inteligencia artificial y el diseño de UX es fundamental para forjar un futuro inclusivo y diverso. En nuestro trabajo desde 2Brains, hemos encontrado casos impactantes que ilustran los desafíos y las responsabilidades éticas inherentes al uso de estas tecnologías”, nos explicó Pamela.

“Un caso notable fue el incidente donde alumnos usaron IA para crear imágenes manipuladas de sus compañeras, resultando en representaciones digitales de desnudez sin el consentimiento de las víctimas. Este evento remarca la necesidad urgente de una supervisión ética y moral rigurosa sobre el uso de IA, especialmente cuando se trata de menores y de situaciones donde se viola la privacidad y el respeto a la integridad de las personas”, sumó.

“En otro contexto, vemos el ejemplo del software Compass utilizado por la policía en Estados Unidos para identificar potenciales criminales. Este sistema, basado en IA, generó perfiles discriminatorios que afectaron desproporcionadamente a comunidades afroamericanas y latinas. La falta de transparencia y de criterios éticos en el diseño y aplicación de este algoritmo subraya la importancia de la supervisión y regulación ética en todos los niveles de implementación de la IA.”

Es por eso que Pamela destacó ciertas prácticas a tener en cuenta:

1. Consentimiento y privacidad: Es muy importante obtener el consentimiento explícito y transparente de los usuarios antes de utilizar sus datos para cualquier fin, especialmente en aplicaciones de IA que involucran imágenes o información personal.
2. Diversidad e inclusión: Considerar la diversidad en los conjuntos de datos utilizados para entrenar modelos de IA. Asegurarse de que los datos representen adecuadamente a todas las comunidades para evitar sesgos y discriminación.
3. Transparencia y explicabilidad: Los sistemas de IA deben ser transparentes en sus decisiones y procesos. Los usuarios deben poder entender cómo se toman las decisiones y por qué se toman.
4. Responsabilidad y supervisión humana: Siempre debe haber supervisión humana en el desarrollo y la implementación de sistemas de IA para garantizar que se sigan los estándares éticos y legales.

En el diseño de interfaces de usuario (UX) con inteligencia artificial (IA), se enfatiza la necesidad de principios éticos sólidos que guíen su desarrollo en beneficio de todos los usuarios. Es crucial que las organizaciones y las comunidades colaboren para establecer políticas y directrices éticas robustas que orienten el diseño y la implementación de tecnologías de IA. Esto implica la participación de expertos en ética, juristas, diseñadores de UX y desarrolladores.

Además, se destaca la importancia de educar a los profesionales involucrados en el diseño de UX y desarrollo sobre la ética en IA. Promover la conciencia sobre los impactos éticos de la IA en la sociedad es crucial, y se proponen talleres y conferencias como herramientas efectivas para mitigar efectos adversos y fomentar prácticas responsables en el diseño de UX con IA.

En cuanto a la regulación, se subraya la necesidad de apoyar la implementación de regulaciones adecuadas para proteger los derechos individuales y promover un uso ético de la tecnología. Esto incluye estándares de transparencia, auditorías de algoritmos y políticas claras de responsabilidad. En Chile, se han visto avances en la actualización de la política nacional de IA, que busca guiar el uso responsable de esta tecnología.

Desde 2Brains, se reafirma el compromiso de desarrollar y utilizar IA con responsabilidad ética, moral y social. El objetivo es buscar un bien mayor y establecer una base confiable para el uso de la tecnología. Esto implica adoptar prácticas éticas y una supervisión adecuada para asegurar que la IA contribuya positivamente a un futuro inclusivo y diverso para todos.

Te invitamos a ver el encuentro completo en nuestro canal de Youtube.

— — — — — — — — — — — — — — — — — — — — — — — — — — — — — —

MITI es una asociación gremial de empresas tecnológicas chilenas, unidas por una visión distintiva de la industria y unos principios básicos, donde compartimos aprendizajes y experiencias con el objetivo de impulsar el crecimiento de las empresas y fortalecer la industria nacional. Si te interesa formar parte, puedes contactarte con nosotros por e-mail a mejor-industria-ti@googlegroups.com.