¿Es la inteligencia artificial inclusiva para las personas con discapacidad?

Lo que Gemini y ChatGPT me contaron y los pensamientos que se me vinieron a la mente.

Buscando contenido sobre inteligencia artificial (IA) para un curso de Accesibilidad Web que debo dictar, hice el ejercicio de hacer la misma pregunta a las versiones gratuitas de dos modelos de IA generativa: ChatGPT de OpenAI y Gemini de Google.

Ante la pregunta ¿Es la inteligencia artificial inclusiva para las personas con discapacidad? Gemini entregó una respuesta más completa y estructurada en comparación a ChatGPT, ya que, además de responder a la pregunta planteada, entregó ejemplos y otros datos que no fueron solicitados pero que fueron muy provechosos ya que permiten comprender mejor el tema. En tanto, ChatGPT se limitó a contestar la pregunta de manera correcta pero escueta.

Finger Reader, dispositivo desarrollado por el MIT Media Labs, que comunica el texto impreso a voz con la ayuda de una cámara, facilitando la lectura a personas con discapacidad visual.

Este ejercicio, más cercano a la curiosidad que a determinar el éxito de la tecnología, no buscaba demostrar cuál es la mejor herramienta, sino obtener una respuesta y ver si me hacía sentido. Las leí y luego comparé los contenidos, y si bien en la pregunta hecha no pedí ejemplos u otros datos, me agradó Gemini por su proactividad, y además, me permitió mejorar algunas ideas de la presentación que estaba elaborando para la clase.

Estos chatbots pueden entregarnos información más o menos completa, podemos utilizar la que queramos, pero siempre bajo un criterio responsable y ético, analizando si las respuestas que conseguimos son válidas y coherentes, sin sesgos o información errónea. Ambos indican a pie de página que pueden mostrar información imprecisa y que la persona usuaria debe comprobar, por lo que examinar la calidad de la respuesta y contra preguntar a la herramienta son acciones que debemos realizar por rigurosidad, para luego elaborar un texto robusto a partir del procesamiento de los datos recibidos.

“Los sistemas de IA pueden reflejar y amplificar los sesgos existentes en la sociedad. Esto significa que pueden discriminar a las personas con discapacidad de manera inadvertida. Es importante que los desarrolladores de IA sean conscientes de este riesgo y tomen medidas para mitigarlo” Definición del concepto “sesgo” según Gemini.

El resultado

Podemos contrastar las respuestas entre estas tecnologías y nuestro conocimiento y realizar una investigación en otras fuentes, a gran escala o no, dependiendo de cuánto tiempo tengamos. Al menos, es lo que yo hago y hasta ahora me ha ido bien, quizás me tome más tiempo procesar la información, pero no me conformo con el copy paste.

En resumen, pregunté, leí, contrasté y seleccioné, y también utilicé Google para preguntarle algunas cosas relacionadas a ortografía. A continuación comparto el texto que elaboré:

“La inteligencia artificial (IA) es una herramienta que puede aportar a la inclusión de personas con discapacidad (PcD), ya sea mediante la eliminación de barreras o la disposición de tecnologías asistivas, gracias al diseño y desarrollo consciente y accesible, que considere las necesidades y experiencias de las personas usuarias durante todo el proceso.

Sin embargo, así como puede mejorar la accesibilidad para las personas con discapacidad, la IA también puede contar con sesgos y barreras adicionales para ellas. Miguel Barraza, desarrollador, experto en accesibilidad y persona ciega, los define como “la tendencia sistemática y persistente de los algoritmos de la IA a producir resultados no imparciales, justos o equitativos”. Es lo que pasa, por ejemplo, cuando un sistema de reconocimiento de voz no está entrenado para reconocer diferentes patrones de habla, pudiendo excluir a personas con dificultades del habla o con acentos particulares.

Los sesgos presentes en la información que nos entrega la IA reflejan los prejuicios, mitos o formas de discriminación que expresan las personas respecto a un determinado grupo o tema, por eso, como desarrolladores y diseñadores de experiencia, debemos ser cuidadosos.

Además de la eliminación de sesgos, otros aspectos que permiten que la IA sea inclusiva con las PcD son: la accesibilidad de los sistemas para personas con diferentes discapacidades; la privacidad y protección con que se tratan sus datos personales; y, la conciencia para comprender sus derechos e involucrarles en el desarrollo y uso de la tecnología.

La IA que fomenta la inclusión de PcD se utiliza para potenciar diferentes aspectos, algunas desde hace bastante tiempo. Algunos ejemplos:

• Asistentes de voz y reconocimiento de voz (Siri, Google Assistant, Alexa, otros)
• Soporte visual mediante reconocimiento de objetos y texto, muy útil para personas con discapacidad visual (descripción de imágenes, lectura de texto en voz alta y entrega de información del entorno circundante)
• Tecnologías de asistencia que les ayudan a comunicarse, trasladarse o moverse (exoesqueletos robóticos, sillas de ruedas autónomas, prótesis controladas por la mente)
• Herramientas para la educación que permiten personalizar el aprendizaje para estudiantes con discapacidades (retroalimentación y apoyo en tiempo real, subtitulado de videos en tiempo real, traducción de texto a lengua de señas)
• Herramientas para encontrar empleo y tener éxito en el lugar de trabajo (creación de currículums y cartas de presentación personalizadas, preparación para entrevistas, apoyo en el trabajo)”.

Les invito a seguir aprendiendo sobre la infinidad de tecnologías que potencian la inclusión de las personas con discapacidad y a no olvidar que las personas tenemos distintas formas de desenvolvernos en los muchos aspectos de nuestras vidas y que tenemos necesidades y preferencias diferentes. Estaremos construyendo un proyecto inclusivo que beneficiará a una mayor cantidad de personas. Y si no sabes muy bien cómo hacerlo, la IA puede ser una aliada para que te orientes si haces las preguntas correctas.

PD: a continuación pueden leer las respuestas íntegras que me dieron ambas herramientas.

Gemini

La inteligencia artificial (IA) tiene el potencial de ser una herramienta poderosa para la inclusión de personas con discapacidad. Al eliminar barreras y proporcionar asistencia, la IA puede ayudar a las personas con discapacidad a vivir vidas más independientes y plenas.

Ejemplos de cómo la IA se está utilizando para promover la inclusión:

• Asistentes de voz y reconocimiento de voz: Los asistentes virtuales como Siri, Google Assistant y Alexa pueden ayudar a las personas con discapacidades motoras o visuales a interactuar con dispositivos electrónicos. Por ejemplo, las personas pueden usar comandos de voz para controlar luces, termostatos y electrodomésticos, hacer llamadas telefónicas, enviar mensajes de texto y acceder a información.
• Soporte visual mediante reconocimiento de objetos y texto: Las aplicaciones de IA que utilizan el reconocimiento de objetos y texto pueden ayudar a las personas con discapacidades visuales. Pueden describir imágenes, leer texto en voz alta y proporcionar información sobre el entorno circundante. Esto puede ayudar a las personas con discapacidades visuales a navegar por el mundo de manera más segura e independiente.
• Tecnologías de asistencia: La IA se está utilizando para desarrollar nuevas y potentes tecnologías de asistencia, como exoesqueletos robóticos que pueden ayudar a las personas con discapacidades para caminar, sillas de ruedas inteligentes que pueden navegar de forma autónoma y prótesis controladas por la mente. Estas tecnologías pueden mejorar significativamente la calidad de vida de las personas con discapacidades.
• Educación: La IA se puede utilizar para personalizar el aprendizaje para estudiantes con discapacidades, proporcionándoles retroalimentación y apoyo en tiempo real. También se puede utilizar para crear entornos de aprendizaje más accesibles, como subtitular videos en tiempo real o traducir texto a lenguaje de señas.
• Empleo: La IA se puede utilizar para ayudar a las personas con discapacidades a encontrar empleo y tener éxito en el lugar de trabajo. Por ejemplo, se puede utilizar para crear currículums y cartas de presentación personalizadas, preparar a las personas para entrevistas y proporcionar apoyo en el trabajo.

Sin embargo, también existen desafíos para garantizar que la IA sea inclusiva:

• Sesgo: Los sistemas de IA pueden reflejar y amplificar los sesgos existentes en la sociedad. Esto significa que pueden discriminar a las personas con discapacidad de manera inadvertida. Es importante que los desarrolladores de IA sean conscientes de este riesgo y tomen medidas para mitigarlo.
• Accesibilidad: Los sistemas de IA deben ser accesibles para las personas con todo tipo de discapacidades. Esto significa que deben diseñarse teniendo en cuenta las necesidades de las personas con discapacidades visuales, auditivas, motoras y cognitivas.
• Privacidad: Los sistemas de IA que recopilan datos personales sobre las personas con discapacidad deben diseñarse para proteger la privacidad de esos datos.
• Conciencia: Las personas con discapacidad deben estar involucradas en el desarrollo y uso de sistemas de IA que les afecten. Esto ayudará a garantizar que estos sistemas sean diseñados para satisfacer sus necesidades y respetar sus derechos.

En general, la IA tiene el potencial de ser una fuerza poderosa para el bien en la vida de las personas con discapacidad. Sin embargo, es importante ser consciente de los desafíos para garantizar que la IA se desarrolle y utilice de manera inclusiva y responsable.

Aquí hay algunos recursos adicionales que puede explorar:

• Grupo Social ONCE: [se quitó una URL no válida]
• Fundación ConTrabajo: [se quitó una URL no válida]
• MAPFRE: https://www.mapfre.com/actualidad/innovacion/ia-personas-discapacidad/
• Konrad Lorenz: https://www.konradlorenz.edu.co/noticias/ia-personas-con-discapacidades/
• BCN: [se quitó una URL no válida]

ChatGPT 3.5

La inteligencia artificial (IA) tiene el potencial de ser inclusiva para las personas con discapacidad, pero esto depende en gran medida de cómo se diseñen y desarrollen las tecnologías de IA.

Por un lado, la IA puede ser utilizada para desarrollar herramientas y aplicaciones que mejoren la accesibilidad y la calidad de vida de las personas con discapacidad. Por ejemplo, los sistemas de reconocimiento de voz pueden permitir a las personas con discapacidad motriz interactuar con dispositivos y software de forma más fácil, y los algoritmos de traducción automática pueden facilitar la comunicación para personas con discapacidades auditivas.

Sin embargo, también es importante tener en cuenta que la IA puede introducir sesgos y barreras adicionales para las personas con discapacidad si no se diseña de manera adecuada. Por ejemplo, si un sistema de reconocimiento de voz no está entrenado para reconocer diferentes acentos o patrones de habla, puede excluir a personas con discapacidades del habla o con acentos no estándar.

En resumen, la IA tiene el potencial de ser inclusiva para las personas con discapacidad, pero esto requiere un enfoque consciente en el diseño inclusivo y la consideración de las necesidades y experiencias de las personas con discapacidad durante todo el proceso de desarrollo.