¿Podríamos reducir los sesgos en los sistemas de reclutamiento basados en Inteligencia Artificial?
El objetivo es reducir las desigualdades en sistemas de selección de personal basados en Inteligencia Artificial (IA) y lograr una elección más justa de candidatos.
La ética en la Inteligencia Artificial
Antes de comenzar el reto, es importante saber qué es la ética en la IA y por qué es tan importante en el desarrollo de la tecnología inteligente.
La inteligencia artificial (IA) se ha convertido en una parte integral de nuestras vidas cotidianas, a veces ni nos damos cuenta. Cuando seleccionamos una película en una plataforma de streaming o escuchamos música en servicios como Spotify, detrás de esas elecciones se encuentra la IA, analizando nuestro historial de visualización o escucha para proporcionar recomendaciones personalizadas.
Lo que hace que la inteligencia artificial sea impresionante, es su habilidad para manejar cantidades masivas de información, tomar decisiones basadas en patrones y aprender de sus experiencias pasadas. Pero aquí está su punto débil: los datos.
Sin embargo, esta rápida evolución tecnológica también plantea desafíos importantes en términos de ética y responsabilidad. Su uso indebido puede llevar a la discriminación algorítmica, la pérdida de privacidad y otros problemas éticos.
Es importante que el desarrollo y la implementación de la IA se realicen con un enfoque ético y una supervisión adecuada para garantizar que su uso sea responsable y sus beneficios equitativos y transparentes
El desafío
Vemos que la IA puede tener un impacto significativo en la vida de las personas. Por ejemplo, Samsung ha desarrollado una aplicación que ayuda a pacientes con ELA a comunicarse utilizando algoritmos predictivos y un sistema de eye tracking.
Sin embargo, no todas las soluciones de IA son igual de éticas o beneficiosas. Un ejemplo polémico es la aplicación “Deep Nostalgia”, que permite revivir a personas fallecidas y se utilizó en un anuncio de Cruzcampo con Lola Flores. Estos casos a menudo no cumplen con las pautas éticas establecidas para la IA.
Es importante recordar que los algoritmos de IA se basan en datos, y si estos datos están sesgados, los resultados pueden ser discriminatorios. Esto se debe en parte a que los algoritmos se entrenan con datos históricos, lo que puede llevar a sesgos inherentes en los resultados.
Para abordar este problema, han surgido organizaciones como ETICAS, que se dedican a auditar algoritmos para prevenir la discriminación y los sesgos. Sin embargo, muchas empresas son reticentes a someterse a estas auditorías y mantienen una actitud opaca, lo que dificulta la transparencia en el uso de la IA.
Pese a estas connotaciones negativas las grandes empresas están implementando medidas para promover la confianza y la transparencia en la IA.
Y como la tecnología entraña riesgos de los que no siempre somos conscientes, el Parlamento Europeo ha votado a favor de un reglamento de la IA.
Su objetivo:
✅ Establecer un marco jurídico de la IA en el que primen los derechos fundamentales de las personas.
✅ Reforzar la calidad de los datos, la transparencia y la supervisión humana.
La sociedad está sesgada, y por tanto los datos que generamos
Es importante destacar que los datos personales no son perniciosos en sí mismos; de hecho, cuando se manejan adecuadamente, pueden ser extremadamente útiles, especialmente en el ámbito de la salud.
Empresas como Sherpa se dedican a auditar datos de manera responsable, protegiendo la privacidad de los usuarios. Esto tiene un impacto positivo, ya que permite aprovechar la IA en el campo de la salud sin comprometer la seguridad ni la privacidad de las personas.
Además, compañías como Accenture están diseñando herramientas como “Ai Fairness” para combatir el sesgo en la inteligencia artificial. Estas iniciativas demuestran cómo la IA puede utilizarse de manera ética y beneficiosa para abordar problemas importantes.
El objetivo es crear algoritmos responsables.
La selección de personal basada en la IA
Es un campo donde las decisiones automatizadas pueden tener un impacto directo en las oportunidades de las personas, por lo que hay que resaltar las cuestiones éticas.
La auditoría de algoritmos y la ética en el proceso de selección no son solo cuestiones morales, sino que también pueden generar mejores resultados para las empresas. Elegir candidatos de manera justa puede impulsar la creatividad, la innovación y el rendimiento general de una compañía.
¿Qué es un software de reclutamiento y cómo funciona?
Es una herramienta diseñada para ayudar a las empresas a administrar y optimizar su proceso de selección de personal, desde el primer contacto con los candidatos hasta la contratación final.
Ahorra tiempo y recursos a las empresas y mejora la experiencia tanto para los reclutadores como para los candidatos.
La magia detrás de este software de reclutamiento basado en IA es su capacidad para analizar enormes cantidades de datos de foma rápida.
Pero dicho software debe estar preparado para identificar y mitigar sesgos en el proceso de selección, garantizar que las decisiones tomadas sean justas y equitativas. Este analisis y esta justificación mejora la experiencia del candidato.
¿Cómo podríamos reducir los sesgos en los sistemas de reclutamiento basados en IA?
Para poder contestar a esta pregunta había que hablar con expertos y realizar una encuesta para obtener datos cuantitativos.
Entrevista a expertos
🟣 La entrevista realizada a los expertos en la contratación de personal nos ayudó a comprender y contextualizar el problema. Destacaron la importancia de las auditorías para mejorar las herramientas utilizadas. También resaltaron la relevancia de definir los valores de la empresa para que el candidato y la empresa encajen perfectamente. Por lo tanto, la IA debe ser transparente para aportar objetividad.
Encuesta
Fueron un total de 74 personas las encuestadas y algunos de los datos recogidos son los siguientes.
☑ ¿Usas la inteligencia Artificial?
☑ ¿Crees que los candidatos deberían ser informados cuando su perfil es evaluado por algoritmos de IA durante el proceso de selección?
☑ ¿Eres consciente de la importancia de usar la IA de forma responsable y ética?
☑ ¿Te gustaría recibir feedback detallado sobre por qué tu perfil fue seleccionado o rechazado por el sistema de inteligencia artificial?
☑ ¿Recomendarías el currículum vitae ciego (sin nombre, foto ni género)?
Insights
Después de la investigación realizada, las entrevistas y la encuesta se extrajeron varios insights.
Cuando un sistema IA toma decisiones es fundamental que pueda proporcionar explicaciones claras y razonables sobre su elección. Esa falta de transparencia puede llegar a general desconfianza. Por tanto los sistenas IA deben ser capaces de argumentar sus decisiones, y eso conlleva a una identifiación de los posibles sesgos o discriminación.
Esta estrategia es efectiva para reducir sesgos en la selección de personal, al centrarse en las habilidades y experiencia de los candidatos y no en sus datos personales, fomentando un proceso más equitativo.
Se debe garantizar una coherencia alineando las decisiones de la IA con los valores éticos de la empresa.
Reformulación de reto
¿Cómo podríamos mejorar la experiencia de los usuarios en los sistemas de reclutamiento basados en la Inteligencia Artificial?
La idea
✅ A través de la Inteligencia Artificial se establecerá una conexión entre candidatos y empleos.
✅ La herramienta gestiona tu perfil, experiencia y habilidades para buscar el empleo que mejor se adapte a ti.
✅ La plataforma utiliza la IA para evaluar la compatibilidad entre los candidatos y las empresas, asegurando un ajuste más sólido.
✅ Permite a las empresas y candidatos dar seguimiento y proporcionar retroalimentación sobre el proceso de selección y la experiencia laboral, lo que ayudaría a mejorar las futuras coincidencias.
✅ La IA se utiliza para eliminar sesgos en el proceso de selección, garantizando que las decisiones se tomen de manera justa y equitativa.
Benchmarking
➡ Haciendo benchmarking, se pueden observar dos plataformas: Talent Match y Opground, que aprovechan la IA en sus procesos de selección de personal. Ambas plataformas emplean la IA para beneficiar a los empleadores al proporcionarles candidatos más adecuados, estableciendo una conexión beneficiosa entre ambas partes.
Pero no utilizan ni el CV ciego ni el feedback por lo que la eliminación de sesgos no estaría del todo resuelta.
Branding
✅ En el diseño de la marca, he utilizado círculos y formas redondas con el propósito de transmitir una sensación de inclusión y comunidad. Estas formas suaves y curvas sugieren un ambiente accesible, con el objetivo de reflejar la idea de que la plataforma está abierta a todos los usuarios y está diseñada para facilitar conexiones.
✅ Los colores desempeñan un papel fundamental en la percepción de una marca. El verde da la idea de que la plataforma es innovadora y te ayuda a encontrar oportunidades para crecer. El azul da la sensación de confianza y profesionalidad. También añadí un tono morado que a menudo se asocia con la creatividad y originalidad, esto podría encajar bien con una plataforma que utiliza IA, ya que a menudo se percibe como algo futurista y de vanguardia.
✅ El diseño es sencillo y moderno, con letras redondeadas y colores llamativos que pueden atraer a un público amplio y joven. La simplicidad hace que sea claro que la plataforma es fácil de usar, y los colores y la tipografía moderna indican que está al día con las últimas tendencias tecnológicas.
Wireframe
Diseñé wireframe en baja fidelidad, a mano con rotulador y papel. De esta forma pude bocetar la idea para ir más rápida en Figma.
Son ideas sencillas que fui iterando conforme el proyecto avanzaba.
👀 Me he centrado en el flujo de un candidato al entrar en la plataforma.
Prototipo
El objetivo principal es visualizar y probar conceptos antes de pasar a la etapa de desarrollo completa. Ayuda a comprender cómo funcionará el producto final y a identificar posibles problemas o mejoras en una etapa temprana del proceso de diseño.
✅ Para ingresar a la plataforma, debemos seleccionar nuestro rol: candidato o empresa. Puedes acceder con tu cuenta de Google o introducir una dirección de correo electrónico y una contraseña segura.
✅ Una vez que has entrado te damos la bienvenida y ¡comenzamos!
✅ E.ia es una plataforma para hacer match laboral. Puedes buscar el perfil laboral o incluso seleccionar alguna de las etiquetas que e.ia sugiere.
✅ Una vez dentro de la plataforma, podemos comenzar a introducir nuestros datos para configurar el perfil. Los datos personales, como se indica en el screen, permanecerán ocultos hasta el momento de la entrevista. Nuestro valor radica en un currículum vitae ciego, y creemos que no es necesario incluir esos datos en las primeras etapas de una búsqueda laboral.
✅ Aquí radica el valor de nuestro proyecto. Cuando añadimos la experiencia, al igual que habilidades, intereses o proyectos relevantes, podemos utilizar la inteligencia artificial implementada en la plataforma, para mejorar la visibilidad y relevancia de los perfiles de los usuarios en las búsquedas de empleo.
Optimiza la descripción de esos perfiles en términos de las palabras clave que los motores de búsqueda utilizan, para encontrar candidatos para trabajos específicos.
Esto aumenta las posibilidades de que los usuarios sean encontrados y considerados para oportunidades laborales que se adapten a sus habilidades y experiencia.
✅ Si seleccionas la opción ‘empleo’ en el menú lateral, podrás utilizar el buscador para encontrar puestos de trabajo. Además, puedes aprovechar la búsqueda semántica que utiliza la inteligencia artificial (IA) para procesar y comprender el significado completo, así como la intención del lenguaje utilizado en las consultas de búsqueda, de manera similar a cómo lo haría un ser humano.
Una vez que aparezca la lista de puestos laborales, podrás ver en detalle la descripción de cada puesto y la coincidencia que la plataforma ha establecido con respecto a tu perfil.
✅ A través del diseño de cards, puedes visualizar los empleos a los que has postulado que están actualmente activos. En cada card, puedes ver la coincidencia (match) con tu perfil y algunos detalles de la descripción del puesto.
✅ De manera similar a los empleos activos, puedes visualizar los empleos descartados, que son aquellos en los que la coincidencia es menor al 50%. En e.ia, creemos que el feedback es realmente importante, ya que ayuda al usuario a comprender mejor las decisiones y, por tanto, puede mejorar su perfil.
✅ La última pantalla que he diseñado para entender la plataforma es un dashboard. En ella podemos visualizar los datos del proceso laboral:
- Actividad semanal
- Entrevistas pendientes y realizadas
- Un ranking de habilidades
- Afinidad
- Match laboral
Sistema de diseño
Vamos llegando al final, pero es importante mostrar el sistema de diseño de la plataforma para garantizar la coherencia al prototipo y poder facilitar el mantenimiento y la iteración.
🟢 He realizado una captura de pantalla de figma para visualizar la sección de foundation del sistema de diseño realizado para la plataforma e.ai. Incluye la tipografía, la paleta de colores, los iconos y algunas ilustraciones que he diseñado para utilizar en el proyecto.
🟢 Captura de pantalla donde se pueden visualizar los componentes diseñados: botones, input, cards, checkbox, radio button, chips, tabs…
Conclusiones
La Inteligencia Artificial tiene un enorme potencial para hacer del mundo un lugar mejor y resolver problemas complejos, pero también es importante reconocer que su mal uso puede plantear dilemas éticos, como la discriminación y la falta de privacidad. En este contexto, la transparencia y la eliminación de sesgos son fundamentales para asegurar que la IA funcione de manera justa y equitativa.
Cuando se trata de utilizar la IA en la selección laboral, eliminar los sesgos es esencial para garantizar igualdad de oportunidades para todos. La investigación ha demostrado que la transparencia, la capacidad de explicar las decisiones tomadas por la IA y la eliminación de datos personales pueden reducir los sesgos. Además, es crucial alinear las decisiones de la IA con los valores de la empresa.
La herramienta que se propone utiliza la IA de manera efectiva para evaluar perfiles, experiencias y habilidades de los candidatos. Esto simplifica la búsqueda de empleos para que se ajusten mejor a tus capacidades y metas profesionales, lo que puede aumentar la satisfacción tanto de los empleados como de las organizaciones.
Además, proporcionar retroalimentación durante el proceso de selección puede tener un impacto positivo en la mejora continua y en la satisfacción de ambas partes involucradas.
➡ En resumen, esta herramienta de inteligencia artificial es valiosa para mejorar la conexión entre candidatos y empleos. Aborda cuestiones clave como la eliminación de sesgos y la mejora de la experiencia de selección y empleo para todas las partes involucradas, al mismo tiempo que se mantiene un enfoque en la importancia de la ética en el uso de la IA.
