ThinkTech+ | Marzo 2024
¡Hola de nuevo!
Bienvenidos a ThinkTech+, el newsletter mensual de ThinkTech, en la Universidad de Navarra. Como cada primer viernes del mes, te traemos lo más relevante del mundo de la tecnología: las últimas noticias, nuestras reflexiones y debates, algunas recomendaciones y algo nuevo que aprender. Te damos lo esencial, pero siempre puedes ir más a fondo siguiendo los enlaces. Esperamos que te guste y nos recomiendes.
Mistral respaldada por Microsoft, posicionándose en Silicon Valley
Mistral, una empresa emergente de apenas nueve meses, hace modelos de IA similares a los de ChatGPT y Gemini. El lunes pasado Microsoft anunció su apoyo a la empresa, haciéndose dueña de un pequeño porcentaje de la empresa.
¿Cómo puede Mistral cambiar el panorama de inteligencia artificial? Al ser una start-up nueva y sin mucho capital, la empresa se centra en ser lo más eficiente de la forma más económica posible. Algo que la diferencia a la mayoría de empresas similares es que muchos de sus modelos son open source, es decir, que cualquiera puede acceder al código de sus modelos. La única otra gran empresa que publica en open source es Meta. La empresa emergente quiere mantenerse como potencia innovadora, y al mismo tiempo tener una plataforma fácil de utilizar.
Google recibe críticas por las imágenes generadas por su IA
Gemini, el generador de imágenes de inteligencia artificial de Google, está recibiendo muchas críticas por las características de sus imágenes. El problema es que al pedir en el chatbot imágenes como ‘mostrar una imagen de un soldado alemán en 1943’ las imágenes que generaba eran de personas de diversas etnicidades y en escenarios inadecuados. Además, cuando se le pedía explícitamente generar imágenes de gente blanca, no las generaba bien, mientras que para gente indígena o cualquier otra, lograba conseguirlo sin problema. Como consecuencia Google retiró esta función y se disculpó por haberlo configurado mal.
Las mayores críticas, como la de Elon Musk, se referían a que la tecnología es una herramienta y debería mantenerse imparcial. En un sentido técnico, la inteligencia artificial funciona como cajas negras. Google intentó configurarlo para que generara imágenes que animan la diversidad, pero la tecnología evolucionó por sí sola, creando este problema.
Apple abandona sus intentos por desarrollar su propio auto eléctrico
La empresa, que ha trabajado por una década en un esfuerzo multimillonario por desarrollar su propio auto eléctrico, ha decidido cambiar de rumbo. El motivo es que quiere centrar sus esfuerzos e inversiones en la generación artificial generativa. En este sentido algunos de los empleados de Apple para el desarrollo del auto eléctrico, se trasladarán a la sección de desarrollo de IA, mientras que otros se verán afectados por despidos.
Seminario v(I)d(A): ¿la IA debe ayudar a modificar la línea germinal?
En el 2º seminario de este semestre, los miembros Clara Jazmati, Liznora Castañeda, y Zsombor Lenkei nos ayudaron a explorar las implicaciones bioéticas del uso de la inteligencia artificial en la modificación genética en la primera etapa de la vida. Cuatro principios clásicos de la bioética nos dan un marco para analizar casos de uso de la tecnología en la modificación genética: no maleficencia, beneficencia, autonomía, y justicia. Vimos que la delimitación de la frontera entre terapia y mejora no es sencilla, las mismas técnicas aplicadas para fines distintas pueden respetar o infringir la beneficencia para el sujeto. Paulina Cerdán, miembro de ThinkTech, nos deja algunas reflexiones sobre la modificación genética.
Start-ups y espectáculos en MWC/4YFN
Para terminar el mes de febrero, un grupo de alumnos ThinkTech e Innovation Factory de la Universidad de Navarra viajamos a Barcelona para visitar el Mobile World Congress y 4YFN. Empezamos la jornada visitando la DFactory Barcelona, para conocer a los fundadores de start-ups en primera línea de la industria 4.0 y aprender de sus experiencias de emprendimiento. Después, participamos en la expedición de la Fundación Princesa de Girona en el MWC y 4YFN junto con otros 80 jóvenes, entrevistando a startups relacionados con sectores variados como EdTech, AgroTech, Realidad Virtual, Salud y Farma, entre otros. Terminamos la visita en el MWC, donde pudimos experimentar nuevas tecnologías como helicópteros unipersonales, ordenadores transparentes, y realidad virtual en las ambulancias. Nos ayudó para reflexionar, como nos llama a hacer Antonio García Maldonado, si las fines están a la altura de estas herramientas.
1. Para leer: Human Compatible: AI and the Problem of Control
“Si te interesa comprender las profundas e interesantes implicaciones de la IA en la sociedad del día de hoy, así como su impacto, y restricciones, entonces este libro es para ti. El autor, Stuart Russell nos invita a adentrarnos de una manera más profunda, en el dilema sobre la seguridad y los valores éticos y morales que rodean la IA. Es un prestigioso investigador en el ámbito del Deep Learning y nos comparte sus preocupaciones acerca de los lineamientos de la IA de una forma accesible y comprensible para el público en general. Nos ofrece una visión ideal en donde la IA nos brinda sus beneficios minimizando el posible potencial de riesgo que esta tiene para la sociedad.
Me pareció particularmente interesante la perspectiva de Russell sobre la falta de alineación de las restricciones de la IA y los valores humanos, pues pone en manifiesto ciertos riesgos de la inteligencia artificial que no se toman en cuenta generalmente. Nos ofrece, en una lectura ligera y rápida, la oportunidad de enriquecer nuestros conocimientos sobre los efectos y potencias de la Inteligencia Artificial, tema que nos concierne a todos hoy en día.”
Isa Alcaraz, estudiante de Psicología en la Universidad de Navarra y miembro de ThinkTech nos trae esta recomendación.
2. Para escuchar: Bot Love 5 — Maybe I’ve Got a Problem
Ana Pineda, estudiante de Psicología en la Universidad de Navarra y miembro de ThinkTech, nos recomienda Bot Love: Episode 5: ‘Maybe I’ve got a problem’. “Al comunicarse con un chatbot, el usuario que busca una solución a sus problemas cree que puede sanar su duelo, confusión, frustración, etc. cuando en realidad solo está generando una dependencia emocional con este tipo de tecnología. El chatbot imita lo que es una relación ideal, sin problemas, sin fallas, a la medida, etc. Algo que no se encuentra en las relaciones humanas y precisamente por esto el uso descontrolado de esta tecnología tiene como consecuencia el aislamiento social. Las relaciones humanas se ven opacadas por los estándares ficticios y elevados de las relaciones con chatbots que solo nos impulsan constantemente a aspirar a la inexistente perfección humana con la excusa de querer que la humanidad llegue a ser su mejor versión.
Es así como nos podríamos preguntar: ¿Qué implica crear una IA capaz de establecer un vínculo afectivo con un ser humano? ¿La IA es capaz de abrazar nuestra vulnerabilidad como seres humanos? Al ser capaces de entablar una conversación con un chatbot, ¿será que este tipo de IA puede llegar a ser utilizado como herramienta para impulsar el bienestar mental de los seres humanos?”
3. Para ver: The Pod Generation (2023)
La directora Sophie Barthes explora la mercantilización de la vida en su película satírica que estrenó en el Festival de Sundance 2023. Sigue la historia de una pareja que decide gestar a su hijo en un útero artificial desarrollado por un un gigante tecnológico. La decisión viene influenciado por las políticas y “beneficios” en la empresa de la protagonista. Pone en duda la libertad y la politización de una decisión tan íntimo como traer una nueva vida al mundo.
Las posibilidades de la inteligencia artificial
Ilya Sutskever, jefe de científicos de Open IA, comenta sobre el emocionante futuro de desarrollo de la inteligencia artificial abierta en la reciente charla TED. Él define la inteligencia artificial como un conjunto de cerebros digitales dentro de grandes computadoras. Afirma que hoy en día estos cerebros artificiales son mucho menos inteligentes que nuestros cerebros biológicos, sin embargo, esto va a cambiar en el futuro. Las computadoras van a poder aprender todo lo que hacemos los humanos, esto es AGI (siglas en inglés) inteligencia artificial general.
Aunque AGI todavía no existe, cuando exista, nos imaginamos el enorme impacto que va a tener en todas las áreas de la vida. Un ejemplo, es en el servicio de salud. Hoy en día el médico tiene un conocimiento limitado de la medicina, y del paciente; con inteligencia artificial esto mejoraría dramáticamente haciéndolo más eficiente y mejorando los resultados. Este impacto enorme lo tendría en todas las áreas, y así como es positivo, también puede tenerlo negativamente. El prospecto, es que este desarrollo será como el cambio radical de la revolución industrial, donde se aceleraron los procesos; está vez se acelerará el conocimiento.
En definitiva, la IA plantea preguntas, y preguntas difíciles, que son importantes atender. Existe un entusiasmo y colaboración sin precedentes en esta área. Esto ya se lo está viendo, las empresas y los gobiernos están trabajando conjuntamente en este desarrollo, cada vez se ve menos competencia, y más colaboración. Esto es porque la forma en la que vemos la inteligencia artificial está cambiando, y como consecuencia el comportamiento colectivo está cambiando. Ilya asegura, que este cambio de comportamiento es un gran motivo, por el que los profundos desarrollos tecnológicos, son positivos.
Eso es todo por hoy. Esperamos que lo hayas disfrutado. Si es así, compártelo. Si todavía no te has registrado, suscríbete aquí para recibir nuestro boletín en tu bandeja de entrada cada primer viernes de mes.
Te invitamos a seguir la conversación en nuestro blog, en Twitter y en LinkedIn. Si tienes cualquier comentario, escríbenos a thinktech@unav.es.
¡Que pases un gran fin de semana y nos vemos en abril!
ThinkTech
