ThinkTech+ | Diciembre 2023
¡Hola de nuevo!
Bienvenidos a ThinkTech+, el newsletter mensual de ThinkTech, en la Universidad de Navarra. Como cada primer viernes del mes, te traemos lo más relevante del mundo de la tecnología: las últimas noticias, nuestras reflexiones y debates, algunas recomendaciones y algo nuevo que aprender. Te damos lo esencial, pero siempre puedes ir más a fondo siguiendo los enlaces. Esperamos que te guste y nos recomiendes.
OpenAI: ¿qué hay detrás del conflicto?
Estas últimas semanas todos los ojos han estado puestos en Sillicon Valley desde que, el 17 de noviembre, OpenAI anunció que despediría a su CEO, Sam Altman, y como resultado, el presidente de la empresa y del consejo, Greg Brockman, renunciaría. Desde el lanzamiento de ChatGPT como producto comercial el 30 de noviembre de 2022, la compañía ha ganado mucha popularidad. Sin embargo, para entender la situación corporativa actual y la seguridad del futuro, la historia se remonta 8 años atrás. Te lo explicamos brevemente:
Una misión y una estructura
OpenAI fue fundada en 2015 como una empresa sin ánimo de lucro “con el objetivo de construir una inteligencia general artificial (AGI) segura y beneficiosa para el bien de la humanidad”. Después, en 2019, ante las limitaciones de capital, la empresa decidió formar lo que se denomina una empresa de capped-profit anidada dentro de la estructura sin ánimo de lucro. De esta manera, podrían recaudar el capital de inversión necesario y atraer talento para avanzar en su misión de desarrollar AGI — “sistemas de IA que son generalmente más inteligentes que los humanos”. Así, distinguieron “OpenAI” como la nueva entidad con fines de lucro (for- profit) liderada por Sam Altman y Greg Brockman de la original sin fines de lucro como “OpenAI Nonprofit”.
Según su sitio web, OpenAI está completamente controlada por la non-profit. Sin embargo, en 2019, tres empleados de la empresa for-profit, Greg Brockman (presidente), Ilya Sutskever (científico jefe) y Sam Altman (CEO), formaban parte del consejo de administración junto a tres no empleados: Adam D’Angelo, Tasha McCauley, Helen Toner. En teoría, estos tres miembros del consejo sin participación accionaria garantizarían el desarrollo cuidadoso y seguro de la AGI para mitigar cualquier peligro para la humanidad.
Tensiones internas del Consejo
La creciente tensión y la decisión de despedir a Altman parecen haberse originado en los miembros del consejo de la non-profit. En octubre, Helen Toner, directora de estrategia del Centro de Seguridad y Tecnología Emergente de Georgetown, publicó un informe académico en el que reprochaba a OpenAI las señales mixtas que estaba enviando en cuanto a la seguridad de la IA. Por un lado, habían publicado de manera transparente los desafíos de seguridad y las estrategias de mitigación tras el lanzamiento de ChatGPT 4 en la tarjeta del sistema. Pero la empresa parecía dispuesta a hacer algunos “sacrificios” en materia de seguridad para ser un actor principal en la comercialización de la IA generativa.
En el momento de su despido, la junta anunció que Altman “no era consistentemente sincero en sus comunicaciones con la junta, lo que dificultaba su capacidad para ejercer sus responsabilidades”. Posteriormente, la junta recibió una carta de los empleados informando sobre el proyecto Q* (Q-star) y sus avances respecto a la inteligencia general artificial. En esta, indicaron que la AGI ya era capaz de resolver matemáticas a nivel de primaria, probando su habilidad para razonar y aprender. La falta de transparencia de Altman con respecto a este proyecto evidentemente provocó la decisión de despedirlo de la empresa, llevando a un punto crítico el creciente conflicto entre el desarrollo de la tecnología y las preocupaciones de seguridad y protección.
¿Una estructura fallida?
El 22 de noviembre, después de cinco días de intensas negociaciones, OpenAI publicó una breve actualización en X, anunciando el acuerdo alcanzado con Altman y su regreso como CEO junto a un consejo prácticamente nuevo. Gracias a la influencia de Microsoft y casi todos los 740 empleados de OpenAI (LLC), Altman negoció su regreso y el reemplazo general del consejo. Solo el fundador de Quora, Adam D’Angelo, sobrevivió al corte, mientras que Tasha McCauley y Helen Toner fueron reemplazados por dos hombres: Larry Summers, y Bret Taylor como presidente.
Desde sus orígenes, la estructura corporativa ha tenido como objetivo salvaguardar el desarrollo de la AGI y asegurar que los miembros del consejo puedan liderar de manera independiente sin conflictos de interés. En el blog de la compaía, Altman había escrito hace unos meses que habían intentado establecer una estructura que sea capaz de alinear sus incentivos con buenos resultados.
Sin embargo, cuando la influencia de Microsoft, un ejército de desarrolladores extremadamente bien pagados y el carisma de un solo hombre pueden revertir la decisión del “consejo independiente” en solo 5 días a pesar de la falta de transparencia y las preocupaciones de seguridad, vale la pena cuestionar si esta estructura corporativa realmente funciona.
Cerrando el semestre
Cerramos el semestre abordando dos temas prominentes en nuestro último seminario: las brechas digitales y los retos institucionales. La Unión Eruopea, al ser pionera en el ámbito regulatorio de la IA remarca su postura intervencionista para asegurar la seguridad de sus ciudadanos. Aunque otros critican estas propuestas. Aquí resumimos algunas conclusiones para reflexionar sobre la desigualdad y el papel que juega la pólitica en su mitigación.
Reencuentros Alumni
Noviembre fue un mes de reencuentros con algunos de los fundaderos de ThinkTech. Nos hemos puesto al día con Alex Gallego-Raffelsieper en las oficinas de Google donde trabaja en Dublín. Mónica López nos visitó en el campus para presentar un seminario sobre los sesgos digitales. Además, Mónica, Alexia Tefel-Escudero, Gabriela Castello, y Claudia Lopéz tuvieron un reencuentro cálido en Barcelona. Aunque estemos por todo el mundo, ThinkTech siempre nos une.
Intimidad Algorítmica
Por si te lo perdiste, hace tiempo salió nuestro artículo sobre Replika, un algoritmo capaz de imitar las emociones humanas. Con el avance de estas tecnologías en los últimos meses, te dejamos esta reseña de Charo Sádaba que vuelve a poner el foco en el tema de la intimidad y las relaciones personales en la era digital.
1. Para leer: Invisible Women (2020)
“Invisible Women” de Carolina Criado Perez presenta evidencia empírica que demuestra el sesgo de diseño que, en muchos sistemas modernos, ha estado centrado en el hombre sin considerar a la mujer. Algunos ejemplos incluyen ensayos clínicos, seguridad automovilística y organización del lugar de trabajo. Una antigua alumna de ThinkTech, Mónica López, presentó los argumentos de Criado Perez en nuestro seminario de invitados este mes.
2. Para escuchar: Annamalai Chockalingam on the Rise of LLMs
En este episodio (206)de The AI Podcast, la creciente atención hacia los LLM (Large Language Model), impulsada por Claude, Bard, ChatGPT y Bing, muestra solo el comienzo de la capacidad de las IA generativas. Chockalingam explica lo que ha hecho esto posible: mayor capacidad de cómputo a través de la computación en la nube y hardware más eficiente, algoritmos de IA mejorados y el desarrollo del procesamiento paralelo; y adónde nos puede llevar esta tecnología.
3. Para ver: iHUMAN (2019)
Antes del lanzamiento de los chatbots de IA generativa, la directora noruega Tonje Hessen Schei llevó a los espectadores al corazón de la investigación y el desarrollo de la IA, entrevistando a voces líderes como Ilya Sutskever de OpenAI y Jürgen Schmidhuber. El documental dramatizado presenta un cuento de advertencia sobre el potencial de la IA y cómo puede reformar la sociedad.
De lo artificial en el arte
“La IA es una nueva herramienta poderosa… nos gusta tomar el ejemplo de la fotografía… lo vemos no como un reemplazo de los artistas existentes, sino más bien como una forma nueva de crear y un nuevo movimiento;" así describen el uso de machine learning en arte Obvious. Este grupo de tres artistas creadores de la obra “Portrait of Edmond Belamy” han vendido su obra por casi medio millón de dolares en 2018. Lo interesante es que no han pintado el cuadro, sino que ha sido generado mediante una inteligencia artificial: “Generative Adversarial Network”.
Su éxito y el de otros artistas explorando este nuevo “medium” de arte, abre la discusión sobre el sitio de intelligencia artificial en el mundo de arte. Si todavía no sabes mucho sobre la inteligencia artificial generativa y como funciona en herramientas como ChatGPT, nuestro miembro Javier te lo explica brevemente.
Eso es todo por hoy. Esperamos que lo hayas disfrutado. Si es así, compártelo. Si todavía no te has registrado, suscríbete aquí para recibir nuestro boletín en tu bandeja de entrada cada primer viernes de mes.
Te invitamos a seguir la conversación en nuestro blog, en Twitter y en LinkedIn. Si tienes cualquier comentario, escríbenos a thinktech@unav.es.
¡Que pases un gran fin de semana, una muy Feliz Navidad y nos vemos el próximo año!
ThinkTech
