No se puede confiar en la sociedad
Son muchos los debates surgidos tras la liberación del modelo de generación de imágenes Stable Diffusion y el acceso a otras IA del estilo, como Dall-e y Midjourney (algo hablé del tema acá). A raíz de esta cita de Emad Mostaque, CEO de Stability.ai, empresa responsable de Stable Diffusion, se me ocurrió preguntar: ¿se puede confiar en la sociedad?
“Un porcentaje de la gente es simplemente desagradable y extraña, pero esa es la humanidad”, dijo Mostaque. “En efecto, creemos que esta tecnología prevalecerá, y que la actitud paternalista y un poco condescendiente de muchos de los aficionados a la IA está errada cuando no confían en la sociedad… Estamos tomando medidas de seguridad significativas, incluida la formulación de herramientas de última generación para ayudar a mitigar el potencial daño a raíz de la liberación y de nuestros propios servicios. Con cientos de miles desarrollando este modelo, confiamos en que el beneficio de la la red será inmensamente positivo y en la medida en que mil billones de personas usen esta tecnología los daños serán anulados.” (traducción propia)
Para poner la cita en contexto, Mostaque está respondiendo a las acusaciones de que su modelo permite la generación de imágenes basadas en personas famosas, la creación de imágenes semi pornográficas, imágenes ofensivas y falsas. Con menos restricciones que sus competidores, Stable Diffusion también limita la creación de imágenes sensibles. No obstante, los usuarios activos en el Discord de Stable Diffusion ya han demostrado que no es tan difícil sortear los filtros.
¿Qué dicen? ¿Podemos confiar en la sociedad para que se autoregule? ¿Hay que soportar un poco de ruido (en forma de pornografía, pedofilia, deep fakes, antisemitismo y racismo) para llegar al nuestra utopía digital? ¿Alcanza con que Stability.ai diga en sus Condiciones y Términos de servicio que no tiene ningún tipo de responsabilidad sobre las imágenes que se crean en su plataforma?
Justo el optimismo respecto de la naturaleza humana no es algo que me caracterice, pero quizás quede alguien allá afuera que crea en la pulsión innata al bien común.
