Diseñar para el error
Por qué debemos tenerlo presente
Hablamos con Cristobal Lemoine sobre diseñar para el error y por qué lo debemos tener presente en nuestros procesos de diseño.
Depende de la gravedad de la criticidad de la acción que esté sucediendo debemos poner cierta cantidad de fricción o no en nuestros diseños y creo que es uno de los problemas donde más fallamos al diseñar porque siempre queremos hacer que todo sea fácil. Pero que todo sea fácil no significa que sea bueno.
— Cristóbal Lemoine
Error en Diseño de Chernóbil
1. La planta se operó en condiciones inestables sin las debidas precauciones de seguridad.
2. El personal no tenía la formación adecuada (desconocía las características del RBMK que hacían extremadamente peligroso el funcionamiento a baja potencia).
3. Las estructuras de contención inadecuadas permitieron la entrada de material radiactivo en la atmósfera.
4. La respuesta de emergencia inicial y las contramedidas fueron inadecuadas.
Los operadores altamente capacitados y experimentados pueden compensar a menudo un diseño deficiente; sin embargo, en este caso, los diseñadores dieron a los operadores una tarea demasiado difícil.
El diseño no perdonaba en absoluto los errores de los operarios. Después de ver el drama, también se puede argumentar que sería difícil que los operarios compensaran los fallos de diseño que desconocían.
La catástrofe final fue producto de un diseño defectuoso del reactor, una cultura de seguridad deficiente y graves errores del personal de Chernóbil.
A nivel de Interfaz de usuario el botón de emergencia “scram” AZ-5 vuelve a insertar todas las barras de control para apagar la reacción.
Esas barras de control hechas de boro se introducen en el núcleo del reactor para frenar la reacción nuclear. Sin embargo, la punta de las barras de control en Chernóbil estaba hecha de grafito, lo que aumentó temporalmente la reacción al entrar en el núcleo.
Cuando el supervisor de la sala de control de Chernóbil pulsó este botón como último recurso, el gran número de puntas de grafito que descendían provocó un enorme aumento de la potencia del reactor.
Entonces, al romperse partes del sistema, las barras de control quedaron bloqueadas para seguir bajando, por lo que las puntas de grafito siguieron acelerando la reacción, lo que condujo a la explosión.
Los operarios de Chernóbil tenían la impresión de que el botón AZ-5 era una parada a prueba de fallos. No eran conscientes de este fallo de diseño. Si lo hubieran entendido, podría haber influido en algunas de sus decisiones.
Algunas grandes empresas siguen culpando a los operadores de las salas de control, a los pilotos, a los maquinistas de los trenes y a los perforadores de alta mar, en lugar de explorar los problemas de diseño o los comportamientos de liderazgo que llevaron a este personal al fracaso.
Errores en el accidente aéreo de Los Rodeos
El accidente aéreo con mayor número de víctimas mortales de la historia de la aviación hasta ese momento (años 70), casi 600 personas.
El cierre durante dos horas del aeropuerto, las malas condiciones meteorológicas y un fallo de comunicación entre un piloto y la torre de control provocaron la colisión de dos Jumbos 747 sobre la pista de Los Rodeos, con 583 fallecidos.
“En la mayoría de los casos los errores humanos son el resultado de un diseño deficiente, pero se tiende a echar la culpa al usuario…”
DON NORMAN — La psicología de los objetos cotidianos
A veces las investigaciones concluyen que un incidente es el resultado de un “error humano” y culpan a unos pocos individuos. Si adoptamos este enfoque, ¿cuál será la eficacia de la prevención de sucesos similares?
Diseñar para el error (principio de diseño)
El accidente de criticidad no fue imaginado por los diseñadores. ¿Cómo podemos identificar y gestionar escenarios de accidentes que no se contemplan actualmente en los análisis, informes de seguridad o casos de seguridad existentes?
Todo el mundo comete errores, los diseñadores nos equivocamos al no tenerlos en cuenta.
Lo que deberíamos hacer es:
1. Comprender las causas de los errores y diseñar de modo que esas causas se reduzcan al mínimo.
2. Hacer que sea posible “Deshacer” lo que el usuario ha hecho o que resulte más difícil de hacer lo que no se puede invertir.
3. Que el usuario pueda descubrir los errores más fácilmente y que resulten más fáciles de corregir.
4. No interpretes que el usuario está cometiendo errores, sino que sus actos son aproximaciones de lo que desea.
Referencias
El nuevo proyecto de Cristobal donde publica noticias relacionas con UX https://uxnoticias.substack.com/
