IRONÍAS DE LA AUTOMATIZACIÓN Y AVIONES QUE SE ESTRELLAN

Introducción

El origen de este artículo es esta publicación en LinkedIn “More Engineers, Fewer Operators in ICS Future”

Resumiré algunas de sus ideas:

• En todos los campos -no sólo en la industria de procesos, que es donde se centra el artículo- como consecuencia de la automatización se ha reducido el número de personas necesarias para ejecutar una cierta tarea. 

• La mayor parte del tiempo el trabajo del operador suele ser “si esto ocurre, haz esto” o bien seguir ciertos procedimientos automatizados total o parcialmente. A priori parece un trabajo que debería ser fácil de automatizar por completo, pero siempre se producen situaciones anómalas que requieren de la intervención del operador humano.

• En los próximos años el número de operadores se verá reducido, sustituidos por ordenadores. Los alicientes para que esto sea así son el ahorro de costes fijos o la consistencia y seguridad de las operaciones. Los avances en Inteligencia Artificial permitirán que algoritmos de Machine Learning / Aprendizaje Automático, entrenados con los datos de años de operación de las plantas almacenados en los historizadores puedan aprender a detectar situaciones anómalas en el proceso y a resolverlas practicando con el Gemelo Digital de la planta. Aquí en MyTips hemos compartido unas pequeñas nociones sobre Inteligencia Artificial y Aprendizaje Automático.

• Como consecuencia de esta mayor automatización el papel de los ingenieros y otros profesionales de la automatización será aún más importante y muy probablemente obligará a cambiar el perfil típico del operador.

Varios de estas ideas ya han sido tratadas aquí en MyTips, así que recomiendo la lectura de los posts:

¿Van a enviarnos los robots al paro? en el que hablábamos de la posibilidad de automatizar no sólo los trabajos físicos, sino también los intelectuales gracias a los avances en Inteligencia Artificial, y cómo algunos puestos de trabajo desaparecerían, otros nuevos surgirían, mientras que otros tendrían que transformarse. 

En cuanto a la Inteligencia Artificial, en el artículo Nociones sobre Inteligencia Artificial pretendíamos explicar de manera muy básica cómo funciona, para que no la veamos como algo “mágico” y sepamos ponderar sus capacidades y posibles debilidades, sobre las que escribimos en el artículo Inteligencia Artificial para la toma de decisiones.

Ironías de la Automatización

Al leer este artículo en LinkedIn que comentaba al principio, no puede evitar el acordarme del paper “Ironies of Automation” todo un clásico sobre el tema. Se trata de un paper publicado en 1983 por la psicóloga británica Lisanne Bainbridge en la prestigiosa revista Automatica.

En este documento Bainbridge examinaba las formas en las que la automatización de los procesos industriales puede ampliar en lugar de eliminar los problemas debidos al operador humano y se comentan algunos métodos para mitigar estos problemas, ya sea optando por la solución de dejar al operador humano la gestión de las situaciones anómalas o bien gestionarlas mediante la colaboración humano-máquina.

El paper es muy conocido porque en él Bainbridge mencionaba tres paradojas o “ironías” de la Automatización: 

1. El diseñador del sistema parte del supuesto de que los operadores humanos no son fiables, y por ello lo ideal es automatizar sus funciones y sustituirlos por máquinas. 
2. Pero los operadores humanos siguen siendo necesarios para aquellas tareas que el diseñador del sistema no puede o no sabe cómo automatizar.
3. La tercera ironía, es la de pretender que un operador aburrido y desentrenado tras pasar mucho tiempo supervisando un complejo sistema automatizado en el que prácticamente nunca ha tenido que hacer nada, tome las riendas en una situación anómala en el que la automatización no funciona.

Como bien decía Bainbridge en su paper:

“Quizás la ironía final es que la mayor inversión en formación de los operadores puede que sea necesaria precisamente en aquellos sistemas que se han automatizado con mayor éxito, en aquellos en los que raramente es necesaria la intervención humana”.

Lisanne Bainbridge

Los problemas introducidos por la Automatización

Del paper de Bainbridge -del que hace ya casi 40 años, pero cuya lectura sigue siendo muy recomendable- podemos extraer que el conjunto Humano+Automatización no sólo es una suma de virtudes (flexibilidad/adaptabilidad humana capaz de actuar ante imprevistos + confiabilidad, velocidad y potencia de cálculo de la máquina) sino que además da origen a problemas adicionales si no prestamos la debida atención. 

No quiero decir con esto que la Automatización sea un problema (no tendría sentido habiéndome dedicado a la automatización de procesos durante 10 años), el problema está en la forma en la que se hace la Automatización. Norman en su paper “The Problem With Automation” (1990) apunta a que:

“El problema es el nivel intermedio de inteligencia que ha alcanzado la Automatización, capaz de hacerse cargo y superar el desempeño humano en muchas funciones pero insuficiente para hacer frente a todas las posibles situaciones anómalas e incluso de mantener el continuo feedback que necesita el operador humano”.

Norman

James Reason -creador del famoso Modelo del queso suizo utilizado en el análisis de riesgos en distintas industrias- también advertía del riesgo de los automatismos y sus paradojas en su libro de 1997 “La gestión de los grandes riesgos, principios humanos y organizativos de la seguridad” afirmando que, en base a numerosos estudios científicos, éstas barreras tecnológicas, están llenas de ironías, trampas y sorpresas.

“Los sistemas de control informático, cuyo fin es eliminar la posibilidad de que ocurran deslices, lapsus y torpezas puntuales en la cabina de vuelo, pueden aumentar la probabilidad de errores en un nivel más alto y con capacidad para causar la destrucción total del aparato y sus ocupantes”

James Reason

La siguiente imagen ilustra el llamado “Círculo vicioso de la Automatización”, que viene a resumir lo que hemos visto hasta ahora.

A continuación detallamos algo más los distintos problemas que introduce la Automatización:

Excesiva confianza en las capacidades del sistema de automatización

El sistema funciona tan bien, que tendemos a pensar que tiene aún mayor capacidad de la real, incluso si pretendemos utilizarla en condiciones para las que no está programado. 

Reducción de la atención

En sistemas muy automatizados, el trabajo del operador se reduce principalmente a la monitorización del sistema. Si el sistema es lo suficientemente bueno haciendo su trabajo y no suele presentar ningún problema, el trabajo del operador humano se vuelve tedioso con lo que la atención que se presta a la tarea tiende a reducirse: como todo suele ir como la seda, es difícil mantenerse atento. 

Pérdida de capacidades

Las habilidades que no se practican terminan oxidándose. Acostumbrado a que el sistema automático haga la mayor parte del trabajo, el operador humano pierde conocimientos y práctica y si por alguna razón debe tomar el control podría tener dificultades para hacerse con la situación. Este problema ya fue mencionado por Bainbridge en su paper “Ironies of Automation” y es conocido por las compañías aéreas que ya lo detectaron cuando los pilotos que solían volar aviones altamente automatizados debían hacerlo con aeronaves menos tecnológicas; Wickens, C. D. (1984).

Sobrecarga de información

Si el operador humano debe vigilar el correcto funcionamiento del sistema automático deberá disponer también de la misma información. Tanta información puede exceder la capacidad de procesamiento humana. 

Los problemas de la Automatización, ejemplos reales

Hace ya algún tiempo publiqué en LinkedIn este artículo a raíz del primer atropello mortal que involucraba a un coche autónomo y en el que también se trataba este tema. De hecho, parte de este post la he tomado de él, pero en esta ocasión usaré como ejemplo unos accidentes de aviación, y es que, aunque mi experiencia es la de la automatización en la Industria de Procesos (principalmente Oil & Gas y Petroquímica), considero que la Aviación puede darnos lecciones muy valiosas para la Industria.

Accidentes de los aviones Boeing 737-8 MAX

Nos referiremos aquí a los accidentes del vuelo JT610 de Lion Air el 29/10/2018 (181 pasajeros y 7 tripulantes, no hubo supervivientes) y del vuelo 302 de Ethiopian Airlines el 10/03/2019 (149 pasajeros y 8 tripulantes, sin supervivientes). 

En ambos accidentes se dan varias similitudes:

• Los aviones se estrellan a los pocos minutos de despegar. En ambos casos los comandantes reportan dificultades y solicitan permiso para volver a aterrizar.

• Ambos aviones experimentaron ascensos y descensos erráticos y velocidades de vuelo fluctuantes antes de estrellarse poco después del despegue.

• Se trataba de pilotos experimentados. En el caso del vuelo 302 de Ethiopian Airlines, el capitán tenía nueve años en la aerolínea con más de 8.000 horas de vuelo, mientras que en el Lion Air, el piloto tenía una experiencia de seis años en la compañía con más de 6.000 horas de vuelo.

• Los aviones involucrados son Boeing 737-8 MAX, que eran además prácticamente nuevos: el PK-LQP de Lion Air fue adquirido por la aerolínea el 13/08/2018 y tenía unas 800 h de servicio en el momento del accidente, mientras que el  ET-AVJ de Ethiopian Airlines fue entregado a la aerolínea el 15/11/2018, por lo que en el momento del accidente sólo llevaba en servicio 4 meses.

Boeing recibió algunas críticas después del accidente de Lion Air por supuestamente no informar adecuadamente a los pilotos de los modelos 737 sobre el funcionamiento del MCAS o proporcionar capacitación sobre el sistema.

Tras el accidente de Lion Air, Boeing emitió un boletín a las aerolíneas que operan el 737 Max 8, en el que les enseñaba a los pilotos cómo anular el sistema MCAS.

El Boeing 737-8 MAX

El Boeing 737-8 MAX es un modelo bastante reciente (el programa se inició el 30 de agosto de 2011, realizó el primer vuelo el 29 de enero de 2016 y obtuvo la certificación de la FAA el 9 de marzo de 2017). 

Según la web de Boeing:

• Se prevé que el consumo de combustible por asiento del 737 MAX 8 sea un 8% más bajo que el de los competidores futuros.
• El diseño estructural más eficiente del 737 MAX, el menor empuje que precisa de sus motores y la reducción de las necesidades de mantenimiento repercutirán en una importante reducción de costes para los clientes.
• El 737 MAX 8 tendrá los costes operativos más bajos del segmento de aviones de pasillo único, con una reducción del 8% por asiento frente al A320neo (el modelo equivalente del Airbus, el gran rival europeo de Boeing).
• El 737 MAX incorporará la última tecnología de motores silenciosos para reducir en un 40% la huella sonora del avión. Las emisiones disminuirán un 50% frente a los límites fijados para los óxidos de nitrógeno (NOx) en la Sexta Reunión del Comité sobre la Protección del Medio Ambiente y la Aviación (CAEP) de la Organización de Aviación Civil Internacional (OACI).
• 737 MAX disfruta de la fiabilidad del diseño superior del 737 Next Generation.

La familia 737 MAX ha sido desarrollada a partir de la familia 737 NG (de Next Generation). En este enlace se detallan las diferencias entre ambas familias, mientras que las siguientes figuras muestran las principales novedades de la familia MAX y las más evidentes en cuanto al aspecto exterior.

Comparado con su predecesor, el Boeing 737 MAX 8 tiene un nuevo diseño de los winglets (los extremos de las alas), utiliza motores de mayor tamaño y modifica su posición, “sacándolos” de debajo de las alas, llevándolos más cerca del morro de la aeronave. 

El sistema MCAS, cuando una ayuda se convierte en una complicación

La familia 737 MAX dispone de un sistema de ayuda para los pilotos denominado MCAS (del inglés Maneuvering Characteristics Augmentation System o Sistema de Aumento de las Características de Maniobra) un sistema diseñado por Boeing específicamente para los 737-8 MAX Y 737-9 MAX.

Como hemos mencionado con anterioridad, los motores del MAX son más grandes que los de la familia NG, así que para mantener la misma altura sobre la pista, Boeing tuvo tuvo que estirar un poco el tren de aterrizaje, y recolocar los motores del MAX un poco más hacia adelante y hacia arriba, “sacándolos” de debajo de las alas y adelantando su posición, como muestra la siguiente figura.

Esta reubicación de los motores tuvo consecuencias: en Boeing se dieron cuenta de que si por alguna razón el morro del MAX se elevaba demasiado, las góndolas de los motores empezaban a generar sustentación -se  comportaban como unas alas adicionales- haciendo que el morro se elevara todavía más, con lo que existía el riesgo de que el avión entrara en pérdida (pérdida de sustentación). 

Esta tendencia a hacer “el caballito” por la sustentación adicional de las góndolas de los motores no es un problema nuevo, pero era mucho más pronunciada en el MAX que en el NG, precisamente porque sus motores son más grandes y porque están situados más por delante del centro de gravedad del avión. 

La solución a una entrada en pérdida es bajar el morro del avión para recuperar sustentación, así que para contrarrestar esta tendencia natural del avión, Boeing decidió automatizar esta maniobra, y para ello implementó el MCAS, una rutina en el software de control del vuelo que mueve automáticamente el timón de profundidad hacia arriba para bajar el morro del avión si detecta un ángulo de ataque excesivo (el avión está empezando a hacer “el caballito”). 

Las condiciones para que el MCAS se active son: 

• Morro excesivamente levantado. 
• El piloto automático está desconectado.
• Los flaps están recogidos. 
• El avión está virando fuerte. 
• Se cumplen ciertos parámetros de velocidad y altura.

Anatomía de los accidentes. Empiezan los problemas serios para Boeing

¿Qué pasó en estos accidentes? Pues simplemente que el MCAS falló durante la maniobra de despegue: los pilotos intentaban levantar el morro del avión para despegar mientras que el MCAS insistía en bajar el morro una y otra vez. 

Los pilotos no sabían que el causante del problema era el MCAS, de hecho, ni siquiera sabían qué era el MCAS. Y es que Boeing consideró que en la formación para pilotar el 737 MAX no era necesario mencionar el MCAS. Total ¿para qué? -debieron pensar- si sólo se va a activar en muy raras ocasiones y los pilotos ni lo notarán, así además como el comportamiento del 737 MAX es similar al del 737 NG, los pilotos ya certificados para el NG también podrán certificarse para el MAX, bastará con un cursillo de poco más de una hora en el que les explicamos las pocas diferencias a tener en cuenta. 

La FAA no vio ninguna pega a esta ocultación del MCAS, pero a los pocos días del accidente del vuelo JT610 de Lion Air publicó una directiva de aeronavegabilidad de emergencia que decía que las aerolíneas que operen el 737 MAX tienen que recordar a sus pilotos el procedimiento a aplicar si el MCAS no funciona correctamente.

Pero todo parece indicar que el problema no era sólo del MCAS, que sería el síntoma de un problema aún más grave. 

Boeing hizo públicas algunas comunicaciones internas para demostrar su transparencia a la hora de investigar el caso, pero sólo ha servido para  despertar más sospechas. Parece ser que Boeing, con la complicidad de los reguladores de Estados Unidos, no informó a las aerolíneas de la complejidad del MCAS, como una manera de ahorrar los costes de explotación de los MAX (no serían necesarios nuevos simuladores, ni un entrenamiento exhaustivo de los pilotos). Las tripulaciones de los MAX creían estar volando una versión más moderna del NG, sin ser conscientes de que su comportamiento natural era diferente, ya que se lo ocultaba el MCAS, que ni sabían que existía. 

Más abajo, en el apartado Para saber más dejo enlaces a los informes de las investigaciones de estos accidentes (parcial, en el caso del vuelo 302 de Ethiopian Airlines, definitivo para el vuelo 610 de Lion Air).

En el caso del vuelo 610, la investigación ha concluido que:

1. Los pilotos que habían volado el avión con anterioridad reportaron vagamente un problema que no pudo ser identificado correctamente y por eso el avión pudo seguir operando.
2. Fallo en uno de los sensores de ángulo de ataque (sensor AOA, del inglés Angle of Attack), que había sido comprado en un taller de reparación de aviones de Florida (EE.UU.), y que no se había probado adecuadamente.
3. El diseño del software del MCAS, que utilizaba como entrada sólo uno de los sensores AOA. 
4. El desastre aún podría haberse evitado si el capitán, que había mantenido con éxito el avión en el aire -aún con un sistema MCAS fallido- no le hubiera entregado el control a su primer oficial, menos hábil (200 h de experiencia).

En las conclusiones del informe se recomienda el rediseño del MCAS, actualizar los manuales de vuelo y la capacitación de los pilotos.

Tras el accidente de Lion Air, Boeing emitió un boletín a las aerolíneas que operan el 737 Max 8, en el que les enseñaba a los pilotos cómo anular el sistema MCAS. 

Boeing trabajaba en una actualización del software del MCAS prevista para abril de 2019, pero en marzo se produjo el accidente del vuelo 302. El informe preliminar del accidente (enlace disponible más abajo) señala una discrepancia de 59º entre las lecturas de ambos AOA en el momento del despegue y varias activaciones del MCAS.

Consecuencias del accidente

Debido a las muchas semejanzas entre ambos siniestros, diversas autoridades aéreas mundiales ordenaron rápidamente la suspensión de todos los vuelos del 737 MAX. 

Estos problemas han supuesto un fuerte impacto económico para Boeing, pero también la afectación negativa de su imagen, y es que durante las auditorías y revisiones para reparar esos fallos se identificaron nuevos problemas en los microprocesadores y en el software de la aeronave. 

Para reforzar la imagen de transparencia y colaboración con los investigadores, Boeing hizo públicas las comunicaciones internas de sus empleados y no eran precisamente tranquilizadoras, pudiendo leerse frases como: “Está diseñado por payasos supervisados por monos” (en referencia al 737 MAX) o una conversación mantenida por dos empleados con el MAX ya haciendo vuelos comerciales, 8 meses antes del primer accidente. Un empleado pregunta “¿Pondrías a tu familia en un avión entrenado en el simulador MAX?“ y el segundo empleado responde: “No”. 

Desde entonces, la compañía no ha recibido nuevos pedidos ni ha podido entregar los que ya tiene listos, hasta el punto que Boeing ya no sabe dónde dejarlos y los tiene en el parking de empleados. También se ha tenido noticias de problemas en los procesos de producción de Boeing.

El 16 de diciembre de 2019 Boeing anunció que suspendía la producción de la serie 737 MAX a partir de enero de 2020, cuatro días después de que la FAA declarase que no autorizará el retorno del 737 MAX antes de finalizar el año 2019.

Boeing incluso ha pensado en renombrar el 737 MAX, consciente de la mala imagen del modelo. Su intención es que pueda volver a volar a mediados de 2020, aunque tienen mucho trabajo por delante. Para el regreso al servicio del B-737 MAX, además de actualizar el MCAS, e incluir un indicador de ángulo de ataque en las pantallas de los pilotos y un aviso de discrepancia entre el mostrado a cada piloto (antes estos eran “extras”), Boeing ha desarrollado materiales mejorados de capacitación y formación que ahora se están revisando con la FAA, los reguladores globales y los clientes de las aerolíneas para respaldar las operaciones de retorno al servicio y a largo plazo. 

La misma FAA ha sido duramente criticada por haber permitido volar al 737-MAX sin realizar una revisión a fondo de las aeronaves. La Agencia Europea de Seguridad Aérea no aceptará la recerfiticación del 737 MAX realizada por la FAA.

Conclusiones

La relación entre estos accidentes y las consideraciones sobre la automatización mencionados por Bainbridge, Norman y Reason en sus publicaciones resulta más que evidente y aunque se trate de accidentes de aviación, contienen valiosas lecciones que pueden trasladarse a otras industrias con altos niveles de automatización. Mientras sigan siendo necesarios los humanos frente a sistemas automáticos es imprescindible considerar las interacciones humano-máquina. 

Una mayor y más compleja automatización no es excusa para reducir los requisitos exigibles al componente humano del sistema, antes al contrario, su formación debe merecer un interés aún mayor. A fin de cuentas confiamos en que una persona haga frente y resuelva una situación anómala en un entorno altamente complejo. Aunque la automatización funcione correctamente el 99,99% del tiempo, ese 0,01% restante responsabilidad del humano puede suponer pérdidas de decenas de vidas humanas, daños medioambientales severas y/o gravísimas pérdidas económicas.

Como decíamos en el artículo “El accidente de IQOXE y la seguridad en la Industria Química”, ningún accidente puede achacarse exclusivamente a una única causa, y los dos casos presentados lo demuestran: la intensa competencia de Airbus con su A320neo podría haber motivado algunas de las decisiones de Boeing sobre el 737-MAX, la falta de personal de la FAA pudo haber debilitado sus funciones de control confiando en los controles internos de la propia Boeing convertida así en juez y parte a la vez y con el interés acuciante de sacar al mercado un avión que hiciera frente al rival de su gran competidor. El mal diseño del MCAS (además de no usar redundancia en los AOA, parece que la alarma de discrepancia entre ellos tampoco es fiable) , cuya principal razón de implementación era “disimular” las diferencias entre el comportamiento del 737 MAX y su predecesor 737NG (para evitar el coste de tener que certificar a los pilotos) y el peor procedimiento de pruebas que no detectó las deficiencias del MCAS, la falta de formación e información a los pilotos sobre el MCAS, etc.

Los niveles de seguridad de la aviación comercial no son sólo un logro técnico, dependen tanto o más de un estricto sistema regulatorio a nivel internacional que, con decenas de listas de verificación y montañas de procedimientos sistematizados, hace que la “seguridad ante todo” no sea un eslogan sino una realidad, pero algunos aspectos desvelados por estos accidentes hacen pensar en cierta relajación de la FAA, una de las autoridades que deberían haber velado por su cumplimiento.

ACTUALIZACIÓN 22/09/2020

Leo en Microsiervos que el Comité de Transportes e Infraestructura de la Cámara de Representantes de los EEUU ha publicado su informe sobre el Boeing 737MAX. Está disponible como PDF: The Design, Development & Certification Of The Boeing 737 MAX.

El informe destaca cinco áreas principales en las que el diseño, desarrollo y certificación del MAX para el vuelo fallaron:

1. La presión para sacar al mercado un avión con el que competir con el enorme éxito del Airbus A320neo. Esto hizo que Boeing diera prioridad a cortar tiempo de desarrollo y a ahorrar dinero frente a la seguridad.
2. Las asunciones erróneas que Boeing hizo sobre el MCAS, un sistema incorporado en el MAX para compensar la posición más adelantada y hacia arriba de los motores que hace que el avión tienda a encabritarse más que las variantes anteriores.
3. La información que Boeing ocultó a la FAA. En especial sobre el funcionamiento del MCAS pero en general sobre cualquier aspecto que pudiera ralentizar el proceso de certificación del MAX.
4. El que la FAA, escasa de personal, dejara demasiadas decisiones en empleados de Boeing que en teoría actuaban como representantes de la agencia pero que al final no informaban de muchas cosas por temor a represalias.
5. Y la tendencia de la dirección de la FAA de adoptar la posición de Boeing frente a la de sus propios expertos.

Os dejo aquí el enlace a la entrada La Cámara de Representantes de los EEUU les atiza a Boeing y a la FAA por la crisis del 737 MAX, con un completísimo resumen del “culebrón” 737 MAX.

ACTUALIZACIÓN 08/01/2021
Boeing pacta una multa de 2.500 millones de dólares con el gobierno de los Estados Unidos por el 737 MAX

Para saber más

Para los interesados en saber algo más acerca del trabajo de los operadores de panel en una instalación industrial, os recomiendo “El Libro del Diseño de los Centros de Control”, publicado por ISA Sección Española en 2019 y en concreto el capítulo “Factor humano: hombre y máquina en el centro de control” del que soy co-autor junto a Francisco Arista López.

El blog Microsiervos, en su apartado Aerotrastorno tiene multitud de artículos relacionados con el Boeing 737 MAX. Muchos de ellos me han servido para la elaboración de este artículo.

El diario ElMundo tiene una estupenda cobertura sobre este tema.

Magnífico el artículo de opinión “Más formación sí, mejor diseño de los aviones también” de Eduardo Gavilán en la revista Aviación Digital.

Paradojas de la Automatización , estupendo artículo de Raul Sosa Riera en LinkedIn, tratando los accidentes de los Boeing 737 desde el punto de vista de un profesional de la aviación.

El gran debate de la aviación: ¿ha dejado la electrónica ‘obsoletos’ a los pilotos? artículo publicado en el blog BuckerBook a raíz de los accidentes del 737 MAX.

Boeing, la crisis del 737, documental emitido por el programa DocumentosTV de RTVE.

En inglés:

Informe parcial de los resultados de la investigación del accidente del vuelo 302 de Ethiopian Airlines

Informe definitivo de los resultados de la investigación del accidente del vuelo 610 de Lion Air

The inside story of MCAS: How Boeing’s 737 MAX system gained power and lost safeguards, artículo del Seattle Times.

Maneuvering Characteristics Augmentation System , artículo de la Wikipedia en inglés explicando cómo funciona el MCAS.

Everything you need to know about the Boeing 737 Max airplane crashes en The Verge.

Pilots complained about autopilot issues with Boeing jets involved in two deadly crashes, también en The Verge.

Boeing shunned automation for decades. When the aviation giant finally embraced it, an automated system in the 737 Max kicked off the biggest crisis in its history. Artículo de Bussines Insider

Recomiendo la lectura en LinkedIn del artículo “Technology Cannot Replace Pilots” del capitán Sully Sullenberger, el héroe del conocido como “Milagro del Hudson” que incluso ha sido llevado al cine con una película protagonizada por Tom Hanks.

También de LinkedIn, recomiendo “Lessons Learned from Boeing’s MCAS for Control Engineers” de Steve Blaine PE.

How Boeing Lost Its Way un estupendo reportaje de Bloomberg que intenta explicar las razones de las prácticas detectadas en Boeing a raíz de las investigaciones sobre el accidente de los 737 MAX.