Lo que haya pasado con el ética de la ingeniería?

Hemos visto solo una noticia desastrosa tras otra en los últimos años, casi todos conocibles y evitables. Aviones cayendo del cielo. Las centrales nucleares se derriten. Poderes extranjeros que se acumulan en los datos del usuario. Pruebas ambientales trilladas. Redes eléctricas que queman estados al suelo.

Los patrones no se centran en la disciplina o la nacionalidad, ni estos eventos comparten una estructura social obvia. Facebook los programadores de aprendizaje automático en su mayoría no se juntan con los ingenieros automotrices de VW alemanes o los diseñadores japoneses de plantas nucleares. No enseñaban en las mismas escuelas, ni compartían los mismos libros de texto, ni leían las mismas revistas.

En cambio, hay un hilo más fundamental que une estas historias dispares y atroces: la alquimia cada vez más nociva de la complejidad y el capitalismo. Solo a través de un rejuvenecimiento de la cultura de seguridad podemos esperar reparar el par.

Los desastres inesperados son realmente "accidentes normales"

Sin embargo, antes de comenzar a asignar la culpa, debemos retroceder un paso para ver estos sistemas técnicos. Las emisiones automotrices, las centrales nucleares, los aviones, las plataformas de aplicaciones y las redes eléctricas comparten una cosa en común: son sistemas muy complejos y altamente acoplados.

Son complejos en el sentido de que tienen muchas partes individuales que están conectadas entre sí de maneras a veces no lineales. Están altamente acoplados en el sentido de que las perturbaciones de un componente pueden llevar a un cambio rápido en la operación completa de ese sistema.

Y así obtiene un sistema de seguridad razonablemente pequeño en el 737 MAX que derriba a los aviones. Y tiene una API razonablemente limitada en una plataforma social que pierde toda la corriente de datos de los usuarios. Y tienes una red eléctrica que interactúa arborealmente que enciende y se incendia matando a docenas de personas.

Todos estos resultados son teóricamente prevenibles, pero entonces, la escala de las interacciones en estos sistemas es incontable. Una vez más, los pequeños cambios pueden tener enormes efectos.

Hace años, Charles Perrow escribió un libro espléndido que relacionaba la creciente complejidad y la combinación de los sistemas técnicos con el aumento de los accidentes catastróficos, pero normales, que utilizó como título del libro. Su tesis no era que tales desastres son raros y deberían ser impactantes, sino que el diseño mismo de estos sistemas garantiza que deben ocurrir accidentes. Ningún nivel de prueba o diseño de sistemas puede evitar un error entre miles de millones y miles de millones de interacciones. Por lo tanto, tenemos accidentes normales.

Escribe un recuento del futuro de la ingeniería, que puede ser demasiado cínico. Los ingenieros han combinado parte de esta creciente complejidad con herramientas más sofisticadas, en su mayoría derivadas de una mayor capacidad de cómputo y un mejor modelado. Pero hay límites en cuanto a la medida en que las herramientas técnicas pueden ayudar aquí, dados nuestros límites de comportamiento organizacional sobre la complejidad de estos sistemas.

Engaño de seguridad de la gerencia

Incluso si los ingenieros están (potencialmente) adquiriendo herramientas más sofisticadas, la administración en sí misma definitivamente no lo es.

La seguridad es un concepto muy resbaladizo. Ningún líder empresarial es anti-seguridad. Ninguna. Todos los líderes y gerentes de negocios individuales en el mundo, al menos, prestan un servicio especial al valor de la seguridad. Los sitios de construcción pueden ser una garantía de peligro, pero siempre tienen un cartel de "se requiere un casco" en el frente.

La seguridad puede de hecho ser el primer valor de casi todas estas organizaciones, pero luego, puede pasar horas dentro del 10-K o 10-Q de una compañía antes de encontrar un ápice de una declaración al respecto (excepto, por supuesto, después de que ocurra un desastre). ).

Es esta intersección del capitalismo y la complejidad donde las cosas han salido mal.

Un patrón que une a todos estos desastres de ingeniería es que todos tenían denunciantes que estaban al tanto del peligro que se avecinaba antes de que ocurriera. Alguien, en algún lugar, sabía lo que estaba por suceder, y no pudo presionar el botón rojo para detener la línea.

Y por supuesto que no pudieron. Eso es lo que sucede cuando la presión por ganancias trimestrales, por crecimiento, puede ser tan intensa, que nadie en una organización tiene la capacidad, ni siquiera el CEO, de detener el sistema.

Lo extraño es que estos desastres conocidos no son rentables para sus creadores. PG&E entró en bancarrota. Facebook se enfrenta a una multa de miles de millones de dólares. VW resolvió su escándalo por $ 14.7 mil millones. La situación del 737 MAX está llevando a preguntas sobre si Boeing puede seguir siendo una empresa en marcha.

Ningún accionista quiere destruir certificados de acciones sin valor. Entonces, ¿dónde está la desconexión?

Reconstruir una base ética dentro de la cultura de la ingeniería.

La ética comienza con el liderazgo en la parte superior, y específicamente con una mejor comunicación acerca de las preocupaciones de seguridad y regulatorias para todas las partes interesadas, pero definitivamente los accionistas. Los propietarios de acciones en compañías con productos técnicos complejos necesitan que se les informe, una y otra vez, que las compañías que poseen priorizarán la seguridad sobre las ganancias inmediatas. El tono debe ser siempre valorar el crecimiento y la sostenibilidad a largo plazo.

Para aquellos que no frecuentan los abrevaderos de Wall Street, puede ser una sorpresa saber que tal proceso de venta puede ser difícil. A los inversores no les gusta escuchar que su retorno sobre el capital perderá algunos puntos básicos, y preferirían simplemente comprar un swap de incumplimiento de crédito y saltar cuando el barco se hunda literal y metafóricamente.

Sin embargo, los comerciantes a corto plazo no son los únicos inversores disponibles. Los mercados de capital son diversos, y hay billones de dólares de riqueza manejados por los gerentes que buscan invertir en el crecimiento a largo plazo, sin las desventajas de los desastres inevitables. Una parte clave de las relaciones con los inversionistas es adquirir los inversionistas que coinciden con la cultura de la empresa. Si a sus inversionistas no les importa la seguridad, nadie más lo hará.

El resultado de la mayoría de estos escándalos es que ahora hay un cementerio de compañías al que apunta, y eso ayudará con estas conversaciones.

Sin embargo, más allá de las salas de juntas y los accionistas, las culturas de la ingeniería necesitan desarrollar resiliencia para enviar y aprobar los productos cuando estén listos. Los líderes de ingeniería necesitan hablar con sus ejecutivos de negocios y explicar las preocupaciones de seguridad tanto como lo necesitan para reforzar constantemente que la seguridad es una prioridad para cada contribuyente individual.

Los gerentes de ingeniería probablemente tienen el rol más desafiante, ya que ambos necesitan vender hacia arriba y hacia abajo dentro de una organización para mantener los estándares de seguridad. El patrón que he recogido al leer muchos informes sobre desastres a lo largo de los años indica que la mayoría de las interrupciones de seguridad comienzan aquí. El gerente de ingeniería comienza a priorizar las preocupaciones comerciales de su liderazgo sobre la seguridad de su propio producto. La resistencia de estos impulsos pecuniarios no es suficiente, la seguridad debe ser la consigna para todos.

Finalmente, para los colaboradores y empleados individuales, la clave es estar siempre atento, pensar en la seguridad y protección mientras se realiza el trabajo de ingeniería, y plantear cualquier inquietud de manera temprana y frecuente. La seguridad requiere tenacidad. Y si la organización para la que está trabajando es lo suficientemente corrupta, entonces, francamente, podría ser necesario para usted presionar ese botón rojo proverbial y silbar para detener la locura.

Aquí en Extra Crunch, estamos tratando de hacer nuestra parte para aumentar el conocimiento de estos problemas. Nuestro humanista residente, Greg Epstein, entrevista y discute la desafiante ética de nuestro mundo técnico moderno con todo tipo de pensadores.

Tome parte de su trabajo como inspiración, ya que la desaparición del ingeniero ético no tiene por qué ser un hecho consumado. Tampoco los accidentes normales, tan normales como son, tienen que ser tan comunes. Podemos reparar el capitalismo agregando mejores herramientas y responsabilidad para todos los niveles de las organizaciones técnicas. Y, a largo plazo, mirar hacia ese floreciente cementerio corporativo, es una inversión increíble para futuros rendimientos.