Прочитайте Алана Купера "Психбольница в руках пациентов". Там много примеров с авиацией и компьютерами, включая авиакатастрофы по вине последних.

1. Несколько компьютеров не спасают от редко проявляющихся ошибок программиста. И у кластеров своих специфичных проблем тоже прилично так.
2. Вы уже пилотов к оборудованию причисляете??? Себя, на рабочем месте, надеюсь, тоже приравниваете к неодушевлённым предметам? :)

Во, это сюда я на самом деле хотел вчера закинуть https://www.opennet.ru/openforum/vsluhforumID3/91464.html#82 -- не нашёл сразу:

--- Causes of the Accident
The obstruction of the pitot probes by ice crystals during cruise was a phenomenon that was known but misunderstood by the aviation community at the time of the accident. From an operational perspective, the total loss of airspeed information that resulted from this was a failure that was classified in the safety model. After initial reactions that depend upon basic airmanship, it was expected that it would be rapidly diagnosed by pilots and managed where necessary by precautionary measures on the pitch attitude and the thrust, as indicated in the associated procedure.
--- http://www.skybrary.aero/index.php/A332,_en-route,_Atlantic_...(LOC_HF_AW)

---
     В условиях обледенения трубочка эта имеет свойство обмерзать, и дырочка
закупоривается.  Для  предотвращения  этого  опасного  явления  ППД  снабжен
электрообогревом. Вот этот обогрев и  надо включать за минуту перед взлетом.
--- http://lib.ru/MEMUARY/ERSHOW_W/ershov3.txt

Это к тому, когда и автопилот может не сообразить (соображать-то нечем), и пилот, положившийся на него излишне, может уже не включить соображалку, в которую к тому же ещё и матчасть могла быть не заложена должным образом...

Ну естесственно. Не механическая же.

> И ПО там далеко не простое. И чем дальше, тем сложнее.

Я лично говорил про начинку боевого компьютера, который управляет обратной связью при пилотировании неустойчивого ЛА. А Вы, судя по всему, про автопилот и прочую не очень важную лабудень, которая в принципе-то не критична. Вот она сложна, да. Не спорю.

Знаете, мне в свое время очень понравилась цитата в одной из книжек по программированию. "Систему можно спроектировать двумя способами. В первом случае её структура делается настолько простой, что в ней явно нет изъянов. Во втором случае - настолько сложной, что в ней нет явных изянов".

Так вот, мы о разных системах говорим. ;)

> И да. Очень немногие военные самолёты статически неустойчивые. Вообще, кроме как истрибителям
> и пилотажникам, проку от статической неустойчивости нет никому.

Да, кстати. Я как-то забыл, что еще есть всякие бомбардиры и пилотажники. Ну, что поделать. Специализация накладывает свои отпечатки.

Так и в Чернобыле была запроектная авария, но понимание физики процессов и матчасти во многом спасло.  Если бы ещё баги матчасти (особенность основных и неподключенность дополнительных поглощающих стержней) были задокументированы хотя бы, а лучше изначально не допущены... и то на ЛАЭС умудрились даже вопреки тому вовремя предотвратить аналогичное развитие процесса.

Есть понимание, а есть дрессировка.  К пониманию тренировка всё равно нужна, конечно.  Вот только дрессировка без понимания смерти подобна.

Если бы это было так, то пневмо и гидро приводы практически никому были бы не нужны, т.к. их можно заменить на электроприводы, связать которые с "надежной" электроникой куда проще. Однако, в настоящее время ни гидро ни пневмо приводы никуда не делись.

Опять же, надо знать какая электроника и какая механика. Механика в наручных часах довольно тонкая и сложная, но надежность от этого не теряется. Да, гвозди забивать ими нельзя, но дисплей электронных тоже не долго проживет, а в условиях ЭМИ исход и вовсе становится вполне предсказуем (причем неизвестно как они выйдут из строя в каждом конкретном случае).

> а софт такого плана пишется все-таки с злыми требованиями к нему

Для механики в каждом конкретном случае есть стандартная методика расчетов, накопленный опыт и методы испытаний, проверенные годами. Все это, а также развитые средства моделирования поведения и расчетов позволяют быть как минимум не позади аналогичных для программных средств.

> практикуется резервирование

Внезапно, для механики они тоже есть.

> Тем не менее - да, имхо пилот должен придерживаться тактики "доверяй, но проверяй"

+1

Золотые слова, слышал бы их Боинг тогда...

---
Компания Boeing собирается предупредить операторов своей новейшей модели 737 Max о том, что ошибочные данные системы контроля за полетом могут привести к крутому пикированию самолета, пишет Bloomberg со ссылкой на источник. [...] Новейший Boeing 737 Max 8 бюджетной авиакомпании Lion Air выполнял рейс JT610 из Джакарты в город Панкалпинанг. Спустя примерно 13 минут после вылета по не установленной пока причине он рухнул в Яванское море. На борту находились 189 человек, все они погибли.
--- https://vz.ru/news/2018/11/7/949493.print.html