Катастрофа Boeing 737 MAX 8, произошедшая 10 числа в Эфиопии высветила то, о чём в программистском сообществе говорили уже давно, а чуть позже начали говорить и среди практикующих пилотов: Исключение человека из контуров управления, передача приоритета при принятии решения автоматике, делает саму систему управления менее надёжной и более опасной.

Как же так? Казалось бы, ещё с 70-х годов шли разговоры, что человеческий фактор это самый большой источник ошибок... Но верно это было только до тех пор, пока автоматике доверяли простые элементы управления: полёт по прямой, например, привидение самолёта на радиомаяк итд итп. То-есть рутинные операции, в которых точность и пунктуальность важны, а вот такие элементы, как анализ ситуации и принятие решений отсутствуют начисто. И то случались эксцессы, когда человеку приходилось брать управление на себя.

Однако, с развитием компьютеров возникла иллюзия, что человека в контуре управления сложной техникой можно заменить полностью. Тогда же программисты стали предупреждать, что на сегодня это как минимум рано.

Во-первых, человеческий мозг хранит и обрабатывает такие объёмы информации, которые никаким компьютерам на сегодня не доступны.

Во-вторых, любая компьютерная программа содержит ошибки и значительная часть ошибок выявляется только на этапе боевой эксплуатации. Просто реальная боевая эксплуатация регулярно подсовывает такие комбинации параметров, до которых ни одна больная голова не додумается. А здоровая тем более. Это верно и для бухгалтерских программ, и для систем управления.

Ну и в третьих, компьютерная программа принимает решения на основе поступающей информации. И если датчик глючит, то решения будут кривыми. Человек всегда получает информацию по многим каналам и если гирогоризонт показывает, что самолёт летит вертикально вверх, а глазами и шкурой лётчик видит, что полёт горизонтальный - он будет исходить из того, что прибор гавкнулся. У компьютера просто нет такого количества дублирующих каналов информации. А если сделать - он тупо захлебнётся в поступающих данных. Быстродействия не хватит, чтобы всё отработать.

Вот и получается, что приоритет при принятии решений всегда должен быть за человеком, а у оператора должна быть возможность вмешиваться в действия систем управления, полностью беря это управление на себя. И об этом программистское сообщество предупреждало давно. И именно вот это правило нарушено в системе управления разбившимся Боингом. См. здесь.

Но... ведь это так заманчиво, заменить дорогого высококвалифицированного пилота на гораздо менее квалифицированного (а значит дешёвого) оператора, обслуживающего навороченный автопилот... Да ещё с перспективой вообще отказаться от человека-оператора. Ведь компьютер зарплату не просит и права не качает... И понеслась! Между прочим, оценивая катастрофы последнего времени, лётчики старой формации всё чаще говорят: ныне пилот - вовсе не пилот, а оператор при навороченном автопилоте. И если последний начинает глючить, у человека просто не хватает квалификации, чтобы взять управление на себя и исправить ситуацию.

Нет, может быть, когда-нибудь... когда вычислительные мощности возрастут в дцать раз, когда будут разработаны программы искусственного на-самом-деле-интеллекта, когда компьютер сможет получать информацию по многим дублирующим каналам и достоверно выбирать из них самый надёжный, когда компьютеры сумеют более-менее полно и адекватно перенять опыт пилотирования (и вообще управления) от человека...

К сожалению, тенденция передавать управление автоматике без возможности ручного дублирования имеет место быть не только в авиации. Вспомним историю с Nissan, чьи автомобили начинали ускоряться при нажатии на педаль тормоза. А причина всё та же: педали не воздействуют непосредственно на тормоз или газ, они передают данные о силе нажатия на бортовой компьютер, а тот уже выдавал команды на тормоза и дроссельную заслонку. Там, насколько я понял, бортовому компьютеру тупо не хватало быстродействия чтобы обработать поступающий поток данных, вот он и путал педали.

Но тенденция передачи права на принятие критических решений откровенно несовершенному и неготовому к этому компьютеру будет сохраняться. Слишком это заманчиво, заменить квалифицированного пилота, капитана, водителя на дешёвого оператора (а в последствии и того списать), да и спецслужбам нравится возможность остановить любой автомобиль в любое время. А то и вообще направить его на нужную им стоянку вопреки мнению того, кто за рулём. А потому мы увидим ещё очень много таких вот фатальных пике при штилевой погоде и ясном небе.

Фото: Последняя фотография разбившегося в Эфиопии борта. Из Википедии: LLBG Spotter CC BY-SA 2.0, via Wikimedia Commons