Парадокс автоматизации: как компьютеры делают нас беспомощными

Машины освободили нас от необходимости выполнять многие операции.Мы с удовольствием пользуемся предоставленной свободой, пока не случится что-то незапланированное. В такой момент мы понимаем, что без компьютера совершенно беспомощны. Эта проблема называется парадокс автоматизации: чем лучше автоматические системы, тем менее опытны их операторы, то есть мы. Проблема возникает повсеместно — от ошибок в работе сотрудников атомных станций до нашей неспособности запоминать телефонные номера. В книге «Хаос» Тим Харфорд рассказывает, к чему приводит парадокс автоматизации и как с ним бороться.

Штраф за парковку

Однажды Виктор Хэнкинс, обычный гражданин Великобритании, получил нежелательный подарок на Рождество — штраф за парковку в неположенном месте. Его машина перекрыла автобусную остановку и была сфотографирована камерой. Компьютер определил номерной знак, нашел его в базе данных и выявил адрес Хэнкинса. Был автоматически создан «пакет доказательств», включающий видеозапись с места, временную отметку и месторасположение. Письмо, требующее оплаты штрафа либо судебного разбирательства, было составлено, распечатано и отправлено по почте через такой же автоматический процесс. Была лишь одна проблема: мистер Хэнкинс вообще не парковал автомобиль. Он просто стоял в пробке.

Удачное путешествие

В марте 2012 года три японских студента, приехавшие в Австралию, решили отправиться в Норт-Страдброк, руководствуясь GPS-навигатором. По каким-то причинам навигатор не знал, что на проложенном маршруте нужно пробраться 9 миль через Тихий океан. Подчинившись технологиям, студенты выехали на пляж и илистые участки океана. Когда вода начала плескаться вокруг их Hyundai, они поняли, что застряли. Случай вовсе не уникален. Известны эпизоды, когда люди, следующие GPS-навигаторам, вели свои машины в озеро, прямо в дом, вниз по лестнице, по скалистой тропинке к обрыву скалы и в огромный песчаный карьер. Официальные представители туристических организаций в итальянском материковом городе Капри были однажды смущены вопросами приезжих шведов, которые считали, что прибыли на остров Капри, находившийся в 640 километрах.

Пилот на автопилоте

Автоматические системы отвечают не только за наш комфорт, но и за безопасность. Автопилоты современных самолетов очень надежны. Они призваны облегчить нагрузку экипажа, чтобы он мог сосредоточился на более важных задачах. Но вместо этого пилоты засыпают на штурвалах — образно или буквально. В конце 2009 года произошел нашумевший инцидент, когда два пилота на автопилоте (не в переносном значении) пролетели мимо аэропорта Миннеаполиса более чем на 160 километров. Они просто уткнулись в свои ноутбуки и отвлеклись. Иногда подобные инциденты заканчиваются трагически. Рейс Air France 447 рухнул в воды Атлантического океана на скорости 201 километр в час, потому что пилоты не смогли справиться с управлением, когда отключился автопилот. Они даже не поняли, что происходит. Все находившиеся на борту 228 пассажиров погибли.

Вместо маленьких ошибок большие проблемы

Эрл Винер, культовая фигура в области авиабезопасности, изобрел то, что сейчас известно как «Законы Винера» об авиации и человеческих ошибках. Вот один из них. Парадокс автоматизации имеет три направления. Во-первых, чем проще обращение с машиной и лучше система корректировки ошибок, тем менее компетентными мы становимся. Во-вторых, даже экспертные навыки ухудшаются, потому что машины лишают нас практики. В-третьих, автоматика сбоит в необычных ситуациях или сама служит их причиной, требуя вмешательства сверхкомпетентного человека. В каждом из этих трех случаев повышение эффективности и надежности электроники лишь усугубит проблему.

Кто кого контролирует

Никто не отрицает пользу автоматизированных систем. Автоматизация делает нашу жизнь проще, комфортнее и безопаснее. Веб-страница сервисного центра может обрабатывать рутинные жалобы и запросы, избавляя сотрудников от однообразной работы. Полеты с автопилотом стали в разы безопаснее тех, что осуществлялись под контролем человека. Но чем больше мы доверяем машинам, тем серьезнее последствия их ошибок. Вместо того чтобы позволять компьютеру управлять самолетом с человеком, готовым перенять контроль, когда компьютер не может справиться, возможно, будет лучше позволить человеку управлять самолетом, а машина будет отслеживать ситуацию, готовая вмешаться в нужный момент. В конце концов, компьютеры не устают, терпеливы и не нуждаются в практике. Так почему мы просим людей наблюдать за машинами, а не наоборот? База данных и алгоритмы, равно как и автопилот, должны существовать для поддержки решений человека. Если мы полностью доверимся машинам, катастрофа неизбежна. Не попадайтесь на парадокс автоматизации: принимайте решения умом, а не компьютером.