Ода непослушанию: нарушение инструкций – не причина катастроф

Представьте себе большое исследование, которое проводили врачи и социологи. Их интересовал простой и страшный вопрос: почему происходят врачебные ошибки? Почему каждый десятый пациент, по разным данным, покидает клинику если не с новыми проблемами, то с осложнениями, которых можно было избежать?

Исследователи собрали данные о случаях, где что-то пошло не так. Где пациенту стало хуже. Где произошла «врачебная ошибка» в её классическом, пугающем понимании.

Они проанализировали эти случаи вдоль и поперёк. И нашли две вещи, которые присутствовали в каждом из плохих исходов.

Первое. Несоблюдение правил и протоколов. Где-то врач отступил от инструкции, где-то медсестра сделала не так, как написано в стандарте, где-то кто-то «проявил инициативу», которую следовало бы не проявлять.

Второе. Ошибки коммуникации. Кто-то кому-то не сказал, не передал, не уточнил, не переспросил. Информация потерялась, как в испорченном телефоне.

Исследователи посмотрели на эти данные и подумали: «Ну что ж, понятно. Ошибки происходят там, где люди нарушают правила и плохо общаются. Будем работать над дисциплиной и коммуникацией».

Но потом кто-то из них задал гениальный вопрос. Тот самый вопрос, который отличает системное мышление от обычного.

«А давайте посмотрим на случаи, где всё прошло хорошо. Где пациент выписался здоровым и счастливым. Там что — всё было идеально? Протоколы соблюдались неукоснительно? Коммуникация была безупречной?»

Исследователи вздохнули, собрали новую выборку — на этот раз из «хороших» случаев — и начали анализировать.

Результат оказался шокирующим.

В «хороших» случаях происходило ровно то же самое. Те же нарушения протоколов. Те же сбои в коммуникации. Те же самые «человеческие ошибки» и «отступления от инструкций».

Разница была только в одном: в «плохих» случаях эти нарушения привели к катастрофе. А в «хороших» — нет. Иногда потому, что кто-то вовремя подхватил ошибку. Иногда потому, что контекст оказался более снисходительным. Иногда просто повезло.

Но главное — и там, и там люди нарушали правила. И там, и там люди недостаточно хорошо общались.

Просто в одном случае мы назвали это «преступной халатностью». А в другом — «гибкостью» или «профессиональной интуицией». Хотя действия были одними и теми же.

Это исследование (оно проводилось в медицине, но его результаты применимы везде) переворачивает всё, что мы думали об ошибках.

Оказывается, нарушения инструкций — это не причина катастроф. Это нормальная, повседневная практика. Которая в 99% случаев приводит к успеху. И только в 1% — к беде.

Вопрос не в том, «кто нарушил». Вопрос в том, «почему в этот раз нарушение привело к катастрофе, а в тысячу других раз — нет?»

И ответ на этот вопрос лежит не в головах «виноватых». Он лежит в системе. В том, как она спроектирована, какие у неё запасы прочности, как она позволяет людям адаптироваться — и где эти адаптации становятся смертельными.

Итак, вооружившись этим знанием, давайте продолжим. И поговорим о том, почему самолёты всё-таки летают, а больницы не превращаются в морги, несмотря на то, что правила нарушаются постоянно.

Две вселенные: «как воображаемо» и «как сделано на самом деле»

Представьте себе человека, который пишет инструкцию. Назовём его Аркадий. Аркадий сидит в чистом офисе. У него есть кофе, время подумать, доступ к справочникам и ни одного пациента, у которого останавливается сердце. Аркадий создаёт «работу-как-видится». Красивую, стройную, логичную модель: сделай шаг А, потом Б, потом В — и всё будет хорошо.

А теперь представьте себе человека на рабочем месте. Назовём его Сергей. У Сергея — пациент с нестандартной реакцией на препарат, коллега, который кричит что-то на другом конце коридора, и план госпитализации, который начальник требует выполнить любой ценой. Сергей живёт в «работе-как-делается».

И эти две вселенные никогда не совпадают.

Расхождение между ними — это не сбой. Это норма. Более того, именно умение Сергея ориентироваться в этом расхождении и есть главный источник безопасности. Если бы Сергей действовал строго по инструкции Аркадия, система бы рухнула в первый же нештатный день.

Медицинское исследование, о котором мы говорили, — это идеальное доказательство. Оно показало, что нарушения и ошибки коммуникации происходят всегда. И в хороших исходах, и в плохих. Просто в хороших исходах система смогла «переварить» эти нарушения. А в плохих — нет.

Значит, вопрос не в том, как заставить людей не нарушать. Это невозможно. Вопрос в том, как сделать систему устойчивой к неизбежным нарушениям.

Своя правда

В науке о человеческом факторе есть великое понятие — «локальная рациональность».

Звучит сложно. На самом деле всё просто: каждый человек делает то, что кажется ему правильным здесь и сейчас, исходя из того, что он знает, видит и чувствует.

Никто не просыпается утром с мыслью: «Сегодня я пойду на работу и буду делать глупые ошибки, потому что мне так хочется». Даже самый, как нам кажется, «ленивый» сотрудник выбирает путь наименьшего сопротивления, потому что он рационален в своей локальной вселенной.

Живой пример из авиации (но вы уже поняли, что это работает везде). Диспетчер видит на экране два самолёта с похожими позывными. Один должен снижаться, другой — лететь прямо. Диспетчер путается и даёт не ту команду. Происходит опасное сближение.

Комиссия, вооружившись видеозаписью и тремя днями анализа, скажет: «Ошибка диспетчера. Невнимательность. Не проверил позывной».

А теперь — внутренний мир диспетчера в ту самую минуту:

  • Он работает четвёртый час без перерыва.
  • На экране — 15 целей.
  • Только что звонил соседний сектор с просьбой принять борт.
  • Система окрасила оба самолёта в один цвет, потому что разработчики интерфейса никогда не были в этом зале.
  • Позывные отличаются одной буквой — а система планирования полётов это разрешила.

Что сделал диспетчер? Он ошибся? Да. Он идиот? Нет. Он действовал так, как действовал бы любой на его месте. И если комиссия остановится на фразе «он ошибся», она ничего не поймёт о системе. А главное — она ничего в этой системе не изменит.

Гладко было на бумаге

Знаете, есть простой тест на реалистичность любой инструкции.

Если всё, что делает человек, можно описать правилами до мельчайших движений — значит, этот процесс можно полностью роботизировать. Никаких людей не нужно. Просто берём, программируем и получаем идеального исполнителя.

Но вот незадача:  мы не можем этого сделать.

Почему? Потому что реальный мир — это сплошные «но». Пациент с аллергией на стандартный препарат. Погода, которая не вписалась в метеосводку. Оборудование, которое решило сломаться в неподходящий момент. Коллега, который не успел передать информацию, потому что его отвлекли.

И даже там, где роботы уже есть — в авиационных автопилотах, — инженеры вынуждены зашивать в них возможность  адаптироваться к меняющимся условиям. Это не «баг» и не «халатность разработчиков». Это осознанная необходимость.

Современные исследования в области авиационных автопилотов показывают: учёные активно разрабатывают системы, которые позволяют автопилоту выходить за рамки жёстких предписанных правил и адаптироваться к непредвиденным ситуациям в реальном времени. Это называется «аргументированное управление» — когда автопилот не просто тупо выполняет заложенный алгоритм, а использует исторические данные полётов, чтобы подстраиваться под ветер, турбулентность и другие переменные, которые нельзя предсказать заранее.

Почему это важно? Потому что это доказывает: даже разработчики автопилотов давно отказались от идеи «идеальной инструкции». Они понимают: мир сложнее любого алгоритма. И если ты хочешь, чтобы система работала в реальных условиях, ты должен дать ей возможность отходить от правил.

Хотите увидеть, что будет, если все начнут работать строго по инструкции? Это называется «итальянская забастовка». Люди ничего не нарушают. Они делают всё буквально по бумажке. И система… встаёт. Поезда не ходят, самолёты не взлетают, документы не оформляются. Потому что ни одна инструкция не покрывает всего многообразия реальной жизни. А когда её пытаются покрыть — она превращается в многотомный фолиант, который никто не сможет прочитать, даже если очень захочет.

«Итальянская забастовка» пугает начальников не случайно. Она показывает неприятную правду: без ежедневных «нарушений» система не работает. Просто в обычные дни мы называем это «профессионализмом» и «гибкостью». А в день, когда захотелось наказать — «нарушением» и «халатностью».

Адаптация может быть спасением, а не проблемой

И знаете что? Такие «нарушения» происходят каждый день.

Врачи отходят от протоколов, потому что у пациента аллергия на стандартное лекарство. Инженеры используют временные «костыли», потому что запчасть везут три дня, а производство стоит. Пилоты отключают автоматику, потому что она в данной ситуации тупо мешает. А разработчики автопилотов встраивают в свои системы возможность адаптации — потому что без этого их творение разобьётся в первом же нештатном полёте.

Безопасность — это не бетонная стена правил. Это живая ткань адаптации.

Люди каждый день «подкручивают» систему, чтобы она работала там, где инструкции бессильны.

Но важно понимать: адаптация — это не самоцель. Это симптом. Сигнал того, что правила отстали от жизни. Идеал — не в том, чтобы люди героически нарушали инструкции каждый день. Идеал — в том, чтобы совершенствовать инструкции, опираясь на опыт этих нарушений. Чтобы завтра то, что сегодня было «героическим спасением», стало обычной, прописанной процедурой.

А как же халатность?

Здесь обычно кто-нибудь в зале поднимает руку и говорит:

«Всё это красиво, но есть же реальная халатность! Люди, которым плевать. Их-то мы должны наказывать?»

Да, должны. Но есть одна проблема.

Попробуйте найти халатность. Честно. Настоящую, неприкрытую, злонамеренную халатность как причину происшествия.

Вы её найдёте. Обязательно найдёте.

И в этом заключается главный парадокс. Если вы начинаете расследование с гипотезы «а не халатный ли он?», вы соберёте доказательства, которые это подтвердят. Вы найдёте тот факт, что он не нажал кнопку, и назовёте это «халатностью». Вы найдёте тот факт, что он не переспросил, и назовёте это «наплевательским отношением». Вы найдёте тот факт, что он сократил процедуру, и назовёте это «преступной самонадеянностью».

Проигнорировав при этом:

  • что кнопка была не подписана и находилась в неожиданном месте,
  • что он спал четыре часа, потому что график смен составлял робот-садист,
  • что начальник кричал на него по рации, требуя ускориться,
  • что процедура была написана так, что её невозможно выполнить в реальных условиях.

«Халатность» — это не объективная характеристика действия. Это вердикт, который выносит судья, который сам никогда не был на этом месте.

И вот тут, внимание — самое смешное и грустное одновременно.

Если вы ищете халатность и находите её — это уже халатность того, кто ищет. Потому что настоящая профессиональная обязанность следователя, менеджера или комиссии — не найти стрелочника. Их обязанность — понять систему. Если они вместо этого ищут, кого бы наказать, они халатно относятся к своей работе. Они создают иллюзию решения проблемы, ничего в системе не меняя. И гарантируют, что следующее происшествие случится — просто с другим «халатным» сотрудником.

Поэтому предлагаю честное правило. В следующий раз, когда вы захотите сказать «это халатность», скажите себе стоп. И задайте три вопроса:

  1. А я сам был в такой ситуации?
  2. А я уверен, что у меня была бы возможность сделать лучше?
  3. А не ищу ли я просто козла отпущения, потому что искать системную проблему — это долго и больно?

Если хотя бы на один вопрос вы ответили «не уверен» — поздравляю. Вы только что обнаружили, что «халатность» — это не свойство сотрудника. Это свойство вашего подхода к расследованию.

Культура справедливости

Значит ли это, что мы должны прощать всё? Конечно, нет.

Просто давайте перестанем притворяться, что можем объективно залезть в голову сотруднику и измерить его «халатность» линейкой.

Вместо этого можно использовать подход, который называется восстановительная справедливость в применении к безопасности.

Она не задаёт дурацкий вопрос «Нарушил или не нарушил?». Она задаёт три других вопроса:

  1. Кому причинён вред? (Пассажирам, пациентам, оборудованию, репутации?)
  2. Что нужно сделать, чтобы исправить этот вред? (Кого обучить? Как изменить интерфейс? Переписать инструкцию?)
  3. Кто за это отвечает? (Конкретный человек, его начальник, отдел разработки, компания в целом?)

Обратите внимание: человека никто не «отпускает». Он не уходит от ответственности. Наоборот, он честно говорит: «Да, я ошибся. Вот почему это имело для меня смысл тогда. И вот что нужно изменить в системе, чтобы это не повторилось».

Это подотчётность будущему, а не расплата за прошлое. И это работает гораздо лучше, чем поиск «халатных» сотрудников.

Но есть правила, которые нельзя нарушать никогда

Теперь, после всего этого панегирика непослушанию, у внимательного читателя созрел законный вопрос.

❓ «Если нарушать инструкции — это нормально и даже иногда полезно, то зачем нам вообще правила? И где та грань, за которой начинается уже не адаптация, а самоубийство?»

Отличный вопрос.

Да, большинство инструкций — это попытка предусмотреть всё. Они толстые, скучные, часто противоречивые и написанные людьми, которые никогда не были на передовой. Такие инструкции нарушать не только можно, но и нужно.

Но есть другой тип правил. Их мало. Обычно их можно пересчитать по пальцам. Их не нужно записывать в многотомные фолианты — они помещаются на одной странице, а иногда и на одной фразе.

⚠️ Жизненно важные правила

В авиации это, например:

  • Никогда не выезжать на взлётно-посадочную полосу без разрешения.
  • Всегда проверять уровень топлива перед вылетом.

В медицине:

  • Всегда проверять, того ли пациента ты собираешься оперировать.
  • Никогда не оставлять инструменты внутри больного.

На производстве:

  • Никогда не отключать блокировку безопасности.
  • Всегда надевать страховку при работе на высоте.

В чём разница между этими правилами и всеми остальными?

Первое. Их немного. Если у вас в компании жизненно важных правил больше 10 — значит, у вас нет ни одного.

Второе. Нарушение этих правил с очень высокой вероятностью приведёт к смерти.

Заключение

Самолёты не падают не потому, что пилоты свято чтят инструкции. Они не падают потому, что пилоты, диспетчеры, инженеры, врачи и медсёстры каждый день нарушают эти инструкции. Осознанно, ответственно, с пониманием контекста.

Они делают это не потому, что они хулиганы. А потому, что реальная жизнь сложнее любой инструкции. И тот, кто этого не понимает, строит систему, которая рано или поздно рухнет.

В следующий раз, когда услышите «он нарушил инструкцию», не торопитесь осуждать. Может быть, этот «нарушитель» только что спас чьи-то жизни. А инструкция, которую он нарушил, была написана человеком, который никогда не был на его месте.

Нарушение инструкции — это не подвиг. Это сигнал. Сигнал о том, что  система несовершенна, что жизнь ушла вперёд. Задача умной организации — услышать этот сигнал и изменить правила. Чтобы завтра то, что сегодня требовало героического нарушения, стало обычной, безопасной, легальной процедурой.

Идеал — не вечная борьба с правилами, а такие правила, которые не нужно нарушать.

Ода непослушанию: нарушение инструкций - не причина катастроф

Автор материала
Константин Шевцов

Комментарии: 1

Но проблема в том, что некоторые ценные специалисты на производстве снимают блокировки, а на высоте не используют защитные привязи…
Что делать с такими? Обучены, обеспечены, но не используют – прощаться? Или снова искать системные причины?

Ну и исходя из вашего поста… Идеал – это не такие правила, которые не нужно нарушать, а такая система, в которой нет необходимости нарушать правила.
А вам как всегда спасибо за мысли о которые приятно подумать о своих проблемах в организации👍