Мы привыкли думать, что разрешение — это короткий и ясный ответ. Дверь либо открыта, либо закрыта. Маршрут либо безопасен, либо нет. На экране горит зелёный цвет, и человеку кажется, что неопределённость осталась по ту сторону рамки. Но за любым таким ответом скрывается множество чужих решений: кто выбрал датчик, кто назначил допустимый предел, кто решил, насколько свежими должны быть данные, кто предпочёл скорость осторожности и кто согласился считать редкое несчастье приемлемой ценой ежедневной пользы.
«Ошибка допуска» выросла из вопроса о том, где в этой цепочке начинается личная ответственность. Можно ли считать себя невиновным, если ты не нажал кнопку, а всего лишь не остановил уже запущенный процесс? Делает ли точный прогноз человека хозяином последствий? И что опаснее для общего дела: удобная вера в безошибочную систему или убеждённость отдельного специалиста, что только он понимает её настоящую цену?
В центре романа — Кир Невель, разработчик городской системы допусков. Он обнаруживает редкое расхождение свидетельств и сознательно оставляет его открытым. Кир хочет получить реальный случай, который заставит руководство признать проблему. Он рассчитывает на поломку оборудования, задержку, испуг — на достаточно заметное, но обратимое доказательство. В тоннель входит Леда Арс, и расчёт перестаёт быть теорией.
Эта история не о взбунтовавшемся искусственном разуме и не о машине, которая внезапно научилась выбирать жертв. Система «Порог» ничего не желает, никого не ненавидит и не умеет оправдываться. Она сводит свидетельства по правилам, созданным людьми. Поэтому всякий раз, когда персонажи пытаются обвинить безликий механизм, вопрос возвращается к ним: кто написал правило, кто упростил сложный результат до удобного цвета, кто видел предупреждение и кто решил, что действовать должен кто-нибудь другой.
Однако было бы слишком легко найти одного виновного и сделать его объяснением всего. Город Верхний Контур зависит от быстрых допусков. Благодаря им ремонтные бригады входят в энергетические узлы, медики получают доступ к изолированным секторам, транспорт не замирает после каждого сомнительного сигнала. Отключить систему — не значит мгновенно вернуть людям безопасность. Это значит заменить известные риски другими, иногда более тяжёлыми. Полезность инфраструктуры не отменяет гибели Леды, но и её гибель не превращает всякую автоматизацию во зло.
Мне было важно сохранить это неудобство. В реальной ответственности редко встречается чистота схемы. Один человек знает больше остальных, другой подписывает не глядя, третий следует правилу смены, четвёртый годами откладывает дорогое исправление, а пятый оказывается там, где все эти решения сходятся. Причины распределены, но это не означает, что вина растворяется. Напротив, распределённая система требует особенно точно называть вклад каждого — без желания свалить всё на исполнителя, начальника, программу или погибшего пользователя.
