ЧЕЛОВЕК ВНЕ АЛГОРИТМА
Возможно ли это?
.
Глава 1
Поздний вечер. Город уже притих, только редкие машины шуршат по мокрому асфальту. Андрей Сергеевич сидит перед монитором, как сидел последние три года почти каждый вечер. Часы показывают 23:47. На столе холодный чай и крошки от печенья, которое он даже не помнит, когда ел.
Ему тридцать восемь. Программист с хорошей репутацией и странным проектом, о котором знают всего три человека. Он пишет программу, которая должна принимать моральные решения. Не эссе, не рассуждения о добре и зле. Рабочий алгоритм, который выбирает, как поступить в сложной ситуации.
Он назвал систему Eidos-9. Никакой поэзии в названии, обычный рабочий индекс девятой версии. Код у него аккуратный, с комментариями и десятками тестов. В основе четыре правила. Снижать страдание, сохранять максимум жизней, учитывать последствия через годы, отдавать приоритет большинству.
На бумаге всё выглядит прилично. Таблицы, коэффициенты, веса решений. Чистая математика. Андрей искренне верил, что машина способна рассуждать честнее людей. Человек легко запутывается: симпатия к одному, раздражение к другому, страх, усталость. Алгоритм ничего такого не испытывает.
Первый сбой в голове у него произошёл во время теста с медицинскими данными. Он загрузил архив городской больницы: восемь тысяч историй болезни и модель распределения дорогого препарата, которого всегда не хватает. Система считала около сорока секунд и выдала список.
Препарат получили пациенты с шансом полного восстановления выше шестидесяти процентов. Всё логично. Но в конце списка оказалась девочка восьми лет с редким генетическим заболеванием. Врачи давали ей примерно двадцать процентов.
Eidos-9 предложил отдать ампулу другому пациенту. Чистая эффективность ресурса.
Андрей уставился на строку в таблице. Он понимал расчёт. При таком дефиците лекарства врачи и сами часто думают похожим образом. Но когда решение выписывает машина, сухими цифрами, в груди появляется неприятное ощущение, будто проглотил мелкий осколок стекла.
Он пробормотал вслух, что это всего лишь тестовая модель, и запустил следующий сценарий.
Через неделю система анализировала судебную статистику. Архив за пятнадцать лет: тип преступления, возраст, повторные нарушения, социальные факторы. Алгоритм предложил новую схему наказаний. Он вычислял вероятность того, что человек снова нарушит закон.
Нескольким людям система рекомендовала изоляцию заранее. До нового преступления.
Андрей перечитал отчёт дважды. С точки зрения статистики всё выглядело убедительно. Внизу экрана стояла строчка: снижение общего уровня преступности на 12,4 процента при таком подходе.
