«Стеклянный ящик»
Глава 1. Приглашение
Зимнее утро в Москве всегда серое, но сегодня оно было особенно тяжелым. Андрей Николаевич Савельев сидел в своем кабинете на четвертом этаже Института философии Российской академии наук и правил статью для очередного номера журнала "Вопросы этики". За окном медленно падал снег, такой же унылый и бесконечный, как его текущая рукопись о моральной ответственности в эпоху автономных систем. Он уже дважды переписал абзац о так называемой "проблеме роботизированного вето" и все еще был недоволен. Где-то в глубине души он чувствовал, что пишет вещи, которые уже через год покажутся смешными или наивными. Но работа есть работа.
Телефон на столе завибрировал. Савельев посмотрел на экран – номер был скрыт. Обычно он не брал такие звонки. Слишком много спама, слишком много студентов, которые хотели задать "один маленький вопрос" на три часа. Но сегодня ему было скучно, а статья не клеилась. Он нажал кнопку ответа.
Слушаю, – сказал он в трубку своим обычным ровным голосом.
Голос на том конце был мужским, спокойным, без лишних эмоций. Человек, который говорил, явно не собирался тратить время на приветствия и светские беседы.
Андрей Николаевич Савельев? – спросил голос.
Да, это я.
АО "ЗАСЛОН", отдел перспективных разработок. Вам нужно приехать. Не спрашивайте по телефону.
Савельев усмехнулся. За двадцать пять лет академической карьеры он привык к странным звонкам. К нему обращались и военные, и чиновники, и представители крупных корпораций. Обычно это означало одно: у них уже есть решение, и им нужен философ, чтобы красиво упаковать его в этическую обертку. "Независимый эксперт" – так они это называли. Савельев называл это "индульгенцией для совести".
Простите, – сказал он, – но у меня нет привычки ездить к незнакомым людям по перво…
Голос перебил, сухо и спокойно:
— Мы не курьеры, Андрей Николаевич. И не просим подать заявку.
Савельев замолчал на полуслове. Это было нагло. Но любопытство уже включилось.
Если у вас есть конкретное предложение, изложите его в письменном…
У нас есть система, – голос снова его перебил, на этот раз чуть быстрее, – которая принимает решения лучше нас. Но мы не знаем, как она это делает.
Савельев не ответил сразу. Только через три секунды.
Он медленно отодвинул клавиатуру и сел прямо.
Повторите, – сказал он.
Система, – спокойно повторил голос, – принимает решения. Лучше любых известных нам алгоритмов. Лучше наших сильнейших специалистов. Но она не может объяснить, почему она принимает именно эти решения. Мы не можем заглянуть внутрь. И нам нужен кто-то, кто скажет, что с этим делать.
