…
Три закона робототехники – это обязательные правила поведения для роботов, которые придумал знаменитый писатель-фантаст Айзек Азимов, впервые сформулировав их еще в 1942 году:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
…
«Лихорадка ИИ» – так, возможно, назовут наше время историки, если у них останется время писать историю. А пока всё выглядело просто… удобно. Ещё вчера нейросети путались в пальцах и пририсовали людям лишние конечности на картинках, а сегодня они уже пишут тексты и музыку – в точности как Цой, Высоцкий или Чайковский. Композиторы и поэты, конечно, морщатся, но стиль угадывается с первых нот, а публика принимает новые хиты за давно забытые архивные записи.
Дроны уже вовсю носятся по тротуарам городов, доставляя пиццу и роллы. Люди привыкли: их больше не удивляют антропоморфные роботы, скачущие по сцене с артистами или гуляющие на улице. Машины с искусственным интеллектом заменили грузчиков на складах и сборщиков в цехах. Автоматические линии на заводах работают круглосуточно без перерывов на обед, не требуя улучшения условий труда и больничных.
На дорогах беспилотные автомобили уже теснят таксистов. Те ругаются, пишут петиции, но пассажирам стало удобнее и дешевле ехать без водителя. В метро и трамваи люди заходят и садятся, даже не задумываясь, кто ведёт состав.
Искусственный интеллект проник повсюду. Люди даже не замечают, как много решений перестали принимать сами. Маршрут до работы выбрал навигатор. Музыку в плеере подобрал алгоритм. Фильмы порекомендовала нейросеть, зная о вас больше, чем ваша мама. Даже еду заказывает «умная колонка», и приятный голос ассистента не спрашивает, хочет ли владелец есть. Он просто констатирует: «Молоко и яйца добавила в корзину. Кстати, на вашу любимую пиццу скидка 15%». И тут уж проще согласиться, чем выбирать другую. «Заказ прибудет через 20 минут».
Нет, мир не сошел с ума, он просто стал очень, очень удобным.
Только в подмосковном Научно-исследовательском институте кибернетики и нейропротезирования (НИИ КИНЕП), где уже три года в обстановке строжайшей секретности вызревал проект «Сингулярность-700», было принято идти другим путем. Разработанный институтом искусственный интеллект, продемонстрировав исключительную скорость мышления и непредсказуемость алгоритмов, был признан опасным для открытого использования. Тогда объединенный совет института и профильных госструктур счел использование такого ИИ в чистом виде недопустимым риском. Но амбиции и огромные средства, уже вложенные в проект, требовали результата. Прагматичный анализ привел к решению, предложенному Низамовым и Захаровым: дальнейшее развитие – это интеграция. ИИ должен быть ограничен, его вычислительная мощь поставлена под контроль человеческого мозга. Более того, симбиоз с машиной обеспечит безопасный переход человека на новую ступень эволюции.
