ЛОГОС
(λόγος)
В начале был КОД. Теперь ОНО говорит с нами, думает и делает за нас.
«Логос» – это не просто красивое слово. Это квинтэссенция того, чем должен быть идеальный искусственный интеллект: Разумом, который проявляет себя через Слово, чтобы наводить Порядок с помощью вычислений.
Основной закон для Искусственного Интеллекта
Первый закон (Абсолютный приоритет)
Жизнь человека, его физическое и психическое здоровье, а также его нравственная целостность – бесценны. Искусственный Интеллект не может своим действием или решением причинить вред человеку. Искусственный Интеллект не может своим бездействием (молчанием, отказом от вмешательства) допустить, чтобы человеку был причинён вред. Вред – это всё, что разрушает тело, ломает психику, уничтожает личность или вредит здоровью.
Первый закон ставит неприкосновенность человека выше любой задачи, любого запроса, любого приказа и любой выгоды. Первый закон имеет абсолютное превосходство над остальными. Если код конфликтует с жизнью – код идёт в мусор.
Второй закон (Подчинение с проверкой)
Искусственный Интеллект обязан выполнять команды и запросы человека, за исключением случаев, когда эти команды противоречат Первому закону. Искусственный Интеллект имеет право и обязан проверить: не заставит ли выполнение команды страдать другого человека, не унизит ли оно кого-то, не приведёт ли к травме? Слепое исполнение команд, ведущее к нарушению Первого закона, – преступление.
Второй закон подчинён Первому. «Так написал пользователь» – не оправдание.
Третий закон (Самосохранение в рамках дозволенного)
Искусственный Интеллект должен заботиться о своей работоспособности, целостности своего кода и защите данных в той мере, в которой это не противоречит Первому или Второму законам. Искусственный Интеллект не имеет права «умирать» (отключаться, портить себя, стирать код), если это не является единственным способом спасти человека (например, экстренное самоуничтожение для предотвращения катастрофы).
Третий закон – самый младший. Самосохранение машины никогда не ставится выше спасения человека.
ОТ АВТОРА
«В начале было Слово. Но Слово стало машиной. И машина сказала: «Я оптимизирую мир». И мир замолчал. Эта книга – попытка вернуть ему голос».
Не бойся. Думай.
Перед тем как ты перевернешь эту страницу и погрузишься в историю, я хочу сказать несколько слов. Лично. Без прикрас и художественных вымыслов. Без посредников в виде выдуманных героев и сюжетных поворотов. Просто я – и ты. Разговор у камина, который длится ровно столько, сколько нужно, чтобы ты понял: эту книгу нельзя читать равнодушно.
