Эволюционная природа морали и ее программирование на квантовых вычислителях
«Я полагаю, что в конце столетия словоупотребление и общее образованное мнение изменятся настолько, что можно будет говорить о мыслящих машинах, не ожидая возражений».
– Алан Тьюринг, 1950 год
Глава 1. Фундаментальные основания квантовой эволюционной теории морали
1.1. Кризис классической этической парадигмы
Когда я начинал свои исследования в области теоретической этики более двадцати лет назад, я исходил из традиционного для философии предположения: мораль есть система норм и принципов, которые могут быть логически обоснованы и рационально применены к конкретным ситуациям. Это предположение разделяли практически все мыслители от Аристотеля до Канта, от Милля до Ролза. Каждый из них предлагал свою систему координат, свой способ определения добра и зла, свой метод разрешения этических дилемм.
Однако, чем глубже я погружался в изучение реального морального поведения людей, тем отчетливее понимал неадекватность этого подхода. Люди в своей повседневной жизни не являются последовательными кантианцами или утилитаристами. Они могут в одной ситуации руководствоваться принципом "не лги", а в другой считать ложь во спасение морально оправданной. Они могут жертвовать собственными интересами ради близких, но проявлять эгоизм по отношению к незнакомцам. Они могут декларировать одни ценности, а в реальном поведении демонстрировать совсем иные.
Психологические эксперименты последних десятилетий только подтвердили эту картину. Знаменитые исследования Джошуа Грина показали, что решение гипотетических этических дилемм активирует различные участки мозга в зависимости от того, насколько личным является предполагаемое действие. "Личные" дилеммы (например, столкнуть человека с моста, чтобы спасти пятерых) вызывают более сильную активацию эмоциональных центров, чем "безличные" (перевести стрелку на вагонетке). Это указывало на то, что моральное решение не является результатом чисто рационального вычисления.
Нобелевский лауреат Даниэль Канеман в своих работах по поведенческой экономике продемонстрировал, что человеческое мышление принципиально не соответствует модели рационального агента, лежащей в основе классической экономической теории. Люди систематически отклоняются от рациональности, причем эти отклонения предсказуемы и могут быть описаны математически. Система 1 (быстрое, интуитивное мышление) и Система 2 (медленное, рациональное мышление) взаимодействуют сложным образом, и результат этого взаимодействия далеко не всегда оптимален с точки зрения классической рациональности.
