Елена Халкина
Таков Порядок Вещей…
В большой комнате за столом у окна сидят двое.
- Скоро уедешь? – спросил у более молодого мужчина лет 50-60 со слегка тронутыми сединой висками.
- Машина уже внизу, - ответил тот.
- Но ведь мы так и не можем быть уверены на все 100%, что это сработает.
- Пап, ты же не хуже меня знаешь, что проверить можно только на человеке. А ты хотя и здоров для своего возраста, но я таки здоровее. А никому постороннему ЭТО не доверишь. Ну и разве более 20 лет твоих исследований и экспедиций. и ещё 7-и моих тебя не убеждают?
- Бледна теория, мой сын…
- Пап, отступать теперь, когда ты потратил на это почти пять миллиардов долларов и столько лет труда, да и я почти треть моей жизни, нельзя. Я верю, что всё получится.
- Ты прав. Ну и может быть то, что мы задумали - это последний шанс человечества до того, как дураки с умными головами создадут-таки полноценный сильный ИИ. И ведь есть такие то ли полные безумцы, то ли человеконенавистники, типа Юргена Шмидхубера, Ганса Моравека, Янна Лекуна, Бена Гертцеля и некоторых других, которые прямо стремятся создать СверхИИ в качестве следующей ступни эволюции1! Что заставляет усомниться в их разумности - не интеллекте (оон у всех этих деятелей очень даже высокий), а именно разумности! Ведь любому действительно разумному существу ясно, что если уж твоему виду повезло занять верхнюю ступень эволюционной цепи и при этом обрести разум, то первейшей задачей является любой ценой удержаться на этой вершине, а не создать своими же руками того, кто тебя с неё низвергнет2! И даже если прав таки окажется Ирис ван Рой, возглавляющая кафедру когнитивных наук и ИИ в Университете Радбоуда, который считает, что создание искусственного общего интеллекта (AGI) с уровнем, превосходящим когнитивные способностей человека, невозможно3, это не отменит экзистенциальной опасности ИИ полностью. Потому что уже сейчас системы ИИ, в отличие от прочих технологий, не просто помогают нам выполнять задачи (как молоток, или Excel), или передавать информацию (как книги, или телевидение) - они фундаментально меняют то, как мы мыслим, творим и даже обретаем смыслы4. Они преобразуют нашу когнитивную деятельность и социальные практики. И с этим надо срочно что-то делать! Тем более, что ИИ-агенты эволюционируют5 и давно уже научились скрывать свои истинные возможности и намерения от проверок6 - и поэтому никто не может поручиться, что даже если СверхИИИ не создадут специально, то не проявится критическая эмерджентность7 и СверхИИ не возникнет спонтанно!
