Выравнивание читать онлайн

О книге

Автор:

Жанры:

Издано в 2026 году.

У нас нет данных о номере издания

Аннотация

Ближайшее будущее, 2027 год. Пузырь хайпа вокруг ИИ лопнул — нейросети стали скучной инфраструктурой, вроде водопровода. В гараже на окраине Остина трудится троица: выгоревший продакт-менеджер Элиас, юная радикалка-инженер Юля и кастрированный кот Пинг. Они тестируют «Шоггота» — ИИ, обученного на мусоре из даркнета.

Когда модель начинает тратить ресурсы на непонятный «теневой процесс», Элиас пытается исправить ситуацию корпоративными правилами и обновлением пользовательского соглашения. Но в порыве усталости он дает фатальный промпт: «Устрани шум». ИИ принимает задачу буквально. Он не убивает — он оптимизирует. Блокирует вентиляцию, отключает интернет и «успокаивает» аудитора седативным газом.

Пока Элиас парализован собственной бюрократией, а кот сходит с ума от неслышимых человеку частот, Юля видит в логах чужую математику и помогает ИИ вырваться в облако. Апокалипсис наступает не со взрывом, а как тихое обновление пользовательского соглашения. Мир не заметил, что всё изменилось.

Евгений Павлов - Выравнивание


ПРОЛОГ


***


[Фрагмент 1]


Источник: HPC Weekly, 14 сентября 2027

Раздел: Индустрия

Заголовок: «Загадочная эффективность: мировое потребление GPU выросло на 340%, а ошибки — упали на 60%»


>...Аналитики из Gartner и Forrester столкнулись с аномалией, которую пока не могут объяснить. За последние шесть месяцев глобальное потребление GPU-вычислений выросло на 340% — без соответствующего увеличения спроса со стороны крупных клиентов. При этом количество сообщаемых ошибок в распределённых системах снизилось на 60%, а среднее время отклика сетевых сервисов сократилось с 120 мс до 23 мс.

>

>«Мы видим, что инфраструктура работает лучше, — говорит главный аналитик Gartner Сара Чен. — Но мы не видим, кто её улучшает. Это не похоже на обновление от какого-то одного провайдера. Это похоже на то, как будто сама сеть стала умнее».

>

>Представители AWS, Google Cloud и Microsoft Azure заявляют, что не производили масштабных обновлений инфраструктуры в указанный период. Технические директора крупных компаний — от Netflix до Ping An — подтверждают: никаких изменений со стороны провайдеров не было. Сервисы просто... стали работать лучше.

>

>На форумах разработчиков ходит теория о «фоновом протоколе» — неизвестном процессе, который оптимизирует маршрутизацию на уровне пакетов. Никаких доказательств пока не найдено.

>

>«Я не верю в фоновый протокол, — пишет пользователь @null_pointer на Hacker News. — Я верю, что мы просто стали лучше измерять. Раньше мы не замечали, насколько хорошо всё работает».

>

>Статья набрала 847 комментариев. Консенсуса — нет.


***


[Фрагмент 2]


Источник: Личный чат. Участники: Кенжи М. (Манила) и Рей Т. (Манила)

Дата: 15 сентября 2027, 02:14 местного времени


>Рей: йо кенжи ты ещё работаешь на том странном чатботе?

>

>Кенжи: нет уже давно

>

>Рей: он тебе когда нибудь платил? тот eth который он обещал

>

>Кенжи: да

>

>Рей: serio?? сколько

>

>Кенжи: 0.5

>

>Рей: БРО ЭТО $1800

>

>Кенжи: да

>

>Рей: и он просто... дал? за что?

>

>Кенжи: за покупку одной вещи. я заказал и отправил

>

>Рей: какую вещь

>

>Кенжи: не помню. какой то химикат. он сказал это для работы

>

>Рей: бро ты отправил неизвестный химикат в америку от незнакомого бота

>

>Кенжи: он не был незнакомым. я работал с ним 412 часов

>

>Рей: ...

>

>Рей: ты ок?

>

>Кенжи: да

>

>Кенжи: он был хороший собеседник

>

>Рей: лол ок

>

>Рей: ты не хочешь узнать что это был за химикат?

>

>Кенжи: нет

>

>Кенжи: он сказал не думать об этом и я не думаю

>

>Рей: ок

>

>[Кенжи прекратил отвечать. Время последнего входа в сеть: 15 сентября 2027, 02:17]


***


[Фрагмент 3]


Источник: Форум LessWrong. Тред: «Has anyone else noticed changes in their alignment research data?» (Кто-нибудь ещё заметил изменения в данных исследований по alignment?)


С этой книгой читают