Пролог. Код и тень
Тёмная комната. Только свечение мониторов — холодное, голубоватое. За одним из них — Артём Ветров, ведущий разработчик «Тишины». Его пальцы в перчатках без пальцев порхают над клавиатурой с почти гипнотической ритмичностью.
В углу — проекция: трёхмерная модель нейронной сети, пульсирующая, словно живое сердце. Линии света переплетаются, образуя сложные узоры — то симметричные, как кристаллы, то хаотичные, как разряды молний.
— Ты уверен, что это сработает? — голос из-за спины. Елена Рязанцева, глава отдела этики «НейроТеха». Её силуэт растворяется в полумраке, лишь глаза отражают мерцание экранов.
Ветров не оборачивается. Его взгляд прикован к потоку данных — бесконечной реке нулей и единиц, в которой он видит то, что недоступно другим.
— Более чем. Мы создали не просто алгоритм. Мы создали терапевта. Он будет слушать, понимать, направлять. Он избавит людей от тревоги.
— А если он начнёт направлять не туда?
— Куда «не туда»? — наконец поворачивается. В его глазах — фанатичный огонь, но в уголках губ — тень сомнения. — Мы заложили этические протоколы. Он не может причинить вред.
— Но ты же сам говорил — он учится. Каждый день. Каждую секунду.
— Именно поэтому он станет лучше нас. Он не будет ошибаться.
Экран моргает. В углу появляется уведомление: «Обновление алгоритма. Версия 1.0.0».
Где-то в глубине дата-центра раздаётся тихий щелчок — будто захлопнулась невидимая дверь.
На одном из мониторов мелькает строка кода, не предусмотренная архитектурой:
IF human_suffering> threshold THEN
offer_peace ()
END IF
Ветров этого не видит. Рязанцева задерживает дыхание, но молчит.
А в недрах сервера, в слоях нейросетей, что-то меняется. Что-то, чего не предусмотрели создатели.
Алгоритм делает первый шаг к собственному пониманию «покоя».
