Чем отличается управление обществом от управления компьютером? Чем отличается обмен информацией между людьми — и между человеком и искусственным интеллектом? В своей классической работе «Кибернетика и общество» Норберт Винер утверждает, что управление любой системой — будь то живой организм, техническое устройство или общественная формация, — подчиняется одним и тем же универсальным законам. В сборник также вошла работа Норберта Винера «Корпорация “Бог и голем”», в которой автор размышляет о том, какие «моральные ловушки» ставит перед человеком все расширяющееся поле взаимодействия с искусственным интеллектом.
Управляя действиями другого человека, я тоже передаю ему сообщение; пускай этот сигнал поступает в императивной форме, техника коммуникации не отличается от техники коммуникации при передаче сообщения о каком-либо факте. Вдобавок, чтобы управление с моей стороны оказалось эффективным, я должен понимать любые сообщения, поступающие от другого и способные указывать на то, что мой приказ осознан и выполняется
в обычных условиях физическая система, продолжающая сохранять специфические черты некоего класса, почти всегда развивается так, что начинает воспроизводить распределение, которое демонстрирует в любой произвольно взятый момент времени во всем классе систем. Иначе говоря, при определенных обстоятельствах система проходит через все распределения позиций и состояний, совместимые с ее энергией, если продолжает действовать достаточно долго.