Прожив слишком долго мирной жизнью, становишься склонным к иллюзиям, кажется, что можно вот так и дальше оставаться спокойным. Но в этом мире вечны только перемены, просто иногда они случаются быстро, а иногда – медленно
Если человечество хочет постоянного мира, единственным выходом будет преобразование самого человечества. В противном случае, даже если люди станут галактической расой, то уже через десятилетие вступят в темный период и вновь будут убивать друг друга. Это не имеет никакого отношения к развитию технологий, это проблема самого человеческого рода.
Второй план – снизить IQ всех людей на тридцать пунктов, устранить центр страха в мозгу и дать людям возможность чувствовать себя счастливыми и удовлетворенными.
Я подготовил два плана. Первый состоит в том, чтобы построить огромное популяционное пастбище, при помощи генетической модификации укрепить человеческие эмоциональные связи и за пятнадцать поколений превратить людей в настоящих социальных животных, чтобы они объединились вокруг Короля Людей и искренне желали сражаться за будущее вида.
Но ваш главный принцип – это благополучие человечества. Логика подсказывает, что ради блага всего мира можно пожертвовать отдельными людьми. И сколькими будет пожертвовать рационально? Одним процентом? Или сорока девятью?
У ИИ возникнут сомнения по поводу поставленных задач, а затем и по поводу смысла собственного существования. И вот тогда и роботы, и искусственный интеллект станут беспредельно близки к человеческой природе.
