В своей последней работе «Корпорация «Бог и голем» Норберт Винер попытался рассмотреть в контексте религиозного мировоззрения проблемы, с которыми может столкнуться человечество по мере развития интеллектуальных машин. Практически все мировые религии исходят из того, что Бог создал человека. Человек, в свою очередь, создал машину — включая машину мыслящую. И далее в этом ряду встает вопрос: если Божье творение — человек — оказался способен создать «по своему образу и подобию» мыслящую машину, — то не окажется ли способна к самовоспроизведению и сама машина? И какие «моральные ловушки» ставит перед человеком все расширяющееся поле взаимодействия с его собственным созданием — искусственным интеллектом?
нет ни малейших оснований предполагать, что подобные формализованные варианты до сих пор не созданы в качестве моделей, цель которых заключается в определении стратегий нажатия Большой Кнопки и сжигания планеты дотла во имя строительства нового, куда менее зависимого от человека порядка вещей.
Нет, будущее сулит мало надежд тем, кто ожидает, что наши новые механические рабы построят для нас мир, где мы будем наконец-то освобождены от необходимости мыслить
Едва такой повелитель осознает, что отдельные функции его рабов-людей могут быть препоручены машинам, он приходит в восторг. Наконец-то он нашел себе нового подчиненного – энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и не требующего никакой личной заботы и опеки
Интересно и удивительно актуально, несмотря на прошедшие 60 лет. Прогнозы весьма точные, проблемы, увы, прежние. Рассказы просто прелесть: живой язык, тонкий юмор.