Боюсь, что мы вступаем в общество турникетов. В силу биологических соображений, представленных в предыдущей главе, я не вижу в ИИ метафизической угрозы будущему Homo sapiens. Споры о сверхинтеллекте скрывают от нас реальную социальную проблему, связанную с этой технологией[75], а именно вопрос свободы воли. Дело в том, что стремительно развивающиеся сегодня промышленные приложения ИИ стремятся исключить из нашей жизни индивидуальный выбор. Чтобы лучше служить нам, они освобождают нас от необходимости принимать самостоятельные решения, которые никогда не бывают идеальными из-за нашей предвзятости и недостатка информации. Принося нам все больше и больше благ, они ежедневно доказывают свою полезность и свое превосходство. ИИ знает наши глубинные вкусы лучше нашего поверхностного сознания – почему бы тогда не предоставить ему управление нашим счастьем? И если Токвиль в эпоху только-только появившихся демократий обнаружил, что их главный фактор – «свобода», я закончил свое долгое путешествие с убеждением, что главное качество эры ИИ – «конец свободы воли». Собственно, возможно, это и есть решение, избавляющее человечество от всех его бед. Быть может, свобода воли – просто схоластическая сказка, иллюзия, отказом от которой мы могли бы гордиться. Но все-таки нужно ясно понимать, что именно мы готовимся потерять.
Конец индивидуума. Приключения философа в мире искусственного интеллекта
·
Гаспар Кёниг
