Искусственный интеллект – это оптимизированная и размноженная комбинация миллионов человеческих интеллектов. Мне кажется ошибкой утверждать в стиле газетных заголовков лета 2018 года, что «один ИИ в диагностике опухолей головного мозга показал лучшие результаты, чем пятнадцать китайских врачей». Скорее следовало бы писать, что один ИИ позволил наладить беспрецедентное сотрудничество тысяч врачей, которые, опираясь на собственные знания, занимались маркированием тысяч изображений с опухолями. Разве может быть что-то удивительное или чудесное в том, что десять тысяч врачей, работая вместе, достигли лучших результатов, чем пятнадцать их коллег?
Диспозиции знания, как и предсказывал Фуко, пошатнулись: человек больше не является сознательным производителем знаний, он пассивный реципиент информации. Парадокс в том, что гиперперсонализация продуктов ведет к дезиндивидуализации субъекта. Мы потребляем по индивидуальной мерке, но теряем меру себя. Под натиском непрерывного потока извещений, лишившись всякой интроспекции, «цифровой» человек теряет свою интеллектуальную и нравственную автономию
Это событие очень похоже на ИИ и его современные изводы, которые постепенно лишают человека того, чем наделяла его мысль модерна, а именно уникальности, автономии и ответственности.
Я никоим образом не против ИИ, но должен констатировать, что его индустриальные приложения, разрабатываемые сегодня, создают опасность для индивидуальной способности выбора: опираясь на утилитаристское основание, они умножают техники nudge.
Но что касается ИИ, их позиция ясна: «Полный оптимизм». Нельзя отказаться от прозрачного общества, чьи выгоды, особенно экономические, значительно превосходят отдельные неудобства.
То есть первый ИИ был грубым обманом, и сегодня можно только удивляться, почему он почти целый век пользовался таким оглушительным успехом. Amazon вдохновился этой историей, чтобы остроумно напомнить нам о том, что за магией алгоритмов скрывается значительный человеческий труд
Как потребитель может оставаться прав, если сами основания его решений сфабрикованы алгоритмом? Как мы можем быть ответственными взрослыми людьми, если самые главные наши решения определяются нашей включенностью в сеть? Какая разница между Google и Коммунистической партией Китая, если они используют одни и те же техники nudge, преследуя одни и те же утилитаристские цели?
Мне кажется, что апологеты индивидуальной свободы настолько устали от векового сражения с луддитами самых разных мастей, настолько ослеплены своей страстью к инновациям, что просто отказываются видеть ту фундаментальную опасность, которую ИИ представляет для самого понятия индивида. Заметным исключением выступает лишь Питер Тиль, знаменитый предприниматель и открытый либертарианец, который охотно заявляет, что «ИИ – штука коммунистическая»
ИИ может добить свободу воли, а вместе с ней и кантовский идеал автономии субъекта. Триумф благополучия означал бы тогда отречение от свободы – свободы выбора, свободы восстания, свободы ошибаться, «свободы заблуждаться», о которой говорил Джон Стюарт Милль
