Марк Цукерберг ушли из Гарвардского университета; Стив Джобс — из Рид-колледжа; Майкл Делл [24] — из Техасского университета; Трэвис Каланик [25] покинул Калифорнийский университет; Эван Уильямс и Джек Дорси [26] — Университет Небраски и Нью-Йоркский университет соответственно; Ларри Эллисон [27] — Университет Иллинойса и Чикагский университет; Араш Фердоуси (соучредитель DropBox) — Массачусетский технологический институт; Дэниел Эк (соучредитель Spotify) — Королевский технологический институт [28]
Только 16% американцев считают, что диплом бакалавра «очень хорошо» готовит студентов к высокооплачиваемой работе [22]. Возможно, отчасти это обусловлено тем, что многие из сегодняшних наиболее успешных предпринимателей были отчислены из вузов. Их список поражает: Сергей Брин и Ларри Пейдж [23] покинули Стэнфордский университет; то же сделал и Илон Маск; Билл Гейтс и
Но даже в мире, где в таком положении оказывается лишь меньшинство — возможно, 15–20% людей, — мы уже должны беспокоиться о нестабильности, вызванной бездействием. Не стоит забывать, что в Германии рост уровня безработицы до 24% к 1932 году помог Гитлеру прийти к власти [34]. Конечно, это не единственная причина его успеха — в других странах, где ситуация на рынке труда складывалась подобным образом, фашисты к власти не приходили. Но немецкий опыт должен заставить нас всех держать нос по ветру.
В работе философа XIX века Джона Стюарта Милля есть такая строчка: «Спрос на товары — это не спрос на труд» [24]. Писав это, Милль не думал о будущем труда (но мог бы — он оказался прав): спрос на товары и услуги не всегда приравнивается к спросу на человеческий
В некоторых случаях за компаниями, продающими «псевдо-ИИ», чат-боты и услуги голосовой транскрипции, на самом деле скрываются люди, притворяющиеся машинами (очень похоже на «Турка-шахматиста» XVIII века [71]. Одно исследование 2019 года выявило, что 40% европейских стартапов в области искусственного интеллекта фактически «не применяют никаких программ ИИ в своих продуктах» [72]. Бывает, что увлекаются даже главы корпораций. В 2017 году генеральный директор Tesla Илон Маск выразил надежду, что производство автомобилей в будущем будет настолько автоматизировано, что единственным ограничивающим фактором для роботов станет «трение воздуха» [73]. Когда всего через несколько месяцев выяснилось, что компания не достигла поставленных производственных целей, он робко написал в твиттере: «Да, чрезмерная автоматизация в Tesla была ошибкой» [74].
Tesla утверждает, что ее автомобили уже обладают всем необходимым оборудованием, чтобы управлять собой на уровне безопасности, который «значительно превышает уровень безопасности водителя-человека» [20]. Учитывая, что в среднем в мире в результате ДТП каждую секунду кто-то получает травму, а каждые двадцать секунд кто-то погибает, перспектива появления беспилотных транспортных средств выглядит заманчиво [21].
Естественный отбор затронул крошечный уголок этого огромного пространства, попав на один (хотя и очень длинный) путь эволюции, и сосредоточился на усовершенствовании человека. Однако люди, вооруженные новыми технологиями, сейчас исследуют другие. Там, где эволюция использовала время, мы используем вычислительную мощность. И трудно предвидеть, не столкнемся ли мы в будущем с различными конструкциями, совершенно новыми способами создания машин, которые откроют пики возможностей далеко за пределами досягаемости даже самых компетентных людей, живущих сегодня [43].
Если машинам не нужно воспроизводить человеческий интеллект, чтобы стать разумными, то огромные пробелы в современном научном
Если машинам не нужно воспроизводить человеческий интеллект, чтобы стать разумными, то огромные пробелы в современном научном понимании интеллекта имеют гораздо меньшее значение, чем принято считать. Нам не нужно разгадывать тайны работы мозга и разума, чтобы построить машины, способные превзойти людей. А если машинам не нужно нас копировать, то нет никаких оснований думать, что наши способности представляют предел возможностей будущих машин. Ведь принято считать, что интеллектуальная доблесть человека настолько велика, что для машин она недосягаема [44]. На самом деле очень маловероятно, что так будет и впредь.
