Макс ТегмаркЖизнь 3.0. Быть человеком в эпоху искусственного интеллекта
“Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта” — увлекательная научно-популярная книга, вторая книга Макса Тегмарка, физика и космолога, профессора Массачусетского технологического института. В ней он рассматривает возможные сценарии развития событий в случае появления на Земле сверхразумного искусственного интеллекта, анализирует все плюсы и минусы и призывает специалистов объединить свои усилия в борьбе за кибербезопасность и “дружественный” искусственный интеллект.
Мне очень понравилась вторая глава и только она. Но она одна стоит целой книги, ее можно давать студентам из-за интересных фактов и определений по теории вычислительных машин.
Остальное в книге - довольно вольные размышления.
Книга 2017 года, которая начинается с большого куска выдуманной истории. Ох уж эти западные авторы, как же я люблю их тягу к историю. Ох уж этот сторителлинг.
История тут чисто фантастическая, про изобретение в подвале суперинтеллекта, который остался незамеченным для остального мира.
Обратите внимание, что главный фантастический элемент тут - что какая-то команда гиков-кодеров обладает еще и невероятными менеджерскими скиллами, управляя невероятной сетью вторичных и подставных компаний. Вот это - самое невероятное в этой выдуманной истории.
Все остальное - это так, детская фантастика, вполне достижимая. А вот зловещий менеджмент, который затыкает за пояс Мориарти, Джокера, Фантомаса и миллионы других взрослых героев - это взрослая.
Но все же фантастика. Нам предлагают фантастику про зловещий менеджмент, извечный взрослый миф о том, что теория заговора вполне осуществима (в скобочках - нет, вы умрете, не сумев достичь идеальной системы управления, которого они требуют).
Макс Тегмарк, может и хороший профессор на лекциях в университете, но ему явно хочется быть писателем фантастики.
Все это вступление - никчемный ненужный мусор, особенно сейчас, в 2024 году, когда люди попробовали нейронные сети, когда они стали доступны всем компания сразу, когда никто не смог сохранить их в подвале. И когда окончательно и точно стало ясно, что нейронка не может сама себя улучшить. Она не может написать даже веб-сайт без ошибок, и ее интеллект заключается в складывании слов, которое казалось когда-то признаком высокого интеллекта.
Один мой друг недавно пошутил, что, возможно, последней профессией, доступной для людей, будет самая древняя из них – проституция. Но в разговор вмешался японский робототехник, сразу запротестовавший: “Нет-нет, роботы в подобных вещах очень хороши!”.
Ваши знания и умения “весят”, грубо говоря, около 100 терабайт информации, а в вашу ДНК едва умещается гигабайт, которого не хватит для сохранения одного полнометражного фильма
аргумент “интеллектуального взрыва”, выдвинутый еще в 1965 году британским математиком Ирвингом Гудом: “Пусть ультраинтеллектуальная машина определяется как машина, значительно превосходящая человека, как бы он ни был умен, в любой интеллектуальной деятельности. Поскольку создание машин – одна из разновидностей такой деятельности, ультраинтеллектуальная машина сможет создавать еще лучшие машины, и тогда, без сомнения, случится “интеллектуальный взрыв”, когда умственные способности человека навсегда безнадежно отстанут. Поэтому ультраинтеллектуальная машина будет последним изобретением, которое нужно сделать человеку, позаботившись о том, чтобы эта машина оказала нам любезность, проинформировав, как удерживать ее под нашим контролем”.