История о безумцах, которые любили науку; история о том, куда способен завести сверхрациональный разум; история о том, что не только Россию, а в целом весь мир, нашу реальность, умом не понять, будь ты хоть сотню раз нобелевский лауреат. Книга Лабатута на примере гениев снова показывает, что не существует никаких универсальных истин и что в пропасть нас ведут не глупцы, а социопаты, которые сперва расщепляют атом, а потом со священным ужасом смотрят на пепелище Хиросимы и Нагасаки. По мне, эта книга еще более мрачная, чем первая.
Вторая книга Лабатута. Чтение увлекает. Конечно, это беллетризация. Но что-то в этих книгах есть кроме поверхностных биографий ученых. Под примитивными сюжетами можно найти тонкие нити, связывающие непонимание квантовой природы электронов и непонимание природы искусственного разума, победившего человека на его игровом поле. То, что это не фантастика – пугает и деморализует. Любой интересующийся может сам убедиться в возможностях ИИ уже сейчас. Раньше считалось, что наше непонимание явлений природы связано с незнанием стоящих за ними законов. Сейчас понятно, что законов природы нет, в основе нашей реальности лежат не законы, а вероятности. И именно из этого темного хаоса неопределённостей возникают квантовые свойства электронов, которые ведут себя ни как материя и ни как волна, а как цифры. И из него же возникает необъяснимый сокрушающий человеческие интуицию и опыт ход в игре. Что еще может прятаться в этом темном хаосе? Кто там?
Книга захватила меня сразу и до последней страницы. Основана на реальных событиях и биографиях реальных людей. Было интересно погрузиться в мир науки и людей науки. Вспомнить, что они тоже люди, а не просто известные со школы фамилии. Очень интересная книга, заставляющая задуматься.
Эта книга просто супер, супер, супер! Она написана с помощью таких форм и конструкций, которые меня привлекает большое всего. Если оценивать книгу по моей системе ценностей «имени Поляринова», то это 10\10. Для начала нас вводят в курс событий. Истории нескольких ученых, до того гениальных, а в конце жизни – сумасшедших, они стреляют в своих детей, а потом и в себя. Книга состоит из двух временных линий, двух разных историй. Первая рассказывает об одном из самых значимых мировых ученых – Джон Фон Нейман, математик, физик, логик, участник «Манхэттенского проекта» один из тех, кто в итоге пострадал от собственных исследований, получив сильнейшее облучение. Вторая часть книги – о появлении искусственного интеллекта, человек и машина. Поворот истории, когда искусственный интеллект выходит за рамки вложенных в него возможностей. Прорыв, когда ИИ обходит, обыгрывает и вырывается далеко вперед человека. «Наука насквозь нейтральна, она дает нам только инструменты для достижения цели и ко всему равнодушна» Кажется, что здесь этичность многих вопросов, настолько прозрачна и очевидна, что просто киваешь и соглашаешься. Но рефлексия над проблематичностью этики, новой и старой, не отменяет того, как на самом деле используются инструменты, возрожденные наукой и человеком. И ты понимаешь все, просто изменить не можешь ничего. Потому что эта сложенная многолетием система, гораздо, гораздо сильнее. Бесчисленное количество вопросов о гуманности и гуманизме, остаются только фактом истории, зачастую, мне кажется, достаточно печальным.
Так филигранно и накрепко увязать Джона фон Неймана и игру го... Снимаю шляпу, раззявив рот от удивления. Лучшее из того, что попалось мне за этот год. Увесисто рекомендую. Именно тот случай, когда приятно завидуешь тем, кому еще предстоит прочесть.
Очень плавное повествование о развитии технологий и личностей, что за этим стояли. Любопытно было посмотреть на жизнь людей, которые отдали свои годы и здоровье на развитие тех концепций и теорий, что создали наш современный мир с компьютерами, атомными бомбами и технологиями ИИ.
Даже не могу сказать, рекомендую эту книгу или нет. Она определенно неплоха для ознакомления с невероятными достижениями Джона фон Неймана и способностями ИИ-нейронной сети AlphaGo (и некоторых других). Неплоха она для этого засчет именно что большой художественности. Но она же и наносит вред произведению. Попытка показать достижения науки со всех граней и лишь немного подсветить таинственные и мрачные из них превратилась в сплошное нагнетание мрака и ужаса, и я сейчас не про атомные и водородные бомбы. А взять хотя бы ту же квантовую механику, которой так возбоялся Пауль Эренфест в самом начале. Его ребяческое поведение в жизненной ситуации, когда открываются новые непонятные разделы в изучаемой тобой науке, выглядят просто несколько смешно. Это первобытный и первородный страх человека - страх перед всем новым и непонятным. Но вместо того, чтобы проявить себя как человек науки, человек, который всю жизнь прошел критически мыслящим, он капитулирует перед заложенным в него страхом, подобно Кэрроллу, который не понимал и не признавал комплексных чисел. И все эти страхи, переживания и ужасы легко можно было бы принять на веру, если бы не тот факт, что эта книга действительно во многом художественная. То есть, например, многие современники по воспоминаниям относились к фон Нейману скорее как к гедонисту и чудаку, чем как к зверю и безумному. По окончании книги не остается многомерного привкуса, что прогресс разный, несет и зло, и добро, что все зависит от человека, а наука лишь орудие без чувств. Да, такие слова проскальзывают в тексте. Но общее нагнетание атмосферы приводит лишл к желанию раздолбать все компьютеры и уйти в лес молиться за человечество. Это и ужасает на самом деле. Потому что ведет лишь к откату, застою и повторению темных веков. Прогресс абсолютно, несомненно и безапеляционно нужен. Только подходить к нему нужно со вполне своим и весомым интеллектом. Что, разумеется, сложнее всего.
Книга является как бы идейным продолжением его «Когда мы перестали понимать мир» о темной стороне науки. Эта более линейная, логичная, стройная. Создание компьютера, связь с ядерной и водородной бомбой, теорией игр, машинным обучением. И вновь про тонкую, пунктирную и так легко стираемую линию между гениальностью и безумием, между добром и злом, про то, что у каждого свой северный полюс в моральном компасе. Что такое человечность у гениев?
Для меня резюме этой вещи символично в той самой игре Го великого шахматиста Ли Седоля против AlphGo, когда человек проиграл и завершил карьеру, а создатели ИИ-победителя сами не поняли, как его построили (в начале использовали разум и опыт человека, но потом ИИ сам себя натренировал в разных сценариях). И, конечно, в теореме Гёделя о неполноте: в процессе познания мы никогда не достигаем одновременно и полноты, и непротиворечивости. В общем, человечество - RIP. Где ты, Джон Коннор?
P.s. В рамках внеклассного чтения ознакомилась с той самой статьей Ньюмена про связь между воображением и памятью, важной в развитии AGI и ИИ, работами Хассабиса (DeepMind - AlphaGo). Этические риски вынесены за книгу, в статьях, подкастах и выступлениях на конференциях можно найти. Этические аспекты и риски (Хассабис этику вопроса видит одним из 4 рисков развития AGI/AI) не успели войти в книгу.
Pp.s.Цитата: «Власть технологий сама по себе — достижение двоякое, а наука насквозь нейтральна, она дает нам только инструменты для достижения цели и ко всему равнодушна. Опасность создает не особенно извращенная деструктивность какого-то определенного изобретения. Опасность имманентна. Нет лекарства от прогресса»
