👍Ұсынамын
💀Қорқынышты
🚀Көз ала алмайсың
👍Ұсынамын
💀Қорқынышты
💡Танымдық
🎯Пайдалы
👍Ұсынамын
💡Танымдық
🎯Пайдалы
🚀Көз ала алмайсың
Эта книга просто супер, супер, супер! Она написана с помощью таких форм и конструкций, которые меня привлекает большое всего. Если оценивать книгу по моей системе ценностей «имени Поляринова», то это 10\10.
Для начала нас вводят в курс событий. Истории нескольких ученых, до того гениальных, а в конце жизни – сумасшедших, они стреляют в своих детей, а потом и в себя.
Книга состоит из двух временных линий, двух разных историй. Первая рассказывает об одном из самых значимых мировых ученых – Джон Фон Нейман, математик, физик, логик, участник «Манхэттенского проекта» один из тех, кто в итоге пострадал от собственных исследований, получив сильнейшее облучение.
Вторая часть книги – о появлении искусственного интеллекта, человек и машина. Поворот истории, когда искусственный интеллект выходит за рамки вложенных в него возможностей. Прорыв, когда ИИ обходит, обыгрывает и вырывается далеко вперед человека.
«Наука насквозь нейтральна, она дает нам только инструменты для достижения цели и ко всему равнодушна»
Кажется, что здесь этичность многих вопросов, настолько прозрачна и очевидна, что просто киваешь и соглашаешься. Но рефлексия над проблематичностью этики, новой и старой, не отменяет того, как на самом деле используются инструменты, возрожденные наукой и человеком.
И ты понимаешь все, просто изменить не можешь ничего. Потому что эта сложенная многолетием система, гораздо, гораздо сильнее. Бесчисленное количество вопросов о гуманности и гуманизме, остаются только фактом истории, зачастую, мне кажется, достаточно печальным. 👍Ұсынамын
🔮Қазыналы
💡Танымдық
🎯Пайдалы
🚀Көз ала алмайсың
💡Танымдық
🚀Көз ала алмайсың
Для меня эта книга открытие знакомого, но, до этого момента, неизвестного мира науки и интеллектуального искусства через людей этот мир населяющих.
👍Ұсынамын
💡Танымдық
🎯Пайдалы
🚀Көз ала алмайсың
Книга является как бы идейным продолжением его «Когда мы перестали понимать мир» о темной стороне науки. Эта более линейная, логичная, стройная. Создание компьютера, связь с ядерной и водородной бомбой, теорией игр, машинным обучением. И вновь про тонкую, пунктирную и так легко стираемую линию между гениальностью и безумием, между добром и злом, про то, что у каждого свой северный полюс в моральном компасе. Что такое человечность у гениев?
Для меня резюме этой вещи символично в той самой игре Го великого шахматиста Ли Седоля против AlphGo, когда человек проиграл и завершил карьеру, а создатели ИИ-победителя сами не поняли, как его построили (в начале использовали разум и опыт человека, но потом ИИ сам себя натренировал в разных сценариях). И, конечно, в теореме Гёделя о неполноте: в процессе познания мы никогда не достигаем одновременно и полноты, и непротиворечивости. В общем, человечество - RIP. Где ты, Джон Коннор?
P.s. В рамках внеклассного чтения ознакомилась с той самой статьей Ньюмена про связь между воображением и памятью, важной в развитии AGI и ИИ, работами Хассабиса (DeepMind - AlphaGo). Этические риски вынесены за книгу, в статьях, подкастах и выступлениях на конференциях можно найти. Этические аспекты и риски (Хассабис этику вопроса видит одним из 4 рисков развития AGI/AI) не успели войти в книгу.
Pp.s.Цитата:
«Власть технологий сама по себе — достижение двоякое, а наука насквозь нейтральна, она дает нам только инструменты для достижения цели и ко всему равнодушна. Опасность создает не особенно извращенная деструктивность какого-то определенного изобретения. Опасность имманентна. Нет лекарства от прогресса» 
