Искусственный интеллект как позитивный и негативный фактор глобального риска
Қосымшада ыңғайлырақҚосымшаны жүктеуге арналған QR
goole playappstore
RuStore · Samsung Galaxy Store
Huawei AppGallery · Xiaomi GetApps

автордың кітабынан сөз тіркестері  Искусственный интеллект как позитивный и негативный фактор глобального риска
Элиезер Юдковски

unutranyholas
unutranyholasдәйексөз келтірді9 жыл бұрын
каждые 18 месяцев минимальный IQ, необходимый, чтобы уничтожить мир, падает на один пункт
9 Ұнайды1 түсініктеме
Комментарий жазу
Елена Гаврилина
Елена Гаврилинадәйексөз келтірді6 жыл бұрын
Люди по большому счёту не могут улучшать себя рекурсивно. В ограниченном объёме мы себя улучшаем: мы учимся, мы тренируемся, мы затачиваем свои навыки и знания. В небольшом отношении эти само-улучшения улучшают нашу способность улучшаться.
4 Ұнайды
Комментарий жазу
FromYellowToOrangeдәйексөз келтірді7 жыл бұрын
тот ИИ, который первым поглощает интернет, может (потенциально) не допустить в него другие ИИ. Затем, посредством экономического доминирования, скрытых действий или шантажа или превосходящих способностей к социальной манипуляции, первый ИИ останавливает или замедляет другие ИИ проекты, так что никакого другого ИИ не возникает. Ключевой порог – поглощение уникального ресурса.
4 Ұнайды
Комментарий жазу
Yusuf
Yusufдәйексөз келтірді2 жыл бұрын
Слишком много науки существует в природе, чтобы один человек мог её выучить.
2 Ұнайды1 түсініктеме
Комментарий жазу
Yusuf
Yusufдәйексөз келтірді2 жыл бұрын
Человеческие существа начинали, не обладая большими активами зубов, когтей, вооружений, или каких-либо других преимуществ, которые были ежедневной валютой для других видов. Если вы взгляните на людей с точки зрения остальной экосферы, не было никакого намёка на то, что мягкие розовые твари в конце концов закроют себя в бронированные танки.
2 Ұнайды
Комментарий жазу
Yusuf
Yusufдәйексөз келтірді2 жыл бұрын
Не знание того, как сделать дружественный ИИ, не смертельно само по себе, в том случае, если вы знаете, что вы не знаете. Именно ошибочная вера в то, что ИИ будет дружественным, означает очевидный путь к глобальной катастрофе.
2 Ұнайды
Комментарий жазу
Yusuf
Yusufдәйексөз келтірді2 жыл бұрын
Соблазнительно игнорировать ИИ в этой книге, потому что это наиболее трудная тема для обсуждения. Мы не можем обратиться к статистическим данным, чтобы вычислить маленькую годовую вероятность катастрофы, как в случае астероидных ударов. Мы не можем использовать вычисления на основании точных, точно подтверждённых моделей, чтобы исключить некие события или установить бесконечно малые верхние границы их вероятности, как в случае возможных физических катастроф. Но это делает катастрофы с ИИ ещё более беспокоящими, а не менее.
2 Ұнайды
Комментарий жазу
Андрей Конищев
Андрей Конищевдәйексөз келтірді3 жыл бұрын
забавным аспектом теории эволюции является то, что каждый думает, что понимает её
2 Ұнайды
Комментарий жазу
Skripka Yaroslav
Skripka Yaroslavдәйексөз келтірді5 жыл бұрын
наша альтернатива состоит в том, что или стать умнее, или вымереть
2 Ұнайды
Комментарий жазу
FromYellowToOrangeдәйексөз келтірді7 жыл бұрын
Я думаю, что, в конце концов, окажется проще сделать 747ой с нуля, чем растянуть в масштабе существующую птицу или пересадить ей реактивные двигатели.
2 Ұнайды
Комментарий жазу