у нас нет надежных методов такой настройки, способных удержать под контролем сверхразумный ИИ, — а сейчас их определенно нет, — придется выбрать второй путь: не допускать создания мощного ИИ.
Увы, оба варианта неосуществимы. Причина проста: мы не знаем, сколько ступеней лестницы универсальности отделяет нас от ИИ общего назначения. Каждая такая ступень требует научных прорывов, порождающих принципиально новый тип ИИ, не похожий на все предыдущие. История учит: когда мы стоим на одной из ступеней, не имея представления о грядущих научных достижениях, мы мало что можем сказать о будущем ИИ. Следовательно, любые исследования, которые мы можем провести сейчас в отношении гипотетического будущего сверхразумного агента, по сути, ограниченны.
Хороший, плохой, искусственный: Мифы вокруг ИИ и реальные примеры его использования
·
Арвинд Нараянан
