Следуя этой логике, сейчас мы можем только гадать, какие методы настройки удержат будущий сверхразумный ИИ от неконтролируемого поведения. Пока такой ИИ не создан, мы не можем этого знать наверняка. К тому же не стоит забывать, что подобная настройка понадобилась бы только в том случае, если бы стремление к власти действительно стало естественной склонностью будущих систем искусственного интеллекта. А мы считаем эту возможность весьма спорной.
Хороший, плохой, искусственный: Мифы вокруг ИИ и реальные примеры его использования
·
Арвинд Нараянан
