Не знание того, как сделать дружественный ИИ, не смертельно само по себе, в том случае, если вы знаете, что вы не знаете. Именно ошибочная вера в то, что ИИ будет дружественным, означает очевидный путь к глобальной катастрофе.
Искусственный интеллект как позитивный и негативный фактор глобального риска
·
Элиезер Юдковски
