Элиезер Юдковский разбирает этот феномен во второй половине своей прекрасной книги «Неадекватное равновесие»,