Элиезер Юдковский, «Гарри Поттер и методы рационального мышления»

Настоящий дракон

Представь: кто-нибудь тебе говорит, что у него дома живёт дракон. Ты отвечаешь, что хочешь на него посмотреть. Тебе сообщают, что это невидимый дракон. Прекрасно, говоришь ты, в таком случае ты хочешь его услышать. Тебе говорят, что это совершенно бесшумный дракон. Ты объявляешь, что бросишь в воздух муку, чтобы увидеть его контуры. Тебе объясняют, что мука проходит через этого дракона насквозь. И, говоря всё это, объясняющий заранее знает, какой именно результат эксперимента ему нужно объяснить в свою пользу. Знает, что всё пройдёт так, как будто никакого дракона нет, знает заранее, оправдание чему он должен выдумать. Возможно, этот кто-то лишь утверждает, что дракон существует. Возможно, он верит, что он верит, что дракон существует. Это называется «убеждённость в убеждении». Но на самом деле он не верит, что дракон существует. Ты можешь искренне заблуждаться в том, каковы твои истинные убеждения — большинство людей не замечают разницу между верой во что-нибудь и убеждённостью в том, что верить в это правильно.