Пишите письма → alex@covax.me

Элиезер Юдковский — «Гарри Поттер и методы рационального мышления»

«Гарри Поттер и методы рационального мышления» — это то, что бывает, когда ученый с чувством юмора пишет книжки. Элиезер Юдковский — американский специалист по искусственному интеллекту, исследующий проблемы технологической сингулярности и когнитивных искажений. Является одним из организаторов блога «Less Wrong», нацеленного на «развитие рациональности человека и преодоление когнитивных искажений».

Петуния вышла замуж не за Дурсля, а за университетского профессора, и Гарри попал в гораздо более благоприятную среду. У него были частные учителя, дискуссии с отцом, а главное — книги, сотни и тысячи научных и фантастических книг. В результате в 11 лет Гарри знаком с квантовой механикой, теорией вероятностей и другими полезными вещами. И главное — он очень рациональный, а это похлеще, чем укус радиоактивного паука.

Сама книжка — своеобразный фанфик по ГП, в котором очень доходчиво и на реальных примерах описаны научный подход и критическое мышление. Рекомендую эту книгу всем. Куча прекрасных остылок, научных принципов и логичных рассуждений. Читал и радовался, чем-то напомнило рассказы Вуди Аллена. Но если у последнего отсылки по большей части к философам и социологам, то тут больше к логике и рациональности.

Про ошибки в науке:

— Пытаясь выяснить, как что-то работает на таком глубинном уровне, ты будешь приходить к неверным выводам в девяносто девяти случаях из ста. Так что тебе придётся научиться признавать, что ты ошибался снова, и снова, и снова. Звучит не страшно, но это так тяжело, что большинство людей не в силах по-настоящему заниматься наукой. Не доверять самому себе, всегда пересматривать своё отношение к очевидным вещам, — например, к снитчу в квиддиче, — и каждый раз, когда изменяется твоё мнение, изменяешься ты сам.

Про влияние среды и навязанные ценности:

Гермиона налила себе стакан грейпфрутового сока, а затем прервала его:
— У меня есть к вам вопрос, мистер Поттер. Как вы думаете, почему у людей не получается стать собой?
— Гм-м… — протянул Гарри смущённо и обеспокоенно. — Я считаю, что мы уже являемся самими собой… Не похоже, чтобы я был чьей-то несовершенной копией. Но если попробовать ответить в духе вопроса, то я бы сказал, что люди не становятся собой, потому что набираются всякой ерунды из своего окружения, а затем бездумно её повторяют. Например, сколько людей, играющих в квиддич, играли бы в такую игру, если бы придумали её сами? Или если взять магловскую Британию: сколько людей, считающих себя лейбористами, консерваторами или либерал-демократами, разделяли бы в точности такую же совокупность политических взглядов, если бы им пришлось придумывать всё самим?

Про готовые решения:

Гермиона задумалась. Ей было любопытно, не скажет ли Гарри что-нибудь слизеринское или, может, даже гриффиндорское, но то, что он ответил, явно не вписывалось в перечень директора, и Гермионе пришло в голову, что, должно быть, существует гораздо больше точек зрения по этому вопросу, чем четыре.
— Хорошо, — сказала Гермиона. — Другой вопрос. Что делает человека героем?
— Героем? — переспросил Гарри.
— Да, — ответила Гермиона.
— Ну… — потянул Гарри. Вилка и нож в его руках нервно пилили отбивную на всё более тонкие ломтики. — По-моему, нетрудно сделать что-нибудь, если оно лежит в рамках привычного мира… Например, если от тебя ждут, что ты это сделаешь, или если у тебя уже есть необходимые для этого навыки, или ты выполняешь работу под наблюдением человека, который не даст тебе совершить ошибку и проследит, чтобы ты сделал свою часть. Но для таких ситуаций, скорее всего, уже есть готовые решения, а значит в них не нужны герои. Поэтому я считаю, что люди, которых мы называем «героями», редки, поскольку им приходится всё делать самостоятельно, а большинство чувствует себя неуютно в таких обстоятельствах. А почему ты спрашиваешь? — Гарри наколол на вилку три кусочка тщательно искромсанного бифштекса и отправил их в рот.

Про сложные решения и политику:

Во время Второй Мировой существовал проект саботажа нацистской программы разработки ядерного оружия. Несколькими годами ранее Лео Сцилард, первый человек, догадавшийся о возможности цепной ядерной реакции, убедил Ферми не публиковать своё открытие, что очищенный графит является дешёвым и эффективным замедлителем нейтронов. Ферми хотел публиковаться ради науки всего мира, которая выше наций. Но Сцилард убедил Раби, и Ферми пришлось подчиниться большинству голосов в их маленьком заговоре на троих. Поэтому несколько лет спустя единственным замедлителем нейтронов, известным нацистам, был дейтерий.

Единственным источником дейтерия, который контролировали нацисты, был захваченный завод в оккупированной Норвегии. В результате бомбёжек и диверсий завод оказался разрушен, при этом среди мирного населения погибло двадцать четыре человека.

Нацисты попытались переправить уже очищенный дейтерий, погрузив его на гражданский норвежский паром «Гидро».
Когда Кнут Хаукелид и его помощники пытались пробраться на борт, их обнаружил сторож парома. Хаукелид сказал ему, что они бегут от гестапо, и тот их впустил. Хаукелид раздумывал, не предупредить ли сторожа, но это поставило бы под угрозу всю операцию, и Хаукелид всего лишь пожал ему руку. В итоге гражданское судно затонуло в самом глубоком месте озера. Погибло восемь немцев, семь членов экипажа и три непричастных мирных жителя. Некоторые норвежские спасатели считали, что вытаскивать немецких солдат не стоит, но большинство их не поддержало, и нескольких немцев спасли. Так нацистской программе разработки ядерного оружия пришёл конец.

Смысл в том, что Кнут Хаукелид убил невинных людей. Один из них — тот самый сторож — был хорошим человеком. Он, рискуя собой, впустил на борт беглеца — из-за своей доброты, из-за высоких моральных принципов. А его в ответ утопили. Более того, сейчас, оглядываясь назад, видно, что нацисты были довольно далеки от создания ядерного оружия.
Но нигде и никогда Гарри не встречал мнения, что Хаукелид поступил неправильно.

Такова война в реальной жизни. С точки зрения общего количества погибших и пострадавших, поступок Хаукелида был гораздо хуже того, что Дамблдор, возможно, сделал с Нарциссой Малфой. Или того, что Дамблдор, вероятно, допустил утечку о пророчестве к Лорду Волдеморту, чтобы спровоцировать его нападение на родителей Гарри.

Если бы Хаукелид был супергероем из комиксов, он бы как-нибудь умудрился вытащить с парома всех гражданских, и под ударом оказались бы исключительно немецкие солдаты…
…и не позволил бы умереть ни одному невиновному человеку…
…вот только Кнут Хаукелид не был супергероем.
Как не был им и Альбус Дамблдор.

Гарри закрыл глаза и несколько раз сглотнул — у него перехватило дыхание. Он внезапно осознал, что пока он вовсю старался жить по идеалам Просвещения, Дамблдор, вообще-то, сражался на войне. Легко придерживаться идеалов отказа от насилия, если ты учёный, который живёт внутри пузыря Протего, поддерживаемого полицейскими и солдатами. Сомневаться в их действиях — это роскошь, которая у тебя есть благодаря им. Скорее всего, у Дамблдора когда-то были такие же твёрдые идеалы, как и у самого Гарри, возможно, даже твёрже. Но ему не удалось пройти войну, не убивая врагов и не жертвуя друзьями.

Да там треть книги можно цитировать, читайте.