Ниже представлена расшифровка прямого эфира RationalRadio от 06.04.2021 с Вячеславом Матюхиным (сооснователем Центра рациональности «Кочерга»), с которым мы обсудили всё о рациональности: что это такое, как и зачем ей обучаться, и как связаны рациональность и инвестиции.
Рациональность: что это и зачем
Павел: Друзья, всем привет! С вами второй выпуск RationalRadio и сегодня у нас в гостях Слава Матюхин – сооснователь центра рациональности Кочерга. Он машет вам рукой на видео, но сейчас в прямом эфире вы слышите только звук, поэтому только я наслаждаюсь прекрасным видом Славы. Сегодня мы обсуждаем рациональность. Привет, Cлава!
Вячеслав: Привет!
Павел: Отлично! 🙂 Мы тут уже пошутили до эфира, что подкаст называется «Два картавых чувака разгоняют за рациональность».
Окей, ну собственно давай с места в карьер: план у нас такой – часик мы поговорим с тобой 1 на 1, а потом, примерно через час, подключим вопросы зрителей, слушателей.
Давай начнём с того, что вообще такое рациональность. Когда говорят рационалисты об этом понятии, у меня есть подозрение, что они возможно говорят о чём-то другом, чем то, что имеют в виду обыватели, когда используют этот термин. Расскажи, пожалуйста, что такое рациональность.
Вячеслав: Да, знаешь, пару лет назад я пытался написать про это текст, у меня всё ещё где-то лежит черновик, и там примерно 12 определений. Одно из самых стандартных, заезженных среди рационалистов – это разделение рациональности на эпистемическую и инструментальную.
Страшные слова, я понимаю, но, условно говоря, на два вида – один вид это про то, насколько наши убеждения соответствуют реальности, насколько то, вот что мы верим это то, что на самом деле есть в мире. А другая часть это инструментальная – про то, что у любого человека есть цели, и как выглядят более эффективные способы их добиваться.
Павел: Давай я буду переводить в подкасте с языка рационалистов на язык инвесторов.
Эпистемическая рациональность – это когда вы пытаетесь понять, какая инвестиционная стратегия на самом деле работает. Вот вы штудируете всякие разные выкладки, изучаете историю, делаете какие-то модели и пытаетесь прийти к выводу что собственно нужно делать, что работает в этом мире с точки зрения инвестиций.
А инструментальная рациональность – это нужно себя заставить ещё и следовать этой стратегии. В этом примере у меня может быть чуть лучше эпистемическая рациональность, то есть я могу отличать работающие инвестиционные стратегии от неработающих, но, как многие мои читатели знают, у меня чуть хуже с инструментальной рациональностью – я не всегда сам следую своим же советам, и за это в итоге расплачиваюсь потерей доходности.
Окей, на этом уровне примерно понятно. Тогда вопрос, а вот зачем обычному человек стремиться быть рациональным? В чём здесь будет профит?
Вячеслав: Да. Вот в том определении, которое мы взяли, которое мы сейчас зафиксировали, это довольно тавтологический вопрос – зачем людям быть более разумными, более адекватными, более эффективными? Ну это понятно – быть богатым лучше, чем быть бедным, быть умным лучше, чем быть глупым.
Другое дело, что мне хочется этот вопрос немножко перефразировать в «зачем заниматься рациональностью?», то есть зачем стремиться это всё улучшать, зачем вообще брать эту тему разницы в уровнях, в методах и так далее как предмет обсуждения – почему нельзя просто идти и делать что-то?
Павел: Ну собственно да. Ты просто начал с того, что сказал, что по сути рациональность глобально похожа на здравый смысл, то есть просто немножечко отличать фигню от правильных вещей и принимать решения, которые тебя приближают к твоим целям.
Для меня это звучит как старый добрый здравый смысл, зачем нужно вводить это страшное понятие «рациональность» и ещё, боже мой, читать какие-то умные книжки про это и ходить на тусовки рационалистов.
Вячеслав: Я хочу добавить одно слово в определение – систематический здравый смысл. Не такой, который просто загадочным и задним числом мы смотрим и понимаем «ну да, это выглядело разумно», а такой, который мы можем смоделировать, объяснить, упаковать и загрузить в голову другим людям.
Если мы пытаемся не просто сказать, ну бывают, цитируя «12 стульев»: «Вот этот блондин умеет играть в шахматы, а вот этот брюнет не умеет, и никакая школа шахматной игры никого не научит» – тогда да, тогда нам незачем заниматься рациональностью, потому что у каждого человека есть врождённые таланты.
На самом деле, если мы посмотрим как устроен мир – всё совсем не так, и то, насколько люди разумно принимают решения зависит от того, какие у них в голове ментальные модели – способы рассуждать о реальности, способы рассуждать о своём собственном мышлении, способность работать со своими собственными, например, эмоциями, паттерны обработки информации и так далее.
И вот эти шестерёнки, механизмы в головах людей отличаются, и их можно менять. Если пойти, покопаться в них, подебажить как-то, поменять программу того, как ваше мышление работает и предположительно что-нибудь улучшить так, чтобы результат получался бы получше.
В конечном счёте рациональность и будет выглядеть как здравый смысл, неотличимо.
Павел: У меня сразу вопрос – мне кажется, для стороннего слушателя звучит так: он открывает интернет, ему сразу вываливается какая-то реклама курсов «мы поменяем ваше мышление, вы станете богатым, здоровым и знаменитым всего лишь за 10 тысяч рублей», и это очень похоже на то, что ты говоришь.
Ты же тоже говоришь, что нужно поменять своё мышление, ментальные модели, туда-сюда и вы сможете добиваться своих целей, в том числе быть богатыми, здоровыми и знаменитыми. В чём здесь подвох? Почему то, что ты говоришь это не инфоцыганщина?
Вячеслав: Во-первых я не обещаю золотые горы, я думаю, в будущем будет появляться больше людей, которые будут называть словом рациональность инфоцыганство…
Павел: Например, мой телеграм-канал 🙂
Вячеслав: В инфоцыганство можно превратить что угодно: Курпатов превратил в инфоцыганство психологию, Бизнес Молодость превратила в инфоцыганство создание новых компаний.
Как бы то, что не очень добросовестные люди занимаются какой-то темой само по себе ещё не обесценивает эту тему, поэтому интересно было бы скорее посмотреть на саму тему в себе – есть в ней что-то интересное или нет.
Мифы о рациональности
Павел: Окей. Я дальше хотел обсудить практические вещи, которые наши слушатели смогут извлечь из нашего разговора по рациональности.
Перед этим я хотел развеять некоторые мифы про рациональность. Давай я тебе буду накидывать, а ты мне говори правда – это или нет.
Миф или правда: рационалисты – это такие душнилы, которые в любой спор приходят и начинают говорить «срочно скинь мне ссылку на исследование со статистикой, PubMed, туда-сюда, если нету ссылки на исследование, то это всё фигня».
Вячеслав: Не могу опровергнуть это про всех людей вообще в мире, конечно есть многие люди, которые так делают и многие из них говорят «я рационалист». Что я могу с этим поделать? У нас не существует сертификата на рационалиста. Но мне кажется, что такой паттерн поведения более свойственен людям, которые излишне рьяно за науку, в смысле наслушались научпоп лекций и прочитали про научный скептицизм, пришли в общество скептиков и теперь такие «Всё! Можно верить только в штуки, которые доказаны исследованиями!».
К сожалению, у меня после этого появляется вопрос – а как вы решения в повседневной жизни принимаете? Вы правда нашли метаисследование про все вещи, которые делаете? Вы читали метаисследование про то, как важно чистить зубы или ходить в душ по утрам или разговаривать с людьми так, а не так? Почему вы делаете то, что вы делаете?
Павел: Я помню шутку про то, что нету двойного слепого исследования про то, что прыгать с самолёта без парашюта – это смертельно, поэтому не факт, что на самом деле не нужно этого делать.
Вячеслав: По-моему, там было исследование, которое показало, что прыгать без парашюта безопасно, только там люди прыгали с высоты метр или 20 метров. 🙂 Вот реально изданная статья.
Так вот, рациональность в каком-то смысле и люди, которых я больше всего сам считаю за рационалистов и которых больше всего люблю, когда «вот этот человек рационалист! Ай, как прекрасно!». Это люди, которые готовы думать и с помощью научного метода, и с помощью источников, и одновременно не боятся строить свои собственные рассуждения, свои собственные модели от первых принципов.
И в этом смысле конечно же одной только оформленной статьи недостаточно для того, чтобы вообще как-то ориентироваться в окружающем мире.
Как пример, год назад, когда ещё не было определённости про маски на каком-то этапе ВОЗ (всемирная организация здравоохранения) стала говорить, что мы ничего не знаем про макси, и как-то эта информация мутировала в «маски бесполезны и даже вредны». То есть в массовом сознании мысль «не существует двойного слепого исследования, показывающего, что маски полезны» мутировала в «раз мы не знаем, то значит маски заведомо бесполезны».
С точки зрения рациональности это полное безумие. Помимо факта про то, что у нас есть или отсутствуют исследования, нам нужно взять ещё свой приор и свою собственно говоря модель от первых принципов. Неужели правда то, что люди кашляют вокруг себя никак не блокируется маской? Не верю!
Павел: Ты на самом деле очень мягко сказал, что в общественном сознании, потому что многие профессиональные врачи тоже распространяли эту же точку зрения и записывали обращения, ролики типа «Вы сами подумайте, как вообще может вирус то он маленький, а в маске дырочки, всё будет пролетать сквозь».
Вячеслав: Да, это такая история, в которой мне кажется если рационалист в среднем, если мы берём Западных известных рационалистов-лидеров мнений оказались сильно более правы, чем профессионалы.
Павел: Окей, то есть поставили себе заметочку, что рационалисты это не только те, кто копаются в исследованиях – там нужно ещё и думать при это, как ни странно 🙂
Ладно, окей, давай зайдём с другой стороны: многие считают, что рациональность в принципе не про эмоции, что рациональный подход – это когда ты полностью отключаешь эмоции и не способен в принципе их как-то познать, а вот всё, что касается сферы каких-то чувств, это всё априори находится за границами рациональности. Как ты к этому относишься?
Вячеслав: Это конечно заведомо неправда, это настолько неправда, что рационалисты вложили много усилий в то, чтобы этот миф развенчать, просто потому что на самом деле человек, который никогда не сталкивался с рациональностью обычно имеет стереотип, что рационалист – это Спок, холодный интеллект без чувств. На самом деле конечно эмоции это такие же эвристики – простые приёмы принятия решений, и обычно это сигналы про какие-то наши интуиции, какие-то наши ожидания от реальности и их точно так же можно учитывать.
С другой стороны, хочу немного поправить – рационалисты умеют в эмоции, с другой стороны многие рационалисты на самом деле бывают на аутичном спектре. Что уж там, я готов это признать – многие рационалисты хуже умеют обращаться с эмоциями, но при этом тренируются в обращении с ними тоже и не обесценивают.
Другое дело, что то что рационалисты активно недолюбливают это то, что в последнее время кажется в среде западных рационалистов сошлись на термине социальная реальность. Это когда то, что мы обсуждаем о мире, то, как мы вообще обрабатываем информацию скорее основано на социальных танцах того, кто прав в какой ситуации, чью позицию занять и такая вот межличностная политика, чем попытки разобраться что же истинно на самом деле. И вот это вот то, с чем рационалисты часто борятся, пытаются понять что же с этим делать и часто от этого могут не позволять себе некоторые эмоции, потому что интереснее другие эмоции.
Павел: Мне кажется тут важно разделять две ипостаси рациональности с которых мы начали, то есть если речь идёт про эпистемическую рациональность (когда мы пытаемся докопаться до истины), то мне кажется здесь действительно абстрагироваться от эмоций чаще всего достаточно неплохая стратегия. Но если речь идёт про инструментальную рациональность, когда ты пытаешься делать какие-то действия для достижения своих целей, то здесь без учёта эмоций ну это просто абсурд.
Это как если бы человек думал «ну, я всё прочитал про пользу физических упражнений. Значит так, я себе составил план – в понедельник, в 6 утра, встаю на пробежечку, бегу, я же знаю, что это полезно – значит я встану и побегу». Но если ты на практике не учитываешь то, что тебе будет день, ты будешь сонный и вообще раньше ты такого никогда не делал, и эмоции скорее всего тебя потащат совсем в другую сторону, то вряд ли твой план будет действительно рациональным если ты хочешь добиться успеха.
Вячеслав: Знаешь, с одной стороны я понимаю о чём ты, с другой стороны точно так же я могу рассказать обратную историю как в эпистемической рациональности эмоции очень важны, например по сути дела терапия – это такая форма эпистемической рациональности, то есть ты приходишь для того чтобы разобраться как у тебя работают убеждения, алгоритмы в голове и копаешь довольно глубоко, там, где эти убеждения закодированы уже не как факты о мире, а как скорее твои собственные выученные эмоциональные реакции из прошлого.
С другой стороны, если мы потащим инструментальную рациональность эмоциями, если вот так как ты сказал как замотивировать себя на пробежку, то конечно да – поработать с эмоциями нужно. А если как “я играю на бирже или я играю в покер, мне очень хочется рискнуть, и поэтому пойду я это сделаю”, то можно очень много потерять.
Павел: Согласен, особенно про первый пример – наверное в каких-то случаях действительно твои эмоции могут подсказывать где у тебя есть какие-то элементы самообмана, что ты убеждаешь сам себя в какой-то истине, которая на самом деле ей может не являться. Интересная мысль, подумаю про это дальше.
Ещё пару вещей хотел обсудить, вот у нас в чате очень часто возникает дискуссия, так как у меня называется группа RationalAnswer, периодически люди говорят что-то в стиле вот недавно была дискуссия про телефон, люди писали, что “Если ты зарабатываешь много денег, условно 200 тысяч рублей в месяц, то иметь смартфон за 12 тысяч рублей это нерационально”. И меня всегда немножко пугает такая постановка вопроса, потому что на мой взгляд она достаточно бессмысленна. Рациональность не может быть какой-то универсальной для любого поведения, она всегда привязана во-первых к целям человека, во-вторых к какому-то конкретному контексту.
И если конкретизировать и сказать, что у человека цель вот такая-то и он находится в таких-то условиях, то действовать вот так вот будет нерационально, то есть это не будет помогать ему достигать цели. Но вот просто абстрактно сказать, что что-то нерационально, а что-то рационально – мне кажется, что это какая-то ерунда. Что ты считаешь на этот счёт?
Вячеслав: Я абсолютно согласен с тем, что это ерунда, если это интерпретировать буквально, на самом деле это скорее даже формулировка про то что что-то является или не является рациональным настолько опасная и неудобная чтобы с ней работать, что обычно в среде рационалистов её не используют вообще. Как это называют табуируют, не используют это слово – рационалисты не говорят, что “это рационально”.
С другой стороны, люди часто говорят не то что они буквально имеют ввиду. И поэтому иногда, если ты слышишь какую-то фразу типа кто-то говорит, что что-то нерационально, то может быть стоит применить принцип доверия Поттера или что-нибудь подобное и предположить, что на самом деле человек закладывает в эти слова и отрисовать нижележащее послание.
Павел: Да, но всё равно придётся для этого конкретизировать какие-то вещи, уточнить, “А правильно ли я понял, что ты имел ввиду вот это”, и после этого уже можно обсуждать.
Вячеслав: Можно уточнить, можно попытаться угадать в зависимости от того, какая у тебя априорная степень уверенности в том, что ты правильно угадал.
Павел: Окей, понятно. Поняли, ребята? Отныне у нас в чате слово рационально табуировано, нельзя так говорить. 🙂
Практические техники
Павел: Давай перейдём к практике, я бы хотел, чтобы мы из сегодняшнего разговора попробовали вынести какие-то в принципе полезные рационалистические штуки, которые в среде тех, кто интересуются рациональностью и пытаются её применять широко используются, а в других областях может быть не все про них знают. Можешь привести пару примеров каких-нибудь ментальных моделей, или техник, или ещё чего-нибудь, что могло бы быть полезным для наших слушателей.
Вячеслав: Да, конечно. В рациональности много разных тесно переплетённых между собой ментальных моделей и техник, где техники это просто сделать раз, два, три, а ментальные модели скорее система координат, в которую можно запихнуть реальность и через неё про реальность подумать.
Давай я приведу и того, и другого. Из техник можно назвать, например, технику pre mortem. Она придумана не рационалистами, но она популярна среди рационалистов и где-то близко.
Техника pre mortem состоит в том, что перед тем, как вы собираетесь начать что-нибудь делать, если это достаточно затратный и рискованный для вас проект, точнее в основном затратный, долгосрочный и так далее, то имеет смысл хотя бы 5 минут подумать что может пойти не так, но не совсем что может пойти не так – это довольно понятный простой вопрос, а скорее представить себе, что всё уже пошло не так, а потом попытаться себе объяснить почему так случилось. То есть буквально могу порекомендовать представлять себе, если у вас достаточно богатое воображение, что рядом с вами открывается портал, оттуда выбегаете вы из будущего с всклокоченными волосами или бородой и кричите «ВСЁ ПРОПАЛО!!! НЕ ДЕЛАЙ ЭТОГО!» и убегаете обратно.
Вы получили из будущего один вид информации – проект не удался. Попробуйте себе объяснить почему. Как вы будете в будущем, когда проект не удался, оправдываться и объяснять себе почему это случилось.
Чем техника хороша – она позволяет нам воспользоваться той частью нашего мозга, которая умеет объяснять уже произошедшее событие, а не просто пытаться прогнозировать что будет, потому что когда мы пытаемся прогнозировать, мы прогнозируем happy path – наиболее счастливый сценарий развития событий, а когда объясняем, то нам гораздо проще воображать разные объяснения.
Павел: Мне кажется мега полезная штука для инвесторов, потому что обычно люди, которые начинают инвестировать на фондовой бирже думают так: «О, я положу какие-то деньги, я стану богатым – я же из старых примеров из прошлого вижу, что рынки гигантскую доходность дают».
И действительно, как ты сказал, человеку гораздо приятнее представлять какие-то счастливые завершения всего этого, чем думать о том, что может пойти не так. А метод, который ты описал может помочь, ты думаешь: «Окей, давайте представим, что я 20 лет следовал своему плану, который я для себя наметил – я там откладываю деньги, инвестирую их туда, куда хотел, и через 20 лет оказывается, что я в общем-то совсем не богатый, а даже бедный, и что вообще могло к этому привести. И ты садишься, начинаешь накидывать идеи: может быть рынки, те классы активов, на которые я ставил себя повели не так, как я ожидал. Начинаешь лезть в прошлое, искать какие-то примеры – а было ли вообще такое, что они себя вели по другому, чем как ты ожидаешь.
Или, например, ты думаешь: «Я закладываюсь на такую-то номинальную доходность, но при этом я не подумал про инфляцию, а она на самом деле будет не 2% как в моей модели, а, предположим, 10». И когда ты поле вариантов рассмотрел, ты уже как-то можешь с этим работать, ты можешь какие-то вероятности хотя бы примерные присвоить разным объяснениям этого исхода печального, и соответствующим образом поправить свой план, чтобы подложить соломки там, где может бабахнуть. Поэтому точно нужно эту штуку применять.
Что ещё интересного можешь нам рассказать?
Вячеслав: Давай из ментальных моделей наверное несколько слов про фокусирование, такая более странная, неожиданная техника с точки зрения «Рационалисты… Почему они этим занимаются?!», особенно если для вас неожиданность, что рационалисты как-то работают с эмоциями.
Техника фокусирования сводится примерно к следующему (она тоже заимствована – есть создатель, есть книжка про неё, но рационалисты её [технику] очень любят) – если в психотерапевтическом пересказе, то она звучит примерно так: когда у вас есть какой-нибудь внутренний конфликт, какая-нибудь неприятная эмоция или что-нибудь такое, попробуйте заметить в себе, в теле как это ощущается, навестись на это, позамечать это и просто не трогать эту штуку и дать ей побыть. И после этого она вам может быть что-нибудь скажет, это вот более эзотерическое описание.
Менее эзотерическое описание звучит примерно так – представьте себе, что вы пытаетесь вспомнить чьё-нибудь имя и вы не помните имя и перебираете варианты. Вот я говорю с человеком по фамилии Комаровский, как тебя? Вася? Петя? Нет.. Павел, точно!
И вот это ощущение, когда вы знаете примерно где находится штука, но ещё не вспомнили для нее слова – это состояние и ментальная стойка, в сторону которой очень полезно уметь себя переориентировать, когда вы пытаетесь придумать что-нибудь новое м понять во что вы на самом деле верите.
Человеческое мышление в значительной мере невербально и довербально, и очень полезный навык – извлекать эти довербальные штуки и превращать их в слова. Это называется ещё по-английски finding the handle – поиск ручки для штуки, у вас уже есть штука, но ещё нет для неё ручки.
Павел: Пока не очень понятно как это использовать. То есть сидишь, втыкаешь и что дальше происходит?
Вячеслав: Ты находишь название и описание для реакции, которая у тебя есть, и после этого ты её можешь включить в модель.
Один частный случай, когда это используется – в технике, которая называется внутренние конфликты. Техника внутренние конфликты описывается примерно так – поделите себя на разные части, которые хотят разного, которую голосуют за разное. Например, ночь, мне очень хочется посмотреть сериал, но ещё мне завтра рано вставать. У меня внутренний конфликт – посмотреть ещё один эпизод или нет. Ну или в целом – не ложусь вовремя спать, что же делать?
Это значит, что у вас есть две части – одна часть испытывает потребность вовремя вставать и чувствовать себя нормально, а другая порадовать себя. Окей, между ними внутренний конфликт, они могут между собой воевать, или они могут друг с другом поговорить. Но обычно когда мы говорим про такие сложные штуки, про эмоции, реакции, то некоторые части нас просто не имеют вербальной модели того, чего они хотят, и поэтому им нужно дать пространство для того чтобы они высказались.
И соответственно через такое вот такое проговаривание штук в себе, которое сначала на уровне ощущений, а потом вы даёте этому пространство и оно превращается в слова, и вот у вас есть модель, теперь с ней можно работать рационально – это супер важная техника.
Павел: Звучит как уже достаточно продвинутая джедайская техника, потому что мне кажется, что если послушать про то что это такое как бы с налёту не поймёшь как с этим работать, в отличие, например, от pre mortem, где примерный алгоритм понятен, поэтому давай поставим заметочку, потом может быть вернёмся к этому.
И хотел ещё несколько вещей обсудить с тобой. Вот очень часто когда я читаю чат рационалистов, чат Кочерги в частности, звучит такая штука, как «Я хочу построить шестерёночную модель». Можешь объяснить что имеется в виду, что это за тема?
Вячеслав: На самом деле шестерёночные модели это немножко тавтология по сравнению с просто моделями, поскольку когда говоришь людям слово модель, то они не очень понимают какую именно часть ты имеешь в виду, им кажется, что модели – это тоже самое, что убеждения.
Что есть метафора шестерёночных моделей? Представьте себе, что у вас есть ящик, в нём какая-то серия шестерёнок, и они как-то сцеплены. И кто-то крутит первую шестерёнку в одну сторону, и вам надо предсказать в какую сторону крутится третья шестерёнка. Наверное мы все являемся экспертами по шестерёнкам и все можем проследить и найти ответ однозначно.
Представьте себе теперь, что появляется некий эксперт, настоящий эксперт – PhD по шестерёнкам, и он говорит нет, я предсказываю, что конечная шестерёнка будет крутиться в другую сторону, противоположную.
По идее, наверное вы не поверите. И правильно сделаете. В этом случае у вас есть шестерёночная модель ситуации с ящиком – эксперт не может вас переубедить, потому что вы понимаете механизм.
И возвращаясь к теме про социальную реальность и не социальную, а рациональную реальность, реальность про факты, если у вас есть одновременно шестерёночная модель «маски по идее должны помогать» и экспертное мнение «маски бесполезны», то перед вами выбор – будете ли вы вообще опираться на шестерёночные модели или не будете, поверите эксперту. И на самом деле люди по большей части по жизни не разбирают на шестерёночные модели, даже не пытаются их строить, а просто пользуются данными из вне или даже конечными выводами.
В каком-то смысле это нормально – мы ее могли бы масштабировать цивилизацию, если бы было иначе, но проблема в том, что мне кажется, что в современном мире люди настолько боятся строить шестерёночные модели, что разучились это делать, просто не доверяют себе.
Павел: Ну они не боятся, это просто сложно – надо думать, это достаточно ресурсоёмкая штука на самом деле.
Вячеслав: Частично сложно и ресурсоёмко, частично именно боятся. Проблема в том, что каждый раз, когда ты строить шестерёночную модель, если она окажется почему-то не соответствующей мейнстримному окружающему знанию, то твой статус упадёт. В тебя ткнут пальцем и скажут: «У тебя синдром советского инженера».
Павел: На самом деле да, у нас в инвестиционной тусовке тоже постоянно есть эти дебаты, потому что многие люди говорят например «Я послушал Сергея Спирина, Павла Комаровского, они говорят, что пассивные инвестиции – это хорошо, а активные – это плохо», поэтому каждый раз, когда идёт какой-то спор на эту тему они ищут повод на каждую вещь налепить ярлык либо это пассивное инвестирование, либо нет, и уже из этого делать вывод. В принципе не идя вглубь, не понимая даже почему то или иное является хорошим или плохим, или может быть даже и то, и то – это нормально, просто для разных целей.
И вот как раз таки меня немножко пугает тенденция, когда даже в нашем чате часто действительно подвергают остракизму тех людей, кто осмеливается высказывать какие-то альтернативные точки зрения и даже пытаются их защищать, но они идут вразрез с этим общим знанием, и может быть даже эти люди неправы, но было прикольно покопаться и доказать им через шестёренки, что они немножко ошибаются возможно, а может быть где-то и зерно истины даже есть в их шестерёночках.
Ты на самом деле интересную сейчас затронул тему, и мы в чате тоже это обсуждали до эфира – а как вообще рациональному человеку разделить эти две вселенных, что где-то он идёт на поводу у экспертов и он действительно говорит «Я не могу быть спецом во всех сферах. Я просто найду умных людей, послушаю, что они говорят и буду делать так», а где-то он строит свои модели и пытается принимать решения самостоятельно, что конечно с точки зрения risk/benefit’а гораздо опаснее, потому что ты в любом случае тратишь ресурсы на построение этой модели, а вот то что она окажется лучше уже готового ответа от экспертов на самом деле далеко не факт. Как вот это решение принимать?
Вячеслав: У меня есть довольно много разных ответов на этот счёт, это одна из моих любимых тем, на которые я несколько раз читал двухчасовую лекцию – буквально про этот вопрос. Точнее лекция озаглавлена примерно как «Как разрешить себе думать собственной головой».
Павел: Я продолжу – и нужно ли?
Вячеслав: Да, я думаю нужно себе разрешать, но при этом не игнорировать экспертов. Есть разница между тем, что ты говоришь «Я не буду слушать ничего про то что говорят эксперты, мне хочется изобрести новую физику, я пойду и придумаю всё с нуля. Не буду читать никакую физику, не будут изучать какие-то существующие модели – просто придумаю всё с нуля». Это очень вероятно кончается нехорошо, кончается тем, что человек издаёт новую очередную альтернативную теорию физики, полностью другую.
С другой стороны, можно находится в таком майндсете, когда ты одновременно берёшь чужие модели, и при этом воспринимаешь их не как инструкции к действию, а как инпут к твоей боли в высокоуровневой модели. И вот как раз мне кажется ключевой навык в эпистемической рациональности и наверное самая сложная штука, которую только можно людям в голову загрузить.
Это один ответ. У меня есть ещё другой ответ, Юдковский написал про это целую книжку, называется «Неадекватное равновесие», где он разбирает ответы на этот самый вопрос. Как отличить эффективный рынок, в который нет смысла лезть потому что он учёл примерно всю информацию от рынка, который стабильно неадекватный, но при этом не существует ни одного участника рынка, который мог бы получить выгоду из коррекции рынка, и поэтому никто не прикладывает к этому усилия.
Павел: Спойлер про книгу, она очень классная и кстати короткая, мне очень понравилась в своё время. Там Юдковский рассматривает разные варианты этих неадекватных равновесий, как раз хочет поощрить людей думать больше своей головой, но где-то в начале он как раз делает оговорку про то, что «Но не пытайтесь эту херню по большей части делать в отношении фондового рынка, там скорее всего равновесие более-менее адекватное», так что не всё так просто, ребята.
Вячеслав: Ну книжка написана за пару лет до Геймстопа, поэтому видимо не всегда 🙂
Павел: Да, это понятно, может быть Геймстоп не самая нерациональная штука, которая у нас творится и будет твориться, посмотрим.
Тусовка рационалистов
Павел: Окей, давай перейдём к самому главному вопросу – а как всё-таки стать более рациональным? Давай предположим, что наши слушатели сказали «Окей, прикольная штука, стоит наверное этим позаниматься, что конкретно нужно делать? Нужно читать какие-то книги специальные, ходить к каким-то гуру, учиться или что? Как люди становятся рациональными? Расскажи нам, Слава!».
Вячеслав: Мне кажется, что мой ответ очень сильно зависит от того кто вы. Если вы гик-программист-технарь, которому норм когда другие люди выпендривается и вас это не напрягает, то ответ – читать цепочки, то есть книжку Юдковского «Рациональность: от ИИ до зомби». Есть некоторая доля людей, которых стиль Юдковского довольно заметно напрягает конкретно вот в этих его текстах, потому что Юдковский много где кидает понты про то какой он умный. Это такие не обижающие никого конкретного понты, но это может раздражать.
Два других сценария назову. Опять же, они оба про изучать, ну понятно учиться там. Можно пойти почитать Даниела Канемана «Думай медленно… решай быстро», это довольно неплохой вводный вариант. И можно просто пойти на курс по рациональности от той же Кочерги. Курсы про сильно более прикладные вещи, чем то, о чём мы сейчас говорим, то есть я много сейчас делаю акцента на общенаучную модель, думание своей головой. На курсах по прикладной рациональности больше акцент обычно на том, что вот вам конкретные инструменты как решить любую задачу, вот приёмы, вот способ мышления.
Павел: Окей, слушай, а вот на этой шкале Канеман совсем попсовая штука, я уверен, что больша́я часть тех, кто слушает уже читали его, Юдковский «От ИИ до зомби» довольно классная книга, одна из моих любимых, но действительно достаточно такая, не всем наверное будет удобно продираться через неё. На этом спектре именно для самостоятельного изучения есть ещё что-то альтернативное, что лежит посередине, или только вот этих два варианта?
Вячеслав: Прогоняю мысленно разные вариант и пытаюсь прикинуть на шкале, но у меня не получается – Гарри Поттер где? Попсовее Канемана?
Павел: Ты имеешь в виду «Гарри Поттер и методы рационального мышления», да?
Вячеслав: Да.
Павел: Потому что очень многие люди прям говорят, что я через эту книгу пришёл к рациональности. Вот я честно не понимаю как это работает, потому что для меня Гарри Поттер и методы рационального мышления это такой прикольный фанфик, который довольно забавно читать, ты как бы угараешь над тем, что привычные герои ведут себя совсем по другому, но если честно я с трудом понимаю как из этого фанфика можно научиться рациональности. Такие люди действительно есть, или это всё-таки чистый эффект bait-and-switch, когда людей подманивают привычным фандомом, а потом они такие: «О, прикольно, а что ещё этот автор написал? Мм, Элизиер Юдковский, почитаю-ка я его цепочки», и такие херакс превратились в рационалистов. Вот как это работает?
Вячеслав: Боюсь, что это такой вопрос, на который мне хочется ответить «Нет данных, я не проводил двойного слепого исследования» 🙂
Что я имею в виду – я конечно наблюдал за многие годы работы с сообществом, рационалистами много людей, которые приходят в сообщество через Гарри Поттера, но во-первых я не знаю их отправной точки, во-вторых я готов признать, что многие из них скорее такие «лайтовые рационалисты», которые любят тусить с рационалистами, а не обладают прокаченными навыками рационалистов.
Исключения бывают тоже впрочем. Бывают люди, которые в определенной мере попались на bait-and-switch, пришли через книжку и изучили много чего другого.
Павел: Понятно. Ну давай немножко обсудим саму рациотусовку. Ты уже упомянул Элизиера Юдковского, это для тех кто не знает достаточно большое имя в современной рациональности. Кто ещё на этом пьедестале стоит, кому респектуют рационалисты, кто двигает вперёд всё это движение?
Вячеслав: Есть несколько разных пьедесталов – есть люди, которые двигают движение, есть люди, которые такие наиболее известные в мире, которых можно засчитать за рационалистов и это немного разные категории.
Но в целом точно нельзя не упомянуть Скотта Александера, который особенно за последний год прославился одной известной драмой про то как его попытались закэнселить, и после этого многие люди попытались закэнселить The New York Times, и после этого Скотт вернулся на Substack и получает от них кучу денег просто за то что пишет. Скотт Александер это наверное как многие считают просто лучший блогер в мире, я скорее тоже готов с этим согласиться. Очень хорошо пишет, очень много известных текстов. Психиатр, живёт в Калифорнии и пишет и про психиатрию, и про рациональность – про всё на свете.
Юдковского мы назвали, я мог бы называть имена всяких людей, которые вроде бы занимаются рациональностью или, например, эффективным альтруизмом – это такое смежное движение, я думаю, что мы его ещё где-то сейчас затронем.
Или могу назвать людей, на которых рациональность скорее как-то повлияла, и которые как-то увлечены в цепочки того что есть рациокультура, она распространяется и есть люди, которые ей лояльны.
Павел: А кто из самых топовых таких известных людей?
Вячеслав: Наверное один из топовых примеров я узнал вчера, то есть я знал его, но я осознал вчера масштаб. Доминик Каммингс. Второе лицо в UK после Бориса, главный его советник. Ну по крайней мере до конца прошлого года, сейчас вроде он ушёл со своей должности. Буквально вчера выяснилось, что оказывается почты рационалистов Фальковича и собственно Скотта Александера повлияли на то, в какой момент Британия врубила локдаун в начале прошлого года. Буквально Доминик Каммингс в твиттере написал «Благодаря вашим постам, мы их обсуждали всей Даунинг-стрит!».
Павел: Это интересно, потому что Борис Джонсон как деревенский дурачок такой у него имидж, а типа советники у него прошаренные получается.
Вячеслав: Да, я не очень много знаю про Каммингса, но известно, что Каммингс, который кстати был главным идеологом брекзита, большой фанат рационалистов.
Павел: Окей. Слушай, у меня сразу вопрос про Скотта Александера – у него реально крутые статьи, но он какой-то безумный графоман и написал много всего. Вот у него есть какой-то сборник текстов, который такой золотой стандарт, нужно обязательно как цепочки Юдковского прочитать и ценить?
Вячеслав: Они не собраны в связанные наборы «читайте отсюда досюда и это вам последовательно всё объяснит», потому что это просто блог – это не учебник, но подборки такие есть, и их по моему даже несколько: и у самого Скотта по моему была такая подборка статей, и у рационалистов есть несколько подборок – список того, что самое главное у Скотта можно прочитать.
Павел: Слушай, а в России кто занимается продвижением рациональности помимо тебя? Кто у нас рациональное светило?
Вячеслав: Мне немного сложно говорить про Россию, потому что я могу быть насколько-то там предвзят и мне очень не хочется говорить подробно про людей с оценочными суждениями – вот этот хороший, вот этот плохой, но я могу просто перечислить людей, которые занимаются рациональностью.
Павел: Можешь перечислить хороших как бы.
Вячеслав: Нет, можно тогда я уйду от ответа вообще 🙂
Павел: Всё, понятно, как Людовик XIV: «Государство – это я!» 🙂
Окей, хорошо, я понял тебя. Я когда делаю интервью с инвесторами известными в России я тоже всегда спрашиваю: «Посоветуйте нескольких людей, кого прям вот вы читаете и уважаете». Они всегда такие «Мм…Ммм… Пожалуй я ничего не назову». Я понимаю куда ты клонишь.
Ещё пара вопросов тогда – а где рационалисты вообще тусуют? Мы знаем, что есть центр рациональности Кочерга, чем кстати вы там занимаетесь? Что там происходит?
Вячеслав: У нас есть два направления исторически: одно это сообщество, секта мероприятий по 5-10 мероприятий в неделю для людей, которые как-то завязаны на рациональности на разные темы – чтение той же самой книжки Юдковского и обсуждение – клуб чтения цепочек.
Павел: Это напоминает клуб чтения Библии, меня молодым студентом приглашали баптисты изучать английский на встречах по чтению и изучению Библии, вот сейчас прозвучало очень похоже.
Вячеслав: Я понимаю. До некоторой степени рациональность это секта в смысле того, что мы можем найти параллели. Но это примерно так же как рациональность это инфоцыганство – мы можем тоже найти параллели.
И бывают всякие более разнообразные мероприятия, есть клуб изучения учебника по продвинутому мат. анализу, функционального анализа сейчас, есть группы ненасильственного общения, люди практикуют техники коммуникации между людьми. Есть просто социальные мероприятия.
И второе направление кочерги – это курсы, воркшопы, тренинги. Мы по разному в разные годы это всё назвали, но просто образовательные платные курсы с техниками по рациональности.
Павел: Кстати, ребята из уличной эпистемологии тоже же как-то с вами аффилированы, правильно?
Вячеслав: Да. Я думаю, что уличная эпистемология в России существует благодаря Кочерге, не благодаря каким-то активным действиям Кочерги или меня, а просто потому что мы их приютили и так получилось, что на основе сообщества Кочерги этот движ получилось запустить. Я не знаю, что бы бы в мире, где Кочерги бы не существовало.
Уличная эпистемология очень близка рациональности по ценностям, но я не готов сказать, что это одно и тоже, что эпистемология – часть рациональности. Это просто разные движения смежные, родственные и они долго встречались у нас в Москве на площадке когда она была до пандемии и сейчас отдельно встречаются в онлайне и проводят свои движухи.
Павел: Я сейчас как раз прохожу курс по уличной эпистемологии, и у меня прям мечта есть всех, кто общается в нашем чате принудительно прогнать через такой буткемп уличной эпистемологии.
Там идея-то простая, там говорится, что если ты с человеком разговариваешь и он высказывает какое-то странное для тебя мнение, то идти в лоб и говорить ему «Э?! Ты чё, слышь?! Ты чё, тупой что-ли???» абсолютно бесполезно и нужно пытаться идти более окольным путем и попытаться помочь человеку подумать над тем, как он вообще принимает решение о том, что та или вещь соответствует истине.
Соответственно вы вместе с ним идёте в такое мини-путешествие, где пытаетесь разобраться как вообще принимать эти решения, и по итогу гораздо выше вероятность того, что человек задумается. И мне очень хочется, чтобы в нашем чате такая же атмосфера была, чтобы люди вместе думали об эпистемологии, то есть о том как вообще отличать правду от неправды, а не просто кидались друг в друга какими-то мнениями не всегда обоснованными и поливали друг друга разными эпитетами, но это я немножко отвлёкся.
Окей, а что можешь сказать про LessWrong? Очень часто звучит это слово когда общаешься с рационалистами, что это за место такое мифическое?
Вячеслав: LessWrong это место с которого всё в каком-то смысле начиналось, точнее история была такая – сначала был Юдковский, и он решил написать кучу постов в блог. Тогда ещё в блог Overcoming Bias Робина Хэнсона, известного странного экономиста, и потом в комментариях стали появляться люди, Юдковский много писал, у него была миссия привлечь людей в тему разработки безопасного ИИ, эта миссия всё ещё активна – интересная отдельная тема.
И в какой-то момент возникла идея запустить форум для всех людей, которые вокруг этих идей собрались. И LessWrong это получился такой форум или коллективный блог людей, которых пригласили про всё это думать и писать.
И поскольку Юдковский писал много и людей в комментариях было много, получилась такая субкультура здорового разумного мышления.
LessWrong существует до сих пор, в какой-то момент он чуть не умер, но потом его перезапустили, написали новый движок и на данный момент всё хорошо.
Павел: В общем понятно, ещё одно место, где 100500 тыщ постов, которые невозможно все прочитать наверняка.
Эффективный альтруизм
Павел: Ты ещё упоминал такую штуку как эффективный альтруизм. Расскажи в двух словах, потому что я немножко тоже одну из веток этого движения поддерживаю, я 20 процентов от всей выручки, которая приходит с рекламы на канале пускаю на поддержку GiveWell, такой организации, где сидят ребята-бывшие работники хедж-фондов всяких, которые в своё время просто взяли, уволились из них и сказали «У нас много денег. Мы сейчас будем думать как эффективно их потратить так, чтобы не просто прожечь на какую-то благотворительность, а как можно больше добра сделать этими деньгами». Концептуально мне нравится что они делают, поэтому я их поддерживаю.
Но наверное это не единственное направление эффективного альтруизма, расскажи вообще как мыслят эти люди, что это такое.
Вячеслав: Да, очень круто, что ты это делаешь, я кажется не знал. Эффективный альтруизм это ещё больше молодое движение, чем современная рациональность, по крайней мере как термин.
Оно возникло где-то на стыке между LessWrong-рационалистами, всякими мировыми философами, людьми, которое занимались философией в области этики, которых достало сидеть в академии и которые решили, что философию надо применять в реальном мире, и вот как раз инициативными людьми типа работников хедж-фондов, которые хотели улучшить благотворительность.
И возникла идея про то что вообще-то если мы посмотрим вокруг и спросим себя насколько эффективна благотворительность в окружающем мире, то мы обнаружим, что всё очень плохо, и большинство организаций занимаются какой-то непонятной в лучшем случае бесполезной фигнёй.
И получается это потому что люди выбирают чем стоит заняться в благотворительности не исходя из «что самое важное», а исходя из, например, «У меня близкий родственник заболел такой формой рака, и поэтому я решил открыть благотворительную организацию “Фонд помощи людям с таким вот видом рака“».
Но если мы посмотрим насколько отличается разная подобная деятельность по эффективности, то мы обнаружим, что некоторые направления гораздо более эффективные чем другие.
Поэтому эффективный альтруизм, движение, которому буквально 10 лет, это в первую очередь вопрос – что самое важное надо сделать из всего, что можно сделать для того чтобы улучшить мир.
И после этого вторая часть эффективного альтруизма после того как мы предварительно отвечаем на этот вопрос, это как эпистемическая и инструментальная рациональность – пойти и сделать это.
Движение очень хорошо развивается, движение растёт, движение привлекло в себя очень много рационалистов, на самом деле даже на Западе на данный момент рационалисты и эффективные альтруисты очень сильно перемешаны.
И движение не только отвечает на вопрос про направление и даёт деньги прямо здесь и сейчас, например бедным людям в Африке, но и тем, чтобы понять, а что наиболее влияет на глобальное будущее человечества. Это и какие-то глобальные реформы вплоть до экономических и политических, это и какие-то интересные около трансгуманистические сферы как например экзистенциальные риски.
Почему это интересно? Вроде бы в первом приближении капиталистическая система, рынки, всё вот это, то что здесь людям в этом разговоре близко, решает проблемы человечества достаточно эффективно – рынки супер эффективный механизм. Капитализм и рынки не очень решают вопросы, когда проблемы такого рода, когда цену надо платить в будущем и никто не хочет готовиться к этому сейчас, потому что это снизит вашу конкурентоспособность.
Когда проблема вероятностна, то есть можно сделать ставку на то что риск случится, и когда просто ничего не получится из-за того что вы не приложите усилия к проблеме.
Ну вот наверное самый известный пример на данный момент – это глобальное изменение климата. Капитализм не решает проблему с глобальным изменением климата, потому что это проблема координации человечества.
Другая проблема, которую я уже упомянул, это появление искусственного интеллекта и его безопасности для будущего человечества. Это вопрос, которым рационалисты очень и очень и очень сильно озабочены, и которым кажется человечество не озабочено даже близко на достаточном уровне по сравнению с тем, который был бы адекватен.
Но это тезис, который конечно надо разворачивать и защищать, и вряд ли в рамках этого разговора.
Павел: Мне кажется многие сейчас вынесут из этого тезис, что рационалисты говорят, что не нужно помогать детям, больным ракам, нужно тратить на искусственный интеллект деньги. Вот и всё собственно, вся идея оказалась в зародыше погребена эмоциональной реакцией на это.
Вячеслав: Это явно не совсем так, хотя да, у разных людей в России по моему опыту разная эмоциональная реакция на вопрос кому помогать – искусственному интеллекту или детям в Африке. Некоторые наоборот говорят какие ещё дети в Африке, они далеко.
Павел: Я ещё даже не про детей в Африке, я про наших славянских детей. Ты упомянул просто как антипример, что у человека что-то случилось и он такой «Я на редкую форму рака начну собирать деньги», а говоря о том, что обществу стоит поискать более эффективный способ траты этих денег, ты как бы подспудно говоришь о том, что наверное они делают что-то не совсем рациональное и правильное.
Вячеслав: Нет, я думаю, что некоторые благотворительные организации помощи сейчас определённо эффективны, и собственно говоря GiveWell занимается этим, GiveWell это прекрасно, я их полностью одобряю.
Но всякие более долгосрочные штуки тоже важны, и на них тоже имеет смысл обратить внимание. В общем эффективные альтруисты занимаются и тем, и другим, и вопросами про помощь животным, и не только даже помощи животным в смысле того что мы все ещё не веганы, а ещё и помощи животным в смысле страдания в дикой природе, может быть им тоже что-то надо сделать.
Павел: Окей, это ещё более controversial (спорная) тема – мы ещё детям не помогли, а ты уже диким кабанам предлагаешь что-то там помогать. Давай не будем двигаться в эту сторону, это достойно отдельного выпуска мне кажется.
Где успешные рационалисты?
Павел: Давай обсудим вот какой вопрос – ты в принципе много чего рассказал, мы начинали с того, что рациональность – то штука, которая помогает думать правильно, принимать правильные решения и как пишет Юдковский в своих книгах рациональность – это искусство побеждать.
И я бы услышав это предположил, что в тусовке рационалистов должно быть огромное количество людей, кто дичайше разбогател, у кого очень высокий социальный статус, прекрасное здоровье – в общем они все эти насущные проблемы, которые каждого из нас так или иначе как-то волнуют для себя с помощью своего могучего рационального разума как-то решили.
И уже после этого они двигаются к другим альтруистическим проблемам спасения мира. Но я навскидку по крайней мере смотря за теми рационалистами, за кем мне просто смотреть, мне видится здесь некое противоречие. Как ты можешь прокомментировать этот вопрос? Наброс, я бы даже сказал:)
Вячеслав: Мне кажется, что несколько способов оправдаться мы уже наметили за этот разговор. Держись 🙂
Рациональность не обещает золотые горы. Юдковский в некоторых местах в своих текстах обещал и говорил «Рационалисты должны быть суперменами и побеждать».
Это скорее такая устаревшая точка зрения, которая излишне упрощает реальность, потому что в реальности довольно сложно исправить себя, полностью переизобрести себя как человека. Я не говорю, что это невозможно, но это много работы, не так, что вы изучаете рациональность и всё. Как минимум там в задачах должно быть например починить себе здоровье, сходить к психиатру, оттерапироваться пару лет – много всего интересного входит.
Тем не менее, если рациональность делает жизнь людей там не знаю на 20% лучше, и делает их на 20% счастливее, то это вполне совместимо с тем, что мы наблюдаем в мире. Условно рационалистами так же были бы люди, которые не выглядят супер успешными, но рациональность им помогла. А может не на 20% – кому-то больше, кому-то меньше. Это первая часть.
Вторая часть ответа – а какого мы собственно говоря считаем за рационалистов и сколько их должно быть известно для того чтобы мы признали, что рациональность всё-таки помогает?
Если мы посмотрим на тусовку западных рационалистов, которые концентрируются вокруг Залива, да – Калифорния, Bay Area, всё вот это, то подозреваю, что каждый второй из них работает в каком-нибудь условном стартапе или Гугле, и получает свои сотни тысяч долларов в год. Не уверен, что благодаря рациональности – может быть потому что они все программисты, которых привлекает тема рациональности, а ещё они работают в Гугле. У нас просто нет возможности выяснить это.
Если мы посмотрим на топовые примеры, то опять же там не будет возможности доказать, но мы увидим, что многие люди, которые являются супер богатыми, я не знаю насколько богатый тот же самый Доминик Каммингс, но я могу назвать того же самого Пола Грэма, который как раз считает, что блог Скотта Александера это лучший блог на Планете или Виталика Бутерина (создателя Эфира), который рационалист, или ещё всякие такие топовые имена.
Павел: А Паша Дуров кстати рационалист или нет? Вот он как раз богатый, красавчик – всё при нём.
Вячеслав: Я не встречал никаких свидетельств в пользу этого.
Павел: Окей, ну да, он периодически публикует странные тексты.
Вячеслав: Когда я говорю рационалист, я имею в виду человек, находящийся, прикоснувшийся и проникнувшийся конкретной субкультурой LessWrong рационалистов. Если рационалист в смысле рациональный человек в смысле строит хорошие модели и стремится к своим целям, то конечно да. И Илон Маск, кто там ещё?
Павел: Так можно любого подписать – если он успешный, значит он рационалист, значит он какие-то модели строит.
Вячеслав: Да, кончено. Вряд ли во всём, бывают примеры людей, которые суперуспешные, но при этом верят во что-нибудь странное – саентологи.
Окей, у меня есть ещё два кусочка ответа. Один – любая тусовка это, к сожалению, негативный отбор против людей, которым дорого их время, это просто неизбежная динамика, с ней ничего не поделаешь. Любая любительская тусовка, а не профессиональное сообщество становятся такими.
Это не знак того, что сама дисциплина такая, просто сообщество возникает.
Павел: Да, это основная причина, по которой я не участвую в мероприятиях Кочерги, к сожалению.
Вячеслав: Последние несколько месяцев я активно думаю про то как переизобрести сообщество Кочерги так, чтобы в нём эта динамика стала несколько более здравой. У меня есть ответ, но он длинный и я пока его даже не ретранслирую.
Павел: Я даже не в упрёк сообществу Кочерги, я скорее про то, что когда начинаешь думать о том какие вещи конкурируют за твоё время, то очень часто ты понимаешь, что выделить лишний час или даже несколько часов в неделю на какие-то даже полезные воркшопы не всегда просто к сожалению.
Вячеслав: Да. У меня есть последний кусочек ответа, последний кусочек ответа звучит так: а что такое рационально? Возвращая тебя к тезису про смартфон и так далее.
Если вы прониклись рациональностью, а потом прониклись эффективным альтруизмом, а потом вы ещё подумали шестерёночно от первых принципов про мир, то условно не знаю, а может быть через 15 лет есть риск, что мы все умрём, потому что искусственный интеллект нас всех убьёт.
Я не утверждаю, что все рационалисты считают, что это неизбежно, я скорее говорю, что такой сценарий возможен. Не буду говорить за рационалистов, скажу за себя – моя оценка его вероятности наверное больше десяти процентов.
То может быть для вас становятся важными несколько другие вещи, чем заработать побольше бабла. Может быть вы осознаёте, что большая часть вашей суммарной полезности за вашу будущую жизнь находится в том будущем, которое или смерть, или, извиняюсь, рай, за такую религиозную образность.
И может быть главное, что надо делать, это заниматься вопросом AI. Потом вы спрашиваете себя – надо ли для этого заработать много денег, или надо привлечь больше ресёрча, который повысит вероятность хороших сценариев, или надо пойти в ресёрч самому.
Павел: Сказанул как Паскаль прямо! В общем, всё, ребята – на пенсию не копим, FIRE – это всё фигня, Слава сказал, что мы все умрём через 15 лет и нужно жить здесь и сейчас! 🙂
Вячеслав: [фейспалмит] Очень плохо, это не то, что я сказал!
Павел: Ладно, я шучу – думаю, все поняли, что ты имел в виду. Друзья, давайте перейдём к ответам на вопросы! [Посмотреть эту часть эфира можно на видео начиная отсюда.]
Ссылки на материалы по рациональности:
- Сообщество LessWrong – русскоязычное и англоязычное
- «Цепочки» Элиезера Юдковского – на русском и на английском
- Элиезер Юдковский, «Гарри Поттер и методы рационального мышления» – на русском и на английском
- Статьи Скотта Александера – на русском и на английском
- Список литературы для интересующихся рациональностью
Ссылки на ресурсы Вячеслава Матюхина и Кочерги:
- Сайт Центра рациональности «Кочерга»
- YouTube-канал Кочерги
- Telegram-чат Кочерги
- Сайт Вячеслава Матюхина
RationalAnswer в соцсетях (подпишись, чтобы не пропустить новые материалы):