Продолжение стенограммы выступления Александра Панчина на Форуме «Ученые против мифов-X» 15 июня 2019 г.
Первая часть
Вторая часть
Видеозапись выступления
Это был пример такой резистентности, а дальше есть мультирезистентность.
Когда вот уже простые, так скажем, защитные механизмы мы научились обходить, то есть люди, которые скептически относятся к гомеопатии могут все равно купить такой препарат, давайте научимся обманывать еще и научное сообщество. Ученые — они знают всякие подводные камни научных исследований. Давайте мы их тоже будем обманывать. И вот в случае со скрытой гомеопатией, умудрились добиться того, что достаточно большое количество журналов, как отечественных, так и международных, опубликовали статьи про якобы целебные свойства этих препаратов.
Ну, в случае с российским журналом «Бюллетень экспериментальной биологии и медицины» — там все очень понятно и просто. В одном выпуске этого журнала вышло целых 48 статей за авторством Олега Эпштейна, директора и основателя компании, которая производит релиз-активные препараты. Но он сам был редактором этого выпуска, поэтому ничего удивительного тут нет.
А вот с другими журналами история другая. Независимые журналы. И мы с коллегами занимались тем, что смотрели, что там в этих статьях, насколько они хорошо выполнены. И оказалось, что каждый раз, когда мы смотрим такую статью, мы видим, что там куча косяков. Неправильно сделан статистический анализ, отсутствует часть данных. Или, например, скрыт конфликт интересов. Они говорят, что «у нас нет никаких препаратов», а на самом деле они есть. Или, например, они не делают ослепление, они не делают рандомизацию и куча всего другого.
Мы писали в эти разные журналы критику. В итоге три статьи было отозвано из некоторых журналов. Еще два журнала обещали, что они выложат такую пометочку, что статья поставлена под сомнение.
Один журнал опубликовал критику.
Ну и дальше мы все это обобщили и опубликовали статью в журнале British Medical Journal Evidence-Based Medicine.
Сделали подробный разбор всей этой релиз-активности, подчеркивая, что есть такие российские гомеопаты, которые научились обходить систему рецензирования в международных научных журналах, скрывая тот факт, что у них гомеопатия, и очень витиевато описывая свои исследования.
Но не только скрытые гомеопаты так делают, пытаются мимикрировать под науку на таком более высоком уровне. Например, те же гадающие по отпечаткам пальцев, подобно тому, как в научпопе принято приводить ссылки на литературу, они тоже приводят ссылки на литературу, подтверждающую эффективность этих гаданий. Но на самом деле часто они ссылаются на работы, которые не имеют никакого отношения к этим тестам.
Ну, например, они говорят: смотрите, есть такие генетические заболевания, при которых у людей есть некоторые характерные особенности отпечатков пальцев, статистически значимыe, встречающиеся у этих людей чаще, чем у обычных людей. Но какое это имеет отношение к вашему тестированию?
Во-первых, генетические заболевания очень плохо диагностируются по этим отпечаткам пальцев. Их диагностируют по генетическим маркёрам и вообще, иногда чисто внешне легче определить, чем по отпечаткам пальцев, что у человека есть такое заболевание. И, в-третьих, они не диагностируют эти заболевания, они предлагают вам определить вашу профессию, диету, склонность к заболеваниям не генетическим. То есть это никак не связано с тем, что они обещают. Часто они говорят, ссылаются на такие работы, которые вообще к отпечаткам пальцев отношения не имеют. Типа: очень важно правильно определить свою профессию. Ну отлично.
И, опять же, все те же самые ошибки: отсутствие статистического анализа, плохие методы статистического анализа, и так далее, и так далее. То есть мимикрия под науку идет полным ходом.
Из вот этой биологической метафоры, которую я вам представил, мне кажется, вытекает три достаточно любопытных вывода, которые можно сделать.
Первый заключается в том, что если вы столкнулись с тем, что какая-то вирусная идея очень распространена, бывает такой соблазн предположить, что раз это так распространено, раз столько людей в это верит, наверное это помогает, наверное это полезно, наверное это хорошая идея.
Может быть, даже если она не работает, по крайней мере она осчастливливает людей, еще что-то в этом роде. Но мы знаем, что есть вирусы, которые очень распространены. При этом никакой пользы в принципе не приносят для людей. Грипп очень распространен, практически все болели гриппом. ВИЧ очень распространен. Может быть не практически все болели ВИЧ, к счастью, но у нас есть положительная динамика увеличения количества ВИЧ-инфицированных, в том числе в России. Распространенность какого-то вируса вовсе не означает, что он несет какую-то пользу для своего носителя. И это полезно учитывать.
Вторая вещь заключается в том, что да, эти вирусы эволюционируют, как описывал Станислав Дробышевский в предыдущей лекции.
Что эти вирусы становятся все более приспособленными к тому, чтобы захватывать человеческие мозги, и это тоже нужно учитывать.
Вторая история, которая вытекает из всего этого. В Южном парке был такой эпизод, где Рассел Кроу путешествовал по миру и искал драки со всеми, пытался подраться.
Потом в какой-то момент ему сказали: ты неправильно свою жизнь проживаешь, вот поборолся бы ты с чем-нибудь другим. Поборолся бы ты с раком. И он пошел избивать пациентов, больных раком.
Это глупость, это нелепо. Мы, когда сталкиваемся с человеком, который заражен какой-нибудь инфекцией, мы не хотим с ним подраться. Мы хотим ему помочь, мы хотим, чтобы он вылечился от этой инфекции. И, к сожалению, иногда бывает так, что люди, которые отстаивают в целом правильные идеи, очень негативно относятся к самим людям, которые придерживаются каких-то мифов, в том числе веры в плоскую Землю. Иногда эти люди — хорошие люди, они просто стали жертвой таких вот вирусных идей. И, возможно, понимание этого поможет сделать общение с заблуждающимися людьми более гуманным.
И третья история про то, что когда ученые пытаются бороться с какими-то вирусами, один из подходов этой борьбы заключается в том, что мы пытаемся устранить ту мишень, с которой этот вирус пытается взаимодействовать.
То есть устранить способ проникновения этой вирусной инфекции внутрь этого самого организма. Вот, например, китайский ученый, который заявил, что он генно-модифицировал человеческих детей. Он заявлял, что они пытались убрать, поломать ген, который кодирует рецептор, с которым взаимодействует ВИЧ, чтобы ВИЧ в клетки этих людей не проникал.
На самом деле, существуют люди, устойчивые к ВИЧ, за счет этой мутации. Так вот, есть исследования, показывающие, что можно устранить некоторые пути проникновения вирусных идей в человеческие мозги. В частности, когда речь идет про иллюзию причинности, о которой я уже говорил, если людям про нее рассказывать, показывать наглядные примеры того, как люди могут приходить к ложным причинно-следственным выводам об их существовании, то люди, узнавшие об этом, они менее вероятно оценивают неэффективное вмешательство как эффективное в некоторых экспериментах. То есть можно пытаться с этим бороться вот таким путем.
Ну и немного литературы, которая может помочь распознавать те пути, по которым вирусные идеи пытаются проникать в ваши мозги, разрушать ваш научный иммунитет.
Я уже упоминал книжку Элайзера Юдковского «Гарри Поттер и методы рационального мышления». Про теории заговоров есть отличная книжка «Недоверчивые умы» Роба Бразертона. Про религию есть очень интересная книжка антрополога Паскаля Буайе «Объясняя религию. Природа религиозного мышления», где описываются разные когнитивные уловки, недостатки нашего мышления, которые очень эффективно используются наиболее приспособленными вирусными идеями.
Ну и, кому интересно, в «Защите от темных искусств» я тоже подробно описываю, какие разные ошибки человеческого мышления являются причинами веры в сверхъестественное.
Спасибо за внимание.
Александр Соколов: спасибо, Александр! Вопрос тебе хочет задать наш эксперт, который, я надеюсь, сейчас есть в зале. Основатель портала XX2 век, специалист по искусственному интеллекту, Сергей Марков. Сергей, покажись. Привет!
Сергей Марков: я здесь, приветствую. Вопрос вот какой. Вот все-таки, учитывая все те масштабы, которые приобрела эпидемия распространения псевдонаучных работ, мимикрирующих под настоящую науку, как ты думаешь, все-таки те методы, которые уже существуют в научном сообществе, уже распространены, классические методы борьбы с некачественной наукой. Способны ли они эту эпидемию сегодня остановить, или нам нужны все-таки какие-то новые революционные подходы в этой области?
Александр Панчин: спасибо за вопрос! Мне кажется, что эволюция различных псевдонаучных вирусных идей — она настолько быстрыми темпами происходит, что мы за ней не поспеваем. Я недавно был на очень интересном докладе в МФТИ на антинаучной конференции. Это шуточные такие доклады. И там был докладчик, который рассказывал про конструкцию мемов. Что мы можем специально заниматься таким разумным дизайном этих мемов, чтобы какие-то идеи распространять. И мне это показалось любопытным, потому что, в принципе, мемы — это один из способов, вот как в генной терапии можно взять, допустим, оболочку от вируса, запихнуть туда полезный ген и вылечить гемофилию. Так мы можем взять какой-нибудь мем и приделать туда какую-нибудь хорошую научную идею, в частности, разоблачающую какой-то миф. Мемы обладают таким свойством, что они очень эффективно распространяются, и, может быть нужно создать лабораторию дизайна просветительских мемов, которая бы научные подходы мемогенерации применила к борьбе с лженаукой. Но это такая гипотеза, может быть кто-нибудь ее подцепит.
Александр Соколов: спасибо! Вопрос, присланный нашим делегатом. Он такой, хороший вопрос. Какое место в научном процессе занимает философия?
Александр Панчин: это тоже очень хороший вопрос, тем более, что я затрагивал некоторые примеры философов в своей лекции. Я читаю очень много литературы в области моей специализации. Я биоинформатик; математическая биология, эволюционная биология — то, чем я занимаюсь. И более-менее слежу за публикациями во всех смежных областях. И я, в общем-то, практически никогда не встречаю отсылок к каким-либо философам. Единственное исключение, которое очень редко, но бывает — это отсылки к Попперу — критерий фальсифицируемости. Обычно они всплывают, когда речь идет про что-то очень маргинальное, когда речь идет не про вопрос о том вот, какая научная гипотеза лучше, а когда ставится под сомнение вообще легитимность какой-то гипотезы. Тогда могут вспомнить Поппера.
Или вспомнить Оккама — это второе исключение. Единственное, что повсеместно упоминается, наверное, связанное с философией — это этика. Потому что проведение экспериментов, допустим, на людях, затрагивает такие вопросы, как: что такое информированное согласие; на ком можно ставить опыты, на ком нельзя; какие должны быть обоснования для того, чтобы ставить эксперименты на людях. Есть вопросы о том, как уменьшить вред для животных, потому что иногда эксперименты напрасны. Допустим, есть исследование гомеопатии. Заморили 20 мышек для абсолютно бессмысленного эксперимента, о котором мы и так знаем, что он не даст никакого плодотворного результата. Ну вот такого рода вещи — это здесь вспоминают философов.
Очень модная тема — я недавно был на всемирной конференции, называется Research Integrity или «Добросовестность в науке» в Гонконге. Там были философы, которые как раз обсуждали вопрос, опять же, все той же научной этики. Оказывается многие люди не понимают банально, что списывать — это плохо. Вот этим философы могут заниматься рассуждать на тему того, что списывать действительно плохо. Вот такой есть вклад. Но за пределом этого, как мне кажется, особую роль в науке философия, не играет. В России изучение философии входит в кандидатский минимум, я его сдавал, а например на Западе, в Америке, где локомотив научный, то обязательной сдачи кандминимума по философии не нужно, хотя при этом все люди, которые защищают диссертацию, становятся PHD, то есть Doctor of Philosophy. Но это такая просто дань традиции, к философии эти люди никакого отношения не имеют.
Александр Соколов: завтра, на конференции «Ученые против мифов — Профи» мы про этику популяризации не будем говорить. А сейчас давайте вопросы с балкона.
Антон: добрый день! Меня зовут Антон. Александр,спасибо вам большое за «Апофению», вы ответили в Инстаграме, мне очень понравилось. Я сейчас обменялся Евангелием на «Апофению», чтобы человек свои религиозные взгляды немножко, может быть, изменил. Мой вопрос в следующем. Спасибо вам еще раз за рекомендацию «Behind the Curve». Там упомянут очень важный момент, относительно того, как грамотно, не издеваясь, подать информацию человеку, который заблуждается. Какие будут ваши рекомендации по поводу борьбы с лженаукой, заблуждениями среди своих родных, друзей, близких? Спасибо.
Александр Панчин: ну опять же, очень часто возникает такой соблазн, когда тема затрагивает научные вопросы, иногда возникает эмоциональная дискуссия. Когда кого-то это очень сильно задевает и бывает так, что обе стороны начинают переходить на личности. Я всегда старался от этого воздерживаться. Мне кажется, что в принципе любые дебаты должны быть максимально спокойными. Есть такая передача на телеканале «Спас», называется «Не верю».
Александр Соколов: я туда пойду, кстати, послепослезавтра.
Александр Панчин: желаю удачи! Вот там очень хороший формат именно дебатов, мне нравится, мне там понравилось выступать. Очень вежливо, интеллигентно можно поговорить о каких-то таких вопросах. Правда, первый выпуск они вырезали, удалили с канала, но… [смех в зале]. Второй оставили. Собственно, в «Behind the Curve» очень забавно показано, какую большую роль играет окружение. Некоторые из этих участников проводили эксперименты, которые должны были показать, что Земля плоская. А эксперименты показывают, что она не плоская. И что делать? Потому что им выступать с этим на конференции среди большого количества людей, которые все считают, что Земля плоская. Я могу себя поставить на их место. Допустим, я бы получил научные доказательства того, что Бог существует, и мне бы нужно было докладывать это здесь. Я бы, наверное, испытывал некоторый социальный дискомфорт. Но пришлось бы честно изложить доказательства, вот они были бы. У них вот такая ситуация.
Социальное окружение очень значимо, потому они все завязаны: дружба, любовь внутри этого сообщества. И поэтому к ним нужно относиться с пониманием и донести ту мысль, что если вы не разделяете чьи-то взгляды, это не значит, что вы непременно плохой человек. К тому же вопросу о не переходе на личности. Давайте спокойно и вежливо, аргументированно обсуждать интересующий нас вопрос.
Александр Соколов: спасибо, давайте, действительно.
Палпатин: здравствуйте, вы знаете, кто я. Я тут в течение этих двух выступлений вспомнил такие концепции, что, когда у некоторого вида уже довольно развитых животных появляется значительное время в течение суток, когда они начинают избегать прежних хищников, которые им мешали жить, у них появляется свободное время, или переходят на новую пищу и тоже освобождают кучу времени, часто это время они тратят на какую-либо социальную деятельность и появляется культура. Хотя, в принципе, они могли бы такой ресурс, как время, использовать на куда более эффективную в плане увеличения популяции деятельность. Почему они этого не делают?
Я хотел бы тут провести аналогию с обычными биологическими паразитами, когда у нас есть простой организм, типа бактерии или археи, у него и паразит простой и маленький — бактериофаг, или максимум другой прокариот, тоже очень маленький. Когда у нас есть более сложный организм, типа эукариотической клетки, на ней может быть уже довольной сложная прокариотическая клетка паразитировать, или даже эукариотическая. Когда у нас есть многоклеточный организм, на них могут паразитировать другие многоклеточные, причем у них даже появляется иммунитет, система иммунитета к этим организмам, и тоже более сложная, чем была до этого. Так вот, не является ли развитие нервной системы предпосылкой к тому, чтобы паразиты на ней становились сложнее, и не является ли наш научный метод иммунитетом от опасных паразитов?
Александр Панчин: как вы завернули.
Александр Соколов: это же Палпатин.
Александр Панчин: есть две интересные книжки. Одна «Паразит — царь природы» Карла Циммера, другая «Эгоистичный ген» Ричарда Докинза, немножко проливающие свет, как мне кажется, на ваш вопрос. У Карла Циммера описывается, какую большую роль паразиты играли в эволюции жизни на Земле. Что очень многие адаптационные механизмы, которые существуют в современных живых организмах, связаны с тем, что они пытались бороться с паразитами. И какие-то формы поведения у животных могут быть связаны с тем, что они пытаются бороться с паразитами. А у Ричарда Докинза тоже описана идея, как конкурентная борьба за существование приводит к тому, что эволюция не стоит на месте, а происходит развитие. Две травинки были одного роста, потом одна стала чуть повыше, эту вытеснила. Теперь эта тоже должна мутировать, эволюционировать, чтобы стать еще выше. В итоге вырастают гигантские деревья, хотя энергетически это может быть было бы невыгодно изначально. Потому что есть вариации, вариабельные мутанты, которые приспособлены лучше, они вырастают до небес. И что эта конкуренция породила огромное разнообразие жизни, которое мы сейчас наблюдаем.
Ну, собственно, как только появляется новая среда обитания, появляются те, кто пытается эту среду обитания захватить. То есть наши мозги — это такая новая экологическая ниша, которую завоевывают новые формы существования информации, идеи. Некоторые идеи нам полезны, другие нет. Но они соревнуются между собой, посмотрим, кто победит.
Александр Соколов: а у нас сейчас происходит естественный отбор задающих вопросы.
Владислав: здравствуйте, меня зовут Владислав, у меня такой вопрос к Александру. Я работаю учителем в школе и очень часто сталкиваюсь на практике с тем, что дети становятся жертвами различных псевдонаучных концепций. В общем, вовлекаются в сети лженауки. И, к сожалению, очень часто вовлекают их в это их родители. И я сталкиваюсь с таким казусом, проблемой, что у нас познание мира начинается с детства. И если не предотвратить вот это вовлечение в сети лженауки, дальше может быть очень поздно. Могли бы вы посоветовать какие-то эффективные и корректные, политкорректные, скажем так, методики именно по ограждению детей и подростков от лженаучных концепций? Потому что недавно мне, например, про потоп в XIX веке ребенок рассказал: что ученые скрывают, что на самом деле вся цивилизация наша утонула. Кто сказал — папа сказал. Ну вы поняли. Хотелось бы услышать ваш совет.
Александр Панчин: ну, да. Проникновение вирусных идей через авторитеты, в том числе родительские и не только, через авторитеты ученых, так тоже бывает. Что известный академик сказал какую-нибудь полную ерунду, которая совершенно расходится с тем, что принято в науке. Ну вот какой-нибудь удачный пример — вот Фоменко, известный математик, но решил придумать свою историю, и при этом пользуется авторитетом, как академик Российской академии наук. Таких примеров достаточно много.
Я не знаю, как помогать в этом плане детям. Могу сказать хорошую новость: я думаю, что все присутствующие в детстве имели какие-то заблуждения, от которых они сегодня отказались. Я, например, имел научные доказательства [существования] Деда Мороза в виде спонтанного подаркогенеза под моей елкой, это никак не исказило мою жизнь. У меня были свои суеверия, свои какие-то заблуждения, которые потом как-то отфильтровались в процессе познания мира. К сожалению, сейчас в частности в России в самой школе навязываются некоторые вирусные идеи. Ну, например, есть курс «основы православной культуры». Мне кажется, что это крайне нехорошая штука, но, опять же, не очень понятно, что с этим можно сделать в условиях, когда это поддерживается на очень высоком уровне. И бывают отдельные учебники по православной биологии, где доказывается, что все было креационизмом сделано, как учебник Вертьянова, который используется в отдельных школах.
Я бы занимался тем, что просто создавал бы альтернативные источники для такого самопросвещения, самообразования (собственно, это то, чем мы и занимаемся). Те школьники, которые любопытствуют, а на самом деле, многие люди, которые становятся адептами некоторых суеверий, псевдонаучных концепций, на самом деле любознательные. Им интересно узнать, что там с пирамидами, они просто находят не те источники, они находят истории про инопланетян. Но надо, чтобы им составляли конкуренцию нормальные просветительские доступные проекты, их должно становиться больше, ну, их и становится больше. Я думаю, что только так мы можем повлиять.
Юля: за молодого человека вопрос озвучу я, меня зовут Юля. У меня следующий вопрос. Буквально сегодня, когда мы с ним ехали на форум, стояли ждали электричку. Палатка Союзпечать. Одна книга Стивена Хокинга, рядом лежит 10 книг Прокопенко. Недавно моя подруга решила разобраться с антропологией, с происхождением человека. Пошла в магазин, купила первую попавшуюся книжку. Это была книжка какого-то йога с соответствующей наукой про гигантов и все такое прочее. Вот вопрос. Я завсегдатай ваших мероприятий, я примерно знаю хотя бы по фамилиям, каких авторов стоит купить, слушать и прислушаться. Большинство людей понятия об этом не имеет. Как вообще обычный человек, который не в теме, может на интересующую его тему взять в руки правильную книжку, а не индийского йога. Почему их в 10 раз больше, чем правильных книжек?
Александр Панчин: приходите в раздел «Эзотерика», там «Защита от темных искусств» стоит рядом с астрологией. А если серьезно, одна из особенностей хорошей научно-популярной литературы — это наличие списка литературы, хотя это не гарантия того, что эта книжка нормальная, просто в плохих книжках тоже бывает список литературы. Я приводил примеры этих гадателей по отпечаткам пальцев, которые всюду литературу приводят, она, правда, нерелевантна. Но это такой маленький индикатор. То есть, грубо говоря, в книжке йога про гигантов большого количества ссылок на международные научные рецензируемые журналы вы, скорее всего, не увидите. Скорее всего там будут максимум какие-то ссылки на СМИ, на желтую прессу. И то, это в лучшем случае, а чаще всего такие книжки — это поток сознания автора, который ничем не аргументирует свою точку зрения. Бывают отдельные исключения, конечно, но в целом как-то так.
Если говорить про рекомендации, то участники форума, насколько я знаю, нас поощряют, чтобы мы приводили в конце наших слайдов рекомендованную литературу, а в этой литературе часто рекомендуют другую литературу, и поэтому можно пойти по такой вот блокчейн-цепочечке. От одной книжки до другой книжки по рекомендациям. Это может немножко облегчить поиск.
Александр Соколов: спасибо, Саша! Тебе предстоит выбрать лучший вопрос. Напомнить, какие были?
Александр Панчин: напомни на всякий случай.
Александр Соколов: первый — про рекомендации по борьбе с лженаукой, второй — про научный метод и паразитов (Палпатин); следующий — методики ограждения детей и подростков; и четвертый — как выбрать правильную книгу.
Александр Панчин: я думаю, про ограждение детей и подростков — это очень правильный вопрос, очень актуальный.
Александр Соколов: автор вопроса получает игру, которую придумал астроном, научный сотрудник ГАИШ МГУ — «Замок Шредингера». Саша, ты получаешь динозавра с пингвинопитеком, ну и твой портрет тебе уже положили в мешочек от компании FUN PIN. Сейчас должна появиться картинка от Юлии Родиной. Саша, посмотри на себя.
==================================================================
Скетч Юлии Родиной