(Из ленты MaksWiki — Блог:Максима Цепкова [ru])

Продолжаю читать руководство по интеллект-стеку. В прошлом посте я делился впечатлениями про базовые части: математику, физику, логику и алгоритмику. А в этом будет про рациональность и познание/исследование, эстетику, этику и риторику. В процессе я отвлекался на другие темы, поэтому пост выходит через полтора месяца после предыдущего. Думаю, он будет последним: потом следуют Методология и Системная инженерия, это надо изучать по соответствующими руководствам. А разделы про понятизацию, собранность, семантику, теорию понятий и онтологию, которые я прочитал еще до первого поста, у меня особых размышлений не вызвали, в целом материал для меня знакомый.

Есть ли свобода воли?

Рациональное мышление для меня понятно и знакомо, тем более, что в июне я изучал новое руководство по рациональной работе, о котором тоже был пост, в котором я делился размышлениями, включая книгу The Book of Why, которую прочитал под влиянием руководства.

Однако, один момент меня зацепил: рассуждения про детерминизм и случайности в разделе «Теория принятия решений». Там есть тезис, что мир детерминистичен, «Бог не играет в кости», а вероятности — субъективны, связаны с тем, что у агента нет достаточно знаний и мощности, чтобы просчитать пути развития, и поэтому он вынуждены оценивать вероятности, принимать принимать решения и действовать в условиях неопределенности. Тезис обосновывается ссылками на ряд современных теорий. Дальше в разделе идет речь о расчете вероятности, переходе от байесовской теории к квантоподобной, но они все идут по линии субъективной вероятности, а не объективной. Я тут не готов глубоко обсуждать на уровне конкретных теорий поведения физического мира.

По моим представлениям, в их рамках было обосновано принципиальное отсутствие предсказуемости процессов в неравновесных нелинейных средах, в которых квантовые эффекты проявляются не только на макроуровне. И это — не взирая на закон возрастания энтропии, которому эти системы подчиняются. По аналогии, для живых систем принцип свободной энергии Фристона не должен приводить к детерминизму, его уравнения аналогичны уравнениям термодинамики.

Мне лично не нравится философские следствия тезиса о субъективной вероятности, так как из него следует отсутствие для агента возможности влиять на события в мире: все предопределено, хотя ты этого и не знаешь. Понятно, что это — очень удобная этическая позиция, избавляющая человека от всякой ответственности. С ней хорошо жить. Ученый может проводить исследования, и не заботиться о последствиях. Какая этика, если мир будущее детерминировано?

То, что люди принимает решение не на основе только рациональных рассуждений, что на них влияют эмоции и эвристики быстрого мышления — правильно, но вообще не имеет отношения к предопределенности. То, что проанализировав веса нейронной сетки ИИ мы можем понять, почему в конкретном случае она выдала такое решение, на мой взгляд, тоже ничего не доказывает. Ведь веса были сформированы обучением, при этом современные алгоритмы обучения не являются детерминированными, в них закладывается множественность вариантов, а выбор, вообще говоря, зависит от случайных событий.

Был интересный эксперимент, который, на мой взгляд, хорошо иллюстрирует отсутствие детерминированности работы искусственного и естественного интеллекта. Ученые попробовали с помощью генетического алгоритма построить аппаратную схему для некоторого простого распознавания образов. Использовали ПЛИС, из большого кристалла выделили небольшой квадрат 100*100 элементов, начальное состояние породили случайно, а потом запустили генетический алгоритм с мутациями и отбором варианта в следующем поколении. А потом было самое интересное — они попытались разобраться в той схеме, понять: как она обеспечивает распознавание. Там была куча циклов и элементов, не связанных с другими, и для начала их попробовали убрать: они ж не влияют на работу. Оказалось, что нет, некоторые как-то влияют, и если их убрать — распознавание нарушается. Еще выяснилось, что схему нельзя перенести в другой угол большого кристалла, в котором формально — те же самые элементы, она тоже перестает работать. В целом выяснилось, что схема привязана к физике конкретного кристалла, а «ненужные» элементы обеспечивали, что соседние элементы грелись и срабатывали чуть иначе, и это было важно, так как влияло на скорости прохождения сигналов, между которыми был арбитраж. И это — на цифровом железе, а не в аналоговой мокрой сетке, на малых размерах из 10 тысяч логических элементов. Ну и достаточно понятно, что при ином начальном расположении получилась бы другая схема.

Так что тезис про субъективную вероятность я в свою картину мира не принимаю.

Отмечу, что в разделе «Критический рационализм Поппера» также идет неявный возврат к тезису про отсутствие свободы воли в цитате: «По словам Дональда Хоффмана, всё что делается в ходе эволюции (в том числе того, что происходит на всей Земле, мы ведь часть эволюции), на что обращается внимание — это просто разные способы иметь побольше детей!». Действующие агенты свободны в своем выборе, в том числе — в вопросе рождения детей. Они ставят разные цели, не надо приписывать им цель продолжения собственного экземпляра генома, тем более, что он все равно сочетается с другим при оплодотворении. Может, это мое личное пятно внимание, больное место, на которое я обращаю внимание при чтении текстов, но мне оно представляется важным.

Про верные теории

Глава про исследования и познание в целом понятна. Я не согласен, что ученый не имеет право сказать «любопытненько» как основание исследований. Но он не должен требовать денег от общества на такие исследования, а удовлетворять любопытство иначе, это правильно.

Серьезное несогласие, у меня вызывает достаточно жесткий тезис про необходимость отвергать теории, если получены неверные предсказания, либо если есть другая теория, предсказывающая точнее.

Во-первых, на мой взгляд, нет проблем, если теория выдает неверные предсказания наряду с верными. Это означает, что в ней до конца не разобрались с границами применимости и надо их уточнять, учиться различать эти случаи. Ну а пока не уточнили — можно применять, просто с осторожностью. Как применяли разные теории реальных газов, пока не научились численным методам моделирования.

Во-вторых, создание более точной теории не отменяет предыдущие, если разница в предсказаниях несущественна. Ньютоновская физика продолжает быть актуальной, за исключением релятивистских скоростей. При этом ньютоновскую механику по-прежнему надо изучать, поскольку она применима в громадном большинстве практических кейсов и гораздо проще. Про ограничения, естественно, надо знать, о них надо говорить при изучении. А вот теорию относительности надо изучать лишь тем, кто работает в малом количестве областей, для которых она актуальна.

Тут есть интересный вопрос: была теория флогинстона, которая хорошо описывала передачу теплоты на основе представлений об особой субстанции, которая и обеспечивает ее распространение. Позднее она была отвергнута, было выяснено, что физика теплоты связана с колебаниями молекул или атомов вещества. Но по факту абстракция флогинстона получается актуальной для практических применений. И, следуя принципу практичности при отборе теорий, мы вполне можем использовать математический аппарат, который давала теория флогинстона, лишь задавая вопрос: когда представления об особой субстанции адекватны передаче реальных колебаний молекул и атомов вещества, а в каких случаях мы получим неверные результаты. Собственно, знакомые с вопросом инженеры мне говорили, что на практике многие уравнения, полученные в рамках теории флогинстона, до сих пор используют, описывая перенос тепла, и объясняют именно через движение флонгинстона, оговаривая просто физический смысл, которые за этим стоит.

Все сказанное относится и к областям социальных наук: экономике, психологии, социологии и так далее. Теории оцениваем по верности предсказаний и простоте применения, в конечном счете — по практической пользе для инженерной деятельности в социальной сфере, то есть менеджменте и развитии личности. Помним о границах применения и неточных предсказаниях.

Впрочем, с социальными науками надо держать в фокусе внимания еще один фактор. Некоторые теории предлагают для объяснения механизмы, которые в принципе не могут существовать с точки зрения более базовых представлений науки. Например, говорит о врожденности некоторых характеристик, в то время как они касаются частных случаев работы мозга, формируемой обучением и накоплением опыта, и потому врожденными быть не могут. Это не означает, что мозг одинаков, там есть индивидуальные особенности, связанные с прохождением сигналов, которые могут влиять на легкость построения определенных видов систем, но между этим физиологическим уровнем и конкретными характеристиками — очень много промежуточных этажей.

Примером являются исследования о врожденности умственных способностей или лидерских качеств. Или врожденная мимика отражения эмоций, основанная на их названиях на английском языке, о чем говорит теория базовых эмоций Поля Экмана. «Ученые» ухитряются делать исследования, которые все это подтверждают, когда есть социальный заказ. Я весной разбирался с методиками исследований генетической обусловленности личностных характеристик. Эти методы позволяют доказать, что длинна волос человека определяется не ножницами, а генами, и такие исследования тоже проводились. Подробности в этом посте. А обоснованность теории базовых эмоций Экмана разобрана в книге Лизы Барретт «Как рождаются эмоции». Хотя с ее собственными теориями про исключительно социальный характер эмоций тоже есть проблемы, подробнее я разбираю это в отзыве на ее книгу, а кратко — в разделе про теории эмоций в современной психологии своей книги «Инженерная модель личности» (можно прочесть в статье).

С моей точки зрения, оценивая теории в социальных науках очень важно понимать, насколько они обусловлены социальным заказом. Создание теории, подтверждающей важные для конкретных социальных групп тезисы — распространенная практика современного мира. И следует быть осторожным при использовании такой теории, если вы на это решитесь. Лично я предпочитаю такие теории не брать в свой арсенал.

Про критическое и творческое мышление

Отдельный раздел Анатолий посвящает критическому мышлению, доказывая его созидательную бесперспективность. И отдельно отмечая его деградацию: в замысле оно включала умение правильно рассуждать и видеть противоречия, а также знать про приемы манипуляции и когнитивные искажения, а теперь его часто сводят просто к проверке всех утверждений поиском в интернете, да еще без умения самому определять достоверность конкретных источников, предлагая оценивать просто их «авторитетность».

Все это правильно, но, на мой взгляд, совершенно очевидно, можно сказать тривиально. Критическое мышление по конструкции не претендовало на создание нового. Задачей его создателей было научить людей подвергать сомнению манипуляции и пропаганду, а заодно и рекламу. А деградация, на мой взгляд, связана с тем, что если этому реально людей учить, то они станут плохо управляемыми, поэтому при адаптации критического мышления в образовательные программы и произошла такая метаморфоза.

По творческое мышление Анатолий фиксирует его задачу и функциональное место в процессе исследований и познания: порождение вариантов гипотез, различных объяснительных теорий и моделей, подлежащих последующей проверке. Место — понятное. Подчеркивается, что идею, гипотезу мы берем из шума и хаоса, она не выводится аналитически, это важно. Забегая в раздел про эстетику, отметим, что художественное творчество аналогично инженерному, отличаются цели, а не методы. Но об этом — в следующем разделе.

А в разделе про исследования далее рассказ о творческом мышлении как способе решения противоречий. Это, в целом, верно, потому что потребность в новой идее возникает именно потому, что текущая ситуация нас не устраивает, при этом мы не видим способа это изменить. А это означает, что в ситуацию заложено противоречия.

Анатолий пунктиром рассказывает о трех способах это делать: в СМД-методологии, в ТРИЗ и в теории ограничений с помощью грозовой тучи. Все они предписывают сначала это противоречие явно сформулировать, повышая формальность мышления, потом перейти к неформальному мышлению, чтобы эту идею придумать, а затем — вернуться к формальному мышлению для проверки идеи. При необходимости — повторить. Однако все они особо не рассказывают про способ порождения идеи.

Я бы к перечисленным способам добавил еще Design Thinking, который также создавался для целей порождения идей и их проверки, и включает достаточно много приемов и практик. При этом в нем нет особого акцента на противоречия, хотя методы их поиска входят в арсенал практик наряду с другими.

А еще есть Теория-U, которая тоже рассказывает про тот же самый путь, выделяя в нем набор стадий и давая приемы действий. Правда, в отличие от остальных теория U специально запакована, чтобы передаваться через дорогие тренинги. Подробнее — в в моем разборе книги Шармера «Теория U».

Об этике и эстетике вместе

Прочитал разделы про эстетику и этику. Они явно показывают, что науки сейчас на этих функциональных местах нет, при чем надо не просто «немного докрутить», а надо построить новую науку. В том числе — с позиционированием этих функциональных мест в интеллект-стеке. Анатолий этого явно не пишет, наоборот, говорит, что «наука есть, она развивается», но подтвердить ему нечем. Существует то, что было заложено еще до естественнонаучного метода, который позднее стал просто научным, то есть до современной науки. Революция, связанная с применением научного метода произошла сначала в естественных науках, затем в биологии, медицине и социальных науках, а до эстетики и этики — не дошла. Есть остатки старого. И отдельные соображения конкретных лиц о том, как бы все это развить с позиций современной науки.

Надо проделать примерно ту же работу, которую в биологии сделали при построении систематической классификации видов. Да, исследования палеонтологов, а затем — генома потому ее поправили, местами очень сильно, но вот это были уже исправления, а вот то, что было раньше современной наукой классифицироваться не может. Аналогично и с химией до таблицы Менделеева, которая дала системную модель происходящего, в том числе — позволила предсказывать новые элементы, которые позднее открывали.

Эстетика

В эстетике, помимо критерия целесообразности, никаких научных взглядов нет. Про красоту как целесообразность еще Ефремов писал, идеи — старые, но сделать из них научный взгляд не получилось. Наоборот, возобладало мнение о произвольности суждений о красоте. И оно как раз подтверждено практикой, которая исходит из субъективных взглядов, носители которых объединяются в группы через социальные механизмы, и в которых содержание взглядов часто не сильно важно, а лишь маркирует принадлежность группе.

Анатолий про эстетику выдвигает., на мой взгляд, верный тезис, что о художественном творчестве можно говорить как о частном случае инженерной деятельности, которая должна удовлетворять заказчика — самого человека, творят все для себя. Просто в одних случаях это удовлетворение идет в один такт: я создал — я доволен, а в других — в два такта: я создал, произведение должным образом повлияло на других, что и было моей целью — я доволен. Ну и, как обычно, могут быть комбинации этих двух целей с разным набором долженствования: «я хочу создавать картины фантастических миров, но чтобы это приносило доход не менее чем…» или наоборот, «я хочу зарабатывать своими песнями как можно больше, но не опускаться совсем в попсу». И все критерии — субъективны.

А сама творческая деятельность может использовать какие-то инженерные методы, либо обходиться совсем без них, но это справедливо и для инженерных проектов: что-то небольшое можно сделать совсем по наитию, при этом доступный масштаб этого небольшого у разных творцов различен и увеличивается с накоплением опыта. Как и в разработке софта, которая тоже является творческой деятельностью по международной классификации. Впрочем, классификаторы тут могут лукавить: был социальный заказ показать, что в будущем творческих профессий будет становиться больше, вот таким образом и выкрутились.

Отмечу, что при таком понимании помещение эстетики в интеллект-стек — достаточно сомнительно. Она вполне может быть отнесена к прикладным наукам. И помещена после системной инженерии.

Этика

Про этику ситуация примерно такая же: есть множество взглядов на то, что есть польза, а что таковой не является, они отличаются у разных агентов. Анатолий приводит большой список этических вопросов, многократно говорит о том, что нельзя упускать вопросы этики, участвуя в конкретных проектах, но никаких ориентиров — не дает. И жестко вопрос о личной ответственности при этом не ставит, ограничивается рекомендацией. Впрочем, с точки зрения целей учебника это может быть разумно. Потому что, на мой взгляд, в обществе ситуация с этикой примерно такая же, как с эстетикой, только она гораздо более политически чувствительна, что приводит к гораздо более мутной общественной дискуссии. Но руководством этот материал назвать у меня язык не поворачивается.

С моей точки зрения, наиболее систематичный взгляд на варианты представлений об устройстве общества дала спиральная динамика. Она эмпирически выявила кластеры сложившихся в западном обществе взглядов, которые родились в общественных дискуссиях 19 века, а 1970-е дали новый импульс. Формирование этих кластеров хорошо показано в книге Валлерстайна «После либерализма», у меня об этом есть статья Формирование уровней спиральной динамики в общественном сознании. Каждый кластеров обладает собственной непротиворечивой моделью устройства общества и его ценностей, включая, естественно, и собственную этику, которая еще и различается для разных социальных групп в соответствии с тем, какое место они занимают в структуре общества их назначение.

То есть здесь есть некоторая систематика вместе логикой развития. Далее можно давать системный взгляд, описывать уровни, неустроенности и так далее, то есть сделать на основе этого руководство к действию для инженера. Наверное, оно получится примерно в том стиле, в котором делали для тех, кто строил самолеты до появления современных методов численного компьютерного моделирования в последней трети 20 века. Вполне достойный уровень. Но для этики это еще надо сделать.

А политически сделать не просто, потому что сейчас идет борьба систем ценностей индустриального мира в вариантах синего, оранжевого и зеленого уровней по спиральной динамики, и зародившегося после осмысления мировых событий 1968 года (это не только Чехословакия, это баррикады во Франции, хиппи-движение и протесты против вьетнамской войны в Штатах, революции в Латинской Америке и много другого) желтого уровня, соответствующего развитию цифрового мира. При этом идеология глобального мира сейчас — попытка законсервировать устройство индустриального мира, сделав его социально приемлемым. Но обреченная на провал, так как глобальный кризис капитализма, являющегося неотъемлемой частью устройства индустриального мира, сейчас из будущего пришел в настоящее и мешает стабилизации. Есть много доказательств, что с сохранением общественного устройства его решение невозможно.

Но вот получается, что для сборки этики как науки надо говорить про сложные системы и разные системные уровни, то есть она должна быть построена на основе системного мышления, а не просто рационального. Впрочем, системное мышление Анатолий из интеллект-стека исключил, там есть только системная инженерия.

Государство и госпроекты

Отдельно скажу про государство и госпроекты, это пара разделов внутри этики, который лично у меня большие сомнения.

Во-первых, Анатолий выдвигает тезис о том, что государство — слишком большая и сложная система для применения системного мышления, инженерии и менеджмента. Тезис сомнительный, и с точки зрения масштаба: почему для построения корпорации Росатом или РЖД, BP или IBM, Wargaming или Warcraft системный подход хорош, а для государства — плох? Ведь масштабы этих корпораций и сложность деятельности вполне соразмерны с небольшими государствами, особенно если Wargaming и Warcraft брать вместе с экосистемой игроков (а они ее строят), а сами государства от небольших до крупнейших дают достаточно непрерывный спектр, там нет качественных переходов.

Во-вторых, яростный выпад против госпроектов как средстве неэффективной траты денег также вызывает вопросы. Есть атомная и космическая программы, которые делали как госпроекты и у нас и в Штатах, и есть множество более мелких инфраструктурных проектов. Да и Маск свою космическую программу делает за счет военных контрактов и государственных субсидий, это тоже известно. Да, госпрограммам свойственно то, что называют коррупцией и распил бюджетов. Но так было всегда, и, возможно, если посмотреть на устройство общества, то окажется, что это — его неотъемлемая часть, что иначе — невозможно. Ну или пока невозможно, в том смысле, что пока не найдено инженерного способа делать проекты иначе. Есть гипотезы о таких способах, но они не оправдываются практикой. Тут же важна не уникальная конструкция, связанная с конкретной личностью, а тиражируемая.

В-третьих, в тексте четкое разделение на «нас», то есть каких-то «обычных людей» и «их» — чиновников, политиков и других лиц, связанных с государством и госпроектами. При этом четкой границы не проводится. Учитель в школе — участник госпроекта государственного образования и воспитания, или нет? А в Советском Союзе или гитлеровской Германии, где такой учитель обязан был проводить политику государства и транслировать идеологию? А врачи в государственной системе медицины, или работающие по государственной системе медицинского страхования? Где заканчиваются «мы» и начинаются «они»?

В-четвертых, вопросы о последствиях проектов, о тех изменениях, которые проект принесет обществу — они правильные. Но руководства по получения ответа — нет. Напомню, что доктор Гильотен организовал создание гильотины из гуманных соображений: чтобы уменьшить боль и страдание человека, приговоренного к смерти. При этом сам он был противником смертной казни, но полагал, что уж если она неизбежна — зачем причинять лишние страдания. Но одновременно это изобретение сильно снизило требования к палачам, расширив доступность профессии: до этого, помимо этических были физические ограничения, отрубить голову топором — непросто, требует силы и умения. И это снижение требований внесло свой вклад в масштабы революционных казней Французской революции. Это вот про меру ответственности, которую возлагаешь на себя сам, и которую возлагают на тебя другие агенты, люди и социальные группы.

Про риторику

Риторика — наука о том, как убедить людей сделать желаемые для тебя действия, вместе работать для достижения твоих целей. Об этом развивалась дисциплина выразительной и убедительной речи. Но ее развитие заглохло: хотя Анатолий и пишет, что она жива, ссылки — отсутствуют. Так что, по факту SoTA риторики является способы, которым маркетинг и политтехнологи убалтывают людей совершать желаемые действия: покупать товары или поддерживать партии и правительство. Об этом Анатолий тоже упоминает, но без акцентов. А они реально используют исследования современной психологии и других наук, ведут собственные исследования, и у них есть жесткие критерии проверки практикой, ведь хорошо ли они убедили людей можно очень просто померить, и заказчики это делают.

Еще современная риторика — различные тренинги, на которых консультанты людей учат корпоративному управлению персоналом, работе с корпоративной культурой, чтобы сотрудники выполняли то, что нужно компании.

Такая риторика напрочь лишена этики, это вам не медицина или коучинг, в которых есть этический кодекс. А тут специалисты говорят: мы даем инструмент по заказу, и пусть с угрызениями совести разбирается заказчик.

Так что на месте риторики тоже обозначено функциональное место, а не содержание дисциплины. А принципы ненасильственного общения, на которые Анатолий ссылается, к риторике особого отношения не имеют, потому что ничего не говорят о способе убеждения человека сделать то, что тебе нужно. Они лишь говорят, что убеждать нужно не насильственно, и проводят некоторую умозрительную границу, то есть представляющую собой этические ограничения на применение инструмента, а вовсе не сам инструмент.

Специалисты по маркетингу и политтехнологи копают глубоко, но однобоко. А вот в чем стоит разбираться широкому кругу лиц? На мой взгляд, хорошее структурное представление о практической риторике, то есть способах убеждения, дает книга Поварнина «Искусство спора». Она написана в 1920-х, когда к спорам и диспутам относились серьезно, на материале политических агитаторов тех времен, литературных диспутов, а также научных и других споров и дискуссий. Там дается типология целей и видов споров, разбираются приемы. Включая способы убеждения при отсутствии сильных аргументов, часть из которых потом была сильно развита в маркетинге. И все это — гораздо более современно, чем риторика древних римлян. Мне эта книга реально помогла в свое время начать опознавать эти приемы в обсуждениях и действовать адекватно, чтобы как раз избежать чужого влияния. Не столько в рекламе и пропаганде и просто не слушаю, там-то я достаточно хорошо опознаю манипуляции, сколько в деловом и другом повседневном общении, когда надо отстаивать свою позицию.

На этом я завершу пост.

Источник