В 1961 году в Израиле состоялся суд над Адольфом Эйхманом — бывшим подполковником СС, работавшим начальником IV отдела Главного управления имперской безопасности. В простонародье этого человека называют «архитектором Холокоста», так как именно он отвечал за депортацию евреев, из-за которой погибло около 6 миллионов человек.
На судебном процессе присутствовала корреспондентка журнала The New Yorker Ханна Арендт, которая впоследствии написала одну из самых известных книг по моральной философии — «Банальность зла». Собственно, в этом названии и заключена главная мысль её труда.
Видите ли, Эйхмана трудно назвать по-настоящему «плохим» человеком. Он не был идеологом уничтожения еврейского народа и не испытывал личной неприязни к людям, которых отправлял на смерть. Он никого не убивал собственными руками, а лишь заполнял бумаги и следил за качеством выполнения работ по депортации евреев в концентрационные лагеря. Проще говоря, он был абсолютно нормальным человеком, который просто хорошо выполнял свою работу — исполнял приказы и соблюдал требования закона. С одной стороны, он был профессионалом. А с другой, винтиком в огромном механизме, стабильная работа которого привела к геноциду.
В понимании большинства Эйхман, конечно же, злодей. Но Арендт характеризует его как «недалекого» карьериста, который не задумывался о последствиях своих решений, делал, что должно и устраивал собственную жизнь в государстве, где произошел настоящий «моральный коллапс». Этот момент стал настоящим камнем преткновения, из-за которого книгу Арендт бойкотировали, а от самой писательницы стали отказываться многие друзья и знакомые.
Выяснилось, что зло может быть и таким — до ужаса простым. Что самый обычный человек способен творить страшные вещи и не испытывать по этому поводу угрызений совести, будучи уверенным, что все делает правильно. А причина в том, что люди не «плохие» и не «хорошие» по своей природе, что в дальнейшем подтвердится целым рядом психологических экспериментов.
Впрочем, история не терпит сослагательного наклонения, а потому мы не будем рассуждать на тему того, мог ли этот герой поступить как-то иначе. Важно, что свою жизнь он закончил на виселице. Это была последняя казнь на территории Израиля.
Так чему же эта история способна нас научить? Как получается, что профессионализм и желание принести пользу превращают человека в преступника? Почему нужно всегда задумываться об этике и моральных нормах и как в этом может помочь системное мышление? Предлагаю разобраться с этими вопросами прямо сейчас, чтобы более уверенно смотреть в туманное будущее.
Интеллектуал и профессионал: две грани одной личности
В системном мышлении выделяют две роли, которые может исполнять один и тот же человек. Речь идет о ролях интеллектуала и профессионала. Первые — расширяют кругозор и инвестируют время в изучение окружающего мира, чтобы затем с успехом создавать системы, в которых учтены интересы заинтересованных ролей. Интеллектуалы понимают, что удовлетворить абсолютно все из них не получится и потому, при принятии решений, берут во внимание этику — сформировавшиеся представления об общепринятых моральных нормах. Они осознают, что помимо текущего момента, существует будущее, в котором могут появиться новые заинтересованные роли, а некоторые вещи перестанут быть актуальными. Им приходиться анализировать ситуацию и ставить «шкуру на кон» сейчас, чтобы в будущем не оказаться среди тех, кого нынче призывают отменить.
«Какие интересы учитывать, а какие не учитывать? На этот вопрос невозможно ответить без этики. А те, кто принимают важные решения без её осознанного применения, являются заложниками будущих проблем. Когда принимаете решения без учета этики, не видите интересы других людей, а они обязательно заявят о себе в будущем»
«Системное саморазвитие»
Профессионалы же не задаются подобными вопросами. Они работают в рамках своей прикладной деятельности, не задумываясь о последствиях сделанного и по сути даже не принимая серьезных решений. За исключением одного — решения следовать собственному профессиональному пути, не обращая внимания на происходящее вокруг. Если смотреть с такой точки зрения, то Эйхман — яркий пример профессионала, которого стандартная рабочая деятельность в итоге привела на виселицу. Эйхман уповал на свой профессионализм, и не подключал (или, возможно, не хотел подключать) интеллект.
Здесь можно сделать множество отступлений и сказать, что зачастую у профессионалов просто нет выбора. В конце концов мир знает немало примеров, когда диктаторы заставляли народ выполнять страшные приказы. Порой человек и вовсе не понимает, что делает какие-то «неправильные» с точки зрения общепринятой морали вещи, ведь нормы в зависимости от различных факторов могут существенно различаться. Даже два главных направления этики подразумевают разные взгляды на мораль. Так, консеквенциализм утверждает, что «цель оправдывает средства», а вот деонтология говорит — «делай, что должно, и будь, что будет».
Можно ли убить ребенка, чтобы спасти все человечество? Стоит ли жить и работать в государстве, где власть захватил жестокий тиран? Однозначного ответа на эти вопросы нет, и именно поэтому каждому человеку, задумывающемуся о будущем, приходится «ставить шкуру на кон» в настоящем. А системному мыслителю важно быть и интеллектуалом, и профессионалом: умным, умелым и этичным.
«Этические решения принимаются каждым человеком (или командой) в конкретной ситуации. За каждое решение человек несет ответственность самостоятельно, «ставит свою шкуру на кон». Не существует какого-то одного правильного решения, каждое решение будет благом для одних и негативом для других. Системное решение считается этичным, поскольку в системном рассмотрении прямо требуется проводить учет разных интересов»
«Системное саморазвитие»
Ум и этика: как культура отмены заставляет думать наперед
Это особенно актуально сегодня, когда человека практически невозможно отделить от его дел. Прекрасные фильмы, выпущенные продюсерской компанией Харви Вайнштейна, не спасли его самого от тюрьмы за насилие над женщинами. Даже те, кто уже давно умер, не всегда могут избежать порицания за свои поступки. Так, относительно недавно активисты потребовали пересмотреть отношение к произведениям Поля Гогена, так как тот был расистом, и, пользуясь своим привилегированным положением европейца на Таити, множество раз вступал в сексуальную связь с 13-летними девочками.
Именно из-за широко обсуждаемых разоблачительных историй о том, какими именно средствами отдельно взятые личности добились высокого положения в обществе, сложился миф о том, что умный, но не этичный человек опасен. В угоду своим потребностям и желаниям он будет создавать системы, которые даже будут работать, но при этом представлять из себя ни много ни мало, — машины смерти, вроде газовых камер в концентрационных лагерях.
Таких людей трудно назвать действительно умными. Они просто хорошие профессионалы. Они не смотрят в будущее, не задумываются об удовлетворении потребностей тех или иных ролей, а хотят лишь хорошо исполнить свою профессиональную роль, поскольку это самый короткий путь к местечку под солнцем. Что будет в будущем, и кого могут затронуть его системы, а также какие заинтересованные лица могут появиться, профессионала не особенно волнует.
«Неэтичные мастера востребованы в любые времена, потому что всегда найдутся заказчики, а прикладное мастерство не связано с этикой. Сегодняшние мастера не обязательно строят прямые орудия убийств, но они все также помогают радикальным политическим группировкам удерживать власть, создавая еще более изощренные и более сложные машины. Результат их высшего мастерства — время жизни людей и их страдания. Время, которое жители целых стран могли бы инвестировать с пользой для себя и общества»
«Системное саморазвитие»
Спустя время, неэтичных профессионалов, вероятнее всего, спустят с небес на землю, а созданные ими системы либо предадут забвению, либо сделают наглядными примерами того, как делать не нужно. Именно по всем этим причинам по-настоящему умный человек обязательно еще и этичный. И поэтому ученые стараются сделать этичным и искусственный интеллект.
Так, беспилотные автомобили обучают на примере прохождения людьми этического теста с вагонеткой. Суть его состоит в принятии решения, каждое из которых приведет к чьей-то гибели в критической ситуации. Предположим, что искусственный интеллект, который управляет автомобилем, заметил, что на дорогу выскочила маленькая девочка. У машины есть два варианта — резко свернуть и въехать в бетонный столб, что убьет пассажира, или же задавить ребенка. Правильного ответа, как это часто бывает, не существует, а потому во внимание принимают именно решение большего количества людей. Впрочем и здесь есть огромное множество нюансов, которые ученые стараются учесть, чтобы создать успешную систему и не прослыть инженерами машины для убийства пешеходов или пассажиров.
Этика настолько важна при проектировании будущего, что в уставе компании, разработавшей ChatGPT, есть один весьма примечательный пункт. Согласно ему, организация должна будет прекратить соперничество с любым конкурентом, который раньше подойдет к созданию искусственного интеллекта человеческого уровня. Это наглядный пример того, что этика для ученых важнее даже лавров первооткрывателей. Именно поэтому миру нужно больше умных людей, ведь по-настоящему умный человек — всегда этичный.