Сильный интеллект способен не только создавать сложные системы, но и постоянно саморазвиваться. Однако мастерство решения сложных задач без понимания этических вопросов приводит к созданию эффективно-продуктивных, но вредных для людей, технологий и систем. А саморазвитие или бесконечное развитие человека не может быть неэтичным.
Сильный интеллект способен не только создавать сложные системы, но и постоянно саморазвиваться. Однако мастерство решения сложных задач без понимания этических вопросов приводит к созданию эффективно-продуктивных, но вредных для людей, технологий и систем. А саморазвитие или бесконечное развитие человека не может быть неэтичным.
В пределе неограниченный этикой разум может с любовью создавать машины смерти и помогать диктатору удерживать власть.
«Для быстрого истребления требовались особые индустриальные методы. И газовые камеры всесторонне удовлетворяли этим требованиям. Некоторые камеры были сделаны с выдумкой и имели пилоны из водонепроницаемого материала, в котором образовывался газ, затем проходивший сквозь оболочку. Другие камеры были попроще, но все они выглядели богато. Видно было, что архитекторы долго их проектировали и тщательно строили, воплощая свои художественные способности. Это была единственная часть лагеря, сооруженная с любовью».
Богослов Шарль Оте описывает газовые камеры Бухенвальда
Этика задает сложные вопросы, на которые каждый отвечает самостоятельно. Ответы даются непросто, требуют умственных и временных усилий. Большинство считает ненужным отягощать себя такими муками, поэтому при принятии решений этические вопросы даже не выводятся на уровень сознания. Тем не менее, без этики невозможно говорить про системное мышление и про создание успешных систем, о бесконечном развитии или саморазвитии.
В системном подходе этика используется для работы с интересами, которые сначала выявляются, а потом удовлетворяются. В системной методологии так прямо и постулируется, что успешная система - это такая система, в которой команда решила учесть (удовлетворить) интересы определенных проектных ролей. Например, при создании велосипеда учитывается не только интерес велосипедиста, но нужно учитывать или осознанно не учитывать интересы владельца, носильщика, ремонтника, пешехода, воров (с обратным знаком), утилизатора, экологов и т.п. В этой связи этика нужна, потому что:
- выбор какие роли учитываем (удовлетворяем интересы) или не учитываем при создании системы - это хоть и предпринимательский выбор, но также критерием выбора должна быть этика. Система не соответствующая этическим нормам в развитом обществе не будет успешной, в том числе с экономической точки зрения;
- чужие интересы не всегда заметны, поэтому этика заранее убережет, не позволит «наступить» на интересы других. В системном мышлении говорят, что интересов всегда на один больше, чем известно команде. А часто решение команды влияет на многочисленные системы, некоторые из которых не заметны или еще не появились.
При создании сложных технических системы в команду разработчиков все чаще приглашают специалистов по этике (философов), которые разбирают сложные жизненные ситуации. Например, при создании беспилотных автомобилей решаются такие этические вопросы как, должен ли автомобиль сворачивать на встречную полосу, чтобы спасти выскочивших на дорогу детей. Роботы в отличие от людей будут беспрекословно исполнять зашитые в них этические алгоритмы (обученные этике люди в сложных ситуациях будут скорее поступать рефлекторно и согласно инстинктам). Этический выбор переходит от человека к машине, а роль этики и философов повышается. Этика из неосознанной для многих субстанции становится заметной дисциплиной, в которой необходимо разбираться бесконечно-развивающемуся человеку.
Этика важна не только для создания сложных технических систем. Внимание человека к этическим вопросам необходимо, чтобы:
- замечать неэтичное поведение по отношению к себе, а потому вставать в соответствующую роль (ролевое мастерство):
- соцсети, игры, реклама и т.п. завладевают вниманием без нашего ведома или осознанного решения;
- выявлять манипуляции, когда вас скрытно хотят вывести из роли;
- обосновать для себя использование технологий для реализации практик жизнедеятельности (facebook – это средство-экзокортекс для практики нетворкинга или маркетинга, а не средство для приятного времяпрепровождения);
- мозг учитывал результаты принятых решений с учетом этики (для связи причины и следствия);
- иметь критерий для личного стратегирования: выбор личных систем, ролей и практик (средства для достижения целей);
- организовывать большие группы людей, что дает конкурентное преимущество и успех. Без этики, более вероятно, вы неосознанно "наступите" на чьи-то интересы;
- выбирать и копировать лучший опыт только тех, кто этичен, в том числе в своей деятельности ставит шкуру на кон (несет ответственность), что является обязательной частью этичного поведения.
Осознанное рассмотрение этики само по себе является важным шагом. Наш мозг так или иначе производит вычисления, у нас у всех есть вычислительное мышление, которое формировалось скорее всего неосознанным образом. Например, перебегая через дорогу перед автомобилем, мозг рассчитывает успешность данного действия. Мозг учитывает все компоненты, которые находятся во внимании при принятии решения. Хотя не всегда мы это осознаем. Многие оценки и вычисления производятся на автомате. Успешные действия закрепляют метод расчета, а не успешные дают возможность провести работу над ошибками. Если этические вопросы не берутся во внимание, то мозг не имеет шанса улучшить вычисления исходя из этого критерия. Тем не менее, как было показано выше, многие проблемы и неудачи возникают именно по причине отсутствия этики в принятых решениях. Вы не специально, но наступаете на чьи-то невидимые со своего текущего положения интересы. Поэтому осознанный этический выбор помогает настроить вычисления в мозге. При этом за свой этический выбор человек должен нести ответственность, то есть поставить "шкуру на кону" как говорит Н.Талеб в своей книге "Рискуя собственной шкурой". Если шкура не стоит, то и этического выбора может не быть. "Не зачем морочить себе голову", так подумает обыватель.
Чтобы стать этичным, кроме осознанности и шкуры на кону, необходимо изучить этику как дисциплину. Массово этику постигают в школе, в семье, в культурном социуме. Но во всех этих случаях, нет явного обучения дисциплине. В школе "преподаются" не относящиеся к реальности -- мораль детского сообщества (как выглядеть крутым или что главное в жизни) и картины мира прошлого из художественной литературы. В основном, человек изучает этику методом проб и ошибок в реальной жизни. Когнитивные искажения не осознаются, а автоматизм поведения закрепляется на уровне инстинкта и воспроизводятся не к месту.
Тем не менее, современному человеку требуется различать два направления этики - консеквенциональную или деонтологическую этики. В первом случае цель оправдывает средства, а во втором, наоборот, средства никак не оправдывают цель. При этом требуется давать уточнение, что в первом случае никакие средства не оцениваются как безнравственные, если они приводят к нравственной цели. Главным рассмотрением является нравственное или безнравственное последствие. Во втором случае оцениваются сами средства и люди, совершающие поступки. Деонтологическая этика определяет поступок нравственным или безнравственным сам по себе и даже благая цель не оправдывает безнравственные средства. Деонтика провозглашает принцип «делай как должно, и будь что будет».
Два разных направления этики ни в коем случае не означает, что нужно выбрать и придерживаться навсегда одного из них. Той, что вам импонирует. С практической точки зрения необходимо пользоваться обоими подходами в зависимости от конкретного проекта, ситуации или дилеммы. Причем речь должна идти не о гипотетических ситуациях с вагонеткой и стрелкой, а о конкретной рабочей деятельности. Только в реальной жизненной ситуации, когда вы ставите свою шкуру на кон возможно делать этический выбор. А дисциплина поможет сделать этот выбор.
В этой связи осознанное рассмотрение этических вопросов и осознанный выбор дисциплины для конкретного вопроса, наряду с поставленной шкурой на кон, позволит настроить интеллект на решение таких сложных задач. При этом, для бесконечного развития при принятии решения важно не совершать глупых ошибок или не быть лохом. А именно нужно знать максимальный ущерб, который может быть в случае неверного выбора. В таком случае вы будете иметь возможность продолжать делать последующие выборы, тем самым тренируя вычислительное мышление. Если будет фатальный ущерб, то практики бесконечного развития не помогут, и придется решать вопросы выживания, которые имеют другую этическую сторону.
Религия была нацелена на универсальность и впрямую учила этике как дисциплине, хотя есть вопросы к самому учению и методам обучения. Сегодняшняя капиталистическо-консьюмеристская этика удобна многим заинтересованным группам. Одни могут бесконечно обогащаться и (якобы) управлять мировыми рынками, а другие потреблять и баловать себя удовлетворением простых интересов. Тем более, что технологии позволяют первым управлять поведением людей, их эмоциями и чувствами (отсутствие «свободы воли»). «Завтра» принесет повсеместное использование искусственного интеллекта, а «послезавтра» – продление жизни. Мы на пороге новой биотехнической этики, которая может усилить и закрепить расслоение общества (финансовое и интеллектуальное, а в итоге и кастовое).
Однако, просвещение не является мейнстримом. Во всяком случае никто широко об этом не говорит. Поэтому либо вы самостоятельно становитесь на путь бесконечного развития (усиления интеллекта и в том числе изучения этики) или живете по накатанному сценарию для морального поведения большинства.
Бесконечное саморазвитие может быть только этичным. Как правильно жить, и что является моральным или этичным решать только вам. При этом решение будет даваться не всегда просто. Этика входит в платформу человека, живущего интересной жизнь и учитывающего интересы других людей. Соблюдение этики снижает вероятность не предусмотренного ущерба от "черного лебедя" и повышает шансы на успех. Однако, невозможно дать алгоритм решения сложных вопросов. Но рецепт есть: нужно усиливать интеллект, знать этику как дисциплину, осознанно рассматривать этические вопросы при принятии решений (ни в коем случае не избегать их) и ставить шкуру на кон (брать на себя ответственность).