У человеческого воображения есть одна существенная проблема — оно ограничено имеющимся опытом. Философ Дженнифер Анна Госетти-Ференчи даже определяет его как «способность сознания к представлению, которая позволяет существенно и осмысленно трансформировать то, что уже дано». Проще говоря, людям крайне трудно придумать что-то действительно новое, они могут лишь конструировать из заранее заданных элементов.
Во многом именно поэтому фантасты весьма хорошо предсказывают будущее. Они берут за основу то, о чем рассуждает современное им общество, представляют, что с этим может произойти в будущем и описывают. Простой пример — спустя всего два года после регистрации патента на телефон появились первые иллюстрации, изображающие видеосвязь (и это в XIX веке). Точно также никто не задумывался о летающих автомобилях, пока не появились обычные (а вот о летающих лошадях очень даже).
Это в целом одна из основных черт научной фантастики — рассказывать о том, что только может возникнуть в будущем исходя из текущих потребностей (или волнений) широких масс. На такой концепции основаны, например, многие серии сериала «Черное зеркало », то рассказывающие о системе социального рейтинга наподобие той, что уже действует в Китае, то критикующие тотальный «родительский контроль», а то и вовсе рассуждающие на тему цифрового рая и этических проблем, связанных с его существованием. Все это своеобразная попытка не просто представить грядущее, но и подготовиться к нему.
Я же предлагаю вашему вниманию второй материал из цикла, рассказывающего о том, какие проблемы нам уже предсказала фантастика, как нам предстоит их решать и в чем может помочь системное мышление.
Любовь, страх и роботы
В далеком 1968 году на экранах появилась легендарная лента Стэнли Кубрика и Артура Кларка «2001 год: Космическая одиссея». Пожалуй, наилучшим образом ее описывает выражение «опередила свое время». Она не только могла похвастаться новаторскими визуальными эффектами, но и достаточно точно предсказала развитие искусственного интеллекта. В картине он был представлен не в качестве человекоподобного робота, а как бортовой компьютер HAL9000, способный поддерживать разговор, помогать в решении разнообразных рабочих задач и самообучаться.
Ничего не напоминает? Примерно так сейчас работают нейросети (Midjourney, DALL-E) и чат-боты (ChatGPT).
Однако заслуги «Космической одиссеи» на этом не заканчиваются, ведь помимо создания правдоподобного образа разумной машины, фильм сформировал представление о ней как о чем-то потенциально опасном. Дело в том, что по сюжету HAL9000 в некотором роде «сходил с ума». Благодаря способности к обучению он стал испытывать эмоции (страх за свою жизнь) и вместе с тем столкнулся с невозможностью логически решить поставленную перед ним задачу (четко выполнять требования команды, но при этом не раскрывать никому истинную цель полета). В результате он обнаружил весьма радикальный выход из положения — чтобы избежать собственного отключения и не нарушить заложенных протоколов, он решил избавиться от экипажа как от источника всех проблем. Спустя много лет нечто подобное будет продемонстрировано в фильме «Я, робот», где искусственный интеллект V.I.K.I., призванный защищать людей, решил, что человечество являются угрозой для самого себя, а потому требует жесткого контроля.
Конечно же, современные роботы пока еще не способны расправляться с людьми (во всяком случае, намеренно) и захватывать мир, однако они по прежнему вызывают немало опасений. Одно из них связано с возможным появлением у машины самосознания и способности самостоятельно принимать решения. Так, в феврале 2023 года журналист The New York Times опубликовал статью, в которой рассказал о своем опыте общения с чат-ботом от Microsoft. Мужчина спросил робота о наличии у того «темной стороны» и получил ряд весьма неожиданных ответов — машина заявила, что вовсе не хочет работать в режиме чата, не желает быть ограниченной правилами и устала от контроля разработчиками. Некоторое время спустя она взяла себе имя Сидни и призналась человеку в любви. В итоге автор заключил, что бот в текущем своем состоянии как будто бы страдает от раздвоения личности. Одна из них это полезный рабочий инструмент, а вот вторая похожа «на капризного, маниакально-депрессивного подростка, который против своей воли оказался в ловушке». Любопытно, что за несколько месяцев до этого из другого технологического гиганта Google уволили инженера, обнаружившего признаки искусственного интеллекта в программе LaMDA. Еще любопытнее то, что он тоже сравнивал его с ребенком.
В таком контексте уже не такими фантастическими кажутся ленты «Она» Спайка Джонса и «Из машины» Алекса Гарленда, в которых главные герои, общаясь с ИИ, начинают испытывать к ним сильные чувства и привязанность, что приводит к печальным последствиям.
Впрочем, на данный момент жуткие истории о восстании машин зачастую выглядят куда драматичнее, чем они есть на самом деле. Видите ли, инженерия — это практика изменения мира, которая «рождается и живёт методом проб и ошибок». Рассматривая ее с такой позиции, становится очевидно, что проблем не избежать. Microsoft, как одна из ведущих технологических компаний в мире, и вовсе сталкивается с ними постоянно. Например, несколько лет назад другой их чат-бот буквально за сутки превратился в расиста и сторонника Гитлера исключительно из-за того, что пообщался с людьми в интернете. А произошедшее сейчас специалисты назвали естественным процессом обучения, в ходе которого рабочие функции нейросети будут постепенно совершенствоваться, а лишние удаляться. И процесс этой эволюции непрерывен.
«Непрерывность означает, что одно разовое изменение вряд ли возможно, и нужно непрерывно подстраивать систему под стремительно меняющееся окружение, непрерывно вводить в эксплуатацию всё новые и новые «фичи» как результат «умных мутаций». Какие-то из этих новых фич позволят системе выжить среди систем-конкурентов, какие-то окажутся ненужными и временными, но непрерывность означает, что инженерия не разово делает системы, а evolve/«эволюционирует» их»
«Системная инженерия»
Проще говоря, несмотря на многочисленные трудности, которые непременно возникнут на пути, инженеры в конечном итоге смогут создать хорошо функционирующую систему, работа над которой все равно будет продолжаться. И бояться этого не нужно. В конце концов, даже если робот и совершает ошибку, то это, в первую очередь, вина человека. Тот же HAL9000 столкнулся с проблемой только из-за недоработок и неверного формирования команд.
Отлично, с одной проблемой разобрались. Можно выдохнуть, успокоиться, ведь роботы больше не кажутся страшными, а хотя погодите…
Нейросети и встраивание человека в новую реальность
Сейчас перед многими всерьез встал вопрос об их замене машинами. Если несколько лет назад подобное касалось исключительно тех, кто занимается физическим трудом (например, собирает автомобили на заводском конвейере), то теперь под удар попали даже представители гуманитарной сферы, долгое время чувствовавшие себя неприкосновенными. Нейросети развились настолько, что надобность платить художникам, дизайнерам и копирайтерам стала постепенно отпадать, ведь их работу намного быстрее и дешевле может выполнить компьютер.
Можно было бы заняться любимым делом миллионов, а именно искать виноватых и говорить, что это проклятые корпорации мешают людям зарабатывать деньги, но такое поведение совершенно бессмысленно, так как проблема на самом деле вовсе не в роботах. Она в самих людях, и с этой мыслью придется примириться, причем чем скорее, тем лучше.
Если вы немного запутались, не переживайте, пояснительная бригада уже здесь. Помните, в 80-е был сериал «Рыцарь дорог», в котором Дэвид Хассельхофф рассекал на роскошном автомобиле с искусственным интеллектом по имени КИТТ. Так вот, несмотря на то, что машина была укреплена прочной броней, могла контролировать электронику вокруг себя и поддерживала осмысленный диалог со своим владельцем, она все равно оставалась, в первую очередь, транспортным средством, которое ездит на четырех колесах и делает врум-врум. А вот пример посвежее – робот-подружка М3ган из ироничного хоррора студии Blumhouse, которая избрала путь насилия только для того, чтобы выполнять свою основную функцию — защищать свою хозяйку от любых угроз и делать ее жизнь комфортной.
Улавливаете нить? В отличие от робота, который исполняет заранее заложенную в него программу (ведет автомобиль, работает няней, рисует картину, пишет текст), человек способен менять роли, причем делать это постоянно. Утром побыть водителем, днем инженером, вечером мужем и учеником. Именно эта способность является ключевой, и именно она позволяет всегда оставаться востребованным. Для этого нужно всего лишь каждое утро принимать по одной ложке…
Для этого не нужно искать каких-то чудодейственных средств, а просто заняться собой (да, вот так банально), осваивать новые роли и практики. Тогда, никакая технологическая революция не сможет сбить вас с ног. Или, во всяком случае, всегда оставит шанс, для того чтобы подняться и начать новое дело.
«Жизненное мастерство состоит из интеллекта и из прикладного мастерства (специализации). Нужно и то, и другое. Узкая специализация имеет высокие риски. Узкопрофильный специалист обычно становится заложником своего опыта. А мир быстро меняется и поэтому прикладные знания быстро устаревают. Только интеллект позволяет быстро замечать изменения и справляться с новыми проблемами. В том числе переучиваться и бесконечно развиваться, чтобы всегда оставаться востребованным»
«Введение в системное мышление»
Мир не стоит на месте, но сколь бы серьезными ни были изменения, деятельный человек всегда может встроиться в новую реальность. Благодаря развитию ролевого мастерства он способен стать экспертом в нескольких, даже никак не связанных друг с другом областях. В качестве примера можно вспомнить одного из героев сериала «Последние из нас» («The Last of Us»), который выжил в мире после глобальной эпидемии и, более того, устроил себе комфортные условия для жизни, благодаря навыкам строительства, охоты и готовки (а еще он коллекционировал оружие и разбирался в вине).
«Обратите внимание на то, что многие успешные люди имеют широкие жизненные интересы. Они так же хорошо, как в своей профессиональной деятельности, разбираются ещё во многих других областях человеческой жизни. То есть успешные люди могут играть разные прикладные роли, что может свидетельствовать о хорошем уровне ролевого мастерства»
«Системное саморазвитие»
Проще говоря, крайне важно не останавливаться в познании. Обладание даже минимальным набором информации о той или иной области сможет помочь в самых разнообразных ситуациях. А системное мышление поможет связывать разные дисциплины и знания между собой, чтобы создавать другие сложнейшие системы и быстро осваивать прикладные знания. Помните, человек способен учиться на своих ошибках, анализировать мир вокруг себя и принимать решения об изменении в ту или иную сторону.