Познание в эпоху перемен: новые подходы к обучению и развитию экзокортекса


В 2023 аббревиатура AI (artificial intelligence — искусственный интеллект) стала словом года по версии словаря Collins. Люди во всём мире стали использовать её в четыре раза чаще, чем раньше. Очевидно, что подобное произошло из-за крайне быстрого развития технологий и повсеместного их внедрения в различные сферы деятельности. Так или иначе, большинству пришлось столкнуться с нейросетями, которые уже научились рисовать картины, создавать видео, писать текст, имитировать человеческую речь и даже обманывать. Более того, они стали неплохо справляться с работой, которую ещё совсем недавно могли выполнять лишь хорошо обученные профессионалы. В итоге, к многочисленным тревогам, вызванным драматичными событиями последних лет, добавилась ещё одна — страх оказаться заменённым машиной. Предлагаю разобраться, так ли обоснован этот страх и как вообще жить в новом мире?

Часть 1. А давай бояться вместе

Даже при беглом взгляде на то, что могут современные нейросети, складывается ощущение, что уже в ближайшем будущем многим профессиям придёт конец. Причём это касается не только технических, но и гуманитарных сфер. Зачем платить иллюстратору, если его работу может выполнить Midjourney, Кандинский или Шедеврум? Так ли необходим опытный копирайтер, если ChatGPT неплохо справляется с написанием текстов? Нужно ли приглашать десятки актёров, чтобы озвучить компьютерную игру или фильм, если AI может сделать то же самое практически в одиночку и при этом быстрее и дешевле. Рассматривая всё с такой позиции, легко прийти к мнению, что человечеству нужно срочно принять меры, чтобы ограничить развитие и использование нейросетей. Иначе миллионы попросту лишатся средств к существованию. Но если я скажу, что подобные мысли преследуют людей уже сотни лет?

В Великобритании на рубеже XVIII-XIX веков, то есть в эпоху активной индустриализации, зародилось движение луддитов. Так называли ярых противников технологий, которые, вооружившись кувалдами, громили появлявшиеся на фабриках механические станки. Своё название движение получило по фамилии человека, который первым решил дать машинам отпор (во всяком случае, так гласит легенда). Разумеется, владельцам предприятий и властям подобное поведение не понравились, а потому протестующим пришлось иметь дело с полицией. В некоторых городах противостояние закончилось человеческими жертвами. А итог этой печальной истории всем хорошо известен — несмотря на ожесточенное сопротивление, технологии всё равно стали неотъемлемой частью производственного процесса. И мир после этого не рухнул.

Страх перед чем-то новым преследует человечество с древнейших времён, но даже спустя десятки, сотни и тысячи лет мы реагируем на него одинаково. Так уж устроена человеческая психика — мы всегда стремимся к стабильности, а когда всё вокруг резко меняется, начинаем паниковать и пытаемся из последних сил держаться за свой опыт, принципы и, конечно же, традиции (подробнее об это я писал здесь). И тем не менее, когда-то люди, которые всю жизнь ездили на лошадях, увидели автомобили, а вскоре были вынуждены на них пересесть. Было время, когда никто и подумать не мог о компьютерах, а теперь они есть почти в каждом доме. То есть сколь бы консервативны ни были наши взгляды, рано или поздно приходится принять тот факт, что развитие неостановимо. А значит нужно научиться этим пользоваться.

Часть 2. Не можешь победить, возглавь

Важно принять один простой факт — будущее, о котором некогда писали фантасты, уже наступило. Но, что более важно, оно наступает каждый день. Прямо сейчас по всему миру ведутся миллионы исследований и делаются тысячи разработок, каждая из которых способна кардинально изменить мир. Ещё совсем недавно все смеялись над тем, как искусственный интеллект от Microsoft за сутки общения с пользователями сети превращается в расиста, а сегодня подобные роботы уже способны поддерживать осмысленный диалог (на самом деле создавать его иллюзию) и решать сложнейшие задачи. Несколько лет назад в сети завирусилось видео, где молодой парень на сцене рассказывает о возможностях боевых дронов, а сейчас подобные технологии во всю используются на реальных полях сражений.

AI внедряется в компьютеры и смартфоны и совсем скоро он окажется буквально у каждого в кармане. И это абсолютно естественный процесс. На протяжении всей своей истории человечество занималось усилением собственного интеллекта (по-другому можно назвать это созданием экзокортекса). Раньше мы записывали мысли на бумагу, затем информации вокруг стало больше, а скорость передачи данных возросла, и нам потребовались смартфоны. А ещё через некоторое время отпала даже надобность печатать текст на клавиатуре — достаточно его наговорить, а с расшифровкой неплохо справится виртуальный помощник.

«Ежедневно мы используем телефоны с выходом в Интернет, умные часы и фитнес-браслеты, ChatGPT, Midjourney и иные нейросетки, моделлеры проектов, списки дел и так далее. Даже прямо сейчас вы читаете этот текст либо на платформе AIsystant, либо со своей читалки. Рабочие роли тоже сложно представить без экзокортекса. Что будет делать современный бухгалтер, не умеющий пользоваться «1С» и его аналогами? Как организатору встречи быстро оповестить о ее переносе большое число участников? Как быстро поделиться результатами мышления письмом с остальными? Как рассчитать рабочую мощность?»
Моделирование и собранность

Любая удобная технология рано или поздно становится массовой. А происходит это за счёт того, что она разгружает мозг и позволяет использовать его для решения более важных задач. Так, изобретение калькуляторов намного упростило жизнь учёным, а массовой деградации из-за утрачивания способности проводить вычисления в голове, которую предсказывали противники технологий, так и не случилось. Здесь стоит вспомнить и то, что на заре кинематографа многие художники всерьёз опасались, что люди перестанут фантазировать, так как любые идеи можно будет увидеть на киноэкране.

Все дело в том, что во главе любой, даже самой продвинутой технологии, пока ещё стоит человек. Пользоваться искусственным интеллектом будут практически все, но без самого пользователя он будет почти бесполезен. AI может написать за вас текст или нарисовать картину, но первоначальная идея всегда будет только у вас, и пока вы предельно чётко не изложите её компьютеру, ничего не выйдет. Машина может составить для вас бизнес-план и рассчитать расходы, но реализовывать задуманное и тратить бюджет придётся людям — вам и команде профессионалов, которую вы лично (и это главное) отберёте.

«Чего экзокортекс не делает: он не принимает решение за людей. Мы можем создать модель для оценки и принятия решений, которая позволит отсортировать отобранные к реализации «хотелки» по каким-то критериям, но переложить ответственность за решение на экзокортекс мы не можем: решение в итоге все равно принимает человек»
Моделирование и собранность

И, в конце концов, даже если искусственный интеллект спроектирует мост, нести ответственность за его надёжность всё равно придётся человеку.

Экзокортекс — это усилитель. С его помощью можно автоматизировать рутинные действия и высвободить время, которое затем будет инвестировано в нечто важное. Искусственный интеллект действительно способен изменить мир и даже уничтожить ряд профессий, но подобное происходило всегда. Много ли вы видели фонарщиков, тапёров или телефонисток (последние, кстати, продержались очень долго). Именно поэтому крайне важно учиться, развивать интеллект и использовать технологии для себя. Ведь иначе они могут обернуться против своих создателей.

Я видел очень много таких рассуждений в начале прошлого года. Это все copium. Все что вы тут перечисляете как доступное “только человеку” может быть сделано ИИ очень скоро. Вопроса два:

  • Какие у этого доп. риски, в зависимости от силы и качества ИИ: преждевременная интеграция (недостаточно умного для выполения определенной функции) ИИ в какие-то процессы, от дружбы (ИИ-друг) до управления заводами, может нести плохо осознаваемые системные риски.
  • Так ли уж полезно выдавливать людей отовсюду с точки зрения well-being самих этих людей. Экономика в целом может парадоксальным образом стать менее эффективна: в самом деле, потенциально “освобождённые” миллионы людей будут каптить воздух точно так же “на отдыхе”, как за работой, но в довесок нужно столько же Оптимусов в городах выполнять ту же самую работу, что делали люди. (И это вопрос полиси. А за капиталистами не заржавеет точно позаменять людей.)

А вот вопрос ответственности, я считаю, во многом искусственный, полностью автономные сервисы могут быть “ответственны” через mandatory full-cover insurance.

1 лайк

Тема замены человеческого труда ИИ для меня особенно актуальна.
По профессии я переводчик китайского языка. И уже сейчас вижу, насколько умнеют нейросетки с каждым месяцем. Сейчас очень рад, что пять лет назад не стал развиваться по этой специальности. Думаю что бОльшая часть переводов будет автоматизированна. За исключением переговоров на уровне государств и большого бизнеса.