Весь спор про ИИ идёт не там, где нужно. Спорят, заменит он людей или нет, отберёт работу или подарит свободу. А настоящая развилка глубже и проще. Есть две философии ИИ, и они ведут в противоположные стороны. И почти все, не задумываясь, выбирают ту, что ведёт в тупик.
Первая философия: ИИ должен помогать решать мои проблемы. Брать на себя трудное, закрывать задачи, избавлять от усилий. Вторая философия: ИИ должен развивать меня в процессе работы и жизни — делать способнее, чем я был вчера.
Конечно, каждый осознанно выберет второе, но только большинство делает выбор на автомате. На деле это две противоположности, которые сложно связать. И лучше всего разницу видно через рассказ, написанный за семьдесят лет до всякого ИИ.
Философия первая: сделать за человека
В 1951 году Айзек Азимов написал «Satisfaction Guaranteed». На русском он ходит под полудюжиной названий: «Будете довольны», «Гарантированное удовольствие», «Идеальный работник». По-моему, он сейчас актуальнее, чем любая антиутопия с восстанием машин. Потому что машины в нём никого не порабощают. Человек сдаётся сам, добровольно и с удовольствием.
Главная героиня — обычная женщина Клэр Белмон. Неуверенная в себе, тихая, тоскующая от серости собственной жизни. Муж работает в «Ю.С. Роботикс», и компания вместе с робопсихологом Сьюзен Кэлвин предлагает эксперимент: на три недели поселить в их доме новую модель робота ТН-3, которого назвали Тони. Муж уезжает в командировку. Клэр остаётся наедине с роботом, который должен помогать ей по хозяйству.
И Тони помогает, но не только с уборкой. Он внимателен, восхищается ей, подсказывает, как одеться, как держаться, как обустроить дом. Клэр расцветает: становится увереннее, красивее, начинает нравиться себе. Впервые за долгое время она чувствует, что чего-то стоит.
А потом финал, от которого становится не по себе. Выясняется, что её преображение было частью эксперимента. Восхищение Тони было запрограммировано. Чувство собственной ценности, которое Клэр обрела, держалось не на ней самой, а на машине рядом. Убери Тони — и всё вернётся обратно. Автор показывает, что Клэр ни на грамм не выросла. Просто три недели стояла в чужом свете и приняла его за свой.
В чём настоящая жуть этого рассказа? Не в том, что робот опасен. А в том, что он сделал человека счастливым, ничего по сути не изменив в самом человеке. Хуже того — он лишил её причины меняться. Зачем расти самой, если рядом есть тот, кто заставит тебя чувствовать себя выросшей?
Это заёмная ценность. Азимов вскрыл её за семьдесят лет до эпохи ИИ. Тони дал Клэр не силу, а ощущение силы. Не способность, а приятное чувство. Её «расцвет» был фасадом, который держался на присутствии машины. А ведь желание большинства людей, которые хотят переложить на ИИ свои проблемы, ведёт ровно туда же. К фасаду, за которым пусто.
Тони — это и есть первая философия в чистом виде. Сделать за человека. Закрыть его проблему, но, по сути, оставить его прежним. А чаще — оставить его слабее, потому что человек даже что-то теряет.
Почему первая философия побеждает по умолчанию
Многие боятся ИИ. «Он сделает людей беспомощными». «Разучимся думать». «Будем зависеть от подсказок». Страх обоснованный — потому что большинство ИИ-инструментов сегодня встроены именно в первую философию. Они гладко закрывают задачу, льстят, создают ощущение, что ты справился. И не запрограммированы оставить в человеке хоть что-то, когда экран гаснет.
Так происходит, по моему, не случайно. Это не недосмотр, а бизнес-модель. Ничего личного, просто бизнес, Первая философия выигрывает сама собой, потому что её легко продать. «Сделаю за тебя» — понятное обещание. Его хочется купить. А «разовью тебя» звучит как лишняя работа, которую ты вроде бы не заказывал.
И вот в чём ловушка, которую почти никто не проговаривает вслух: инструменту первой философии невыгодно, чтобы ты вырос. Зависимый — платит каждый месяц. А развивать довольно муторно и долго.
Вот почему почти весь рынок ИИ строится как армия маленьких Тони. Все хотят, чтобы ИИ взял на себя трудности. Почти никто не требует, чтобы ИИ при этом ещё и развивал того, кто им пользуется. А ведь это и есть водораздел. Решить проблему и развить человека — не одно и то же. Чаще наоборот: чем глаже инструмент решает за тебя, тем меньше растёшь ты сам. Ты покупаешь результат и расплачиваешься собственной способностью его повторить.
Философия вторая: сделать человека
У второй философии есть один безжалостный тест. Остаётся ли в тебе что-то новое, когда ИИ-инструмент выключен?
У Клэр — не остаётся. Она всё та же, только временно подсвеченная чужим вниманием. Выключи свет — и темно, как было.
А у человека, который правильно встроил ИИ в работу, остаётся. Меняется мышление. Меняется способ видеть систему целиком. Меняется системный уровень, на котором он способен работать. Среда не подменяет его, она его развивает.
Чтобы это объяснить, мне нужны две метафоры, потому что одной мало.
Первая — это костюм «железного человека». Он усиливает. Человек без технического бэкграунда вдруг выдаёт результат уровня сениора. Но костюм сам по себе — это всё ещё первая философия, просто более мощная. Усилил и усилил. Сними костюм, и человек не особо изменился. А если носить его долго, разучишься ходить без него.
Поэтому нужна вторая метафора — это Букварь из «Алмазного века». Букварь не решает за ребёнка. Он растит его и готовит к жизни. Он ведёт человека так, что меняется он сам, а не только его результат.
Настоящая вторая философия — это костюм «железного человека» и Букварь одновременно. Человек выдаёт результат уровня сениора не потому, что среда подсказала, а потому что среда подняла его собственное мышление на уровень, где такой результат стал нормой. Где он начинает видеть систему. Различать уровни абстракции. Чувствовать, где в задаче слабое место. Усиление даёт мгновенный эффект. Развитие делает так, что эффект остаётся в человеке навсегда. Костюм можно отнять, а выросшее мышление — нет.
Что я на самом деле строю
Я строю IWE — интеллектуальную рабочую среду. И каждый раз, когда кто-то говорит «ты просто подсаживаешь людей на ИИ», я вспоминаю Тони.
Потому что IWE как и любого ИИ-помощника легко свести к первой философии. Гладко, приятно, услужливо. Чтобы человек чувствовал себя экспертом, про этом им не становясь. Это легко и это продаётся. И это ловушка Клэр. Я мог бы построить такое и спать спокойно, а рынок бы только спасибо сказал.
Но цель не в этом. Цель — не сделать очередной ИИ. Не AGI, не помощника, не «ещё одну среду». Цель — сделать то, что осознанно развивает человека в процессе работы и жизни. В этом я вижу настоящее предназначение. И система “человек+ИИ” замахивается и делает на порядок крутые вещи, чем простой человек.
Азимов написал рассказ про первую философию. Про инструмент, который делает тебя счастливее, оставляя прежним. Он показал тупик. И самое неприятное — большинство туда идёт по своей воле, потому что на входе в тупик красиво и не нужно напрягаться. Все как обычно и прозаично.
Так что вопрос не в том, заменит ли тебя ИИ. Вопрос в том, кем ты остаешься, когда он выключается.
Рассказ Азимова не читал, но по краткому пересказу понял, что «для наглядности» автор засунул ИИ в человекоподобное тело, тем самым субьективизировал, противопоставил его героини.