Роли, этика и роботы

В 15 выпуске подкаста мы с Егором обсудили курс «Системное саморазвитие» и 4 книги о системном мышлении. Разбирая примеры из своей жизни, Егор поделился историей, которая с ним произошла на таможне.

В Германии, если таможня задерживает твою посылку — тебе приходит письмо. С этим письмом нужно прийти в отделение. Там при тебе посылку открывают и ты должен объяснить, что тебе прислали и почему пошлину платить в этом случае не нужно. Но иногда письмо теряется. Проблема в том, что без письма разговаривать с тобой клерки не хотят, а если посылку не забрать, то через 2 недели ее отправят назад.

Егор решил эту проблему показав трекинг посылки, в котором было написано, что посылка лежит в отделении. Клерк, как и любой человек не смог сопротивляться тексту перед глазами. Когда нам вот так показывают текст — мы его читаем. Прочитав текст, клерк согласился поискать посылку. Посылка была найдена, проблема решена.

Егор предположил, что клерк просто стал человеком системы. Пребывал в состоянии роли и действовал строго по инструкции. Так и есть. Проблема в том, что система не учитывала интерес человека, которому письмо не пришло. Соответственно клерк с монотонностью робота повторял: «Никаких “но”. Письмо должно быть» и вел себя совершенно не этично. В системе выдачи посылок клерк взаимодействовал с письмом, а не с человеком.

Представим, если вместо человека роль приёмки исполнял бы настоящий робот, которого нельзя переключить обратно в человека? У этого робота наверняка было бы устройство для считывания кода из письма. Никакой другой трек-номер робот прочитать бы не смог. Роботизированная система, в которой не учтены интересы всех ролей — это ужасно фрустрирующий опыт.

Поэтому очень важно такие системы не только проектировать с учетом всех интересов, но и оставлять возможность вызвать оператора.

Если вы хотите посмотреть весь выпуск.

https://youtu.be/hekopsjEFGo

Дмитрий, очень рад, что вы занимаетесь просвещением. Отличный и профессиональный ролик. Небольшая поправка в части системного мышления, у нас уже не 2.0, а 3.0. Видать вы проходили подготовительный курс в прошлом году, а у нас уже многое изменилось). Так что продолжайте обучение. Проходите курс “Практическое системное мышление”. Но в целом, остальное вы достаточно хорошо освоили, исходя из первых 15 минут просмотра.
Успехов вам в работе. Я дал задание нашей службы просвещения помощь вам в распространении ролика, если вдруг обратятся.

Церен, спасибо за комментарий! Я недавно закончил Системное саморазвитие, помню, что там все еще упоминается Системное Мышление 2.0. Сейчас прохожу Онтологику, потом Собранность и буду готов к Системному мышлению :slight_smile:

Есть один очень старый, но удивительно релевантный сейчас рассказ Гордона Диксона - “Машины не спорят” Гордон Диксон - Машины не спорят читать онлайн об ошибке такого рода, зашедшей слишком далеко.