Вещь, в создании которой участвует предприятие - Задание 9.3 из курса 1.1. Рациональная работа

Попробуйте еще раз выделить вещь, в создании которой участвует ваше предприятие. Есть ли ещё какие-то создатели, или ваша организация – единственный создатель? Назовите вещь, удерживая внимание на типе вещи!

Теперь попробуйте выделить объект, который путешествует через ваше предприятие. Если это не вещь, а какой-то другой объект, назовите, что это за объект, пользуясь чеклистом из подраздела «Вещь и граф создателей вещи». Продолжайте удерживать внимание на типах, перепроверяйте себя сразу же, как написали предложение.

Опишите результат в клубе ШСМ.

Пока без работы, поэтому описываю прошлую.

Вещь, в создании которой участвует предприятие

Наше предприятие не является единственным создателем конечной вещи. Мы находимся в графе создателей, где:

  1. Наше отделение проводит эксперименты с моделями ИИ и выявляет небезопасное поведение.
  2. Подразделение в США составляет доклады на основе наших артефактов.
  3. Конечная вещь (целевая система) - регуляции в области ИИ-безопасности.

Вещь (целевая система): Регуляции в области ИИ-безопасности - это ментальный объект, информация, содержащая нормативные предписания и правила. Регуляции могут быть отражены на разных физических носителях (документах), переданы разными способами коммуникации, но сами по себе являются информационным содержанием, а не физическим объектом. Это документы с конкретными нормативными актами, имеющие юридическую силу, принятые регулирующими органами.

Объект, путешествующий через предприятие

Наша вещь (система): Исследовательские артефакты о небезопасном поведении ИИ, которые покидают границу нашего предприятия в виде статей и презентаций.

Проверим этот объект по чеклисту:

  • Связь с вещью: Наши исследовательские артефакты связаны с конечной вещью (регуляциями) отношением создания - они предоставляют информационную основу для разработки регуляций.
  • Покидает границу предприятия: Да, артефакты покидают наше предприятие и используются подразделением в Калифорнии.
  • Влияние на вещь: Отсутствие или низкое качество наших исследовательских артефактов приведет к неэффективным или неполным регуляциям, которые не смогут адекватно предотвратить риски ИИ.
  • Интерес для операционного менеджера: Измерение выпуска может происходить в количестве качественных исследовательских артефактов, которые были использованы в докладах и повлияли на регуляции.

Таким образом, объект, путешествующий через наше предприятие - это исследовательские артефакты о небезопасном поведении ИИ (в виде статей или презентаций с конкретными демонстрациями рисков), которые затем трансформируются в доклады, а в конечном итоге влияют на создание регуляций в области ИИ-безопасности.


1 лайк

Физичны тут носители информации, документы. А регуляции ни разу не физичны – одна и та же регуляция может быть отражена каким угодно шрифтом, передана радиоволнами, отражена в огромном количестве самых разных документов, оставаясь одной и той же. Это ментальный объект, информация. А “документ” – это конкретный один носитель с этой информацией, он интересует разве что курьеров.

Точно, спасибо! Верно ли думаю, что тогда физическим объектом будут модели (исполняемый код, хранящийся на сервере (или это тоже описание)), обученные в соответствии с новыми регуляциями? Очень хочется добраться до сути

Конечно, код – это описание! В момент эксплуатации код ведь не хранит состояние. А вот в исполняемой программе каждый момент времени переменные имеют своё значение, в каждом экземпляре программы – своё. Это физические объекты.

Спасибо за разъяснение! Получается, что в данном случае конкретный экземпляр запущенной модели с её весами в оперативной памяти в определенный момент времени - физический объект. И целевых систем будет 2 - ментальная (регуляции как информационное содержание) и физическая (конкретные экземпляры безопасных ИИ систем, функционирующих в соответствии с этими регуляциями). В правильную сторону думаю?

Если вы уж говорите про “целевую систему”, то там критерии будут пожёстче, чем “вещь”. Но точно не ментальная модель, не регуляции – это ведь не вещь. Если сказано “вещь”, то должна быть вещь.

Надо тренироваться удерживать собранность на типе объекта. Это как в игре “барышня мадам”: правила просты, но почему-то всё время ошибаешься ))) Тренировка "Вы пойдёте к топ-менеджеру?" или "Барышня-мадам".: ailev — LiveJournal

У нас поэтому есть тренировки на эту тему, будут проходить пока почти еженедельно. Трудно поверить, что “знаю, что должна быть вещь – но всё равно пишу регуляции, которые заведомо не вещь”. Надо просто привыкнуть такое у себя отслеживать.

1 лайк

Екатерина, спасибо за пост!

Ай. Вы пишете “вещь” (физический объект), и тут же указываете, что регуляции – ментальный объект. Внимание не удержалось на типах, аккуратнее.
Вам надо тянуть цепочку дальше, до физических объектов. Скажите, к каким объектам в физическом мире отсылают регуляции? Или: что должно меняться в физическом мире согласно описаниям?
Как найти там физический объект? Как бы вы его назвали?