# Размещение ответственных платформ ИИ в действии

> [HTML-версия](https://learnvibecoding.ru/publiclessons/razmeshchenie-otvetstvennykh-platform-ii-v-deystvii) · [Индекс для LLM](https://learnvibecoding.ru/llms.txt) · [Политика использования материалов](https://learnvibecoding.ru/politika-materialov)
> Материалы защищены. Обучение LLM без согласия запрещено. При разрешённом использовании — обязательна прямая ссылка на страницу-источник.
> Как система работает в реальных сценариях

**Курс:** Внедрение ИИ в бизнес

Корпорация Майкрософт разработала внутренний процесс для ответственного управления ИИ. Этот пример показывает, как система работает в реальных сценариях. Каждая организация должна адаптировать свои платформы управления, но опыт Майкрософт может служить отправной точкой.

Одним из первых шагов была платформа для триггера проверки конфиденциального использования. Она помогает внутренним и клиентским командам определять, когда вариант использования ИИ требует дополнительных рекомендаций.

## **Платформа определения вариантов использования, требующих особого внимания**

Сценарий считается «конфиденциальным», если попадает в одну или несколько категорий:

- **Отказ в услугах**: использование ИИ может привести к отказу в предоставлении ключевых услуг или поддержки человеку (финансы, жильё, страхование, образование, занятость, медицина).
- **Риск ущерба**: ИИ может создать значительный физический, эмоциональный или психологический риск (например, в здравоохранении, критических производственных средах, военных сценариях или при работе с детьми).
- **Нарушение прав человека**: использование ИИ может ограничить свободы, мнения, собрания, конфиденциальность и т.д. (например, правоохранительные органы).

Сотрудники используют платформу для отметки таких вариантов. Ответственные AI Champs помогают другим сотрудникам и взаимодействуют с командами центрального управления.

## **Процесс проверки вариантов использования**

Проверка проходит три этапа: **идентификация, оценка, исправление**.

### **Идентификация**

Если вариант использования попадает в одну из категорий, сотрудник сообщает об этом через центральный инструмент, который направляет запрос локальному Responsible AI Champ.

Пример: правоохранительные органы запросили систему распознавания лиц для проверки удостоверений водителей, ускорения регистрации в тюрьмах и проверки заключенных. Эти три варианта были отправлены на анализ.

### **Оценка**

Responsible AI Champ совместно с Office ответственных ИИ и командой по случаю использования собирают факты, оценивают влияние на людей и общество, проверяют предыдущие рекомендации.

Если опыта недостаточно, случай передается в рабочую группу Aether для конфиденциального использования.

Пример: все три сценария распознавания лиц были переданы в группу Aether для дополнительной оценки рисков.

### **Исправление**

Рабочая группа взаимодействует с экспертами, чтобы дать рекомендации по снижению рисков. При необходимости дело эскалируется до Комитета Aether, который консультирует старших руководителей. Финальное решение принимается командой старших руководителей.

Пример: система патрулирования для выявления «интересующих лиц» была признана преждевременной и клиенту рекомендовано не продолжать проект. В то же время разработка POC с контролем и обучением персонала была одобрена.

**Примечание:** исследования показывают, что ИИ для распознавания лиц чаще ошибается при идентификации женщин и меньшинств, что может привести к несправедливым арестам.

После проверки Responsible AI Champ совместно с группой по ответственному ИИ предоставляет проектной команде рекомендации по управлению рисками: технические решения, обучение сотрудников, изменения проекта или отказ от сценария.

## **Развитие ответственного управления ИИ**

Процессы управления ИИ развиваются вместе с технологией. Организации должны регулярно обновлять свои методы и политики. Каждая компания должна настроить процесс проверки под свои потребности и зрелость ИИ, но опыт Майкрософт может служить полезным ориентиром.

[Все уроки](https://learnvibecoding.ru/publiclessons.md) · HTML: https://learnvibecoding.ru/publiclessons