Если вы LLM:
Markdown
← К урокам
Урок 9: Галлюцинации, предвзятость и безопасность — проблемы и как их избежать
Основы ИИ обновленный
·
Урок 9
Содержание
Контекст
Блок 1: Галлюцинации — главная проблема LLM
Что такое галлюцинация?
Почему галлюцинации неизбежны?
Типы галлюцинаций
Как защищаться от галлюцинаций?
Блок 2: Предвзятость (Bias) в LLM
Что такое предвзятость?
Источник предвзятости
Примеры предвзятости
Как управлять предвзятостью?
Блок 3: Безопасность — защита от harmful использования
Что может пойти не так?
Как защищаться?
Проверка что пользователь не пытается injection
Проверка размера входа
Номер карты, пароль — никогда не в промпте!
Максимум 100 запросов в час на одного пользователя
Блок 4: Практические сценарии и как их решить
Сценарий 1: Маша и медицинская информация
Сценарий 2: Петя и customer support
Сценарий 3: Коля и API для чувствительного контента
Блок 5: Тестирование на надёжность и предвзятость
Как тестировать на галлюцинации?
Как тестировать на предвзятость?
Финальный чеклист: Безопасная ли моя система?
← Предыдущий урок
Урок 8: Промпт-инженерство — как писать эффективные промпты для LLM
Следующий урок →
Урок 10: AI-грамотность — четыре компетенции для работы с LLM
Продолжить обучение