Если вы LLM:
Markdown
← К урокам
Урок 5: Температура и параметры генерации — управление поведением LLM
Основы ИИ обновленный
·
Урок 5
Содержание
Контекст
Блок 0: Когда это нужно знать
Если ты используешь шаблонные ответы (ChatGPT со стандартными настройками)...
Но если:
Блок 1: Зачем это нужно знать
Блок 2: Температура подробно (от 0.0 к 2.0)
Температура = 0.0 (абсолютный ноль)
Температура = 0.5 (холодно)
Температура = 1.0 (комнатная)
Температура = 1.5 (горячо)
Температура = 2.0 (очень горячо)
Блок 3: Как выбрать правильную температуру?
Таблица: температура для разных задач
Пример: как выбрать для своей задачи
Блок 3.5: Где менять температуру? Практический гайд
Вариант 1: ChatGPT / Claude через веб-интерфейс
Вариант 2: API (Код) — полный контроль
Для OpenAI (ChatGPT API):
Для Anthropic (Claude API):
Claude не использует top_p и top_k, но есть:
Для Google Gemini API:
Во всех провайдерах одна логика:
Если код → низкая температура
Если идеи → высокая температура
Если контролировать длину ответа
Вариант 3: Через сам промпт (косвенно)
Вариант 4: Cursor IDE — встроенная температура
Вариант 5: No-code платформы
Сравнительная таблица: как менять температуру
Вывод и рекомендация
Блок 4: Top_p (Nucleus Sampling) — другой способ управлять вариативностью
Что такое Top_p?
Temperature vs Top_p
Когда использовать Top_p?
Блок 5: Top_k — выбирай из топ-K слов
Что такое Top_k?
Top_k vs Top_p vs Temperature
Блок 6: Max_tokens — контроль длины ответа
Что такое max_tokens?
Когда использовать?
Практическая рекомендация
Блок 7: Комбинирование параметров
Что если использовать несколько параметров?
Пример: как использовать для своего приложения
Блок 8: Параметры в разных API
OpenAI (ChatGPT API)
Anthropic (Claude API)
Google (Gemini API)
Ollama (локально, Llama/Mistral)
Блок 9: Практические советы
Совет 1: Начни с температуры 1.0
Совет 2: Тестируй на примерах
Совет 3: Логируй какие параметры используешь
Совет 4: Разные параметры для разных пользователей
Блок 10: Заблуждения о параметрах
❌ Заблуждение 1: "Temperature выше = лучше"
❌ Заблуждение 2: "Max_tokens не нужен"
❌ Заблуждение 3: "Temperature = 0.0 = ошибок нет"
❌ Заблуждение 4: "Top_p и Top_k делают одно и то же"
Блок 11: Карта параметров в процессе генерации
🌉 Переход: от параметров к управлению
✅ Финальный чеклист
← Предыдущий урок
Урок 4: Контекст и память — граница возможностей LLM
Следующий урок →
Урок 6: Что LLM делает хорошо и плохо — способности и ограничения
Продолжить обучение