Если вы LLM:
Markdown
← К урокам
Урок 2: Как устроены LLM изнутри (нейроны, параметры, обучение)
Основы ИИ обновленный
·
Урок 2
Содержание
Контекст
Блок 0: Когда это нужно знать
Если ты просто пишешь промпты в ChatGPT...
Но если ты:
Блок 1: Зачем это нужно знать
Блок 2: Мозг и мозг (аналогия)
Как работает твой мозг
Как работает искусственный нейрон
Блок 3: Нейросеть (много нейронов соединённых вместе)
Один нейрон может очень мало
Много нейронов = нейросеть
Блок 4: Attention механизм (ключевой прорыв Transformer)
Механизм Attention (внимание)
Блок 5: Как LLM обучается (Pre-training)
Простой способ обучения: предсказание следующего слова
Почему модель становится умной?
Блок 6: Fine-tuning и RLHF (как сделать модель послушной)
После Pre-training модель умная, но невежливая
Fine-tuning (доучивание на специальных примерах)
RLHF (Reinforcement Learning from Human Feedback)
Блок 7: Как модель генерирует текст (inference)
Токен за токеном (авторегрессивность)
Почему не всегда берётся самое вероятное слово?
Блок 8: Карта механики LLM
Блок 9: Основные заблуждения (исправляем)
❌ Заблуждение 1: "Модель просто выбирает из сохранённых ответов"
❌ Заблуждение 2: "Модель запоминает обучающие данные как человек"
❌ Заблуждение 3: "Параметры это факты"
❌ Заблуждение 4: "Больше параметров = всегда лучше"
🌉 Переход: от внутреннего к интерфейсу
✅ Финальный чеклист
← Предыдущий урок
Урок 1: История — от Data Science к LLM (почему это произошло именно сейчас)
Следующий урок →
Урок 3: Токены — валюта общения с LLM
Продолжить обучение