ЛОКАЛЬНЫЕ И БЕСПЛАТНЫЕ LLM ДЛЯ КОДИНГА | ПОЛНЫЙ ГАЙД
В этом видео — как запустить локальную LLM на своём компьютере и подключить её к IDE как полноценного агента. А если локалка не нужна — где искать бесплатные облачные модели и как переключаться между агентами в одном проекте. На практике собираем связку Mellum от JetBrains → LM Studio Bionic → OpenCode → OpenIDE. Разбираемся, сколько памяти нужно модели, что означают GGUF, MLX и Thinking, смотрим скорость ответов и переносим агента в привычную среду разработки. После скачивания локальной модели для её работы не нужны интернет, подписка на LLM и покупка токенов. В демонстрации использую Mellum2.1 12B A2.5B Thinking, GGUF Q6_K. –––Таймкоды––– 00:00 – Что изменилось за полгода 00:34 – Hugging Face: выбираем локальную модель 01:28 – Память и квантизация 02:00 – GGUF, MLX и активные параметры 03:33 – Какую модель потянет ваш компьютер: canirun.ai 04:08 – Thinking, Distilled и Uncensored 05:05 – Запуск моделей и LM Studio Bionic 06:47 – Запускаем Mellum и смотрим скорость ответов 07:27 – Подключаем локальную модель к OpenCode 08:51 – Зачем подключать агента к IDE 09:44 – OpenCode и локальная модель в OpenIDE 10:47 – Бесплатные облачные модели в OpenCode 12:03 – Codex 12:18 – Kimi Code 12:43 – Cursor, Qwen Code и GitHub Copilot 13:09 – SourceCraft от Яндекса 13:37 – Астра ИИ [Код] 13:50 – KodaCode 14:05 – Переключаем агентов в одном чате 14:42 – Итоги и платные альтернативы –––Модели и инструменты––– Hugging Face: https://huggingface.co/ Подбор модели под железо: https://www.canirun.ai/ Mellum2.1: https://huggingface.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking Mellum2.1 в GGUF, файлы для скачивания: https://huggingface.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking-GGUF/tree/main Qwen3.8 в GGUF от Unsloth: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF LM Studio Bionic: https://lmstudio.ai/ OpenCode: https://opencode.ai/ Актуальные облачные модели и цены OpenCode: https://opencode.ai/v2/docs/console/models/ Скачать OpenIDE Pro: https://openide.ru/download/ –––Обещанные материалы––– Квантизация с нуля: как запустить 160 ГБ LLM на ноутбуке и не потерять в качестве: https://habr.com/ru/articles/1015510/ Почему LLM отказываются отвечать и как получают модели Uncensored: https://habr.com/ru/articles/1080284/ Предыдущий ролик про бесплатные и локальные LLM: https://www.youtube.com/watch?v=84KNlX0miBQ Дополнительно — большой гайд по HTTP-клиенту и тестированию API: https://www.youtube.com/watch?v=TXUyoVP9CpA –––Сервисы из облачного блока––– Codex — доступ и тарифы: https://developers.openai.com/codex/pricing/ Kimi Code — условия доступа: https://www.kimi.com/code/docs/en/kimi-code/membership.html Cursor: https://cursor.com/pricing Qwen Code — авторизация: https://qwenlm.github.io/qwen-code-docs/en/users/configuration/auth/ GitHub Copilot: https://github.com/features/copilot/plans SourceCraft: https://sourcecraft.dev/portal/docs/ru/sourcecraft/pricing KodaCode: https://kodacode.ru/tariffs Астра ИИ [Код]: https://astra.ru/software-services/application-software-astra-group/ai/code/ –––OpenIDE в социальных сетях––– Telegram: https://t.me/openide_official Telegram-чат: https://t.me/openide_chat YouTube: https://www.youtube.com/@openide VK: https://vk.com/openide RUTUBE: https://home.strannik-j.org/channel/67848662/videos/ Напишите в комментариях, какую локальную модель используете и нужен ли отдельный обзор платных вариантов.
Название:
ЛОКАЛЬНЫЕ И БЕСПЛАТНЫЕ LLM ДЛЯ КОДИНГА | ПОЛНЫЙ ГАЙД
Категория:
Обучение