Как запустить ИИ дома и не разориться? Бюджетные сборки до 100к рублей
Можно ли запустить мощные нейросети дома, не тратя сотни тысяч на RTX 4090? В этом видео я собираю бюджетные станции для локального ИИ до 100 000 рублей и проверяю, что реально работает, а что - пустая трата денег. Разбираемся: ✅ Стоит ли переплачивать за Threadripper и многоканальную память? ✅ Что может старая Tesla V100 за 23к и зачем нужна CMP 40HX? ✅ Как работают MoE-модели на CPU и где начинается деградация скорости? ✅ Сравнение сборок: AM4 против Threadripper — кто победил в цене/производительности? Показываю реальные замеры скорости (токены в секунду) для моделей gpt-oss-120b, Qwen и Gemma. Ищем «золотую середину» на Авито для тех, кто хочет свой собственный ИИ без цензуры и подписок. Моя статья к видео на хабре (все ссылки там): https://habr.com/ru/articles/1053118/ #ai #localllm #chatgpt #ии #gpt #llamacpp #threadripper #бюджетныйпк #buildpc #mining #homelab Музыка в видео: - Karl Casey - Race Against Sunset - Karl Casey - The Saga - Karl Casey - Hackers
Можно ли запустить мощные нейросети дома, не тратя сотни тысяч на RTX 4090? В этом видео я собираю бюджетные станции для локального ИИ до 100 000 рублей и проверяю, что реально работает, а что - пустая трата денег. Разбираемся: ✅ Стоит ли переплачивать за Threadripper и многоканальную память? ✅ Что может старая Tesla V100 за 23к и зачем нужна CMP 40HX? ✅ Как работают MoE-модели на CPU и где начинается деградация скорости? ✅ Сравнение сборок: AM4 против Threadripper — кто победил в цене/производительности? Показываю реальные замеры скорости (токены в секунду) для моделей gpt-oss-120b, Qwen и Gemma. Ищем «золотую середину» на Авито для тех, кто хочет свой собственный ИИ без цензуры и подписок. Моя статья к видео на хабре (все ссылки там): https://habr.com/ru/articles/1053118/ #ai #localllm #chatgpt #ии #gpt #llamacpp #threadripper #бюджетныйпк #buildpc #mining #homelab Музыка в видео: - Karl Casey - Race Against Sunset - Karl Casey - The Saga - Karl Casey - Hackers