⚡ Призыв Варягов: Ускорение нейросети QN 3.5 через Megakernel
Как обогнать Apple M5 на домашней видеокарте? В этом видео делаем обзор нейросети QN 3.5 на 8 млрд параметров. Узнайте, как технология Lumus Megakernel обеспечивает ускорение работы нейросетей, объединяя 24 слоя для запуска локальных LLM на вашем ПК! «Добро пожаловать. На этом канале мы делимся самыми свежими инсайдами из мира нейросетей, железа и технологий. Подписывайтесь прямо сейчас, чтобы ничего не пропустить. А если вам нужен собственный AI агент — обращайтесь, помогу собрать под ваши нужды». 00:00 - Вступление: Искусственный интеллект и миф о ненасытных драконах Nvidia. 01:05 - Раздробленные племена: Как CPU тормозит генерацию токенов. 01:50 - Призыв Варягов: Технология Lumus Megakernel и монолит из 24 слоев. 02:40 - Нити Мокоши: Обзор нейросети QN 3.5 с гибридной архитектурой (8 млрд). 03:30 - Цифровой домовой: Запуск нейросетей на ПК (Ubuntu и RTX 6000 на 48 ГБ). 04:15 - Богатырская мощь: Ускорение работы нейросетей до 340 токенов в секунду. 05:00 - Крах гигантов: Сравнение энергоэффективности RTX 3090 и Apple M5 Max. 05:45 - Будущее Кибер-Руси: Суверенный ИИ и победа правильного открытого кода. Подписывайтесь на YAinvest AI, чтобы не пропускать регулярные порции знаний об искусственном интеллекте! Группа моего проекта https://t.me/it_bobrovka. Если вам нужен AI - агент мой личный контакт для связи https://t.me/Anybis888
Как обогнать Apple M5 на домашней видеокарте? В этом видео делаем обзор нейросети QN 3.5 на 8 млрд параметров. Узнайте, как технология Lumus Megakernel обеспечивает ускорение работы нейросетей, объединяя 24 слоя для запуска локальных LLM на вашем ПК! «Добро пожаловать. На этом канале мы делимся самыми свежими инсайдами из мира нейросетей, железа и технологий. Подписывайтесь прямо сейчас, чтобы ничего не пропустить. А если вам нужен собственный AI агент — обращайтесь, помогу собрать под ваши нужды». 00:00 - Вступление: Искусственный интеллект и миф о ненасытных драконах Nvidia. 01:05 - Раздробленные племена: Как CPU тормозит генерацию токенов. 01:50 - Призыв Варягов: Технология Lumus Megakernel и монолит из 24 слоев. 02:40 - Нити Мокоши: Обзор нейросети QN 3.5 с гибридной архитектурой (8 млрд). 03:30 - Цифровой домовой: Запуск нейросетей на ПК (Ubuntu и RTX 6000 на 48 ГБ). 04:15 - Богатырская мощь: Ускорение работы нейросетей до 340 токенов в секунду. 05:00 - Крах гигантов: Сравнение энергоэффективности RTX 3090 и Apple M5 Max. 05:45 - Будущее Кибер-Руси: Суверенный ИИ и победа правильного открытого кода. Подписывайтесь на YAinvest AI, чтобы не пропускать регулярные порции знаний об искусственном интеллекте! Группа моего проекта https://t.me/it_bobrovka. Если вам нужен AI - агент мой личный контакт для связи https://t.me/Anybis888