NVIDIA DGX Spark: запускаем DeepSeek и Qwen локально! Стоит ли покупать за 650 000 рублей?
Мое закрытое сообщество https://amorev.ru/promo Мой ИИ-провайдер https://ai.wormsoft.ru. Мой Telegram-канал https://t.me/gmoreva Сегодня тестируем NVIDIA DGX Spark — компактный и тихий компьютер с 128 ГБ оперативной памяти, предназначенный для запуска больших языковых моделей локально. Доступ к серверу мне предоставил подписчик, за что ему отдельное спасибо! Я решил проверить, насколько эта машина подходит для реальной работы с AI-агентами и разработки программного обеспечения. В рамках эксперимента запускаем две модели: DeepSeek V4.1 Flash 1017 — в двухбитном квантовании. Проверяем, насколько хорошо модель справляется с разработкой и работой с большим контекстом. Qwen3.8 Flash Next — также в двухбитном квантовании. Сравниваем скорость генерации и практическую производительность. Таймкоды: 00:00 Введение 00:41 Скорость Deepseek 4.1 Flash 01:46 Первая задача для дипсика 04:42 Проверяем задачу 06:30 Мысли вслух. Скорость, цена, альтернативы 09:49 Запустили Qwen 3.8 Flash Next 11:32 Готовим задачу системы отчетов 14:43 Запускаем задачу в реализацию 18:11 Выводы о DGX Spark
Название:
NVIDIA DGX Spark: запускаем DeepSeek и Qwen локально! Стоит ли покупать за 650 000 рублей?
Категория:
Технологии и интернет