NVIDIA DGX Spark: запускаем DeepSeek и Qwen локально! Стоит ли покупать за 650 000 рублей?

308 подписчиков

12+
12+

19 просмотров

3 часа назад

ПожаловатьсяНарушение авторских прав

308 подписчиков

12+
12+

19 просмотров

3 часа назад

ПожаловатьсяНарушение авторских прав
12+
12+

19 просмотров

3 часа назад

Мое закрытое сообщество https://amorev.ru/promo Мой ИИ-провайдер https://ai.wormsoft.ru. Мой Telegram-канал https://t.me/gmoreva Сегодня тестируем NVIDIA DGX Spark — компактный и тихий компьютер с 128 ГБ оперативной памяти, предназначенный для запуска больших языковых моделей локально. Доступ к серверу мне предоставил подписчик, за что ему отдельное спасибо! Я решил проверить, насколько эта машина подходит для реальной работы с AI-агентами и разработки программного обеспечения. В рамках эксперимента запускаем две модели: DeepSeek V4.1 Flash 1017 — в двухбитном квантовании. Проверяем, насколько хорошо модель справляется с разработкой и работой с большим контекстом. Qwen3.8 Flash Next — также в двухбитном квантовании. Сравниваем скорость генерации и практическую производительность. Таймкоды: 00:00 Введение 00:41 Скорость Deepseek 4.1 Flash 01:46 Первая задача для дипсика 04:42 Проверяем задачу 06:30 Мысли вслух. Скорость, цена, альтернативы 09:49 Запустили Qwen 3.8 Flash Next 11:32 Готовим задачу системы отчетов 14:43 Запускаем задачу в реализацию 18:11 Выводы о DGX Spark

Название:

NVIDIA DGX Spark: запускаем DeepSeek и Qwen локально! Стоит ли покупать за 650 000 рублей?