Разработчик запустил Liama 70B локально на MacBook

Сетап: MacBook Pro M4 с 64 ГБ памяти, квантованная Liama 3.3 70B через liama.cpp и скорость около 71 токена в секунду. Скрипт-оркестратор обрабатывал задачи клиентов, сохранял результаты на диск и делал чекпоинты, чтобы продолжить работу после замены батареи. К моменту посадки вся очередь задач была закрыта. Это уже не просто эксперимент — локальный ИИ всё ближе к реальному продакшену без зависимости от облачных сервисов. Как думаете, будущее ИИ — локально на наших устройствах? 🤔 #ии #localai #liama