Ускоряем локальную LLM. Ollama vs llama.cpp

Чат про LLM тут, можете задавать свои вопросы - https://t.me/homelabru/1067 https://t.me/johenews - мой основной канал в телеграме https://t.me/ergosplits - мой канал с клавиатурами https://t.me/ergokeyboards - мой чат с клавиатурами https://t.me/aliexpressgeeks - мой канал с покупками johe.ru - тут можете купить токены в моей локальной LLM https://ergosplits.ru - А тут можете купить клавиатуру Моя рефералка для DigitalOcean (Вы получите $100, я получу $20) - https://m.do.co/c/41bb5762da9a