Что изменилось
GGUF хранит веса в компактном формате, который часто используют локальные рантаймы. Квантизация уменьшает размер весов и может снизить требования к оборудованию, но способна повлиять на качество и скорость. Факт успешной загрузки ещё не говорит о пригодности к рабочему процессу.
