II.6Документация и сопровождение разработки

SimplySara/LocoOperator-4B-i1-GGUF — это GGUF-квантизация модели LocoOperator-4B, разработанной LocoreMind; квантизацию выполнил пользователь SimplySara. Модель предназначена для генерации текста, работы с кодом, агентских сценариев и вызова инструментов. В метаданных также указана связь с Qwen3 и дистилляцией, однако подробности архитектуры исходной модели не приведены. Доступна англоязычная версия, ориентированная на запуск через llama.cpp и совместимые инструменты. Размер базовой модели — 4B параметров; для представленного варианта в README указаны файлы разных уровней квантизации, включая i1-Q8_0, i1-Q6_K, i1-Q5_K_M и более компактные варианты. Для i1-Q8_0 размер составляет около 3,986 ГБ, а совпадение наиболее вероятных токенов с исходной моделью — 97,518%; при дальнейшем уменьшении разрядности размер сокращается, но качество в среднем снижается. Сильные стороны модели — сравнительно небольшой размер, поддержка GGUF и пригодность для локального запуска, а также специализация на коде, tool calling и агентских задачах. Ограничения включают англоязычную направленность, отсутствие данных о длине контекста, точной архитектуре, мультимодальности и результатах прикладных бенчмарков; качество зависит от выбранного уровня квантизации, особенно у наиболее компактных вариантов. Лицензия — MIT.

LongT5 local-large — англоязычная предобученная модель Google на архитектуре encoder-decoder Transformer, развивающая семейство T5. Она обучена генерировать текст по тексту в задаче денойзинга и использует локальное разреженное внимание для эффективной работы с длинными входными последовательностями. Модель содержит 385,2 млн параметров, поддерживает контекст до 4096 токенов по метаданным и доступна в форматах PyTorch и Flax. Модель предназначена прежде всего для дообучения на размеченных данных. После настройки её можно применять для генерации текста по длинным документам, включая суммаризацию и ответы на вопросы. Веса распространяются по лицензии Apache 2.0. README указывает, что LongT5 особенно эффективна для задач, требующих обработки длинного текста, и приводит длину до 16 384 токенов; это отличается от значения native_context_tokens в метаданных.

LoRDCoder v0 12.3B — языковая модель с плотной авторегрессионной архитектурой LoRDCoder объёмом 12,3 млрд параметров. Репозиторий опубликован пользователем nolanoAI. Модель предназначена для генерации текста; README содержит пример использования, но без подробностей о конкретных сценариях. Модель принимает текст и генерирует текст, поддерживает контекст длиной до 8192 токенов и распространяется в формате PyTorch. Лицензия — BigCode OpenRAIL-M. Данных о специализированной предметной области или явно поддерживаемых языках нет.

LYRA-CODER — компактная разговорная модель генерации текста, разработанная и поддерживаемая Мухаммадом Таки. В метаданных указаны архитектура Qwen2 с причинной языковой моделью, 1,5 млрд параметров и контекст до 32 768 токенов; README также называет LYRAMOON архитектурной основой и заявляет о быстрой генерации ответов. Модель предназначена для чата и задач генерации кода, что отражено в названии и тегах. Модель работает с текстом и может использоваться для диалоговых ответов, генерации кода и вызова инструментов через соответствующий интерфейс. В карточке указан английский язык. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0. README не приводит результатов оценки качества или подробностей обучения, поэтому заявленную скорость и пригодность для рассуждений нельзя проверить по предоставленным данным.

M2M100 418M — мультиязычная модель последовательность-в-последовательность с архитектурой encoder-decoder, разработанная Meta и представленная в исследовательской работе. Она предназначена для прямого машинного перевода между 100 языками по 9 900 направлениям; при генерации целевой язык задаётся специальным токеном в начале последовательности. Модель содержит 332,5 млн параметров, принимает текст и генерирует текст, обучена для перевода без необходимости переводить через английский язык. Поддерживает 100 языков, включая русский и английский; длина контекста — 1024 токена. Подходит для перевода текстов между поддерживаемыми языками и интеграции в приложения машинного перевода. Опубликована в формате PyTorch и распространяется по лицензии MIT. Качество может различаться между языковыми парами; модель предназначена для перевода, поэтому её не следует рассматривать как универсального чат-ассистента.

MaziyarPanahi/M7T3qm7xp_Percival_01Experiment26 — объединённая модель для генерации текста, созданная на основе automerger/M7T3qm7xp-7B и automerger/Percival_01Experiment26-7B. Это плотная причинно-языковая модель семейства Mistral с 7,1 млрд параметров, представленная в формате Safetensors и рассчитанная на контекст до 32 768 токенов. Модель подходит для генерации и продолжения текста в сценариях, где требуется учитывать длинный контекст. В карточке указана лицензия Apache 2.0. README не уточняет специализацию или результаты оценки качества, поэтому пригодность для конкретных предметных областей по имеющимся сведениям определить нельзя.

Macaron-V1-Coding-Venti-MLX-Q4i — квантизированная версия модели Macaron-V1-Coding-Venti для генерации текста и помощи в программировании. Согласно метаданным, модель связана дообучением с zai-org/GLM-5.2 и использует архитектуру GLM MoE DSA. Репозиторий рассчитан на библиотеку MLX; README сообщает о тестировании на M3 Ultra с 512 ГиБ памяти и скорости около 14,7 токена в секунду при генерации на 1000 токенов. Модель предназначена для диалогового использования и задач генерации кода. Объём параметров указан как 30,4 млрд, контекст — до 1 048 576 токенов. Метаданные указывают английский язык. Лицензия в предоставленных сведениях не указана. Ответы модели могут быть неточными или неуместными; результаты следует проверять перед использованием в важных решениях.

cstr/madlad400-3b-ct2-int8 — это оптимизированная int8-версия мультиязычной модели машинного перевода MADLAD-400-3B-MT, разработанной Google Research на основе архитектуры T5 и преобразованной в формат CTranslate2 Juarez Bochi. Исходная модель обучалась на 1 триллионе токенов общедоступных данных и охватывает более 400 языков. Модель предназначена прежде всего для перевода текста между поддерживаемыми языками и других мультиязычных NLP-сценариев. Модель имеет около 3 миллиардов параметров в исходной версии; данная публикация использует int8-квантизацию для более компактного и эффективного запуска через CTranslate2. Направление перевода задаётся специальным префиксом языка, например <2en> или <2de>. Среди явно указанных языков — английский, русский, немецкий, французский, испанский, китайский, японский, арабский и многие другие. Модель распространяется по лицензии Apache 2.0. Сильными сторонами являются широкий охват языков, специализированная ориентация на машинный перевод и сниженные требования к памяти благодаря int8-представлению. Качество может различаться между языками и предметными областями, а модель не предназначена для гарантированно точного перевода важных или чувствительных материалов без проверки человеком.

magnum-12b-v2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели magnum-12b-v2, разработанной anthracite-org и квантованной bartowski с использованием llama.cpp и imatrix-калибровки. Модель предназначена для чат-взаимодействия и генерации текста; запуск возможен, в частности, через LM Studio. Для общения рекомендуется формат промпта ChatML с ролями system, user и assistant. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Известен размер базовой модели — 12B параметров; архитектура и размер контекстного окна в README не указаны. Доступны варианты от F32 размером 49 ГБ до низкобитных IQ2/Q2-квантизаций размером около 4,4–5,5 ГБ. Варианты Q5–Q6 отмечены как высококачественные и рекомендуемые, а Q4 — как компромисс между качеством и требованиями к памяти; более сильное сжатие снижает качество. Основные преимущества — широкий набор языков, выбор уровней квантизации и возможность локального запуска в формате GGUF. Ограничения включают неизбежную потерю качества у низкобитных вариантов и отсутствие в предоставленных данных сведений о результатах тестирования, мультимодальности и точном контекстном окне. Распространение указано по лицензии Apache-2.0.

Magnum-v2-4b — диалоговая языковая модель Anthracite, восьмая в серии моделей, нацеленных на воспроизведение качества прозы Claude 3 Sonnet и Opus. Модель дообучена на базе IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml; метаданные связывают её также с nvidia/Llama-3.1-Minitron-4B-Width-Base. Это плотная причинная архитектура Llama с 3,9 млрд параметров. Модель предназначена для диалоговой генерации текста и настроена на формат ChatML. В README заявлена длина контекста 131 072 токена; метаданные указывают английский язык. Веса доступны в формате safetensors, лицензия — Apache-2.0. README сообщает о полном дообучении в течение двух эпох. Модель ориентирована на связную прозу и ответы в диалоге. Карточка не приводит количественных оценок качества или подробных ограничений, поэтому пригодность для конкретных сценариев следует оценивать на собственных примерах.

magnum-v4-9b-GGUF — набор GGUF-квантизаций языковой модели magnum-v4-9b, разработанной anthracite-org и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и чат-сценариев, а запускать её можно, в частности, через LM Studio. Указан английский язык и формат prompt с ролями system, user и assistant. В набор входят варианты от F16 до низкобитных Q2 и IQ2/IQ3-квантизаций с размерами файлов примерно от 3,43 до 18,49 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, но требуют больше памяти; для некоторых вариантов заявлены оптимизации под ARM, включая требования к поддержке sve или i8mm. Сильная сторона набора — широкий выбор компромиссов между качеством и потреблением памяти, при этом Q5–Q6 и некоторые Q4-варианты отмечены как рекомендуемые. Ограничения включают снижение качества у низкобитных вариантов и отсутствие данных о размере контекста, архитектуре исходной модели, мультимодальности и дополнительных языках. Лицензия указана как gemma.

MahaKumbh-Llama3.3-70B — языковая модель AIGurukul Foundation для генерации текста и диалогового взаимодействия. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; в карточке указано, что она дообучена на Llama 3.3. Модель поддерживает контекст до 131 072 токенов и опубликована в формате safetensors для Transformers. Модель подходит для генерации ответов и ведения диалога; в метаданных также отмечен интерфейс вызова инструментов. README не описывает конкретные сценарии применения, данные обучения или результаты оценки, поэтому специализированные возможности и качество для отдельных задач установить нельзя. Указана лицензия Apache 2.0. Python в README ошибочно или неоднозначно приведён в поле языков NLP и не считается поддерживаемым естественным языком.

MAMBA (2.8B) Instruct — языковая модель с архитектурой Mamba, дообученная clibrain на наборе OpenHermes для генерации текста в формате инструкций и диалога. Архитектура Mamba относится к моделям пространства состояний и использует аппаратно-ориентированную реализацию; заявленный размер в названии — 2,8 млрд параметров, тогда как метаданные указывают 6 млрд параметров. Модель предназначена для диалоговых ответов и выполнения общих инструкций, включая задачи письма, ролевого взаимодействия и программирования. OpenHermes содержит около 242 тысяч примеров, преимущественно созданных GPT-4 и собранных из открытых наборов данных. В метаданных указан английский язык и возможность использования в чате. Карточка модели обозначена как незавершённая, а результаты оценивания обещаны на будущее, поэтому опубликованных оценок качества нет. Для запуска README приводит зависимости PyTorch, Transformers и Mamba. Лицензия указана как WTFPL.

mamba-gpt-7b-v2-Mistral-7B-Instruct-v0.1 — объединённая языковая модель на 7,1 млрд параметров, созданная MaziyarPanahi методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и CobraMamba/mamba-gpt-7b-v2. Архитектура — плотная MistralForCausalLM; модель предназначена для генерации текста и диалоговых ответов на инструкции. Контекст составляет до 32 768 токенов, карточка указывает английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Она сочетает возможности двух исходных моделей, однако карточка не приводит сравнительных оценок качества или отдельных ограничений.

Marcoroni 7b GGUF — языковая модель для генерации текста, разработанная AIDC-ai-business и преобразованная в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama, имеет около 7 миллиардов параметров и предназначена для выполнения инструкций и формирования ответов на текстовые запросы. В карточке указаны английский язык и датасет Open-OrCA; исходная модель обозначена как Marcoroni-7b. Модель подходит для локального запуска и сценариев text generation, включая работу через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и совместимые библиотеки. GGUF поддерживает метаданные и специальные токены, а доступные варианты с разной разрядностью позволяют выбирать баланс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Для запросов рекомендуется шаблон Alpaca с секциями Instruction и Response. В README не указаны размер контекстного окна, результаты тестов, подробные сведения об обучении, мультимодальных возможностях или подтвержденные сильные стороны и ограничения качества, поэтому их нельзя оценить по имеющимся данным. Для модели заявлена лицензия CC BY-NC 4.0; поскольку она основана на Llama 2, также применяются условия лицензии Meta Llama 2. Вопросы о взаимодействии этих лицензий рекомендуется уточнять в репозитории исходной модели.

MasherAI-7B-v1 — диалоговая языковая модель, разработанная mahiatlinux и дообученная на openchat/openchat-3.5-0106. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; для обучения использовались Unsloth и TRL. Модель предназначена для генерации текста в формате диалога: её можно применять для общения, ответов на вопросы и помощи с программированием и математическими рассуждениями — эти возможности описаны для базовой модели OpenChat. Поддерживаемый язык карточки — английский, длина контекста составляет 8192 токена. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Карточка не приводит отдельной оценки качества или подробных ограничений MasherAI-7B-v1.

QuantFactory/Matter-0.1-7B-DPO-preview-GGUF — это GGUF-версия языковой модели Matter 7B 0.1, дообученной методом DPO на основе Mistral 7B. Исходная модель разработана 0-hero, а данная версия подготовлена QuantFactory для запуска с помощью движка llama.cpp. Обучение проводилось на наборе Matter, сформированном из более чем 35 датасетов и содержащем свыше 6 миллиардов токенов. Модель предназначена для генерации текста и ведения диалогов на английском языке, включая сценарии conversational AI. Она поддерживает формат промптов ChatML и function calling с использованием специальных токенов для начала и завершения вызова функции и её ответа. Размер модели — 7 миллиардов параметров; архитектура основана на Mistral 7B. Модель может быть удобна для локального инференса благодаря формату GGUF и совместимости с llama.cpp, однако конкретный вариант квантования, размер контекста и требования к ресурсам в README не указаны. Лицензия — Apache 2.0.

mauxi-v0-3B — диалоговая языковая модель, опубликованная пользователем xmanii на Hugging Face. Это дообученная с помощью TRL модель семейства Qwen2 с плотной архитектурой и 3,1 млрд параметров; для генерации текста используется Transformers, веса хранятся в формате safetensors. Модель поддерживает контекст до 32 768 токенов и предназначена для диалоговой генерации текста. Модель принимает сообщения в формате беседы и генерирует текстовый ответ; в метаданных также отмечен интерфейс вызова инструментов. Карточка демонстрирует пример ответа на открытый вопрос, но не приводит сведения о конкретных обучающих данных, языковом охвате и сравнительных результатах. Лицензия в предоставленных данных не указана.

Mayoroya — объединённая диалоговая языковая модель, созданная Eric111 с помощью mergekit на основе Eric111/Mayo и Eric111/Roya. Она предназначена для генерации текста в формате диалога и ответов на инструкции. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README указан метод слияния SLERP с настройками, различающимися для слоёв self-attention и MLP. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает отдельные специализированные области применения или подтверждённые языки.

SJTU-DENG-Lab/MBD-Code-SDAR-8B-Chat-b4 — разговорная языковая модель из семейства SDAR, опубликованная SJTU-DENG-Lab как часть проекта Multi-Block Diffusion Language Models. Модель имеет плотную архитектуру SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов; веса доступны в формате safetensors для Transformers. Модель предназначена для генерации текста в диалоговом режиме. Подход MBD-LM использует многоблочную диффузионную генерацию: последовательные блоки текста декодируются параллельно, а обучение Multi-block Teacher Forcing нацелено на согласование обучения с состояниями практического вывода MultiBD. В README не приведены конкретные языковые или предметные специализации, поэтому модель следует считать универсальной разговорной генеративной моделью. Лицензия — MIT. README не сообщает результатов оценки качества или ограничений применения; качество ответов и пригодность для конкретной задачи следует проверять отдельно.

MaziyarPanahi/MeliodasPercival_01_Multi_verse_modelExperiment28 — объединённая автором карточки модель на архитектуре Mistral. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/Multi_verse_modelExperiment28-7B и предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает конкретную специализацию или подтверждённые языки; качество и ограничения унаследованы от объединённых моделей.

ClaudioItaly/Memory-9 — диалоговая языковая модель на архитектуре Gemma 2, созданная слиянием методом SLERP моделей ArliAI/Gemma-2-9B-ArliAI-RPMax-v1.1 и UCLA-AGI/Gemma-2-9B-It-SPPO-Iter3. Веса представлены в формате safetensors; размер модели — 9 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в диалогах и ответов на запросы. Слияние сочетает характеристики исходных моделей; README описывает вариацию параметра слияния по слоям, но не приводит результатов оценки качества или подробных ограничений. Модель работает через библиотеку Transformers. Лицензия в предоставленных данных не указана.

merged-dpo-binarized-NeutrixOmnibe-7B — языковая модель, созданная eren23 слиянием моделей eren23/dpo-binarized-NeutrixOmnibe-7B и Kukedlc/NeuTrixOmniBe-7B-model-remix методом SLERP с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров для генерации текста и диалоговых ответов. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации ответов, продолжения текста и диалоговых сценариев. В README приведены результаты оценивания на Open LLM Leaderboard, включая средний балл 76,20, однако этого недостаточно, чтобы судить о качестве на конкретных прикладных задачах. Языки, на которых модель специально обучена или оценена, в доступных сведениях не установлены. Лицензия — Apache-2.0.

jeiku/mergefodder2 — языковая модель, созданная разработчиком jeiku слиянием моделей jeiku/nuggiespoe и jeiku/zenithquantum методом SLERP с помощью mergekit. Модель построена на архитектуре Llama и предназначена для генерации текста в диалоговом формате. Модель содержит 3,9 млрд параметров и поддерживает контекст длиной до 131 072 токенов. Веса опубликованы в формате safetensors; в конфигурации слияния указан тип bfloat16. Сведений о языках модели в карточке нет, поэтому языковые сценарии определить нельзя. Условия лицензии в предоставленных данных не приведены.

Это GGUF-квантизированная версия модели Mistral-Small-2501-SCE-Mashup-2-24B, разработанной mergekit-community. Квантизацию выполнил bartowski с использованием llama.cpp версии b5147 и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 24B параметров и представлена в нескольких вариантах точности, включая BF16, Q8_0, Q6, Q5, Q4 и IQ4, с размером файлов примерно от 12,76 до 47,15 ГБ. Для взаимодействия используется шаблон промпта с системным сообщением и инструкцией. В README не указаны модальности, поддерживаемые языки и размер контекстного окна. Сильной стороной являются варианты Q6 и Q5 с высоким заявленным качеством, а также Q4-варианты, предлагающие компромисс между качеством и требованиями к памяти. Более компактные сборки подходят для систем с ограниченным объёмом RAM, но могут иметь более низкое качество. Лицензия в README не указана.

Это объединённая модель генерации текста, созданная с помощью mergekit методом passthrough из NousResearch/Meta-Llama-3-8B и Fizzarolli/llama-3-lust-8b-step-748. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста; репозиторий содержит веса в формате safetensors, а общий размер модели указан как 11 млрд параметров. Нативная длина контекста составляет 8192 токена. Модель может применяться для диалогов и создания продолжений текста. В карточке базовой Meta Llama указаны английский язык и код, но точный языковой охват объединённой модели не описан. Лицензия в предоставленных данных не указана.

Модель Hjgugugjhuhjggg/mergekit-passthrough-ugbxutu — объединённая модель для генерации текста, созданная методом passthrough с помощью mergekit на основе Hjgugugjhuhjggg/mergekit-ties-dkhnzcn. Она предназначена для диалоговой генерации и работы через интерфейс общения с моделью. Это плотная Llama-архитектура с 5,2 млрд параметров и контекстом до 131 072 токенов; репозиторий использует библиотеку Transformers и формат safetensors. Модель принимает текст и генерирует текст. Метаданные указывают на возможность общения и наличие интерфейса вызова инструментов. Язык модели и её специализированная предметная область не определены в доступных сведениях. Лицензия в предоставленных данных не указана.

Карточка модели mergekit-community/mergekit-slerp-kxzcrwh на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gpprpds, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gpprpds — языковая модель для генерации текста, созданная сообществом слиянием Equall/Saul-Base и HuggingFaceH4/zephyr-7b-beta методом SLERP через mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и выполнения инструкций на английском языке. Слияние сочетает компоненты двух предварительно обученных моделей; репозиторий содержит веса Safetensors. Поддержка русского языка или специализированных прикладных областей в карточке не заявлена. Лицензия в предоставленных данных не указана.

Meta-Llama-3-120B-Instruct-GGUF — GGUF-квантизированная версия community-модели Meta-Llama-3-120B-Instruct, созданной Maxime Labonne (mlabonne) с использованием self-merge через MergeKit на базе Meta-Llama-3-70B-Instruct. Квантизацию выполнил bartowski с использованием llama.cpp. Модель предназначена для генерации текста общего назначения и диалогового взаимодействия, включая работу в LM Studio. Модель относится к семейству Llama 3, имеет заявленный размер 120B параметров и поддерживает текстовую модальность. Точные сведения о контексте, языках и конфигурации архитектуры в README не указаны. Для корректного взаимодействия рекомендуется использовать шаблон запросов Llama 3 и системный промпт помощника. Self-merge направлен на расширение возможностей без дополнительных затрат на обучение, однако README не содержит независимых результатов оценки качества. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия обозначена как other; конкретные условия использования в README не раскрыты, их следует уточнять на странице исходной модели.

Meta-Llama-3.1-8B-Claude-GGUF — набор GGUF-квантизаций модели Meta-Llama-3.1-8B-Claude, базовой моделью которой указана Undi95. Квантизации подготовлены bartowski с использованием llama.cpp версии b3472 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio; для работы используется формат промпта Llama 3 с ролями system, user и assistant. Доступны варианты от полных весов F32 размером 32,13 ГБ до низкобитных IQ2_M размером 2,95 ГБ. Рекомендуемые варианты включают Q4_K_M, Q5_K_M, Q6_K и другие; более высокие уровни квантизации обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти, но могут заметно снижать качество генерации. В README не указаны архитектурные детали исходной модели, поддерживаемые языки, размер контекста, модальности или лицензия, поэтому эти характеристики нельзя достоверно определить.