II.6Документация и сопровождение разработки

bunsenfeng/parti_10_full — модель генерации текста, размещённая пользователем bunsenfeng на Hugging Face. По метаданным она предназначена для text-generation и совместима с библиотекой Transformers; в тегах указано семейство Qwen2 и поддержка conversational-сценариев. Разработчик исходной модели, языки обучения и лицензия в доступных материалах не указаны. Модель содержит около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Её можно применять для диалоговой генерации, продолжения текста, подготовки черновиков и ответов на запросы в приложениях на базе Transformers. Данные об оценке качества, обучающем наборе, тонкой настройке и специализированных областях применения отсутствуют. Условия использования и лицензия требуют дополнительной проверки на странице модели, поскольку в README лицензия не указана. Из-за отсутствия описания обучения и результатов тестирования модель следует предварительно проверять на целевых данных.

Карточка модели mt1234/PATHFINDER-32B на Hugging Face совпадает с карточкой mt1234/PATHFINDER-120STEPS, поэтому описание составлено по ней. PATHFINDER-120STEPS — дообученная модель mt1234 на базе unsloth/qwen2.5-coder-32b-instruct-bnb-4bit. Это плотная языковая модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В метаданных заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; её контекстное окно составляет 32 768 токенов. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0.

Pensez-v0.1-e5 — двуязычная англо-французская языковая модель для диалогов и задач рассуждения, разработанная на базе Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель Qwen2 с 7,1 млрд параметров, дообученная методом SFT на наборе Pensez v0.1 из 2 000 примеров: по 1 000 на французском и английском языках. Модель предназначена для повседневных вопросов, научных задач, математики и программирования; для простых запросов использует краткие рассуждения, а для сложных может разворачивать их подробнее. Поддерживает контекст до 32 768 токенов и поставляется в формате safetensors. В карточке приведены сравнительные результаты на франкоязычных тестах по математике, пониманию вопросов и знаниям; результаты различаются по бенчмаркам и не гарантируют качество для всех запросов. Модель доступна по лицензии Apache-2.0. Для запуска автор указывает библиотеку Transformers.

Percival_01Yamshadow-7B — автоматически объединённая модель, созданная Maxime Labonne на основе AurelPx/Percival_01-7b-slerp и automerger/YamShadow-7B. Она использует архитектуру Mistral с плотной языковой моделью на 7,1 млрд параметров и предназначена для генерации текста. Модель принимает текст и выдаёт текст; длина контекста составляет до 32 768 токенов. Объединение выполнено методом SLERP с настройками, задающими разные веса для слоёв внимания и MLP. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. README не приводит специальных сценариев применения или оценки качества; как объединённая модель, она может вести себя иначе, чем каждая из исходных моделей.

susnato/phi-2 — копия модели Phi-2, разработанной Microsoft, размещённая для загрузки и использования через библиотеку Hugging Face Transformers. Это плотная авторегрессионная языковая модель архитектуры PhiForCausalLM с 3,5 млрд параметров и контекстом до 2048 токенов. Модель предназначена для генерации текста по текстовому запросу и может применяться для продолжения текста и других сценариев генерации. Репозиторий содержит веса в формате safetensors; в README заявлена лицензия MIT в метаданных. Автор репозитория отмечает, что не владеет весами: они взяты из официального репозитория Microsoft.

Phi-2 Orange — двухэтапная дообученная версия Phi-2, опубликованная Rhys Jones. Это плотная авторегрессионная языковая модель для генерации текста и диалогов; карточка указывает формат ChatML, который можно использовать с системной инструкцией или без неё. Модель рассчитана на контекст до 2048 токенов и распространяется в формате safetensors. Модель подходит для ответов на вопросы, диалогового взаимодействия и других задач генерации текста. В README приведены оценки на нескольких наборах тестов и упоминается более новая версия phi-2-orange-v2 с более высокими результатами. Модель основана на Phi-2 и дообучена на наборах SlimOrca-Dedup, Synthia-v1.3, Verified-Camel, Pure-Dove, Capybara, MetaMathQA, orca_dpo_pairs и ultrafeedback-binarized-preferences-cleaned. Лицензия — MIT.

Phi-2-psy — объединённая языковая модель на базе семейства Phi, созданная слиянием rhysjones/phi-2-orange и cognitivecomputations/dolphin-2_6-phi-2 методом SLERP. Модель имеет плотную архитектуру PhiForCausalLM и содержит 3,5 млрд параметров; для генерации текста доступно контекстное окно длиной 2048 токенов. Модель предназначена для генерации текста и ответов на запросы. В README приведены результаты оценки на наборах Nous suite и Open LLM Leaderboard; эти результаты характеризуют тестирование, но не гарантируют качество для конкретной задачи. Модель опубликована в формате Safetensors и распространяется по лицензии MIT.

phi-3.1-qlora-blend-dpo-abliterated — компактная языковая модель для диалогов и генерации текста, созданная ndavidson с помощью mergekit. Это слияние Microsoft Phi-3-mini-4k-instruct и двух моделей ndavidson: phi-3.1-abliterated и phi-3.1-qlora-blend-dpo; применён метод TIES с нормализацией весов. Архитектура — плотная Phi-3 для авторегрессионной генерации, размер — 3,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для чат-ответов и свободной генерации текста. В названии и составе указана abliterated-версия; README не приводит оценок качества, конкретных языков или подробностей о поведении этой версии. Распространяется под лицензией Apache-2.0.

bunnycore/Phi-3.5-mini-dare_ties — объединённая языковая модель, созданная автором репозитория методом DARE TIES с помощью mergekit. В основу слияния вошли microsoft/Phi-3.5-mini-instruct, bunnycore/Phi-3.1-EvolKit-lora, bunnycore/Phi-3.5-Mini-ChatML и nbeerbower/phi3.5-gutenberg-4B. Это плотная авторегрессионная модель семейства Phi-3 с 3,7 млрд параметров, рассчитанная на генерацию текста и диалоги; она работает через Transformers, веса опубликованы в safetensors. Нативная длина контекста — 4096 токенов. Модель подходит для генерации продолжений, ответов в чате и других текстовых сценариев, поддерживаемых базовыми Phi-3 моделями. Карточка не приводит отдельные результаты оценки качества или точное описание языкового охвата этой версии. Лицензия в предоставленных данных не указана.

thesven/Phi-3.5-mini-instruct-awq — это сторонняя AWQ-квантизованная версия Microsoft Phi-3.5-mini-instruct, опубликованная пользователем thesven. Базовая модель разработана Microsoft и предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и задач NLP, включая многоязычные сценарии. Репозиторий содержит 4-битные веса в формате Safetensors с AWQ и требует custom code для архитектуры Phi-3. Модель имеет около 4 млрд параметров, архитектуру decoder-only causal language model Phi3ForCausalLM, 32 слоя, 32 attention heads и заявленный контекст до 128K токенов. Это текстовая, а не мультимодальная модель; в карточке базовой модели заявлена многоязычная поддержка, включая английский, немецкий, испанский, французский, японский, русский, тайский и китайский. Квантизация уменьшает размер репозитория примерно до 2,28 ГБ и предназначена для более компактного локального запуска, однако для самой AWQ-версии отдельные результаты качества и подробные ограничения не опубликованы. Лицензия и условия использования у репозитория thesven явно не указаны. Для базовой Microsoft Phi-3.5-mini-instruct указана лицензия MIT. Поэтому при использовании квантизованной версии следует отдельно проверить права на распространение самой производной сборки и учитывать ограничения базовой модели, включая возможные пробелы многоязычного качества и необходимость тестирования в конкретном приложении.

OpenVINO/Phi-3.5-mini-instruct-int4-ov — это квантизированная версия языковой модели Phi-3.5-mini-instruct, разработанной Microsoft. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT4 с помощью NNCF. Она предназначена для генерации текста, диалоговых сценариев и других задач, поддерживаемых исходной instruction-tuned моделью; конкретные языки, размер контекста и дополнительные модальности в карточке не указаны. Сжатие выполнено в режиме int4_asym с размером группы 128 и коэффициентом ratio 1. Модель совместима с OpenVINO версии 2024.5.0 и выше, а также с Optimum Intel версии 1.21.0 и выше, и может запускаться через OpenVINO GenAI на CPU и других поддерживаемых устройствах. Ограничения следует оценивать по исходной карточке Phi-3.5-mini-instruct; подробности о качестве после квантизации в README не приведены. Модель распространяется по лицензии MIT.

Карточка модели ausascsdas/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Карточка модели Justbackup/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Карточка модели Openintelligent123/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

duyntnet/Phi-4-mini-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-4-mini-instruct, разработанной Microsoft. Модель предназначена для генерации текста, диалогов, выполнения инструкций, рассуждений и сценариев с вызовом инструментов. Она ориентирована на локальный запуск через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, text-generation-webui, Jan и GPT4All. Модель является лёгкой и поддерживает контекст длиной до 128K токенов. Она обучалась на синтетических данных и отфильтрованных общедоступных веб-материалах с акцентом на плотные по рассуждениям данные; для улучшения следования инструкциям и безопасности применялись supervised fine-tuning и direct preference optimization. Указан английский язык, модальность — текстовая. Размер модели, конкретные параметры квантизации и архитектурные детали в README не приведены. Для запуска требуется llama.cpp версии b4792 или новее либо совместимое программное обеспечение. Квантизация может снизить требования к ресурсам, но потенциально уступать исходной модели в точности; конкретные компромиссы зависят от варианта GGUF и не описаны. Лицензия указана как other, без дополнительных условий в представленном README.

bunnycore создала Phi-4-Model-Stock-v2 — объединённую языковую модель для генерации текста и диалогов. Модель получена методом Model Stock с помощью mergekit: в качестве основы использована unsloth/phi-4, объединённой с несколькими вариантами Phi-4 и моделью рассуждений Pinkstack. Репозиторий содержит веса safetensors; архитектура в метаданных обозначена как LlamaForCausalLM, размер — 14,1 млрд параметров, контекст — до 16 384 токенов. Модель подходит для диалоговых сценариев и генерации ответов с рассуждениями. В README приведены результаты Open LLM Leaderboard, включая оценки IFEval и BBH. Метаданные не подтверждают отдельные мультимодальные возможности или поддержку конкретных языков. Условия лицензирования в предоставленных материалах не приведены.

bunnycore/Phi-4-RP-v0 — слитая модель диалогового языка, созданная автором репозитория с помощью mergekit линейным объединением bunnycore/Phi-4-RP и Undi95/Phi4-abliterated. Это плотная трансформерная модель семейства Phi-4 с архитектурой Phi3ForCausalLM и примерно 14,1 млрд параметров; она предназначена для генерации текста в диалоге и рассчитана на контекст до 16 384 токенов. Модель подходит для ведения диалога и генерации ответов на текстовые запросы. Лицензия — MIT. В карточке приведены результаты Open LLM Leaderboard, включая 68,27 на IFEval и 54,84 на BBH; эти значения сами по себе не гарантируют качества на прикладных задачах.

pic_7B_mistral_Full_v0.2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral AI и TokenBender. В README указан метод слияния SLERP, а метаданные относят архитектуру к плотным моделям Mistral с классом MistralForCausalLM. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Её можно применять для чат-ботов, составления текстов и ответов на вопросы в текстовом интерфейсе. В README перечислены исходные модели и настройки слияния; данные о поддерживаемых естественных языках и специализированных областях применения не приводятся. Лицензия — Apache-2.0.

Pioneer-2x7B — слитая модель для генерации текста, созданная с помощью mergekit методом SLERP из HuggingFaceH4/mistral-7b-grok и OpenPipe/mistral-ft-optimized-1218. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; она работает через библиотеку Transformers и имеет контекст длиной до 32 768 токенов. Модель предназначена для генерации продолжений текста и диалоговых ответов. Карточка не описывает отдельные специализированные области или языки, поэтому модель следует рассматривать как универсальную языковую. Файлы представлены в формате safetensors. Лицензия в доступных данных не указана.

Prima-LelantaclesV6-7b — объединённая модель семейства Mistral с 7,1 млрд параметров, опубликованная ChaoticNeutrals. Она создана методом DARE TIES на основе Test157t/Lelantacles6-Experiment26-7B и Test157t/West-Pasta-Lake-7b и предназначена для генерации текста на основе текстового запроса. Веса доступны в формате Safetensors; заявленная длина контекста составляет 32 768 токенов. Модель подходит для диалогов, написания и продолжения текста, а также задач на рассуждение в сценариях, где требуется генеративная языковая модель. В README приведены результаты Open LLM Leaderboard, включая средний балл 73,41, но подробные результаты представлены не полностью. Указана лицензия other, поэтому условия использования следует сверять с лицензиями исходных моделей и репозитория; конкретные ограничения качества и поддерживаемые языки в доступных данных не описаны.

Prima-LelantaclesV7-experimental-7b — объединённая языковая модель семейства Mistral, опубликованная ChaoticNeutrals. Она создана методом SLERP из моделей Nitral-AI/Prima-LelantaclesV6.69-7b и Nitral-AI/Prima-LelantaclesV6.31-7b. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и предназначена для генерации текста; её контекстное окно составляет 32 768 токенов. Модель может применяться для создания и продолжения текста, а также для задач рассуждения на основе текстового запроса. В README приведены результаты оценивания на отдельных тестах Open LLM Leaderboard. Доступны веса в формате safetensors. Репозиторий указывает лицензию «other», поэтому условия использования следует уточнять по карточке модели и её лицензии.

Prima-Pastacles-7b — объединённая языковая модель семейства Mistral, созданная авторами репозитория Nitral-Archive методом SLERP из Locutusque/Hercules-2.5-Mistral-7B и Test157t/Pasta-PrimaMaid-7b. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; опубликованные веса представлены в формате safetensors, тип точности в конфигурации слияния — bfloat16. Контекст составляет до 8192 токенов. Модель предназначена для генерации текста и может использоваться в сценариях общения и продолжения текста. README приводит результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Модель создана с помощью mergekit; лицензия указана как other, поэтому условия использования следует сверять с карточкой модели и лицензиями исходных моделей.

Proximus-2x7B-v1 — языковая модель семейства Mixtral, созданная preemware с помощью LazyMergekit как смесь экспертов из beowolx/MistralHermes-CodePro-7B-v1 и preemware/Prox-MistralHermes-7B. В конфигурации указана базовая модель mlabonne/NeuralHermes-2.5-Mistral-7B; эксперты ориентированы на программирование и кибербезопасность. Модель предназначена для генерации текста и диалоговых сценариев, включая помощь с кодом и вопросы по информационной и сетевой безопасности. Архитектура — Mixtral MoE с классом MixtralForCausalLM; в репозитории доступны веса safetensors. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты оценки качества и не описывает конкретные меры безопасности; ответы по кибербезопасности и сгенерированный код требуют проверки.

Python-Code-13B — полноразмерная дообученная модель для генерации кода, созданная ajibawa-2023 на базе Llama 2 от Meta. Она обучена на более чем 23 тысячах наборов кода с двумя диалогами в каждом; данные в формате Vicuna/ShareGPT содержат код и подробные объяснения. Модель предназначена для генерации Python-кода и пояснения к нему в формате диалога. Это плотная авторегрессионная архитектура Llama с 12,9 млрд параметров и контекстом 4096 токенов; основные данные и назначение ориентированы на английский язык. Для весов указана лицензия CC-BY-NC-ND-4.0, ограничивающая коммерческое использование и распространение производных версий.

djuna/Q2.5-Fuppavy-7B — объединённая автором модель на базе семейства Qwen2.5, созданная с помощью mergekit и метода Model Stock. В объединение вошли Qwen/Qwen2.5-7B и несколько моделей на его основе, включая варианты для математики, диалога, FastApply и другие. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, продолжения текста и задач, где полезны объединённые способности исходных моделей, в том числе математические рассуждения. В репозитории указаны веса Safetensors; выходной формат при создании — bfloat16. README и метаданные не сообщают результаты сравнительных оценок или конкретные гарантии качества. Языки и условия лицензирования в предоставленных данных не указаны.

Qemma-Q14B — экспериментальная гибридная языковая модель от Convergent Intelligence LLC: Research Division. Она объединяет веса Gemma 3 1B и Qwen3 14B; согласно карточке, в основе лежит тело Gemma с MLP и механизм внимания Qwen, а слои проецируются и выравниваются. Модель представлена в формате Safetensors и предназначена для генерации текста и диалогов. Модель обучалась методом SFT для следования инструкциям и пошаговых рассуждений. В карточке также заявлены сценарии помощи с кодом, анализа и дальнейшего дообучения. Для расширения контекста используется масштабирование RoPE на основе YaRN; метаданные указывают контекст до 524 288 токенов. Поддерживаемый язык, указанный в метаданных, — английский. Карточка предупреждает о возможных галлюцинациях и не рекомендует полагаться на модель в критически важных, медицинских, юридических и финансовых решениях. Лицензия — OSL-3.0; при использовании следует учитывать лицензии исходных моделей и датасетов.

ljsabc/Qwen-1.5-14B-Chat-Fujisaki — разговорная языковая модель на архитектуре Qwen2 с плотной causal language model архитектурой. Карточка описывает запуск через класс AutoModel, а метаданные указывают 13,4 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Репозиторий содержит веса в safetensors и распространяется по лицензии MIT. Карточка не описывает специальное назначение или подтверждённые улучшения относительно Qwen-1.5-14B-Chat.

Qwen2.5-14B-Gutenberg-1e-Delta — диалоговая языковая модель на архитектуре Qwen2, созданная дообучением Qwen2.5-14B-Instruct методом DPO на наборе jondurbin/gutenberg-dpo-v0.1 в течение 1,25 эпохи. Модель содержит 14 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и принимает текст для генерации текста и ответов в диалоге. Максимальная длина контекста составляет 32 768 токенов. Модель предназначена для интерактивных диалогов и генерации ответов по текстовым запросам. В README приведены результаты оценки на IFEval и BBH, однако они сами по себе не гарантируют качество на конкретных задачах. Доступна по лицензии Apache 2.0.

Qwen2.5-14B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Qwen2.5-14B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях с поддержкой llama.cpp и LM Studio. В README указана поддержка английского языка и текстовая модальность. Модель содержит 14 миллиардов параметров в исходной версии; доступно множество вариантов квантизации от F16 до Q2_K_L, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размеры файлов составляют примерно от 6,53 до 29,55 ГБ. Для диалогов используется шаблон с ролями system, user и assistant. Точная длина контекста в README не указана, сообщается лишь об обновлении настроек контекста и токенизатора. Сильная сторона модели — возможность локального запуска при сохранении нескольких вариантов качества, включая рекомендуемые Q4_K_M, Q5_K_M и Q6_K. Более агрессивная квантизация уменьшает требования к памяти, но может заметно снижать качество ответов; варианты Q2 и Q3 описаны как низкокачественные или предназначенные для ограниченного объёма памяти. Модель распространяется по лицензии Apache 2.0.