II.1Анализ требований и архитектура ПО

Maverick Llama 3 8B — диалоговая языковая модель на архитектуре Llama, созданная feeltheAGI на базе Meta Llama 3 8B и дообученная на наборе feeltheAGI/maverick-sharegpt. Модель содержит около 7,5 млрд параметров, принимает текст и предназначена для генерации ответов в формате чата с шаблоном ChatML; заявленная длина контекста — 8192 токена. Модель подходит для диалогового ассистента, ответов на вопросы, рассуждений и решения задач по математике. В карточке приведены результаты тестов EQ-Bench, WinoGrande, GSM8K и MathQA, но они не гарантируют качество в конкретных сценариях. Репозиторий предоставляет веса в формате Safetensors. Метаданные указывают лицензию Apache 2.0, тогда как README ссылается на Meta Llama 3 Community License Agreement; условия использования следует сверять с лицензией базовой модели.

MeowGPT ll3 — разговорная языковая модель, разработанная CutyCat2000x на базе Llama 3. Это плотная авторегрессионная модель класса LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов. Модель загружается через Transformers; веса опубликованы в формате safetensors и распространяются по лицензии MIT. Модель предназначена для генерации диалоговых ответов и других текстовых задач по запросу. В обучении использовались наборы данных SlimOrca-Dedup, airoboros-3.2, Orca Math Word Problems, Code-Feedback, WizardLM Evol Instruct V2 и ORPO DPO Mix. В карточке указана поддержка английского языка. Модель может ошибаться или выдавать неуместные ответы, поэтому результаты следует проверять перед применением в важных сценариях.

Модель Hjgugugjhuhjggg/mergekit-passthrough-owrmdht — объединение языковой модели meta-llama/Llama-3.2-1B-Instruct, созданное методом passthrough с помощью mergekit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия, включая сценарии с интерфейсом вызова инструментов. Модель принимает текст и генерирует текст. Указанная длина контекста — 131 072 токена. Базовая модель Meta описана как компактная многоязычная модель, настроенная на выполнение инструкций и предназначенная для диалогов, поиска сведений, суммаризации и помощи в написании текста. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

SanctumAI/Meta-Llama-3.1-8B-Instruct-GGUF — это квантизированная версия текстовой instruction-tuned модели Meta-Llama-3.1-8B-Instruct, разработанной Meta и опубликованной командой meta-llama. Квантизацию в формате GGUF выполнила SanctumAI. Модель предназначена для генерации текста и многоязычных диалоговых сценариев, включая использование в локальных приложениях и системах, совместимых с GGUF. Модель содержит 8 млрд параметров, работает по схеме «текст на входе — текст на выходе» и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Доступны варианты квантизации от Q2_K до Q8_0, а также версия f16; размер файлов составляет примерно от 3,18 до 16,07 ГБ, а оценочная потребность в RAM или VRAM — от 7,20 до 19,21 ГБ. Квантизация позволяет выбирать компромисс между требованиями к памяти и качеством работы, но более низкая точность может снижать качество по сравнению с исходной моделью. Контекст модели в README не указан. Модель распространяется по лицензии Llama 3.1; дополнительные условия следует уточнять в прилагаемом файле LICENSE. Она подходит для чат-ботов, локальных ассистентов и других задач генерации текста, однако README не содержит подробностей о результатах на конкретных бенчмарках, ограничениях безопасности или гарантиях точности.

Карточка модели yejingfu/Meta-Llama-3.2-1B на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-1B, поэтому описание составлено по ней. Meta Llama 3.2 1B — авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer. Это предварительно обученная многоязычная модель с примерно 1,23 млрд параметров; она принимает и генерирует текст, а также может работать с кодом. В карточке указаны контекст до 128 тысяч токенов, Grouped-Query Attention и обучение на смеси общедоступных данных. Модель предназначена для генерации текста и адаптации к различным задачам обработки естественного языка. Её можно использовать для черновиков и продолжения текста, перефразирования запросов, краткого изложения и диалоговых приложений после соответствующей настройки. Разработчик — Meta; модель доступна через библиотеку Transformers в формате safetensors. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Это предварительно обученная модель, а не версия, настроенная специально для диалога; качество и безопасность ответов следует проверять и при необходимости адаптировать для конкретного применения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

MisCalmity-v0.1-model_stock — языковая модель на архитектуре Mistral, созданная слиянием нескольких моделей с помощью LazyMergekit: Mistral-7B-v0.1, Calme-7B-Instruct-v0.9 и The-Trinity-Coder-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может применяться для диалоговых ответов и генерации кода благодаря включению инструкционной модели и модели для программирования в слияние. В карточке не приведены результаты оценки качества или сведения о лицензии, поэтому пригодность для конкретных сценариев и условия использования следует проверять по исходным моделям и репозиторию.

Joseph717171/Mistral-12.25B-Instruct-v0.2 — разговорная языковая модель на архитектуре Mistral, созданная методом Depth Up-Scaling на основе mistralai/Mistral-7B-Instruct-v0.2 и объединения предварительно обученных моделей с помощью mergekit. Разработчик описывает её как основу для дальнейшего дообучения и как замену Mistral-7B-Instruct-v0.2 с увеличенным числом параметров. Модель содержит 12,3 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Она подходит для диалогов и других задач генерации текста. В карточке приведён шаблон чата Mistral Instruct. Авторы отмечают, что оптимальность выбранных параметров Depth Up-Scaling ещё не установлена, а более широкое исследование гиперпараметров ограничили затраты на продолжение предобучения. README также предупреждает об отсутствии встроенных механизмов модерации. Лицензия — Apache-2.0.

Mistral-22B-v0.2 — экспериментальная плотная языковая модель на 22 млрд параметров, созданная Nicolas Mejia-Petit. По описанию автора, это преобразование MoE-модели в плотную: знания экспертов объединены в одну модель. Она дообучалась на многоходовых диалогах, в том числе на примерах программирования, математических задач, ответов в JSON и действий агента. Автор отмечает улучшения в связности ответов, следовании запросам и программировании по сравнению с предыдущей версией, однако приводит лишь результаты собственных предварительных проверок. Модель предназначена для генерации текста в диалоговом формате Guanaco. В README указана длина обучения 32 тыс. токенов, а метаданные каталога указывают контекст до 65 536 токенов. Для применения рекомендуется использовать шаблон Guanaco. Модель заявлена как намеренно слабо ограниченная по отказам, поэтому может выдавать нежелательный контент. Автор называет её экспериментальной и незавершённой. Лицензия — Apache-2.0.

Mistral-Nemo-NT-Ko-12B-sft — многоязычная диалоговая модель на архитектуре Mistral, дообученная автором werty1248 на базе mistralai/Mistral-Nemo-Base-2407. Модель содержит 12,1 млрд параметров и распространяется в формате safetensors по лицензии Apache-2.0. Она предназначена для диалогов и генерации инструктивных ответов на английском, корейском, китайском и японском языках. Дообучение ориентировано на языковое выравнивание, перенос знаний между языками и форматирование ChatML; модель обычно отвечает на языке запроса, если не задан другой язык. В карточке приведены результаты тестирования на LogicKor и MT-Bench. Контекст обучения составил 8 тыс. токенов, хотя для базовой модели указано окно до 128 тыс. токенов. Это промежуточная версия без оптимизации предпочтений. Длина ответов зависит от языка: английские ответы обычно длиннее, корейские — короче; поведение на японском и китайском автор продолжает наблюдать. Рекомендуемая температура генерации — 0,3–0,7.

MoEv4Config-TestWeightedTIES-7b — слитая языковая модель, созданная автором репозитория на основе Kukedlc/NeuTrixOmniBe-7B-model-remix, PetroGPT/WestSeverus-7B-DPO и vanillaOVO/supermario_v4 с помощью LazyMergekit. Это плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста; длина контекста составляет до 32 768 токенов. Модель можно применять для диалогов, написания и продолжения текста, а также решения задач на рассуждение и понимание текста. В README приведены результаты Open LLM Leaderboard, включая средние 75,39, 71,59 на AI2 Reasoning Challenge и 88,19 на HellaSwag; эти оценки характеризуют конкретные тесты и не гарантируют качество на других задачах. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

FreedomAISVR выпустила квантованную сборку Muse-Glimmer-30B в формате GGUF с квантизацией MXFP4. В основе — Muse-Glimmer-30B от Meta: плотный причинный трансформер примерно на 27,8 млрд параметров со встроенным визуальным энкодером ViT-G/14. Модель предназначена для генерации текста в диалоге и анализа изображений, включая скриншоты, графики и документы. README заявляет контекст 131K+ токенов; для запуска указаны llama.cpp build 1647+ с поддержкой CUDA и видеокарта NVIDIA с 16 ГБ видеопамяти или больше. Квантизация MXFP4 использует 4,46 бита на вес, а файл модели занимает около 14,8 ГБ. В README приведены результаты на RTX 5060 Ti 16GB: 246,3 токена/с при обработке запроса и 25,3 токена/с при генерации; это результаты конкретной конфигурации и оборудования. Для обработки изображений требуется llama-mtmd-cli или сервер llama.cpp с mmproj. Базовая модель имеет лицензию Apache 2.0; отдельные условия лицензии этой сборки в предоставленных данных не приведены.

OsaurusAI подготовила для Apple Silicon сборку JANG_6M модели Nanbeige4.2-3B — диалоговой языковой модели с архитектурой Looped Transformer. В README указаны 22 слоя, выполняемые дважды с общими весами, что даёт эффективную глубину 44 слоя; размер весов — 4,17 млрд параметров. Контекст составляет 256K токенов. Модель дообучена на базе Nanbeige/Nanbeige4.2-3B и представлена в формате MLX safetensors с 6-битными аффинными весами и 8-битным attention; метаданные указывают библиотеку MLX и лицензию Apache-2.0. Модель предназначена для диалогов, генерации текста, рассуждений и агентных сценариев с вызовом инструментов на английском и китайском языках. README приводит результаты проверки близости к исходной версии bf16 и скорости генерации на M5 Max, но они относятся к описанной аппаратной конфигурации и тестам автора. Для корректной работы требуется загрузчик, поддерживающий архитектуру Nanbeige с циклическим выполнением слоёв и 44 слотами KV-кэша; общий загрузчик или один только mlx_lm.generate без соответствующего класса модели может выдавать неверные ответы. Сборка предназначена для Apple Silicon и распространяется по лицензии Apache-2.0.

win10/nemolita-21b — объединённая автором win10 с помощью mergekit языковая модель на архитектуре Mistral, созданная из unsloth/Mistral-Nemo-Instruct-2407 и MarinaraSpaghetti/Nemomix-v1.0-12B методом passthrough merge. Модель содержит 20,7 млрд параметров и предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Модель распространяется в формате safetensors и рассчитана на контекст до 1 024 000 токенов. Языки и специализированные области применения в предоставленных данных не определены. Лицензия не указана в источниках; качество и ограничения объединения отдельно не описаны.

Neural-Chat-v1-1 — языковая чат-модель, дообученная Intel и командой NeuralChat на базе mosaicml/mpt-7b. Это плотная авторегрессионная модель MPTForCausalLM с 7 млрд параметров; максимальная длина последовательности — 2048 токенов. Модель предназначена для генерации текста и ответов на инструкции, а также может применяться для задач вроде генерации кода. Для дообучения использован набор Intel/neural-chat-dataset-v1-1, содержащий около 1,1 млн инструкционных примеров; метаданные также указывают набор allenai/real-toxicity-prompts. Карточка приводит результаты оценки на наборах задач языкового моделирования и проверку токсичности, но они не гарантируют качество в конкретном применении. Основной язык карточки — английский; в обучающих данных есть также примеры на китайском. Модель может выдавать фактически неверные ответы, а также предвзятый, оскорбительный или иной нежелательный текст. Перед внедрением требуется проверка безопасности и качества для целевого сценария. Репозиторий распространяется по лицензии Apache-2.0.

AceInstruct-7B-GGUF — это квантизированная версия инструкционной языковой модели AceInstruct-7B, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к задачам генерации текста и ориентирована на выполнение инструкций, программирование, математику и задачи общего назначения. В README указана поддержка английского языка. Доступны варианты от F32 и F16 до Q2_K_L, включая различные форматы Q4, Q5, Q6, Q8 и IQ; размер файлов варьируется примерно от 3,35 до 30,47 ГБ. Это позволяет выбирать баланс между качеством, требованиями к памяти и скоростью локального вывода. Ключевые архитектурные характеристики исходной модели, включая точный тип архитектуры и размер контекста, в README не указаны. К преимуществам относятся широкий выбор уровней квантизации и возможность локального запуска, а ограничениями — потенциальное снижение качества у наиболее компактных вариантов, англоязычная специализация и отсутствие сведений о мультимодальности. Модель распространяется по лицензии CC BY-NC-4.0, допускающей использование с ограничениями для некоммерческих целей.

NVIDIA Nemotron 3.5 Lightning 30B A3B — языковая модель NVIDIA, представленная сообществом mlx-community в конвертированном формате MLX для запуска на устройствах Apple Silicon. Это гибридная архитектура Mamba-2 и attention с механизмом Mixture-of-Experts: около 31 млрд параметров всего и примерно 3 млрд активных на токен. В репозитории указана версия bf16 без квантизации; модель преобразована из nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 с помощью mlx-lm 0.31.3. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают контекст до 262 144 токенов. В карточке перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий использует библиотеку MLX и формат safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой исходной модели NVIDIA.

Это 6-битная версия NVIDIA Nemotron Nano 9B v2, подготовленная сообществом mlx-community для запуска в формате MLX на совместимом оборудовании Apple. Репозиторий преобразован из nvidia/NVIDIA-Nemotron-Nano-9B-v2 с помощью mlx-lm 0.27.1; метаданные связывают исходную модель с дообучением и указывают поддержку чата. Модель предназначена для генерации текста и диалогового взаимодействия. Базовая модель описана как гибридная языковая модель NVIDIA для чата, следования инструкциям, программирования и управляемого рассуждения. В карточке модели перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий указывает лицензию other; условия следует сверить с лицензией исходной модели и файлами репозитория перед использованием.

Occiglot-7B-DE-EN-Instruct — инструктивная языковая модель Occiglot Research Collective для генерации текста и диалогов на английском и немецком языках. Это плотный decoder-only трансформер на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель принимает ChatML-шаблон. Также обучена следовать инструкциям, связанным с кодом. Модель подходит для ответов на вопросы, диалоговых помощников и выполнения текстовых инструкций на английском и немецком. Она прошла полное инструктивное дообучение на 180 млн дополнительных токенов мультиязычных и кодовых инструкций. Авторы предупреждают, что модель не проходила выравнивание по безопасности и может выдавать проблемный контент; результаты оценки для немецкого следует трактовать осторожно из-за использования частично машинно переведённых наборов и английских промптов. Лицензия — Apache 2.0.

OLMo 2 13B SFT — языковая модель Allen Institute for AI (Ai2), дообученная методом supervised fine-tuning на варианте набора Tülu 3. Это плотная авторегрессионная модель семейства OLMo 2 с 13,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Контекстное окно — 4096 токенов; модель предназначена прежде всего для английского языка. Модель подходит для диалогов, ответов на вопросы, математических задач и выполнения инструкций. В README отмечено, что Tülu 3 охватывает широкий круг задач, включая MATH, GSM8K и IFEval. Модель распространяется под лицензией Apache 2.0. В README указано, что у OLMo 2 ограничено обучение безопасности; без дополнительной фильтрации модель может выдавать проблемные ответы, особенно при соответствующих запросах. Также карточка предупреждает, что эта версия была заменена обновлёнными post-trained моделями из-за несовпадения логики предварительной токенизации с базовыми моделями.

Это GGUF-квантизированная версия OpenCoder-8B-Instruct, разработанного infly. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в формате инструкций, включая сценарии локального запуска через llama.cpp и LM Studio. Модель содержит 8 миллиардов параметров и доступна в вариантах от F16 до различных Q2–Q8-квантизаций, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти. В README указана поддержка английского и китайского языков. Формат взаимодействия использует специальные токены system, user и assistant. Данные о точной архитектуре, размере контекстного окна и поддерживаемых модальностях отсутствуют; по назначению это текстовая, а не мультимодальная модель. Сильной стороной являются многочисленные варианты квантизации, включая рекомендуемые Q4 и Q5, а также более качественные Q6 и Q8, благодаря чему модель можно адаптировать под разные аппаратные ограничения. Более компактные варианты снижают требования к памяти, но могут заметно уступать по качеству; ARM-оптимизированные варианты требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Модель основана на OpenCoder-8B-Instruct и распространяется с лицензией inf, подробные условия которой приведены в отдельном LICENSE-файле.

Open-Instruct Open Assistant 13B — языковая модель на архитектуре LLaMA, дообученная AllenAI на данных OpenAssistant/oasst1 для выполнения инструкций и генерации текста. Это модельный diff, поэтому для её использования нужна исходная модель LLaMA в формате Hugging Face; карточка приводит лицензию AI model license вместе с исходной лицензией LLaMA. Модель содержит 12,9 млрд параметров, принимает текст и рассчитана на контекст до 2048 токенов. Она предназначена для диалоговых ответов и выполнения пользовательских инструкций на английском языке; в карточке также приведены результаты тестов на рассуждения, математические задачи, вопросы и ответы и генерацию кода. Качество генерации зависит от соблюдения обученного формата ввода, включая завершающий перевод строки. Показатели на бенчмарках отражают результаты эксперимента из указанной исследовательской работы и не гарантируют качество в прикладных сценариях.

Open-Instruct Open Assistant 7B — языковая модель семейства LLaMA, дообученная Allen Institute for AI на наборе инструкций OpenAssistant/oasst1. Это плотная авторегрессионная модель примерно на 6,6 млрд параметров для генерации текста по инструкциям и ответов в формате диалога. Контекст модели составляет 2048 токенов; для корректной генерации нужно соблюдать предусмотренный формат ввода и переносы строк. Модель подходит для экспериментов с инструкционными диалогами, ответами на вопросы, рассуждениями и генерацией кода. В опубликованной оценке представлены результаты MMLU, GSM, BBH, TyDiQA и Codex-Eval; показатели различаются по задачам и режимам оценки. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Лицензирование регулируется лицензией модели из LICENSE.txt и исходной лицензией LLaMA.

Карточка модели roskosmos19/Orca-4B-Instruct-flash на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

pankajmathur/orca_mini_v3_13b — языковая модель Pankaj Mathur на архитектуре Llama 2 с 12,9 млрд параметров. Модель дообучена на наборах данных в стиле Orca и предназначена для генерации текста и выполнения инструкций в формате диалога с системным сообщением. Модель подходит для ответов на вопросы, объяснений и других текстовых задач общего назначения. В карточке приведены результаты оценки на нескольких наборах задач, включая ARC и HellaSwag; они служат ориентирами и не гарантируют точность в конкретном сценарии. Контекст составляет 4096 токенов, модель принимает и генерирует текст, в метаданных указан английский язык. Модель доступна в форматах PyTorch и Safetensors и использует библиотеку Transformers. Карточка указывает лицензию как «other», поэтому перед применением следует проверить условия лицензии репозитория. Модель может давать ошибочные или вводящие в заблуждение ответы, а также генерировать предвзятый или оскорбительный текст; важные сведения следует проверять.

Ornith-1.0-9B-CoreAI — конверсия модели Ornith-1.0-9B от DeepReinforce-ai для запуска на устройствах Apple через on-device runtime Core AI. Это текстовая decoder-модель, ориентированная на агентное программирование: она обучалась одновременно решать задачи разработки и формировать управляющую оркестрационную схему для их выполнения. Конверсия опубликована в общественном Core AI model zoo. Модель построена на гибридной архитектуре Qwen3.5 с 32 слоями, чередующими GatedDeltaNet linear-attention mixers и gated full attention; используется нетипизированная vocabulary head размером 248 320 токенов. Поддерживается контекст до 8192 токенов, встроены токенизатор и chat template. Модель предназначена для локального текстового общения и генерации кода, включая сценарии агентного программирования на Apple silicon GPU или Neural Engine. Доступны варианты quantization int8 размером 9,8 ГБ и int4 размером 7,5 ГБ; на M4 Max заявлена скорость декодирования 48,3 и 58,9 токена в секунду соответственно. На iPhone 17 Pro int8-вариант пока не помещается в доступный лимит памяти. Лицензия MIT согласно карточке исходной модели.

Myric/Ornith-1.5-35B-A3B-APEX-GGUF — это набор квантизированных GGUF-вариантов модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель предназначена для генерации текста, агентного программирования и работы с изображениями через отдельный vision projector; запуск ориентирован на llama.cpp. Лицензия — MIT. Архитектура представляет собой MoE-модель с 35,5 млрд общих параметров и примерно 3 млрд активных параметров: используется 256 маршрутизируемых экспертов с выбором top-8, гибридная gated-delta-net с полным attention в каждом четвёртом слое, 40 основных слоёв и контекст до 262 144 токенов. Также сохранён однос layer MTP-блок для speculative decoding. Доступны варианты i-quality размером 21,67 ГБ, i-compact размером 16,58 ГБ и i-mini размером 12,55 ГБ; они используют разные уровни квантизации и рассчитаны соответственно на качество или экономию памяти. Сильные стороны модели — большой контекст, низкая нагрузка KV-кэша благодаря преобладанию рекуррентных слоёв, поддержка vision через проектор издателя и возможность ускорения генерации с помощью MTP. В заявленном тесте agentic coding вариант i-quality решил 9 из 9 задач и прошёл 154 из 154 проверок, а в пяти perception-задачах с изображениями дал 5 успешных ответов из 5. Эти результаты получены на DGX Spark с llama.cpp в одном прогоне и не являются универсальным сравнительным бенчмарком. Для запуска требуется совместимый llama.cpp, значительный объём памяти и отдельный файл vision projector; README не указывает языковой охват модели и не приводит систематических данных о качестве на разных языках.

Soulfate24/Ornith-1.5-9B-MTP-ASHQ1-Remix-GGUF — квантованная в формате GGUF версия Ornith-1.5-9B от Ornith AI. Репозиторий описывает вариант ASHQ1-Remix: активационно-ориентированную квантовку, параметры которой основаны на измерениях; указана поддержка линии AutoRound с ограничениями насыщения. Модель предназначена для генерации текста и диалогового использования. Базовая модель рассчитана на программирование, агентные задачи и работу с инструментами в длинном контексте. Ключевая характеристика этой версии — квантованное представление весов GGUF. В метаданных указаны задача text-generation, библиотека Transformers и лицензия MIT. README не приводит размер квантованных файлов или оценки качества именно этой сборки; результат может зависеть от выбранного файла и среды запуска.

bunsenfeng/parti_25_full — языковая модель для генерации текста, размещённая пользователем bunsenfeng на Hugging Face. По метаданным она связана с семейством Qwen2, поддерживает библиотеку Transformers и имеет приблизительно 7,1 млрд параметров. Модель ориентирована на диалоговые и другие сценарии, требующие продолжения или создания текста.

win10/phi-3.5-Sakura-Yuzu — объединённая языковая модель, созданная автором репозитория методом TIES с помощью mergekit на основе Microsoft Phi-3.5-mini-instruct. В слияние также вошли win10/Phi-3.5-mini-instruct-24-9-29, FreedomIntelligence/Apollo2-3.8B, ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1 и AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common. Модель семейства Phi-3 — плотная авторегрессионная языковая модель примерно на 3,7 млрд параметров. Она предназначена для диалогов и генерации текста; каталог указывает поддержку чата. Репозиторий использует формат safetensors, библиотеку Transformers и контекст длиной 4096 токенов. Базовая модель описана как многоязычная и рассчитанная на инструкции, рассуждения и код, однако сведения о конкретных языках и специализированной адаптации этого слияния не приведены. Лицензия в предоставленных данных не указана.

Phi-3-mini-4k-instruct-v0.3-GGUF — набор квантизованных файлов модели Phi-3-mini-4k-instruct-v0.3, основанной на Microsoft/Phi-3-mini-4k-instruct. Исходную модель опубликовал MaziyarPanahi, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения задач на рассуждение и работы с кодом. В README указан английский язык; поддержка других языков не заявлена. Обозначение 4k указывает на вариант модели с контекстом порядка 4 тысяч токенов, однако точное значение в представленных данных не раскрыто. Модель поставляется в формате GGUF с несколькими уровнями квантизации — от Q8_0 до Q3_K_M и IQ3_M. Размер файлов составляет примерно от 1,95 до 4,06 ГБ, что позволяет выбирать компромисс между качеством генерации и требованиями к оперативной памяти. Для локального запуска рекомендуется использовать llama.cpp или совместимые инструменты. К сильным сторонам относятся компактность, возможность локального развертывания и несколько вариантов квантизации; более агрессивное сжатие может снижать качество ответов. Данные о мультимодальности, точной архитектуре и числе параметров не указаны. Лицензия модели — MIT. В README приведены результаты на ARC-Challenge, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, однако они относятся к указанной версии модели и не обязательно одинаковы для всех вариантов квантизации.