II.1Анализ требований и архитектура ПО

BlackSheep-5B — плотная авторегрессионная языковая модель семейства Llama, созданная TroyDoesAI с помощью слияния SLERP через mergekit. В объединении использованы TroyDoesAI/Llama-3.2-4B и TroyDoesAI/BlackSheep-RAG-4B; базовой моделью в конфигурации указана TroyDoesAI/Llama-3.2-4B. В репозитории представлены веса safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс также предусматривает вызов инструментов. Размер модели — 4,6 млрд параметров, заявленная длина контекста — 131 072 токена. Карточка не описывает конкретные языки, качество на отдельных задачах или условия лицензии, поэтому их нельзя установить по доступным данным.

Codetulu 2 13B — англоязычная модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе codellama/CodeLlama-13b-hf на смеси общедоступных, синтетических и созданных людьми инструкций и диалогов Tulu V2. Модель работает с текстом и поддерживает контекст до 8192 токенов. Модель предназначена для генерации ответов на инструкции и ведения диалогов, а также может использовать возможности базовой CodeLlama при работе с кодом. Для генерации следует подавать текст в формате, описанном в карточке модели, включая завершающий перевод строки. Модель преимущественно рассчитана на английский язык. Модель выпущена под лицензией AI2 ImpACT Low-risk. В карточке отмечено, что модель не прошла выравнивание безопасности на этапе RLHF и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно в ответ на соответствующие запросы.

Это квантованные версии большой языковой модели Command A Plus, разработанной CohereLabs. Карточка содержит сборки в формате GGUF, подготовленные bartowski с использованием llama.cpp и метода imatrix на основе исходной модели CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста, диалоговых и чат-сценариев, а также локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель поддерживает английский, русский и широкий набор других языков, включая арабский, китайский, японский, корейский, испанский, французский, немецкий, португальский, украинский и вьетнамский. Архитектура, точное число параметров, модальности и размер контекста в README не указаны. Доступны варианты квантования от Q3 и IQ3 до Q8_0 размером примерно от 102 до 232 ГБ; более высокие уровни квантования обычно сохраняют лучшее качество, но требуют больше памяти. Сборки рассчитаны на локальный inference, однако для новых моделей может потребоваться обновление используемого ПО. Сильной стороной является большой выбор квантованных вариантов с разным компромиссом между качеством и требованиями к памяти, включая рекомендованные Q4, Q5 и Q6-сборки. Ограничения — значительный объём файлов и отсутствие в карточке подробных сведений о производительности, тестах, архитектуре и контекстном окне. Указана лицензия Apache-2.0.

Dans-PersonalityEngine-v1.0.0-8b-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Dans-PersonalityEngine-v1.0.0-8b, разработанной PocketDoc и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель содержит около 8 млрд параметров и предназначена для локального запуска, в частности через LM Studio. Доступны варианты от F16 до различных уровней квантизации Q3–Q8, что позволяет выбирать между качеством генерации, размером файла и требованиями к памяти. Модель ориентирована на широкий круг текстовых задач: диалоговое взаимодействие и ассистирование, написание и редактирование прозы, решение математических задач, программирование и анализ кода, подготовку данных, работу с инструментами и выполнение многошаговых заданий. В составе обучающих данных заявлены англоязычные наборы, посвящённые литературному письму, инструкциям, программированию, математике, химии, биологии, выживанию и другим темам. Основная заявленная область применения — генерация текста на английском языке; поддержка других языков и мультимодальных входов в README не указана. Сильными сторонами являются разнообразная специализация обучающих данных, наличие многочисленных вариантов квантизации и возможность локального инференса с использованием формата GGUF. К ограничениям относятся зависимость качества и скорости от выбранного уровня квантизации и оборудования, а также отсутствие в README сведений об архитектуре базовой модели, размере контекстного окна, результатах бенчмарков и фактическом качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия conversational-модели datagemma-rig-27b-it, исходно разработанной Google. Релиз подготовлен пользователем legraphista с применением llama.cpp и предназначен для локального запуска и генерации текста в диалоговых сценариях. В основе лежит модель размером 27 млрд параметров в формате BF16; исходная карточка указывает текстовую генерацию, но не сообщает поддерживаемые языки и размер контекстного окна. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая форматы IQ. Квантизация позволяет выбирать компромисс между качеством, размером файла и требованиями к памяти: размеры файлов варьируются примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, рассчитанная на сохранение качества при уменьшенной точности; BF16, FP16, Q8_0 и Q6_K используют статические варианты без IMatrix. Модель предназначена для работы через llama.cpp и совместимые инструменты, однако конкретные системные требования и показатели качества в README не указаны. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется принять условия лицензии. Ограничения, связанные с безопасностью, точностью ответов и конкретными сценариями применения исходной модели, в представленных данных не описаны.

DeepSeek-R1-Distill-Qwen-32B-abliterated-GGUF — это набор квантизированных версий текстовой генеративной модели DeepSeek-R1-Distill-Qwen-32B-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходную модель разработала huihui-ai. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая LM Studio и llama.cpp. Модель содержит около 32 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, включая IQ-варианты. Размер файлов составляет примерно от 15,94 до 65,54 ГБ в зависимости от варианта. README не указывает поддерживаемые языки, размер контекстного окна и мультимодальные возможности, поэтому подтверждено только текстовое применение. Ключевые преимущества — широкий выбор вариантов квантизации, возможность локального запуска и сохранение высокого качества у версий Q6 и Q5; Q4_K_M обозначена как вариант по умолчанию для большинства сценариев. Более компактные версии подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. Модель помечена как abliterated и uncensored, однако подробные характеристики, ограничения и лицензия в README не указаны.

DeepSeek-V4.1-Flash (GGUF) — квантизированная версия текстовой модели DeepSeek-V4.1-Flash, разработанной DeepSeek и преобразованной в формат GGUF автором mxxm-t. Сборка предназначена для запуска через mx-llama.cpp — форк llama.cpp с поддержкой много-GPU инференса, pipeline и tensor parallelism, а также DSpark/MTP speculative decoding. Модель использует MoE-архитектуру с маршрутизируемыми экспертами и квантованием MXFP4; основные веса занимают около 375,8 GiB в 12 файлах, а после загрузки требуют примерно 302 GiB без учёта KV-кэша и вычислительных буферов. В комплект входит отдельный файл DSpark размером 7,43 GiB, который не является самостоятельной моделью и применяется только для speculative decoding. Поддерживается генерация текста; языки и максимальный контекст в README явно не указаны, хотя приведён пример запуска с контекстом 32768 токенов. Сильные стороны сборки — эффективный много-GPU инференс, поддержка режимов layer и tensor parallelism, MXFP4 для routed experts, сжатие KV-кэша и ускорение генерации с помощью DSpark. Ограничения заключаются в высоких требованиях к памяти и накопителю, необходимости совместимого mx-llama.cpp, отсутствии vision tower, projector и файла mmproj, а также в том, что DSpark нельзя использовать отдельно. Для chat completions ответ этой архитектуры помещается в поле reasoning_content, а не content. Лицензия MIT, унаследованная от базовой модели DeepSeek.

Devstral Small 1.1 — языковая модель для агентных задач в разработке программного обеспечения, созданная в сотрудничестве Mistral AI и All Hands AI. Модель предназначена для работы с программными кодовыми базами: она умеет исследовать проекты с помощью инструментов, редактировать несколько файлов и служить основой программных агентов. Рекомендуемый сценарий использования — интеграция с OpenHands; также доступны API и локальное развертывание. Модель дообучена на базе Mistral-Small-3.1 и содержит 24 млрд параметров. Она работает только с текстом: визуальный энкодер был удалён до этапа дообучения. Поддерживается контекст до 128 тысяч токенов, используется токенизатор Tekken со словарём размером 131 тысяча токенов, а также формат function calling Mistral. В метаданных README указана поддержка языков от английского и французского до русского, китайского, японского, арабского и других языков. Сильные стороны модели — специализация на агентном программировании, улучшение относительно Devstral Small 1.0 и возможность запуска на одной RTX 4090 или Mac с 32 ГБ оперативной памяти. В SWE-Bench Verified она получила 53,6% при использовании OpenHands Scaffold. Ограничения включают текстовую, а не мультимодальную обработку и необходимость учитывать ресурсы для локального запуска. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию.

DiscoLM 120b (Alpha) — экспериментальная языковая модель DiscoResearch, обученная Бьёрном Плюстером. Это дообученная версия Goliath 120B, объединённой модели на основе нескольких Llama 2 70B. Модель содержит около 117,5 млрд параметров, использует архитектуру Llama с плотной causal language model и принимает текст, выдавая текст. Для диалогов применяется формат ChatML; максимальный исходный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, включая генерацию текстов, ответы на вопросы, рассуждения, математические задачи и код. В обучающую выборку вошли англоязычные и немецкоязычные инструкции, диалоги, математические данные, стихи и песни. Авторы приводят результаты бенчмарков, однако отмечают раннюю альфа-стадию и возможность загрязнения тестовых данных, поэтому оценки не гарантируют качество в практических задачах. Модель распространяется по лицензии Llama 2; при использовании действуют ограничения исходной лицензии и лицензий обучающих датасетов. Авторы указывают, что модель предназначена только для исследовательских целей.

Карточка модели Shidokaizaki/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

EuroMoE-2.6B-A0.6B-Instruct-Preview — предварительная многоязычная языковая модель Unbabel и академических партнёров проекта EuroLLM, финансируемого Европейским союзом. Это модель MoE на базе архитектуры Mixtral для генерации текста и диалогового общения; в карточке указаны 2,6 млрд параметров и 0,6 млрд активных параметров, а метаданные каталога приводят 231,7 млн параметров. Контекст — 4096 токенов. Архитектура использует grouped-query attention, RMSNorm, SwiGLU и RoPE. Модель дообучена на наборе EuroBlocks для выполнения инструкций общего назначения и машинного перевода. Она рассчитана на 35 языков, включая языки ЕС, русский, китайский, арабский, хинди, японский и корейский. Подходит для многоязычных диалогов, следования инструкциям и перевода. Выпущена под Apache License 2.0. Это preview-версия в разработке, поэтому её производительность и стабильность могут быть ограничены. Модель не выровнена по человеческим предпочтениям и может выдавать галлюцинации, вредный контент или фактические ошибки; авторы рекомендуют осторожность при применении в production.

EVA-Rombos1-Qwen2.5-32B — плотная языковая модель на архитектуре Qwen2, созданная автором nbeerbower слиянием нескольких предварительно обученных моделей методом Model Stock с помощью mergekit. Базовой моделью для слияния указана nbeerbower/DeepSeek-R1-Qwen-lorablated-32B; в состав также вошли Rombos-Qwen2.5-32B-lorablated, EVA-Qwen2.5-32B-v0.2 и EVA-Gutenberg3-Qwen2.5-32B. Модель содержит 32 млрд параметров, принимает текст и генерирует текст. Метаданные указывают контекст до 131 072 токенов, поддержку чатового взаимодействия и интерфейса вызова инструментов. Её можно применять для диалогов, ролевого отыгрыша и написания историй — такие сценарии указаны в описании базовой модели в каталоге. Репозиторий использует формат safetensors, библиотека — Transformers. Модель распространяется по лицензии Apache-2.0. Данных о поддерживаемых естественных языках и сравнительных оценках качества в предоставленной карточке нет.

evomodel-1.9 — настраиваемая версия Qwen-3.5 9B, выпущенная в формате GGUF для запуска через llama.cpp. Модель дообучена с помощью LoRA-адаптера с параметрами r=8 и alpha=8, который затем объединён с базовой моделью. Поддерживает генерацию текста и диалоговый режим; заявленная длина контекста — до 262 тыс. токенов. Репозиторий содержит варианты Q8_0, NVFP4 и Q4_K_M; у NVFP4 и Q4_K_M эмбеддинги токенов и выходной слой сохранены в Q8_0. Для вызова инструментов модель выдаёт текст в специальном формате, который должен разбирать обслуживающий клиент: llama.cpp сам этот формат не обрабатывает. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28T3q_Experiment27Experiment28 — объединённая модель семейства Mistral для генерации текста, созданная на основе automerger/Experiment28T3q-7B и automerger/Experiment27Experiment28-7B. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов в системах на базе Transformers. В метаданных указана лицензия Apache-2.0. Сведения о специализированных задачах, языках и ограничениях качества в карточке не приведены.

Falcon3-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Falcon3-7B-Instruct, разработанной Technology Innovation Institute (TII) и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, включая запуск локально через llama.cpp и совместимые приложения, например LM Studio. Для общения используется шаблон с ролями system, user и assistant. Модель поддерживает английский, французский, испанский и португальский языки. Базовый размер составляет 7 млрд параметров; доступны варианты от F16 до Q2_K, поэтому можно выбирать баланс между качеством, скоростью и требованиями к памяти. Квантизация выполнена с использованием imatrix, а в README отдельно отмечено исправление tokenizer. Варианты Q5 и Q6 характеризуются как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а более компактные Q3 и Q2 имеют заметно более низкое качество. Основные ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием в README данных о размере контекста, архитектурных деталях, производительности и специализированных возможностях. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке модели.

Falcon-40B-Instruct — разработанная TII модель генерации текста с архитектурой Falcon: плотный декодерный трансформер, дообученный для диалогов и выполнения инструкций на основе Falcon-40B. В README указано 40 млрд параметров, тогда как метаданные Hugging Face сообщают 65 млрд; точный размер по этим источникам расходится. Архитектура использует rotary position embeddings, multiquery attention и FlashAttention. Модель предназначена для чат-ботов, ответов на вопросы и генерации текста по инструкциям. Она обучалась преимущественно на английских данных, а также поддерживает французский; дообучение проводилось на смеси Baize с небольшой долей RefinedWeb. Для быстрого запуска авторы указывают потребность примерно в 85–100 ГБ памяти. Модель доступна по лицензии Apache 2.0. Модель может воспроизводить предубеждения из веб-данных и слабо переносить навыки на языки, отличные от английского. Авторы рекомендуют оценивать риски и применять защитные механизмы перед использованием в производстве; instruct-версия может быть не лучшей отправной точкой для дальнейшего дообучения.

Карточка модели sultthegreat/falcon-mamba-7b-instruct на Hugging Face совпадает с карточкой tiiuae/falcon-mamba-7b-instruct, поэтому описание составлено по ней. FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.

Модель ermiaazarkhalili/FastContext-4B-SFT_base-SFT-Claude-Opus-Reasoning-Unsloth — дообученная версия microsoft/FastContext-1.0-4B-SFT, разработанная ermiaazarkhalili. Это плотная авторегрессионная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, примерно 3,7 млрд параметров и контекстом до 262 144 токенов. Модель предназначена для генерации текста в диалогах и выполнения инструкций; дообучение проведено методом SFT на данных дистилляции рассуждений Claude. Она поддерживает интерфейс вызова инструментов. Карточка приводит только наблюдения обучающей потери и сообщает, что оценка на прикладных бенчмарках не проводилась. Поведение вне распределения единственного набора инструкций не проверено; модель наследует смещения и ограничения базовой модели. LoRA-адаптеры слиты с весами, поэтому отделить результат дообучения нельзя. Лицензия в предоставленных данных не указана.

Это тестовая версия alignment-tuned модели на базе семейства Llama, дообученной с использованием методов instruction fine-tuning и direct preference optimization (DPO). Она предназначена для генерации текста и выполнения инструкций в диалоговых сценариях. Модель содержит 20,9 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в репозитории представлены веса в формате safetensors. В метаданных указан английский язык. Модель разработана автором репозитория 4season. Лицензия — Apache-2.0. Карточка обозначает её как тестовую версию, поэтому качество и пригодность для конкретных задач требуют отдельной проверки.

anthonymeo/full-train-b3 — дообученная модель на базе Meta Llama 3.2 3B Instruct для генерации текста и диалогов. Она содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и сохранена в формате Safetensors; заявленная длина контекста — 131 072 токена. Карточка сообщает о дообучении на наборе данных train и приводит значение loss 0,2533 на оценочном наборе. Модель подходит для диалоговых сценариев и генерации текста. Метаданные также отмечают интерфейс вызова инструментов. README не раскрывает состав обучающих данных, конкретные целевые задачи настройки или результаты сравнения с базовой моделью. Лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории модели.

Gaston_Yi-1.5-9B-Chat — диалоговая языковая модель, опубликованная baconnier и дообученная на основе 01-ai/Yi-1.5-9B-Chat. Это плотная модель семейства Llama с 8,6 млрд параметров, предназначенная для генерации текста в формате чата. Обучение проводилось с использованием Unsloth и библиотеки TRL. Модель подходит для диалоговых ответов и генерации текста; базовая Yi-1.5-9B-Chat также рассчитана на следование инструкциям, рассуждения, математику и программирование. Поддерживается контекст до 8192 токенов. В карточке указан английский язык и лицензия Apache 2.0.

GLM-5.2-4bit — это 4-битная квантованная версия модели GLM-5.2, преобразованная сообществом mlx-community из исходной модели zai-org/GLM-5.2 в формат MLX с использованием mlx-lm версии 0.31.3. Модель предназначена для генерации текста и локального запуска в экосистеме MLX, например через mlx-lm. Ключевые характеристики включают формат MLX, 4-битное квантование и поддержку сценариев text-generation. Данные о размере модели, архитектуре, языках, модальностях и длине контекста в README не указаны. В текущей версии квантования отсутствует блок MTP, что может ограничивать функциональность или производительность по сравнению с исходной моделью. Модель распространяется по лицензии MIT.

MLX-совместимая 4-битная квантизованная версия GLM-5.3, преобразованная сообществом mlx-community из базовой модели zai-org/GLM-5.3-BF16 с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста и ориентирована на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти; заявлено, что она комфортно помещается в такой конфигурации. Поддерживаемые языки — английский и китайский. Ключевое преимущество версии — стандартная 4-битная квантизация, которую авторы описывают как стабильную и быструю по сравнению с некоторыми альтернативными рецептами квантизации, склонными к избыточному обдумыванию и повторному пересмотру решений. Для работы используется библиотека MLX и пакет mlx-lm. Архитектура, точный размер модели, длина контекста, дополнительные модальности и результаты benchmark в README не указаны. Лицензия обозначена как other с названием glm-5.3; конкретные условия необходимо уточнять в лицензии исходной модели.

GLM-5.3-Flash-GGUF — квантизированная GGUF-версия модели GLM-5.3-Flash от Z.ai, подготовленная пользователем aj9o9 с ручным распределением типов квантования по классам тензоров. Модель предназначена для генерации текста и запуска через llama.cpp, включая локальное использование на системах с ограниченной памятью по сравнению с полноразмерной BF16-версией. Заявлены языки английский и китайский. Исходная модель имеет 320,6 млрд параметров, из которых 17,3 млрд активируются на токен; после удаления блока MTP/NextN в представленных файлах остаётся 313,33 млрд параметров. Это разреженная MoE-архитектура с 42 слоями маршрутизируемых экспертов, 288 экспертами в каждом слое, восемью активными экспертами и одним общим экспертом. Из 45 слоёв 34 используют Kimi Delta Attention, а 11 — Multi-head Latent Attention с индексатором DeepSeek. Благодаря этому модель экономно расходует память под контекст: заявлены 32K, 131K и 300K токенов при использовании примерно 0,44, 1,55 и 3,45 ГБ памяти для соответствующих KV-компонентов. Доступны две сборки: AJ-IQ3_XXS размером 112,40 ГБ с плотностью 2,80 бит на вес, рассчитанная на 128 ГБ unified memory или видеокарту на 96 ГБ с небольшим выгрузом, и AJ-IQ2_XXS размером 87,35 ГБ с плотностью 2,23 бит на вес, рассчитанная на видеокарту на 24 ГБ и 64 ГБ системной памяти. AJ-IQ3_XXS заметно лучше сохраняет качество исходной модели, тогда как AJ-IQ2_XXS требует меньше памяти, но имеет более высокое отклонение от BF16. Ограничение обеих сборок — отсутствие MTP-головы и поддержки спекулятивного декодирования через неё. Приведённые оценки качества получены на небольшом тесте Wikitext-2, поэтому не характеризуют все прикладные сценарии. Модель распространяется по лицензии MIT.

GPT-5 Image — модель OpenAI, объединяющая GPT-5 с возможностями генерации изображений GPT Image 1. Она предназначена для взаимодействия с текстом и создания изображений по инструкциям; в карточке также отмечены улучшения в рассуждениях, качестве кода и следовании запросам. Доступный фрагмент карточки не сообщает архитектуру, размер, языки, длину контекста или лицензию.

mlx-community/gpt-oss-20b-MXFP4-Q8 — это языковая модель для генерации текста, представленная сообществом mlx-community. Модель конвертирована в формат MLX из openai/gpt-oss-20b с использованием mlx-lm версии 0.27.0. Модель предназначена для сценариев текстовой генерации и запуска через библиотеку mlx-lm, включая диалоговое взаимодействие с применением chat template, если он поддерживается токенизатором. Из README известны размер исходной модели — 20B, формат MLX и обозначение квантования MXFP4-Q8. Сведения о точной архитектуре, поддерживаемых языках, модальностях, размере контекста, результатах оценки, сильных сторонах и ограничениях не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели ibm-granite/granite-7b-instruct на Hugging Face совпадает с карточкой instructlab/granite-7b-lab, поэтому описание составлено по ней. Granite-7b-lab — языковая модель IBM Research, дообученная на базе ibm/granite-7b-base методом LAB (Large-scale Alignment for chatBots) с использованием Mixtral-8x7B-Instruct как модели-учителя. Это плотная модель архитектуры Llama с 6,6 млрд параметров, поддержкой диалогового режима и контекстом до 4096 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. LAB использует таксономию задач для отбора примеров, генерацию синтетических данных и двухэтапное обучение с буферами повторения; это позволяет добавлять знания и навыки, сохраняя ранее усвоенное. Подход охватывает ответы на вопросы, рассуждение и творческое письмо. Модель распространяется в формате Safetensors по лицензии Apache 2.0. В README отмечено, что чекпойнт не прошёл safety alignment и может выдавать вредные или недостоверные ответы; его не следует использовать как единственный источник для важных решений.

Это GGUF-квантизация модели grimjim/Llama-3-Instruct-8B-SimPO-SPPO-Iter3-merge, подготовленная featherless-ai-quants. Модель относится к семейству Llama 3 Instruct, предназначена для генерации текста и использования в диалоговых и других текстовых сценариях. Из README следует, что базовая модель имеет размер 8B параметров, однако сведения об архитектуре, языках, размере контекста и исходном разработчике не указаны. Репозиторий предоставляет несколько вариантов квантизации GGUF: от Q2_K и Q3_K до Q8_0, а также IQ4_XS. Они различаются размером файлов — примерно от 3 до 8 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Конкретные показатели производительности и качества в README не приведены, поэтому сильные стороны модели можно оценить только как практическую доступность различных уровней квантизации; возможное снижение качества при более агрессивной квантизации остается ограничением. Лицензия и условия использования в README не указаны. Сведения о поддерживаемых модальностях ограничены текстовой генерацией; данные о работе с изображениями, аудио или другими типами входов отсутствуют.

Gryphe_Codex-24B-Small-3.2-GGUF — это квантизированная GGUF-версия модели Codex-24B-Small-3.2, разработанной Gryphe и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и задач, где требуется instruct- или chat-модель; заявлены также сценарии roleplay и дальнейшей донастройки. Поддерживаемый язык — английский. Модель имеет размер 24 млрд параметров и поставляется в вариантах от BF16 до различных квантизаций Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Файлы предназначены для запуска через llama.cpp, LM Studio и другие совместимые проекты. Для общения предлагается формат ChatML, однако в README отмечено, что шаблон чата явно не задан и используемый шаблон по умолчанию может быть неточным. Сведения о контекстном окне, точной архитектуре, дополнительных модальностях и результатах бенчмарков отсутствуют. Сильной стороной модели является широкий выбор квантизаций: варианты Q6 и Q5 описаны как обеспечивающие очень высокое или высокое качество, а Q4 — как компромисс для большинства сценариев; более компактные варианты подходят системам с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0. Условия использования, связанные с исходной моделью Gryphe/Codex-24B-Small-3.2, следует дополнительно проверять в её оригинальной карточке.

Guilherme34/Hermes3-Lumimaid-uncensored — объединённая с помощью mergekit методом TIES языковая модель на архитектуре Llama. В качестве основы использована Guilherme34/Hermes-3-Llama-3.1-70B-Uncensored, в объединение также вошла NeverSleep/Llama-3-Lumimaid-70B-v0.1-alt. Модель содержит 69,5 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и общения в формате чата; метаданные также отмечают интерфейс вызова инструментов. Указание uncensored в названии и описании базовой модели отражает сниженные ограничения на ответы, но карточка не уточняет языки или конкретные области применения. Веса объединены с нормализацией и сохранены в float16. Лицензия в предоставленных данных не указана.