I.3Извлечение и структурирование данных

CerebrumHyperion-7B-DPO — объединённая модель для генерации текста, созданная с помощью LazyMergekit путём слияния Locutusque/OpenCerebrum-1.0-7b-DPO и Locutusque/Hyperion-3.0-Mistral-7B-DPO. В README указан метод слияния SLERP, а базовой моделью в конфигурации названа Hyperion-3.0-Mistral-7B-DPO. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. По описанию базовой модели, семейство OpenCerebrum ориентировано на генерацию текста, программирование, математику, научные вопросы и рассуждения. Репозиторий содержит веса в формате safetensors. Сведений о лицензии в предоставленных данных нет.

Dolphy-1.0 — диалоговая языковая модель от Dolphy AI, дообученная методом LoRA на базе Qwen/Qwen3-4B-Instruct-2507. Это плотная причинная модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. В обучающем конвейере использовано 1,5 млн примеров из 20 наборов данных; среди перечисленных источников — материалы для диалогов, следования инструкциям, математики, программирования, письма и ответов на вопросы. Модель предназначена для генерации ответов в чате, выполнения инструкций, решения задач и работы с инструментами через совместимый с Qwen3 интерфейс вызова функций. Она поддерживает многоязычные возможности базовой модели; точный перечень языков в карточке не приведён. Репозиторий содержит веса safetensors, а README также рекомендует GGUF для локального запуска. Лицензия — Apache-2.0. Заявление автора о превосходстве над более крупными моделями не сопровождается результатами сравнительной оценки в предоставленной карточке. Качество может различаться в зависимости от задачи; подробные результаты тестирования и конкретный перечень поддерживаемых языков не приведены.

Карточка модели Cultxre/GLM-4.6-Derestricted-v3 на Hugging Face совпадает с карточкой ArliAI/GLM-4.6-Derestricted-v3, поэтому описание составлено по ней. GLM-4.6-Derestricted-v3 — текстовая диалоговая модель Arli AI, созданная на основе GLM-4.6 от Zhipu AI. Разработчики применили к базовой модели метод Norm-Preserving Biprojected Abliteration, чтобы убрать поведение отказа, стараясь сохранить рассуждения и другие способности исходной модели. Это модификация весов, а не отдельная архитектура; в репозитории указаны 23,4 млрд параметров, семейство GLM-4 MoE и формат safetensors. Модель предназначена для генерации диалоговых ответов, рассуждений, написания кода и агентных сценариев. Унаследованный от GLM-4.6 контекст составляет 202 752 токена; исходная карточка также описывает поддержку использования инструментов. В карточке заявлено, что удаление отказов позволяет сохранить или улучшить рассуждения, однако независимых подтверждений этих заявлений не приведено. Модель принимает текст и генерирует текст. Лицензия — MIT. Языки явно не перечислены; исходная GLM-4.6 описана как модель для текста и кода, но конкретный набор естественных языков не указан.

GLM-4.7-Flash-bf16 — диалоговая языковая модель семейства GLM4 MoE Lite, подготовленная сообществом mlx-community в формате MLX из zai-org/GLM-4.7-Flash. Она предназначена для генерации текста в диалоге, включая рассуждения и программирование. Модель содержит 4,1 млрд параметров и поддерживает контекст до 202 752 токенов; карточка указывает поддержку английского и китайского языков. Модель построена на архитектуре Glm4MoeLiteForCausalLM и использует библиотеку MLX. Репозиторий содержит веса Safetensors и доступен по лицензии MIT. В README приведена команда установки mlx-lm для использования модели на MLX-совместимой платформе.

GLM-5.2-JANGTQ4 — версия модели zai-org/GLM-5.2, подготовленная автором репозитория bearzi для запуска через MLX на компьютерах Apple с чипами Apple silicon. Это языковая модель с архитектурой GLM MoE DSA и 30,4 млрд параметров, предназначенная для генерации текста и диалогов; базовая GLM-5.2 также рассчитана на программирование и длительные задачи. Контекст модели составляет до 1 048 576 токенов. Профиль JANGTQ4 использует смешанную точность: внимание и общие эксперты хранятся в FP16, а маршрутизируемые эксперты квантизированы до 4 бит методом JANG TurboQuant. Для загрузки требуются jang-tools или vMLX; обычные MLX, LM Studio и Ollama не поддерживаются. Для токенизатора нужны tiktoken, blobfile и разрешение удалённого кода Transformers. Репозиторий распространяется по лицензии MIT.

GLM-5.3-Prime — высокоскоростной вариант модели GLM-5.3 от Z.ai. По описанию, ускорение инференса повышает пропускную способность генерации в 1,5–2 раза при сохранении возможностей GLM-5.3. Модель принимает и выдаёт текст; заявлен контекст длиной до 1 млн токенов. Модель предназначена для сценариев генерации текста, где важны высокая скорость ответа и работа с длинным контекстом. Сведения о лицензии и конкретных ограничениях в доступных данных отсутствуют.

GritLM-7B — языковая модель ContextualAI, дообученная на основе Mistral-7B-v0.1 с помощью метода GRIT. Она объединяет генерацию текста и получение текстовых представлений: подходит для диалогов и задач, где нужны эмбеддинги или оценки релевантности. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекстное окно 32 768 токенов. Модель предназначена для использования как в генеративных сценариях, так и в задачах представления текста, включая поиск и ранжирование. В репозитории доступны веса PyTorch и Safetensors. Лицензия — Apache-2.0.

Huihui-NeoHorse-1-4B-abliterated — экспериментальная версия TokenRhythm/NeoHorse-1-4B от Huihui AI с ослабленными отказами, созданная методом abliteration. Это плотная текстовая авторегрессионная модель семейства Qwen3.5 с 3,4 млрд параметров; она предназначена для диалога, следования инструкциям, рассуждений, программирования и агентных сценариев с вызовом инструментов. Модель работает через библиотеку Transformers и поддерживает контекст до 262 144 токенов. Автор описывает изменение как грубую проверку концепции: аблированы слои 5–17. README также упоминает извлечённые из исходной Qwen3.5-4B компоненты MTP и Vision, которые можно отдельно добавить в каталог модели; доступность этих компонентов в основном наборе весов не подтверждена. Снижение защитных ограничений повышает вероятность чувствительных, спорных или неподходящих ответов, поэтому результаты требуют проверки. Лицензия — Apache-2.0.

Inkling-Small — мультимодальная модель общего назначения, опубликованная Unsloth как дообученная версия thinkingmachines/Inkling-Small. Она принимает текст, изображения и аудио, а ответы формирует текстом; предназначена для диалогов, следования инструкциям, разработки чат-ботов, помощников по программированию, систем RAG и приложений с агентами и вызовом инструментов. Модель построена на 42-слойном авторегрессионном трансформере с разреженной MoE-архитектурой: всего 276 млрд параметров, из которых активно 12 млрд; для каждого токена выбираются 6 из 256 экспертов и задействуются 2 общих эксперта. Изображения обрабатываются иерархическим patch-энкодером, аудио — через дискретные токены. Поддерживаются BF16 и NVFP4; для изображений рекомендуются размеры сторон от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Основной язык — английский, также заявлена общая многоязычная поддержка. Лицензия — Apache-2.0. Модель может галлюцинировать, неточно следовать инструкциям и хуже работать в длинных многошаговых диалогах; качество может различаться между языками и областями. Для медицинских, юридических и других критически важных решений необходимы проверка результатов и человеческий контроль. README рекомендует дополнительную фильтрацию и мониторинг при развертывании, поскольку модель иногда поддается косвенно сформулированным вредоносным запросам.

JiRack Ultra 7B — текстовая модель для генерации и диалогов от CMSManhattan. Она построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, а в карточке модели также заявлена основа DeepSeek R1 7B. Модель оптимизирована для запуска на CPU: автор сообщает о применении технологий BitNet и QAT, а в репозитории доступны веса safetensors и варианты GGUF с квантованием от Q2_K до Q8_0. Указанный контекст — до 131 072 токенов. Модель предназначена для диалоговых сценариев, использования в RAG, агентной разработки и вызова инструментов. Карточка упоминает специализированные токены для маршрутизации, мультимедиа, зрения, звука и робототехники, но метаданные подтверждают только текстовую генерацию и возможность чата; мультимодальный ввод или вывод ими не подтверждён. Среди отмеченных в метаданных языков — английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. По заявлению автора, модель рассчитана на экономичный локальный или облачный инференс, включая запуск через llama.cpp и Ollama. Для квантованного Q4_K_M README рекомендует не менее 12 ГБ системной памяти, а для комфортной работы — 16–24 ГБ; фактическая скорость зависит от процессора и контекста. Веса распространяются по лицензии MIT, однако Docker-образ, готовые Ollama-сборки и UI-клиенты могут требовать отдельной коммерческой лицензии.

Lapa LLM v0.1.2 Instruct — мультимодальная инструктивная модель на архитектуре Gemma 3 с 12 млрд параметров, разработанная украинской исследовательской командой из Украинского католического университета, AGH University of Krakow, КПИ имени Игоря Сикорского и Львовской политехники. Модель настроена на обработку украинского языка и принимает текст и изображения; заявленная длина входного контекста — 128 тыс. токенов, длина генерируемого ответа — до 8192 токенов. Модель предназначена для ответов на вопросы, суммаризации, анализа изображений на украинском языке, перевода между английским и украинским, а также для чат-ботов и RAG-систем. Авторы сообщают об адаптации токенизатора: 80 тыс. из 250 тыс. токенов заменены на украинские, что, по их оценке, позволяет обрабатывать украинский текст с меньшим числом токенов и вычислений. В метаданных указаны возможности чата и зрения; формат весов — safetensors. README заявляет возможность коммерческого использования и описывает открытые наборы данных, код и документацию проекта. В метаданных указана лицензия Gemma; перед коммерческим использованием следует проверить её условия для этой версии. README отмечает, что качество инструктивной версии ещё улучшается и что для развития возможностей анализа изображений и следования инструкциям собираются дополнительные данные.

Диалоговая модель shibing624 на базе Llama-3-8B-Instruct-262k, дообученная методом ORPO на наборе предпочтений для китайского и английского языков. Модель использует плотную архитектуру LlamaForCausalLM и содержит около 7,5 млрд параметров; поддерживает контекст до 262 144 токенов и рассчитана на многоходовый диалог, генерацию текста, кодирование и рассуждения, а также сценарии RAG с длинными документами. Модель поддерживает китайский и английский языки. В README отмечены ограничения: при ответах на вопросы о знаниях возможны галлюцинации, особенно по китайской тематике и классической китайской литературе. Для запуска приведены ориентиры по видеопамяти: около 18,66 ГБ для кодирования 2 048 токенов и 24,58 ГБ для генерации 8 192 токенов в FP16/BF16; для Int4 — около 9,21 ГБ и 14,62 ГБ соответственно. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

Llama 3 Tulu 2 70B — большая языковая модель-помощник, разработанная AllenAI и дообученная на базе Meta Llama 3 70B. Она обучалась на смеси общедоступных, синтетических и созданных людьми данных, включая набор инструкций и диалогов Tulu V2. Модель содержит 69,5 млрд параметров, использует архитектуру Llama с плотной causal language model и принимает текст для генерации текста. Заявленная основная языковая ориентация — английский; родной контекст составляет 2048 токенов. Модель предназначена для диалогов с помощником, выполнения инструкций, ответов на вопросы, рассуждений и генерации кода. В карточке приведены результаты тестирования на MMLU, GSM8k, BBH, TyDiQA и HumanEval, однако они не гарантируют качество в конкретном приложении. По сведениям README, модель не проходила этап RLHF для согласования безопасных ответов и может выдавать проблемный контент, особенно по соответствующему запросу. Лицензия репозитория — Apache 2.0.

FreedomAISVR/Magistral-Small-2509-MXFP4-GGUF — квантизированная версия мультимодальной модели Magistral-Small-2509 от Mistral AI, опубликованная в формате GGUF с квантизацией MXFP4. Модель основана на Mistral-Small-3.2-24B-Instruct-2506 и содержит 24 млрд параметров; в README указана архитектура Dense Transformer с классом Mistral3ForConditionalGeneration и контекст до 131 072 токенов. Для обработки изображений используется проектор mmproj с визуальным энкодером Pixtral ViT.

Nanbeige/Nanbeige4.2-3B-DSpark — веса DSpark для модели Nanbeige4.2-3B, разработанной Nanbeige на основе Nanbeige4.2-3B-Base. Репозиторий предназначен для использования вместе с Nanbeige4.2-3B и заявлен как способ ускорить инференс. Модель относится к семейству Qwen3, использует плотную архитектуру; класс реализации — Qwen3DSparkModel. В метаданных указаны 1,1 млрд параметров, контекст 262 144 токена и формат safetensors. Модель ориентирована на генерацию текста, рассуждения, работу с инструментами и многошаговые сценарии: общие агентные задачи, программирование, офисные процессы и персональный помощник. В README также описаны математические и научные рассуждения. Заявленная разработчиком поддержка английского и китайского языков; README отмечает, что для агентных и инструментальных сценариев применяются соответствующие шаблон чата и внешняя среда-исполнитель. Модель дообучена от Nanbeige/Nanbeige4.2-3B-Base и распространяется по лицензии Apache-2.0. README предупреждает о возможных неточных, предвзятых, дискриминационных или иных вредных ответах. Утверждения о скорости и результатах бенчмарков приведены разработчиком; фактическая производительность зависит от среды запуска и интеграции.

OpenModel-1T-A50B-Instruct — разговорная языковая модель NeXTHub на архитектуре Transformer с разреженной смесью экспертов (MoE). В карточке заявлены 1 трлн общих параметров и 50 млрд активных параметров на проход, однако метаданные Hugging Face указывают 49,6 млрд параметров; для размера ориентиром служат метаданные. Репозиторий содержит веса в формате safetensors, а метаданные указывают контекст 32 768 токенов; заявленные в README 128K токенов расходятся с этим значением. Модель предназначена для диалогов и инструкций, рассуждений, математических задач, генерации и отладки кода, научной работы, анализа данных и использования интерфейса вызова инструментов. README описывает обучение с упором на длинные рассуждения и инструкционную настройку; заявленные в карточке качества и результаты тестов не подтверждены приведёнными метаданными. Языки модели не указаны в доступных данных. Лицензия — Apache-2.0. Ограничения, прямо следующие из источников: сведения о размере и длине контекста в README расходятся с метаданными, а независимая проверка заявленных характеристик и результатов оценки не представлена.

RedHatAI/phi-4-quantized.w4a16 — квантизированная версия языковой модели phi-4, разработанной Microsoft; оптимизацию выполнили Red Hat и Neural Magic. Это авторегрессионная текстовая модель архитектуры Phi3ForCausalLM с текстовым вводом и выводом, предназначенная для генерации текста, диалоговых и conversational-сценариев, задач рассуждения, логики, математики и программирования, преимущественно на английском языке. Модель ориентирована на исследовательское использование и создание генеративных AI-функций в средах с ограниченными ресурсами, а также в сценариях, чувствительных к задержке. Веса линейных операторов в трансформерных блоках квантизированы до INT4 по симметричной групповой схеме с размером группы 128 с применением алгоритма GPTQ через библиотеку llm-compressor. По сравнению с представлением FP16 это примерно на 75% снижает размер на диске и требования к памяти GPU, что может облегчать развертывание и повышать эффективность инференса. В README также указана поддержка развертывания через vLLM и совместимость с Red Hat AI Inference Server, Red Hat Enterprise Linux AI и Red Hat OpenShift AI; максимальный контекст в приведённой конфигурации составляет 32768 токенов. Ограничения включают фокус на английском языке, возможные типичные проблемы языковых моделей с точностью, безопасностью и справедливостью, а также отсутствие специальной оценки для всех прикладных сценариев. Перед использованием в чувствительных и высокорисковых системах необходимы отдельная проверка и меры контроля. Модель распространяется по лицензии MIT.

Qwen3.5-9b-Opus-Openclaw-Distilled-i1-GGUF — это квантизированная в формате GGUF версия модели Qwen3.5-9b-Opus-Openclaw-Distilled. Исходную модель разработал ykarout, а квантизацию выполнил mradermacher. Модель основана на Qwen3.5 и имеет размер около 9 млрд параметров. Модель предназначена для генерации текста, диалоговых сценариев, reasoning-задач, агентских приложений и использования инструментов. В метаданных заявлены поддержка vision, conversational- и agentic-сценариев, а также интеграция с Transformers и text-generation-inference. Указаны языки: английский, арабский, испанский, латынь, турецкий, немецкий, чешский и китайский. Контекстное окно и точная архитектура в README не указаны. Основное преимущество — наличие набора GGUF-квантизаций разных размеров, включая imatrix-вариант, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. При этом низкобитные варианты могут заметно снижать качество; README отдельно характеризует некоторые из них как предназначенные для крайних случаев или имеющие низкое качество. Для обработки изображений могут потребоваться дополнительные mmproj-файлы из связанного репозитория. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-GGUF — набор квантизированных моделей в формате GGUF для llama.cpp, подготовленный BatiAI на основе Qwen/Qwen3.6-35B-A3B от Alibaba. Модель предназначена для локального запуска на устройствах Mac, включая сценарии on-device AI, генерацию текста и кода, многошаговое агентное программирование, работу с репозиториями и вызов инструментов. Указана поддержка английского, корейского, японского и китайского языков. Это текстовая MoE-модель с заявленным общим размером 35B параметров и конфигурацией A3B; доступны варианты квантизации от IQ3 и IQ4 до Q6, Q8 и других K-квантов. Размер файлов составляет примерно от 13 до 35 ГБ, а рекомендуемый объём RAM — от 16 до 48 ГБ в зависимости от варианта. Основной набор является text-only, однако репозиторий также содержит vision projector, позволяющий использовать мультимодальный режим при соответствующей настройке. Поддерживаются ChatML, thinking и tool calling. Сильные стороны модели — ориентация на агентное программирование, рассуждение на уровне репозитория, длительные итеративные задачи, генерацию кода и интеграцию с локальными инструментами. Квантизация и imatrix-калибровка делают возможным запуск на потребительских Mac без облака и API-ключей, но более компактные варианты могут уступать по качеству оригинальной BF16-модели, а запуск требует значительного объёма оперативной памяти. Модель распространяется по лицензии Apache-2.0.

Sarvam-30B — языковая модель, разработанная командой Sarvam Foundation Models. Это модель класса Mixture-of-Experts (MoE), ориентированная на практическое развертывание, мультиязычные диалоги и голосовые вызовы на индийских языках, включая выполнение вызовов инструментов. Она также предназначена для задач рассуждения, генерации кода и общего текстового общения. Модель содержит 30 млрд параметров, из которых 2,4 млрд активируются для отдельного запроса, и представлена в виде FP8-квантизированных весов в формате FP8 E4M3. Архитектура включает 19 слоёв, 128 экспертов с общим экспертом, маршрутизацию top-6, grouped KV attention с четырьмя KV-головами, dense FFN размером 8192 и MoE-FFN размером 1024. Высокое значение rope_theta, равное 8e6, предназначено для стабильной работы с длинным контекстом без дополнительного RoPE scaling, однако точный размер контекстного окна в README не указан. Заявлена передовая производительность для своего размера в 22 индийских языках; также заявлена поддержка английского языка. К сильным сторонам относятся эффективность по памяти и пропускной способности, сниженные требования к ресурсам благодаря MoE и FP8-квантизации, а также сочетание рассуждения, программирования, диалогового взаимодействия и поддержки индийского языкового контекста. Ограничением является необходимость специальной настройки инфраструктуры: для запуска рекомендуются SGLang или модифицированная версия либо hot-patch для vLLM, а точная производительность зависит от оборудования и конфигурации. Модель распространяется по лицензии Apache 2.0.

Bagel DPO 7B v0.4 — разговорная языковая модель, созданная jondurbin на основе Mistral 7B v0.1 и дополнительно обученная методом direct preference optimization (DPO). Она предназначена для генерации ответов в чате, следования инструкциям и задач общего назначения, включая вопросы по контексту, математику, программирование, суммаризацию и творческое письмо. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В обучении использованы наборы инструкций и предпочтений по разным темам, в том числе код, естественные науки, чтение, диалоги и художественное письмо. Карточка указывает четыре совместимых формата промпта: Vicuna, Llama 2, Alpaca и ChatML. Модель рассчитана на генерацию текста и диалоговое применение. Карточка отмечает, что версия без DPO может быть лучше для ролевых диалогов; в наборе данных присутствуют токсичные примеры, поэтому выходы могут содержать токсичный или иной нежелательный контент. Распространяется по лицензии Apache-2.0.

Dolphin3.0-Mistral-24B-GGUF — это набор квантованных GGUF-версий языковой модели Dolphin3.0-Mistral-24B, разработанной cognitivecomputations и подготовленной quantized_by bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp; поддерживается формат prompt с ролями system, user и assistant. В README указан английский язык, однако полного описания языковых возможностей нет. Модель имеет 24 млрд параметров и поставляется в вариантах от F32 до низкобитных Q3, Q4, Q5, Q6, Q8 и IQ-квантизаций. Размер файлов составляет примерно от 12,4 до 94,3 ГБ, поэтому требования к памяти зависят от выбранного варианта. Доступны версии, ориентированные на высокое качество, экономию памяти, работу на CPU и Apple Silicon. Среди заявленных наборов данных для обучения или дообучения — OpenCoder, Orca, NuminaMath, Hermes Function Calling, Tulu, Dolphin Coder и другие коллекции инструкций, программного кода и математических задач. Сильные стороны модели — большой размер, широкий набор обучающих данных, поддержка задач генерации текста, программирования, математики и function calling, а также возможность локального запуска с разным компромиссом между качеством и потреблением памяти. Ограничения — отсутствие в README сведений о длине контекста, архитектурных деталях, мультимодальности, результатах тестирования, системных требованиях для конкретных конфигураций и лицензии. Условия лицензирования в предоставленных данных не указаны.

CortexLM выпустила Cortex-Mini-1-Preview — предварительную версию модели Qwen/Qwen3.8-27B, дополнительно обученную методом post-training. Это плотная причинная языковая модель с нативной обработкой изображений и видео, содержащая 27 млрд параметров. Репозиторий использует Transformers и формат Safetensors. Модель предназначена для диалогов, программирования, агентных сценариев и задач «изображение—текст», а также для исследований и дальнейшей адаптации. Она принимает текст, изображения и видео и генерирует текст. Унаследованный от базовой модели контекст составляет 262 144 токена; с YaRN он может расширяться до 1 000 000 токенов. В карточке указаны английский и китайский языки. Лицензия — Apache 2.0. Это preview-чекпойнт: веса, рецепт обучения, API, дополнительные элементы токенизатора и шаблон чата могут меняться. До замены базовой Qwen3.8-27B следует сравнить поведение, поскольку post-training может повлиять на стиль, отказы и использование инструментов. Настройки длинного контекста и обработки видео унаследованы от Qwen и отдельно не перенастраивались; публичные метрики качества не представлены.

Falcon-H1-1.5B-Instruct-GGUF — инструкционная языковая модель, разработанная Technology Innovation Institute (TII). Это каузальная decoder-only модель с гибридной архитектурой Transformers и Mamba, предназначенная для генерации текста и выполнения инструкций, включая задачи рассуждения, математики, работы с научными вопросами, программирования и следования сложным указаниям. Модель доступна в формате GGUF и рассчитана на использование с llama.cpp; также поддерживается запуск через Transformers и vLLM. Модель относится к семейству Falcon-H1 и имеет размер 1,5 млрд параметров. Она поддерживает английский и многоязычные сценарии, включая арабский, китайский, чешский, немецкий, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский и урду. В опубликованных оценках Falcon-H1-1.5B показывает сильные результаты среди сопоставимых компактных моделей в общих задачах, математике, научных вопросах, программировании и следовании инструкциям, однако уступает некоторым моделям на отдельных тестах. Длина контекста и точные требования к ресурсам в README не указаны. Использование регулируется лицензией Falcon-LLM License; приведена ссылка на её условия. Модель подходит для локального запуска и приложений, где важны компактность, многоязычность и эффективность, но результаты следует дополнительно проверять для критически важных задач.

Fusion-14B-Instruct — объединённая языковая модель на архитектуре Qwen2, созданная автором репозитория с помощью mergekit. В основе объединения лежит Qwen/Qwen2.5-14B; также использованы arcee-ai/Virtuoso-Small и qingy2024/Qwen2.5-Math-14B-Instruct-Preview. Применён метод DARE TIES, веса сохранены в формате safetensors; размер модели — 14 млрд параметров. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, рассуждений и математических задач. Она поддерживает интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. В метаданных указана поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Лицензия в предоставленных данных не указана.

Gemma 3n E4B — мультимодальная генеративная модель Google с открытыми весами, предназначенная для эффективной работы на устройствах с ограниченными ресурсами. Она принимает текст, изображения, видео и аудио, а выдаёт текст; карточка описывает запуск через библиотеку Transformers. Модель содержит 8 млрд параметров, но благодаря выборочной активации параметров и выгрузке редко используемых матриц рассчитана на объём памяти, сопоставимый с обычной моделью на 4 млрд параметров. Архитектура MatFormer позволяет использовать вложенную подмодель E2B и создавать варианты других размеров методом Mix-and-Match. Обучение охватывает более 140 разговорных языков. Модель подходит для диалоговых помощников, генерации и суммаризации текста, анализа изображений и видео, транскрибирования и перевода речи. Возможны предвзятые, фактически неверные или устаревшие ответы; модель может испытывать трудности с нюансами языка и сложными открытыми задачами. Лицензия — Gemma; условия использования определяются лицензией Gemma.

Это 4-битная MXFP4-квантизация инструкционной модели Google Gemma 4 12B-it, подготовленная FreedomAISVR в формате GGUF. В основе лежит плотный декодерный трансформер Gemma4ForCausalLM с 12,08 млрд параметров; README указывает размер файла 6,3 ГБ и целевую платформу — видеокарты NVIDIA Blackwell, включая RTX 50-й серии. Модель предназначена для диалогов и генерации текста по инструкциям: она подходит для ответов на вопросы, рассуждений и задач по коду. Базовая Gemma 4 поддерживает мультимодальное понимание, однако в этой карточке репозитория заявлена задача text-generation и возможность чата; другие входные модальности для данной сборки не подтверждены. README сообщает о контексте до 256 тыс. токенов и приводит результаты скорости на RTX 5060 Ti 16 ГБ. Квантизация уменьшает требования к памяти и ориентирована на запуск локально с llama.cpp на совместимом оборудовании; качество и скорость могут зависеть от реализации и аппаратуры. Модель распространяется по лицензии Apache-2.0. Sведения о поддерживаемых естественных языках в карточке ограничены английским языковым тегом.

German-RAG-LLAMA-3.1-8B-CPT-HESSIAN-AI — авторегрессионная трансформерная языковая модель, разработанная командой Avemio AI при поддержке Hessian AI. Это продолжительно предобученная версия Meta-Llama-3.1-8B: в метаданных указано 7,5 млрд параметров, архитектура LlamaForCausalLM и контекст до 131 072 токенов. Модель предназначена для работы с немецким и английским языками, с акцентом на немецкий. Она обучалась на датасете German-RAG-CPT и ориентирована на ответы на вопросы с опорой на предоставленный контекст, структурированные рассуждения и суммаризацию. Её можно использовать в сценариях RAG, передавая найденные документы вместе с вопросом. Модель может генерировать недостоверные ответы и чувствительный или вредоносный контент; результаты следует проверять, а для прикладных систем предусмотреть меры безопасности. Метаданные Hugging Face указывают лицензию Llama 3.1, тогда как README заявляет Apache 2.0 для кода и модели; условия распространения весов следует сверить с лицензией репозитория.

GLM-4-9B — плотная языковая модель с архитектурой ChatGLM, разработанная Zhipu AI и выпущенная как открытая базовая версия семейства GLM-4. Модель содержит 10,7 млрд параметров и принимает текст, формируя текстовые ответы; базовая версия поддерживает контекст до 8 192 токенов. Модель предназначена для генерации текста и решения задач на понимание языка, знания, математику, рассуждение и программирование. Семейство GLM-4 поддерживает 26 языков, включая японский, корейский и немецкий; карточка также указывает китайский и английский. Упомянутые в README возможности многоходового диалога, вызова инструментов и контекста до 128K относятся к версии GLM-4-9B-Chat, а не к этому базовому чекпойнту. Весы распространяются в формате safetensors. Лицензия указана как other; README отсылает к LICENSE репозитория для условий использования. Заявленные в карточке сравнительные результаты не гарантируют качество на конкретных данных и сценариях.

Mungert/granite-3.0-8b-instruct-GGUF — квантованная GGUF-версия инструкционной языковой модели Granite 3.0 с 8 млрд параметров. Базовая модель — ibm-granite/granite-3.0-8b-base; модель предназначена для генерации текста и выполнения инструкций, включая рассуждения, ответы на вопросы, работу с кодом, математические задачи и задачи на понимание прочитанного. Разработчик GGUF-сборки — Mungert; исходное семейство моделей разработано IBM Granite. Модель создана с использованием llama.cpp. В README не указаны архитектурные детали, максимальная длина контекста, точный набор языков и конкретные варианты квантования. Упоминается экспериментальный подход к квантованию с повышением точности отдельных важных слоёв с помощью параметра --tensor-type; автор сообщает об улучшении точности на заданном уровне квантования ценой увеличения размера файла. Приведены результаты на англоязычных и многоязычных тестах, включая IFEval, MT-Bench, MMLU, HumanEval, GSM8K, PAWS-X и MGSM, однако их достоверность в метаданных не подтверждена. Модель подходит для локального запуска в совместимых инструментах экосистемы llama.cpp и сценариев, где важны снижение требований к памяти и возможность самостоятельного развертывания. Ограничения связаны с потерями качества, характерными для квантованных моделей, отсутствием подробных сведений о конфигурации и тем, что README не содержит инструкций по выбору конкретного файла квантования. Лицензия указана как Apache 2.0.