I.3Извлечение и структурирование данных

Sawfwair подготовила вариант Meta Muse-Glimmer-30B для запуска на Apple Silicon через MLX и среду mere.run. Это плотная мультимодальная модель с причинным трансформером и визуальным энкодером; базовая модель содержит около 29,6 млрд параметров. В этой сборке применена выборочная 4-битная аффинная квантизация с размером группы 64: часть матриц квантована, а визуальный энкодер, эмбеддинги токенов и некоторые другие веса сохранены в BF16. Модель предназначена для диалоговых агентных задач с текстом и изображениями: анализа скриншотов, графиков, документов и изображений, планирования шагов, вызова инструментов, программирования и генерации синтетических данных. Она принимает текст и изображения и выдаёт текст. Карточка описывает Muse Glimmer как коммерческую и исследовательскую модель; для этой сборки указана лицензия Apache-2.0. Модель может ошибаться в многошаговых рассуждениях и давать неточные, предвзятые или нежелательные ответы. Квантизация может немного ухудшать качество в отдельных случаях; качество также может быть ниже на языках, которые недостаточно представлены в оценках. Вход и выход аудио не поддерживаются.

Карточка модели TreezzZ/opd-teacher-alfworld-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Карточка модели TreezzZ/opd-teacher-search-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

duyntnet/Qwen2.5-7B-Instruct-imatrix-GGUF — набор imatrix-квантизированных версий инструкционно дообученной текстовой модели Qwen2.5-7B-Instruct. Исходную модель разработала команда Qwen компании Alibaba Cloud. Репозиторий предназначен для локального запуска и генерации текста через llama.cpp, KoboldCPP, text-generation-webui и Ollama. Модель представляет собой авторегрессионную causal language model на базе архитектуры Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Она содержит 7,61 млрд параметров, 28 слоёв и использует GQA с 28 головами запросов и 4 головами ключей и значений. Модель ориентирована на диалог, следование инструкциям, генерацию длинных текстов, работу со структурированными данными и создание структурированных ответов, включая JSON, а также на задачи программирования и математики. Поддерживается более 29 языков, включая русский, английский, китайский, французский, немецкий, испанский, японский и корейский. Заявленная длина контекста составляет до 131 072 токенов, а максимальная длина генерации — 8192 токена. При этом исходная конфигурация рассчитана на 32 768 токенов; для работы с более длинными входами требуется включение расширения YaRN с указанными параметрами. Квантизация снижает требования к ресурсам и упрощает локальный запуск, но конкретные характеристики качества, скорости и потребления памяти зависят от выбранного варианта GGUF. В репозитории указана лицензия other, без подробного описания условий использования.

Qwen3.5-2B-MTP-GGUF — набор GGUF-файлов, подготовленный prithivMLmods на основе Qwen3.5-2B от команды Qwen компании Alibaba. Это компактная плотная мультимодальная модель примерно на 2 млрд параметров с поддержкой текста, изображений и видео. Модель ориентирована на локальный запуск на потребительском оборудовании и доступна в вариантах от Q2_K до BF16, а также с отдельными мультимодальными проекторами mmproj. Архитектура включает 24 слоя с гибридным сочетанием Gated DeltaNet и Gated Attention, скрытым размером 2048, 8 Q-heads и 2 KV-heads с размерностью головы 256. Заявлены словарь на 248 тысяч токенов, поддержка 201 языка и нативное контекстное окно 262 тысячи токенов с возможностью расширения свыше 1 млн токенов через YaRN. Формат MTP добавляет несколько выходных голов для предсказания будущих токенов и может ускорять спекулятивное декодирование без отдельной draft-модели. Модель предназначена для мультиязычных чат-ботов, визуальных вопросов и ответов, OCR, разбора документов, агентских сценариев, вызова инструментов и генерации кода для интерфейсов. Среди заявленных характеристик — режим пошагового рассуждения, поддержка vLLM, Ollama и llama.cpp, а также показатели 78,6% на IFEval, 66,5% на MMLU-Pro с включённым режимом рассуждения, 84,5% на OCRBench и 75,6% на VideoMME. Преимуществами являются малый размер, мультимодальность и широкий контекст; итоговое качество, скорость и требования к памяти зависят от выбранного типа квантизации, а для работы с изображениями и видео требуются соответствующие файлы mmproj. Распространяется по лицензии Apache 2.0.

mlx-community/Qwen3.6-27B-OptiQ-4bit — это квантизированная MLX-версия языковой модели Qwen/Qwen3.6-27B, созданная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для локального запуска на устройствах с Apple Silicon без PyTorch и облачных сервисов, а также для генерации текста, рассуждений, программирования, следования инструкциям, работы с агентными сценариями и вызовами инструментов. Модель использует смешанную точность: 276 слоёв представлены в 4-битном формате, а 220 наиболее чувствительных слоёв — в 8-битном; размер группы составляет 64. Общий объём на диске — около 17,5 ГБ. В комплект входит MTP-голова для speculative decoding, которая при использовании mlx-optiq может ускорять декодирование примерно в 1,4 раза. README не указывает поддерживаемые языки и размер контекстного окна. Для загрузки доступна библиотека mlx-lm, а расширенные возможности предоставляет mlx-optiq. По приведённым тестам модель демонстрирует высокие результаты в MMLU, GSM8K, следовании инструкциям, вызове функций, генерации кода и извлечении данных из длинного контекста; средний Capability Score составляет 86,04. Ограничениями являются необходимость совместимого оборудования Apple Silicon, больший размер по сравнению с равномерной 4-битной версией и некоторое снижение результатов в отдельных тестах относительно неё. Модель распространяется по лицензии Apache 2.0 и наследует её от базовой модели.

Qwen3.8-27B-Uncensored-NVFP4 — квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, созданная preetpatel на базе Qwen3.8-27B от Qwen. Исходная модель представляет собой abliteration/fine-tune без встроенных ограничений, ориентированный авторами на red teaming и исследования. Данный репозиторий изменяет числовой формат весов и не выполняет дополнительное обучение. Модель предназначена для генерации текста, рассуждений, программирования, работы в составе coding-agent, вызова инструментов и обработки изображений. Поддерживаются текстово-графические сценарии, function calling и вывод рассуждений через тег <think>. Заявлены английский и китайский языки. Модель использует гибридную архитектуру с gated-DeltaNet и linear-attention блоками; квантизация NVFP4 по схеме W4A4 применяется к весам и активациям линейных слоёв, а vision tower, lm_head и некоторые слои сохраняются в BF16. Размер весов составляет около 19 ГБ вместо примерно 56 ГБ в BF16. На одной RTX 5090 с 32 ГБ памяти заявлена работа с контекстом до 160 тысяч токенов при использовании vLLM и FP8 KV-cache. К сильным сторонам относятся низкое потребление видеопамяти, поддержка длинного контекста, изображений, структурированных вызовов инструментов и сценариев автономного агента. README сообщает об успешных тестах извлечения данных из контекста длиной до 155 тысяч токенов, параллельной обработке запросов и tool calling. Ограничения включают привязку оптимизаций к GPU Blackwell и совместимому окружению vLLM, а также небольшое дополнительное округление при слиянии некоторых квантизированных слоёв; возможное влияние на точные бенчмарки следует учитывать. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Карточка модели Content-AI/Qwen3-Embedding-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — многоязычная модель эмбеддингов текста семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen/Qwen3-0.6B-Base с плотной архитектурой Qwen3ForCausalLM и примерно 507,6 млн параметров. Модель предназначена для преобразования текста в векторы и поиска семантически близких текстов; её применяют для поиска и извлечения документов, поиска по коду, классификации, кластеризации и сопоставления параллельных текстов. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст до 32 768 токенов и выдаёт эмбеддинги размерностью до 1024, включая пользовательские размерности от 32 до 1024. Она поддерживает инструкции, настраиваемые под задачу, язык или сценарий, что может улучшать качество поиска. README описывает серию как сильную в многоязычных задачах эмбеддингов, но приведённые в нём отдельные лидирующие результаты относятся к модели 8B, а не к версии 0.6B. Для использования требуется совместимая версия Transformers: в версиях ранее 4.51.0 возможно возникновение ошибки распознавания архитектуры. Лицензия — Apache-2.0.

Карточка модели ejenpkewSnau/Qwen3-Embedding-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — многоязычная модель эмбеддингов текста семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen/Qwen3-0.6B-Base с плотной архитектурой Qwen3ForCausalLM и примерно 507,6 млн параметров. Модель предназначена для преобразования текста в векторы и поиска семантически близких текстов; её применяют для поиска и извлечения документов, поиска по коду, классификации, кластеризации и сопоставления параллельных текстов. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст до 32 768 токенов и выдаёт эмбеддинги размерностью до 1024, включая пользовательские размерности от 32 до 1024. Она поддерживает инструкции, настраиваемые под задачу, язык или сценарий, что может улучшать качество поиска. README описывает серию как сильную в многоязычных задачах эмбеддингов, но приведённые в нём отдельные лидирующие результаты относятся к модели 8B, а не к версии 0.6B. Для использования требуется совместимая версия Transformers: в версиях ранее 4.51.0 возможно возникновение ошибки распознавания архитектуры. Лицензия — Apache-2.0.

AI21 Jamba 1.5 Mini — языковая модель общего назначения от AI21, построенная на гибридной архитектуре Jamba, сочетающей Transformer и Mamba (SSM), с механизмом Mixture of Experts. В README указаны 12 млрд активных и 52 млрд общих параметров и контекст до 256 тыс. токенов. Модель предназначена для диалогов и следования инструкциям, включая генерацию текста, работу с длинными документами, структурированный вывод в JSON, вызов инструментов и генерацию ответов с опорой на предоставленный контекст. Модель поддерживает английский, испанский, французский, португальский, итальянский, нидерландский, немецкий, арабский и иврит; основной язык не выделен. В карточке заявлены высокая скорость вывода и эффективная работа с длинным контекстом. Для запуска нужны совместимые CUDA-ускорители и оптимизированные реализации Mamba; в FP16/BF16 Mini не помещается на одну GPU с 80 ГБ памяти, а режим ExpertsInt8 позволяет развернуть её на такой GPU. Модель распространяется по Jamba Open Model License, допускающей исследования и коммерческое использование на её условиях. README предупреждает, что эта версия подлежит устареванию с 6 мая 2024 года.

Calcium-Opus-14B-Elite3 — диалоговая языковая модель на базе Qwen2.5-14B-Instruct, дообученная разработчиком на данных для пошагового рассуждения. Это плотная архитектура Qwen2 с 14 млрд параметров, предназначенная для генерации текста, следования инструкциям и решения многоэтапных задач, включая математику и программирование. Модель принимает текст и формирует текстовые ответы; поддерживает контекст до 131 072 токенов и, по карточке, генерацию ответов длиной более 8 тысяч токенов. Карточка заявляет поддержку более 29 языков, включая английский, русский, китайский, французский, испанский, немецкий, японский и арабский. Среди описанных сильных сторон — структурированные ответы, в том числе JSON, работа с таблицами, кодом и математическими задачами. Модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка предупреждает о возможных ошибках и повторениях в длинных или творческих ответах, неодинаковом качестве между языками и отсутствии актуальных сведений о событиях после обучения; для работы с длинным контекстом нужны значительные вычислительные ресурсы.

coder3101 представил дообученную мультимодальную модель на базе Google Gemma 4 E2B-it. Она предназначена для диалогов, рассуждений, генерации и исправления кода, анализа изображений и выполнения задач с инструментами. Архитектура — плотная Gemma4ForConditionalGeneration; модель работает с текстом и изображениями. В карточке семейства также заявлена обработка аудио и видео, однако поддержка этих возможностей именно этой производной версии не подтверждена. Модель подходит для чат-ботов, суммаризации, извлечения сведений из изображений и документов, распознавания текста и помощи с программированием. Для Gemma 4 E2B указано контекстное окно до 128 тысяч токенов; семейство поддерживает более 35 языков. Производная опубликована в формате safetensors по лицензии Apache 2.0. Возможны фактические ошибки, предвзятость и трудности с неоднозначными или сложными запросами. В названии и тегах версии заявлены uncensored/abliterated характеристики, но README не описывает метод изменения поведения или его последствия.

coder3101/gemma-4-E4B-it-qat-q4_0-unquantized-heretic — производная диалоговая мультимодальная модель на основе Google Gemma 4 E4B-it, опубликованная пользователем coder3101. Это плотная модель семейства Gemma 4 для обработки текста и изображений; карточка также описывает для семейства поддержку видео и аудио в вариантах E4B, хотя возможности именно этой сборки отдельно не подтверждены. Архитектура Gemma4ForConditionalGeneration использует гибридное внимание с локальными скользящими окнами и глобальными слоями. Для E4B в карточке семейства указан контекст до 128 тысяч токенов. Модель предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, OCR, а также агентных сценариев с вызовом инструментов. Карточка семейства заявляет поддержку более 35 языков, но не перечисляет языки именно этой сборки. Метаданные указывают на дообучение от Google Gemma 4 E4B-it QAT и формат safetensors; название и теги описывают сборку как uncensored/abliterated. Лицензия — Apache-2.0. Ответы могут содержать фактические ошибки, а качество зависит от формулировки запроса, сложности задачи и охвата обучающих данных; возможны трудности с языковыми нюансами и предвзятостью. Возможности аудио и видео приведены для семейства в целом и не подтверждены отдельно для данного репозитория.

Карточка модели Cup4/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Giga-Retrieval-instruct — русскоязычная модель эмбеддингов семейства GigaREmbed от ai-sage, созданная на базе прореженной decoder-only LLM GigaChat-3b. Она преобразует тексты в векторы размерностью 2048 с помощью pooling на основе latent attention и предназначена прежде всего для семантического поиска и извлечения релевантных фрагментов. Для retrieval рекомендуется добавлять краткую инструкцию перед запросом, но не перед документом; модель также можно настраивать инструкциями для разных задач эмбеддингов. Модель поддерживает русский и английский языки, однако разработчики рекомендуют использовать её прежде всего для русского. Вход ограничен 4096 токенами. Лицензия — MIT.

Granite-3.0-1B-A400M-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов, в том числе для бизнес-сценариев. Это дообученная версия Granite-3.0-1B-A400M-Base: обучение включало supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Модель использует декодерный разреженный Transformer с архитектурой Mixture of Experts (MoE); в метаданных указан размер 163,6 млн параметров и контекст до 4096 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, вызова функций и многоязычного диалога. Карточка заявляет поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Лицензия — Apache 2.0. Качество на языках кроме английского может быть ниже; few-shot-примеры могут улучшить ответы в многоязычных сценариях. Модель способна выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует проверять и настраивать для конкретного применения.

Карточка модели Rampage1219hf/Hermes-4.3-36B на Hugging Face совпадает с карточкой NousResearch/Hermes-4.3-36B, поэтому описание составлено по ней. Hermes 4.3 36B — языковая модель для диалогов и следования инструкциям, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Это плотная архитектура Seed OSS с 31,7 млрд параметров и контекстом до 524 288 токенов; модель распространяется в формате safetensors и рассчитана прежде всего на английский язык. Модель предназначена для рассуждений и ответов общего назначения, включая задачи по математике, программированию, STEM, логике и творческому письму. Она поддерживает гибридный режим рассуждений, вызов инструментов, а также формирование структурированных ответов и JSON по заданной схеме. Для диалогов используется шаблон чата Hermes на основе формата Llama 3. По описанию разработчика, при дообучении использовался корпус примерно из 5 млн примеров и 60 млрд токенов, с акцентом на проверяемые цепочки рассуждений и точное соблюдение формата. Модель выпущена под лицензией Apache-2.0. Для запуска на сервере с несколькими GPU разработчик рекомендует движки инференса вроде SGLang или vLLM; качество и скорость зависят от настроек и аппаратного обеспечения.

genevaquant/Hermes-4-405B-u — вариант Hermes 4 405B от GenevaQuant, созданный на основе NousResearch/Hermes-4-405B. Это плотная авторегрессионная модель семейства Llama 3.1 с 403,7 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса Safetensors и исправления шаблона чата Unsloth; для llama.cpp в карточке рекомендуется режим --jinja. Модель предназначена для диалогов и следования инструкциям, рассуждений, задач по математике, программированию, STEM и логике, а также генерации ответов в заданном формате, включая JSON. Поддерживает интерфейс вызова инструментов. README описывает гибридный режим рассуждений и заявляет улучшения в управляемости, качестве рассуждений и структурированной генерации. Карточка указывает английский язык. Это крупная модель, для обслуживания которой README рекомендует многопроцессорные серверы с SGLang или vLLM; качество и корректность структурированного вывода зависят от промпта и настроек инференса. Лицензия репозитория — Llama 3; ознакомьтесь с её условиями перед использованием.

genevaquant/Hermes-4-70B-u — дообученная модель genevaquant на базе NousResearch/Hermes-4-70B, построенная на плотной архитектуре Llama 3.1 с 69,5 млрд параметров. Она предназначена для диалогов и генерации текста, включая рассуждения, математику, программирование, задачи STEM и создание ответов в заданном формате; модель поддерживает контекст до 131 072 токенов. Модель использует формат чата Llama и поддерживает режим рассуждений, вызов инструментов и структурированный вывод, в том числе JSON по заданной схеме. В карточке указана лицензия Llama 3. Отдельных оценок качества именно этой версии genevaquant карточка не приводит; для работы требуются значительные вычислительные ресурсы, соответствующие модели на 70 млрд параметров.

Llama-Krikri-8B-Instruct-GGUF — инструкционная большая языковая модель, разработанная ILSP на основе Llama 3.1 8B. Модель ориентирована прежде всего на греческий язык, сохраняя двуязычные возможности для греческого и английского. Она создана с помощью дополнительного предварительного обучения на корпусе объёмом 91 млрд токенов с последующим увеличением эффективного объёма до 110 млрд токенов, а также многоэтапного дообучения на инструкциях и предпочтениях пользователей. Модель предназначена для диалогов, следования инструкциям, генерации, понимания, редактирования и суммаризации текста, анализа тональности и сущностей, перевода между греческим и английским, французским, немецким, итальянским, португальским и испанским языками. Также заявлены применение в юридических, финансовых, медицинских и научных сценариях, Retrieval-Augmented Generation по нескольким документам, структурированное преобразование данных в XML или JSON, программирование, использование инструментов и агентские задачи. Модель имеет архитектурную основу Llama 3.1 8B, расширенный токенизатор с греческими токенами и контекстное окно 128 тысяч токенов, что соответствует примерно 80 тысячам греческих слов. В обучающих данных представлены греческие, английские, параллельные, математические и программные тексты; постобучение проводилось на греческих и английских инструкциях, многошаговых диалогах и preference triplets с применением Length Normalized DPO. К сильным сторонам относятся специализация на греческом языке, поддержка английского, длинный контекст и широкий набор текстовых и структурированных задач. Ограничения, точные показатели качества и требования к аппаратному обеспечению в README не указаны. Лицензия обозначена как llama3.1.

unsloth/Qwen2.5-7B-unsloth-bnb-4bit — четырёхбитная версия базовой языковой модели Qwen2.5-7B, подготовленная Unsloth с использованием динамического 4-bit-квантования. Разработчик исходной модели — команда Qwen; Unsloth предоставляет оптимизированный формат для запуска и дообучения с меньшими требованиями к памяти. Модель предназначена для генерации и понимания текста, программирования, математических задач, следования инструкциям, работы со структурированными данными и формирования структурированных ответов, включая JSON. Она поддерживает китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие языки. Для серии Qwen2.5 заявлена поддержка контекста до 128 тысяч токенов и генерация до 8 тысяч токенов. Ключевые преимущества — размер около 7 миллиардов параметров, экономичное 4-bit-представление и заявленное Unsloth улучшение точности по сравнению со стандартным 4-bit-квантованием. Модель является текстовой causal language model и не предназначена для работы с изображениями или другими модальностями. Как базовая, а не instruction-tuned модель, она не рекомендуется для диалогового использования без дополнительного дообучения или подходящего шаблона запросов. Лицензия — Apache 2.0.

Qwen3.8-27B-GPTQ-INT4-FP8KV — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная пользователем abhishekchohan на базе Qwen/Qwen3.8-27B. Модель предназначена для диалогов, рассуждений, решения математических и научных задач, программирования, следования инструкциям, работы с длинным контекстом и анализа изображений. Поддерживаемые языки в README не указаны. Используется 4-битное GPTQ-квантование весов в формате W4A16 с асимметричными группами размера 32, а также FP8 E4M3 KV-кэш с откалиброванными масштабами. Размер модели — 27B параметров; текстовая часть включает 64 гибридных слоя attention и DeltaNet, а визуальная часть основана на замороженном ViT-энкодере. Сохраняется нативный контекст до 262 144 токенов, с расширением YaRN до 524 288 токенов на GPU с 48 ГБ и до 1 млн токенов на 96 ГБ, однако поиск за пределами 262 144 токенов не валидировался. Контрольная точка занимает около 20 ГБ и рассчитана на запуск через vLLM, включая speculative decoding. Главные преимущества — существенно сниженное потребление памяти, возможность обслуживания нативного длинного контекста на одной 48-ГБ GPU и результаты бенчмарков, сопоставимые с BF16-версией: средний показатель на заявленном наборе тестов составил 70,29 против 70,04 у базовой модели, а извлечение информации из контекста прошло без деградации на 262 144 токенах. Ограничения включают возможную зависимость результатов генерации от GPU и конфигурации, а также неизбежные риски квантования; отдельные тесты показали небольшое снижение качества. Модель распространяется по лицензии Apache-2.0.

jakejb53/Qwen3.8-27B-heretic — производная от Qwen/Qwen3.8-27B модель, дообученная для снижения числа отказов: в приведённом сравнении она отказала в 0 из 100 случаев против 63 из 100 у исходной модели. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, основанная на архитектуре Qwen3.5 и предназначенная для диалогов с текстом и изображениями; семейство поддерживает также анализ видео. Модель использует формат Transformers и веса safetensors в bf16, совместима с Transformers, vLLM и SGLang. Модель подходит для программирования, профессиональных и исследовательских задач, анализа изображений и документов, а также многошаговых сценариев с планированием. Контекст базовой модели составляет 262 144 токена с возможностью расширения до 1 млн; README указывает, что режим рассуждений включён по умолчанию и может настраиваться. Снижение отказов может приводить к ответам на запросы, которые исходная модель отклоняла. В репозитории указана лицензия Apache-2.0.

Карточка модели Yaldat/Yalda-Embedding5 на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — многоязычная модель эмбеддингов текста семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen/Qwen3-0.6B-Base с плотной архитектурой Qwen3ForCausalLM и примерно 507,6 млн параметров. Модель предназначена для преобразования текста в векторы и поиска семантически близких текстов; её применяют для поиска и извлечения документов, поиска по коду, классификации, кластеризации и сопоставления параллельных текстов. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст до 32 768 токенов и выдаёт эмбеддинги размерностью до 1024, включая пользовательские размерности от 32 до 1024. Она поддерживает инструкции, настраиваемые под задачу, язык или сценарий, что может улучшать качество поиска. README описывает серию как сильную в многоязычных задачах эмбеддингов, но приведённые в нём отдельные лидирующие результаты относятся к модели 8B, а не к версии 0.6B. Для использования требуется совместимая версия Transformers: в версиях ранее 4.51.0 возможно возникновение ошибки распознавания архитектуры. Лицензия — Apache-2.0.

Карточка модели Yaldat/Yalda-Embedding-Scratch на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — многоязычная модель эмбеддингов текста семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen/Qwen3-0.6B-Base с плотной архитектурой Qwen3ForCausalLM и примерно 507,6 млн параметров. Модель предназначена для преобразования текста в векторы и поиска семантически близких текстов; её применяют для поиска и извлечения документов, поиска по коду, классификации, кластеризации и сопоставления параллельных текстов. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст до 32 768 токенов и выдаёт эмбеддинги размерностью до 1024, включая пользовательские размерности от 32 до 1024. Она поддерживает инструкции, настраиваемые под задачу, язык или сценарий, что может улучшать качество поиска. README описывает серию как сильную в многоязычных задачах эмбеддингов, но приведённые в нём отдельные лидирующие результаты относятся к модели 8B, а не к версии 0.6B. Для использования требуется совместимая версия Transformers: в версиях ранее 4.51.0 возможно возникновение ошибки распознавания архитектуры. Лицензия — Apache-2.0.

airoboros-33b-3.1.2 — экспериментальная разговорная модель jondurbin на архитектуре Llama, дообученная на наборе airoboros-3.1, в основном состоящем из синтетических данных. Она предназначена для следования инструкциям и многошаговым запросам, ответов на вопросы по предоставленному контексту, суммаризации, извлечения сведений из журналов и генерации кода. Модель использует шаблон диалога Llama 2 и поддерживает контекст до 2048 токенов по метаданным; в README автор указывает, что при дообучении применял rope scaling для увеличения контекста до 4096 токенов. В репозитории указаны 32,3 млрд параметров и формат safetensors. Среди заявленных сценариев также генерация аргументов для вызова функций и построение текстовых планов выполнения. Это только генерация текста: для реального вызова инструментов требуется внешняя система, которая разбирает и исполняет такой план. Модель ориентирована на инструкции, а не на непринуждённый чат или ролевую игру; автор рекомендует низкую температуру генерации. Базовая модель — llama-30b-hf. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

AraGemma-Embedding-300m — модель эмбеддингов, созданная Omartificial-Intelligence-Space на основе EmbeddingGemma-300M от Google DeepMind. Её дообучили на 1 млн арабских триплетов с использованием Matryoshka Representation Learning для улучшения понимания смысла арабских текстов. Модель принимает текст на арабском и других языках и возвращает плотный вектор размерности 768. Она поддерживает усечение векторов до 512, 256 или 128 измерений с повторной нормализацией и контекст до 2048 токенов. Подходит для семантического поиска и извлечения данных, сравнения предложений, кластеризации, классификации документов и подготовки фрагментов для RAG; также поддерживает межъязыковой поиск. Совместима с Sentence Transformers и Transformers. Модель компактна относительно крупных языковых моделей и рассчитана на эффективное развёртывание, включая локальные устройства. В README приведены результаты сравнения с арабскими моделями эмбеддингов на STS17 и STS22-v2. По карточке, активации эмбеддингов не поддерживают float16: используйте float32 или bfloat16. Лицензия — Apache-2.0.

Galactic-Qwen-14B-Exp2 — языковая модель PrithivMLmods для генерации текста, диалогов и решения задач на рассуждение. Это плотная модель семейства Qwen2, содержащая 14 млрд параметров и дообученная на базе prithivMLmods/Lacerta-Opus-14B-Elite8 с использованием модели, обученной на длинных цепочках рассуждений, и специализированных наборов данных. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для ответов на вопросы, логических выводов, многошагового решения задач, следования инструкциям, объяснений, суммаризации и генерации структурированного текста, включая JSON. Она поддерживает контекст до 131 072 токенов; в карточке также заявлена генерация до 8 000 токенов за один ответ и поддержка более 29 языков, включая английский, китайский и русский. Заявленные сценарии включают образовательную помощь, чат-ботов, многоязычную коммуникацию и создание длинных текстов. Карточка приводит результаты IFEval (66,20%) и BBH (59,92%), но не содержит подробностей методики оценки. Среди ограничений указаны высокие требования к памяти при работе с длинным контекстом, возможная предвзятость и ошибки, чувствительность к формулировке запроса и отсутствие доступа к актуальным событиям. Лицензия — Apache-2.0.

google/gemma-3-4b-it-qat-q4_0-gguf — мультимодальная instruction-tuned модель Gemma 3, разработанная Google DeepMind. Она использует открытые веса и предназначена для генерации текста и понимания изображений: ответов на вопросы, суммаризации документов, рассуждений, анализа визуального содержимого и извлечения информации из изображений. Модель принимает текст и изображения, а выдаёт текст. Это 4B-версия в формате GGUF с квантизацией Q4_0 и Quantization Aware Training (QAT). QAT позволяет приблизить качество к версии в формате bfloat16 при существенно меньших требованиях к памяти, что облегчает запуск на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Для модели заявлено контекстное окно до 128K токенов, максимальный объём генерируемого вывода — 8192 токена; изображения нормализуются до 896×896 и кодируются в 256 токенов. Поддерживается более 140 языков. Ограничения включают зависимость качества от квантизации и используемой инфраструктуры, а также то, что поддержка изображений может различаться между инструментами запуска: например, в README указано отсутствие такой поддержки для Ollama через Hugging Face. Использование регулируется лицензией Gemma и соответствующими Terms of Use.

MuXodious выпустил дообученную мультимодальную модель Gemma 4 E4B Instruct с применением Heretic v1.4.0 и методов abliteration, включая Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation. В README приведены результаты эксперимента по снижению отказов и KL-дивергенции относительно исходной модели. Основа — google/gemma-4-E4B-it-qat-q4_0-unquantized; архитектура — плотная Gemma4ForConditionalGeneration, библиотека Transformers, веса в формате Safetensors. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст; семейство Gemma 4 E4B также поддерживает аудио. Она предназначена для диалога, рассуждений, анализа изображений и документов, распознавания речи, программирования и сценариев с вызовом инструментов. Для семейства в целом указаны контекст до 128K токенов у E4B и поддержка множества языков, но README не подтверждает, что все перечисленные возможности доступны именно этому чекпойнту после дообучения.