I.2Синтез, понимание и проверка знаний

Карточка модели Sing0402/legal-embed-gte-dense на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

LFM2.5-8B-A1B-Q4_K_M-dequant-bf16 — вариант модели LFM2.5-8B-A1B от Liquid AI, основанный на LiquidAI/LFM2.5-8B-A1B-Base. Это текстовая MoE-модель для генерации ответов и работы в роли локального помощника. Карточка указывает 8,3 млрд параметров всего и около 1,5 млрд активных; метаданные репозитория указывают 1,6 млрд параметров. Модель использует гибридную архитектуру с 24 слоями и поддерживает контекст до 128 000 токенов. Модель предназначена для следования сложным инструкциям, агентных сценариев, вызова инструментов, структурированных ответов и многоязычных помощников, в том числе на устройствах с локальным инференсом. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, португальский и итальянский. Карточка не рекомендует её для интенсивного программирования и фактологических ответов без поиска по источникам. Указана лицензия other; конкретные условия следует проверять в файлах репозитория. Имя модели указывает на вариант Q4_K_M, деквантизированный в bf16, но метаданные форматов перечисляют safetensors.

Liberated-Qwen1.5-14B — языковая модель AbacusAI и Eric Hartford, дообученная на базе Qwen/Qwen1.5-14B. Это плотная авторегрессионная модель семейства Qwen, содержащая 13,4 млрд параметров. Она предназначена для диалогов и следования системным инструкциям, в том числе в длинных многоходовых беседах и при необычных или механических инструкциях. Модель обучалась на открытых наборах данных, включая SystemChat, OpenHermes-2.5 и наборы Code-Feedback; используется формат диалога ChatML. Базовая модель поддерживает контекст до 32 768 токенов, однако при дообучении использовались входные последовательности длиной 8 000 токенов, поэтому качество на более длинном контексте может варьироваться. В карточке указана лицензия other, а README сообщает, что модель подчиняется лицензии tongyi-qianwen. В обучающих данных не добавлялись ограничения или цензурирование; перед предоставлением модели пользователям автор рекомендует самостоятельно настроить слой выравнивания. Результаты оценивания в карточке не приведены.

Llama 4 Maverick — мультимодальная инструкционная модель Meta на архитектуре авто-регрессионного Mixture-of-Experts с ранним объединением модальностей. Вариант Maverick включает 17 млрд параметров и 128 экспертов; модель работает через библиотеку Transformers и распространяется в формате safetensors. Модель предназначена для диалогового помощника и задач визуального рассуждения: она принимает текст и изображения, распознаёт и описывает содержимое изображений, отвечает на вопросы о них и поддерживает вызов инструментов через соответствующий интерфейс. Поддерживаемые языки: арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский. В README указано, что модель проверялась для понимания до пяти входных изображений. Модель подходит для коммерческого и исследовательского применения на условиях пользовательской Llama 4 Community License. Карточка отмечает статичный характер текущего чекпойнта и ограничивает заявленные сценарии поддерживаемыми языками и возможностями; результаты для большего числа изображений требуют отдельной проверки и настройки.

Это объединённая языковая модель на базе семейства Llama 3.2, созданная методом TIES с помощью mergekit. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли модели для рассуждений, программирования и математики, соблюдения инструкций и ответов на медицинские вопросы. Модель предназначена для диалоговой генерации текста, включая ответы на вопросы, рассуждения и помощь с кодом. Она содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст, выдавая текст. Заявленная длина контекста — 131 072 токена. В метаданных указана библиотека Transformers и формат весов safetensors. Лицензия и отдельные результаты оценки качества в предоставленных данных не указаны. Поскольку объединены модели с разными специализациями, пригодность для конкретных задач следует проверять на собственных примерах.

Nhoodie/Meta-Llama-3-8B-Uninstruct-function-calling-json-mode-model_stock-v0.1 — объединённая модель на базе семейства Meta Llama 3, созданная с помощью LazyMergekit из hiieu/Meta-Llama-3-8B-Instruct-function-calling-json-mode, NousResearch/Meta-Llama-3-8B и NousResearch/Meta-Llama-3-8B-Instruct. Это плотная авторегрессионная языковая модель архитектуры LlamaForCausalLM примерно с 7,5 млрд параметров и контекстом до 8192 токенов. Модель предназначена для генерации текста и диалогов; в её составе есть вариант, настроенный на вызов функций и выдачу JSON, поэтому она может применяться в сценариях, где ответы должны следовать структурированному формату. Репозиторий содержит веса safetensors. В метаданных указана лицензия other; конкретные условия следует проверять в файлах репозитория и у базовых моделей.

tomaarsen/mpnet-base-nq — англоязычная Sentence Transformer-модель, дообученная автором на парах запросов и ответов из набора Natural Questions. Она основана на microsoft/mpnet-base и кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. Модель содержит 136,7 млн параметров, использует архитектуру MPNet с усреднением токенных представлений; максимальная длина входа — 512 токенов по README и 514 токенов в метаданных. Модель предназначена для семантического поиска и оценки сходства текстов, а также может применяться для поиска перефразировок, кластеризации и классификации текстов. Обучение на Natural Questions ориентирует её на сопоставление вопросов и ответов на английском языке. Для использования в Sentence Transformers предусмотрены готовые средства загрузки и кодирования текстов. Модель распространяется по лицензии Apache-2.0. Её назначение — получение текстовых эмбеддингов; она не генерирует ответы. Качество зависит от соответствия текстов и предметной области обучающим данным, а поддержка языков помимо английского не заявлена.

spl4shedEdu/mpnet_IAB — модель Sentence Transformers, дообученная разработчиком spl4shedEdu на базе sentence-transformers/all-mpnet-base-v2. MPNet с 136,7 млн параметров кодирует предложения и абзацы в плотные векторы размерности 768; представления нормализуются, а для сравнения можно использовать косинусное сходство. Максимальная длина последовательности в README — 384 токена; метаданные указывают нативный контекст 514 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. В обучающих данных приведены пары «запрос — положительный пример» из товарных описаний и категорий, поэтому модель подходит для задач сопоставления товарных и каталожных текстов. README также сообщает об отдельном наборе оценки. Модель принимает текст и выдаёт эмбеддинги; в карточке не заявлена поддержка конкретных естественных языков. Лицензия в предоставленных данных не указана.

multi-qa-distilbert-cos-v1 — модель Sentence-Transformers на базе DistilBERT, разработанная в рамках проекта Hugging Face по обучению моделей эмбеддингов предложений. Она кодирует вопросы, предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска и сопоставления запросов с релевантными фрагментами текста. Модель обучена на 215 млн пар «вопрос — ответ» из разных источников с контрастивной функцией потерь и усреднением контекстных представлений. Модель предназначена для поиска ответов и документов по смыслу: запрос и текстовые фрагменты преобразуются в векторы, сходство которых можно оценивать косинусом или скалярным произведением. Поддерживаются английский язык и входы длиной до 512 токенов; обучение проводилось на текстах длиной до 250 токенов, поэтому качество на более длинных фрагментах может снижаться. Доступны варианты в форматах PyTorch, Safetensors, ONNX и OpenVINO. README и метаданные не сообщают лицензию модели.

Mythos-9B Merged — это объединённая языковая модель на 9 млрд параметров, разработанная на основе King3Djbl/mythos-9b-merged и квантованная mradermacher в формате GGUF. Модель предназначена для генерации текста на английском языке, ролевых сценариев, задач программирования, работы с инструментами и function calling, а также агентских сценариев. В метаданных также заявлены поддержка shell-взаимодействия и запуск через llama.cpp, LM Studio и Ollama. В репозитории представлены варианты i1-квантования с imatrix в диапазоне примерно от 2,2 до 6,8 ГБ, включая IQ и Q-форматы. Это позволяет выбирать компромисс между размером, скоростью и качеством; в README вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Для некоторых вариантов явно указано снижение качества, особенно у наиболее компактных квантов. Сведения о точной архитектуре, размере контекстного окна, мультимодальности и дополнительных языках отсутствуют; заявлен только английский язык. Модель распространяется по лицензии Apache-2.0.

Nex-N2.5-mini-GGUF — набор общественных GGUF-квантизаций модели Nex-N2.5-mini, разработанной Nex-AGI и преобразованной в GGUF пользователем ngquocvinh для запуска через llama.cpp. Модель предназначена для локального текстового поколения и агентных сценариев с длительными цепочками действий, включая работу с компьютером, веб-сёрфинг, визуальное заземление, программирование, рассуждения и вызов инструментов. Исходная модель поддерживает изображения и видео через официальный мультимодальный процессор и шаблон чата; для этого релиз включает отдельный vision projector mmproj-Nex-N2.5-mini-F16.gguf. Архитектура исходной модели — Qwen3.5 Mixture-of-Experts с 256 экспертами, из которых активны 8 на токен, и 40 текстовыми слоями. Размер исходной BF16-версии — 35 млрд параметров, заявленный текстовый контекст — 262 144 токена, однако локальная проверка данного пакета проводилась только с контекстом 4096 токенов. Доступны варианты от Q1_0 до Q8_0; Q4_K_M рекомендуется как практичный баланс памяти и качества, а Q5_K_M, Q6_K и Q8_0 обычно сохраняют больше точности. Низкобитные варианты требуют проверки на конкретной задаче: измерения показывают заметное снижение сходства с BF16, особенно у Q1_0. Релиз не обучает и не дообучает модель, а выполняет только конвертацию и квантизацию, поэтому качество зависит от выбранного профиля и рабочей нагрузки. Приведённые тесты оценивают лишь сходство поведения при предсказании следующего токена и не гарантируют сохранение исходных возможностей в рассуждениях, мультиязычности, работе с изображениями или инструментами. Распространение указано по лицензии Apache-2.0.

NinjaMouse2-2.5B-v0.1 — разговорная языковая модель, созданная автором trollek на основе h2oai/h2o-danube2-1.8b-chat. Это плотная авторегрессионная модель семейства Mistral с 2,4 млрд параметров и контекстом до 8192 токенов; исходные 24 слоя расширены, а обучение включало дообучение вставленных блоков и последующую настройку на инструктивных и диалоговых данных. Модель предназначена для диалогов и генерации ответов на инструкции, включая задачи по математике, коду и вызову инструментов. Для подготовки данных использовались примеры из нескольких англоязычных диалоговых, математических и программных наборов, а также ответы более крупных моделей. Репозиторий содержит веса в формате safetensors; README также описывает отдельные квантизированные варианты для запуска через Ollama и LM Studio. Модель рассчитана прежде всего на английский язык. README предупреждает, что специальные токены FIM и thought не входили в обучение. Лицензия — Apache-2.0. Качество и соответствие инструкциям могут различаться; карточка не приводит результатов независимой оценки.

nomic-embed-text-v1-ablated — текстовый энкодер для создания векторных представлений предложений и текстов, разработанный Nomic AI. Это контрольный чекпойнт семейства Nomic Embed Text, обученный на изменённом наборе данных, отличавшемся от данных финальной модели; его выпустили, чтобы изучать влияние частей обучающего набора на результаты. Архитектура — NomicBert, доступны форматы PyTorch и ONNX, контекстное окно составляет 8192 токена. Модель подходит для извлечения эмбеддингов и вычисления сходства между текстами, например, для поиска по смыслу и оценки близости предложений. Разработчики рекомендуют для практического извлечения эмбеддингов использовать nomic-embed-text-v1. README не сообщает поддерживаемые естественные языки или лицензию, поэтому эти сведения не включены.

OpenBuddy — мультиязычная чат-модель для генерации ответов в диалоге, основанная на архитектуре Qwen2. Модель содержит 13,4 млрд параметров и рассчитана на контекст до 32 768 токенов; веса опубликованы в формате safetensors для Transformers. Она предназначена для разговорных сценариев и генерации текста на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель может служить основой для чат-ботов, ответов на вопросы и ведения многоязычного диалога. README предупреждает, что ответы могут быть ошибочными, вредными или оскорбительными, поэтому модель не следует применять в критических и высокорисковых ситуациях, включая медицину, управление потенциально опасными системами, а также важные финансовые и юридические решения. В метаданных указана лицензия other; README описывает отказ от гарантий и ответственность пользователей, но не раскрывает конкретный текст лицензии.

OpenBuddy разработана командой OpenBuddy как мультиязычная диалоговая модель. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 56,2 млрд параметров, распространяемая в формате safetensors. В README указано, что при создании использованы части весов Yi-34B-32K и Llama-3-70B-Instruct, а дальнейшее обучение проводилось на мультиязычном наборе данных с токенизатором Yi-34B-32K. Модель предназначена для диалогов и генерации текста; поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и финский языки. Заявленная длина контекста — 131 072 токена. Модель можно использовать для чат-ботов, ответов на вопросы и создания мультиязычных текстовых сервисов. README рекомендует быстрый токенизатор Transformers; также описан формат запросов, совместимый с развёртыванием через vLLM. Лицензия указана как other; в README упомянуты лицензии исходных компонентов Apache 2.0 и Meta Llama 3 Community License, поэтому условия использования следует проверять для конкретного применения. Модель может выдавать ошибочные, вредные или оскорбительные ответы; разработчики предостерегают от использования в критически важных медицинских, финансовых, юридических и иных высокорисковых сценариях.

OpenHermes 7B — англоязычная модель для генерации текста, разработанная Teknium и дообученная на базе NousResearch/Llama-2-7b-hf. Она предназначена для выполнения инструкций, диалогов, ролевых сценариев, ответов на общие вопросы и задач по программированию. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает контекст до 4096 токенов. При обучении использовался набор из 242 тысяч примеров, преимущественно сгенерированных GPT-4 и собранных из открытых наборов данных, включая инструкции общего назначения, ролевые диалоги и примеры по программированию. Обучение применяло упаковку примеров для ускорения процесса. Репозиторий распространяется в формате PyTorch по лицензии MIT. Карточка приводит результаты нескольких тестов, но они сами по себе не гарантируют качество ответов в конкретных сценариях.

Richard Young из DeepNeuro подготовил эту версию Microsoft Phi-3.5-mini-instruct с помощью Heretic v1.4.0: модель подвергнута абляции, направленной на снижение числа отказов. Это плотная авторегрессионная языковая модель Phi-3 с 3,7 млрд параметров, предназначенная для генерации текста, диалогов и задач с кодом. Метаданные указывают контекст 4096 токенов; модель распространяется в формате Safetensors по лицензии MIT. Модель подходит для чат-ботов, генерации текста и кода, а также для сценариев с ограничениями по памяти, вычислениям или задержке. README приводит результат оценки отказов: 12 отказов из 100 запросов против 95 у исходной модели; это указывает на заметно ослабленное поведение отказа, но не гарантирует точность или безопасность ответов. В README также приведено описание возможностей и оценок исходной Phi-3.5, поэтому их нельзя автоматически считать характеристиками этой производной версии. Проверяйте модель для конкретного применения, особенно в чувствительных сценариях.

thang1943/phobert-base-v2-mnr-loss — Sentence Transformers на основе PhoBERT-base-v2, дообученная автором на наборе dataset_full_fixed из 43 803 примеров с MultipleNegativesRankingLoss. Модель кодирует предложения и абзацы во векторы размерности 768 и предназначена для поиска семантически близких текстов, оценки сходства и извлечения релевантных фрагментов. Также её можно применять для поиска перефразирований, кластеризации и классификации текста. Архитектура — RoBERTa-энкодер с усреднением токенных представлений; сходство в README рассчитывается косинусной мерой. Максимальная длина последовательности указана как 256 токенов в README и 258 контекстных токенов в метаданных. Базовая PhoBERT ориентирована на вьетнамский язык, а обучающие примеры README также написаны по-вьетнамски. Веса представлены в формате safetensors; модель содержит 162,4 млн параметров и использует библиотеку sentence-transformers. В README приведены метрики поиска на dim_768: cosine_accuracy@1 — 0,6382, @3 — 0,7703 и @5 — 0,8187. Эти значения относятся к описанной оценке и не гарантируют такое же качество на других данных. Лицензия в предоставленных сведениях не указана.

Qwark-4B — языковая модель на архитектуре Qwen2, опубликованная пользователем qingy2024 и основанная на дообучении Qwen/Qwen2.5-3B. Она предназначена для генерации текста и диалогового взаимодействия; интерфейс модели также поддерживает вызов инструментов. Модель содержит 4,5 млрд параметров и рассчитана на контекст до 32 768 токенов. В метаданных перечислена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Модель размещена в формате safetensors и использует библиотеку Transformers. README не приводит сведений о специальных целевых областях или результатах оценки качества. Условия лицензии в предоставленных данных не указаны.

ThomasBaruzier/Qwen2.5-0.5B-Instruct-GGUF — это набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-0.5B-Instruct, разработанной командой Qwen при Alibaba Cloud и подготовленной ThomasBaruzier для запуска с llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, работы со структурированными данными и создания структурированных ответов, включая JSON. Набор поддерживает варианты квантизации с размером примерно от 302 до 507 МБ, а также F16-версию размером около 949 МБ. Это каузальная Transformer-модель на 0,49 млрд параметров, из которых 0,36 млрд приходятся на параметры без эмбеддингов. Архитектура использует RoPE, SwiGLU, RMSNorm, bias в QKV attention, связанные входные и выходные эмбеддинги и Grouped-Query Attention с 14 головами для Q и 2 для KV; модель содержит 24 слоя. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, возможность локального запуска, мультиязычность, улучшенное следование инструкциям, генерация длинных текстов, поддержка кода и математики, а также заметная устойчивость к разным системным промптам. Квантизации позволяют выбрать компромисс между размером, качеством и точностью: по приведённой таблице F16 обеспечивает наивысшие показатели, а более компактные варианты снижают требования к памяти, но могут ухудшать качество. Модель относится к текстовым, мультимодальность не заявлена. Лицензия — Apache-2.0.

OpenPipe/Qwen3-14B-Instruct — вариант Qwen3-14B, дообученный OpenPipe. Это плотная причинная языковая модель на 14,8 млрд параметров с 40 слоями и групповой многозапросной внимательностью (40 голов Q и 8 голов KV). Шаблон чата настроен так, чтобы модель по умолчанию отвечала в режиме без рассуждений и сохраняла согласованный формат сообщений при обучении и генерации. Модель предназначена для диалоговой генерации текста и дальнейшей настройки в OpenPipe и других фреймворках дообучения. Метаданные указывают контекст 40 960 токенов; в README для базовой Qwen3-14B заявлены 32 768 токенов нативно и до 131 072 с YaRN. Поддерживаются сценарии общения и генерации текста на базе Qwen3. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает совместимость шаблона и общие возможности Qwen3, но не приводит отдельной оценки качества именно этого варианта; результат зависит от запроса и последующей настройки.

Qwen3-4B-Diversity — дообученная разговорная языковая модель от hadadxyz на базе Qwen/Qwen3-4B. Она ориентирована на пошаговые рассуждения и использует данные, дистиллированные из ответов различных крупных ИИ-моделей. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 40 960 токенов; распространяется в формате safetensors. Модель предназначена для решения математических задач, генерации и анализа кода, общих задач на рассуждение и многоходовых диалогов. Карточка описывает обучение на разнообразных наборах данных с примерами рассуждений и рекомендует отдельные параметры генерации для режимов Thinking и Non-Thinking. Лицензия — Apache-2.0. Карточка не приводит результатов сравнительной оценки, поэтому заявленные улучшения рассуждений не сопровождаются количественными бенчмарками; фактическое качество может различаться в зависимости от задачи.

ente-ai/Qwen3.5-2B-GGUF — GGUF-версия мультимодальной модели Qwen3.5-2B, разработанной командой Qwen и основанной на Qwen/Qwen3.5-2B. Репозиторий подготовлен с использованием подхода Unsloth Dynamic 2.0 и предназначен для локального запуска, прототипирования, специализированного дообучения, исследований и разработки. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает работу с текстом и изображениями. Она содержит около 2 млрд параметров, 24 слоя, скрытое измерение 2048 и нативный контекст длиной до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks и элементы разреженной Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель совместима с экосистемой Transformers, а также с vLLM, SGLang и KTransformers. К сильным сторонам относятся мультимодальное понимание, большой контекст, компактный размер и пригодность для локального инференса и дообучения. При этом масштаб 2 млрд параметров ограничивает максимальную глубину рассуждений и качество на сложных задачах по сравнению с более крупными моделями; README прямо указывает приоритет прототипирования и исследовательских сценариев. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-9B-DS-v4-Flash-v3.0 — экспериментальная плотная модель на 9 млрд параметров от prithivMLmods, дообученная на базе prithivMLmods/Q3.5-9B-DS-v4-Flash-v2.0, построенной на Qwen/Qwen3.5-9B. Модель использует архитектуру Qwen3.5ForConditionalGeneration и предназначена для диалогов с текстом и изображениями; основное обучение было направлено на рассуждения, математику, научный анализ, программирование и следование инструкциям. Автор описывает многоэтапное обучение примерно на 3,5 тыс. отфильтрованных примеров с трассами рассуждений DeepSeek V4 Flash и на дополнительных наборах данных. Модель подходит для экспериментов с многошаговыми и длинными рассуждениями, решения задач и локального запуска через Transformers. В карточке указан формат safetensors и лицензия Apache-2.0. Это экспериментальный выпуск: в сложных задачах возможны ошибочные промежуточные шаги и выводы, а поведение может отличаться от базовой модели. Качество зависит от охвата и особенностей обучающих данных.

Карточка модели spinochenza/Qwen3.6-27B-uncensored-heretic-v2 на Hugging Face совпадает с карточкой llmfan46/Qwen3.6-27B-uncensored-heretic-v2, поэтому описание составлено по ней. Qwen3.6-27B-uncensored-heretic-v2 — мультимодальная модель на 27 млрд параметров, созданная независимым автором на основе Qwen/Qwen3.6-27B методом abliteration. Модель предназначена для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов; автор сообщает о снижении частоты отказов по сравнению с исходной моделью. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером. Базовая модель поддерживает контекст 262 144 токена с возможностью расширения; в карточке указана работа с изображениями и чат-возможности. В README приведены результаты MMLU исходной модели, но сопоставимых результатов для этой версии нет. Модель распространяется в формате safetensors по лицензии Apache-2.0. Уменьшение числа отказов не гарантирует их полного отсутствия, а результаты тестирования базовой модели нельзя считать оценкой качества этой производной версии.

dbirks/Qwen3.8-27B-NVFP4-AutoRound — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, подготовленная с помощью Intel AutoRound и упакованная в формате compressed-tensors для развертывания через vLLM. Модель предназначена для генерации и обработки текста, а также сохраняет архитектурные компоненты исходной мультимодальной модели, включая vision tower, хотя квантизация применяется только к языковому декодеру. В основе лежит гибридная архитектура из 64 слоёв: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания, с поддержкой контекста до 262 тысяч токенов. Основная часть линейных слоёв языкового декодера сжата до NVFP4 W4A4: квантизируются веса и входные активации с группами размера 16. Проекции управления рекуррентностью, vision tower, MTP head и lm_head оставлены в BF16 для сохранения качества. Модель поддерживает английский язык; размер файла составляет около 20,6 ГБ против примерно 52 ГБ у BF16-версии. Сильная сторона модели — существенное снижение требований к памяти при сохранении качества, близкого к базовой BF16-модели: в приведённых тестах результаты GSM8K, HumanEval и MMLU-Pro находятся в пределах доверительных интервалов базовой версии. Модель в первую очередь рассчитана на GPU NVIDIA Blackwell с поддержкой FP4 tensor cores (SM100/SM120). На Ada и Hopper полноценного ускорения нет, возможен откат к более медленному режиму Marlin; для таких GPU рекомендуется родственная W4A16-версия. Лицензия — Apache-2.0.

LingoIITGN разработала qwen-indic-v1 — мультиязычную модель текстовых эмбеддингов для 22 официально запланированных индийских языков. Она дообучена методом LoRA на базе Qwen/Qwen3-Embedding-8B, после чего адаптер объединён с базовыми весами. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3, pooling последнего токена и L2-нормализацию; размер эмбеддинга — 4096, длина контекста — до 40 960 токенов. Модель предназначена для получения векторных представлений текста, семантического поиска, ранжирования и сравнения предложений на индийских языках. В оценке MTEB(Indic, v1) она показала средний результат 73,80 по 20 задачам. Для классификации и оценки семантического сходства предусмотрены соответствующие префиксы инструкций, применяемые через sentence-transformers. Качество может быть ниже для языков с малым объёмом обучающих данных, включая кашмири, манипури, бодо и сантали; кластеризация уступает современным лидерам MTEB(Indic). Модель наследует возможности и смещения базовой Qwen3-Embedding-8B. Для инференса в bf16 требуется около 16 ГБ VRAM. Лицензия — Apache 2.0.

Qwopus3.8-27B-Flash-NVFP4 — это конверсия базовой модели Jackrong/Qwopus3.8-27B-Flash в формате NVIDIA ModelOpt NVFP4, предназначенная для запуска на GPU NVIDIA Blackwell. Репозиторий содержит логическую модель объёмом 27,78 млрд параметров и использует формат safetensors. В README также указано, что исходную модель создал Kyle Hessling, а конверсия выполнена сообществом. Модель предназначена для диалоговых, мультимодальных и агентных сценариев: обработки текста и изображений, следования инструкциям, генерации структурированных ответов, вызова инструментов и работы в coding-agent циклах. Сохранены визуальный энкодер и проектор, а также встроенная MTP/NextN-голова для speculative decoding. Трансформерные веса используют NVFP4, тогда как lm_head, визуальная часть и MTP-голова сохранены в BF16 для повышения качества. Рекомендуемый сценарий обслуживания — SGLang с FlashInfer, поддержкой ModelOpt FP4 и совместимой моделью-черновиком Qwen3.8 27B DFlash2 NVFP4. В тестовом профиле заявлен контекст до 262 144 токенов, однако для этого требуются Blackwell GPU с достаточным объёмом памяти под основную и черновую модели, KV-кэш и накладные расходы. README не указывает поддерживаемые языки и результаты бенчмарков; для мультимодальной работы необходимо использовать поставляемый chat template, а для вызова функций — парсер инструментов Qwen. Лицензия указана как Apache-2.0, при этом пользователю рекомендуется соблюдать лицензионные условия базовой модели. Ограничениями являются зависимость от совместимого оборудования и программного стека NVIDIA Blackwell, необходимость специальной DFlash2-модели для рекомендованной спекулятивной генерации и возможное снижение доступного контекста на менее мощных GPU.

BenevolenceMessiah/QwQ-32B-Preview-Self-instruct-4x-TIES-MGS-v1.0 — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/QwQ-32B-Preview и моделей TheBeagle, EVA-Qwen2.5 и Rombos. Она предназначена для диалоговой генерации текста и может применяться для ответов на вопросы, рассуждений и помощи с программированием. Модель содержит 32 млрд параметров, принимает текст и выдаёт текст; нативное окно контекста — 32 768 токенов. Репозиторий содержит веса Safetensors для библиотеки Transformers. Карточка не сообщает лицензию и не описывает отдельные результаты оценки качества; характеристики базовой QwQ указывают на ориентацию на рассуждения и код, но не гарантируют их качество после слияния.

Reflection-Llama-3.1-70B-ep2-working — рабочая версия модели Reflection от Matt Shumer, дообученная на основе Meta Llama 3.1 70B Instruct. Это плотная авторегрессионная языковая модель с 69,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель предназначена для диалогов и генерации ответов с возможностью использовать инструменты. Автор описывает её как рабочую версию второго этапа обучения, которая немного уступает по мощности более поздней версии Reflection; README также сообщает, что третий этап ещё завершался. Модель опубликована в формате Safetensors и распространяется по лицензии Llama 3.1.