I.2Синтез, понимание и проверка знаний

Qwen3-30B-A3B-Instruct-2507-MLX-8bit — 8-битная квантованная версия языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon через MLX. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях: диалоговых системах, подготовке и преобразовании текстов, ответах на вопросы и других задачах, поддерживаемых исходной instruct-моделью. README не содержит сведений о точной архитектуре, числе активируемых параметров, размере контекста, поддерживаемых языках и модальностях, поэтому эти характеристики нельзя достоверно уточнить. Ключевое преимущество модели — 8-битное представление, ориентированное на более эффективный запуск на Apple Silicon по сравнению с полноразмерной версией. Ограничения включают зависимость от экосистемы MLX и Apple Silicon, а также типичные для генеративных моделей риски неточных, вредных или неподходящих ответов. Модель распространяется по лицензии Apache 2.0.

YOYO-AI разработала Qwen3-30B-A3B-YOYO-AutoThink как диалоговую модель с автоматическим переключением между кратким ответом и более развёрнутым рассуждением. Она основана на объединении Qwen3-30B-A3B-Instruct-2507 и Qwen3-30B-A3B-Thinking-2507 методом arcee_fusion с последующей заменой экспертных весов из thinking-модели. Архитектура — Qwen3 MoE для генерации текста; репозиторий содержит веса safetensors. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов, а README также заявляет длину контекста 1 010 000 токенов без пояснения условий для этого значения. Модель предназначена для диалогов, выполнения инструкций и генерации ответов с глубиной рассуждения, меняющейся в зависимости от сложности запроса; метаданные также отмечают интерфейс вызова инструментов. В карточке перечислены английский и китайский языки. Лицензия — Apache-2.0. README приводит рекомендованные параметры генерации: temperature 0.6, top_p 0.95 и top_k 20.

DavidAU/Qwen3-32B-128k-NEO-Imatrix-Max-GGUF — квантованные GGUF-варианты модели Qwen3-32B, разработанные DavidAU. Модель предназначена для генерации текста, диалогов, задач с рассуждениями и творческих сценариев, включая хоррор и другие художественные применения. Указано, что модель может использоваться также для общего назначения. Модель имеет заявленный контекст до 128k токенов и поддерживает режим reasoning с автоматической генерацией блоков размышлений. Варианты используют NEO Imatrix-квантизацию, при этом выходной тензор оставлен в формате BF16 для улучшения рассуждений и генерации. Размер базовой модели — 32B параметров; конкретная архитектура, список поддерживаемых языков и точные характеристики отдельных квантов в карточке не указаны. Для качества рекомендуется контекст не менее 8k, предпочтительно 16k; IQ4XS и IQ4NL описаны как наиболее сбалансированные варианты, а более высокие кванты — как предпочтительные для усиленного reasoning. К ограничениям относятся зависимость качества от выбранного уровня квантизации, необходимость корректной настройки Jinja или CHATML-шаблона и возможная потребность в подборе параметров генерации. Для Q8_0 эффект Imatrix, согласно описанию, отсутствует. Модель распространяется по лицензии Apache-2.0.

TeichAI/Qwen3-4B-Thinking-2507-Gemini-2.5-Flash-Distill-GGUF — языковая модель для генерации текста, созданная TeichAI на основе Qwen3-4B-Thinking-2507. Модель обучалась методом дистилляции на наборе TeichAI/gemini-2.5-flash-11000x, чтобы воспроизводить поведение, рассуждения, стиль ответов и знания Gemini 2.5 Flash. Указана лицензия Apache-2.0. Модель предназначена для программирования, научных и юридических задач, работы с историческими и маркетинговыми текстами, а также для применения общего назначения. Она поддерживает текстовую генерацию; в README указан английский язык. Архитектура относится к семейству Qwen3 с размером около 4 млрд параметров, однако сведения о длине контекста, точной структуре GGUF-квантизации и дополнительных модальностях не приведены. По опубликованным тестам модель превзошла базовую Qwen3-4B-Thinking-2507 в пяти из шести сравнений: ARC-Challenge, GPQA Diamond, HellaSwag, MMLU и Winogrande. Среднее улучшение составило 0,0191, при этом результат TruthfulQA оказался немного ниже базовой модели. Эти показатели характеризуют результаты на указанных наборах тестов и не гарантируют аналогичное качество в прикладных сценариях; возможны ошибки, особенно в сложных вопросах и задачах, требующих фактической точности.

QuantTrio/Qwen3.5-27B-AWQ — это квантизированная версия мультимодальной модели Qwen3.5-27B, разработанная на основе базовой модели Qwen/Qwen3.5-27B. Репозиторий содержит веса в формате Hugging Face Transformers и использует data-free квантизацию AWQ, для которой не требуется калибровочный набор данных. Модель предназначена для генерации текста и обработки изображений вместе с текстом, включая задачи рассуждения, программирования, визуального понимания и создания агентных приложений. Модель имеет архитектуру causal language model с vision encoder, около 27 млрд параметров, 64 слоя и гибридную структуру из Gated Delta Networks, sparse Mixture-of-Experts и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Для запуска рекомендуются vLLM и совместимые инструменты, однако README указывает на необходимость актуальных экспериментальных версий зависимостей, CUDA 12.8 и настройки с двумя GPU. Сильными сторонами являются мультимодальность, большой контекст, широкое языковое покрытие и оптимизация AWQ для более эффективного использования памяти. Ограничения включают существенные аппаратные требования, зависимость от экспериментальных версий программного обеспечения и необходимость включения remote code. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.5-4B-quantized.w8a8 — мультимодальная модель, разработанная RedHatAI на основе Qwen/Qwen3.5-4B. Она принимает текст и изображения, а генерирует текст; предназначена для диалоговых приложений, анализа изображений, ответов на вопросы, следования инструкциям и задач, требующих рассуждений. Модель оптимизирована для инференса через vLLM. В модели применена квантизация весов и активаций линейных операторов в трансформерных блоках до INT8 по схеме W8A8. Визуальный энкодер, токеновые эмбеддинги и слои linear attention сохранены в BF16. Размер модели на диске составляет около 6,1 ГБ против 8,8 ГБ у версии BF16, что уменьшает требования к памяти примерно на 31%. Для мультимодального и текстового режимов заявлена поддержка контекста до 262 144 токенов при запуске через vLLM. К сильным сторонам относятся значительное сокращение размера и требований к памяти при близких к исходной модели результатах на представленных тестах, а также поддержка текстовых и визуальных входов. Ограничения связаны с частичной, а не полной квантизацией и необходимостью совместимой инфраструктуры vLLM; конкретные поддерживаемые языки в README не указаны. Модель распространяется по лицензии Apache-2.0.

P4tchFake/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — текстовая генеративная модель, дообученная на базе Qwen3.5-9B с использованием supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Модель ориентирована на структурированное аналитическое поведение и более организованный Chain-of-Thought. В README указаны английский, китайский и корейский языки; архитектура описана как Dense, размер базовой модели — 9B параметров, однако размер контекста не указан. Модель предназначена для сложных многошаговых задач, требующих декомпозиции, планирования, абстрагирования, отслеживания ограничений и анализа компромиссов. Заявлены широкие области применения, включая математику и логику, программирование и системный анализ, безопасность и adversarial reasoning, физику, инженерию, право, философию, медицину, финансы, химию и прикладные социальные системы. Среди сильных сторон отмечаются структурированное рассуждение, более плотные и последовательные аналитические ответы, междисциплинарный охват и компактный размер. Из-за дистилляции и специализированного дообучения поведение модели может отличаться от исходной Qwen3.5-9B: возможны изменения в обобщающей способности и частичное забывание отдельных сведений предварительного обучения. Поэтому модель рекомендуется оценивать на собственных задачах перед применением в продуктивных сценариях. Лицензия — Apache-2.0.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — языковая модель для генерации текста и решения сложных аналитических задач, разработанная сообществом на базе Qwen/Qwen3.5-9B. Она дообучена методом supervised fine-tuning с применением LoRA и дистилляции рассуждений из Gemini 3.1, Qwen3.5-27B и корпуса Gemini 3.0 Pro. Модель ориентирована на структурированное пошаговое рассуждение, декомпозицию задач, планирование, абстрагирование и подготовку более связных ответов. Модель предназначена для многошагового анализа, математики и логики, программирования и системных задач, физики, инженерии, права, медицины, финансов, химии, а также сценариев, связанных с безопасностью и adversarial reasoning. Заявлены языки English, Chinese и Korean. Архитектура — плотная модель размером 9B параметров; поддерживается текстовая генерация. Размер контекстного окна в README не указан. Сильными сторонами являются компактный размер, структурированная организация рассуждений, улучшенное отслеживание ограничений и широкое междоменное покрытие. Ограничения включают возможное ухудшение обобщения или частичное забывание отдельных знаний базовой модели из-за дистилляции и специализированного дообучения, поэтому модель следует проверять на целевых задачах перед использованием в производстве. Лицензия — Apache-2.0.

Qwen3.5-9B-Uncensored-HauhauCS-Aggressive-MLX-mxfp4 — это мультимодальная языковая модель на базе Qwen3.5-9B, разработанная HauhauCS и преобразованная TheCluster в формат MLX. Модель предназначена для генерации и анализа текста, работы с изображениями и видео, а также для сценариев, где требуется модель без встроенных отказов на запросы. Модель содержит 9 миллиардов плотных параметров и 32 слоя. Она использует гибридную архитектуру с линейным вниманием Gated DeltaNet и полным softmax-вниманием в соотношении 3:1, поддерживает Multi-Token Prediction и контекст длиной 262 тысячи токенов с возможностью расширения до 1 миллиона через YaRN. Заявлены нативная мультимодальность для текста, изображений и видео, словарь на 248 тысяч токенов и поддержка 201 языка, включая английский, китайский и русский. Ключевая особенность — агрессивное удаление отказов: согласно карточке, модель не отказывается отвечать на запросы, сохраняя заявленные возможности исходной модели. При этом она может иногда добавлять краткие дисклеймеры в конце ответа. Модель квантизована в формате mxfp4 с эффективностью 4,821 бит на вес, поэтому её характеристики следует оценивать с учётом квантизации. Для использования доступны отдельные рекомендуемые параметры генерации для режимов с рассуждением и без него. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная модель на базе Qwen3.6-35B-A3B, разработанная HauhauCS. Это вариант с усиленным снятием ограничений на отказы: по заявлению автора, модель генерирует полный ответ даже на запросы, от которых обычно отказывается базовая версия. Модель предназначена для диалогов, анализа и генерации текста, программирования, а также работы с изображениями и видео. Архитектура — гибридная MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на один проход. Используются 256 экспертов, из которых для каждого токена выбираются 8; модель содержит 40 слоёв и сочетает linear attention с полной softmax attention в соотношении 3:1. Заявлен нативный контекст до 262 тысяч токенов. Поддерживаются текст, изображения и видео; указаны английский, китайский и другие языки. Для обработки изображений требуется отдельный файл mmproj. Модель доступна в формате GGUF с вариантами квантования от Q8 до Q2, включая пользовательские K_P-кванты, оптимизированные для сохранения качества. Сильные стороны — большой контекст, мультимодальность, MoE-эффективность и отсутствие встроенных отказов. Ограничение агрессивного варианта — возможное отсутствие защитных барьеров и редкие краткие дисклеймеры, которые автор связывает с обучением базовой модели. Для запуска подходят llama.cpp, LM Studio и другие GGUF-совместимые среды. Лицензия — Apache-2.0.

Avesed/Qwen3.8-27B-INT4-W4A16 — это квантизированная версия Qwen/Qwen3.8-27B, разработанная сообществом Avesed. Модель относится к гибридным плотным vision-language моделям: сочетает линейное внимание GatedDeltaNet с периодическим полным вниманием, имеет встроенную vision tower и MTP head для спекулятивного декодирования. Она поддерживает английский и китайский языки, а также обработку изображений и текста. Модель предназначена для генерации и перевода текста, рассуждений, математических задач и мультимодальных сценариев с изображениями. Используется INT4 weight-only квантизация W4A16 с AWQ, symmetric INT4 weights и group size 32. Размер чекпойнта составляет около 20 ГБ, поэтому веса помещаются на одной GPU с 24 ГБ памяти; для обслуживания через vLLM в README указана конфигурация tensor parallel на двух RTX 3090. В чувствительных к качеству компонентах, включая embeddings, lm_head, vision tower и MTP head, сохранён формат bfloat16. На GSM8K модель показала результат 96,4% при описанном в README протоколе оценки; заявлена работоспособность китайской и английской генерации, перевода, vision path и режимов reasoning. MTP-спекулятивное декодирование обеспечивает среднюю длину принятой последовательности около 2,4 токена из 3 при K=2. Ограничения включают зависимость результатов от протокола оценки и параметров сэмплирования, отсутствие результатов MMLU-Pro, а также заметную зависимость производительности от аппаратной конфигурации. Для запуска рекомендуется vLLM; лицензия — Apache-2.0.

OsaurusAI/Qwen3.8-27B-MXFP8 — квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, подготовленная Jinho Jang из Osaurus AI для Apple Silicon и MLX. Это плотная модель на 27 млрд параметров с гибридной архитектурой из 64 слоёв: 48 слоёв GatedDeltaNet и 16 слоёв gated full-attention. Она поддерживает работу с текстом, изображениями и видео, а также сохраняет нативную multi-token-prediction head. Модель предназначена для визуально-языковых задач, рассуждений, программирования, агентских сценариев и использования инструментов. Нативный контекст составляет 262 144 токена и может быть расширен до 1 млн. По умолчанию включён режим рассуждений с настраиваемым уровнем reasoning_effort от low до xhigh; предусмотрены отдельные параметры для обычного режима инструкций. Для запуска рекомендуется mlx-vlm, а для работы требуется Apple Silicon с не менее чем 32 ГБ объединённой памяти. Ключевое свойство этой версии — равномерное 8-битное квантование MXFP8 с размером группы 32 для 580 модулей без калибровки Hessian, AWQ и imatrix refit; 27 проекций vision-блоков оставлены в fp16. Размер на диске составляет около 26,4 ГиБ. На отложенных тестах относительно исходной bf16-модели зафиксированы медианный KL 0,0189, совпадение top-1 95,83% и скорость декодирования до 29,3 токена/с на M5 Max при оптимальной глубине спекуляции 2. При этом автор прямо указывает, что версия уступает калиброванным вариантам по качеству и служит структурным fallback-решением, а показатели ускорения зависят от типа запроса. Модель распространяется по лицензии Apache-2.0.

outsourc-e/Qwen3.8-27B-Unleashed-GGUF — это квантованная GGUF-версия uncensored-модели Qwen3.8-27B-Uncensored от JonathanColetti. Репозиторий публикует сборки с динамическим распределением битности по отдельным тензорам; карта квантования заимствована из проекта Unsloth Dynamic 3.0 и применена к весам исходной uncensored-модели. Модель предназначена для генерации текста, диалогов, агентских сценариев, работы с кодом и локального запуска через совместимые движки, включая llama.cpp. Модель содержит около 27 млрд параметров и поддерживает текстовую модальность. Заявлены английский и китайский языки, контекст до 262 144 токенов; для одной из сборок подтверждено извлечение данных на длине 250 806 токенов. Динамическая квантование сохраняет больше точности в чувствительных тензорах и сильнее сжимает менее критичные, благодаря чему сборка UD-Q3_K_XL в приведённых измерениях превзошла протестированные варианты Q4 по perplexity и обеспечила скорость 112,8 токена в секунду на RTX 4090 при использовании llama.cpp и speculative decoding. Сильными сторонами являются uncensored-характер модели, большой контекст, доступность нескольких уровней квантования и эффективное соотношение качества, размера и скорости. Результаты зависят от конкретного уровня квантования, оборудования, длины генерации и настроек запуска; для коротких запросов измеренная скорость значительно ниже пиковой, а варианты низкой битности, особенно Q2, заметно теряют качество. Для некоторых квантов полный набор тестов ещё не завершён. Лицензия — Apache 2.0.

JANGQ-AI/Qwen3.8-Flash-Next-JANG_4M — квантованная версия Qwen/Qwen3.8-Flash-Next, подготовленная Jinho Jang для Apple Silicon и MLX. Это мультимодальная модель с архитектурой Qwen4-architecture preview: 125 млрд параметров, из которых активно около 6 млрд, 512 экспертов, гибридными слоями Gated DeltaNet и Qwen Sparse Attention, а также хешированной n-граммной таблицей эмбеддингов. В комплект входят текстовые, визуальные и видео-компоненты; заявлен контекст 262 144 токена с расширением до 1 млн через YaRN. Модель предназначена для диалогов, рассуждений, анализа изображений и видео, а также агентных сценариев с вызовом инструментов. В README указана поддержка нативной multi-token prediction и измерения качества квантования относительно bf16. Для работы предусмотрена библиотека MLX; авторы рекомендуют запуск через vMLX и Apple Silicon, а таблица n-грамм может обслуживаться с SSD на поддерживаемом runtime. Вызовы инструментов используют диалект Qwen-XML, поэтому runtime должен поддерживать соответствующий парсер; Hermes-only парсеры могут некорректно обрабатывать такие вызовы. Доступ к vMLX указан как ограниченный одобрением. Лицензия обозначена как other, поэтому конкретные условия следует проверять в репозитории модели и базовой модели.

Qwen3-Nemotron-14B-BRRM — дообученная NVIDIA модель оценки ответов больших языковых моделей, основанная на Qwen3-14B. Она предназначена для сравнения двух ответов на запрос и выявления их сильных и слабых сторон в сценариях оценки качества и RLHF. Модель использует двухэтапный подход: сначала выбирает от одного до трёх важных для конкретного запроса критериев, затем проводит углублённый анализ с учётом выбранных критериев. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 14 млрд параметров и рассчитана на контекст до 40 960 токенов. README сообщает о результатах на RewardBench, RM-Bench и RMB, включая среднюю оценку 84,2 для этой версии. Метаданные указывают английский язык; модель работает с текстом и выдаёт текстовые оценки и объяснения. Лицензия указана как other, поэтому перед использованием следует проверить условия NVIDIA для конкретного сценария.

ClaudioItaly/QwenTies-14B — плотная языковая модель семейства Qwen2.5, созданная автором репозитория с помощью TIES-слияния предварительно обученной Qwen2.5-14B и инструкционной Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и формат safetensors; для работы указан стек Transformers. Контекстное окно составляет 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия, включая структурированные ответы и интерфейс вызова инструментов. Её можно применять для ответов на вопросы, составления и редактирования текстов, а также для сценариев, где требуется длинный контекст. Карточка не приводит результатов оценки качества. Сведения о лицензии в доступных данных отсутствуют.

Aryanne/QwentileSwap — слитая автором языковая модель семейства Qwen2.5, созданная методом task_swapping с помощью mergekit на основе win10/EVA-QwQ-32B-Preview. В объединение также вошли ArliAI/Qwen2.5-32B-ArliAI-RPMax-v1.3, maldv/Qwentile2.5-32B-Instruct и Sao10K/32B-Qwen2.5-Kunou-v1. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения; в метаданных также указана поддержка интерфейса вызова инструментов. Репозиторий содержит веса в форматах safetensors и GGUF. Автор описывает её как эксперимент с пользовательским методом слияния и не заявляет о гарантированном качестве. Лицензия — Apache-2.0.

Kaoeiri/Qwenwify-32B-v4 — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit. В качестве базовой использована Qwen/QwQ-32B-Preview; при слиянии методом DARE TIES также использованы десять моделей Qwen2.5-32B, включая варианты для инструкций, рассуждений, ролевых диалогов и художественного текста. Модель предназначена для генерации текста в диалоге и может применяться для ответов на запросы, творческого письма и рассуждений. Она содержит 32 млрд параметров, принимает текст и выдаёт текст, а её родной контекст составляет 32 768 токенов. В метаданных отмечены чат и интерфейс вызова инструментов. Модель опубликована по лицензии CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий. В карточке есть метка not-for-all-audiences; качество и поведение объединённой модели могут различаться между задачами.

QwQ-LCoT1-Merged — объединённая текстовая языковая модель, созданная prithivMLmods методом Model Stock с помощью mergekit. В объединение вошли QwQ-LCoT-7B-Instruct и QwQ-LCoT2-7B-Instruct, а базовой моделью служит Qwen/Qwen2.5-7B-Instruct. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, следования инструкциям, генерации текста и решения задач, требующих логических рассуждений и пошагового анализа. Она работает с текстом и может использоваться для составления подробных объяснений и структурированных ответов. Ограничения по качеству и языковому охвату в карточке не описаны; возможности рассуждения не гарантируют правильность ответов. Файлы опубликованы в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

RecurrentGemma 2B IT — разработанная Google instruction-tuned языковая модель из семейства RecurrentGemma. Она использует рекуррентную архитектуру и предназначена для генерации текста по инструкциям, включая диалог, ответы на вопросы, суммаризацию и рассуждения. Модель доступна через Transformers и распространяется в формате safetensors. Google указывает английский как язык версий семейства. По сравнению с Gemma, рекуррентная архитектура требует меньше памяти и ускоряет генерацию длинных последовательностей. Модель подходит для чат-ботов, создания и редактирования текстов, а также для исследовательских и образовательных приложений. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и хуже справляться со сложными, неоднозначными или открытыми запросами. Лицензия — Gemma; перед использованием следует соблюдать условия Google для Gemma.

RecurrentGemma 9B — базовая большая языковая модель, разработанная Google. Она предназначена для генерации текста и может использоваться как основа для диалоговых интерфейсов, создания и суммаризации текстов, а также экспериментов в NLP. Это авторегрессионная модель для Transformers, доступная в формате safetensors. Архитектура RecurrentGemma рассчитана на более высокую скорость генерации, особенно для длинных последовательностей и больших пакетов, по сравнению с Gemma 7B с Multi-Head Attention; выигрыш может быть меньше при сравнении с моделями на Multi-Query Attention. Карточка описывает базовую версию, а не instruct-вариант. В README не приводятся контекстное окно и список поддерживаемых языков. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью и сложными открытыми задачами, а также воспроизводить смещения из обучающих данных. Для использования действует лицензия Gemma и условия Google, включая ограничения на применение моделей Gemma.

RemixLlama3-8B — чат-модель для генерации текста, созданная слиянием моделей Llama 3 с помощью mergekit. В состав слияния входят RLHFlow/LLaMA3-iterative-DPO-final, failspy/Meta-Llama-3-8B-Instruct-abliterated-v3 и TIGER-Lab/MAmmoTH2-8B-Plus; в конфигурации указаны метод model_stock и точность bfloat16. Архитектура — плотная автрорегрессионная LlamaForCausalLM с 7,5 млрд параметров и контекстом 8192 токена. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Базовая модель с изменёнными весами ориентирована на снижение склонности к отказам, а компоненты слияния включают модель, обученную методом DPO, и модель MAmmoTH2. Репозиторий использует формат safetensors. Указанная лицензия — llama3.

kwondw/reranker-distilroberta-base-nli — это англоязычный Cross-Encoder на базе distilbert/distilroberta-base, дообученный автором на наборе all-nli с помощью библиотеки Sentence Transformers. Модель совместно обрабатывает пару текстов и выдаёт оценки по трём классам, поэтому подходит для классификации отношений между предложениями и оценки их сходства. Число параметров — 95,2 млн, максимальная длина последовательности — 512 токенов. Модель можно применять для проверки следования гипотезы из посылки, сравнения текстовых пар и ранжирования кандидатов по релевантности к запросу. В README приведены результаты классификации на ALLNLI-dev и AllNLI-test: macro F1 0,8226 и 0,7575 соответственно. Для работы требуется библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.

uproai/ros-7b-v1 — объединённая языковая модель на архитектуре Mistral, опубликованная uproai. Согласно карточке, она собрана с помощью Mergekit из OpenPipe/mistral-ft-optimized-1227, cgato/Thespis-Mistral-7b-v0.6, saishf/West-Hermes-7B и NeverSleep/Noromaid-7b-v0.2; конфигурация описывает слияние методом SLERP. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, а её контекст составляет до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на базе Mistral. Карточка не уточняет целевые языки или специализированные области применения, поэтому их нельзя надёжно определить по доступным сведениям. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0.

RuadaptQwen2.5-32B-Instruct — русскоязычная инструктивная языковая модель, созданная командой MSU RCC LAIR на основе Qwen2.5-32B-Instruct. Авторы заменили токенизатор, выполнили дополнительное предобучение на русскоязычном корпусе и применили метод Learned Embedding Propagation (LEP). Модель имеет плотную архитектуру Qwen2 и 32 млрд параметров, принимает текст и генерирует текст; контекст — до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций на русском языке. По заявлению авторов, новый токенизатор повышает скорость генерации русскоязычного текста до 60% по сравнению с исходной Qwen2.5-32B-Instruct при сопоставимых входных последовательностях. В карточке также указана поддержка интерфейса вызова инструментов. Это версия v1, обозначенная авторами как находящаяся в разработке. Оценка качества проводилась на Ru-Arena-General и MERA; сведения о результатах llmtf_open в README не завершены. Модель унаследовала знания и возможные смещения базовой модели, поэтому ответы следует проверять. Лицензия — Apache-2.0.

rubert-mini-frida — компактная модель на архитектуре BERT, опубликованная sergeyzh для построения эмбеддингов предложений на русском и английском языках. Она создана дистилляцией эмбеддингов ai-forever/FRIDA в sergeyzh/rubert-mini-sts: 7 слоёв и размер эмбеддинга 312 вместо 24 слоёв и 1536 у FRIDA. Используется mean pooling; по умолчанию настроен префикс «categorize: », также поддерживаются префиксы FRIDA для разных задач. Модель подходит для семантического поиска и сравнения предложений, выявления перефразирований, классификации и кластеризации текста, анализа тональности и токсичности, а также задач NLI. В карточке приведены результаты ruMTEB: модель уступает FRIDA по указанным метрикам, но превосходит приведённые варианты multilingual-e5 в некоторых из них. Хотя унаследованная длина контекста составляет 2048 токенов, автор рекомендует не превышать 512. Лицензия — MIT.

d0rj/ru-mbart-large-summ — модель суммаризации на базе ru-bart-large, созданной как уменьшенная версия facebook/mbart-large-50 с эмбеддингами только для русского и английского языков. Модель дообучена на объединённых обучающих выборках из датасетов d0rj/samsum-ru, IlyaGusev/gazeta, zjkarina/matreshka, rcp-meetings/rudialogsum_v2, GEM/wiki_lingua и mlsum; размер обучающей выборки составил 155 678 примеров. Модель предназначена для сокращения текстов, в том числе новостных материалов и диалогов. Это плотная encoder-decoder архитектура mBART с 226,2 млн параметров и контекстом до 1024 токенов; в репозитории доступны веса PyTorch и safetensors. В README приведён пример использования через pipeline Transformers с задачей summarization. Лицензия — MIT. В README указано, что оценка проводилась на части объединённых validation-наборов, однако численные результаты и подробное описание метрик недоступны в карточке; отчёт обозначен как незавершённый.

Fulcrum-AI представляет Ryze-Mistral-Nemo-Instruct-2407-8 — текстовую генеративную модель на архитектуре MistralForCausalLM, полученную слиянием весов через passthrough mergekit на основе mistralai/Mistral-Nemo-Instruct-2407. В репозитории указаны 20,1 млрд параметров, формат safetensors и контекст до 1 024 000 токенов. Модель предназначена для диалога, генерации текста, выполнения инструкций и сценариев с интерфейсом вызова инструментов. Базовая Mistral Nemo — многоязычная инструктивная модель Mistral AI и NVIDIA; модель можно применять для общения и генерации текста на поддерживаемых ею языках. README не описывает отдельную специализацию или результаты оценки именно этого слияния. Лицензия в предоставленных данных не указана.

samantha-mistral-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная MaziyarPanahi методом слияния mistralai/Mistral-7B-Instruct-v0.2 и cognitivecomputations/samantha-mistral-7b с помощью SLERP. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для диалогов, генерации текста и ответов на инструкции. Лицензия Apache 2.0 разрешает использование на её условиях.

SciPhi-Self-RAG-Mistral-7B-32k — языковая модель SciPhi, дообученная на основе Mistral-7B-v0.1. После этапа обучения, описанного для SciPhi-Mistral-7B-32k, модель дополнительно дообучили на датасете Self-RAG и смешанных инструктивных наборах данных для RAG. Это плотная трансформерная модель Mistral с 7,1 млрд параметров, Grouped-Query Attention, Sliding-Window Attention и контекстом до 32 768 токенов. Модель предназначена для генерации текста в сценариях Retrieval-Augmented Generation (RAG), включая ответы с использованием извлечённых материалов. Она хорошо показала себя в приведённых авторами бенчмарках, но, по словам разработчиков, требует дополнительной настройки, чтобы стать хорошим диалоговым собеседником. Модель опубликована в формате PyTorch под лицензией MIT.