I.1Поиск и навигация по информации

Ornith-1.5-35B-A3B-NInfer — производный инференс-артефакт модели Ornith-1.5-35B-A3B, разработанной Ornith AI. Это мультимодальная языковая модель архитектуры Qwen 3.5 Mixture-of-Experts, принимающая текст и изображения. Артефакт предназначен для запуска и обслуживания через движок NInfer, а не является исходным репозиторием модели. Модель содержит 40 слоёв и 256 экспертов, из которых для каждого токена активны 8; эффективный объём активных параметров составляет около 3 млрд при общем классе модели 35B. Используются скрытый размер 2048, GQA с 16 attention- и 2 KV-головами, словарь из 248 320 токенов и контекст до 262 144 позиций. Зрительный энкодер состоит из 27 слоёв. Артефакт включает DFlash-компонент для multi-token prediction и обученную MTP-head, оптимизированную с помощью knowledge distillation. Заявленный язык — английский. Весы упакованы в единый файл размером около 21,22 GiB с групповой смешанной квантизацией Q4, Q5, Q6 и W8; часть тензоров сохранена в BF16. По измерениям из карточки, обученная MTP-head повысила долю принятых черновых токенов с 21,8% до 39,0% и увеличила скорость декодирования примерно на 21,5% в указанной конфигурации RTX 5090 и однопоточном CLI-тесте. Ограничения включают зависимость от движка NInfer, специфичного формата артефакта и доступности соответствующих аппаратных ресурсов; приведённые показатели не являются универсальной гарантией производительности. Базовая модель распространяется по лицензии MIT. Встроенная grafted MTP-head указана как производная от Qwen и распространяется по Apache-2.0, поэтому условия использования следует учитывать для компонентов отдельно.

mnsims1024/Qwen2.5-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, основанная на Qwen/Qwen2.5-VL-7B-Instruct. Разработчик базовой модели — команда Qwen. Модель предназначена для обработки изображений, текста и видео в задачах image-text-to-text, визуального анализа, распознавания текста, документов, таблиц, графиков и макетов, а также для визуального рассуждения и формирования структурированных ответов. Модель содержит 7 миллиардов параметров и использует языковую модель Qwen2.5 вместе с оптимизированным vision encoder на базе ViT. Архитектура поддерживает динамическое разрешение изображений и динамическую частоту кадров видео, включая анализ видео длительностью более часа и локализацию релевантных моментов. Модель умеет выдавать bounding boxes и точки для объектов, JSON-координаты и атрибуты, а также работать со сценариями компьютерного и мобильного управления. В метаданных README указан язык en; другие языки явно не заявлены. Сильные стороны модели — анализ документов и визуального текста, OCR, понимание графиков и таблиц, обработка длинных видео, визуальная локализация и структурированный вывод. Ограничения включают необходимость совместимых версий transformers и accelerate, а также дополнительные зависимости для эффективной загрузки видео; фактические требования к памяти и параметры GGUF-квантизации в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen2-VL-2B-Instruct — мультимодальная модель с визуальным энкодером и плотной архитектурой Qwen2-VL, разработанная командой Qwen. Это версия с настройкой для следования инструкциям, основанная на Qwen/Qwen2-VL-2B. Модель принимает изображения и текстовые запросы и формирует текстовые ответы; поддерживает динамическое разрешение изображений, а механизм M-ROPE учитывает текстовые, визуальные и видеопозиции. В метаданных указаны 1,5 млрд параметров и контекст длиной 32 768 токенов. Модель предназначена для визуальных вопросов и ответов, анализа изображений и документов, а также понимания видеоклипов, включая клипы длительностью более 20 минут. Она также может служить основой для систем, которые действуют по текстовым инструкциям, опираясь на визуальную обстановку. Модель поддерживает английский и китайский языки, а также распознавание текста на изображениях на многих других языках. Репозиторий содержит веса в формате safetensors, использовать их можно на базе Transformers; лицензия — Apache-2.0. В README отмечены ограничения: модель не понимает аудио в видео, может ошибаться при подсчёте объектов и пространственных рассуждениях, а также испытывает трудности со сложными многошаговыми инструкциями. Данные изображений обновлены до июня 2023 года; распознавание конкретных людей и объектов интеллектуальной собственности ограничено.

LinkRur/Qwen_3.5_4B_Fix — исправленная версия мультимодальной модели Qwen3.5, опубликованная в формате Transformers. Это причинная языковая модель с визуальным энкодером; в карточке указано около 4 млрд параметров, а метаданные фиксируют 3,4 млрд. Веса основаны на Qwen/Qwen3.5-4B-Base и лицензированы по Apache-2.0. Модель предназначена для диалогов, генерации и анализа текста, а также понимания изображений. Она поддерживает контекст до 262 144 токенов, расширяемый, согласно README, до 1 010 000, и широкое многоязычное покрытие: заявлены 201 язык и диалект. В README описана коррекция весов проекций ключей в восьми слоях полного внимания, призванная устранить бесконечные циклы повторения; остальные веса, по заявлению автора, не менялись. Модель подходит для мультимодальных ассистентов, вопросов по изображениям и задач с длинным контекстом. README сообщает о режиме рассуждений по умолчанию и возможностях вызова инструментов. При этом заявленные улучшения основаны на описании автора, а независимые результаты проверки исправления и подробные ограничения качества в доступных данных не приведены.

Qwen3.8-27B-Abliterated-SME-Preview — предварительная модель-ассистент для малого и среднего бизнеса от hotdogs, дообученная методом LoRA SFT на базе hotdogs/Qwen3.8-27B-abliterated. Это плотная гибридная модель с архитектурой Qwen3_5ForConditionalGeneration: 64 слоя, включая линейное внимание GDN и полное внимание; в репозитории представлены объединённые веса BF16 в safetensors. Модель предназначена для ответов на деловые вопросы, анализа CSV и офисных документов, а также для формирования структурированных вызовов инструментов. Модель принимает текст; в карточке указана мультимодальная обёртка с поддержкой изображений, хотя README описывает текстовые сценарии. Обучение проводилось на англоязычном наборе документов и вызовов инструментов; метаданные также указывают тайский язык. Контекст обучения — 8192 токена. Лицензия — Apache-2.0. В README приведены результаты на ARC, MMLU и GSM8K, а также проверки формата вызовов инструментов; они указывают на сохранение общих возможностей базовой модели и улучшение математического рассуждения, но полноценные агентные бенчмарки ещё не проводились. Выпуск имеет статус Preview. Склонность базовой модели отказывать снижена намеренно; для выполнения вызовов csv_* и doc_* требуется подключить инструменты к среде исполнения. BF16-версия на 27 млрд параметров требует нескольких GPU либо квантованного варианта для практического запуска.

Solar Open 100B — языковая модель Upstage, обученная с нуля и выпущенная под лицензией Upstage Solar License. Это модель архитектуры Mixture-of-Experts: в README указаны 102,6 млрд параметров всего и 12 млрд активных на токен; метаданные каталога указывают 8,7 млрд параметров. Контекст составляет 128k токенов. Репозиторий содержит веса в формате safetensors и предназначен для работы через Transformers. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и сценариев с агентными возможностями, включая интерфейс вызова инструментов. В README приведены отдельные результаты тестирования на корейских и англоязычных бенчмарках; метаданные также указывают английский и корейский языки. Для запуска README рекомендует минимум четыре NVIDIA A100 с 80 ГБ памяти. Лицензия — Upstage Solar License; перед использованием следует ознакомиться с её условиями.

Swift-Qwen3.8-27B-Uncensored-NVFP4-LocalHessian-ActivationHeadroom-NInfer — мультимодальная модель, разработанная на базе d0xin/Swift-Qwen3.8-27B-Uncensored-BF16 и распространяемая в формате NInfer. Это квантованная сборка семейства Swift-Qwen3.8 с поддержкой текстовых и визуальных входов, рассуждений, агентских сценариев, вызова инструментов и длинного контекста. Модель позиционируется как версия с существенно сниженным количеством отказов, однако это также уменьшает встроенную фильтрацию безопасности. Архитектура использует смешанную точность: MLP-слои 0–55 работают в NVFP4 W4A4, остальные MLP-слои, проекции self-attention и linear-attention/GDN, эмбеддинги и LM head — в row-wise FP8, а GDN a/b — в BF16. Калибровка выполнена с помощью NVIDIA ModelOpt Local-Hessian, activation headroom и подбора FP8-масштабов. Размер модели — 27B параметров; точный набор поддерживаемых языков в README не указан. По заявленным измерениям на NVIDIA RTX PRO 6000 Blackwell сборка обеспечивает на 20,4–26,6% более высокую скорость декодирования, на 33,8–38,2% более высокую скорость prefill и на 15,1% меньшее потребление VRAM по сравнению с FP8. На фиксированной выборке MMLU-Pro она показала 80,36% точности при рекомендованном thinking budget 2048, но результаты зависят от оборудования и конфигурации. Рекомендуется использовать NInfer с NVIDIA Blackwell sm_120a; работа на RTX 5090 ожидается, но непосредственно автором не проверялась. Лицензия — Swift Open License 1.0.

jonatasgrosman/wav2vec2-xls-r-1b-russian — модель распознавания русской речи, дообученная Jonatas Grosman на основе facebook/wav2vec2-xls-r-1b с помощью инструмента HuggingSound. Модель использует архитектуру Wav2Vec2ForCTC и принимает аудио, записанное с частотой дискретизации 16 кГц, чтобы преобразовать речь в текст. Модель предназначена для автоматической транскрибации русской речи. При дообучении использовались обучающая и валидационная части Common Voice 8.0, Golos и Multilingual TEDx. В метаданных указаны 1,3 млрд параметров и поддержка русского языка. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0.

WINTER-FROST-3 — дообученная brucoder модель для генерации текста и диалогов. Она основана на WINTER-FROST-2-PRO, использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров. Модель принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке указан английский язык. В метаданных также отмечен интерфейс взаимодействия с инструментами. Модель подходит для текстовых запросов, диалогов и сценариев, где нужно вызывать инструменты через соответствующий интерфейс. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Лицензия — Apache-2.0.

YiXin-Distill-Qwen-72B — плотная авторегрессионная языковая модель YiXin AI Lab на архитектуре Qwen2.5, дообученная с применением обучения с подкреплением и дистилляции для математических рассуждений и ответов на вопросы общего характера. Модель насчитывает 71,5 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке заявлена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Модель предназначена для диалоговых приложений, решения математических задач с объяснением хода решения и ответов на вопросы, требующие общих знаний и рассуждений. В README приведены результаты сравнительных тестов, включая MATH-500, GPQA-Diamond и AIME-24; они отражают оценки авторов модели. Модель распространяется в формате safetensors, поддерживает интерфейс вызова инструментов и выпущена по лицензии Apache-2.0. В README отмечены уязвимость к состязательным атакам и prompt injection, возможность утечки данных, смещения по областям и потеря части тонких способностей исходной модели при дистилляции. Качество может различаться в доменах, недостаточно представленных в обучающих данных.

T145/ZEUS-8B-V12 — объединённая авторами репозитория языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана методом DARE TIES на основе unsloth/Meta-Llama-3.1-8B-Instruct с добавлением arcee-ai/Llama-3.1-SuperNova-Lite, unsloth/Llama-3.1-Storm-8B и Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2. Модель предназначена для диалогов и генерации текста, включая ответы на инструкции; метаданные также отмечают интерфейс для вызова инструментов. Она принимает текст и поддерживает контекст до 131 072 токенов. Репозиторий использует Transformers и хранит веса в формате safetensors. README приводит результаты оценивания на Open LLM Leaderboard, в том числе 78,16% на IFEval и среднее значение 30,26% по указанным метрикам. В состав объединения входит модель с пометкой uncensored, поэтому при использовании стоит учитывать возможность генерации нежелательного или небезопасного текста. Условия лицензирования в предоставленных данных не приведены.

google/flan-t5-base — языковая модель семейства T5, разработанная Google и дообученная по инструкциям на более чем тысяче дополнительных задач. Она преобразует текстовый запрос в текстовый ответ и подходит для генерации, ответов на вопросы, рассуждений и выполнения разнообразных NLP-задач, в том числе в режимах zero-shot и few-shot. Модель имеет архитектуру T5 encoder-decoder с 123,8 млн параметров и контекстом до 512 токенов. Карточка описывает поддержку множества языков, включая русский, английский, французский, немецкий и румынский; метаданные также отмечают многоязычность. Доступны версии для PyTorch, TensorFlow и Flax, лицензия — Apache 2.0. Карточка сообщает о сильных результатах на широком наборе задач, но модель не проверялась в реальных приложениях. Она может воспроизводить предвзятость и неподходящее содержание из обучающих данных, поэтому перед применением требуется оценка безопасности и справедливости для конкретного сценария.

GigaChat-20B-A3B-instruct-bf16 — диалоговая языковая модель семейства GigaChat, основанная на ai-sage/GigaChat-20B-A3B-instruct. Она предназначена для генерации ответов и ведения диалога на русском и английском языках. Модель использует архитектуру DeepSeekForCausalLM и поддерживает контекст до 131 072 токенов; формат весов — safetensors, библиотека для работы — Transformers. В названии указана точность bf16. Модель подходит для диалоговых интерфейсов и задач, где требуется обрабатывать длинные запросы и контекст. Репозиторий распространяется по лицензии MIT. В карточке не приведены результаты оценок качества и подробности о требованиях к оборудованию.

Gliese-OCR-7B-Post2.0-final-GGUF — мультимодальная модель для распознавания и анализа документов, разработанная prithivMLmods. Это финальная, оптимизированная версия серии Gliese-OCR, созданная на архитектуре Qwen2.5-VL и представленная в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель дообучалась на данных для визуализации документов и задач, связанных с OCR. Модель предназначена для OCR, визуального анализа, извлечения и связывания информации, преобразования документов в структурированный вид и интеллектуальной обработки документов (IDP). Она рассчитана на работу со сканированными PDF, рукописными страницами, структурированными формами и аналитическими отчётами, а также может формировать результат в формате Markdown. В карточке указано, что поддерживается английский язык. Архитектура мультимодальная: модель обрабатывает текст и изображения; размер модели — 7B параметров. Доступны варианты квантования GGUF с размерами примерно от 1,9 до 15,2 ГБ, включая F16, Q2–Q8 и IQ-квантизации, что позволяет выбирать баланс между требованиями к памяти и качеством. Сильными сторонами заявлены эффективность, точность и улучшенные возможности визуализации документов. Ограничения, включая фактическую точность на конкретных типах документов, максимальный контекст и требования к оборудованию, в README не указаны. Модель распространяется по лицензии Apache-2.0.

GPT-4o — мультимодальная модель OpenAI, принимающая текст и изображения и формирующая текстовые ответы. Название «omni» отражает поддержку нескольких типов входных данных; в доступной карточке заявлены текстовый и визуальный ввод. Модель подходит для диалога и ответов на вопросы по тексту или изображениям, например для описания изображений и анализа визуальной информации. По метаданным каталога её задача — image-text-to-text. Карточка также сравнивает её уровень интеллекта с GPT-4 Turbo, но не содержит завершённых сведений о размере, контекстном окне, языках и лицензии.

H2OVL-Mississippi-800M — компактная мультимодальная модель зрения и языка от H2O.ai с 0,8 млрд параметров. Она построена на архитектуре языковых моделей H2O-Danube и предназначена для диалога и извлечения текстовой информации из изображений. Модель обучена на 19 млн пар «изображение—текст» с упором на распознавание текста, понимание документов, а также интерпретацию диаграмм, рисунков и таблиц. Она ориентирована на OCR и обработку документов; карточка сообщает о сильных результатах в распознавании текста, включая Text Recognition в OCRBench. Модель принимает изображения и текстовые запросы и генерирует текстовые ответы, например извлечённые сведения или структурированное представление содержимого изображения. В репозитории указана лицензия Apache-2.0. Как и другие генеративные модели, она может выдавать ошибочные или нерелевантные ответы; результаты распознавания следует проверять.

InternLM2.5-7B — плотная авторегрессионная языковая модель семейства InternLM2.5, разработанная командой InternLM. Она содержит 7,4 млрд параметров и предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, рассуждения и работу с длинными документами. Модель сохраняет архитектуру InternLM2 и использует синтетические данные в итеративном развитии семейства. Разработчики сообщают о повышении результатов рассуждения на 20% относительно InternLM2 и сильных результатах на MMLU, CMMLU и BBH. Метаданные указывают контекстное окно 262 144 токена; README также описывает результаты тестирования на контексте до 1 млн токенов. Модель работает с текстом и поддерживает диалог. README не перечисляет поддерживаемые естественные языки явно, хотя результаты приведены для англоязычного MMLU и китайского CMMLU. Возможны предвзятые, дискриминационные и другие вредные ответы. Код распространяется по Apache-2.0; для весов заявлен доступ для академических исследований и возможность подать заявку на бесплатное коммерческое разрешение.

InternVL2-4B — мультимодальная инструктивно настроенная модель OpenGVLab для диалога по изображениям и тексту. Она объединяет визуальный энкодер InternViT-300M-448px, MLP-проектор и языковую модель Phi-3-mini-128k-instruct; размер модели в карточке указан как 4,2 млрд параметров. Модель доступна через Transformers, веса опубликованы в формате Safetensors по лицензии MIT. Модель предназначена для понимания изображений и видео, ответов на вопросы о визуальном содержимом, чтения документов и диаграмм, OCR, решения научных и математических задач с изображениями. Она также принимает несколько изображений в одном запросе. Обучение проводилось с контекстом 8 тысяч токенов и данными с длинными текстами, несколькими изображениями и видео. Карточка сообщает о конкурентных результатах на тестах понимания документов, диаграмм, сценического текста и видео, но эти оценки зависят от конкретных бенчмарков и не гарантируют качество в каждом сценарии. Для видео в описанных тестах использовалось извлечение 16 кадров с изменением размера до 448×448; это не свидетельствует о полноценной обработке непрерывного видеопотока. В метаданных отмечена многоязычность, но конкретный перечень языков не приведён.

win10/Mistral-Nemo-Instruct-2407-20b — текстовая разговорная модель на архитектуре Mistral, созданная с помощью mergekit методом passthrough на основе unsloth/Mistral-Nemo-Instruct-2407. В метаданных указаны 23 млрд параметров и контекст до 1 024 000 токенов. Модель предназначена для генерации текста в диалогах и поддерживает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; репозиторий содержит веса в формате safetensors и рассчитан на работу с Transformers. Данные подтверждают английскую маркировку семейства, но не задают перечень естественных языков модели. Лицензия в предоставленных источниках не указана.

Mistral-Nemo-Instruct-2407-400k_v3 — дообученная Wassimm версия unsloth/Mistral-Nemo-Instruct-2407, созданная с использованием Unsloth и библиотеки TRL от Hugging Face. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена, среди языковых меток карточки указан английский. Модель подходит для диалоговых приложений и генерации текста, включая сценарии, где чат-боту требуется обращаться к инструментам. В README нет сведений о специальной предметной области или конкретных задачах дообучения. Лицензия — Apache-2.0.

OpenThai 2.0 Qwen3.8-27B — дообученная компанией OpenThai мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров. Она принимает текст и изображения и предназначена прежде всего для работы с тайскими документами: распознавания печатного и рукописного текста, транскрипции страниц, извлечения структуры и ответов на вопросы по документам. Также подходит для ответов на тайском и английском языках, следования инструкциям, программирования и использования инструментов. Модель заявлена с контекстом 262 144 токена; в производственном API используется контекст до 131 072 токенов. В README приведены результаты оценки тайских экзаменационных знаний, следования инструкциям и распознавания документов, включая улучшение распознавания рукописного текста относительно базовой модели. Модель распространяется под лицензией Apache-2.0. Качество структурированного извлечения данных примерно соответствует базовой модели и слабее в разборе таблиц, извлечении ключевой информации и вопросах по диаграммам. Текст на вывесках и других сценах распознаётся хуже, а рукописный текст остаётся сложным: на сложных примерах возможны ошибки примерно в каждом четвёртом символе. Возможны галлюцинации на нечитаемых изображениях; длинные ответы могут различаться между запусками.

Phi-4-Reasoning-Vision-15B — мультимодальная модель Microsoft, дообученная на базе Phi-4-Reasoning. Она объединяет плотную языковую архитектуру Phi-4 с визуальным энкодером SigLIP-2 через промежуточное слияние признаков: изображения преобразуются в визуальные токены и передаются языковой модели. Динамическое разрешение поддерживает до 3600 визуальных токенов на изображение, а контекст составляет 32 768 токенов. Модель предназначена для понимания изображений с возможностью пошаговых рассуждений. Она решает математические и научные задачи по изображениям, анализирует диаграммы, графики, таблицы и документы, распознаёт текст, описывает сцены, локализует объекты и элементы интерфейса. В задачах, требующих рассуждений, может формировать развернутый ход решения; для задач восприятия обычно отвечает напрямую. Подходит для визуальных помощников и агентов, работающих с графическим интерфейсом. Модель обучена преимущественно на английском языке и англоязычных парах «изображение—текст», поэтому на других языках качество может снижаться. Возможны ошибки распознавания и фактические ошибки; перед применением в значимых сценариях необходима отдельная оценка. Разработчик не рекомендует использовать её для медицинской диагностики, юридических консультаций, финансового планирования и решений, влияющих на жизненные возможности людей. Лицензия — MIT.

greghavens/Qwen3.8-27B-bnb-4bit — это 4-битная NF4-квантизованная версия мультимодальной модели Qwen3.8-27B, разработанной Qwen. Модель предназначена для обработки текста и изображений, включая задачи visual question answering, генерацию текста по изображениям и работу с агентами и инструментами. Указан английский язык. Размер модели — около 18,60 ГБ в шести сегментах, что позволяет запускать её на одной видеокарте с 24 ГБ памяти при использовании bitsandbytes и совместимого ускорителя. Квантизация применяется к 496 языковым линейным слоям, тогда как vision tower, lm_head, входные эмбеддинги и нормализующие слои сохранены в bfloat16. В комплекте также присутствует MTP head в bfloat16 для speculative decoding в vLLM и SGLang, хотя Transformers его не использует. Модель совместима с Transformers и поддерживает QLoRA-файнтюнинг через PEFT. Контекст модели в README не указан. По заявленным измерениям, квантизация почти не меняет результаты IFEval и NoveltyBench, а ухудшение perplexity на Wikitext-2 составляет около 1,14%. При этом показатель BFCL для вызова инструментов снижается с 0,8218 до 0,8113, а на нерелевантные запросы модель чаще ошибочно генерирует вызов инструмента. Для Blackwell и сценариев, ориентированных только на инференс, README рекомендует более быстрые варианты NVFP4 или FP8. Модель распространяется по лицензии Apache-2.0.

huginnfork/Qwen3.8-27B-NVFP4A16 — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для задач понимания изображений и текста, генерации текста по мультимодальному вводу, а также сценариев, где важны сниженное потребление памяти и ускоренный инференс на совместимом оборудовании. Она поддерживает архитектуру семейства Qwen3.5 с гибридом полноформатного внимания и линейного внимания на базе SSM, vision tower и multi-token prediction head. Точные сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Используется схема NVFP4A16 (W4A16): веса 192 MLP-модулей представлены в 4-битном формате FP4 с групповыми масштабами FP8 E4M3, а активации остаются в bf16. Пути self-attention, linear attention, vision tower, lm_head и MTP head также сохранены в bf16. Размер модели составляет около 28,8 GiB в шести shards против 51,7 GiB для исходной bf16-версии. Такой подход обеспечивает существенное сжатие при сохранении наиболее чувствительных к ошибкам компонентов в более точном формате. Сильными сторонами являются экономия памяти, отсутствие квантизации активаций и сохранение в bf16 attention-, SSM- и визуальных компонентов. По приведённым измерениям, perplexity на wikitext-2-raw выросла с 6,9416 до 7,1497, то есть примерно на 3%, что указывает на некоторую потерю точности относительно родительской bf16-модели. Производительность и совместимость зависят от поддержки NVFP4A16 и используемого программно-аппаратного стека. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-CIRU-STRIX-IU4 — специализированная сборка семейства Qwen3.8-Flash-Next, разработанная проектом CIRU при участии Peonist.ai и pwilkin. Модель распространяется в формате GGUF и предназначена для локального запуска на компьютерах с AMD Strix Halo, в частности с 128 ГБ памяти и графикой Radeon на базе Ryzen AI Max 395. Она ориентирована на генерацию текста с длинным контекстом, работу через OpenAI-совместимый API, веб-интерфейс и обработку изображений. Сборка использует архитектуру mixture-of-experts, поддержку vision и image-text-to-text, а также MTP для speculative decoding. В неё включены оптимизации предварительной обработки, кэширования, внимания и GPU-исполнения под AMD ROCm; заявлена возможность работы с контекстами до 256K и отдельные измерения для предварительной обработки до 512K токенов. README не указывает точное число параметров, перечень языков и полную спецификацию модальностей. Сильные стороны модели — высокая скорость локального инференса на совместимых системах, эффективная обработка длинного контекста, поддержка изображений и интеграция с локальными серверными сценариями. Ограничения включают жёсткую зависимость от специализированного CIRU runtime и подходящей AMD-платформы: стандартные llama.cpp и размещённый inference Hugging Face не поддерживаются. Для vision и MTP требуется версия runtime с исправлением v4.4.1; приведённые в README показатели производительности относятся к конкретной тестовой конфигурации и не гарантируют такие же результаты на другом оборудовании. Лицензия указана как other с названием qwen-community-1.0; ссылка ведёт на файл LICENSE. Условия использования следует уточнять по этому файлу.

RuadaptQwen2.5-32B-Instruct — русскоязычная инструктивная языковая модель, созданная командой MSU RCC LAIR на основе Qwen2.5-32B-Instruct. Авторы заменили токенизатор, выполнили дополнительное предобучение на русскоязычном корпусе и применили метод Learned Embedding Propagation (LEP). Модель имеет плотную архитектуру Qwen2 и 32 млрд параметров, принимает текст и генерирует текст; контекст — до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций на русском языке. По заявлению авторов, новый токенизатор повышает скорость генерации русскоязычного текста до 60% по сравнению с исходной Qwen2.5-32B-Instruct при сопоставимых входных последовательностях. В карточке также указана поддержка интерфейса вызова инструментов. Это версия v1, обозначенная авторами как находящаяся в разработке. Оценка качества проводилась на Ru-Arena-General и MERA; сведения о результатах llmtf_open в README не завершены. Модель унаследовала знания и возможные смещения базовой модели, поэтому ответы следует проверять. Лицензия — Apache-2.0.

Это мультиязычная модель распознавания речи Whisper large-v3-turbo, подготовленная OpenVINO и сжатая до INT8 с помощью NNCF. Она преобразует аудио в текст и подходит для транскрибирования речи на множестве языков, включая русский и английский. В основе — Whisper large-v3-turbo, дообученная и прореженная версия Whisper large-v3 с четырьмя слоями декодера вместо 32. Это ускоряет распознавание, при этом возможно небольшое снижение качества. Модель поставляется в формате OpenVINO IR; для запуска требуются OpenVINO 2026.1.0 или новее и Optimum Intel 1.27.0 или новее. Модель распространяется по лицензии MIT. В README ограничения отсылают к карточке исходной модели; конкретные ограничения здесь не перечислены.

Wiederchat-7b-dpo-laser — чат-модель для генерации текста, созданная mayflowergmbh. Это объединение трёх моделей на архитектуре Mistral: mlabonne/OmniTruthyBeagle-7B-v0, mayflowergmbh/Wiedervereinigung-7b-dpo-laser и cognitivecomputations/openchat-3.5-0106-laser. Веса представлены в формате safetensors; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов. В README приведены результаты оценки Mt-Bench-De, включая категории письма, ролевого общения, рассуждений, математики, программирования, извлечения информации, STEM и гуманитарных дисциплин. Базовая модель описана как немецкоязычная, поэтому немецкий — основной язык модели; результаты теста сами по себе не гарантируют качество в конкретных сценариях. Условия лицензирования в предоставленных данных не описаны.

ZhiXi-13B-Diff — дифференциальные веса модели ZhiXi, разработанной проектом KnowLM для извлечения знаний. Чтобы восстановить веса, их необходимо применить к LLaMA-13B. В карточке описаны полное предварительное обучение на китайских и английских корпусах и последующая настройка инструкциями для извлечения сущностей, отношений и другой информации. Модель также сохраняет способности к работе с английским языком и кодом; приведены примеры перевода и следования инструкциям. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров и контекстом 2048 токенов. Она принимает текст и генерирует текст; карточка заявляет поддержку китайского и английского языков. Файлы представлены в формате PyTorch, лицензия — Apache-2.0. Дифференциальный формат требует исходных весов LLaMA-13B для восстановления модели.

Zora-9B-v0 — мультимодальная модель Lambent, полученная слиянием предварительно обученных моделей семейства Qwen3.5 с помощью Karcher Mean и mergekit. Она предназначена для диалогового взаимодействия и работы с изображениями; также поддерживает интерфейс вызова инструментов. В README описаны настройки стиля ответов и снижение числа отказов и оговорок, однако модель всё ещё может использовать оговорки и сохранять элементы deliberative alignment. Модель содержит 7,2 млрд параметров, использует плотную архитектуру Qwen3.5 и принимает текст и изображения для генерации текстовых ответов. Контекстное окно составляет 262 144 токена. Распространяется в формате safetensors по лицензии Apache-2.0.