I.1Поиск и навигация по информации

OrionNet — текстовая генеративная модель от Stellar Labs, опубликованная как чекпойнт PyTorch для Transformers. В README она описана как ассистент для многошаговых рассуждений, математики, программирования, ответов на общие вопросы и вызова инструментов. В метаданных указаны архитектура GemmaForCausalLM и лицензия Apache-2.0; заявление README о переработанной MoE-архитектуре расходится с указанным в метаданных плотным типом архитектуры, поэтому устройство маршрутизации экспертов подтвердить нельзя. Карточка заявляет улучшения в длинном контексте, математических задачах и снижении галлюцинаций, но не приводит размер модели или численную длину контекста, а результаты представлены без описания методики оценки. Модель принимает текст и генерирует текст; README также упоминает интерфейс для вызова инструментов. Лицензия Apache-2.0.

Qwen2.5-VL-7B-Instruct — мультимодальная инструкционная модель семейства Qwen, представленная в репозитории Unsloth на основе Qwen/Qwen2.5-VL-7B-Instruct. Это плотная архитектура Qwen2.5-VL с 7,1 млрд параметров, поддерживающая диалоговую работу с изображениями; длина контекста составляет 32 768 токенов. Модель принимает изображения и текстовые запросы, а отвечает текстом, в том числе может выдавать структурированные данные и координаты объектов. Модель предназначена для анализа изображений и документов, распознавания текста, таблиц, диаграмм и макетов, визуальных вопросов и ответов, а также понимания видео и локализации событий. Карточка описывает возможности визуального агента для взаимодействия с интерфейсами и инструментами. Динамическое разрешение позволяет настраивать баланс качества, скорости и расхода памяти. В README приведены результаты на бенчмарках изображений, видео и экранных интерфейсов. Для обработки изображений высокого разрешения требуется больше вычислений; поддержка видео зависит от используемой библиотеки, а видеофайлы подаются локально. Увеличение контекста с YaRN может ухудшить временную и пространственную локализацию. Лицензия — Apache-2.0.

YOYO-AI/Qwen3-30B-A3B-Mixture-2507 — объединённая модель от YOYO-AI на архитектуре Qwen3 MoE. Она создана слиянием Qwen/Qwen3-30B-A3B-Thinking-2507 и Qwen/Qwen3-30B-A3B-Instruct-2507 методом nuslerp; в README указаны параметры float32 для слияния и bfloat16 для выходных весов. Модель предназначена для диалогов, выполнения инструкций и генерации текста, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Метаданные указывают английский и китайский языки, активный размер — 2,6 млрд параметров, контекст — до 262 144 токенов. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Практическое качество и ограничения отдельно не описаны; характеристики унаследованных режимов Instruct и Thinking для объединённой модели не уточнены.

Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

Chungulus/Qwen3.8-27B-Q5_K_M-GGUF — это независимая vanilla-квантизация базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель представлена в формате GGUF с квантизацией Q5_K_M для запуска через llama.cpp; это не дообучение, объединение моделей или изменение шаблона чата. В комплект входят основные веса объёмом около 19,536 ГБ и отдельный vision projector, а общий размер репозитория составляет около 20,476 ГБ. Модель предназначена для генерации текста, вызова инструментов, анализа изображений и видео, а также сценариев с управляемым режимом рассуждений через параметры enable_thinking, reasoning_effort и preserve_thinking. Она использует гибридную архитектуру с Gated DeltaNet и полным attention, поддерживает мультимодальный pipeline image-text-to-text, нативный формат вызова инструментов и сохранённые MTP-тензоры, однако спекулятивное ускорение не заявлено. Точные языки и максимальный контекст в README не указаны; архитектурный максимальный контекст не следует считать проверенным. К сильным сторонам относятся сохранение функциональности исходной модели, проверенная генерация текста, tool calling, работа с изображениями и сохранённый шаблон чата. К ограничениям относятся возможное снижение качества из-за квантизации, требования к совместимости runtime с гибридным языковым графом, vision tower, tokenizer и MTP-метаданными, а также необходимость примерно 24 ГБ доступной памяти с дополнительным ростом потребления из-за KV-cache. Модель и её vanilla-квантизация распространяются по лицензии Apache-2.0.

t-firefly выпустил сборку Qwen3.8-27B для работы на ускорителе Rockchip RK1828 через LlamaPi. Это плотная мультимодальная модель генерации текста по текстовым и визуальным входам; исходную модель разработала команда Qwen. Она предназначена для диалога, анализа изображений и видео, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Модель принимает изображения и видео, включая документы и STEM-диаграммы; в исходной карточке заявлено понимание видео длительностью до часа. Режим рассуждения включён по умолчанию, его глубину можно настраивать. Репозиторий содержит GGUF и safetensors и помечен как совместимый с LlamaPi. Лицензия — Apache-2.0. Для запуска через LlamaPi требуется соответствующая среда на RK1828; практическое качество и поддержка конкретных входных форматов зависят от реализации.

Arctic-TILT — компактная модель Snowflake для понимания деловых документов. Это encoder-decoder Transformer семейства TILT; метаданные указывают 435,6 млн параметров, тогда как README приводит 822 млн. Модель предназначена для ответов на вопросы по документам и извлечения ключевой информации. Разработчики заявляют высокую эффективность и обработку длинного контекста, а также результаты, сопоставимые с моделями, которые в 1000 раз больше, на одной GPU с 24 ГБ памяти. Для работы модель оптимизирована под vLLM и требует специального планировщика и препроцессора TiltPreprocessor, код и примеры которого размещены в репозитории Snowflake-Labs/arctic-tilt. Указан формат весов safetensors. Лицензия и поддерживаемые языки в предоставленных данных не описаны.

Jiunsong/SuperDeepseek-V4-Flash-abliterated-MQ-2xDGX — производная от DeepSeek-V4-Flash-0731 модель для генерации текста, рассуждений, программирования, работы с длинным контекстом и вызова инструментов. Она создана на базе официального чекпойнта DeepSeek и распространяется как самостоятельно загружаемый дообученный чекпойнт без LoRA-адаптера или адаптера времени выполнения. Заявленная архитектура — MoE класса 304B: 43 основных слоя и 3 MTP-слоя, 256 маршрутизируемых экспертов с выбором top-6. Поддерживаются английский и корейский языки, а заявленный контекст составляет 1 048 576 токенов; README сообщает об успешном извлечении данных из запроса длиной 1 028 621 токенов. Модель использует смешанную точность: FP4 для весов экспертов, FP8 E4M3 для блочно-квантизированных путей и отдельных обновлений, BF16 для чувствительных к качеству компонентов, а также NVFP4 для KV-кэша при измерениях. Ключевые преимущества — значительно меньше отказов в тестовом режиме, сохранённые показатели вызова инструментов, проверенная работа с контекстом около миллиона токенов и высокая совокупная скорость декодирования на двух узлах DGX Spark. Ограничения — модель ориентирована на специализированную конфигурацию ускорителей, имеет крупный размер около 169,5 ГБ, использует квантизацию и не предназначена для оценки как полноразмерный BF16-чекпойнт; приведённые показатели производительности относятся к конкурентной генерации, а не к одному потоку. Лицензия — MIT.

Citaman/command-r-11-layer — объединённая языковая модель на архитектуре Cohere, опубликованная Citaman. По карточке, модель получена методом SLERP с помощью mergekit из слоёв Citaman/command-r-12-layer, а метаданные классифицируют её как дообучение этой базовой модели. Модель содержит 11,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; поддерживает интерфейс вызова инструментов. Модель подходит для чат-ботов, генерации ответов и систем, где языковая модель взаимодействует с инструментами. Контекстное окно составляет 8192 токена. В карточке указана архитектура CohereForCausalLM и формат safetensors. Лицензия и целевые языки в предоставленных данных не указаны.

DeepSeek-R1 — серия больших языковых моделей, разработанная DeepSeek и представленная в вариантах, дистиллированных из архитектур Qwen и Llama. Модели предназначены для генерации текста, диалогов, решения задач, требующих рассуждений, поиска и обработки информации, а также для сценариев клиентской поддержки, conversational AI, исследований и корпоративной автоматизации. В репозитории доступны варианты DeepSeek-R1-Distill-Qwen размером 1.5B, 7B, 14B и 32B параметров, а также DeepSeek-R1-Distill-Llama размером 8B и 70B параметров. Для каждой ветки указана квантованная версия q4-km по умолчанию. Модель относится к классу text-generation; сведения о поддерживаемых языках, размере контекста и дополнительных модальностях в README не приведены, поэтому она описывается как текстовая. Основные сильные стороны серии — широкий диапазон размеров, возможность выбрать баланс между ресурсопотреблением и качеством, а также ориентация на диалог и рассуждения. Более крупные варианты потенциально требуют больше вычислительных ресурсов, а квантованные версии могут отличаться по качеству от исходных моделей. Конкретные ограничения, показатели производительности и условия применения в README не указаны. Репозиторий распространяется по лицензии MIT; в README также приведена ссылка на исходную лицензию DeepSeek-R1.

DeepSeek-V4-Flash-0731 — Abliterated — это дообученная и изменённая версия DeepSeek-V4-Flash-0731, разработанного DeepSeek. Модель предназначена для генерации текста, агентного программирования, рассуждений, инструментального вызова и работы с длинным контекстом. Это текстовая модель на архитектуре Mixture-of-Experts с 284 млрд параметров всего и примерно 13 млрд активных параметров. Она содержит 43 слоя, 256 маршрутизируемых экспертов с выбором top-6, одного общего эксперта, гибридное внимание CSA и HCA, Lightning Indexer, mHC-гиперсвязи и встроенную трёхступенчатую DSpark draft head. Нативный контекст составляет 1 048 576 токенов, в указанной конфигурации модель обслуживается с контекстом 262 144 токена. Поддерживаемые языки в README не указаны, модальность — текстовая. Модель сохраняет исходные эксперты, маршрутизаторы, эмбеддинги, нормализации, параметры mHC и компоненты инструментального вызова; изменены только проекции выходов внимания в 46 модулях. По заявлению авторов, это устраняет поведение отказа: в проведённых тестах доля отказов составила 0%, а соответствие вызовам инструментов — 100%. При этом результаты отражают ограниченные выборки и не доказывают абсолютное отсутствие отказов или ошибок. Модель позиционируется как uncensored и может отвечать на потенциально опасные запросы, поэтому требует осторожного применения и локального запуска на контролируемом оборудовании. Размер составляет около 167 ГБ, используется нативная точность FP4 и FP8 без дополнительного квантования; для указанной конфигурации требуется распределённый запуск на двух NVIDIA DGX Spark с vLLM. Лицензия — MIT. Модель ориентирована прежде всего на локальное и исследовательское использование; ограничения по безопасности и ответственность за применение лежат на пользователе.

EXAONE 4.0-32B — плотная языковая модель с 31,5 млрд параметров, разработанная LG AI Research для диалогового использования. Она поддерживает обычный режим генерации и режим рассуждений, а также вызов инструментов для агентных сценариев. Архитектура включает 64 слоя и гибридное внимание: локальное скользящее внимание чередуется с глобальным в соотношении 3:1. Контекст — до 131 072 токенов. Модель предназначена для диалогов, ответов на вопросы, решения сложных задач и взаимодействия с инструментами. В карточке заявлена поддержка английского, корейского и испанского языков. Для работы через Transformers требуется версия 4.54.0 или новее. Ответы могут содержать фактические ошибки, предвзятость или неподходящий контент, а знания могут быть устаревшими. Лицензия указана как other; README сообщает об обновлении условий в сторону большей гибкости, но точные условия следует сверить с лицензией в репозитории перед использованием.

Mamba2-primed-HQwen3-8B-Instruct — гибридная языковая модель, подготовленная командой Hybrid Model Factory на основе Qwen3-8B. В архитектуре 18 слоёв Attention и 18 слоёв Mamba-2; модель содержит 7,6 млрд параметров и поддерживает контекст до 131 072 токенов. Она instruction-tuned и предназначена для генерации текста и диалогов, следования инструкциям и работы с длинными контекстами. Сочетание Attention и Mamba-2 сокращает долю растущего KV-кэша, что помогает повысить пропускную способность и уменьшить расход памяти при длинных последовательностях. По данным карточки, модель может уступать базовой Qwen3-8B в качестве, особенно на длинном контексте; Mamba-2 описана как менее выразительная, чем некоторые другие SSM-слои. Модель не поддерживает вызов инструментов и не генерирует специальные токены рассуждений. Доступна под лицензией Apache 2.0.

MiniCPM-V 4.5 — мультимодальная модель OpenBMB для диалога и понимания изображений, нескольких изображений и видео. По README, её языковая часть основана на Qwen3-8B, а визуальная — на SigLIP2-400M; архитектура включает единый 3D-ресэмплер для сжатия видеокадров. В метаданных указано 7,6 млрд параметров, библиотека Transformers и контекст 40 960 токенов. Модель предназначена для описания и анализа изображений и видео, распознавания текста, разбора документов и визуальных вопросов и ответов. README заявляет поддержку более 30 языков, обработку изображений высокого разрешения до 1,8 млн пикселей и видео с частотой до 10 кадров в секунду. Доступны переключаемые режимы быстрого и углублённого рассуждения; разработчики также отмечают поддержку локального запуска и интерфейса вызова инструментов. Возможности и показатели качества в README основаны на оценках разработчиков и бенчмарках; фактическое качество зависит от сценария и оборудования. Модель выпущена под лицензией Apache-2.0.

Nex-N2.5-mini-NVFP4 — это квантизированная версия модели Nex-N2.5-mini от Nex-AGI, подготовленная primitive-ai. Модель предназначена для генерации текста, агентных сценариев и вызова инструментов. Она распространяется в формате NVFP4 и рассчитана на запуск через Transformers и vLLM на одной видеокарте NVIDIA с архитектурой Blackwell. Модель имеет разреженную MoE-архитектуру: маршрутизируемые эксперты во всех 40 слоях квантизированы до 4 бит, тогда как механизмы внимания, linear attention, общие эксперты, эмбеддинги и vision tower сохранены в BF16. Размер весов составляет 23,91 ГБ против 70,24 ГБ у версии BF16. Заявлена поддержка контекста до 32 768 токенов; на видеокарте с 96 ГБ памяти измерен KV-пул объёмом 2,74 млн токенов. Языки и точный перечень поддерживаемых модальностей в README не указаны, хотя наличие vision tower указывает на мультимодальную составляющую исходной модели. Сильными сторонами являются существенное уменьшение размера, высокая пропускная способность при параллельной нагрузке и отсутствие заметного ухудшения результатов на приведённых наборах тестов. На одной RTX PRO 6000 Blackwell модель показала 145 токенов/с при одном потоке и 1019 токенов/с при параллелизме 32, а также результаты 90,5 на наборе знаний и 77,0 на наборе вызова инструментов. Ограничения включают обязательную совместимость с Blackwell, зависимость производительности от уровня параллелизма и особенности шаблона чата: по умолчанию модель формирует пустой блок рассуждений. Доступно управление reasoning_effort со значениями low, medium и xhigh. Лицензия — Apache 2.0.

Qwen2.5-VL-7B-Instruct — мультимодальная модель семейства Qwen от команды Qwen, дообученная для следования инструкциям. Она принимает изображения и видео вместе с текстовыми запросами и генерирует текстовые ответы; число параметров — 7,1 млрд, архитектура — плотная Qwen2.5-VL. Модель предназначена для визуального анализа, диалога по изображениям и видео, распознавания текста и структуры документов, а также для сценариев визуального агента. Модель распознаёт объекты и анализирует текст, диаграммы, графики, значки и макеты на изображениях, может локализовать объекты с помощью рамок или точек и формировать структурированные данные, например содержимое счетов, форм и таблиц. Для видео заявлена обработка роликов длительностью более часа и поиск релевантных моментов. В метаданных указан контекст до 128 000 токенов; README описывает конфигурацию на 32 768 токенов и расширение контекста YaRN до более длинных входов, которое может ухудшать пространственную и временную локализацию. Поддерживаются английский и чатовый режим; для входных изображений доступно динамическое разрешение, а обработка видео в описанном интерфейсе рассчитана на локальные файлы. Лицензия — Apache-2.0.

Qwen3.5-35B-A3B-quantized.w4a16 — это квантованная мультимодальная языковая модель на базе Qwen/Qwen3.5-35B-A3B, опубликованная пользователем apolo13x. Базовая модель разработана командой Qwen. Модель принимает текст и изображения, а генерирует текст, поэтому предназначена для диалоговых сценариев, анализа изображений, ответов на вопросы и других задач преобразования мультимодального ввода в текст. Модель использует архитектуру Qwen3.5 с разреженной MoE-конфигурацией 35B-A3B, где общий размер составляет около 35 млрд параметров, а активируется примерно 3 млрд параметров. Веса квантованы до INT4 в формате GPTQ с конфигурацией W4A16 с использованием llm-compressor. Это уменьшает размер модели с 67,0 до 20,4 ГБ, примерно в 3,3 раза, при среднем восстановлении точности 99,5% относительно исходной модели. В указанных тестах модель показала 81,31% на GPQA Diamond, 94,60% на IFEval и 91,95% на MMLU-Redux. Сильной стороной модели является существенное снижение требований к хранению и инференсу при сохранении близкой к исходной точности. Ограничения связаны с потерями, возможными при 4-битном квантовании, а также с тем, что на 27 февраля 2026 года модель поддерживалась в nightly-версии vLLM, что может означать менее стабильную совместимость по сравнению со стабильными релизами. Сведения о размере контекстного окна и поддерживаемых языках в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели nwzjk/Qwen3.6-34B-80L-Fable-5-Heretic на Hugging Face совпадает с карточкой hiebo/Qwen3.6-34B-80L-Fable-5-Heretic, поэтому описание составлено по ней. Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

btbtyler09/Qwen3.6-35B-A3B-GPTQ-8bit — это 8-битная GPTQ-квантизованная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для работы с текстом и изображениями, включая понимание изображений, генерацию текста, рассуждения, вызов инструментов и поддержку speculative decoding через модуль MTP. README не указывает конкретный список поддерживаемых языков. Модель использует архитектуру Mixture-of-Experts с примерно 35 млрд параметров, из которых около 3 млрд активируются для каждого токена. В каждом из 40 слоёв используется 256 экспертов и один общий эксперт; на токен выбираются 8 экспертов. Архитектура сочетает 30 слоёв линейного внимания и 10 слоёв полного внимания. Контекстное окно составляет до 262 144 токенов. В состав входят полноразмерный vision encoder на базе ViT с 27 блоками и модуль MTP; vision encoder и MTP сохранены в BF16, а экспертные модули квантизованы в INT8. Ключевое преимущество версии — существенное уменьшение размера примерно с 67 до 40 ГБ при практически незаметном ухудшении perplexity относительно исходной BF16-модели. При этом для запуска требуется значительный объём видеопамяти и, согласно README, рекомендуется использовать vLLM с распределением модели минимум на несколько GPU. GPTQModel и transformers на момент публикации не поддерживают непосредственную загрузку этой мультимодальной сборки, поэтому для инференса следует использовать vLLM; также возможна необходимость исправления ошибки совместимости в некоторых версиях vLLM. Модель распространяется по лицензии Apache-2.0.

mmangkad/Qwen3.6-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.6-35B-A3B, разработанной Alibaba и подготовленной с использованием NVIDIA Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Модель построена на архитектуре Transformers и имеет 35 млрд параметров, из которых 3 млрд активируются при работе. Она принимает и генерирует текст, поддерживает контекст длиной до 262 тысяч токенов. Веса и активации линейных операторов в MoE-компонентах transformer-блоков квантизированы в формат NVFP4, что ориентировано на эффективный инференс на GPU NVIDIA. Указана совместимость с NVIDIA Blackwell, Linux и SGLang; тестирование проводилось на B300. Данные о поддерживаемых языках и полном составе обучающего набора не раскрыты. Сильные стороны модели — предварительная NVFP4-квантизация, большой контекст и оптимизация для развертывания на совместимом оборудовании NVIDIA. Для запуска требуется SGLang, по README рекомендуется актуальная версия из основной ветки. Модель может воспроизводить токсичные формулировки и общественные предубеждения из исходных данных, а также генерировать неточные, неполные или нерелевантные ответы. Распространение и использование разрешены по лицензии Apache 2.0 с учетом требований и ограничений базовой модели.

Qwen3.8-27B-MLX — сборка официальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и адаптированной OrcaRouter для MLX. Это мультимодальная vision-language модель с поддержкой текста и изображений, ориентированная на запуск на устройствах Apple Silicon. Заявлены английский и китайский языки, управление режимом рассуждений, вызов инструментов и Multi-Token Prediction (MTP) для ускорения спекулятивной генерации. Модель имеет 27 миллиардов параметров и плотную гибридную архитектуру, сочетающую линейное внимание Gated DeltaNet с полноразмерным attention. Доступны аффинные варианты квантования на 4, 6 и 8 бит: примерно 16, 24 и 31 ГБ соответственно. Визуальная башня, нормализационные и свёрточные слои сохраняются в BF16, а линейные веса языковой модели квантуются. Вариант 8-bit обеспечивает качество, близкое к BF16, 6-bit предлагает компромисс между качеством и объёмом, а 4-bit предназначен для повседневного использования при меньших требованиях к памяти. Модель подходит для диалоговых приложений, анализа изображений, генерации текста, задач рассуждения и сценариев с вызовом функций. Для ускорения генерации доступен отдельный MTP-драфтер, совместимый с любой основной точностью. Ограничениями являются значительные требования к оперативной памяти, зависимость от актуальных версий mlx-vlm и MLX, а также преимущественная ориентация на Apple Silicon; для vision-режима на CUDA требуется дополнительная настройка. Репозиторий распространяется по лицензии Apache 2.0.

Vontra/Qwen3.8-Flash-Next-MLX-oQ6-MTP — это общественная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для Apple Silicon и поддерживает сценарии vision-language: работу с текстом и изображениями, диалоговые приложения, анализ визуального содержимого и генерацию текста. Это не официальный релиз Qwen, а производная сборка Vontra, созданная из официальных BF16-весов. Модель использует архитектуру qwen4_exp: sparse mixture-of-experts с 125 млрд параметров (около 6 млрд активных), 48 слоями, 512 маршрутизируемыми экспертами и одним общим экспертом. Она сочетает Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual streams и хешированные bigram/trigram embeddings объёмом 51 млрд параметров. Конфигурируемый контекст составляет 262 144 токена, предусмотрены 24 attention heads и 2 KV heads. Квантование выполнено в формате oQ6 с 6-битной базой и защищёнными модулями в 6/8 бит; размер группы — 32. В сборке сохранён нативный MTP-блок Qwen4Exp для speculative decoding. К сильным сторонам относятся существенно уменьшенный объём вычислений за счёт MoE, поддержка длинного контекста, мультимодальность и ускорение генерации с помощью native MTP. Размер весов составляет около 158,07 ГБ, поэтому модель требует значительных ресурсов. Для работы необходим runtime oMLX или MLX-VLM с явной поддержкой qwen4_exp и native MTP; стандартные runtime без этой поддержки могут не загрузить модель. Приведённые измерения на Apple M3 Studio показывают примерно 28–37 токенов в секунду, но производительность зависит от длины запроса, настроек генерации, версии runtime и доступной памяти. Модель распространяется по Qwen Community License 1.0; текст лицензии включён в репозиторий.

Qwen3-VL-235B-A22B-Instruct-MXFP4 — вариант весов модели Qwen3-VL от команды Qwen. Это мультимодальная модель с архитектурой MoE, предназначенная для диалога и совместного понимания текста и изображений; карточка также описывает возможности работы с видео и пространственными данными. Модель может анализировать визуальные сцены, отвечать на вопросы, распознавать текст в изображениях и документах, выполнять визуальное рассуждение и взаимодействовать с интерфейсами через инструменты. В README заявлен контекст 256K токенов с возможностью расширения до 1M, а также OCR на 32 языках. Среди описанных возможностей — понимание длительного видео с привязкой событий ко времени, генерация кода и диаграмм по визуальным примерам, пространственное рассуждение и задачи STEM. Репозиторий содержит веса safetensors; метаданные указывают библиотеку Transformers и лицензию Apache-2.0. Размер MXFP4 в имени указывает на квантизованный вариант весов, однако формат MXFP4 отдельно в метаданных форматов не подтверждён.

Qwen3-VL-4B-Thinking — плотная мультимодальная модель с 4 млрд параметров из семейства Qwen3-VL, опубликованная FuriosaAI в виде сборки для Furiosa-LLM и RNGD. Репозиторий содержит веса Qwen/Qwen3-VL-4B-Thinking и исполняемый пакет Furiosa; модель также поддерживается другими фреймворками инференса. Модель принимает изображения и текст, а отвечает текстом. Визуальный энкодер и трансформерный декодер используют позиционные эмбеддинги Interleaved-MRoPE и слияние признаков DeepStack. Она предназначена для распознавания текста на изображениях, анализа документов и диаграмм, пространственных рассуждений и понимания видео; поддерживает вызов инструментов. Версия Thinking формирует явный ход рассуждений перед итоговым ответом. Для запуска через Furiosa-LLM модель рассчитана на ускоритель FuriosaAI RNGD, где использует тензорный параллелизм на 8 вычислительных элементах одной карты. Квантизация не применялась, используются веса в точности исходной модели. Лицензия — Apache-2.0. Длина контекста и список поддерживаемых языков в предоставленных данных не приводятся.

Larryvrh опубликовал версию Yi-6B-200K от 01.AI, преобразованную для совместимости с архитектурой Llama и удобства использования. Это плотная авторегрессионная языковая модель с примерно 5,8 млрд параметров и контекстом до 200 000 токенов, распространяемая в формате Safetensors. Она предназначена для генерации текста, включая ответы на вопросы, понимание длинных текстов, рассуждения, математику и задачи по коду; карточка описывает оценивание на наборах MMLU, CMMLU, C-Eval и других бенчмарках. Модель поддерживает китайский и английский языки. Лицензия — Apache-2.0. Результаты генерации могут быть ошибочными или проблематичными; в README также отмечено, что оценки бенчмарков зависят от промптов, постобработки и настроек декодирования.

Gemma-SEA-LION-v4.5-E2B-IT — мультимодальная языковая модель AI Singapore, адаптированная для английского языка и языков Юго-Восточной Азии. Она основана на Google Gemma 4 E2B IT и прошла постобучение с дистилляцией знаний от Gemma 4 31B IT на наборе SEA-Instruct-2602. Архитектура — декодер Transformer с энкодерами зрения и аудио; размер составляет 2,3 млрд эффективных параметров (5,1 млрд с эмбеддингами), контекст — 128 тыс. токенов. Модель предназначена для диалогов и выполнения инструкций, ответов на вопросы, суммаризации, анализа тональности, перевода между английским и региональными языками, а также мультимодального анализа изображений, видео и аудио. Карточка указывает поддержку мультимодальных возможностей Gemma 4, включая вызов функций и режимы рассуждения. Модель оптимизирована для локального запуска на ноутбуках и мобильных устройствах. Постобучение охватывает бирманский, индонезийский, филиппинский (тагальский), малайский, тамильский, тайский и вьетнамский; метаданные также отмечают английский и китайский. Лицензия — MIT. Авторы предупреждают, что модель не прошла настройку безопасности и проверку устойчивости к состязательным запросам; возможны галлюцинации, нерелевантные и непоследовательные ответы.

unsloth/Llama-3.2-3B-Instruct-bnb-4bit — это 4-битная квантованная версия инструкционно дообученной текстовой модели Llama 3.2 3B Instruct, подготовленная Unsloth на базе модели Meta. Она предназначена для генерации текста, многоязычного диалога, агентского поиска и извлечения информации, суммаризации, а также для локального запуска и последующего дообучения с пониженным потреблением памяти. Модель работает в формате text in/text out и доступна через экосистему Transformers и bnb 4-bit. Архитектура модели — авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA). Размер — 3 млрд параметров. Инструкционная версия обучена с применением supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер, 4-битное представление, сниженные требования к памяти и оптимизация для диалоговых и прикладных текстовых сценариев. Ограничения связаны с тем, что это статическая модель, обученная на офлайн-данных, а также с возможными рисками при использовании языков и задач за пределами заявленных возможностей; качество и безопасность конкретного развертывания требуют отдельной проверки. Использование регулируется кастомной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy Meta.

NimbusMind — причинно-языковая модель семейства NimbusT, представленная как обновлённый чат-ассистент. По данным карточки, обновление улучшает рассуждения и выводы за счёт дополнительных вычислений и алгоритмических изменений на этапе постобучения; авторы сообщают о результатах в математике, программировании и логике, а также о снижении частоты галлюцинаций и поддержке вызова функций. Модель предназначена для диалогов, решения сложных задач и генерации текста; в README также описаны сценарии работы с загруженными файлами и результатами веб-поиска. Репозиторий содержит веса PyTorch для Transformers и распространяется по лицензии Apache-2.0. В README приведён результат 89,1% на AIME 2026 и среднее расходование 27 тысяч токенов на вопрос этого набора; длина контекста и число параметров в доступных сведениях не приведены. Заявления о бенчмарках и качестве принадлежат авторам модели и не сопровождаются полным протоколом оценки в предоставленном README.

Occamy-1.0 APEX-I-MiniPlus-V2-GGUF — это квантованная мультимодальная версия модели Occamy-1.0, разработанной Accio-Lab и подготовленной в формате GGUF пользователем IsValorum. Модель предназначена для генерации текста, рассуждений, математических и логических задач, а также анализа изображений и оптического распознавания документов. В основе используется архитектура Qwen3_5MoeForConditionalGeneration с гибридным механизмом внимания, включающим рекуррентные слои DeltaNet и 256 микроэкспертов. На каждый токен активируется примерно 3,2 млрд параметров. Основной файл занимает 14,62 GB, или 13,62 GiB, и использует схему квантования с показателем 3,38 BPW. В комплект входит отдельный vision projector mmproj в формате Q8_0 размером 614 MB. Заявлена поддержка контекста до 256K токенов и работы в пределах 24 GB VRAM. Модель ориентирована на английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. К сильным сторонам относятся сохранение F32 router gates, повышенная точность token output head за счёт Q6_K, защита attention gates в Q8_0 и использование не менее 3-битного квантования для ключевых экспертных блоков. Такая настройка должна обеспечивать лучшее качество и устойчивость по сравнению с плоскими 3-битными квантованиями и общими сборками APEX-I-Mini, особенно в задачах рассуждения и при работе с длинным контекстом. Ограничения связаны с потерями качества, присущими квантованной версии, значительными требованиями к памяти и необходимостью совместимого ПО, например llama.cpp. В README указана лицензия Apache-2.0.

Phi-3.5-vision-instruct — мультимодальная модель Microsoft семейства Phi-3.5 с плотной архитектурой Phi3V и 3,7 млрд параметров. Она принимает текст и изображения и генерирует текст; предназначена для диалоговых приложений, которым нужно понимать изображения, документы, диаграммы и таблицы, сравнивать несколько изображений и суммировать видеоклипы по кадрам. Модель рассчитана на сценарии с ограничениями по памяти и задержке. В README заявлен контекст до 128 тысяч токенов, тогда как метаданные каталога указывают 4096 токенов. Модель обучалась на синтетических данных и отфильтрованных общедоступных веб-источниках; для улучшения следования инструкциям применялись supervised fine-tuning и direct preference optimization. README ориентирует её на коммерческое и исследовательское применение, прежде всего на английском языке, и отмечает возможности OCR, визуального рассуждения и понимания нескольких кадров. Выпущена под лицензией MIT. Качество может быть ниже для языков, отличных от английского, и для недостаточно представленных вариантов английского. Microsoft предупреждает, что модель может быть неточной, ненадёжной, несправедливой или выдавать оскорбительные ответы; для конкретных сценариев требуется оценка, особенно в областях высокого риска.