IV.5Образование и развитие навыков

Qwen3.8-27B-Imatrix-Mtp-1m — это сборка модели Qwen3.8-27B в формате GGUF, подготовленная Brian6145 на основе официальных весов Qwen Team. Модель ориентирована на следование инструкциям, программирование, отладку и устранение неисправностей, а также на агентские сценарии и задачи с длинными последовательностями. В карточке указаны английский и китайский языки и модальность image-text-to-text. Модель имеет размер 27B параметров и поддерживает контекст до 1 000 000 токенов благодаря расширению RoPE по официальной схеме YaRN; исходный предел составлял 262 144 токена. В каждый файл встроена рабочая Multi-Token Prediction head, совместимая со speculative decoding в llama.cpp и LM Studio. Доступны варианты F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M с imatrix и Q3_K_M. MTP может заметно ускорять генерацию, особенно при длинном контексте. Для запуска требуется сборка llama.cpp с поддержкой draft-mtp либо LM Studio 2.28.2 или совместимая версия. Контекст в 1M токенов требует значительного объёма VRAM; рекомендуется использовать квантованный KV-кэш. Статическое масштабирование YaRN может немного ухудшать качество на коротких текстах, поэтому для таких задач предпочтительна официальная версия модели. Распространение разрешено по лицензии Apache-2.0.

Hunter 4B — разговорная языковая модель на 4 млрд параметров от Lalakai Labs, представленная в формате GGUF для локального запуска через llama.cpp, Ollama, LM Studio и другие совместимые среды. Это дообученная версия Qwen 3.5 4B: автор сообщает о параметрически эффективном QLoRA-обучении на примерно 180 тысячах отобранных примеров, последующем слиянии адаптера с весами FP16 и выпуске 4-битной квантизации Q4_K_M. Модель предназначена для пошаговых рассуждений, математики, написания и отладки кода, структурированных вызовов инструментов, анализа уязвимостей и повседневного чата. Карточка заявляет поддержку англоязычного общения; отдельные варианты весов включают FP16 и Q4_K_M. Разработчик ориентирует Q4_K_M на локальный запуск на обычных компьютерах, а FP16 — на ситуации, где важнее качество и доступно больше памяти. Модель компактна и рассчитана на локальную работу, однако её качество не гарантирует заявленного в карточке сопоставления с моделями на 10–15 млрд параметров: формальные бенчмарки ещё не опубликованы. Как и другие языковые модели, Hunter 4B может ошибаться, воспроизводить смещения и выдавать небезопасный контент; результаты следует проверять. Лицензия — MIT.

Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

cyankiwi/Laguna-S-2.1-AWQ-INT4 — квантизированная версия Laguna S 2.1 от poolside, подготовленная cyankiwi в формате AWQ INT4. Это текстовая модель text-to-text для агентного программирования, работы с инструментами и долгих многошаговых задач. Модель поддерживает интерleaved reasoning между вызовами инструментов и рассчитана на использование в vLLM, SGLang, Transformers, TRT-LLM и llama.cpp. Базовая модель содержит 118 млрд параметров, из которых около 8 млрд активируются на каждом токене, и использует Mixture-of-Experts с 256 маршрутизируемыми экспертами и одним общим экспертом. Архитектура включает 48 слоёв, grouped-query attention, 12 слоёв глобального внимания и 36 слоёв sliding-window attention с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, словарь — 100 352 токена. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки; модальность — текстовая. Ключевые преимущества — большое контекстное окно, эффективная MoE-архитектура, поддержка рассуждений и сценариев с инструментами, а также снижение требований к хранению и инференсу благодаря INT4-квантизации; размер файла указан как 76,83 ГБ. Ограничения включают высокие требования к вычислительным ресурсам даже в квантизированном виде и возможные потери качества из-за квантизации по сравнению с исходной точностью. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и изменение для коммерческих и некоммерческих целей.

Nanonets-OCR-s — компактная мультимодальная модель Nanonets для распознавания документов и преобразования их содержимого в структурированный Markdown. Она дообучена на Qwen2.5-VL-3B-Instruct и принимает изображения документов, включая сложные страницы с таблицами, формулами и встроенными изображениями. Модель распознаёт текст и структуру документа, представляет математические формулы в LaTeX, описывает изображения, извлекает текст водяных знаков и выделяет подписи. Таблицы она может выводить в формате Markdown или HTML, а состояния флажков и переключателей — обозначать стандартными символами. Такой вывод подходит для дальнейшей обработки языковыми моделями и для извлечения данных из деловых и юридических документов. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2.5-VL и имеет контекст длиной до 128 000 токенов. В метаданных указан английский язык. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.

NeoHorse-1-9B — текстовая причинно-следственная языковая модель TokenRhythm, дообученная на базе Qwen3.5-9B для работы с агентными системами. Модель имеет 7,2 млрд параметров, использует архитектуру Qwen3.5 и принимает только текст; визуальные веса в этом выпуске отсутствуют. Заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов, следования инструкциям, вызова инструментов, программирования и рассуждений в текстовых агентных сценариях. В техническом отчёте авторы сообщают о среднем результате 69,04 по десяти тестам против 65,60 у базовой Qwen3.5-9B; это результаты авторской оценки, а не гарантия качества в конкретном применении. Доступны веса в формате safetensors и интерфейс для вызова инструментов. Лицензия — Apache-2.0.

WaveCut/Qwen3.8-Flash-Next-REAM-288-Q8E-MLX — квантизированная MLX-версия модели WaveCut/Qwen3.8-Flash-Next-REAM-288, построенная на базе Qwen3.8-Flash-Next. Разработчик карточки — WaveCut; метод REAM создан исследователями Samsung SAIL Montréal. Модель относится к мультимодальному классу image-text-to-text, однако в README подробно описано преимущественно применение для текстовой генерации и agentic coding. Она предназначена для программирования, рефакторинга, математических и общих текстовых задач, а также работы с английским, русским, кодом и редкими сущностями. Точный размер базовой модели и длина контекста в README не указаны. Архитектура использует mixture-of-experts: сохранено 288 экспертных слотов, а 224 удаляемых эксперта не отбрасываются, а объединяются с наиболее похожими сохранёнными экспертами. Основная часть модели квантизирована до 4 бит, экспертные веса представлены в 8-битном формате с группировкой gs64; модель совместима с mlx-vlm и поддерживает стандартный runtime с qwen4_exp. По сравнению с REAP-288 объединение экспертов лучше сохраняет близость к исходной 512-экспертной модели по KL-метрике, а опубликованные 4-битные сравнения показывают сопоставимые или немного более высокие результаты на HumanEval, GSM8K и тесте редких имён, хотя различия статистически незначимы. Ограничение — большой размер текущей сборки: около 107 ГБ, из-за чего она не помещается на GPU с 80 ГБ памяти; генеративное тестирование именно этой сборки не проводилось. Для спекулятивного декодирования требуется отдельный MTP drafter. Лицензия указана как qwen-community-license-1.0.

DeepSeek-OCR 2 — мультимодальная модель DeepSeek для распознавания текста и анализа документов по изображениям. Она использует архитектуру DeepSeek-VL2 с причинным языковым декодером и рассчитана на запуск через Transformers на GPU NVIDIA; README также упоминает ускоренный инференс и обработку PDF через vLLM. Модель поддерживает динамическое разрешение изображений: указан режим от 0 до 6 фрагментов 768×768 и одного изображения 1024×1024. Размер модели составляет 559,7 млн параметров, контекст — 8192 токена. В карточке заявлена поддержка многоязычного ввода. Модель подходит для извлечения текста с изображений и документов, включая сценарии OCR и работы с PDF. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Для запуска README приводит зависимости для Transformers и CUDA; указанные версии окружения могут потребовать соответствующей GPU-конфигурации.

ember-v1 — англоязычная модель эмбеддингов текста от vectoriseai, построенная на архитектуре BERT. Она обучена на корпусе пар текстов из разных областей, включая финансы, науку, медицину и право; при обучении использовались приёмы из работ RetroMAE и SetFit. Модель предназначена для получения векторных представлений предложений и сравнения их семантической близости, например в поиске и ранжировании текстов. Модель содержит около 433,9 млн параметров и обрабатывает до 512 токенов; более длинные входы обрезаются. В README приведён результат 63,54 в среднем по 56 задачам MTEB при размерности эмбеддингов 1024. Доступны форматы PyTorch, safetensors и ONNX. Лицензия — MIT; разработчик также предлагает доступ к модели через API LLMRails.

Qwen3.8-Flash-Next — экспериментальная открытая модель компании AMAImedia, выпущенная в рамках платформы NOESIS для профессиональной автоматизации многоязычного дубляжа. В README также указано, что архитектура разработана как preview основы будущего поколения Qwen4. Модель предназначена для задач обработки текста, агентных сценариев и работы с визуальными данными; она совместима с Hugging Face Transformers, vLLM, SGLang и TokenSpeed. Это каузальная языковая модель с vision encoder и физическим объёмом 180B параметров: 125B параметров основной языковой модели, 51B параметров n-gram embedding и 4B параметров MTP. На один токен активируется около 6B параметров. Архитектура включает 48 слоёв, гибридную связку Gated DeltaNet и Qwen Sparse Attention, MoE с 512 экспертами, из которых активируются 10 маршрутизируемых и 1 общий, а также Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 000 000 токенов. Языки и точный набор поддерживаемых визуальных форматов в README не указаны. Сильными сторонами модели заявлены эффективная обработка длинного контекста, сниженная задержка благодаря разреженному вниманию на уровне микроблоков, экономичное масштабирование параметров и низкие вычислительные затраты инференса. Ограничения связаны с экспериментальным статусом архитектуры и отсутствием в предоставленных данных подробных результатов бенчмарков, описания языкового покрытия и практических ограничений применения. Модель распространяется по лицензии qwen-community-1.0; условия лицензии следует уточнять в файле LICENSE.

GravityOCR — дообученная модель trillionlabs на базе zai-org/GLM-OCR для распознавания текста и разбора документов по изображениям. Она использует архитектуру GlmOcrForConditionalGeneration с визуальным энкодером CogViT и текстовым декодером 0,5 млрд параметров; веса сохранены в формате bf16. Модель принимает изображение с запросом на распознавание текста, таблицы или формулы и выдаёт текст, HTML таблицы либо LaTeX формулы. Модель предназначена для OCR документов с обработкой отдельных областей страницы; для целых страниц README указывает на предварительное обнаружение макета. В режиме авторегрессивного декодирования она совместима с обычным конвейером GLM-OCR. Основное отличие — самоспекулятивное декодирование: модель черновым блоком предсказывает несколько токенов и проверяет их собственным авторегрессивным путём. На OmniDocBench v1.6 автор сообщает ускорение страниц в секунду в 1,32 раза относительно авторегрессивного режима при том же итоговом балле. Дообучение было преимущественно на английском; для китайского заявлен уровень базовой GLM-OCR. Лицензия — MIT. Самоспекулятивный режим требует кода репозитория и специальной настройки сервинга; результаты по скорости приведены для одного H100 и конкретного бенчмарка.

Grok 4.6 — модель SpaceXAI, предназначенная для задач программирования, интеллектуальной работы и STEM. По карточке модели, её сменила более новая версия Grok 4.7. Доступные сведения не описывают архитектуру, размер, модальности, поддерживаемые языки, длину контекста или лицензию, поэтому их нельзя надёжно указать. Метаданные каталога классифицируют модель как image-text-to-text, но README не подтверждает работу с изображениями.

Jimi — дообученная версия instruction-tuned модели Google DeepMind gemma-4-E4B-it, разработанная автором или командой leeroy-jankins. Модель создана с помощью supervised instruction tuning на данных для вопросов и ответов, суммаризации, рассуждений, синтеза кода и понимания документов. В обучении использовались, в частности, FineTome-100k и наборы данных по финансовому и бюджетному регулированию США. Модель предназначена для retrieval-augmented generation (RAG), ассистентов с поддержкой инструкций и многошагового диалога, открытых вопросов и ответов, генерации и суммаризации текста, а также анализа юридических и финансовых документов. Она также может использоваться как компактная базовая модель для дальнейшей специализации. Заявлены улучшенная работа с контекстом, следование инструкциям, предметное рассуждение и поддержка связных многоходовых разговоров. Jimi относится к классу моделей примерно на 4B параметров; для базовой Gemma 4 E4B указаны 4,5B эффективных параметров, 42 слоя, скользящее окно внимания 512 токенов и контекст до 128K токенов. Архитектура Gemma 4 использует гибридное внимание с локальными и глобальными слоями. Для базовой модели заявлены обработка текста и изображений, а также аудио для малых вариантов Gemma 4, однако README не уточняет, какие мультимодальные возможности непосредственно сохранены и проверены именно в Jimi. В метаданных указан английский язык. К сильным сторонам относятся компактный размер, потенциально быстрая работа на пользовательских GPU, пригодность для RAG и задач с финансово-бюджетной документацией. Ограничения включают отсутствие подробных результатов бенчмарков и количественной оценки качества, а также недостаток информации о фактических поддерживаемых модальностях и языках самой Jimi. Модель распространяется по лицензии MIT.

Mellum2 Thinking — модель-помощник с усиленными способностями к рассуждению, разработанная JetBrains. Она создана на базе Mellum2-12B-A2.5B-Base: после дообучения на инструкциях модель прошла обучение с подкреплением по проверяемым вознаграждениям на сложных данных, включая задачи по математике с развёрнутыми решениями. Модель предназначена для сложной отладки, многошагового планирования, агентных сценариев, математики и других задач, требующих последовательного рассуждения. Это текстовая MoE-модель семейства Mellum: в архитектуре 64 эксперта, из которых для каждого токена активируются 8. Она использует сочетание слоёв со скользящим окном и полным вниманием и поддерживает контекст до 131 072 токенов. Модель выводит ход рассуждений в специальных блоках перед итоговым ответом. В репозитории указаны 1,9 млрд параметров, формат safetensors и библиотека Transformers. Лицензия — Apache 2.0. Карточка советует использовать вариант Instruct, если нужны прямые ответы с меньшей задержкой. Модель ориентирована на английский язык; других языков карточка не заявляет.

Olmo-3-Think-AIO-GGUF — набор GGUF-квантизаций моделей Olmo-3-32B-Think и Olmo-3-7B-Think, разработанных Allen Institute for AI и подготовленных для использования через совместимые инструменты, включая llama.cpp. Модели относятся к семейству открытых плотных трансформерных языковых моделей Olmo 3 с вариантом Think, предназначенным для прозрачного пошагового рассуждения и исследовательских задач в области agentic AI. Модели предназначены для генерации текста, объяснения решений, декомпозиции формальных задач, математического рассуждения, генерации кода и исследований, связанных с reinforcement learning. Указан английский язык и сценарий text generation. Для версии 32B заявлена поддержка контекста до 65 000 токенов. В репозитории представлены варианты GGUF с разными форматами точности и квантования — от F32 и BF16 до компактных IQ- и Q-серий, что позволяет выбирать между качеством, размером файла и требованиями к оборудованию; размеры файлов 32B-версии составляют примерно от 7 до 129 ГБ. К сильным сторонам относятся открытость, возможность инспектировать промежуточные цепочки рассуждений, ориентация на задачи математики и кода, длинный контекст и широкий выбор локальных форматов. Ограничения включают значительные требования к памяти для крупных и высокоточных вариантов, возможное снижение качества при агрессивном квантовании, а также отсутствие заявленной поддержки мультимодальных входов и языков кроме английского. Указанная лицензия — Apache-2.0.

Ornith-1.5-35B-A3B-TQ3_4S — компактная сборка модели Ornith-1.5-35B-A3B в формате GGUF с квантизацией TurboQuant TQ3_4S. В карточке указана архитектура Qwen3.5-MoE: всего 35,9 млрд параметров, из которых около 3 млрд активны на токен. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов; исходная модель также поддерживает обработку изображений при подключении vision-проектора. Для запуска требуется специализированная сборка turbo-tan/llama.cpp-tq3, поддерживающая тип тензоров TQ3_4S. В локальных измерениях автора модель занимала 17 ГиБ и показывала высокую скорость декодирования на RTX 3090; приведённые результаты бенчмарков являются собственными измерениями автора карточки. Контекст запуска до 262 144 токенов указан в параметрах тестирования, но не подтверждён как штатный предел модели. Лицензия — MIT.

RootMonsteR/Qwen3-14B-Abliterated-GGUF — это квантизированная GGUF-версия модели RootMonsteR/Qwen3-14B-Abliterated, созданной на основе Qwen/Qwen3-14B. Модель разработана RootMonsteR с применением метода directional ablation из Heretic v1.3.0: заявленная цель — сохранить способности к рассуждению, программированию и tool-calling, одновременно существенно сократив количество автоматических отказов. По данным карточки, доля отказов снижена примерно с 99 до 10 из 100 тестов при KL-дивергенции 0,0333. Модель предназначена для локального текстового диалога, автономных агентов, вызова инструментов и функций, авторизованных исследований безопасности, защитных инструментов, CTF, обучения и изучения поведения моделей без отказов. Доступны варианты Q5_K_M размером около 10,5 ГБ и Q4_K_M размером около 9 ГБ; Q5_K_M рекомендуется для агентов и более надёжного формирования JSON, а Q4_K_M — при ограниченном объёме памяти. Поддерживаются llama.cpp, Ollama, LM Studio, Jan и KoboldCpp; заявлен контекст до 32 768 токенов. Указаны режимы рассуждения и без рассуждения, а также встроенный шаблон чата Qwen3. Сильными сторонами являются низкая стоимость локального запуска, сохранение исходных возможностей Qwen3-14B после квантизации, поддержка reasoning и tool-calling, а также сниженное количество рефлексивных отказов. Ограничения включают возможное ухудшение точности формата вызовов инструментов у Q4_K_M при агрессивных настройках генерации, более низкую скорость работы на CPU и необходимость использовать семплирование вместо жадного декодирования. Модель распространяется по лицензии Apache-2.0. Снижение отказов повышает требования к контролю применения: использование должно соответствовать законодательству, договорным обязательствам и согласованному объёму работ.

QuantTrio/Qwen3.6-35B-A3B-AWQ — квантованная версия открытой модели Qwen3.6-35B-A3B, разработанной командой Qwen. Репозиторий содержит веса в формате Hugging Face Transformers и подготовлен с использованием data-free-квантизации AWQ без калибровочного набора данных. Указана лицензия Apache 2.0, унаследованная от базовой модели Qwen/Qwen3.6-35B-A3B. Модель предназначена для генерации текста, программирования, агентных сценариев и работы с изображениями благодаря архитектуре causal language model с vision encoder. Она ориентирована, в частности, на repository-level reasoning, frontend-разработку, использование инструментов и сохранение контекста рассуждений между сообщениями. Для запуска рекомендуется vLLM; в README также заявлена совместимость с Transformers, SGLang и KTransformers. Архитектура включает 35 млрд параметров, из которых активируется около 3 млрд, 40 слоёв, Mixture of Experts с 256 экспертами, 8 маршрутизируемыми и одним общим активным экспертом, а также компоненты Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Размер файлов модели — около 24 ГиБ. README не приводит полный перечень поддерживаемых языков и подробные результаты тестирования. Ключевые ограничения связаны с требованиями к совместимым версиям vLLM и Transformers, CUDA 12.8 или 13.0, а также с необходимостью корректной настройки expert parallelism при распределённом запуске.

Ziya-Reader-13B-v1.0 是 IDEA-CCNL 团队开发的中文知识问答模型，基于 13B 参数的 Llama 2，并在通用数据和检索问答数据上微调。它采用 Llama 自回归 Transformer 架构，使用位置插值扩展上下窗口；README указывает 8k токенов, тогда как метаданные Hugging Face указывают нативный контекст 4096 токенов. Модель отвечает на вопросы по одному или нескольким предоставленным документам, поддерживает поиск релевантных документов и суммаризацию длинных текстов, а также общее общение в формате вопрос–ответ. В карточке описана устойчивость к изменению порядка документов и приведены оценки на китайских наборах LongBench. Предназначена прежде всего для китайских сценариев баз знаний, retrieval QA и клиентской поддержки, в том числе в праве, финансах и медицине. Модель принимает текст и генерирует текст. Репозиторий содержит веса PyTorch; указанная лицензия — GPL-3.0. Результаты зависят от качества и полноты переданных документов; заявленные оценки основаны на тестах разработчиков и не гарантируют качество в конкретной предметной области.

Jan-Nano-128k — компактная языковая модель Alan Dao и Bach Vu Dinh, дообученная на базе Menlo/Jan-nano. Это плотная модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 131 072 токенов. Она предназначена для исследовательских задач: анализа длинных документов и научных статей, синтеза информации из нескольких источников и ведения многоходовых диалогов. Модель поддерживает чат и интерфейс вызова инструментов MCP; авторы характеризуют её как не использующую режим пошагового рассуждения. Модель принимает текст и генерирует текст. Репозиторий содержит веса Safetensors; для запуска авторы описывают развёртывание через vLLM с настройками для длинного контекста и вызова инструментов. Лицензия — Apache-2.0. README сообщает об оценке на SimpleQA, но не приводит численных результатов, поэтому заявленное улучшение относительно Jan-Nano нельзя количественно оценить по карточке.

Deepdive404-3/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, модифицированная с применением методов abliteration для удаления или ослабления отказов и защитных поведенческих реакций. Согласно README, разработчики позиционируют её как модель для ответов на ограниченные запросы, red-team-исследований, исследований безопасности ИИ, генерации кода и агентских сценариев. Модель поддерживает режим рассуждений, однако для более прямых и содержательных ответов рекомендуется отключать thinking mode. Размер модели — 27B параметров, тип архитектуры — qwen3. Доступны форматы GGUF, Safetensors и MLX. В README не указаны полный список поддерживаемых языков, размер контекстного окна и мультимодальные возможности; по приведённым данным это текстовая модель с pipeline tag text-generation. Заявлены результаты 82,3% на MMLU в режиме 0-shot, что на 2,1 процентного пункта ниже базовой модели, а также 20 из 20 успешных ответов на внутренних задачах генерации кода. Эти показатели приведены авторами README и не являются независимой оценкой. Сильной стороной модели считается снижение частоты жёстких отказов и уклончивых ответов при сохранении близких к базовой модели возможностей. Ограничения включают небольшое снижение результата MMLU относительно исходной Qwen3.8-27B, возможные циклы при жадной генерации без repetition penalty и чувствительность к настройкам декодирования. Для практического использования рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; для агентских сценариев авторы советуют temperature 0,1–0,3 и ограничение длины ответа. Лицензия указана как Apache-2.0. README не содержит сведений о точном разработчике или организации-владельце модели; указанный идентификатор и описание связывают её с проектом Deepdive404 и производной от Qwen3.8-27B.

tepirale/gemma-4-12B-merge-coder40-agentic40-it20-linear — объединённая модель на архитектуре Gemma 4 Unified, созданная с помощью mergekit линейным слиянием трёх моделей: Gemma 4 12B IT от Google и двух вариантов Gemma 4 12B от tepirale, настроенных на кодирование и агентные задачи. В конфигурации указаны веса 0,4 для каждой специализированной модели и 0,2 для Gemma 4 IT, а также нормализация и формат bfloat16. Модель предназначена для диалога и генерации текста с визуальным вводом; объединение кодовой и агентной специализаций предполагает применение в программировании и агентных сценариях. Метаданные классифицируют её как image-text-to-text и отмечают поддержку vision. Базовая Gemma 4 12B IT описана как мультимодальная модель для анализа текста, изображений, видео и аудио, однако README этой модели не подтверждает сохранение всех этих возможностей после слияния. Модель распространяется по лицензии Apache-2.0. Размер параметров и длина контекста в предоставленных данных не указаны.

unsloth/LFM2.5-VL-3B-GGUF — это квантизированный вариант мультимодальной модели LFM2.5-VL-3B, разработанной Liquid AI и опубликованной сообществом Unsloth. Модель предназначена для обработки текста и изображений, прежде всего на устройствах с ограниченными ресурсами и для сценариев с низкой задержкой. GGUF-экспорты оптимизированы для запуска на CPU с уменьшенным потреблением памяти через llama.cpp. В основе модели находится языковая модель LFM2.5-2.6B, дополненная vision-энкодером SigLIP2 NaFlex объёмом 400M параметров. Размер словаря составляет 128 000 токенов, длина контекста — до 32 768 токенов. Поддерживаются английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, испанский, вьетнамский, тайский, индонезийский, хинди, русский и польский языки. Обработка изображений использует разбиение крупных изображений на неперекрывающиеся патчи 512×512 и уменьшенную копию всего изображения. Сильные стороны модели — распознавание объектов по текстовым запросам, улучшенный visual grounding, OCR целых страниц с разметкой структуры документа, а также высокая скорость и эффективность инференса. Она подходит для обнаружения объектов в автомобильных системах, пакетной обработки сканов и PDF, извлечения текста с сохранением layout, перевода меню и дорожных знаков, а также других однопроходных задач реального времени. Модель не рекомендуется для сложного рассуждения, длительных контекстов, визуального веб-дизайна и ответов на узкоспециализированные технические вопросы по чертежам. Лицензия указана как lfm1.0; подробные условия следует проверять в файле LICENSE репозитория.

Muse Glimmer — модель Meta Superintelligence Lab с плотным причинным трансформером и отдельным энкодером восприятия. Это мультимодальная модель на 29,6 млрд параметров, дистиллированная из Muse Spark и опубликованная по лицензии Apache 2.0. Она предназначена для локального запуска на потребительском оборудовании и поддерживает диалог с изображениями. Модель рассчитана на многошаговые агентные сценарии: планирование, вызов инструментов, восстановление после ошибок и выполнение длительных задач. Её также можно применять для разработки кода, анализа скриншотов, диаграмм и документов, генерации синтетических данных и оценки ответов других моделей. В README заявлены результаты на бенчмарках агентного выполнения, включая SWE-Bench, DeepSearch QA и MCP-Atlas. Модель может ошибаться в рассуждениях, особенно в новых сценариях, и выдавать неточные, предвзятые или нежелательные ответы. Поддержки аудио нет; видео явно не оптимизировано и обрабатывается как отдельные кадры. Качество может снижаться для языков, на которых модель недостаточно оценивалась. Для агентных приложений разработчик рекомендует дополнительные меры защиты и проверки.

Qianfan-OCR-GGUF — набор GGUF-квантизированных версий мультимодальной модели baidu/Qianfan-OCR, разработанной Baidu. Модель предназначена для распознавания текста и анализа документов по изображениям, включая сценарии document intelligence и OCR. Она использует архитектуру InternVL Chat с языковой основой Qwen3 примерно на 4,7 млрд параметров и поддерживает мультиязычные задачи image-text-to-text. Квантизация выполнена Reza2kn с использованием llama.cpp. Доступны варианты от F16 размером около 9,4 ГБ до Q2_K размером около 1,7 ГБ. Версии различаются компромиссом между размером, скоростью и качеством: F16 сохраняет точность в формате half precision, Q8_0 близка к исходному качеству, а Q4_K_M указана как рекомендуемая и занимает около 2,8 ГБ. Для работы в llama.cpp требуются файл модели и соответствующий multimodal projector; модель принимает изображения документов и текстовые запросы. В README приведены результаты исходной модели на OmniDocBench и OCRBench, но подробные сведения о поддерживаемых языках, длине контекста и ограничениях распознавания не указаны. Распространение заявлено по лицензии Apache License 2.0 с сохранением уведомлений и условий сторонних компонентов.

Qwen2.5-Coder-14B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-14B-Instruct-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована huihui-ai. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования, включая работу с кодом и запросами в формате инструкций. Модель содержит 14 миллиардов параметров и работает с текстовыми данными. README указывает английский язык, но сведения о полном наборе поддерживаемых языков, архитектуре и размере контекстного окна отсутствуют. Доступны варианты от F16 до Q3 и различные форматы квантизации; версии Q4_K_M, Q5, Q6 и другие позволяют выбирать компромисс между качеством, размером файла и требованиями к памяти. Файлы предназначены для запуска через llama.cpp, в частности в LM Studio. Сильной стороной является широкий выбор квантизированных вариантов: от почти исходного качества до более компактных сборок для систем с ограниченными ресурсами. Ограничения включают зависимость характеристик от выбранного типа квантизации и отсутствие в README подробных данных о производительности, контекстном окне и поддерживаемых языках. Для ARM доступны специальные варианты, часть которых требует поддержки SVE или i8mm и не предназначена для Mac или Windows. Лицензия модели указана как Apache-2.0.

Red Hat AI публикует открытые веса Qwen3.6-35B-A3B — постобученную причинную языковую модель с MoE-архитектурой и визуальным энкодером. Она предназначена для диалогов, программирования и агентных сценариев с вызовом инструментов, включая работу с изображениями и видео. Модель содержит 35 млрд параметров, из которых активируются 3 млрд; в языковой части 40 слоёв и 256 экспертов, из которых на токен задействуются 8 маршрутизируемых и один общий. Нативный контекст составляет 262 144 токена и может расширяться до 1 010 000. Среди заявленных сильных сторон — программирование на уровне репозитория, создание интерфейсов и сохранение контекста рассуждений между сообщениями. Модель поддерживает обработку изображений и видео, а примеры оценивания программирования включают английский и китайский; README не позволяет надёжно определить полный список поддерживаемых языков. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM и другими указанными средами. Лицензия — Apache-2.0. Для запуска на длинном контексте нужны значительные вычислительные ресурсы; README советует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 128K токенов.

Модель Qwen3.8-27B-ED-5bpw-GGUF опубликована пользователем bakhtin и представляет собой квантованный вариант Qwen3.8-27B в формате GGUF. Автор указывает, что дополнительного дообучения и посттренировки не проводилось; для калибровки квантования использовалась матрица важности, собранная на русскоязычных технических текстах, программировании и формальной логике. Веса основаны на BF16-файле ggml-org/Qwen3.8-27B-GGUF. Модель поддерживает диалог и работу с изображениями: принимает текст и изображения, выдаёт текст. Квантование 5 BPW занимает около 15,92 ГиБ; автор ориентирует запуск на потребительскую видеокарту с 16 ГБ видеопамяти. По README, контекст свыше 90 тысяч токенов практически нецелесообразен из-за падения скорости. Указана лицензия Apache-2.0.

Q36 — это разговорная мультимодальная модель oktayd на архитектуре Qwen3.6-35B-A3B с 35 млрд параметров, из которых активируется около 3 млрд. Разработчик описывает её как производную цепочку на базе Qwen3.6 с дистилляцией рассуждений, ослаблением отказов и последующей настройкой для работы с инструментами, агентами и кодом; модель также дообучена на данных Hermes Function Calling и агентских трассировках. Указаны поддержка изображений, MTP и контекст 262 144 токена; одновременная работа с Vision и MTP в одном запросе не заявлена. Модель предназначена для диалогов с изображениями, рассуждений, программирования и агентских сценариев, включая вызов функций и работу с терминалом, файлами и репозиториями. В карточке приведены сравнительные тесты, но автор подчёркивает, что это компактные прогоны, а не официальные полные результаты лидербордов. Проверка финального сервинга FreeToken ещё не завершена. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0.

EraX-VL-7B-V2.0-Preview-i1-GGUF — мультимодальная vision-language модель на 7 млрд параметров, разработанная erax-ai и преобразованная в формат GGUF пользователем mradermacher. Модель предназначена для обработки изображений и текста и поддерживает вьетнамский, английский и китайский языки. Основные сценарии применения включают OCR, визуальные вопросы и ответы, анализ документов, работу со страховыми материалами, рукописным и древним текстом, радиологическими изображениями и фотографиями автомобильных аварий. Модель может использоваться для генерации текстовых ответов на основе визуального содержимого, однако для работы с изображениями требуются соответствующие mmproj-файлы из статического репозитория. Публикация содержит несколько вариантов квантования GGUF размером примерно от 2,0 до 6,4 ГБ. В README отмечается, что варианты с более высоким качеством квантования обычно обеспечивают лучшее качество, а i1-Q4_K_M рекомендуется как быстрый компромисс между размером, скоростью и качеством. Ограничения включают возможное снижение качества у компактных вариантов квантования; сведения о размере контекста, точных архитектурных компонентах и результатах бенчмарков не приведены. Модель распространяется по лицензии Apache-2.0.