I.1Поиск и навигация по информации

Sabomako/Mistral-Small-3.2-24B-Instruct-2506-heretic — декензурированная версия Mistral-Small-3.2-24B-Instruct-2506 от Sabomako. Модель создана с помощью Heretic v1.3.0 и метода ORBA abliteration; в тесте с оценкой LLM-судьи Gemma4-12B-it-Heretic она отказала в 1 из 100 случаев против 98 из 100 у исходной модели. Это плотная мультимодальная модель семейства Mistral 3 с 24 млрд параметров, предназначенная для диалогов по инструкциям, работы с изображениями и интерфейса вызова инструментов. Принимает текст и изображения, выдаёт текст. В метаданных указана лицензия Apache-2.0. Снижение числа отказов может привести к ответам на запросы, которые исходная модель отклоняла; результат теста отказов не характеризует точность и безопасность в целом.

NVIDIA Nemotron Nano 12B v2 VL FP8 — мультимодальная авторегрессионная модель NVIDIA для анализа изображений и диалога по их содержимому. Это FP8-квантизированная версия Nemotron Nano VL V2: трансформер использует визуальный энкодер C-RADIOv2-H и языковую модель NVIDIA Nemotron Nano 12B v2. Модель принимает текст и одно изображение RGB, а отвечает текстом; контекст и длина ответа — до 128 тысяч токенов. Для изображений действует ограничение в 12 плиток размером 512 × 512 пикселей, прозрачность не поддерживается. Модель предназначена для суммаризации изображений, визуальных вопросов и ответов, распознавания текста и анализа документов, а также рассуждений по визуальному содержимому. Она поддерживает английский, русский, немецкий, испанский, французский, итальянский, корейский, португальский, японский и китайский языки, а также интерфейс вызова инструментов. В карточке указаны запуск через vLLM и оптимизация для GPU NVIDIA; среди совместимого оборудования назван H100 SXM с 80 ГБ памяти. Лицензия обозначена как other, поэтому её условия следует проверять на странице модели NVIDIA.

Qianfan-VL-3B — мультимодальная языковая модель команды Baidu AI Cloud Qianfan для работы с изображениями и текстом. Версия 3B основана на Qwen2.5-3B; визуальный энкодер построен на InternViT, а изображения обрабатываются с динамическим разбиением на патчи с поддержкой разрешения до 4K. Модель принимает изображения и текстовые запросы и формирует текстовые ответы; заявленная длина контекста — 32k токенов. Модель предназначена для OCR в реальном времени и на устройствах с ограниченными ресурсами, распознавания рукописного текста, формул и содержимого документов, а также анализа структуры страниц, таблиц и диаграмм и ответов на вопросы по документам. В README заявлена поддержка многоязычных данных, а метаданные карточки указывают английский и китайский языки. Поддержка Chain-of-Thought в этой версии отсутствует; возможности рассуждений, указанные для вариантов 8B и 70B, к ней не относятся. Модель опубликована в формате safetensors и предназначена для использования с Transformers; README также описывает развертывание через vLLM. Лицензия в метаданных обозначена как other, а README не приводит её условий, поэтому перед использованием следует проверить лицензионную информацию карточки Hugging Face.

bunnycore выпустил эту объединённую языковую модель на архитектуре Qwen2, созданную с помощью mergekit методом task arithmetic. В качестве основы использована Qwen/Qwen2.5-7B, объединённая с DeepSeek-R1-Distill-Qwen-7B и Bespoke-Stratos-7B. Модель содержит 7,1 млрд параметров, работает с библиотекой Transformers и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Подходит для развёртывания чат-ассистентов и генерации ответов на длинные запросы. Карточка не сообщает о специальной настройке на конкретные языки или прикладную область. Лицензия в предоставленных данных не указана.

Qwen3.6-35B-A3B-RAZOR-28B-A3B-E192of256 — производная диалоговая модель семейства Qwen, созданная методом RAZOR: из 256 маршрутизируемых экспертов в каждом MoE-слое оставлены 192. По README, это обучение-не-затрагивающее прореживание экспертов без градиентных обновлений и восстановительного дообучения; сохранены исходные веса оставшихся экспертов. В карточке указано 27,7 млрд параметров (27,0 млрд без модуля MTP) и около 3 млрд активных параметров на токен. Архитектура — Qwen3.5 MoE для Transformers; веса представлены в safetensors и bfloat16. Модель предназначена для генерации текста в диалогах и работы с интерфейсом вызова инструментов. Метаданные связывают её с Qwen/Qwen3.6-35B-A3B, краткое описание которого указывает на мультимодальный анализ изображений, однако README этой производной версии описывает только прореживание экспертов и не подтверждает сохранение или проверку обработки изображений. Лицензия — Apache-2.0. Прореживание уменьшает объём хранения экспертов, сохраняя примерно прежнее число активных параметров на токен, но является потерным: могут измениться разнообразие, форматирование и поведение завершения ответов; качество вне конечного калибровочного корпуса отдельно не охарактеризовано.

topabaem/Qwen3.8-27B-STQ — семейство контролируемых GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованное topabaem. Модель предназначена для локального запуска и развертывания в условиях ограниченной памяти с использованием llama.cpp. В репозитории представлены варианты IQ3_XXS, IQ4_XS, Q4_K_M и Q5_K_M размером примерно от 11,19 до 19,23 ГБ. Для всех вариантов использованы один и тот же BF16-источник, зафиксированная сборка llama.cpp и importance matrix; проект позиционируется как исследование измерений, а не как новый метод кодирования. Модель ориентирована прежде всего на текстовые задачи, а в метаданных также заявлен pipeline image-text-to-text. В README не указаны точные архитектурные характеристики, число параметров помимо обозначения 27B, поддерживаемые языки и размер контекстного окна. На тесте из 800 заданий MMLU и ARC точность вариантов составила от 85,63% до 86,88% против 87,00% у BF16-базовой версии; Q4_K_M и Q5_K_M признаны не уступающими BF16 в рамках этого теста. Результаты LiveCodeBench v6 предварительные: измеренный pass@1 ещё не рассчитан, поэтому заявлять о подтверждённой эффективности в программировании нельзя. Основные преимущества — несколько уровней компромисса между размером, требованиями к памяти и качеством, а также воспроизводимый инструментальный стек и опубликованные измерения. Ограничения включают зависимость качества от конкретного варианта квантизации, неполную сопоставимость некоторых бенчмарков и отсутствие данных о генерации на длинных последовательностях. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-xCloud — производная мультимодальная модель компании 云碩科技（xCloudinfo） на базе Qwen/Qwen3.8-27B. Это плотная модель семейства Qwen3.5 с архитектурой смешанного внимания: gated-delta линейное внимание чередуется с полным вниманием. Разработчик удалил направление отказа методом abliteration, ортогонализовав его в 80 матрицах проекций attention и MLP; дообучение и дополнительные данные не использовались. Визуальная башня и голова языковой модели сохранены. Модель предназначена для диалогов и генерации текста, включая многоязычные вопросы и арифметические задачи; базовая архитектура также принимает изображения. Это reasoning-модель, которая может выводить блок рассуждений перед ответом, и поддерживает интерфейс вызова инструментов. В небольшом red-team тесте разработчика доля отказов составила 0 из 4; такая проверка ограничена малой выборкой и не гарантирует поведение на других запросах. Для загрузки README рекомендует один вычислительный прибор, поскольку разбиение на несколько GPU может нарушить рекуррентное состояние. Лицензия — Apache-2.0; удаление отказов ослабляет один из защитных механизмов, поэтому применение требует осторожности.

Mungert/QwenLong-L1-32B-GGUF — это GGUF-квантизированная версия языковой модели QwenLong-L1-32B, созданная на основе DeepSeek-R1-Distill-Qwen-32B. Модель предназначена для генерации текста и задач, требующих работы с длинным контекстом и рассуждениями; в метаданных она обозначена как long-context и large-reasoning-model. При подготовке использовался llama.cpp, а среди связанных данных указан набор Tongyi-Zhiwen/DocQA-RL-1.6K. Главная особенность представленной версии — поддержка вариантов квантования с низкой разрядностью, включая 1–2-битные схемы IQ-DynamicGate. Этот подход распределяет точность по слоям модели и защищает критически важные компоненты, чтобы снизить потери качества при уменьшении размера. По приведённым тестам на Llama-3-8B DynamicGate уменьшал perplexity по сравнению со стандартным 1–2-битным квантованием, сохраняя сопоставимую скорость инференса; эти результаты не являются прямым бенчмарком данной 32B-модели. Модель подходит для развёртывания на системах с ограниченной GPU-памятью, CPU и edge-устройствах, а также для исследований ультранизкоразрядного квантования. Компромиссами являются возможное снижение точности по сравнению с полноформатными версиями и зависимость результата от выбранного варианта квантования и аппаратной поддержки. Лицензия — Apache-2.0. Точный размер модели, поддерживаемые языки и заявленное максимальное окно контекста в README не указаны.

facebook/bart-base — базовая англоязычная модель семейства BART, разработанная командой Facebook AI и впервые опубликованная в этом репозитории. Это трансформерная encoder-decoder модель типа seq2seq: двунаправленный энкодер сочетается с авторегрессионным декодером. Модель содержит 95,2 млн параметров, обучена восстанавливать исходный текст после его искажения и поддерживает контекст до 1024 токенов. Модель предназначена прежде всего для извлечения признаков и дообучения на текстовых задачах. После дообучения BART применяют для суммаризации, перевода, классификации текста и ответов на вопросы; исходная модель также подходит для заполнения пропусков в тексте. Репозиторий содержит веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache 2.0.

facebook/bart-large — англоязычная модель BART, разработанная командой Facebook и впервые опубликованная вместе с работой о предобучении преобразователей методом восстановления зашумлённого текста. Это архитектура Transformer encoder-decoder: двунаправленный энкодер сочетается с авторегрессионным декодером. Модель содержит 252,8 млн параметров, принимает текст с контекстом до 1024 токенов и доступна в форматах PyTorch, TensorFlow и Flax. BART обучена восстанавливать исходный текст после различных преобразований, поэтому базовую модель можно применять для заполнения пропусков в тексте и извлечения признаков. После дообучения она подходит для генерации текста, в частности суммаризации и перевода, а также для классификации и ответов на вопросы. Карточка рекомендует дообучать модель на размеченных данных для конкретной задачи. Лицензия — Apache 2.0.

DeepSeek-VL2-Tiny — компактная мультимодальная модель семейства DeepSeek-VL2, разработанная командой DeepSeek. Это вариант модели Mixture-of-Experts, построенный на DeepSeekMoE-3B; в README указано 1,0 млрд активируемых параметров. Модель принимает изображения вместе с текстовыми запросами и предназначена для понимания визуального содержимого.

Faro-Yi-9B-DPO-imatrix-GGUF — набор GGUF-квантизаций модели Faro-Yi-9B-DPO, опубликованный пользователем duytnet. Базовая модель разработана wenbopan как DPO-версия Faro-Yi-9B на архитектуре Yi с примерно 9 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев, использует шаблон ChatML и поддерживает работу через llama.cpp, KoboldCpp, Ollama, text-generation-webui, Jan и GPT4All. Модель ориентирована на ответы общего назначения, рассуждения, работу с вопросами и документами, включая длинный контекст. В README заявлены высокие результаты на MMLU, GSM8K, HellaSwag, TruthfulQA, AI2 ARC, Winogrande и CMMLU, а также предпочтение ответов модели в оценке MT-Bench с использованием GPT-4 Judge. Для оригинальной модели описана работа с контекстом до 32K токенов при 24 ГБ видеопамяти, до 48K при использовании FP8 KV-кэша и до 160K для 4-битной AWQ-квантизации, однако фактические возможности конкретной GGUF-квантизации зависят от файла, аппаратного обеспечения и настроек запуска. В карточке указаны английский язык и лицензия «other», но точные условия лицензии не приведены. GGUF-квантизация снижает требования к памяти и упрощает локальный запуск, однако может приводить к некоторой потере качества по сравнению с полноразмерной моделью; степень потерь зависит от выбранного варианта квантизации.

Flux-Japanese-Qwen2.5-32B-Instruct-V1.0 — языковая модель на 32 млрд параметров от Flux, созданная на основе Qwen2.5-32B-Instruct и предназначенная для генерации ответов и диалогов. Она дообучена с акцентом на знания, рассуждения и работу с японским языком; в карточке также заявлены результаты на задачах вопросов и ответов, понимания текста, суммаризации и генерации кода. Архитектура — плотная Qwen2 с причинной генерацией текста, формат весов — safetensors, контекст — 32 768 токенов. Заявлены сильные результаты на японских оценочных наборах при сохранении близкого к базовой модели уровня на общих задачах и английском языке. Модель подходит для японских диалоговых ассистентов, ответов на вопросы, анализа и суммаризации текстов, рассуждений и генерации кода. Также доступны интерфейсы чата и вызова инструментов. Указана лицензия Apache 2.0. Как и другие большие языковые модели, она может выдавать неточные, вводящие в заблуждение или предвзятые ответы; авторы не дают гарантий и возлагают ответственность за применение на пользователя.

unsloth/gemma-3-4b-pt — мультимодальная модель семейства Gemma 3, подготовленная Unsloth на основе предварительно обученной google/gemma-3-4b-pt. Она принимает текст и изображения и генерирует текстовые ответы. В метаданных указаны архитектура Gemma 3 с плотной моделью, библиотека Transformers и формат весов Safetensors; базовая модель имеет 4 млрд параметров по идентификатору репозитория. Для Gemma 3 заявлено контекстное окно 128 тыс. токенов и поддержка более 140 языков. Модель подходит для вопросов по изображениям, извлечения и обобщения визуальной информации, а также генерации и суммаризации текста. README описывает семейство Gemma 3 в целом, поэтому характеристики контекста и языковой поддержки относятся к семейству; эта версия обозначена как предварительно обученная, а не настроенная для следования инструкциям. Возможны фактические ошибки, пробелы и смещения, а также трудности с неоднозначными запросами и сложными задачами. Лицензия — Gemma.

Gemma 4 12B-it JANG 4M CRACK — мультимодальная инструкционная модель dealignai, основанная на Google Gemma 4 12B-it. Она предназначена для диалогов и задач с текстом, изображениями, аудио и видео; карточка также заявляет поддержку рассуждений и вызова инструментов. Модель имеет 48 слоёв, гибридное скользящее и полное внимание и контекст до 128 тысяч токенов. Разработчик сообщает, что модель прошла абляцию отказов CRACK и смешанную квантизацию JANG: 8-битные веса внимания и 4-битные веса MLP. Версия подготовлена для MLX и Apple Silicon, занимает около 9,6 ГБ. В README приведены результаты собственных оценок на HarmBench и MMLU; они не гарантируют качество на других задачах. Из-за удаления поведения отказа модель может выдавать ответы на потенциально опасные запросы. Разработчик указывает исследовательское применение и авторизованное тестирование безопасности. Лицензия — Gemma; перед использованием следует учитывать её условия.

Это репозиторий mradermacher с GGUF-квантованными вариантами JiRackDeltaNet 27B, созданными на основе CMSManhattan/JiRackDeltaNet_27b. Репозиторий содержит статические квантизации TQ1_0 и TQ2_0 размером примерно 7,1 и 8,3 ГБ соответственно; автор указывает, что варианты с weighted/imatrix-квантизацией в этой публикации не представлены. Модель предназначена для генерации текста и диалогового использования. Метаданные базовой модели описывают её как многоязычную разговорную модель для локального CPU-инференса, кодирования, RAG и вызова инструментов; сама карточка этого GGUF-репозитория главным образом сообщает о доступных файлах квантования и их использовании. Заявлены языки английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. Лицензия — MIT. Квантованные файлы уменьшают требования к памяти, но TQ1_0 и TQ2_0 могут уступать исходным весам по качеству; README не приводит сравнительных оценок. Для работы с GGUF требуется совместимый загрузчик, а для многосоставных файлов — их корректная сборка.

Keye-VL-2.0-30B-A3B-GGUF — мультимодальная модель семейства Keye, разработанная командой Kwai Keye. Она предназначена для обработки изображений, видео и текста, прежде всего для понимания длинных видеозаписей, временной локализации событий, OCR, анализа диаграмм и таблиц, визуального вопросно-ответного взаимодействия и мультимодального рассуждения. Модель также ориентирована на агентские сценарии: работу с кодом, инструментами, поиском, репозиториями и визуальной самопроверкой. Модель относится к 30B-классу и распространяется в формате GGUF с вариантами квантования BF16, F16, Q8_0 и Q4_K_M. В архитектуре используются разреженное внимание DSA (DeepSeek Sparse Attention), целевая агрегация признаков, параллелизм ViT-LM и оптимизированные вычислительные ядра, что предназначено для эффективной работы с длинными последовательностями. Заявлена поддержка контекста до 256K токенов и анализа видео продолжительностью до часа. В README явно указан английский язык; сведения о полноценной поддержке других языков отсутствуют. Сильными сторонами являются длинноконтекстное понимание видео, точная временная локализация, мультимодальное рассуждение и встроенные возможности для агентских задач. Ограничениями выступают высокие требования к ресурсам: размер файлов варьируется от 29 ГБ для Q8_0 до 58 ГБ для F16, а для работы с длинными видео и контекстом потребуется значительный объём памяти. Условия использования определяются лицензией Apache-2.0.

Kimi-VL-A3B-Thinking — мультимодальная модель Moonshot AI для анализа изображений и текста с расширенными возможностями рассуждения. Это вариант Kimi-VL-A3B-Instruct, дообученный с помощью supervised fine-tuning на длинных цепочках рассуждений и обучения с подкреплением. Архитектура сочетает MoE-языковую модель, визуальный энкодер MoonViT с обработкой изображений в исходном разрешении и MLP-проектор. Всего в модели около 16 млрд параметров, из них при работе активируется примерно 3 млрд. Модель предназначена для визуальных вопросов и ответов, понимания диаграмм и документов, OCR, математических задач по изображениям и мультимодального рассуждения. Она поддерживает контекст до 128 тыс. токенов и рассчитана на диалоговый сценарий. README рекомендует для задач с длительным рассуждением повышать температуру генерации; также отмечено, что существует более новая версия Kimi-VL-A3B-Thinking-2506. Лицензия — MIT.

LLaDA2.2-mini — компактная по числу активируемых при инференсе параметров языковая модель InclusionAI из серии LLaDA2.2. Это диффузионная модель Mixture-of-Experts (MoE) с архитектурой LLaDA2MoeModelLM; метаданные указывают 1,2 млрд параметров, а карточка описывает 16 млрд общих параметров и 1,4 млрд активируемых при инференсе. Модель рассчитана на генерацию текста и диалог, включая многошаговое взаимодействие с инструментами и исправление ошибок. Контекстное окно составляет 128K токенов. Механизм Levenshtein Editing с управляющими токенами DELETE и INSERT позволяет удалять и вставлять фрагменты при генерации, а Block Routing ограничивает активацию MoE-экспертов на уровне блоков диффузии. В README рекомендованы Transformers версии 5.2.0 или новее; для длинноконтекстных сценариев с инструментами предлагается SGLang. Качество и скорость зависят от порогов денойзинга: низкие пороги могут ускорить инференс, но приводить к повторяющимся или нестабильным ответам. Модель распространяется по лицензии Apache-2.0. В предоставленных материалах языки обучения или поддерживаемые естественные языки не перечислены.

Llama 3.1 Swallow 8B v0.1 — языковая модель команды Swallow из Токийского института науки (ранее Токийский технологический институт) и AIST, созданная продолжительным предварительным обучением Meta Llama 3.1. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; доступна в формате safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста на японском и английском языках. Дополнительное обучение на японском веб-корпусе, статьях Википедии, математических материалах и коде усилило японские возможности, сохранив английские. Среди оценённых сценариев — ответы на вопросы, чтение и понимание текста, суммаризация, перевод между японским и английским, математические рассуждения и генерация кода. Это базовая, не instruction-tuned версия: она не была настроена для надёжного следования намерениям пользователя и требованиям безопасности, поэтому ответы могут требовать проверки и дополнительной настройки. Авторы описывают модель как находящуюся на ранней стадии исследований и разработки. Лицензия — Llama 3.1; применяйте её с соблюдением условий лицензии Meta.

Llama-Poro-2-8B-Long-Instruct-heretic — декензурированная версия LumiOpen/Llama-Poro-2-8B-Long-Instruct, созданная с помощью Heretic v1.4.0. Это плотная авторегрессионная модель семейства Llama примерно на 7,5 млрд параметров для диалогов и следования инструкциям; репозиторий содержит веса Safetensors и заявляет воспроизводимость процесса преобразования. Модель предназначена для общения на финском и английском языках, ответов на вопросы, создания текстов и работы с длинным контекстом. README исходной модели описывает поддержку до 128K токенов, однако метаданные этой модели указывают нативный контекст 8192 токена. Поэтому при практическом использовании следует ориентироваться на подтверждённый метаданными предел и проверять совместимость конфигурации. В тесте из README доля отказов составила 5 из 100 против 87 из 100 у исходной модели. Ограничения включают возможные фактические ошибки, предвзятые или неподходящие ответы, слабую работу на языках помимо финского и английского и нестабильность в специализированных областях. Для модели указана лицензия llama3.3; её условия следует учитывать при распространении и использовании.

JANGQ-AI/MiniMax-M2.7-JANGTQ — это квантизированная версия MiniMax-M2.7, разработанная JANGQ-AI на базе архитектуры MiniMax M2 от MiniMaxAI. Модель предназначена для генерации текста, диалоговых сценариев, задач рассуждения и работы с инструментами. Она ориентирована на запуск в MLX и vMLX на компьютерах Apple Silicon, включая M3 Max с 96 ГБ памяти и более новые M4 Max, M5 Max и Mac Studio с 128 ГБ памяти. Модель использует архитектуру MoE с 62 слоями, 256 маршрутизируемыми экспертами и выбором 8 экспертов на токен. Заявленный контекст составляет 196K токенов. Размер сборки на диске — около 47 ГБ вместо примерно 230 ГБ у исходной FP8-версии. Маршрутизируемые экспертные веса сжаты до 2 бит методом JANGTQ2, а attention, общие экспертные компоненты, эмбеддинги и lm_head используют 8-битное аффинное квантование; нормализации и маршрутизатор частично сохранены в исходной точности. Поддерживаются reasoning через парсер qwen3 и вызовы инструментов через парсер minimax; режим рассуждения включён по умолчанию и может быть отключён. К сильным сторонам относятся существенное уменьшение размера, предварительно собранная структура экспертных весов, быстрая загрузка без дополнительной перестановки и заявленная идентичная скорость декодирования по сравнению с предыдущей раскладкой. Ограничения связаны с узкой совместимостью с MLX/vMLX и требованием значительного объёма объединённой памяти Apple Silicon. Язык модели, точные показатели качества и полный набор поддерживаемых языков в README не указаны. Лицензия — minimax-m2.7-non-commercial; сборка предназначена для некоммерческого использования.

mT5-base — многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5 с 291,2 млн параметров. Она предварительно обучена в формате text-to-text на корпусе mC4, собранном из Common Crawl и охватывающем 101 язык. Веса доступны в форматах PyTorch, TensorFlow и Flax; лицензия — Apache-2.0. Модель служит базой для дообучения под прикладные задачи обработки естественного языка: например, перевод, суммаризацию и ответы на вопросы. Предварительное обучение не включало обучение на размеченных задачах, поэтому для использования в конкретном сценарии модель необходимо дообучить.

OmniCorso-7B — объединённая языковая модель, опубликованная macadeliccc на Hugging Face. Она предназначена для генерации текста и диалогов в формате ChatML. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель можно применять для ведения диалогов, ответов на вопросы и рассуждений на основе текста. В README приведены результаты тестов AGIEval, GPT4All, TruthfulQA и Bigbench. Доступны варианты квантования ExLlamaV2; их таблица содержит сведения о компромиссе между качеством, размером и потреблением видеопамяти. OmniCorso-7B объединяет macadeliccc/MBX-7B-v3-DPO и mlabonne/OmniBeagle-7B. В метаданных указана лицензия CC; конкретный вариант лицензии не уточнён.

Ornstein-Hermes-3.6-27b-i1-GGUF — квантизированная версия модели Ornstein-Hermes-3.6-27b, разработанной GestaltLabs и подготовленной в формате GGUF пользователем mradermacher. В README также указано использование набора данных DJLougen/Acta и наличие тегов, связанных с семейством Qwen, мультимодальностью и Hermes. Модель предназначена для генерации текста на английском языке, обработки изображений вместе с текстом, вызова функций, работы с инструментами и агентских сценариев. Заявлены мультимодальные возможности image-text-to-text, function calling и tool use, однако точный размер контекстного окна и подробности архитектуры в README не указаны. Доступно множество вариантов квантизации с размером файлов примерно от 7,2 до 22,2 ГБ. Варианты различаются балансом между размером, скоростью и качеством: README отмечает, что некоторые низкобитные варианты имеют низкое качество, а i1-Q4_K_M рекомендуется как быстрый вариант. Качество конкретной версии зависит от выбранного типа квантизации. Модель распространяется по лицензии Apache-2.0.

Qianfan-OCR-GGUF — набор GGUF-квантизированных версий мультимодальной модели baidu/Qianfan-OCR, разработанной Baidu. Модель предназначена для распознавания текста и анализа документов по изображениям, включая сценарии document intelligence и OCR. Она использует архитектуру InternVL Chat с языковой основой Qwen3 примерно на 4,7 млрд параметров и поддерживает мультиязычные задачи image-text-to-text. Квантизация выполнена Reza2kn с использованием llama.cpp. Доступны варианты от F16 размером около 9,4 ГБ до Q2_K размером около 1,7 ГБ. Версии различаются компромиссом между размером, скоростью и качеством: F16 сохраняет точность в формате half precision, Q8_0 близка к исходному качеству, а Q4_K_M указана как рекомендуемая и занимает около 2,8 ГБ. Для работы в llama.cpp требуются файл модели и соответствующий multimodal projector; модель принимает изображения документов и текстовые запросы. В README приведены результаты исходной модели на OmniDocBench и OCRBench, но подробные сведения о поддерживаемых языках, длине контекста и ограничениях распознавания не указаны. Распространение заявлено по лицензии Apache License 2.0 с сохранением уведомлений и условий сторонних компонентов.

TheWegemann/Qwen3.8-27B-LowGPU-uncensored-NoMTP-IQ3XXXS-GGUF — это квантованная GGUF-версия 27-миллиардной модели Qwen3.8, подготовленная TheWegemann на основе аблитерированной и «uncensored» модели OrcaRouter Qwen3.8-27B-Uncensored, восходящей к официальной Qwen/Qwen3.8-27B. Модель предназначена для локального запуска через llama.cpp, включая агентские сценарии, задачи рассуждения и работу с изображениями при наличии совместимого vision-проектора. Модель использует гибридную архитектуру с блоками Gated DeltaNet и линейным вниманием, чередующимися с блоками полного внимания; всего заявлено 64 слоя. Это custom per-tensor mixed-precision квантование с 498 назначениями типов, собственной importance matrix и удалённой MTP-головой для снижения потребления памяти. Размер файла составляет около 9,3 ГБ. Сборка ориентирована на GPU с 12 ГБ VRAM: она тестировалась на NVIDIA RTX 4070 с полным GPU offload, контекстом до 64 000 токенов, Q4_0 KV-кэшем, Flash Attention и F16 vision-проектором. Поддерживаемые языки в README не указаны. Сильная сторона модели — сочетание крупного размера, агрессивной оптимизации памяти и возможности полностью разместить модель на GPU с 12 ГБ VRAM, сохранив большой контекст и мультимодальный сценарий. Ограничения включают зависимость от версии llama.cpp, драйверов и настроек запуска, а также возможное увеличение требований к памяти; конфигурации с менее чем 12 ГБ VRAM и CPU offload находятся вне целевого сценария. Модель унаследовала сниженные защитные механизмы исходного аблитерированного чекпойнта: квантование их не восстанавливает, поэтому при развёртывании необходимы собственные меры модерации и контроля доступа. Лицензия — Apache 2.0.

Qwen3-VL-2B-Thinking — плотная vision-language модель семейства Qwen3-VL от Alibaba, рассчитанная на диалоговое мультимодальное понимание и рассуждение. Репозиторий содержит веса версии 2B в формате safetensors; модель работает через Transformers и распространяется по лицензии Apache-2.0. Модель принимает текст и изображения, а также предназначена для понимания видео: анализа визуальных сцен и событий, распознавания текста на изображениях, пространственных рассуждений, решения задач STEM и взаимодействия с графическими интерфейсами через инструменты. Thinking-вариант ориентирован на рассуждения; семейство также поддерживает генерацию текста и объединение текстовой и визуальной информации. Для семейства заявлен контекст 256 тыс. токенов с возможностью расширения до 1 млн, а OCR охватывает 32 языка. К сильным сторонам относятся анализ сложных визуальных сцен, документов и видео, а также работа с GUI и пространственными отношениями. В README приведены общие характеристики семейства, поэтому отдельные количественные результаты именно версии 2B не описаны; заявленные показатели контекста и OCR также относятся к семейству. Модель требует мультимодального стека Transformers и подходящих вычислительных ресурсов.

CombinHorizon/Rombos-Qwen2.5-7B-Inst-BaseMerge-TIES — языковая модель, созданная методом слияния TIES с помощью mergekit на основе Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct. Модель разработана для генерации текста и диалоговых сценариев; поддерживает интерфейс вызова инструментов. Она содержит 7,1 млрд параметров, построена на плотной архитектуре Qwen2 и использует класс Qwen2ForCausalLM. Контекстное окно составляет до 131 072 токенов. Модель подходит для ответов на запросы, продолжения текста и генерации структурированных ответов. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они сами по себе не гарантируют качество в конкретном применении. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0. README указывает на слияние с Qwen2.5-7B-Instruct; отдельные специализированные области применения не заявлены.

StableLM-Tuned-Alpha-7B — авторегрессионная языковая модель компании Stability AI на архитектуре NeoX Transformer, дообученная на базе StableLM-Base-Alpha для диалогов и следования инструкциям. Версия содержит около 10 млрд параметров по метаданным репозитория и поддерживает контекст длиной до 4096 токенов. Модель предназначена для чат-приложений и задач, включающих ответы на вопросы, генерацию текста, суммаризацию, классификацию и извлечение информации. Обучение включало наборы Alpaca, GPT4All Prompt Generations, Anthropic HH, Databricks Dolly и англоязычную часть ShareGPT Vicuna. Основной язык — английский. Дообучение помогает направлять ответы модели, но не устраняет все смещения и токсичность; результаты могут быть неточными и не должны заменять человеческую оценку. Лицензия CC BY-NC-SA-4.0 допускает использование на некоммерческих условиях с соблюдением её требований.