I.2Синтез, понимание и проверка знаний

zelk12/MT5-Gen5-BB-gemma-2-RAv0.1MTg2-9B — объединённая модель для генерации текста и диалогового общения, созданная с помощью mergekit методом SLERP из zelk12/MT-Gen2-gemma-2-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1. Модель построена на архитектуре Gemma 2, содержит 9 млрд параметров и работает с текстом в контексте до 8192 токенов. Модель предназначена для генерации продолжений текста и ведения диалога. В метаданных указана поддержка conversational-взаимодействия; сведений о специализированных предметных областях или языках нет. Веса опубликованы в формате safetensors и представлены в bfloat16. Лицензия в предоставленных данных не указана.

dazednaut/muadbot — текстовая генеративная модель, дообученная разработчиком dazednaut на базе unsloth/gemma-2-27b-it-bnb-4bit. Она предназначена для диалогового взаимодействия и генерации текста. Модель использует архитектуру Gemma 2 с 27,6 млрд параметров и контекстом до 8192 токенов; карточка указывает обучение с Unsloth и библиотекой TRL. Поддерживается английский язык. Модель распространяется по лицензии Apache-2.0.

diegolacomba выпустил sentence-transformers-модель для получения эмбеддингов предложений и абзацев. Она основана на BERT и преобразует текст в плотные векторы размерностью 384; представление строится усреднением токенных эмбеддингов. Для сравнения текстов предусмотрена косинусная близость. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. Максимальная длина входа — 512 токенов. В названии указано назначение для юридических текстов, однако README не уточняет языки обучения или конкретные юридические задачи. Метаданные указывают формат safetensors; лицензия не приведена.

NekoMind1.6-Base — базовая предварительно обученная языковая модель серии NekoMind от nekocyrene для генерации текста. Это декодерный Transformer с архитектурой Mixture-of-Experts: 20 слоёв, из которых 18 используют разреженные блоки экспертов с маршрутизацией top-4, а первые два — плотные MLP. В README указано 1,5 млрд параметров всего и около 300 млн активируемых на токен; метаданные каталога указывают 284,4 млн параметров, поэтому фактический размер следует считать расходящимся между источниками. Модель использует RoPE, SwiGLU, RMSNorm и GQA, имеет контекст до 32 768 токенов и поддерживает чатовый шаблон и интерфейс вызова инструментов. Модель предназначена для продолжения текста и диалоговых сценариев, а также может служить основой для дальнейшей адаптации. README не приводит оценок качества, перечня поддерживаемых естественных языков или специализированных предметных областей. Для загрузки требуется Transformers не ниже 4.51.0, PyTorch не ниже 2.1.0 и включение trust_remote_code=True, поскольку пользовательский код архитектуры ещё не включён в основную библиотеку Transformers. Лицензия репозитория — Apache-2.0.

NeonMaid-12B-v2 — объединённая языковая модель yamatazen, созданная методом Arcee Fusion с помощью mergekit на основе NeonMaid-12B и Orihime-Gutenberg-12B. Модель построена на архитектуре Mistral, содержит 12,1 млрд параметров и предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс для вызова инструментов. Модель принимает текст и генерирует текст. Карточка и метаданные указывают английский и японский языки. Нативная длина контекста — 131 072 токена. Веса представлены в формате safetensors; README указывает bfloat16 для объединения. Лицензия в предоставленных данных не указана.

rsl-ai выпустила Octen-Embedding-0.6-finetuned — дообученную модель Sentence Transformers на базе Octen/Octen-Embedding-0.6B. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 и вычисляет сходство с помощью косинусной близости. Архитектура основана на Qwen3 с пулингом последнего токена и нормализацией; модель содержит 507,6 млн параметров. Метаданные указывают контекст до 32 768 токенов, хотя карточка модели сообщает максимальную длину последовательности 64 токена. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Она обучалась на 19 662 парах текстов с функцией потерь MultipleNegativesRankingLoss; примеры и оценочные данные сосредоточены на названиях автомобилей и их вариантах, включая русскоязычные записи. В карточке приведены значения метрики Spearman как nan, поэтому качество по этим результатам подтвердить нельзя. Лицензия в предоставленных данных не указана.

Ornith-1.0-35B-ROCmFPX-StrixHalo — текстовая разговорная модель с 35 млрд параметров в формате GGUF, подготовленная julianmb для локального запуска на системах AMD Ryzen AI Max+ с Strix Halo. Репозиторий содержит варианты квантования ROCmFPX: Speed с точностью около 4,70 бит на параметр и размером 19,7 ГБ, а также Quality с точностью около 6,50 бит на параметр и размером 32,2 ГБ. Заявлена поддержка контекста до 262 144 токенов. Модель предназначена для локальных чат-сценариев и многоагентных рабочих нагрузок с вызовом инструментов. README сообщает о проверках корректности вызовов инструментов и измерениях скорости при параллельной работе нескольких агентов. В метаданных указан английский язык; теги также отмечают разговорный режим и tool calling. Это квантованная производная модель, распространяемая по лицензии MIT. Для запуска требуются совместимые сборки ROCmFPX и Vulkan: стандартные llama.cpp, Ollama и LM Studio не загружают этот формат без специальной поддержки. Описанная конфигурация рассчитана на оборудование Strix Halo с 64 или 128 ГБ объединённой памяти; приведённые показатели производительности относятся к этой аппаратной платформе.

Masterjp123/P1 — объединённая плотная языковая модель семейства Llama на 7,5 млрд параметров, созданная с помощью mergekit методом DARE TIES на основе NousResearch/Meta-Llama-3-8B. В объединение также вошли NousResearch/Hermes-2-Pro-Llama-3-8B, Weyaxi/Einstein-v6.1-Llama3-8B и asiansoul/Versatile-Llama-3-8B-1m. Модель предназначена для генерации текста, включая диалоговые сценарии. Она использует архитектуру LlamaForCausalLM, принимает текст и выдаёт текст; длина контекста составляет 8192 токена. В репозитории представлены веса в формате safetensors. Карточка не описывает сравнительные результаты или специализированные области применения. Указана лицензия базовой модели: лицензия в предоставленных данных отсутствует.

Phi-3-mini-4k-instruct-bnb-4bit — инструкционная языковая модель семейства Phi, разработанная Microsoft AI и командой Phi и опубликованная в 4-битном формате квантования через Unsloth. Модель предназначена для диалоговых сценариев, генерации и завершения текста, а также для дообучения на собственных наборах данных с использованием Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с английским языком и имеет контекстное окно на 4K токенов. Суффикс bnb-4bit указывает на 4-битное представление, ориентированное на снижение требований к памяти и запуск на более доступном оборудовании. README также указывает на поддержку дообучения и последующего экспорта в форматы GGUF и vLLM, однако точный размер модели, архитектура и результаты оценки для этой конкретной версии не приведены. Сильными сторонами являются компактное квантованное представление и пригодность для локального запуска и экспериментов с дообучением. Ограничения включают заявленную языковую специализацию на английском, ограничение контекста 4K токенами и возможные потери качества, связанные с 4-битным квантованием. Модель распространяется по лицензии MIT.

Это квантизированная версия Phi-4-reasoning-plus, разработанная AMD на основе модели Microsoft с использованием LLM Compressor. Модель предназначена для генерации текста и задач рассуждения, включая сценарии локального вывода на процессорах AMD EPYC. Она поддерживает только текстовые входы и выходы, указанный язык — английский, а запуск рассчитан на Linux с использованием vLLM. Архитектура модели обозначена как Phi3ForCausalLM. Применена 4-битная квантизация только весов W4A16 методом GPTQ: веса INT4 имеют симметричное групповое представление с размером группы 128, а активации сохраняются в формате BF16. Квантизация выполнена в формате compressed-tensors, при этом lm_head не квантизировался. Для CPU-инференса предусмотрена оптимизация через ZenDNN и ZenTorch; заявлена совместимость с AMD EPYC, ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0 и vLLM 0.26.0. Главное преимущество модели — уменьшенный размер весов и возможность эффективного вывода на AMD CPU при сохранении качества, близкого к исходной BF16-модели: на GSM8K получено 0,8688 против 0,8704 у базовой версии, то есть восстановлено 99,82% результата. Ограничения включают привязку к указанным версиям программного стека, ориентацию на CPU AMD EPYC и возможное снижение точности из-за агрессивной 4-битной квантизации. Модель распространяется по лицензии MIT; README также указывает, что она предоставляется на условиях лицензии исходной модели.

QuCo-extractor-0.5B — компактная модель извлечения сущностей и отношений, разработанная для системы QuCo-RAG. Она дообучена на Qwen2.5-0.5B-Instruct и извлекает из предложений триплеты знаний вида «сущность — отношение — сущность». Модель предназначена для подготовки данных о связях между сущностями в корпусе, чтобы оценивать неопределённость и динамически подключать поиск в системах Retrieval-Augmented Generation (RAG). Это плотная причинная языковая модель семейства Qwen2 с 494 млн параметров, работающая с текстом и контекстом до 32 768 токенов. В карточке указана лицензия other; конкретные условия использования по этим данным установить нельзя. Качество извлечения, поддерживаемые языки и известные ограничения в карточке не описаны.

Qwen2.5-32B-Instruct-abliterated — модифицированная методом abliteration версия диалоговой модели Qwen2.5-32B-Instruct от huihui-ai. Это плотная авторегрессионная модель класса Qwen2ForCausalLM с 32 млрд параметров, рассчитанная на генерацию текста и диалог. Она принимает текст и выдаёт текст; поддерживает контекст до 32 768 токенов и многоязычную работу, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Модель предназначена для чат-ботов, свободных текстовых ответов и интеграции в приложения через Transformers; карточка также описывает запуск через Ollama. Abliteration изменяет поведение отказов и делает модель менее ограниченной при ответах. Базовая модель Qwen2.5-32B-Instruct поддерживает диалог, программирование, математику и структурированные ответы, однако README не приводит отдельных оценок качества этой модификации. Модель распространяется под лицензией Apache-2.0.

Модель homeb82784/qwen2.5-7b-instruct-cpt-v4.0 — дообученная авторегрессионная языковая модель семейства Qwen2, разработанная homeb82784 на основе unsloth/qwen2.5-7b-instruct-bnb-4bit. Она предназначена для генерации текста в диалоговом формате и может использоваться в чат-сценариях. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке указано, что обучение выполнялось с Unsloth и библиотекой Hugging Face TRL. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0. Данные карточки не описывают специализацию дообучения, поэтому конкретные преимущества или качество в отдельных областях установить нельзя; заявленная поддержка языка — английский.

88plug/Qwen2.5-Omni-7B-W4A16 — это INT4-квантованная версия базовой модели Qwen/Qwen2.5-Omni-7B, подготовленная 88plug методом посттренировочной квантализации. Модель предназначена для генерации текста и диалоговых сценариев с мультимодальным вводом: поддерживает обработку текста, изображений и аудио, а исходная архитектура также включает генерацию речи в реальном времени. Модель имеет архитектуру Thinker с языковой моделью, аудиобашней, визуальным модулем и компонентами синтеза речи Talker и Token2Wav. Квантованы линейные слои 28 трансформерных блоков языкового ядра в формате W4A16 с INT4-весами, BF16-активациями и размером группы 128. Аудио-, визуальные и речевые компоненты, эмбеддинги, LM head и нормализации сохранены в BF16. Размер весов составляет около 3,5 ГБ; заявлена работа на одной видеокарте с 8 ГБ памяти, например RTX 3080 с 10 ГБ. В конфигурациях запуска указан контекст до 32768 токенов, а заявленным языком является English. Главное преимущество модели — существенное снижение требований к памяти при сохранении мультимодальных возможностей базовой 7B-модели. Она подходит для локального развертывания через vLLM, включая обработку аудио и изображений; для полноценного вывода речи рекомендуется vLLM-Omni. Основные ограничения связаны с поддержкой окружений: TGI не поддерживает используемый формат compressed-tensors, обычный vLLM возвращает только текст, SGLang не поддерживает этот формат нативно, а интеграция с Hugging Face Inference Widget может работать нестабильно. Модель распространяется по лицензии Apache-2.0.

maywell разработал мультиязычную разговорную модель Qwen2 с 7,1 млрд параметров для генерации текста в формате диалога ChatML. Она рассчитана на контекст до 32 768 токенов и поддерживает английский, корейский, японский, китайский и испанский языки. В карточке указано, что модель частично ориентирована на ERP-контент; примеры включают корейский диалог. Модель подходит для чат-ботов и генерации ответов на нескольких языках. Весовые файлы опубликованы в формате safetensors. Лицензия — Apache-2.0.

Это пакет слоёв GGUF-модели Qwen3-30B-A3B-Thinking-2507-UD-Q4_K_XL для распределённого запуска в Mesh LLM. Его подготовил Mesh LLM на основе unsloth/Qwen3-30B-A3B-Thinking-2507-GGUF; веса исходной модели разбиты на артефакты по слоям для распределённого инференса. Пакет предназначен для локального приватного общения с моделью, запуска на нескольких машинах, если целая модель не помещается на одном узле, и работы через локальный API Mesh LLM, совместимый с OpenAI Chat Completions. Это разговорная модель семейства Qwen3 в формате GGUF, вариант UD-Q4_K_XL. Репозиторий использует библиотеку mesh-llm и распространяется по лицензии Apache-2.0. Архитектурные детали, число параметров, контекстное окно и языки в доступных сведениях о пакете не приведены; за ними README отсылает к карточке исходной модели.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V13-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В ней также использованы данные и элементы дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на наборе NousResearch/hermes-function-calling-v1. Модель относится к семейству Qwen и предназначена для локального запуска, диалогов, генерации текста, агентских сценариев и function calling; в метаданных заявлена поддержка обработки изображений и текста. Архитектура — MoE с заявленным общим размером 35B параметров и примерно 3B активных параметров, однако точные сведения о числе слоёв, размере контекста и используемых визуальных компонентах в README не приведены. Заявлены английский, китайский и другие языки. Автор описывает Genesis как постобработку GGUF-файла, включающую статистический анализ и коррекцию тензоров без переобучения, с целью повысить стабильность, ясность контекста и следование инструкциям. К сильным сторонам относятся uncensored-поведение, MoE-эффективность, мультимодальность и ориентация на Hermes-агентские задачи. Ограничения — отсутствие в README независимых бенчмарков, подробной оценки качества, точного контекстного окна и гарантии заявленных улучшений; результаты могут зависеть от квантования и настроек запуска. Для работы рекомендуются F16-кэш K/V, максимальная выгрузка на GPU и использование подходящего chat template. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-w4a16-llmcompressor — квантизированная версия модели Qwen3.6-35B-A3B, созданная AMD с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для генерации текста и обработки изображений и текста; её архитектура обозначена как Qwen3_5MoeForConditionalGeneration. Основной сценарий использования — инференс на CPU AMD EPYC под Linux через vLLM с оптимизациями ZenDNN. Модель использует 4-битную квантизацию только весов W4A16 по алгоритму GPTQ: веса представлены в INT4, симметрично и группами по 128 параметров, а активации сохраняются в BF16. Размер весов уменьшен примерно с 67,0 до 18,1 GiB, то есть примерно на 73%. Квантизации подвергнуты, в частности, 256 маршрутизируемых MoE-экспертов, общий эксперт и проекции линейного внимания; vision tower, маршрутизатор MoE, отдельные gate-компоненты, lm_head, эмбеддинги и layer norms сохранены в BF16. В README явно указан английский язык, но сведения о полном контекстном окне отсутствуют. Сильными сторонами являются существенное сокращение объёма модели и ориентация на эффективный CPU-инференс на аппаратной платформе AMD при сохранении наиболее чувствительных к качеству компонентов в BF16. Ограничения связаны с зависимостью от совместимого стека: ZenDNN 6.1.0, ZenTorch 2.13.0.0, PyTorch 2.13.0.0, LLM Compressor 0.12.0 и vLLM 0.28.0, а также с потенциальными потерями качества, характерными для 4-битной квантизации. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-2.4T-A95B-NVFP4 — это 4-битная NVFP4-квантизованная версия модели Qwen3.8-2.4T-A95B, разработанной командой Qwen. Модель предназначена для генерации текста и опубликована в формате, совместимом с Transformers и vLLM; в README приведён пример запуска через vLLM. Веса представлены в формате nvfp4-pack-quantized: используется 4-битное представление с группами по 16 элементов, FP8-масштабированием групп и глобальным масштабом на тензор. Квантизации подверглись 143 569 линейных слоёв, при этом слоёв, оставленных в BF16, нет. Модель разделена на 328 шардов и занимает около 1382,45 ГБ на диске. Средняя относительная ошибка восстановления весов относительно исходных BF16-весов составляет 0,0952. Основное преимущество варианта — существенное сокращение размера по сравнению с FP8-версией при сохранении умеренной ошибки квантизации, что может упростить размещение крупной модели в инфраструктуре, поддерживающей NVFP4 и vLLM. Ограничениями являются очень большой объём весов, возможное снижение качества по сравнению с исходными BF16-весами и необходимость совместимого программного и аппаратного окружения. Сведения о поддерживаемых языках, длине контекста, точной архитектуре и специализированных сценариях применения в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели willhx/Qwen3-8B-Base-SeaSFT-Search на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Qwen3.8-Flash-Next MLX 4-bit — конвертированная и аффинно квантованная версия Qwen/Qwen3.8-Flash-Next от автора True2456. Репозиторий содержит веса для MLX в формате safetensors: эксперты MoE квантованы до 4 бит с размером группы 64, а ряд компонентов, включая attention, embeddings и MTP-драфтер, хранится в 8 бит; router и gated-residual компоненты — в 16 бит. Также доступны индексатор QSA и таблица PLE из исходного чекпойнта. Модель предназначена для генерации текста и диалогов в MLX-рантайме на Apple Silicon, в частности как банк весов для пути обслуживания Rindi Flash-Next. Метаданные указывают поддержку интерфейса вызова инструментов. Для запуска нужна сборка MLX-рантайма с поддержкой архитектуры qwen4_exp; обычная версия mlx-lm пока не подходит. README указывает требования Apple Silicon и для описанного гибридного пути ANE — M5 и около 128 ГБ объединённой памяти. Конверсия выполнена из официального BF16-чекпойнта Qwen/Qwen3.8-Flash-Next. Используется лицензия Qwen Community License 1.0; для коммерческих MaaS- и coding-assistant-продуктов действуют дополнительные условия.

Qwen3.8-Flash-Next-Uncensored-NVFP4 — квантизированная версия модели Qwen3.8-Flash-Next, разработанной Qwen и опубликованной OrcaRouter. Это мультимодальная Mixture-of-Experts-модель для работы с текстом и изображениями, рассуждений, вызова инструментов, функционального вызова, исследовательского red-teaming и анализа механизмов отказа моделей. Модель представляет preview-архитектуры Qwen4 и поддерживает английский и китайский языки. Архитектура включает 512 экспертов, из которых для каждого запроса активируются 10 маршрутизируемых и 1 общий эксперт, Gated DeltaNet linear attention, Qwen Sparse Attention, HyperConnections и PLE n-gram embeddings. Экспертные веса сжаты в NVFP4 с точностью 4 бита, attention и общие экспертные веса — в FP8, а отдельные компоненты, включая эмбеддинги, vision tower и нормализации, сохранены в bf16. Размер хранения сокращён примерно с 330 ГБ в bf16 до 178 ГБ; KV-кэш во время работы остаётся в bf16. Главное преимущество модели — значительное снижение требований к памяти при сохранении полноточных путей в важных компонентах, а также встроенная поддержка vision, reasoning и tool calling. Ограничения включают необходимость GPU с архитектурой Blackwell и FP4 tensor cores; Hopper и более старые GPU не поддерживаются. Для запуска нужны свежие версии vLLM с архитектурой qwen4_exp и compressed-tensors NVFP4, а мультимодальный режим зависит от поддержки vision-стека Qwen. Из модели удалена значительная часть safety alignment методом abliteration, поэтому она может выполнять вредоносные или незаконные запросы, от которых исходная модель отказалась бы. Модель предназначена только для легитимных исследований; перед практическим развёртыванием необходимы собственные фильтры безопасности и модерация. Лицензия — Apache 2.0, унаследованная от базовой модели.

DavidAU представил Qwen3-MOE-4x0.6B-2.4B-Writing-Thunder-V1.2 — компактную текстовую MoE-модель общего назначения на базе четырёх моделей Qwen3 по 0,6 млрд параметров, объединённых в структуру с 1,54 млрд параметров. Она предназначена для быстрой генерации текста, творческого письма, диалогов, ролевых сценариев, программирования и других общих задач; автор отмечает улучшения в кодировании относительно предыдущих версий. Модель поддерживает контекст до 40 960 токенов и режим рассуждений; в MoE по умолчанию активны два эксперта, а для сложного кода автор рекомендует повышать их число и использовать более точное представление весов. В метаданных указаны архитектура Qwen3 MoE, формат safetensors и лицензия Apache-2.0. Карточка также перечисляет слияние базовой Qwen3-0.6B с кодовой, математической и медицинской экспертными моделями. README предупреждает, что ответы могут заметно различаться между генерациями при одинаковых настройках; для программирования и сложных задач рекомендуются Q8 или полная точность. Автор модели — DavidAU; исходные модели созданы их соответствующими авторами и командой Qwen.

Qwen3-VL-30B-A3B-Instruct-MLX-5bit — мультимодальная instruction-tuned модель для преобразования изображений и текста в текст. Оригинальную модель разработала команда Qwen, а данную 5-битную MLX-квантизацию подготовила команда LM Studio с использованием mlx_vlm. Модель предназначена для локального запуска на устройствах Apple Silicon. Модель основана на Qwen3-VL-30B-A3B-Instruct и поддерживает сценарии, требующие анализа визуальной и текстовой информации, включая обработку изображений и генерацию ответов по инструкциям. Из технических характеристик указаны размер 30B и конфигурация A3B, 5-битное квантование, архитектура и формат MLX, а также специализация на Apple Silicon. Языки, размер контекстного окна и точный перечень поддерживаемых модальностей в README не уточняются. Ключевые преимущества модели — мультимодальные возможности, instruction-tuned поведение и снижение требований к памяти благодаря 5-битному квантованию, что делает её подходящей для локального использования. Ограничения включают возможную потерю качества из-за квантования и зависимость производительности от оборудования Apple Silicon; конкретные показатели качества и скорости не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Instruct-MLX-4bit — это 4-битная квантованная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для работы на компьютерах Apple Silicon. Модель предназначена для задач преобразования изображений и текста в текст, включая обработку визуально-текстовых запросов и работу в формате инструкций. Она относится к классу vision-language моделей и поддерживает взаимодействие с изображениями и текстом. Известный размер исходной модели — 4B параметров; сведения о поддерживаемых языках и максимальной длине контекста в представленном README не указаны. Ключевое преимущество версии — снижение требований к памяти и вычислительным ресурсам благодаря 4-битному квантованию, а также оптимизация для экосистемы Apple Silicon. Квантование может сопровождаться некоторым снижением точности по сравнению с исходной моделью, однако конкретные результаты в README не приведены. Модель распространяется по лицензии Apache-2.0.

Defetya/qwen-7B-saiga — русскоязычная чат-модель на базе Qwen 7B от Alibaba, дообученная автором репозитория на датасете Saiga Ильи Гусева методом supervised fine-tuning. Она предназначена для диалогов и генерации ответов на русском языке. Модель использует плотную архитектуру Qwen2ForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. В README автор отмечает корректное употребление падежей и субъективно сравнивает модель с Saiga-Mistral; результаты оценки на Russian SuperGlue не приведены. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

RoSEtta-base-ja — японская модель эмбеддингов текста от Chihiro Yano, Mocho Go, Hideyuki Tachibana, Hiroto Takegawa и Yotaro Watanabe. Она предназначена для поиска по смыслу и оценки семантического сходства предложений и фрагментов текста. Модель построена на архитектуре RoFormer с RoPE и имеет около 189,7 млн параметров. Для подготовки использовались предварительное обучение с MLM, слабый надзор, дистилляция от крупных моделей эмбеддингов и многоэтапное контрастивное обучение. Контекст — до 1024 токенов, размерность вектора — 768; для сравнения применяется косинусное сходство. На входе при инференсе требуется префикс «query: » или «passage: » в зависимости от роли текста. Модель поддерживает японский язык, работает через Sentence Transformers и может запускаться на CPU. Модель подходит для семантического поиска и подбора похожих предложений. В README приведены оценки на MIRACL-ja, JQaRA, JaCWIR, MLDR-ja и JMTEB. Лицензия — Apache-2.0.

Rune 26B-A4B v3 — разработанная Surogate модель принятия решений на основе Gemma 4 26B-A4B-it. Она принимает текст, структурированные данные или изображение вместе с вопросом и вариантами ответа и за один проход выбирает вариант, оценивая вероятности всех вариантов. Поддерживает задачи выбора одного из N вариантов, оценки истинности утверждения и выставления балла по порядковой шкале. Для обработки изображений сервер нужно запускать с поддержкой vision. Модель предназначена для классификации и ранжирования вариантов в тестах, извлечения решений из документов и скриншотов, автоматизации выбора и выставления оценок. По README, контекст составляет 262 тысячи токенов. Режим рассуждения включается отдельно, доступен только для текстовых запросов и может добавлять до 512 токенов рассуждения; по данным README, он повышает результаты на части тестов, но снижает качество вероятностных прогнозов в ForecastBench. Вероятности текстовых ответов при стандартной температуре описаны как избыточно уверенные; температура решения 2 улучшает их калибровку, не меняя выбранный вариант. Для изображений доступно сокращение числа визуальных токенов ценой точности. Это дообученная мультимодальная модель с архитектурой Gemma 4, публикуемая в формате safetensors и использующая библиотеку Transformers. Лицензия — Apache 2.0. Заявленные результаты бенчмарков являются результатами авторского запуска; часть тестовых данных и оценок основана на собственных выборках и не является закрытой оценкой лидерборда.

RWKV/RWKV7-G1j-2.9B-20260831 — базовая языковая модель RWKV-7 Goose, официальный выпуск BlinkDL в формате Transformers. Это плотная авторегрессионная модель примерно на 3,1 млрд параметров для генерации текста, оценки и последующего дообучения; шаблон диалога задаёт формат запросов, но сам по себе не означает, что модель выровнена как безопасный ассистент. Архитектура RWKV-7 не использует attention: она поддерживает состояние рекуррентного размера, не растущее с длиной контекста, и постоянную вычислительную работу на генерируемый токен; обучение при этом допускает параллелизацию. В комплект входят реализация для Transformers, токенизатор RWKV World и шаблон чата с поддержкой многоходовых диалогов, режима thinking и формата вызова инструментов. Модель обучалась на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждательных данных. В карточке перечислена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Модель подходит для генерации и продолжения текста, диалоговых прототипов и как основа для оценки или дообучения. Качество следования инструкциям и языковое поведение зависят от чекпойнта, промпта и последующего обучения. Откат состояния для assisted/speculative decoding не поддерживается без сохранения предыдущих состояний; оптимизированный запуск зависит от GPU, типа данных, размера пакета и формы входа. Заявлений о проверке безопасности, предвзятости, токсичности, фактической точности или пригодности для критически важных решений нет. Лицензия — Apache-2.0.

Sentence-Llama-Bi-JP-0.5B — двунаправленный энкодер семейства Llama от iamtatsuki05 для создания японских эмбеддингов предложений. Модель дообучена на размеченных парах из cl-nagoya/ruri-v3-dataset-ft и предназначена для семантического поиска, сопоставления и оценки сходства текстов. Модель содержит около 661,9 млн параметров, формирует векторы размерностью 1280 с помощью mean pooling и поддерживает последовательности длиной до 8192 токенов. Для сравнения векторов рекомендуется косинусная мера. Карточка заявляет поддержку японского языка; метаданные указывают лицензию MIT.