I.2Синтез, понимание и проверка знаний

Карточка модели agadelmoula-avey/Qwen3-4B-Base на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Base, поэтому описание составлено по ней. Qwen3-4B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на стадии предварительного обучения, предназначенная для дальнейшей адаптации и генерации текста. В карточке указаны 4,0 млрд параметров, 36 слоёв, групповое внимание с 32 головами Q и 8 головами KV и контекст до 32 768 токенов; метаданные каталога оценивают размер весов в 3,7 млрд параметров. Модель обучена на многоязычном корпусе; README сообщает о 119 языках в обучающих данных, но не перечисляет поддержку каждого из них. Среди заявленных направлений обучения — общие знания, программирование, STEM, рассуждения и понимание длинного контекста. Для запуска рекомендуется актуальная версия Transformers: версии ниже 4.51.0 могут не распознавать архитектуру Qwen3. Лицензия — Apache-2.0.

FadedRedStar/Qwen3.5-4B-heretic-imatrix-GGUF — это квантизированная GGUF-версия мультимодальной модели Qwen3.5-4B-heretic. Базовая модель разработана командой Qwen компании Alibaba, исходные веса подготовлены coder3101, а GGUF-квантизацию с importance matrix выполнил FadedRedStar. Модель предназначена для мультимодального рассуждения, генерации текста, программирования, вызова инструментов и агентских сценариев, включая работу с изображениями при использовании vision-проектора. Модель представляет собой плотный transformer примерно на 4 млрд параметров с интегрированным vision encoder и поддержкой раннего объединения модальностей. Заявлены контекстное окно до 262 144 токенов с возможностью расширения примерно до 1 млн, поддержка 201 языка и диалекта, tool calling и формат запросов ChatML. Основные варианты весов используют квантизации IQ4_NL, Q4_K_M и Q5_K_M, оптимизированные с помощью importance matrix; vision-тензоры доступны в Q8_0 и BF16. Предусмотрены дополнительные MTP-файлы для speculative decoding. Сильной стороной модели является сочетание мультимодальности, большого контекстного окна и относительно низких требований к ресурсам, а importance matrix должна улучшать сохранение качества при низкой разрядности. Существенное ограничение — модель прошла abliteration с подавлением направлений отказа, поэтому её поведение в части отказов отличается от исходной Qwen3.5-4B и может быть менее безопасным. Приведённые показатели отказов и расхождения KL являются самоотчётными и не подтверждены независимым тестированием. Для запуска требуются совместимые с GGUF инструменты, например llama.cpp, а точные возможности зависят от выбранной квантизации и vision-проектора. В метаданных указана лицензия Apache-2.0.

Minachist/Qwen3.6-35B-A3B-INT8-AutoRound — неофициальная INT8-квантизированная версия модели Qwen3.6-35B-A3B, разработанная Minachist на основе Qwen от команды Qwen. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, однако в README конкретные поддерживаемые языки и полный перечень задач не указаны. Она рассчитана на запуск через Transformers и vLLM, включая использование в качестве языковой модели, генерацию кода, рассуждения и вызовы инструментов при соответствующей настройке vLLM. Модель использует схему W8A16 и квантизацию AutoRound от Intel. Доступны варианты с group size 128 и 32, а основная ветка использует конфигурацию, требующую примерно на 3,2 ГБ меньше VRAM, чем вариант gs32, при почти идентичном качестве. Часть компонентов, включая visual, mtp, linear_attn, mlp.gate, shared_expert, embed_tokens и lm_head, не квантизирована; в отдельных вариантах также сохраняется self_attn. Размер базовой модели обозначен как 35B-A3B, но сведения о контекстном окне и точных модальностях базовой модели отсутствуют. Сильными сторонами являются существенное снижение требований к памяти при сохранении качества, близкого к BF16: для MMLU-Redux указано 93,28% против 93,3% в официальной оценке BF16. Ограничения включают зависимость от совместимых версий vLLM и CUDA, необходимость подходящей GPU-конфигурации, а также известные проблемы с vLLM v0.20.1. Модель распространяется по лицензии Apache-2.0.

sakamakismile/Qwen3.6-35B-A3B-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной Qwen и сжатой с помощью llm-compressor от Lna-Lab. Модель предназначена для генерации текста, программирования, рассуждений, агентских сценариев и задач с изображениями. Она поддерживает вызов инструментов и рассчитана на работу через vLLM. В основе лежит разреженная архитектура MoE: около 35 млрд параметров всего, из которых активны примерно 3 млрд на токен; используются 256 экспертов, включая 8 маршрутизируемых и 1 общий. Архитектура сочетает Gated DeltaNet и механизмы внимания. Квантизация NVFP4 W4A4 использует 4-битные веса и активации со шкалами FP8, а визуальная часть сохранена в BF16. Нативный контекст составляет 262 144 токена, заявлена возможность расширения до 1 млн токенов. Указана поддержка мультимодального ввода, однако конкретный перечень языков в README не приведён. К сильным сторонам относятся высокая скорость инференса, малая занимаемая память и заявленные результаты в задачах программирования и агентского взаимодействия. Размер модели после сжатия — около 21,9 ГБ; на одной видеокарте NVIDIA Blackwell заявлена скорость до 168 токенов в секунду. Ограничения связаны с аппаратной и программной совместимостью: требуется GPU NVIDIA Blackwell с архитектурой SM 120, примерно 22 ГБ видеопамяти и nightly-версия vLLM с CUDA 13.0; на Ampere и Hopper модель не работает. Распространяется по лицензии Apache-2.0.

Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-NVFP4 — это квантизированная версия модели AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, опубликованная sakamakismile. Сама базовая модель разработана AEON-7 на основе семейства Qwen; данный репозиторий содержит только квантизированные веса. Модель предназначена для генерации текста, включая диалоговые сценарии, рассуждения, программирование и многоязычные задачи. Используется квантизация NVFP4 W4A4 с размером группы 16: большая часть параметров представлена в 4-битном формате, а lm_head, vision tower, conv1d DeltaNet и MTP head сохранены в bf16. Размер весов уменьшен с 55,6 до 20,58 ГБ. Сохранена MTP-голова для speculative decoding; модель рассчитана на GPU Blackwell SM120 и работу через vLLM. В README указана конфигурация с контекстом до 32 768 токенов и KV-кэшем FP8. Проверялись японское самопредставление, арифметика, проверка простоты чисел и генерация Python-кода; также приведены тесты на английском и французском языках. Сильные стороны модели — существенно меньший размер по сравнению с BF16-версией, возможность размещения на двух видеокартах по 16 ГБ с запасом для KV-кэша и ускорение за счёт speculative decoding. Для длинных запросов рекомендуется устанавливать reasoning_effort в medium: при максимальном уровне модель может чрезмерно долго генерировать блок рассуждений, зацикливаться и не выдавать итоговый ответ. В длинном одnofайловом коде иногда пропускается закрывающая скобка, поэтому рекомендуется использовать синтаксическую проверку. Модель лицензирована по Apache-2.0.

ionos/Qwen3.8-27B-GPTQ-Int4 — неофициальная 4-битная GPTQ-квантизация мультимодальной модели Qwen/Qwen3.8-27B, созданная сообществом с использованием LLM Compressor. Модель предназначена для работы с текстом и изображениями: она поддерживает понимание документов, визуальное восприятие и рассуждения, математические задачи по изображениям, работу с инструментами и выполнение инструкций. В README явно приведены результаты для английского и немецкого языков; полный список поддерживаемых языков и размер контекстного окна не указан. Используется схема W4A16 с группами по 128 весов и симметричной GPTQ-квантизацией. Большинство линейных модулей языковой части модели в 64 слоях квантизированы до 4 бит, тогда как vision tower, эмбеддинги, lm_head и некоторые небольшие чувствительные компоненты сохранены в BF16. Архитектура, токенизатор, chat template и конфигурация процессора не изменены относительно базовой модели, а объём весов составляет примерно треть от версии BF16. Модель рассчитана на запуск, в частности, через vLLM; для неё требуется свежая версия transformers. По приведённым сравнениям модель в целом сохраняет качество базовой версии в задачах понимания документов, визуального рассуждения и английских знаний. Отдельно отмечено снижение результата на немецком языке примерно на 3 процентных пункта, поэтому немецкоязычные сценарии требуют собственной проверки. Результаты для tool calling и instruction following близки к базовой модели, но их абсолютные значения в тесте снижены особенностями измерения с включённым reasoning. Для табличного вывода рекомендуется использовать JSON-схему или грамматику с последующей валидацией. Модель распространяется по лицензии Apache-2.0, однако сама квантизация не является официальной и не проверялась командой Qwen или Alibaba Cloud.

SergiioB/Qwen3.8-27B-GPTQ-Int4-sym-G128-MTP-BF16 — это квантованная версия Qwen3.8-27B, разработанная SergiioB для запуска и обслуживания через vLLM XPU на видеокартах Intel Arc с архитектурой Xe2. Модель предназначена для генерации текста, включая кодинг и другие сценарии локального инференса, а также поддерживает обработку изображений благодаря встроенной vision tower. В карточке заявлены английский и китайский языки. Модель использует архитектуру Qwen3_5ForConditionalGeneration с гибридным механизмом внимания GDN: линейное внимание чередуется с полным вниманием каждые четыре слоя. Указаны 5120 скрытых признаков, 64 слоя, 24 Q-head и 4 KV-head с GQA. Основная часть модели квантована в GPTQ INT4 с симметричными группами размера 128 и форматом W4A16; MTP-компоненты сохранены в BF16 для поддержки нативного speculative decoding. Vision tower также не квантована. Максимальная позиционная длина в конфигурации составляет 262144 токена, однако на протестированной конфигурации Intel Arc Pro B70 32 ГБ измерялась работа с контекстом до 131072 токенов. Сильная сторона модели — ускоренная генерация благодаря MTP4: в приведённых измерениях на Intel Arc Pro B70 скорость декодирования достигала 83,7 токена в секунду без дополнительного overlay и 112,65 токена в секунду с опциональным INT4-квантованием draft-компонентов. Производительность зависит от длины контекста, числа параллельных запросов, настроек vLLM XPU и конкретного оборудования. Ограничениями являются привязка к совместимому XPU-стеку, особенности GPTQ-квантизации и то, что заявленные результаты получены на одной видеокарте и не гарантируют аналогичную скорость в других условиях. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-8B-Base-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen Team. Это причинная языковая модель на этапе предварительного обучения, предназначенная для генерации и продолжения текста, адаптации под прикладные задачи, программирования, STEM, рассуждений и работы с многоязычными данными. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, и имеет 36 слоёв. Используется Grouped-Query Attention: 32 головы запросов и 8 голов ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на 36 трлн токенов на 119 языках, однако README не уточняет точный перечень языков и отдельно не описывает мультимодальные возможности; по указанным характеристикам это текстовая модель. 4-битное представление снижает требования к памяти и облегчает локальный запуск, сохраняя совместимость с экосистемой Transformers, но может влиять на точность по сравнению с полноразмерной версией. Это базовая, а не инструкционно настроенная модель, поэтому для диалоговых сценариев и следования сложным инструкциям может потребоваться дополнительное дообучение или специальное форматирование запросов. Для работы рекомендуется актуальная версия transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: qwen3. Лицензия — Apache-2.0.

Myric/Qwen3.8-Flash-Next-APEX-GGUF — это GGUF-конверсия модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста, мультимодального анализа изображений и агентного программирования с использованием llama.cpp. В комплект входят основной файл MIDDLE для инференса, BF16-файл как источник для квантования и отдельный vision projector для работы с изображениями. Архитектура представляет собой мультимодальную MoE-модель общим размером около 180 млрд параметров и примерно 6,8 млрд активных параметров. Она содержит 48 слоёв, 512 маршрутизируемых экспертов с выбором top-10, гибридную архитектуру gated-delta-net с полноценным attention в каждом четвёртом слое, разреженное QSA-внимание и n-gram embeddings на уровне слоёв. Заявленный контекст составляет до 262 144 токенов. Поддержка языков в README не указана. Сильные стороны модели — большой контекст, мультимодальные возможности, эффективная MoE-архитектура и хорошие результаты в описанном тесте агентного программирования: 9 из 9 задач и 154 из 154 тестов. Ограничения включают высокие требования к памяти: для MIDDLE требуется около 85,4 GiB под веса, а также дополнительная память под KV-кэш и вычислительные буферы. Для llama.cpp рекомендуется использовать f16 KV-кэш и один параллельный слот; q8_0 KV может приводить к сбоям или некорректным результатам. Параметр reasoning effort high не поддерживается, допустимы xhigh, medium и low. Для работы с изображениями требуется vision projector. Модель распространяется по лицензии Apache-2.0. Для запуска опубликованных файлов необходима актуальная версия llama.cpp с поддержкой qwen4exp; самостоятельная конвертация требует специальной ветки конвертера, поскольку соответствующее исправление ещё не включено upstream.

Qwen3.8-Flash-Next-IQ4_XS-GGUF — это квантизированная версия базовой модели Qwen/Qwen3.8-Flash-Next-FP8 в формате GGUF. Исходная модель разработана командой Qwen, а данный вариант подготовлен пользователем julianmb с использованием ROCmFPX и проверенного конвейера преобразования. Модель предназначена для генерации текста, включая повседневный диалог, программирование и работу с длинным контекстом. В репозитории представлены варианты квантизации IQ4_XS, включая статический файл размером около 116 GiB, imatrix-квантизацию M2 размером около 115 GiB и облегчённый PLE-вариант размером около 91 GiB. Для M2 заявлены 5,56 бит на вес и лучшее измеренное значение perplexity среди представленных вариантов; PLE-вариант уменьшает размер за счёт квантизации 51-миллиардной n-gram lookup table до iq4_nl. Также доступен отдельный MTP-файл Q8_0 размером около 3,9 GiB для ускоренной генерации в совместимых движках. Модель ориентирована на запуск на системах с 128 GiB унифицированной памяти, в частности на Strix Halo, через совместимые сборки llama.cpp и Vulkan. Заявлена работа с контекстом до 256k токенов при использовании SSD-PLE и специальных параметров запуска. Производительность зависит от варианта файла, глубины контекста, MTP и конкретного движка. Важное ограничение — PLE-вариант несовместим с некоторыми форками движков, которые не выполняют требуемую деквантизацию; в таких случаях рекомендуется статический вариант IQ4_XS или M2. Сведения о поддерживаемых языках и точной архитектуре в README не указаны. Лицензия обозначена как qwen-community-license-1.0.

Qwen3-VL-4B-Thinking-FP8 — мультимодальная модель семейства Qwen, представленная в репозитории Qwen и основанная на Qwen3-VL-4B-Thinking. Это FP8-квантизированная версия с мелкозернистым квантованием и размером блока 128; заявлено, что её показатели почти идентичны исходной модели в формате BF16. Модель предназначена для генерации текста по изображениям и тексту, а также для анализа видео. Модель ориентирована на визуальное понимание и рассуждение, включая распознавание текста на изображениях, анализ документов, STEM- и математические задачи, пространственное восприятие, понимание динамики видео, локализацию событий по временным меткам и визуальное программирование. Она также рассчитана на сценарии visual agent: распознавание элементов интерфейса ПК и мобильных устройств, понимание их функций, вызов инструментов и выполнение задач. Поддерживаются изображения, видео и текст; заявлен нативный контекст 256K с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный список языков в README не приведён. К архитектурным особенностям относятся Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых признаков ViT и механизм выравнивания текста с временными метками. Сильными сторонами являются расширенное визуальное и пространственно-временное понимание, обработка длинного контекста, OCR и мультимодальное рассуждение. Ограничение состоит в том, что на момент публикации README Transformers не поддерживал прямую загрузку этих весов; для развёртывания рекомендованы vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3-VL-8B-Thinking-AWQ-4bit — это 4-битно-квантизированная версия vision-language модели Qwen3-VL-8B-Thinking, разработанной командой Qwen. Модель предназначена для совместной работы с текстом и изображениями, а также для понимания видео, визуального рассуждения и генерации ответов на естественном языке. Она подходит для анализа изображений и документов, OCR, STEM- и математического рассуждения, визуального программирования, пространственного анализа и сценариев визуального агента, включая взаимодействие с графическими интерфейсами и инструментами. Модель использует плотную архитектуру размером 8B параметров и поддерживает мультимодальный ввод. Заявлен контекст до 256K токенов с возможностью расширения до 1M, а видео может анализироваться с учетом временной структуры и привязки событий к временным меткам. Среди архитектурных особенностей указаны Interleaved-MRoPE для позиционного кодирования во времени, ширине и высоте, DeepStack для объединения многоуровневых визуальных признаков и улучшенное выравнивание текста с временными метками. OCR заявлен для 32 языков, однако полный перечень языков в README не приведен. Сильными сторонами являются визуальное и пространственное восприятие, понимание длинного контекста и видео, мультимодальное рассуждение, распознавание объектов и документов, а также поддержка агентских и визуально-кодировочных задач. Ограничения, включая возможные ошибки распознавания, рассуждения и требования к вычислительным ресурсам, в README не описаны; 4-битная AWQ-квантизация призвана снизить требования к памяти по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache-2.0.

QwenSelfMerge — языковая модель, созданная сообществом mergekit путём объединения фрагментов Qwen/Qwen2.5-72B-Instruct методом passthrough. По метаданным, это плотная авторегрессионная архитектура Qwen2 с 32,8 млрд параметров; модель использует Transformers и формат safetensors, поддерживает контекст до 32 768 токенов и интерфейс диалога с вызовом инструментов. Модель предназначена для генерации текста и диалоговых сценариев, унаследованных от Qwen2.5-72B-Instruct, включая структурированные ответы, программирование и математику. В README описана сборка из нескольких диапазонов слоёв той же базовой модели; карточка не приводит отдельных результатов оценки качества. Лицензия в предоставленных данных не указана.

Qwopus3.5-122B-A10B-Kimi-K2.6-destilled-abliterated-NVFP4 — мультимодальная версия модели, разработанная OpenYourMind. Она создана на основе Qwopus3.5-122B-A10B-Kimi-K2.6-destill-healed-abliterated, которая, в свою очередь, основана на Qwen/Qwen3.5-122B-A10B и дополнительно использует дистилляцию Kimi-K2.6, обучение с предпочтениями для рассуждений и модификацию, обозначенную авторами как abliterated/uncensored. Модель предназначена для генерации и понимания текста и изображений, включая задачи рассуждений, программирования, вызова инструментов и работы с визуальными данными. Это архитектура Mixture of Experts с примерно 122 млрд параметров, из которых около 10 млрд активируются при обработке одного запроса. Сохраняются vision tower, MTP head, маршрутизатор экспертов и путь внимания Gated-DeltaNet. Поддерживаются архитектура Qwen3_5MoeForConditionalGeneration и контекст до 262 144 токенов в указанной конфигурации. Поддерживаемые языки в README не указаны. Весовые параметры сжаты в формат NVFP4 с точностью 4 бита, что уменьшает размер модели примерно с 250 до 81,5 ГБ; часть компонентов оставлена в BF16. По заявленным авторами результатам, сборка превзошла полноточную Qwen3.5-122B-A10B на тестах CTI, LiveCodeBench и BFCL, однако эти результаты представлены без независимой верификации. Для запуска рекомендуется vLLM с поддержкой compressed-tensors; указано использование как минимум одного ускорителя Blackwell с объёмом памяти от 96 ГБ. Лицензия — MIT.

Qwopus3.6-35B-A3B-v1 — экспериментальная мультимодальная модель с разреженной архитектурой MoE, созданная Jackrong путём дообучения Qwen3.6-35B-A3B с помощью LoRA и трёх этапов supervised fine-tuning. В базовой модели 35 млрд параметров, из которых активно около 3 млрд на токен; она сочетает линейное внимание Gated DeltaNet с обычными слоями gated attention и рассчитана на контекст до 262 тысяч токенов. Модель предназначена для диалогов, рассуждений, работы с изображениями и инструментами, а также задач программирования, математики, науки и следования инструкциям. Автор заявляет улучшения в структурированности рассуждений и последовательности ответов; карточка приводит результаты независимого теста, но отмечает, что полная оценка производительности и безопасности не проводилась. Поддерживаются английский, китайский, испанский, русский и японский языки. Лицензия — Apache-2.0.

Raw_1_no_3_Test_2_new.model — модель Sentence Transformers на базе XLM-RoBERTa с 305,2 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, поиска и кластеризации текстов. В README описано обучение с CosineSimilarityLoss. Модель принимает текст и выдаёт векторы; заявленная длина контекста — 514 токенов. В метаданных указана библиотека PyTorch. Лицензия не приведена.

Модель Wheatley961/Raw_3_no_1_Test_3_new.model — модель Sentence-Transformers на базе XLM-RoBERTa, преобразующая предложения и абзацы в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации. Обучение с CosineSimilarityLoss указывает на настройку для задач сопоставления текстовых представлений. Модель содержит 305,2 млн параметров, принимает текст и выдаёт векторные представления. Максимальная длина контекста — 514 токенов. Для работы доступны веса PyTorch и библиотеки Sentence-Transformers либо Transformers с подходящей операцией pooling. Языки обучения или приоритетные языки в карточке не указаны.

ruRoPEBert-e5-base-2k — русскоязычная модель-энкодер от Tochka AI на архитектуре RoPEBert с 166,5 млн параметров. Она дообучена на датасете CulturaX методом cloning на основе hivaze/ru-e5-base, который использует русские и английские эмбеддинги intfloat/multilingual-e5-base. Модель предназначена для получения эмбеддингов предложений и текстов, сравнения их семантической близости и построения классификаторов. В архитектуру встроен mean-pooling с учётом маски внимания; также доступен вариант pooling с преобразованием первого токена. Контекст обучения составляет до 2048 токенов. В бенчмарке encodechka модель показала более высокий общий показатель S+W, чем приведённые в карточке ruRoPEBert-e5-base-512 и multilingual-e5-base. Для загрузки требуется Transformers версии 4.37.2 или новее и разрешение загрузки кода из репозитория через trust_remote_code=True. Карточка не указывает лицензию. Модель может работать с более длинным контекстом при настройке RoPE scaling, однако качество за пределами обучающей длины отдельно не подтверждено.

RWKV7-G1i-13.3B-20260805 — базовая языковая модель семейства RWKV-7, разработанная Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang и Zhiyuan Li при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель с архитектурой RWKV7ForCausalLM; метаданные указывают 14,6 млрд параметров, а карточка README — 13,3 млрд. Модель обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях; в репозитории указаны веса safetensors и интерфейсный шаблон чата. RWKV-7 использует рекуррентное состояние постоянного размера и постоянную вычислительную работу на генерируемый токен, сохраняя возможность параллельного обучения. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения; поддерживает английский, китайский, японский, корейский, французский, арабский, испанский и португальский языки. Метаданные задают контекст 2048 токенов, тогда как название файла в README содержит обозначение ctx16384, поэтому фактическую длину контекста следует сверить с используемой конфигурацией. Модель распространяется по лицензии Apache-2.0. README прямо предупреждает, что базовый чекпойнт не является выровненным по безопасности ассистентом: шаблон чата служит интерфейсом для подачи запросов и сам по себе не гарантирует безопасное поведение.

RWKV7-G1i-2.9B-20260805 — базовая языковая модель семейства RWKV-7, разработанная Бо Пэном, Ю Чжаном, Сонглином Яном, Жуйчонгом Чжаном и Чжиюанем Ли при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель с архитектурой RWKV7ForCausalLM и рекуррентным состоянием постоянного размера: генерация не использует attention и требует постоянной вычислительной работы на каждый новый токен, при этом обучение можно распараллеливать. Модель с 3,1 млрд параметров предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, чатах и материалах для рассуждений. Она предназначена для оценки, последующего обучения и дообучения, а шаблон чата служит интерфейсом для подачи запросов и сам по себе не означает, что модель безопасно настроена как ассистент. Поддерживает несколько языков; среди языков карточки указаны английский, китайский, японский, корейский, французский, арабский, испанский и португальский. Контекст модели по метаданным — 2048 токенов. Для запуска README рекомендует flash-linear-attention и Transformers версии 4.48.0 или новее. Лицензия — Apache-2.0.

RWKV/RWKV7-G1k-2.9B-20260930 — официальная базовая языковая модель RWKV-7 Goose от BlinkDL в формате для Transformers. Это плотная авторегрессионная модель примерно на 3,1 млрд параметров, предварительно обученная на веб-текстах, коде, синтетических, инструкционных, диалоговых и reasoning-данных. Она предназначена для оценки, дальнейшего дообучения и генерации текста; шаблон чата задаёт формат промпта, но сам по себе не означает, что модель выровнена для безопасного поведения. Архитектура RWKV-7 использует рекуррентное состояние постоянного размера вместо механизма внимания и KV-кэша, поэтому объём состояния не растёт с длиной генерации, а вычисления на токен остаются постоянными; обучение можно распараллеливать. Модель принимает текст и генерирует текст. Карточка и теги указывают поддержку английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Веса доступны в safetensors, лицензия — Apache-2.0. Качество следования инструкциям и поведение на разных языках зависят от чекпойнта, промптинга и последующего обучения. Модель не заявлена как проверенная на безопасность, предвзятость, токсичность, фактическую точность или применение в критически важных сценариях. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения снимков состояния; оптимизированный запуск зависит от оборудования и конфигурации.

Карточка модели Chadeh/setfit-minilm-distilled на Hugging Face совпадает с карточкой chiragme/setfit-minilm-distilled-ledgar, поэтому описание составлено по ней. chiragme/setfit-minilm-distilled-ledgar — модель семейства BERT на базе Sentence-Transformers, преобразующая предложения и абзацы в плотные векторы размерности 384. Её можно применять для семантического поиска, кластеризации и сравнения текстов по смыслу. В метаданных указаны 18,8 млн параметров, контекст до 512 токенов и формат PyTorch; README описывает обучение с CosineSimilarityLoss. Название репозитория указывает на связь с SetFit, MiniLM и Ledgar, однако README и метаданные не уточняют базовую модель, набор данных или специализацию обучения, поэтому эти детали нельзя подтвердить. Модель принимает текст и выдаёт векторы; лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Solar Open2 250B — Nota NVFP4 — это 4-битная квантованная версия большой языковой модели Solar Open2 250B, разработанной Upstage и подготовленной Nota AI с использованием собственной технологии квантования Mixture-of-Experts (MoE). Модель предназначена для генерации текста и может обслуживать задачи рассуждения, программирования, следования инструкциям, работы с англоязычными и корейскоязычными заданиями, а также другие сценарии применения больших языковых моделей. В заявленных метаданных указаны английский, корейский и японский языки; модальность — текстовая. Размер контекста в README не указан. Модель использует формат NVFP4 с 4-битным квантованием весов и активаций (W4A4), group_size=16 и упаковкой compressed-tensors для прямого запуска через vLLM. Заявленный объём весов составляет 153,3 ГБ против 500,6 ГБ у версии BF16. Ключевое преимущество — существенно меньшие требования к памяти и более высокая пропускная способность при близком к BF16 качеству на приведённых тестах; средний результат составил 81,35 против 81,57 у BF16. Ограничение — необходимость GPU архитектуры NVIDIA Blackwell с поддержкой FP4 tensor cores, например B200 или GB200; Hopper, Ada и Ampere не поддерживаются. Для развёртывания требуется vLLM и Blackwell-класс GPU. Модель распространяется по лицензии Upstage Solar License. Для производных моделей указаны требования использовать префикс Solar в названии, размещать заметную атрибуцию «Built with Solar» в публичных материалах и включать копию лицензии Upstage Solar.

SR²AM-v1.0-30B — агентная языковая модель, разработанная командой sailing-lab на базе Qwen3-30B-A3B-Thinking-2507. Она разделяет рассуждение на реактивное выполнение действий, симулятивное планирование последствий и конфигуратор, который выбирает, когда и насколько глубоко планировать. Модель дообучена методом SFT с последующим обучением с подкреплением GRPO; архитектура — Qwen3 MoE, формат весов — Safetensors, библиотека — Transformers. Заявленная длина контекста — 262 144 токена. Модель предназначена для агентных задач с использованием инструментов: веб-поиска и просмотра страниц, выполнения Python-кода в изолированной среде, а также решения задач по математике, естественным наукам и табличным данным. В README сообщается Pass@1 71,3 на 11 бенчмарках и сокращение числа токенов рассуждения на 25–95% относительно сопоставимых агентных моделей; это результаты авторской оценки. Метаданные указывают 2,6 млрд параметров. Модель распространяется по лицензии Apache-2.0.

Карточка модели sabeshbesh/Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

ThinkingCap-Qwen3.6-27B-NVFP4 — квантизированная версия модели ThinkingCap-Qwen3.6-27B от BottleCap AI, созданная на базе Qwen3.6-27B, разработанной командой Qwen. Модель дообучена для сохранения качества и стиля ответов базовой модели при среднем сокращении числа токенов рассуждений примерно на 50%, а затем сжата до формата NVFP4 для эффективного инференса. Это крупная модель с весами 4 бита и активациями bf16 в режиме W4A16. Размер чекпойнта составляет около 19 ГБ вместо примерно 55 ГБ для версии bf16. В составе сохранены vision tower, lm_head и MTP-голова, поэтому заявлена поддержка мультимодальных компонентов исходной модели и самоспекулятивного декодирования с multi-token prediction. Модель предназначена прежде всего для запуска через vLLM на GPU NVIDIA Hopper и Blackwell; для спекулятивного декодирования требуется vLLM версии 0.24.0 или новее. Сильные стороны модели — существенно меньшие требования к памяти, примерно двукратное ускорение декодирования относительно bf16-контрольной версии и дополнительное ускорение за счёт MTP. По данным разработчика, в отдельных тестах суммарное ускорение на задачу относительно исходной невзвешенной модели составляло примерно 4,7–8,4 раза при сопоставимой точности. Ограничение заключается в том, что текущая реализация предназначена для vLLM: SGLang пока не может загрузить weight-only NVFP4 для этой архитектуры. Для llama.cpp, Ollama и LM Studio рекомендуется использовать отдельные GGUF-квантизации. Модель распространяется по лицензии Apache-2.0, однако доступ к карточке на платформе может требовать заполнения формы и принятия условий доступа.

Cohere и Cohere Labs разработали Cohere Labs Tiny Aya — многоязычную авторегрессионную языковую модель на 3,35 млрд параметров для генерации текста и диалогов. Вариант water ориентирован на европейские и азиатско-тихоокеанские языки; семейство охватывает более 70 языков и предназначено также для дальнейшей адаптации и локального развёртывания при ограниченных вычислительных ресурсах. Модель использует оптимизированную архитектуру Transformer: три слоя со скользящим вниманием и окном 4096 токенов и один слой с глобальным вниманием. После предобучения она прошла инструкционную настройку и обучение на предпочтениях. Контекст и длина генерации — до 8K токенов. Принимает текст и выдаёт текст; подходит для диалогов, суммаризации, перевода и межъязыковых задач. Сильная сторона модели — генерация на широком наборе языков, включая языки с ограниченными ресурсами. Качество может быть менее стабильным на низкоресурсных языках; карточка также отмечает слабые результаты в сложных рассуждениях, например в многоязычной математике, и возможность фактических ошибок. Лицензия CC-BY-NC-4.0 разрешает некоммерческое использование с соблюдением Acceptable Use Policy Cohere Labs; для коммерческого применения требуется связаться с Cohere.

api19750904/tipo_campanya_ong_v3 — модель Sentence Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации текстов. Модель работает с текстом и использует контекст длиной до 514 токенов. Модель подходит для поиска текстов по смыслу, группировки похожих предложений и вычисления их семантического сходства. В карточке указано обучение с функцией потерь CosineSimilarityLoss. Доступен формат PyTorch; лицензия в предоставленных данных не указана.

UTC-DeBERTa-base — модель универсальной классификации токенов от Knowledgator, основанная на DeBERTaV3-base и дообученная на нескольких задачах классификации токенов, включая задачи, которые можно представить в таком формате. Архитектура — DeBERTa-v2 для классификации токенов; модель содержит 211,6 млн параметров и обрабатывает до 512 токенов за контекст. Она работает с текстом на английском языке. Модель предназначена для извлечения сущностей и другой информации из текста. Карточка описывает сценарии распознавания именованных сущностей с нулевым обучением, ответов на вопросы, извлечения отношений, разрешения кореференции, очистки и суммаризации текста. Авторы приводят результаты оценки на CrossNER для областей ИИ, литературы, музыки, политики и науки. Модель доступна в формате PyTorch через библиотеку Transformers, а для распознавания сущностей авторы рекомендуют pipeline `ner`. Лицензия — Apache-2.0. README не уточняет ограничения сверх длины контекста и английского языка, указанных в метаданных.

Модель Heimat24/vhs_burghausen_danielheinz_e5-qa_generation_user-5-1-0.8 — модель Sentence-Transformers на архитектуре XLM-RoBERTa с 305,2 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения семантической близости, поиска похожих текстов и кластеризации. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусной мерой сходства. В карточке указана максимальная длина контекста 514 токенов. Для работы используется библиотека sentence-transformers; веса доступны в формате safetensors. Модель подходит для семантического поиска и группировки текстов. Языковая поддержка явно не описана, хотя архитектура XLM-RoBERTa рассчитана на многоязычные данные. Лицензия в предоставленных сведениях не указана.