I.2Синтез, понимание и проверка знаний

Qwen3.5-35B-A3B-quantized.w4a16 — это квантованная мультимодальная языковая модель на базе Qwen/Qwen3.5-35B-A3B, опубликованная пользователем apolo13x. Базовая модель разработана командой Qwen. Модель принимает текст и изображения, а генерирует текст, поэтому предназначена для диалоговых сценариев, анализа изображений, ответов на вопросы и других задач преобразования мультимодального ввода в текст. Модель использует архитектуру Qwen3.5 с разреженной MoE-конфигурацией 35B-A3B, где общий размер составляет около 35 млрд параметров, а активируется примерно 3 млрд параметров. Веса квантованы до INT4 в формате GPTQ с конфигурацией W4A16 с использованием llm-compressor. Это уменьшает размер модели с 67,0 до 20,4 ГБ, примерно в 3,3 раза, при среднем восстановлении точности 99,5% относительно исходной модели. В указанных тестах модель показала 81,31% на GPQA Diamond, 94,60% на IFEval и 91,95% на MMLU-Redux. Сильной стороной модели является существенное снижение требований к хранению и инференсу при сохранении близкой к исходной точности. Ограничения связаны с потерями, возможными при 4-битном квантовании, а также с тем, что на 27 февраля 2026 года модель поддерживалась в nightly-версии vLLM, что может означать менее стабильную совместимость по сравнению со стабильными релизами. Сведения о размере контекстного окна и поддерживаемых языках в README не указаны. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.5-4B-FP8-dynamic — мультимодальная модель RedHatAI, созданная на основе Qwen/Qwen3.5-4B. Она принимает текст и изображения, а генерирует текст, поэтому предназначена для диалогов, анализа изображений, ответов на вопросы, следования инструкциям и решения задач рассуждения. Указанная конфигурация рассчитана на инференс через vLLM и поддерживает текстовый режим с пониженным потреблением памяти. Модель использует архитектуру Qwen/Qwen3.5-4B и контекст до 262 144 токенов при развертывании с рекомендованными параметрами. Веса и активации линейных операторов внутри трансформерных блоков динамически квантизированы в FP8; для активаций применяется масштабирование на уровне тензора без калибровочных данных. Размер на диске составляет около 8,0 ГБ вместо 9,3 ГБ у версии BF16, что уменьшает требования к памяти примерно на 14%. Языки в README не указаны. По опубликованным оценкам, квантизация в целом сохраняет качество базовой модели: результаты на GSM8k-Platinum, MMLU-Pro, IFEval, Math 500, AIME 2025 и GPQA Diamond близки к показателям исходной Qwen/Qwen3.5-4B. Ограничения включают отсутствие подробных сведений о языковой поддержке и аппаратных требованиях; качество также может зависеть от поддержки FP8 и используемого рантайма. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B VLM Q4_K_M GGUF — мультимодальная модель на базе Qwen/Qwen3.5-9B, представленная в формате GGUF и подготовленная пользователем jc-builds. Пакет включает квантованные веса основной модели и отдельный мультимодальный проектор mmproj, необходимый для обработки изображений через llama.cpp. Модель предназначена для анализа изображений и текста, визуального рассуждения, генерации описаний, ответов на вопросы по изображениям, а также для обычных текстовых задач. Заявлена поддержка 201 языка, включая английский, китайский, японский, корейский, русский, европейские, арабские и ряд языков Юго-Восточной Азии. Указана архитектура раннего объединения визуальных и текстовых данных, контекстное окно 262 144 токена с возможностью расширения более чем до 1 млн токенов, 9,6 млрд плотных параметров и словарь размером более 200 тысяч токенов. Основные веса используют 4-битную смешанную квантование Q4_K_M и занимают около 6 ГБ, а визуальный проектор хранится в FP16 и занимает около 918 МБ. Для полной мультимодальной инференции требуется примерно 7–8 ГБ RAM или VRAM. Сильные стороны модели — сочетание визуальных и текстовых возможностей, большой контекст, относительно компактный размер и возможность локального запуска, в том числе на устройствах iOS. Ограничения включают зависимость от поддержки mmproj в программном обеспечении: vision-режим доступен в llama.cpp и KoboldCpp, частично поддерживается в LM Studio и не поддерживается в Ollama согласно README. Квантованная версия может незначительно уступать FP16 по качеству. Лицензия — Apache-2.0.

Qwen3.5 Plus (April 2026) — крупная мультимодальная языковая модель Alibaba. Она принимает текст, изображения и видео и формирует текстовые ответы. Заявленное окно контекста составляет 1 млн токенов. Модель предназначена для диалогов и работы с визуальным содержимым, включая анализ изображений и видео. В доступных данных не раскрыты архитектура, число параметров, поддерживаемые языки и условия лицензии, поэтому эти характеристики не указаны.

btbtyler09/Qwen3.6-27B-GPTQ-8bit — это 8-битная GPTQ-квантизованная версия модели Qwen/Qwen3.6-27B, разработанной командой Qwen. Модель представляет собой плотную мультимодальную систему примерно с 27 млрд параметров, предназначенную для генерации и понимания текста, работы с изображениями и ускоренного вывода с использованием MTP (Multi-Token Prediction). Контрольная точка опубликована с лицензией Apache-2.0. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, чередующихся в соотношении 3:1. Размер скрытого представления составляет 5120, размер промежуточного слоя — 17408, максимальная длина контекста — 262 144 токена. В состав входят полноразмерный 27-блочный ViT-энкодер для обработки изображений и MTP-модуль для speculative decoding. Языки и специализированные языковые возможности отдельно не указаны. Линейные модули текстового декодера квантизованы в INT8 с помощью GPTQ, тогда как vision-энкодер, MTP, эмбеддинги, нормы и выходная голова сохранены в BF16 или FP16. Размер модели составляет около 32 ГБ вместо примерно 50 ГБ в BF16. По заявленным измерениям, ухудшение perplexity на wikitext-2-raw-v1 составляет всего 0,07%, что указывает на близкое к исходному качество. Модель подходит для мультимодального сервинга и длинного контекста, однако для запуска рекомендуется vLLM; прямое использование через GPTQModel и transformers на момент публикации не поддерживается, а для некоторых версий vLLM может потребоваться исправление ошибки разбора конфигурации.

Qwen3.6-35B-A3B-W4A16-AWQ — это 4-битная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Qwen и дополнительно квантованной пользователем hyperhuzaifa. Квантизация выполнена методом AWQ в формате compressed-tensors pack-quantized с симметричной схемой int4, размером группы 128 и разрядностью W4A16. Модель использует MoE-архитектуру с 35 млрд параметров и рассчитана на запуск с длинным контекстом на одной потребительской видеокарте с 24 ГБ памяти. На диске она занимает около 20,5 ГБ, а в памяти GPU — около 19,06 GiB. Модель предназначена для генерации текста и обработки изображений, поскольку сохраняет vision tower. В архитектуре используются 40 слоёв, включая 30 слоёв gated DeltaNet с линейным вниманием и 10 блоков полного внимания, а маршрутизация MoE выбирает 8 экспертов из 256. Также сохранена MTP-голова для спекулятивного декодирования. Квантированы языковые Linear-слои, включая routed и shared experts, но эмбеддинги, lm_head, vision tower, маршрутизаторы, нормализации и MTP-голова оставлены в bf16 для сохранения качества и совместимости. Основные преимущества — заметно сниженные требования к памяти, поддержка длинного контекста, мультимодальность и совместимость с vLLM версии 0.26.0 и новее. На одной 24-ГБ видеокарте заявлена работа с контекстом до 32K при использовании CUDA graphs; на двух GPU через tensor parallelism поддерживается до 262K токенов. Ограничения включают невысокую допустимую конкурентность на одной карте из-за recurrent cache для DeltaNet, резкое снижение скорости при использовании enforce-eager и необходимость корректно выбирать мультимодальный класс загрузки. MTP не рекомендуется включать на одной 24-ГБ карте из-за резкого уменьшения доступного KV-кэша; на двух PCIe-GPU он также может снижать итоговую производительность. Модель распространяется по лицензии Apache-2.0.

Distillio/Qwen3.8-27B-GGUF — это квантизированная версия модели Qwen3.8-27B, разработанной Qwen и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель содержит около 28 млрд параметров и предназначена для локального запуска задач генерации и анализа текста, а также обработки изображений при использовании совместимого файла mmproj. Модель поддерживает мультимодальный ввод текста и изображений, speculative decoding с использованием MTP и квантизацию imatrix. Доступны варианты от BF16 и Q8_0 до более компактных Q2_K и IQ3/IQ4, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Рекомендуемым компромиссом README называет Q4_K_M размером около 17,77 ГБ; более высокое качество обеспечивают Q5 и Q6, а варианты Q2–Q3 рассчитаны на ограниченный объём оперативной памяти, но заметно уступают по качеству. Для запуска требуется совместимое программное обеспечение, в частности llama.cpp; для работы с изображениями необходим mmproj-файл. README не указывает поддерживаемые языки и размер контекста, поэтому эти характеристики нельзя надёжно определить по представленным данным. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-сборка плотной мультимодальной causal language model Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также анализа изображений и видео. Вариант Aggressive ориентирован на прямые ответы без выраженного отказного поведения и с минимальным предварительным вступлением в сложных запросах. Модель содержит 27 млрд параметров, 64 слоя, скрытый размер 5120, размер FFN 17408 и словарь из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются встроенные MTP/NextN и профиль ускорения HauhauCS FastMTP 32K; заявлены ускорение генерации до 3,02 раза для документов и до 1,93 раза для рассуждений относительно варианта без MTP. Нативный контекст составляет 262 144 токена и может расширяться до 1 000 000. Для визуального ввода используется отдельный vision-проектор BF16. Заявлены английский, китайский и мультиязычный режимы. Сильными сторонами являются большой контекст, текстовые и визуальные возможности, поддержка нескольких уровней квантизации GGUF и ускорение FastMTP. Aggressive-профиль может быть удобен там, где нужны краткие прямые ответы, однако его сниженное отказное поведение может быть менее подходящим для надёжных и критичных к безопасности приложений; автор README рекомендует для таких агентских задач Balanced-вариант, если он доступен. Доступны квантизации Q2–Q8 и пользовательские K_P-кванты, оптимизированные для сохранения качества. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это квантизованная GGUF-версия мультимодальной модели Qwen3.8-27B, созданная HauhauCS на базе Qwen/Qwen3.8-27B. Релиз сохраняет исходные текстовые, reasoning, агентские, графические и видеовозможности, но использует профиль Aggressive uncensoring: модель ориентирована на прямые ответы, минимальное вступление и отсутствие отказного поведения. Доступны варианты с квантизацией Q2_K_P–Q8_K_P, IQ2_M–IQ4_XS и отдельный BF16 vision projector для обработки изображений и видео. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, скрытым размером 5120, FFN-размером 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Заявлен нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. Поддерживаются английский, китайский и мультиязычные сценарии. Встроенный NextN/MTP сохранён, а FastMTP от HauhauCS предоставляет дополнительное ускорение спекулятивного декодирования; заявлен прирост скорости до 3,02 раза для документов и до 1,93 раза для reasoning по сравнению с режимом без MTP. Модель подходит для генерации и анализа текста, рассуждений, агентских задач, работы с изображениями и видео, а также для сценариев, где важны быстрые и максимально прямые ответы. К сильным сторонам относятся большой контекст, мультимодальность, широкий выбор квантизаций и ускорение FastMTP. Ограничение профиля Aggressive — повышенный риск менее осторожных или менее надёжных ответов в критически важных агентских сценариях; для них авторы рекомендуют Balanced-релиз, если он доступен. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — квантизированная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, работы с изображениями и видео. Она ориентирована на прямые ответы с минимальным вступлением и профилем без отказов, поэтому подходит для задач, где требуется снизить склонность модели к отказу от ответа. Заявлены поддержка английского, китайского и других языков, а также мультимодальный режим с отдельным vision-проектором BF16 для обработки изображений и видео. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, размером скрытого представления 5120, размером FFN 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Встроенный MTP/NextN сохранён, а дополнительный профиль HauhauCS FastMTP 32K предназначен для ускорения спекулятивного декодирования; заявлено ускорение до 3,02 раза для документов и до 1,93 раза для рассуждений по сравнению с режимом без MTP. Доступны варианты квантизации от Q8_K_P до IQ2_M, что позволяет выбирать баланс между качеством, размером и требованиями к памяти; размер текстовых файлов составляет примерно от 10,32 до 31,46 ГБ. К сильным сторонам относятся большой контекст, мультимодальность, поддержка длинных документов и ускорение генерации. Ограничение Aggressive-профиля — намеренное отсутствие отказного поведения, из-за чего он может быть менее подходящим для надёжно контролируемых и критически важных агентских сценариев; для них автор рекомендует Balanced-вариант, если он доступен. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF-q4kp — квантизированная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Это плотная causal language model на 27 млрд параметров с vision encoder, предназначенная для генерации текста, рассуждений, агентских сценариев, работы с изображениями и видео. Aggressive-профиль ориентирован на прямые ответы без выраженного отказного поведения и с минимальными вступлениями на сложные запросы. Модель содержит 64 слоя, размер скрытого представления 5120, размер FFN 17408, словарь из 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Сохраняет встроенный MTP/NextN и дополнительно поддерживает HauhauCS FastMTP для ускорения спекулятивного декодирования; для визуального ввода используется отдельный BF16-проектор. Заявлены языки английский, китайский и другие многоязычные сценарии. Нативный контекст составляет 262 144 токена и может расширяться до 1 000 000. Сильные стороны модели — широкий набор текстовых, reasoning-, agentic-, image- и video-возможностей, большой контекст, несколько вариантов квантизации K_P и ускорение FastMTP. Aggressive-профиль может быть менее подходящим для надёжных длинноконтекстных агентских задач, где предпочтительнее более сбалансированная версия. Модель распространяется по лицензии Apache-2.0; для работы с изображениями и видео требуется отдельный vision projector.

MIRALABS/Qwen3.8-27B-W4A16-AutoRound — 4-битная квантованная версия модели Qwen/Qwen3.8-27B, разработанная MIRALABS на основе базовой модели Qwen. Модель предназначена для генерации текста и обработки изображений с текстом; заявлены английский и китайский языки. Поддерживает рассуждения, вызов инструментов и работу в режиме image-text-to-text. Модель использует INT4-квантизацию весов при BF16-активациях (W4A16), алгоритм AutoRound 0.14.2 с размером группы 128 и формат compressed-tensors для ядер Marlin в vLLM. Размер файлов составляет около 19,5 ГБ. Нативный контекст — 262 144 токена, а с YaRN заявлена поддержка до 1 000 000 токенов. Квантование заметно снижает требования к памяти по сравнению с версией BF16, при этом запуск рассчитан на видеокарты Ampere и новее, включая RTX 3090, RTX 4090 и A100. Сильными сторонами являются большой контекст, поддержка мультимодального ввода, режима рассуждений и эффективный запуск через vLLM на распространённых GPU. Ограничения связаны с требованиями к видеопамяти: на одной RTX 3090 веса помещаются, но полный контекст 262 144 токена недоступен; для длинного контекста рекомендуется несколько GPU или другой формат. Модель использует AutoRound, а не AWQ, GGUF или NVFP4. Распространяется по лицензии Apache 2.0, как и базовая модель.

OsaurusAI подготовила JANG_1L — квантованный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX. Это мультимодальная модель с архитектурой Qwen4-экспериментального семейства: в исходной системе заявлены 125 млрд параметров MoE, из которых активны 6 млрд, и таблица n-граммных эмбеддингов на 51 млрд параметров. В сборке JANG_1L присутствуют компоненты для обработки текста, изображений и видео; заявленный размер весов — около 59,8 GiB, а при обслуживании таблицы с SSD резидентное использование памяти составляет около 41 GiB. Модель предназначена для диалога, рассуждений, анализа изображений и видео, а также агентных сценариев с вызовом инструментов. Нативный контекст составляет 262 144 токена и может быть расширен до 1 млн с YaRN. В README приведены результаты сравнения квантования с bf16 на 5 931 позициях; сборка не включает голову multi-token prediction, а для вызова инструментов требуется совместимый с Qwen XML-парсер. Языковой тег карточки — английский. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.

JANGQ-AI/Qwen3.8-Flash-Next-JANG_6S — квантованный пакет модели Qwen/Qwen3.8-Flash-Next, подготовленный Jinho Jang для запуска на Apple Silicon через MLX и vMLX. Это мультимодальная модель с архитектурой Qwen4-архитектуры: MoE на 125 млрд параметров с 6 млрд активных, гибридными слоями Gated DeltaNet и Qwen Sparse Attention, а также отдельной таблицей n-граммных эмбеддингов. Веса для текста, изображений и видео включены в пакет. Модель предназначена для диалога, рассуждений, агентных сценариев и использования инструментов, а также для понимания изображений и видео. Нативный контекст — 262 144 токена, его можно расширить до 1 млн с YaRN; сохранена голова многотокенного предсказания для ускоренного декодирования в поддерживаемых средах. Для вызовов инструментов требуется парсер диалекта Qwen XML; Hermes-only парсеры могут некорректно обрабатывать такие вызовы. Пакет ориентирован на запуск в vMLX, а работа с таблицей n-грамм на SSD и полная поддержка мультимодальности зависят от возможностей среды исполнения. В README заявлены лицензия «other» и необходимость доступа через ручное одобрение для vMLX; конкретные условия лицензии в предоставленных данных не раскрыты. Качество и скорость зависят от конфигурации и среды исполнения; заявленные в карточке измерения сопоставляют квантованный пакет с исходной версией bf16.

Qwythos-27B-v1-GGUF — это набор GGUF-квантизаций модели Qwythos-27B-v1, разработанной компанией Empero. Модель предназначена для локального запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Это плотная гибридная модель семейства Qwen3.5 с 27 миллиардами параметров, прошедшая SFT, DPO и ESFT; представленная версия является предварительной RL-оптимизации v1. Модель поддерживает текстовые задачи и обработку изображений при использовании отдельного vision-проектора mmproj-Qwythos-27B-F16.gguf. Заявлены встроенные MTP-возможности для ускорения генерации, мультимодальность и контекстное окно до 1 048 576 токенов. Доступны варианты от Q4_K_M до BF16 с различным соотношением размера, качества и требований к памяти; Q4_K_M указан как рекомендуемый вариант по умолчанию. На практике полноценное использование длинного контекста требует значительных ресурсов для KV-кэша, а более точные варианты могут потребовать 48–80 ГБ видеопамяти, нескольких GPU или выгрузки части вычислений на CPU. Модель подходит для локальных диалоговых и аналитических сценариев, рассуждений, агентных задач, работы с длинным контекстом и анализа изображений. Сильными сторонами являются сохранённые vision tower и MTP head, большой контекст и широкий выбор квантизаций. Ограничения связаны с высокими требованиями к памяти, зависимостью MTP от свежей версии llama.cpp и необходимостью отдельного vision-проектора для изображений. Модель и её квантизации распространяются по лицензии Apache-2.0.

FacebookAI roberta-large-mnli — англоязычная модель на базе трансформерной архитектуры RoBERTa Large, дообученная на корпусе Multi-Genre Natural Language Inference (MNLI). Она предназначена для классификации текстов и пар предложений, в том числе для классификации с нулевым количеством примеров: пользователь задаёт категории в виде текстовых гипотез, а модель оценивает их соответствие входному тексту. Модель содержит 454,1 млн параметров и принимает последовательности длиной до 514 токенов. В задаче MNLI она различает логическое следование, противоречие и нейтральное отношение между посылкой и гипотезой. Подходит для тематической категоризации, отбора и сравнения текстов по заданным меткам, но не обучена генерировать текст или гарантировать фактическую достоверность. Результаты могут отражать стереотипы и смещения из обучающих данных, поэтому их следует проверять, особенно при оценке людей и чувствительных групп. Модель разработана на основе RoBERTa Large и обучена на MNLI; в карточке также описаны исходные англоязычные данные предобучения RoBERTa, включая Wikipedia и BookCorpus. Лицензия — MIT.

Инструктивная русскоязычная версия Qwen2.5-3B, разработанная RefalMachine на основе модели RefalMachine/ruadapt_qwen2.5_3B_ext_u48_full_lr5e4_peft_mlp_32_32_bs256. Это плотная языковая модель Qwen2 с 3,1 млрд параметров, контекстом до 32 768 токенов и форматом весов safetensors. В модели заменили токенизатор на расширенный вариант cl100k с униграмным словарём на 48 тысяч токенов, затем провели дообучение на русскоязычном корпусе и применили Learned Embedding Propagation (LEP). Модель предназначена для диалогов и генерации русскоязычного текста по инструкциям. Авторы сообщают об увеличении скорости генерации русских текстов до 60% относительно исходной Qwen2.5-3B-Instruct при сравнении на одинаковых последовательностях; в README также упомянуты оценки на Ru-Arena-General, MERA и llmtf_open, но полные результаты не приведены. Метаданные указывают интерфейс вызова инструментов, однако README не описывает его применение. Модель принимает текст и выдаёт текст. Авторы предупреждают, что ответы могут отражать знания и мнения, усвоенные на этапах обучения, и рекомендуют использовать её с осторожностью. Условия лицензии в предоставленных данных не указаны.

Rahvusarhiiv разработал ru_summariser — русскоязычную модель суммаризации на архитектуре T5, дообученную с полными параметрами от RussianNLP/FRED-T5-Summarizer. Модель содержит 870,1 млн параметров и предназначена для краткого изложения новостей, энциклопедических и общих информационных текстов, в том числе в пакетной и офлайн-обработке. Для управления длиной в запрос добавляют префикс summary_length: medium; рекомендуемый максимум входа — 768 токенов, генерации — 96 новых токенов. В обучении использовались русскоязычные пары «текст — резюме», преимущественно из новостных источников, а также данные общего характера. В описанной авторами оценке модель превзошла базовую FRED-T5 по некоторым метрикам суммаризации, но результаты основаны на ограниченных выборках и автоматическом оценивании. Модель может ошибаться в фактах, именах, числах и датах; длинные тексты чувствительны к выбору фрагментов, а длина резюме не гарантируется. Лицензия указана как other; перед использованием следует проверить применимые условия исходных наборов данных и репозитория.

Saul-Instruct-Clown-7b — языковая модель, созданная arcee-ai слиянием через mergekit моделей CorticalStack/pastiche-crown-clown-7b-dare-dpo и Equall/Saul-Instruct-v1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста; заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, ответов на вопросы, рассуждений и решения задач по текстовому запросу. В README приведены результаты OpenLLM-бенчмарков, включая ARC, HellaSwag, MMLU, TruthfulQA и GSM8K, но они не гарантируют аналогичного качества на других данных и сценариях. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Это слияние двух моделей, поэтому характеристики и поведение могут сочетать их свойства; отдельные языки, помимо поддерживаемого текстового интерфейса, в предоставленных данных не обозначены.

shark_tank_ai_7_b-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и NExtNewChattingAI/shark_tank_ai_7_b методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст; в метаданных заявлен контекст длиной до 32 768 токенов. Карточка указывает английский язык. Веса опубликованы в формате Safetensors по лицензии Apache-2.0.

Sina-Loki-7b-Merge — экспериментальная объединённая языковая модель из серии DARE merges. Репозиторий содержит веса в формате Safetensors; по метаданным модель построена на плотной архитектуре MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста. Модель опубликована Azazelle по лицензии CC BY 4.0.

SlimOrca-13B — языковая модель общего назначения, разработанная ajibawa-2023 и дообученная на базе Llama 2 от Meta на очищенной версии набора SlimOrca от Open-Orca. Это полная настройка 12,9-миллиардной плотной модели LlamaForCausalLM; модель распространяется в формате PyTorch и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста без обязательного системного промпта: она отвечает на вопросы, включая задания с выбором ответа, пишет статьи по краткому содержанию, анализирует тональность, сопоставляет контекст и гипотезу, составляет отзывы и генерирует художественные тексты. В карточке также заявлена генерация откровенного и нецензурированного контента. Обучение проводилось на 517 981 наборе диалогов SlimOrca и SlimOrca-ShareGPT; автор отмечает использование формата ShareGPT/Vicuna v1.1. Модель ориентирована на английский язык. Лицензия CC-BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных версий на условиях лицензии. Карточка приводит результаты отдельных тестов, но не даёт полного описания методики, поэтому они не позволяют гарантировать качество в конкретном сценарии; ответы могут содержать ошибки, а заявленная генерация откровенного контента требует осторожного применения.

Squid — модель NexaAI для генерации ответов по длинному контексту в сценариях RAG, с упором на эффективный запуск на устройстве. Она дообучена на базе Qwen/Qwen2-7B-Instruct и использует двухдекодерную архитектуру: декодер на 0,5 млрд параметров преобразует информацию из большого контекста, а декодер на 7 млрд параметров понимает запрос и формирует ответ; проектор согласует представления контекстного энкодера и основного декодера. В метаданных указаны 7,1 млрд параметров и контекст до 131 072 токенов. В README описаны восстановительное обучение, продолжение текста по частичному сжатому контексту и инструкционное дообучение для ответов на запросы с учётом сжатого контекста. Это делает Squid подходящей для поиска и ответов по длинным документам с ограниченными ресурсами устройства. Модель работает с текстом и ориентирована на английский язык. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

StrangeMerges_2-7B-slerp — объединённая модель для генерации текста, созданная Gille методом SLERP с помощью LazyMergekit на основе Gille/StrangeMerges_1-7B-slerp и Keynote-Technology/KAI-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и общих языковых задач; в README приведены результаты оценки на задачах рассуждения и понимания текста. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Etherll/SuperHermes — объединённая методом TIES языковая модель семейства Llama, созданная с помощью mergekit на основе rombodawg/Meta-Llama-3.1-8B-reuploaded с включением Llama-3.1-SuperNova-8B-Lite_TIES_with_Base и адаптера Hermes-3. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — до 131 072 токенов. Она предназначена для генерации текста и диалогового общения, в том числе в сценариях, где полезен длинный контекст. Модель принимает текст и выдаёт текст. Данные карточки не уточняют языковой охват и условия лицензии, поэтому их нельзя надёжно описать.

T3qm7xNeuralsirkrishna_CalmeInex12 — объединённая модель на архитектуре Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/CalmeInex12-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, принимает контекст длиной до 32 768 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0. README и метаданные не сообщают о специализации по языкам или предметным областям.

google/t5gemma-s-s-ul2 — предобученная текстовая encoder-decoder-модель семейства T5Gemma от Google. Она создана на основе подхода Gemma: декодерную модель адаптировали к архитектуре encoder-decoder и обучили с использованием UL2. Вариант S-S использует малые энкодер и декодер; в репозитории указаны веса Safetensors и библиотека Transformers. Модель принимает текст и генерирует текст. Она предназначена для англоязычных задач генерации, в том числе ответов на вопросы, суммаризации и рассуждений; также энкодер можно применять в задачах классификации и понимания текста. Компактный размер семейства рассчитан на запуск на компьютерах и собственной облачной инфраструктуре, однако размер именно этого чекпойнта и длина контекста в доступных сведениях не приведены. Модель может ошибаться в фактах, испытывать трудности со сложными инструкциями, языковыми нюансами и контекстом, а результаты могут отражать смещения обучающих данных. Лицензия — Gemma; при использовании необходимо соблюдать политику допустимого использования Gemma.

Táltos-27B — плотная мультимодальная модель на 27,8 млрд параметров, разработанная венгерской командой на основе Qwen/Qwen3.8-27B и дообученная для естественной речи и рассуждений на венгерском языке. Она поддерживает диалог, анализ изображений и видео, а также контекст до 262 144 токенов; архитектура сочетает Gated DeltaNet и Gated Attention. Модель предназначена для составления и редактирования венгерских текстов, резюмирования, пошаговых рассуждений и ответов на вопросы по изображениям. По описанию, дообучение улучшило венгерскую грамматику и формулировки, сохранив знания и мультимодальные возможности базовой модели. Для представленной версии указаны Transformers и формат safetensors; README также описывает отдельные варианты FP8 и GGUF. Лицензия Apache 2.0 разрешает использование, модификацию и коммерческое применение. Модель не имеет доступа к интернету, поэтому не знает о свежих событиях; факты, числа, даты и редкие имена могут требовать проверки. Математические, программные и общие знания унаследованы от базовой модели, а медицинские, юридические и финансовые решения не следует основывать только на её ответах.

tau-1.8B — языковая модель компании M4-ai, основанная на архитектуре Qwen2 и дообученная продолжением предобучения Qwen1.5-1.8B на учебном наборе UltraTextbooks-2.0. В репозитории указано 1,8 млрд параметров, а метаданные Hugging Face сообщают 1,5 млрд; веса опубликованы в формате Safetensors. Модель поддерживает контекст до 32 768 токенов и предназначена для генерации текста и диалогового взаимодействия. Модель общего назначения, с особым акцентом на машинное обучение, математику и программирование. Её можно применять для ответов на учебные вопросы, краткого изложения материалов, создания образовательного контента, понимания и генерации кода, а также решения математических задач. В карточке названы английский и китайский языки; в качестве обучающего набора указан UltraTextbooks-2.0. Модель может воспроизводить ошибки и предвзятость данных обучения, поэтому ответы следует проверять, особенно в задачах с высокими последствиями. В метаданных указана лицензия «other» без уточнения её условий.

Tess-72B-v1.5b — универсальная большая языковая модель из серии Tess, разработанная migtissera и обученная на базе Qwen-72B. Это плотная авторегрессионная модель семейства Llama с 71 млрд параметров, предназначенная для генерации текста и диалогов в формате SYSTEM/USER/ASSISTANT. Контекст модели составляет 32 768 токенов; веса доступны в формате safetensors. Модель подходит для ответов на вопросы, помощи с текстовыми задачами и рассуждений общего назначения. В карточке приведены результаты Open LLM Leaderboard, включая среднюю оценку 77,30 и результаты ARC и HellaSwag. Поддерживаемые языки и прикладные специализации отдельно не заявлены. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.