I.4Обработка документов и форм

WarpQuant Qwen3.5-4B R16E4 Text — текстовая версия чекпойнта Qwen3.5-4B, опубликованная HarimxChoi. Это плотная авторегрессионная языковая модель с 3,4 млрд параметров для генерации текста и диалога; она принимает текст и выдаёт текст. Контекст модели составляет до 262 144 токенов, в карточке указаны английский и корейский языки. Веса проекций сжаты методом block-GPTQ до INT3 с преобразованием signed Hadamard и восстановлением выбранных столбцов BF16 по Output-Fisher; эмбеддинги токенов используют групповой INT4. Репозиторий хранит значения в формате safetensors, совместимом с BF16. В README приведены результаты для базовой модели и других форматов, но отдельные метрики именно для этой версии не приведены. Модель предназначена для текстовой генерации и диалога, в том числе с длинным контекстом. Это текстовый экспорт: возможности понимания изображений исходной мультимодальной модели сюда не входят. Для запуска README указывает на необходимость актуальной основной ветки Transformers. Лицензия — Apache-2.0.

Kiwen1.1-27B — мультимодальная языковая модель на 28 млрд параметров, разработанная beyoru и представленная в формате GGUF с квантованием от bartowski. Модель предназначена для работы с текстом и изображениями, причём для обработки изображений требуется дополнительный mmproj-файл. Указанные сценарии применения включают рассуждения, агентские задачи, работу с вьетнамским языком, математикой и программированием. Поддерживается speculative decoding с использованием MTP. Модель подготовлена для запуска через llama.cpp; доступны варианты от BF16 до низкобитных квантований Q8_0, Q6, Q5, Q4, Q3 и IQ. Рекомендуемым компромиссом между качеством и размером назван Q4_K_M объёмом 17,77 ГБ, а варианты Q6_K и Q6_K_L обеспечивают более высокое качество при большем потреблении памяти. README не содержит данных о размере контекстного окна, полном наборе поддерживаемых языков, исходной архитектуре или результатах бенчмарков. Модель распространяется по лицензии Apache-2.0. Основное ограничение — значительные требования к оперативной или видеопамяти: даже рекомендуемый вариант Q4_K_M занимает около 17,77 ГБ, а использование изображений требует отдельного multimodal-компонента.

EXAONE 3.5 7.8B Instruct — двуязычная генеративная языковая модель, разработанная LG AI Research и настроенная следовать инструкциям. Она предназначена для диалогов, ответов на вопросы и других задач генерации текста на английском и корейском языках. Модель построена на плотной архитектуре ExaoneForCausalLM, содержит 7,4 млрд параметров по метаданным и поддерживает контекст до 32 768 токенов. В карточке указаны 32 слоя и групповое внимание с 32 Q-головами и 8 KV-головами. Модель рассчитана на повседневные сценарии использования языковой модели и обработку длинного контекста. Доступна в формате safetensors для Transformers; для семейства также упомянуты варианты AWQ и GGUF в отдельных репозиториях. Лицензия указана как other, поэтому конкретные условия следует проверить в лицензии репозитория. Возможны фактические ошибки, устаревшие сведения, предвзятые или неподходящие ответы.

Flammen-Bruphin — слитая методом SLERP языковая модель, созданная nbeerbower с помощью mergekit на основе nbeerbower/bruphin-lambda и nbeerbower/flammen13X-mistral-7B. Это плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста; она принимает текст и выдаёт текст. Поддерживает контекст до 32 768 токенов. Модель подходит для диалогов и других сценариев генерации текста. Веса опубликованы в формате Safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

Gemma 4 26B-A4B-it QAT JANG_4M CRACK — мультимодальная доработанная версия Gemma 4 от dealignai. Она сочетает архитектуру MoE с 128 экспертами и выбором восьми активных экспертов, гибридное внимание и квантизацию JANG_4M: 8 бит для attention и 4 бита для MLP. Модель принимает текст и изображения и отвечает текстом; карточка заявляет поддержку рассуждений, визуальных запросов, вопросов и ответов и генерации кода. Модель рассчитана на общие диалоговые сценарии, включая анализ изображений, многошаговые рассуждения и написание кода. По результатам, приведённым в README, её показатель MMLU составляет 79,8% против 84,2% у базовой модели; автор также сообщает о сохранении визуальных возможностей и снижении отказов на тесте HarmBench. Для запуска требуются Mac на Apple Silicon с достаточным объёмом объединённой памяти и vMLX с поддержкой Gemma 4. Лицензия — Gemma; README указывает исследовательское назначение и возлагает на пользователя ответственность за соблюдение применимого законодательства.

Карточка модели AshwinKM2005/github-duplicates-bi-encoder на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

GLiClass Multilang Mini — мультиязычная модель классификации текста из семейства GLiClass, опубликованная Knowledgator. Она предназначена для классификации с пользовательскими метками без дообучения, а также для few-shot сценариев с примерами и описаниями меток. Модель содержит около 288 млн параметров и использует архитектуру GLiClass с механизмом CrossAttn Scorer. Модель подходит для тематической и тональной классификации, определения намерений, проверки следования правилам и безопасности ответов LLM, обнаружения галлюцинаций, NLI и оценки релевантности пары запрос–текст. Она обучена для 20 языков и поддерживает межъязыковые сочетания текста и меток. В README приведены результаты zero-shot оценок и высокая пропускная способность на GPU, но фактическое качество зависит от языка, набора меток и задачи; для NLI рекомендуется подавать одну гипотезу за раз. Веса представлены в формате safetensors, для использования предлагается библиотека gliclass. Лицензия — Apache-2.0.

LakeExpander — объединённая языковая модель, созданная allstax с помощью mergekit из cognitivecomputations/WestLake-7B-v2-laser и allstax/AI-G-Expander-v6. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров; веса сохранены в формате safetensors. Модель предназначена для генерации текста, включая диалоговые сценарии. Контекстное окно составляет 32 768 токенов. Объединение выполнено методом SLERP с типом данных float16. Репозиторий распространяется по лицензии Apache-2.0. Данных о специализированной предметной области или гарантированных характеристиках качества в карточке нет.

Модель Linkbricks-Horizon-AI-Japanese-Superb-V1-22B разработал директор по данным Linkbricks Джи Юнсон (Saxo) на базе Saxo/Linkbricks-Horizon-AI-Korean-Superb-22B. Это плотная авторегрессионная модель семейства Mistral на 22 млрд параметров; её дообучали на японском языке методами SFT и DPO, затем объединили веса. Карточка заявляет контекст 128 тысяч токенов, однако метаданные указывают штатный контекст 32 768 токенов. Модель предназначена для диалогов, генерации и редактирования текста, анализа отзывов и публикаций в социальных сетях, программирования, математических и логических задач, а также межъязыковых сценариев с японским, корейским, китайским и английским языками. Заявлена поддержка вызова функций и инструментов. В обучении использовались японские новости и вики-корпус, а также данные для перевода, суммаризации, вопросов и ответов и других задач. Модель распространяется в формате Safetensors под лицензией Apache 2.0. Заявленные в карточке возможности и качество не сопровождаются результатами независимой оценки; контекст 128 тысяч токенов расходится с параметрами штатного контекста в метаданных.

mT5-XL — многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5 с 1,9 млрд параметров. Она предварительно обучена на корпусе mC4, охватывающем 101 язык, в едином формате преобразования текста в текст; доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0. Модель служит базой для дообучения под конкретные задачи обработки естественного языка, например перевод, суммаризацию и ответы на вопросы. Сам чекпойнт прошёл только предварительное обучение без обучения на размеченных задачах, поэтому перед решением прикладных задач его необходимо дообучить. Для очень крупной модели требуется достаточно памяти и вычислительных ресурсов.

unsloth/Qwen2.5-0.5B-Instruct-unsloth-bnb-4bit — компактная 4-битная версия модели Qwen2.5-0.5B-Instruct, подготовленная Unsloth на базе семейства Qwen, разработанного командой Qwen. Модель предназначена для задач генерации и обработки текста, включая диалоговые приложения, следование инструкциям, работу со структурированными данными, генерацию JSON, базовое программирование и математические запросы. Модель относится к классу авторегрессионных языковых моделей и содержит около 0,49 млрд параметров, из которых около 0,36 млрд не являются параметрами эмбеддингов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV внимания, связанные эмбеддинги слов и Grouped Query Attention с 14 головами для Q и 2 для KV. Заявлена поддержка контекста до 32 768 токенов. Семейство Qwen2.5 поддерживает более 29 языков, включая английский, китайский, русский и другие, однако для данной конкретной версии в метаданных явно указан английский язык. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному квантованию Unsloth, при этом заявлено выборочное квантование Dynamic 4-bit для лучшего сохранения точности по сравнению со стандартными 4-битными форматами. Ограничениями являются небольшой размер модели и, как следствие, более ограниченные возможности по сравнению с крупными моделями; README также не содержит подробных результатов бенчмарков именно для этой версии. Лицензия — Apache-2.0.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-GRPO-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Qwen3.8-27B-Brainwaves — экспериментальная объединённая модель от независимой лаборатории NightmediaAI. В README указано слияние нескольких моделей семейств Qwen3.6 и Qwen3.8; метаданные подтверждают архитектуру Qwen3.5/Qwen3_5ForConditionalGeneration, 27 млрд параметров в названии и поддержку изображений. Модель предназначена для диалогов, следования инструкциям, рассуждений и анализа изображений; в карточке также заявлены творческое письмо, математика, STEM и программирование. Модель опубликована в формате Safetensors и работает через Transformers. Карточка приводит результаты тестов для одного из компонентов слияния, но не даёт сопоставимой оценки итоговой модели. Метаданные указывают английский, китайский, японский и испанский языки. Лицензия — Apache-2.0.

gubernac/qwen3.8-27b-unc-fp8 — модифицированная и квантованная версия Qwen/Qwen3.8-27B. Базовая модель разработана командой Qwen компании Alibaba, а данный вариант подготовлен как сборка OrcaRouter. Из модели удалено направление отказа от ответа методом abliteration, после чего она офлайн квантована в Block-FP8 по схеме официальной Qwen3.8-27B-FP8. Это плотная мультимодальная vision-language модель для работы с текстом и изображениями, рассуждений, вызова инструментов, function calling и исследовательского red-teaming. Архитектура Qwen3_5ForConditionalGeneration включает 64 слоя, скрытое представление размером 5120, гибридное внимание Gated DeltaNet и full attention, vision-language tower и MTP-голову для speculative decoding. Модель содержит 27 млрд параметров, поддерживает английский и китайский языки и контекст до 262 144 токенов. Линейные веса хранятся в Block-FP8 E4M3 с размером блока 128×128 и динамическими активациями, а vision tower, нормы, embeddings и lm_head сохранены в BF16. Главное преимущество сборки — сохранение мультимодальности, большого контекста, рассуждений, инструментов и MTP при совместимости с соответствующим vLLM-путём исполнения. Ключевое ограничение и риск — существенное удаление защитного выравнивания: модель может выполнять вредоносные, незаконные и иные опасные запросы, от которых базовая версия отказалась бы. Поэтому она предназначена для легитимных исследований интерпретируемости, AI safety, изучения механизмов отказа, оценки устойчивости и контролируемых экспериментов, а не для непосредственного использования конечными пользователями без собственных механизмов модерации и защиты. Условия распространения указаны как Apache 2.0; также необходимо соблюдать применимые законы и ограничения базовой модели.

Qwen3.8-Flash-Next-MXFP4-FP8 — экспериментальная квантизованная сборка модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель распространяется в формате Hugging Face Transformers и предназначена для задач генерации текста, агентских сценариев и мультимодального ввода с изображениями и видео. В README также указана поддержка вызова инструментов и рассуждений через соответствующие парсеры vLLM. Архитектура включает гибридное внимание с Gated DeltaNet и Qwen Sparse Attention, Gated Residual и N-gram Embedding; базовая модель использует Mixture-of-Experts-компоненты. В этой сборке MTP, attention, N-gram и KV-cache представлены в FP8, а experts — в MXFP4. Общий размер весов составляет около 125,8 ГБ. Конфигурация рассчитана на контекст до 524 288 токенов, поддерживает до 20 изображений и одного видео на запрос; языки и точное число параметров в README не указаны. Сильными сторонами являются экономичное хранение и вычисления за счёт квантизации, оптимизации для длинного контекста, FP8 KV-cache, prefix caching, chunked prefill и speculative decoding. Основные ограничения — запуск заявлен только на GPU AMD AI PRO R9700, требуется специализированный dev-образ vLLM и конфигурация с четырьмя GPU; модель имеет экспериментальный статус. Квантизация выполнена методом Quark RTN, поэтому точность может быть ниже, чем у будущих GPTQ/AWQ-сборок. README рекомендует использовать обновлённую GPTQ Protected Model. Лицензия указана как Apache-2.0 с license_name qwen-community-1.0.

T3qm7xNeuralsirkrishna_Strangemerges_32Alloyingotneoy — объединённая авторами Automerger модель семейства Mistral для генерации текста и диалогов. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; в карточке указана задача text-generation. Модель объединяет веса automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Alloyingotneoy-7B. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

google/t5gemma-s-s-ul2-it — англоязычная instruction-tuned encoder-decoder-модель Google из семейства T5Gemma. Она получена дообучением базовой google/t5gemma-s-s-ul2, адаптированной из decoder-only-модели по схеме UL2; веса опубликованы в формате safetensors. Архитектура использует энкодер и декодер размера S. Модель предназначена для генерации текста по инструкциям, в том числе для ответов на вопросы, суммаризации, рассуждений и создания черновиков текстов. Текстовый формат входа и выхода позволяет применять её в сценариях text-to-text и диалоговых приложениях. Карточка не приводит число параметров и длину контекста этой версии. К ограничениям относятся возможные фактические ошибки, смещения в ответах и трудности с нюансами языка или сложными открытыми задачами; качество зависит от обучающих данных и формулировки запроса. Лицензия — Gemma; применяются условия и ограничения использования Gemma.

Youssofal/Ternary-Bonsai-2-27B-MTPLX-Optimized-Speed — сборка модели Prism ML Ternary Bonsai 2 27B для ускоренного запуска через MTPLX на компьютерах Mac с Apple Silicon. В её основе лежит Qwen/Qwen3.8-27B, объединённая с prism-ml/Ternary-Bonsai-2-27B-mlx-2bit. Это плотная мультимодальная модель с поддержкой диалога, анализа изображений и интерфейса вызова инструментов. Весовые коэффициенты языковой части представлены значениями −1, 0 и +1 с масштабированием по группам; пакет для MTPLX занимает 8,85 ГБ и включает зрительную башню Qwen 3.8 27B. MTPLX использует специализированные GPU-ядра и многотокенное спекулятивное декодирование. В README приведены замеры на M5 Max: 64,4 токена/с при запросе на 4 061 токен и 57,1 токена/с при 16 350 токенах; заявлена работа на Mac с объединённой памятью от 16 ГБ. Модель рассчитана на локальные диалоги, анализ изображений, программирование и работу через агентские клиенты, поддерживающие инструменты. README указывает лицензию Apache-2.0. Для запуска требуется MTPLX версии 2.12.0 или новее; для агентских клиентов рекомендуется Mac с памятью от 18 ГБ. Приведённые скорости относятся к конкретной конфигурации M5 Max и не гарантируют такую же производительность на других устройствах.

Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

Qwen3.5-397B-A17B-FP8 — мультимодальная модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия постобученной модели Qwen3.5-397B-A17B в формате Hugging Face Transformers, предназначенная для локального и серверного вывода с использованием Transformers, vLLM, SGLang, KTransformers и совместимых инструментов. Модель сочетает языковую модель с vision encoder и поддерживает обработку текста и изображений. Она использует гибридную архитектуру Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируется 17 млрд; предусмотрено 512 экспертов, из них для токена выбираются 10 маршрутизируемых и 1 общий. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на рассуждения, программирование, визуальное понимание, агентные сценарии и другие задачи общего назначения. Ключевое преимущество версии FP8 — снижение требований к ресурсам при сохранении показателей, близких к исходной модели; используется мелкозернистое FP8-квантизирование с размером блока 128. Ограничениями являются значительные требования к вычислительной инфраструктуре из-за общего размера модели, а также необходимость проверять фактическую совместимость и производительность конкретного стека инференса. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B — мультимодальная модель семейства Qwen от Alibaba, предназначенная для диалогов, рассуждений, работы с изображениями и видео, программирования и использования инструментов. Это постобученная причинная языковая модель с визуальным энкодером, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируются 17 млрд. В модели 60 слоёв и 512 экспертов; одновременно задействуются 10 маршрутизируемых и один общий эксперт. Модель принимает текст, изображения и видео, а её основными результатами являются текстовые ответы и вызовы инструментов. Она поддерживает 201 язык и диалект. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. По умолчанию включён режим рассуждений; доступны интеграции с Transformers, vLLM, SGLang и KTransformers. Модель подходит для мультимодальных помощников, анализа визуального содержимого, сложных вопросов, программирования и агентных сценариев с вызовом инструментов. Эффективность вывода и пропускная способность зависят от используемого фреймворка и его версии. Веса и конфигурации опубликованы в формате Transformers/Safetensors под лицензией Apache-2.0.

Granite-4.1-3B — инструктивная языковая модель IBM Granite Team для диалогов и создания ИИ-ассистентов. Это дообученная версия Granite-4.1-3B-Base с 3,4 млрд параметров, построенная на плотном декодерном трансформере; метаданные указывают библиотеку Transformers и контекст до 131 072 токенов. Модель принимает текст и генерирует текст, поддерживает чат и вызов инструментов. Модель предназначена для следования инструкциям и задач общего назначения, включая суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, программирование, заполнение пропусков в коде и многоязычный диалог. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; основная часть инструкционных данных — англоязычная. В карточке отмечены улучшения следования инструкциям, диалоговых возможностей и вызова инструментов после supervised fine-tuning и RL-выравнивания. Модель распространяется по лицензии Apache 2.0. Возможны неточные, предвзятые или небезопасные ответы; качество на других языках может уступать английскому, поэтому для прикладного использования нужны проверка и настройка под задачу.

Карточка модели aertsimon90/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Карточка модели ArchiveStudio/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Карточка модели tech32432/Qwen2.5-7B-Instruct-IA-Author-Model на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Qwen3.5-9B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-9B, разработанной командой Qwen и подготовленной Unsloth. Это причинная языковая модель с vision encoder, поддерживающая обработку текста и изображений. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев, визуального понимания и вызова инструментов. Модель содержит около 9 млрд параметров, 32 слоя и гибридную архитектуру с Gated Delta Networks и разреженным Mixture-of-Experts; заявлены ранняя интеграция мультимодальных токенов и обучение с multi-step prediction (MTP). Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. MTP-режим со speculative decoding может ускорять генерацию примерно в 1,5–2 раза при использовании совместимой ветки llama.cpp. Сильные стороны модели — сочетание языковых и визуальных возможностей, большой контекст, поддержка инструментов и высокая скорость локального инференса в MTP-режиме. Ограничения включают необходимость специальной сборки llama.cpp для MTP; при таком запуске не поддерживаются параллелизм запросов через -np > 1 и параметр --mmproj. Доступна по лицензии Apache 2.0.

google/gemma-4-26B-A4B-it-qat-q4_0-gguf — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind. Она принимает текстовые и графические данные и генерирует текст; аудио для этой версии не заявлено. Модель предназначена для диалогов, генерации текста, программирования, рассуждений, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель относится к варианту Gemma 4 26B A4B и поставляется в формате GGUF с квантизацией Q4_0, выполненной с применением Quantization-Aware Training. Такой подход рассчитан на снижение требований к памяти при сохранении качества, близкого к версии bfloat16. Семейство поддерживает контекст до 256K токенов, более 140 языков, настраиваемые режимы рассуждений, системные промпты и гибридный механизм внимания с локальным скользящим и глобальным вниманием. Формат GGUF ориентирован на совместимость с широким кругом инструментов локального запуска. Сильными сторонами являются сочетание мультимодальности, длинного контекста, возможностей рассуждения и программирования с уменьшенными требованиями к памяти благодаря QAT-квантизации. Ограничения связаны с тем, что это квантизированная версия, поэтому результаты могут отличаться от полноточных вариантов, а для эффективного запуска всё равно требуется значительный объём памяти. Модель распространяется по лицензии Apache 2.0.

K2-Horizon-7B — плотная авторегрессионная языковая модель семейства K2-Horizon от IFM, предназначенная для генерации текста и диалогового взаимодействия. Модель имеет около 8 млрд параметров и поддерживает контекст до 524 288 токенов; карточка описывает её как 7B-core модель с окном контекста 512K. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель рассчитана на сценарии рассуждений, программирования, работы с длинным контекстом и агентных задач; README приводит результаты оценки на соответствующих бенчмарках и описывает обучение для снижения повторяющихся циклов в длинных генерациях. Доступны промежуточные контрольные точки для изучения изменений возможностей в ходе обучения, а обучающие данные, код и материалы оценки заявлены как открытые. Метаданные указывают английский язык карточки, но это не гарантирует, что модель поддерживает только английский.

Mistral-Small-4-119B-2603-heretic-gguf — набор GGUF-квантизаций модели Mistral Small 4 119B 2603 Heretic. Базовая модель разработана Mistral AI, а heretic-версия опубликована darkc0de; данный репозиторий содержит варианты для запуска в формате GGUF. Модель построена на архитектуре Mistral4 с разреженной MoE-структурой и MLA attention: всего 119 млрд параметров, из которых 6,5 млрд активируются на каждом токене, используются 128 экспертов, 4 из них активны одновременно. Модель предназначена для диалогов, генерации и анализа текста, агентских сценариев, вызова функций с JSON-выводом, задач рассуждения и обработки изображений с формированием текстового ответа. Поддерживаются быстрый режим и режим рассуждения с дополнительными вычислениями во время вывода, а также контекст до 256 тысяч токенов. Заявлена мультимодальность с входными данными в виде текста и изображений. Указана поддержка множества языков, включая английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, украинский, хинди и другие. К сильным сторонам относятся большой контекст, сочетание мультимодальности, рассуждения, function calling и агентских возможностей, а также высокая скорость за счёт MoE-архитектуры. Heretic-версия характеризуется меньшим числом отказов по сравнению с исходной моделью по приведённой статистике, однако конкретное поведение и качество зависят от выбранной квантизации. Доступны варианты от BF16 до Q2_K размером примерно от 221,6 до 40,4 GiB; рекомендуемым обозначен Q4_K_M. Лицензия Apache 2.0 допускает коммерческое и некоммерческое использование.

Карточка модели adrianxu9778/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.