I.11Классификация, ранжирование и сопоставление

DFlash-Qwen3.5-27B-Uncensored-GGUF — GGUF-квантизированная версия модели DFlash-Qwen3.5-27B-Uncensored от AEON-7, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, программирования, рассуждений, агентских сценариев, вызова функций и работы с инструментами. В README также заявлены мультимодальность и поддержка vision-language через отдельный файл mmproj. Модель имеет размер 27 млрд параметров и относится к семейству Qwen3.5 с гибридной архитектурой, сочетающей attention и linear attention; среди заявленных компонентов указаны Gated DeltaNet и block diffusion. Поддерживается английский язык, библиотека Transformers, а также совместимые с OpenAI интерфейсы и vLLM. Максимальный размер контекста в README не указан. Доступны варианты квантования GGUF от Q2_K до Q8_0 и IQ4_XS; размеры файлов составляют примерно от 10,8 до 28,7 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как обеспечивающий наилучшее качество среди перечисленных. К сильным сторонам относятся широкий набор заявленных сценариев, поддержка инструментов и мультимодальности, а также возможность выбора между различными уровнями квантования для баланса качества, скорости и требований к памяти. Ограничения включают отсутствие в README точных данных о размере контекста, результатах оценки, поддерживаемых языках помимо английского и фактических возможностях мультимодального режима; для него требуется отдельный mmproj-файл. Модель распространяется по лицензии Apache-2.0.

Dolphin 2.9 Llama 3 70B — разговорная модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и сообществом Cognitive Computations на базе Meta Llama 3 70B. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, представленная в форматах PyTorch и Safetensors. Она дообучена методом qLoRA с длиной последовательности 8 тыс. токенов и использует шаблон диалога ChatML. Модель предназначена для диалогов, выполнения инструкций, генерации кода и математических ответов; README также отмечает начальные агентные возможности и поддержку вызова функций. Основной язык в карточке — английский. В данных обучения указаны, среди прочего, наборы Dolphin 2.9, OpenHermes 2.5, UltraChat и датасеты для кода, математики и function calling. Модель описана как uncensored и может охотно выполнять небезопасные или неэтичные запросы; автор рекомендует добавить собственный слой выравнивания перед предоставлением сервиса. В датасете есть дефект, из-за которого ответы могут излишне упоминать системное сообщение; README предлагает ограничить это инструкцией в system prompt. Использование регулируется лицензией Meta Llama 3 Community License Agreement, включая её условия для коммерческого применения.

Dolphin-4B — языковая модель, выпущенная roskosmos19 и дообученная на базе XHToken/Spark-X2.5-4B-Base. Она предназначена для диалогов, генерации текста, программирования, рассуждений и агентных сценариев с вызовом инструментов. Модель использует плотную архитектуру Spark2_5ForCausalLM и формат safetensors; размер по метаданным — 3,8 млрд параметров, а заявленная длина контекста составляет 1 048 576 токенов. Для работы доступны шаблон чата с поддержкой нескольких ролей, режима рассуждений и вызова инструментов; модель рассчитана на использование через Transformers и совместимые стеки инференса. В карточке заявлены сильные стороны в следовании инструкциям, программировании и многошаговых задачах. Эти характеристики представлены как утверждения автора и не сопровождаются в карточке результатами оценки. Язык модели явно не обозначен. Лицензия — Apache-2.0.

google/gemma-3-12b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google семейства Gemma 3, представленная как дообученная версия google/gemma-3-12b-it. Она принимает текст и изображения и генерирует текст; подходит для чат-ботов, ответов на вопросы по изображениям, извлечения и пересказа визуальной информации, суммаризации и генерации текстов. Открытые веса и сравнительно компактный размер семейства позволяют запускать модель на локальных компьютерах или собственной облачной инфраструктуре. Gemma 3 поддерживает контекст до 128 тысяч токенов и более 140 языков. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами, а её ответы могут отражать смещения обучающих данных. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Google.

Gemma 3n E4B — мультимодальная генеративная модель Google с открытыми весами, предназначенная для эффективной работы на устройствах с ограниченными ресурсами. Она принимает текст, изображения, видео и аудио, а выдаёт текст; карточка описывает запуск через библиотеку Transformers. Модель содержит 8 млрд параметров, но благодаря выборочной активации параметров и выгрузке редко используемых матриц рассчитана на объём памяти, сопоставимый с обычной моделью на 4 млрд параметров. Архитектура MatFormer позволяет использовать вложенную подмодель E2B и создавать варианты других размеров методом Mix-and-Match. Обучение охватывает более 140 разговорных языков. Модель подходит для диалоговых помощников, генерации и суммаризации текста, анализа изображений и видео, транскрибирования и перевода речи. Возможны предвзятые, фактически неверные или устаревшие ответы; модель может испытывать трудности с нюансами языка и сложными открытыми задачами. Лицензия — Gemma; условия использования определяются лицензией Gemma.

Карточка модели Cultxre/GLM-4.6-Derestricted-v3 на Hugging Face совпадает с карточкой ArliAI/GLM-4.6-Derestricted-v3, поэтому описание составлено по ней. GLM-4.6-Derestricted-v3 — текстовая диалоговая модель Arli AI, созданная на основе GLM-4.6 от Zhipu AI. Разработчики применили к базовой модели метод Norm-Preserving Biprojected Abliteration, чтобы убрать поведение отказа, стараясь сохранить рассуждения и другие способности исходной модели. Это модификация весов, а не отдельная архитектура; в репозитории указаны 23,4 млрд параметров, семейство GLM-4 MoE и формат safetensors. Модель предназначена для генерации диалоговых ответов, рассуждений, написания кода и агентных сценариев. Унаследованный от GLM-4.6 контекст составляет 202 752 токена; исходная карточка также описывает поддержку использования инструментов. В карточке заявлено, что удаление отказов позволяет сохранить или улучшить рассуждения, однако независимых подтверждений этих заявлений не приведено. Модель принимает текст и генерирует текст. Лицензия — MIT. Языки явно не перечислены; исходная GLM-4.6 описана как модель для текста и кода, но конкретный набор естественных языков не указан.

GLM-4.6-REAP-268B-A32B-GGUF — сжатая GGUF-версия модели GLM-4.6, подготовленная Unsloth на основе варианта cerebras/GLM-4.6-REAP-268B-A32B. Модель использует метод REAP (Router-weighted Expert Activation Pruning), при котором равномерно удалено 25% экспертов исходной Mixture-of-Experts-модели. Она предназначена для генерации текста, программного кода, агентных рабочих процессов, понимания репозиториев и function calling, особенно в условиях ограниченных ресурсов, локального развертывания и академических исследований. Это разреженная causal language model с 268B параметров, из которых 32B активируются для каждого токена. Архитектура включает 92 слоя, 120 экспертов вместо исходных 160, 8 активируемых экспертов на токен и GQA с 96 головами Q и 8 головами KV. Контекстное окно составляет 202 752 токена. Заявляется сохранение почти идентичной производительности относительно полной 355B-версии при снижении требований к памяти примерно на 25%; при этом отдельные оценки для BF16-версии в README не приведены. Модель поддерживает развертывание через актуальный vLLM, а GGUF-файл содержит исправления chat template Unsloth и рассчитан на использование с параметром --jinja в llama.cpp. К преимуществам относятся однократное сжатие без дополнительного дообучения, сохранение независимого управления экспертов маршрутизатором и совместимость с vLLM без модификации исходного кода. Для запуска требуется значительный объём вычислительной памяти из-за общего размера модели, поэтому в README рекомендуется снижать максимальное число одновременно обрабатываемых последовательностей при нехватке памяти. Указана лицензия MIT.

GLM-4.7-Flash-NVFP4-GGUF — квантизированная версия языковой модели GLM-4.7-Flash, разработанной Zhipu AI и представленной в формате GGUF. Это модель архитектуры Mixture-of-Experts на базе DeepSeek2 с Multi-head Latent Attention: около 30 млрд параметров всего, из которых примерно 3,2 млрд активны на токен; используются 64 маршрутизируемых эксперта и один общий. Контекст составляет 200 000 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и программирования на английском и китайском языках. Квантизация NVFP4 до примерно 4,53 бит на вес уменьшает размер файла до 15,79 ГБ и рассчитана на эффективный запуск на GPU NVIDIA Blackwell. Режим рассуждений включён по умолчанию; модель не имеет визуального энкодера. Это преобразование базовой модели в формат GGUF с квантизацией NVFP4. Репозиторий распространяется по лицензии MIT. Качество после квантизации может отличаться от исходной модели; для работы с NVFP4 требуется совместимое программное и аппаратное обеспечение.

unsloth/GLM-4.7-Flash-REAP-23B-A3B-GGUF — GGUF-версия сжатой модели GLM-4.7-Flash-REAP-23B-A3B, созданной на базе GLM-4.7-Flash. Модель разработана с применением метода REAP (Router-weighted Expert Activation Pruning), а данная публикация включает исправления chat template от Unsloth. Это разреженная Mixture-of-Experts (SMoE) причинная языковая модель для генерации текста, программного кода, агентских сценариев, работы с репозиториями и function calling. Модель содержит 23 млрд параметров, из которых около 3 млрд активируются для каждого токена. Архитектура включает 47 слоёв, 20 attention heads для QKV, 48 экспертов вместо исходных 64 и 4 активируемых эксперта на токен. Контекстное окно составляет 202 752 токена. В README указан английский язык; другие языки не заявлены. REAP равномерно удаляет 25% экспертов, выбирая их по частоте и силе активации роутером, а также по нормам выходов экспертов. По данным README, модель сохраняет почти идентичную производительность исходной версии при снижении требований к памяти примерно на 25%; в HumanEval она получила 95,1 против 94,5 у GLM-4.7-Flash, а в HumanEval+ — 89,0. Это делает её подходящей для локального развёртывания, сред с ограниченными ресурсами и исследований. Ограничения включают более низкое покрытие экспертов после pruning и потенциально высокие требования к памяти при большом числе параллельных последовательностей. Для запуска заявлена совместимость с актуальным vLLM, а для llama.cpp требуется параметр --jinja. Лицензия MIT.

Карточка модели ahmed-amedo/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

GLM-5.3-Flash — разработанная Z.ai модель семейства GLM-5, опубликованная RedHatAI в формате BF16. Это плотная мультимодальная модель с архитектурой GLM5 Next: всего 320 млрд параметров, из которых активно используются 18 млрд. Она сочетает разреженное и линейное внимание для более экономичной обработки длинных контекстов и предназначена для диалогов, программирования и агентных сценариев. Модель обучена с нуля на мультимодальном корпусе из 30 трлн токенов. В README заявлена поддержка локального развёртывания через SGLang, vLLM, TokenSpeed и KTransformers; метаданные Hugging Face указывают библиотеку Transformers и возможность чата. Метки карточки указывают английский и китайский языки. Лицензия — MIT. В предоставленных данных не приведены численные результаты независимой оценки качества или ограничения по аппаратным требованиям.

GLM-5.3-Prime — высокоскоростной вариант модели GLM-5.3 от Z.ai. По описанию, ускорение инференса повышает пропускную способность генерации в 1,5–2 раза при сохранении возможностей GLM-5.3. Модель принимает и выдаёт текст; заявлен контекст длиной до 1 млн токенов. Модель предназначена для сценариев генерации текста, где важны высокая скорость ответа и работа с длинным контекстом. Сведения о лицензии и конкретных ограничениях в доступных данных отсутствуют.

JiRack DeltaNet 27B — причинная языковая модель от CMSManhattan для генерации текста и диалогов. По карточке, модель основана на архитектуре в стиле Qwen3.8 DeltaNet с гибридным сочетанием внимания и SSM и ориентирована на эффективный запуск на CPU. Размер модели в метаданных составляет 22,3 млрд параметров, родной контекст — 262 144 токена. Доступны веса safetensors и варианты GGUF с разной степенью квантования. Модель предназначена для диалоговых сценариев, программирования, работы с инструментами и использования в RAG-системах. В README также заявлена поддержка сценариев с маршрутизацией, мультимедиа, изображениями, видео и робототехникой через специальные токены, однако метаданные подтверждают только задачу генерации текста и возможность чата. Указана поддержка английского, китайского, японского, корейского, французского, испанского, португальского, немецкого, итальянского, русского, арабского, вьетнамского и тайского языков. Веса выпущены по лицензии MIT, которая допускает коммерческое использование и изменение. README отдельно указывает, что Docker-образы, готовые сборки Ollama и интерфейс JiRack могут распространяться на коммерческих условиях. Для запуска на CPU заявлены варианты GGUF; требования к памяти зависят от квантования и могут быть значительными.

LLaDA2.0-flash-preview — открытая инструктивно настроенная диффузионная языковая модель от InclusionAI для диалогов и практических задач. Она использует архитектуру Mixture-of-Experts: в README указано 100 млрд параметров, из которых около 6,1 млрд активируются при инференсе; метаданные каталога указывают 5,5 млрд параметров. Архитектура включает 32 слоя, 32 головы внимания, RoPE и словарь размером 157 184 токена. Модель предназначена для генерации текста, ответов на вопросы, написания кода, математических рассуждений и сценариев с вызовом инструментов. Это diffusion language model (dLLM), доступная в формате safetensors через Transformers. В README указан контекст 4 096 токенов, тогда как метаданные каталога сообщают нативный контекст 16 384 токена. Репозиторий распространяется по лицензии Apache-2.0. README рекомендует температуру 0 и параметры block_length=32, steps=32; при повышении температуры возможно смешение языков и снижение качества. Модель обозначена как preview, поэтому её зрелость следует считать экспериментальной.

Llama-3-8B-ProLong-64k-Instruct — диалоговая языковая модель Princeton NLP на архитектуре Llama 3 с 7,5 млрд параметров. Это вариант ProLong, дообученный для следования инструкциям и работы с длинным контекстом; в README описано продолженное обучение на данных до 64K токенов и supervised fine-tuning на UltraChat. Метаданные указывают контекст до 65 536 токенов. Модель предназначена для диалогов, генерации текста и задач, где нужно учитывать длинные документы или историю переписки. Авторы представляют семейство ProLong как модель для длинного контекста и сообщают об оценке на HELMET. Репозиторий использует формат Safetensors и лицензию Llama 3. README приводит характеристики обучения для основной версии семейства с контекстом 512K, поэтому эти параметры не следует переносить на вариант 64K.

Карточка модели DavidLanz/Llama3-tw-8B-Instruct на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

amd/MiniMax-M2.7-BF16 — репозиторий весов MiniMax-M2.7 от MiniMax, представленный в формате safetensors и доступный для работы через Transformers. В метаданных указаны архитектура MoE, 2,9 млрд параметров и контекст до 204 800 токенов; карточка описывает разговорную модель с возможностью вызова инструментов и развёртывания в агентных сценариях. Модель предназначена для генерации текста, программирования и инженерных задач, анализа инцидентов, выполнения многошаговой офисной работы и взаимодействия с инструментами. В README заявлены поддержка агентных команд, сложных навыков и редактирования документов Word, Excel и PowerPoint. Карточка приводит результаты внутренних и внешних бенчмарков, но они не гарантируют аналогичное качество в конкретной среде. Лицензия в метаданных обозначена как other; конкретные условия следует проверять в файле лицензии репозитория. Русский язык среди поддерживаемых языков явно не указан. Хотя имя репозитория содержит BF16, метаданные перечисляют формат safetensors и не подтверждают точность BF16.

Nereus-7B — языковая модель на 7,1 млрд параметров от автора репозитория saucam. Это объединение моделей cognitivecomputations/dolphin-2.8-mistral-7b-v02 и NousResearch/Hermes-2-Pro-Mistral-7B методом mergekit DARE-TIES; архитектура — плотная Mistral с causal language modeling. Модель предназначена для диалогов, генерации кода и формирования структурированных ответов в JSON. Модель принимает текст и генерирует текст. В метаданных указан контекст до 32 768 токенов и лицензия Apache-2.0. README приводит результаты нескольких бенчмарков, однако они не дают гарантии качества для конкретного сценария. Языки модели и её специальные предметные области в доступных данных не определены.

NousResearch/Nous-Hermes-2-Yi-34B — языковая модель Nous Research, дообученная на базе 01-ai/Yi-34B. Модель содержит 33,9 млрд параметров, использует плотную архитектуру семейства Llama и предназначена для генерации текста и диалогов по инструкциям. В обучении использован датасет OpenHermes-2.5, включающий преимущественно данные, сгенерированные GPT-4, и материалы из открытых наборов данных. Модель поддерживает многоходовый чат в формате ChatML и системные инструкции, что подходит для диалоговых ассистентов, ответов на вопросы и генерации кода. Заявленная длина контекста — 4096 токенов; в карточке приведены результаты бенчмарков, но они не гарантируют качество для конкретных задач. Модель принимает и генерирует текст; язык карточки — английский. Распространяется по лицензии Apache-2.0.

Карточка модели open-thoughts/OpenThinker-32B на Hugging Face совпадает с карточкой trinityomnis/OpenThinker-32B, поэтому описание составлено по ней. OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.

OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-14B-Instruct-1M — плотная авторегрессионная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста, включая обработку очень длинных документов и контекстов. Модель содержит около 14 млрд параметров; архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Заявленная длина контекста достигает 1 010 000 токенов, а генерация — до 8192 токенов. Для эффективного инференса на длинных последовательностях разработчик рекомендует специальную ветку vLLM с разреженным вниманием и методами экстраполяции длины; для обработки миллиона токенов версии 14B требуется не менее 320 ГБ видеопамяти суммарно. На обычном стеке Qwen2.5 возможна потеря точности при длине свыше 262 144 токенов. Модель основана на Qwen/Qwen2.5-14B и дообучена; лицензия Apache-2.0. Метаданные указывают английский язык, поэтому поддержка других языков здесь не заявляется.

Qwen3-1.5B-Instruct — компактная языковая модель на 1,5 млрд параметров, созданная сообществом с помощью mergekit. Это слияние методом TIES инструктивной модели Qwen2.5-1.5B-Instruct с Qwen2.5-Coder-1.5B-Instruct и Qwen2.5-Math-1.5B-Instruct. Модель использует архитектуру Qwen2 для генерации текста и диалогов; заявленный контекст — до 32 768 токенов. Модель подходит для ответов на вопросы, инструктивных диалогов, генерации кода и решения математических задач. Метаданные также отмечают интерфейс для вызова инструментов. Модель распространяется в формате Safetensors; README указывает, что при слиянии использовалась точность float16. Лицензия в предоставленных материалах не указана.

Qwen3.6-27B-Seven-i1-GGUF — это квантизированная версия текстово-визуальной модели Qwen3.6-27B-Seven, подготовленная mradermacher на основе модели nightmedia/Qwen3.6-27B-Seven. Распространяется в формате GGUF с imatrix-квантами различного уровня сжатия, размером примерно от 11 до 22,5 ГБ. В README также указано наличие отдельных mmproj-файлов для поддержки изображений; конкретные параметры мультимодальной архитектуры не раскрыты. Заявлена поддержка английского, китайского, японского и испанского языков, а также контекста до 1M токенов, однако точные технические характеристики базовой модели в карточке не приведены. Модель предназначена для диалогов, генерации текста, программирования, математических и STEM-задач, исследовательских сценариев, творческого и художественного письма, сторителлинга и ролевых взаимодействий. К сильным сторонам относятся широкий выбор квантов, возможность подобрать баланс между размером, скоростью и качеством, а также наличие imatrix-вариантов; для некоторых конфигураций в README отдельно рекомендуются IQ-кванты и i1-Q4_K_M как быстрый вариант. Ограничения связаны с потерями качества при сильном сжатии, отсутствием подробных результатов тестирования и неполным описанием архитектуры и фактического размера контекста. Модель распространяется по лицензии Apache-2.0.

mradermacher/Qwen3.8-27B-Brainwaves-WFH-i1-GGUF — квантованная версия модели Qwen3.8-27B-Brainwaves-WFH, разработанной nightmedia и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для локального запуска в задачах генерации текста, диалогов, программирования, математики, научно-технических запросов, рассуждений, творческого и художественного письма, а также ролевых сценариев. В README также указана поддержка изображений через дополнительные mmproj-файлы, доступные в статическом репозитории. Модель относится к семейству Qwen и имеет заявленный размер 27B параметров. Доступны варианты квантования i1 с использованием imatrix, включая Q2_K, Q3_K, IQ3, IQ4, Q4, Q5 и Q6; размер файлов составляет примерно от 11 до 22,5 ГБ. Для некоторых вариантов указаны компромиссы между скоростью, размером и качеством: i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Заявлены языки English, Chinese, Japanese и Spanish. В тегах упоминается контекст до 1M токенов, однако README не подтверждает фактические ограничения именно этой сборки. Сильной стороной модели является широкий набор предполагаемых сценариев применения и наличие нескольких уровней квантования для выбора под доступные ресурсы. Ограничения связаны с потерями качества, зависящими от типа квантования, отсутствием подробных результатов оценки и неполным описанием архитектуры, точной мультимодальной конфигурации и практического размера контекста. Модель распространяется по лицензии Apache-2.0.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed-FP16 — это версия языковой модели Qwen3.8-27B, подготовленная разработчиком Youssofal для запуска через MTPLX на компьютерах Mac с Apple Silicon. Модель предназначена прежде всего для локальной генерации текста, программирования, работы с кодом, JSON и диалогами. Она совместима с Mac на чипах M1–M5 и требует не менее 32 ГБ unified memory; для M1 и M2 рекомендуется именно эта сборка FP16. Модель использует 4-битное динамическое квантование части весов, а остальные тензоры, включая масштабы, смещения, нормализации, параметры GDN-свёртки и состояния, хранятся в FP16. Она поддерживает контекст до 262 144 токенов и multi-token prediction с глубиной MTP 3, а MTPLX применяет speculative decoding на Apple Silicon. Размер загрузки составляет 20,4 ГБ. Указанная модальность — работа с текстом; README не сообщает полный перечень поддерживаемых языков, но приводит проверку на многоязычном тексте. К сильным сторонам относятся высокая скорость локальной генерации, оптимизация для Apple Silicon и сохранение точности speculative decoding при различных температурах. Для сборки заявлены 96,0% совпадения top-1 и KL-дивергенция 0,012 относительно контрольной версии Qwen3.8-27B в тесте на коде, прозе, JSON и многоязычном уведомлении. Ограничения включают необходимость совместимого Mac с достаточным объёмом памяти, отсутствие опубликованных замеров скорости именно на M1 и M2, а также более низкую точность по сравнению с 8-битной сборкой Optimized Quality. Модель распространяется по лицензии Apache-2.0.

eousphoros выпустил экспериментальную производную модели Qwen3.8-27B: к исходным весам BF16 применена слитая LoRA-калибровка с нормализацией и статическим YaRN-масштабированием. Модель предназначена для диалогов и мультимодальных задач с длинным контекстом; принимает текст, изображения и видео, а в ответ генерирует текст. В каталоге Hugging Face для неё указаны архитектура Qwen3.5, 27 млрд параметров у базовой модели и контекст до 1 048 576 токенов в конфигурации автора; библиотека — Transformers. Калибровка выполнена на 137 обновлениях с использованием текстовых, агентных и мультимодальных примеров. Метрики сходства слияния проверяют корректность экспорта, но не являются оценкой общих возможностей. Полная оценка на длинном контексте, включая RULER, ещё не завершена, поэтому пригодность для конкретной нагрузки нужно проверять отдельно. Статическое масштабирование YaRN применяется на любой длине последовательности. Лицензия — Apache-2.0.

Qwen-7B-Chat — диалоговая языковая модель семейства Qwen, разработанная Alibaba Cloud на основе предварительно обученной Qwen-7B с применением методов выравнивания. Это плотная Transformer-модель с архитектурой QWenLMHeadModel; в карточке указано 11,4 млрд параметров и контекст до 8192 токенов. Она предназначена для многоходового общения, ответов на вопросы, работы с кодом, математическими задачами и вызова внешних инструментов. Модель обучена на китайских, английских и других данных; токенизатор на основе tiktoken использует словарь примерно из 150 тысяч токенов, оптимизированный для китайского, английского и кода. README сообщает результаты оценок на C-Eval, MMLU, GSM8K и HumanEval, но они не гарантируют качество в конкретном применении. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Tess-2.0-Llama-3-8B — универсальная языковая модель с диалоговой настройкой, разработанная в серии Tess; вычислительные ресурсы для обучения предоставила KindoAI. Модель дообучена на базе meta-llama/Meta-Llama-3-8B и содержит около 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM, формат весов safetensors и шаблон диалога Llama 3 с контекстом до 8192 токенов. Модель предназначена для общения с пользователем, выполнения инструкций, генерации текста и помощи с задачами по программированию и общего назначения. Для настройки использовали около 100 тысяч примеров кода и общих задач из набора Tess-2.0; обучение длилось одну эпоху с низкой скоростью обучения, чтобы сохранить разнообразие ответов. Модель описана как малоограниченная и часто следующая инструкциям. Лицензия — Llama 3. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или другой неподходящий контент; важные сведения следует проверять.

airoboros-34b-3.3 — экспериментальная разговорная модель, разработанная Jon Durbin как дообучение 01-ai/yi-34b-200k. Это плотная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 33,9 млрд параметров; она принимает текст и генерирует текст. Модель настроена на формат диалога Llama 2 и предназначена для многошаговых бесед, ответов на вопросы по предоставленному контексту, суммаризации, генерации кода, инструкций и структурированных аргументов для вызова функций. Обучение опирается главным образом на синтетические данные Airoboros 3.2, а также на сторонние наборы для диалогов, рассуждений, кода, суммаризации и ролевых сценариев. Хотя базовая Yi поддерживает контекст до 200 000 токенов, эту версию дообучали с длиной контекста 8 000 токенов, поэтому качество на более длинном вводе может быть ненадёжным. Автор отмечает склонность к выдумыванию ответов и рекомендует низкую температуру и явные инструкции для задач по контексту. Лицензия указана как other; конкретные условия в предоставленных данных не описаны.