I.11Классификация, ранжирование и сопоставление

RedHatAI/Meta-Llama-3-8B-Instruct-FP8-KV — это квантованный вариант Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев с использованием vLLM; чекпойнт подготовлен с помощью AutoFP8 и калибровочных примеров из ultrachat. Модель содержит 8B параметров и использует FP8-квантизацию весов и активаций с покомпонентным масштабированием на уровне тензоров. Дополнительно в чекпойнт включены масштабы для FP8-квантизации KV-кэша, что позволяет включать этот режим через параметр kv_cache_dtype="fp8" в vLLM. Для работы требуется vLLM версии 0.5.0 или новее. Данные о поддерживаемых языках, размере контекста и мультимодальности не указаны. К преимуществам относятся снижение требований к памяти и возможность эффективного инференса с FP8 KV-кэшем. По результатам Open LLM Leaderboard показатель gsm8k в режиме 5-shot составляет 74,98 против 75,44 у исходной модели и 74,37 у варианта FP8 без квантованного KV-кэша, что указывает на близкое качество в этом тесте. Ограничения включают возможную потерю точности из-за квантизации и зависимость от совместимой версии vLLM. Лицензия в README не указана.

ProCreations/MiMo-V2.6-Flash-RL-NVFP4 — это вариант модели MiMo-V2.6-Flash-RL, опубликованной XiaomiMiMo, преобразованный в формат NVFP4. Репозиторий содержит точную перекодировку уже квантизированных MXFP4-весов маршрутизируемых экспертов без калибровки, обрезания, оптимизации или округления к ближайшему коду. Модель предназначена для генерации текста, включая работу с кодом, математическими задачами, английским и китайским языками. В конфигурации указана архитектура Mixture-of-Experts; точное общее число параметров и размер контекста исходной модели в README не приведены. Сохранены мультимодальные энкодеры, аудиотокенизатор и сопутствующие файлы, однако конкретные поддерживаемые модальности не описаны. Ключевое отличие — смешанная точность W4A16_NVFP4 для экспертных весов при отсутствии требования квантизации активаций FP4. Корневой массив тензоров занимает около 193,96 ГБ без вспомогательных файлов. Полная проверка заявляет идентичность кодов экспертных весов и практически полное совпадение значений при сравнении с исходной моделью; в тесте на 65 504 токенах показатели perplexity совпали с исходной MXFP4-версией, а согласие наиболее вероятного токена составило 99,988–100% в зависимости от домена. Это не гарантирует идентичность результатов при других типах вычислений, ядрах внимания, квантизации активаций или настройках генерации. Проверенный путь загрузки использует vLLM 0.29.0, tensor parallelism 2 и две видеокарты RTX PRO 6000 Server Edition по 96 ГБ; заявленный максимальный контекст в примере запуска — 12 288 токенов. README не содержит широких бенчмарков качества, подтверждений производительности, валидации CPU-offloading или speculative decoding. Модель и исходный чекпойнт распространяются по лицензии MIT.

Mungert/MiniCPM4.1-8B-GGUF — это GGUF-версия языковой модели MiniCPM4.1-8B, разработанной командой OpenBMB и опубликованной в формате GGUF пользователем Mungert. Модель предназначена для генерации текста, включая задачи рассуждения, диалоговые сценарии и запуск на устройствах с ограниченными ресурсами. Она поддерживает китайский и английский языки. Модель содержит 8 млрд параметров и использует гибридную архитектуру с обучаемым разреженным вниманием. Заявлены режимы глубокого рассуждения и обычной генерации, а также ускоренное декодирование: до трёхкратного ускорения рассуждений и более высокая эффективность на периферийных устройствах. GGUF-квантизация позволяет уменьшить требования к памяти, а автор сборки применяет дополнительное повышение точности отдельных важных слоёв с помощью llama.cpp, что может улучшать качество при низкой разрядности ценой увеличения размера файла. К ограничениям относятся отсутствие сведений о конкретном размере контекста, доступных вариантах квантизации и подробных результатах тестирования именно этой сборки. Производительность и качество зависят от выбранного GGUF-варианта и оборудования. Исходная модель распространяется по лицензии Apache-2.0; README не уточняет, отличается ли лицензия сборки от лицензии исходной модели.

duyntnet/Mistral-7B-Instruct-v0.3-imatrix-GGUF — набор квантизированных вариантов модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI и представленной в формате GGUF с использованием imatrix-квантизации. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке, включая выполнение инструкций, ответы на вопросы и сценарии с вызовом функций или инструментов. Модель относится к семейству Mistral и имеет размер 7B параметров согласно идентификатору. Это текстовая instruct-модель с поддержкой форматов и библиотек, совместимых с GGUF; README также показывает использование через mistral-inference и Hugging Face Transformers. Длина контекста, точные варианты квантизации, аппаратные требования и дополнительные модальности не указаны. К сильным сторонам относятся компактный размер по сравнению с более крупными языковыми моделями, возможность локального запуска в квантизированном виде и поддержка инструкций и function calling. Ограничения включают заявленную языковую поддержку только для английского, отсутствие данных о качестве, бенчмарках и контекстном окне, а также возможные потери качества, зависящие от выбранного уровня квантизации. В карточке указана лицензия «other», но её конкретные условия не раскрыты.

NbAiLab/nb-notram-llama-3.3-70b-instruct — диалоговая языковая модель, разработанная лабораторией NB-AiLab Национальной библиотеки Норвегии. Это дообученная на базе Meta Llama 3.3 70B Instruct плотная трансформерная модель с 69,5 млрд параметров и контекстом до 131 072 токенов. Для обучения использовались публично доступные данные и синтетические данные; материалы, доступные только по обязательному экземплярному хранению, не включались. Модель предназначена для следования инструкциям и диалогов на норвежском букмоле, норвежском нюноске и английском языке. Подходит для ответов на вопросы и суммаризации на норвежском, а также для генерации текста и работы в качестве ассистента. Настройка включает supervised fine-tuning и лёгкий этап DPO; ответы обычно короче, чем у более разговорчивых ассистентов. Поддерживаются чатовый формат и интерфейс вызова инструментов. Лицензия — Llama 3.3 Community License. Модель может ошибаться и уверенно выдавать вымышленные сведения. Знания о норвежской культуре и истории могут проявляться непоследовательно и зависеть от формулировки запроса; настройки безопасности ограничены. В README релиз назван исследовательским, поэтому перед прикладным использованием рекомендуется оценка в целевом сценарии; для медицинских, юридических и финансовых задач нужны дополнительные проверки и надзор человека.

MaziyarPanahi/neural-chat-7b-v3-1-dare-0.85-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста и ответов на диалоговые запросы. Она создана объединением Mistral-7B-Instruct-v0.1 и uukuguy/neural-chat-7b-v3-1-dare-0.85 методом SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текстовые инструкции и сообщения и генерирует текстовые ответы. Заявленный нативный контекст составляет 32 768 токенов. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества или ограничений поведения.

NeuralDaredevil-12b-32k — текстовая генеративная модель на архитектуре Mistral, представленная в репозитории mvpmaster. По карточке, она создана с помощью LazyMergekit на основе mlabonne/NeuralDaredevil-7B; метаданные классифицируют связь с этой моделью как дообучение. Модель содержит 12,3 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы в сценариях с длинным контекстом. Базовая модель описана как диалоговая и DPO-дообученная; в карточке NeuralDaredevil-12b-32k дополнительных специализаций и языков не указано. Файлы представлены в формате safetensors. Условия лицензии в предоставленных данных отсутствуют.

Neuron-V1-Distill-Qwen2-14B-i1-GGUF — это GGUF-квантизация 14-миллиардной инструкционной модели Neuron-V1-14B-Instruct, разработанной Neura-Tech-AI и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста и работы с инструкциями, а также может использоваться в локальных приложениях и средах, поддерживающих формат GGUF. В карточке указаны поддерживаемые языки английский и хинди. Модель относится к семейству Qwen2 и рассчитана на текстовый ввод и вывод; сведения о мультимодальности и размере контекстного окна отсутствуют. Доступно множество вариантов квантизации i1, отличающихся размером, скоростью и качеством. Среди них i1-Q4_K_M обозначен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Некоторые варианты с низкой разрядностью имеют заметно сниженное качество. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое программное обеспечение, поддерживающее GGUF; конкретные требования к оборудованию и рекомендуемый объём оперативной памяти в карточке не указаны.

Это GGUF-квантизованная версия языковой модели Llama-3_1-Nemotron-Ultra-253B-v1, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в llama.cpp, LM Studio и других совместимых проектах на базе llama.cpp. Указан английский язык; поддерживается текстовая модальность. Размер исходной модели — 253 млрд параметров, однако точная архитектура и размер контекстного окна в README не указаны. Доступно множество вариантов квантизации GGUF — от Q8_0 до более компактных Q3 и IQ3/IQ4. Высокоточные варианты обеспечивают лучшее сохранение качества, а младшие квантизации снижают требования к памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Основное ограничение — чрезвычайно большой объём файлов: даже рекомендуемый Q4_K_M занимает около 150,94 ГБ, поэтому для запуска требуется мощное оборудование и значительный объём оперативной или видеопамяти. Лицензия — NVIDIA Open Model License; ссылка на условия приведена в карточке модели.

openbuddy-mistral-7b-v13-base-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и OpenBuddy/openbuddy-mistral-7b-v13-base методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. В метаданных перечислены китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей об ограничениях; фактическое качество может зависеть от языка и сценария использования.

OpenInstruct Mistral-7B — языковая модель, выпущенная автором репозитория и дообученная на VMware/open-instruct с вычислительными ресурсами Higgsfield AI. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации ответов на инструкции и диалоговых сценариев. В README указан формат запросов Alpaca; метаданные указывают контекст длиной до 32 768 токенов и английский язык. Модель подходит для ответов на вопросы, выполнения текстовых инструкций и генерации диалоговых ответов. В карточке приведены результаты оценки на бенчмарках рассуждений и здравого смысла, однако они не гарантируют качество в конкретном применении. Модель распространяется по лицензии Apache-2.0; базовая модель — mistralai/Mistral-7B-v0.1.

Open-Instruct Open Assistant 13B — языковая модель на архитектуре LLaMA, дообученная AllenAI на данных OpenAssistant/oasst1 для выполнения инструкций и генерации текста. Это модельный diff, поэтому для её использования нужна исходная модель LLaMA в формате Hugging Face; карточка приводит лицензию AI model license вместе с исходной лицензией LLaMA. Модель содержит 12,9 млрд параметров, принимает текст и рассчитана на контекст до 2048 токенов. Она предназначена для диалоговых ответов и выполнения пользовательских инструкций на английском языке; в карточке также приведены результаты тестов на рассуждения, математические задачи, вопросы и ответы и генерацию кода. Качество генерации зависит от соблюдения обученного формата ввода, включая завершающий перевод строки. Показатели на бенчмарках отражают результаты эксперимента из указанной исследовательской работы и не гарантируют качество в прикладных сценариях.

Ornstein-Hermes-3.6-27b-i1-GGUF — квантизированная версия модели Ornstein-Hermes-3.6-27b, разработанной GestaltLabs и подготовленной в формате GGUF пользователем mradermacher. В README также указано использование набора данных DJLougen/Acta и наличие тегов, связанных с семейством Qwen, мультимодальностью и Hermes. Модель предназначена для генерации текста на английском языке, обработки изображений вместе с текстом, вызова функций, работы с инструментами и агентских сценариев. Заявлены мультимодальные возможности image-text-to-text, function calling и tool use, однако точный размер контекстного окна и подробности архитектуры в README не указаны. Доступно множество вариантов квантизации с размером файлов примерно от 7,2 до 22,2 ГБ. Варианты различаются балансом между размером, скоростью и качеством: README отмечает, что некоторые низкобитные варианты имеют низкое качество, а i1-Q4_K_M рекомендуется как быстрый вариант. Качество конкретной версии зависит от выбранного типа квантизации. Модель распространяется по лицензии Apache-2.0.

PLLuM-4B-instruct-2512 — инструктивная языковая модель семейства PLLuM, разработанная альянсом HIVE AI на основе Gemma 3 4B. Модель продолжительно обучали на польских и английских текстах, затем дообучали на инструкциях и настраивали с помощью предпочтений людей. Это плотная модель с архитектурой Gemma3ForConditionalGeneration и 4 млрд параметров; она распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для диалога и генерации текста, включая ответы на вопросы, суммаризацию и извлечение сведений. Она особенно ориентирована на польский язык и может применяться для создания помощников, в том числе для польской публичной администрации и юридических или бюрократических тем с использованием поиска по документам. README также указывает на английские данные для более широкой обобщающей способности. Ограничение контекстом и доступностью языков зависит от конкретной конфигурации; подтверждены польский и английский. Для актуальных ответов по нормативным и другим документам модель следует сочетать с поиском по источникам, поскольку сама генерация не гарантирует фактическую точность.

Qwen2.5-14B-Instruct-Abliterated — производная версия Qwen/Qwen2.5-14B-Instruct от sci4ai, созданная удалением поведения отказа с помощью изменения весов на основе активаций. Это плотная авторегрессионная модель семейства Qwen2 для генерации текста и диалогов; размер — 14 млрд параметров, контекст — до 32 768 токенов. README рекомендует её для агентных сценариев и вызова инструментов, отмечая следование форматам вызовов инструментов и многошаговые рассуждения. При обработке модели удаляли направления отказа в выходных проекциях attention и MLP в 47 из 48 слоёв. Поэтому модель может отвечать на запросы, которые базовая модель отклонила бы; качество и безопасность ответов не гарантированы. Модель распространяется по лицензии Apache-2.0. README приводит исследовательскую оговорку и возлагает ответственность за использование на пользователя.

YOYO-AI/Qwen2.5-14B-YOYO — объединённая 14-миллиардная языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Автор карточки описывает её как слияние, созданное с помощью mergekit методом DELLA на основе Qwen/Qwen2.5-14B с добавлением Qwen/Qwen2.5-14B-instruct. Модель предназначена для генерации ответов в чате и других сценариев, где требуется продолжать или создавать текст. Она поддерживает контекст до 131 072 токенов и распространяется в формате safetensors для Transformers. В метаданных также указаны интерфейсы чата и вызова инструментов. Карточка не уточняет поддерживаемые естественные языки, сравнительное качество или ограничения в конкретных сценариях. Лицензия в предоставленных данных не указана.

TheRains/Qwen2.5-32B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-32B-Instruct, разработанной командой Qwen. Модель преобразована в формат GGUF с использованием llama.cpp и предназначена для локального запуска через llama.cpp в задачах генерации текста и диалогового взаимодействия. Модель имеет 32 миллиарда параметров в варианте квантизации Q4_K_M. В карточке указана поддержка английского языка и текстовая модальность; сведения о размере контекстного окна и других языках отсутствуют. Модель можно использовать через llama-cli или llama-server, в том числе на совместимом CPU и GPU-оборудовании при соответствующей сборке llama.cpp. Основные преимущества — локальное выполнение, совместимость с экосистемой llama.cpp и уменьшенные требования к памяти по сравнению с полноразмерной версией. Ограничения связаны с квантизацией, а также с отсутствием в карточке подробных данных о качестве, производительности и поддерживаемых сценариях. Лицензия — Apache-2.0.

ehristoforu/qwen2.5-7b-upscaled — языковая модель для генерации текста и диалогов, созданная слиянием весов через mergekit методом passthrough на основе Qwen/Qwen2.5-7B-Instruct. Она предназначена для общения, генерации текста и использования интерфейса вызова инструментов. Модель построена на плотной архитектуре Qwen2 и содержит 11,3 млрд параметров; максимальный контекст — 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. README не сообщает оценок качества или конкретных улучшений относительно базовой модели. Лицензия в доступных данных не указана.

lmstudio-community/Qwen3-4B-Instruct-2507-MLX-5bit — это 5-битно квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью Qwen3-4B-Instruct-2507. Ключевые характеристики: архитектура и возможности базовой модели Qwen3-4B-Instruct-2507, около 4 миллиардов параметров, текстовая модальность и 5-битное представление MLX. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Основные преимущества модели — уменьшенный объём памяти и оптимизация для локального запуска на Apple Silicon при сохранении совместимости с экосистемой MLX. Ограничения связаны с квантованием и характеристиками базовой 4B-модели; точное влияние на качество, производительность и перечень поддерживаемых сценариев в README не описано. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-0.8B-GGUF — модель семейства Qwen3.5 на базе Qwen/Qwen3.5-0.8B, представленная в репозитории Unsloth. Это мультимодальная причинная языковая модель с vision encoder, предназначенная для локального запуска, прототипирования, исследовательских и разработческих задач, а также предметно-ориентированного дообучения. Модель может применяться для работы с текстом и изображениями, рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя, скрытое измерение 1024 и нативное контекстное окно до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Артефакты совместимы с экосистемой Hugging Face Transformers, vLLM, SGLang и KTransformers, а Unsloth также заявляет возможность локального дообучения. К сильным сторонам относятся мультимодальность, большое контекстное окно, компактный размер и заявленная высокая эффективность инференса, что делает модель подходящей для локального использования и экспериментов при ограниченных ресурсах. Ограничением является небольшой масштаб в 0,8 млрд параметров: модель прежде всего ориентирована на прототипирование, специализированное дообучение и исследования, поэтому её возможности могут уступать более крупным моделям в сложных универсальных задачах. Лицензия — Apache 2.0.

Qwen3.5-397B-A17B-VQ-3.1bpw — векторно-квантизированная сборка базовой модели Qwen3.5-397B-A17B, опубликованная TheDrainFlorist для запуска в экосистеме MLX на машинах Apple Silicon. Модель предназначена для генерации текста, а после исправления от 19 сентября 2026 года также поддерживает обработку изображений через mlx-vlm. В метаданных указан английский язык, однако полный набор поддерживаемых языков и максимальный размер контекста не приведены. Сборка использует vector quantization с эффективностью 3.1 бита на параметр, размер весов составляет около 143,7 GiB. Указана архитектура с MoE-экспертами, а также плоская конфигурация d4/K2048; дополнительные сведения о числе активных параметров и точной архитектуре не раскрыты. По измерениям авторов, модель показывает perplexity 2,3410 на Wikitext и 2,5963 на смешанном наборе для кода, превосходя приведённую 3.5-битную сборку по Wikitext и находясь с ней на сопоставимом уровне по коду. Главные ограничения — очень высокие требования к памяти, необходимость совместимого runtime и зависимость от специальных загрузчиков. Для текста требуется mlx-lm с поддержкой model_file, для изображений — mlx-vlm версии 0.6.16 или новее; устаревшие версии могут не загрузить модель. Это квантизированная сборка, поэтому её характеристики могут отличаться от исходной модели, а заявленные результаты относятся к конкретному артефакту и методике измерений. Лицензия Apache-2.0.

shawnw3i/Qwen3.8-27B-GPTQ-INT8-MTP — квантизированная версия модели Qwen/Qwen3.8-27B, опубликованная пользователем shawnw3i. Модель предназначена для генерации текста и обработки изображений в сценариях, поддерживающих формат image-text-to-text, а также для ускоренного инференса через vLLM. Модель использует квантизацию GPTQ с точностью INT8, поддерживает ядро GPTQ Marlin и MTP speculative decoding с несколькими спекулятивными токенами. Заявлена поддержка визуальных входных данных и контекста до 65 536 токенов при соответствующей настройке. В README указана производительность свыше 80 токенов в секунду на одном A800 80GB при использовании vLLM, MTP и FP8 KV-кэша. Сильными сторонами модели являются сниженное потребление памяти благодаря квантизации, совместимость с оптимизированным инференсом vLLM, поддержка визуальных данных и ускоренное декодирование. Ограничения включают зависимость производительности от оборудования и конфигурации инференса, а также отсутствие в представленном README подробных сведений о поддерживаемых языках, точных характеристиках архитектуры и качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный пользователем jaromer и предназначенный для запуска через llama.cpp. Модель ориентирована на генерацию текста, диалоги и другие задачи обработки текста; доступны также варианты с поддержкой изображений, если это поддерживается базовой моделью. Уровень отказов существенно снижен с помощью метода abliteration на базе Heretic, однако полностью не устранён. Дополнительное обучение и новые обучающие данные не использовались. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, контекст до 262 144 токенов, один MTP-слой и поддержку vision. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 10,6 до 29 ГБ. Варианты с сохранённой MTP-головой поддерживают speculative decoding; также предлагаются отдельные target- и draft-файлы. Заявленные языки — английский и китайский. Сильными сторонами являются большой контекст, широкий выбор квантизаций, поддержка MTP и близкие к f16 показатели perplexity у большинства вариантов; IQ2_M заметно уступает остальным по этому измерению. Perplexity не оценивает качество рассуждений, программирования, мультиязычности или поведения отказов. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-8B-NVFP4 — квантизированная версия языковой модели Qwen3-8B, разработанная RedHatAI на базе Qwen/Qwen3-8B. Модель предназначена для генерации текста и диалоговых сценариев, включая развёртывание чат-ботов и других приложений на основе больших языковых моделей. Она принимает текстовые данные и генерирует текст; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский, однако документация отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с использованием LLM Compressor. Размер параметров уменьшен с 16 до 4 бит, что примерно на 75% сокращает объём хранения и требования к памяти GPU. Модель рассчитана на эффективный инференс через vLLM версии 0.9.1 и новее, включая OpenAI-совместимый режим сервинга. Для калибровки использовались образцы UltraChat; в README не указаны точный размер контекстного окна и количественные результаты бенчмарков. Ключевое преимущество модели — существенное снижение потребления дисковой и GPU-памяти при сохранении совместимости с исходной Qwen3-8B. Ограничением является возможное снижение качества из-за FP4-квантизации по сравнению с неквантизированной моделью, хотя README сообщает о проведённом сравнительном тестировании без приведения результатов. Лицензия — Apache-2.0; также указано ограничение на использование способами, нарушающими применимые законы и нормативные требования.

Qwen3-Next-80B-A3B-Thinking-8bit — языковая модель для генерации текста, представленная сообществом mlx-community. Она преобразована из базовой модели Qwen/Qwen3-Next-80B-A3B-Thinking в формат MLX с использованием mlx-lm 0.27.1; исходная модель разработана командой Qwen. Модель предназначена для текстовых сценариев, включая диалоговое взаимодействие и генерацию ответов с применением режима Thinking. В названии указаны масштаб 80B, конфигурация A3B и 8-битное представление весов. Модель поддерживает работу через библиотеку mlx-lm и рассчитана на запуск в экосистеме MLX. В README не указаны языки, размер контекста, точная архитектура, перечень модальностей и результаты бенчмарков. Сильной стороной модели является адаптация для MLX и 8-битное представление, потенциально снижающее требования к памяти по сравнению с полноточными вариантами. Ограничения и фактические требования к оборудованию в README не описаны. Модель распространяется по лицензии Apache-2.0.

Это версия Qwen/Qwen2.5-1.5B-Instruct, подготовленная llamafy и преобразованная для совместимости с форматом Llama. Модель с плотной архитектурой на 1,5 млрд параметров предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов и заявлена для нескольких языков, включая русский, английский, китайский, французский, испанский, португальский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель основана на Qwen/Qwen2.5-1.5B-Instruct и, согласно README, преобразована в формат Llama для совместимости с поддерживающими его программами. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

RecurrentGemma-9B-IT — инструктивно дообученная языковая модель из семейства RecurrentGemma, разработанного Google. Это плотная авторегрессионная модель с рекуррентной архитектурой; в метаданных указано 13,9 млрд параметров. Модель предназначена для генерации текста в диалоге, ответов на вопросы, суммаризации и рассуждений. По карточке, архитектура RecurrentGemma требует меньше памяти, чем Gemma, и ускоряет генерацию длинных последовательностей. Модель принимает текст и генерирует текст. Семейство представлено англоязычными предварительно обученными и инструктивными версиями; для этой модели карточка описывает разговорное применение. Модель доступна в формате Safetensors и запускается через Transformers. Лицензия — Gemma; применяются условия использования Gemma. Как и другие большие языковые модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и испытывать трудности с неоднозначностью, нюансами языка и сложными открытыми задачами. Для приложений с пользовательскими ответами необходимы проверка результатов и меры безопасности.

RefalMachine RuadaptQwen2.5-32B-Pro-Beta — русскоязычная адаптация модели T-pro-it-1.0, опубликованная RefalMachine. Она основана на плотной архитектуре Qwen2.5 с 32 млрд параметров и предназначена для диалоговой генерации текста на русском языке. Модель объединяет базовые модели Qwen/Qwen2.5-32B и t-tech/T-pro-it-1.0, а затем адаптирована с помощью замены токенизатора, продолженного предобучения на русскоязычном корпусе и техники Learned Embedding Propagation (LEP). В метаданных указан контекст 32 768 токенов. Расширенный токенизатор на основе cl100k и униграммного словаря размером 48 тысяч токенов, по заявлению авторов, повышает скорость генерации русскоязычного текста до 60% относительно T-pro-it-1.0 при сравнении на одинаковых последовательностях. Модель подходит для русскоязычного диалога, ответов на вопросы и написания текстов; также заявлен интерфейс для вызова инструментов. Она выпущена под лицензией Apache-2.0. Авторы предупреждают, что ответы отражают данные обучения, а предобучение исходной сторонней модели ими не контролировалось; результаты оценки качества в карточке приведены не полностью.

Guilherme34/Samantha-v6.5 — объединённая языковая модель на архитектуре Llama, созданная методом TIES с помощью mergekit. В качестве базовой модели использована Guilherme34/Samantha-v6; также в объединение включена v000000/Llama-3.1-8B-Stheno-v3.4-abliterated. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового общения; заявленный контекст составляет до 131 072 токенов. Модель работает через библиотеку Transformers и распространяется в формате safetensors. Она принимает текст и генерирует текст, поддерживая интерфейс вызова инструментов. В метаданных указана лицензия не предоставлена, поэтому условия использования по лицензии определить нельзя.

SynthIA-7B-v1.3-dare-0.85-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi объединением mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/SynthIA-7B-v1.3-dare-0.85 методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов в диалоговом формате. Модель принимает текст и выдаёт текст; контекст составляет до 32 768 токенов. Её можно применять для чат-ботов, ответов на инструкции, черновиков и суммаризации текста. В карточке указана лицензия Apache-2.0. README не приводит сравнительных оценок качества или подробных ограничений, поэтому результаты следует проверять на целевых задачах.