I.11Классификация, ранжирование и сопоставление

MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-heretic — небольшая языковая модель на базе openbmb/MiniCPM5-1B и производного дообучения GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking. Модель создана автором saidutta69 с использованием Heretic 1.4.0 и метода directional ablation («abliteration»): целевые изменения весов подавляют поведение отказа без дополнительного дообучения. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, tool calling и function calling, а также локальных агентов, ролевых сценариев и исследований механизмов отказов и выравнивания. Модель имеет размер около 1,1 млрд параметров, поддерживает режимы Think и No-Think, контекст до 128K токенов и языки английский и китайский. Для локального запуска доступны версии GGUF, включая F16 и различные варианты квантования; заявлена совместимость с llama.cpp, Ollama, LM Studio и Jan. Благодаря небольшому размеру она подходит для потребительских GPU, CPU и edge-устройств. В README также заявлены сохранение возможностей базовой модели, сильные стороны в tool calling, кодинге и рассуждениях, а также снижение числа отказов с 93 до 3 на 100 тестовых запросов; эти показатели приведены автором модели и не подтверждены независимой оценкой. Ограничения включают малый размер модели по сравнению с современными крупными LLM, возможное ухудшение качества при агрессивном квантовании и потенциальные риски, связанные с подавлением защитного поведения. Модель распространяется по лицензии Apache-2.0.

Mistral-7B-Instruct-guidance-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на базе Mistral-7B-Instruct-v0.2 и Mistral-7B-Instruct-guidance. Модели объединены методом SLERP с настройками по слоям и типам блоков; архитектура — плотная причинная модель MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста в диалогах и ответов на инструкции. Она принимает текст, поддерживает контекст до 32 768 токенов и выдаёт текст. В метаданных не указаны поддерживаемые естественные языки; поэтому конкретные языки не перечисляются. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

Это шардинг версии Mistral-7B-v0.1 — предварительно обученной языковой модели Mistral AI с 7,1 млрд параметров. Весовые файлы разбиты на части размером до 2 ГБ, чтобы снизить требования к оперативной памяти при загрузке; модель сохраняет исходные параметры Mistral-7B-v0.1 и представлена в форматах PyTorch и Safetensors. Модель предназначена для генерации текста и может служить базой для приложений на основе языковых моделей и дальнейшей адаптации под конкретные задачи. Архитектура — плотный Transformer с Grouped-Query Attention и Sliding-Window Attention; нативный контекст составляет 32 768 токенов. По заявлению карточки, модель превосходит Llama 2 13B на проверенных разработчиками бенчмарках. Модель не имеет встроенных механизмов модерации, поэтому сгенерированный текст может быть неподходящим или небезопасным. Распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия Devstral-Small-2505, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. README не уточняет её специализированные сценарии применения, однако формат и базовая модель ориентированы на работу с текстовыми запросами и, вероятно, задачами разработки, соответствующими семейству Devstral. Доступны варианты от BF16 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 11,47 до 47,15 ГБ. Указаны языки: английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других. README не содержит сведений о числе параметров, архитектуре, размере контекста или точных характеристиках качества. Для vision предусмотрен файл mmproj от Mistral Small 3.1, но эта поддержка неофициальна и может работать неидеально. Сильными сторонами являются широкий выбор квантизаций для разного объёма памяти и возможность локального запуска; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как подходящий вариант по умолчанию. Ограничениями являются значительные требования к дисковому пространству и памяти, а также возможное снижение качества в компактных вариантах. Модель распространяется по лицензии Apache-2.0.

Карточка модели jduhmbd/Mixtral-8x7B-Instruct-v0.1-custom на Hugging Face совпадает с карточкой kallam/Mixtral-8x7B-It-v0.1, поэтому описание составлено по ней. kallam/Mixtral-8x7B-It-v0.1 — диалоговая instruction-модель на основе Mixtral-8x7B от Mistral AI. Это генеративная разреженная архитектура Mixture of Experts, предназначенная для выполнения инструкций и ведения диалога. Модель поддерживает контекст до 32 768 токенов и, согласно README, предназначена для запуска через vLLM; в репозитории также приведены сведения о совместимости с Transformers, хотя карточка предупреждает, что веса пока нельзя непосредственно инициализировать через HF Transformers. Файлы представлены в формате safetensors; лицензия — Apache 2.0. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста на французском, итальянском, немецком, испанском и английском языках. README описывает её как демонстрацию возможностей дообучения базовой модели и отмечает высокие результаты Mixtral-8x7B в сравнении с Llama 2 70B на проверенных авторами бенчмарках. У модели нет встроенных механизмов модерации, поэтому ответы могут требовать внешних ограничителей и проверки.

Mixtral-8x7B-v0.1 — предварительно обученная генеративная языковая модель Mistral AI со sparse Mixture of Experts. В архитектуре Mixtral-8x7B восемь экспертов; модель предназначена для генерации текста и служит базовой моделью для дальнейшей адаптации под конкретные сценарии. В карточке разработчик сообщает, что модель превзошла Llama 2 70B на большинстве проверенных ими бенчмарков. Модель рассчитана на работу с текстом и поддерживает контекст до 32 768 токенов. В метаданных указаны английский, французский, итальянский, немецкий и испанский языки. Веса доступны в формате safetensors; репозиторий подготовлен для обслуживания через vLLM, а README также описывает загрузку через Transformers, хотя отдельно предупреждает, что на момент публикации модель ещё нельзя было инстанцировать через HF. Лицензия — Apache 2.0. Это базовая модель без встроенных механизмов модерации, поэтому ответы могут включать нежелательный контент. Для безопасного применения в пользовательских сценариях нужна отдельная проверка и настройка поведения модели.

Motif-3-Beta — предварительная версия языковой модели Motif-3, разработанной Motif Technologies с нуля по собственной архитектуре. Это каузальная модель Mixture-of-Experts с разреженной маршрутизацией: в README указано около 314 млрд параметров всего и около 13 млрд активных на токен; метаданные каталога указывают 11 млрд параметров. Архитектура включает 384 эксперта, из которых активируются 8 на токен, общий эксперт, механизмы GDLA и PolyNorm, модифицированный mHC и дополнительную голову Multi-Token Prediction для ускорения декодирования.

mT5-large — многоязычная модель Google на архитектуре T5 для преобразования текста в текст. Она содержит около 608,4 млн параметров и предварительно обучена на корпусе mC4, охватывающем 101 язык. Для выполнения прикладных задач модель необходимо дообучить на соответствующих данных. Модель предназначена как основа для последующей настройки под задачи генерации и преобразования текста, например перевода, суммаризации и ответов на вопросы. Она поддерживает многоязычные сценарии; среди языков корпуса есть русский и английский. В репозитории доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

Neural-Chat-v3-1 — языковая модель Intel на архитектуре Mistral, дообученная на базе mistralai/Mistral-7B-v0.1 на наборе Open-Orca/SlimOrca. Для выравнивания ответов применялся метод Direct Preference Optimization (DPO) с парами предпочтений Intel/orca_dpo_pairs. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых сценариев; в метаданных указан контекст до 32 768 токенов, тогда как README приводит значение 8 192 токена. Модель подходит для ответов на запросы, ведения диалога и других языковых задач, а также для последующей адаптации под конкретное применение. В опубликованной оценке она показала средний результат 59,06 на наборе бенчмарков, однако качество зависит от формулировки запроса. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед внедрением рекомендуется проверка безопасности и качества. Лицензия — Apache 2.0.

Orion T2 Mini SFT — экспериментальный диалоговый ассистент Project Prism на архитектуре Orion T2, опубликованный Refract Labs. Это плотная причинно-языковая модель примерно на 219 млн параметров, дообученная методом SFT на 700 тысячах примеров: 60% общих и диалоговых, 20% математических и 20% связанных с программированием. Модель предназначена для генерации ответов, следования инструкциям, общения, решения математических задач и помощи с кодом. Для диалога используется встроенный шаблон чата Transformers с текстовыми маркерами ролей. В текущем слое совместимости Transformers кэширование отключено, поэтому при генерации каждого токена префикс вычисляется заново. Модель экспериментальная; заявленные архитектурные особенности следует оценивать на сопоставимых тестах. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

pastiche-crown-clown-7B-dare — объединённая модель семейства Mistral, созданная с помощью mergekit из четырёх моделей: bardsai/jaskier-7b-dpo-v5.6, mlabonne/AlphaMonarch-7B, mlabonne/NeuralMonarch-7B и macadeliccc/MBX-7B-v3-DPO. Для слияния использован метод DARE TIES; итоговые веса сохранены в формате safetensors и имеют тип bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, в том числе диалогов, ответов на инструкции и рассуждений, унаследованных от базовых моделей. Она может применяться в чат-ботах и для генерации текста по запросу. Репозиторий распространяется по лицензии Apache-2.0. README не приводит сравнительных оценок качества или специализированных ограничений; результаты могут зависеть от запроса и сценария использования.

vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

harithoppil/Qwen3-0.6B-English-Pruned — это англоязычная производная плотной авторегрессионной языковой модели семейства Qwen3, основанная на Qwen/Qwen3-0.6B-Base и опубликованная пользователем harithoppil. В README описаны удаление семи слоёв из 28 методом Layer Dropping (ShortGPT) и сокращение словаря с 151 643 до 101 816 токенов. В метаданных указаны 368,5 млн параметров, архитектура Qwen3ForCausalLM, формат safetensors и контекст до 40 960 токенов. Модель предназначена для генерации английского текста, диалога, написания кода и решения математических задач; README также описывает переключение режимов рассуждения и обычного ответа. Сокращённый словарь исключает токены для кириллицы и ряда других письменностей, поэтому модель специализирована на английском, коде и математике. Удаление слоёв и уменьшение словаря нацелены на снижение размера и повышение скорости вывода, но в README не приведены сравнительные измерения качества или скорости. Лицензия — Apache-2.0.

unsloth/Qwen3-0.6B-GGUF — GGUF-версия языковой модели Qwen3-0.6B, разработанной командой Qwen от Alibaba Cloud и подготовленной Unsloth. Это авторегрессионная causal language model с 0,6 млрд параметров, из которых 0,44 млрд приходятся не на embedding, и 28 слоями. Модель предназначена для локального запуска и интеграции с llama.cpp, Ollama и совместимыми интерфейсами, а также для дообучения и экспорта в различные форматы. Модель поддерживает переключение между режимами thinking и non-thinking: первый ориентирован на сложные задачи рассуждения, математику и программирование, второй — на более эффективный общий диалог. Заявлены возможности instruction following, многошагового диалога, генерации кода, творческого письма, ролевого взаимодействия и работы с внешними инструментами. Контекстное окно составляет 32 768 токенов, используется Grouped Query Attention с 16 головами для Q и 8 для KV. Qwen3 заявляет поддержку более 100 языков и диалектов, однако в метаданных этой карточки указан язык en. К сильным сторонам относятся компактный размер, поддержка двух режимов рассуждения, задачи агентного взаимодействия и мультиязычность. Ограничения, конкретные результаты бенчмарков, требования к оборудованию и показатели производительности для этой версии в README не приведены; из-за малого размера модели её качество следует проверять на целевых задачах. Карточка указывает лицензию Apache-2.0.

Qwen3-4B-Thinking-2507-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, созданный пользователем MaziyarPanahi на основе исходной модели Qwen3-4B-Thinking-2507 от команды Qwen. Модель предназначена для локального запуска и интеграции с совместимыми приложениями и библиотеками, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другие инструменты экосистемы GGUF. Известно, что представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством генерации. Модель относится к классу текстовых генеративных моделей; сведения о количестве параметров, архитектуре исходной модели, поддерживаемых языках и размере контекста в README не указаны. Формат GGUF поддерживает запуск с использованием CPU и GPU, однако фактическая производительность зависит от выбранного варианта квантования и оборудования. README не содержит сведений о лицензии. Ограничения, связанные с качеством ответов и потерями точности при квантовании, могут зависеть от конкретного файла и конфигурации запуска.

Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking — плотная мультимодальная модель на 40 млрд параметров от DavidAU, созданная расширением Qwen3.5-27B и дообученная на датасете TeichAI/claude-4.5-opus-high-reasoning-250x. Она рассчитана на диалоги с рассуждениями, творческое и художественное письмо, генерацию кода, анализ изображений и работу с инструментами. В README заявлен контекст 256 тысяч токенов, режим с переменной длиной рассуждений и исправленный шаблон чата для снижения повторов и циклов. Карточка описывает примеры генерации рассказов, включая хоррор, и сообщает, что обработка изображений и генерация кода проверялись автором. Модель ориентирована на английский и китайский языки; формат репозитория — Safetensors, библиотека — Transformers. Автор рекомендует для инструментальных вызовов квантизации не ниже Q6, но доступные метаданные указывают формат Safetensors. Лицензия — Apache-2.0. README отмечает, что на низких квантизациях или недостаточно содержательных запросах возможны циклы и повторы; качество и результаты бенчмарков независимо не подтверждены.

Qwen35B-Agent-R2-Abliterated-i1-GGUF — набор квантизированных GGUF-файлов модели hotdogs/Qwen35B-Agent-R2-Abliterated, подготовленный mradermacher. Модель ориентирована на агентские сценарии, использование инструментов и вызов функций, рассуждения и диалоговое взаимодействие. В README также заявлена поддержка обработки изображений и задач image-text-to-text, однако подробности мультимодальной архитектуры не указаны. Модель относится к семейству Qwen и использует архитектуру mixture-of-experts (MoE); заявленный размер — 35B параметров. В качестве языков указаны английский и тайский. Модель обучалась с применением SFT на наборах данных, связанных с рассуждениями, агентскими траекториями и диалогами. Размер контекста, точные характеристики базовой архитектуры и результаты оценивания не указаны. Репозиторий предоставляет варианты квантизации от i1-IQ1_S до i1-Q6_K размером примерно от 7,6 до 28,6 ГБ, а также imatrix-файл. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; в README рекомендован i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описан как оптимальный баланс размера, скорости и качества. Ограничения включают возможное снижение качества при низких уровнях квантизации, а также отсутствие подробных данных о производительности и требованиях к оборудованию. Лицензия — AGPL-3.0.

Qwen3.6-27B Q4KM dequant BF16 for vLLM — это преобразованная версия весов Qwen3.6-27B, подготовленная exolabs для запуска через vLLM. Исходные веса взяты из GGUF-файла Q4_K_M репозитория unsloth/Qwen3.6-27B-GGUF, деквантизированы и сохранены в формате BF16 в шардах safetensors; конфигурация и токенизатор взяты из Qwen/Qwen3.6-27B. Архитектура — плотная Qwen3_5ForConditionalGeneration; валидация описывает текстовую генерацию, а визуальная башня намеренно отсутствует. Модель предназначена для диалоговой генерации текста и развёртывания через vLLM. В README указаны успешная загрузка через Transformers CUDA и короткая генерация, а также проверка совместимости с интерфейсом vLLM completions. Для запуска автор рекомендует режим только языковой модели и максимальную длину контекста 4096 токенов. Хотя метаданные содержат тег image-text-to-text и возможность vision, данная сборка не включает визуальную башню и рассчитана на текстовый режим. Это конверсия и деквантизация исходного GGUF Q4_K_M в BF16, а не исходный чекпойнт BF16: точность ограничена исходными квантованными весами. Репозиторий не сообщает лицензию; условия использования следует сверить с лицензиями исходной модели и файла. Для запуска нужны совместимые версии vLLM и подходящее GPU-оборудование; проверка проводилась на H200 с vLLM 0.23.0.

shawnw3i/Qwen3.8-27B-AWQ-MTP — это квантованная AWQ-версия модели Qwen3.8-27B, опубликованная пользователем shawnw3i и основанная на базовой модели Qwen/Qwen3.8-27B. Модель предназначена для генерации текста с поддержкой визуальных входных данных, а также для ускоренного инференса в vLLM. Модель использует AWQ-квантизацию и поддерживает ядро AWQ Marlin, которое vLLM автоматически конвертирует во время работы. Также предусмотрено MTP speculative decoding с тремя спекулятивными токенами. В README заявлена производительность свыше 110 токенов в секунду на одном A800 80GB при использовании vLLM 0.27.1, MTP и FP8 KV cache. Рекомендуемая максимальная длина контекста — 65 536 токенов. Поддерживаются текстовые и визуальные входные данные; сведения о языках не указаны. К сильным сторонам относятся поддержка vision-сценариев, совместимость с AWQ Marlin и встроенное ускорение генерации посредством MTP. Ограничения включают зависимость от совместимой конфигурации vLLM и GPU, а также возможные потери точности из-за квантизации; для предотвращения деградации точности размер группы был уменьшен до 64. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель, опубликованная bielquants и основанная на базовой модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Это многоэтапная fine-tune-модель с использованием Unsloth, методов Cold Fusion и Fable Fusion, представленная в форматах GGUF с обычными и MTP-квантами. В README заявлена поддержка английского и китайского языков; карточка также указывает сценарий image-text-to-text, однако подробности о фактических визуальных возможностях не приведены. Модель предназначена для широкого спектра задач: рассуждений и решения задач, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Основной заявленный акцент — высокая детализация ответов при сокращении объёма внутренних рассуждений и расхода токенов по сравнению с обычной Qwen3.8, что должно повышать скорость генерации. Указан размер базовой модели 27B, а также поддержка трёх режимов мышления, но максимальный размер контекста в карточке не указан. Автор README заявляет превосходство над рядом базовых моделей по внутренним бенчмаркам ARC и высокую производительность на потребительском оборудовании, включая tool calling; эти результаты представлены как утверждения создателя и требуют независимой проверки. Возможные ограничения — отсутствие подробных данных о контексте, точной архитектуре модальности, системных требованиях и качестве на разных языках, а также потенциально нестандартное поведение из-за uncensored/abliterated-настройки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune-модель на базе Qwen3.8-27B, опубликованная schwyzquant и созданная с использованием наработок DavidAU и инструментов Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты квантования, с заявленной поддержкой 4- и 8-битных конфигураций. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, художественной прозы, ролевого взаимодействия и других сценариев генерации текста. Основные заявленные цели дообучения — повысить способность к решению задач, сократить объём рассуждений и ускорить генерацию при сохранении детализации и качества ответов. Указаны языки English и Chinese; архитектура основана на Qwen3.8 с 27 миллиардами параметров. Размер контекста в README не указан. К сильным сторонам относятся акцент на подробных ответах, программировании, творческих сценариях и сокращении избыточного «мышления», а также возможность запуска квантованных вариантов на потребительском оборудовании. Заявления о превосходстве над базовыми и другими моделями основаны на приведённых автором бенчмарках и не сопровождаются независимой проверкой в README. Ограничения включают отсутствие подробных данных о контекстном окне, точной архитектуре, системных требованиях и качестве по отдельным задачам; характеристики могут различаться между квантованными версиями. Модель описывается как uncensored, поэтому её ответы могут требовать дополнительной фильтрации и контроля. Лицензия — Apache-2.0.

Max-GE/Qwen3.8-27B-uncen — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Согласно README, модель создана с использованием Unsloth, методов COLD FUSION и Fable Fusion и ориентирована на повышение качества рассуждений, общее решение задач, программирование, творческое письмо, создание историй и roleplaying. Заявлена как uncensored/abliterated-модель. Модель относится к семейству Qwen3.8 с размером 27B и поддерживает английский и китайский языки. Репозиторий содержит Regular и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит; заявлена поддержка трёх режимов мышления. Основной особенностью разработчики называют сокращение объёма reasoning-токенов примерно от двух до десяти раз по сравнению с обычной Qwen3.8 при сохранении детализации и качества, а также оптимизацию скорости генерации. README также указывает тег image-text-to-text, но не приводит подробностей о визуальном энкодере или подтверждённой обработке изображений. Сильными сторонами заявлены высокие результаты на ARC-C и ARC-E, улучшение по сравнению с базовыми моделями Qwen и эффективность на потребительском оборудовании. Эти результаты представлены разработчиками и не сопровождаются в карточке независимой методологией проверки. Возможные ограничения включают зависимость характеристик от выбранной GGUF-квантизации, отсутствие данных о размере контекста и детальных тестах безопасности, а также uncensored-настройку, которая может повышать риск нежелательных или небезопасных ответов. В метаданных указана лицензия Apache-2.0.

SwagMessiah100/Qwen3.8-27B-Unleashed-GGUF — это квантованная GGUF-версия uncensored-модели Qwen3.8-27B-Uncensored, разработанной JonathanColetti. Репозиторий SwagMessiah100 применяет к исходным весам карту динамического распределения битов Unsloth Dynamic 3.0 и соответствующую матрицу важности. Модель предназначена для генерации текста, диалогов и локального запуска через совместимые инструменты, включая llama.cpp. Заявлены английский и китайский языки. Модель имеет размер 27 млрд параметров и поддерживает контекст до 262 144 токенов, включая заявленное извлечение информации на длине около 250 806 токенов для варианта UD-Q3_K_XL. Доступны девять уровней квантования, включая UD-IQ4_XS, UD-Q3_K_XL и UD-IQ3_XXS. Динамическое распределение битов сохраняет более высокую точность в чувствительных тензорах и сильнее сжимает менее чувствительные, благодаря чему, по приведённым измерениям, вариант Q3 превосходит протестированные варианты Q4 по perplexity и может обеспечивать более высокую скорость. К сильным сторонам относятся uncensored-поведение, длинный контекст, несколько вариантов размера и качества квантования, а также проверка файлов нагрузочным тестированием. Производительность и качество зависят от конкретного варианта, оборудования и длины генерации; измерения проводились на RTX 4090 24 ГБ с llama.cpp и DFlash2. Для коротких запросов заявлена медианная скорость около 24,9 токена в секунду, для длинной генерации — до 56,3 токена в секунду, поэтому модель требовательна к ресурсам. Лицензия — Apache 2.0.

Qwen3.8-Flash-Next REAP-288 — экспериментальный неофициальный пакет для инференса на Apple Silicon, опубликованный 30cmtonyfaker и созданный на основе Qwen3.8-Flash-Next от Qwen. Модель адаптирована для запуска через MLX Serve и использует community REAP-288 pruning, 4-битное квантование и Native MTP для ускорения декодирования. В метаданных указаны английский и китайский языки, а также тег image-text-to-text, однако подробности о поддержке изображений в представленном README не приведены. Пакет предназначен для локального запуска языковой модели, диалогов, генерации текста, программирования, структурированных ответов и сценариев с инструментами. Заявлена поддержка контекста до 65 536 токенов в протестированной конфигурации, но качество работы на длинном контексте и полноценные возможности настольного режима отдельно не подтверждены. Исторические измерения на M4 Max с 128 ГБ unified memory показывают ускорение декодирования с MTP примерно в 1,54–2,24 раза на тестовом наборе, однако результаты относятся к изменённой версии MLX Core, ограниченному сценарию и не гарантируют аналогичную производительность в других нагрузках. Для актуальной версии исправлена ошибка заголовка тензора, а базовый запуск через официальный MLX Core 26.9.1 был проверен на M4 Max. Ограничения включают экспериментальный статус, зависимость от Apple Silicon и MLX, отсутствие подтверждения универсальной корректности MTP и различия между последовательным и MTP-выводом в тестах. Модель распространяется по qwen-community-license-1.0; лицензия обозначена как other, а полный текст доступен в файле LICENSE.

Qwen3-Next-80B-A3B-Thinking-4bit — языковая модель для генерации текста, опубликованная сообществом mlx-community. Она представляет собой конвертированную в формат MLX версию базовой модели Qwen/Qwen3-Next-80B-A3B-Thinking; конвертация выполнена с использованием mlx-lm версии 0.27.1. Модель предназначена для запуска и генерации текста в экосистеме MLX, в частности через библиотеку mlx-lm на совместимых системах. Из известных характеристик указаны размер исходной модели 80B и 4-битное квантование, обозначенное в идентификаторе модели. Название Thinking указывает на ориентированность исходной модели на задачи, требующие рассуждений, однако README не содержит подробностей об архитектуре, количестве активных параметров, языках, размере контекста, поддерживаемых модальностях или результатах тестирования. В README также не описаны конкретные сильные стороны и ограничения качества модели; практические характеристики зависят от среды MLX и доступных вычислительных ресурсов. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; README приводит пример загрузки модели, токенизатора и генерации ответа с поддержкой chat template, если он определён.

RWKV7-G1 «GooseOne» — семейство базовых языковых моделей от BlinkDL на архитектуре RWKV-7, сочетающей свойства рекуррентной сети и языковой модели с авторегрессионной генерацией. Модели предварительно обучены на веб-текстах, коде, синтетических данных, а также инструкционных, диалоговых и рассуждательных примерах; доступны варианты от 0,1 до 13,3 млрд параметров. Указаны словарь из 65 536 токенов и размер головы 64. Модели предназначены для генерации текста, диалога и рассуждений, а также для дальнейшего дообучения и адаптации под конкретные задачи. Автор отмечает локальный запуск на мобильных и настольных устройствах и высокую скорость инференса; приведённые показатели относятся к RWKV-7 7,2B на RTX 5090. В карточке описаны рекомендации по настройкам генерации и вызову функций. Карточка не сообщает длину контекста и не приводит сопоставимых оценок качества, поэтому производительность на конкретных задачах следует проверять отдельно. Модели распространяются по лицензии Apache-2.0.

Карточка модели JetLM/SDAR-4B-Chat-b16 на Hugging Face совпадает с карточкой JetLM/SDAR-8B-Chat-b32, поэтому описание составлено по ней. JetLM/SDAR-8B-Chat-b32 — чат-модель семейства SDAR, разработанная авторами SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая обеспечивает эффективное обучение, а диффузионный подход позволяет генерировать токены параллельно. В репозитории указана плотная архитектура SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Авторы сообщают о сопоставимой с сильными авторегрессионными моделями общей производительности и преимуществах в некоторых научных задачах рассуждения для моделей SDAR того же масштаба. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Языки и отдельные результаты именно этой версии в карточке не приведены.

Soniox-7B-v1.0 — языковая модель Soniox для диалогов и генерации текста. Она построена на архитектуре Mistral и основана на Mistral 7B, дополнительно прошла предварительное обучение и дообучение для решения задач и ответов на вопросы. В карточке заявлена поддержка английского языка и кода; модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов по метаданным. Модель можно использовать для диалоговых интерфейсов, генерации текста и помощи с кодом. Автор README заявляет сопоставимость с GPT-4 на некоторых бенчмарках, но не приводит их названия или результаты, поэтому это утверждение не позволяет оценить качество для конкретных задач. Модель доступна в формате safetensors и совместима с Transformers; для развёртывания также упоминаются vLLM и другие варианты. Лицензия — Apache 2.0. README указывает контекст 8K, тогда как метаданные каталога дают native context 32 768 токенов; это расхождение следует учитывать при выборе длины входа.

Lucyfer1718/spartan_nemotron — диалоговая языковая модель, созданная слиянием методом SLERP двух моделей: mattshumer/Reflection-Llama-3.1-70B и nvidia/Llama-3.1-Nemotron-70B-Instruct-HF. Она предназначена для генерации текста в ответ на запросы и ведения диалога; метаданные также отмечают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 28,4 млрд параметров, работает с контекстом до 131 072 токенов и распространяется в формате safetensors через Transformers. Модель подходит для диалоговых ассистентов, ответов на инструкции и генерации текста с длинным контекстом. В карточке не указаны отдельные целевые языки или специализированная предметная область. Лицензия и сведения о качестве или ограничениях модели в предоставленных данных отсутствуют.

SphinxMind-14B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В качестве базовой указана shuttleai/shuttle-3-mini; также в объединении участвовала EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2. Модель предназначена для генерации текста и диалогового общения. Размер составляет 14 млрд параметров, максимальный контекст — 65 536 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о конкретных языках, лицензии и специальных ограничениях в предоставленных данных отсутствуют.