I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейOptimizeLLM/Qwen3.8-27B-heretic-MTP-BF16 — плотная мультимодальная модель, созданная на основе Qwen/Qwen3.8-27B с помощью направленной абляции HERETIC, уменьшающей склонность модели отказываться от ответов. Это исходный чекпойнт в формате BF16; сохранены MTP-головы и полная башня обработки изображений. Базовая архитектура содержит 27,8 млрд параметров и 64 слоя, сочетает линейное внимание с полным и поддерживает изображения и видео. Модель предназначена для диалогов, анализа изображений и видео, программирования и многошаговых задач; в репозитории также заявлен интерфейс вызова инструментов. По описанию автора, на тестовом наборе из 100 запросов о вредоносных действиях модель отказала один раз, но снижение числа отказов не означает нейтральности: она может сохранять склонности базовой модели. Для этой версии указана лицензия Apache-2.0. Чекпойнт опубликован для дальнейшей квантизации в нужный формат.
Карточка модели yimdev/Qwen3-test на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.
Qwopus-GLM-18B-Merged-GGUF — экспериментальная модель, разработанная KyleHessling1 на основе двух дообученных моделей Jackrong: Qwopus3.5-9B-v3.5 и Qwen3.5-9B-GLM5.1-Distill-v1. Это 64-слойное объединение моделей Qwen3.5, дополнительно обработанное 1000-шаговым QLoRA-дообучением для устранения проблем на границе объединения слоёв. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, структурированного вывода, вызова инструментов и агентских сценариев. Модель содержит около 18 млрд параметров; доступная версия распространяется в формате GGUF с квантизацией Q4_K_M и размером около 9,2 ГБ. Заявлена поддержка английского, китайского, корейского, японского, французского, немецкого и испанского языков. По данным автора, модель показывает сильные результаты в рассуждениях, вызове инструментов, многошаговых агентских задачах и структурированном выводе, а также способна работать примерно на 12 ГБ видеопамяти, включая потребительские GPU. В тестовом наборе она набрала 40 из 44 заданий, однако программирование остаётся неидеальным: некоторые случаи форматирования и генерации кода всё ещё завершаются ошибками. Модель следует считать экспериментальной: несмотря на улучшение качества после QLoRA-дообучения, у неё могут сохраняться артефакты объединения и другие непредсказуемые особенности. Лицензия — Apache-2.0.
Seed-OSS-36B-Base — базовая языковая модель семейства Seed-OSS, разработанная командой ByteDance Seed. Репозиторий AIArchiveInfo является побайтной архивной копией ByteDance-Seed/Seed-OSS-36B-Base: веса не обучались и не изменялись. Модель содержит 31,7 млрд параметров по метаданным и использует плотную авторегрессионную архитектуру SeedOssForCausalLM с RoPE, GQA, RMSNorm и SwiGLU. Модель предназначена для генерации текста общего назначения, задач рассуждения и длинного контекста, а также для разработки агентных систем. Она рассчитана на международное применение и поддерживает контекст до 524 288 токенов. Вариант Base обучен с синтетическими инструкционными данными в предобучении; это базовая модель, а не отдельная Instruct-версия. Модель распространяется по лицензии Apache-2.0. К сильным сторонам относятся нативная работа с длинным контекстом, настраиваемый бюджет рассуждений и заявленные разработчиком возможности для задач с использованием инструментов. Это текстовая модель: README не сообщает конкретный перечень поддерживаемых языков. Как базовый чекпойнт, она может требовать дополнительной настройки для диалоговых сценариев и прикладного развертывания.
Swift-Qwen3.8-27B-GGUF — квантованная GGUF-версия модели Swift-Qwen3.8-27B, разработанной UkisAI на базе Qwen3.8-27B. Модель ориентирована на задачи рассуждений, включая общее reasoning, математику, следование инструкциям и программирование. В метаданных также указан сценарий image-text-to-text, однако подробности о поддерживаемых визуальных входах в README не приведены. Ключевая особенность модели — сокращение числа thinking-токенов: по заявлению разработчика, их требуется на 58,3% меньше при потере качества менее 1% и ускорении примерно в 1,95 раза на ряде задач. В опубликованных сравнениях с базовой моделью результаты Swift близки к исходным на GPQA-Diamond, MMLU-Pro, C-Eval, IFBench и математических бенчмарках. Размер модели — 27B параметров; формат GGUF предназначен для использования с экосистемой llama.cpp и совместимыми средствами запуска. Сведения о контекстном окне и языках в README отсутствуют. Модель может быть полезна там, где важны качество рассуждений, экономия вычислений и сокращение задержки ответа. Ограничения включают некоторое снижение результатов на отдельных тестах, а также отсутствие в предоставленных данных подробных требований к оборудованию и характеристик квантования. Указана лицензия swift-open-license-1.0; README также содержит ссылку на условия лицензии и упоминает enterprise-лицензирование, поэтому перед коммерческим использованием следует проверить полный текст условий.
Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-UD-2.0-GGUF — квантизированная GGUF-версия модели, опубликованная mfielding92 на основе дообученной модели hesamation Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled. Квантизация выполнена с использованием рецептов Unsloth Dynamic 2.0, imatrix и переопределений типов тензоров в llama.cpp. Базовая модель основана на архитектуре Qwen3.6 с разреженной Mixture-of-Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке каждого токена, 256 экспертов и 8 маршрутизируемых плюс 1 общий активный эксперт. Модель предназначена для генерации текста, диалогов, рассуждений, агентного программирования и решения сложных задач в длинном контексте. Дообучение проводилось на текстовых данных с дистилляцией цепочек рассуждений, преимущественно связанных с Claude Opus 4.6, поэтому модель ориентирована на более структурированные рассуждения и стабильную работу с многошаговыми задачами. Указан английский язык. Хотя базовая архитектура включает vision encoder, это дообучение не использовало изображения или видео, поэтому мультимодальные возможности данной версии не подтверждены. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов согласно описанию базовой модели. Для большинства пользователей рекомендован вариант UD-Q4_K_XL как баланс качества и размера; также доступны варианты UD-Q5_K_M, UD-Q3_K_XL и UD-Q2_K_XL с разным уровнем сжатия. В ограниченной проверке MMLU-Pro модель получила 75,71% exact match на 70 вопросах, однако этот результат заявлен как сравнительный smoke-тест, а не полноценная оценка. Модель распространяется по лицензии Apache-2.0.
Aya Expanse 8B Ungated — открытая версия весов многоязычной языковой модели, разработанной Cohere For AI на основе предварительно обученной модели семейства Command. Это авторегрессионный трансформер Cohere с 8 млрд параметров и контекстом до 8192 токенов; модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для многоязычного общения и генерации текста на 23 языках, включая русский, английский, китайский, арабский, хинди и японский. Её постобучение включает обучение с учителем, обучение на предпочтениях, настройку безопасности и слияние моделей. Она подходит для ответов на вопросы, диалогов и создания текстов на поддерживаемых языках. Веса опубликованы по лицензии CC-BY-NC-4.0; использование также регулируется политикой допустимого использования C4AI. Лицензия ограничивает коммерческое применение. Модель принимает и выдаёт только текст; заявленная длина контекста — около 8 тысяч токенов.
Citaman/command-r-11-layer — объединённая языковая модель на архитектуре Cohere, опубликованная Citaman. По карточке, модель получена методом SLERP с помощью mergekit из слоёв Citaman/command-r-12-layer, а метаданные классифицируют её как дообучение этой базовой модели. Модель содержит 11,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; поддерживает интерфейс вызова инструментов. Модель подходит для чат-ботов, генерации ответов и систем, где языковая модель взаимодействует с инструментами. Контекстное окно составляет 8192 токена. В карточке указана архитектура CohereForCausalLM и формат safetensors. Лицензия и целевые языки в предоставленных данных не указаны.
casperhansen/deepseek-r1-distill-llama-8b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-8B, опубликованная пользователем Casper Hansen на Hugging Face. Исходную модель разработала DeepSeek; она создана дистилляцией DeepSeek-R1 в базовую архитектуру Llama 3.1 8B с использованием синтетических образцов, с акцентом на рассуждения. Репозиторий Casper Hansen содержит веса в формате Safetensors и конфигурацию для запуска квантизованной модели. Модель предназначена для текстовой генерации и задач, требующих языкового и логического рассуждения, включая ответы на вопросы, математические и программные задачи. Она использует архитектуру LlamaForCausalLM, около 8 млрд параметров, 32 слоя, 32 attention-heads и 8 key-value heads. Конфигурация указывает контекст до 131 072 токенов, хотя практическая поддержка зависит от используемого ПО и ресурсов. Мультимодальность не заявлена; модель работает с текстом. Квантизация снижает требования к памяти и ускоряет локальный запуск, но может ухудшать качество по сравнению с полной точностью. Карточка производной модели почти не содержит описания, поэтому подробные сведения о бенчмарках, ограничениях безопасности, языковой поддержке и рекомендуемых сценариях именно этой AWQ-сборки отсутствуют. В репозитории указана лицензия MIT; при использовании также следует учитывать условия исходной модели DeepSeek-R1-Distill-Llama-8B.
Dolphin-2.6-FC_Hermes-2-Pro — объединённая модель, созданная с помощью LazyMergekit из cognitivecomputations/fc-dolphin-2.6-mistral-7b-dpo-laser и NousResearch/Hermes-2-Pro-Mistral-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов по текстовым запросам. Наследует ориентированные на инструкции и диалоговые сценарии возможности базовых моделей; описание базовой модели в каталоге также указывает на вызов функций и генерацию структурированного JSON. Заявленная длина контекста — 32 768 токенов. Файлы опубликованы в формате Safetensors. Языковая поддержка, лицензия и отдельные ограничения в предоставленных материалах не описаны.
dots.mocr-GGUF — это GGUF-сборка мультимодальной OCR-модели dots.mocr, разработанной rednote-hilab и основанной на dots-studio/dots.mocr. Модель предназначена для анализа изображений документов, распознавания текста, определения структуры и компоновки страниц, извлечения таблиц и формул, обработки веб-страниц, поиска текста на сценах и визуального ответа на вопросы. Она также поддерживает структурированный вывод JSON с ограничивающими рамками и категориями элементов макета. Модель построена на vision-language основе примерно с 3 млрд параметров и объединяет обнаружение макета, распознавание содержимого, семантическое понимание, grounding, разбор структурированной графики и интерактивный диалог. Поддерживается более 100 языков, включая английский и китайский, а также многоязычные документы. Для диаграмм, пользовательских интерфейсов, научных иллюстраций, химических формул и логотипов предусмотрена генерация SVG; для этой задачи упоминается специализированная модель dots.mocr-svg. Доступны варианты GGUF с точностью от BF16/F16 до различных уровней квантования размером примерно от 861 МБ до 3,56 ГБ, а также мультимодальные проекторы. Запуск заявлен через llama.cpp, HuggingFace Transformers и vLLM. К сильным сторонам относятся широкий набор задач в одной модели, многоязычность, работа с разными типами документов и высокая заявленная результативность на OmniDocBench, olmOCR-bench и XDocParse для своего класса. Ограничения включают зависимость качества от варианта квантования и вычислительных ресурсов, а также отсутствие в README подробностей о точном размере контекста, требованиях к памяти и отдельных характеристиках архитектуры. Модель распространяется по лицензии MIT.
RedHatAI/GLM-5.2-NVFP4-FP8 — квантизированная версия модели zai-org/GLM-5.2, разработанная RedHatAI. Это текстовая авторегрессионная модель для генерации текста, построенная на архитектуре GlmMoeDsaForCausalLM. Она принимает текст и возвращает текст, поддерживает английский и китайский языки и предназначена прежде всего для высокопроизводительного инференса и развёртывания через vLLM, включая сценарии с рассуждениями и вызовом инструментов. Модель использует смешанную точность: веса и активации механизмов внимания представлены в FP8 с блочным масштабированием, а эксперты MoE — в FP4 (NVFP4). Такая оптимизация снижает среднее число битов на параметр примерно с 16 до 4–5, уменьшая размер на диске и потребность в GPU-памяти примерно на 70–75% по сравнению с исходной версией BF16. Контекстная длина в README не указана; для конфигураций с контекстом до 1M токенов предлагается обращаться к рецепту vLLM для GLM-5.2. Главное преимущество модели — существенное сокращение требований к памяти при сохранении большей части качества исходной модели: на GPQA Diamond она набрала 89,1 против 91,2 у незаквантизированной версии, что соответствует восстановлению 97,7% результата. Ограничения включают небольшое снижение точности, зависимость от совместимой версии vLLM и необходимость исправления из pull request #47780. Модель распространяется по лицензии MIT.
Inkbot — разговорная языковая модель, разработанная автором репозитория Tostino и основанная на плотной архитектуре Llama. Она предназначена для генерации ответов по структурированным запросам, с дополнительным контекстом или без него. Модель насчитывает 12,9 млрд параметров, использует формат PyTorch и имеет нативное окно контекста 4096 токенов. В карточке описана настройка позиционных эмбеддингов для работы с контекстом до 8k токенов. Inkbot подходит для RAG-сценариев и ответов по предоставленному контексту, редактирования и упрощения текста, суммаризации, перефразирования, создания текстов и извлечения знаний в виде графа. Структурированный шаблон запроса принимает дату, задачу, системную инструкцию и контекст пользователя; модель рассчитана на более функциональные и лаконичные ответы. Для лучших результатов требуется соблюдать шаблон и ясно задавать контекст. На сложных задачах возможны зацикливание генерации, бесконечное добавление узлов графа знаний и потеря влияния пользовательского контекста через один-два запроса. Указана лицензия Llama 2.
NANI-Nithin/Instella-MoE-16B-A3B-Think-GGUF — набор GGUF-квантизаций модели Instella-MoE-16B-A3B-Think, разработанной AMD. Модель предназначена для рассуждений, генерации текста, программирования и выполнения общих инструкций, включая локальный запуск на рабочих станциях, CPU, GPU и периферийных устройствах через совместимые среды llama.cpp. Это MoE-модель архитектуры Instella-MoE, производная от семейства DeepSeek-V3, примерно с 16 млрд общих параметров и около 3 млрд активных параметров на токен. Она является текстовой, англоязычной моделью с контекстом до 32 768 токенов в указанном примере запуска. Репозиторий содержит варианты от Q2_K до Q8_0, IQ-квантизации и BF16; квантизация позволяет снижать требования к памяти с соответствующим компромиссом между качеством и размером. Ключевое ограничение — отсутствие поддержки Instella-MoE в основной ветке llama.cpp на момент подготовки файлов. Для запуска требуется форк llama.cpp с веткой instella-moe либо будущая версия с полной поддержкой архитектуры, включая Gated Attention и FarSkip. Лицензия модели указана как Apache-2.0.
NVIDIA Llama 3.1 8B Instruct FP8 — FP8-квантизированная версия инструкционно настроенной авторегрессионной языковой модели Meta Llama 3.1 8B Instruct. Модель подготовлена NVIDIA с помощью TensorRT Model Optimizer; README уточняет, что она не принадлежит NVIDIA и была собрана по требованиям стороннего разработчика. Архитектура — трансформер Llama 3.1 с плотной моделью примерно на 7,5 млрд параметров. Модель принимает текстовые последовательности и генерирует текст, поддерживает диалоговый режим и контекст до 128 тысяч токенов. Квантизация весов и активаций линейных операторов до FP8 предназначена для более экономичного и быстрого инференса: в README указано сокращение требований к диску и памяти GPU примерно на 50% и ускорение примерно в 1,3 раза на H100. Предусмотрен запуск через TensorRT-LLM и vLLM на совместимых GPU NVIDIA. Модель подходит для диалогов, генерации и продолжения текста, а также ответов на инструкции. В README заявлено коммерческое и некоммерческое использование; лицензия в метаданных — llama3.1. Качество и скорость зависят от оборудования и среды инференса; оценка ускорения приведена для конфигурации с H100.
ssmits опубликовал текстовую диалоговую модель Llama-3.1-Nemotron-92B-Instruct-HF-late, полученную слиянием через mergekit методом passthrough на основе nvidia/Llama-3.1-Nemotron-70B-Instruct-HF. Модель с плотной архитектурой LlamaForCausalLM содержит 90,9 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Модель предназначена для диалога, генерации ответов на инструкции и запросы, а также сценариев с интерфейсом вызова инструментов. Она распространяется в формате safetensors через библиотеку Transformers. Сведения о лицензии и конкретных ограничениях качества или безопасности в предоставленных данных отсутствуют.
Карточка модели aratadev/Llama-3.2-3B-Instruct на Hugging Face совпадает с карточкой unsloth/Llama-3.2-3B-Instruct, поэтому описание составлено по ней. unsloth/Llama-3.2-3B-Instruct — текстовая диалоговая модель семейства Llama 3.2, разработанного Meta и опубликованного Unsloth в виде модели на базе meta-llama/Llama-3.2-3B-Instruct. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 3,2 млрд параметров; веса представлены в формате safetensors. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и предназначена для многоязычных диалогов. Модель подходит для генерации ответов, суммаризации, поиска знаний в диалоговых сценариях и построения приложений с вызовом инструментов. В карточке Unsloth также приведены ноутбуки для дообучения и экспорта моделей, но это описание относится к самому чекпойнту. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; метаданные отдельно отмечают английский. Использование регулируется лицензией Llama 3.2 Community License — специальной коммерческой лицензией Meta.
NVIDIA Llama 3.3 70B Instruct NVFP4 — FP4-квантизованная версия инструктивной языковой модели Meta Llama 3.3 70B Instruct. Это авторегрессионная плотная модель на архитектуре Transformer/Llama 3.3 с 69,5 млрд параметров, принимающая текст и генерирующая текст. Контекст — до 128 тысяч токенов; модель поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для диалоговых ассистентов и генерации текста. Квантизация весов и активаций линейных операторов в блоках Transformer выполнена с помощью NVIDIA TensorRT Model Optimizer; по данным карточки, она уменьшает требования к дисковому пространству и памяти GPU примерно в 3,3 раза. Для инференса указан TensorRT-LLM, аппаратная совместимость — NVIDIA Blackwell. Модель основана на Meta Llama 3.3 70B Instruct и подходит для коммерческого и некоммерческого использования в соответствии с условиями лицензии Llama 3.3. В README не приведены конкретные языки и результаты бенчмарков, поэтому языковой охват и сохранение качества после квантизации по этим данным оценить нельзя.
Карточка модели nuottroisaoduoc/Meta-Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. unsloth/Meta-Llama-3.1-8B-Instruct — инструкционно настроенная плотная авторегрессионная языковая модель семейства Llama, опубликованная Unsloth на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для диалогов, генерации текста и выполнения пользовательских инструкций; каталог также отмечает интерфейс вызова инструментов. В репозитории указаны 7,5 млрд параметров, формат safetensors и библиотека Transformers. Заявленная длина контекста — 131 072 токена. Модель подходит для создания чат-ботов, генерации и продолжения текста, а также приложений, использующих интерфейс вызова инструментов. В метаданных указан английский язык; README посвящён настройке Llama 3.1 и не сообщает результатов оценки качества именно этой версии. Лицензия — llama3.1; условия использования следует сверять с лицензией семейства Llama 3.1.
Ministral-8B-Instruct-2410-HF — версия для Hugging Face модели Ministral-8B-Instruct-2410 от Mistral AI. Это плотная причинно-языковая модель на архитектуре Mistral с 7,5 млрд параметров, дообученная следовать инструкциям и вести диалог. Она принимает текст и предназначена для чата и генерации текста, включая интерфейс вызова функций. Максимальная длина контекста — 32 768 токенов. Модель поддерживает несколько языков, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский. Подходит для диалоговых помощников, генерации и продолжения текста, а также интеграции с инструментами через вызов функций. В карточке указана лицензия MRL; перед использованием следует учитывать её условия.
TheBloke/Mistral-7B-Instruct-v0.2-GGUF — это набор квантизированных файлов в формате GGUF для языковой модели Mistral 7B Instruct v0.2, разработанной Mistral AI и квантизированной TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая локальный запуск через llama.cpp и совместимые интерфейсы и библиотеки. Для форматирования запросов используется шаблон Mistral: <s>[INST] {prompt} [/INST]. Модель содержит 7 миллиардов параметров; поддерживаются варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные версии. Формат GGUF ориентирован на эффективный запуск с использованием CPU и GPU и совместим с llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими перечисленными средствами. README не указывает языки, размер контекста или мультимодальные возможности, поэтому модель следует рассматривать как текстовую. К преимуществам относятся возможность локального запуска, широкий выбор уровней квантования и поддержка различных программных инструментов. Более сильное квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной моделью; конкретные компромиссы зависят от выбранного файла. Модель распространяется по лицензии Apache-2.0.
Mistral-Nemo-Instruct-2407-4bit — это 4-битная версия модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.16.0. Модель предназначена для выполнения инструкций и генерации текста в приложениях, поддерживающих MLX и библиотеку mlx-lm. В карточке указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Ключевая характеристика этой версии — 4-битное представление, которое уменьшает требования к памяти по сравнению с полноразмерной моделью, но может сопровождаться некоторой потерей качества. Архитектура, число параметров, модальности и размер контекста в предоставленных данных не указаны. Для использования требуется библиотека mlx-lm; модель загружается по идентификатору mlx-community/Mistral-Nemo-Instruct-2407-4bit. Лицензия — Apache-2.0. Условия запуска и производительность зависят от совместимой с MLX среды.
Aratako/Mixtral-8x7B-Instruct-v0.1-upscaled — экспериментальная инструктивная языковая модель, созданная автором Aratako с помощью mergekit: слои исходной mistralai/Mixtral-8x7B-Instruct-v0.1 чередуются методом passthrough. Архитектура — Mixtral MoE для генерации текста и диалогов; в репозитории указано 12,3 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на запросы, ведения диалога, написания текстов, извлечения сведений, программирования и рассуждений. Карточка приводит результаты MT-Bench, где модель показывает неоднородные изменения относительно исходника по отдельным категориям; это не гарантирует качества на других задачах. Указаны языки английский, французский, итальянский, немецкий и испанский. Веса опубликованы в формате safetensors под лицензией Apache-2.0. Это экспериментальное слияние слоёв одной модели; README описывает метод и сравнительный бенчмарк, но не подтверждает независимую проверку результатов.
Occiglot-7B-EU5-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер с архитектурой Mistral и 7,1 млрд параметров, дообученный на 400 млн токенов многоязычных и программных инструкций. Модель принимает текстовые запросы в формате ChatML и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы, выполнения инструкций и задач с кодом на английском, испанском, французском, немецком и итальянском языках. Карточка приводит предварительные результаты тестирования и отмечает, что часть неанглоязычных оценок основана на машинном переводе, поэтому их следует интерпретировать осторожно. Модель не проходила выравнивание по безопасности и может создавать проблемный контент. Распространяется по лицензии Apache 2.0.
Olmo-3-7B-Instruct-SFT — англоязычная авторегрессионная Transformer-модель для диалогов и выполнения инструкций, разработанная Allen Institute for AI (Ai2). Это плотная языковая модель семейства OLMo 3 с 6,9 млрд параметров, дообученная методом SFT на наборах Dolci, включающих диалоги, общие знания, математику и программирование. Модель принимает текст и генерирует текст; контекстное окно составляет 65 536 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, задач по математике и программированию, а также следования инструкциям. В карточке приведены результаты тестов, включая MATH и AIME, но качество ответов может варьироваться. Лицензия Apache 2.0; разработчик рекомендует учитывать свои правила ответственного использования. Модель может выдавать неточные сведения и небезопасный или предвзятый контент, поэтому ответы следует проверять.
Ornith-1.5-35B-A3B-NInfer — квантованный артефакт модели Ornith-1.5-35B-A3B, разработанной shisa-ai на базе архитектуры Ornith и с компонентами, связанными с Qwen3.6-35B-A3B. Модель упакована в единый файл формата NInfer и предназначена для локального сервинга через NInfer, включая совместимый с OpenAI API интерфейс. Она ориентирована на текстовые и визуально-текстовые сценарии, а также на ускоренную генерацию с использованием speculative decoding. Модель построена по архитектуре Mixture-of-Experts размером 35B параметров: используется 256 экспертов, из которых 8 активируются для каждого токена. Архитектура включает 40 гибридных слоёв с линейным и полным вниманием, vision tower, однос слой MTP и контекст длиной до 262144 токенов. В артефакт встроены квантованные groupwise-int веса, MTP-голова, DFlash draft-модель, vision tower, токенизатор и официальный frontend Qwen. Размер файла составляет около 21,22 GiB; заявлена работа на одной видеокарте RTX 5090 с 32 ГБ памяти, при этом NInfer ориентирован на sm_120a. Сильными сторонами являются большое контекстное окно, поддержка изображений, единый переносимый артефакт и ускорение генерации за счёт MTP и DFlash. В README указано ожидаемое принятие спекулятивных токенов около 80% и примерно 3,4 токена за раунд для окна из 3 токенов, однако на дообученных сценариях скорость может снижаться, поэтому производительность следует измерять на собственных данных. Артефакт распространяется по лицензии Apache-2.0; он не является официальным релизом Qwen, shisa-ai, ornith-ai или NInfer.
Qemma-Q1.7B — компактная текстовая модель для диалогов и выполнения инструкций от Convergent Intelligence LLC: Research Division. Она объединяет веса Gemma 3 1B и Qwen3 1.7B, используя основу Gemma с MLP и телом Gemma и механизмом внимания и головой в стиле Qwen; после слияния модель прошла дополнительное SFT-обучение для пошаговых рассуждений. Указанный в метаданных размер — 1B параметров, архитектура — плотная Gemma3ForCausalLM, формат весов — safetensors. Модель предназначена для следования инструкциям, диалогов, рассуждений, помощи с кодом и анализа, а также для дальнейшего дообучения. Она принимает текст и выдаёт текст, поддерживает английский язык и заявляет контекст до 262 144 токенов с масштабированием RoPE на основе YaRN. Лицензия — OSL-3.0. Карточка предупреждает о возможных галлюцинациях и не рекомендует полагаться на модель в критически важных медицинских, юридических и финансовых решениях.
Qwen2-1.5B-Instruct-GPTQ-Int4 — инструкционно дообученная языковая модель из семейства Qwen2, разработанная командой Qwen. Она предназначена для диалоговых сценариев и генерации текста: ответов на вопросы, кратких объяснений, работы с естественным языком и кодом. Модель относится к классу decoder-only Transformer и содержит 1,5 млрд параметров; версия GPTQ-Int4 использует 4-битное квантование для снижения требований к памяти при инференсе. Поддерживаются текстовые входы и выходы, а контекстное окно в README не указано. В архитектуре заявлены активация SwiGLU, bias в QKV-проекциях и group query attention. Токенизатор адаптирован для нескольких естественных языков и языков программирования, однако в метаданных README явно указан английский язык. Модель предварительно обучалась на большом объёме данных, а затем дообучалась с помощью supervised fine-tuning и direct preference optimization; заявлены возможности в понимании и генерации текста, многоязычности, программировании, математике и рассуждениях. README не приводит точных результатов тестов и не описывает специфические ограничения качества квантированной версии; для запуска рекомендуются актуальные версии transformers, autogptq или vLLM. Лицензия — Apache 2.0.
Lambent/qwen2.5-reinstruct-alternate-lumen-14B — объединённая диалоговая языковая модель Lambent на архитектуре Qwen2, созданная с помощью mergekit. В основе объединения лежит Lambent/qwen2.5-lumen-rebased-14B; также использована Qwen/Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и интерфейс вызова инструментов. В README приведена оценка EQ-Bench 77,6713; автор отмечает, что она сопоставима с Lumen и исходной Instruct-моделью, но оценка не гарантирует качество для конкретных задач. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Лицензия в предоставленных источниках не указана.
Qwen3-0.6B-GPTQ-Int8 — квантованная 8-битная версия причинной языковой модели Qwen3-0.6B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, переводов, творческого письма и сценариев с интеграцией внешних инструментов. Она поддерживает переключение между режимами рассуждения и обычного диалога в рамках одной модели. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не являются параметрами эмбеддингов, имеет 28 слоёв и использует Grouped-Query Attention с 16 головами для запросов и 8 для ключей и значений. Контекстное окно составляет 32 768 токенов. Поддерживаются более 100 языков и диалектов, однако конкретный перечень языков в README не указан. Модель работает с текстовой модальностью и распространяется в формате GPTQ с 8-битной квантизацией. К сильным сторонам относятся компактный размер, поддержка многоязычных инструкций, режимов рассуждения и обычной генерации, а также возможности для агентских сценариев. Ограничения включают меньший размер по сравнению с крупными моделями Qwen3 и возможное появление повторов при неподходящих параметрах генерации; README рекомендует при таких проблемах использовать presence_penalty 1.5. Модель распространяется по лицензии Apache 2.0.