I.11Классификация, ранжирование и сопоставление

Atem-Pharaoh-3B-i1-GGUF — GGUF-квантизированная версия модели Atem-Pharaoh-3B, разработанной EphAsad и квантизированной mradermacher. Модель предназначена для генерации текста, диалоговых сценариев и задач рассуждения, включая математику, программирование, анализ и ответы в областях, представленных обучающими наборами. В обучении или дообучении использовались наборы с математическими, кодовыми, медицинскими и рассуждательными примерами, а также синтетические данные, полученные дистилляцией других моделей. Модель имеет около 3 миллиардов параметров и распространяется в формате GGUF для использования с совместимыми инструментами, включая llama.cpp. Доступны варианты с разными уровнями квантизации — от IQ1 и IQ2 до Q6_K; они различаются размером файлов, скоростью и качеством. Для баланса размера, скорости и качества в README рекомендуется вариант i1-Q4_K_M, а i1-Q4_K_S также отмечен как оптимальный по этим параметрам. Указан английский язык; сведения о поддерживаемых модальностях и размере контекстного окна отсутствуют. Сильными сторонами являются компактный размер, возможность локального запуска и специализация на рассуждении, математике, коде и диалогах. Ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием подробных результатов оценивания. Модель распространяется по лицензии Apache-2.0.

unsloth/aya-vision-32b — версия с весами, опубликованная Unsloth на основе мультимодальной модели Aya Vision 32B от Cohere For AI. Это плотная vision-language модель для диалога по тексту и изображениям: она принимает текст и изображения, а в ответ генерирует текст. Варианты Aya Vision предназначены для OCR, описания изображений, визуальных рассуждений, суммаризации, ответов на вопросы по изображениям и других задач понимания визуального содержимого. Модель относится к семейству Aya Vision и использует архитектуру AyaVisionForConditionalGeneration; для обработки изображений применяется зрительный энкодер SigLIP2. Она поддерживает многоязычное взаимодействие, включая русский, и работает через библиотеку Transformers. Карточка README относится к версии 8B, поэтому приведённые там сведения о контексте 16K, обработке изображений и подробном списке 23 языков нельзя уверенно переносить на эту версию 32B. Репозиторий основан на CohereForAI/aya-vision-32b и классифицирован как дообученная модель; веса хранятся в формате safetensors. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование и требует соблюдать условия допустимого использования C4AI. Подробности производительности и ограничения именно версии 32B в предоставленной карточке не описаны.

Baichuan2-7B-Chat-4bits — 4-битная квантованная чат-модель семейства Baichuan 2, разработанного Baichuan Intelligence. Это плотная авторегрессионная языковая модель на 7 млрд параметров для диалогов и генерации текста на китайском и английском языках. Модель обучена на корпусе объёмом 2,6 трлн токенов; доступный контекст составляет 4096 токенов. Модель предназначена для ответов в чате, генерации текста и решения общих языковых задач, включая сценарии в областях права, медицины, математики, программирования и перевода. В README отмечены результаты оценки на китайских и англоязычных бенчмарках. Для запуска требуется PyTorch 2.0 или новее. Для академического использования модель открыта. Коммерческое использование требует соблюдения Apache 2.0 и специального соглашения сообщества Baichuan 2, включая получение официального разрешения; для него также указаны ограничения по масштабу и типу организации. Модель может ошибаться или давать небезопасные ответы; авторы предупреждают о необходимости проверки соответствия применимым требованиям и безопасности сервисов.

Это квантизированная GGUF-версия языковой модели c4ai-command-r7b-12-2024, разработанной CohereForAI. Сборку подготовил bartowski с использованием llama.cpp и квантизации imatrix. Модель предназначена для генерации текста и диалоговых сценариев; запуск возможен, в частности, через LM Studio с поддержкой актуальной версии llama.cpp. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский, турецкий, украинский и вьетнамский языки. Доступны варианты с разными уровнями квантизации — от F32 и Q8_0 до более компактных Q3 и IQ4; они позволяют выбирать между качеством генерации и требованиями к памяти. Для модели указан специальный шаблон диалога, однако сведения о точной архитектуре, размере контекста и результатах тестирования в карточке отсутствуют. Чем сильнее сжатие, тем ниже ожидаемое качество, хотя варианты Q5 и Q6 заявлены как высококачественные. Использование регулируется лицензией CC BY-NC 4.0 и ограничено некоммерческими сценариями.

bartowski/cognitivecomputations_Qwen3-72B-Embiggened-GGUF — это набор GGUF-квантизаций языковой модели Qwen3-72B-Embiggened, разработанной cognitivecomputations. Квантизации подготовлены bartowski с использованием llama.cpp версии b5627 и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio и совместимые проекты. В набор входят варианты от Q8_0 до Q3_K и IQ3/IQ4, размером примерно от 31,76 до 77,26 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, тогда как некоторые варианты Q3 имеют заметно более низкое качество. Отдельные файлы используют legacy-форматы или особенности, оптимизированные для ARM, AVX или Apple silicon. README не содержит сведений о точной архитектуре исходной модели, поддерживаемых языках, максимальном контексте, мультимодальности, результатах тестирования или специализированных сценариях применения. Поэтому модель можно уверенно охарактеризовать как крупную текстовую LLM для локальной генерации текста, но её конкретные возможности следует уточнять в документации исходной cognitivecomputations/Qwen3-72B-Embiggened. Распространение указано по лицензии Apache-2.0.

MaziyarPanahi/DeepSeek-R1-0528-Qwen3-8B-GGUF — это набор файлов модели в формате GGUF для базовой модели deepseek-ai/DeepSeek-R1-0528-Qwen3-8B. Исходную модель разработала deepseek-ai, а квантированную версию подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты. GGUF — формат, созданный командой llama.cpp и пришедший на смену GGML. Доступны варианты квантования с разной разрядностью: 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством работы. Поддерживаются llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, Faraday.dev, candle и ctransformers. К сильным сторонам относятся возможность локального использования, широкий выбор уровней квантования, GPU-ускорение в ряде клиентов и совместимость с OpenAI-совместимыми серверными интерфейсами некоторых библиотек. README не содержит сведений о точной архитектуре, размере параметров, поддерживаемых языках, длине контекста, мультимодальности, результатах тестирования или лицензии, поэтому эти характеристики нельзя достоверно определить.

NVIDIA DeepSeek-V3.1-NVFP4 — квантизированная версия авторегрессионной языковой модели DeepSeek-V3.1, подготовленная NVIDIA с помощью TensorRT Model Optimizer. Архитектура основана на трансформере DeepseekV3ForCausalLM; модель содержит 37,6 млрд параметров и поддерживает контекст до 163 840 токенов. Принимает текстовые последовательности и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для разработчиков, которым нужна готовая к развёртыванию языковая модель для чат-ботов, AI-агентов, RAG-систем и других приложений. Квантизация весов и активаций линейных операторов до FP4 сокращает требования к диску и памяти GPU примерно в 1,6 раза. Для инференса предусмотрен TensorRT-LLM; заявлена совместимость с GPU NVIDIA Blackwell, а пример развёртывания требует восемь GPU B200. README характеризует модель как готовую к коммерческому и некоммерческому использованию; метаданные указывают лицензию MIT. Базовая модель не разработана NVIDIA: это сторонняя модель DeepSeek-V3.1. Она может воспроизводить токсичность и общественные предубеждения из обучающих данных, а также выдавать неточные, неполные, нерелевантные или повторяющиеся ответы. Перед внедрением необходимы проверки на данных и требованиях конкретного применения.

Eagle 2.5-8B — мультимодальная модель семейства Eagle 2.5 от NVIDIA для анализа изображений, видео и текста. В основе архитектуры — визуальный энкодер SigLIP2-So400m-Patch16-512 и языковая модель Qwen2.5-7B-Instruct, объединённые в мультимодальную архитектуру на базе LLaVA с разбиением изображений на фрагменты. Модель поддерживает изображения высокого разрешения, многостраничные документы, длинный текст и видео до 512 кадров; контекст при обучении постепенно расширяли с 32K до 128K токенов. Модель предназначена для ответов на вопросы по видео и изображениям, суммаризации видео, локализации событий и понимания документов. В README сообщается о результатах на тестах понимания длинных видео и изображений, включая 72,4% на Video-MME при подаче 512 кадров. Указанная в метаданных лицензия — other; конкретные условия следует сверять с карточкой модели.

ELYZA-Thinking-1.0-llm-jp-4-32b-a3b — языковая модель ELYZA, дообученная на базе llm-jp/llm-jp-4-32b-a3b-base. Это модель семейства Qwen3 MoE для генерации текста с рассуждениями и следованием инструкциям; в карточке указаны 2,9 млрд параметров и контекст 65 536 токенов. Обучение включало промежуточное обучение, SFT и обучение с подкреплением по проверяемым результатам. Модель рассчитана прежде всего на японский язык, также поддерживает английский. В README описаны сценарии решения математических и STEM-задач, программирования, ответов на вопросы о японских знаниях, выполнения сложных инструкций и использования инструментов. Для запуска рекомендованы vLLM или Transformers; лицензия — Apache-2.0.

flammen31-mistral-7B — слитая методом Model Stock языковая модель, созданная flammenai с помощью mergekit на основе flammenai/flammen27-mistral-7B и восьми других моделей семейства Mistral. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и генерирует текст; контекст составляет до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Слияние объединяет flammen29, flammen30, flammen23X, Neurallaymons, Argetsu, Seraph-openchat, Tippy-Toppy, StarMonarch и samantha-mistral-7b. В репозитории представлены веса Safetensors, исходная точность указана как bfloat16. Модель выпущена под лицензией Apache-2.0.

MuXodious/gemma-4-26B-A4B-it-SOMPOA-heresy — дообученная версия Gemma 4 26B A4B IT, созданная автором MuXodious с помощью Heretic v1.2.0 и метода abliteration с Self-Organizing Maps и magnitude-preserving orthogonal ablation. Модель предназначена для диалогов и анализа изображений с выдачей текста; README описывает её как вариант с уменьшенным числом отказов. В испытаниях число отказов снизилось с 103 из 104 до 4 из 104, KL-дивергенция составила 0,1240. Это мультимодальная модель семейства Gemma 4 с архитектурой Gemma4ForConditionalGeneration и весами Safetensors. Она принимает текст и изображения и генерирует текст. README приводит для Gemma 4 26B A4B контекст до 256 тысяч токенов и поддержку множества языков; эти характеристики описывают базовое семейство, а не отдельную проверку данной дообученной версии. Карточка лицензирована по Apache-2.0. Автор отмечает, что модель может ошибочно срабатывать на дисклеймеры и рекомендует рассмотреть максимальную длину ответа 120–150 токенов. Показатели испытаний в карточке не заменяют независимую оценку качества; сниженное число отказов означает, что модель может отвечать на запросы, от которых базовая версия отказывалась.

gaianet/gpt-oss-20b-GGUF — сборка модели openai/gpt-oss-20b, опубликованная Gaianet в формате GGUF. Это языковая модель архитектуры gpt_oss с разреженной MoE-архитектурой для генерации текста и диалогового применения. В README указан исходный репозиторий модели и раздел запуска с Gaianet. Модель принимает текстовые запросы и генерирует текст; заявленная длина контекста составляет 131072 токена. В метаданных указаны 1,6 млрд параметров, библиотека Transformers, форматы GGUF и GGUF F16, а также лицензия Apache-2.0. README не описывает специальные предметные области или конкретные языковые ограничения.

granite-vision-3.2-2b — компактная мультимодальная модель IBM, дообученная на базе ibm-granite/granite-vision-3.2-2b для понимания изображений и работы с визуальными документами. Архитектура LLaVA-NeXT объединяет визуальный энкодер SigLIP, двухслойный MLP-коннектор и языковую модель Granite 3.1 2B Instruct; модель использует разрешение AnyRes и многослойные признаки энкодера. В метаданных указаны архитектура LlavaNextForConditionalGeneration и формат safetensors. Модель принимает изображения и инструкции на английском языке и формирует текстовые ответы. Она предназначена для извлечения сведений из таблиц, графиков, инфографики, диаграмм и других документов, OCR, ответов на вопросы по изображениям, а также общих задач визуального понимания. В базовой языковой модели заявлено контекстное окно 128 тыс. токенов. Лицензия — Apache 2.0. Модель может ошибаться, выдавать предвзятые или небезопасные ответы; её компактный размер может повышать риск галлюцинаций. Для задач только с текстовым вводом README рекомендует использовать текстовые модели Granite.

H2OVL-Mississippi-800M — компактная мультимодальная модель зрения и языка от H2O.ai с 0,8 млрд параметров. Она построена на архитектуре языковых моделей H2O-Danube и предназначена для диалога и извлечения текстовой информации из изображений. Модель обучена на 19 млн пар «изображение—текст» с упором на распознавание текста, понимание документов, а также интерпретацию диаграмм, рисунков и таблиц. Она ориентирована на OCR и обработку документов; карточка сообщает о сильных результатах в распознавании текста, включая Text Recognition в OCRBench. Модель принимает изображения и текстовые запросы и генерирует текстовые ответы, например извлечённые сведения или структурированное представление содержимого изображения. В репозитории указана лицензия Apache-2.0. Как и другие генеративные модели, она может выдавать ошибочные или нерелевантные ответы; результаты распознавания следует проверять.

ibm-granite_granite-4.1-8b-GGUF — это квантизированная версия языковой модели granite-4.1-8b, разработанной IBM (ibm-granite) и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет около 8 миллиардов параметров и доступна в вариантах от BF16 до различных уровней квантизации Q2–Q8 и IQ. Размер файлов составляет примерно от 4,07 до 17,59 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. Для взаимодействия используется специальный шаблон промпта с ролями system, user и assistant. Сведения о поддерживаемых языках, архитектуре исходной модели, модальностях помимо текста и размере контекстного окна в представленном README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального инференса и совместимость с распространёнными инструментами. Более точные варианты, включая Q6_K и Q6_K_L, обеспечивают качество, близкое к исходному, тогда как варианты Q3 и Q2 рассчитаны на системы с ограниченным объёмом памяти, но сопровождаются заметным снижением качества. Модель распространяется по лицензии Apache-2.0.

InternLM2.5-20B-Chat GGUF — большая языковая чат-модель в формате GGUF, разработанная Shanghai AI Laboratory (上海人工智能实验室) и представленная для запуска с помощью llama.cpp. Она предназначена для локального и облачного инференса, ведения диалогов, генерации текста и интеграции в сервисы через совместимый с OpenAI API сервер llama-server. В README также показан сценарий вызова функций, например получения текущей погоды через внешний инструмент. Модель имеет размер 20B параметров и поддерживает несколько вариантов точности и квантования, включая FP16, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В качестве языков указано English, а в примере системного промпта заявлена способность общаться на английском и китайском языках. README демонстрирует контекст размером 4096 токенов и рекомендует использование аппаратного ускорения, включая CUDA; конкретные требования к ресурсам не указаны. Сильными сторонами модели являются возможность локального развёртывания на различных аппаратных платформах, наличие низкобитных версий и поддержка чатового взаимодействия, вызова функций и OpenAI-совместимого API. Ограничения включают отсутствие подробных данных о качестве, обучающих данных, точных языковых возможностях и рекомендуемых ресурсах, а также то, что результаты зависят от выбранной точности, конфигурации llama.cpp и параметров инференса. Модель распространяется по лицензии Apache-2.0.

kromvault выпустил L3-Horizon-Anteros-Ara-v0.1-9B — объединённую модель для генерации текста и диалогов. Она построена на архитектуре Llama с плотной моделью причинного языкового моделирования и содержит 8,4 млрд параметров; максимальный контекст — 8192 токена. Модель создана методом Della с помощью mergekit: в качестве базовой использована parts/anterosara.b, в объединение также включена parts/anterosara.c. Вес модели сохранён в формате safetensors, тип данных при объединении — bfloat16. Метаданные указывают библиотеку Transformers и возможность чата. Лицензия в предоставленных данных не указана.

bunnycore выпустила Llama-3.1-8B-OmniMatrix — чат-модель для генерации текста, созданную слиянием нескольких моделей семейства Llama 3.1 с помощью mergekit и метода task arithmetic. В основу слияния вошли arcee-ai/Llama-3.1-SuperNova-Lite и grimjim/Llama-3-Instruct-abliteration-LoRA-8B; также объединены bunnycore/LLama-3.1-8B-HyperNova-abliteration, bunnycore/StockLLama-3.1-8B и v000000/L3.1-Storniitova-8B. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно до 131 072 токенов. Она предназначена для диалогов и генерации текста по инструкциям; карточка указывает библиотеку Transformers и формат safetensors. В метаданных нет сведений о специальной предметной области или лицензии, поэтому условия лицензирования здесь описать нельзя.

Это текстовая версия Llama 3.2 11B Vision Instruct, опубликованная theo77186: автор карточки сообщает, что из исходной модели оставлена только языковая часть размером около 8 млрд параметров. Модель построена на архитектуре Llama и предназначена для генерации текста в формате инструкций и диалогов, включая ответы на вопросы и работу в роли чат-ассистента. Модель принимает текст и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленная длина контекста — 131 072 токена. В репозитории указаны веса safetensors и лицензия Llama 3.2 Community License с особыми условиями использования. Хотя исходная Llama 3.2 Vision рассчитана на задачи с изображениями, автор этого репозитория оставил только языковую часть, поэтому описанные сценарии обработки изображений к данной версии не относятся. Карточка не приводит отдельной оценки качества именно этой текстовой версии. Следует учитывать условия Community License и Acceptable Use Policy; модель обучена на статическом наборе данных.

LRM-3.2 — модель рассуждений, разработанная Orion Research и дообученная на базе Qwen3.6-27B. Она предназначена для диалогов, решения задач и многошаговой работы, включая агентные сценарии. Модель сокращает рассуждения во внутреннем ходе мыслей: их длина адаптируется к сложности задачи, а ответы пользователю сохраняют обычную полноту и естественность. Заявленная цель — снизить задержку и расход токенов без ухудшения качества итоговых ответов. Архитектура — плотная Qwen3.5, базовая модель содержит 27 млрд параметров. Дообучение выполнено на наборах ProCreations/grug-think и ProCreations/grug-think-v3-10k с акцентом на траектории рассуждений; README указывает, что токенизатор и длина контекста базовой модели не менялись, но числовое значение контекста не приводит. Модель распространяется в формате safetensors по лицензии Apache-2.0. Описание и примеры сосредоточены на английском языке; поддержка других языков отдельно не заявлена.

MiniCPM-o 2.6 — мультимодальная модель команды OpenBMB для понимания изображений, аудио и видео, а также голосового общения и потоковых сценариев. По карточке она построена как сквозная система на основе SigLip-400M, Whisper-medium-300M, ChatTTS-200M и Qwen2.5-7B; в метаданных указано 7,1 млрд параметров, плотная архитектура MiniCPMO и контекст 32 768 токенов. Модель доступна через Transformers и распространяется по лицензии Apache-2.0. Модель принимает текстовые запросы, изображения, аудио и непрерывные аудио-видеопотоки. Она отвечает текстом и может вести голосовой диалог с настраиваемыми голосом, эмоцией, скоростью и стилем; также поддерживает клонирование голоса. README описывает распознавание речи, анализ говорящих, аудиоподписи, классификацию звуковых сцен, OCR, понимание нескольких изображений и видео, а также мультимодальное общение в реальном времени. Заявлена поддержка более 30 языков для мультимодальных задач и двуязычный речевой диалог на английском и китайском. Среди заявленных сильных сторон — обработка изображений с разными пропорциями сторон, высокая плотность визуальных токенов и возможность локального запуска на устройствах с ограниченными ресурсами в подходящих сборках. README указывает на совместимость с Transformers 4.44.2 и предупреждает о возможных проблемах совместимости с другими версиями; работа с потоковыми аудио-видео данными требует соответствующей реализации и оборудования. Заявленные результаты бенчмарков приведены авторами модели и зависят от условий оценки.

MaziyarPanahi/Mistral-7B-model_45k6e2e4-Mistral-7B-Instruct-v0.1 — объединённая авторами модель на архитектуре Mistral для генерации текста и ответов в диалоге. Она создана методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и pankajmathur/Mistral-7B-model_45k6e2e4; конфигурация указывает точность bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов на текстовые инструкции и диалоговые запросы. В метаданных указан английский язык, интерфейс чата и задача text-generation. Репозиторий распространяется по лицензии Apache-2.0.

Vortex5/Moonlit-Shadow-12B — языковая модель, собранная автором репозитория методом Model Stock с помощью mergekit на основе mistralai/Mistral-Nemo-Instruct-2407 и десяти других моделей семейства Mistral-Nemo. Модель имеет плотную архитектуру MistralForCausalLM, содержит 12,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по запросам. Её можно использовать для составления текстов, ответов в чате и продолжения пользовательских запросов. В карточке указаны библиотека Transformers и формат весов safetensors. Лицензия в доступных данных не указана.

Mungert/Nanonets-OCR2-3B-GGUF — это GGUF-версия мультимодальной модели Nanonets-OCR2-3B, разработанной компанией Nanonets. Модель предназначена для OCR и преобразования документов в структурированный Markdown, а также для image-to-text и visual question answering (VQA). Указано, что базовой моделью является Qwen/Qwen2.5-VL-3B-Instruct, а конвертация выполнена с использованием llama.cpp. Точный размер контекста в карточке не указан. Модель ориентирована на обработку сложных документов: распознаёт печатный и рукописный текст, извлекает таблицы в Markdown и HTML, распознаёт математические формулы в LaTeX, описывает изображения, а также выделяет подписи, водяные знаки и элементы форм, включая чекбоксы. Блок-схемы и организационные диаграммы может представлять в виде кода Mermaid. Для VQA модель должна отвечать по содержимому документа, а при отсутствии ответа — возвращать «Not mentioned». Заявлена поддержка множества языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский и корейский; полный перечень не приведён. GGUF-квантизация предназначена для локального запуска, а автор карточки описывает повышение точности отдельных важных слоёв за счёт их хранения в более высокой точности, что увеличивает размер файла. Лицензия в предоставленных данных не указана.

NeuralsirkrishnaShadow_Inex12Neural — слитая языковая модель семейства Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/Inex12Neural-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста на основе текстового запроса; длина контекста составляет до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Данные карточки не описывают специализацию по языкам или прикладным областям, поэтому её следует рассматривать как модель общего назначения. Качество и конкретные возможности зависят от запроса и сценария применения.

Neutrino-8B — диалоговая языковая модель на 8,19 млрд параметров, разработанная FermionResearch на основе Qwen/Qwen3-8B. Она предназначена для общения с пользователем, генерации текста, следования инструкциям, создания структурированного JSON и вызова инструментов; режим рассуждений отключён. Модель использует плотную архитектуру TrtcV4ForCausalLM с 36 слоями и шириной скрытого представления 4096. Линейные слои упакованы в пятизначное представление с разрядностью менее двух бит на вес, а таблицы эмбеддингов хранятся в int8. Репозиторий содержит GGUF-сборку; модель также запускается через Transformers, CPU, MLX и llama.cpp на поддерживаемых платформах. Модель унаследовала многоязычную токенизацию Qwen3-8B, но в карточке не перечислены конкретные поддерживаемые естественные языки. Контекстное окно в предоставленной информации не описано. Разработчик приводит результаты MMLU-Redux и IFEval и рекомендует параметры генерации отдельно для диалога, структурированного вывода и длинных текстов. Для корректной остановки нативного C-бинарника требуется задать EOS-токен; при генерации JSON рекомендуется отключать штраф за повторения. Лицензия — Apache-2.0.

Olmo-3-1125-32B — плотная авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Это базовая модель семейства OLMo 3, обученная на 5,50 трлн токенов набора Dolma 3; в карточке также описаны этапы промежуточного обучения и обучения длинному контексту. Модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста на английском языке и может служить основой для прикладных систем, дообучения и экспериментов с языковыми моделями. В обучающих данных представлены веб-страницы, код, математика, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса Safetensors для использования через Transformers версии 4.57.0 или выше. Модель выпущена по лицензии Apache 2.0. Как базовая языковая модель без фильтрации безопасности, она может генерировать вредный или предвзятый контент, а фактические ответы могут быть неточными и требуют проверки.

Карточка модели ThomasComics/Phi-3-mini-128k-instruct-LLaMAfied на Hugging Face совпадает с карточкой vonjack/Phi-3-mini-4k-instruct-LLaMAfied, поэтому описание составлено по ней. vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

mlx-community/Qwen2.5-72B-Instruct-8bit — 8-битная версия модели Qwen2.5-72B-Instruct, подготовленная сообществом mlx-community из Qwen/Qwen2.5-72B-Instruct для формата MLX с помощью mlx-lm 0.18.1. Это плотная языковая модель на 71,5 млрд параметров с архитектурой Qwen2 и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста и интерфейса вызова инструментов. Формат MLX ориентирован на запуск с mlx-lm. В метаданных указан английский язык; иных языков карточка не подтверждает. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория.

MaziyarPanahi/Qwen3-32B-GGUF — это набор квантованных файлов модели Qwen3-32B в формате GGUF. Исходную модель разработала команда Qwen, а конвертацию и публикацию квантованных вариантов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; возможны ускорение на GPU и предоставление OpenAI-совместимого API в зависимости от используемого ПО. Карточка не содержит подробностей об архитектуре, количестве параметров исходной модели, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или конкретных ограничениях качества. Условия лицензирования в README также не указаны, поэтому их следует уточнить на странице исходной модели Qwen/Qwen3-32B и публикации квантованных файлов.