I.11Классификация, ранжирование и сопоставление

granite-4.1-8b-heretic — это децензурированная версия IBM Granite 4.1 8B Instruct, созданная пользователем RACER IS OP на основе модели ibm-granite/granite-4.1-8b-instruct. Модель предназначена для генерации текста, диалоговых сценариев, написания кода, задач на рассуждение и других случаев, где требуется прямое следование инструкциям без типичных отказов базовой модели. Она ориентирована на локальный запуск на потребительских GPU, CPU и Apple Silicon, а также может использоваться через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Модель имеет нативный размер около 8,4 млрд параметров; доступны веса BF16 и варианты GGUF с квантованием Q4_K_M, Q5_K_M, Q6_K и Q8_0. В README указана поддержка английского языка, архитектурные детали и размер контекста не приведены. Децензурирование выполнено с помощью Heretic 1.4.0 методом directional ablation («abliteration»): целевые изменения весов внесены в выходные проекции attention и down-projections MLP без дообучения. Заявляется, что знания и основные возможности базовой модели в значительной степени сохранены. Сильной стороной модели является сочетание возможностей 8B-модели, доступности различных уровней квантования и подавления отказов, что делает её удобной для локального использования. Ограничение состоит в намеренном отсутствии дополнительной фильтрации безопасности: модель может выполнять запросы, от которых отказалась бы базовая версия, в том числе нежелательные. Поэтому разработчик рекомендует не использовать её за незащищёнными публичными интерфейсами без собственного контроля и модерации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Hercules-Qwen1.5-14B — разговорная языковая модель, разработанная M4-ai и дообученная на 700 тысячах примеров Hercules-v4 от Qwen1.5-14B. Она предназначена для работы в роли универсального ассистента: отвечает на вопросы, помогает с математикой и программированием, поддерживает вызов функций и ролевые диалоги. Архитектура — плотная Qwen2ForCausalLM с 13,4 млрд параметров; модель рассчитана на контекст до 32 768 токенов и распространяется в формате safetensors. В карточке заявлена поддержка английского и, возможно, китайского языков. Обучение проводилось в bf16 с длиной последовательности 1024; оценка качества в карточке не приведена. Лицензия указана как tongyi-qianwen license, а метаданные классифицируют лицензию как other. Разработчик предупреждает о рисках, смещениях и ограничениях модели.

Hermes-Euryale-70B — объединённая диалоговая языковая модель на базе Llama 3.1, созданная с помощью mergekit методом SLERP из NousResearch/Hermes-3-Llama-3.1-70B и Sao10K/L3.1-70B-Euryale-v2.2. Модель разработана владельцем репозитория harkov000; архитектура — плотная LlamaForCausalLM с 69,5 млрд параметров, для работы используется библиотека Transformers. Нативное контекстное окно составляет 131 072 токена. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. Она объединяет характеристики двух исходных моделей; метаданные описывают Hermes 3 как англоязычную модель для инструкций, кода, длинных бесед и работы с инструментами. Файлы модели представлены в формате safetensors. Лицензия в предоставленных данных не указана.

Hugo-7B-slerp — диалоговая языковая модель на архитектуре Mistral, созданная paulilioaica слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и CodeNinja-1.0-OpenChat-7B с помощью mergekit. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате; объединяет возможности исходных моделей, включая общие диалоговые задачи и работу с кодом. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты оценок на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, но они не гарантируют аналогичное качество на других задачах. Языковая поддержка и специализированные области применения в карточке не перечислены. Модель распространяется по лицензии Apache-2.0.

INTELLECT-3-REAP-50-heretic — текстовая чат-модель jtl11, созданная на основе PrimeIntellect/INTELLECT-3. Это версия INTELLECT-3 с удалением 50% экспертов методом REAP (Router-weighted Expert Activation Pruning) и изменением поведения отказов с помощью abliteration. Модель сохраняет архитектуру GLM-4 MoE; в репозитории указано 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоге, включая ответы на запросы, код и сложные многошаговые задачи. Калибровка REAP использовала примеры генерации кода, вызова функций и многоходовых сценариев для агентов. В сравнении с исходной моделью в README указано 3 отказа из 100 запросов против 60 из 100; измеренная KL-дивергенция составляет 0,0413. Модель доступна в формате safetensors по лицензии Apache-2.0.

IFM/K2-Horizon-7B-GGUF — это GGUF-версия модели K2-Horizon-7B, разработанной IFM. Репозиторий предназначен для запуска модели с помощью llama.cpp и содержит тензоры в исходной точности BF16, метаданные токенизатора и совместимый с llama.cpp шаблон чата. Модель представляет собой плотную decoder-only архитектуру среднего размера в семействе K2-Horizon, с 7B параметров в основном ядре и контекстным окном на 524 288 токенов. Она ориентирована на генерацию текста, агентские сценарии, программирование, задачи с длинным контекстом и рассуждения. В README указан английский язык. Модель оценивается на математических, инженерных, кодировочных и long-context-бенчмарках; среди заявленных характеристик — результат 70,6 на SWE-bench Verified и 73,3 на HMMT Feb 2026. К сильным сторонам относятся большое нативное контекстное окно, открытость обучающих данных, рецепта, кода обучения и ресурсов оценки, а также наличие промежуточных чекпойнтов. Для запуска требуется версия llama.cpp с поддержкой архитектуры K2 Horizon; на момент публикации такая поддержка находилась в разработке, а совместимая ветка доступна в форке MBZUAI-IFM. Модель распространяется по лицензии Apache-2.0.

Llama-3.1-Minitron-4B-Depth-Base — базовая языковая модель NVIDIA для генерации текста. Она построена на архитектуре Llama 3.1 с авторегрессионным трансформером, механизмом Grouped-Query Attention и позиционными эмбеддингами RoPE; размер модели составляет 4 млрд параметров, а длина контекста — до 131 072 токенов. Модель принимает и выдаёт текст. Модель создана прореживанием слоёв Llama-3.1-8B, после чего её продолжили обучать с дистилляцией на 94 млрд токенов. Она предназначена для адаптации к задачам генерации естественного языка, включая продолжение текста, ответы на вопросы и генерацию кода. Обучающий корпус включал английские и многоязычные тексты, код, диалоги и документы из разных областей; основным языком карточки указан английский. Модель заявлена как готовая к коммерческому использованию. Метаданные указывают лицензию other, поэтому перед применением следует проверить условия NVIDIA. Возможные ограничения — токсичные ответы и усиление предвзятости из обучающих данных, а также неточные, неполные или избыточные ответы; данные предобучения имеют срез до июня 2023 года.

mergekit-community/mergekit-linear-pcuhyqy — плотная языковая модель на архитектуре Qwen2, созданная сообществом с помощью линейного слияния моделей в mergekit. В слияние вошли DeepSeek-R1-Distill-Qwen-32B и mergekit-community/mergekit-model_stock-czbocwb; итоговая модель содержит 32 млрд параметров и распространяется в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Базовая модель DeepSeek-R1-Distill-Qwen-32B ориентирована на рассуждения, математику и программирование; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Данные не описывают отдельные ограничения полученного слияния или условия лицензии, поэтому их нельзя уточнить.

Meta-Llama-3-8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Репозиторий содержит веса в формате Safetensors; модель насчитывает около 7,5 млрд параметров и имеет контекст до 8192 токенов. Архитектура основана на оптимизированном Transformer с Grouped-Query Attention. Модель предназначена для генерации текста и кода на английском языке. Она подходит для диалогового помощника и может служить основой для задач генерации естественного языка. Карточка описывает семейство Llama 3 с предварительно обученными и настроенными для инструкций вариантами; метаданные этого репозитория не уточняют вариант обучения, поэтому возможности конкретной версии в чате следует оценивать с учётом этого ограничения. Модель статична и обучена на офлайн-данных. Использование регулируется специальной коммерческой лицензией Meta Llama 3 и Acceptable Use Policy; перед применением необходимо соблюдать их условия. Для языков помимо английского карточка допускает дообучение при соблюдении этих правил, но исходное назначение модели ограничено английским языком.

Meta Llama 3 8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Эта версия принимает текст и генерирует текст, в том числе код; карточка репозитория описывает предварительно обученные и настроенные варианты семейства, но не уточняет, какой именно вариант представлен в этом репозитории. Модель предназначена для генерации текста на английском языке. Предварительно обученную версию можно адаптировать для разных задач генерации естественного языка, а настроенные варианты предназначены для диалоговых сценариев. Архитектура основана на оптимизированном Transformer и использует Grouped-Query Attention; размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель подходит для создания разговорных помощников, генерации и продолжения текста и кода. Результаты требуют проверки, а для приложения следует настроить дополнительные меры безопасности под конкретную аудиторию и сценарий. Лицензия — специальная коммерческая лицензия Meta Llama 3 с условиями использования и ограничениями; перед внедрением необходимо ознакомиться с её текстом и Acceptable Use Policy.

Mistral-NeMo-Minitron-8B-Base — базовая языковая модель NVIDIA для генерации текста и адаптации под различные задачи обработки естественного языка. Это плотный авторегрессионный Transformer-декодер семейства Mistral-NeMo с 7,9 млрд параметров, 40 слоями, Grouped-Query Attention и RoPE. Модель получена из Mistral-NeMo 12B pruning-ом размерностей эмбеддингов и промежуточного слоя MLP, а затем дообучена дистилляцией на 380 млрд токенов. Модель принимает и генерирует текст; заявленная длина контекста — 8192 токена. Обучающие данные включают английский и многоязычный текст, а также код, охватывая веб-страницы, диалоги, статьи и другие материалы. Модель подходит как основа для генерации и продолжения текста, ответов на вопросы и программирования. Это базовая, а не специализированная чат-модель, поэтому для конкретных сценариев может потребоваться адаптация. По данным разработчика, обучение завершилось в августе 2024 года, а срез предобучающих данных — июнь 2023 года. Модель может воспроизводить токсичный язык и социальные предубеждения, а также выдавать неточные, неполные или избыточные ответы. В метаданных указана лицензия «other»; конкретные условия использования следует проверять в лицензии NVIDIA.

sapidlabs подготовила разреженную MoE-версию языковой модели NVIDIA Nemotron-3-Nano-30B-A3B: методом REAP удалена половина маршрутизируемых экспертов, по 64 из 128 в каждом MoE-слое. Это сокращает объём модели примерно с 59 до 32 ГБ; число активируемых экспертов на токен осталось равным шести, поэтому основной выигрыш — в размере и потреблении памяти, а не в скорости генерации. Модель использует архитектуру Nemotron-H с классом NemotronHForCausalLM, поддерживает чат и имеет контекст до 262 144 токенов. Модель предназначена для генерации текста, диалогов, задач программирования и рассуждений. Прунинг выполнен без повторного обучения с калибровкой на 256 примерах из набора evol-codealpaca-v1, поэтому лучше всего подтверждены сценарии, близкие к коду и рассуждениям. Формальные бенчмарки не проводились; возможна потеря качества относительно исходной модели, особенно за пределами калибровочных данных. Для запуска доступны веса safetensors через Transformers; для ускоренного пути Mamba требуются mamba-ssm и causal-conv1d. Лицензия указана как other; дополнительных условий README не приводит.

NimbusMind — причинно-языковая модель семейства NimbusT, представленная как обновлённый чат-ассистент. По данным карточки, обновление улучшает рассуждения и выводы за счёт дополнительных вычислений и алгоритмических изменений на этапе постобучения; авторы сообщают о результатах в математике, программировании и логике, а также о снижении частоты галлюцинаций и поддержке вызова функций. Модель предназначена для диалогов, решения сложных задач и генерации текста; в README также описаны сценарии работы с загруженными файлами и результатами веб-поиска. Репозиторий содержит веса PyTorch для Transformers и распространяется по лицензии Apache-2.0. В README приведён результат 89,1% на AIME 2026 и среднее расходование 27 тысяч токенов на вопрос этого набора; длина контекста и число параметров в доступных сведениях не приведены. Заявления о бенчмарках и качестве принадлежат авторам модели и не сопровождаются полным протоколом оценки в предоставленном README.

Occiglot-7B-ES-EN-Instruct — инструктивная языковая модель команды Occiglot Research Collective. Это плотный авторегрессионный трансформер-декодер Mistral с 7,1 млрд параметров, дообученный на инструкциях на английском и испанском языках; в обучающие данные также входили инструкции по программированию. Модель принимает диалог в шаблоне ChatML и генерирует текст. Нативный размер контекста составляет 32 768 токенов. Модель подходит для ответов на вопросы, диалоговых помощников и генерации текста на английском и испанском языках, а также для работы с кодом. Обучение включало англоязычные и испаноязычные наборы инструкций, но результаты некоторых неанглоязычных оценок основаны на частично машинно переведённых данных и англоязычных запросах. Разработчики отмечают, что модель не прошла выравнивание безопасности и может выдавать проблемные ответы. Лицензия — Apache 2.0.

Ornith-1.5-35B-A3B-abliterated-NVFP4-DFlash-GGUF — текстовая диалоговая MoE-модель, подготовленная pottokao для запуска через llama.cpp. Это GGUF-сборка производной от ornith-ai/Ornith-1.5-35B-A3B модели: в ней намеренно удалено поведение отказа, а веса преобразованы из NVFP4 в GGML_TYPE_NVFP4 без повторной квантизации. Объём весов — 19,5 ГБ; дополнительно доступна черновая модель DFlash для спекулятивного декодирования. Сборка рассчитана на текстовый ввод и генерацию текста, не содержит визуального модуля и MTP-головы. Модель предназначена для диалоговой генерации, рассуждений, написания кода, суммаризации и ответов на запросы, в том числе с длинными промптами. Автор сообщает о запуске на двух потребительских GPU по 16 ГБ и приводит тесты на RTX 5070 Ti; для ускорения NVFP4 на GPU требуется поддержка Blackwell и сборка llama.cpp с соответствующей CUDA-архитектурой. По опубликованному сравнению конфигурация llama.cpp уступала сборке vLLM по скорости. Поведение отказа отфильтровано, поэтому модель может выдавать небезопасные ответы. Лицензия — MIT.

Ornith-1.5-35B-A3B-MXFP4_MOE_Hybrid-Imatrix-GGUF — это набор оптимизированных квантованных весов в формате GGUF для модели Ornith-1.5-35B-A3B, разработанной Ornith AI. Данные сборки подготовлены jashepp на основе базовой модели и предназначены для запуска в совместимой инфраструктуре GGUF, включая сценарии генерации текста, диалогов, агентной работы, программирования, использования инструментов и задач, требующих планирования и рассуждений. Модель использует архитектуру Mixture of Experts с заявленным размером 35B и конфигурацией A3B. Репозиторий содержит варианты с многоуровневой точностью MXFP4, Q8_0 и F16, а также importance matrix, созданной на основе исходной imatrix и дополнительных данных из промптов, результатов, аудитов, навыков и документации. Доступны файлы размером примерно от 18,5 до 20,7 ГБ. Указанный язык — английский; модель относится к текстовым генеративным моделям. Размер контекста в README не указан. К сильным сторонам относятся улучшенное следование инструкциям и рассуждениям по сравнению с Ornith-1.0, ориентация на агентное программирование и возможность уменьшить требования к памяти за счёт квантования экспертных слоёв при сохранении более высокой точности в критических компонентах. Ограничения включают потенциальные потери качества из-за квантования, зависимость от совместимого загрузчика GGUF и отсутствие в README подробных сведений о фактических требованиях к оборудованию, контекстном окне и результатах независимого тестирования. Распространение указано по лицензии MIT.

Карточка модели spinochenza/Qwen3.6-35B-A3B-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/Qwen3.6-35B-A3B-uncensored-heretic, поэтому описание составлено по ней. llmfan46/Qwen3.6-35B-A3B-uncensored-heretic — мультимодальная чат-модель независимого автора, созданная на основе Qwen/Qwen3.6-35B-A3B. Это вариант с ослабленным отказом на запросы: в карточке приведено сравнение, где доля отказов составляет 10 из 100 против 83 из 100 у исходной модели. Модель предназначена для диалога, анализа изображений и сценариев агентного программирования с вызовом инструментов. Архитектура Qwen3.5 MoE содержит 35 млрд параметров, из которых активируется около 3 млрд; README также описывает языковую модель с визуальным энкодером и 262 144 токена нативного контекста, расширяемого до 1 010 000. Указаны возможности сохранения рассуждений в истории диалога и результаты тестирования MMLU, но эти сведения не гарантируют качество на конкретных задачах. Модель принимает текст и изображения и выдаёт текст. Файлы представлены в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. Поскольку модель специально снижает число отказов, она может отвечать на запросы, которые исходная модель отклоняет; ответы следует проверять, особенно в чувствительных сценариях.

benjzzz/Qwen3.8-27B-BenQ-6bit — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная автором benjzzz. Веса и vision tower представлены методом BenQ: 6-битные коды с отдельной таблицей значений для каждой строки, что, по README, даёт 6,16 бит на вес с учётом таблиц. Модель принимает текст и изображения и предназначена для диалогов, анализа изображений и программирования; метаданные также указывают интерфейс вызова инструментов. Для генерации текста в README приведён пример с кодом Python.

ChrisandErin86/Qwen3.8-27B-OBLITERATED — текстовая авторегрессионная модель генерации на базе Qwen/Qwen3.8-27B, модифицированная с применением метода abliteration для удаления или ослабления поведения, связанного с отказами и защитными ответами. В README также упоминаются подходы complementary abliteration blending, итеративное уточнение и целевая обработка корпусов. Модель ориентирована на диалоговые сценарии, генерацию текста и кода, включая задачи, в которых исходная модель могла отказываться отвечать; отдельно заявлена пригодность для агентных систем и исследований AI safety. Разработчик базовой модели — Qwen, автор производной модели указан как ChrisandErin86. Из известных характеристик указаны архитектура Qwen3, размер 27B параметров, текстовая модальность и поддержка форматов GGUF, Safetensors и MLX. Заявлена совместимость с thinking mode и чат-шаблоном; точный размер контекста и перечень поддерживаемых языков в предоставленном фрагменте README не указаны. Для инференса рекомендуются температура 0, repetition_penalty 1.15, не менее 2048 новых токенов и отсутствие системного промпта; для агентных сценариев предложены более короткие ответы и периодическое суммирование контекста. Сильная сторона модели — сниженное количество отказов при сохранении большей части возможностей исходной Qwen3.8-27B: в README приведён результат MMLU 82,3% против 84,5% у базовой модели, а также заявлены успешные результаты на тестах генерации кода и некоторых расширенных практических задачах. Ограничениями являются небольшая потеря качества относительно базовой модели, риск циклической генерации без настройки repetition_penalty и потенциальные риски применения менее ограниченной модели. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next (PLElast) GGUF — это GGUF-сборка модели Qwen3.8-Flash-Next, опубликованная whm0627 на основе весов Qwen/Qwen3.8-Flash-Next и квантизаций unsloth. Модель предназначена для генерации текста, включая программный код и структурированные форматы. Архитектура — MoE с общим размером около 177B параметров и примерно 3B активных параметров. Доступны варианты Q2_K_XL размером 79 ГБ и IQ1_S размером 68 ГБ; веса не переквантизировались, изменён только порядок тензоров. Особенность сборки PLElast — размещение большой таблицы PLE/n-gram-эмбеддингов в конце файла. Это позволяет запускать модель на Apple Silicon и Metal при ограниченной памяти: на Mac с 64 ГБ заявлено около 42–48 ГБ использования VRAM или unified memory, несмотря на больший размер файла. Поддерживается контекст до 128K токенов. В тестах на Apple M1 Max с llama.cpp скорость декодирования составила около 21 токена в секунду, а с MTP speculative decoding для кода — около 24 токенов в секунду. Q2_K_XL обеспечивает немного лучшую perplexity, тогда как IQ1_S занимает меньше места и оставляет больше памяти для длинного контекста; автор отмечает, что глубокое тестирование не проводилось. Модель требует llama.cpp с поддержкой qwen4exp, быстрой SSD-памяти и актуального runtime; для MTP нужны отдельная draft-модель и специальная ветка llama.cpp. Совместимость с LM Studio заявлена только для новых runtime. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-MTPLX-Optimized-Speed — квантованная версия базовой модели Qwen/Qwen3.8-Flash-Next, подготовленная Youssofal для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена для локальной генерации текста, диалогов и программирования, включая работу с OpenCode и другими локальными AI-инструментами. Модель основана на архитектуре поколения Qwen4 с гибридной MoE-структурой GDN, Qwen Sparse Attention и 51-миллиардной n-gram memory. Всего заявлено 125B параметров, из которых 6B активируются на токен. Основные веса используют динамическую 4-битную квантизацию, проекции внимания — 8-битную, а отдельные компоненты и MTP-голова сохраняют 16-битную точность. Поддерживается контекст до 262 144 токенов, мультимодальная vision tower сохранена, однако конкретные языки и поддерживаемые форматы ввода в карточке не указаны. Ключевое преимущество — нативное multi-token speculative decoding с адаптивной глубиной до 3 токенов, обеспечивающее заявленное ускорение по сравнению с обычной авторегрессионной генерацией при сохранении распределения вывода. Загрузка занимает около 115,1 ГБ, из них 32 ГБ n-gram-таблицы могут размещаться на SSD; рекомендуются Mac с Apple Silicon и минимум 96 ГБ unified memory. Ограничения включают высокие требования к памяти и зависимость от MTPLX и совместимого оборудования. Лицензия указана как qwen-community-1.0; также обозначено поле license: other.

QwenSelfMerge — языковая модель, созданная сообществом mergekit путём объединения фрагментов Qwen/Qwen2.5-72B-Instruct методом passthrough. По метаданным, это плотная авторегрессионная архитектура Qwen2 с 32,8 млрд параметров; модель использует Transformers и формат safetensors, поддерживает контекст до 32 768 токенов и интерфейс диалога с вызовом инструментов. Модель предназначена для генерации текста и диалоговых сценариев, унаследованных от Qwen2.5-72B-Instruct, включая структурированные ответы, программирование и математику. В README описана сборка из нескольких диапазонов слоёв той же базовой модели; карточка не приводит отдельных результатов оценки качества. Лицензия в предоставленных данных не указана.

Accio-Lab_occamy-1.0-GGUF — это квантизированная версия модели occamy-1.0, разработанной Accio-Lab и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель содержит около 35 млрд параметров и предназначена для локального запуска в задачах агентного взаимодействия, совместной работы, использования инструментов и программирования. Модель поддерживает мультимодальный ввод: текст и изображения при наличии файла mmproj. В карточке также заявлены архитектура mixture-of-experts и поддержка длинного контекста, однако точный размер контекстного окна и перечень поддерживаемых языков не указаны. Спекулятивное декодирование не поддерживается, а для квантизации использована imatrix. Доступны варианты от BF16 до низкобитных Q2–Q8, что позволяет выбирать между качеством, требованиями к памяти и скоростью; рекомендуемым универсальным вариантом назван Q4_K_M размером 22,32 ГБ. К сильным сторонам относятся большой размер, поддержка изображений, сценариев tool-use и агентных приложений, а также широкий выбор уровней квантизации. Ограничения связаны с высокими требованиями к памяти даже для компактных вариантов, необходимостью отдельного mmproj-файла для работы с изображениями и отсутствием в README подробных результатов тестирования, сведений о языках и точном контексте. Модель распространяется по лицензии Apache-2.0.

airoboros-l2-13b-3.1.1 — экспериментальная инструктивная языковая модель на архитектуре Llama 2, дообученная автором jondurbin на наборе синтетических и других примеров airoboros-3.1. Она предназначена для выполнения инструкций и диалогов в формате чата Llama 2; модель содержит 12,9 млрд параметров и имеет контекстное окно 4096 токенов. Модель подходит для ответов на вопросы по предоставленному контексту, суммаризации, математических задач с формированием MathJSON, извлечения полей из журналов, анонимизации текста, программирования и планирования действий с инструментами. По описанию она сильнее ориентирована на точное следование инструкциям, чем на непринуждённый чат и ролевые диалоги. Для математических ответов автор рекомендует низкую температуру генерации; формат чата должен соответствовать шаблону Llama 2. Это дообученная модель, опубликованная в формате safetensors. В карточке указана лицензия Llama 2. Разработчик описывает её как экспериментальную; результаты могут быть нестабильными, а генерация MathJSON и вызовы функций требуют внешнего разбора и выполнения. Русский язык явно не заявлен.

Dans-PersonalityEngine-V1.3.0-12b — дообученная PocketDoc языковая модель на архитектуре Mistral с 12,1 млрд параметров, созданная на базе mistralai/Mistral-Nemo-Base-2407. Модель обучалась на более чем 50 специализированных датасетах и предназначена для диалогов, ролевых сценариев, совместного написания текстов, генерации кода, использования инструментов и сложных рассуждений. Версия 1.3.0 поддерживает десять языков: арабский, китайский, английский, французский, немецкий, хинди, японский, корейский, португальский и испанский. Основной язык — английский; на нём ожидается наилучшее качество. Карточка указывает контекст 32 768 токенов и возможность увеличить его до 131 072 токенов с ухудшенным извлечением информации. Для диалогов модель использует формат DanChat-2. Она распространяется под лицензией Apache-2.0.

DeepSeek-R1 — большая языковая модель первого поколения моделей рассуждения, разработанная DeepSeek. Модель обучалась с использованием комбинации supervised fine-tuning и крупномасштабного reinforcement learning: перед этапами RL применялись данные cold start, а общий конвейер включал два этапа RL и два этапа SFT. Исследовательская версия DeepSeek-R1-Zero также представлена авторами и обучалась с помощью RL без предварительного SFT. Модель предназначена для сложных задач рассуждения, включая математику, программирование и другие интеллектуальные задачи, требующие многошагового анализа. По заявлению разработчиков, её результаты сопоставимы с OpenAI-o1 в задачах математики, кода и рассуждения. К сильным сторонам относятся способности к самопроверке, рефлексии и построению длинных цепочек рассуждений. При этом README не содержит точных сведений о размере модели, архитектуре, длине контекста, поддерживаемых языках и мультимодальных возможностях. У модели есть ограничения, связанные с особенностями reasoning-моделей: у предварительной версии DeepSeek-R1-Zero отмечались бесконечные повторения, низкая читаемость и смешение языков; для DeepSeek-R1 эти проблемы должны уменьшаться благодаря дополнительным данным и этапам обучения. Модель распространяется по лицензии MIT. README также сообщает о выпуске производных дистиллированных моделей, но они не являются самой моделью DeepSeek-R1.

Это канал-квантизованная версия DeepSeek-R1, подготовленная Meituan: веса BF16 преобразованы в INT8 с поканальными масштабами. Модель предназначена для генерации текста в диалоге и решения задач, требующих рассуждений, включая математику, программирование и ответы на сложные вопросы. В метаданных архитектура указана как DeepSeek V3 с плотной causal language model; размер — 37,6 млрд параметров, нативный контекст — 163 840 токенов. Репозиторий содержит веса Safetensors и интерфейс вызова инструментов. В README сообщается о сохранении точности на GSM8K и MMLU и ускорении до 50% в указанном бенчмарке на нескольких A100; эти результаты относятся к описанной конфигурации и не гарантируют такого ускорения на другом оборудовании. Для запуска может потребоваться поддержка поканальной INT8-квантизации в используемом inference-движке. Лицензия модели — MIT.

Карточка модели unsloth/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой unsloth/DeepSeek-R1-Distill-Qwen-7B, поэтому описание составлено по ней. Это версия DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на дистиллированной модели DeepSeek. В карточке указано, что веса представлены в формате safetensors, архитектура — плотная Qwen2, размер — 7,1 млрд параметров, библиотека для работы — Transformers, а лицензия — Apache-2.0. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями, в том числе для решения математических задач и задач программирования. Она обучена на примерах рассуждений, созданных DeepSeek-R1; в README для семейства дистиллированных моделей указан контекст до 128K токенов. Метаданные карточки также указывают контекст 131072 токена. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; README не уточняет перечень поддерживаемых языков. Как и другие языковые модели, она может ошибаться в рассуждениях и ответах. Для использования применяется лицензия Apache-2.0.

Карточка модели unsloth/DeepSeek-R1-Distill-Qwen-32B на Hugging Face совпадает с карточкой unsloth/DeepSeek-R1-Distill-Qwen-7B, поэтому описание составлено по ней. Это версия DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на дистиллированной модели DeepSeek. В карточке указано, что веса представлены в формате safetensors, архитектура — плотная Qwen2, размер — 7,1 млрд параметров, библиотека для работы — Transformers, а лицензия — Apache-2.0. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями, в том числе для решения математических задач и задач программирования. Она обучена на примерах рассуждений, созданных DeepSeek-R1; в README для семейства дистиллированных моделей указан контекст до 128K токенов. Метаданные карточки также указывают контекст 131072 токена. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; README не уточняет перечень поддерживаемых языков. Как и другие языковые модели, она может ошибаться в рассуждениях и ответах. Для использования применяется лицензия Apache-2.0.

Это 4-битная версия Dolphin 2.9.3 на базе Mistral Nemo, преобразованная mlx-community из cognitivecomputations/dolphin-2.9.3-mistral-nemo-12b в формат MLX с помощью mlx-lm 0.16.1. Модель представляет собой плотную причинную языковую модель Mistral с 12,1 млрд параметров и предназначена для генерации текста в диалоговом формате; среди возможных сценариев — ответы на вопросы, помощь с кодом, математические задачи и вызов инструментов, на которые указывают обучающие наборы данных и возможности базовой Dolphin-модели. Модель дообучена на Mistral-Nemo-Base-2407, а данный репозиторий содержит её MLX-представление для запуска на устройствах Apple с MLX. Метаданные указывают контекст до 1 024 000 токенов и лицензию Apache-2.0. В README не описаны отдельные ограничения качества; применимость столь длинного контекста и заявленные сценарии зависят от конкретной конфигурации запуска.