I.11Классификация, ранжирование и сопоставление

uukuguy/speechless-mistral-six-in-one-7b — объединённая модель на основе шести дообученных моделей Mistral-7B, опубликованная пользователем uukuguy. Это плотный авторегрессионный трансформер Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель предназначена для генерации текста в диалогах, ответов на вопросы, рассуждений и помощи с кодом. В карточке перечислены исходные модели Dolphin, OpenOrca, Platypus, Samantha, CollectiveCognition и Zephyr; заявлены результаты на нескольких бенчмарках, но часть таблиц неполная, поэтому они не дают полной оценки качества. Модель принимает текст и генерирует текст. В метаданных указан английский язык и возможность работы с кодом. Репозиторий содержит веса safetensors, а лицензия обозначена как Llama 2. Модель унаследовала заявленное в карточке базовой Mistral-7B отсутствие механизмов модерации; сгенерированные ответы могут быть ошибочными или нежелательными.

MaziyarPanahi/Trinity-Mini-GGUF — набор файлов модели Trinity-Mini в формате GGUF, подготовленный MaziyarPanahi на основе оригинальной модели arcee-ai. Модель разработана Arcee AI и предназначена для генерации текста, рассуждений, а также прикладных сценариев, включая работу с математикой и кодом. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки. Trinity-Mini — разреженная Mixture-of-Experts модель архитектуры AfmoeForCausalLM с 26 млрд общих параметров и 3 млрд активных параметров. Она содержит 128 экспертов, из которых одновременно используются 8, а также одного общего эксперта. Контекстное окно составляет 128 тысяч токенов. Модель обучалась на 10 трлн токенов, включая дополнительные данные по математике и программированию. В репозитории доступны варианты квантования с разной разрядностью — от 2 до 8 бит. К сильным сторонам относятся большое контекстное окно, эффективная MoE-архитектура и возможность локального запуска с выбором уровня квантования. README не содержит сведений о поддерживаемых языках, результатах конкретных бенчмарков и ограничениях качества, поэтому эти характеристики нельзя оценить точнее. Для работы требуются совместимые версии llama.cpp или других клиентов, поддерживающих GGUF. Модель распространяется по лицензии Apache 2.0.

Whittle-Qwen-3.8-35B-A3B — экспериментальная языковая модель с архитектурой Qwen3.8-Flash-Next (qwen4_exp), разработанная автором проекта Whittle. Это MoE-модель с 35,1 млрд параметров, включая 10 млрд параметров хешированной n-граммной памяти; на каждом токене активны примерно 3 млрд параметров. Модель получена дистилляцией Qwen3.8-27B на обучающих примерах с математическими задачами, кодом, диалогами, строгим JSON и эпизодами работы агента. По данным метаданных, базовая модель — logic65/Whittle-Next-27B-A3B. Модель предназначена для генерации текста и диалогов, написания кода, математических рассуждений и сценариев с инструментами. Она поддерживает контекст до 262 144 токенов; автор сообщает о запуске через стандартный llama.cpp, а файлы репозитория представлены в safetensors. Английский и китайский указаны среди языков карточки; метаданные также характеризуют модель как многоязычную. Это исследовательский предварительный выпуск: дистилляция охватывает ответы учителя, помещавшиеся в окно обучения 4k токенов, длинные примеры пока не использовались, а этап дистилляции на собственных ответах модели ещё не начат. Автор предупреждает, что модель не следует напрямую сравнивать с Qwen3.8 на равных условиях. Лицензия — Apache-2.0.

airoboros-7b-gpt4-1.2 — плотная причинно-языковая модель семейства LLaMA примерно на 6,6 млрд параметров, дообученная Джоном Дёрбином методом QLoRA на синтетических инструкционных данных, созданных GPT-4. Она предназначена для диалоговых ответов и генерации текста по инструкциям; карточка описывает формат общения с ролями USER и ASSISTANT и шаблон Vicuna. Модель рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и заполнением пропусков, а также ответы с учётом заданного контекста. Для запросов на генерацию кода обучалась выводить код без Markdown-разметки при добавлении маркера PLAINFORMAT, но это поведение не гарантируется. Контекст — 2048 токенов; формат репозитория — PyTorch. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

airoboros-m-7b-3.0 — экспериментальная универсальная языковая модель, созданная jondurbin на основе датасета airoboros-3.0, преимущественно синтетических данных. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; она принимает текст и выдаёт текст. Модель рассчитана прежде всего на следование инструкциям, ответы по заданному контексту и многошаговый диалог, а не на непринуждённую беседу. Среди заявленных сценариев — суммаризация, помощь с программированием, генерация структурированных аргументов функций и составление планов выполнения задач с инструментами. Для математических вопросов описан экспериментальный подход MathJSON: модель формулирует выражение, которое можно вычислить внешним средством. В карточке также отмечены данные для многоходового ролевого диалога. Для формата диалога используется шаблон Llama 2 chat. Модель выпущена под лицензией Apache-2.0. Автор характеризует её как экспериментальную; для MathJSON требуется внешний вычислитель, а сам подход описан как неполный. Карточка рекомендует низкую температуру генерации; ответы по контексту могут быть ненадёжны, поэтому следует явно просить модель не выдумывать сведения.

ANITA-NEXT-24B-Dolphin-Mistral-UNCENSORED-ITA — разговорная языковая модель семейства ANITA-NEXT, разработанная исследователем Марко Полиньяно из Университета Бари Альдо Моро и исследовательской группой SWAP. Это плотная авторегрессионная модель архитектуры Mistral на 23,4 млрд параметров, дообученная на базе dphn/Dolphin-Mistral-24B-Venice-Edition с помощью SFT, QLoRA и DPO. Она предназначена для диалога, следования инструкциям и генерации текста и кода; README характеризует её как модель с рассуждением и без фильтрации ответов. Модель принимает текст и генерирует текст, включая код. Она рассчитана прежде всего на итальянский язык, также заявлена поддержка английского и многоязычных сценариев. Метаданные указывают контекст 40 960 токенов; README отмечает деградацию качества после примерно 40 тысяч токенов, несмотря на заявленные там 128 тысяч. Указанная лицензия — Apache-2.0. Авторы предупреждают о галлюцинациях и возможности оскорбительных, неэтичных или опасных ответов; модель представлена для исследовательского применения.

ArlowGPT-3B-Multilingual — многоязычная инструктивная языковая модель для диалогов и генерации текста, разработанная на основе ArlowGPT-3B. По README, модель дополнительно дообучена на многоязычном наборе ArlowGPT Multilingual в течение пяти эпох; метаданные указывают архитектуру Llama с плотной causal language model на 3,2 млрд параметров. Модель предназначена для следования инструкциям, многоходового общения, ответов на вопросы, создания и краткого изложения текстов на разных языках. Модель принимает текстовые запросы и генерирует текст. В карточке заявлены сценарии для чат-ботов и помощников, межъязыковых ответов на вопросы, поддержки клиентов, творческого письма и работы с документами. Метаданные указывают контекстное окно 131 072 токена и интерфейс для вызова инструментов; README не уточняет поддерживаемые языки по отдельности, поэтому конкретные языки не перечислены. Размер модели рассчитан на сравнительно ресурсосберегающее развертывание, хотя практические требования зависят от формата и оборудования. Лицензия — MIT. README заявляет широкий спектр возможностей, включая работу с юридическими, медицинскими и финансовыми текстами, но не приводит независимых оценок качества или подтверждения пригодности для критически важных решений; ответы следует проверять, особенно в специализированных областях.

huihui-ai выпустила uncensored-версию DeepSeek-R1-Distill-Qwen-14B, созданную методом abliteration для удаления отказов модели. Это экспериментальная версия с грубой реализацией концепции; архитектура — плотная Qwen2ForCausalLM на 14 млрд параметров, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики и программирования; поддерживает контекст до 131072 токенов. Модель основана на deepseek-ai/DeepSeek-R1-Distill-Qwen-14B. Автор указывает, что доступна более новая версия v2. Условия лицензии в предоставленных данных не указаны.

unsloth/DeepSeek-R1-GGUF — GGUF-версия модели DeepSeek-R1, разработанной DeepSeek и подготовленной компанией Unsloth. Модель предназначена для локального запуска через llama.cpp и сценариев, требующих рассуждений, генерации и анализа текста, а также написания программного кода. В README указан английский язык; другие языки не заявлены. Модель использует архитектуру MoE и представлена в нескольких вариантах динамической квантизации: 1,58 бит, 1,73 бит, 2,22 бит и 2,51 бит. Размер файлов составляет примерно от 131 до 212 ГБ. Более точные варианты требуют больше дискового пространства, но характеризуются лучшей заявленной точностью: от Fair для 1,58-битной версии до Best для 2,51-битной. Для запуска рекомендуется llama.cpp; возможна частичная выгрузка слоёв на GPU. В примерах используется контекст 8192 токена, однако максимальный размер контекста в README не указан. К сильным сторонам относятся существенное уменьшение размера весов за счёт агрессивной квантизации, возможность локального запуска и наличие вариантов с разным компромиссом между качеством и требованиями к ресурсам. Ограничениями являются очень большой объём файлов даже у наиболее сжатых вариантов, необходимость совместимого оборудования и ПО, а также потенциальное снижение точности из-за низкой разрядности. Модель распространяется по лицензии MIT.

MaziyarPanahi/DeepSeek-V3-0324-GGUF — это набор файлов модели DeepSeek-V3-0324 в формате GGUF. Исходную модель разработала команда deepseek-ai, а данную GGUF-версию подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими решениями, включая варианты с ускорением на GPU и совместимыми API. Это делает модель пригодной для локальных чат-интерфейсов, серверов генерации текста и интеграции в приложения. В README указана 2-битная квантизация, которая может снизить требования к памяти, но потенциально сопровождается ухудшением качества по сравнению с полноразмерной моделью. В предоставленных данных не указаны архитектура, общее число параметров, поддерживаемые языки и размер контекста. Модель распространяется по лицензии MIT.

Dolphin 2.5 Mixtral 8x7B GGUF — это набор квантованных файлов модели cognitivecomputations/dolphin-2.5-mixtral-8x7b, подготовленный MaziyarPanahi в формате GGUF. Модель предназначена для генерации текста и может использоваться локально через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В основе лежит архитектура Mixtral с конфигурацией 8x7B; точный размер контекста и полный набор поддерживаемых языков в README не указаны, хотя модель помечена как предназначенная для английского языка. Доступны варианты квантования от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Квантование упрощает запуск на локальном оборудовании, но варианты с меньшей разрядностью могут иметь более низкое качество генерации. Модель обучалась на наборах данных Dolphin, Airoboros, Dolphin Coder, Synthia, OpenHermes, Magicoder и других, перечисленных в карточке. Сценарии применения включают локальную генерацию текста и, судя по составу данных и тегам, задачи общего назначения и программирования, однако специализированные возможности и ограничения отдельно не описаны. Распространяется по лицензии Apache-2.0.

DataSoul/DwQ-R1-32B-v0.1 — слитая модель генерации текста, созданная с помощью mergekit методом Linear из huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated и huihui-ai/QwQ-32B-Coder-Fusion-9010. В конфигурации слияния веса моделей составляют 0,9 и 0,1 соответственно; архитектура — плотная Qwen2ForCausalLM, размер — 32 млрд параметров, формат весов — safetensors, библиотека — Transformers. Модель предназначена для диалоговой генерации текста и может применяться для рассуждений и помощи с задачами программирования благодаря объединению двух исходных моделей. Она принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Ektome-Qwen2.5-Coder-7B-Instruct-PristinelyUncensored — текстовая instruction-модель, разработанная Zynerji на основе Qwen/Qwen2.5-Coder-7B-Instruct. Она предназначена для генерации текста и решения задач программирования, следования инструкциям, рассуждений, арифметики и работы с общими знаниями. В README указана поддержка английского языка и размер 7B параметров; сведения о длине контекста и мультимодальности не приведены. Модель подвергнута процедуре Ektome, которая, согласно описанию, удаляет компонент, связанный с отказами, без дополнительного обучения и с сохранением общих возможностей. Для неё заявлен сертифицированный результат PASS в сравнении с исходной моделью на 2800 примерах: проверялись арифметика, следование инструкциям, знания и рассуждения, при пределе ухудшения 3%. Доступны GGUF-квантизации от 3 до 8 бит, включая варианты с imatrix. Модель является uncensored и по замыслу не отказывается от запросов, поэтому не предоставляет встроенных гарантий безопасности; ответственность за применение лежит на пользователе. Сертификат подтверждает только сохранение возможностей и не гарантирует безопасность, фактическую точность или пригодность для конкретных задач. Для модели не записаны отдельные проверки качества генерации и receipt по compliance/MMLU. Лицензия — Apache-2.0.

Granite Vision 3.1 2B Preview — компактная мультимодальная модель IBM для понимания изображений и документов. Она предназначена для извлечения и анализа содержимого таблиц, графиков, инфографики, диаграмм и других визуальных материалов, распознавания текста на изображениях и ответов на вопросы по документам; также поддерживает общие задачи понимания изображений и диалоговый режим. Модель дообучена на базе ibm-granite/granite-3.1-2b-instruct и использует архитектуру LLaVA-NeXT: визуальный энкодер SigLIP, двухслойный MLP-коннектор и языковую модель Granite 3.1. В README указано 2 млрд параметров у языковой основы и около 3 млрд у модели с визуальным энкодером и проектором; контекст языковой основы — 128 тыс. токенов. Основной поддерживаемый язык — английский. Модель распространяется под лицензией Apache 2.0. Сильная сторона модели — специализированная работа с визуальными документами при сравнительно небольшом размере; в приведённых тестах она показывает хорошие результаты на DocVQA и ChartQA. Возможны неточные, предвзятые или небезопасные ответы и галлюцинации, особенно в общих задачах понимания изображений; для обработки только текста IBM рекомендует использовать текстовые Granite-модели.

Это 4-битная версия Hermes 3 на базе Llama 3.1 8B, преобразованная сообществом mlx-community из NousResearch/Hermes-3-Llama-3.1-8B в формат MLX с помощью mlx-lm 0.16.1. Модель представляет собой плотную авторегрессионную LlamaForCausalLM с примерно 7,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалоговой генерации текста и следования инструкциям; в метаданных также отмечены чат и function calling. Репозиторий ориентирован на запуск через mlx-lm. Карточка указывает английский язык и лицензию Llama 3. Использование 4-битного представления уменьшает требования к памяти, но может влиять на точность по сравнению с исходными весами.

JetMoE-8B-Chat — разговорная языковая модель семейства JetMoE, созданная авторами проекта JetMoE. Это дообученная версия JetMoE-8B для диалоговой генерации текста. Архитектура включает 24 блока с разреженными слоями Mixture of Attention heads и Mixture of Experts: в каждом слое из восьми экспертов для токена активируются два. Всего модель содержит 8 млрд параметров, из которых при инференсе активны 2,2 млрд; базовая JetMoE-8B обучалась на 1,25 трлн токенов из открытых наборов данных. Модель предназначена для диалогов, ответов на вопросы, написания кода и решения математических задач. README сообщает о сравнительных результатах на языковых и кодовых бенчмарках, однако приведённые таблицы неполны, поэтому эти заявления нельзя независимо оценить по карточке. Контекст составляет 4096 токенов. Модель принимает и генерирует текст; в метаданных заявлена возможность чата, но конкретный список поддерживаемых естественных языков не приведён. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает её как открытую и допускающую дообучение при ограниченных вычислительных ресурсах; практическое качество зависит от запроса и сценария применения.

K2-Horizon-3.7B-GGUF — набор GGUF-квантизаций модели IFM/K2-Horizon-3.7B, разработанной IFM. Это плотная decoder-only языковая модель размером 3,7 млрд параметров, предназначенная для генерации текста, рассуждений, программирования, работы с длинным контекстом и использования инструментов. Указан английский язык. Модель поддерживает нативный контекст до 524 288 токенов (512K), однако практическая производительность зависит от используемого оборудования и настроек запуска. Доступны варианты квантизации Q4_0, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 3,02 до 5,39 ГБ. В файлы встроен совместимый с llama.cpp шаблон чата; для вызовов инструментов по умолчанию используется формат XML, также доступны JSON и xml_typed. Для запуска требуется сборка llama.cpp с поддержкой архитектуры K2 Horizon, в частности форк MBZUAI-IFM до появления поддержки в upstream-версии. К сильным сторонам относятся компактный размер, несколько вариантов квантизации и заявленная поддержка очень длинного контекста, а также сценариев программирования и tool use. Ограничения включают зависимость от специализированной реализации llama.cpp, отсутствие в README подробных результатов бенчмарков и характеристик качества, а также отсутствие сведений о мультимодальности и поддержке языков, кроме английского. Модель распространяется по лицензии Apache-2.0.

Kai-30B-Instruct — инструктивно дообученная языковая модель NoesisLab на 30B параметров, крупнейшая в семействе Kai. Она основана на архитектуре Qwen2ForCausalLM и предназначена для диалогов, рассуждений, математических задач и генерации кода. Для дообучения применён метод ADS (Adaptive Dual-Search Distillation), который меняет функцию потерь, не модифицируя архитектуру модели. Модель принимает текст и генерирует текст; заявлены контекст до 32 768 токенов и поддержка английского языка. В карточке приведены результаты нескольких тестов рассуждений и здравого смысла, но они не подтверждают качество во всех сценариях. Для запуска требуются значительные вычислительные ресурсы из-за размера модели. Лицензия — Apache-2.0.

LLaDA2.0-mini-CAP — языковая модель компании InclusionAI, основанная на диффузионной архитектуре Mixture-of-Experts и обученная с применением Confidence-Aware Parallel (CAP). Она предназначена для генерации текста в диалогах, ответов на вопросы, рассуждений, математических задач и программирования. CAP повышает эффективность параллельного декодирования: в README заявлено ускорение генерации в 1,46 раза относительно LLaDA2.0-mini при снижении среднего результата на указанных тестах с 70,15 до 67,32. Модель содержит 1,2 млрд параметров по метаданным; README описывает базовую архитектуру как 16B-A1B MoE, 20 слоёв и 16 голов внимания. Длина контекста — 32 768 токенов. Для инференса предназначен формат safetensors и библиотека Transformers; доступны чат и интерфейс вызова инструментов. README рекомендует температуру 0, block_length 32 и steps 32, предупреждая, что повышенная температура может вызывать смешение языков и немного снижать качество. Лицензия — Apache-2.0.

DarqueDante/LLama-3-Mega-Dolphin-2.9.1-120b — разговорная языковая модель на архитектуре Llama 3, созданная слиянием через mergekit из двух копий Dolphin 2.9.1 Llama 3 70B. Модель содержит 120,8 млрд параметров и рассчитана на генерацию текста и диалог с шаблоном ChatML; она принимает текстовые запросы и выдаёт текстовые ответы. Модель предназначена для универсального ассистирования в чате. Данные обучения связаны с диалогами, программированием, математическими задачами и вызовом функций; это указывает на соответствующие сценарии применения, но карточка не приводит отдельной оценки качества по ним. Заявленная длина контекста — 8192 токена, основной язык карточки — английский. В репозитории указаны веса safetensors и библиотека Transformers. Лицензия в предоставленных сведениях не указана, поэтому условия использования определить нельзя.

Neurona 8B Beta — предварительная испаноязычная языковая модель от Iker, созданная дообучением Meta-Llama-3-8B. Это экспериментальная первая итерация проекта для проверки скриптов и инфраструктуры обучения; модель содержит около 7,5 млрд параметров и использует архитектуру Llama с плотным декодером causal language modeling. Модель предназначена для генерации текста и диалогов на испанском и английском языках. Обучение на смеси инструкционных, разговорных и тематических наборов данных формирует возможности ответов на вопросы, суммаризации, перевода между английским и испанским, помощи с кодом, function calling и работы со сценариями RAG. Контекст составляет 8192 токена. Модель распространяется в формате safetensors и использует лицензию Llama 3. README обозначает её как предварительную версию в разработке, поэтому качество и надёжность отдельных возможностей могут быть непостоянными; условия лицензии Meta Llama 3 распространяются на использование модели.

LumenX1-Sept26-Release — текстовая авторегрессионная модель семейства Lumen Dense, опубликованная dusersad12 на Hugging Face. Она предназначена для диалогов и генерации ответов, особенно для сложных задач на рассуждение, математику, программирование и общую логику. В карточке заявлены улучшенные рассуждения, снижение числа галлюцинаций и поддержка вызова функций; для ответа на вопрос AIME 2026 указано в среднем 31 тыс. токенов рассуждения. Модель использует архитектуру LumenDenseForCausalLM и распространяется в формате PyTorch для Transformers. Репозиторий выпущен под лицензией MIT. Карточка не сообщает размер модели, длину контекста и поддерживаемые естественные языки. Заявления о качестве приведены в README, но детали бенчмарков описаны частично.

Это версия Meta Llama 3.1 Instruct с 70 млрд параметров, преобразованная в формат MLX сообществом mlx-community из meta-llama/Llama-3.1-70B-Instruct. Она предназначена для генерации текста в диалогах и работы в сценариях ассистента; метаданные также указывают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и контекст до 131 072 токенов. По карточке поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Репозиторий содержит веса safetensors, а README описывает конвертацию в MLX с помощью mlx-lm 0.18.2. Лицензия — llama3.1; использование регулируется условиями лицензии Meta Llama 3.1. Большой размер модели требует значительных вычислительных ресурсов; фактическая скорость и доступная длина контекста зависят от оборудования и конфигурации.

NANI-Nithin/MiniCPM5-2B-GGUF — набор GGUF-квантизованных версий MiniCPM5-2B, разработанного командой OpenBMB. Модель предназначена для локального запуска на устройствах с ограниченными ресурсами, создания ассистентов, coding agents, сценариев tool use, агентских workflows и задач рассуждения. Репозиторий содержит исходную BF16-версию и 29 вариантов квантования от Q8_0 до Q1_0. Базовая модель представляет собой плотный Transformer на 2,516,756,480 параметров с архитектурой LlamaForCausalLM, 42 слоями и GQA с 16 query heads и 2 KV heads. Она поддерживает контекст до 131 072 токенов, работает с английским и китайским языками и ориентирована на text generation. По данным разработчика, модель особенно сильна в рассуждениях при работе с кодом, математике, обработке длинного контекста, использовании инструментов и агентских задачах; заявленный средний результат в сравнении с другими открытыми моделями класса 2B составляет 53,9 балла. Основное преимущество набора — возможность выбрать баланс между качеством, размером и требованиями к памяти: Q4_K_M размером около 1,45 ГБ указан как вариант по умолчанию, Q8_0 около 2,50 ГБ — как близкий к исходному качеству, а IQ2_M около 0,90 ГБ — как минимальный практически пригодный вариант. Качество низкобитных и экспериментальных квантов снижается, особенно у версий Q2 и Q1. Файлы предназначены для llama.cpp, Ollama и LM Studio и не загружаются напрямую через vLLM, SGLang или transformers; для этих сред следует использовать исходный репозиторий модели. Модель распространяется по лицензии Apache-2.0, а её ответы могут содержать ошибки.

Mistral-Nemo-NT-Ko-12B-sft — многоязычная диалоговая модель на архитектуре Mistral, дообученная автором werty1248 на базе mistralai/Mistral-Nemo-Base-2407. Модель содержит 12,1 млрд параметров и распространяется в формате safetensors по лицензии Apache-2.0. Она предназначена для диалогов и генерации инструктивных ответов на английском, корейском, китайском и японском языках. Дообучение ориентировано на языковое выравнивание, перенос знаний между языками и форматирование ChatML; модель обычно отвечает на языке запроса, если не задан другой язык. В карточке приведены результаты тестирования на LogicKor и MT-Bench. Контекст обучения составил 8 тыс. токенов, хотя для базовой модели указано окно до 128 тыс. токенов. Это промежуточная версия без оптимизации предпочтений. Длина ответов зависит от языка: английские ответы обычно длиннее, корейские — короче; поведение на японском и китайском автор продолжает наблюдать. Рекомендуемая температура генерации — 0,3–0,7.

Mythos-9B Merged — это объединённая языковая модель на 9 млрд параметров, разработанная на основе King3Djbl/mythos-9b-merged и квантованная mradermacher в формате GGUF. Модель предназначена для генерации текста на английском языке, ролевых сценариев, задач программирования, работы с инструментами и function calling, а также агентских сценариев. В метаданных также заявлены поддержка shell-взаимодействия и запуск через llama.cpp, LM Studio и Ollama. В репозитории представлены варианты i1-квантования с imatrix в диапазоне примерно от 2,2 до 6,8 ГБ, включая IQ и Q-форматы. Это позволяет выбирать компромисс между размером, скоростью и качеством; в README вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Для некоторых вариантов явно указано снижение качества, особенно у наиболее компактных квантов. Сведения о точной архитектуре, размере контекстного окна, мультимодальности и дополнительных языках отсутствуют; заявлен только английский язык. Модель распространяется по лицензии Apache-2.0.

NeoHorse-1-4B-onw — TokenRhythm/NeoHorse-1-4B для запуска через движок onw на Intel NPU. Текстовая плотная авторегрессионная модель семейства Qwen3.5 с 3,4 млрд параметров и контекстом до 262 144 токенов. В README описана структура из 32 слоёв: 24 слоя Gated DeltaNet и 8 слоёв с gated attention. Веса преобразованы для движка onw и квантованы: группы весов используют INT4, выходной слой — INT8, эмбеддинги — INT4. Модель предназначена для диалогов, следования инструкциям, вызова инструментов и агентных сценариев, а также задач программирования и рассуждений. Поддерживает японский и английский языки, интерфейс вызова инструментов, совместимый с OpenAI API, включая параллельные вызовы. README приводит результаты измерений скорости и совпадения ответов на конкретном тестовом устройстве; эти показатели не гарантированы на другом оборудовании. Для работы нужны движок onw и совместимый Intel Core Ultra с NPU. Лицензия — Apache 2.0.

Это 8-битная версия модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio Community с помощью mlx_lm для Apple Silicon. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 от NVIDIA; MLX-квантизация уменьшает точность весов для запуска на компьютерах Apple с кремниевыми чипами. По метаданным, модель предназначена для генерации текста и диалогов и поддерживает интерфейс вызова инструментов. Модель подходит для ответов на вопросы, помощи с программированием и математическими задачами, а также для агентных приложений, использующих инструменты. Карточка базовой модели указывает поддержку английского, испанского, французского, немецкого, японского и итальянского языков. Лицензия репозитория обозначена как other, поэтому перед использованием следует проверить её условия. Как и другие генеративные модели, она может выдавать неточные или неподходящие ответы; README также предупреждает об отсутствии гарантий качества.

OpenChat-3.5-0106 — диалоговая языковая модель команды OpenChat, созданная дообучением Mistral-7B-v0.1 на смешанных данных. Она предназначена для общения и генерации текста, включая помощь с программированием, математические рассуждения и общие вопросы. Модель построена на архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 8192 токенов; для диалога предусмотрены обычный режим и режим математических рассуждений. В карточке также описана экспериментальная возможность оценивать ответы и давать обратную связь. Модель рассчитана на текстовый ввод и выдачу текста. Карточка рекомендует развёртывание через OpenChat API-сервер с vLLM и указывает, что запуск возможен на потребительском GPU с 24 ГБ памяти. Опубликована под лицензией Apache-2.0. Заявления о превосходстве в карточке основаны на приведённых авторами тестах и зависят от набора задач и условий оценки.

Ornith-1.5-35B-A3B-Uncensored-GGUF — производная модель, подготовленная 0xKitkat на основе Ornith-1.5-35B-A3B, Qwen3.6-35B-A3B и аблитерированной версии Qwen3.6-35B-A3B от wangzhang/Abliterix. Модель сохраняет постобучение Ornith для программирования и агентских сценариев, встроенную систему обработки изображений, конфигурацию контекста до 262K токенов и голову multi-token prediction (MTP). Она распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, включая текстовые и визуально-текстовые задачи. Модель имеет обозначение 35B-A3B и архитектурную специализацию MoE; точная структура активных параметров в README не раскрыта. Доступны варианты BF16, Q4_K_M и Q5_K_M, а для обработки изображений требуется отдельный vision projector. В README указана проверка на 20 промптах: эвристических отказов не выявлено, а четыре из четырёх тестов возможностей были пройдены, однако это локальная дымовая проверка, а не полноценное сравнение производительности. Основная особенность — намеренное снижение отказов от ответов с помощью переноса task vector от аблитерированной модели Qwen без замены специализированного постобучения Ornith. При этом «uncensored» не означает гарантированное выполнение любого запроса, а опубликованные бенчмарки исходной Ornith не заявлены как результаты для этой производной модели. Лицензия релиза — Apache-2.0; README также указывает исходные лицензии MIT для Ornith и Apache-2.0 для Qwen.