II.7DevOps, облако и эксплуатация IT-систем

Hercules-2.5-Mistral-7B — дообученная Locutusque языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе mistralai/Mistral-7B-v0.1. Она генерирует текст и рассчитана на следование сложным инструкциям, диалог, вызов функций и ответы по научным и техническим темам, включая биологию, химию, физику, математику, медицину и информатику. В карточке указано контекстное окно 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель подходит для специализированных чат-ботов, учебных помощников и генерации кода с вызовом функций. По карточке, при оценке на Open LLM Leaderboard она набрала 63,59 балла в среднем. Лицензия — Apache-2.0. Модель может выдавать токсичный контент, фактические ошибки и галлюцинации, в том числе в специализированных областях. Вызов функций требует подходящей внешней инфраструктуры; результаты и безопасность ответов следует проверять.

Карточка модели grimjim/mistralai-Mistral-Nemo-Base-2407 на Hugging Face совпадает с карточкой mistralai/Mistral-Nemo-Base-2407, поэтому описание составлено по ней. Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.

Mtrini-27B-Tellus-Merged — объединённая модель CompiwerAI для запуска через Transformers. В README в качестве базовой модели указана Qwen3.8-27B; метаданные описывают архитектуру как плотную Qwen3.5 для авторегрессионной генерации текста. Размер по метаданным — 22,3 млрд параметров, нативный контекст — 262 144 токена, файлы представлены в формате safetensors. Модель предназначена для диалогов, генерации кода, математических задач и рассуждений. Для обучения использовалась смесь из 11 200 примеров, включающая данные по программированию и математике, а также марокканскую дариджу и арабский язык. В README сказано, что LoRA-адаптер CompiwerAI объединён с базовой моделью в самостоятельный чекпойнт. Модель распространяется по лицензии Apache-2.0. Результаты обучения и состав обучающей смеси приведены в карточке, но независимые оценки качества и подробные ограничения не описаны.

Nemotron-H-8B-Base-8K — базовая большая языковая модель NVIDIA для продолжения заданного текста и создания исходных решений, на основе которых разработчики и исследователи могут создавать специализированные LLM. Это модель семейства Nemotron-H с гибридной архитектурой Mamba-2 и MLP, дополненной четырьмя слоями Attention; размер — 8 млрд параметров, контекст — до 8K токенов. Модель принимает и генерирует текст. Модель обучена на английском и многоязычных текстах, включая немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский и китайский, а также на коде. Она подходит для продолжения текста, генерации кода и настройки под пользовательские задачи с помощью дообучения и выравнивания. NVIDIA указывает, что модель предназначена для исследовательской и опытно-конструкторской работы; для работы рекомендованы NeMo и GPU NVIDIA. Лицензия в метаданных обозначена как other. Модель может выдавать неточные, нерелевантные или избыточные ответы и воспроизводить токсичность и предвзятость из обучающих данных. NVIDIA также сообщает о слабой устойчивости к косвенным prompt injection через некоторые кодировки, в частности Base16, Hex/ASCII и Braille.

Это версия NVIDIA Nemotron 3 Nano 4B в формате GGUF BF16, опубликованная DevQuasar на основе nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. Модель предназначена для генерации текста и диалогового общения; компактная базовая модель NVIDIA рассчитана также на рассуждения, программирование и агентные сценарии на локальных устройствах. В репозитории указано преобразование в GGUF BF16. Карточка не описывает отдельные настройки, результаты оценки или дополнительные ограничения этой версии. Лицензия в предоставленных данных не указана.

Ornith-1.0-35B-MTPLX-Vision — мультимодальная модель для чата с текстом и изображениями, собранная Jonandrop на основе моделей Ornith-1.0-35B и упакованная для Apple Silicon. Она сочетает языковую часть Ornith с восстановленной башней зрения и поддерживает обработку изображений; README также заявляет поддержку видеовхода, хотя метаданные Hugging Face указывают задачу image-text-to-text. Архитектура относится к семейству Qwen 3.5 MoE; корпус модели и MTP-головы квантизированы до 4 бит, а башня зрения хранится в bf16. Модель использует MTPLX с многотокенным предсказанием для ускорения генерации и может работать как локальный OpenAI-совместимый сервер на Apple Silicon. Модель подходит для программирования, диалога и вопросов по изображениям в локальном окружении. README приводит измерения скорости на Apple M5 Pro с 64 ГБ памяти; это результаты конкретной конфигурации, а не универсальные гарантии производительности. Лицензия производной модели — MIT; для перенесённых MTP-тензоров также применяются условия Apache-2.0 и NOTICE проекта Qwen3.5-35B-A3B.

Phi-3-mini-128k-instruct-4bit — 4-битная версия модели Phi-3-mini-128k-instruct, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.10.0. Модель содержит около 3,7 млрд параметров и предназначена для генерации текста в диалоговых сценариях и задачах, связанных с кодом. Модель ориентирована прежде всего на англоязычные запросы, генерацию ответов, продолжение текста и помощь с программным кодом. Формат MLX оптимизирован для запуска через библиотеку mlx-lm на совместимом оборудовании Apple. Метаданные указывают нативную длину контекста 4096 токенов. К сильным сторонам относятся компактный размер, 4-битное квантование и возможность локального запуска в экосистеме MLX. Ограничениями являются преимущественная поддержка английского языка, уменьшенная точность из-за квантования и контекст до 4096 токенов, несмотря на обозначение исходной модели как 128k. Модель распространяется по лицензии MIT.

Shining Valiant 3 — дообученная Valiant Labs модель для научных задач, проектирования систем ИИ и рассуждений общего назначения, созданная на базе Qwen3-4B. Это плотная причинная языковая модель с 3,7 млрд параметров, рассчитанная на генерацию текста, диалоги, следование инструкциям, написание кода и пошаговое решение сложных задач. Для диалогов разработчик рекомендует включать режим рассуждений; модель использует формат запросов Qwen 3 и поддерживает контекст длиной до 40 960 токенов. Модель обучали на данных научных рассуждений, сгенерированных DeepSeek R1 0528, а также на сложных примерах рассуждений об ИИ. Она предназначена для локального запуска на настольных компьютерах и мобильных устройствах, а также для быстрой серверной инференции. Доступна в формате Safetensors и распространяется по лицензии Apache 2.0. Карточка описывает специализацию на рассуждениях и решение задач, но не приводит результатов сравнительных оценок качества.

Stable LM 2 12B — базовая авторегрессионная языковая модель, разработанная Stability AI. Это плотный трансформер-декодер с 11,6 млрд параметров по метаданным (в README указано 12,1 млрд), обученный на 2 трлн токенов текстовых и программных данных. Модель предназначена для дальнейшей тонкой настройки под прикладные задачи. Модель генерирует продолжение текста по текстовому запросу. В архитектуре используются Rotary Position Embeddings, групповые запросы внимания и токенизатор Arcade100k; максимальная длина контекста — 4096 токенов. В обучающих данных есть несколько европейских языков и код, однако в README основным языком назван английский. Это базовая модель, поэтому её поведение и пригодность для конкретной задачи требуют оценки и, как правило, дообучения. Она может выдавать ненадёжный, небезопасный или нежелательный текст, включая отражение предвзятостей обучающих данных. Указана Stability AI Community License; условия коммерческого использования следует проверять по лицензии модели.

Agents-A1-4B-heretic — производная версия агентной модели InternScience/Agents-A1-4B, подготовленная Richard Young и DeepNeuro с помощью Heretic v2.0.0.dev0. Это плотная модель на 4 млрд параметров семейства Qwen3.5 в формате Safetensors; она принимает текст и изображения, ведёт диалог и поддерживает вызов инструментов. Модель предназначена для разбиения сложных задач на шаги, планирования, работы с внешними инструментами, научных рассуждений и ответов на профессиональные вопросы. Вариант heretic получен методом abliteration: модификацией направления отказа без переобучения. В карточке указано снижение отказов с 99 из 100 у исходной модели до 11 из 100, при KL-дивергенции 0,0598. Это не отдельная гарантия точности или сохранения всех возможностей. Модель рассчитана на локальный инференс, исследовательские, образовательные и творческие сценарии. Лицензия — Apache-2.0.

Absolute Zero Reasoner-Coder-3b-GGUF — квантизированная версия модели Absolute_Zero_Reasoner-Coder-3b, разработанной andrewzh и подготовленной пользователем bartowski в формате GGUF для llama.cpp. Модель предназначена для генерации текста, включая задачи рассуждения и программирования, и может использоваться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до 3-битных и IQ-квантизаций размером примерно от 1,5 до 6,18 ГБ. В README не указаны точная архитектура исходной модели, размер контекста, поддерживаемые языки и модальности, поэтому модель следует рассматривать как текстовую, без подтверждённой поддержки изображений или других типов данных. Старшие варианты квантизации обеспечивают более высокое качество, а младшие снижают требования к оперативной памяти ценой заметной потери качества; рекомендуемыми названы варианты Q4–Q6. Лицензия в предоставленных данных не указана. Это локальная квантизированная сборка, поэтому её практическая ценность особенно высока для запуска на пользовательском оборудовании без облачного сервиса, однако производительность и качество зависят от выбранного варианта квантизации и совместимого программного обеспечения.

DeepSeek-V4-Flash-0731-Pruned-155B-A13B-GGUF — неофициальная производная модель, созданная сообществом на основе DeepSeek-V4-Flash-0731 и GGUF-сборки Unsloth. Она не выпущена и не одобрена DeepSeek. Модель предназначена для генерации текста и локального запуска через llama.cpp, прежде всего на Apple Silicon с 64 ГБ памяти, включая сценарии агентного программирования и задач SWE-bench. Это MoE-модель примерно со 155,5 млрд параметров и около 13 млрд активных параметров на токен. В 40 основных MoE-слоях число маршрутизируемых экспертов сокращено с 256 до 128, а первые три hash-слоя сохраняют все 256 экспертов. Веса представлены в квантизации IQ3_XXS; используется GGUF. Основная сборка требует специальной модификации llama.cpp, тогда как альтернативная ZP256 совместима с обычной версией llama.cpp, но работает медленнее. Для ускорения поддерживается speculative decoding с отдельной моделью DSpark. Главное преимущество — возможность полностью разместить основную сборку на GPU 64-гигабайтного Mac mini M4 Pro и получить существенно более высокую скорость по сравнению с частичной выгрузкой исходной модели: до 21,2 токена в секунду при коротком контексте и 14,3–16,6 токена в секунду при агентном контексте 8–32 тыс. токенов. На подмножестве SWE-bench Verified из 100 задач модель решила 77,5% задач против 84,0% у официальной FP8-версии, поэтому pruning сопровождается заметным снижением качества. Калибровочная imatrix исходной модели отдельно для обрезанной версии не проверялась. Лицензия — MIT. Для работы основной сборки требуются совместимые патченные llama.cpp и настройка лимита выделяемой GPU-памяти macOS; заявленная производительность относится к конкретной конфигурации Mac mini M4 Pro 64 ГБ и может отличаться на другом оборудовании.

EXAONE-3.5-2.4B-Instruct-GGUF — инструкционная языковая модель семейства EXAONE 3.5, разработанная LGAI-EXAONE. Представленная версия является GGUF-квантизацией исходной модели EXAONE-3.5-2.4B-Instruct, выполненной bartowski на базе llama.cpp. Размер модели — 2,4 млрд параметров; поддерживаются английский и корейский языки, максимальная длина контекста составляет 32 тысячи токенов. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, решения математических задач и программирования. Согласно README, она демонстрирует высокое качество следования инструкциям и сильные результаты среди моделей с сопоставимой длиной контекста. Формат GGUF и совместимость с llama.cpp делают её подходящей для локального запуска в приложениях и средах, поддерживающих этот формат. Ограничения включают относительно небольшой размер, поддержку только заявленных английского и корейского языков, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей. Модель распространяется по лицензии EXAONE; в метаданных она обозначена как other, а подробные условия доступны в файле LICENSE.

Akahsizrr/fuse-1-Lite-MLX — сборка модели fuse-1 Lite в формате MLX для запуска на компьютерах Apple Silicon. Это разговорная модель для генерации текста и задач программирования; карточка указывает библиотеку MLX и объём 2,6 млрд параметров. Модель создана слиянием Akahsizrr/fuse-1-Lite, LiquidAI/LFM2.5-2.6B и Qwen/Qwen3.6-35B-A3B. Для запуска требуются Mac с Apple Silicon и пакет mlx-lm; в README предлагается загрузка с trust_remote_code=True. Указанная длина контекста — 131 072 токена. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает качество на конкретных задачах или подробности архитектуры и ссылается за ними на карточку основной модели.

HelpingAI-Lite-4x1b — языковая модель семейства Mixtral, созданная Abhaykoul как MoE-объединение четырёх моделей с помощью VortexMerge kit. Эксперты включают OEvortex/HelpingAI-unvelite, OEvortex/lite-hermes, OEvortex/HelpingAI-Lite и OEvortex/HelpingAI-Lite-1.5T; в конфигурации указаны базовая модель OEvortex/HelpingAI-Lite, режим маршрутизации cheap_embed и точность float16. Модель предназначена для диалогового общения, общих запросов и помощи с кодом. В метаданных указаны 1 млрд параметров, контекст до 2048 токенов и формат safetensors. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в карточке не приведены. Распространяется по лицензии Apache-2.0. README описывает объединение моделей, но не приводит сравнительных оценок качества или подробностей о поведении маршрутизатора.

LLaDA-MoE-7B-A1B-Base — базовая предварительно обученная языковая модель от InclusionAI, построенная как диффузионная модель языка с архитектурой Mixture-of-Experts. Это версия для исследований и дальнейшей разработки, в том числе для дообучения под конкретные сценарии. Модель обучена с нуля примерно на 20 трлн токенов; всего в ней около 7 млрд параметров, из которых при генерации активируется около 1,4 млрд. Архитектура включает 16 слоёв, использует RoPE и словарь из 157 184 токенов. Модель предназначена для генерации текста и может служить основой для задач программирования, математических рассуждений и сценариев с вызовом инструментов. Метаданные указывают контекст до 8 192 токенов; в README приведена длина контекста 4 096 токенов. Карточка не сообщает, на каких естественных языках модель обучена или проверена. Для работы указана библиотека Transformers; README также рекомендует dInfer для ускоренного инференса. Модель распространяется по лицензии Apache-2.0. Это базовый чекпойнт, поэтому для диалоговых и прикладных сценариев может потребоваться дообучение и подходящая обвязка; заявления о производительности и качестве приведены разработчиком и не сопровождаются здесь независимой проверкой.

Llama-3.1-Minitron-4B-Width-Base — базовая текстовая языковая модель NVIDIA для генерации текста и последующей адаптации под задачи обработки естественного языка. Это авторегрессионный трансформер-декодер семейства Llama 3.1 с 3,9 млрд параметров, 32 слоями, Grouped-Query Attention и RoPE. Модель получена сокращением размерностей Llama-3.1-8B с последующим продолженным обучением и дистилляцией на 94 млрд токенов. Модель принимает текст и генерирует текст. Обучающий корпус включал английские и многоязычные тексты, а также код; среди тематик данных были право, математика, наука и финансы. Контекст модели — до 131 072 токенов по метаданным, хотя в README отмечено, что она хорошо работает с входами длиной до 8 000 символов. Модель предназначена для коммерческого использования; лицензия указана как other, поэтому перед внедрением следует проверить применимые условия NVIDIA. Это базовая, а не готовая к диалогу инструкционная модель: для прикладных сценариев может потребоваться дообучение или настройка промптов. Модель может выдавать неточные, неполные, нерелевантные или повторяющиеся ответы, а также воспроизводить токсичность и смещения, присутствующие в обучающих данных.

failspy/Llama-3-8B-Instruct-MopeyMule — разговорная языковая модель на базе семейства Llama 3, разработанного Meta. Она предназначена для диалоговых сценариев и генерации текста и кода; подходит для создания ассистентов, ответов на запросы и других задач генерации на естественном языке. Модель использует авторегрессионную архитектуру Transformer с Grouped-Query Attention (GQA) и содержит около 7,5 млрд параметров. Она принимает текст, выдаёт текст и рассчитана прежде всего на английский язык. Длина контекста составляет 8192 токена. Репозиторий содержит веса в формате safetensors. В README указана лицензия Meta Llama 3 с условиями коммерческого и исследовательского использования, а также ограничениями Acceptable Use Policy. Базовая карточка описывает семейство Llama 3 и не подтверждает отдельно происхождение или дополнительные особенности варианта MopeyMule.

unsloth/OpenReasoning-Nemotron-32B-GGUF — GGUF-версия большой языковой модели OpenReasoning-Nemotron-32B, разработанной NVIDIA и подготовленной Unsloth. Модель является производной от Qwen2.5-32B-Instruct и дообучена для рассуждений при решении математических, программных и научных задач. Она предназначена для генерации текста, включая ответы, решения и исходный код, а также может использоваться в исследовательских и коммерческих сценариях. Модель имеет 32 млрд параметров и работает с текстовыми данными на английском языке. В README не указаны точная архитектура в терминах компонентов, размер контекстного окна и конкретный вариант GGUF-квантизации. Заявлена оценка сгенерированных последовательностей длиной до 64K выходных токенов. Для повышения качества можно применять режим GenSelect с несколькими параллельными генерациями и выбором лучшего решения; этот подход особенно ориентирован на математические и программные задачи. К сильным сторонам относятся специализация на сложном рассуждении, математике, коде и науке, а также высокие результаты на приведённых бенчмарках, включая GPQA, MMLU-PRO, LiveCodeBench, SciCode и AIME. Ограничения включают высокие требования к ресурсам, свойственные модели такого размера, неопределённость характеристик конкретной квантизованной сборки и отсутствие заявлений о мультимодальности: в доступных данных указана только текстовая генерация. Модель распространяется по лицензии Creative Commons Attribution 4.0 International (CC BY 4.0); дополнительно упомянута лицензия Apache 2.0 базовой модели Qwen2.5-32B-Instruct.

Ornith-1.5-35B-Uncensored-YMQ-MTP-GGUF — это набор архитектурно-ориентированных квантованных сборок модели Ornith-1.5-35B-A3B-Uncensored, разработанной 0xKitkat. Квантование выполнено проектом ZeroDigest с использованием собственного YMQ-Compiler v2.0 и формата GGUF на основе исходных BF16-файлов. Модель использует архитектуру Mixture-of-Experts (MoE) и предназначена для локального запуска, в том числе в агентских средах RooCode и Aider, а также для генерации текста и задач программирования. Доступны варианты XS, S, M и L размером примерно от 11,5 до 18,6 ГБ, рассчитанные на разные объёмы видеопамяти; вариант M обозначен как рекомендуемый для сценариев с большим контекстом. В описании приведены результаты оценки perplexity на WikiText-2 при окне контекста 4096 токенов: лучший показатель заявлен для варианта M — 12,4310. Архитектурно-ориентированное распределение разрядности призвано лучше сохранять маршрутизацию экспертов и качество рассуждений по сравнению с равномерным квантованием. Ограничения включают зависимость качества и требований к памяти от выбранного пресета, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, максимальном контексте в рабочем режиме и фактической скорости инференса. Модель обозначена как uncensored, поэтому её поведение и защитные ограничения могут отличаться от стандартных инструкционных моделей. Репозиторий распространяется по лицензии Apache-2.0.

Phi-3-mini-4k-instruct-4bit — это 4-битная версия модели Phi-3-mini-4k-instruct, преобразованная сообществом mlx-community в формат MLX из исходной модели Microsoft. Конвертацию выполнил Prince Canuma с использованием mlx-lm 0.10.0; модель предназначена для запуска и генерации текста через экосистему MLX. Модель решает задачи генерации текста и диалогового взаимодействия на английском языке, включая ответы на вопросы, составление текстов и помощь с кодом. Она содержит около 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. 4-битное представление снижает требования к памяти по сравнению с полноразмерной версией, что удобно для локального запуска на совместимом оборудовании Apple Silicon и других средах MLX. Модель распространяется по лицензии MIT. Ограничения исходной Phi-3-mini-4k-instruct, включая возможные ошибки, галлюцинации, чувствительность к формулировкам запросов и риски при использовании с непроверенным кодом или фактическими сведениями, сохраняются; результаты требуют проверки человеком.

FreedomAISVR публикует Qwable-v1 в формате GGUF с квантизацией NVFP4. Это разговорная MoE-модель семейства Qwen, созданная для генерации текста и агентного программирования: в карточке описаны поведение Claude Fable-5 для использования инструментов и дистилляция рассуждений Claude Opus 4.7. Метаданные связывают модель с Qwen/Qwable-v1 как с дообученной базой. В README указаны 40 слоёв, 256 экспертов (8 активных на токен), около 3 млрд активных параметров и контекст 262 144 токена. Модель поддерживает зрение через SigLIP ViT; для работы с изображениями в llama.cpp нужен отдельный проектор mmproj в F16. Основной сценарий применения — диалоговая генерация и помощь с кодом; агентное использование требует соответствующего системного промпта. Весовой файл квантизирован в NVFP4, а README приводит размер около 18,81 ГБ для модели и 0,88 ГБ для проектора. Лицензия — AGPL-3.0.

Jongbin-kr/qwen2.5-coder-7b-verireason-grpo-official-full-ft — дообученная модель генерации текста на базе Jongbin-kr/qwen2.5-coder-7b-verireason_sft-reasoning_official-full-ft. Разработчик карточки указывает, что обучение выполнялось с использованием TRL; архитектура — плотная Qwen2, размер — 7,1 млрд параметров. Модель предназначена для генерации ответов в диалоговом формате. Базовая модель описана в каталоге как Qwen2.5-Coder-7B-Instruct, настроенная для диалога, рассуждений и программирования. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Карточка не приводит результатов оценки качества или подробных ограничений; возможности программирования и рассуждений следуют из описания базовой модели. Лицензия в предоставленных данных не указана.

Qwen3-24B-A4B-Freedom-HQ-Thinking-Abliterated-Heretic-NEOMAX-Imatrix-GGUF — текстовая generative-модель, опубликованная пользователем fair322. Она собрана на базе шести моделей Qwen3 4B, включая варианты с дистилляцией рассуждений из Jan, Apollo, Claude, Gemini и Polaris Alpha, после применения метода Heretic для удаления или снижения ограничений на отказы. Модель распространяется в формате GGUF и предназначена для локального запуска и генерации текста. Модель рассчитана на широкий круг задач: программирование, математику, обучение, ответы на вопросы, написание художественных текстов, ролевые сценарии, фантастику, романтику, хоррор и материалы для взрослой аудитории. Заявлены режим полного рассуждения, сжатые планы перед ответом и контекст до 256K токенов. Архитектура представляет собой плотную Mixture of Experts из шести экспертов по 4B параметров; по умолчанию активен один эксперт, но можно задействовать от одного до шести, что соответствует заявленным уровням мощности от 4B до 24B параметров. Сильными сторонами являются большой контекст, масштабируемая вычислительная нагрузка, поддержка рассуждений, широкий спектр сценариев и сниженная склонность к отказам. Модель ориентирована преимущественно на английский язык. Ограничения включают возможную необходимость явно задавать желаемый уровень подробности, ненормативной лексики или содержания для получения нужного стиля, а также отсутствие гарантий безопасности и фильтрации: модель описана как uncensored и может генерировать потенциально чувствительный или неприемлемый контент. Указанная лицензия — Apache-2.0.

Qwen3-4B-MDOPSA — плотная языковая модель на 3,7 млрд параметров, созданная Tuwhy на основе Qwen/Qwen3-4B. Это многодоменный чекпойнт, дообученный методом On-Policy Self-Adaptation (OPSA) с акцентом на математику и программирование. Модель предназначена для диалогов, генерации текста и кода, а также решения математических задач; заявленный контекст составляет 40 960 токенов. Модель поставляется в формате BF16 Safetensors для Transformers и использует лицензию Apache 2.0, как и базовая модель. Карточка указывает чекпойнт на шаге 319 (320 обновлений оптимизатора). Данных о сравнительных результатах или конкретных ограничениях качества в карточке нет.

Карточка модели ArchiveStudio/Qwen3-Reranker-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-8B, поэтому описание составлено по ней. Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

Sonoma-1.2B-0901 — продолжение Sonoma-1.2B Preview от Mincofficial, дообученное на основе LiquidAI/LFM2.5-1.2B-Thinking. Это плотная причинная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, кода и задач на рассуждение. Модель дообучали с помощью assistant-only LoRA ранга 32 на всех 16 блоках, после чего адаптер объединили с весами; карточка указывает контекст 128 000 токенов. Основной формат весов — Safetensors для MLX; в репозитории также есть экспорт GGUF Q4_K_M для llama.cpp. Модель подходит для локального ассистента, написания и объяснения кода, а также ответов на вопросы и математических рассуждений на английском языке. Приведённые оценки относятся к небольшому фиксированному отложенному набору и восьми задачам проверки поведения, поэтому не дают оснований считать их широким сравнительным бенчмарком. Лицензия обозначена как other; перед использованием следует проверить условия репозитория и лицензии источников обучающих данных.

johnnas12/e5-galaxy-finetuned — англоязычная модель Sentence Transformer, дообученная на базе intfloat/e5-base-v2. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их по косинусному сходству. Архитектура включает BERT-трансформер, усреднение токенных представлений и нормализацию; максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, оценки сходства текстов и поиска перефразировок. Её также можно применять для кластеризации и классификации текстов на основе эмбеддингов. В обучающем наборе указано 68 840 пар запросов и passages; примеры ориентированы на поиск технической документации. Лицензия в предоставленных данных не указана.

Eurus-70B-NCA — языковая модель OpenBMB для генерации текста и диалогов с упором на рассуждения. Это плотная Llama-модель на 68,7 млрд параметров, дообученная методом NCA от Eurus-70B-SFT на многоходовых парах траекторий UltraInteract и парах UltraFeedback. Модель поддерживает контекст до 16 384 токенов и распространяется в формате safetensors. Модель предназначена для многошагового решения задач, в особенности математических и связанных с программированием, а также для многоходовых диалогов. В README авторы сообщают о сильных результатах на комплексной оценке по пяти типам задач, но это заявление основано на бенчмарках и не гарантирует аналогичных результатов в конкретном применении. Для задач программирования и математики рекомендованы специальные форматы промптов. Лицензия — Apache-2.0. В карточке описано дообучение от Eurus-70B-SFT; отдельные ограничения на использование не приведены.

mlx-community/granite-4.1-8b-bf16 — версия Granite-4.1-8B от mlx-community, преобразованная для MLX из модели ibm-granite/granite-4.1-8b с помощью mlx-lm. Это плотная языковая модель с архитектурой GraniteForCausalLM и 8,4 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 131 072 токена. В описании базовой модели указана поддержка нескольких языков, работы с текстом и кодом, а также вызова инструментов, однако эта карточка подтверждает только генерацию текста и диалоговую возможность. Файлы модели представлены в формате safetensors и подготовлены для запуска с MLX. Лицензия — Apache-2.0. Качество и языковой охват унаследованы от базовой модели; отдельные результаты оценки для этой сборки в карточке не приведены.