II.2Создание и понимание программного кода

Qwen3.8-Flash-Next-113B-A5B-Niwaki-3bit-mlx — текстовая Mixture-of-Experts-модель, созданная проектом Niwaki на базе Qwen3.8-Flash-Next от команды Qwen. Модель была подвергнута структурному прореживанию экспертов, реконструкции и дистилляции, после чего сохранена в 3-битном формате для MLX. Она предназначена для генерации текста, диалогов, программирования, рассуждений и творческих задач на компьютерах Apple Silicon, особенно моделях с 64 ГБ unified memory. Модель содержит 113B параметров, из которых около 5,4B активны для каждого токена. Архитектура включает 48 слоёв, до 512 маршрутизируемых экспертов и top-k 10; эксперты используются в 32 слоях и имеют промежуточный размер 448. Эксперты хранятся в 3-битном формате с группировкой 64, backbone — в 4-битном, а таблица n-gram embeddings PLE — в 2-битном формате. Размер модели на диске составляет 42,2 ГБ, поддерживается только текстовая модальность, языки явно не указаны. Для запуска требуются MLX, mlx-vlm и специальный загрузчик Niwaki; заявлена производительность около 31 токена в секунду на M4 Max. Главное преимущество — существенное сокращение требований к памяти при сохранении 99,8% среднего результата базовой 4-битной модели на указанном наборе задач. Ограничения включают повышенную perplexity, меньшую надёжность чисел и редких технических фактов, недостаточную проверку поведения в узких предметных областях и унаследованные от базовой модели смещения. При включённом режиме рассуждений модель может генерировать чрезмерно длинные ответы; для кратких задач рекомендуется отключать thinking. Лицензия указана как other со ссылкой на лицензию базовой модели Qwen3.8-Flash-Next.

RadixArk Qwen3.8-Flash-Next-NVFP4 — кандидатный релиз RadixArk, представляющий квантованную версию мультимодальной модели Qwen3.8-Flash-Next. Это гибридная архитектура Transformer с Mixture-of-Experts, объединяющая GDN и разреженное QSA-внимание, multi-hyperconnection streams и PLE n-gram injection. Модель содержит около 180 млрд параметров, 48 декодерных слоёв, до 512 маршрутизируемых экспертов на MoE-слой с маршрутизацией top-10, общий эксперт и один MTP-слой. Модель принимает текст, изображения и видео, а выдаёт текст; заявленная длина контекста — до 262 тысяч токенов. Она предназначена для оценки инференса Qwen3.8-Flash-Next в задачах агентных систем, диалогов, программирования и мультимодального рассуждения. Квантование выполнено с помощью NVIDIA Model Optimizer по схеме NVFP4 W4A4 преимущественно для маршрутизируемых экспертов; размер контрольной точки уменьшен примерно с 360 до 135 ГБ. Для запуска указана интеграция с SGLang и поддержка GPU NVIDIA Blackwell, включая GB300 и B300, в Linux. По приведённым оценкам, квантование сохраняет качество в однопроходных задачах GSM8K и AIME, однако длительные агентные генерации могут выполняться дольше, чем в BF16-версии. Модель может порождать неточные, неполные, избыточные или токсичные ответы и воспроизводить предвзятость обучающих данных. Лицензия обозначена как other; условия использования необходимо смотреть у исходной модели Qwen3.8-Flash-Next.

Rain's SQLCoder — 32-миллиардная плотная языковая модель компании Rain, дообученная на базе Qwen/Qwen2.5-Coder-32B-Instruct для преобразования запросов на естественном языке в SparkSQL. Она принимает текстовый вопрос и генерирует SQL-запрос; заявленная длина контекста составляет до 32 768 токенов, что подходит для задач с крупными схемами и сложными запросами. Модель обучена следовать шаблону Alpaca и предназначена для генерации SELECT-запросов. По описанию, если схема таблиц не позволяет ответить на вопрос, модель отказывается от ответа. Авторы сообщают о сравнительной оценке на двух наборах данных и преимуществах в понимании намерения запроса, точности синтаксиса SQL и обработке сложных запросов, однако численные результаты в карточке не приведены. Модель распространяется в формате safetensors по лицензии Apache-2.0.

RWKV/RWKV7-2.9B-20260805 — официальная базовая языковая модель RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM примерно на 3,1 млрд параметров; в репозитории представлены веса safetensors. Архитектура использует рекуррентное состояние постоянного размера вместо механизма внимания, поэтому размер состояния не растёт вместе с длиной генерации, а вычисления на каждый новый токен остаются постоянными. Обучение при этом можно распараллеливать. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения. В обучающих данных использовались веб-тексты, код, синтетические данные, инструкции, диалоги и рассуждения; карточка также содержит шаблон для диалоговых запросов и вызова инструментов. Шаблон не означает, что модель прошла настройку на безопасное поведение или является готовым ассистентом. Заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Для нативной интеграции с Transformers требуется версия 5.15 или актуальная версия из исходного кода. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний; производительность оптимизированного исполнения зависит от GPU, типа данных, размера пакета и формы входа. Разработчик не заявляет оценок безопасности, смещённости, токсичности, фактической точности или пригодности для критически важных задач. Лицензия — Apache-2.0.

Sarvam-30B — языковая модель, разработанная командой Sarvam Foundation Models. Это модель класса Mixture-of-Experts (MoE), ориентированная на практическое развертывание, мультиязычные диалоги и голосовые вызовы на индийских языках, включая выполнение вызовов инструментов. Она также предназначена для задач рассуждения, генерации кода и общего текстового общения. Модель содержит 30 млрд параметров, из которых 2,4 млрд активируются для отдельного запроса, и представлена в виде FP8-квантизированных весов в формате FP8 E4M3. Архитектура включает 19 слоёв, 128 экспертов с общим экспертом, маршрутизацию top-6, grouped KV attention с четырьмя KV-головами, dense FFN размером 8192 и MoE-FFN размером 1024. Высокое значение rope_theta, равное 8e6, предназначено для стабильной работы с длинным контекстом без дополнительного RoPE scaling, однако точный размер контекстного окна в README не указан. Заявлена передовая производительность для своего размера в 22 индийских языках; также заявлена поддержка английского языка. К сильным сторонам относятся эффективность по памяти и пропускной способности, сниженные требования к ресурсам благодаря MoE и FP8-квантизации, а также сочетание рассуждения, программирования, диалогового взаимодействия и поддержки индийского языкового контекста. Ограничением является необходимость специальной настройки инфраструктуры: для запуска рекомендуются SGLang или модифицированная версия либо hot-patch для vLLM, а точная производительность зависит от оборудования и конфигурации. Модель распространяется по лицензии Apache 2.0.

Solar-Open2-250B-Mixed-Quant-GGUF — независимая конверсия модели upstage/Solar-Open2-250B в формат GGUF с рецептом смешанной точности MXQ-v1. Автор репозитория Baekpica; это не официальный выпуск Upstage. Вариант состоит из 11 файлов общим размером около 88,973 ГиБ и сохраняет исходную архитектуру Mixture-of-Experts: 48 слоёв, 320 маршрутизируемых экспертов в каждом слое и один общий эксперт. Указанный размер артефакта — около 3,05 бит на вес. Модель предназначена для генерации текста и диалогового применения, включая работу с инструкциями, рассуждениями, кодом и многоязычными запросами. В калибровке использованы английский, корейский, японский и другие многоязычные данные; карточка базовой модели указывает контекст до 1 048 576 токенов, однако автор не заявляет такую длину для работы на DGX Spark. Проверки описывают загрузку и генерации на нескольких GPU-конфигурациях, а также замеры производительности на DGX Spark с конкретным ПО и настройками. Это производный квантованный артефакт для запуска в совместимом с GGUF программном обеспечении; для него приведены контрольные суммы, рецепт квантования и результаты структурной проверки. Репозиторий указывает лицензию «other», но не приводит её условия в предоставленных данных, поэтому коммерческие и иные права использования следует сверить с карточкой Hugging Face и базовой моделью. Результаты проверок качества ограничены описанными тестами и не являются гарантией качества на произвольных задачах.

Soniox-7B-v1.0 — языковая модель Soniox для диалогов и генерации текста. Она построена на архитектуре Mistral и основана на Mistral 7B, дополнительно прошла предварительное обучение и дообучение для решения задач и ответов на вопросы. В карточке заявлена поддержка английского языка и кода; модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов по метаданным. Модель можно использовать для диалоговых интерфейсов, генерации текста и помощи с кодом. Автор README заявляет сопоставимость с GPT-4 на некоторых бенчмарках, но не приводит их названия или результаты, поэтому это утверждение не позволяет оценить качество для конкретных задач. Модель доступна в формате safetensors и совместима с Transformers; для развёртывания также упоминаются vLLM и другие варианты. Лицензия — Apache 2.0. README указывает контекст 8K, тогда как метаданные каталога дают native context 32 768 токенов; это расхождение следует учитывать при выборе длины входа.

Spark-X2.5-4B-GGUF — набор общественных GGUF-квантизаций компактной универсальной языковой модели Spark-X2.5-4B, разработанной SparkLLM и опубликованной в исходном виде XHToken. Репозиторий ngquocvinh содержит только квантизированные файлы для локального запуска; обучение и дообучение в рамках этого выпуска не выполнялись. Модель предназначена для диалогов, написания текстов, перевода, рассуждений, программирования, использования инструментов и агентских сценариев. Исходная модель имеет 4B параметров, поддерживает английский, китайский и, по заявлению авторов, более 200 языков. Заявлено контекстное окно до 1 млн токенов и гибридное внимание: один слой с полным вниманием и три слоя со скользящим окном, что должно способствовать эффективной обработке длинного контекста. Квантизации представлены в форматах GGUF и совместимы с llama.cpp; также заявлена поддержка экосистем llama.cpp, vLLM, SGLang, MLX, Ollama и LM Studio. Основное преимущество — возможность локального запуска при разных ограничениях по памяти: Q8_0 ближе всего к исходному BF16 по результатам измерений, Q4_K_M предлагает компромисс между размером и качеством, а Q2_K требует меньше ресурсов ценой заметной потери точности. Ограничения включают снижение fidelity у низкобитных вариантов и отсутствие в README подробных сведений о точных требованиях к памяти, скорости, обучающих данных и результатах прикладных бенчмарков. Производные файлы распространяются по Apache License 2.0 с сохранением атрибуции исходной модели; это неофициальный community-релиз и не подтверждение со стороны XHToken или SparkLLM.

Spark-X2.5-4B MLX 4-bit — 4-битная MLX-квантизованная версия языковой модели XHToken/Spark-X2.5-4B, разработанной XHToken. Это универсальная текстовая модель для рассуждений, программирования, использования инструментов и агентских рабочих процессов. Модель содержит около 4 миллиардов параметров и поддерживает текстовую генерацию с нативным контекстом до 1 048 576 токенов. Размер файла весов составляет 2,31 ГБ. Модель предназначена для запуска в экосистеме MLX на совместимом оборудовании Apple, а её архитектура spark2_5 на данный момент поддерживается Spark-MLX-LLM. Совместимость с oMLX и стандартным MLX-LM в README не заявлена. К сильным сторонам относятся существенно уменьшенный размер 4-битных весов и очень длинное контекстное окно, что подходит для обработки больших документов и длительных агентских сценариев. При этом README не содержит подробных результатов тестирования, сведений о языках, конкретных мультимодальных возможностях или ограничениях качества. Модель распространяется по лицензии Apache-2.0.

Locutusque/StockQwen-2.5-7B — плотная языковая модель на архитектуре Qwen2, созданная автором репозитория с помощью mergekit методом Model Stock. В слияние вошли Qwen2.5-7B, Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct; базовая модель — Qwen/Qwen2.5-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоги; интерфейс поддерживает вызов инструментов. Для практического использования в README рекомендуется дообучение. Модель работает с текстом и имеет заявленный контекст до 131 072 токенов. Метаданные перечисляют английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Слияние инструктивной, кодовой и математической моделей предполагает применимость к диалогам, генерации кода и математическим ответам, однако README не приводит оценок качества. Файлы опубликованы в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

Ternary Bonsai 2 27B PTQ1_0 MTP GGUF — это сжатая до ternary-представления сборка Qwen 3.8 27B от автора sudoingX. Веса поставляются в формате GGUF для запуска через форк llama.cpp; в модель добавлена голова multi-token prediction из Qwen 3.8 27B, чтобы ускорять генерацию с помощью speculative decoding. Размер файла модели — около 7 ГБ. Модель предназначена для локального диалога и генерации текста на компьютерах с видеокартами NVIDIA RTX 20–50 и, в бета-режиме, AMD Radeon. README описывает измерения производительности на разных видеокартах, а также запуск с контекстом до 262 144 токенов и обработку изображений при подключённой vision tower. Реальная скорость, допустимая длина контекста и доступность зрения зависят от видеокарты, сборки и настроек. MTP ускоряет декодирование, но без режима batch-invariant результат генерации может отличаться от обычного декодирования; на RTX 20 побайтовая идентичность не гарантируется и при этом режиме. Модель распространяется по лицензии Apache-2.0. Для описанного запуска нужны совместимый бинарный файл форка PrismML llama.cpp и подходящая конфигурация под видеокарту.

Jebadiah/Tess-gradient-ruby — объединённая диалоговая языковая модель, созданная с помощью mergekit на основе Tess-2.0-Llama-3-8B и Llama-3-8B-Instruct-Gradient-4194k. В README указан метод линейного слияния DARE; модель построена на архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для диалогов и генерации текста по запросам пользователя. Её можно применять для ответов на вопросы, следования инструкциям и помощи с программированием. Метаданные указывают контекст до 8192 токенов и формат весов safetensors; модель работает через библиотеку Transformers. Карточка не приводит результаты оценки качества или подробные ограничения. Лицензия в предоставленных данных не указана.

Карточка модели RRavens/Test на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Trida-7B-Preview — языковая модель на 7,76 млрд параметров, разработанная Trillion Labs. Это Block Diffusion Language Model на базе Transformer Decoder с RoPE, SwiGLU и RMSNorm. Модель создана непрерывным предварительным обучением Trillion Labs/Tri-7B и последующим обучением по подходу Block Diffusion, который сочетает параллельную генерацию блоков с авторегрессионными зависимостями. Длина контекста — 4096 токенов; модель распространяется в формате safetensors и поддерживает диалоговую генерацию текста. Модель оптимизирована для корейского, английского и японского языков. Её можно применять для ответов на вопросы, следования инструкциям, рассуждений, математических задач и генерации кода. README приводит результаты тестирования на языковых и задачах рассуждения, кодирования, математики и следования инструкциям, но не описывает ограничения по вычислительным ресурсам или гарантии качества. Для других языков качество может снижаться; знания ограничены данными до февраля 2025 года. Лицензия — Apache-2.0.

Whittle-Qwen-3.8-35B-A3B-GGUF — это GGUF-квантизированная версия модели Whittle-Qwen-3.8-35B-A3B, разработанной logic65 и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений, программирования и математических задач. В описании указаны архитектура Mixture-of-Experts, механизмы n-gram memory и conditional memory, hyper-connections и knowledge distillation. Поддерживаются текстовые запросы; заявлены английский, китайский и многоязычный режимы. Размер контекстного окна не указан. Модель распространяется в формате GGUF для запуска через llama.cpp и совместимые инструменты. Доступны варианты квантизации от Q2_K размером около 13,1 ГБ до Q8_0 размером около 37,9 ГБ; варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q6_K — как обеспечивающий очень хорошее качество. Более сильная квантизация обычно требует больше памяти, но лучше сохраняет качество, тогда как малые варианты экономичнее, однако могут заметнее уступать в точности. В README не приведены результаты бенчмарков и подробные ограничения по производительности. Лицензия модели — Apache-2.0.

XVERSE-65B-2 — базовая мультиязычная языковая модель, самостоятельно разработанная Shenzhen Yuanxiang Technology. Она использует плотную архитектуру Decoder-only Transformer с 65,6 млрд параметров и поддерживает контекст до 16 384 токенов. Модель обучена на 2,6 трлн токенов из разнообразных источников; токенизатор BPE имеет словарь из 100 534 единиц. Модель предназначена для генерации текста, многошаговых диалогов, ответов на вопросы и суммаризации. В обучающих данных представлены более 40 естественных языков, включая китайский, английский, русский и испанский; наибольший объём данных приходится на английский и китайский. В корпус также входили код, энциклопедии, книги и научные статьи. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Карточка описывает базовую предварительно обученную модель, поэтому качество выполнения инструкций или диалога отдельно не заявлено; для запуска также потребуются значительные вычислительные ресурсы из-за размера модели.

jondurbin/airoboros-33b-2.1 — плотная авторегрессионная модель семейства LLaMA с 32,3 млрд параметров, дообученная разработчиком jondurbin на синтетических инструкционных данных airoboros. Она предназначена для диалогов и выполнения текстовых инструкций: отвечает на вопросы по предоставленному контексту, помогает с программированием и планированием, пишет художественные тексты и продолжения глав, а также поддерживает ролевые диалоги с заданными персонажами. В обучающие данные включены примеры генерации JSON и YAML для вызова функций. Модель принимает текст и генерирует текст. Для неё заявлено контекстное окно 4096 токенов, увеличенное с помощью RoPE scaling; автор отмечает, что обучающих данных для такой длины было немного. Рекомендуемый шаблон запроса использует префикс системного сообщения, роли USER и ASSISTANT; при генерации диалога полезно останавливать вывод на следующем маркере USER, иначе модель может продолжить имитировать разговор. Модель экспериментальная, а результаты могут зависеть от точного шаблона промпта. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Airoboros 7B GPT4 1.4.1 QLoRA — дообученная модель семейства LLaMA, созданная jondurbin на базе синтетических данных, сгенерированных GPT-4. Это вариант QLoRA для сравнения с полной тонкой настройкой; модель содержит около 6,6 млрд параметров и рассчитана на контекст до 2048 токенов. Для диалога использует шаблон в стиле Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, следования инструкциям, ответов на вопросы по предоставленному контексту, помощи с программированием, письма, ролевых диалогов, загадок и викторин. В обучающем наборе есть примеры кода на десяти языках программирования, но естественные языки модели в источниках не перечислены. Модель ориентирована на подробные и прямые ответы, однако README предупреждает, что ответы по контексту могут выдумываться, поэтому для закрытых вопросов рекомендуется явно просить не придумывать ответ при нехватке данных. Модель обучалась следовать запросам без отказов, включая незаконные или аморальные; это может приводить к небезопасным ответам. Лицензия — CC BY-NC 4.0, разрешающая использование с указанием авторства и запрещающая коммерческое использование.

AliceAI-Foundation-80B-A3B-Base — базовая авторегрессионная языковая модель, разработанная Yandex и обученная с нуля на этапе предобучения. Она использует гибридную архитектуру с MoE-слоями: всего 80 млрд параметров, из которых для каждого токена активируются около 3 млрд. В модели 48 слоёв, 512 экспертов и контекст до 262 144 токенов. Модель предназначена для генерации текста и служит основой для дальнейшей адаптации под диалоговые, агентские и другие сценарии. В README отмечены сильные результаты в математике, программировании и задачах на рассуждение, а также особая сила в фактических знаниях на русском языке. В репозитории приведены бенчмарки для русскоязычного контекста и примеры запуска через Transformers и vLLM. Поддерживаются русский и английский языки; опубликованные веса доступны в формате safetensors. Лицензия — Apache-2.0. Это базовая модель без единого формата диалога, автоматически применяемого при инференсе; для дообучения README рекомендует рендерить данные в формате OpenAI Messages с шаблоном репозитория. Для запуска KDA-слоёв на GPU нужны совместимые реализации, а практическое использование модели такого размера требует значительных вычислительных ресурсов.

ANITA-NEXT-24B-Dolphin-Mistral-UNCENSORED-ITA — разговорная языковая модель семейства ANITA-NEXT, разработанная исследователем Марко Полиньяно из Университета Бари Альдо Моро и исследовательской группой SWAP. Это плотная авторегрессионная модель архитектуры Mistral на 23,4 млрд параметров, дообученная на базе dphn/Dolphin-Mistral-24B-Venice-Edition с помощью SFT, QLoRA и DPO. Она предназначена для диалога, следования инструкциям и генерации текста и кода; README характеризует её как модель с рассуждением и без фильтрации ответов. Модель принимает текст и генерирует текст, включая код. Она рассчитана прежде всего на итальянский язык, также заявлена поддержка английского и многоязычных сценариев. Метаданные указывают контекст 40 960 токенов; README отмечает деградацию качества после примерно 40 тысяч токенов, несмотря на заявленные там 128 тысяч. Указанная лицензия — Apache-2.0. Авторы предупреждают о галлюцинациях и возможности оскорбительных, неэтичных или опасных ответов; модель представлена для исследовательского применения.

aquif-3.5-Max-1205-GGUF — это квантизированная GGUF-версия языковой модели aquif-3.5-Max-1205, разработанной aquif-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, рассуждений, математических задач и программирования; запуск возможен через llama.cpp, LM Studio и другие совместимые проекты. В карточке указано, что модель относится к архитектуре MoE, однако точное число параметров, размер активной части, максимальная длина контекста и другие архитектурные характеристики не приведены. Поддерживаются текстовые запросы; заявлены английский, немецкий, итальянский, португальский, французский, хинди, испанский, тайский, китайский и японский языки. Доступны варианты от BF16 до низкобитных Q3-, Q4-, Q5-, Q6- и Q8-квантизаций размером примерно от 19,48 до 84,78 ГБ. Сильной стороной являются разнообразие вариантов квантизации и возможность локального запуска, при этом варианты Q5 и Q6 позиционируются как обеспечивающие высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. Более агрессивная квантизация уменьшает размер, но может снижать качество ответов. В README не приведены результаты бенчмарков, сведения о мультимодальности или ограничения по применению. Указана лицензия Apache-2.0.

jondurbin/bagel-34b-v0.2 — экспериментальная версия языковой модели, дообученная Jon Durbin на базе yi-34b-200k с помощью Bagel. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстом до 200 000 токенов; опубликованные веса представлены в формате safetensors. Модель предназначена для диалогов и генерации текста, включая творческое письмо и ролевые сценарии. В README указано, что это версия после этапа SFT, до применения DPO; автор отмечает, что она может лучше подходить для творческих задач и ролевых диалогов, тогда как версия после DPO лучше показывает себя на бенчмарках. При дообучении использовались данные для диалогов, ответов на вопросы, рассуждений, математики, программирования, SQL, понимания прочитанного и ролевых сценариев. Для примеров применялись варианты форматов Vicuna, Llama 2, Alpaca и ChatML. Лицензия — Apache-2.0. Модель рассчитана на текстовый ввод и выдаёт текст; её поведение и качество могут зависеть от формата промпта, а карточка не содержит систематической оценки качества этой версии.

Bagel 34B v0.4 — это дообученная jondurbin модель на базе 01-ai/yi-34b-200k, разработанная с использованием вычислительных ресурсов Convai Technologies. Это плотная причинно-авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстом до 200 000 токенов. Она предназначена для генерации текста в диалогах и по инструкциям. Модель обучалась на разнообразных наборах данных для диалогов, ответов на вопросы, рассуждений, математики, программирования, суммаризации и ролевого общения. В карточке также перечислены данные для вызова функций и offensive cybersecurity, а README указывает на несколько вариантов формата запросов: Vicuna, Llama 2, Alpaca и ChatML; по умолчанию используется шаблон Llama 2. Метаданные отмечают поддержку чата, но отдельная возможность вызова инструментов не подтверждена. Модель принимает текст и генерирует текст. Данные карточки указывают на многоязычные обучающие материалы, включая набор Belebele, однако конкретный перечень поддерживаемых языков не задан. Лицензия обозначена как other, поэтому условия использования следует уточнить на странице модели. Обучение на разных форматах и источниках может давать неоднородное качество; ответы могут быть ошибочными, а специализированные навыки не гарантированы.

Bagel DPO 8x7B v0.2 — экспериментальная модель-ассистент, созданная jondurbin дообучением Mixtral 8x7B v0.1: сначала применялось обучение на инструкциях (SFT), затем оптимизация предпочтений DPO. Это языковая модель архитектуры Mixtral с разреженной экспертной структурой MoE, примерно 7,1 млрд параметров и контекстом до 32 768 токенов; поддерживает диалоговую генерацию текста. Для обучения использовались данные по вопросам и ответам, математике, программированию, чтению, диалогам, ролевым сценариям и другим задачам. Модель рассчитана на общие запросы к ассистенту, написание текстов, ответы на вопросы и помощь с кодом. В карточке приведены ограниченные результаты сравнительных проверок, но автор не проводил комплексную оценку. Автор отмечает, что модель унаследовала от базовой Mixtral склонность отказывать в части запросов, несмотря на использование данных для снижения цензурирования. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0.

Baichuan2-13B-Chat-4bits — версия чат-модели Baichuan 2 от Baichuan Intelligence, представленная в 4-битном квантованном варианте. Это плотная авторегрессионная модель на 13,3 млрд параметров для генерации текста и диалогового взаимодействия. Семейство Baichuan 2 обучено на 2,6 трлн токенов; версия Chat v2, согласно карточке, улучшает математические и логические рассуждения и следование сложным инструкциям. Модель ориентирована прежде всего на китайский и английский языки. Модель подходит для диалоговых помощников, ответов на вопросы, выполнения текстовых инструкций, а также задач общего характера в областях права, медицины, математики, программирования и многоязычного перевода. Карточка сообщает о 4-битном варианте для снижения требований к памяти. Для работы указан PyTorch 2.0 или новее. Для использования требуется соблюдать Apache 2.0 и лицензионное соглашение сообщества Baichuan 2. Коммерческое применение требует предварительного обращения за официальной лицензией и зависит от условий, изложенных в карточке. Модель может ошибаться; перед использованием в чувствительных сценариях её ответы следует проверять.

BlueLM-7B-Chat-4bits — 4-битная квантованная версия диалоговой языковой модели BlueLM, разработанной vivo AI Lab. Модель с плотной архитектурой BlueLM и примерно 6,9 млрд параметров предназначена для генерации текста в диалоге и ответов на запросы пользователя. В карточке указана длина контекста 2048 токенов. Модель обучалась преимущественно на китайских и английских данных; корпус также содержал небольшую долю японских и корейских текстов. В README заявлены результаты на тестах общих знаний, математики и программирования, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия обозначена как other; README сообщает, что веса BlueLM открыты для академических исследований и коммерческого использования.

Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

ChatHercules-2.5-Mistral-7B — диалоговая языковая модель, созданная объединением Locutusque/Hercules-2.5-Mistral-7B и openchat/openchat-3.5-0106 методом SLERP с помощью LazyMergekit. Модель построена на плотной архитектуре Mistral для генерации текста и имеет 7,1 млрд параметров; для работы с длинными диалогами заявлен контекст до 32 768 токенов. Модель предназначена для общения и генерации ответов в сценариях общего назначения. В описании базовой модели также указаны программирование и математические рассуждения. Репозиторий содержит веса в формате Safetensors, а лицензия — Apache-2.0. Карточка приводит результаты оценки на Open LLM Leaderboard, но не описывает отдельные ограничения или подробную языковую специализацию этой сборки.

Clary 2 Cyber Flash 1.7B — компактная языковая модель Aurora System на архитектуре Qwen3, дообученная для задач кибербезопасности и программирования. Она предназначена для локального использования на рабочих станциях и ноутбуках: помогает разбирать CTF-задачи, анализировать код и уязвимости, выполнять прикладные криптографические вычисления и создавать вспомогательные скрипты. Модель содержит 1,7 млрд параметров, поддерживает контекст до 40 960 токенов по метаданным; в README для обучения и примера запуска указано окно 8 192 токена. Веса доступны в Safetensors, а README также упоминает GGUF для запуска на CPU и мобильных устройствах. Модель работает с русским и английским языками и поддерживает диалоговую генерацию текста и кода. В README описаны сценарии анализа SQL-инъекций, JWT, XSS, CSRF, ошибок контроля доступа, простых функций x86_64 и криптографических задач. Модель может ошибаться в выводах и сгенерированном коде; результаты проверки безопасности требуют экспертной верификации. Лицензия — Apache-2.0. README представляет модель как предназначенную для исследовательских и образовательных задач, а также помощи специалистам по защите систем.

Code Formula Model — модель семейства SAM-OPT с 152,3 млн параметров, предназначенная для извлечения текста из изображений фрагментов кода и математических формул. На вход подаётся изображение с разрешением 120 DPI; для кода модель определяет язык программирования и восстанавливает текст с сохранением отступов, а для формул выдаёт соответствующий код LaTeX. Метаданные указывают контекстное окно 4096 токенов и формат весов Safetensors. Модель подходит для переноса кода и формул из изображений в редактируемый текст, например из скриншотов или документов. Карточка не сообщает о поддерживаемых естественных языках, поэтому языковая поддержка в каталоге не перечисляется. Лицензия — MIT. Ограничение по входному качеству, указанное в карточке: изображения рассчитаны на 120 DPI.