II.4Отладка, тестирование и качество ПО

LlamaMix-7B-slerp — языковая модель для генерации текста и диалогов, созданная MohamedAtta-AI объединением моделей через mergekit. В объединение вошли Magicoder-CL-7B и Llama-2-7b-chat-hf; применён метод SLERP. Модель использует архитектуру Llama с плотной трансформерной сетью и выдаёт текст в ответ на текстовый запрос. Метаданные указывают 3,4 млрд параметров и контекст до 4096 токенов. Модель подходит для диалогового ассистента и генерации кода благодаря включению Magicoder-CL-7B. В карточке не приведены оценки качества или подробные результаты тестирования, поэтому пригодность для конкретных задач стоит проверять на собственных примерах. Распространяется по лицензии Apache-2.0.

Jackrong/MLX-Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-4bit — языковая модель, разработанная Jackrong и преобразованная в формат MLX из Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2 с использованием mlx-lm 0.30.7. Модель предназначена для генерации текста и задач, требующих рассуждений; в описании также указана специализация на chain-of-thought. Она рассчитана на использование с библиотекой mlx-lm, в том числе через chat template и интерфейс MLX. Модель имеет размер 27B параметров и представлена в 4-битном формате, что снижает требования к памяти по сравнению с полноразмерным представлением. Поддерживаются английский, китайский и корейский языки. Для обучения или дистилляции заявлены наборы данных nohurry/Opus-4.6-Reasoning-3000x-filtered, Jackrong/Qwen3.5-reasoning-700x и Roman1111111/claude-opus-4.6-10000x. Архитектура, максимальная длина контекста и мультимодальные возможности в README не указаны. Лицензия — Apache-2.0.

Muse-Glimmer-30B-CoreAI — это квантованный текстовый декодер модели Meta Muse-Glimmer-30B, подготовленный для запуска в Apple Core AI, преемнике Core ML. Модель предназначена для локальной генерации текста на устройствах Apple с macOS 27 и соответствующей поддержкой Core AI; заявлены сценарии диалога, работы с кодом, пошаговых рассуждений и вызова инструментов. Перцептивный энкодер исходной агентной VLM в комплект не входит, поэтому данная версия работает только с текстом. Модель имеет около 30 млрд параметров; используется формат Core AI .aimodel и 4-битная квантизация int4hu. Размер артефакта составляет 16,35 ГБ. В описании упоминается окно контекста до 2048 токенов и запуск на GPU или Neural Engine через Apple Core AI. На Mac Studio с M4 Max заявлена скорость декодирования около 26,69 токена в секунду без спекулятивного декодирования, а для отдельных задач с n-gram drafting — до 53,71 токена в секунду. Спекулятивное декодирование не требует дополнительных весов и, по приведённым тестам, сохраняет побайтно идентичный результат. Сильными сторонами являются локальный запуск, сравнительно небольшой для 30B-модели размер, поддержка Apple Silicon и высокая скорость генерации; результаты зависят от сценария, длины генерации, охлаждения устройства и параметров спекулятивного декодирования. Ограничения включают отсутствие визуального энкодера, ограниченное контекстное окно, зависимость производительности от оборудования и отсутствие универсальности приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/OpenHermes-2.5-neural-chat-v3-2-Slerp-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-v3-2-Slerp методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате диалога. Контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других задач генерации текста по запросу. Она распространяется под лицензией Apache-2.0. В README и метаданных не приведены отдельные результаты оценки качества или сведения о поддержке конкретных естественных языков.

OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp методом SLERP. Модель содержит 7,1 млрд параметров, предназначена для генерации текста и ответов на инструкции в формате диалога. Контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст; в метаданных отмечена возможность чата. Репозиторий содержит веса в формате Safetensors, а конфигурация слияния указывает тип данных bfloat16. Лицензия — Apache 2.0. Подходит для диалоговых приложений и выполнения текстовых инструкций; конкретные языки, оценка качества и ограничения в предоставленных данных не описаны.

OpenOrcaxOpenChat-Preview2-13B — языковая модель, разработанная OpenOrca совместно с OpenChat. Это плотная авторегрессионная модель семейства LLaMA 2 с 12,9 млрд параметров, дообученная на отфильтрованной выборке GPT-4-дополненного датасета OpenOrca с упаковкой диалогов в формате OpenChat. Модель предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке сообщается о результатах примерно на уровне 103% от показателей Orca в среднем на BigBench-Hard и AGIEval. Модель принимает текст и генерирует текст. Карточка приводит шаблон многоходового диалога OpenChat; контекст составляет 4096 токенов. В метаданных указан английский язык. Модель распространяется в формате PyTorch по лицензии Llama 2. Это предварительная версия; заявленные результаты относятся к оценкам авторов, а карточка не описывает ограничения по качеству подробнее.

OpenYourMind создала эту полноразмерную BF16-версию NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на типовых категориях запросов. По описанию автора, изменение выполнено офлайн-проекцией направления отказа на веса без дополнительного обучения и без изменения структуры базовой модели. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и использует гибридную архитектуру Mamba-2, Attention и Latent-MoE; сохранены режим рассуждений enable_thinking и голова MTP для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, сложных рассуждений и технических или защитных запросов, на которые исходная модель могла отказывать. Контекст составляет 262 144 токена. Веса BF16 занимают около 1,1 ТБ и требуют мног GPU-развёртывания; автор указывает vLLM как вариант запуска. README заявляет сохранение связности, точности и многоязычной беглости, однако не приводит независимых оценок этих свойств. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

Карточка модели OpenYourMind/OpenYourMind-NVIDIA-Nemotron-3-Ultra-550B-A55B-abliterated-uncensored на Hugging Face совпадает с карточкой Laerins/OpenYourMind-NVIDIA-Nemotron-3-Ultra-550B-A55B-abliterated-uncensored, поэтому описание составлено по ней. OpenYourMind создала эту полноразмерную BF16-версию NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на типовых категориях запросов. По описанию автора, изменение выполнено офлайн-проекцией направления отказа на веса без дополнительного обучения и без изменения структуры базовой модели. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и использует гибридную архитектуру Mamba-2, Attention и Latent-MoE; сохранены режим рассуждений enable_thinking и голова MTP для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, сложных рассуждений и технических или защитных запросов, на которые исходная модель могла отказывать. Контекст составляет 262 144 токена. Веса BF16 занимают около 1,1 ТБ и требуют мног GPU-развёртывания; автор указывает vLLM как вариант запуска. README заявляет сохранение связности, точности и многоязычной беглости, однако не приводит независимых оценок этих свойств. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

dealignai выпустила Ornith-1.5-35B-A3B-UNCENSORED-MXFP8 — версию Ornith-1.5-35B-A3B с удалённым на уровне весов поведением отказа и квантованием MXFP8 в формате MLX для Apple Silicon. Основа — мультимодальная MoE-модель семейства Qwen 3.5 с 35,9 млрд параметров; README указывает 40 слоёв, 256 маршрутизируемых экспертов, гибридный блок gated-delta и full attention, а также 27-слойную визуальную башню. Метаданные Hugging Face относят модель к задаче image-text-to-text и указывают поддержку чата, зрения и интерфейса вызова инструментов. Модель принимает текст и изображения; README также заявляет обработку видео. Она рассчитана на диалог, рассуждения, программирование с инструментами и анализ визуального содержимого. Карточка приводит результаты MMLU 78,9%, HarmBench 100% и KL-дивергенцию 0,0289 относительно некрякнутой MXFP8-версии; это результаты авторского тестирования на данном бандле. Для запуска предназначены vMLX или совместимая с архитектурой qwen3_5_moe среда MLX-VLM на Apple Silicon. Удаление отказов означает, что модель может выполнять запросы без защитного отказа; авторы ориентируют публикацию на исследования безопасности ИИ и разрешённое тестирование. Лицензия — Apache-2.0.

RedHatAI/Qwen2.5-1.5B-quantized.w8a8 — квантизированная версия языковой модели Qwen2.5-1.5B, разработанная Neural Magic. Модель предназначена для генерации текста и ассистентских диалогов, включая коммерческое и исследовательское применение на нескольких языках. На вход принимает текст и возвращает текст; заявленный язык — английский. Архитектура — Qwen2, размер — 1,5 млрд параметров. Модель использует INT8-квантизацию весов и активаций, что примерно на 50% снижает требования к видеопамяти и размер диска, а также может примерно вдвое увеличить производительность матричных умножений. Квантизуются линейные операторы в трансформерных блоках: веса — статически по каналам, активации — динамически для каждого токена. Для эффективного развертывания рекомендуется vLLM; в README указан контекст до 8192 токенов. По среднему результату OpenLLM Leaderboard модель набрала 58,34 против 58,48 у неквантизированной версии, сохранив 99,8% исходного результата. Ограничениями являются снижение точности по отдельным задачам и отсутствие в предоставленных данных подробной информации о поддерживаемых языках, безопасности, специализированных доменах и качестве за пределами указанных бенчмарков. Модель распространяется по лицензии Apache-2.0; использование не должно нарушать применимое законодательство и нормативные требования.

Qwen3-4B-Instruct-2507-MLX-4bit — это 4-битная квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях. Квантование выполнено с использованием MLX командой LM Studio на базе инструментов mlx_lm. Модель оптимизирована для работы на устройствах Apple Silicon, что делает её подходящей для локального запуска при ограниченных ресурсах. Известно, что она содержит около 4 миллиардов параметров и использует 4-битное представление, однако сведения о поддерживаемых языках, длине контекста и точной архитектуре в README не указаны. К сильным сторонам относятся компактный размер, сниженные требования к памяти и оптимизация под Apple Silicon. К ограничениям относятся возможное снижение качества по сравнению с полноразмерной или менее агрессивно квантованной версией, а также отсутствие в предоставленных данных подробных характеристик производительности и языкового покрытия. Модель распространяется по лицензии Apache-2.0.

voodooquant/Qwen3.5-0.8B-MTP-Voodoo — это квантизированная GGUF-версия базовой модели Qwen3.5-0.8B-Base, разработанная Voodoo Quant на основе модели Qwen от Alibaba Cloud. Веса не дообучались, архитектура исходной модели не изменялась; контрольные точки предназначены для запуска в неизменённом Llama.cpp и совместимы с экосистемой GGUF. Лицензия — Apache-2.0. Модель представляет собой каузальную языковую модель с vision encoder для мультимодальных задач, включая работу с текстом и изображениями, рассуждение, программирование, визуальное понимание и агентские сценарии. Она поддерживает 201 язык и диалект, а её нативная длина контекста составляет 262 144 токена. В README также указаны поддержка multi-step training (MTP), а также рекомендации использовать модель для прототипирования, исследовательских задач и специализированного дообучения. Размер модели — 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; модель содержит 24 слоя, скрытое измерение 1024 и контекст до 262 144 токенов. Квантизация Voodoo Quant выбирает уровень сжатия отдельно для разных тензоров, чтобы снизить размер и сохранить качество; заявлено уменьшение perplexity до 89% относительно соответствующего уровня сравнения. Ограничения включают небольшой параметрический масштаб, возможные потери качества из-за квантизации и отсутствие в предоставленных данных подробных результатов бенчмарков или характеристик отдельных вариантов GGUF.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — модель, опубликованная phrodigy и основанная на Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP от DavidAU. Это результат многоэтапного дообучения и слияния моделей, выполненных совместно DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием наборов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. В README также упоминаются Fable-трейсы, материалы для reasoning и данные Polaris. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, общего диалога, программирования, творческого письма, художественных текстов, ролевых сценариев и других применений. Заявлены мультимодальные возможности с поддержкой изображений; в метаданных указана задача image-text-to-text. Поддерживаются английский и китайский языки. Размер базовой модели — 27B параметров, а репозиторий содержит квантизованные GGUF-варианты, включая обычные и MTP-варианты с multi-token prediction. К ключевым особенностям относятся акцент на instruction following, общее решение задач и reasoning, режим uncensored/heretic, NEO IMATRIX-квантизация и частично сохранённая точность выходного тензора. Автор заявляет превосходство базовой Qwen3.6-27B по большинству приведённых тестов, однако эти результаты представлены создателями модели и требуют независимой проверки. Для MTP-вариантов рекомендуется температура не выше 1, поскольку более высокие значения могут ухудшать работу multi-token prediction; качество также зависит от выбранного уровня квантизации и доступного оборудования. В метаданных указана лицензия Apache-2.0. README не содержит точных сведений о размере контекстного окна. Фактическая пригодность модели для чувствительных или специализированных задач, а также заявленные характеристики производительности должны проверяться отдельно.

Qwen3.6-29B-REAP-Opus-Reasoning-Distill-GGUF — набор GGUF-квантизаций модели, созданной barozp на базе Qwen3.6-35B-A3B с архитектурой MoE. Из исходной конфигурации удалены 51 из 256 экспертов с помощью REAP, оставлено 205 экспертов, после чего применён LoRA-адаптер, обученный на рассуждениях, сгенерированных Opus. Это обычная слитая версия без MTP-head, предназначенная для генерации текста и локального запуска через llama.cpp. Модель ориентирована на задачи рассуждения, ответов на вопросы и универсальной текстовой генерации. Доступны варианты от BF16 размером 56,5 ГБ до квантизаций Q2_K размером 10,6 ГБ, включая популярную Q4_K_M размером 17,3 ГБ и IQ-квантизации с importance matrix. K-квантизации обеспечивают широкую совместимость и высокую скорость на CPU, а IQ-варианты дают лучшее соотношение качества и размера при цене в виде некоторого снижения скорости. Языки, размер контекстного окна и точный набор поддерживаемых модальностей в README не указаны; по описанию это текстовая модель. Сильной стороной является улучшение результатов на ARC-Challenge после reasoning-дистилляции: 0,616 против 0,532 у исходной невырезанной модели и 0,534 у версии только с pruning. На RTX PRO 6000 Blackwell в конфигурации Q4_K_M заявлена скорость около 219 токенов в секунду при полном offload и около 58,6 токена в секунду при частичном offload. Ограничение модели — отсутствие встроенного MTP-head и, соответственно, поддержки self-speculative decoding, доступной в отдельной версии. Кроме того, для этой линейки использование chat template может существенно искажать результаты задач с оценкой loglikelihood; приведённые бенчмарки рассчитаны без него. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое ПО, например llama.cpp, и объём оперативной или видеопамяти, соответствующий выбранной квантизации.

FreedomAISVR публикует GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled — разговорной модели рассуждения, дистиллированной из Claude 4.7 Opus. В основе лежит архитектура Qwen3.5 MoE с 35 млрд параметров, около 3 млрд из которых активны при генерации; в модели 256 экспертов, из них 8 активируются на токен, а также 40 слоёв и MTP-голова. Контекст составляет 262 144 токена. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями. Это текстовая версия без поддержки изображений. Веса сохранены в формате GGUF и квантизированы в NVFP4 примерно до 4 бит; файл модели занимает около 18,81 ГБ. Apache 2.0 указана как лицензия исходной модели.

Qwen3.6-35B-A3B-NSC-ACE-SABER GGUF MTP — это квантизированная сборка модели, разработанная GestaltLabs на базе Qwen/Qwen3.6-35B-A3B. Репозиторий предоставляет файлы в формате GGUF для совместимых с llama.cpp сред выполнения, включая варианты F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K. Сборки подготовлены с поддержкой MTP (multi-token prediction) и предназначены для ускорения генерации при наличии соответствующей поддержки в runtime. Модель ориентирована на диалоговую генерацию текста, агентские сценарии и вызов инструментов, а также заявлена как multimodal image-text-to-text модель. В репозитории присутствуют конфигурация мультимодальности, процессор, шаблон чата и visual tower sidecar для обработки изображений и видео. В README указан английский язык. Пример запуска использует контекст 32768 токенов, однако максимальный размер контекста отдельно не подтверждён. К сильным сторонам относятся широкий выбор уровней квантизации, локальный запуск, MTP-ориентированная конвертация и улучшенные относительно базовой модели показатели на приведённой проверке BFCL для tool calling: например, точность имени функции выросла с 92,50% до 95,00%, а точность обязательных значений аргументов — с 79,79% до 83,54%. Ограничения включают зависимость ускорения от версии и возможностей llama.cpp, возможное ухудшение форматирования, точности аргументов и калибровки отказов у низких квантов, а также необходимость отдельно проверять поведение конкретных quant-файлов. Модель распространяется по лицензии Apache 2.0.

Это GGUF-квантизация модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и дополнительно преобразованной с помощью официального квантизатора llama.cpp. Модель предназначена для локального запуска и генерации текста, включая задачи рассуждения, программирования и работы с естественным языком. Вариант использует архитектуру Qwen3.6-35B-A3B-MTP и формат IQ2_M с динамической смешанной точностью; размер файла уменьшен за счёт низкобитного квантования, а Unsloth importance matrix помогает эффективнее распределять доступную точность между тензорами. Другие характеристики, включая поддерживаемые языки, контекст и модальности, в README не указаны. В основе лежит модель Heretic, в которой применена техника abliteration для снижения числа отказов без значительного изменения исходных возможностей. Согласно README, модификация затрагивает лишь ограниченную часть весов, а заявленный результат — на 88% меньше отказов по сравнению с оригинальной моделью при сохранении близкого качества. К преимуществам относятся совместимость с актуальными версиями llama.cpp, небольшой объём хранения и улучшенное соотношение качества и размера благодаря динамическому квантованию и importance matrix. Ограничением является возможная потеря качества из-за агрессивного IQ2_M-квантования, а отказосниженное поведение может быть нежелательно для сценариев, требующих строгих защитных ограничений. Лицензия указана как Apache-2.0; README отмечает, что GGUF следует лицензии исходной модели, поэтому для полного понимания условий использования следует проверить upstream-репозиторий.

Qwen3.8-27B Abliterated + MTP GGUF — неофициальная производная модель Global Cybersecurity Alliance на базе Qwen/Qwen3.8-27B. Это плотная модель с 27 миллиардами параметров и нативной поддержкой понимания текста, изображений и видео. Модель распространяется в формате GGUF с квантованиями Q8_0, Q6_K, Q4_K_M и Q4_K_S; для каждого варианта предусмотрен соответствующий vision projector mmproj. Базовая модель ориентирована на мультимодальные задачи, управляемый режим рассуждений и работу с длинным контекстом, однако точный размер контекстного окна и перечень поддерживаемых языков в карточке не указаны. В производной версии применено вмешательство Abliterix, направленное на снижение поведения, связанного с отказами. Это может быть полезно для исследовательских и прикладных сценариев, где требуется более свободное следование инструкциям, но эффект не гарантирован и способен ухудшить тон, калибровку, качество рассуждений, точность или соблюдение инструкций. Приведённые в README результаты относятся к отдельной FP8-версии и не являются подтверждёнными показателями GGUF-квантований. Дополнительно доступен BF16 MTP-драфт для speculative decoding в совместимых версиях llama.cpp и других runtime: он может повысить скорость, но требует дополнительной памяти и явной настройки, а выигрыш зависит от оборудования и параметров запуска. Модель не является официальным релизом Qwen, Alibaba Cloud или авторов Abliterix. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-MLX-4bit — это сборка модели Qwen3.8-Flash-Next, адаптированная проектом PipeNetwork для запуска через MLX на компьютерах с Apple Silicon. Модель предназначена прежде всего для генерации текста и программного кода в локальном окружении с поддержкой mlx-lm. В состав репозитория входит собственный runtime для экспериментальной архитектуры qwen4_exp, поэтому для загрузки требуется trust_remote_code=True. Базовая модель имеет гибридную архитектуру Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts на 125 млрд параметров, из которых около 6 млрд активируются для одного токена, а также использует 51 млрд параметров hashed n-gram embedding. В этой версии веса преобразованы в формат MLX и преимущественно квантизированы до 4 бит: размер сборки составляет 103,8 ГБ против 360 ГБ у исходной версии в bfloat16. Часть параметров, включая маршрутизатор MoE и отдельные управляющие компоненты, сохранена в bfloat16. Vision tower также присутствует в bfloat16, но данный runtime работает только с текстом. Мультитокеновая prediction head размером 4 млрд параметров исключена. Языки и точное максимальное окно контекста в README не указаны. Сильной стороной сборки является существенное уменьшение занимаемого объёма при сохранении работоспособной генерации; runtime содержит исправления, обеспечивающие соответствие эталонной реализации на тестовой конфигурации. Однако равномерное 4-битное квантование заметно ухудшает качество: на тесте wikitext-2 perplexity составила 5,3914 против 4,4708 у bfloat16. В README рекомендуется смешанная сборка с 4- и 8-битным квантованием, которая занимает 106,2 ГБ и показывает значительно меньшую потерю качества. Модель распространяется по Qwen Community License 1.0.

Kre80r/Qwopus3.8-27B-Flash-V2-W4A16 — квантованный чекпойнт мультимодальной модели Qwopus3.8-27B-Flash-V2, подготовленный с помощью AutoRound 0.15.1. Веса квантованы до 4 бит с группами по 128, активации BF16; визуальный энкодер и отдельные чувствительные тензоры сохранены в BF16. Модель основана на Qwen3.8-27B через промежуточную Qwopus3.8-27B-Flash и прошла дополнительное постобучение с изменёнными функциями вознаграждения и методами обучения с подкреплением. Модель предназначена для диалоговых и мультимодальных задач, рассуждений и длительных агентных сценариев с повторными вызовами инструментов. В карточке также указаны генерация кода, вызов функций и ускорение вывода с MTP speculative decoding; заявленные сценарии включают локальный запуск и ресурсоёмкие рабочие процессы, где важны скорость и стоимость генерации. Поддерживаются английский, китайский, испанский, русский и японский языки. Метаданные указывают архитектуру Qwen3.5 и класс Qwen3_5ForConditionalGeneration; точный размер параметров и длина контекста в предоставленных данных не приведены. Разработчик позиционирует выпуск как экспериментальный. Карточка описывает компромисс между эффективностью вывода и сохранением качества, а также отмечает возможный дрейф рассуждений и зависимость агентных результатов от промпта, инструментов и среды. Широкая оценка безопасности и надёжности не проводилась. Лицензия — Apache-2.0.

QwQ-LCoT1-Merged — объединённая текстовая языковая модель, созданная prithivMLmods методом Model Stock с помощью mergekit. В объединение вошли QwQ-LCoT-7B-Instruct и QwQ-LCoT2-7B-Instruct, а базовой моделью служит Qwen/Qwen2.5-7B-Instruct. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, следования инструкциям, генерации текста и решения задач, требующих логических рассуждений и пошагового анализа. Она работает с текстом и может использоваться для составления подробных объяснений и структурированных ответов. Ограничения по качеству и языковому охвату в карточке не описаны; возможности рассуждения не гарантируют правильность ответов. Файлы опубликованы в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

jondurbin/spicyboros-13b-2.2 — экспериментальная языковая модель автора Jon Durbin, созданная на архитектуре Llama и дообученная преимущественно на синтетических данных Airoboros 2.2. Модель с 12,9 млрд параметров предназначена для генерации текста по инструкциям, включая ответы на вопросы, написание текстов, задания с вариантами ответа и генерацию кода. Для ответов по заданному контексту README рекомендует явно размечать входные данные; также описан интерфейс генерации JSON- или YAML-подобных аргументов для вызова функций. Контекст модели составляет 4096 токенов. Карточка описывает формат диалога с маркерами USER и ASSISTANT и сообщает, что использован промежуточный чекпойнт 350. Модель может выдавать ненормативный, токсичный и иной чувствительный контент; системные ограничения могут быть переопределены. Указанная лицензия — Llama 2 license.

petals-team/StableBeluga2 — версия Stable Beluga 2 от Stability AI, подготовленная для использования в Petals. В основе лежит авторегрессионная языковая модель Llama 2 примерно на 70 млрд параметров, дообученная на внутреннем наборе данных в стиле Orca. Модель предназначена для диалогов и генерации текста по инструкциям на английском языке; заявленный контекст — 4096 токенов. В этой версии веса сохранены в bfloat16 и Safetensors, а также разделены на небольшие шарды по слоям, чтобы клиенты и серверы Petals загружали только нужные части модели. README отмечает небольшую потерю качества при переходе с float32; при использовании NF4-квантизации Petals возможна дополнительная потеря качества. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому её следует проверять и настраивать под конкретное применение. Чекпойнт распространяется по лицензии STABLE BELUGA NON-COMMERCIAL COMMUNITY LICENSE AGREEMENT, ограничивающей коммерческое использование.

XGen-7B-8K-Inst — языковая модель Salesforce AI Research с плотной архитектурой LlamaForCausalLM и примерно 6,7 млрд параметров. Она создана как версия XGen-7B-8K-Base, дообученная на общедоступных инструкционных данных; контекст составляет до 8192 токенов. Модель предназначена для генерации текста по инструкциям: например, для ответов на вопросы, выполнения текстовых запросов и диалоговых сценариев. В карточке указано, что релиз предназначен для исследовательских целей; данных о поддерживаемых естественных языках нет. Модель распространяется в формате PyTorch. Авторы предупреждают, что её не оценивали для всех прикладных сценариев, поэтому перед применением следует проверять точность, безопасность и справедливость ответов, особенно в задачах высокого риска. Лицензия для этой инструкционной версии в карточке не указана; Apache-2.0 отмечена для базовых моделей XGen-7B-4K-Base и XGen-7B-8K-Base.

Yi-1.5-6B-Chat-GGUF — русскоязычное описание модели недоступно в предоставленных данных.

ZEUS-8B-V7 — языковая модель семейства Llama 3.1, созданная объединением нескольких моделей методом DARE TIES. Автор стремился улучшить предыдущую версию ZEUS, повысив плотность слияния и включив менее ограниченную модель Llama 3.1. В качестве базовой использована unsloth/Meta-Llama-3.1-8B-Instruct; также в слияние вошли LLAMA-3_8B_Unaligned_BETA, Llama-3.1-Storm-8B и Llama-3.1-SuperNova-Lite. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и работает через Transformers. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — до 131 072 токенов. README приводит результаты оценивания, включая IFEval и BBH, но не сообщает языковой охват. Модель распространяется в формате Safetensors по лицензии Llama 3.1. Показатели слияния и отдельные результаты бенчмарков не гарантируют качество на конкретных задачах; README не описывает систематические ограничения или языки, на которых модель проверена.

jondurbin/airoboros-dpo-70b-3.3 — экспериментальная диалоговая языковая модель, созданная на основе семейства Llama 3 и дообученная автором jondurbin на синтетических данных Airoboros и наборах для DPO. В метаданных указана плотная архитектура LlamaForCausalLM с 69,5 млрд параметров, формат safetensors и контекст до 8192 токенов. Карточка рекомендует использовать шаблон диалога Llama 3 Instruct. Модель предназначена для генерации ответов в чате, написания и продолжения историй, суммаризации и помощи с кодом. В README приведены примеры творческих и технических запросов, включая написание программ и выбор инструментов; эти примеры показывают формат взаимодействия, но не подтверждают гарантированное качество на каждой задаче. Автор называет модель экспериментальной. Метаданные связывают её с Meta-Llama-3-8B, тогда как README указывает базовую Llama 3 70B Instruct; точную базовую модель поэтому установить по этим источникам нельзя. Лицензия обозначена как other, конкретные условия использования в предоставленных данных не раскрыты.

CollectiveCognition-v1-Mistral-7B-Mistral-7B-Instruct-v0.1 — объединённая модель для генерации текста, созданная на основе mistralai/Mistral-7B-Instruct-v0.1 и teknium/CollectiveCognition-v1-Mistral-7B методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для диалогов и выполнения инструкций. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В карточке указан английский язык и формат safetensors. Модель подходит для диалоговых помощников, генерации ответов и других задач продолжения текста по запросу. Она выпущена по лицензии Apache-2.0. Карточка описывает способ слияния, но не приводит отдельные оценки качества этой итоговой модели.

Citaman/command-r-38-layer — объединённая модель генерации текста на архитектуре CohereForCausalLM, созданная автором репозитория с помощью mergekit. В README указано слияние методом SLERP двух срезов одной модели Citaman/command-r-39-layer со сдвигом диапазонов слоёв; метаданные также связывают модель с этой базовой моделью. Репозиторий содержит веса в формате safetensors и bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных отмечен интерфейс вызова инструментов. Размер составляет 33,3 млрд параметров, родной контекст — 8192 токена. Условия лицензии и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

CrystalMistral-26b — разговорная языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), опубликованная Crystalcareai. Согласно карточке, модель создана с помощью LazyMergekit на основе нескольких копий Crystalcareai/CrystalMistral; метаданные также связывают её с этой базовой моделью. Она предназначена для генерации текста и диалогов. Базовая CrystalMistral дообучена для выполнения инструкций, общения, генерации текста и работы с кодом, поэтому эти сценарии подходят и для данной модели. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества CrystalMistral-26b; возможности базовой модели не гарантируют такие же результаты после слияния.