II.4Отладка, тестирование и качество ПО

Hunyuan-0.5B-Instruct — компактная инструктивная языковая модель Tencent, дообученная на базе tencent/Hunyuan-0.5B-Pretrain. Это плотная авторегрессионная модель семейства Hunyuan V1 Dense с 463,5 млн параметров, доступная в формате safetensors и предназначенная для генерации текста в диалоговом режиме. Модель подходит для ответов на запросы и инструкций, рассуждений, задач по математике и коду, а также для агентных сценариев с интерфейсом вызова инструментов. Она поддерживает режимы быстрого и пошагового рассуждения и контекст до 262 144 токенов; в README также отмечены Grouped Query Attention и варианты квантования для эффективного развёртывания. В метаданных не перечислены поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. Модель относится к линейке общего назначения, а приведённые в README результаты тестов относятся к отдельным оценкам и не гарантируют качество на конкретных запросах. Для этой модели в предоставленных данных не указана лицензия.

IsValorum публикует эту сборку Iris-mini-MTP APEX-I-MiniPlus — квантованную в GGUF версию MoE-модели на архитектуре qwen35moe, предназначенную для генерации текста в диалоге. Веса содержат около 35 млрд параметров, из которых, по README, примерно 3,2 млрд активируются на токен; размер файла составляет 14,84 ГБ, а заявленная средняя точность квантования — 3,42 BPW. Модель сохраняет встроенную голову Multi-Token Prediction для спекулятивного декодирования. Сборка рассчитана на генерацию текста, включая рассуждения, математику и код. README описывает выборочное квантование слоёв и компонентов, а также запуск через llama.cpp; для некоторых конфигураций заявлена работа с контекстом до 256 тысяч токенов. Метаданные указывают поддержку 13 языков, включая русский, английский, китайский, японский и арабский. Репозиторий распространяется по лицензии Apache-2.0. Это прежняя итерация MiniPlus, а не текущая спецификация разработчика. Приведённые в README показатели скорости, качества, принятия предсказанных токенов и использования памяти являются заявлениями автора и зависят от оборудования и настроек; заявленные результаты не следует считать независимой оценкой.

Kanana 1.5 2.1B Instruct — языковая модель компании Kakao, выпущенная в мае 2025 года. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 1,9 млрд параметров и контекстом до 32 768 токенов. Веса доступны в формате Safetensors, лицензия — Apache 2.0. Модель предназначена для диалогов и генерации текста, включая задачи программирования, математики и вызова функций. Она подходит для ответов на вопросы, помощи с кодом, решения математических задач и продолжительных бесед; README отмечает улучшения в этих возможностях по сравнению с предыдущей версией семейства. Модель поддерживает английский и корейский языки; интерфейс вызова функций указан среди её возможностей. Для контекста длиннее 32K токенов README описывает расширение до 128K с помощью YaRN. Качество на конкретных задачах зависит от запроса и сценария; количественные результаты оценки в предоставленной карточке опущены. Kakao указывает, что пользовательские данные Kakao не использовались для предобучения или последующего обучения.

LLaDA2.0-mini-preview — диффузионная языковая модель с архитектурой Mixture-of-Experts от InclusionAI. Это предварительная instruction-tuned версия семейства LLaDA, предназначенная для диалогов и практических задач генерации текста. README указывает 16 млрд параметров всего и около 1,4 млрд активных при инференсе; в метаданных Hugging Face указан размер 1,2 млрд параметров. Модель содержит 20 слоёв, использует RoPE и поддерживает контекст до 8192 токенов согласно метаданным; README указывает 4096 токенов. Модель подходит для генерации кода, математических рассуждений, ответов на вопросы и сценариев с вызовом инструментов. В README заявлено обучение на серии Ling2.0 примерно на 20 трлн токенов и приведены результаты бенчмарков, но их детализация в доступном фрагменте неполная. Репозиторий содержит веса safetensors и рассчитан на работу через Transformers. Лицензия — Apache-2.0. README обозначает модель как preview, поэтому её качество и поведение следует оценивать для конкретных задач; при повышении температуры авторы предупреждают о возможном смешении языков и снижении качества.

Nanbeige4.1-3B-GGUF — квантованная версия языковой модели Nanbeige4.1-3B, разработанной командой Nanbeige на базе Nanbeige4-3B-Base. Модель дообучалась с применением supervised fine-tuning и reinforcement learning и предназначена для генерации текста, рассуждений, программирования, решения математических и научных задач, использования инструментов и агентных сценариев. Репозиторий GGUF подготовлен Mungert с использованием llama.cpp. Модель относится к компактному классу с примерно 3 млрд параметров, работает с текстом и заявлена для английского и китайского языков. Среди заявленных сильных сторон — многошаговое рассуждение, согласование предпочтений и способность поддерживать длительные агентные процессы с большим числом вызовов инструментов. В README также описан специальный подход к квантованию: отдельные важные слои переводятся в более высокую точность, что может повысить качество при сохранении относительно небольшого размера файлов, но увеличивает их объём. Конкретный контекстный размер и параметры отдельных вариантов квантования не указаны, а фактическое качество зависит от выбранного GGUF-файла и настроек запуска. Модель распространяется по лицензии Apache 2.0. Она подходит для локального запуска через совместимые инструменты экосистемы llama.cpp и для приложений, которым нужны рассуждения, генерация кода или агентное взаимодействие при ограниченных вычислительных ресурсах. Как компактная и квантованная модель, она может уступать более крупным или полноточным системам в отдельных задачах; приведённые результаты относятся к исходной Nanbeige4.1-3B и не обязательно полностью характеризуют каждый GGUF-вариант.

AceReason-Nemotron-1.1-7B-GGUF — это GGUF-квантизированная версия языковой модели AceReason-Nemotron-1.1-7B, разработанной NVIDIA и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения, математики и программирования; в метаданных указаны supervised fine-tuning и reinforcement learning. Заявленный язык — английский. Модель содержит 7 миллиардов параметров и поставляется в нескольких вариантах точности, включая BF16, Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы. Квантизация выполнена с использованием imatrix и llama.cpp, поэтому модель рассчитана на локальный запуск через llama.cpp, LM Studio и совместимые проекты. Для работы используется формат запросов ChatML с ролями system, user и assistant. Размер контекста и точная архитектура в README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и компромисс между качеством, требованиями к памяти и скоростью инференса; наиболее качественными в README названы варианты Q6_K_L, Q6_K, Q5_K и Q4_K_L, а Q4_K_M обозначен как типовой вариант для большинства сценариев. Более сильное сжатие уменьшает требования к памяти, но может снижать качество. Лицензия — NVIDIA Open Model License; исходная модель доступна как nvidia/AceReason-Nemotron-1.1-7B.

OpenAI o4-mini — компактная модель рассуждений из серии o-series, разработанная OpenAI. Она предназначена для быстрых и экономичных ответов с сохранением развитых мультимодальных и агентных возможностей, включая использование инструментов. В доступной карточке указаны мультимодальность и поддержка инструментов, но не уточнены входные и выходные типы данных, конкретные языки или размер контекста, поэтому эти характеристики не конкретизируются.

Occiglot-7B-EU5-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер с архитектурой Mistral и 7,1 млрд параметров, дообученный на 400 млн токенов многоязычных и программных инструкций. Модель принимает текстовые запросы в формате ChatML и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы, выполнения инструкций и задач с кодом на английском, испанском, французском, немецком и итальянском языках. Карточка приводит предварительные результаты тестирования и отмечает, что часть неанглоязычных оценок основана на машинном переводе, поэтому их следует интерпретировать осторожно. Модель не проходила выравнивание по безопасности и может создавать проблемный контент. Распространяется по лицензии Apache 2.0.

thread13/Qwen3.5-4B-llamafile — сборка модели Qwen3.5-4B в формате llamafile, разработанная автором репозитория thread13 на основе Qwen/Qwen3.5-4B. Это мультимодальная чат-модель для диалога с текстом и изображениями; её можно запускать как консольный чат или веб-сервер. Llamafile объединяет модель и исполняемые компоненты в один файл на базе llama.cpp. В карточке рекомендуются параметры контекста 16 384 токена для задач рассуждения и программирования в режиме thinking. Модель предназначена для ответов на вопросы по изображениям, обычного диалога, рассуждений и помощи с кодом. Указанный в карточке формат — GGUF BF16; размер модели — 4 млрд параметров. В README не приведена лицензия этой сборки. Веб-сервер по умолчанию пытается слушать все доступные сетевые интерфейсы; для локального доступа README рекомендует явно задавать 127.0.0.1.

Qwen3.8-27B-Intel-Arc-Tuned-GGUF — это квантованная GGUF-версия модели Qwen3.8 с примерно 27 млрд параметров, подготовленная Greatjedi при участии Gemini для ускоренного запуска на видеокартах Intel Arc через llama.cpp, oneAPI SYCL и аппаратные матричные блоки DPAS. В качестве базовых моделей указаны empero-ai/Qwen3.8-27B-Ridge-GGUF и ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF. Модель предназначена для генерации текста, рассуждений, программного кода и структурированных ответов, включая извлечение JSON. Заявлены английский и китайский языки, а тип задачи в каталоге обозначен как text-generation. Ключевая особенность — преобразование неподдерживаемых на Intel Arc I-Quant-тензоров в преимущественно Q4_K-блоки с сохранением отдельных высокоточных компонентов, rotary embeddings, layer normalization и, в вариантах с MTP, встроенной NextN prediction head. Это устраняет переход к медленной CPU-деквантизации в SYCL-бэкенде. Для Intel Arc Pro B60 24GB заявлена скорость авторегрессионной генерации около 21–22 токенов в секунду, а со встроенным speculative decoding и MTP — до 41,88 токена в секунду; фактические показатели зависят от версии файла, сценария, оборудования и конфигурации запуска. Сильными сторонами являются оптимизация под Intel Arc поколений Battlemage Xe2 и Alchemist Xe, отсутствие необходимости во внешней draft-модели для вариантов со встроенным MTP и заметное ускорение относительно исходных I-Quant-вариантов. Ограничения включают узкую аппаратную специализацию, зависимость от совместимого SYCL-стека и llama.cpp, а также отсутствие в README точных сведений о максимальном контексте и единой архитектурной конфигурации всех вариантов. Модель распространяется по лицензии Apache-2.0.

nvythong/Qwen3.8-35B-A3B-Distill-mlx-fp16 — конвертированная в формат MLX модель Empero на базе Qwen3.8-35B-A3B-Distill. Репозиторий создан 29 сентября 2026 года; модель предназначена для диалоговой генерации текста. Базовая модель имеет MoE-архитектуру семейства Qwen3.5 и поддерживает чат, рассуждения, математику, программирование и вызов инструментов. В README указано преобразование с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors и лицензию Apache-2.0. Модель ориентирована на английский язык. Сведений о длине контекста и точном числе параметров этой версии нет.

unsloth/Qwen3-8B-Base-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen Team. Это причинная языковая модель на этапе предварительного обучения, предназначенная для генерации и продолжения текста, адаптации под прикладные задачи, программирования, STEM, рассуждений и работы с многоязычными данными. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, и имеет 36 слоёв. Используется Grouped-Query Attention: 32 головы запросов и 8 голов ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на 36 трлн токенов на 119 языках, однако README не уточняет точный перечень языков и отдельно не описывает мультимодальные возможности; по указанным характеристикам это текстовая модель. 4-битное представление снижает требования к памяти и облегчает локальный запуск, сохраняя совместимость с экосистемой Transformers, но может влиять на точность по сравнению с полноразмерной версией. Это базовая, а не инструкционно настроенная модель, поэтому для диалоговых сценариев и следования сложным инструкциям может потребоваться дополнительное дообучение или специальное форматирование запросов. Для работы рекомендуется актуальная версия transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: qwen3. Лицензия — Apache-2.0.

Qwen3-8B-ru — русскоязычная версия модели Qwen3, разработанная Reisen Raumberg и командой Attention Signs. Это плотная языковая модель на 7,6 млрд параметров для генерации текста и диалоговых сценариев; поддерживает русский и английский языки, а длина контекста составляет 40 960 токенов. Модель создана методом LoRA supervised fine-tuning на базе Qwen/Qwen3-8B за одну эпоху на наборах attn-signs/kolmogorov-3 и attn-signs/russian-code. Она предназначена для генерации русскоязычного текста и работы с кодом. Доступна в формате safetensors для Transformers; лицензия — Apache 2.0.

uukuguy/speechless-mistral-six-in-one-7b — объединённая модель на основе шести дообученных моделей Mistral-7B, опубликованная пользователем uukuguy. Это плотный авторегрессионный трансформер Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель предназначена для генерации текста в диалогах, ответов на вопросы, рассуждений и помощи с кодом. В карточке перечислены исходные модели Dolphin, OpenOrca, Platypus, Samantha, CollectiveCognition и Zephyr; заявлены результаты на нескольких бенчмарках, но часть таблиц неполная, поэтому они не дают полной оценки качества. Модель принимает текст и генерирует текст. В метаданных указан английский язык и возможность работы с кодом. Репозиторий содержит веса safetensors, а лицензия обозначена как Llama 2. Модель унаследовала заявленное в карточке базовой Mistral-7B отсутствие механизмов модерации; сгенерированные ответы могут быть ошибочными или нежелательными.

Карточка модели thoddnn/Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

Карточка модели DIYIN/Youtu-LLM-2B-Base на Hugging Face совпадает с карточкой tencent/Youtu-LLM-2B-Base, поэтому описание составлено по ней. Youtu-LLM-2B-Base — базовая авторегрессионная языковая модель Tencent из семейства Youtu-LLM. Она содержит около 1,96 млрд параметров, использует плотную архитектуру с Multi-head Latent Attention (MLA) и предназначена для генерации текста и дальнейшей адаптации под конкретные задачи. Модель принимает текст и генерирует продолжение; карточка описывает её возможности в рассуждениях, STEM, программировании, работе с длинным контекстом и агентных сценариях. Контекст модели составляет 131 072 токена. В README приведены результаты сравнительных тестов, в том числе по общим знаниям и агентным задачам; заявленные результаты не гарантируют аналогичного качества в каждом применении. Указана лицензия `other`, поэтому перед использованием следует проверить её условия в карточке модели. README не уточняет поддерживаемые естественные языки.

Zephyr ORPO 141B-A35B v0.1 — разговорная языковая модель, совместно обученная Argilla, KAIST и Hugging Face. Это дообученная с помощью Odds Ratio Preference Optimization (ORPO) модель mistral-community/Mixtral-8x22B-v0.1 с архитектурой Mixture of Experts (MoE): в карточке указаны 141 млрд параметров всего и 39 млрд активных, тогда как метаданные каталога указывают 22 млрд параметров. Для каталога также заявлен контекст до 65 536 токенов. Модель предназначена для диалогового ассистирования и общих задач с текстом, включая код, математику и рассуждения. В обучении использован датасет argilla/distilabel-capybara-dpo-7k-binarized с синтетическими многоходовыми предпочтениями. README сообщает о сильных результатах на MT Bench и IFEval, но обучение описано как проверка ORPO в большом масштабе, а не как выпуск универсальной системы с гарантированным качеством. Основной язык — английский. Модель принимает текст и генерирует текст; метаданные отмечают поддержку чата. Лицензия — Apache 2.0. В README предупреждается, что модель не проходила этап RLHF для выравнивания по человеческим предпочтениям в области безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах.

Accio-Lab_occamy-1.0-GGUF — это квантизированная версия модели occamy-1.0, разработанной Accio-Lab и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель содержит около 35 млрд параметров и предназначена для локального запуска в задачах агентного взаимодействия, совместной работы, использования инструментов и программирования. Модель поддерживает мультимодальный ввод: текст и изображения при наличии файла mmproj. В карточке также заявлены архитектура mixture-of-experts и поддержка длинного контекста, однако точный размер контекстного окна и перечень поддерживаемых языков не указаны. Спекулятивное декодирование не поддерживается, а для квантизации использована imatrix. Доступны варианты от BF16 до низкобитных Q2–Q8, что позволяет выбирать между качеством, требованиями к памяти и скоростью; рекомендуемым универсальным вариантом назван Q4_K_M размером 22,32 ГБ. К сильным сторонам относятся большой размер, поддержка изображений, сценариев tool-use и агентных приложений, а также широкий выбор уровней квантизации. Ограничения связаны с высокими требованиями к памяти даже для компактных вариантов, необходимостью отдельного mmproj-файла для работы с изображениями и отсутствием в README подробных результатов тестирования, сведений о языках и точном контексте. Модель распространяется по лицензии Apache-2.0.

jondurbin/bagel-dpo-34b-v0.2 — экспериментальная дообученная чат-модель Джона Дурбина на базе Yi-34B-200K с методом bagel и дополнительным этапом DPO. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — 200 000 токенов. Веса опубликованы в формате safetensors. Модель предназначена для диалогов и широкого круга текстовых задач: ответов на вопросы, рассуждений, написания текстов, программирования, математики, ролевых сценариев и работы с контекстом. В обучении использованы наборы данных для инструкций, чатов, чтения с пониманием, кода, математики и других задач; автор отмечает, что применялись обучающие части наборов и выполнялась проверка на загрязнение данными бенчмарков. В карточке также заявлено, что включение toxic DPO должно снизить склонность к отказам; это может приводить к генерации токсичного или небезопасного содержания. Автор описывает модель как экспериментальную тонкую настройку. Для корректного поведения в диалоге могут понадобиться подходящий системный запрос и один из поддерживаемых форматов промпта: Vicuna, Llama 2, Alpaca или ChatML-подобный. Лицензия указана как other, поэтому условия использования следует уточнять в карточке репозитория; README отдельно оговаривает исследовательское и законное применение токсичных данных.

Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

Gemma 4 31B JANG4M CRACK — это модифицированная версия Gemma 4 31B IT от dealignai. Модель представляет собой плотную 60-слойную мультимодальную архитектуру с чередованием скользящего и глобального внимания; она предназначена для диалога, рассуждений, генерации кода и обработки изображений. В README автор сообщает о сохранении визуальных возможностей и результатов MMLU на уровне 86,8% после модификации, а также о значительном снижении отказов на тестах HarmBench. Веса представлены в формате Safetensors с квантизацией JANG_4M: 8-битное внимание и 4-битные MLP. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на Mac с Apple Silicon и достаточным объёмом объединённой памяти; стандартные mlx_lm и mlx_vlm поддерживают модель не полностью. Лицензия — Gemma. README позиционирует выпуск как исследовательский и возлагает на пользователей ответственность за соблюдение применимых законов.

GLM-4.5-Air-REAP-82B-A12B — сжатая версия GLM-4.5-Air от Cerebras, созданная методом REAP (Router-weighted Expert Activation Pruning). Это причинная языковая модель со смешанной экспертной архитектурой MoE: из 128 экспертов удалена четверть, осталось 96, из которых активируются 8 на каждый токен. В модели 82 млрд параметров, при этом на токен активируется около 12 млрд; контекст составляет 131 072 токена. Модель предназначена для генерации текста и кода, работы с агентными сценариями, вызова функций и понимания крупных репозиториев. По данным карточки, она сохраняет производительность, близкую к исходной GLM-4.5-Air, и требует примерно на 25% меньше памяти; дополнительное дообучение после прореживания не проводилось. Для развёртывания README указывает актуальную версию vLLM и поддержку вызова инструментов. Модель распространяется по лицензии MIT. Карточка заявляет близкие к исходной модели результаты, однако приводит подробности оценок отдельно; качество на конкретных задачах и требования к памяти зависят от конфигурации развёртывания.

Inkling-Small-GGUF — мультимодальная авторегрессионная модель, разработанная Thinking Machines и представленная в формате GGUF командой Unsloth. Модель принимает текст, изображения и аудио, а генерирует текст; она предназначена для разработчиков AI-приложений, включая агентные и tool-use системы, coding assistants, чат-ботов, retrieval-augmented generation, диалоговые и мультимодальные сценарии, а также для исследований, дообучения и интеграции в сторонние продукты. Архитектура представляет собой 42-слойный decoder-only Transformer с разреженным Mixture-of-Experts: всего 276 млрд параметров, из которых активны 12 млрд; для каждого токена выбираются 6 из 256 экспертов и используются 2 общих эксперта. Внимание сочетает локальные и глобальные слои. Изображения обрабатываются иерархическим patch-энкодером, аудио — дискретным токенизированным представлением, после чего все модальности проецируются в общее скрытое пространство. Поддерживаются числовые форматы BF16 и NVFP4; GGUF-вариант ориентирован на локальный запуск через совместимые инструменты. Для изображений рекомендуются размеры каждой стороны от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью желательно менее двух минут. Сильные стороны модели — сочетание текстовых, визуальных и аудиовходов, поддержка английского и общих мультиязычных сценариев, работы с кодом и широкого спектра прикладных задач. Ограничения включают текстовый формат вывода, рекомендуемые ограничения на входные изображения и аудио, а также отсутствие в представленных данных конкретного размера контекстного окна и подробных результатов оценивания. Модель распространяется под лицензией Apache-2.0.

Jett-w26-abliterated — объединённая модель для генерации текста, опубликованная giannisan. Она построена на архитектуре Mistral и создана методом DARE TIES с помощью mergekit; в качестве основы использована yam-peleg/Experiment26-7B, а также объединены модели для диалогов, математики, программирования и следования инструкциям. Модель содержит 7,1 млрд параметров, работает с текстом и имеет контекстное окно до 32 768 токенов. Автор описывает её как uncensored-версию Jett-w26. Она предназначена для генерации ответов и свободного диалога; состав объединённых моделей также ориентирует её на математические задачи и помощь с кодом. Доступны веса в формате safetensors для использования с Transformers. Лицензия в предоставленных данных не указана.

NoesisLab/Kai-3B-Instruct — это инструктивно дообученная языковая модель NoesisLab с 3,1 млрд параметров на архитектуре SmolLM3ForCausalLM. Она предназначена для диалоговых ответов, рассуждений, решения математических задач и генерации кода. В карточке описана техника Adaptive Dual-Search Distillation (ADS): адаптивная функция потерь для дистилляции, которая не меняет архитектуру модели. Заявлена длина контекста 65 536 токенов; модель принимает текст и генерирует текст. В README приведены результаты отдельных бенчмарков, включая 39,27% на GSM8K в режиме 0-shot, однако методика и сравнительные результаты в карточке описаны не полностью. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0.

Llama3.1-SuperDeepFuse — языковая модель на архитектуре Llama, созданная слиянием трёх моделей: Llama-3.1-SuperNova-Lite, DeepSeek-R1-Distill-Llama-8B и FuseChat-Llama-3.1-8B-Instruct. Автор README указывает базовую модель meta-llama/Llama-3.1-8B-Instruct и метод слияния model_stock. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 131 072 токенов; опубликована в формате safetensors для Transformers. Модель предназначена для диалогов и генерации текста с упором на следование инструкциям, многошаговые рассуждения, математику и программирование. README заявляет многоязычную поддержку, однако в метаданных указан только английский язык. По карточке модель подходит для запуска на потребительских GPU, но её возможности уступают более крупным моделям. Модель всё ещё проходит оценку; результаты приведены лишь для части бенчмарков. Она может выдавать вводящие в заблуждение ответы, поэтому результаты следует проверять. Лицензия — условия использования Llama 3.1.

bunnycore/Llama-3.2-3B-Apex — диалоговая языковая модель, созданная разработчиком bunnycore слиянием нескольких предварительно обученных моделей через mergekit и методом Model Stock. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; в слияние также вошли модели для разных навыков, рассуждений, научных задач, программирования и ролевого общения. Модель построена на архитектуре Llama с причинно-следственным языковым моделированием и содержит 3,2 млрд параметров. Она предназначена для генерации текста и диалоговых ответов; заявленная длина контекста — 131 072 токена. Метаданные также указывают интерфейс вызова инструментов. Данные о лицензии и поддерживаемых естественных языках в предоставленной карточке отсутствуют.

Locutusque разработал Locutusque/llama-3-neural-chat-v2.2-8B как дообученную модель Meta Llama 3 8B. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате; заявленный контекст — 8192 токена. Для обучения использовались SFT и DPO-Positive, а данные были изменены для усиления навыков программирования, математики и письма. Модель предназначена для разговорного ИИ, генерации текстов, помощи с кодом и решения математических задач. В README приведены результаты оценок TruthfulQA и GSM8K, но подробный рецепт обучения не опубликован. Модель описана как очень малоцензурированная и может отвечать на широкий круг запросов. Указана лицензия Llama 3; в метаданных лицензия обозначена как other.

Locutusque разработала Llama-3-NeuralHercules-5.0-8B — дообученную модель семейства Llama 3 для диалогов и решения сложных задач. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 8192 токенов. Она принимает текст и генерирует текстовые ответы; в карточке заявлена поддержка английского и многоязычное применение. Модель дообучена на Hercules v5.0 в течение двух эпох, а затем на mlabonne/orpo-dpo-mix-40k методом DPO. Её предполагаемые сценарии — ответы на вопросы, научное и математическое рассуждение, помощь с программированием и разбор медицинских текстов. Указана лицензия Llama 3 в метаданных, тогда как README заявляет Apache-2.0; условия лицензирования следует сверить с актуальными файлами репозитория перед использованием.

mergekit-community/mergekit-sce-vjeombg — объединённая языковая модель, созданная сообществом с помощью mergekit. В основе объединения лежит sthenno-com/miscii-14b-1225; использован метод SCE с нормализацией и включением параметров от семи моделей, среди которых Qwen2.5-14B-Instruct-1M, DeepSeek-R1-Distill-Qwen-14B, Virtuoso-Small и Impish_QWEN_14B-1M. Модель имеет плотную архитектуру Qwen2 с 14 млрд параметров и предназначена для диалогов и генерации текста. Она принимает текст и выдаёт текст; метаданные указывают контекст до 131 072 токенов. Объединение сочетает несколько диалоговых и инструкционных моделей, включая дистиллированную модель DeepSeek для рассуждений, однако README не сообщает результаты оценки качества и не уточняет, какие возможности итоговой модели сохраняются лучше всего. Модель опубликована в формате safetensors для Transformers. Лицензия в предоставленных данных не указана.