II.4Отладка, тестирование и качество ПО

mergekit-community/Qwen2-1.5B-RHSD — объединённая модель на архитектуре Qwen2, созданная сообществом с помощью mergekit методом Model Stock. В основе объединения лежит trollek/Qwen2-1.5B-Instruct-Abliterated; также использованы Replete-AI/Replete-Coder-Qwen2-1.5b, cognitivecomputations/dolphin-2.9.3-qwen2-1.5b, macadeliccc/Samantha-Qwen2-1.5B и M4-ai/Hercules-5.0-Qwen2-1.5B. Модель содержит 1,5 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Модель использует плотную архитектуру Qwen2 с классом Qwen2ForCausalLM, работает через библиотеку Transformers и хранится в формате safetensors. Заявленная длина контекста — 32 768 токенов. Объединённые модели ориентированы на инструкции, программирование и диалог, однако README не приводит оценок качества или подробных результатов тестирования. Язык модели отдельно не описан в карточке и метаданных. Условия лицензирования в предоставленных данных не указаны.

Qwen3.5-35B-A3B RAMP v2 — GGUF-квантизация модели Qwen/Qwen3.5-35B-A3B, подготовленная независимым ML-исследователем Кевином Ремондером. Это генеративная MoE-модель для диалогов; сборка оптимизирована для запуска на видеокарте RTX 5060 Ti с 16 ГБ памяти и занимает около 15,2 ГБ. В README описана схема RAMP: точность квантизации выбирается отдельно для тензоров с учётом их чувствительности, а калибровочная imatrix создавалась на англо- и франкоязычных текстах, коде и клинических данных. Модель предназначена для локального текстового диалога и генерации, в том числе на английском, французском и китайском языках. В качестве основы использована Qwen3.5-35B-A3B; метаданные каталога указывают поддержку чата. Для запуска автор приводит инструкции с llama.cpp и рекомендует ik_llama.cpp для видеокарт sm_120. README сообщает о функциональной проверке 30 из 30 тестов, но не приводит подробных результатов бенчмарков. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Akka — мультимодальная модель на архитектуре Qwen3.5, опубликованная независимой лабораторией Nightmedia. Это слияние NuSLERP нескольких моделей семейства Qwen3.6 и Qwen3.5, ориентированное на диалог, следование инструкциям, рассуждения и творческую генерацию, включая художественные тексты. Модель также принимает изображения и может отвечать по их содержимому. В карточке описан переключатель режима рассуждений в шаблоне чата. Для модели указана лицензия Apache-2.0; веса размещены в формате safetensors. Опубликованные замеры скорости и памяти относятся к вариантам mxfp8 и mxfp4, однако репозиторий помечен форматом safetensors, поэтому эти показатели не следует считать характеристиками доступных здесь файлов. Контекстное окно и число параметров в предоставленных данных не указаны. Модель имеет экспериментальные признаки и может выдавать нежелательные результаты; качество для конкретных задач следует проверять самостоятельно.

Qwen3.8-27B-Uncensored-FP8 — модифицированная версия Qwen/Qwen3.8-27B, опубликованная OrcaRouter. Модель прошла abliteration: из неё удалено направление, связанное с отказами в ответах, после чего веса были офлайн квантизированы в block-FP8. Это плотная модель на 27 млрд параметров с гибридной архитектурой Gated DeltaNet и полнослойного внимания, встроенной vision-language башней и MTP-головой для спекулятивного декодирования. Модель предназначена для исследовательских задач, включая интерпретируемость, анализ механизмов отказа, AI safety, red teaming, оценку устойчивости и контролируемые эксперименты. Она поддерживает работу с текстом и изображениями, языки English и Chinese, рассуждение, function calling и контекст до 262 144 токенов. Архитектура включает 64 слоя: 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного внимания. Основные линейные веса используют block-FP8 E4M3 с размером блока 128×128 и динамическими активациями, тогда как vision tower, нормы, router, embeddings и lm_head сохранены в BF16. Сильная сторона модели — сохранение возможностей базовой Qwen3.8-27B, включая мультимодальность, инструменты, reasoning, большой контекст и MTP, при совместимости со схемой обслуживания официальной FP8-версии. Главное ограничение — существенное удаление защитного выравнивания: модель может выполнять вредоносные, неэтичные и незаконные запросы и не имеет значимых встроенных защитных механизмов. Поэтому её не следует использовать напрямую в пользовательских или производственных системах без собственных фильтров, модерации и контроля злоупотреблений. Модель распространяется по лицензии Apache 2.0; использование также должно соответствовать применимым законам и условиям лицензии базовой модели.

jungler9/vuse — текстовая разговорная модель для генерации ответов и рассуждений. В README она представлена как Ling-3.0-tiny, компактная гибридная MoE-модель для локального запуска и ресурсоограниченных сред. Однако карточка противоречит метаданным: README заявляет 7,9 млрд параметров, из которых активны 1,3 млрд на токен, а метаданные указывают 977,5 млн параметров и архитектуру Bailing MoE V3. Поэтому эти характеристики нельзя однозначно отнести к опубликованному репозиторию. README описывает чередование слоёв KDA и MLA и разреженную MoE-сеть с 128 экспертами, а также режимы быстрого ответа и пошагового рассуждения. Среди целевых сценариев названы агентные задачи, программирование, математика, научные рассуждения и следование инструкциям. Метаданные указывают контекст 131 072 токена, формат safetensors и возможность чата; заявленная в README поддержка FP8 и INT4 расходится с форматом репозитория. Модель опубликована под лицензией MIT. Из-за несоответствия README и метаданных размер, архитектуру и форматы весов следует считать неподтверждёнными; README также не перечисляет языки модели.

WeMM-Embedding-2B-GGUF — неофициальная GGUF-квантизированная версия модели WeMM-Embedding-2B, разработанной Tencent и подготовленной ewinregirgojr. Это модель эмбеддингов и извлечения признаков, предназначенная для семантического представления кода и текста в виде плотных L2-нормализованных векторов размерностью 2048. Поддерживаются английский, китайский, другие многоязычные сценарии, а также языки программирования, включая Python, TypeScript, JavaScript, C++, Rust, Go, SQL и Shell. Модель использует гибридную архитектуру из 18 слоёв Mamba SSM с линейным вниманием и 6 слоёв полного softmax-внимания и содержит около 2 млрд параметров. Она ориентирована на поиск и извлечение кода, RAG-системы, индексацию векторных баз данных, поиск дубликатов и выявление близких реализаций. GGUF-файлы совместимы с llama.cpp, Ollama и LM Studio; заявлена также интеграция с Unsloth, vLLM и sentence-transformers. В репозитории представлены варианты квантизации от Q4 до Q8, позволяющие выбирать между размером, скоростью и точностью; для некоторых вариантов заявлено сохранение косинусного сходства на уровне примерно 99,59–99,82% относительно FP16-базовой версии. Сильными сторонами являются высокая пропускная способность, компактность квантизированных вариантов и специализация на поиске по коду и техническим данным. Модель не предназначена для авторегрессионной генерации текста, дополнений или чат-ответов. В описании упоминается мультимодальная поддержка базовой модели, включая текст, изображения и видео, однако подробные характеристики этих модальностей для данного GGUF-релиза не приведены; размер контекста также не указан. Лицензия — Apache-2.0.

WestBreeze-7B-DPO — языковая модель на архитектуре Mistral, созданная PetroGPT слиянием моделей через LazyMergekit. Конфигурация указывает на слияние WestSeverus-7B-DPO-v2 и Breeze-Petro-7B-Instruct-v1 методом slerp; в метаданных базовой моделью указана PetroGPT/WestSeverus-7B-DPO-v2. Репозиторий содержит веса Safetensors, а общий размер модели составляет 14,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Для базовой модели заявлены справочная помощь по математике, естественным наукам и программированию; эти сценарии могут быть полезны и для WestBreeze, однако отдельные оценки её качества в README не приведены. Контекстное окно составляет 32 768 токенов. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках не приведены. Лицензия — Apache-2.0. Характеристики и области применения частично основаны на описании базовой модели, поэтому качество ответов WestBreeze в отдельных задачах по карточке установить нельзя.

Yi-1.5-9B-Chat-abliterated — диалоговая языковая модель на 8,6 млрд параметров, созданная на основе 01-ai/Yi-1.5-9B-Chat. Автор сообщает, что модель получена методом «abliteration»; подробности приведены в ноутбуке, на который ссылается карточка. Модель использует плотную архитектуру семейства Llama и библиотеку Transformers. Модель предназначена для генерации текста в диалоге и ответов на запросы. Базовая Yi-1.5-9B-Chat рассчитана на следование инструкциям, рассуждения, математику и программирование; эти возможности унаследованы от основы, но карточка не приводит отдельной оценки их качества после преобразования. Контекст — до 4096 токенов. Указаны китайский и английский языки. Лицензия — Apache-2.0.

Chocolatine-14B-Instruct-DPO-v1.3 — диалоговая языковая модель на 14,1 млрд параметров, разработанная Jonathan Pacifico на основе Microsoft Phi-4. Модель дообучена методом DPO на наборе jpacifico/french-orca-dpo-pairs-revised; автор сообщает об улучшении результатов на французском языке и в целом относительно базовой модели. Она предназначена для генерации текста и ведения диалогов на французском и английском языках, а также может применяться для задач рассуждения, математики и программирования, поддерживаемых базовой Phi-4. Модель использует плотную архитектуру семейства Phi-3 и принимает контекст до 16 384 токенов. В README приведены результаты на OpenLLM Leaderboard и MT-Bench-French, но они зависят от методики оценки и не гарантируют качество в конкретном сценарии. У модели нет механизма модерации. Лицензия — MIT.

DeepSeek-R1-Distill-Llama-8B-heretic — это модифицированная версия DeepSeek-R1-Distill-Llama-8B, разработанная пользователем saidutta69 с применением Heretic v1.4.0. Модель основана на Llama и представляет собой дистиллированную 8-миллиардную модель с уклоном на рассуждения и генерацию текста. Указанный язык — английский, модальность — текстовая. Модель предназначена для диалогов, следования инструкциям и задач, требующих рассуждений, когда нужен прямой ответ без встроенного поведения отказа. Подавление отказов выполнено направленным редактированием весов в выходных проекциях attention и down-projection MLP, без дообучения. По заявлению автора, это позволяет в значительной степени сохранить знания и способность следовать инструкциям исходной модели, однако модель не является улучшением базовой версии по возможностям. Доступны полноточные веса в формате BF16 и квантизованные варианты GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0. Модель рассчитана на запуск через llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang; для локального использования рекомендуются GPU с 8–12 ГБ памяти или совместимые квантизации на потребительском оборудовании. Размер контекста в README не указан. Важное ограничение — отсутствие дополнительной фильтрации безопасности: модель может выполнять запросы, от которых исходная версия отказалась бы, включая потенциально нежелательные. Ответственность за применение и развертывание возлагается на пользователя. Лицензия унаследована от базовой модели и обозначена как deepseek-license.

Olafangensan/GLM-4.7-Flash-heretic — разговорная текстовая модель семейства GLM-4.7-Flash, созданная удалением части отказов методом ablation (abliteration). В README приведено сравнение с исходной моделью zai-org/GLM-4.7-Flash: частота отказов в указанной оценке снизилась с 50 до 15 из 100, а KL-дивергенция составила 0,0039. Метаданные указывают архитектуру GLM-4 MoE Lite, 4,1 млрд параметров и контекст до 202 752 токенов; README описывает исходную GLM-4.7-Flash как модель MoE 30B-A3B. Модель предназначена для генерации текста в диалоге и локального развертывания; среди возможных сценариев — ответы на вопросы, написание текстов и помощь в программировании. Исходная карточка приводит результаты на математических, научных и кодовых бенчмарках, однако они относятся к GLM-4.7-Flash и не подтверждают напрямую качество heretic-версии. В метаданных указаны английский и китайский языки, формат safetensors и библиотека Transformers; README также упоминает запуск через vLLM и SGLang. Лицензия — MIT. Уменьшение числа отказов не означает отсутствия отказов или гарантии безопасности и качества; опубликованные сравнительные замеры ограничены приведённой оценкой и не заменяют независимую проверку модели.

GPT-6 Luna Pro — вариант GPT-6 Luna от OpenAI, работающий с параметром reasoning.mode, установленным в pro. Он предназначен для получения более качественных ответов на сложные задачи. README описывает его как ту же базовую модель GPT-6 Luna с режимом рассуждения pro. Доступные данные не содержат сведений об архитектуре, размере, контексте, языках или лицензии, поэтому эти характеристики нельзя уточнить. Метаданные каталога относят модель к задаче image-text-to-text, однако README не описывает работу с изображениями.

AlexWortega/instruct_rugptMedium — русскоязычная модель ruGPTMedium, дообученная в формате инструктивного обучения с примерами zero-shot и few-shot. Она предназначена для генерации текста по запросу, включая ответы на вопросы и помощь с кодом. Модель построена на архитектуре GPT-2, работает с текстом и имеет контекстное окно 2048 токенов. В карточке заявлено, что модель лучше справляется с русским языком, чем XGLM 1.7B и mGPT; независимые оценки этого сравнения не приведены. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Лицензия — Apache-2.0.

InternVL3-14B-Instruct — мультимодальная модель OpenGVLab для диалога и генерации ответов по тексту и визуальным данным. Это версия SFT семейства InternVL3: она прошла мультимодальное предварительное обучение и supervised fine-tuning, но не этап MPO. Архитектура следует схеме ViT-MLP-LLM и реализована классом InternVLChatModel; модель доступна в формате safetensors для Transformers. Модель предназначена для понимания изображений и видео, мультимодальных рассуждений и диалога, а также задач с несколькими изображениями, GUI, 3D-сценами и научными диаграммами. Визуальная часть использует динамическое разбиение изображений на фрагменты 448×448 и позиционное кодирование V2PE; README также заявляет улучшенное понимание длинного контекста, но числовая длина контекста здесь не приведена. В семействе заявлена многоязычность. Модель может быть полезна для описания изображений, вопросов и ответов по визуальному содержимому, анализа видео и работы с GUI. README рекомендует тем, кто не уверен в выборе версии, использовать InternVL3-14B. Репозиторий указывает лицензию Apache-2.0. Ограничения качества, ресурсоёмкости и поддержки конкретных языков в предоставленных материалах подробно не описаны.

Kimi-K2-Base-BF16 — базовая языковая модель, опубликованная Unsloth на основе Kimi-K2-Base от Moonshot AI. Это модель семейства DeepSeek V3 с архитектурой Mixture-of-Experts: в исходной карточке указаны 1 трлн параметров всего и 32 млрд активируемых параметров; метаданные этого репозитория указывают 37,9 млрд параметров. Веса представлены в формате safetensors, библиотека — Transformers, контекст составляет 131 072 токена. Модель предназначена для генерации текста и служит основой для исследовательских и прикладных доработок, включая настройку под диалоги, рассуждения, программирование и агентные сценарии с вызовом инструментов. Карточка описывает возможности семейства Kimi K2, но отдельно отмечает, что Kimi-K2-Base — именно базовая модель; подробные рекомендации по чату и вызову инструментов относятся преимущественно к варианту Instruct. Карточка не сообщает поддерживаемые естественные языки и не приводит условий лицензии: в метаданных указано только значение «other».

LYRAMOON — разговорная языковая модель, разработанная и сопровождаемая Muhammad Taqi. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалога, рассуждений, оценки сложной логики и генерации кода. Карточка позиционирует её как движок для многоходового общения; метаданные также отмечают чат и интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных указан контекст до 32 768 токенов и поддержка английского языка; модель рассчитана на запуск через Transformers. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Заявленные возможности рассуждения, скорости и качества генерации кода не подкреплены в карточке оценками или результатами тестирования. Поэтому качество на конкретных задачах следует проверять отдельно; подтверждена поддержка английского, но не иных языков.

Карточка модели Ayush-1722/Meta-Llama-3-8B-Instruct-Summarize-v0.2-24K-LoRANET-Merged на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Nanbeige4-3B-Base — базовая языковая модель из семейства Nanbeige четвёртого поколения, разработанная командой Nanbeige. Модель содержит 3,5 млрд параметров, построена на плотной архитектуре Llama и предназначена для генерации текста и дальнейшей адаптации под прикладные задачи, например через supervised fine-tuning. В обучении использовался корпус из веб-текстов, книг, кода и научных статей, дополненный синтетическими данными для вопросов и ответов и рассуждений. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В карточке указаны английский и китайский языки. Разработчики сообщают о сильных результатах после дообучения на математических задачах и тестах на научные знания, в отдельных сравнениях превосходящих модели большего размера. Это базовый чекпойнт, поэтому для диалогового использования может потребоваться дополнительная настройка. Модель распространяется по лицензии Apache-2.0. Как и другие вероятностные языковые модели, она может выдавать ошибочную или неожиданную информацию, а также предвзятые или дискриминационные ответы. Разработчики не гарантируют отсутствие такого контента.

Noema-2B-GGUF — это набор GGUF-квантизированных сборок модели Noema-2B, разработанной NoemaAI-labs. Модель представляет собой примерно 2-миллиардную reasoning-модель, дообученную на базе Qwen/Qwen3.5-2B, и предназначена для генерации текста, решения математических и логических задач, а также локального запуска через llama.cpp и совместимые среды. Заявленный язык — английский. Модель использует гибридную архитектуру Qwen3.5 с Gated-DeltaNet: в ней сочетаются линейные слои и слои полноформатного внимания. Доступны варианты F16, Q8_0, Q6_K и Q4_K_M размером примерно от 1,2 до 3,5 ГБ; Q4_K_M рекомендован как наиболее сбалансированный по качеству и размеру, а Q8_0 обеспечивает наиболее высокую точность среди квантизированных вариантов. Модель настроена и оценивалась в non-thinking mode, который включается шаблоном чата по умолчанию. Для работы требуется свежая версия llama.cpp с поддержкой архитектуры qwen35; старые версии могут не загрузить модель. Рекомендуется использовать вероятностную генерацию с параметрами temperature 0.7, top-p 0.8, top-k 20 и presence penalty 1.5. Жадная генерация с temperature 0 может приводить к зацикливанию повторов. Максимальный размер контекста, подробные бенчмарки и ограничения базовой модели в данной карточке не указаны. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой Qwen/Qwen3.5-2B.

Samll/olmo3-7b-think-thinkprune-b4000 — дообученная диалоговая модель семейства OLMo 3, созданная для экспериментов с эффективным обучением рассуждениям. Модель основана на allenai/Olmo-3-7B-Think и связана с работой «Efficient Reasoning Training Does Not Always Harm CoT Faithfulness and Monitorability». Это плотная авторегрессионная языковая модель с 6,9 млрд параметров, рассчитанная на контекст до 65 536 токенов; веса доступны в формате safetensors для Transformers. Модель предназначена для генерации текста в диалоге и задач, где требуется рассуждение, включая математику и программирование. Карточка указывает на использование ThinkPrune и GRPO, однако не приводит подробностей обучения или сравнительных оценок качества. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

shisa-ai/Ornith-1.0-35B-FP8-BLOCK-MTP — производный чекпойнт модели Ornith-1.0-35B, опубликованный Shisa AI. Он основан на shisa-ai/Ornith-1.0-35B-FP8-BLOCK и предназначен для ускорения генерации текста с помощью speculative decoding и механизма MTP (Multi-Token Prediction). Модель ориентирована на задачи генерации кода, рассуждений и агентских сценариев, поддерживаемые базовой моделью и совместимым сервером инференса. Основные веса сохранены в формате FP8_BLOCK с использованием compressed-tensors, а MTP-голова добавлена в формате BF16. В чекпойнт включены 19 тензоров mtp.*; обучение или дистилляция не выполнялись — использована прямая graft-операция с MTP-головой от Qwen/Qwen3.6-35B-A3B. Размер базовой модели составляет 35B параметров; в метаданных также указана MoE-архитектура. Сведения о поддерживаемых языках и точном размере контекстного окна в README не приведены, хотя в локальном тестировании использовался лимит 32768 токенов. Главное преимущество — повышение пропускной способности при обслуживании через vLLM. В описанном локальном тесте конфигурация с num_speculative_tokens=3 достигла 246,522 выходных токена в секунду против 203,142 у базового режима без speculative decoding, то есть прирост составил 21,4%. При этом увеличивались медианные задержки до первого токена и межтокеновые интервалы, а acceptance снижался с 85,82% при одном спекулятивном токене до 66,98% при трёх. Результаты получены на одной NVIDIA RTX PRO 6000 Blackwell с частными тестовыми данными и могут не воспроизводиться на других аппаратных или рабочих нагрузках. Модель распространяется по лицензии MIT. Для использования MTP требуется совместимая инфраструктура, в частности vLLM с поддержкой соответствующих механизмов и compressed-tensors. README рекомендует повторно измерить производительность на собственном трафике; для чувствительных к задержке или стабильности сценариев следует рассмотреть один спекулятивный токен либо работу без speculative decoding.

Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Это квантованная в формате MXFP4 версия модели Qwen3-Next-80B-A3B-Thinking, подготовленная noctrex и опубликованная в формате GGUF. Она предназначена для генерации текста и диалогового использования; базовая модель — причинная MoE-модель Qwen для сложных рассуждений и работы с длинным текстовым контекстом. В названии базовой модели указано 80B параметров, из которых 3B активны; точную длину контекста доступные данные не сообщают. Для запуска требуется совместимая версия llama.cpp; автор рекомендует использовать актуальную версию. GGUF и MXFP4 позволяют запускать квантованную модель в совместимой среде, однако квантование может влиять на точность по сравнению с исходными весами. Лицензия в предоставленных данных не указана.

Qwen3-Swallow-8B-CPT-v0.2 — плотная авторегрессионная языковая модель на 7,6 млрд параметров из семейства Qwen3, разработанная проектом Swallow при Токийском технологическом институте. Это версия после непрерывного предварительного обучения (CPT) на базе Qwen3; веса доступны в формате safetensors по лицензии Apache-2.0. Модель рассчитана на генерацию текста и диалог на японском и английском языках, включая перевод между ними, а также задачи математики и программирования. Обучение включало японские и англоязычные корпуса, параллельные тексты, математические и кодовые данные, а также материалы для диалога и рассуждений. Контекст модели заявлен до 40 960 токенов; разработчики рекомендуют ограничивать длину контекста 32 768 токенами или меньше. Модель предназначена для экспериментов и приложений, которым нужна двуязычная японско-английская генерация с навыками работы с кодом и математикой. Она не обучена специально для вызова инструментов, а переключение режима рассуждений не поддерживается. Разработчики отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного соответствия человеческим намерениям и требованиям безопасности.

ruRoberta-large-paraphrase-v1 — русскоязычная модель Sberbank AI на архитектуре RoBERTa Large, дообученная как cross-encoder для оценки семантической эквивалентности двух предложений. Она принимает пару текстов и классифицирует её как парафраз с тем же смыслом или как непарафраз; оценку также можно использовать для проверки сохранения содержания при перефразировании и переносе стиля. Модель обучалась на объединении RuPAWS, ru_paraphraser и размеченных примеров сохранения содержания из коллекции RUSSE-2022 для детоксикации текста. Модель содержит 454,1 млн параметров, работает с текстом на русском языке и имеет контекст до 514 токенов. В README приведены ROC AUC от 0,857 до 0,906 на тестовых наборах detox, paraphraser, RuPAWS QQP и RuPAWS Wiki. Это классификатор пар предложений, поэтому для сравнения текстов их нужно подавать совместно; модель не генерирует перефразированный текст. Лицензия в предоставленных данных не приведена.

SmolLM-1.7B-Instruct-v0.2-GGUF — это набор GGUF-квантизаций инструкционно дообученной языковой модели SmolLM-1.7B-Instruct-v0.2, разработанной HuggingFaceTB. Квантизации подготовлены пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые сценарии, программирование и обработку повседневных запросов. Указан английский язык. Модель имеет размер 1,7 млрд параметров и работает в текстовой модальности. В набор входят варианты от F32 до низкобитных Q2–Q8 и IQ-квантизаций с размером файлов примерно от 0,67 до 6,85 ГБ. Более высокие разрядности обычно лучше сохраняют качество, тогда как низкоразрядные варианты требуют меньше оперативной памяти. Для запуска рекомендуется использовать llama.cpp или совместимые приложения, включая LM Studio, с указанным в README форматом чата. К сильным сторонам относятся компактный размер, возможность локального запуска и широкий выбор компромиссов между качеством и требованиями к памяти. Ограничения — небольшая по современным меркам модель, поддержка только английского языка согласно карточке и потенциальная потеря качества при сильной квантизации. Базовая модель обучалась на наборах Magpie-Pro-300K-Filtered, self-oss-instruct-sc2-exec-filter-50k, OpenHermes-2.5 и everyday-conversations-llama3.1-2k. Указанная лицензия — Apache-2.0.

Карточка модели qihoo360/360Zhinao-7B-Chat-360K на Hugging Face совпадает с карточкой qihoo360/360Zhinao-7B-Base, поэтому описание составлено по ней. 360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

Decision-2.0-Nox-4B — модель принятия решений семейства Decision 2.0, разработанная командой vLLM Semantic Router и дообученная на базе Qwen/Qwen3.5-4B-Base. Она принимает текст или JSON вместе с вопросами и одновременно выбирает один из вариантов, отвечает «да» или «нет» либо выставляет оценку. Для каждого ответа модель возвращает вероятность; вместо генерации обычного текста она выполняет классификацию за один проход. Модель содержит 4,21 млрд параметров и поддерживает контекст до 16 384 токенов. Модель подходит для маршрутизации запросов, выбора действий или вариантов, проверки условий и оценивания входных данных. В карточке сообщается о результатах на JevArena и сравнении с моделями того же размера, а также о медианной задержке 12,9 мс на один вопрос при работе на одном GPU; эти показатели зависят от условий оценки и оборудования. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0.

DeepSeek-V4-Flash-0731 REAP 80G — производная версия DeepSeek-V4-Flash-0731 от автора репозитория, сокращённая методом REAP и упакованная в формат GGUF с разной точностью квантования. В каждом MoE-блоке сохранено 160 из 256 маршрутизируемых экспертов; эксперты используют IQ2XXS, проекции W2 — Q4_K, а внимание, общие эксперты и выходная голова — Q8_0. Модель предназначена для генерации текста в диалоговом режиме и локального запуска на совместимом с DeepSeek-V4 оборудовании и ПО. Карточка описывает её как экспериментальную производную, не являющуюся официальным выпуском DeepSeek. Ожидаемые сценарии включают диалог, программирование, рассуждения, работу с инструментами и длинным контекстом, но качество этих возможностей следует оценивать на своих задачах. Для запуска требуются среды, понимающие компоненты DeepSeek-V4; обычные загрузчики GGUF могут не поддерживать используемые компоненты MXFP4, sparse attention, токенизатор и DSpark MTP. Оценки паритета с исходной моделью по бенчмаркам нет. Модель основана на deepseek-ai/DeepSeek-V4-Flash-0731; метаданные указывают языки en и zh, лицензию MIT и задачу text-generation. README предупреждает, что важность экспертов оценивалась по близкому раннему чекпойнту, а не по версии 0731; удалено 37,5% маршрутизируемых экспертов. Совместимость MTP-блоков требует отдельной проверки.

Dymium-NER-v1 — модель распознавания именованных сущностей, разработанная Dymium и дообученная на DeBERTa-v3-large для обнаружения персональных и других чувствительных данных. Она размечает токены в тексте по 13 типам сущностей, включая адреса, учётные данные и чувствительные даты. Модель предназначена для поиска и редактирования персональных данных в конвейерах ИИ, обнаружения чувствительной информации перед передачей текста LLM, а также для контроля доступа и поддержки процессов управления данными и соблюдения требований GDPR, HIPAA и FedRAMP. Она работает с английским текстом; размер составляет 533,8 млн параметров, максимальная длина контекста — 512 токенов. Для запуска можно использовать Transformers pipeline с задачей token-classification. По заявлению карточки, качество может снижаться на узкоспециализированных текстах, а обнаружение учётных данных зависит от наличия контекста. Численные показатели F1, точности и полноты в README не приведены. Модель распространяется по лицензии Apache-2.0.