II.4Отладка, тестирование и качество ПО

HerBERT-PL-Guard — польскоязычный классификатор безопасности текста от NASK-PIB, дообученный на основе allegro/herbert-base-cased с архитектурой BERT. Он относит текст к одной из 15 категорий: безопасный или одной из 14 категорий небезопасного контента по таксономии, вдохновлённой Llama Guard. Модель предназначена для модерации польскоязычного контента и оценки безопасности входов и ответов больших языковых моделей. Её можно подключить как классификатор текста в Transformers; при построении использованы наборы PL-Guard, польские переводы PolyGuard и WildGuard. Репозиторий содержит веса safetensors, лицензия — CC-BY-NC-SA-4.0.

Huihui-gemma-4-12B-agentic-fable5-abliterated — вариант Gemma 4 12B, созданный huihui-ai на основе дообученной модели yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2. Это плотная модель с архитектурой Gemma4UnifiedForConditionalGeneration для генерации текста и диалоговых ответов; метаданные также отмечают поддержку кода. Модель распространяется в формате safetensors и предназначена для использования через Transformers. Автор описывает её как экспериментальную версию с ослабленными отказами, полученную методом abliteration. Она может быть полезна для генерации кода и технических ответов, но карточка характеризует реализацию как грубую proof-of-concept. Ослабление защитных ограничений повышает вероятность чувствительных или неподходящих ответов, поэтому результаты требуют проверки. Лицензия — Apache-2.0.

autotrust/JEV — открытая модель autotrust для выдачи калиброванных распределений вероятностей по типизированным вопросам: да/нет (noul), выбору из 2–16 вариантов (choice) и оценке по шкале 0–5 (score). Она также включает обычную генерацию текста через исходную языковую голову базовой модели. В основе — плотная архитектура Qwen3.5-9B с 7,2 млрд параметров; модель дообучена методом дистилляции ответов TypeSafe Jev 1.13 на корпусе SargeDev/jev-distill-corpus-v3. Для решений используется отдельный LoRA-адаптер и голова решений, а веса базовой модели сохранены без изменений. Модель предназначена для оценки текстов и JSON-состояний, ранжирования вариантов и получения вероятностных оценок в приложениях, где нужны структурированные ответы без отдельного разбора JSON. В README приведены результаты на отложенной выборке: AUROC 0,996 для вопросов да/нет и совпадение выбора с учителем 89,8 %. Контекст базовой модели — 262 144 токена, однако при обслуживании вход решения по умолчанию обрезается до 1 024 токенов. Лицензия — Apache-2.0. Результаты модели наследуют ошибки и смещения TypeSafe Jev 1.13; авторы отмечают слабости в многошаговых рассуждениях, арифметике, датах, подсчёте и работе с состязательными входами. Также возможна нестабильность выбора при перестановке вариантов. Корпус англоязычный, а многоязычное поведение не оценивалось. Поток разметки релевантности памяти содержит заглушечные метки, поэтому модель не рекомендуется для такой оценки без дополнительного обучения. Для ответственных решений требуется проверка на собственных данных; модель не предназначена для высокорисковых сценариев.

Kog Laneformer 2B IT — инструкция-настроенная версия языковой модели семейства Laneformer от Kogai. Это плотный авторегрессионный Transformer с декодером в стиле Llama, 2,2 млрд параметров и контекстом 4096 токенов. Архитектура использует Delayed Tensor Parallelism (DTP): обмен данными между частями модели откладывается и выполняется асинхронно, чтобы скрыть задержки параллельных вычислений. Репозиторий содержит веса Safetensors и реализацию для Transformers; для загрузки требуется разрешить пользовательский код модели. Модель предназначена для генерации текста и кода, диалоговых и инструкционных экспериментов, а также исследования архитектур с низкой задержкой при последовательной генерации. Разработчик ориентирует семейство на сценарии с малым числом одновременных запросов, включая циклы кодирования с агентами, голосовые помощники и сопилоты реального времени. Приведённые в карточке высокие скорости относятся к отдельному движку Kog Inference Engine на специализированных GPU и не характеризуют обычный запуск через Transformers. Модель преимущественно обучалась на коде и не рассчитана на роль универсального помощника. Она может ошибаться, выдавать небезопасный код и недостоверные сведения; результаты требуют проверки, а для критически важных решений модель не подходит. Лицензия указана как `other`; карточка также требует соблюдать условия лицензии и политики допустимого использования Llama 2.

LFM2.5-2.6B Terminal SFT — полно-параметрически дообученная модель LiquidAI LFM2.5-2.6B, опубликованная jacepark12. Она предназначена для диалоговых задач терминального агента: обучена на 139 841 беседе о работе с терминалом без задач программирования, подготовленных из набора NVIDIA Nemotron Terminal Corpus. Модель использует плотную архитектуру LFM2 с причинной языковой моделью Lfm2ForCausalLM, содержит 2,6 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий использует формат safetensors и библиотеку Transformers; модель принимает текстовые запросы и генерирует текстовые ответы. Карточка указывает английский язык.

RESMP.DEV LFM2.5 Encoder 350M Code BF16 — исследовательский релиз, производный от LiquidAI/LFM2.5-Encoder-350M и не являющийся официальным выпуском Liquid AI. Это плотный двунаправленный энкодер семейства LFM2, дообученный контрастивным обучением всего энкодера для многоязычного поиска по коду. Удалена исходная голова masked language modeling; чекпойнт BF16 предназначен как эталон качества и переносимый артефакт для Transformers. Модель преобразует запросы и фрагменты кода в векторы для поиска релевантных фрагментов. В README приведены результаты на отложенном наборе из 6 995 пар; показатели заметно различаются между Python и TypeScript, поэтому качество на конкретном языке и корпусе следует проверять отдельно. Размер составляет 444,6 млн параметров, контекст — до 128 000 токенов. Модель рассчитана на код и мультиязычные сценарии; конкретный перечень естественных языков в предоставленных данных не раскрыт. Лицензия в метаданных указана как other, поэтому условия коммерческого и иного использования нужно сверить с карточкой репозитория. Это исследовательский релиз, а практическая скорость и потребление памяти зависят от оборудования и среды запуска.

Llama-3.3-Nemotron-70B-Reward — языковая модель NVIDIA на архитектуре Llama 3.3, дообученная на основе Meta-Llama-3.3-70B-Instruct. Она предназначена для оценки качества ответов, сгенерированных другими языковыми моделями: на вход подаётся многоходовый диалог на английском языке длиной до 4096 токенов, а на выходе получается одно числовое значение вознаграждения. Более высокий балл означает более предпочтительный ответ в рамках одного и того же запроса; сравнивать баллы для разных запросов напрямую нельзя. Модель содержит 69,5 млрд параметров и принимает текст. Хотя заявленное контекстное окно составляет 131 072 токена, обучение проводилось на диалогах длиной до 4096 токенов. NVIDIA сообщает о результатах 73,7% на JudgeBench и 79,9% на RM-Bench. Модель подходит для ранжирования ответов, отбора кандидатов и построения оценочных конвейеров; она рассчитана на английский язык и требует значительных вычислительных ресурсов — для запуска через Transformers README рекомендует не менее двух GPU с 80 ГБ памяти. README указывает, что модель готова к коммерческому и некоммерческому использованию, однако метаданные обозначают лицензию как «other»; перед применением следует проверить условия NVIDIA для репозитория. Модель выдаёт оценку качества, а не текстовый ответ для конечного пользователя, и её баллы не следует трактовать как абсолютную шкалу качества между разными запросами.

LocateAnything-3B-GGUF — мультимодальная модель для визуального заземления объектов и областей на изображениях. Исходную модель разработала NVIDIA, а данный репозиторий содержит её GGUF-конверсии, подготовленные yuuko-eth для работы с llama.cpp и мультимодальным стеком mtmd. Модель принимает изображение и текстовый запрос на английском языке, после чего возвращает метку объекта или области и координаты ограничивающей рамки либо точки в нормализованном диапазоне 0–1000. Архитектура включает vision tower MoonViT-SO-400M, Eagle MLP и языковую модель Qwen2.5-3B. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M и Q4_K_M; для работы каждому варианту языковой модели требуется отдельный vision projector mmproj в формате BF16. Модель подходит для поиска объектов, регионов интерфейса, текста на изображении, отдельных точек и нескольких экземпляров по описанию. К сильным сторонам относятся компактные квантизованные варианты и близкое к BF16 качество у Q4_K_M и более высоких разрядностей. Для запуска требуется специальная ветка llama.cpp с интеграцией LocateAnything mtmd; стандартная версия llama.cpp эти GGUF-файлы не загружает. При использовании llama-server необходим параметр --special, иначе координаты, представленные управляющими токенами, не будут выведены. Проверена работа с одним изображением и одним запросом; пакетная обработка нескольких изображений в llama-server не валидирована. Для некоторых CUDA-бэкендов может потребоваться отключение flash attention из-за vision head_dim=72. Лицензия NVIDIA разрешает только некоммерческое и исследовательское использование; коммерческое использование зарезервировано за NVIDIA и её аффилированными лицами.

Parable-SmolLM3-3B-Claude-Fable-5 — модель серии Parable, разработанная AnkitAI и дообученная на трассах работы агентных моделей. Это плотная авторегрессионная языковая модель SmolLM3 на 3,1 млрд параметров для генерации текста и диалогов; она рассчитана на локальное использование как помощник по программированию, который формирует рассуждение перед ответом. Контекст модели — 65 536 токенов. Модель дообучена методом QLoRA на 4-битной базовой модели, а в этом репозитории размещено объединение весов в формате F16 safetensors. Обучение на 4 076 примерах из трасс Claude Fable 5 и терминальных диалогов улучшило loss на отложенном наборе трасс относительно базовой SmolLM3-3B; README не заявляет об улучшении общих бенчмарков. Модель предназначена для генерации ответов в стиле агентных рассуждений и помощи с кодом, но не обучалась навигации по многофайловым репозиториям, работе с изображениями или другим языкам, кроме английского. Она унаследовала ограничения знаний базовой модели; сгенерированные команды следует проверять. Лицензия весов — Apache-2.0, однако README предупреждает, что условия лицензий использованных наборов трасс могут иметь значение для коммерческого использования.

onnx-community/Qwen2.5-Coder-0.5B-Instruct — это ONNX-версия модели Qwen/Qwen2.5-Coder-0.5B-Instruct, подготовленная сообществом onnx-community для работы с библиотекой Transformers.js. Модель предназначена для генерации текста и ассистирования в задачах программирования, включая написание кода и объяснение алгоритмов, например quick sort. Модель относится к семейству Qwen2.5-Coder и имеет размер 0,5 млрд параметров. В репозитории указаны ONNX-веса и возможность запуска в формате q4 через Transformers.js, в том числе в JavaScript-приложениях. README не содержит данных о поддерживаемых языках, длине контекста, архитектурных деталях, модальностях или лицензии. К сильным сторонам относятся компактный размер и совместимость с Transformers.js; ограничения и точные характеристики качества в предоставленных данных не указаны.

Qwen3.8-Flash-Next FP8 Abliterated GGUF — неофициальная производная мультимодальной модели Qwen3.8-Flash-Next, созданная сообществом на основе официального FP8-чекпойнта Qwen. Модель не является официальным релизом Qwen и не поддерживается командами Qwen, Alibaba Cloud, NVIDIA или авторами Abliterix. Модель предназначена для понимания текста, изображений и видео, а также для исследовательских, агентских, длинноконтекстных и мультимодальных сценариев. Архитектура включает Mixture-of-Experts, Qwen Sparse Attention, Gated DeltaNet, управляемые остаточные связи, n-граммные эмбеддинги и маршрутизацию к экспертам. Поддерживается многоязычность, однако точный список языков и числовой размер контекста в карточке не указаны. В репозитории представлены GGUF-квантизации Q8_0, Q6_K и Q4_K_M, разделённые на несколько файлов; совокупный размер репозитория составляет около 485 ГБ. Для опционального ускорения декодирования доступны отдельные MTP-компоненты для speculative decoding, совместимые с соответствующей квантизацией и современной сборкой llama.cpp с поддержкой архитектуры qwen4exp. Ключевое отличие производной версии — обработка Abliterix, направленная на ослабление поведения, связанного с отказами. Это может снизить встроенные защитные ограничения и повысить риск неточных, небезопасных или вредоносных ответов, поэтому требуются тестирование, контроль доступа и дополнительная модерация. Указана лицензия qwen-community-license-1.0. Модель рекомендуется использовать для исследований поведения и выравнивания, оценки устойчивости и квантизации, авторизованного red-team-тестирования, экспериментов с GGUF, длинным контекстом и speculative decoding, а также для защитных исследований в области кибербезопасности. Точные требования к оборудованию и производительность зависят от выбранной квантизации, backend и настроек offload.

SmolLCoder-360M-Instruct — компактная инструктивная языковая модель для помощи с программированием, основанная на HuggingFaceTB/SmolLM2-360M-Instruct и разработанная motexture. Модель построена на плотной архитектуре семейства Llama и содержит 361,8 млн параметров; она поддерживает генерацию текста и диалоговый режим, рассчитана на контекст до 8192 токенов и работает с текстом на английском языке. Модель предназначена для локального использования в роли небольшого помощника по программированию: она может генерировать фрагменты кода и отвечать на запросы в диалоговом формате. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей обучения, поэтому возможности и надёжность кода следует проверять на конкретных задачах.

StarEncoder — разработанная проектом BigCode модель на базе трансформера с двунаправленным вниманием, обученная на коде из набора The Stack. Она использует цели MLM и NSP в стиле BERT: восстанавливает замаскированные токены и определяет, идут ли две последовательности рядом в документе. Модель обучали на коде 86 языков программирования, а максимальная длина последовательности составляет 1 024 токена. StarEncoder предназначена как основа для дообучения под задачи анализа кода и текста, включая классификацию токенов; в README приведён пример обнаружения персональных данных в коде. Это модель-энкодер, поэтому она подходит для представлений и анализа входного текста, но менее гибка для генерации и дополнения кода. В обучающих данных могли встречаться персональные данные, а качество может различаться между языками программирования. Файлы модели опубликованы в формате PyTorch; условия лицензии в предоставленных данных не описаны.

Карточка модели StartupOS/st-codesearch-distilroberta-base на Hugging Face совпадает с карточкой codecompletedeployment/st-codesearch-distilroberta-base, поэтому описание составлено по ней. st-codesearch-distilroberta-base — модель Sentence-Transformers на базе DistilRoBERTa-base, опубликованная в репозитории codecompletedeployment/st-codesearch-distilroberta-base. Она преобразует текстовые запросы и описания векторов предложений в плотные эмбеддинги размерности 768 и предназначена прежде всего для семантического поиска по программному коду на основе текстового запроса. Модель обучалась на датасете CodeSearchNet в течение 10 тысяч шагов с MultipleNegativesRankingLoss; архитектура — RoBERTa, размер — 95,2 млн параметров, максимальный контекст — 514 токенов. Её можно применять для поиска фрагментов кода по естественно-языковому описанию, ранжирования кандидатов по сходству, а также кластеризации текстовых представлений кода. README характеризует модель как предварительную: качество и обучение не были тщательно проверены, поэтому результаты следует оценивать на целевых данных. Лицензия в предоставленных данных не указана.

Ary-007/Text-to-sql-llama-3.2 — дообученная модель на основе Llama-3.2-3B-Instruct, созданная для преобразования вопросов на естественном языке в SQL. На вход подаются схема базы данных и вопрос, а модель генерирует SQL-запрос и краткое объяснение его логики. Для дообучения использовались QLoRA и набор данных gretelai/synthetic_text_to_sql; модель работает через Transformers и распространяется в формате safetensors. Модель содержит 3,2 млрд параметров и имеет контекстное окно до 131 072 токенов. Она рассчитана на генерацию SQL в стиле SQLite и PostgreSQL и может запускаться локально, в том числе после 4-битной квантизации. Лицензия — MIT. Обучение ограничилось 60 шагами и описано как доказательство концепции, поэтому модель может плохо обобщать на сложные или незнакомые схемы. Синтаксически корректный запрос может быть логически неверным; результат следует проверять перед запуском в рабочей базе данных.

Wichtel-Qwen3.6-27B — локальная диалоговая модель Schneewolf Labs на архитектуре Qwen3.5, предназначенная для управления инструментами и написания кода на Hemlock. Модель объединяет четыре адаптера в один набор весов; в репозитории указаны возможности работы с изображениями и кодом. Размер модели и длина контекста в предоставленных данных не указаны. Основные сценарии — выбор и вызов инструментов, передача обычных инженерных задач кодовому агенту и генерация программ на Hemlock. В README сообщается результат 47 из 47 на внутреннем тесте использования инструментов и 67,6% на Hembench; это результаты тестов разработчика, а не независимая оценка. Модель распространяется в формате safetensors по лицензии Apache-2.0. В README также описана сборка для llama.cpp с MTP-головой, но метаданные указывают safetensors как формат файлов репозитория.

MiniMax-M2.5 — открытая большая языковая модель, разработанная компанией MiniMaxAI. Это текстовая autoregressive-модель для программирования, рассуждений, агентных сценариев, поиска с использованием инструментов и офисных задач, включая работу с документами, презентациями и финансовыми таблицами. Модель ориентирована на разработчиков, AI-агентов, чат-ботов и приложения, которым нужны сложная декомпозиция задач, tool calling и высокая скорость генерации. Модель имеет архитектуру Transformer с Mixture of Experts и механизмом Lightning Attention; по данным NVIDIA, общий размер составляет 230 млрд параметров. Она принимает и генерирует текст, поддерживает контекст до 204 800 токенов и предназначена для text-to-text задач. В обучении особое внимание уделялось reinforcement learning, агентному программированию и работе более чем с десятью языками программирования, включая Python, JavaScript, TypeScript, Java, C, C++, Go, Rust, Kotlin, PHP, Lua, Dart и Ruby. Заявлены результаты 80,2% в SWE-Bench Verified, 51,3% в Multi-SWE-Bench и 76,3% в BrowseComp. Сильные стороны MiniMax-M2.5 — кодинг полного цикла, планирование в стиле software architect, эффективное использование инструментов, поиск и высокая скорость: доступны варианты примерно на 50 и 100 токенов в секунду. Ограничение модели — текстовая модальность: изображения, аудио и видео не относятся к её входным или выходным данным. Показатели производительности приведены разработчиком и зависят от инфраструктуры, агентного окружения и настроек инференса. Весы модели опубликованы на Hugging Face и GitHub, поддерживаются Transformers, vLLM, SGLang и другими средствами локального развертывания. Лицензия указана как modified MIT; применимые условия следует проверять в опубликованных лицензионных документах.

Карточка модели testaccount-ai/Qwen3.8-Max на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели musafa901/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели RedHatAI/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели tanmayola/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

GPT-5 — модель OpenAI для сложных задач, требующих рассуждений, точного выполнения инструкций и генерации качественного кода. В карточке модели отмечены улучшения в рассуждениях, качестве кода и удобстве взаимодействия. Модель предназначена для решения сложных задач и следования инструкциям. Каталог классифицирует её как image-text-to-text, однако README не описывает работу с изображениями или другие модальности, поэтому это назначение подтверждается только метаданными.

Granite-4.2-30B — большая языковая модель IBM Granite Team для рассуждений, диалога и работы с инструментами. Это дообученная на основе ibm-granite/granite-4.1-30b-base плотная decoder-only Transformer-модель с архитектурой GraniteForCausalLM и 28,9 млрд параметров. Она поддерживает режимы полного, отключённого и облегчённого рассуждения, а также контекст до 131 072 токенов. Модель предназначена для ответов на сложные вопросы, математики, программирования, многошаговых задач и агентных сценариев с вызовом инструментов. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. README заявляет архитектурные компоненты GQA, RoPE, SwiGLU и RMSNorm; веса представлены в формате safetensors и используются через Transformers. Лицензия Apache 2.0 допускает коммерческое и академическое применение. Производительность на других языках может уступать английской; ответы могут содержать ошибки, предвзятость или небезопасные сведения, а промежуточные рассуждения не всегда отражают итоговый ответ.

Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, опубликованная в открытом виде. Она предназначена для генерации ответов и выполнения сложных многошаговых задач в программировании, профессиональной работе, исследованиях и агентных сценариях. Модель поддерживает чат и интерфейс вызова инструментов; README указывает совместимость формата Transformers с vLLM, SGLang и TokenSpeed. Архитектура — Mixture of Experts с 92 слоями и 512 экспертами: всего 2,4 трлн параметров, из которых активируется 95 млрд. Нативная длина контекста составляет 262 144 токена и может расширяться примерно до 1,01 млн. Модель принимает только текст; для всех взаимодействий требуется режим рассуждения, который нельзя отключить. Модель не поддерживает мультимодальные входы, а её языковая поддержка в предоставленных данных не перечислена. В метаданных указана лицензия «other», без конкретных условий использования; перед применением следует проверить лицензию на странице модели. README описывает постобученные веса и файлы конфигурации.

Qwen3.8-35B-A3B-Distill-oQ8-fp16-mtp — это сборка Novaeon.Studio на базе empero-ai/Qwen3.8-35B-A3B-Distill, предназначенная для локального запуска на компьютерах Apple Silicon через oMLX и MLX. Модель представляет собой дистиллированную версию, обученную на данных и рассуждениях учительских моделей семейства Qwen3.8, включая Qwen3.8 Flash Next, с акцентом на математику и программирование. Это мультимодальная модель text-to-text с сохранённым vision encoder: она принимает текст и изображения и генерирует текст. Архитектура — разреженная MoE семейства Qwen3.5/3.6: около 35 млрд параметров суммарно, примерно 3 млрд активных, 256 экспертов, из которых маршрутизируются 8, и 40 слоёв с гибридом линейного GDN и полноформатного attention. Заявлен контекст до 262 144 токенов, поддерживается английский язык. Квантование oQ8 использует размер группы 64, float16 для scale и неคвантованных весов, эффективную точность около 8,6 бит на параметр и размер около 39,5 ГБ. В составе есть рабочая native MTP head для ускорения декодирования. Модель ориентирована на агентные сценарии, tool use и function calling, многошаговое рассуждение, генерацию кода, работу с длинным контекстом и анализ изображений. По измерениям разработчика на Apple M5 Max 128 GB она достигала примерно 93 токенов в секунду при коротком контексте и 41 токена в секунду при контексте около 64,7 тыс. токенов; в собственной проверке tool use получила 6/6, а средний результат IFEval составил 84,86. Ограничения включают зависимость производительности от оборудования Apple Silicon, необходимость использования совместимого движка oMLX и снижение скорости при увеличении контекста. Модель лицензирована по Apache-2.0.

Claude Sonnet 4.6 — модель семейства Sonnet, разработанная Anthropic. По карточке модели она предназначена для программирования, работы с агентами и профессиональных задач; заявлены сильные результаты в итеративной разработке, навигации по сложным кодовым базам и управлении проектами от начала до конца.

GLM-4.5 — базовая гибридная модель с открытыми весами, разработанная Z.ai и предназначенная для интеллектуальных агентов. Она объединяет рассуждение, программирование и работу с инструментами; поддерживает режимы пошагового мышления для сложных задач и вызова инструментов, а также режим быстрых ответов. Архитектура семейства GLM-4 MoE, класс модели для причинной генерации текста; в карточке Hugging Face указано 23,4 млрд параметров, а README описывает серию GLM-4.5 с 355 млрд общих и 32 млрд активных параметров. Контекст — до 131 072 токенов. Модель принимает текстовые запросы и выдаёт текст; заявлены английский и китайский языки. Модель подходит для диалоговых помощников, программирования, сложного анализа и агентных сценариев с вызовом инструментов. README сообщает о результатах на 12 отраслевых бенчмарках, но конкретные результаты требуют сверки с техническим отчётом. Весовые файлы доступны в формате safetensors; для запуска описана поддержка Transformers, vLLM и SGLang, а в README также упомянуты варианты BF16 и FP8 для серии. Лицензия MIT допускает коммерческое использование и доработку. Для полного вывода GLM-4.5 требуются значительные вычислительные ресурсы; приведённые в README конфигурации для тонкой настройки включают 16 ускорителей H100 для LoRA.

Карточка модели yemsrach3723/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

unsloth/gpt-oss-120b-GGUF — это GGUF-квантизированная версия открытой весовой модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, сложного рассуждения, универсальных задач разработки и агентных сценариев, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель имеет MoE-архитектуру и 117 млрд параметров, из которых 5,1 млрд активны при обработке токена. Она поддерживает настраиваемый уровень рассуждения — низкий, средний или высокий — и обучена работать только с форматом ответов harmony. GGUF-версии содержат исправления Unsloth; F16-вариант сохраняет исходную точность. Формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp, при этом конкретные характеристики памяти и производительности зависят от выбранного уровня квантизации и оборудования. Сильные стороны модели — высокая способность к рассуждению, агентные возможности, доступность открытых весов, возможность дообучения и гибкая настройка компромисса между качеством и задержкой. Ограничения включают необходимость корректного применения harmony-формата, значительный общий размер модели и потенциальное снижение качества в квантизированных версиях. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование без copyleft-ограничений.

NVIDIA Kimi-K2.7-Code NVFP4 — квантизированная версия языковой модели Kimi-K2.7-Code, разработанной Moonshot AI. NVIDIA подготовила и оптимизировала эту сборку с помощью Model Optimizer для запуска на NVIDIA GPU; сама NVIDIA не является разработчиком исходной модели. Модель предназначена для генерации текста и кода, научного программирования, агентного использования инструментов, работы с терминалом и решения задач программной инженерии. В зависимости от конфигурации сервинга она может возвращать естественно-языковые ответы, код, структурированный JSON, запросы вызова инструментов, инструкции для координации агентов и другие артефакты. Модель использует архитектуру Transformers с сетевой архитектурой DeepSeek V3 и механизмом Mixture-of-Experts: всего заявлен 1 трлн параметров, из которых 32 млрд активируются при обработке запроса. Поддерживаются текст, изображения и видео на входе, а также контекст длиной до 256 тысяч токенов; выход представлен текстом. Веса и активации линейных операторов внутри MoE-блоков преобразованы из INT4 через BF16 в формат NVFP4. Предусмотрен запуск через vLLM на NVIDIA Blackwell под Linux; тестирование выполнялось на NVIDIA B200. Сильные стороны модели — большой контекст, поддержка мультимодальных входных данных, задачи кодирования и агентного взаимодействия, а также готовая к инференсу NVFP4-квантизация для совместимого оборудования. При этом сведения об обучающих и тестовых данных, их размере и составе в основном не раскрыты, а NVIDIA не проводила обучение или тестирование для данного релиза Model Optimizer. Практическая производительность и безопасность требуют дополнительной проверки на данных конкретного сценария. Использование регулируется NVIDIA Open Model License; также указана Modified MIT License для исходной модели Kimi-K2.7-Code.