II.3Рефакторинг, миграция и модернизация

Это экспериментальный чекпойнт языковой модели Qwen3-4B-Instruct-2507, дообученный командой проекта с помощью OpenRLHF и алгоритма GRPO непосредственно на базовой модели, без предварительного SFT-seed. Модель содержит около 3,7 млрд параметров, использует плотную архитектуру Qwen3 и принимает текстовый ввод для генерации текста. Заявленная длина контекста — до 262 144 токенов. Чекпойнт предназначен прежде всего для генерации программ и решения задач по программированию. Обучение использовало бинарную награду за прохождение тестов кода и набор сложных задач cobalt-train; этот вариант выбран как лучший по pass@8 в данном запуске. Модель сохранена на шаге 36, однако метрики оценки для этого чекпойнта в журнале обучения отсутствуют. В репозитории указаны веса safetensors и библиотека Transformers. Лицензия в доступных сведениях не приведена.

Карточка модели PrimeIntellect/INTELLECT-1-step-15500 на Hugging Face совпадает с карточкой PrimeIntellect/INTELLECT-1-step-17000, поэтому описание составлено по ней. INTELLECT-1-step-17000 — промежуточный чекпойнт языковой модели INTELLECT-1, разработанной Prime Intellect совместно с Arcee AI и сообществом участников. Это плотная авторегрессионная модель семейства Llama примерно на 9,7 млрд параметров; в README указаны 42 слоя и 32 головы внимания. Модель обучалась с нуля на триллионе токенов англоязычных текстов и кода, включая веб-тексты, математические материалы и код. Чекпойнт соответствует шагу обучения 17 000; README также упоминает более поздние шаги и финальную версию. Модель предназначена для генерации продолжений текста и кода на английском языке. Контекстное окно составляет 8 192 токена. Обучение проводилось распределённо на нескольких континентах с использованием инфраструктуры Prime Framework для динамического масштабирования и отказоустойчивой связи между вычислительными узлами. Это промежуточный чекпойнт, поэтому его качество может уступать финальной версии и он не заявлен как инструкционная модель. Лицензия — Apache 2.0.

jd7 — дообученная модель генерации текста на базе deepseek-ai/deepseek-coder-1.3b-base, созданная автором репозитория на датасете generator. Это плотная авторегрессионная модель архитектуры Llama с 1,3 млрд параметров, рассчитанная на контекст до 16 384 токенов. Метаданные указывают задачу text-generation; базовая модель предназначена для продолжения и автодополнения кода, поэтому jd7 может быть полезна для генерации и дополнения кода. Подробности о специализации дообучения, оценке качества и ограничениях в карточке не раскрыты. Модель опубликована в формате safetensors; сведения о лицензии отсутствуют в предоставленных данных.

Merlin-Agent-GGUF — это квантизированная версия языковой модели Merlin-Agent, разработанной Merlin-Research и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и кода, а также для задач, связанных с quantum-classical вычислениями, quantum kernels, IBM Quantum, OTOC и quantum provenance, судя по указанным тегам. Модель поддерживает английский, испанский, немецкий, нюнорск, финский, шведский, французский, датский и турецкий языки. Архитектура, количество параметров и размер контекста в README не указаны. Доступны варианты от BF16 до низкобитных квантований Q2_K_L, включая рекомендуемые Q4_K_M, Q5_K_M, Q6_K и другие форматы. Квантизация уменьшает требования к памяти, но более компактные варианты могут снижать качество; Q6 и близкие к нему варианты заявлены как обеспечивающие почти исходное качество. Модель запускается через совместимые инструменты, включая llama.cpp, LM Studio, koboldcpp, Jan AI и Text Generation Web UI. Для работы рекомендуется использовать указанный шаблон prompt format. Лицензия — Apache-2.0.

Mermaid-Llama-6.7B-RAG — плотная авторегрессионная модель семейства Llama от TroyDoesAI, дообученная с помощью LoRA для генерации диаграмм Mermaid и структурированных графов знаний. Она предназначена для преобразования фрагментов Python-кода, текстовых описаний и контекста из RAG в схемы потоков, графы связей и визуальные планы. README описывает формат контекстных запросов airoboros и рекомендует использовать модель как автодополнение, а не как обычный чат. В репозитории указаны 6,6 млрд параметров, контекст до 16 384 токенов и формат safetensors. Модель подходит разработчикам для визуализации логики кода, построения графов знаний для поиска по документам и преобразования повествований в схемы персонажей и сюжетных связей. Автор заявляет о снижении галлюцинаций и высокой точности диаграмм, однако независимые подтверждения заявлений о превосходстве над GPT-4 не приведены. Лицензия — CC BY 4.0.

NaturalSQL-6.7B-v0 — языковая модель, дообученная cfahlgren1 на базе deepseek-ai/deepseek-coder-6.7b-instruct для преобразования вопросов на естественном языке в SQL с учётом схемы базы данных. Модель предназначена для генерации запросов PostgreSQL; при настройке запроса ей нужно передать описание схемы и вопрос пользователя. Модель имеет плотную архитектуру семейства Llama, около 6,6 млрд параметров и контекст до 16 384 токенов. По карточке, обучение включало 8 тысяч пар «естественный язык — SQL» и было ориентировано в том числе на сложные вопросы. README сообщает о сравнении с ведущими моделями своего размера, но отмечает, что запросы по датам требуют дальнейшего улучшения. Модель распространяется в формате safetensors под лицензией «other»; конкретные условия лицензии следует проверять в карточке репозитория. Результаты генерации нужно проверять на соответствие схеме и корректность SQL перед выполнением.

Lego-X разработала эту модель на базе Qwen3.5-35B-A3B, дообучив её методом онлайн-обучения с подкреплением в неизменённой среде OpenCode. Модель предназначена для агентного решения задач в репозиториях: она получает описание проблемы и доступ к инструментам для работы с файлами и командной строкой, а корректность результата оценивается тестами проекта. В сравнении SWE-bench Verified авторы сообщают о росте результата с 57,2 до 66,6 процента. Это разреженная MoE-модель семейства Qwen3.5: в базовой конфигурации 35 млрд параметров, из которых активны 3 млрд; README указывает 256 экспертов и 8 активных. Она обучалась с контекстом 200K и выпущена на шаге обучения 50. Для запуска авторы описывают Transformers-веса в формате safetensors и рекомендуют vLLM с парсером вызовов инструментов qwen3_coder; метаданные указывают лицензию Apache-2.0. Основной сценарий — преимущественно Python-задачи по исправлению проблем в репозиториях. Модель оптимизирована для OpenCode, а короткий лимит ходов или другой парсер инструментов могут ухудшить работу; запуск следует изолировать, поскольку агент выполняет команды и изменяет файлы.

Это модель Sentence Transformer, разработанная buelfhood и дообученная на наборе soco_train_java от huggingface/CodeBERTa-small-v1. Она преобразует текстовые фрагменты в плотные векторы размерностью 768 для сравнения семантической близости. Архитектура основана на RoBERTa: представления токенов объединяются усреднением, а близость обычно оценивается косинусным сходством. Модель предназначена для поиска и сопоставления фрагментов, связанных с Java-кодом: семантического поиска, поиска похожих предложений и абзацев, выявления перефразировок, кластеризации и классификации на основе эмбеддингов. Она принимает текст длиной до 512 токенов и выдаёт векторное представление. Базовая CodeBERTa обучалась для работы с исходным кодом на нескольких языках программирования, а это дообучение использует датасет Java; карточка не заявляет поддержку конкретных естественных языков. В репозитории указана лицензия и условия её использования, однако доступные сведения не приводят её название; перед применением следует проверить лицензию модели и базовой модели на Hugging Face. Модель подходит для задач поиска и сравнения, но её качество вне Java-кода и обучающего распределения не установлено.

st-codesearch-distilroberta-base — модель Sentence-Transformers на базе DistilRoBERTa-base, опубликованная в репозитории codecompletedeployment/st-codesearch-distilroberta-base. Она преобразует текстовые запросы и описания векторов предложений в плотные эмбеддинги размерности 768 и предназначена прежде всего для семантического поиска по программному коду на основе текстового запроса. Модель обучалась на датасете CodeSearchNet в течение 10 тысяч шагов с MultipleNegativesRankingLoss; архитектура — RoBERTa, размер — 95,2 млн параметров, максимальный контекст — 514 токенов. Её можно применять для поиска фрагментов кода по естественно-языковому описанию, ранжирования кандидатов по сходству, а также кластеризации текстовых представлений кода. README характеризует модель как предварительную: качество и обучение не были тщательно проверены, поэтому результаты следует оценивать на целевых данных. Лицензия в предоставленных данных не указана.

Карточка модели Ramikan-BR/TiamaPY-1.1B-v24 на Hugging Face совпадает с карточкой Ramikan-BR/tinyllama-coder-py-v23, поэтому описание составлено по ней. Ramikan-BR/tinyllama-coder-py-v23 — дообученная разговорная модель семейства Llama для генерации текста, включая помощь с кодом Python. Она основана на unsloth/tinyllama-chat-bnb-4bit и имеет около 1 млрд параметров; архитектура — плотная авторегрессионная LlamaForCausalLM. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 4096 токенов. Карточка указывает, что модель обучалась с помощью Unsloth и библиотеки TRL. Её можно использовать для генерации и продолжения кода Python, а также для диалоговых запросов по программированию. Лицензия — Apache-2.0. Подробные результаты оценки качества и конкретные ограничения в карточке не приведены.

Карточка модели biohomunculus/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Deepdive404-3/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Cogito v2 preview 405B — инструкция-донастроенная плотная языковая модель семейства Llama, разработанная Deep Cogito на базе Meta Llama 3.1 405B. Она поддерживает обычный режим ответа и режим рассуждения с самопроверкой; для включения расширенного мышления требуется соответствующая настройка шаблона чата или системная инструкция. Модель оптимизирована для программирования, STEM-задач, следования инструкциям и диалоговой помощи, а также поддерживает вызов инструментов. Модель содержит 403,7 млрд параметров, работает с текстом и имеет контекст до 131 072 токенов. По заявлению разработчиков, обучение охватывало более 30 языков. Для весов используется формат Safetensors, а запуск описан через Transformers. Модель распространяется по лицензии Llama 3.1, которая допускает коммерческое использование на её условиях.

Llama-3.3-Nemotron-Super-49B-v1.5-FP8 — крупная языковая модель, разработанная NVIDIA как производное решение на базе Meta Llama-3.3-70B-Instruct. Это модель рассуждений, дообученная для диалогов, следования инструкциям и агентских сценариев, включая RAG и вызов инструментов. Модель предназначена для коммерческого использования в чат-ботах, системах искусственного интеллекта, агентских системах и других прикладных решениях. Модель представляет собой плотный decoder-only Transformer с архитектурой, оптимизированной методом Neural Architecture Search. В отдельных блоках применяются пропуск внимания или его замена линейным слоем, а также переменные коэффициенты расширения и сжатия FFN. Модель использует формат FP8, содержит около 49 миллиардов параметров и поддерживает текстовый ввод и вывод с контекстом до 128 тысяч токенов. Основные языки — английский и языки программирования; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. К сильным сторонам относятся сочетание качества и эффективности, уменьшенный объём памяти, поддержка длинного контекста, рассуждений, математических, научных и кодовых задач, а также инструментального вызова. Архитектура оптимизирована для высокопроизводительного запуска на GPU NVIDIA, включая возможность работы при больших нагрузках на одном H200. Ограничениями являются преимущественная ориентация на английские диалоги и код, зависимость от NVIDIA GPU для заявленной эффективности и дата-катоф обучения предобучающей части, установленная на 2023 год. Использование модели регулируется NVIDIA Open Model License; дополнительно применяются условия Llama 3.3 Community License Agreement. Модель обучалась в период с ноября 2024 года по июль 2025 года и выпущена 25 июля 2025 года.

Nemotron-3-Ultra-550B-A55B-NVFP4 — большая языковая модель NVIDIA для диалогов, рассуждений и построения агентных систем. Она содержит 550 млрд параметров, из которых 55 млрд активны при вычислении, и использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2, Mixture-of-Experts и Attention, а также Multi-Token Prediction. Модель распространяется в формате safetensors и рассчитана на контекст до 1 млн токенов. Модель предназначена для сложных многошаговых сценариев: работы AI-агентов, анализа больших документов и кодовых баз, ответов на вопросы, а также задач по коду, математике и науке. Она поддерживает английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, португальский и китайский языки; метаданные также указывают арабский и иврит. NVIDIA заявляет о готовности модели к коммерческому и некоммерческому использованию; лицензия обозначена как other, поэтому перед внедрением следует ознакомиться с условиями в карточке модели. Это крупный checkpoint, для которого руководство рекомендует многосерверное развертывание на подходящем оборудовании NVIDIA.

Карточка модели Muhammadzain202/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

GigaChat 3.5 Ultra — русско-английская инструктивная языковая модель семейства GigaChat, представленная в репозитории ai-sage как версия весов bf16. Это дообученная на основе ai-sage/GigaChat3.5-432B-A28B-base модель для диалогового ассистента, рассуждений, программирования и сценариев с вызовом инструментов. В карточке описана архитектура MoE с 432 млрд параметров всего и 28 млрд активных параметров; метаданные каталога указывают 25 млрд параметров. Архитектура внимания сочетает MLA и линейные слои GatedDeltaNet, а два MTP-выхода предназначены для ускорения генерации. Контекст модели — до 262 144 токенов. Модель рассчитана на многоязычные запросы, следование инструкциям, математику, код и агентные задачи; README приводит результаты тестов на общих знаниях, математике, генерации кода и использовании инструментов. Репозиторий содержит веса safetensors в bf16, а карточка упоминает отдельные версии fp8 и GGUF. Лицензия — MIT. Для развёртывания рекомендованы SGLang или vLLM; по масштабу модель ориентирована на крупные вычислительные кластеры. Приведённые в README показатели бенчмарков относятся к разным вариантам и условиям оценки, поэтому они не гарантируют такой же результат в конкретном приложении.

Mistral Large 2 (версия mistral-large-2407) — флагманская модель компании Mistral AI. Это модель с доступными весами, распространяемая на проприетарных условиях. Модель предназначена для генерации текста в диалогах, рассуждений, написания кода и формирования JSON. В карточке она описана как универсальная модель для этих задач и других сценариев работы с текстом. Конкретные сведения об архитектуре, размере, поддерживаемых языках и контекстном окне в предоставленных материалах отсутствуют. Условия использования определяются проприетарной лицензией; перед внедрением следует проверить её актуальные требования.

Mistral-Large-Instruct-2407 — созданная Mistral AI плотная большая языковая модель с 123 млрд параметров, настроенная для выполнения инструкций. Она предназначена для диалога, рассуждений, работы с математическими задачами и кодом, а также для агентных сценариев с вызовом функций и выводом JSON. Модель поддерживает контекст до 128 тыс. токенов и множество естественных языков, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский; обучение также охватывало более 80 языков программирования. К сильным сторонам относятся заявленные в карточке возможности рассуждения, генерации кода и использования инструментов. Для запуска модели такого размера требуется несколько GPU с суммарно более 300 ГБ видеопамяти. В карточке отмечено отсутствие механизмов модерации, поэтому ответы могут не соблюдать заданные ограничения безопасности. Лицензия Mistral Research License разрешает использование и модификацию для исследований и некоммерческих целей.

DeepSeek-V2-Chat — диалоговая языковая модель компании DeepSeek AI на архитектуре Mixture-of-Experts (DeepSeekMoE) с механизмом внимания MLA. В README указаны 236 млрд параметров всего и 21 млрд активируемых на каждом токене; метаданные репозитория сообщают 18,1 млрд параметров. Модель дообучена методами supervised fine-tuning и reinforcement learning на базе предварительно обученной DeepSeek-V2. Модель предназначена для диалога, генерации текста, ответов на вопросы, рассуждений и задач по программированию. Она поддерживает контекст до 128 тысяч токенов по README; механизм MLA сокращает KV-кэш. В README приведены результаты оценки на английских и китайских тестах и описаны сильные результаты в открытой генерации и кодировании. Для локального запуска в BF16 README требует восемь GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией репозитория.

GigaChat 3.1 Ultra — крупная инструктивная языковая модель семейства GigaChat, представленная в репозитории ai-sage. Она предназначена для многоязычных диалогов, рассуждений, программирования и вызова инструментов. Архитектура — MoE с 702 млрд параметров всего и 36 млрд активных при генерации; модель использует Multi-head Latent Attention и Multi-Token Prediction. По README, версия рассчитана на развёртывание на крупных вычислительных кластерах и локальную инфраструктуру. В метаданных указаны архитектура DeepSeek V3, формат safetensors, контекст 262 144 токена и поддержка русского и английского языков. Модель подходит для диалогового помощника, решения сложных задач, генерации кода и агентных сценариев с исполняемыми вызовами инструментов. README описывает усиленную подготовку данных по математике, финансам, естественным наукам, инженерии и медицине, а также улучшения для поиска с цитированием и работы с файлами. Репозиторий лицензирован по MIT. Для запуска требуются значительные вычислительные ресурсы; конкретные показатели качества зависят от сценария и приведённых в карточке оценок.

GLM-5.2-FP8 — языковая модель для генерации текста, разработанная организацией Z.ai. Она предназначена для задач с длинным горизонтом планирования, включая рассуждения, программирование, работу с инструментами и агентские сценарии. Модель поддерживает английский и китайский языки и рассчитана на текстовые задачи. Ключевая характеристика модели — контекстное окно объёмом до 1 млн токенов, предназначенное для стабильной работы с большими объёмами информации. В архитектуре используется IndexShare: один индексатор переиспользуется в каждой группе из четырёх слоёв разреженного внимания, что, по данным разработчика, снижает вычисления на токен в 2,9 раза при контексте в 1 млн токенов. Улучшенный слой MTP поддерживает speculative decoding и может увеличивать длину принимаемой последовательности до 20%. Для программирования предусмотрены различные уровни интенсивности рассуждений, позволяющие выбирать баланс между качеством и задержкой. Модель демонстрирует сильные результаты в математическом рассуждении, генерации и анализе кода, решении задач в терминале и агентских тестах. Ограничения включают отсутствие в представленном описании данных о числе параметров, точных аппаратных требованиях, мультимодальных возможностях и подробностях обучения; заявленные результаты зависят от настроек оценки и используемых инструментов. Модель распространяется по лицензии MIT, что допускает широкое использование при соблюдении её условий.

PyrTools/Ministral-8B-Instruct-2410-AWQ — это AWQ-квантизированная 4-битная версия языковой instruct-модели Ministral-8B-Instruct-2410, разработанной Mistral AI и опубликованной пользователем PyrTools. Модель предназначена для локального и периферийного запуска, диалогов, следования инструкциям, генерации кода и работы с function calling. Основа модели — плотный Transformer примерно на 8 млрд параметров: 36 слоёв, 32 attention heads, 8 KV heads с GQA, размерность скрытого состояния 4096 и словарь из 131 072 токенов с токенизатором V3-Tekken. Модель обучалась на многоязычных и кодовых данных, поддерживает контекст до 128k токенов и использует interleaved sliding-window attention. Репозиторий содержит AWQ-представление с 4-битной квантизацией, что ориентировано на более экономичный локальный инференс. К сильным сторонам относятся компактный размер, поддержка длинного контекста, многоязычность, задачи программирования и function calling; исходная модель показывала высокие результаты среди моделей сопоставимого размера. Ограничения включают возможное снижение точности из-за квантизации и зависимость от поддержки AWQ конкретным inference-стеком. В vLLM для исходной модели заявлено ограничение контекста 32k из-за отсутствия необходимых attention kernels, поэтому полный контекст 128k требует другого совместимого инструментария. Лицензия — Mistral Research License; для коммерческого использования Mistral AI указывает необходимость получения коммерческой лицензии.

Nemotron-3-Ultra-550B-A55B-NVFP4 — большая языковая модель NVIDIA для диалога, рассуждений и агентных приложений. Она предназначена для сложных многошаговых задач, анализа больших документов и кодовых баз, а также для работы с математическими и научными запросами. Модель подходит разработчикам чат-ботов, RAG-систем и AI-агентов. Модель построена на гибридной архитектуре LatentMoE: в ней сочетаются слои Mamba-2, Mixture-of-Experts и Attention, а Multi-Token Prediction ускоряет генерацию. Всего в модели 550 млрд параметров, из которых 55 млрд активны; контекст достигает 1 млн токенов. Чекпойнт использует NVFP4 и рассчитан на высокую пропускную способность на современном оборудовании NVIDIA. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, бразильский португальский и китайский языки. NVIDIA заявляет о готовности модели к коммерческому и некоммерческому использованию; в метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии в карточке модели. Для запуска требуются значительные вычислительные ресурсы и подходящая инфраструктура NVIDIA; в README рекомендована многосерверная конфигурация для развертывания на нескольких узлах.

StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

Step-3.7-Flash-FP8 — мультимодальная vision-language модель компании StepFun. Это разреженная архитектура Mixture-of-Experts (MoE) с 198 млрд параметров: языковая часть содержит 196 млрд параметров, а визуальный энкодер — 1,8 млрд. На каждый токен активируется около 11 млрд параметров. Модель поддерживает изображения, текст и контекст до 256 тысяч токенов, а также три уровня рассуждений: низкий, средний и высокий. В README указан английский язык, при этом в примере системного сообщения заявлена поддержка китайского, английского и многих других языков. Модель предназначена для высокочастотных производственных и агентских сценариев, объединяющих восприятие, поиск, проверку информации и рассуждение. Она подходит для анализа крупных финансовых отчётов, многошагового поиска с cross-source verification, работы с интерфейсами, wireframe, GUI и графиками, преобразования визуальных материалов в структурированный код, оркестрации внешних API и длительных рабочих процессов, а также для инженерных задач с многофайловыми репозиториями, поиска ошибок и подготовки патчей. Заявленная пропускная способность достигает 400 токенов в секунду. Сильные стороны модели — визуальное заземление и проверка данных, устойчивость к adversarial traps в многошаговой оркестрации, взаимодействие с инструментами и пригодность для высокопроизводительных coding-пайплайнов. Ограничения следует оценивать по приведённым бенчмаркам: результаты Terminal-Bench 2.1 и GDPVal-AA уступают абсолютным лидерам соответствующих сравнений. Модель доступна через StepFun Open Platform, OpenRouter и NVIDIA NIM; поддерживаются vLLM, SGLang, Hugging Face Transformers и llama.cpp. Указана лицензия Apache-2.0. Для локального запуска требуются высокопамятные системы; в README приведены устройства с объёмом unified memory не менее 128 ГБ.

Agnes-3.0-Flash Preview — открытая мультимодальная модель с весами от Agnes AI, предназначенная для рассуждений, программирования и выполнения инструкций. Это отдельный предварительный чекпойнт: заявленные характеристики относятся к нему, а не к более новой производственной версии через API. Модель использует гибридный декодер из 72 слоёв: 54 слоя с рекуррентным gated delta rule чередуются с 18 слоями глобального внимания. Контекстное окно составляет 262 144 токена. Модель обрабатывает текст, изображения и видео, поддерживает управляемый уровень рассуждений и интерфейс вызова инструментов. Карточка указывает поддержку английского и китайского языков. Модель подходит для анализа длинных материалов, диалога, задач по коду и мультимодального понимания. Для запуска требуются Transformers с удалённым кодом модели; README рекомендует GPU уровня H100 80 ГБ или H200 141 ГБ для bf16. Лицензия — Apache-2.0.

Dolphin 2.9.1 Yi 1.5 34B — диалоговая языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и командой Cognitive Computations. Это полновесное дообучение базовой модели 01-ai/Yi-1.5-34B с архитектурой семейства Llama и 33,9 млрд параметров. Модель принимает текст и генерирует текст; для диалога используется шаблон ChatML. Контекст при обучении составлял 8 192 токена. Модель предназначена для инструктивных диалогов, написания и анализа кода, решения математических задач, вызова функций и начальных агентных сценариев. В карточке заявлена высокая податливость к запросам: авторы описывают Dolphin как uncensored и рекомендуют добавлять собственный слой выравнивания перед предоставлением модели пользователям. Модель обучалась в том числе на данных, сгенерированных GPT-4. Лицензия Apache 2.0 разрешает коммерческое использование. Модель может выдавать нежелательный или небезопасный контент; качество и безопасность результатов следует оценивать с учётом конкретного применения.

PINQWEN-3.5-9B-1M-GGUF — компактная reasoning-модель, разработанная Blackfrost AI на базе архитектуры Qwen 3.5 9B. Модель предназначена для генерации текста, задач программирования, рассуждений и работы с большими объёмами контекста. Она распространяется в формате GGUF для локального запуска через llama.cpp и поддерживает режим пошагового рассуждения с блоками <think> и последующим ответом. Заявленное контекстное окно составляет до 1 000 000 токенов благодаря расширению YaRN, что подходит для анализа целых кодовых баз, книг и других объёмных документов. Доступны варианты квантования от 2 до 8 бит, а также f16; рекомендованным балансом размера и качества назван Q4_K_M. В комплект входят MTP-голова для speculative decoding и отдельный vision projector для обработки изображений в совместимых средах, однако конкретные поддерживаемые языки в README не указаны. К сильным сторонам относятся очень длинный контекст, локальное развертывание, открытое рассуждение, широкий выбор квантований и возможность мультимодального ввода при использовании совместимого runtime. Ограничения включают компромисс между размером, скоростью и качеством при квантовании, зависимость мультимодальных и MTP-возможностей от поддержки со стороны runtime, а также заявленную модель поведения без встроенных отказов, что требует ответственного применения. Лицензия — Apache-2.0; базовая архитектура указана как Qwen 3.5 9B.