III.5Управление персоналом и организацией

Saxo/Linkbricks-Horizon-AI-Japanese-Pro-V3-70B — языковая модель Linkbricks, дообученная Юнсоном Джи (Saxo) на базе Saxo/Linkbricks-Horizon-AI-Japanese-Base-70B. Это плотная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации текста. По карточке, обучение включало японскую SFT, DPO и объединение моделей, а также данные на японском, корейском, китайском и английском языках, японские новости и Википедию, математические и логические задачи. Модель рассчитана на написание и редактирование текстов, программирование, математические и логические рассуждения, анализ отзывов и публикаций в социальных сетях, а также вызов функций и инструментов. Заявленное контекстное окно — 128 тыс. токенов; используется токенизатор базовой модели без расширения словаря. Доступны веса в формате Safetensors для Transformers. Лицензия — Apache 2.0.

NuExtract3-FP8 — 4B vision-language reasoning model, разработанная NuMind на базе Qwen/Qwen3.5-4B. Модель предназначена для понимания документов и поддерживает структурированное извлечение данных: получает текст и/или изображения вместе с JSON-шаблоном и инструкциями и формирует JSON-ответ. Также она преобразует изображения документов в Markdown, включая текст, таблицы, математические формулы и изображения. Модель ориентирована на OCR, подготовку данных для RAG и обработку сканов, чеков, форм, счетов, договоров и таблиц. Модель поддерживает мультимодальные входные данные, многоязычные документы, режимы вывода с рассуждением и без него, а также генерацию шаблонов для извлечения структуры из естественного языка или самого документа. В README не указаны точный размер контекстного окна, перечень языков, специфические параметры FP8-сборки или сведения о производительности именно этой версии; приведённые бенчмарки относятся к NuExtract3.4_4B-RL. Среди сильных сторон заявлены сочетание визуального понимания, OCR, рассуждений и структурированного вывода, однако сложные или длинные задания могут приводить к повторениям, превышению лимита вывода и невалидному JSON. Модель распространяется по лицензии Apache 2.0.

Qwen3-4B-Thinking-2507-Qwen3.8-Max-Distillation-Detrax — компактная дистиллированная языковая модель в формате GGUF, опубликованная пользователем или организацией Detrax. Она основана на Qwen3-4B-Thinking-2507 и обучалась с использованием набора данных r0b0tlab/qwen3.8-max-distillation-50k. В README не указаны точные сведения о разработчике дистилляции, языковом охвате и исходной архитектуре, кроме принадлежности к семейству Qwen и наличия 4 млрд параметров. Модель предназначена для генерации текста, многошагового рассуждения, написания и отладки кода, решения математических задач, структурированного логического вывода и точного соблюдения инструкций и ограничений. Заявлены улучшения по сравнению с базовой моделью в математическом рассуждении, генерации кода, логическом выводе, релевантности и сходстве ответов; наиболее заметные результаты отмечены для алгоритмических и требующих строгого соблюдения ограничений задач. Модель поставляется в вариантах F16, Q8_0, Q6_K и Q4_K_M размером примерно от 2,3 до 7,5 ГБ. Она совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими средами, поддерживающими GGUF. Рекомендуемая длина контекста составляет 8192 токена. Сильными сторонами являются компактность, эффективность на технических задачах и возможность запуска на CPU или с GPU offloading. Ограничения включают меньший размер по сравнению с крупными моделями, зависимость качества от выбранного уровня квантования и отсутствие в README подробных данных о поддерживаемых языках, мультимодальности и независимой оценке качества. Модель распространяется по лицензии Apache-2.0.

sokada4/Qwen3.8-27B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия модели Qwen/Qwen3.8-27B, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 по схеме W4A16, с размером группы 128 и симметричным представлением. Модель предназначена для текстового вывода и рассчитана на локальное развертывание через vLLM, в том числе как OpenAI- или Anthropic-совместимый backend для Claude Code и Codex CLI. Это плотная языковая модель примерно на 27 млрд параметров с заявленным нативным контекстом до 262144 токенов. Квантизации подверглись только веса language_model; веса vision tower сохранены без изменений, однако данный checkpoint предназначен для text-only serving. Тензоры MTP, используемые для speculative decoding, также сохранены в формате bf16. Калибровка проводилась на англоязычных, китайских и японских текстах, а также на коде, поэтому модель ориентирована на многоязычные и программные сценарии, хотя точный языковой охват в README не указан. Ключевые преимущества — существенное снижение требований к памяти по сравнению с полноразмерной моделью, поддержка speculative decoding через MTP и совместимость с инструментальными вызовами в vLLM. Для комфортной работы с длинным контекстом и MTP рекомендуется конфигурация из двух GPU по 24 ГБ; на одной видеокарте 24 ГБ длину контекста придётся заметно уменьшить, а MTP использовать нецелесообразно. В README также отмечен повышенный риск некорректно сформированных tool calls по сравнению с облачными моделями, поэтому для автономных агентных сценариев рекомендуется проверка вызовов человеком. Модель распространяется по лицензии Apache-2.0.

ViFortune-AI разработала объединённую мультимодальную модель на основе языковой части Qwen3 и визуальной ветви Qwen2.5-VL-3B-Instruct. По метаданным репозитория, модель содержит 589,7 млн параметров, использует архитектуру Qwen2.5-VL и доступна в форматах PyTorch и safetensors. Она принимает изображения и текст, а также, согласно README, видео; может описывать визуальные сцены, распознавать текст и структуру документов, анализировать графики и скриншоты интерфейсов, а также формировать структурированные ответы, например данные таблиц и форм. Модель предназначена для диалоговых задач с визуальным содержимым и обработки длинного контекста. В README заявлена длина до 32 768 токенов с возможностью расширения через YaRN; метаданные каталога указывают контекст 128 000 токенов. README также описывает возможности визуального агента и использования инструментов, однако примеры и оценки качества не приведены. Основные ограничения: расширение контекста через YaRN может ухудшать пространственную и временную локализацию; обработка видео в README ограничена локальными файлами. Лицензия в предоставленных данных не указана.

Dolphin 2.9.3 Yi 1.5 34B 32k — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations. Это дообученная на основе 01-ai/Yi-1.5-34B-32k плотная модель семейства Llama с 33,9 млрд параметров; она использует шаблон ChatML и формат PyTorch. Контекст базовой модели составляет 32 768 токенов, а дообучение проводилось с длиной последовательности 8 192 токена. Модель предназначена для диалогов, следования инструкциям, написания и анализа кода, решения математических задач, вызова функций и начальных агентных сценариев. В карточке перечислены наборы данных для диалогов, программирования, математики и работы с инструментами. Модель описана разработчиками как uncensored и склонная выполнять запросы без защитных ограничений, поэтому её ответы могут включать небезопасный или неэтичный контент. Лицензия Apache 2.0 разрешает коммерческое использование; разработчики рекомендуют самостоятельно добавить слой выравнивания перед предоставлением модели пользователям.

unsloth/Jan-nano-128k-GGUF — это GGUF-квантизированная версия компактной языковой модели Jan-Nano-128k, разработанной Menlo Research авторами Alan Dao, Bach Vu Dinh и Thinh Le и опубликованной в формате Unsloth Dynamic 2.0. Модель предназначена для генерации текста и исследовательских задач, включая анализ длинных документов, обработку научных статей, синтез информации из нескольких источников, сложные рассуждения и многошаговые диалоги. Она совместима с серверами Model Context Protocol (MCP) и может использоваться локально, в том числе через Jan, с сохранением конфиденциальности данных. Ключевая характеристика модели — нативное контекстное окно до 128 000 токенов, рассчитанное на эффективную работу с длинными контекстами без типичной деградации производительности при их расширении. В README не указаны точный размер модели, базовая архитектура, поддерживаемые языки, модальности и параметры GGUF-квантизации; заявлена поддержка текстовой генерации и языка English. Модель оценивалась на SimpleQA с использованием MCP-методологии, однако численные результаты в предоставленных данных отсутствуют. Сильными сторонами являются большое контекстное окно, ориентация на глубокий анализ и работа с большими объёмами информации, а также возможность локального развертывания. Ограничения включают отсутствие подробных сведений о размере, аппаратных требованиях, конкретных вариантах квантизации и фактических показателях качества. Модель распространяется по лицензии Apache 2.0.

NeoHorse-1-9B-MLX — версия для локального запуска на Apple Silicon модели NeoHorse-1-9B, разработанной TokenRhythm. Это плотная авторегрессионная языковая модель семейства Qwen3.5 с 7,2 млрд параметров, предназначенная для диалогов, программирования, рассуждений, следования инструкциям и работы с инструментами в агентных сценариях. Контекстное окно составляет 262 144 токена. Веса представлены в BF16 и адаптированы для MLX-LM: изменены имена и раскладка тензоров, а также представление нормализации; квантизация не применялась. Модель можно запускать локально через MLX-LM, в том числе как OpenAI-совместимый сервер с поддержкой вызова инструментов. В README указаны результаты исходной NeoHorse-1-9B на наборах тестов, но отдельная оценка этой MLX-версии не приводится. Модель предназначена для Apple Silicon и использует лицензию Apache-2.0. Ограничения: результаты исходной модели не подтверждают идентичное качество этой версии; для запуска требуется совместимая среда MLX-LM на Mac с Apple Silicon.

DeepSeek-V2.5 — языковая модель компании DeepSeek, объединяющая возможности DeepSeek-V2-Chat и DeepSeek-Coder-V2-Instruct. Она предназначена для диалога, следования инструкциям, письма и генерации кода, а также поддерживает вызов внешних инструментов, JSON-вывод и заполнение пропусков в коде методом FIM. Модель построена на архитектуре DeepSeek-V2 и содержит 18,1 млрд параметров; для инференса в BF16 авторы указывают требование в 8 GPU по 80 ГБ. Контекстное окно составляет 163 840 токенов. Для запуска доступны веса safetensors и библиотека Transformers. README сообщает об улучшении результатов относительно предыдущих версий DeepSeek в нескольких оценках, включая AlpacaEval 2.0 и ArenaHard. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория. Среди практических ограничений — высокая потребность в GPU-памяти при запуске в BF16; README не описывает поддерживаемые естественные языки.

ServiceNow-AI_Apriel-Nemotron-15b-Thinker-GGUF — это GGUF-квантизации языковой модели Apriel-Nemotron-15b-Thinker, разработанной ServiceNow AI. Квантизации подготовлены bartowski с использованием imatrix и llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер около 15 млрд параметров; доступны варианты от BF16 до Q3 и IQ4, с размерами файлов примерно от 8 до 30 ГБ. README указывает текстовую модальность и формат prompt для систематического решения задач, однако сведения о поддерживаемых языках, размере контекстного окна и точной архитектуре не приведены. Более высокие уровни квантизации обеспечивают лучшее качество, а менее ресурсоёмкие варианты подходят для систем с ограниченным объёмом оперативной памяти. Распространяется по лицензии MIT. Для работы требуется совместимое программное обеспечение и объём памяти, соответствующий выбранному файлу квантизации; ограничения конкретных вариантов определяются их размером и степенью квантизации.

Gliese-OCR-7B-Post1.0-GGUF — мультимодальная модель для анализа документов, распознавания текста и извлечения структурированной информации. Она разработана prithivMLmods как GGUF-версия модели Gliese-OCR-7B-Post1.0, дообученной на основе Camel-Doc-OCR-062825 и построенной на архитектуре Qwen2.5-VL. Обучение было сфокусировано на наборе данных Opendoc2-Analysis-Recognition. Модель предназначена для Document Retrieval, OCR, Content Extraction, анализа и распознавания содержимого документов, связывания извлечённых элементов, а также задач Intelligent Document Processing. Поддерживаются текстовые и визуальные входные данные; заявлены английский и китайский языки. Доступен набор GGUF-квантизаций от F16 размером 15,2 ГБ до вариантов объёмом около 1,9 ГБ, а также отдельные файлы мультимодального проектора. Это позволяет выбирать компромисс между качеством и требованиями к памяти, однако README не содержит сравнительных оценок качества, сведений о контекстном окне или подробностей об ограничениях модели. Модель распространяется по лицензии Apache-2.0 и ориентирована на использование с совместимыми инструментами, включая llama.cpp и Transformers.

MiniCPM-2B-128k — языковая модель с открытыми весами, разработанная ModelBest Inc. и лабораторией обработки естественного языка Университета Цинхуа (TsinghuaNLP). Это экспериментальное расширение контекста MiniCPM-2B: модель содержит 2,7 млрд параметров по метаданным и рассчитана на генерацию текста и диалог в формате ChatML. Карточка заявляет поддержку контекста до 128k токенов; метаданные каталога указывают native context в 65 536 токенов. Модель подходит для диалога, анализа длинных документов, поиска сведений в большом контексте и суммаризации. В карточке отмечены высокие результаты на InfiniteBench среди моделей до 7B, но также сообщается о снижении качества на контекстах до 4k токенов. Модель может галлюцинировать, чувствительна к формулировкам запросов, иногда отвечает непоследовательно и обладает ограниченной точностью фактических знаний. Для генерации авторы рекомендуют vLLM, поскольку результаты Hugging Face Transformers могут быть медленнее и немного хуже. Веса доступны в формате PyTorch; карточка не сообщает условия лицензии.

Gliese-OCR-7B-Post2.0-final-GGUF — мультимодальная модель для распознавания и анализа документов, разработанная prithivMLmods. Это финальная, оптимизированная версия серии Gliese-OCR, созданная на архитектуре Qwen2.5-VL и представленная в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель дообучалась на данных для визуализации документов и задач, связанных с OCR. Модель предназначена для OCR, визуального анализа, извлечения и связывания информации, преобразования документов в структурированный вид и интеллектуальной обработки документов (IDP). Она рассчитана на работу со сканированными PDF, рукописными страницами, структурированными формами и аналитическими отчётами, а также может формировать результат в формате Markdown. В карточке указано, что поддерживается английский язык. Архитектура мультимодальная: модель обрабатывает текст и изображения; размер модели — 7B параметров. Доступны варианты квантования GGUF с размерами примерно от 1,9 до 15,2 ГБ, включая F16, Q2–Q8 и IQ-квантизации, что позволяет выбирать баланс между требованиями к памяти и качеством. Сильными сторонами заявлены эффективность, точность и улучшенные возможности визуализации документов. Ограничения, включая фактическую точность на конкретных типах документов, максимальный контекст и требования к оборудованию, в README не указаны. Модель распространяется по лицензии Apache-2.0.

Ferox AI подготовила конверсию Microsoft Phi-4-multimodal-instruct для локального мультимодального инференса на устройствах Apple Silicon. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы; она предназначена для визуальных вопросов и ответов, извлечения сведений из документов, распознавания текста на изображениях и анализа графиков и диаграмм. В основе — плотная архитектура семейства Phi-4 с языковой частью Phi-4-Mini на 3,8 млрд параметров и визуальным энкодером SigLIP-SO400M. Весовая часть модели квантизирована до 4 бит с группами по 64, тогда как энкодер SigLIP остаётся в FP16. Метаданные указывают контекст 4096 токенов. В этой сборке аудио не поддерживается; для запуска нужны Apple Silicon и MLX. По внутренним оценкам на небольших выборках модель показывает полезные результаты для документов, диаграмм и OCR, но точность ответов не гарантируется и требует проверки человеком. Распространяется по лицензии MIT. Визуальные LoRA-адаптеры заранее слиты с весами, поэтому переключать их во время работы нельзя.

Карточка модели Vongxman/Unlimited-OCR на Hugging Face совпадает с карточкой baidu/Unlimited-OCR, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель Baidu для распознавания текста и разбора документов по изображениям. Она предназначена для обработки длинных документов за один проход, включая сценарии с PDF, предварительно преобразованными в изображения. Модель построена на архитектуре UnlimitedOCRForCausalLM, содержит 559,7 млн параметров, принимает изображения и текстовые инструкции и выдаёт текст. Поддерживает многоязычные сценарии и контекст длиной до 32 768 токенов. Модель доступна для запуска через Transformers, vLLM и SGLang; карточка также описывает оценку на OmniDocBench. Лицензия — MIT. Карточка не приводит подробностей о точности по языкам и типам документов, поэтому качество для конкретного набора документов следует проверять отдельно.

Мультимодальная диалоговая модель Qwen3.5, дообученная stavh2001 на базе stavh2001/qwen3.6-27b-merged_28_05. Она предназначена для диалогов с текстовыми и визуальными входными данными; поддерживает вызов инструментов. В метаданных указаны архитектура Qwen3_5ForConditionalGeneration и формат safetensors. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.

Карточка модели LimitlessMindd/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 на Hugging Face совпадает с карточкой lactroiii/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, поэтому описание составлено по ней. NVIDIA Nemotron 3 Nano Omni — мультимодальная большая языковая модель семейства Nemotron, разработанная NVIDIA и дополнительно обученная на базе нескольких моделей, включая Qwen3-VL-30B-A3B-Instruct, Qwen3.5-122B-A10B, Qwen3.5-397B-A17B, Qwen2.5-VL-72B-Instruct и gpt-oss-120b. Репозиторий содержит веса в формате safetensors для Transformers; модель поддерживает чат и интерфейс вызова инструментов. В README рекомендуют начинать с контекста 131072 токена при развертывании на Spark. Модель предназначена для корпоративного мультимодального анализа видео, аудио, изображений и текста: ответов на вопросы, суммаризации, транскрибирования речи, OCR и анализа документов, а также понимания GUI. Примеры применения — поиск и краткое изложение видео, проверка заказов по видеозаписям, анализ договоров и финансовых документов, автоматизация браузера и почты. Ключевые ограничения и характеристики, включая точное число параметров и перечень поддерживаемых естественных языков, в предоставленных данных не раскрыты. Модель доступна для коммерческого использования; метаданные указывают лицензию other, поэтому перед внедрением следует свериться с условиями лицензии в карточке репозитория.

Карточка модели Arsh9210/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 на Hugging Face совпадает с карточкой lactroiii/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, поэтому описание составлено по ней. NVIDIA Nemotron 3 Nano Omni — мультимодальная большая языковая модель семейства Nemotron, разработанная NVIDIA и дополнительно обученная на базе нескольких моделей, включая Qwen3-VL-30B-A3B-Instruct, Qwen3.5-122B-A10B, Qwen3.5-397B-A17B, Qwen2.5-VL-72B-Instruct и gpt-oss-120b. Репозиторий содержит веса в формате safetensors для Transformers; модель поддерживает чат и интерфейс вызова инструментов. В README рекомендуют начинать с контекста 131072 токена при развертывании на Spark. Модель предназначена для корпоративного мультимодального анализа видео, аудио, изображений и текста: ответов на вопросы, суммаризации, транскрибирования речи, OCR и анализа документов, а также понимания GUI. Примеры применения — поиск и краткое изложение видео, проверка заказов по видеозаписям, анализ договоров и финансовых документов, автоматизация браузера и почты. Ключевые ограничения и характеристики, включая точное число параметров и перечень поддерживаемых естественных языков, в предоставленных данных не раскрыты. Модель доступна для коммерческого использования; метаданные указывают лицензию other, поэтому перед внедрением следует свериться с условиями лицензии в карточке репозитория.

NVIDIA Nemotron 3 Nano Omni — мультимодальная большая языковая модель семейства Nemotron, разработанная NVIDIA и дополнительно обученная на базе нескольких моделей, включая Qwen3-VL-30B-A3B-Instruct, Qwen3.5-122B-A10B, Qwen3.5-397B-A17B, Qwen2.5-VL-72B-Instruct и gpt-oss-120b. Репозиторий содержит веса в формате safetensors для Transformers; модель поддерживает чат и интерфейс вызова инструментов. В README рекомендуют начинать с контекста 131072 токена при развертывании на Spark. Модель предназначена для корпоративного мультимодального анализа видео, аудио, изображений и текста: ответов на вопросы, суммаризации, транскрибирования речи, OCR и анализа документов, а также понимания GUI. Примеры применения — поиск и краткое изложение видео, проверка заказов по видеозаписям, анализ договоров и финансовых документов, автоматизация браузера и почты. Ключевые ограничения и характеристики, включая точное число параметров и перечень поддерживаемых естественных языков, в предоставленных данных не раскрыты. Модель доступна для коммерческого использования; метаданные указывают лицензию other, поэтому перед внедрением следует свериться с условиями лицензии в карточке репозитория.

Карточка модели Pq234/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 на Hugging Face совпадает с карточкой lactroiii/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, поэтому описание составлено по ней. NVIDIA Nemotron 3 Nano Omni — мультимодальная большая языковая модель семейства Nemotron, разработанная NVIDIA и дополнительно обученная на базе нескольких моделей, включая Qwen3-VL-30B-A3B-Instruct, Qwen3.5-122B-A10B, Qwen3.5-397B-A17B, Qwen2.5-VL-72B-Instruct и gpt-oss-120b. Репозиторий содержит веса в формате safetensors для Transformers; модель поддерживает чат и интерфейс вызова инструментов. В README рекомендуют начинать с контекста 131072 токена при развертывании на Spark. Модель предназначена для корпоративного мультимодального анализа видео, аудио, изображений и текста: ответов на вопросы, суммаризации, транскрибирования речи, OCR и анализа документов, а также понимания GUI. Примеры применения — поиск и краткое изложение видео, проверка заказов по видеозаписям, анализ договоров и финансовых документов, автоматизация браузера и почты. Ключевые ограничения и характеристики, включая точное число параметров и перечень поддерживаемых естественных языков, в предоставленных данных не раскрыты. Модель доступна для коммерческого использования; метаданные указывают лицензию other, поэтому перед внедрением следует свериться с условиями лицензии в карточке репозитория.

ProfessorF (Nick V. Flor, PhD) публикует эту версию NVIDIA Nemotron 3 Nano Omni в формате GGUF BF16 для воспроизводимости исследований. Исходная мультимодальная модель разработана NVIDIA и объединяет понимание видео, аудио, изображений и текста для корпоративных сценариев: вопросов и ответов, суммаризации, транскрипции и анализа документов. В карточке указано, что модель дополнительно обучалась с использованием нескольких моделей Qwen и gpt-oss-120b; точное число параметров и длина контекста для этой копии не приведены. Модель предназначена для анализа записей встреч и обучающих видео, поиска по медиаматериалам, распознавания речи и текста на документах, а также для GUI-агентов и автоматизации работы с браузерами, почтой и системами управления инцидентами. Заявлена поддержка коммерческого использования; метаданные указывают лицензию other, поэтому перед внедрением следует проверить условия лицензии в карточке исходной модели NVIDIA и этой копии.

unsloth/Llama-3.1-Nemotron-Nano-8B-v1-GGUF — GGUF-версия модели Llama-3.1-Nemotron-Nano-8B-v1, разработанной NVIDIA и подготовленной Unsloth. Это языковая reasoning-модель на базе Meta Llama 3.1 8B Instruct, предназначенная для диалогов, следования инструкциям, генерации кода, математических и логических задач, RAG-систем, tool calling и AI-агентов. Модель рассчитана прежде всего на английский язык и языки программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель представляет собой плотный decoder-only Transformer с архитектурой Llama 3.1 и примерно 8 млрд параметров. Она поддерживает текстовый ввод и вывод, контекст до 131 072 токенов, а также режимы с рассуждением и без него, переключаемые системным промптом. Постобучение включало supervised fine-tuning для математики, кода, рассуждений и tool calling, а также этапы reinforcement learning и оптимизации предпочтений. GGUF-формат и заявленная эффективность позволяют использовать модель локально, в том числе на одной RTX GPU; рекомендуемые аппаратные платформы исходной модели — NVIDIA Hopper и Ampere. Сильными сторонами являются сочетание качества рассуждений, чат-возможностей и вычислительной эффективности, а также поддержка длинного контекста и агентских сценариев. Ограничения включают преимущественную ориентацию на английский язык и языки программирования, зависимость поведения от корректной настройки режима рассуждения и устаревание части знаний: дата среза предобучающих данных Meta Llama 3.1 указана как 2023 год. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.1 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

unsloth/Qwen3.5-4B — постобученная мультимодальная модель семейства Qwen3.5 от Unsloth, основанная на Qwen/Qwen3.5-4B. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, рассуждений, понимания изображений и работы с инструментами. Репозиторий содержит веса в формате Hugging Face Transformers и safetensors; модель совместима с Transformers и рядом серверов инференса. Модель имеет 4 млрд параметров и гибридную архитектуру с Gated Delta Networks и механизмом внимания. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000. В карточке заявлена поддержка 201 языка и диалекта. По умолчанию включён режим рассуждений, который можно отключить. Модель подходит для визуальных вопросов и ответов, мультиязычного диалога, задач с длинным контекстом и сценариев с вызовом инструментов. Лицензия — Apache-2.0. Производительность и пропускная способность зависят от используемого фреймворка и оборудования; для длинного контекста возможны высокие требования к памяти.

Llama-3.1-Nemotron-Ultra-253B-v1 — крупная языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это reasoning- и chat-модель для разработчиков AI-агентов, чат-ботов, RAG-систем, инструментального вызова и других приложений на основе генерации текста, а также для стандартных задач следования инструкциям, математики, программирования и рассуждений. Модель обучалась с ноября 2024 года по апрель 2025 года и выпущена 7 апреля 2025 года. Модель использует плотную decoder-only Transformer-архитектуру с 253 млрд параметров, модифицированную с помощью Neural Architecture Search. В отдельных блоках применяются пропуск attention, переменное соотношение расширения FFN и объединение последовательных FFN-слоёв. Для восстановления качества использовались knowledge distillation на 65 млрд токенов и continual pretraining на 88 млрд токенов, а последующее дообучение включало supervised fine-tuning и reinforcement learning с GRPO. Поддерживается текстовый ввод и вывод с контекстом до 131 072 токенов; модель предназначена прежде всего для английского языка и языков программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. К сильным сторонам относятся сочетание высокой точности с уменьшенным потреблением памяти, потенциально более высокая пропускная способность и сниженная задержка благодаря NAS и вертикальной компрессии. Модель рассчитана на работу на одном узле с 8 GPU H100, совместима с NVIDIA Hopper и Ampere, использует Transformers и ориентирована на Linux. Ограничения включают очень большой размер, высокие требования к вычислительным ресурсам и отсутствие гарантии качества для языков и сценариев, не перечисленных разработчиком. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement; модель заявлена как пригодная для коммерческого использования.

Llama-3-8B-ProLong-512k-Instruct — длинноконтекстная чат-модель Princeton NLP, созданная продолженным обучением и дообучением с учителем на основе Meta-Llama-3-8B-Instruct. Она рассчитана на генерацию ответов и работу с инструкциями при анализе больших объёмов текста. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров, принимает контекст длиной до 524 288 токенов. Для адаптации к длинным текстам модель обучали на данных ProLong с контекстами до 64K и 512K токенов; инструкционное дообучение проводилось на UltraChat. Авторы сообщают о сильных результатах в оценке длинноконтекстных моделей HELMET. Модель поддерживает диалоговый сценарий, но README не перечисляет конкретные языки и не приводит подробностей о качестве на отдельных задачах. Лицензия — Llama 3 (llama3).

LongAlign-6B-64k — чат-модель на архитектуре ChatGLM, разработанная авторами проекта LongAlign. Она дообучена на LongAlign-6B-64k-base, созданной на основе ChatGLM3-6B с расширенным контекстом, для следования инструкциям в длинных диалогах и работы с запросами, содержащими большие объёмы текста. В README описан набор LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов и подходы к обучению, включая упаковку примеров с взвешиванием потерь и пакетирование по длине. Для модели указано окно контекста до 65 536 токенов; заявленные сценарии оценки включают запросы длиной 10–100 тыс. токенов. Модель принимает и генерирует текст; в метаданных указаны английский и китайский языки, 7,8 млрд параметров и библиотека Transformers. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Длинный контекст ориентирован на работу с большими документами и многошаговыми инструкциями, однако README не приводит количественных результатов оценки именно этой модели; эффективная длина и качество могут зависеть от задачи и аппаратных ресурсов.

unsloth/GLM-4.6-GGUF — это версия языковой модели GLM-4.6 в формате GGUF, подготовленная Unsloth на основе модели GLM-4.6 от Z.ai (Zhipu AI). Модель предназначена для локального запуска и генерации текста, включая программирование, рассуждения, агентские сценарии, использование инструментов и поисковых агентов. Она также ориентирована на создание более естественных текстов и ролевое взаимодействие. Заявлено контекстное окно до 200 000 токенов, поддержка английского и китайского языков, а также улучшения по сравнению с GLM-4.5 в задачах кодирования, рассуждений, tool use и агентских приложениях. Размер модели, точная архитектура, перечень модальностей и конкретный вариант квантования в README не указаны. Репозиторий содержит исправления chat template; для запуска рекомендуется актуальная версия llama.cpp с параметром --jinja. Для общих оценок рекомендована температура 1.0, а для задач, связанных с кодом, — top_p 0.95 и top_k 40. Модель сильна в длинноконтекстной обработке, генерации кода, рассуждениях и интеграции с инструментами, однако README не приводит подробных количественных характеристик, ограничений качества или требований к вычислительным ресурсам. Лицензия — MIT.

Qwen3.6-35B-A3B-UDT-MTP-GGUF — это квантизированная в формате GGUF версия модели Qwen3.6-35B-A3B, подготовленная Atomic Chat на основе оригинальных весов Qwen. Модель предназначена для локального и полностью офлайн-использования в llama.cpp, Ollama, LM Studio, Jan и Atomic Chat, включая диалоговые сценарии, агентное программирование, работу с фронтенд-задачами и рассуждения на уровне репозиториев. Модель имеет 36 млрд параметров, 40 слоёв и архитектуру Mixture-of-Experts с 256 экспертами, из которых выбираются 8, а также 16 attention heads и 2 KV heads. Заявленный контекст составляет 262 144 токена. Поддерживаются текстовая и визуальная модальности; для обработки изображений в репозитории доступен vision-проектор mmproj-BF16.gguf. Квантизация выполнена с использованием importance matrix для разных уровней точности, что должно помогать сохранять качество при низкобитных форматах. К сильным сторонам относятся мультимодальность, большой контекст, MoE-архитектура, локальная работа без передачи данных во внешние сервисы и квантизация, откалиброванная importance matrix. Ограничения включают необходимость выбора подходящего GGUF-кванта, значительные требования к ресурсам и обязательное применение шаблона чата Qwen3.6 через параметр --jinja; для изображений требуется vision-проектор и совместимый интерфейс. Базовая модель выпущена под лицензией Apache 2.0, квантизация выполнена Atomic Chat.

Ba2han/qwen-14b-1m-distillthink-sce — объединённая автором Ba2han языковая модель на архитектуре Qwen2 с 14 млрд параметров. Она создана методом SCE в mergekit на основе Qwen/Qwen2.5-14B и объединяет DeepSeek-R1-Distill-Qwen-14B, Qwen2.5-14B-Instruct-1M и Qwen2.5-Coder-14B-Instruct. Модель предназначена для диалоговой генерации текста, анализа и исправления кода, а также задач рассуждения; доступен интерфейс для вызова инструментов. Модель работает с текстом и имеет нативный контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors; README указывает на использование bfloat16 при слиянии. Карточка не описывает отдельные оценки качества или конкретные ограничения, поэтому результаты на сложных задачах следует проверять. Лицензия в предоставленных данных не указана.

Ornith-1.5-9B-GGUF — открытая плотная модель на 9 млрд параметров, разработанная Ornith AI и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на одной GPU, мобильных и периферийных устройствах, а также для интеграции с llama.cpp и другими средами инференса. Модель ориентирована на генерацию текста, рассуждения, программирование, агентские сценарии и использование инструментов. Модель поддерживает встроенное пошаговое рассуждение с разделением промежуточных размышлений в тегах <think> и итогового ответа, а также структурированные вызовы инструментов в XML-формате, совместимые с OpenAI API, vLLM, SGLang, Ollama и llama.cpp. Заявлено контекстное окно 262 144 токена с возможностью расширения до 1 млн токенов посредством YaRN RoPE scaling. Указан английский язык; архитектурная линия основана на Qwen3.5 и Gemma-4 с дополнительным предварительным обучением, дообучением и reinforcement learning. В репозитории доступны варианты BF16, F16 и различные уровни квантования размером примерно от 4,26 до 17,9 ГБ, а также файлы мультимодального проектора. Сильными сторонами заявлены производительность в задачах кодирования, рассуждений и работы с инструментами, поддержка длинного контекста и локального инференса при относительно небольшом размере. README приводит результаты на SWE-bench Verified — 70,6% и GPQA Diamond — 86,4%, однако методика оценки не описана. Ограничения включают зависимость качества и требований к памяти от выбранного варианта квантования, а также отсутствие подробных сведений о поддерживаемых мультимодальных входах и фактических сценариях работы проектора. Модель распространяется по лицензии MIT.