IV.2Банки, платежи и инвестиции

SAIFIINDUSTRIES/Qwen2.5-7B-Instruct-1M — чат-модель для генерации текста на основе Qwen2.5-7B, представленная как вариант семейства Qwen2.5-1M с длинным контекстом. В метаданных указаны архитектура Qwen2, 7,1 млрд параметров, формат safetensors и дообучение базовой модели Qwen/Qwen2.5-7B; README описывает причинную языковую модель с RoPE, SwiGLU, RMSNorm и контекстом до 1 010 000 токенов, включая генерацию до 8192 токенов. Модель предназначена для диалогов и задач генерации текста с длинными входными материалами: например, анализа объёмных документов и работы с большими контекстами. README рекомендует специальную сборку vLLM со sparse attention и методами экстраполяции контекста для эффективной работы на максимальной длине. Для обработки последовательностей в миллион токенов указано требование не менее 120 ГБ видеопамяти суммарно; при использовании прежних средств вывода возможно снижение точности на длинах свыше 262 144 токенов. Модель использует лицензию Apache-2.0. Метаданные указывают английский язык; README не приводит отдельного перечня поддерживаемых языков.

Это репозиторий весов unsloth для мультимодальной модели Qwen3-VL-4B-Thinking, разработанной на основе Qwen3-VL компанией Qwen и представленной Unsloth с исправлениями шаблона чата. Модель сочетает обработку текста и изображений и предназначена для диалога, визуального анализа и рассуждений; заявлены также понимание видео, OCR и взаимодействие с инструментами. Архитектура — плотная Qwen3-VL для условной генерации, веса сохранены в safetensors и используются через Transformers. В README заявлены контекст длиной 256 тысяч токенов с возможностью расширения до миллиона, визуальное рассуждение, распознавание элементов интерфейса и разбор документов; также указана поддержка OCR на 32 языках. Модель может быть полезна для вопросов по изображениям и видео, извлечения текста из документов и визуально обусловленного диалога. Репозиторий распространяется по лицензии Apache-2.0. Заявления README о сравнительном качестве и характеристиках являются описанием разработчика; независимые результаты измерений в карточке не приведены.

InternVL2-40B — мультимодальная чат-модель с настройкой по инструкциям, разработанная командой OpenGVLab. Она объединяет визуальный энкодер InternViT-6B-448px-V1-5, MLP-проектор и языковую часть Nous-Hermes-2-Yi-34B; в метаданных указано происхождение через слияние этих моделей. Модель содержит около 40 млрд параметров и рассчитана на контекст до 8 тыс. токенов. Модель принимает текст и изображения, а также предназначена для анализа видео через кадры. Она отвечает на вопросы по изображениям и документам, распознаёт текст на сценах, разбирает диаграммы и инфографику, решает научные и математические задачи и поддерживает диалог. Карточка заявляет конкурентные результаты на ряде мультимодальных тестов, но они не гарантируют качество на конкретных данных пользователя. Репозиторий распространяется под лицензией MIT. Для запуска в Transformers требуется соответствующая инфраструктура; размер модели требует значительных вычислительных ресурсов. В метаданных указаны мультиязычность и поддержка чата, но конкретные языки не перечислены.

Это 4-битная версия мультимодальной инструкционной модели Qwen2.5-VL-7B-Instruct, подготовленная сообществом mlx-community и преобразованная в формат MLX с помощью mlx-vlm 0.1.11. Модель содержит 7,1 млрд параметров и предназначена для диалога и выполнения инструкций по текстовым запросам и визуальным данным. Модель принимает текст и изображения, а также поддерживает анализ видео согласно описанию базовой модели. Её можно применять для ответов на вопросы об изображениях, извлечения сведений из документов и других визуальных задач. Контекст составляет до 128 000 токенов; доступны интерфейсы чата и вызова инструментов. Репозиторий указывает формат safetensors и лицензию Apache-2.0. Карточка сообщества отсылает к оригинальной карточке Qwen2.5-VL-7B-Instruct за подробностями; качество и ограничения конкретной 4-битной версии отдельно не описаны.

Qwythos-9B-PerfectSplit-CoT-GGUF — GGUF-квантование модели Qwythos-9B-Claude-Mythos-5-1M, подготовленное Aronstk15. Это разговорная модель для генерации текста, рассуждений и работы с длинным контекстом; карточка описывает смешанную точность: эмбеддинги, выходная голова и чувствительные компоненты внимания сохраняются в F16, а часть слоёв MLP сжимается. По заявлению автора, размер уменьшен примерно на 37% относительно исходной версии F16, до 10,88 ГБ, с приоритетом сохранения связности многошаговых рассуждений и извлечения информации из длинного контекста. Для запуска README приводит пример с llama.cpp; заявленная лицензия — Apache-2.0. Модель предназначена для диалоговой генерации, объяснений и анализа текста или данных, а также задач, где нужно учитывать большой объём предшествующего контекста. В метаданных указан базовый чекпойнт empero-ai/Qwythos-9B-Claude-Mythos-5-1M, описанный каталогом как дообученная на Qwen3.5-9B модель; исходная карточка заявляет контекст до 1 млн токенов, но конкретный доступный предел зависит от реализации и настроек запуска. Преимущество этой сборки — сохранение полной точности для выбранных чувствительных тензоров при сжатии менее чувствительных слоёв. Качество длинных рассуждений и контекстного извлечения описано автором как ожидаемое, без приведённых независимых результатов оценки. Модель распространяется по лицензии Apache-2.0.

FILM-7B — языковая модель на архитектуре Mistral, разработанная командой In2Training. Она получена дообучением Mistral-7B-Instruct-v0.2 методом Information-Intensive Training (In2) и предназначена для генерации ответов по заданным инструкциям и длинному контексту. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и работает с текстом на английском языке. Разработчики заявляют, что FILM-7B снижает проблему «потери информации в середине» длинного контекста, показывает высокие результаты на задачах анализа длинного контекста и сохраняет качество на коротких запросах. Репозиторий содержит веса в формате safetensors и шаблон диалога в стиле Mistral Instruct. Лицензия — Apache-2.0.

InternVL2-4B — мультимодальная инструктивно настроенная модель OpenGVLab для диалога по изображениям и тексту. Она объединяет визуальный энкодер InternViT-300M-448px, MLP-проектор и языковую модель Phi-3-mini-128k-instruct; размер модели в карточке указан как 4,2 млрд параметров. Модель доступна через Transformers, веса опубликованы в формате Safetensors по лицензии MIT. Модель предназначена для понимания изображений и видео, ответов на вопросы о визуальном содержимом, чтения документов и диаграмм, OCR, решения научных и математических задач с изображениями. Она также принимает несколько изображений в одном запросе. Обучение проводилось с контекстом 8 тысяч токенов и данными с длинными текстами, несколькими изображениями и видео. Карточка сообщает о конкурентных результатах на тестах понимания документов, диаграмм, сценического текста и видео, но эти оценки зависят от конкретных бенчмарков и не гарантируют качество в каждом сценарии. Для видео в описанных тестах использовалось извлечение 16 кадров с изменением размера до 448×448; это не свидетельствует о полноценной обработке непрерывного видеопотока. В метаданных отмечена многоязычность, но конкретный перечень языков не приведён.

LLM-jp-4-VL 9B beta — зрительно-языковая модель, разработанная исследовательской группой LLM-jp. Она дообучена на основе llm-jp/llm-jp-4-8b-instruct и объединяет языковую модель на 8,6 млрд параметров, визуальный энкодер SigLIP2 SO400M на 0,4 млрд параметров и лёгкий двухслойный MLP-проектор. Архитектура вдохновлена InternVL3.0; для обработки изображений высокого разрешения применяется динамическое разбиение на фрагменты. Модель предназначена для диалога с изображениями и ответов на визуальные вопросы, включая анализ диаграмм, документов, слайдов и сцен. Обучение использовало англоязычный набор FineVision и японский мультимодальный набор Jagle. В README сообщается о результатах на уровне Qwen3-VL-8B-Instruct в среднем по десяти японским задачам; это не гарантирует такого же качества на других данных. Модель доступна по лицензии Apache-2.0.

Qwen2-VL-72B-Instruct — мультимодальная модель компании Qwen, дообученная для следования инструкциям на основе Qwen/Qwen2-VL-72B. Она принимает текст и изображения, а также видео для визуального анализа, и формирует текстовые ответы. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2-VL с динамическим разрешением изображений и мультимодальным позиционным кодированием M-ROPE; длина контекста составляет 32 768 токенов. Модель предназначена для ответов на вопросы по изображениям и видео, анализа документов и визуального содержимого, а также диалога и создания текстового описания по визуальному материалу. Она поддерживает разные разрешения и пропорции изображений; в README также описана возможность интеграции в системы, управляющие устройствами по визуальному окружению и текстовым инструкциям. Видеовход ограничен локальными файлами, а аудио в видео модель не понимает. Согласно README, известные ограничения включают неточный подсчёт объектов, слабое пространственное рассуждение, трудности со сложными многошаговыми инструкциями и ограниченное распознавание конкретных людей и объектов интеллектуальной собственности. Данные об изображениях актуальны до июня 2023 года. Модель распространяется под лицензией с меткой Hugging Face «other»; конкретные условия лицензии следует сверить в карточке репозитория.

Darwin-180B-RSI — мультимодальная модель рассуждений семейства Darwin, разработанная VIDRAFT и оценённая FINAL-Bench. Она основана на Qwen3.8-Flash-Next с архитектурой Mixture-of-Experts и предназначена для диалогов, сложных задач по математике и естественным наукам, анализа изображений и разбора документов. Модель принимает текст и изображения и выдаёт текст; в карточке заявлены поддержка корейского и английского языков, а также контекст 262 тыс. токенов. Разработчик описывает подход Recursive Self-Improvement: модель дообучалась на собственных ответах, прошедших проверку по эталонным ответам или исполняемым проверкам. В README заявлены высокие результаты на бенчмарках рассуждений, мультимодального понимания и структурированного вывода; эти показатели приведены издателем и зависят от протокола оценки. Модель поддерживает интерфейс вызова инструментов и предназначена для запуска через Transformers или vLLM. README указывает на длительные цепочки рассуждений, которые могут обрезаться при малом лимите генерации, и предупреждает, что модель может уверенно ошибаться; для оценки уверенности предлагается ZTC. Лицензия обозначена как other; родительская модель указана под Qwen Community License 1.0, но условия лицензии самой Darwin-180B-RSI в доступных данных не раскрыты.

Карточка модели alpindale/Llama-3.2-90B-Vision на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-90B-Vision, поэтому описание составлено по ней. Llama 3.2 90B Vision — мультимодальная модель Meta для анализа изображений и генерации ответов на текстовые запросы о них. Она построена на авторегрессионной архитектуре Transformer семейства Llama 3.1 и использует отдельно обученный адаптер зрения с cross-attention, который передаёт представления изображений в языковую модель. Размер модели — 90B параметров; она принимает текст и изображения и выдаёт текст, поддерживает контекст длиной до 128 тыс. токенов. Модель предназначена для визуального распознавания и рассуждений, описания изображений, ответов на вопросы по изображениям и диалогов с визуальным содержимым. Также в карточке указаны сценарии DocVQA, поиска соответствий между изображениями и текстом, а также визуального заземления языковых описаний на объекты или области изображения. Для приложений с изображениями и текстом официально поддерживается английский язык; в текстовых задачах поддерживаются также немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель выпущена Meta в сентябре 2024 года и доступна по лицензии Llama 3.2 Community License — специальному соглашению, условия которого следует учитывать при коммерческом и исследовательском применении. Это статическая модель, обученная на офлайн-данных; сведения о дате отсечения знаний — декабрь 2023 года.

MinerU2.5-2509-1.2B — компактная зрительно-языковая модель команды OpenDataLab для разбора документов по изображениям страниц. Она использует архитектуру Qwen2-VL и двухэтапный подход: сначала анализирует общую структуру страницы на уменьшенном изображении, затем распознаёт содержимое фрагментов в исходном разрешении. В карточке указаны 494 млн параметров и контекст 16 384 токена. Модель предназначена для извлечения структурированного содержимого из документов, включая текст, таблицы, математические формулы, заголовки, колонтитулы, номера страниц, списки, ссылки и блоки кода. Среди заявленных сильных сторон — разбор сложных формул, в том числе смешанных китайско-английских, и таблиц с поворотом или неполными границами. Поддерживаются китайский и английский языки; модель работает с изображениями и текстовыми запросами, выдавая текстовое представление разобранного документа. Для локального запуска README рекомендует GPU, а для применения также доступны облачный API и интеграции с инструментами для RAG и MCP. Модель распространяется по лицензии AGPL-3.0. Показатели точности в README заявлены без приведённых здесь подробностей методики; локальный запуск требует подходящего GPU.

Это дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, опубликованная под именем legalvn/paraphrase-multilingual-MiniLM-L12-v2-500. Архитектура основана на BERT с усреднением токенных представлений; модель содержит 124,3 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384. Метаданные указывают на контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Модель предназначена для вычисления семантического сходства по косинусной близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Примеры обучающего набора и многоязычная базовая модель указывают на поддержку вьетнамского и других языков; конкретный полный перечень языков в карточке не приведён. Лицензия в предоставленных данных не указана.

evsinlb/Qwen3.8-Flash-Next-oQ4e-fp16-mtp — это 4-битная MLX-квантизированная версия Qwen3.8-Flash-Next, разработанной командой Qwen. Сборка подготовлена с использованием oQ/oMLX и предназначена для запуска на Apple Silicon, прежде всего M1 и M2. Модель относится к архитектуре qwen4_exp и поддерживает генерацию текста, а также встроенные компоненты для работы с изображениями. Модель использует MoE-архитектуру с 512 экспертами и маршрутизацией top-10, 48 слоями и гибридом линейного и полноформатного внимания. В ней присутствует таблица PLE n-грамм объёмом 51,2 млрд параметров, Lightning MTP-голова, 4-битные веса с отдельными 5-битными улучшениями для чувствительных тензоров и контекст до 262 144 токенов. Размер модели на диске составляет около 99,82 GiB в 21 шарде; компоненты vision и MTP сохранены. Сильная сторона сборки — обработка длинных документов: она подходит для пакетного суммирования, извлечения данных и одноразового анализа больших текстов. На M2 Ultra заявлена высокая скорость предварительной обработки, около 525 токенов в секунду при контексте 8K, тогда как генерация выполняется примерно со скоростью 23–25 токенов в секунду. Ограничениями являются очень большой объём памяти, зависимость производительности от режима размещения PLE-таблицы и аппаратной платформы, а также сравнительно невысокая скорость декодирования для интерактивных сценариев. Модель распространяется по лицензии Apache 2.0. Формат — MLX safetensors; для запуска требуется совместимое окружение oMLX/MLX и достаточный объём оперативной памяти, поскольку только постоянно резидентная часть занимает около 70 GiB, а полное размещение модели требует примерно 100 GiB.

Granite-4.2-30B (MXFP4) — квантизированная версия языковой модели Granite-4.2-30B, разработанная командой Granite компании IBM. Это открытая text-generation модель для рассуждений, генерации и анализа кода, многошаговых задач, диалога, вызова инструментов и агентных рабочих процессов. Вариант MXFP4 предназначен для инференса с уменьшенными требованиями к памяти; он получен квантизацией исходной модели с помощью GPTQ, калиброванной на 2 тысячах примеров из SFT-датасета. Исходная модель представляет собой decoder-only dense Transformer с архитектурой GraniteForCausalLM, примерно 30 млрд параметров, 64 слоями, Grouped Query Attention с 32 attention heads и 8 KV heads, RoPE, SwiGLU, RMSNorm и раздельными входными и выходными embedding. Модель поддерживает текстовую модальность, встроенное рассуждение в режимах полного, отключённого и low-effort thinking, native tool calling и OpenAI-совместимые сценарии развёртывания. Нативный контекст составляет 128K токенов; заявлено расширение long-context до 512K. Тестировались English, German, Spanish, French, Japanese, Portuguese, Arabic, Czech, Italian, Korean, Dutch и Chinese. Сильные стороны модели — рассуждения, программирование, следование инструкциям, вызов инструментов, агентные задачи и работа с длинным контекстом. Ограничения включают возможное снижение качества на языках кроме English, а также риск неточных, предвзятых или небезопасных ответов; раскрываемое содержимое reasoning может быть промежуточным и не отражать окончательный вывод. Модель распространяется по лицензии Apache 2.0.

Llama-Krikri-8B-Instruct-GGUF — инструкционная большая языковая модель, разработанная ILSP на основе Llama 3.1 8B. Модель ориентирована прежде всего на греческий язык, сохраняя двуязычные возможности для греческого и английского. Она создана с помощью дополнительного предварительного обучения на корпусе объёмом 91 млрд токенов с последующим увеличением эффективного объёма до 110 млрд токенов, а также многоэтапного дообучения на инструкциях и предпочтениях пользователей. Модель предназначена для диалогов, следования инструкциям, генерации, понимания, редактирования и суммаризации текста, анализа тональности и сущностей, перевода между греческим и английским, французским, немецким, итальянским, португальским и испанским языками. Также заявлены применение в юридических, финансовых, медицинских и научных сценариях, Retrieval-Augmented Generation по нескольким документам, структурированное преобразование данных в XML или JSON, программирование, использование инструментов и агентские задачи. Модель имеет архитектурную основу Llama 3.1 8B, расширенный токенизатор с греческими токенами и контекстное окно 128 тысяч токенов, что соответствует примерно 80 тысячам греческих слов. В обучающих данных представлены греческие, английские, параллельные, математические и программные тексты; постобучение проводилось на греческих и английских инструкциях, многошаговых диалогах и preference triplets с применением Length Normalized DPO. К сильным сторонам относятся специализация на греческом языке, поддержка английского, длинный контекст и широкий набор текстовых и структурированных задач. Ограничения, точные показатели качества и требования к аппаратному обеспечению в README не указаны. Лицензия обозначена как llama3.1.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — большая языковая модель NVIDIA для диалогов, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметной области, исследований и подготовки производных вариантов для развёртывания. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и Attention; в модели 30 млрд параметров, из которых активно используются около 3 млрд, а также предусмотрены слои Multi-Token Prediction. В метаданных указано 1,9 млрд параметров и контекст 262 144 токена; README сообщает о поддержке контекста до 1 млн токенов. Модель подходит для создания чат-ботов и агентных систем, генерации и анализа кода, решения задач на рассуждение, работы с длинными текстами и использования интерфейса вызова инструментов. Основной язык — английский; также заявлена поддержка испанского, французского, немецкого, итальянского и японского. README описывает модель как пригодную для коммерческого использования, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией репозитория. Для оптимизированного инференса автор рекомендует отдельный NVFP4-выпуск.

Qwen2.5-7B-Instruct-1M — разговорная модель генерации текста из семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалога, ответов на вопросы, работы с длинными документами и другими задачами, где нужно учитывать большой объём контекста. Модель построена на архитектуре Qwen2 с причинно-следственной языковой моделью и 7,1 млрд параметров по метаданным. Карточка семейства указывает на RoPE, SwiGLU, RMSNorm и контекст до 1 010 000 токенов; генерация ограничена 8192 токенами. Модель дообучена на базе Qwen/Qwen2.5-7B, поддерживает чат и интерфейс вызова инструментов. Указанные языковые сведения подтверждают английский, но сами по себе не доказывают поддержку только одного языка. Для работы с контекстом около миллиона токенов README рекомендует специальную сборку vLLM и указывает потребность как минимум в 120 ГБ видеопамяти суммарно для версии 7B. В прежних средах выполнения качество может снижаться на последовательностях длиннее 262 144 токенов. Лицензия — Apache-2.0.

casperhansen/deepseek-r1-distill-llama-70b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-70B, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработала DeepSeek-AI: она создана на базе Llama-3.3-70B-Instruct и дообучена на примерах рассуждений, сгенерированных DeepSeek-R1. Модель предназначена для текстовой генерации, диалогов и решения задач, особенно связанных с математикой, программированием и многошаговым рассуждением. Архитектура — LlamaForCausalLM с примерно 71 млрд параметров, 80 слоями, 64 attention heads и 8 key-value heads. Репозиторий содержит веса в формате Safetensors с 4-битной AWQ-квантизацией; конфигурация указывает контекст до 131072 токенов и вычисления в bfloat16. Это текстовая, а не мультимодальная модель. Квантизация уменьшает требования к памяти и делает локальное развертывание практичнее, но может приводить к некоторой потере качества по сравнению с исходными весами; для полноценного запуска всё равно требуются значительные вычислительные ресурсы. Исходная DeepSeek-R1-Distill-Llama-70B показывает сильные результаты в математике, кодировании и задачах рассуждения, однако официальные показатели относятся к исходной, а не обязательно к данной AWQ-версии. Репозиторий производной модели указывает лицензию MIT. При этом исходная модель базируется на Llama-3.3-70B-Instruct, для которой также действуют условия лицензии Llama 3.3.

CausalLM/35b-beta-long — диалоговая языковая модель на архитектуре CohereForCausalLM с 35 млрд параметров, разработанная CausalLM как дообучение CohereForAI/c4ai-command-r-v01. Модель предназначена для чата, работы с фактами из нескольких документов и длинным контекстом: тематического суммирования, извлечения ключевой информации и сравнения источников. В README разработчик также отмечает улучшения в математике, программировании и воспроизведении знаний. Метаданные указывают контекст 8192 токена; в README заявлено обучение на контексте 128K, поэтому заявленная длина обучения не совпадает с указанным нативным контекстом. Используются формат safetensors и шаблон чата ChatML. Модель дообучена на синтетических многоходовых диалогах, составленных по веб-страницам и документам, с привлечением открытых диалоговых наборов и человеческой проверки. Разработчик сообщает о более устойчивой работе с длинным контекстом и снижении галлюцинаций, но эти заявления не сопровождаются в карточке подробными результатами оценки. README предупреждает, что после SFT модель может сохранять предвзятость и выдавать нежелательный контент; для более надёжного выравнивания, по словам разработчика, требуется дальнейшее RL-обучение. Лицензия — WTFPL согласно метаданным; README описывает базовую модель как распространяемую для некоммерческого использования, поэтому условия следует сверить с лицензиями исходной модели и репозитория.

unsloth/DeepSeek-R1-0528-GGUF — это GGUF-квантизированное представление модели DeepSeek-R1-0528, разработанной DeepSeek и опубликованной в формате GGUF командой Unsloth. Модель предназначена для локального запуска и инференса через совместимые инструменты, включая llama.cpp, а также для задач, требующих углублённого рассуждения. DeepSeek-R1-0528 ориентирована на решение математических задач, программирование, общую логику и сложные аналитические запросы. По сравнению с предыдущей версией заявлены улучшения глубины рассуждений и инференса, снижение частоты галлюцинаций, расширенная поддержка function calling и более качественная работа в сценариях vibe coding. Для модели указан язык English; модальность — текстовая. Размер и архитектура базовой модели в предоставленных данных не указаны. Модель использует чат-шаблон, совместимый с оригинальной DeepSeek-R1; для генерации рекомендуется temperature 0.5–0.7 и Top_P 0.95. Основное преимущество — усиленные способности к сложному рассуждению, программированию и математике; в README также сообщается о результатах, приближающихся к ведущим моделям в ряде бенчмарков. Ограничения включают необходимость корректной настройки шаблона чата и параметров генерации, а также зависимость характеристик от выбранного уровня GGUF-квантизации и аппаратного обеспечения. Лицензия — MIT.

MiMo-V2.6-Flash-RL — мультимодальная модель Xiaomi из серии MiMo-V2.6, обученная с подкреплением для задач агентного взаимодействия и самоулучшения по обратной связи. Она предназначена для генерации текста, работы с инструментами, программирования и мультимодального понимания; обучение объединяет задачи кодирования, визуальные сценарии, агентов общего назначения и кибербезопасность. В README архитектура описана как разреженная MoE с 309 млрд общих и 15 млрд активируемых параметров, 1 млн токенов контекста, обработкой текста, изображений, видео и аудио, а также визуальным и аудиокодировщиками. Метаданные Hugging Face, однако, указывают 12 млрд параметров и архитектуру dense MiMoV2ForCausalLM в формате safetensors FP8; поэтому точный размер и тип архитектуры опубликованной версии противоречивы. Метаданные также указывают поддержку английского и китайского языков. Для развёртывания README приводит рецепты SGLang и vLLM и интерфейс вызова инструментов. Модель распространяется по лицензии MIT. README приводит результаты отдельных бенчмарков, но не задаёт гарантий качества для конкретных задач; работа с длинным контекстом и мультимодальными входами требует совместимого программного обеспечения и достаточных вычислительных ресурсов.

Apriel-H1-15b-Thinker-SFT — языковая модель на 15 млрд параметров от ServiceNow AI для генерации ответов, рассуждений и кода. Она построена на гибридной архитектуре Transformer и Mamba: часть слоёв внимания заменена линейными блоками Mamba. По заявлению разработчика, такая конструкция повышает пропускную способность инференса более чем вдвое по сравнению с Apriel-Nemotron-15B-Thinker при небольшом снижении качества рассуждений, математических решений и программирования. Модель получена дистилляцией Apriel-Nemotron-15B-Thinker, обучена для диалогов и поддерживает интерфейс вызова инструментов. Модель рассчитана на многошаговые рассуждения, помощь с кодом, ответы на вопросы, выполнение сложных инструкций и агентные сценарии. Контекстное окно — 65 536 токенов; фактический предел зависит от среды запуска. Шаблон диалога задаёт генерацию этапа рассуждения перед кратким финальным ответом. Наиболее сильные результаты заявлены для английского языка, качество на менее представленных языках может быть ниже. Модель выпущена под лицензией MIT. Она может ошибаться, выдавать устаревшие или предвзятые ответы и не предназначена для критически важных сценариев без проверки человеком; для медицинских, юридических и финансовых решений нужны соответствующие меры контроля.

unsloth/cogito-v2-preview-llama-405B-GGUF — GGUF-версия большой языковой модели Cogito v2 preview 405B, разработанной DeepCogito и подготовленной Unsloth. Это инструкционно дообученная генеративная модель для коммерческого использования, ориентированная на программирование, задачи STEM, выполнение инструкций, общую полезность и вызов инструментов. Модель является гибридной reasoning-моделью: она может отвечать напрямую в стандартном режиме или выполнять дополнительное саморефлексивное рассуждение перед ответом. Для обучения использовалась стратегия Iterated Distillation and Amplification (IDA). Модель обучена более чем на 30 языках и поддерживает контекст длиной до 128 тысяч токенов. В README заявлены повышенные возможности в многоязычных задачах, программировании и tool calling по сравнению с сопоставимыми по размеру моделями, а также превосходство на ряде отраслевых бенчмарков, однако конкретные числовые результаты для GGUF-версии не приведены. Вариант GGUF предназначен для использования с совместимыми инструментами локального запуска, включая llama.cpp; для корректного применения шаблона чата в llama.cpp рекомендуется параметр --jinja. Для включения расширенного рассуждения требуется поддержка параметра enable_thinking=True в chat template либо специальная системная инструкция и предварительная вставка тега <think>. К ограничениям относятся очень большой размер модели и, как следствие, высокие требования к памяти и вычислительным ресурсам; точные требования зависят от используемой квантизации, но её параметры в README не указаны. Модель распространяется по лицензии llama3.1, обозначенной как открытая лицензия с разрешением коммерческого использования.

Ovis2-16B — мультимодальная языковая модель семейства Ovis, разработанная командой AIDC-AI. Она объединяет визуальный энкодер и языковую модель для диалога по изображениям и видео. Архитектура плотная, класс Ovis; репозиторий содержит веса Safetensors. Вариант 16B показан в тестах изображений и видео, а README рекомендует более новую версию Ovis2.5. Модель предназначена для ответов на вопросы по визуальным материалам, рассуждений по нескольким изображениям и кадрам, многоязычного OCR, а также извлечения структурированных данных из таблиц и диаграмм. В обучении использовались instruction tuning и preference learning для усиления рассуждений; заявлена поддержка английского и китайского, а OCR улучшен для языков помимо них. Для запуска README приводит зависимости PyTorch, Transformers и Flash Attention. Модель распространяется по лицензии Apache-2.0. В README отмечены ограничения: разработчики не гарантируют полного отсутствия проблем с авторскими правами или некорректного содержимого; для новых возможностей рекомендуется Ovis2.5.

PathummaLLM-text-1.0.0-7B — мультиязычная текстовая большая языковая модель, разработанная командой NECTEC и дообученная на базе nectec/OpenThaiLLM-Prebuilt-7B. Модель рассчитана на выполнение инструкций и поддерживает тайский, китайский и английский языки. Модель предназначена для генерации текста, диалоговых ассистентов, задач Retrieval-Augmented Generation (RAG), управляемой генерации и рассуждений. В README также указана применимость к сценариям в химии, биологии, финансах, праве, программировании и медицине. Архитектурные детали, кроме принадлежности к семейству Qwen2 и поддержки загрузки через Transformers, не раскрыты; заявлен размер около 7 миллиардов параметров. Для GGUF-применения приведён контекст 8192 токена, однако это значение может относиться к конкретному примеру запуска. Среди сильных сторон заявлены конкурентоспособные результаты по сравнению с Openthaigpt1.5-7b-instruct и оптимизация для прикладных сценариев. Ограничения включают отсутствие подробных сведений о составе и методике подготовки датасета, точных характеристиках архитектуры и гарантированной эффективности в отдельных прикладных областях. Модель распространяется по лицензии Apache-2.0.

GigaChat 3.5 Reasoning — текстовая модель компании-разработчика GigaChat, представленная в репозитории ai-sage как дообучение базовой модели GigaChat3.5-432B-A28B-base. Это модель Mixture-of-Experts с 432 млрд параметров и 28 млрд активных параметров; репозиторий содержит веса BF16 для дообучения и собственной квантизации. Архитектура сочетает Multi-head Latent Attention и линейные слои GatedDeltaNet, а три MTP-головы поддерживают спекулятивное декодирование. Контекст — до 262 144 токенов. Модель предназначена для диалогов и выполнения инструкций с усиленными возможностями рассуждения: особенно в математике, программировании, следовании инструкциям и структурированном выводе. Обучение включает онлайн RL на доменных экспертах и их объединение с помощью on-policy distillation. Поддерживаются русский и английский языки, а также вызов функций. Для запуска в README описана интеграция с SGLang. Лицензия — MIT. Репозиторий содержит веса BF16, предназначенные для дообучения и квантизации; для инференса README указывает отдельную модель GigaChat3.5-432B-A28B-Reasoning. Это крупная модель, для запуска которой нужна соответствующая вычислительная инфраструктура. Приведённые в карточке результаты бенчмарков зависят от указанных протоколов оценки.

Qwen2-VL-7B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen2-VL, разработанная командой Qwen. Это вариант модели Qwen2-VL-7B-Instruct с AWQ-квантизацией, предназначенный для обработки изображений, видео и текста, а также генерации текстовых ответов по визуальным и текстовым инструкциям. Модель подходит для визуального вопросно-ответного взаимодействия, анализа документов и изображений, распознавания текста в изображениях, решения задач по визуальному содержимому, диалога по видео и сценариев управления устройствами, включая мобильные устройства и роботов. Заявлена поддержка английского и китайского языков, а также понимания текста на изображениях на большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Она поддерживает изображения произвольного разрешения с динамическим числом визуальных токенов и видео длительностью более 20 минут. Ключевые архитектурные особенности включают Naive Dynamic Resolution и мультимодальное позиционное кодирование M-ROPE, разделяющее информацию о позициях текста, двумерных изображений и трёхмерного видео. Размер модели — 7 миллиардов параметров; README не указывает точный предел контекста. AWQ-квантизация снижает требования к памяти: в приведённом тесте на NVIDIA A100 80GB модель использовала около 7,07 ГБ памяти при коротком вводе и 35,08 ГБ при длине ввода 30720 токенов, однако скорость и качество зависят от оборудования и настроек. Сильные стороны модели — мультимодальное понимание, работа с изображениями разных форматов и разрешений, длительными видео и многоязычным текстом. Ограничения включают зависимость производительности от длины контекста, видеопамяти и программного окружения; заявленные результаты относятся к конкретным тестам и не гарантируют качество в каждом сценарии. Модель распространяется по лицензии Apache-2.0.

DeepSeek-R1-Distill-Llama-8B-unsloth-bnb-4bit — это 4-битная динамически квантизированная версия DeepSeek-R1-Distill-Llama-8B, подготовленная Unsloth на базе модели DeepSeek-R1 от DeepSeek AI. Модель относится к семейству больших языковых моделей на архитектуре Llama и предназначена для работы через библиотеку Transformers. Модель ориентирована на задачи рассуждения, включая решение математических задач, генерацию и анализ кода, а также другие сценарии, требующие пошагового вывода. Указан английский язык. Размер базовой модели составляет 8B параметров; модальность — текстовая. Длина контекста в предоставленных данных не указана. Ключевое преимущество версии — динамическое 4-битное квантование Unsloth, при котором отдельные параметры выборочно не квантуются для сохранения более высокой точности по сравнению со стандартным 4-битным квантованием. Это снижает требования к памяти и упрощает локальный запуск, однако квантизация может влиять на качество по сравнению с полноразмерной версией. Сведения о точных ограничениях, показателях производительности и рекомендуемых аппаратных требованиях не приведены. Модель распространяется по лицензии Llama 3.1.

EXAONE-4.5-33B-FP8 — открытая мультимодальная vision-language модель, разработанная LG AI Research. Она предназначена для обработки текста и изображений, включая визуальные вопросы и ответы, анализ документов, контекстное рассуждение и общие задачи понимания мультимодального контента. Модель может применяться в ассистентах, системах работы с документами и исследовательских приложениях. Модель имеет плотную архитектуру causal language model с выделенным vision encoder: 31,7 млрд параметров приходится на языковую часть и 1,29 млрд — на визуальный энкодер, всего около 33 млрд параметров. Используются hybrid attention со sliding window размером 4096 токенов и global attention, Grouped Query Attention, 2D RoPE для визуальных представлений и контекст до 262 144 токенов. Модель поддерживает английский, корейский, испанский, немецкий, японский и вьетнамский языки. Знания ограничены декабрём 2024 года, а веса представлены в FP8-квантизации. Сильными сторонами заявлены конкурентоспособные результаты на общих мультимодальных бенчмарках, понимание документов и рассуждение с учётом корейского контекста; при этом показатели зависят от задачи, а FP8-квантизация и размер модели предъявляют повышенные требования к вычислительным ресурсам. Модель лицензирована по условиям EXAONE; точные ограничения следует уточнять в файле LICENSE.