IV.2Банки, платежи и инвестиции

batiai/Qwen3.6-27B-GGUF — это квантизированная GGUF-версия плотной мультимодальной модели Qwen3.6-27B, разработанной Alibaba и подготовленной BatiAI для локального запуска, прежде всего на компьютерах Mac с Apple Silicon. Модель распространяется через llama.cpp и Ollama и ориентирована на автономные сценарии, не требующие отправки данных во внешние облачные сервисы. Модель предназначена для генерации текста, программирования, репозиторного и агентного кодинга, многошагового рассуждения и работы с инструментами. Заявлены поддержка tool calling, thinking mode, нативного контекста до 262 000 токенов и расширения до 1 010 000 токенов с помощью YaRN. Доступны языки английский, корейский, японский и китайский. Варианты с vision projector поддерживают обработку изображений в мультимодальном режиме. Преимущество модели — сочетание 27 млрд параметров, плотной архитектуры и нескольких уровней квантизации с imatrix-калибровкой, что позволяет выбрать баланс качества, скорости и требований к памяти: от вариантов для систем с 16 ГБ RAM до почти потерьной Q6_K для конфигураций от 32 ГБ. Плотная архитектура заявлена как особенно подходящая для сложных длинных цепочек агентного кодинга, однако она обычно медленнее MoE-моделей с меньшим числом активных параметров. Для режима thinking ответы могут содержать блок рассуждений, а для получения чистого JSON при вызове инструментов требуется отключить размышление. Модель распространяется по лицензии Apache 2.0. Приведённые в README сравнительные заявления основаны преимущественно на позиционировании upstream; конкретные итоговые значения ряда бенчмарков для этой версии не указаны, поэтому их следует интерпретировать с осторожностью.

Dolphin 2.9 Mixtral 8x22B — диалоговая модель Cognitive Computations, подготовленная Eric Hartford, Lucas Atkins и Fernando Fernandes на основе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с разреженной архитектурой Mixtral MoE, представленная в формате safetensors и предназначенная для генерации текста по инструкциям и ведения диалогов. Модель подходит для ответов на вопросы, программирования, математических задач и сценариев с вызовом функций; README также отмечает начальные агентные возможности. Она обучалась в формате ChatML, а полное дообучение проводилось на последовательностях длиной 4 тыс. токенов. Для базовой модели заявлен контекст до 64 тыс. токенов. В метаданных указан английский язык. Dolphin описана авторами как неконтролируемая модель, которая может охотно выполнять в том числе неэтичные запросы; перед предоставлением пользователям сервиса авторы рекомендуют добавить собственный слой ограничений. В данных обучения обнаружена проблема, из-за которой модель может излишне упоминать системное сообщение; README предлагает явно просить её этого не делать. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий.

Qwen3.8-27B-GGUF — это квантизированная мультимодальная vision-language модель на базе Qwen/Qwen3.8-27B, подготовленная разработчиком 6block с использованием llama.cpp. Она предназначена для обработки текста, изображений и видео с генерацией текстовых ответов, поэтому подходит для визуального анализа, работы с документами и общих текстовых задач. Заявлены английский и китайский языки. Модель имеет плотную архитектуру с 27,8 млрд параметров, включая vision tower, и 64 decoder-слоя. В гибридной схеме 16 слоёв используют grouped-query full attention, а 48 — Gated DeltaNet linear attention. Нативная длина контекста составляет 262 144 токена, с возможностью дальнейшего расширения через YaRN; словарь содержит 248 320 токенов, embeddings не связаны. Доступны варианты квантизации от Q8_0 до IQ2_XXS, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Для мультимодального ввода требуется отдельный файл vision projector mmproj; без него модель работает только с текстом. Благодаря гибридной архитектуре KV-кэш растёт только для 16 полно-внимательных слоёв, что снижает затраты памяти на длинном контексте. К сильным сторонам относятся поддержка текста, изображений и видео, очень длинный контекст, широкий набор вариантов квантизации и imatrix-калибровка для сохранения качества при сжатии. Ограничениями являются значительные требования к памяти: размер текстового backbone составляет примерно от 9,3 до 26,1 GiB в зависимости от варианта, а для мультимодальной работы дополнительно нужен vision projector размером около 0,9 GiB и память под KV-кэш. Модель распространяется по лицензии Apache-2.0.

Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

GLM-4.7-REAP-218B-A32B-GGUF — GGUF-версия разреженной языковой модели GLM-4.7, подготовленная Unsloth. Модель с архитектурой Sparse Mixture-of-Experts (SMoE) создана методом REAP (Router-weighted Expert Activation Pruning), который удаляет избыточные эксперты, сохраняя независимое управление маршрутизатора оставшимися экспертами. Модель содержит 218 млрд параметров, из которых 32 млрд активируются для каждого токена, включает 92 слоя, 96 экспертов с активацией 8 экспертов на токен, использует GQA с 96 Q- и 8 KV-головами и поддерживает контекст до 202 752 токенов. Модель предназначена для генерации текста и кода, агентских рабочих процессов, понимания репозиториев, многошаговых сценариев и function calling. Заявлена близкая к исходной GLM-4.7 производительность при сокращении размера примерно на 40% по сравнению с полной моделью на 355 млрд параметров. Это делает её привлекательной для локального развертывания, сред с ограниченными ресурсами и исследовательских задач. Поддерживаются текстовые сценарии; заявленный язык в карточке — английский. К сильным сторонам относятся сохранение возможностей генерации кода, агентного программирования и вызова функций, отсутствие необходимости в дополнительном дообучении после pruning, а также совместимость с llama.cpp при использовании параметра --jinja. Для запуска требуется значительный объём памяти из-за общего размера модели; конкретные характеристики квантования GGUF, результаты оценки именно этой версии и требования к оборудованию в карточке не указаны. Модель распространяется по лицензии MIT.

Mungert/Jan-nano-128k-GGUF — это набор GGUF-квантизированных моделей Jan-Nano-128k, созданный Mungert на основе Menlo/Jan-nano с использованием llama.cpp. Модель предназначена для текстовой генерации и исследовательских задач, включая анализ научных статей и длинных документов, синтез информации из нескольких источников, сложные рассуждения и многошаговые диалоги. Указывается совместимость с серверами Model Context Protocol (MCP) и поддержка вызова инструментов при соответствующей конфигурации. Ключевая характеристика модели — нативное контекстное окно до 128 тысяч токенов, рассчитанное на работу с большими объёмами текста без типичной деградации качества при расширении контекста. Модель компактная, но точный размер параметров, архитектура и перечень поддерживаемых языков в карточке не указаны; заявлен английский язык. Доступны варианты GGUF-квантизации, причём автор применяет повышение точности отдельных важных слоёв для улучшения качества на низких уровнях битности, особенно для MoE-моделей, ценой увеличения размера файлов. Сильными сторонами являются длинный контекст, ориентация на глубокий анализ документов и возможность локального запуска через llama.cpp или vLLM. Ограничения включают зависимость характеристик от выбранного варианта квантизации, отсутствие подробных данных о ресурсах и точности, а также необходимость специальной настройки масштабирования RoPE и максимальной длины контекста при развёртывании. Модель распространяется по лицензии Apache 2.0.

cyankiwi/Laguna-S-2.1-AWQ-INT4 — квантизированная версия Laguna S 2.1 от poolside, подготовленная cyankiwi в формате AWQ INT4. Это текстовая модель text-to-text для агентного программирования, работы с инструментами и долгих многошаговых задач. Модель поддерживает интерleaved reasoning между вызовами инструментов и рассчитана на использование в vLLM, SGLang, Transformers, TRT-LLM и llama.cpp. Базовая модель содержит 118 млрд параметров, из которых около 8 млрд активируются на каждом токене, и использует Mixture-of-Experts с 256 маршрутизируемыми экспертами и одним общим экспертом. Архитектура включает 48 слоёв, grouped-query attention, 12 слоёв глобального внимания и 36 слоёв sliding-window attention с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, словарь — 100 352 токена. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки; модальность — текстовая. Ключевые преимущества — большое контекстное окно, эффективная MoE-архитектура, поддержка рассуждений и сценариев с инструментами, а также снижение требований к хранению и инференсу благодаря INT4-квантизации; размер файла указан как 76,83 ГБ. Ограничения включают высокие требования к вычислительным ресурсам даже в квантизированном виде и возможные потери качества из-за квантизации по сравнению с исходной точностью. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и изменение для коммерческих и некоммерческих целей.

Dolphin 2.9.2 Mixtral 8x22B — разговорная языковая модель, подготовленная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на базе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с архитектурой Mixtral MoE и классом MixtralForCausalLM; в репозитории веса представлены в safetensors. Всего указано 22 млрд параметров, базовая модель поддерживает контекст до 65 536 токенов, а дообучение выполнялось с длиной последовательности 16 000 токенов. Модель предназначена для диалогов и следования инструкциям, генерации кода и начальных агентных сценариев; также заявлена поддержка вызова функций. Обучение включало SystemChat 2.0, созданный для следования системным инструкциям в продолжительных беседах, и другие наборы диалоговых, кодовых и математических данных. Для взаимодействия используется шаблон ChatML. В карточке указан английский язык. Авторы характеризуют модель как uncensored и отмечают высокую готовность выполнять запросы, в том числе неэтичные; перед предоставлением пользователям может потребоваться собственный слой ограничений. Веса выпущены по лицензии Apache-2.0, допускающей коммерческое использование при соблюдении её условий.

InternVL2_5-78B — мультимодальная модель серии InternVL 2.5, разработанная командой OpenGVLab. Она сочетает зрительный энкодер InternViT и языковую модель Qwen2.5-72B-Instruct в архитектуре ViT-MLP-LLM; компоненты объединены с помощью обучаемого MLP-проектора. Репозиторий использует формат safetensors и библиотеку Transformers. Модель предназначена для диалога по изображениям, анализа нескольких изображений и видеокадров, а также для текстовой генерации. Динамическое разбиение изображений на тайлы 448×448 помогает работать с изображениями высокого разрешения; поддерживаются многоязычные сценарии, включая OCR и анализ математических диаграмм. В обучении использовано 120 млрд токенов. Длина контекста в доступных сведениях не приводится. Модель подходит для визуальных вопросов и ответов, описания изображений и видео, распознавания текста на изображениях и диалоговой генерации. Её размер 78 млрд параметров требует значительных вычислительных ресурсов; обработка нескольких изображений увеличивает расход контекста. В метаданных указана лицензия other, поэтому конкретные условия использования следует сверять с лицензией в репозитории.

Llama-3_1-Nemotron-51B-Instruct — разработанная NVIDIA языковая модель для диалогов и генерации текста. Это производная Llama-3.1-70B-Instruct: NVIDIA применила поиск архитектуры NAS и дистилляцию, чтобы повысить эффективность инференса и сократить требования к памяти при небольшом снижении качества. По метаданным, модель содержит 87 млрд параметров и поддерживает контекст до 131 072 токенов; в описании дистилляции указана длина последовательности 8 192 токена. Модель предназначена для англоязычных одно- и многоходовых диалогов общего назначения, а также задач, связанных с кодом; README отмечает поддержку других языков, но не перечисляет их. Она принимает и выдаёт текст, поддерживает чат и интерфейс вызова инструментов. Архитектура — авторегрессионный трансформер-декодер с неодинаковыми блоками: переменным числом KV-голов, пропуском или упрощением внимания и переменным коэффициентом расширения FFN. NVIDIA указывает, что модель оптимизирована для высокопроизводительного запуска на одной H100 80 ГБ; для BF16 README приводит требования в две H100 80 ГБ или две A100 80 ГБ. Модель подходит для коммерческого применения согласно README. Метаданные указывают лицензию other, поэтому перед использованием следует ознакомиться с условиями NVIDIA. Модель может выдавать неточные, нерелевантные или токсичные ответы, отражать смещения обучающих данных и быть уязвимой к атакам на выравнивание; разработчик рекомендует применять защитные механизмы.

Карточка модели alpindale/Llama-3.2-11B-Vision на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-11B-Vision, поэтому описание составлено по ней. Llama 3.2-11B-Vision — мультимодальная модель Meta для анализа изображений и генерации текстовых ответов. Она построена на авторегрессионной архитектуре Transformer семейства Llama 3.1 и использует отдельно обученный визуальный адаптер с cross-attention, который передаёт представления изображений в языковую модель. Размер модели — 11 млрд параметров; она принимает изображения и текст, выдаёт текст и поддерживает контекст до 128 тыс. токенов. Модель предназначена для распознавания изображений, визуальных рассуждений, создания подписей и диалога по изображениям. Она подходит для визуальных вопросов и ответов, извлечения сведений из изображений документов, поиска соответствий между изображениями и текстом, а также привязки текстовых описаний к областям изображения. Для задач с изображениями официально поддерживается английский язык; в текстовых задачах также поддерживаются немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель основана на Llama 3.1 и включает визуальный адаптер; для настроенных версий семейства применяются supervised fine-tuning и обучение с обратной связью от людей. Это статический чекпойнт, обученный на офлайн-данных с отсечкой знаний в декабре 2023 года. Использование регулируется Llama 3.2 Community License — специальной лицензией с коммерческими условиями и Acceptable Use Policy.

Mini-InternVL-Chat-4B-V1-5 — компактная мультимодальная модель для диалога с изображениями, разработанная OpenGVLab. Она сочетает InternViT-300M-448px, MLP и языковую модель Phi-3-mini-128k-instruct; архитектура относится к семейству InternVL Chat. Модель содержит около 4,2 млрд параметров и принимает изображения с динамическим разрешением, разбивая их максимум на 40 фрагментов размером 448 × 448 пикселей. Модель предназначена для ответов на вопросы по изображениям, распознавания текста и анализа диаграмм и документов, а также для обычного диалога и генерации текста. В README указаны оценки на наборах DocVQA, ChartQA, InfoVQA, TextVQA, OCRBench, MathVista и других. Обучение проводилось с контекстом 8K; значение 128K в названии базовой Phi-3 не означает, что такой контекст подтверждён для этой модели. Для запуска README приводит пример с Transformers и вычислениями в bf16/fp16. Модель объединяет vision-компонент InternViT и Phi-3-mini; метаданные указывают связи merge с обеими базовыми моделями. Поддержка языков обозначена как multilingual, но конкретный список языков не приведён. Лицензия — MIT. Модель может выдавать предвзятый или иной вредоносный контент, а результаты вероятностной генерации требуют проверки.

Yarn-Solar-10b-32k — языковая модель NousResearch на архитектуре Llama с 10,6 млрд параметров, основанная на SOLAR-10.7B-v1.0. Авторы дополнительно обучили её на двух миллиардах токенов длинного контекста, применив метод YaRN для расширения контекстного окна до 32 768 токенов. Модель предназначена для генерации текста и работы с длинными входными материалами: например, для суммирования документов, ответов на вопросы по большим текстам и продолжения текста с учётом удалённых фрагментов. В карточке приведены оценки на тестах длинного контекста и стандартных языковых тестах; результаты относятся к указанным условиям оценки и не гарантируют качество на конкретных задачах. Модель распространяется в формате PyTorch и использует библиотеку Transformers. Для загрузки авторы указывают необходимость включить trust_remote_code и использовать актуальную версию Transformers. Лицензия — Apache-2.0.