IV.2Банки, платежи и инвестиции

Vikneshwaran/gemma_4_tau2_retail — репозиторий модели семейства Gemma 4, разработанного Google DeepMind. Карточка описывает Gemma 4 как мультимодальную модель для понимания изображений и генерации текста; семейство также предназначено для диалогов, рассуждений, программирования, суммаризации и агентных сценариев с вызовом инструментов. Архитектура указана как плотная Gemma4ForConditionalGeneration, веса опубликованы в формате safetensors. Размер и длина контекста конкретно этого чекпойнта не установлены в предоставленных данных; README приводит разные варианты размеров и контекста для семейства в целом. Модель может быть полезна для визуального анализа изображений, извлечения текста и сведений из документов, ответов на вопросы по изображению и генерации текста по запросу. Gemma 4 поддерживает более 140 языков при обучении, а README указывает поддержку более 35 языков для использования. Лицензия — Apache 2.0. Данные карточки не уточняют, чем этот репозиторий отличается от базовой модели Gemma 4 и какие возможности семейства доступны именно в данном варианте.

LongAlign-13B-64k — языковая модель семейства LLaMA, опубликованная командой LongAlign. Она предназначена для генерации текста и выполнения инструкций в длинных контекстах. Проект описывает обучение на наборе LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов и оценивает следование инструкциям на запросах длиной 10–100 тыс. токенов. Модель содержит 12,9 млрд параметров, принимает текст и имеет заявленное контекстное окно 65 536 токенов. В метаданных указаны английский и китайский языки; репозиторий содержит веса PyTorch для Transformers. README объясняет подход проекта к выравниванию моделей для длинного контекста, но приведённый фрагмент не уточняет конкретную базовую модель и обучающие детали именно версии 13B-64k. Лицензия — Apache-2.0.

Llama 3.2-11B-Vision — мультимодальная модель Meta для анализа изображений и генерации текстовых ответов. Она построена на авторегрессионной архитектуре Transformer семейства Llama 3.1 и использует отдельно обученный визуальный адаптер с cross-attention, который передаёт представления изображений в языковую модель. Размер модели — 11 млрд параметров; она принимает изображения и текст, выдаёт текст и поддерживает контекст до 128 тыс. токенов. Модель предназначена для распознавания изображений, визуальных рассуждений, создания подписей и диалога по изображениям. Она подходит для визуальных вопросов и ответов, извлечения сведений из изображений документов, поиска соответствий между изображениями и текстом, а также привязки текстовых описаний к областям изображения. Для задач с изображениями официально поддерживается английский язык; в текстовых задачах также поддерживаются немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель основана на Llama 3.1 и включает визуальный адаптер; для настроенных версий семейства применяются supervised fine-tuning и обучение с обратной связью от людей. Это статический чекпойнт, обученный на офлайн-данных с отсечкой знаний в декабре 2023 года. Использование регулируется Llama 3.2 Community License — специальной лицензией с коммерческими условиями и Acceptable Use Policy.

Ovis2-2B — компактная мультимодальная языковая модель семейства Ovis, предназначенная для работы с изображениями и текстом. Визуальный компонент построен на aimv2-large-patch14-448, языковая часть — на Qwen2.5-1.5B-Instruct. Модель использует архитектуру Ovis для структурного согласования визуальных и текстовых представлений; её разработчики улучшили обучение и подбор данных по сравнению с Ovis1.6. Модель отвечает на вопросы по изображениям, распознаёт текст на них, извлекает структурированные сведения из таблиц и графиков, а также обрабатывает несколько изображений и видео. Обучение включало данные на нескольких языках, в том числе для развития мультиязычного OCR, и было направлено на улучшение рассуждений. Карточка демонстрирует результаты на тестах понимания изображений и видео, но не приводит длину контекста. Для запуска в README приведён пример использования Transformers. Модель распространяется по лицензии Apache-2.0. Авторы предупреждают, что не гарантируют полного отсутствия проблемного контента или нарушений авторских прав; также рекомендуется рассмотреть более новую версию Ovis2.5.

Ovis2-34B — мультимодальная языковая модель семейства Ovis, разработанная командой Ovis. Она сочетает визуальный энкодер и языковую модель, структурно согласуя визуальные и текстовые представления. Модель принимает изображения и текст, отвечает на вопросы о визуальном содержимом и обрабатывает видео и несколько изображений в рамках одного сценария. Модель предназначена для визуального рассуждения, распознавания текста на изображениях, извлечения структурированных данных из таблиц и диаграмм, а также диалогов по визуальным материалам. В README заявлены усиленные способности к рассуждению и многоязычному OCR; метаданные указывают поддержку чата и интерфейса вызова инструментов. Архитектура — плотная модель Ovis; веса доступны в формате safetensors. Карточка приводит результаты оценки на тестах изображений и видео. Лицензия — Apache-2.0. README рекомендует использовать более новую версию Ovis2.5. Заявленные возможности и результаты бенчмарков не гарантируют точность на конкретных данных; модель может выдавать неподходящий контент или содержать проблемы с авторскими правами, как отмечено авторами.

Aya Vision 8B — мультимодальная модель Cohere Labs с открытыми весами, содержащая 8 млрд параметров. Она принимает изображения и текст и генерирует текст для задач понимания визуального содержимого и диалога по изображениям. Модель построена на мультиязычной языковой модели на основе Command R7B, дополнительно обученной по рецепту Aya Expanse, и визуальном кодировщике SigLIP2-patch14-384, соединённых мультимодальным адаптером. Контекст составляет 16K токенов; изображения произвольного размера преобразуются в поддерживаемое разрешение и кодируются с использованием до 12 тайлов и миниатюры. Модель предназначена для OCR, описания изображений, визуальных рассуждений, суммаризации и ответов на вопросы по изображениям; также поддерживает текстовый ввод. Заявлена работа с 23 языками, включая русский, английский, китайский, арабский, японский и хинди. Веса распространяются по лицензии CC-BY-NC 4.0; использование также должно соответствовать политике допустимого использования Cohere Labs. Лицензия ограничивает коммерческое применение.

QuantTrio Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-AWQ — это AWQ-квантизированная версия модели Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2, разработанной на базе Qwen3.5-27B. Исходную дообученную модель создал Jackrong, а репозиторий квантизации поддерживается QuantTrio. Квантизация выполнена методом data-free, без калибровочного датасета, что позволяет уменьшить размер модели примерно до 21 GiB и снизить требования к памяти при инференсе. Модель ориентирована на задачи рассуждения, математику, текстовые задачи, логическую дедукцию, инструкции и программирование. По заявленным результатам, она сохраняет показатель 96,91% pass@1 на HumanEval, сокращает длину цепочки рассуждений примерно на 24% и обеспечивает на 31,6% больше корректных решений на токен по сравнению с базовой моделью. Для запуска рекомендуется vLLM с поддержкой AWQ, tool calls и reasoning parser; в README приведена конфигурация с контекстом до 32768 токенов и тензорным параллелизмом на двух GPU. Сильными сторонами являются экономичное рассуждение, высокая эффективность на задачах программирования и возможность использования в оптимизированном режиме инференса. Ограничения включают снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%, а также возможное ухудшение качества на задачах, требующих длинного контекста или сложного многошагового рассуждения. Языки и точный набор поддерживаемых модальностей в README не указаны; pipeline обозначен как image-text-to-text, но подробностей о мультимодальных возможностях нет. Модель распространяется по лицензии Apache-2.0.

TomoroAI/tomoro-colqwen3-embed-4b — мультимодальная модель встраиваний Tomoro AI для поиска визуальных документов по текстовым запросам. Она дообучена на основе Qwen/Qwen3-VL-4B-Instruct и объединяет текстовое представление с обработкой изображений; архитектура ColQwen3 использует многовекторные эмбеддинги и позднее взаимодействие MaxSim для ранжирования релевантности. Модель кодирует текстовые запросы и страницы документов в виде изображений, включая страницы PDF, а также короткие видео. В README заявлена поддержка до 1 280 визуальных токенов на страницу и до 5 120 на видео; проекция имеет размерность 320. Авторы сообщают о конкурентных результатах на ViDoRe V1–V3, в том числе на мультиязычных наборах. Лицензия — Apache-2.0.

VARCO-VISION-2.0-14B — мультимодальная модель NCSOFT, построенная по архитектуре LLaVA-OneVision. Она объединяет визуальную модель SigLIP2-so400m-patch16-384 и языковую Qwen3-14B; число параметров языковой базовой модели — 14 млрд. Модель принимает текст и одно или несколько изображений и отвечает на вопросы по их содержимому. Модель предназначена прежде всего для корейского и английского языков. Она умеет анализировать документы, таблицы и графики, распознавать текст на изображениях и указывать его положение рамками, а также отвечать на повседневные вопросы и суммировать информацию. Разработчик отмечает улучшенное понимание корейского языка и культурного контекста. Для работы с несколькими изображениями рекомендуется Transformers версии 4.53.1 или выше. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки зависят от бенчмарка и формата запроса; README также предупреждает, что результаты некоторых тестов с оценкой другой LLM могут быть невоспроизводимы.

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4-REAP-25 — квантизированная версия модели Qwen/Qwen3.8-2.4T-A95B, разработанная RedHatAI. Это текстовая модель для генерации текста на основе архитектуры Qwen3_5MoeForCausalLM с разреженной смесью экспертов (MoE). Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для задач рассуждения, программирования и общего текстового вывода, включая развёртывание через vLLM с OpenAI-совместимым API. В слоях экспертов MoE применена смешанная квантизация NVFP4: веса и активации линейных операторов представлены в формате FP4, тогда как attention и другие неквантизированные слои сохраняют исходную точность. Дополнительно выполнено 25-процентное REAP-прореживание экспертов. Это снижает требования к дисковому пространству и GPU-памяти квантизированных слоёв примерно на 75 процентов с учётом дополнительного выигрыша от разреженности. По данным оценки, модель сохранила высокое качество относительно неквантизированной версии: результат на GPQA Diamond составил 91,5 против 92,6 у исходной модели, а на DeepSWE v1.1 — 56,6, что соответствует заявленному восстановлению 98,81 и 100 процентов соответственно. Ограничения включают потенциальное влияние квантизации и прореживания на качество за пределами указанных тестов, а также высокие требования к инфраструктуре: рекомендован запуск с vLLM, tensor parallelism на 8 GPU и expert parallelism. Лицензия в README не указана.

unsloth/gpt-oss-120b-GGUF — это GGUF-квантизированная версия открытой весовой модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, сложного рассуждения, универсальных задач разработки и агентных сценариев, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель имеет MoE-архитектуру и 117 млрд параметров, из которых 5,1 млрд активны при обработке токена. Она поддерживает настраиваемый уровень рассуждения — низкий, средний или высокий — и обучена работать только с форматом ответов harmony. GGUF-версии содержат исправления Unsloth; F16-вариант сохраняет исходную точность. Формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp, при этом конкретные характеристики памяти и производительности зависят от выбранного уровня квантизации и оборудования. Сильные стороны модели — высокая способность к рассуждению, агентные возможности, доступность открытых весов, возможность дообучения и гибкая настройка компромисса между качеством и задержкой. Ограничения включают необходимость корректного применения harmony-формата, значительный общий размер модели и потенциальное снижение качества в квантизированных версиях. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование без copyleft-ограничений.

Muse Glimmer-30B — мультимодальная причинная языковая модель, разработанная Meta Superintelligence Lab и представленная в августе 2026 года. Эта версия распространяется в формате GGUF на базе Muse-Glimmer-30B и предназначена для локального запуска автономных агентных систем без облачной инфраструктуры и доступа к сети. Модель рассчитана на выполнение многошаговых задач, использование инструментов и функций, написание и отладку кода, обработку многоходовых запросов и восстановление после ошибок инструментов. Она принимает текст и изображения, включая скриншоты, графики и документы, а генерирует текст. Muse Glimmer совместима с различными агентными сценариями и оркестраторами, поддерживает управляемую интенсивность рассуждений и обучалась на данных более чем 100 языков. Архитектура представляет собой плотный причинный Transformer с выделенным примерно 1,8-миллиардным визуальным ViT-G/14-энкодером; общий объём составляет около 29,6 миллиарда параметров. Модель имеет 52 слоя, скрытую размерность 6656, механизм GQA с соотношением 32/2 голов внимания, SwiGLU, локальные и глобальные схемы внимания, контекст более 131 072 токенов и до 4096 визуальных токенов на изображение. Ключевые сильные стороны — агентное выполнение задач, надёжное применение инструментов, длительное многошаговое рассуждение, мультимодальность и восстановление после сбоев. Ограничения включают высокие требования к памяти и вычислительным ресурсам, несмотря на оптимизацию для потребительского оборудования; ориентиры для квантованных вариантов составляют около 24–32 ГБ памяти, а заявленная деградация качества — примерно 0,2–1,0% в зависимости от варианта квантования. Лицензия — Apache 2.0.

unsloth/Qwen3.8-2.4T-A95B-GGUF — квантованная версия открытой модели Qwen3.8-2.4T-A95B, подготовленная Unsloth с использованием подхода Unsloth Dynamic 2.0. Модель разработана командой Qwen и предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также для долгих многошаговых агентских сценариев. README указывает совместимость исходных артефактов с Transformers, vLLM, SGLang и TokenSpeed. Это причинная языковая модель с архитектурой Mixture of Experts: 2,4 трлн параметров всего, из которых активируется 95 млрд. Она содержит 92 слоя, скрытое измерение 8192 и 512 экспертов, из которых для обработки токена маршрутизируются 10 экспертов и один общий. Архитектура сочетает Gated DeltaNet и Gated Attention, а также поддерживает Multi-Token Prediction. Нативная длина контекста составляет 262 144 токена и может быть расширена примерно до 1 010 000 токенов. Управление глубиной рассуждений выполняется параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Сильные стороны модели — высокий заявленный уровень для сложного кодирования, профессиональной работы, исследований, планирования и автономного выполнения задач, а также большой контекст и возможность настройки рассуждений. Ограничения включают крайне большой общий размер модели и соответствующие требования к памяти и инфраструктуре; конкретные требования зависят от выбранного GGUF-кванта и конфигурации запуска. В README не указаны поддерживаемые языки и точные параметры доступных квантований. Лицензия обозначена как qwen3.8-max; условия следует уточнять в файле LICENSE.

Gemma 3 12B IT QAT — мультимодальная инструкционно дообученная модель из семейства Gemma, разработанная Google DeepMind. Она принимает текст и изображения, а на выходе генерирует текст. Модель создана на основе технологий, использованных в Gemini, и предназначена для развертывания в локальной инфраструктуре, на настольных компьютерах, ноутбуках и в облачных средах с ограниченными ресурсами. Модель подходит для ответов на вопросы, суммаризации документов, рассуждений, генерации и анализа текста, а также для понимания изображений и извлечения визуальной информации. Она поддерживает более 140 языков, имеет контекстное окно до 128K токенов для версии 12B и максимальный объём генерируемого текста до 8192 токенов. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Версия 12B обучена с использованием Quantization Aware Training (QAT), что должно помогать сохранять качество, близкое к bfloat16, при снижении требований к памяти после квантования. При этом указанный в репозитории checkpoint является неквантованным: для получения варианта Q4_0 его необходимо дополнительно квантовать выбранным инструментом. Ограничения включают зависимость качества от языка, содержания запроса и изображения, а также обычные риски ошибок и неточностей генеративных моделей. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется принять условия лицензии.

QuantFactory/Llama-3-8B-ProLong-64k-Instruct-GGUF — квантизированная версия модели Princeton NLP Llama-3-8B-ProLong-64k-Instruct, созданная с использованием llama.cpp. Модель основана на Meta-Llama-3-8B-Instruct и разработана исследователями Tianyu Gao, Alexander Wettig, Howard Yen и Danqi Chen. Это текстовая instruction-tuned модель для генерации ответов и работы с длинным контекстом объёмом до 64 000 токенов. Она предназначена для диалогов, вопросов и ответов по большим наборам документов, retrieval-augmented generation, извлечения информации, классификации в контексте, переранжирования результатов поиска, анализа и суммаризации длинных документов. Для восстановления диалоговых возможностей модель дообучалась на UltraChat. Модель имеет около 8 миллиардов параметров и поддерживает только текстовую модальность. При обучении использовалась смесь коротких и длинных данных общим объёмом 20B токенов; заявлено стабильное функционирование с контекстом до 64K токенов и высокая производительность на задачах длинного контекста среди моделей сопоставимого размера. Ограничения включают возможное влияние квантизации на качество, однако конкретный формат и уровень квантизации в представленном README не указаны. Языки, точные аппаратные требования и детальные показатели benchmark также не приведены. Лицензия указана как llama3. Условия её применения следует проверять по лицензии семейства Llama 3 и исходной карточке модели.

Nemotron-Cascade-2-30B-A3B GGUF — текстовая генеративная модель NVIDIA, созданная на основе Nemotron-3-Nano-30B-A3B-Base и опубликованная в формате GGUF. Файлы модели сгенерированы с помощью llama.cpp. Модель относится к архитектуре Mixture-of-Experts: общий размер составляет 30 млрд параметров, из которых при обработке активируются 3 млрд. В карточке указан английский язык и лицензия NVIDIA Open Model License. Модель предназначена для общего текстового общения, сложного рассуждения, математических задач, программирования и агентских сценариев. Она поддерживает два режима работы: thinking для развёрнутого рассуждения и instruct для обычного выполнения инструкций без режима рассуждения. Заявлены особенно сильные результаты в математике и алгоритмическом программировании: модель получила золотые результаты на IMO 2025 и IOI 2025, а также высокие показатели на AIME, HMMT, LiveCodeBench и других тестах. К сильным сторонам относятся сочетание крупной ёмкости модели с относительно малым числом активных параметров, развитые способности к рассуждению, решению математических задач, написанию кода и использованию в агентских системах. Ограничения включают отсутствие в предоставленной карточке сведений о длине контекста, точных характеристиках квантования GGUF, поддерживаемых дополнительных языках и требованиях к аппаратным ресурсам. Использование регулируется NVIDIA Open Model License; условия лицензии следует проверить по ссылке, указанной в карточке.

unsloth/Qwen3-VL-4B-Thinking-GGUF — GGUF-версия мультимодальной модели Qwen3-VL-4B-Thinking, разработанной командой Qwen и подготовленной Unsloth с исправлениями шаблона чата. Модель предназначена для обработки текста и изображений, визуального понимания и рассуждений, анализа документов, OCR, STEM- и математических задач, пространственного анализа, понимания видео, а также взаимодействия с графическими интерфейсами и инструментами. Модель имеет плотную архитектуру с 4 млрд параметров и относится к reasoning-ориентированной версии Thinking. Заявлена поддержка контекста длиной 256K токенов с возможностью расширения до 1M, а также обработки изображений, видео и текста. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных измерений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Сильные стороны модели — сочетание языкового и визуального понимания, мультимодальное рассуждение, работа с длинным контекстом, пространственными отношениями, видео и сложными визуальными документами. Ограничения, связанные с точностью, вычислительными требованиями и конкретными параметрами GGUF-квантизации, в README не описаны; фактические возможности зависят от используемого варианта файла и среды запуска. Модель распространяется по лицензии Apache-2.0.

Llama-3.3-Nemotron-Super-49B-v1.5-GGUF — квантованное представление большой языковой модели NVIDIA, производной от Meta Llama-3.3-70B-Instruct. Модель предназначена для рассуждений, многоходового чата, следования инструкциям, программирования, математических и научных задач, а также для создания RAG-систем, AI-агентов и приложений с вызовом инструментов. Версия GGUF подготовлена Unsloth и включает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Модель представляет собой плотный decoder-only Transformer с архитектурными изменениями, полученными методом Neural Architecture Search: в отдельных блоках внимание пропускается или заменяется линейным слоем, а коэффициент расширения FFN может различаться между блоками. Такой подход уменьшает требования к памяти и повышает эффективность инференса при сохранении качества. Указаны размер 49B параметров, контекст до 128K токенов и поддержка английского языка, включая задачи с кодом. Модель обучалась на данных с отсечкой по 2023 году, поэтому её знания могут быть устаревшими. Сильными сторонами являются сочетание качества рассуждений и эффективности, поддержка агентных сценариев, RAG и tool calling, а также возможность применения в коммерческих проектах. Ограничения включают специализацию преимущественно на английском языке, отсутствие заявленной мультимодальности и зависимость характеристик от конкретного GGUF-кванта и оборудования. Использование регулируется NVIDIA Open Model License, а также дополнительными условиями Llama 3.3 Community License Agreement.

tripolskypetr/gemma-3-12b-it — модель на базе Google Gemma 3 12B IT, разработанная Google DeepMind. Это открытая инструкционно дообученная мультимодальная модель, принимающая текст и изображения и генерирующая текст. README не содержит сведений о специфическом дополнительном дообучении, выполненном автором репозитория. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Она поддерживает более 140 языков, использует контекстное окно до 128 000 токенов, принимает изображения, нормализованные до 896×896 пикселей и представленные 256 токенами каждое, а максимальный объём генерируемого ответа составляет 8192 токена. Размер модели — 12 млрд параметров. К сильным сторонам относятся мультимодальность, широкий языковой охват, большое контекстное окно и возможность развёртывания на собственном оборудовании или в облачной инфраструктуре по сравнению с более крупными моделями. Ограничения включают неизвестные для данного репозитория результаты дополнительного обучения и оценки, а также необходимость учитывать требования к ресурсам для запуска модели такого размера. Использование регулируется лицензией Gemma и соответствующими условиями Google.

unsloth/gpt-oss-20b — открытая по весам языковая модель OpenAI из семейства gpt-oss, представленная в репозитории Unsloth и основанная на openai/gpt-oss-20b. Она предназначена для генерации текста, задач, требующих рассуждений, агентских сценариев и широкого спектра разработческих применений, включая вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель использует архитектуру Mixture-of-Experts с 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Нативная квантование MXFP4 для MoE-слоёв позволяет запускать её примерно в пределах 16 ГБ памяти; модель ориентирована на меньшую задержку, локальное выполнение и специализированные сценарии по сравнению с gpt-oss-120b. Доступны настраиваемые уровни усилий рассуждения — низкий, средний и высокий, а также возможность дообучения. Для корректной работы необходимо использовать формат ответов harmony; применение модели в другом формате может приводить к некорректным результатам. Полная цепочка рассуждений доступна разработчику для отладки и анализа, но не предназначена для показа конечным пользователям. Модель является текстовой, сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Лицензия Apache 2.0 допускает свободное использование, модификацию, дообучение и коммерческое развёртывание с учётом условий лицензии.

unsloth/gpt-oss-20b-unsloth-bnb-4bit — 4-битная квантованная версия open-weight языковой модели gpt-oss-20b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, задач рассуждения, локального и специализированного использования, а также агентских сценариев разработчиков, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит 21 млрд параметров, из которых активно используется 3,6 млрд. Вариант распространяется в формате 4-bit BnB; исходная модель использует нативную MXFP4-квантизацию для MoE-слоёв и рассчитана на работу примерно в пределах 16 ГБ памяти. Поддерживается настраиваемая интенсивность рассуждений — низкая, средняя и высокая. Модель обучена для работы с форматом ответов harmony, который необходимо применять корректно. Данные о языках и размере контекста в карточке не указаны. К сильным сторонам относятся сниженные требования к памяти, меньшая задержка по сравнению с gpt-oss-120b, возможность тонкой настройки и широкий набор агентских возможностей. Ограничения включают необходимость использования harmony-формата и то, что цепочка рассуждений, доступная модели, не предназначена для показа конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

LongChat-7B-v1.5-32k — языковая модель Large Model Systems Organization (LMSYS) для генерации текста и диалогов, рассчитанная на работу с длинными контекстами. Она основана на архитектуре LLaMA с причинно-языковой моделью LlamaForCausalLM и содержит около 6,6 млрд параметров. Конфигурация репозитория задаёт максимальную длину последовательности 32 768 токенов и масштабирование RoPE для длинного контекста. Модель подходит для диалоговых ответов, генерации текста и обработки длинных документов в одном запросе. Доступна по лицензии Apache-2.0. Метаданные каталога указывают 4096 native context tokens, тогда как конфигурация и назначение репозитория указывают расширенную длину до 32 768 токенов; фактическое качество на длинном контексте может зависеть от сценария использования.

unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это GGUF-вариант языковой модели NVIDIA Nemotron 3.5 Lightning, разработанной NVIDIA Corporation. Модель предназначена для генерации текста и кода, создания специализированных AI-агентов, а также для постобучения, адаптации под предметные области, дистилляции и подготовки собственных квантованных вариантов. README указывает, что исходная модель является полноточной версией BF16, а данный репозиторий предоставляет вариант GGUF. Модель использует гибридную архитектуру Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными Attention-слоями. Всего предусмотрено 30 млрд параметров, из которых активно используется 3 млрд. Контекст может достигать 1 млн токенов; для развёртывания на одной H100 рекомендуется 256 тыс. токенов. Поддерживаются английский и языки программирования, испанский, французский, немецкий, итальянский и японский. Режим рассуждений можно включать или отключать через параметр chat template. К сильным сторонам относятся высокая вычислительная эффективность благодаря MoE-подходу, большой контекст, поддержка нескольких языков и возможность настройки под конкретные задачи. Ограничения и практические требования зависят от конкретной GGUF-квантизации и аппаратной конфигурации; README не приводит сведения о размере файлов, уровнях квантизации или точных требованиях к запуску именно этого варианта. Модель распространяется по лицензии OpenMDW-1.1, которая, согласно README, допускает коммерческое использование.

GLM-4.5-Air-AWQ-FP16Mix — квантизированная версия модели GLM-4.5-Air, разработанной командой Z.ai и опубликованной QuantTrio. Модель предназначена для генерации текста, сложного рассуждения, кодирования, использования инструментов и агентских сценариев. Она поддерживает гибридные режимы: thinking mode для многошагового рассуждения и работы с инструментами и non-thinking mode для быстрых ответов. Модель построена на архитектуре MoE и содержит 106 млрд параметров, из которых 12 млрд активируются при обработке запроса. Данная версия использует смешанную квантизацию AWQ и FP16Mix, занимает около 69 ГБ и рассчитана на запуск через vLLM. В README приведена конфигурация с контекстом до 32 768 токенов и использованием экспертного параллелизма на нескольких GPU. Языки и мультимодальные возможности явно не указаны; по описанию это текстовая модель. Сильными сторонами являются сочетание рассуждения, генерации кода и агентских возможностей при меньшем числе активных параметров, чем у полной GLM-4.5, а также экономия памяти благодаря квантизации. Ограничения связаны с требованиями к инфраструктуре: для корректной загрузки необходимо включить expert parallelism, использовать vLLM версии 0.10.0 и применить временный патч для поддержки смешанной квантизации MoE. В README указана лицензия MIT для моделей GLM-4.5 и GLM-4.5-Air, допускающая коммерческое использование и вторичную разработку.

Qwen3.8-Flash-Next-MLX-SSD-Stream — подготовленная для mlx-serve версия модели Qwen3.8-Flash-Next, разработанная garnermccloud на базе весов Qwen, с таблицей FP8 от RadixArk и поддержкой Apple MLX. Модель предназначена для локального высокоскоростного инференса на Mac с unified memory, особенно для генерации кода, технических текстов, задач рассуждения, структурированных вызовов инструментов и работы с длинным контекстом. Она поддерживает текстовые, графические и видео-входы, а также OpenAI Chat Completions, Responses, Anthropic Messages и Ollama API. Архитектура включает Transformer и vision-компоненты примерно на 125 млрд параметров, из которых около 6 млрд активны на токен, а с учётом PLE-таблицы и MTP-весов логический общий объём составляет около 180 млрд параметров. Реализованы Mixture-of-Experts, sparse attention, n-gram embedding, native MTP и контекст до 262 144 токенов. Основные компоненты используют BF16, маршрутизируемые эксперты и MTP — Q4 affine, vocabulary head — Q6 affine, а 51,2-гигабайтная n-gram-таблица хранится в FP8 и потоково читается с SSD, снижая требования к unified memory. На Apple M4 Max с 128 ГБ заявлена скорость декодирования около 71–74 токенов в секунду в отдельных сценариях и prefill до 280,7 токена в секунду на длинном контексте. Сильные стороны модели — сочетание качества BF16-ядра, ускорения MTP, мультимодальности, большого контекста и возможности запускать конфигурацию с крупной таблицей без полного размещения в памяти. Ограничения — значительный размер подготовленного репозитория около 127 ГБ, зависимость от SSD и специализированного движка mlx-serve, а также оптимизация прежде всего под Apple Silicon; приведённые показатели относятся к M4 Max с 128 ГБ памяти. Модель распространяется по Qwen Community License; веса Transformer и vision предоставлены Qwen, таблица — из checkpoint RadixArk, а подготовленная конфигурация и поддержка SSD Stream — проектом garnermccloud/mlx-serve.

GLM-4.5-Air-GGUF — это квантизированная в формате GGUF версия гибридной reasoning-модели GLM-4.5-Air, подготовленная Unsloth на базе модели Z.ai (Zhipu AI). Модель предназначена для создания интеллектуальных агентов, сложного рассуждения, программирования, использования инструментов и генерации текста. Она поддерживает два режима работы: thinking mode для задач, требующих многошагового рассуждения и tool usage, и non-thinking mode для быстрых ответов. GLM-4.5-Air использует архитектуру с 106 миллиардами общих параметров и 12 миллиардами активных параметров. Модель относится к текстовым моделям и заявлена для работы на английском и китайском языках. GGUF-версия ориентирована на локальный запуск, в том числе через llama.cpp; для него в README рекомендуется использовать параметр --jinja. Вариант Unsloth включает исправления chat template и использует подход Unsloth Dynamic 2.0, направленный на сохранение высокой точности при квантизации. Сильными сторонами модели являются сочетание рассуждения, программирования и агентных возможностей, а также более компактная и эффективная конфигурация по сравнению с GLM-4.5 при сохранении конкурентных результатов на заявленных тестах. Ограничения включают отсутствие в README подробностей о конкретном типе квантизации, поддерживаемой длине контекста, полном наборе языков, требованиях к оборудованию и результатах для всех отдельных бенчмарков. Модель и исходные версии GLM-4.5-Air выпускаются под лицензией MIT, допускающей коммерческое использование и вторичную разработку.

Qwopus3.8-27B-Flash — дообученная модель, опубликованная Jackrong на базе Qwen3.8-27B. Она предназначена для практических агентских сценариев, в которых модель многократно взаимодействует с инструментами: анализирует данные, генерирует и редактирует код, вызывает функции, наблюдает результаты и выполняет итеративные задачи. Модель ориентирована на снижение задержки, вычислительных затрат и склонности к избыточно длинным рассуждениям при сохранении широких общих возможностей. Модель имеет размер 27B параметров и распространяется в формате GGUF для локального запуска, в том числе через llama.cpp. Заявлена поддержка текстово-визуальных задач и обработки изображений, а также генерации текста, рассуждений, программного кода, tool use и function calling. В метаданных указаны английский, китайский, испанский, русский и японский языки. Контекстное окно и точные архитектурные характеристики не указаны. Обучение включало качественную выборку данных supervised fine-tuning и усиление рассуждений с использованием NVIDIA NeMo-RL и GSPO. К сильным сторонам относятся более быстрая генерация, заявленные 80,7% принятия токенов MTP, снижение неэффективных рассуждений и пригодность для длительных агентских цепочек. При этом README указывает на компромисс в качестве: результат на смешанном наборе MMLU-Pro ниже, чем у базовой модели. Известно ограничение в виде возможных ошибок отступов в Python в отдельных задачах программирования. Модель распространяется по лицензии Apache-2.0.

Granite-3.1-3B-A800M-Base — базовая языковая модель IBM Granite Team для генерации текста и задач преобразования текста. Это декодерный разреженный Transformer с архитектурой Mixture of Experts (MoE), доступный в формате safetensors и содержащий 352,3 млн параметров. Модель расширяет контекст Granite-3.0-3B-A800M-Base с 4K до 128K токенов; для адаптации к длинному контексту использовалось дополнительное обучение примерно на 500 млрд токенов. Модель предназначена для суммаризации, классификации и извлечения информации из текста, ответов на вопросы, а также как основа для специализированного дообучения. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель выпущена IBM под лицензией Apache 2.0. Модель не прошла выравнивание по безопасности и может выдавать проблемный или недостоверный текст; для небольшой модели также отмечен риск дословного воспроизведения обучающих данных. Как базовая модель, она может требовать дообучения под конкретные инструкции и сценарии.

GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-OptiQ-4bit — квантизированная версия языковой модели NVIDIA Nemotron-3.5-Lightning, подготовленная сообществом mlx-community с использованием MLX-native инструментария mlx-optiq. Модель предназначена для локальной генерации текста на компьютерах Apple Silicon и поддерживает сценарии общего диалога, рассуждений, программирования, решения математических задач, следования инструкциям и вызова функций. В основе лежит гибридная архитектура nemotron_h: блоки Mamba2 сочетаются с несколькими слоями attention, а маршрутизируемая MoE-архитектура содержит 128 экспертов, из которых для каждого токена активируются 6. Общий размер базовой модели составляет около 30 млрд параметров, при этом активно примерно 3 млрд. Используется чувствительная к слоям смешанная квантизация: 36 слоёв и 36 экспертных тензоров имеют точность 4-bit, ещё 127 слоёв и 10 экспертных тензоров — 8-bit. Размер файлов модели — около 22,8 ГБ; сохранена MTP-голова для speculative decoding. Модель демонстрирует сильные результаты в генерации кода, математике, следовании инструкциям и вызове функций: в README указаны 87,8% на HumanEval, 85,5% на GSM8K и 83,0% на BFCL-V3 simple. Ограничением является слабее выраженная способность к извлечению информации из длинного контекста: результат HashHop составляет 40,0%. Для работы требуется MLX и пакет mlx-optiq; на компьютерах с ограниченной оперативной памятью рекомендуется потоковая загрузка экспертов с SSD. Модель выпускается по NVIDIA Open Model License; точные условия следует уточнять в тексте этой лицензии.