II.2Создание и понимание программного кода

OpenSonnet-Lite — компактная языковая модель с открытыми весами, разработанная сообществом Open Source и дообученная на основе Qwen/Qwen3-4B-Thinking-2507. Это плотная причинная модель семейства Qwen3 с 3,7 млрд параметров по метаданным. Она предназначена для генерации текста и пошаговых рассуждений; исправленный шаблон чата поддерживает связное рассуждение в многоходовых диалогах. В README заявлена близкая к Claude Sonnet 4.6 производительность на задачах рассуждения, однако независимые результаты оценки не приведены. Модель рассчитана на повседневное использование, в том числе на ограниченных ресурсах; для демонстрационного запуска автор указывает две GPU T4. В README приведены рекомендации по длине генерации от нескольких тысяч до 131 072 токенов, а метаданные указывают нативный контекст 262 144 токена. Обучение включало около 140 тысяч отфильтрованных примеров из наборов данных с рассуждениями разных моделей. Модель принимает текст и генерирует текст; конкретный перечень поддерживаемых естественных языков не установлен. Модель может галлюцинировать, особенно на узких темах и при работе с актуальными фактами. README также предупреждает о возможном наследовании предвзятости источников данных и отсутствии встроенного фильтра безопасности или специального аудита. Лицензия — Apache-2.0.

FreedomAISVR подготовила GGUF-квантизацию MXFP4 мультимодальной инструктивной модели Qwen3.5-9B для запуска через llama.cpp. В репозитории есть файл текстовой модели размером 5,31 ГБ и отдельный проектор зрения SigLIP в формате F16 размером 922 МБ; для обработки изображений требуются оба файла. Модель поддерживает диалог и следование инструкциям, а режим рассуждений отключён по умолчанию и включается отдельно. Базовая Qwen3.5-9B использует гибридную архитектуру Gated DeltaNet и Gated Attention, принимает текст, изображения и видео, поддерживает 201 язык и имеет контекст 262 тыс. токенов с возможностью расширения до 1 млн. Заявленная лицензия — Apache 2.0. Квантизация уменьшает размер файлов и позволяет запускать модель на разных CPU и GPU, однако README не приводит сравнений качества MXFP4 с исходной точностью; видео и широкий языковой охват указаны для базовой модели.

RedHatAI/Qwen3-VL-32B-Instruct-FP8-dynamic — мультимодальная instruction-модель, разработанная Red Hat на основе Qwen/Qwen3-VL-32B-Instruct. Модель принимает текст и изображения, а генерирует текст; архитектура указана как Qwen3VLForConditionalGeneration. Она предназначена для диалоговых и аналитических сценариев, требующих понимания визуального содержимого, включая описание изображений и ответы на вопросы по диаграммам. Модель содержит 32 млрд параметров и использует динамическую FP8-квантизацию весов и активаций линейных операторов в трансформерных блоках языковой части. По заявлению авторов, это примерно на 50% снижает размер на диске и требования к GPU-памяти по сравнению с представлением FP16. В оценках с vLLM использовалась максимальная длина контекста 262144 токена и поддержка до 10 изображений, однако отдельные характеристики исходной модели, включая языки и полный контекст, в README не указаны. К сильным сторонам относятся мультимодальность, существенное сокращение требований к памяти и близкие к исходной модели результаты на MMLU: 77,89 против 78,03. На ChartQA заявлена точность 86,68, но эти результаты нельзя напрямую считать универсальной оценкой качества. Ограничения связаны с потерями точности и возможными особенностями FP8-квантизации, а также с тем, что квантизация применяется не ко всем компонентам модели. Для развёртывания рекомендуется vLLM с tensor parallelism; модель распространяется по лицензии Apache-2.0.

C4AI Command R 08-2024 — языковая модель Cohere и Cohere For AI, представленная в этом репозитории в виде дообученной версии весов CohereLabs/c4ai-command-r-08-2024. Это плотный авторегрессионный трансформер с 32,3 млрд параметров и контекстом до 131 072 токенов; в обучении применялись supervised fine-tuning и обучение на предпочтениях, а для ускорения инференса используется grouped-query attention. Модель принимает текст и генерирует текст. Модель предназначена для диалогов, рассуждений, суммаризации и ответов на вопросы. Она поддерживает генерацию на 23 языках, включая русский, и обучена на задачах grounded generation: может отвечать по предоставленным фрагментам документов и добавлять ссылки на источники, что подходит для RAG. Также поддерживает выбор внешних инструментов и формирование вызовов по специальному шаблону. Для grounded generation и использования инструментов важно соблюдать рекомендованные шаблоны промптов: отклонение от них может снизить качество. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; README также требует соблюдать Acceptable Use Policy Cohere for AI.

gemma-4-E4B-it-qat-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на ноутбуках и производительных мобильных устройствах, а также для исследовательских и прикладных сценариев с использованием llama.cpp. Модель поддерживает работу с текстом, изображениями и аудио, включая генерацию текста, распознавание речи, перевод речи, OCR, анализ изображений и видеокадров, function calling и настраиваемый режим рассуждений. Модель имеет около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embeddings, использует Quantization-Aware Training, Per-Layer Embeddings и гибридное внимание с 512-токенным скользящим окном в 42 слоях. В состав входят vision encoder примерно на 150 млн параметров и audio encoder примерно на 300 млн параметров. Заявлены контекст до 128 тысяч токенов, словарь на 262 тысячи токенов и поддержка более 140 языков, включая английский. Доступны версии GGUF с точностью от Q2_K до Q8_0, а также BF16, F16 и F32; размер файлов зависит от варианта и составляет примерно от 4,38 до 29,9 ГБ, не считая multimodal-проектора. Сильными сторонами являются сочетание мультимодальности, большого контекста, локального исполнения и сниженных требований к памяти благодаря QAT при сохранении качества, близкого к bfloat16. Ограничения включают значительные аппаратные требования для высокоточных вариантов и зависимость мультимодальных возможностей от совместимого программного обеспечения и projector-файла. Модель распространяется по лицензии Apache-2.0.

Cohere Command A Reasoning — авторегрессионная языковая модель с открытыми весами, разработанная Cohere и Cohere Labs. Модель на 111 млрд параметров предназначена для диалогов, агентных сценариев и работы с внешними инструментами; она поддерживает режим рассуждений, который можно включать для повышения качества или отключать ради меньшей задержки. Модель принимает текст и генерирует текст. Она обучена на 23 языках и поддерживает контекст до 256 тыс. токенов и генерацию до 32 тыс. токенов. Архитектура использует Transformer с чередованием слоёв скользящего внимания и глобального внимания; после предварительного обучения модель прошла дообучение с учителем и обучение на предпочтениях. Для работы с инструментами и цитированием результатов предусмотрен шаблон диалога Transformers. Модель подходит для многоязычного диалога, сложных запросов с рассуждением, вызова инструментов и агентных рабочих процессов. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без отдельного согласования с Cohere; также необходимо соблюдать Acceptable Use Policy Cohere Labs. Для загрузки модели README рекомендует версию Transformers из исходного репозитория с необходимыми изменениями.

Gemma 3n E4B-it LiteRT-LM — мультимодальная instruction-tuned модель семейства Gemma, разработанная Google DeepMind на основе исследований и технологий Gemini. Она предназначена для эффективного выполнения на устройствах с ограниченными ресурсами, включая смартфоны, ноутбуки, настольные компьютеры и собственную облачную инфраструктуру. Модель подходит для ответов на вопросы, суммаризации, рассуждений, анализа изображений, а также обработки аудио- и видеоданных с генерацией текстовых ответов. Модель поддерживает текстовые, визуальные, аудио- и видеовходы и принимает контекст объёмом до 32K токенов; максимальная длина вывода составляет до 32K токенов за вычетом входных токенов. Изображения подаются в разрешениях 256×256, 512×512 или 768×768 и кодируются по 256 токенов каждое, аудио — со скоростью 6,25 токена в секунду для одного канала. Gemma 3n использует selective parameter activation и архитектуру Matformer, благодаря чему эффективный размер модели составляет около 4B параметров при меньших требованиях к ресурсам. Указанная версия доступна в формате LiteRT-LM и использует int4-квантизацию весов с float-активациями. К сильным сторонам относятся мультимодальность, возможность локального запуска и оптимизация для мобильных и других малоресурсных устройств. Модель обучалась на данных более чем на 140 разговорных языках, однако конкретный перечень языков и гарантии качества для каждого из них не указаны. Производительность зависит от устройства, аппаратного ускорения, кэширования и текущей нагрузки; приведённые benchmarks относятся к preview-версии LiteRT-LM и не гарантируют такие же результаты в других условиях. Для использования требуется принять условия лицензии Gemma Google.

CyberFitz/gemma-4-26B-A4B-it-NVFP4 — квантизированная версия Gemma 4, разработанная CyberFitz на базе модели Google gemma-4-26b-a4b-it. Это мультимодальная Mixture-of-Experts-модель для генерации и понимания текста, обработки изображений и совместных текстово-визуальных запросов. Она подходит для чат-ботов, анализа документов и изображений, а также для задач, требующих длинного контекста. Модель содержит 25,2 млрд параметров, из которых около 3,8 млрд активируются для каждого токена. Архитектура использует 128 экспертов с маршрутизацией top-8 и поддерживает контекст до 262 144 токенов. Квантизация NVFP4 с 4-битными весами уменьшает размер примерно с 49 до 16 ГБ и снижает требования к памяти примерно до 18 ГБ. Для сохранения качества маршрутизаторы MoE, vision-компоненты, embeddings и LM head оставлены в формате bfloat16. Указана поддержка multilingual-сценариев, однако конкретный перечень языков не приведён. Сильные стороны модели — существенно меньший размер, поддержка текста и изображений, очень длинный контекст и сохранение чувствительных компонентов в полной точности. Ограничения включают зависимость от совместимого NVIDIA-оборудования и программного стека, необходимость специальной поддержки NVFP4 и MoE при обслуживании, а также отсутствие опубликованных на момент создания README результатов бенчмарков. Модель распространяется по лицензии Gemma, унаследованной от базовой модели Google.

Ling-3.0-flash-VL-fp8 — нативная мультимодальная модель, разработанная командой inclusionAI. Она предназначена для понимания и анализа изображений и видео, мультимодального рассуждения, проверки выводов по визуальным данным, работы с документами, графиками и сложными макетами, а также для взаимодействия с веб- и программными интерфейсами и выполнения агентских задач. Модель поддерживает сценарии, где требуется не только восприятие визуальной информации, но и планирование, выполнение действий и последующая верификация. Модель имеет 124 млрд параметров, при этом на каждый токен активируется около 5,5 млрд благодаря разреженной архитектуре Mixture-of-Experts. В состав входят визуальный энкодер ViT, двухслойный MLP-проектор и 42-слойная гибридная языковая основа, чередующая слои KDA и Gated MLA в соотношении 5:1. VideoRoPE кодирует пространственные позиции и временной порядок, что важно для анализа изменений в видео, поиска событий и ответов на вопросы по длинным видеозаписям. Поддерживаются изображения, видео и текстовый контекст объёмом до 256 тысяч токенов. Доступна версия с квантованием FP8. К сильным сторонам относятся сочетание мультимодального понимания, рассуждения и агентского взаимодействия, эффективная активация параметров при большой общей ёмкости и поддержка длинного контекста. В Artificial Analysis Intelligence Index v4.1.1 модель получила 42 балла, что на 4 балла выше результата Ling-3.0-flash. README не приводит полного перечня поддерживаемых языков, детальных ограничений, требований к качеству входных данных или результатов по всем отдельным бенчмаркам. Модель распространяется по лицензии MIT.

Devs Do Code выпустила инструкционную версию Llama 3 8B с контекстом до 1 048 576 токенов. Это плотная авторегрессионная языковая модель семейства Llama, предназначенная для диалога и генерации текста с использованием длинного контекста. По описанию разработчика, контекст расширен настройкой параметра RoPE theta; для этого этапа обучения использовано 830 млн токенов, а суммарно для всех этапов — 1,4 млрд токенов. Модель подходит для ответов на вопросы и работы с длинными документами в сценариях, где требуется учитывать большой объём входного текста. В карточке указана поддержка английского языка и форматы весов Safetensors. Для запуска можно использовать Transformers или TGI. Модель основана на Meta-Llama-3-8B-Instruct и распространяется по лицензии Llama 3. Как и другие большие языковые модели, она может выдавать неточные ответы и сохраняет остаточные риски безопасности; разработчик рекомендует оценивать риски применительно к сценарию использования и при необходимости добавлять защитные меры.

Llama_3.x_70b_Smarteaz_V1 — плотная авторегрессионная языковая модель семейства Llama с 69,5 млрд параметров, созданная Nexesenex с помощью слияния моделей MergeKit и метода Model Stock. В качестве основы использованы Smarteaz 0.1, Smarteaz 0.2 R1 и Smarteaz 0.2 NMT; в README также описаны модели, послужившие компонентами этих слияний, включая Llama 3.3 70B, Nemotron 3.1 70B, DeepSeek R1 Distill 70B и Tulu 3 70B. Модель предназначена для генерации текста и диалогового взаимодействия. Автор стремился получить сильные рассуждения и низкую perplexity, сохранив связность на длинном контексте; заявлены результаты 3,45 perplexity на WikiText English при контексте 512, более 62% на ARC-Challenge и более 82% на ARC-Easy. Метаданные указывают контекст до 131 072 токенов и интерфейс вызова инструментов. Модель рассчитана на общие текстовые сценарии; README упоминает снижение выраженности исходных инструкций, стиля и «личности» при слиянии, а также намерение сохранить минимум цензуры. Модель распространяется в формате safetensors через Transformers под лицензией Llama 3.3. Использование должно соответствовать условиям этой лицензии.

lmstudio-community/Qwen2.5-3B-Instruct-GGUF — это квантованная версия языковой модели Qwen2.5-3B-Instruct, разработанной командой Qwen. Формат GGUF подготовлен bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев и работы с инструкциями, включая понимание и генерацию структурированных данных. Модель поддерживает контекст до 32 тысяч токенов и генерацию до 8 тысяч токенов. Она обучена работать более чем с 29 языками, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся широкий охват знаний, многоязычность и поддержка длинного контекста. Как и другие генеративные модели, она может создавать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Модель распространяется по лицензии Qwen Research; применимые условия указаны в лицензии исходной модели Qwen2.5-3B-Instruct.

C4AI Command-R — исследовательская генеративная языковая модель с открытыми весами, разработанная Cohere For AI. Модель предназначена для рассуждений, суммаризации, ответов на вопросы и многоязычной генерации, а также демонстрирует высокую эффективность в сценариях Retrieval-Augmented Generation (RAG). В README указано, что модель относится к крупным языковым моделям размером около 35 млрд параметров; также доступны варианты на 32 и 35 млрд параметров. Многоязычные возможности оценивались для 10 языков. Сведения об архитектуре, максимальной длине контекста и точном перечне поддерживаемых языков не приведены. К сильным сторонам относятся открытые веса, поддержка широкого спектра текстовых задач, многоязычность и ориентация на RAG-сценарии. Ограничения связаны с исследовательским статусом модели, отсутствием подробных данных о характеристиках и применимостью условий некоммерческой лицензии CC BY-NC 4.0. В README также указано, что конвертацию выполнила Homebrew.

AMAImedia/DeepSeek-V4.1-Flash-FP8-GGUF — GGUF-квантизированная версия мультимодальной модели DeepSeek-V4.1-Flash, опубликованная AMAImedia в рамках платформы NOESIS. Модель основана на разработках DeepSeek AI и связана с базовыми моделями Tencent/Hy4-preview и AngelSlim/Hy4-preview-GGUF, указанными в карточке. Дата выпуска — 20 сентября 2026 года. Модель предназначена для работы с текстом и изображениями: она принимает изображения и текст, а генерирует текст авторегрессивно. Заявлена поддержка контекстов до одного миллиона токенов и широкого набора языков, включая английский, русский, китайский, вьетнамский, японский и многие другие. Архитектура представляет собой мультимодальную Mixture-of-Experts с 552 млрд параметров в backbone и структурой Causal Encoder-Decoder из 40 Transformer-слоёв: 20 слоёв причинного энкодера и 20 слоёв декодера. Ключевая особенность — оптимизация KV-кэша и вычислений для длинного контекста и input-heavy агентских сценариев. Во время prefill активируется около 8 млрд параметров на токен, а во время decode — около 16 млрд; механизм SWA Bounded Replay уменьшает постоянный объём KV-кэша примерно до одной восьмой от DeepSeek-V4-Flash. Используется Compressed Sparse Attention 2 с режимами Full, Reindex и Reuse. GGUF и FP8 ориентированы на эффективное локальное или специализированное инференс-развёртывание, однако требования к памяти и производительности для модели такого масштаба в карточке не указаны. Лицензия, указанная в метаданных этой версии, — Apache 2.0. Полные сведения о качестве, бенчмарках, точных характеристиках квантизации и ограничениях применения в представленном README отсутствуют.

DazzlingShadow публикует вариант Qwen3.5-122B-A10B с изменённым профилем отказов (abliteration). В приведённом сравнении частота отказов снизилась с 88 до 16 из 100 запросов при KL-дивергенции 0,0233 относительно исходной модели. Это мультимодальная модель для диалога, генерации текста и понимания изображений; карточка описывает её как причинную языковую модель с визуальным энкодером и разреженной архитектурой Mixture-of-Experts с Gated Delta Networks. Всего 122 млрд параметров, активируется 10 млрд; контекстное окно — 262 144 токена с возможностью расширения до 1 010 000. Исходная модель заявляет поддержку 201 языка и диалекта, однако карточка не уточняет, какие языки сохраняются в этом производном варианте. Модель доступна в формате Safetensors и предназначена для Transformers и совместимых серверов инференса. Лицензия — Apache-2.0. Снижение отказов не гарантирует их полного отсутствия; производительность и совместимость зависят от используемого фреймворка и ресурсов.

SJT-7B-1M — разговорная языковая модель Sakalti, созданная слиянием моделей через mergekit. В качестве основы использована Qwen/Qwen2.5-7B-Instruct-1M, объединённая с Sakalti/model-3 методом TIES. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 1 010 000 токенов. Метаданные также отмечают интерфейс для вызова инструментов. Репозиторий содержит веса в формате safetensors; README указывает тип float16. Лицензия в предоставленных данных не указана.

gemma-4-12B-it-QUASAR-Q4_0-GGUF — мультимодальная квантованная версия модели Gemma 4 12B Instruct, разработанная QUASAR-QAT на базе google/gemma-4-12B-it. Модель предназначена для диалогов, генерации и понимания текста, работы с изображениями, рассуждений, вызова функций и инструментов, а также агентских сценариев. Заявлена поддержка английского и других языков, однако полный перечень языков и размер контекстного окна в README не указаны. Модель поставляется в формате GGUF с нативной 4-битной INT4-квантизацией Q4_0, выполненной методом quantization-aware training. Указан размер базовой модели 12B параметров; мультимодальная поддержка обеспечивается vision projector из исходной BF16-модели. Формат совместим со стандартными средствами llama.cpp, Ollama и LM Studio. По измерениям авторов, на отложенных чат-запросах модель показала KL-дивергенцию 0,048 и совпадение top-1 с BF16-версией на уровне 94,3%; эти результаты помечены как непроверенные. К сильным сторонам относятся сохранение близкого к BF16 поведения при меньшем размере и требованиях к ресурсам, а также поддержка текста и изображений. Ограничения включают возможные потери качества из-за 4-битной квантизации, зависимость мультимодальных возможностей от совместимого рантайма и отсутствие в README точных требований к памяти, производительности и максимальному контексту. Модель распространяется по лицензии Apache-2.0.

Kanana-2-30B-A3B-Thinking — языковая модель Kakao Corporation из семейства Kanana-2, предназначенная для генерации текста с пошаговым рассуждением. Это дообученная версия Kanana-2-30B-A3B-Base на архитектуре DeepSeek V3 с механизмами MLA и Mixture of Experts: всего 30 млрд параметров, из которых активируются около 3 млрд. Репозиторий содержит веса в формате Safetensors; для запуска README рекомендует Transformers версии 4.51.0 или новее. Модель рассчитана на сложные инструкции, логические задачи, длительные диалоги и агентные сценарии с вызовом инструментов. Она поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки, а её штатная длина контекста составляет 32 768 токенов. README описывает настройку YaRN для контекстов до 128 тысяч токенов, но предупреждает, что масштабирование может ухудшить качество на коротких текстах. Лицензия указана как Other, поэтому условия использования следует уточнять в карточке модели. README сообщает, что пользовательские данные Kakao не использовались при предварительном обучении и дообучении. Модель ориентирована на генерацию текста; изображения и аудио в качестве входа не заявлены.

MiniMax-Text-01 — большая языковая модель компании MiniMax для диалогов и генерации текста. В README указаны 456 млрд параметров, из которых на каждом токене активируются 45,9 млрд; архитектура сочетает Lightning Attention, Softmax Attention и смесь экспертов MoE с 32 экспертами и маршрутизацией Top-2. Метаданные каталога при этом указывают 21,6 млрд параметров, поэтому размер модели в источниках расходится. Модель предназначена для диалоговых приложений, задач генерации текста и работы с длинными контекстами. README сообщает о контексте до 1 млн токенов при обучении и до 4 млн при инференсе, тогда как метаданные указывают нативное окно в 10 240 000 токенов. Поддерживаются вызов функций со структурированными JSON-параметрами и интеграция с форматом OpenAI-compatible; заявлены результаты на академических тестах и бенчмарках длинного контекста. README рекомендует vLLM для развёртывания и описывает доступ к модели через онлайн API и чат-бот. Условия лицензирования в предоставленных данных не указаны. Языки модели также не установлены по доступным сведениям.

FriendliAI публикует версию C4AI Command R+, квантизированную в FP8 для ускорения инференса при сохранении высокой точности. В основе — авторегрессионный трансформер CohereForAI примерно на 103,8 млрд параметров; модель принимает текст и генерирует текст. Для этой версии метаданные указывают контекст 8192 токена. Указанные в карточке базовой Command R+ 128K токенов к этой версии не относятся. Модель предназначена для диалогов, ответов на вопросы, суммаризации, RAG и многошагового использования инструментов. Она оптимизирована для английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков; русский входил в дополнительные языки предобучения. Для работы с FP8 нужны GPU NVIDIA Ada, Hopper или Blackwell; README описывает запуск через Friendli Container. Лицензия — CC-BY-NC-4.0, с ограничениями на коммерческое использование.

Fx-Work — мультимодальная языковая модель класса 35B для профессиональных задач в средах с файлами и инструментами. Она разработана командой Endless Frontier на базе Qwen3.6-35B-A3B и дообучена на 20 тысячах траекторий взаимодействия с инструментами. Модель интерпретирует рабочие материалы разных типов, учитывает операционные ограничения, при необходимости формирует вызовы инструментов и создаёт результаты по заданным требованиям. Модель рассчитана на агентные рабочие сценарии: анализ документов и других материалов, выполнение последовательных задач и подготовку профессиональных результатов. Поддерживает изображения и видео вместе с текстом; карточка указывает английский язык. В README для запуска приведён контекст до 262 144 токенов. Заявленные результаты сравнительных оценок относятся к конкретным бенчмаркам и не гарантируют такого же качества в других задачах. Для работы с инструментами требуется окружающая агентная инфраструктура; сервер модели выдаёт текст и, при настройке, ответы с вызовами инструментов. Модель распространяется по лицензии Apache-2.0.

Nesso-4B — компактная языковая модель-ассистент от Mii, основанная на плотной архитектуре Qwen3. В репозитории указано 4,0 млрд параметров, а метаданные фиксируют 3,7 млрд; модель распространяется в формате safetensors и рассчитана на запуск локально на пользовательском оборудовании. Заявленное окно контекста — до 262 144 токенов, однако для устройств с ограниченной памятью README рекомендует сокращать его. Модель предназначена для повседневного диалога, генерации текста, поиска ответов по документам с RAG, агентных сценариев и использования инструментов. Заявлена поддержка нескольких языков и кросс-языковых задач, но конкретные языки и их качество не перечислены. Поддерживаются Transformers и приложения локального запуска, включая Ollama, LM Studio, llama.cpp и MLX-LM. Лицензия — Mii Open License 1.0; условия следует сверить с текстом лицензии в репозитории.

ZEUS-8B-V24 — объединённая языковая модель семейства Llama 3.1, созданная автором карточки с помощью mergekit и метода DARE TIES. В объединение вошли инструкционная модель unsloth/Meta-Llama-3.1-8B-Instruct и несколько других моделей Llama 3.1, включая варианты для диалога, рассуждений и медицинских ответов. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции и задачи, где полезны рассуждения. Метаданные также отмечают интерфейс вызова инструментов. В README приведены результаты Open LLM Leaderboard, в том числе 60% на IFEval и 26,15% на BBH; эти оценки не гарантируют качество в конкретном сценарии. Лицензия в предоставленных сведениях не указана.

Gemma 3 12B IT QAT GGUF — мультимодальная instruction-tuned модель, разработанная Google и представленная сообществом LM Studio в формате GGUF. Это квантизированная версия базовой модели google/gemma-3-12b-it, подготовленная с применением Quantization Aware Training для повышения качества 4-битного вывода. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммаризацию, рассуждения и другие сценарии обработки текста и изображений. Она поддерживает контекст до 128 000 токенов и максимальную длину вывода 8 192 токена. Изображения обрабатываются после нормализации до разрешения 896 × 896. Сведения о поддерживаемых языках и точном числе параметров, помимо обозначения 12B, в README не указаны. Ключевое преимущество — сочетание мультимодальности, длинного контекста и оптимизированного 4-битного квантования, что может снизить требования к ресурсам по сравнению с полноточной моделью. Ограничения включают возможные неточности, вредные или неподходящие ответы, характерные для генеративных моделей. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется принять условия этой лицензии.

zaakirio/gemma-4-12b-it-uncensored-GGUF — набор GGUF-квантизаций модели zaakirio/gemma-4-12b-it-uncensored, разработанной на основе Google Gemma 4 12B Instruct. Это декензурированная версия, полученная методом Heretic-abliteration, ориентированная на диалоговые сценарии и запуск через llama.cpp. Модель предназначена для генерации текста, общения, анализа изображений и аудио, а также обработки видео через выборку кадров и аудиодорожку. Модель представляет собой encoder-free unified multimodal decoder-only transformer с 12 млрд параметров и контекстным окном до 256K токенов. Поддерживаются текст, изображения, аудио и видео; для мультимодального ввода требуется отдельный проектор mmproj-gemma-4-12B-it-bf16.gguf. Доступны варианты от Q2_K до Q8_0 и f16 размером примерно от 4,50 до 22,20 ГБ. Опциональный MTP-драфтер может ускорить генерацию на GPU. Поддерживается reasoning-режим, а также системная роль. Сильные стороны модели — сочетание мультимодальности, большого контекста, различных уровней квантизации и совместимость с llama.cpp. Обработка аудио в llama.cpp отмечена как экспериментальная, поэтому качество распознавания может быть сниженным; обработка видео зависит от клиента, выполняющего извлечение кадров. Языки модели явно не перечислены, однако в README подтверждена точная многоязычная транскрипция речи. Лицензия указана как gemma.

GPT-5.4 — фронтирная модель OpenAI, объединяющая линейки Codex и GPT. По карточке, она поддерживает контекст более чем в 1 млн токенов: до 922 тыс. входных и 128 тыс. выходных токенов. В доступных данных также указана задача image-text-to-text. Модель предназначена для работы с текстом и изображениями и выдачи текстовых ответов. Сведений о конкретных сценариях, языках, архитектуре, размере и лицензии в предоставленных данных нет, поэтому их нельзя уточнить.

CombinHorizon/huihui-ai-abliterated-Qwen2.5-32B-Inst-BaseMerge-TIES — объединённая модель генерации текста на архитектуре Qwen2.5, созданная с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-32B, объединённая с huihui-ai/Qwen2.5-32B-Instruct-abliterated. Модель содержит 32 млрд параметров, распространяется в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и задач, решаемых языковой моделью, включая ответы на запросы и работу с длинным контекстом. В метаданных также отмечен интерфейс вызова инструментов. Для оценки приведены результаты Open LLM Leaderboard, в том числе IFEval 82,06 и BBH 56,04; это не заменяет проверку на целевых задачах. Поддерживаемый язык карточки — английский. Лицензия — Apache-2.0.

Nemotron-3.5-Lightning-Omni-30B-A3B-GGUF — мультимодальная версия NVIDIA Nemotron 3.5 Lightning, подготовленная engram-ae в формате GGUF для llama.cpp. Модель объединяет текстовую агентную основу NVIDIA Nemotron 3.5 Lightning 30B-A3B с 3B активных параметров, гибридной архитектурой Mamba-2, MoE и attention, а также контекстом до 1 млн токенов. Обучение для добавления модальностей не проводилось: использованы vision tower C-RADIO ViT-H и audio tower Parakeet FastConformer-XL из Nemotron-3-Nano-Omni, подключённые через единый мультимодальный проектор. Модель предназначена для работы с текстом, изображениями, аудио и видео, включая однопроходный анализ видео вместе с аудиодорожкой. Для видео применяются обработка кадров C-RADIO, временные патчи из двух кадров и прореживание токенов EVS. Доступны различные квантизации GGUF размером примерно от 18,7 до 35 ГБ; проектор занимает около 3 ГБ и используется со всеми вариантами. Поддерживаются сценарии локального запуска от Jetson до серверных систем и API-совместимый endpoint llama.cpp. Сильными сторонами являются широкий набор модальностей, большой контекст, агентная текстовая основа и возможность локального инференса. Видео для Nemotron требует специализированной ветки llama.cpp-omni; стандартная upstream-версия поддерживает текст, изображения и аудио, но не этот видеопуть. При совместном анализе видео и звука рекомендуется явно просить модель описать визуальную часть и транскрибировать речь, поскольку нейтральный запрос может привести к доминированию аудиоканала. Лицензия указана как openmdw-1.1.

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-GGUF — модель, разработанная Jackrong на основе плотной архитектуры Qwen3.5-9B. Она дообучена методом Supervised Fine-Tuning с применением LoRA и библиотеки Unsloth на данных, полученных дистилляцией рассуждений из взаимодействий с Claude 4.6 Opus, а также на наборах Jackrong/Qwen3.5-reasoning-700x и nohurry/Opus-4.6-Reasoning-3000x-filtered. Распространяется в формате GGUF и предназначена для использования с llama.cpp и совместимыми инструментами. Основное назначение модели — решение сложных задач с пошаговым рассуждением, включая научные, математические и инструкционные сценарии. Обучение ориентировано на структурирование анализа, разбиение задачи на подзадачи, проверку ограничений и формирование итогового ответа. В заявленном формате модель использует структуру <think>...</think> перед финальным ответом и стремится сокращать избыточные повторения в рассуждениях. Известно, что модель имеет 9 млрд параметров и поддерживает английский и китайский языки. В метаданных также заявлены мультимодальные возможности image-text-to-text и обработка изображений, однако в описании процесса обучения итоговая модель обозначена как text-only, поэтому практическую поддержку изображений следует проверять отдельно. Размер контекста, конкретная GGUF-квантизация и результаты независимых бенчмарков не указаны. Лицензия — Apache-2.0.

GigaChat-20B-A3B-instruct-v1.5 — диалоговая языковая модель семейства GigaChat, разработанная ai-sage и дообученная на базе ai-sage/GigaChat-20B-A3B-base. Модель использует архитектуру DeepseekForCausalLM, содержит 3,1 млрд параметров и поддерживает контекст до 131 072 токенов. Она предназначена для диалога и генерации текста на русском и английском языках. Обновлённая версия получила улучшенное выравнивание ответов: в README сообщается о росте результатов Arena Hard RU с 20,8 до 29,6 и Arena General с 41,1 до 49,1; также приведены результаты на тестах MERA, ru-MMLU и математических задачах. Подходит для диалоговых ассистентов, ответов на вопросы, решения математических задач и генерации текста. Для работы с Transformers требуется версия 4.47 или новее; README предупреждает об особенностях токенизации при использовании vLLM и не рекомендует один из способов подготовки входа. Лицензия — MIT.