I.2Синтез, понимание и проверка знаний

Карточка модели mcwei/gemma-4-31B-it-bf16-sft-300 на Hugging Face совпадает с карточкой mcwei/gemma-4-31B-it-bf16-sft-novel-prefill-150, поэтому описание составлено по ней. mcwei/gemma-4-31B-it-bf16-sft-novel-prefill-150 — дообученная модель mcwei на базе unsloth/gemma-4-31B-it, созданная с использованием Unsloth и библиотеки Hugging Face TRL. Это мультимодальная плотная модель Gemma 4 с 31 млрд параметров для диалогов и анализа изображений; также базовая модель поддерживает программирование и вызов инструментов. Модель принимает текст и изображения и генерирует текст. В карточке указана лицензия Apache-2.0.

Карточка модели Huy112200/gemma-4-E4B-it-Claude-Opus-4.5-HERETIC-UNCENSORED-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-4-E4B-it-Claude-Opus-4.5-HERETIC-UNCENSORED-Thinking, поэтому описание составлено по ней. Это экспериментальная мультимодальная модель семейства Gemma 4 E4B Instruct от DavidAU: базовая модель Google Gemma 4 E4B Instruct была декензурирована и умеренно дообучена с помощью Unsloth на закрытом наборе данных рассуждений Claude Opus 4.5. Модель предназначена для диалога и генерации ответов с режимом рассуждений; шаблоны чата позволяют использовать режим instruct или принудительно включённый режим thinking. В README заявлена длина контекста до 128 тысяч токенов. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса Safetensors. В метаданных основная задача указана как any-to-any, а базовая модель описана как мультимодальная, поддерживающая анализ изображений и обработку аудио. Лицензия — Apache-2.0. Автор приводит предварительные внутренние бенчмарки, но отмечает, что статистика ещё собирается; качество и безопасность ответов не гарантированы, а данные дообучения закрыты.

Gemma-4-E4B-it-Uncensored-GGUF — это GGUF-квантизированные версии дообученной модели Gemma-4-E4B-it-Uncensored, разработанной ccharnkij на базе google/gemma-4-E4B-it. Модель предназначена для генерации текста, рассуждений и мультимодального взаимодействия с изображениями, включая задачи понимания изображений и image-text-to-text. Для работы с изображениями необходимо одновременно загрузить файл модели GGUF и файл mmproj. Модель поддерживает английский язык; README не содержит точных сведений о размере в параметрах, длине контекста и конкретной архитектуре. Версия описывается как zero-shot uncensored, однако это поведение не гарантируется: при включённом режиме рассуждений модель иногда может отказывать в ответе. По данным автора, для uncensored-сценариев обычно лучше подходит режим без рассуждений. Модель предназначена для исследовательских и образовательных целей. Она распространяется по лицензии Apache 2.0.

Gemma-4-E4B-Uncensored-HauhauCS-Aggressive — мультимодальная модель в формате GGUF, созданная HauhauCS на базе Google Gemma 4 E4B IT. Модель ориентирована на работу с текстом, изображениями, видео и аудио, а также на сценарии локального запуска через llama.cpp, LM Studio, Jan, koboldcpp и другие совместимые среды. Версия Aggressive модифицирована для минимизации отказов в ответах, поэтому подходит для задач, где требуется менее ограниченное следование запросам, однако может генерировать потенциально нежелательный или небезопасный контент. Модель содержит около 4 млрд параметров, включает 42 слоя со смешанной архитектурой sliding window attention с окном 512 и full attention, поддерживает контекст до 131 000 токенов и использует 18 общих KV-слоёв для снижения требований к памяти. Для мультимодальной работы требуется отдельный файл mmproj. Доступны варианты квантования от Q2 до Q8, включая оптимизированные HauhauCS K_P-кванты; размер файлов составляет примерно от 4,2 до 7,6 ГБ, не считая mmproj размером около 945 МБ. Сильными сторонами являются мультимодальность, большой контекст, возможность локального запуска и широкий выбор квантований. Ограничения включают отсутствие полноценной проверки поведения на длинном контексте, возможные редкие пограничные случаи и снижение качества при использовании более агрессивного квантования. Для llama.cpp рекомендуется включать параметр --jinja, а для изображений и аудио подключать mmproj. В README указана лицензия Gemma.

Gemmasutra-Pro-27B-v1-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Gemmasutra-Pro-27B-v1, разработанной TheDrummer и подготовленной в различных вариантах точности пользователем bartowski. Модель предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В репозитории представлены версии от F32 размером 108,91 ГБ до IQ2_M размером 9,40 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ, позволяющие выбирать компромисс между качеством, потреблением памяти и скоростью работы. Рекомендуемыми обозначены варианты Q4–Q6; более компактные версии подходят для систем с ограниченным объёмом оперативной памяти, но обеспечивают более низкое качество. Модель работает в режиме text-generation, однако сведения об архитектуре, поддерживаемых языках и размере контекстного окна в README не указаны. Для корректного использования требуется указанный формат prompt с маркерами ролей; системный prompt не поддерживается. К преимуществам относятся широкий выбор квантизаций и возможность локального запуска, а основными ограничениями — зависимость качества от выбранного варианта квантизации и отсутствие поддержки системных инструкций. Распространение осуществляется по лицензии CC BY-NC 4.0, то есть с обязательным указанием авторства и ограничениями на коммерческое использование.

mastouri/GLM-5.2-colibri-int4-g64-with-int8-mtp — это контейнерная квантованная версия базовой модели zai-org/GLM-5.2, преобразованная для потокового движка colibri. В основе лежит GLM-5.2 с разреженной MoE-архитектурой и заявленным масштабом 744 млрд параметров. Модель предназначена для генерации текста и запуска локального вывода на GPU с ограниченными ресурсами, включая сценарии со стримингом экспертных весов с NVMe. Экспертные веса представлены в формате grouped int4 с размером группы 64 и отдельными float32-масштабами; embedding и lm_head используют int8, нормализации — float32. Дополнительная MTP-голова для speculative decoding имеет формат int8. Размер контейнера составляет около 429 ГБ и включает 141 shard с весами, а также конфигурацию и токенизатор. README не сообщает поддерживаемые языки, точный размер контекста и набор модальностей; по назначению это текстовая, а не мультимодальная модель. Групповые масштабы призваны уменьшить влияние выбросов и улучшить качество по сравнению с per-row int4; в приведённом сравнении указан результат 87,0% против 83,5% на hellaswag. Int8 MTP-голова обеспечивает заметно более высокую эффективность чернового принятия токенов, чем int4-вариант. Основные ограничения — очень большой объём хранения, зависимость от движка colibri и необходимость версии 1.5.0 или новее для безопасной загрузки. Модель распространяется по лицензии MIT; для запуска требуется совместимый GPU-стек и актуальная исправленная версия colibri.

brandonmusic/GLM-5.3-Flash-tr3-4bpw — это квантованная версия GLM-5.3-Flash, разработанная brandonmusic на основе zai-org/GLM-5.3-Flash-BF16. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений; в карточке указана интеграция с Transformers и pipeline image-text-to-text. Это EXL3/TR3-чекпойнт с равномерным K4-квантованием маршрутизируемых экспертов и точностью 4 бит на вес, ориентированный на высокопроизводительный запуск на двух GPU с архитектурой SM120. Модель поддерживает профили мультимодального и текстового запуска с DFlash2, а также текстовый профиль с встроенной головой MTP3. Для опубликованного мультимодального профиля заявлен предел запроса 98 304 токена и 129 473 токена KV-кэша; текстовый профиль с MTP3 рассчитан на существенно больший объём кэша — до 1 376 256 измеренных KV-токенов. Реализация использует NVFP4-кэш MLA KV, CUDA graphs и специализированную сборку vLLM/B12X, поэтому несовместима со стандартным upstream vLLM. Для мультимодального запуска требуется отдельный чекпойнт GLM-5.3-Flash-DFlash2. К сильным сторонам относятся низкая разрядность, поддержка изображений, режимы ускоренного декодирования и заявленная близость распределения токенов к BF16-версии: средняя токеновая KL-дивергенция указана на уровне 0,02455 ната на закрытом тестовом наборе. Ограничения включают зависимость от специализированного ПО и оборудования SM120, необходимость отдельного DFlash2-чекпойнта для некоторых профилей, ограниченную ёмкость резидентного контекста в мультимодальном режиме и постановку дополнительных запросов в очередь. Модель распространяется по лицензии shapleymcg-license-1.0; отдельный DFlash2-чекпойнт имеет лицензию CC-BY-NC-ND-4.0.

Tristan/gpt2_reward_summarization — модель классификации текста на базе GPT-2, опубликованная пользователем Tristan на Hugging Face. Она предназначена для оценки качества кратких пересказов и может использоваться как функция вознаграждения или судья при сравнении вариантов суммаризации. Репозитория карточки модели нет; Hugging Face указывает архитектуру GPT2ForSequenceClassification, формат PyTorch и контекст 1024 токена. Модель принимает текст и возвращает классификационный результат, а не генерирует резюме. Язык и конкретный набор меток достоверно не установлены. Лицензия в доступных сведениях не указана.

GrayLine-Qwen3-14B-i1-GGUF — это набор взвешенных imatrix-квантизаций в формате GGUF базовой модели GrayLine-Qwen3-14B, разработанной soob3123 и квантизированной mradermacher. Модель основана на Qwen3 с заявленным размером 14 миллиардов параметров. В README указаны английский язык и библиотека Transformers, однако сведения о точной архитектуре, размере контекста и поддерживаемых модальностях отсутствуют. Модель предназначена для генерации текста, прямых ответов, информационного поиска и работы с общими знаниями. В метаданных она также описана как uncensored, unfiltered и amoral-ai, поэтому её поведение может быть менее ограниченным стандартными защитными настройками. Доступны варианты квантизации от IQ1 и Q2 до Q6, размером примерно от 3,7 до 12,2 ГБ; README рекомендует i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Более низкие уровни квантизации могут заметно снижать качество. Лицензия модели указана как Apache-2.0. Ограничения включают возможную потерю качества из-за квантизации, особенно у малых вариантов, а также отсутствие в README подробных результатов оценки, описания обучающих процедур базовой модели и гарантий точности ответов.

Модель gustavecortal_Beck-8B-GGUF представляет собой набор GGUF-квантизаций базовой модели Beck-8B, разработанной gustavecortal. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до низкобитных форматов Q8, Q6, Q5, Q4, Q3 и Q2, размер файлов составляет примерно от 3,6 до 16,4 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие требуют меньше оперативной памяти; для большинства сценариев рекомендуется Q4_K_M, тогда как Q5 и Q6 ориентированы на более высокое качество. Формат GGUF удобен для локального вывода на совместимом оборудовании, включая CPU и GPU. В README не указаны точная архитектура исходной модели, поддерживаемые языки, размер контекстного окна, мультимодальные возможности, специализированные сценарии применения и лицензия. Шаблон чата также не задан, поэтому приведённый формат приглашения может потребовать проверки по карточке исходной модели.

Карточка модели kyutai/helium-1-2b-books на Hugging Face совпадает с карточкой kyutai/helium-1-2b, поэтому описание составлено по ней. Helium-1-2B — базовая языковая модель Kyutai с архитектурой Llama и 1,9 млрд параметров, представленная в формате safetensors для библиотеки Transformers. Модель обучена на текстах на 24 официальных языках Европейского союза; её контекст составляет 4096 токенов. По карточке, модель дистиллирована из Gemma 2. Модель предназначена для генерации и понимания текста, а также для исследований и разработки систем NLP. Она не дообучена следовать инструкциям или предпочтениям людей, поэтому для прикладных сценариев обычно требуется дополнительное выравнивание, например supervised fine-tuning или RLHF. Компактный размер ориентирован на использование на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Модель может генерировать фактические ошибки, предвзятый, вредный или бесполезный текст; перед применением необходимы оценка и меры снижения рисков. Поддерживаются английский, болгарский, чешский, датский, немецкий, греческий, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский языки. Лицензия — CC-BY-SA 4.0; также действуют условия использования Gemma.

Карточка модели kyutai/helium-1-2b-wiki на Hugging Face совпадает с карточкой kyutai/helium-1-2b, поэтому описание составлено по ней. Helium-1-2B — базовая языковая модель Kyutai с архитектурой Llama и 1,9 млрд параметров, представленная в формате safetensors для библиотеки Transformers. Модель обучена на текстах на 24 официальных языках Европейского союза; её контекст составляет 4096 токенов. По карточке, модель дистиллирована из Gemma 2. Модель предназначена для генерации и понимания текста, а также для исследований и разработки систем NLP. Она не дообучена следовать инструкциям или предпочтениям людей, поэтому для прикладных сценариев обычно требуется дополнительное выравнивание, например supervised fine-tuning или RLHF. Компактный размер ориентирован на использование на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Модель может генерировать фактические ошибки, предвзятый, вредный или бесполезный текст; перед применением необходимы оценка и меры снижения рисков. Поддерживаются английский, болгарский, чешский, датский, немецкий, греческий, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский языки. Лицензия — CC-BY-SA 4.0; также действуют условия использования Gemma.

Карточка модели FreedomIntelligence/HuatuoGPT-7B на Hugging Face совпадает с карточкой FreedomIntelligence/HuatuoGPT-13b-delta, поэтому описание составлено по ней. HuatuoGPT-13b-delta — языковая модель семейства LLaMA с 12,9 млрд параметров, представленная проектом HuatuoGPT. Репозиторий направляет к проекту, но не содержит подробностей о назначении и обучении именно этой версии. Модель использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст. В метаданных указано контекстное окно 2048 токенов и формат PyTorch. Лицензия — Apache-2.0.

zenlogic выпустил конверсию модели huihui-ai/Huihui-gemma-4-31B-it-abliterated в формат MLX с точностью fp16; README указывает, что преобразование выполнено с помощью mlx-lm версии 0.31.2. В основе лежит дообученная мультимодальная Gemma 4 31B Instruct со сниженным числом отказов. Модель предназначена для диалогов и генерации ответов; архитектура — плотная Gemma4ForConditionalGeneration, поддерживается обработка входов и выдача разных типов данных. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Сборка MLX рассчитана на запуск через mlx-lm. Метаданные не уточняют контекстное окно и набор языков, поэтому описание ограничено подтверждёнными характеристиками.

Карточка модели akpsahan/Huihui-gemma-4-31B-it-abliterated-v2 на Hugging Face совпадает с карточкой huihui-ai/Huihui-gemma-4-31B-it-abliterated-v2, поэтому описание составлено по ней. Huihui-gemma-4-31B-it-abliterated-v2 — модифицированная модель Google Gemma 4 31B Instruct от Huihui-ai. Это плотная мультимодальная модель для условной генерации, основанная на google/gemma-4-31B-it и изменённая методом abliteration, который снижает число отказов на запросы. Автор описывает её как грубую экспериментальную реализацию и доказательство концепции. Модель предназначена для диалогов, генерации текста и работы с изображениями в сценариях, где требуется меньше отказов. В README приведено сравнение perplexity с исходной моделью на тесте Wiki с контекстом 8192 токена; результат v2 ниже, однако это не подтверждает качество на широком наборе задач. Репозиторий использует Transformers и содержит веса SafeTensors. Лицензия — Apache-2.0.

Это квантованная версия модели Huihui-Qwen3.5-35B-A3B-Claude-4.6-Opus-abliterated от elbelga в формате GGUF для локального запуска через llama.cpp. Модель поддерживает диалог и обработку изображений вместе с текстом; README описывает вариант с MXFP4 для тензоров MoE и BF16 для остальных тензоров, а для мультимодальной работы рекомендует mmproj в F32. Замена Q8 на BF16 может повысить сохранность качества, но на некоторых архитектурах замедляет инференс. Модель предназначена для локальных чат-сценариев с текстовыми и визуальными запросами. Она основана на дообученной Huihui-Qwen3.5-35B-A3B-Claude-4.6-Opus-abliterated; сведений о лицензии, языках и размере контекста в предоставленных данных нет.

Карточка модели caiyi/Huihui-Qwen3.8-27B-abliterated-KO-Ridge-3.7bpw-GGUF на Hugging Face совпадает с карточкой donghanasd/Huihui-Qwen3.8-27B-abliterated-KO-Ridge-3.7bpw-GGUF, поэтому описание составлено по ней. Это квантованная сборка GGUF Huihui-Qwen3.8-27B-abliterated, подготовленная donghanasd для запуска через llama.cpp. Модель основана на дообученной Qwen3.8 с 27 млрд параметров и использует смешанную раскладку тензоров Ridge с точностью 3,69 BPW; целевой файл занимает около 12,6 ГБ. Сборка предназначена для текстовых диалогов и генерации текста, а в проверенной конфигурации работает совместно с черновой моделью Qwen3.8 DFlash 2 для спекулятивного декодирования. Автор проверил запуск на NVIDIA RTX 5060 Ti с 16 ГБ видеопамяти через специальную сборку llama.cpp. Указаны результаты коротких пробных запросов, но они не являются полноценным бенчмарком; скорость зависит от оборудования, длины контекста и настроек. Хотя метаданные исходной модели указывают контекст 262 тысячи токенов, для проверенного профиля на 16 ГБ описан контекст 128 тысяч токенов с квантованным KV-кэшем. Текущая конфигурация текстовая и не поддерживает обработку изображений. Модель ослабляет отказы и может выдавать небезопасный, неточный, предвзятый или нежелательный контент. В README указана лицензия Apache-2.0; при использовании также следует учитывать лицензии и условия компонентов, от которых зависит сборка.

Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated-GGUF — набор квантованных версий мультимодальной модели Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated, разработанной huihui-ai. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. Модель основана на архитектуре Qwen3-VL и имеет конфигурацию 30B-A3B; точные характеристики архитектуры, поддерживаемые языки и размер контекста в README не указаны. Распространяется в формате GGUF для запуска через llama.cpp; для работы требуется актуальная версия llama.cpp и соответствующий мультимодальный проектор mmproj. Указано, что приоритет качества обычно имеют варианты mmproj в порядке F32, BF16, F16. В наборе применена imatrix от unsloth, что связано с оптимизацией квантования. Основные ограничения — зависимость доступного качества и производительности от выбранного уровня квантования и аппаратных ресурсов, а также необходимость отдельного mmproj. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели и репозитории квантованных версий.

natong19/InternVL2-8B-abliterated — модифицированная версия мультимодальной модели InternVL2-8B. Разработчик применил ортогонализацию весов, чтобы ослабить склонность модели отказываться от запросов, сохранив текстовые и мультимодальные возможности. Модель построена на архитектуре InternVLChatModel и предназначена для диалогов с текстом и изображениями; в метаданных для неё указан pipeline image-text-to-text. Её можно использовать для вопросов по изображениям, мультимодального чата и обычных текстовых задач. В приведённых тестах результаты на ARC и MMLU немного ниже, чем у исходной InternVL2-8B. Ослабление отказов не гарантирует, что модель выполнит любой запрос: она может неверно понять намерение, отказаться или сама затронуть вопросы этики и безопасности. Репозиторий распространяется по лицензии MIT.

InternVL2-8B-MPO — мультимодальная диалоговая модель OpenGVLab на базе InternVL2-8B. Её дообучили на наборе MMPR методом Mixed Preference Optimization (MPO), чтобы улучшить рассуждения по изображениям, в том числе пошаговые рассуждения и задачи на математику, и уменьшить число галлюцинаций. В тесте MathVista модель достигла точности 67,0%, на 8,7 процентного пункта выше, чем InternVL2-8B. Модель принимает изображения и текстовые запросы и генерирует текстовые ответы. Она предназначена для мультимодальных диалогов, анализа изображений и документов, а также визуальных задач на рассуждение. README описывает запуск через Transformers и поддержку нескольких изображений в одном запросе. В метаданных указаны архитектура InternVLChatModel, формат safetensors и библиотека Transformers. Модель выпущена под лицензией MIT. Результаты бенчмарков показывают преимущество в отдельных задачах, но не гарантируют такую же точность на произвольных изображениях и запросах; для работы с несколькими изображениями расходуется больше контекстных токенов.

ISOM-R1-Reasoning-1.5B-Instruct-Beta — дообученная модель Prannessh K.V.A. на основе Qwen2.5-1.5B-Instruct с архитектурой ISOM и механизмами ограниченного KV-кэша. Она предназначена для диалоговой генерации текста и задач рассуждения, включая длинные последовательности; README описывает bounded-cache и streaming-retrieval механизмы для снижения расхода памяти при инференсе. Модель содержит 1,5 млрд параметров, принимает текст и рассчитана прежде всего на английский язык. Заявленная длина контекста в метаданных — 131 072 токена; README описывает ISOM-R2 обработку до 1 048 576 токенов, однако приведённые в карточке аппаратные измерения ограничены 8 192 токенами. Карточка заявляет компактное потребление памяти KV-кэшем и ускорение на длинных входах, но независимая проверка этих показателей в предоставленных данных отсутствует. Для работы с интерфейсом вызова инструментов метаданные указывают соответствующую возможность, но не описывают её ограничения. Лицензия репозитория — CC BY-NC-ND 4.0; README также упоминает Apache 2.0 для базовой модели, поэтому условия использования производной модели следует определять по лицензии репозитория.

K2-Horizon-7B-GGUF — набор GGUF-квантизованных версий модели IFM/K2-Horizon-7B, разработанной IFM. Модель предназначена для генерации текста и запуска через llama.cpp; указанный вариант опубликован с поддержкой форматов Q8_0, Q6_K и Q4_K_M, а также содержит файл матрицы важности для воспроизводимости квантизации. Заявленный максимальный контекст составляет 524 288 токенов, однако практическая длина контекста зависит от доступной памяти и настроек KV-кэша. В карточке указан английский язык. Архитектурные детали и точные сведения о тренировочных данных в README не приведены. Q8_0 обеспечивает качество, близкое к BF16, Q6_K предлагает компромисс между качеством и размером, а Q4_K_M является наиболее компактным рекомендуемым вариантом. Указанные результаты на небольшом тесте WikiText-2 показывают минимальные отклонения для Q8_0 и более заметные для Q4_K_M, но это не является полноценной оценкой прикладных возможностей модели. Для запуска требуется поддержка K2 Horizon: на момент публикации рекомендуется форк llama.cpp от MBZUAI-IFM или версия upstream с соответствующей поддержкой. Исходная модель распространяется под лицензией Apache-2.0.

Myric/K2-Horizon-MoVA-36B-A4B-APEX-GGUF — это квантизированная GGUF-версия модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной Institute of Foundation Models при MBZUAI в рамках линии LLM360/K2. Модель предназначена для генерации текста и локального запуска через llama.cpp; она не связана с Kimi K2 от Moonshot. Распространяется по лицензии Apache-2.0. Модель содержит около 37,445 млрд параметров и использует архитектуру Mixture of Experts: 48 слоёв, включая 3 плотных, 100 FFN-экспертов с выбором top-8 и одним общим экспертом. Её отличительная особенность — механизм MoVA, или Mixture-of-Values Attention: в 45 слоях используется маршрутизация по 64 value-экспертам с выбором top-4. Конфигурация внимания включает 32 головы и 8 KV-голов, размер головы — 128. Контекстное окно составляет 524 288 токенов, словарь — 250 624 токена. Поддержка языков в README не указана. Доступны три варианта квантизации: i-quality размером 21,05 ГиБ, compact размером 16,69 ГиБ и mini размером 14,86 ГиБ. Compact рекомендуется как наиболее сбалансированный вариант по размеру и качеству; i-quality обеспечивает минимальную измеряемую потерю, а mini подходит при жёстких ограничениях памяти. По данным тестов, все варианты сохранили результат 9/9 и 142/142 в указанном agentic-тесте, однако mini демонстрирует заметно большее ухудшение perplexity относительно BF16. Для запуска требуется специальная ветка model/K2Horizon форка MBZUAI-IFM/llama.cpp; стандартная upstream-версия llama.cpp эту архитектуру не загружает. Это существенно ограничивает совместимость и требует сборки специализированного программного обеспечения. Квантизация учитывает чувствительность маршрутизаторов MoE и MoVA, поэтому соответствующие веса сохранены в F32 для уменьшения риска ошибочного выбора экспертов.

Ko-Luxia-8B-it-v0.1 — диалоговая языковая модель на 7,6 млрд параметров, разработанная на базе Ko-Llama3-Luxia-8B и дообученная с помощью LoRA на наборе kyujinpy/KOpen-platypus. Модель использует плотную архитектуру Llama и предназначена для генерации текста в диалоге, включая ответы на вопросы и выполнение текстовых инструкций на корейском и английском языках. Контекст модели составляет 8192 токена. В карточке приведены результаты оценки на нескольких задачах KoBEST, в том числе точность 0,6425 на BoolQ и 0,7340 на COPA; результаты относятся к указанным тестам и не гарантируют качество в иных сценариях. Модель доступна в формате safetensors для Transformers. Лицензия в предоставленных данных не указана.

Ko-PlatYi-6B-kiwi — авторегрессионная языковая модель на архитектуре Llama, разработанная Kyujin Han (kyujinpy). Веса содержат около 5,9 млрд параметров; модель принимает текст и генерирует текст, а заявленная длина контекста составляет 2048 токенов. Модель дообучена на наборе kyujinpy/KOR-Orca-Platypus-kiwi и основана на beomi/Yi-Ko-6B. Она предназначена для генерации текста на корейском языке и сценариев, где нужны ответы и рассуждения в формате языковой модели. В карточке приведены результаты сравнительных оценок на наборах ARC, HellaSwag, MMLU, TruthfulQA и других. Для запуска автор приводит пример загрузки через Transformers и PyTorch с точностью float16. Лицензия CC-BY-NC-SA-4.0 требует указания авторства, распространения производных работ на тех же условиях и ограничивает коммерческое использование.

Kumru-2B — открытая инструктивная языковая модель VNGRS, разработанная с нуля для турецкого языка. Это плотная авторегрессионная модель семейства Mistral на 2,4 млрд параметров, доступная в формате safetensors и предназначенная для диалогов и генерации текста по инструкциям. Модель предварительно обучена на очищенном и дедуплицированном корпусе объёмом 500 ГБ на 300 млрд токенов, а затем дообучена с учителем на 1 млн примеров. Собственный BPE-токенизатор с 50 176 токенами рассчитан на турецкий язык; предусмотрен шаблон чата. Заявленная длина контекста — 8 192 токена. Разработчик отмечает сильные результаты на турецком языке, в частности в исправлении грамматических ошибок и суммаризации, а также экономное представление турецкого текста токенизатором. Модель подходит для турецкоязычных диалогов, суммаризации и редактирования текста. Разработчик сообщает, что эффективный контекст при сравнении с многоязычными моделями составляет примерно 1 128–1 618 токенов, несмотря на заявленные 8 192. Лицензия — Apache-2.0.

L3.3-San-Mai-R1-70b — языковая модель SteelSkull для генерации диалоговых ответов и текстовых историй. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она создана на основе TheSkullery/L3.1x3.3-DS-Hydroblated-R1-70B-v4.1 и объединяет компоненты нескольких моделей методом SCE merge; автор выделяет связность ответов, рассуждения, творческое письмо и понимание сцен и персонажей. Модель рассчитана на диалоги, творческое письмо, анализ персонажей и генерацию подробных описаний. Метаданные отмечают интерфейс для вызова инструментов, однако README не приводит примеров его использования. Модель доступна в формате Safetensors под лицензией Llama 3.3. Опубликованные в README результаты бенчмарка и оценки способностей являются данными автора и не гарантируют качество в конкретных задачах.

ahnyeonchan/legendary-river-koalpaca — корейская инструкционная языковая модель, созданная дообучением Sheared-LLaMA-1.3B с помощью LoRA на данных корейской Википедии и KoAlpaca. Это плотная авторегрессионная модель семейства LLaMA с 1,3 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текстовые ответы на инструкции и запросы на корейском языке. Модель подходит для диалога, ответов на вопросы и генерации корейского текста; карточка приводит оценки на ряде задач понимания и рассуждения, но не описывает отдельные специализированные возможности.

SC117/LFM2.5-VL-3B-Uncensored-GGUF — мультимодальная vision-language модель для работы с текстом и изображениями на периферийных устройствах. Она создана на базе официальной LFM2.5-VL-3B от Liquid AI, а выпуск SC117 объединяет её с LoRA-настройкой abliterix Trial 65, разработанной для снижения частоты отказов модели. Модель предназначена для текстовых и vision-grounded запросов, анализа изображений и локального мультимодального инференса. В основе лежит языковой backbone LFM2.5-2.6B с гибридной архитектурой из 30 слоёв: 22 блоков double-gated short-convolution и 8 блоков GQA; заявлены контекст 128K токенов и словарь размером 128K. За обработку изображений отвечает SigLIP2 NaFlex с разрешением 256×256 и размером патча 16, подключённый через language-aligned projector. Параметры языковой части оцениваются примерно в 2,6 млрд, а всей vision-language модели — примерно в 3,1 млрд. Распространяется в формате GGUF с imatrix-калибровкой и отдельным mmproj для vision-компонента. Сильной стороной является сохранение мультимодальных возможностей исходной модели при существенно меньшей частоте отказов на текстовые и визуальные запросы. При этом поведение может заметно отличаться от официальной LFM2.5-VL-3B, а сниженные ограничения требуют отдельной оценки безопасности, контроля доступа и аудита в конкретном сценарии. Язык интерфейса в README обозначен как English; сведения о поддержке других языков и подробные результаты тестирования не приведены. Модель распространяется по лицензии LFM Open License v1.0, унаследованной от базовой модели. Доступны несколько уровней GGUF-квантизации, рассчитанных на разные компромиссы между размером, скоростью и качеством.

Apollo Raines выпустил Jbliterated — модифицированную версию Meta Llama 3.1 405B Instruct. Это плотная авторегрессионная модель семейства Llama с 403,7 млрд параметров, предназначенная для диалога и генерации текста по инструкциям. Веса изменены после обучения: метод Jbliteration нацелен на ослабление отказов, а Desycophancy — на снижение склонности соглашаться с неверными утверждениями под давлением собеседника. Автор сообщает, что при этом сохраняются стиль, знания и рассуждения базовой модели; приведённые результаты основаны на небольшом наборе тестовых запросов. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 131 072 токенов. Она рассчитана на сценарии, где нужны ответы на запросы и устойчивость к социальному давлению. Для запуска в bf16 README указывает потребность примерно в 810 ГБ памяти и многопроцессорной GPU-системе; карточка описывает её как замену базовой модели. Лицензия — Llama 3.1 Community License (llama3.1).