I.2Синтез, понимание и проверка знаний

Rahvusarhiiv разработал экспериментальную финноязычную модель суммаризации на архитектуре mBART, дообученную на базе facebook/mbart-large-50-many-to-many-mmt. Она предназначена для сокращения финских новостей, юридических и административных документов, энциклопедических и академических текстов, а также для пакетной обработки и исследовательских сценариев с проверкой результатов. Контекст модели — 1024 токена; при обучении длина входа ограничивалась 768 токенами, а целевой текст — 512 токенами. Модель обучалась на небольшой смешанной выборке финских новостей, тезисов, юридических текстов и синтетических резюме. Карточка приводит оценки на новостных, энциклопедических и GDELT-данных, но не заявляет о превосходстве над современными аналогами. Модель может галлюцинировать или чрезмерно обобщать, особенно на длинном и неполном вводе; имена, числа, даты и юридические ссылки следует сверять с источником. Она не предназначена для использования как единственный источник фактов или как замена профессиональной проверке. Лицензия указана как other, без уточнения условий в предоставленных данных.

flammen3X — объединённая текстовая модель на архитектуре Mistral, созданная flammenai с помощью mergekit методом SLERP из flammen3 и Maidphin-Kunoichi-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговые сценарии; максимальный контекст составляет 32 768 токенов. Веса объединены в формате safetensors и представлены в bfloat16. Карточка не описывает отдельную специализацию по предметной области или языкам. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Flammen-Kunoichi-7B — объединённая языковая модель на архитектуре Mistral, созданная nbeerbower с помощью mergekit и метода SLERP из nbeerbower/flammen4-mistral-7B и SanjiWatsuki/Kunoichi-DPO-v2-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста, включая диалоги и ответы на вопросы. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Веса опубликованы в формате Safetensors и доступны по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

GaMS-27B-Instruct — разговорная языковая модель, разработанная исследовательской группой факультета компьютерных наук и информатики Люблянского университета. Это версия GaMS-27B, дообученная методом SFT; семейство GaMS основано на Gemma 2 и продолжительно обучалось на словенских, английских, хорватских, сербских и боснийских текстах. Модель имеет плотную архитектуру Gemma 2 с 27,6 млрд параметров, принимает текст и генерирует текст. Контекст — до 8192 токенов. Модель предназначена для диалогов и генерации текстов, в первую очередь на словенском и английском языках; также поддерживаются хорватский, сербский и боснийский. Её можно применять для черновиков, суммаризации, ответов на вопросы и языковой практики. Лицензия — Gemma. Ответы могут содержать фактические ошибки и отражать предвзятость обучающих данных; модель может испытывать трудности с тонкими языковыми нюансами и сложными задачами. Для чувствительных сценариев следует проверять результаты и учитывать ограничения политики использования Gemma.

AvoCahDoe/gemma-2-9b-rlmpq-high-fidelity — вариант Google Gemma 2 9B, подготовленный методом RL-MPQ (Reinforcement Learning Mixed-Precision Quantization) для сценария High Fidelity. Это плотная авторегрессионная модель класса Gemma2ForCausalLM с 9 млрд параметров и контекстом до 8192 токенов; она принимает текст и генерирует текст. В метаданных указан английский язык, а базовая модель предназначена для генерации текста, диалогов, суммаризации и ответов на вопросы. Веса имеют среднюю точность 7,0476 бита на параметр и описаны как fake-quantized FP16, совместимые с Hugging Face Transformers. README сообщает, что ширины битов для слоёв назначает PPO-агент, а качество проверяется по perplexity на WikiText-2; это не гарантирует качество на других задачах. Модель распространяется по лицензии Gemma.

p-e-w выпустил gemma-3-12b-it-heretic — разговорную мультимодальную модель на архитектуре Gemma 3, созданную дообучением google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; карточка описывает сценарии общения, ответов на вопросы по изображениям, суммаризации и генерации текстов. В метаданных указаны 12 млрд параметров для базовой модели, формат safetensors и библиотека Transformers. README семейства Gemma 3 сообщает о контекстном окне до 128 тыс. токенов и поддержке более 140 языков; эти характеристики приведены для семейства, а не подтверждены отдельно для данного чекпойнта. Метка heretic и теги uncensored, decensored и abliterated указывают на изменение поведения модели в сторону снятия ограничений, однако README не описывает процедуру такого изменения. Лицензия указана как gemma. Модель может выдавать неверные или устаревшие сведения, отражать смещения обучающих данных и ошибаться при сложных запросах или тонких языковых нюансах; при использовании следует учитывать риск генерации вредного содержания.

DavidAU разработал эту плотную мультимодальную модель на 12 млрд параметров как дообучение DreamFast/gemma-3-12b-it-heretic на наборе Polaris Alpha с помощью Unsloth. Она предназначена для диалогов, генерации текста с рассуждениями и анализа изображений; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и изображения и выдаёт текст. В карточке указана поддержка английского языка. Автор сообщает о компактных, но подробных рассуждениях, применимых также к обработке изображений, и приводит результаты нескольких бенчмарков. По описанию, модель реже отказывает в запросах, включая запросы на откровенный контент; для желаемой степени эксплицитности иногда требуется прямое указание. Качество зависит от промпта, шаблона чата и параметров генерации. Модель распространяется по лицензии Apache-2.0.

Gabor Madarasz дообучил Gemma 3 270M IT на наборе HuHotpotQA_8k для ответов на вопросы по предоставленному контексту на венгерском языке. Это компактная текстовая причинная языковая модель с архитектурой Gemma3ForCausalLM и 257 млн параметров; она принимает вопрос и несколько фрагментов контекста, синтезирует сведения из них и формулирует ответ. Заявленное окно контекста — 32 768 токенов. Модель рассчитана на многошаговый поиск ответа по контексту в формате HotpotQA, включая извлекающие и свободно сформулированные ответы. В README для тестовой выборки из 113 примеров приведены exact match 61,95 и token F1 66,53. Репозиторий содержит веса safetensors и использует лицензию Gemma Terms of Use; применяются ограничения этой лицензии.

Gemma-3-27b-it-GGUF — квантизированная GGUF-версия мультимодальной инструкционной модели Gemma 3 27B IT, разработанной Google и квантизированной Second State Inc. Модель предназначена для диалоговых приложений и сценариев image-text-to-text: обработки текстовых запросов, а при использовании файла mmproj — анализа изображений вместе с текстом. Для запуска в LlamaEdge требуется версия v0.18.5 или новее и шаблон prompt gemma-3. Модель содержит 27 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0, а также F16; размеры файлов составляют примерно от 10,5 до 30 ГБ, не считая разбиения F16 на два файла. Рекомендуемыми вариантами названы Q4_K_M, Q5_K_M и Q5_K_S, поскольку они обеспечивают баланс размера и качества или небольшие потери качества. Для обработки изображений требуется отдельный mmproj-файл; изображения должны быть нормализованы до 896×896 пикселей и представлены как 256 токенов каждое. Основные сильные стороны — большой контекст, поддержка текста и изображений, широкий выбор уровней квантования и возможность локального запуска через LlamaEdge. Ограничения включают значительные требования к дисковому пространству и вычислительным ресурсам, а при низких уровнях квантования — существенное снижение качества. README не указывает поддерживаемые языки и конкретную архитектуру. Модель распространяется по лицензии Gemma.

gemma-4-12B-it-GGUF — это GGUF-сборка мультимодальной модели Google DeepMind gemma-4-12B-it, опубликованная prithivMLmods. Модель предназначена для генерации и понимания текста, анализа изображений, видео и аудио, категоризации контента, сжатия контекста и локальных AI-приложений без зависимости от API. Она также ориентирована на агентские сценарии и многошаговое рассуждение. Модель имеет 12 млрд параметров и унифицированную encoder-free архитектуру: текстовые, визуальные и аудиоданные поступают непосредственно в основу LLM без отдельных vision- и audio-энкодеров. Заявлены сниженные задержка и потребление памяти, поддержка Multi-Token Prediction для ускорения вывода и работа на устройствах примерно с 16 ГБ памяти. В README указан английский язык и мультимодальный режим image-text-to-text; размер контекста не указан. Доступны варианты GGUF от Q2_K до Q8_0, а также BF16 и F16, с размерами основных файлов от 4,83 до 23,8 ГБ. Сильными сторонами являются мультимодальность с нативной поддержкой аудио, возможность локального запуска и широкий выбор уровней квантования. Ограничения README не описывает; в частности, отсутствуют подробности о фактической производительности, поддерживаемых языках кроме английского, максимальном контексте и требованиях к конкретному оборудованию. Модель распространяется по лицензии Apache 2.0.

Gemma4-26B-A4B-Uncensored-HauhauCS-1M-GGUF — GGUF-сборка, опубликованная satgeze на основе модели HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP, использующей архитектуру Gemma 4 с 26 млрд параметров и 4 млрд активных параметров в конфигурации MoE. Веса идентичны исходному релизу HauhauCS; в сборку добавлены масштабирование контекста, MTP-голова для спекулятивного декодирования и компоненты для обработки изображений. Модель предназначена для генерации текста, работы с очень большими документами и длинными промптами, а также для мультимодальных сценариев с изображениями. Заявлен контекст до 1 048 576 токенов благодаря YaRN-масштабированию в 4 раза относительно исходных 262 144 токенов. Vision-компонент проверен на распознавании текста и объектов на изображениях. MTP-голова совместно с llama.cpp может ускорять генерацию: в README указаны результаты 249,1–369,2 токена в секунду и прирост до 48% на RTX 5090 без изменения результата декодирования. К сильным сторонам относятся сверхдлинный контекст, поддержка изображений, возможность спекулятивного декодирования и формат GGUF, совместимый с llama.cpp и Ollama. При этом средний результат теста needle-in-a-haystack составляет около 91%, поэтому редкие пропуски при извлечении информации возможны; тестирование выше 524 тысяч токенов на момент публикации не завершено. Независимая оценка качества «раскодирования» и базовые языковые бенчмарки для этой сборки не приведены. Для работы требуются значительные ресурсы, особенно при использовании контекста в миллион токенов. Модель распространяется по лицензии Gemma.

QueryloopAI/gemma-7b-openhermes — диалоговая языковая модель на архитектуре Gemma, дообученная разработчиком на базе google/gemma-7b-it с помощью QLoRA на данных предпочтений OpenHermes-2.5. Модель содержит 8,2 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста и следование инструкциям в формате чата; для диалогового использования следует применять встроенный шаблон чата токенизатора. Модель принимает текстовые запросы, вопросы и документы и генерирует ответы или краткие изложения на английском языке. Указанное контекстное окно — 8192 токена. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. В README приведены результаты нескольких бенчмарков; они не гарантируют качество на конкретных задачах.

GemMoE-Medium-v0.4 — языковая модель с разреженной архитектурой Mixture of Experts, разработанная Lucas под именем Crystalcareai. В README описан подход Branch Train Mix: четыре эксперта обучались отдельно, затем были объединены, а маршрутизатор дообучен при замороженных экспертах. Для маршрутизатора использовались четыре эпохи на Self-Discover-MM и две эпохи на TruthyDPO; маршрутизация выполняется по токенам. Модель предназначена для генерации текста и диалоговых сценариев. Метаданные указывают 8,2 млрд параметров и контекст до 8192 токенов; файлы опубликованы в формате safetensors. Автор отмечает экономию видеопамяти и конкурентное качество для размера модели, однако в карточке нет результатов сопоставимых бенчмарков. Лицензия в предоставленных данных не указана.

General-Reasoner-Qwen3-14B — языковая модель TIGER-Lab, дообученная на базе Qwen/Qwen3-14B-Base для развития рассуждений в широком круге областей. Она предназначена для ответов на вопросы и решения задач, требующих анализа, включая математику, программирование, физику, химию, финансы и гуманитарные дисциплины. Для обучения использованы более 230 тысяч проверяемых вопросов из веб-источников и модельный верификатор; README описывает подход как обучение без промежуточного этапа supervised fine-tuning. Модель имеет плотную архитектуру Qwen3ForCausalLM, 14 млрд параметров и контекст до 32 768 токенов; репозиторий содержит веса в формате safetensors. Поддерживаются чат и интерфейс вызова инструментов. Лицензия — Apache-2.0. Карточка сообщает о результатах на разнообразных бенчмарках рассуждений, но не приводит здесь подробных численных оценок.

Tech2wild/GLM-5.3-Int4-Int8Mix — это смешанная квантованная версия GLM-5.3, разработанной zai-org. Модель основана на архитектуре glm5_next и представляет собой MoE-модель общим размером 743 млрд параметров, из которых около 40 млрд активируются для одного запроса. Она предназначена для генерации текста и запуска через Transformers и vLLM в формате compressed-tensors, прежде всего на конфигурации из четырёх NVIDIA DGX Spark с графическими процессорами GB10. Квантование выполнено без калибровочных данных по схеме статического симметричного weight-only mixed precision с размером группы 128. Основная масса MoE-экспертов использует W4A16, а плотные слои и attention — W8A16; маршрутизаторы, компоненты sparse attention, выходная голова и ряд служебных блоков сохранены в полной точности. Исходная модель поддерживает контекст до 1 млн токенов, однако в приведённой конфигурации заявлен запуск с длиной до 131 072 токенов и возможность расширения примерно до 600 000 токенов с Decode Context Parallel. Модель ориентирована на длинноконтекстную генерацию, многопоточную подачу запросов и speculative decoding с совместимым DFlash2-драфтером. Ключевое преимущество — уменьшенный объём весов около 378 ГБ, что позволяет обслуживать модель на четырёх DGX Spark с запасом памяти под KV-кэш; заявлена производительность до 46,03 токена в секунду при шести одновременных потоках. Ограничения включают очень высокие требования к памяти и необходимость tensor parallelism, а для GB10/sm121 — специальных kernel overlays для sparse MLA и FP8 KV. Четырёхбитное квантование даёт заметную численную погрешность, поэтому сохранение критичных компонентов в BF16 важно для качества. Лицензия указана как glm-5.3; подробные условия доступны по ссылке на лицензию базовой модели zai-org/GLM-5.3.

GLM-5.3-Quark-MXFP4 — текстовая авторегрессионная модель для генерации текста, созданная Advanced Micro Devices (AMD) на базе GLM-5.3 от zai-org. Модель предназначена для задач обработки и генерации текста, включая математическое рассуждение и другие сценарии, поддерживаемые базовой моделью. Заявленные языки — английский и китайский; входные и выходные данные представлены в текстовой форме. Архитектура модели обозначена как GlmMoeDsaForCausalLM. Для оптимизации инференса применена посттренировочная квантизация AMD Quark V0.12: router experts и shared experts используют MXFP4, а слои self-attention — FP8 с покомпонентной блочной квантизацией. Слой lm_head, эмбеддинги и некоторые дополнительные слои сохранены в исходном формате. Максимальная длина контекста в приведённой конфигурации vLLM составляет 32 768 токенов, однако размер модели и полная спецификация контекстного окна в README не указаны. Модель ориентирована на запуск через vLLM на системах Linux с ускорителями AMD MI350 или MI355 и ROCm 7.1.1; в README также указаны PyTorch 2.10.0 и Transformers 5.15.1. На тесте GSM8K она получила 91,28 против 91,89 у исходной GLM-5.3, что соответствует восстановлению 99,34% исходного результата и указывает на небольшую потерю точности после квантизации. Лицензия обозначена как glm-5.3; также указано, что модификации защищены авторским правом Advanced Micro Devices, Inc. за 2026 год.

google_gemma-4-31B-it-GGUF — это квантизированная версия instruction-tuned модели Gemma 4 31B-it, разработанной Google. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована как google/gemma-4-31B-it. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio, Ollama-подобные и другие совместимые инструменты. По указанной классификации pipeline_tag это модель для преобразования изображений и текста в текст, однако подробные сведения о поддерживаемых модальностях и языках в README не приведены. Доступны варианты с точностью от BF16 до Q3 и IQ3, включая Q4, Q5, Q6 и Q8. Размер файлов составляет примерно от 13,84 до 61,41 ГБ; варианты Q4–Q6 заявлены как обеспечивающие хороший или очень высокий уровень качества при меньшем потреблении памяти, а Q3 ориентированы на системы с ограниченными ресурсами и отличаются более низким качеством. Архитектура, максимальная длина контекста и точное число параметров, помимо обозначения 31B, в README не уточняются. Сильными сторонами являются широкий выбор уровней квантизации, совместимость с экосистемой llama.cpp и возможность локального инференса. Ограничения включают значительные требования к памяти, особенно для BF16 и высокоточных вариантов, а также возможное снижение качества у компактных Q3-вариантов. Для недавно поддерживаемых моделей может потребоваться обновление используемого программного обеспечения. Лицензия указана как Apache-2.0; при этом для Gemma также приведена отдельная ссылка на лицензионные условия Google.

Grafted-Wind-Elementals-2x70B — языковая модель для генерации текста, созданная как MoE-слияние моделей alchemonaut/BoreanGale-70B и ShinojiResearch/Senku-70B-Full. В карточке она описана как модель с сильными навыками письма; также приведены результаты оценки на задачах рассуждения и понимания текста. Архитектура репозитория — Mixtral MoE с классом MixtralForCausalLM, а объём модели по метаданным составляет 68,7 млрд параметров. Модель предназначена для генерации текста и диалогов. Она принимает текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. README указывает на лицензию только для некоммерческого исследовательского использования. Английский язык указан в описании базовой модели каталога; другие языки карточкой не подтверждены.

HassanB4 разработала halluscoring-mbert-nli — многоязычный BERT, дообученный для выявления галлюцинаций в ответах. Модель получает эталонный ответ и ответ другой модели в формате NLI: [CLS] gold_answer [SEP] model_answer [SEP], затем выполняет классификацию текста. Использована архитектура BertForSequenceClassification на базе google-bert/bert-base-multilingual-cased; модель содержит 205,1 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для сравнения ответа с эталоном и оценки того, насколько ответ согласуется с ним. В README она описана как внутренний эксперимент по задаче HalluScoring 2026 Task 1.1: на dev-выборке указаны F1-Macro 0,9171 и AUC-ROC 0,9594. Она не оценивалась на скрытой тестовой выборке и не подавалась на конкурс; на подмножестве с невиданными вопросами AUC-ROC ниже, чем у специализированной арабской модели. Лицензия — Apache-2.0.

HeroBophades-3x7B — экспериментальная языковая модель семейства Mixtral с архитектурой Mixture of Experts, собранная разработчиком с помощью mergekit. Она предназначена для генерации текста; среди сценариев обучения исходных компонентов указаны математические задачи, проверка достоверности и художественные тексты. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README указана возможность запуска в 4-битном режиме на GPU с 12 ГБ видеопамяти. Модель распространяется под лицензией Apache-2.0.

Hippogriff 30B Chat — экспериментальная чат-модель Open Access AI Collective, созданная дообучением LLaMA 30B. Она использует архитектуру LlamaForCausalLM и принимает текстовые запросы в форматах диалога USER/ASSISTANT и Pygmalion/Metharme. Модель рассчитана на ответы по контексту, следование инструкциям, объяснения, создание и переписывание прозы, шутки, ролевые диалоги, задачи на рассуждение и краткое изложение. В README отмечено, что проза и ответы на вопросы по контексту улучшены относительно Manticore, но с математикой модель справляется слабо. Для обучения использовались англоязычные наборы инструкций, диалогов, ролевых данных, вопросов и ответов, рассуждений, задач на здравый смысл, школьных вопросов и суммаризации. Размер модели — 32,3 млрд параметров, максимальный контекст — 2048 токенов; для работы нужны значительные вычислительные ресурсы. Модель не проходила RLHF и не включает фильтрацию ответов, поэтому возможны неточные, предвзятые или оскорбительные результаты; фактические ответы требуют проверки человеком. Лицензия в предоставленных данных не указана.

Hy3-RAZOR-154B-A21B-E96of192 — производная версия диалоговой MoE-модели Hy3 от Tencent, подготовленная методом RAZOR без дообучения. В каждом слое сохранены 96 из 192 маршрутизируемых экспертов; число параметров уменьшено с 295 млрд до 154 млрд при примерно 21 млрд активных параметров на токен. Веса экспертов взяты из базовой модели, остальные компоненты архитектуры не изменялись. Модель предназначена для генерации текста в диалогах и других сценариях, где нужна причинная языковая модель. Она принимает контекст длиной до 262 144 токенов и распространяется в формате safetensors с весами bfloat16; для запуска нужна сборка Transformers с поддержкой hy_v3. Лицензия — Apache-2.0. Удаление экспертов является потерным: ответы могут меняться по разнообразию, форматированию и завершению, даже если точность задач в значительной мере сохраняется. Опубликованные измерения не характеризуют поведение на доменах, удалённых от конечного калибровочного набора; перед развёртыванием модель следует оценить на целевых данных.

Intern-S2-Mobius — плотная языковая модель с 35 млрд параметров, разработанная командой InternLM на архитектуре Mobius-v0 и реализованная с поддержкой Xtuner и LMDeploy. Это продолжительно предобученная на основе Qwen3.5-35B и затем дообученная с помощью SFT и обучения с подкреплением модель для диалогов и сложных текстовых задач. Репозиторий содержит веса bfloat16 в формате Safetensors; для запуска предусмотрена поддержка Transformers, LMDeploy и vLLM. Архитектура разделяет хранилище знаний и вычисления рассуждений: несколько модулей Reasoner обращаются к общей памяти, а скрытые состояния уточняются итеративно. Заявлены межслойный доступ к знаниям и латентное рассуждение, позволяющие сокращать видимые цепочки рассуждений. Модель рассчитана на общие и научные задачи, включая биологию и молекулярные науки. В README сообщается о сопоставимых или более высоких результатах на ряде тестов и почти четырёхкратном ускорении вывода относительно Qwen3.5-35B в проведённой оценке. Карточка описывает текстовую модель и не заявляет поддержку изображений, несмотря на тег image-text-to-text в метаданных. В тестах использовались контексты до 64K или 128K токенов; эти значения относятся к настройкам оценки и не подтверждают максимальный собственный контекст модели. Для эксплуатации требуются совместимые версии Transformers, LMDeploy или vLLM и значительные вычислительные ресурсы, соответствующие модели на 35 млрд параметров. Лицензия — Apache-2.0.

Keye-VL-671B-A37B — мультимодальная языковая модель семейства Keye-VL, разработанная командой Kwai-Keye. Она предназначена для понимания и генерации текста, анализа изображений и видео, визуальных рассуждений и решения математических задач. В карточке описана архитектура KeyeVLMoeForConditionalGeneration; репозиторий содержит веса safetensors в формате FP8. Модель рассчитана на контекст до 163 840 токенов и поддерживает видеозапросы с текстовым ответом. При обучении использовались данные для визуальных вопросов и ответов, включая OCR, диаграммы и таблицы, а также синтетические цепочки рассуждений и последующее обучение с проверкой ответов. Это делает модель применимой для анализа видеоматериалов и визуального содержимого с текстовым запросом. Указанная лицензия — Apache-2.0. Для развёртывания README приводит инструкции с SGLang и описывает многосерверную конфигурацию.

RedHatAI/Kimi-K3-NVFP4 — квантизированная версия модели moonshotai/Kimi-K3, разработанная RedHatAI. Это мультимодальная модель архитектуры KimiK3ForConditionalGeneration, принимающая текст и изображения и генерирующая текст. Модель предназначена для задач понимания и обработки текста и изображений, включая сценарии инференса через vLLM. В модели применена FP4-квантизация весов и активаций MoE-экспертов с использованием LLM Compressor и формата compressed-tensors. Линейные операторы MoE-экспертов квантизированы с 16 до 4 бит, что уменьшает размер на диске и требования к памяти GPU для этих слоёв примерно на 75%. Attention, shared experts и другие неквантизированные слои сохраняют исходную точность. Размер модели, поддерживаемые языки и длина контекста в README не указаны. К сильным сторонам относятся существенное снижение потребления памяти и готовность к инференсу в vLLM при сохранении высокой доли качества исходной модели: на GPQA Diamond достигнуто 91,0 против 93,5 у неквантизированной версии, что соответствует восстановлению 97,33% качества. Ограничением является небольшое снижение точности, а также необходимость совместимой версии vLLM и специальной конфигурации развертывания; в README приведён сценарий с tensor parallel size 8. Лицензия указана как other, с названием kimi-k3.

Kimi-Linear-48B-A3B-Instruct-AWQ-4bit — квантизированная 4-битная версия инструкционной языковой модели Kimi Linear, разработанной Moonshot AI. Модель предназначена для генерации текста и работы в формате диалога, включая задачи с коротким и длинным контекстом, а также сценарии, связанные с reinforcement learning. В README указана поддержка Transformers и возможность развертывания через vLLM с OpenAI-совместимым API. Модель использует гибридную архитектуру с Kimi Delta Attention (KDA) и глобальными блоками MLA в соотношении 3:1. Всего она содержит 48 млрд параметров, из которых активируется около 3 млрд, и поддерживает контекст до 1 млн токенов. Архитектура снижает потребность в KV-кэше до 75% и обеспечивает ускорение декодирования до 6 раз на длинных последовательностях. README не указывает языки, поддерживаемые модальностями или результаты именно для AWQ-версии, поэтому эти характеристики нельзя достоверно оценить. К сильным сторонам относятся высокая эффективность на длинном контексте, уменьшенное потребление памяти и ускорение генерации. Для запуска требуются совместимые версии Python, PyTorch и fla-core, а при использовании Transformers может понадобиться trust_remote_code. Ограничениями являются значительные требования к ресурсам для модели такого размера и отсутствие в README подробных данных о качестве на конкретных прикладных задачах. Лицензия — MIT.

core-3/kuno-dogwalker-7b — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров, созданная объединением SanjiWatsuki/Kunoichi-DPO-v2-7B и mlabonne/AlphaMonarch-7B методом slerp с помощью LazyMergekit. Она предназначена для генерации текста и диалогового взаимодействия; базовые модели ориентированы на общение, следование инструкциям и рассуждения. Контекст модели составляет 8192 токена. В README приведены результаты на наборах ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; автор отмечает, что стиль письма уступает kuno-royale-v2-7b. Модель распространяется по лицензии CC BY-NC 2.0, которая ограничивает коммерческое использование.

LeoScorpius-GreenNode-Platypus-7B-v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и LeoScorpius-GreenNode-Platypus-7B-v1 методом slerp. Она построена на архитектуре Mistral с плотной авторегрессионной моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате; поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors под лицензией Apache 2.0. Карточка не сообщает специализированных областей применения или языкового охвата, поэтому её следует рассматривать как модель общего назначения. Качество и поведение могут зависеть от сочетания двух объединённых моделей; отдельные результаты оценки в карточке не приведены.

LFM2.5-8B-A1B-CoreAI — это конверсия модели LiquidAI/LFM2.5-8B-A1B для локального выполнения в формате Apple Core AI (.aimodel). Конверсию подготовило сообщество Core AI model zoo; базовая модель разработана Liquid AI. Модель предназначена для генерации текста, чат-диалогов, суммаризации и других языковых задач на устройствах Apple без отправки данных в облако, включая интеграцию с CoreAIKit и системными сценариями LanguageModelSession. Архитектура представляет собой гибридный decoder-only MoE: 24 слоя, из которых 18 используют short-convolution mixers, а 6 — GQA attention. Первые два слоя плотные, остальные используют разреженный MoE с 32 экспертами и выбором 4 экспертов на токен. Общий размер составляет около 8,3 млрд параметров, при этом активно на токен используется примерно 1,5 млрд; hidden size — 2048, словарь — 128 тысяч токенов. В README языки и максимальный размер контекста не указаны. Модель ориентирована на GPU и Neural Engine устройств Apple; опубликованный чистый bundle предназначен для Mac, а вариант int4 проверен на iPhone 17 Pro, но не поставляется из-за заметной потери качества. Сильные стороны модели — локальная работа, MoE-эффективность и оптимизированное ядро gather_qmm, которое читает веса только выбранных экспертов. Для Mac заявлена скорость около 140–141 токена в секунду при размере bundle 8,8 ГБ, а качество симметричного int8-варианта соответствует уровню fp16 в описанном тесте. Ограничения включают значительный объём загрузки, зависимость от устройств Apple и наличие проблем у базовой модели с повторяющейся генерацией при использовании без chat template и sampling. Модель распространяется по лицензии lfm-open-license-v1.0; точные условия приведены в файле LICENSE.

LFM2.5-8B-A1B-Uncensored-Gaston-GGUF — модифицированная GGUF-версия модели Liquid AI LFM2.5-8B-A1B, подготовленная Gastón Parravicini. Это текстовая reasoning-модель для диалогов и генерации текста, ориентированная на локальный запуск через llama.cpp, Ollama и совместимые инструменты. Вариант получил abliteration для существенного снижения отказов от ответов при сохранении рассуждений и общих возможностей базовой модели. Модель использует гибридную архитектуру из свёрточных LIV-блоков, Grouped Query Attention и разреженного MoE: всего около 8,3 млрд параметров, из которых примерно 1,5 млрд активны на каждом токене; задействованы 32 эксперта, четыре из них выбираются для токена. Заявлено контекстное окно 128K, обучение на 38 трлн токенов и поддержка английского, испанского, французского, немецкого, китайского, японского, корейского и арабского языков. Доступны квантизации IQ4_XS, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16; Q4_K_M рекомендована как компромисс между качеством и размером. Сильными сторонами являются высокая скорость, компактное активное число параметров, сохранённый режим рассуждений с тегами <think> и заявленная частота отказов 1% на AdvBench после модификации. Ограничение модели — нестандартная гибридная архитектура, из-за которой обычные инструменты abliteration несовместимы без специальной адаптации. Версия предназначена для сценариев, где требуется меньше ограничений на генерацию, поэтому её ответы следует дополнительно проверять на безопасность и достоверность. Указана лицензия lfm-open-license-v1 от Liquid AI; подробные условия приведены по ссылке на лицензию базовой модели.