I.2Синтез, понимание и проверка знаний

FableOpus-9B-Delta-GGUF — это набор GGUF-квантизаций модели FableOpus-9B-Delta, разработанной bingleai и преобразованной в GGUF пользователем mradermacher. Модель относится к семейству Qwen и связана с тегами qwen3.5, fable-5, claude-opus, distillation и merge. В метаданных указан английский язык и библиотека Transformers. Основное назначение модели — локальный запуск в совместимых средах, поддерживающих формат GGUF. Доступны варианты с разным уровнем квантизации: от Q2_K размером около 3,9 ГБ до Q8_0 размером около 9,6 ГБ, а также версия f16 размером около 18 ГБ. В README также представлены мультимодальные дополнения mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые типы входных данных и возможности мультимодальной работы не описаны. Сильная сторона набора — широкий выбор компромиссов между размером, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант с очень хорошим качеством, а Q8_0 — как вариант с лучшим качеством среди указанных. Ограничения включают отсутствие описания архитектуры, числа параметров, контекстного окна, точных возможностей и результатов оценки; weighted/imatrix-квантизации на момент публикации не заявлены. Модель и квантизации распространяются по лицензии Apache-2.0.

Intel/fid_flan_t5_base_nq — текстовая генеративная модель Intel на архитектуре Fusion-in-Decoder, обученная на наборе Natural Questions. В основе лежит google/flan-t5-base; для каждого вопроса при обучении использовалась подборка релевантных текстовых фрагментов, полученных из корпуса Википедии. Модель предназначена для ответов на вопросы по найденным документам: на вход подаются запрос и релевантные passages, на выходе генерируется текстовый ответ. Она содержит 123,8 млн параметров, поддерживает английский язык и имеет контекст до 512 токенов. Доступны веса PyTorch и safetensors. Лицензия — CC BY-SA 3.0. Карточка не приводит подробностей о качестве ответов или условиях развертывания; эффективность зависит от релевантности переданных фрагментов и ограниченного контекстного окна.

Модель free-solar-evo-v0.13 разработана технической командой Freewheelin AI. Это языковая модель на архитектуре Llama с 10,6 млрд параметров, предназначенная для генерации текста. В карточке модели указано, что при разработке использован подход, вдохновлённый проектом Sakana; более подробные сведения о методе и оценке качества не приведены. Модель принимает текст и генерирует текст, поддерживает корейский и английский языки и имеет контекст длиной 4096 токенов. Опубликованные веса в формате Safetensors, лицензия — MIT. По доступным сведениям, она подходит для генерации и продолжения текста, диалога, ответов на вопросы и суммаризации; качество этих задач отдельно не подтверждено.

French-Alpaca-Phi-3-mini-128k-instruct-beta — языковая модель, разработанная Jonathan Pacifico и дообученная на базе microsoft/Phi-3-mini-128k-instruct. Это плотная авторегрессионная модель семейства Phi-3 с 3,7 млрд параметров, рассчитанная на диалог и генерацию текста. В карточке заявлена поддержка контекста до 128 тыс. токенов, однако метаданные указывают native context в 4096 токенов, поэтому длину 128 тыс. следует считать заявлением README, не подтверждённым метаданными. Модель предназначена для общения и общих текстовых задач на французском языке; карточка также указывает английский среди языков. Дообучение выполнено на French-Alpaca-dataset-Instruct-110K, созданном с помощью GPT-3.5-turbo. Модель может служить отправной точкой для дальнейшей специализации. Лицензия — MIT. В README отмечено отсутствие механизмов модерации и отсутствие поддержки 128k-версии в llama.cpp.

GaMS-9B-Instruct-Nemotron — инструктивная языковая модель на 9 млрд параметров, разработанная Тимотеем Петриčem в рамках магистерской работы. Это вариант GaMS-9B-Instruct, дополнительно обученный методом SFT на отобранной части набора nvidia/Nemotron-Post-Training-Dataset-v1 и датасете cjvt/GaMS-Nemotron-Chat: примерно 80 тысяч словенских пар «инструкция — ответ» и 20 тысяч английских примеров. Модель построена на архитектуре Gemma 2 и предназначена для генерации текста и диалогов по инструкциям, в особенности на словенском и английском языках. Размер контекста составляет 8192 токена; модель распространяется в формате safetensors и рассчитана на запуск через Transformers. Лицензия — Gemma. Карточка не описывает результаты оценки качества или специфические ограничения; ожидаемый охват задач определяется инструктивной генерацией и диалогами на языках обучения.

Gamunu-4B-Instruct-Alpha-i1-GGUF — это квантизированная в формате GGUF версия модели Gamunu-4B-Instruct-Alpha, разработанной manthilaffs и подготовленной квантизатором mradermacher. Модель ориентирована на следование инструкциям, ответы на вопросы, рассуждения, академические и математические задачи, а также задачи обработки естественного языка. Заявлены языки Sinhala и English, однако подробные сведения о качестве работы по каждому языку не приведены. Модель имеет около 4 миллиардов параметров; точная архитектура, размер контекста и состав поддерживаемых модальностей в README не указаны. При этом она обозначена как vision model, а для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Репозиторий содержит множество вариантов квантизации с размером примерно от 1,2 до 3,3 ГБ. В README отмечается, что IQ-квантизации часто предпочтительнее сопоставимых по размеру обычных вариантов; Q4_K_M названа быстрой и рекомендуемой, а Q4_K_S — оптимальной по соотношению размера, скорости и качества. Основные преимущества модели — компактный размер, возможность локального запуска в различных вариантах квантизации и специализация исходной модели на инструкциях, вопросах, рассуждениях и математике. Ограничения связаны с потерями качества при низкой степени точности, отсутствием опубликованных сведений о бенчмарках, точной архитектуре, контекстном окне и фактических возможностях мультимодальной обработки. Указана лицензия Apache-2.0.

OsaurusAI подготовила производный вариант Google Gemma 4 12B IT QAT в формате MLX MXFP4 для запуска на Apple Silicon. Это плотная мультимодальная модель семейства Gemma 4 с 48 текстовыми слоями: 8 используют full attention, 40 — sliding attention. Линейные слои декодера квантованы в MXFP4 с размером группы 32; эмбеддинги, нормализации и ранние объединяющие медиа-энкодеры сохранены в fp16. Модель предназначена для диалогов и генерации текста по текстовым и визуальным входам; в комплекте также сохранён аудиоэнкодер. Указанный основной сценарий — image-text-to-text, включая анализ изображений. Карточка не подтверждает рабочий путь обработки видео. Доступны интерфейс чата и совместимость с вызовом инструментов в поддерживающих это рантаймах. Для запуска нужен MLX/vMLX с поддержкой Gemma 4 MXFP4; пакет не подходит для GGUF-рантаймов. Модель основана на google/gemma-4-12B-it-qat-q4_0-unquantized. Лицензия и ограничения использования наследуются от условий Gemma.

Это квантованная версия MXFP4 в формате GGUF модели FreedomAISVR/Gemma-4-12B-it-Uncensored-Heretic-MXFP4-GGUF, основанная на дообученной Gemma 4 12B от Google. Репозиторий включает текстовую модель с квантованием 4,45 бита на вес и отдельный vision encoder в формате F16 для работы с изображениями. Модель поддерживает диалог и анализ изображений; в карточке указана задача image-text-to-text. Вариант Heretic описан как abliterated fine-tune с ослабленными ограничениями safety alignment. В README также заявлены гибридная архитектура внимания Gemma 4 и поддержка вызова инструментов у исходной модели. Для запуска предлагается llama.cpp; для обработки изображений требуется mmproj-файл. Модель рассчитана на локальный инференс, для которого указаны минимум около 7 ГБ VRAM или использование CPU, а также рекомендация иметь около 16 ГБ RAM. Лицензия репозитория — Apache-2.0.

mlx-community/gemma-4-26b-a4b-it-4bit — это 4-битная версия модели Google Gemma 4 26B A4B Instruct, преобразованная сообществом mlx-community в формат MLX. Модель предназначена для запуска с использованием mlx-vlm и поддерживает сценарии image-text-to-text, включая диалоговое взаимодействие и анализ изображений с формированием текстового ответа. Ключевые характеристики: базовая модель — google/gemma-4-26B-A4B-it, размер обозначен как 26B A4B, используется 4-битное представление весов, формат хранения — safetensors. Модель принимает изображения и текстовые запросы; конкретные поддерживаемые языки и размер контекста в README не указаны. Версия рассчитана на экосистему MLX и может быть удобна для локального запуска на совместимом оборудовании, однако 4-битная квантизация может ограничивать точность по сравнению с полной версией модели. В README указана лицензия Apache-2.0, а также отдельная ссылка на лицензию Gemma 4; условия использования следует проверять по обоим источникам. README не содержит подробных результатов тестирования, ограничений по применению или сравнительных оценок качества.

OsaurusAI подготовила вариант Google Gemma 4 26B A4B Instruct для MLX: веса линейных слоёв декодера квантизированы в MXFP4 с размером группы 32, а эмбеддинги, нормализации и ранние мультимодальные энкодеры сохранены в FP16. Модель основана на Gemma4ForConditionalGeneration с 30 текстовыми слоями: пять используют полное внимание, остальные — скользящее. Модель принимает текст и изображения и предназначена для диалогов, ответов на вопросы по изображениям и других задач мультимодальной генерации текста. В комплект входят шаблон диалога Gemma 4 и интерфейс выбора инструментов; для запуска требуется совместимая среда MLX/vMLX на Apple Silicon. README не подтверждает рабочий путь обработки аудио или видео. Это производный квантованный вариант Google Gemma 4 QAT; лицензия и ограничения использования наследуются от условий Gemma. Формат пакета — safetensors для MLX, он не предназначен для загрузки средствами GGUF.

Это мультимодальная Gemma 4 E4B Instruct, дообученная командой Peerbench на немецкоязычном корпусе для улучшения общих навыков общения и генерации текста на немецком языке. Модель основана на unsloth/gemma-4-E4B-it; применено SFT с LoRA, веса представлены в формате safetensors и обучались в bf16. Вариант v3 обучался одну эпоху на 25 756 примерах, при этом зрительная часть базовой модели оставалась замороженной. Модель предназначена для немецкоязычного диалога и широких задач генерации текста; наследует от Gemma 4 возможность принимать изображения и отвечать на вопросы о них. Обучение проводилось с шаблоном чата Gemma 4 без режима reasoning. Репозиторий распространяется по лицензии Gemma. Карточка не приводит отдельной оценки качества, поэтому фактический выигрыш на конкретных задачах может зависеть от сценария.

prithivMLmods/gemma-4-E4B-it-Uncensored-MAX — оптимизированная публикация Gemma 4 E4B Instruct, подготовленная для работы с актуальными версиями Transformers. README указывает, что веса не менялись, а обновлены разбиение на шарды и упаковка; метаданные связывают модель с google/gemma-4-E4B-it как с базовой моделью. Архитектура — Gemma4ForConditionalGeneration, файлы представлены в формате safetensors; размер E4B указан в названии модели. Модель предназначена для мультимодальных и языковых экспериментов, проверки устойчивости к сложным и состязательным запросам, прототипирования и запуска на ограниченных ресурсах. Описание базовой модели указывает на диалог, рассуждения, программирование, анализ изображений и обработку аудио; классификатор каталога определяет задачу как any-to-any. В README подчёркивается, что опубликованные оценки относятся к другой модели и здесь не перепроверялись. Ответы могут быть ошибочными, неполными или непоследовательными и зависят от параметров генерации и формулировки запроса. Для оптимальной производительности рекомендуется GPU, а результат зависит от оборудования и настроек среды. Лицензия — Apache-2.0; авторы позиционируют модель для исследований и обучения и возлагают ответственность за использование результатов на пользователя.

GenZ 70B — большая языковая модель для генерации текста, созданная Bud на основе budecosystem/genz-70b и преобразованная TheBloke в формат GGUF. Модель относится к архитектуре Llama, предназначена для англоязычных текстовых запросов и диалогового взаимодействия по шаблону User–Assistant. В репозитории представлены квантизированные варианты GGUFv2 с разрядностью от 2 до 8 бит, рассчитанные на запуск с использованием llama.cpp и совместимых интерфейсов и библиотек, включая text-generation-webui, LM Studio, KoboldCpp и llama-cpp-python. Квантизация позволяет выполнять инференс на CPU и GPU с различными компромиссами между требованиями к памяти и сохранением качества, однако конкретный размер файлов, максимальный контекст и фактические характеристики качества в README не указаны. Сильными сторонами модели являются большой размер в 70 миллиардов параметров, поддержка локального инференса и широкий выбор уровней квантизации. Ограничения включают неизвестные из README возможности по языкам помимо английского, отсутствие данных о специализированных навыках и бенчмарках, а также потенциальные потери качества в более агрессивно квантизированных версиях. Лицензия указана как llama2.

Gervásio 8B PTPT — декодерная языковая модель на базе Transformer семейства LLaMA, разработанная группой NLX при Лиссабонском университете. Модель дообучена на ресурсах европейского португальского языка, включая extraGLUE-Instruct, MMLU PT, подборку Natural Instructions, статьи Википедии и пословицы. Её можно использовать для генерации текста и диалогов на европейском португальском; модель также проверялась на задачах вопросов с выбором ответа, логического вывода и определения семантической связи. В модели около 7,5 млрд параметров, 32 слоя, скрытый размер 4096 и 32 головы внимания; контекст — до 131 072 токенов. Поддерживаются форматы safetensors и GGUF, а базовая модель — meta-llama/Llama-3.1-8B-Instruct. По данным карточки, размер позволяет запускать её на потребительском оборудовании. Модель распространяется по лицензии MIT, допускающей коммерческое использование. Она ориентирована на европейский вариант португальского, поэтому качество для других языков и вариантов португальского может быть ниже; benchmark-результаты в карточке не гарантируют качество для конкретного приложения.

GLM-4.1V-9B-Thinking — мультимодальная модель с открытыми весами от Zhipu AI, дообученная на базе GLM-4-9B-0414 для рассуждений по тексту и изображениям. Она предназначена для визуальных вопросов и ответов, решения сложных задач и мультимодальных сценариев с длинным контекстом. Модель семейства GLM-4V имеет плотную архитектуру и около 9 млрд параметров. Она принимает изображения произвольного соотношения сторон разрешением до 4K и поддерживает контекст до 64 тыс. токенов. Заявлена двуязычная работа на китайском и английском языках; для запуска в README приведён пример с библиотекой Transformers. Разработчики сообщают о сильных результатах в математике и на визуальных бенчмарках, включая задачи, где модель сопоставима с более крупными системами. Это заявление основано на оценках авторов и не гарантирует аналогичное качество во всех прикладных сценариях. Модель распространяется по лицензии MIT.

GLM-5.3-5bit-UVMAX — это квантованная версия языковой модели GLM-5.3-BF16, разработанной zai-org и преобразованная с помощью mlx-lm. Модель предназначена для генерации текста и запуска в экосистеме MLX, включая локальное развертывание на совместимом оборудовании. В README указаны английский и китайский языки, а также поддержка задач text-generation. Модель использует MoE-архитектуру с 743 млрд параметров и смешанную UVMAX-квантизацию со средним размером 4,67 бита на вес. Экспертные FFN-слои квантуются преимущественно в 4 и 5 бит, attention, DSA indexer и dense MLP — в 8 бит, а маршрутизаторы и нормализационные слои сохраняются в bf16. Общий размер модели составляет около 404 GiB, поэтому она помещается на одной машине с 512 ГБ памяти. Контекстное окно и точный состав поддерживаемых модальностей в README не указаны; по имеющимся данным, модель работает с текстом. По сравнению с исходной версией bf16 UVMAX демонстрирует близкие показатели на тестовых корпусах: среднее отношение perplexity составляет 1,02×, а согласие top-1 предсказаний — 94,4%. Это делает квантизацию компромиссом между качеством и снижением требований к памяти. Ограничением остаются очень высокие аппаратные требования и необходимость свежей версии mlx-lm с поддержкой GLM-5.3 и glm_moe_dsa. Модель распространяется по лицензии glm-5.3; конкретные условия следует уточнять в указанном файле LICENSE.

GLM-5.3-Flash-W4A16-NVFP4-K32-Experts-FP8-WO — это смешанно-квантизированная версия модели GLM-5.3-Flash-BF16, разработанной Z.ai и опубликованной пользователем ormandj. Модель предназначена для задач генерации текста и обработки изображений, включая мультимодальные сценарии с vision input, а также для серверного инференса с несколькими одновременными запросами и speculative decoding. Модель поддерживает контекст до 499 712 токенов и рассчитана на работу на двух GPU RTX PRO 6000 Blackwell с 96 ГБ памяти каждый. Маршрутизируемые эксперты в слоях 3–45 квантизированы в ModelOpt W4A16 NVFP4, а часть attention- и shared-expert-проекций — в weight-only FP8; vision tower, проектор, эмбеддинги, LM head, маршрутизаторы, нормализации и ряд других компонентов сохранены в исходной точности. Тензорные данные занимают около 178 ГБ в 90 safetensors-шардах. В README указано качество 96,9% на GSM8K в zero-shot greedy-режиме, сопоставимое с исходной BF16-моделью в аналогичных условиях. Основные ограничения связаны с узкой аппаратной и программной совместимостью: требуется Linux x86_64, две GPU с архитектурой SM120, Docker и NVIDIA Container Toolkit. Чекпойнт использует специальный контракт modelopt_mixed и на данный момент корректно загружается только через закреплённый образ SGLang/FlashInfer; стандартные версии Transformers, vLLM и SGLang не поддерживаются. Это не официальный релиз Z.ai, ModelOpt или SGLang. Исходный чекпойнт распространяется по лицензии MIT; рекомендации по применению и ограничениям следует уточнять в карточке исходной модели.

GodziLLa 2 70B — экспериментальная языковая модель от Maya Philippines, созданная на основе LLaMA 2 70B с объединением нескольких проприетарных LoRA-адаптеров и обучением на датасете Guanaco LLaMA 2 1K. Модель предназначена для генерации текста и следования инструкциям, а также для изучения возможностей составных LLM. В карточке приведены результаты оценки на бенчмарках Open LLM Leaderboard, включая тесты на знания, рассуждения и понимание текста. Это плотная авторегрессионная модель семейства LLaMA с 68,7 млрд параметров и контекстом 4096 токенов. В README указаны высокие требования к памяти: около 275 ГБ при загрузке в fp32; доступны варианты с меньшей точностью и отдельные квантованные версии. Модель работает с текстом; карточка не заявляет поддержку конкретных естественных языков, хотя приведённые бенчмарки в основном англоязычные. Модель распространяется по лицензии Llama 2. Её ответы могут содержать предвзятости, ошибки и откровенный контент, а в README отмечено отсутствие защитных механизмов для конфиденциальной информации. Результаты бенчмарков относятся к историческим замерам 2023 года и не гарантируют качество в конкретном применении.

Карточка модели kyutai/helium-1-2b-main на Hugging Face совпадает с карточкой kyutai/helium-1-2b, поэтому описание составлено по ней. Helium-1-2B — базовая языковая модель Kyutai с архитектурой Llama и 1,9 млрд параметров, представленная в формате safetensors для библиотеки Transformers. Модель обучена на текстах на 24 официальных языках Европейского союза; её контекст составляет 4096 токенов. По карточке, модель дистиллирована из Gemma 2. Модель предназначена для генерации и понимания текста, а также для исследований и разработки систем NLP. Она не дообучена следовать инструкциям или предпочтениям людей, поэтому для прикладных сценариев обычно требуется дополнительное выравнивание, например supervised fine-tuning или RLHF. Компактный размер ориентирован на использование на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Модель может генерировать фактические ошибки, предвзятый, вредный или бесполезный текст; перед применением необходимы оценка и меры снижения рисков. Поддерживаются английский, болгарский, чешский, датский, немецкий, греческий, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский языки. Лицензия — CC-BY-SA 4.0; также действуют условия использования Gemma.

Карточка модели kyutai/helium-1-2b-pop на Hugging Face совпадает с карточкой kyutai/helium-1-2b, поэтому описание составлено по ней. Helium-1-2B — базовая языковая модель Kyutai с архитектурой Llama и 1,9 млрд параметров, представленная в формате safetensors для библиотеки Transformers. Модель обучена на текстах на 24 официальных языках Европейского союза; её контекст составляет 4096 токенов. По карточке, модель дистиллирована из Gemma 2. Модель предназначена для генерации и понимания текста, а также для исследований и разработки систем NLP. Она не дообучена следовать инструкциям или предпочтениям людей, поэтому для прикладных сценариев обычно требуется дополнительное выравнивание, например supervised fine-tuning или RLHF. Компактный размер ориентирован на использование на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Модель может генерировать фактические ошибки, предвзятый, вредный или бесполезный текст; перед применением необходимы оценка и меры снижения рисков. Поддерживаются английский, болгарский, чешский, датский, немецкий, греческий, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский языки. Лицензия — CC-BY-SA 4.0; также действуют условия использования Gemma.

Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated-GGUF — это GGUF-квантизированная версия модели Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated, подготовленная и опубликованная mradermacher. Модель основана на семействе Qwen3.6 и предназначена для генерации текста, рассуждений и задач, связанных с дистилляцией. В описании также указаны характеристики mixture-of-experts (MoE), LoRA и uncensored/abliterated-версии, однако подробности архитектуры исходной модели не приведены. Доступны варианты квантования GGUF от Q2_K до Q8_0, включая IQ4_XS, с размером файлов примерно от 13 до 37 ГБ. Для мультимодального использования предоставляются дополнительные файлы mmproj в форматах Q8_0 и F16, поэтому модель, вероятно, может работать с мультимодальными входами при наличии совместимого программного обеспечения, но поддерживаемые типы данных не уточнены. Заявлен английский язык; сведения о размере контекста и других языках отсутствуют. К сильным сторонам относятся широкий выбор вариантов квантования, возможность локального запуска в совместимых инструментах и наличие более качественных вариантов Q6_K и Q8_0, а также рекомендуемых по скорости Q4_K_S и Q4_K_M. Ограничения включают значительные требования к дисковому пространству и памяти, зависимость качества от выбранного уровня квантования и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

HyGPT-10b — языковая модель Gen2B и NCCAIT для понимания и генерации текста, особенно на армянском языке. Это декодерная модель семейства Gemma 2 с 9 млрд параметров, основанная на Gemma-2-9b и дополнительно предобученная на 10 млрд токенов армянских текстов. Веса представлены в формате safetensors; модель поддерживает диалоговый режим и контекст до 8192 токенов. Модель подходит для генерации армянского текста, ответов на вопросы и дополнения текста, а также для понимания запросов на армянском. В карточке также заявлена поддержка английского и русского языков. Развязанные слои эмбеддингов и LM head позволяют обучать выходной слой независимо. Качество на диалектах и региональных вариантах армянского может различаться; возможны неточные ответы, устаревшие сведения и ограничения при работе со специализированной терминологией. Лицензия указана как HyGPT Permissive Use License; README также требует соблюдать условия Gemma и её политику запрещённого использования. Подробности условий следует сверять с файлами лицензии репозитория.

Impish_QWEN_14B-1M — дообученная модель SicariusSicariiStuff на базе Qwen/Qwen2.5-14B-Instruct-1M. Это плотная языковая модель семейства Qwen2 с 14 млрд параметров, предназначенная для ролевых диалогов, творческого письма и общих задач. Она поддерживает контекст до 1,01 млн токенов и формат ChatML; автор рекомендует для ролевых сценариев формат Classic Internet RP и шаблон SICAtxt для описания персонажей. По заявлению автора, модель послушная, с низким уровнем цензуры, подходит для игрового отыгрыша и показала результат 78,68 на IFEval. Модель принимает текст и генерирует текст на английском языке. Доступны исходный вариант FP16 и производные варианты в форматах GGUF, EXL2, FP8 и Q4_0 для ARM; сведения о них относятся к предлагаемым вариантам квантования, тогда как репозиторий основной модели содержит safetensors. Модель распространяется по лицензии Apache-2.0. Указанные автором оценки и характеристики относятся к карточке модели; результат UGI обозначен как ожидающий, а данные о систематических ограничениях качества не приведены.

InternVL3.5-GPT-OSS-20B-A4B-Preview — мультимодальная модель OpenGVLab для диалога и рассуждений по тексту и изображениям. Она объединяет языковую модель openai/gpt-oss-20b с визуальным энкодером OpenGVLab/InternViT-300M-448px-V2_5; в метаданных указана архитектура InternVLChatModel. Репозиторий создан в августе 2025 года, веса представлены в формате Safetensors и распространяются по лицензии Apache-2.0. Модель предназначена для ответов на вопросы об изображениях, визуального анализа и мультимодальных рассуждений, а также для текстового диалога. Семейство InternVL3.5 использует маршрутизатор визуального разрешения и методы обучения Cascade RL; карточка семейства также заявляет возможности взаимодействия с графическими интерфейсами и embodied-задачи, но не подтверждает их отдельно для этой Preview-модели. Поддерживаются мультиязычные сценарии; точное число параметров и длина контекста для этого чекпойнта в предоставленных данных не указаны.

Iris-mini APEX-I-MiniPlus V1 — квантованная GGUF-сборка модели Iris-mini, подготовленная IsValorum для запуска через llama.cpp на компьютерах с ограниченной видеопамятью. Это диалоговая MoE-модель для генерации текста; в README описана ручная покомпонентная квантизация: эксперты используют IQ3_XXS, выходная голова — Q6_K, управляющие компоненты маршрутизации сохранены в F32, а attention gates — в Q8_0. Сборка рассчитана на полный или частичный запуск весов в системной RAM. README приводит оценки работы с длинным контекстом и скорости на разных конфигурациях, но фактическая производительность зависит от оборудования и настроек. Модель подходит для диалоговых ответов, рассуждений и генерации текста на нескольких языках, включая русский, английский и китайский. Каталог связывает её с базовой Iris-mini, описанной как дообученная MoE-модель на базе Qwen3.6-35B-A3B для диалогового агентного поиска и глубокого исследования. Репозиторий распространяется по лицензии Apache-2.0. Указанный формат GGUF сам по себе требует совместимого ПО для запуска.

ohwi/japanese-stablelm-instruct-gamma-7b-repro — воспроизведение японской модели Japanese Stable LM Instruct Gamma 7B, дообученное Хвигеоном О и Фудзики Накамурой на основе Japanese Stable LM Base Gamma 7B. Это авторегрессионная плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового следования инструкциям на японском языке. Контекст модели составляет 4096 токенов. Модель обучалась на японских переводах наборов Databricks Dolly-15k и части Anthropic HH, а также на подмножестве izumi-lab/llm-japanese-dataset с новостями Wikinews. В карточке приведены результаты оценки на Nejumi-leaderboard Neo, включая llm-jp-eval и Japanese Mt-Bench. Весы доступны в формате safetensors; лицензия — Apache-2.0. README отмечает, что это воспроизведение, а не официальная модель Japanese Stable LM Instruct Gamma 7B.

NANI-Nithin/K2-Horizon-7B-GGUF — набор GGUF-квантизаций базовой модели IFM/K2-Horizon-7B, разработанной MBZUAI IFM и квантизированной пользователем NANI-Nithin. Модель представляет собой плотный causal decoder примерно на 7 млрд параметров без MoE, реализованный с архитектурой K2HorizonForCausalLM и предназначенный для генерации текста и запуска локальных языковых моделей через llama.cpp. Доступны варианты от BF16 и Q8_0 до агрессивных 1–3-битных квантизаций, включая K-quant и IQ-варианты с importance matrix. Для общего использования рекомендован K2-Horizon-7B-Q4_K_M.gguf, а Q8_0 позиционируется как вариант, близкий к исходному качеству. Указан английский язык; модальность — текстовая. Размер BF16 GGUF составляет около 18,01 ГБ. Контекстное окно и дополнительные характеристики исходной модели в README не указаны. Главное преимущество набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти, а также возможность локального запуска. Для работы требуется форк MBZUAI-IFM llama.cpp с веткой model/K2Horizon либо версия upstream llama.cpp после добавления поддержки этой архитектуры; стандартный llama.cpp по состоянию на сентябрь 2026 года её не поддерживает. Веса распространяются на тех же условиях, что и оригинальная IFM/K2-Horizon-7B; для точных условий лицензии необходимо обратиться к репозиторию исходной модели.

K2-Horizon-MoVA-36B-A4B-Apex-Quant GGUF — это набор из трёх квантованных профилей модели K2-Horizon-MoVA-36B-A4B, опубликованный vincespeed на базе моделей IFM. Архитектура представляет собой MoE с механизмом MoVA (Mixture-of-Value Attention): всего около 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Модель предназначена для генерации текста и рассчитана на контекст до 524 288 токенов в режиме обучения, при этом практический диапазон зависит от доступной памяти для KV-кэша. В репозитории доступны профили i-quality размером 23,8 ГБ и 5,47 BPW, i-balanced размером 26,2 ГБ и 6,02 BPW, а также i-compact размером 17,6 ГБ и 4,04 BPW. Первый ориентирован на максимальное качество, второй сохраняет более высокую точность маршрутизируемых экспертов, а третий предназначен для развёртывания при ограниченных ресурсах. Квантование выполнено с использованием Apex-Quant — MoE-ориентированной смешанной точности, учитывающей важность различных групп слоёв. Основные ограничения связаны с совместимостью: для корректной работы требуется специальная ветка llama.cpp от MBZUAI-IFM с дополнительными исправлениями. Стандартная upstream-версия llama.cpp может не загрузить модель или выдавать повторяющиеся и некорректные токены; для Windows также требуется исправление обработки регулярного выражения токенизатора. В README не указаны языки обучения, результаты тестирования или прикладные преимущества по сравнению с исходной моделью. Модель и производные файлы распространяются по лицензии Apache-2.0.

K2S3-SOLAR-11b-v1.0 — корейская языковая модель, разработанная K2S3 на основе upstage/SOLAR-10.7B-Instruct-v1.0. Это плотная авторегрессионная модель семейства Llama с 10,7 млрд параметров, дообученная методом полного SFT. В обучающие данные вошли Стандартный корейский словарь, материалы KULLM Университета Корё, аннотации магистерских и докторских диссертаций и корейские образцы из AI Hub; также добавлены новые корейские токены. Модель предназначена для генерации текста на корейском языке, включая ответы и работу с материалами, связанными со словарём и академическими текстами. Контекст составляет 4096 токенов. Модель доступна в формате safetensors и может использоваться через Transformers. Модель лицензирована по CC BY-NC 4.0, поэтому коммерческое использование ограничено условиями лицензии. Качество и надёжность ответов зависят от запроса; в карточке не приведены результаты оценки или подробные сведения о безопасности.

Модель songhieng/khmer-mt5-summarization — дообученная версия mT5-small от Google для суммаризации текстов на кхмерском языке. Она принимает статьи, абзацы и документы и генерирует краткое изложение на кхмерском. Модель построена на архитектуре MT5ForConditionalGeneration с последовательным преобразованием текста в текст и содержит 157,4 млн параметров; для работы используется библиотека Transformers, веса представлены в формате safetensors. Модель предназначена для создания кратких изложений кхмерских материалов. В README упомянута оценка качества метрикой ROUGE, но численные результаты не приведены. Модель распространяется по лицензии MIT.