I.1Поиск и навигация по информации

MiniMax-M1 — крупная модель рассуждений с открытыми весами, разработанная MiniMax. Она предназначена для генерации ответов и решения задач, требующих многошагового рассуждения и обработки длинного контекста. Модель использует гибридную архитектуру Mixture-of-Experts (MoE) и механизм lightning attention. В доступных сведениях не приведены размер модели, длина контекста, поддерживаемые языки и лицензия, поэтому эти характеристики нельзя уточнить.

duyntnet/Phi-3-medium-128k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-Medium-128k-Instruct, разработанной Microsoft и опубликованной пользователем duyntnet. Репозиторий предназначен для локального запуска модели через совместимые инструменты, включая llama.cpp; указано, что квантизации созданы с использованием актуальной версии llama.cpp. Модель относится к классу text-generation и работает с текстом. Исходная Phi-3-Medium-128k-Instruct — инструкционная языковая модель для диалогов, ответов на вопросы, генерации текста и решения задач по пользовательским запросам. Она рассчитана на использование в chat-формате и поддерживает контекст до 128 000 токенов; размер словаря токенизатора — до 32 064 токенов. В README указан английский язык. Архитектура и точное число параметров в представленных данных не раскрыты. Сильной стороной модели является большой контекст и наличие готовых GGUF-квантизаций для более эффективного локального инференса. Ограничения включают зависимость от совместимого рантайма и конкретного варианта квантизации, а также отсутствие в README подробных характеристик качества, требований к ресурсам и данных о поддерживаемых модальностях помимо текста. Лицензия указана как other; её точные условия требуют отдельной проверки в исходном репозитории Microsoft.

CultriX/Qwen2.5-14B-BrocaV9 — объединённая модель генерации текста семейства Qwen2.5, созданная CultriX с помощью mergekit. В качестве базовой использована CultriX/Qwen2.5-14B-Wernickev3; в объединение также вошли SeQwence-14Bv1, QwenSlerp6-14B, Qwen2.5-Math-14B-Instruct, Qwenfinity-2.5-14B и Q2.5-Veltha-14B-0.5. Метод слияния — della_linear. Модель предназначена для диалогового общения и генерации текста; её можно использовать для ответов на вопросы, написания и продолжения текстов, а также задач рассуждения и математики. Это плотная причинно-языковая архитектура Qwen2 с 14 млрд параметров, доступная в формате safetensors и поддерживающая контекст до 131 072 токенов. Карточка указывает лицензию Apache-2.0.

Qwen2.5-VL-3B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, основанная на Qwen/Qwen2.5-VL-3B-Instruct и представленная в формате GGUF. Модель разработана командой Qwen; репозиторий связан с Unsloth. Она предназначена для обработки текста и визуальных данных, включая изображения и видео, с поддержкой сценариев визуального вопросно-ответного взаимодействия, анализа документов, диаграмм, таблиц, форм и интерфейсов, а также визуальной локализации объектов и компьютерного или мобильного управления. Модель содержит около 3 млрд параметров. В её архитектуре используются языковая модель Qwen2.5, vision encoder на базе ViT с оконным вниманием, SwiGLU и RMSNorm, динамическое разрешение изображений и динамическая частота дискретизации видео. Она способна анализировать продолжительные видеозаписи, выделять релевантные моменты, формировать структурированные результаты, включая JSON, и выдавать координаты объектов в виде ограничивающих рамок или точек. В карточке указана поддержка английского языка; размер контекстного окна не приведён. Сильные стороны модели — сочетание компактного размера с возможностями анализа изображений, документов и видео, визуального рассуждения, извлечения текста и структурированных данных. Ограничения включают меньший размер по сравнению с моделями Qwen2.5-VL на 7 и 72 млрд параметров, поэтому качество может быть ниже на сложных задачах; также в карточке не приведены требования к ресурсам, точный вариант квантования GGUF и полный перечень поддерживаемых языков. Использование регулируется лицензией qwen-research.

Ex0bit/Qwen3.5-122B-A10B-PRISM-PRO-GGUF — мультимодальная чат-модель Ex0bit в формате GGUF, созданная на основе Qwen/Qwen3.5-122B-A10B и предназначенная для запуска через llama.cpp. По описанию автора, PRISM-PRO изменяет механизмы отказа и предвзятости; доступная Dynamic-квантизация размером 57,7 ГБ использует разные уровни точности для блоков модели, а веса внимания сохранены в Q8_0. В репозитории также указан файл mmproj для обработки изображений и видео. Модель имеет гибридную MoE-архитектуру с 122 млрд параметров, из которых активны около 10 млрд на токен, и сочетает GatedDeltaNet с полным вниманием. Заявленное окно контекста — 262 144 токена; доступны режимы рассуждения и прямого ответа. Подходит для диалога, анализа изображений и видео, работы с длинным контекстом и рассуждений. В метаданных указана поддержка множества языков, включая русский, английский и китайский. Лицензия — Apache-2.0.

tinyopsec/Qwen3.5-4B-Unredacted-MAX-GGUF — набор GGUF-квантизованных версий языковой модели prithivMLmods/Qwen3.5-4B-Unredacted-MAX, созданной на базе Qwen/Qwen3.5-4B. Модель предназначена для генерации текста, выполнения инструкций, решения задач, многошагового рассуждения, исследовательских экспериментов и локального запуска на совместимом оборудовании. Указанный разработчик базовой дообученной модели — prithivMLmods, а данный репозиторий содержит общественные квантизации. Модель имеет около 4,5 млрд параметров, архитектуру Qwen2 с 28 слоями и 28 головами внимания, контекст до 32 768 токенов и словарь размером 151 936 токенов. В README указан английский язык. Доступны варианты с точностью от 16 до 2 бит и размером примерно от 8,4 до 1,1 ГБ, что позволяет выбирать между качеством, требованиями к видеопамяти и компактностью. Поддерживаются сценарии локального инференса через llama.cpp, llama-cpp-python, LM Studio и Ollama. Сильными сторонами являются сравнительно небольшой размер, гибкий выбор уровня квантизации, совместимость с форматом GGUF и пригодность для запуска на видеокартах среднего класса, ноутбуках и CPU. Ограничения включают компромисс между качеством и степенью сжатия, а также отсутствие в README подробных результатов бенчмарков, данных о мультимодальности и поддерживаемых языках помимо указанного английского. Лицензия — Apache 2.0.

Qwen3.8-27B-GPTQ-W4A8-MTP-Ampere — квантованная версия базовой модели Qwen/Qwen3.8-27B; разработчик в README явно не указан. Модель предназначена для генерации текста и инференса через vLLM, включая сценарии с OpenAI-совместимым API. Профиль запуска рассчитан на текстовые задачи; мультимодальная обработка не включена, несмотря на наличие vision tower в базовой конфигурации. Модель использует GPTQ-квантование: веса декодера представлены в INT4 с размером группы 128, language model head — в INT8, эмбеддинги упакованы в INT8, а MTP-модуль для speculative decoding — в INT4. Предусмотрены FP8 KV-кэш и генерация до трёх черновых токенов MTP за шаг. Заявленная максимальная длина контекста — до 250 000 токенов, однако фактические возможности зависят от доступной памяти и настроек запуска. Для работы требуется две видеокарты NVIDIA с 24 ГБ VRAM, например RTX 3090, Linux с совместимыми CUDA и драйверами, Python 3.11 и строго указанная версия vLLM 0.27.1. К сильным сторонам относятся снижение требований к памяти по сравнению с полноразмерной BF16-моделью и ускорение генерации благодаря speculative decoding. Ограничения включают возможное ухудшение качества из-за квантования весов и FP8 KV-кэша, необходимость специального compatibility layer и отказ от запуска с другими версиями vLLM, а также привязку тестового профиля к двум GPU. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-Flash-Next MLX Activation-Weighted 3-bit — это MLX-конверсия модели Qwen/Qwen3.8-Flash-Next, опубликованная авторами данного репозитория. Модель предназначена для генерации текста и работы с изображениями, включая сценарии vision-language и OCR. Указанный pipeline имеет тип image-text-to-text, однако поддерживаемые языки в README не перечислены. Исходная модель содержит около 180 млрд параметров: 125 млрд основных параметров, 51 млрд параметров n-граммных embedding-таблиц и 4 млрд параметров MTP. Набор включает 48 банков маршрутизируемых экспертов, сжатых до 3 бит с размером группы 64; остальные подходящие матрицы используют 4-битное квантование. Нативный размер контекста составляет 262 144 токена, а размер артефакта — 83,49 ГиБ. Для запуска требуется MLX-совместимый и Qwen4Exp-aware runtime, например mere.run или mlx-vlm. К сильным сторонам относятся снижение пикового потребления памяти примерно на 19,58% по сравнению с опубликованным Q4-вариантом и сохранение результатов на закрытом наборе из 16 текстовых, графических и OCR-тестов. При этом приведённая квалификация не доказывает общее качество модели или эквивалентность BF16-версии; оценка проводилась на ограниченных наборах, а MTP был отключён при выборе чекпойнта. Распространение осуществляется по Qwen Community License 1.0 с дополнительными требованиями атрибуции и отдельными лицензионными условиями для некоторых коммерческих сценариев.

mlx-community/Qwen3-Next-80B-A3B-Instruct-4bit — это 4-битно квантизированная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.27.1. Модель предназначена для генерации текста и выполнения задач по инструкциям в приложениях, использующих экосистему MLX, включая локальный запуск через библиотеку mlx-lm. Из README известно, что модель является текстовой и относится к pipeline text-generation. В её названии указаны размер 80B и конфигурация A3B, однако подробности архитектуры, поддерживаемые языки, длина контекста и набор модальностей не приведены. Ключевое преимущество версии — 4-битное представление, потенциально уменьшающее требования к памяти при локальном использовании, но README не содержит данных о качестве, производительности или ограничениях квантизации. Модель распространяется по лицензии Apache-2.0.

Qwopus3.6-35B-A3B-v1-MTP-GGUF — модель Jackrong, основанная на unsloth/Qwen3.6-35B-A3B. Это мультимодальная модель в формате GGUF для генерации текста и обработки связок «изображение—текст», ориентированная на диалоговые сценарии, рассуждения, работу с инструментами и вызов функций. В метаданных указана поддержка английского, китайского, испанского, русского и японского языков. Релиз сохраняет MTP-компоненты исходной архитектуры Qwen3.6. Multi-Token Prediction позволяет одновременно предсказывать несколько последующих токенов и использовать speculative decoding: черновая модель предлагает последовательность токенов, а целевая модель проверяет её параллельно. Это может повысить скорость инференса при совместимости используемого движка с MTP, включая llama.cpp и производные решения. Доступны варианты с разными уровнями квантования — от Q2_K до Q8_0, а также BF16. Для оптимальной производительности требуется соответствующая draft-модель, поддерживающая спекулятивное декодирование; без такой связки преимущество MTP может быть недоступно. Точный размер контекста, подробности архитектуры, результаты оценки качества и ограничения мультимодальных возможностей в README не указаны. Модель распространяется по лицензии Apache 2.0.

RQwen-v0.2 — диалоговая языковая модель на архитектуре Qwen2, разработанная ehristoforu и дообученная на базе ehristoforu/RQwen-v0.1. Модель содержит 14 млрд параметров, поддерживает контекст до 32 768 токенов и предназначена для генерации текста в диалоге; в метаданных также отмечен интерфейс вызова инструментов. Модель можно применять для ведения диалога, ответов на вопросы, выполнения инструкций и генерации текста. В карточке указан английский язык; описание базовой модели в каталоге указывает поддержку русского и английского. Весовые файлы представлены в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Карточка не описывает обучающие данные или специальные ограничения качества.

Fulcrum-AI представляет Ryze-Mistral-Nemo-Instruct-2407-8 — текстовую генеративную модель на архитектуре MistralForCausalLM, полученную слиянием весов через passthrough mergekit на основе mistralai/Mistral-Nemo-Instruct-2407. В репозитории указаны 20,1 млрд параметров, формат safetensors и контекст до 1 024 000 токенов. Модель предназначена для диалога, генерации текста, выполнения инструкций и сценариев с интерфейсом вызова инструментов. Базовая Mistral Nemo — многоязычная инструктивная модель Mistral AI и NVIDIA; модель можно применять для общения и генерации текста на поддерживаемых ею языках. README не описывает отдельную специализацию или результаты оценки именно этого слияния. Лицензия в предоставленных данных не указана.

T5-3B — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Colin Raffel, Noam Shazeer и соавторами. Она представляет задачи обработки естественного языка в формате преобразования текста в текст: принимает текст и генерирует текстовый ответ. В метаданных указано 385,2 млн параметров, архитектура T5WithLMHeadModel и контекст до 512 токенов; README называет чекпойнт T5-3B моделью с 3 млрд параметров, поэтому размер в источниках расходится. Модель предназначена для машинного перевода; подход T5 также применим к суммаризации документов, ответам на вопросы, классификации, анализу тональности и перефразированию. Она обучалась на C4 и смеси задач денойзинга и контролируемого обучения. Указанные языки — английский, французский, румынский и немецкий. Модель распространяется по лицензии Apache 2.0. README не приводит конкретных результатов оценки или подробных ограничений; контекст в 512 токенов ограничивает длину входа и выхода.

Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

Triangulum-10B — инструкция-настроенная большая языковая модель от prithivMLmods для многоязычной генерации текста и диалоговых задач. Она основана на авторегрессионной архитектуре LLaMA; карточка описывает обучение с учителем и RLHF, а также использование синтетических данных с длинными цепочками рассуждений. В репозитории указаны 9,9 млрд параметров, контекст до 32 768 токенов и веса Safetensors для Transformers. Модель предназначена для генерации контента, ответов на вопросы, диалога, суммаризации, анализа текста и перевода. В метаданных перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. README также приводит запуск через Ollama, однако конкретное качество по языкам и задачам не подтверждено оценками. Лицензия указана как Llama 3.1; следует учитывать её условия использования.

Triangulum 10B it — мультиязычная авторегрессионная языковая модель для генерации текста и диалогового общения, разработанная prithivMLmods. Она основана на архитектуре LLaMA и содержит около 9,9 млрд параметров; модель настроена следовать инструкциям и, согласно карточке, обучалась на синтетических данных с длинными цепочками рассуждений, с применением SFT и RLHF. Контекст модели — до 32 768 токенов. Модель предназначена для генерации мультиязычного контента, ответов на вопросы, диалога, суммаризации и анализа текста, а также перевода и локализации. Метаданные указывают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Репозиторий содержит веса в safetensors; в README также приведён пример запуска совместимой версии через Ollama. Лицензия — CreativeML OpenRAIL-M. Карточка заявляет возможности рассуждения и следования инструкциям, но не приводит независимых оценок качества или подробных результатов тестирования. Как и другие генеративные языковые модели, Triangulum может ошибаться или выдавать недостоверные ответы; качество на отдельных языках и задачах может различаться.

Jebadiah/Aria-daughter-128k — слитая линейным методом модель на основе двух инструктивных языковых моделей: Nitral-AI/Echidna-7b-128k и gradientai/Llama-3-8B-Instruct-262k. По архитектуре это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалогов и генерации текста. Контекстное окно составляет 262 144 токена; модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель подходит для ведения диалогов, генерации ответов и работы с длинными текстами в пределах её контекста. Карточка не сообщает отдельные языковые или предметные специализации. Лицензия в предоставленных данных не указана.

Behemoth-Gigaberg-SLERP-0.2 — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из Behemoth-123B-v1.2 и Gigaberg-Mistral-Large-123B. Модель предназначена для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 122,2 млрд параметров, использует формат safetensors и имеет контекстное окно до 131 072 токенов. Она принимает текст и генерирует текст. Данные о поддерживаемых естественных языках в предоставленной карточке не приведены. Лицензия и конкретные ограничения применения в предоставленных данных не описаны. Качество и надёжность ответов могут зависеть от запроса и сценария использования; ответы следует проверять, особенно при вызове инструментов.

ChatGLM2-6B — разработанная командой THUDM двуязычная диалоговая модель второго поколения семейства ChatGLM. Это плотная модель на 7,5 млрд параметров с архитектурой ChatGLM, обученная на 1,4 трлн китайских и английских токенов и дополнительно выровненная с предпочтениями людей. Она предназначена для диалога и генерации текста, включая ответы на вопросы, многоходовое общение и задачи на рассуждение. Модель поддерживает китайский и английский языки и контекст до 32 768 токенов; при обучении диалогов использовалась длина контекста 8K. Для ускорения инференса применяется Multi-Query Attention, а реализация использует FlashAttention. В README отмечено, что модель ограниченно понимает сверхдлинные документы в рамках одного запроса. Репозиторий содержит веса PyTorch. Код распространяется по Apache-2.0, а для весов действует отдельная лицензия модели: бесплатное коммерческое использование разрешено после заполнения анкеты.

DeepSeek-R1-Qwen-lorablated-32B — плотная языковая модель на архитектуре Qwen2, созданная nbeerbower слиянием DeepSeek-R1-Distill-Qwen-32B и Qwen2.5-32B-abliterated-LORA методом task arithmetic с помощью mergekit. Модель содержит 32 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, рассуждений и решения задач, в том числе по математике и программированию — такие возможности указаны для базовой модели. В метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробных инструкций по применению, поэтому производительность конкретных сценариев не подтверждена.

AtomicChat/DeepSeek-V4-Flash-0731-GGUF — это квантизированная GGUF-версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek и упакованной и квантизированной AtomicChat. Модель предназначена для генерации текста, диалоговых сценариев и conversational-приложений, включая локальный запуск через llama.cpp. Заявлены поддерживаемые языки английский и китайский. Модель построена на архитектуре mixture-of-experts и содержит 284 млрд параметров, из которых 13 млрд активируются для каждого токена. Она включает 43 слоя, 256 маршрутизируемых экспертов, 6 активных экспертов и одного общего эксперта. Контекстное окно составляет 1 млн токенов, размер словаря — 129 280. Исходная модель обучалась с учетом квантизации: маршрутизируемые эксперты хранятся в MXFP4, остальные компоненты — в FP8 или BF16. В репозитории доступны варианты от AD-BF16 и AD-MXFP4 до низкобитных AD-IQ1 и AD-IQ2, позволяющие выбирать компромисс между качеством и объёмом памяти. Главные преимущества — большое контекстное окно, высокая ёмкость MoE-архитектуры и варианты размещения с разным размером файлов. При этом для запуска требуются значительные объёмы оперативной или видеопамяти: размеры вариантов составляют примерно от 70 до 162 ГБ. Квантизация ниже исходного уровня 4,25 бит может заметно ухудшать качество, особенно в вариантах с 1–3 битами. Встроенный chat template устарел и может терять рассуждения в агентских циклах и игнорировать reasoning_effort; для корректной работы рекомендуется использовать отдельный исправленный шаблон из репозитория. Модель распространяется по лицензии MIT.

DeepSeek-V4-Flash-0731 REAP K160 — экспериментальный производный чекпойнт модели DeepSeek-V4-Flash-0731 от DeepSeek, созданный пользователем 0xSero с применением метода REAP. Модель предназначена для исследовательского использования и инференса в условиях ограниченной памяти, включая генерацию текста, программирование, рассуждения, вызов инструментов и агентские сценарии. Это неофициальный релиз DeepSeek. Модель использует архитектуру Mixture-of-Experts: в каждом MoE-уровне сохранено 160 из 256 маршрутизируемых экспертов, то есть удалено 37,5% экспертов, при этом маршрутизация top-6, общие эксперты, attention, embeddings, output head, mHC, compressor и indexer tensors сохранены. В backbone предусмотрено 43 MoE-слоя, а также 3 DSpark MTP-блока. Заявлены английский и китайский языки. Контекст проверен на конфигурации 8192 токенов, однако полные характеристики контекста в README не указаны. Чекпойнт содержит 48 шардов Safetensors и около 107,8 млрд байт данных. К сильным сторонам относятся существенное сокращение числа экспертов и требований к памяти, структурная валидация всех тензоров и успешная базовая проверка генерации и программирования. Ограничения включают экспериментальный статус, возможное снижение качества из-за агрессивного pruning, отсутствие свежего наблюдения для весов версии 0731, отсутствие подтверждения паритета с исходной моделью по бенчмаркам и отдельную необходимость проверки совместимости DSpark MTP. Для запуска требуется DeepSeek-V4-совместимый runtime; generic Transformers может не поддерживать необходимые MXFP4, sparse-attention, tokenizer и DSpark MTP-компоненты. Производная распространяется по лицензии MIT.

Falcon-H1-7B-Instruct — мультиязычная языковая модель, разработанная командой Falcon. Это плотная авторегрессионная модель с гибридной архитектурой Transformer и Mamba, дообученная на базе tiiuae/Falcon-H1-7B-Base для диалогового взаимодействия и генерации текста. Модель содержит 6,4 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, ответов на вопросы, рассуждений и других задач генерации текста. В карточке указана поддержка английского и многоязычного ввода; метаданные перечисляют арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский. Для запуска подходят Transformers и vLLM; файлы GGUF доступны в официальной коллекции для llama.cpp. Карточка приводит результаты сравнительной оценки на общих и логических задачах, но они не гарантируют качество в каждом сценарии. Лицензия — Falcon-LLM License; перед применением следует проверить её условия.

G9v3-3B — плотная причинная языковая модель команды AI9Stars на архитектуре LlamaForCausalLM с примерно 2,7 млрд параметров. Она предназначена для локального запуска и сценариев с ограниченными ресурсами; поддерживает контекст длиной до 131 072 токенов. Модель рассчитана на повседневные задачи ассистента, программирование, работу с инструментами и рассуждения. В README описаны режимы генерации с включённым и отключённым режимом обдумывания; метаданные указывают поддержку чата и английского и китайского языков. Для запуска подходят Transformers, vLLM и SGLang. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому результаты следует проверять, особенно перед использованием в важных решениях. Лицензия — Apache-2.0.

Gemma 1.1 7B IT — инструктивно дообученная текстовая языковая модель Google из семейства Gemma, созданного на основе исследований и технологий Gemini. Это декодерная модель с открытыми весами, рассчитанная на диалог и генерацию текста по инструкциям; её можно запускать на компьютере или в собственной облачной инфраструктуре. Модель подходит для ответов на вопросы, суммаризации, рассуждений, создания текстов и разговорных интерфейсов. В карточке семейства указана поддержка английского языка. Относительно компактный размер облегчает развёртывание при ограниченных вычислительных ресурсах, однако конкретный объём параметров и длина контекста в предоставленных данных не приведены. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и не учитывать тонкие языковые нюансы; качество также зависит от формулировки запроса и контекста. Для Gemma действует лицензия Gemma; при использовании следует соблюдать её условия и политику запрещённого использования Google.

Gemma 3 4B IT QAT GGUF — квантизированная GGUF-версия инструкционно дообученной модели Gemma 3 с 4 млрд параметров. Модель разработана Google DeepMind, а данный вариант опубликован Unsloth. Она относится к семейству лёгких открытых моделей Gemma и предназначена для локального развёртывания и генерации текста. Модель поддерживает мультимодальный ввод: текст и изображения, при этом генерирует текст. Она подходит для ответов на вопросы, суммаризации, рассуждений и анализа изображений. Для версий 4B заявлено контекстное окно до 128K токенов, изображения нормализуются до 896×896 и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Заявлена поддержка более 140 языков, однако в карточке отдельно указан английский язык. К сильным сторонам относятся сравнительно небольшой размер, возможность работы на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре, а также поддержка длинного контекста и изображений. Ограничения конкретного GGUF-файла, включая точный уровень квантизации, требования к памяти и производительность, в README не указаны. Модель распространяется по лицензии Gemma; применимые условия использования определяются соответствующими Terms of Use Google.

TeichAI/LFM2.5-1.2B-Thinking-Pony-Alpha-Distill — дообученная TeichAI текстовая модель на архитектуре LFM2 с плотной причинной языковой моделью Lfm2ForCausalLM. Она основана на LiquidAI/LFM2.5-1.2B-Thinking и обучена на датасете TeichAI/Pony-Alpha-15k, сформированном на основе раннего чекпойнта Pony Alpha. Модель предназначена для генерации текста с рассуждениями и диалогов; среди заявленных сценариев — программирование, научные задачи и глубокое исследование. Поддерживает контекст до 128 000 токенов, содержит 1,5 млрд параметров и доступна в формате Safetensors. Метаданные отмечают интерфейс для вызова инструментов. Лицензия — Apache 2.0. Это компактная модель для локального развёртывания и задач, где полезны рассуждения и длинный контекст. README приводит рекомендованные параметры генерации: temperature 0,05, top_k 50 и repeat_penalty 1,05. Карточка не сообщает результаты оценивания или подробности о качестве и ограничениях модели; заявленные сценарии следует считать ориентиром, а не гарантией точности.

LLaDA2.0-flash-CAP — языковая модель компании InclusionAI на основе диффузионной архитектуры Mixture-of-Experts. Она предназначена для генерации текста и диалоговых ответов, включая задачи знаний, рассуждений, программирования и математики. Обучение Confidence-Aware Parallel (CAP) повышает уверенность модели в корректных предсказаниях, чтобы ускорить параллельное декодирование. В README указана архитектура базовой LLaDA2.0-flash с 100 млрд параметров, 32 слоями, 32 головами внимания и контекстом 32 768 токенов; метаданные репозитория указывают 5,5 млрд параметров. В сравнении с базовой версией README сообщает ускорение генерации в 1,46 раза при небольшом снижении среднего результата на бенчмарках. Модель работает с текстом; для снижения риска смешения языков авторы рекомендуют температуру 0.0. Репозиторий распространяется по лицензии Apache-2.0.

FireFunction V2 — языковая модель Fireworks AI для диалогов и вызова функций, дообученная на Llama 3. Она построена на плотной архитектуре Llama, содержит 69,5 млрд параметров и принимает текстовый контекст длиной до 8192 токенов. Модель поддерживает обычные инструкции и чат, одиночный и параллельный вызов функций, а также извлечение структурированной информации; в одном запросе можно описать до 20 функций. В карточке Fireworks сообщает о результатах, сопоставимых с GPT-4o на наборе публичных оценок вызова функций, и об улучшении относительно FireFunction v1. Модель не оптимизирована для сотен описаний функций или вложенных вызовов. Лицензия указана как llama3; применение следует сверять с её условиями.

MiniCPM5-2B-Base — базовая плотная авторегрессионная языковая модель семейства MiniCPM5, разработанная OpenBMB. Она предназначена для локальных ассистентов, агентных сценариев, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Модель содержит около 2,2 млрд параметров; в карточке указана архитектура LlamaForCausalLM с 42 слоями и поддержка длинного контекста. README указывает контекст 131 072 токена, тогда как метаданные каталога сообщают 524 288 токенов. Модель работает с текстом и ориентирована на английский и китайский языки. Среди заявленных сильных сторон — код, математика, понимание длинного контекста, использование инструментов и агентные задачи; это характеристики, заявленные разработчиком, а не независимая оценка. Для фактических результатов важны вычислительные ресурсы, среда запуска и проверка ответов: генерация может быть неточной, предвзятой или оскорбительной и уязвима к специально составленным запросам. Лицензия — Apache-2.0.