II.7DevOps, облако и эксплуатация IT-систем

PollardWeights/Qwen2.5-14B-Instruct-Pollard — это квантизированная версия Qwen2.5-14B-Instruct, разработанная PollardWeights на основе модели Qwen от Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая объяснения, программирование, рассуждения и творческое продолжение текста. Поддерживает только текстовый ввод; заявленный язык — английский. Архитектура — qwen2, размер — около 14,8 млрд параметров, формат распространения — GGUF. Модель использует смешанную квантизацию PollardMix с распределением разрядности по чувствительности отдельных слоёв, а не равномерное сжатие. Доступны варианты от Q6_K размером около 12,12 ГБ до IQ1_KT размером 3,92 ГБ. Крупные варианты обеспечивают более высокое качество, а IQ4_XS позиционируется как оптимальный баланс размера и качества. IQ1_KT позволяет запускать модель при ограниченных ресурсах, но требует ik_llama.cpp и работает медленнее, чем некоторые более крупные варианты. Сильной стороной является существенное уменьшение размера по сравнению с F16-версией: примерно с 29,60 до 3,92 ГБ. По измерениям на WikiText-2 вариант Q6_K близок к F16 по perplexity, а PollardMix превосходит равномерную 1-битную квантизацию по указанным метрикам и сохраняет связность в чат-сценариях. Ограничения включают потери качества при агрессивной квантизации, зависимость IQ1_KT от ik_llama.cpp, отсутствие данных о других языках и неполные сведения о длине контекста. Лицензия — Apache-2.0.

Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

ThomasBaruzier/Qwen2.5-1.5B-Instruct-GGUF — набор imatrix-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-1.5B-Instruct, разработанной командой Qwen. Репозиторий предназначен для запуска через llama.cpp и содержит варианты с разными уровнями сжатия, размером примерно от 417 МБ до 1,57 ГБ, а также версию F16 размером 2,95 ГБ. Модель представляет собой причинную текстовую модель на 1,54 млрд параметров с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, GQA и связанными эмбеддингами слов. Она предназначена для диалогов, следования инструкциям, генерации текста, работы со структурированными данными и JSON, а также задач программирования и математики. Поддерживаются более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Полный контекст составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Ключевое преимущество репозитория — широкий выбор квантизаций, позволяющий выбирать между компактным размером и сохранением качества; для вариантов указаны показатели perplexity и относительной точности. Ограничениями являются небольшой по современным меркам размер модели и ожидаемое снижение качества у наиболее агрессивно сжатых вариантов. Модель распространяется по лицензии Apache-2.0.

DhruvalLabs/Qwen2.5-7B-Instruct-GGUF — набор квантизированных версий текстовой генеративной модели Qwen2.5-7B-Instruct. Исходную модель разработала команда Qwen, а представленные GGUF-квантизации подготовлены Dhptl с использованием quant-kit. Модель предназначена для диалогов, генерации текста и работы в качестве локального ассистента; поддерживается запуск через llama.cpp, Ollama, LM Studio, Open WebUI и Jan. В карточке явно указан английский язык. Это семимиллиардная instruction-tuned языковая модель в формате GGUF с вариантами квантизации от Q2_K до Q8_0. Размер файлов составляет примерно от 2,81 до 5,31 ГБ, а рекомендуемым вариантом назван Q4_K_M как компромисс между качеством и требованиями к памяти; для него требуется около 5,9 ГБ RAM. Более сильное сжатие уменьшает потребление памяти, но заметнее снижает качество, тогда как Q6_K и Q8_0 ближе к исходному качеству и требуют больше ресурсов. В README не указаны размер контекста и мультимодальные возможности; приведён пример использования с контекстом 4096 токенов. Лицензия — Apache-2.0. Заявленные оценки сохранения 97–99% качества не подтверждены фактическими результатами в карточке, поскольку бенчмарки предлагается запускать самостоятельно.

mlx-community/Qwen3-235B-A22B-Instruct-2507-8bit — это 8-битная версия модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.0. Модель предназначена для генерации текста и работы в диалоговом формате через chat template, если он доступен в токенизаторе. Модель ориентирована на задачи инструкционного следования и текстовой генерации, включая ответы на пользовательские запросы и другие сценарии, поддерживаемые исходной моделью Qwen3. Из доступных данных известны размерная маркировка 235B-A22B и 8-битное представление, однако сведения об архитектуре, фактически активируемом числе параметров, языках, максимальном контексте, производительности и системных требованиях не приведены. Лицензия — Apache 2.0. README не содержит результатов тестирования и подробностей об ограничениях или рекомендуемых сценариях эксплуатации.

Qwen3-4B-Instruct-2507-4bit — языковая instruct-модель для генерации текста, разработанная командой Qwen и конвертированная сообществом mlx-community в формат MLX из базовой модели Qwen/Qwen3-4B-Instruct-2507. Модель предназначена для диалогового взаимодействия и выполнения текстовых запросов с использованием chat template. Модель содержит 4 миллиарда параметров и представлена в 4-битном формате квантования. Она работает с текстовой модальностью; сведения о поддерживаемых языках и размере контекста в README не указаны. Формат MLX и использование библиотеки mlx-lm ориентированы на запуск модели в экосистеме MLX. Конкретные преимущества и ограничения качества по сравнению с исходной моделью в предоставленных данных не описаны; 4-битное представление может влиять на точность, но степень такого влияния не указана. Модель распространяется по лицензии Apache 2.0. Конвертация выполнена с использованием mlx-lm версии 0.26.2.

Qwen3-4B-Instruct-2507-GPTQ-Int4 — квантизированная версия модели Qwen/Qwen3-4B-Instruct-2507, опубликованная под идентификатором superjob/Qwen3-4B-Instruct-2507-GPTQ-Int4. Она предназначена для генерации текста и работы в диалоговых и прикладных сценариях, где важны компактность модели и снижение требований к памяти. Заявлена поддержка 104 языков, включая русский и другие языки стран СНГ. Модель использует 4-битную GPTQ-квантизацию весов и 16-битные активации (W4A16), размер группы — 128, порядок активаций статический. Формат compressed-tensors обеспечивает нативную поддержку в vLLM и оптимизирован для запуска с этим движком. README не содержит данных о точном размере контекстного окна, числе параметров исходной архитектуры, поддерживаемых модальностях помимо текста или результатах тестирования, поэтому оценить качество и ограничения по бенчмаркам невозможно. Модель распространяется по лицензии Apache 2.0, как и исходная модель.

Это GGUF-версия модели insraq/Qwen3.5-4B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated-MTP-GGUF, созданная на базе Qwen/Qwen3.5-4B. Модель разработана Empero и insraq: исходная Qwen3.8-4B представляет собой полноразмерную дистилляцию модели Qwen3.8 2.4T A95B в архитектуру Qwen3.5-4B, а данная версия дополнительно декензурирована с использованием Heretic v1.4.0 и объединена с MTP-drafter из unsloth/Qwen3.5-4B-MTP-GGUF. Это причинная языковая модель для генерации текста, рассуждений, следования инструкциям и нативного function calling; заявлена поддержка английского языка. Модель содержит около 4 млрд параметров и обучалась методом SFT на примерно 45 000 отфильтрованных трасс рассуждений учителя. Она поддерживает контекст до 262 144 токенов, а исходная архитектура относится к текстовому пути vision-language базы Qwen3.5. К сильным сторонам относятся компактный размер, пригодность для запуска на потребительском оборудовании, улучшенные по сравнению с базовой моделью результаты на MMLU и сниженное число отказов: 6 из 100 против 99 из 100 у исходной Qwen3.8-4B. При этом на GSM8K модель уступает базовой версии Qwen3.5-4B, а декензурирование может снижать встроенные защитные ограничения. Для работы требуется совместимый runtime с поддержкой архитектуры Qwen3.5; лицензия — Apache-2.0.

parmanu-lcs2/Qwen3-5B — текстовая генеративная модель на архитектуре Qwen3, полученная сокращением Qwen/Qwen3-8B методом SNIPER и последующим дообучением. После pruning в модели 5,406,974,208 параметров; метаданные каталога указывают 7,6 млрд. параметров и контекст до 40 960 токенов. Для восстановления использованы LoRA и 2 000 примеров SlimOrca в течение одной эпохи, после чего адаптеры объединены с весами модели. Модель предназначена для диалоговой генерации текста и выполнения инструкций. Её можно применять для ответов на вопросы, составления текстов и помощи с кодом — в пределах возможностей базовой Qwen3. README сообщает длину контекста 1 024 токена во время дообучения; это не следует путать с заявленным в метаданных родным контекстом модели. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Описание не содержит результатов оценки качества после pruning, поэтому фактическую сохранность способностей базовой модели следует проверять на целевых задачах.

Карточка модели KryptykAngel/Qwen3.6-27B-AEON-Ultimate-Uncensored-MTP-i1-GGUF на Hugging Face совпадает с карточкой theLittleStone/Qwen3.6-27B-AEON-Ultimate-Uncensored-MTP-i1-GGUF, поэтому описание составлено по ней. Это GGUF-версия Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, подготовленная theLittleStone с квантизацией K-Quant и калибровкой iMatrix; поддерживается MTP (предсказание нескольких токенов). Калибровка использовала 20 000 примеров из набора eaddario/imatrix-calibration. Модель предназначена для генерации текста и диалогов, включая рассуждения и программирование; карточка описывает её как вариант с ослабленными отказами. Для запуска подходят llama.cpp и LM Studio. В карточке заявлено, что калибровка iMatrix улучшает точность относительно обычной квантизации той же разрядности. Репозиторий указывает форматы GGUF BF16 и варианты K-Quant, включая IQ4 и Q4_K_M; размер базовой модели — 27 млрд параметров. Метаданные отмечают английский и китайский языки, а также многоязычность. Лицензия — Apache-2.0. Это производная от AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 модель. Заявления карточки о точности, сохранении возможностей и снижении отказов основаны на описании автора и приведённых им проверках. Ослабленные отказы могут приводить к генерации небезопасного или нежелательного содержания; ответы модели также могут содержать ошибки.

Это GGUF-квантизация модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и дополнительно преобразованной с помощью официального квантизатора llama.cpp. Модель предназначена для локального запуска и генерации текста, включая задачи рассуждения, программирования и работы с естественным языком. Вариант использует архитектуру Qwen3.6-35B-A3B-MTP и формат IQ2_M с динамической смешанной точностью; размер файла уменьшен за счёт низкобитного квантования, а Unsloth importance matrix помогает эффективнее распределять доступную точность между тензорами. Другие характеристики, включая поддерживаемые языки, контекст и модальности, в README не указаны. В основе лежит модель Heretic, в которой применена техника abliteration для снижения числа отказов без значительного изменения исходных возможностей. Согласно README, модификация затрагивает лишь ограниченную часть весов, а заявленный результат — на 88% меньше отказов по сравнению с оригинальной моделью при сохранении близкого качества. К преимуществам относятся совместимость с актуальными версиями llama.cpp, небольшой объём хранения и улучшенное соотношение качества и размера благодаря динамическому квантованию и importance matrix. Ограничением является возможная потеря качества из-за агрессивного IQ2_M-квантования, а отказосниженное поведение может быть нежелательно для сценариев, требующих строгих защитных ограничений. Лицензия указана как Apache-2.0; README отмечает, что GGUF следует лицензии исходной модели, поэтому для полного понимания условий использования следует проверить upstream-репозиторий.

Qwen3.6-35B-GGUF — это GGUF-квантизация базовой модели Qwen/Qwen3.6-35B-A3B, подготовленная разработчиком 0xSero. Модель предназначена для генерации текста и запуска через llama.cpp, включая сценарии локального инференса на совместимом оборудовании. Доступны варианты с разными уровнями квантизации, включая динамическую смешанную квантизацию DYNAMIC.gguf. Модель имеет 35 млрд общих параметров, при этом на один токен активируется около 3 млрд параметров. В её основе используется гибридная архитектура Gated DeltaNet и Gated Attention с маршрутизацией через 256 экспертов; для DYNAMIC.gguf критичные компоненты внимания и маршрутизатор сохраняются в более высокой точности, а экспертные слои квантуются сильнее. Указан формат GGUF, однако размер контекста, число слоёв, скрытый размер, поддерживаемые языки и модальности в README не приведены. Сильной стороной являются варианты, ориентированные на баланс качества, размера и скорости, а также результаты тестирования на AMD Ryzen AI MAX+ 395 с Radeon 8060S, Vulkan и llama.cpp. Ограничение — заявленные показатели производительности относятся к конкретной конфигурации и могут отличаться на другом оборудовании; квантизация также может влиять на качество. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Это мультимодальная 27,8-миллиардная плотная модель семейства Qwen3.5, опубликованная True2456 как AWQ-квантизованный вариант Qwen/Qwen3.8-27B для запуска на Apple Silicon через oMLX. Она принимает текст и изображения и предназначена для диалогов, анализа визуальных материалов, программирования и многошаговых задач; метаданные также отмечают интерфейс вызова инструментов. Контекст модели — 256 тысяч токенов. Калибровка AWQ с размером группы 64 включала текст и изображения; файлы занимают около 17,36 ГБ при 5 битах на вес. Карточка приводит замеры скорости и памяти на M5 Max, а также описывает встроенные MTP-головы и ускорение SpecPrefill для длинных запросов. Эти результаты относятся к указанной конфигурации оборудования и oMLX. Квантизация может влиять на качество относительно исходной точности, а автор отдельно отмечает, что влияние несовпадения токенизаторов на точность длинноконтекстного поиска не измерялось. Лицензия — Apache-2.0. Модель является производной от Qwen/Qwen3.8-27B и рассчитана на локальный инференс; карточка указывает оптимизацию под M5 NAX.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это квантованная версия Qwen3.8-27B, выпущенная HauhauCS в формате GGUF. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также анализа изображений и видео при использовании отдельного vision-проектора. Вариант Aggressive настроен на прямые ответы, минимальное вступление и отсутствие стандартного поведения отказа. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder, 64 слоями, размером скрытого состояния 5120, размером FFN 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются языки English, Chinese и другие языки, заявленные как multilingual. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Встроенный NextN/MTP сохранён, а FastMTP добавляет отдельный профиль ускорения для контекста 32K и заявленное ускорение генерации. Сильные стороны модели — широкий контекст, текстовые и мультимодальные возможности, несколько вариантов квантования с разным соотношением качества и размера, а также ускорение speculative decoding через MTP. Ограничения включают отсутствие защитного поведения и отказов в Aggressive-режиме, что может быть нежелательно для надёжных агентских и критически важных сценариев; для них автор рекомендует Balanced-вариант, если он доступен. Для обработки изображений и видео требуется отдельный BF16 vision projector. Модель распространяется по лицензии Apache-2.0.

nvythong/Qwen3.8-35B-A3B-Distill-mlx-fp16 — конвертированная в формат MLX модель Empero на базе Qwen3.8-35B-A3B-Distill. Репозиторий создан 29 сентября 2026 года; модель предназначена для диалоговой генерации текста. Базовая модель имеет MoE-архитектуру семейства Qwen3.5 и поддерживает чат, рассуждения, математику, программирование и вызов инструментов. В README указано преобразование с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors и лицензию Apache-2.0. Модель ориентирована на английский язык. Сведений о длине контекста и точном числе параметров этой версии нет.

Qwen3.8-Flash-Next-MLX-mixed-4_8bit — сборка модели Qwen3.8-Flash-Next, преобразованная в формат MLX разработчиком PipeNetwork для запуска на Apple Silicon. Это текстовая модель генерации, основанная на гибридной архитектуре Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts на 125 млрд параметров, из которых около 6 млрд активируются на токен. В исходной архитектуре также используется хешированное n-граммное embedding-пространство на 51 млрд параметров. Мультитокенный prediction head на 4 млрд параметров исключён, а vision tower присутствует в файлах, но не используется данным текстовым runtime. Модель предназначена для локальной генерации текста и решения задач вроде программирования, продолжения текста и других сценариев text-generation. Она рассчитана на работу через библиотеку MLX и требует специального runtime qwen4_exp, поставляемого вместе с репозиторием; для загрузки может потребоваться trust_remote_code. Размер сборки составляет 106,2 ГБ. Маршрутизируемые эксперты и n-граммные таблицы квантизированы в 4 бита, большинство остальных весов — в 8 бит, отдельные компоненты и vision tower сохранены в bfloat16. Заявленная конфигурация заметно лучше равномерной 4-битной версии по качеству: perplexity на wikitext-2 составляет 4,5286 против 5,3914 у полной 4-битной сборки и 4,4708 у исходной bfloat16-модели. Сильная сторона сборки — существенное уменьшение размера при небольшом ухудшении качества относительно bfloat16; по приведённому тесту она является предпочтительным вариантом среди сборок такого размера. Ограничения включают большой объём файлов, зависимость от Apple Silicon и нестандартного runtime, отсутствие поддержки vision в текущем режиме, а также возможные потери качества из-за квантизации. Лицензия указана как qwen-community-1.0 с типом other; конкретные условия следует проверить в файле LICENSE.

Kre80r/Qwopus3.8-27B-Flash-V2-W4A16 — квантованный чекпойнт мультимодальной модели Qwopus3.8-27B-Flash-V2, подготовленный с помощью AutoRound 0.15.1. Веса квантованы до 4 бит с группами по 128, активации BF16; визуальный энкодер и отдельные чувствительные тензоры сохранены в BF16. Модель основана на Qwen3.8-27B через промежуточную Qwopus3.8-27B-Flash и прошла дополнительное постобучение с изменёнными функциями вознаграждения и методами обучения с подкреплением. Модель предназначена для диалоговых и мультимодальных задач, рассуждений и длительных агентных сценариев с повторными вызовами инструментов. В карточке также указаны генерация кода, вызов функций и ускорение вывода с MTP speculative decoding; заявленные сценарии включают локальный запуск и ресурсоёмкие рабочие процессы, где важны скорость и стоимость генерации. Поддерживаются английский, китайский, испанский, русский и японский языки. Метаданные указывают архитектуру Qwen3.5 и класс Qwen3_5ForConditionalGeneration; точный размер параметров и длина контекста в предоставленных данных не приведены. Разработчик позиционирует выпуск как экспериментальный. Карточка описывает компромисс между эффективностью вывода и сохранением качества, а также отмечает возможный дрейф рассуждений и зависимость агентных результатов от промпта, инструментов и среды. Широкая оценка безопасности и надёжности не проводилась. Лицензия — Apache-2.0.

Supertron2-1.7B — компактная языковая модель Surpem для генерации текста и диалогов, дообученная на Qwen/Qwen3-1.7B. Это плотный Transformer с 1,7 млрд параметров и контекстом до 40 960 токенов; модель предназначена для работы с инструкциями и поддерживает английский язык. Она подходит для пошаговых рассуждений, решения математических задач, написания и отладки кода, объяснения научных тем и повседневных диалогов. В README заявлена возможность локального запуска на потребительском оборудовании; для инференса указаны ориентиры от 5 ГБ видеопамяти в bfloat16 или от 3 ГБ при 4-битной квантизации. Модель распространяется по лицензии Apache 2.0. Как и другие компактные языковые модели, она может ошибаться в фактах, вычислениях и коде; README не приводит независимых результатов оценки качества.

Whittle-Qwen-3.8-35B-A3B — экспериментальная языковая модель с архитектурой Qwen3.8-Flash-Next (qwen4_exp), разработанная автором проекта Whittle. Это MoE-модель с 35,1 млрд параметров, включая 10 млрд параметров хешированной n-граммной памяти; на каждом токене активны примерно 3 млрд параметров. Модель получена дистилляцией Qwen3.8-27B на обучающих примерах с математическими задачами, кодом, диалогами, строгим JSON и эпизодами работы агента. По данным метаданных, базовая модель — logic65/Whittle-Next-27B-A3B. Модель предназначена для генерации текста и диалогов, написания кода, математических рассуждений и сценариев с инструментами. Она поддерживает контекст до 262 144 токенов; автор сообщает о запуске через стандартный llama.cpp, а файлы репозитория представлены в safetensors. Английский и китайский указаны среди языков карточки; метаданные также характеризуют модель как многоязычную. Это исследовательский предварительный выпуск: дистилляция охватывает ответы учителя, помещавшиеся в окно обучения 4k токенов, длинные примеры пока не использовались, а этап дистилляции на собственных ответах модели ещё не начат. Автор предупреждает, что модель не следует напрямую сравнивать с Qwen3.8 на равных условиях. Лицензия — Apache-2.0.

AlphaAI-1.5B-Thought — языковая модель Alpha AI, дообученная на базе Qwen2.5-1.5B для пошаговых рассуждений и решения структурированных задач. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель принимает текст и генерирует текст, а карточка указывает английский язык. Модель предназначена для локального запуска и диалоговых сценариев, где полезны многошаговые выводы: разбор математических и научных задач, программирование, генерация рабочих процессов и структурированные ответы виртуальных помощников. Веса представлены в формате PyTorch/Safetensors; README также описывает вариант с 16-битной точностью и перечисляет доступные квантизованные варианты. Лицензия — Apache-2.0. Модель может наследовать предвзятости обучающих данных, а ответы для критически важных задач следует проверять; качество в конкретных предметных областях карточка не подтверждает.

Citaman/command-r-38-layer — объединённая модель генерации текста на архитектуре CohereForCausalLM, созданная автором репозитория с помощью mergekit. В README указано слияние методом SLERP двух срезов одной модели Citaman/command-r-39-layer со сдвигом диапазонов слоёв; метаданные также связывают модель с этой базовой моделью. Репозиторий содержит веса в формате safetensors и bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных отмечен интерфейс вызова инструментов. Размер составляет 33,3 млрд параметров, родной контекст — 8192 токена. Условия лицензии и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

Crux-Qwen3_OpenThinking-4B — плотная авторегрессионная языковая модель семейства Qwen3, дообученная PrithivMLmods на базе Qwen/Qwen3-4B. Она содержит около 3,7 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. Для диалогового применения доступны интерфейс вызова инструментов и генерация кода. Модель ориентирована на пошаговые рассуждения, решение математических и логических задач, STEM-обучение, объяснение и генерацию кода, а также структурированные ответы и перевод. В README заявлена поддержка более 20 языков; метаданные карточки отмечают английский. Для обучения использованы наборы s1K-1.1, OpenMathReasoning и FineTome-100k. Модель может быть полезна для учебных и технических задач, но иногда допускает фактические ошибки, лучше работает с ясными однозначными запросами и, согласно карточке, хуже подходит для творческой и художественной генерации. Доступна по лицензии Apache-2.0.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная версия языковой модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp версии b5524 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Это текстовая модель размером 8B параметров, представленная в формате GGUF. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, с размером файлов примерно от 3,9 до 16,39 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, а варианты Q3 и ниже ориентированы на устройства с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format; контекстное окно, поддерживаемые языки и дополнительные модальности в README не указаны. Сильные стороны модели — возможность локального запуска, широкий выбор вариантов квантизации и компромисс между качеством, размером и требованиями к памяти. Ограничения зависят от выбранного варианта: более сильная квантизация может снижать качество генерации, а для запуска требуются совместимые инструменты и достаточно оперативной или видеопамяти. Лицензия модели указана как MIT.

DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель семейства Qwen3, разработанная DeepSeek. Это версия Qwen3 8B, дообученная на цепочках рассуждений DeepSeek-R1-0528; число параметров составляет 7,6 млрд. Модель предназначена для диалогов и генерации текста с акцентом на многошаговые рассуждения, математику, программирование и логические задачи. В метаданных указаны интерфейс для вызова инструментов и контекст до 131 072 токенов. По описанию разработчика, модель улучшает результаты Qwen3 8B на AIME 2024 и сопоставима с Qwen3-235B-thinking в этой оценке. README также отмечает пригодность для академических исследований рассуждающих моделей и разработки компактных моделей. Модель принимает и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Лицензия — MIT, допускающая широкое использование в соответствии с её условиями.

Карточка модели nguyenthilaitrieulong/DeepSeek-R1-Distill-Llama-70B-abliterated на Hugging Face совпадает с карточкой huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated, поэтому описание составлено по ней. Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

bartowski/DeepSeek-V2.5-GGUF — набор GGUF-квантизаций модели DeepSeek-V2.5, разработанной DeepSeek AI и подготовленной для llama.cpp. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio; варианты файлов позволяют выбирать баланс между качеством, размером и требованиями к RAM или VRAM. Доступны квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_0, IQ4_XS, Q3, Q2 и IQ1–IQ3 различных уровней. Размер файлов составляет примерно от 52,68 до 250,62 ГБ; крупные варианты разделены на несколько файлов. Квантизации выполнены с использованием imatrix на базе llama.cpp b3658, отдельные варианты используют Q8_0 для embedding- и output-весов. Для модели указан формат prompt с системным сообщением, запросом пользователя и ответом ассистента. Сильная сторона набора — широкий выбор вариантов: Q6_K и Q5_K_M заявлены как близкие к исходному качеству, Q4_K_M — как рекомендуемый компромисс, а малые варианты подходят для систем с ограниченной памятью, хотя имеют заметно более низкое качество. README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках и размере контекстного окна. Лицензия указана как other/deepseek; применяются условия лицензии DeepSeek, доступной по ссылке в карточке модели.

FuseChat-Gemma-2-9B-Instruct — диалоговая модель FuseAI на архитектуре Gemma 2 с 9 млрд параметров. Это вариант FuseChat-3.0, созданный на базе Gemma-2-9B-It с помощью дообучения и неявного объединения знаний: после supervised fine-tuning модель оптимизировали методом Direct Preference Optimization на предпочтениях, собранных по ответам нескольких крупных языковых моделей. Модель предназначена для диалогов и выполнения инструкций, включая общие вопросы, математику, программирование и задачи на китайском языке. Контекст составляет 8192 токена. В README заявлены улучшения на бенчмарках для серии FuseChat-3.0, но приведённые численные результаты относятся к варианту с Llama-3.1-8B-Instruct в качестве целевой модели и не подтверждают такие же показатели для этой версии Gemma. Модель принимает текст и генерирует текст. Она распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Andycurrent/gemma-3-4b-it-uncensored-v2-GGUF — квантованные версии Gemma-3-4B-IT-Uncensored-v2, созданной на базе Gemma 3 и модели braindao/gemma-3-4b-it-uncensored-v2. Это инструкционно дообученная языковая модель примерно на 4 млрд параметров, предназначенная для локального, офлайн- и приватного развертывания. Указан английский язык; модель работает в текстовом режиме и использует формат чата Gemma с маркерами начала и конца хода диалога. Модель ориентирована на диалоги, генерацию текста, творческие задачи, рассуждения, структурированные ответы, объяснение кода, примеры и лёгкую отладку. Она делает акцент на высокой отзывчивости, следовании пользовательским инструкциям, стабильности в продолжительных диалогах и уменьшенном количестве встроенных ограничений, поэтому может применяться для персональных ассистентов, ролевых систем, prompt engineering, исследований выравнивания и экспериментов с поведением моделей. Ключевое преимущество — сочетание компактного размера и возможности запуска на потребительских GPU, CPU с квантованием и устройствах с ограниченными ресурсами. При этом точные параметры квантования, максимальная длина контекста и результаты бенчмарков не указаны. Из-за минимально ограниченного поведения модель может генерировать контент, который обычно фильтруется; пользователю необходимо самостоятельно учитывать требования законодательства, политики и этические нормы. Лицензия наследует условия оригинальной модели Gemma.

Gemma 4 26B A4B it GGUF — квантизированная версия инструкционной модели google/gemma-4-26B-A4B-it, разработанной Google. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых и генеративных задач, а также сценариев image-text-to-text, согласно указанному pipeline tag. Модель распространяется в формате GGUF с вариантами точности от BF16 до Q3 и IQ3/IQ4, поэтому подходит для запуска на системах с разным объёмом памяти. Размер файлов составляет примерно от 12,55 до 50,51 ГБ. В README приведён специальный chat template и указана совместимость с llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и LoLLMs. Варианты Q5 и Q6 отмечены как высококачественные, а Q4_K_M — как рекомендуемый баланс качества и размера; более сильное сжатие экономит память, но снижает качество. Языки, точное устройство архитектуры, максимальная длина контекста и подробные характеристики мультимодальности в представленном README не указаны. Модель распространяется по лицензии Apache 2.0; для базовой Gemma также приведена отдельная ссылка на условия лицензии Google.

GRaPE 2 Nano — компактная мультимодальная модель SLAI (Skinnertopia Lab for Artificial Intelligence), дообученная на базе Qwen/Qwen3.5-0.8B. Она принимает текст и изображения и генерирует текст; модель рассчитана на диалоги, программирование, математику, научно-технические вопросы и задачи на логическое рассуждение. В README заявлены управляемые режимы глубины рассуждения, включая минимальный, краткий и адаптивный; доля кода в данных постобучения указана примерно как 50%. Архитектура — плотная Qwen3.5 с поддержкой зрения; размер базовой модели — 0,8 млрд параметров. Заявлена поддержка английского, китайского, французского, немецкого, испанского, японского, корейского, португальского, русского и арабского языков. Длина контекста в предоставленных данных не указана. Данные постобучения закрытые и проприетарные, независимая оценка качества в карточке не приведена. Модель выпущена по лицензии Apache 2.0.