II.8Инженерия данных и аналитика

unsloth/inkling-NVFP4 — вариант мультимодальной модели Inkling от Thinking Machines, опубликованный Unsloth. Модель представляет собой авторегрессионный трансформер с 66 слоями и разреженной архитектурой Mixture-of-Experts: всего 975 млрд параметров, из которых активно 41 млрд. Она принимает текст, изображения и аудио, обрабатывает их совместно и генерирует текст. В README также описана поддержка видео у семейства Inkling; для этой версии метаданные каталога подтверждают задачу image-text-to-text и возможность работы с изображениями. Модель предназначена для диалогов, следования инструкциям, анализа изображений, приложений с инструментами и агентными сценариями, помощников по программированию и систем RAG. Основной язык — английский; заявлены общие многоязычные возможности. Версия NVFP4 обозначена в названии, а в README для семейства перечислены NVFP4 и BF16. Лицензия — Apache-2.0. Модель может галлюцинировать, неточно следовать инструкциям и хуже работать в длинных многоходовых диалогах; качество может различаться по языкам и предметным областям. Для потенциально вредных запросов возможны обходы защит через ролевые и косвенные формулировки, поэтому для пользовательских продуктов нужны проверки и дополнительная модерация.

L3.3-70B-Magnum-v4-SE-Cirrus-x1-ModelStock — объединённая модель для генерации текста и диалогов, созданная с помощью mergekit методом Model Stock. В качестве основы использована meta-llama/Llama-3.3-70B-Instruct, в объединение также вошли Sao10K/70B-L3.3-Cirrus-x1 и Doctor-Shotgun/L3.3-70B-Magnum-v4-SE. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 69,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. В карточке заявлены мультиязычные возможности базовой модели, но конкретные языки для этого чекпойнта не перечислены. Модель подходит для диалоговых ассистентов и генерации текста с длинным контекстом. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.

Llama3.1-Typhoon2-70B-Instruct — большая языковая модель с 69,5 млрд параметров, разработанная Typhoon AI на основе Llama 3.1 70B. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов по инструкциям; карточка также указывает интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Модель рассчитана прежде всего на тайский и английский языки. Она подходит для ответов на вопросы и выполнения инструкций, диалогов, вызова функций, а также задач программирования и математики. Метаданные указывают контекст до 131 072 токенов, тогда как README заявляет 90 тысяч токенов. В сравнительных оценках карточки приведены результаты для следования инструкциям, переключения между тайским и английским, вызова функций, математики и кода. Модель находится в разработке и может выдавать неточные, предвзятые или нежелательные ответы, несмотря на встроенные ограничения. Для использования применяются условия Llama 3.1 Community License; перед внедрением следует проверить соответствие её условий своему сценарию.

Meta-Llama-3-8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Репозиторий содержит веса в формате Safetensors; модель насчитывает около 7,5 млрд параметров и имеет контекст до 8192 токенов. Архитектура основана на оптимизированном Transformer с Grouped-Query Attention. Модель предназначена для генерации текста и кода на английском языке. Она подходит для диалогового помощника и может служить основой для задач генерации естественного языка. Карточка описывает семейство Llama 3 с предварительно обученными и настроенными для инструкций вариантами; метаданные этого репозитория не уточняют вариант обучения, поэтому возможности конкретной версии в чате следует оценивать с учётом этого ограничения. Модель статична и обучена на офлайн-данных. Использование регулируется специальной коммерческой лицензией Meta Llama 3 и Acceptable Use Policy; перед применением необходимо соблюдать их условия. Для языков помимо английского карточка допускает дообучение при соблюдении этих правил, но исходное назначение модели ограничено английским языком.

MetaMath-Cybertron-Starling-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP диалоговая языковая модель, созданная на основе mistralai/Mistral-7B-Instruct-v0.2 и Q-bert/MetaMath-Cybertron-Starling. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0.

Mica Spark-X2.5-4B — производная модель XHToken/Spark-X2.5-4B, опубликованная Miguel Amendez в виде артефактов для Mica runtime. Это диалоговая многоязычная языковая модель класса 4B для генерации текста; архитектура сочетает один слой полного внимания и три слоя с окном скользящего внимания. В README заявлен контекст до 1 048 576 токенов, включая вход и выход, однако он не подтверждён локальными испытаниями Mica на длинных последовательностях. Репозиторий содержит варианты MLX Q4 и Q8, GGUF Q4_K_M и Q8_0, а также safetensors. На Apple M4 варианты MLX прошли проверки генерации и серверного инференса, а GGUF — проверки инференса на Metal. Модель можно применять для диалогов и генерации текста на разных языках; базовая модель также предназначена для кода, рассуждений, перевода и агентных задач. Лицензия исходной модели и производных артефактов — Apache-2.0. Заявление о контексте в миллион токенов не подтверждено испытаниями Mica: для практического использования следует опираться на сертифицированный лимит выбранного профиля. Варианты vLLM не опубликованы как производственные артефакты, а локальные проверки не подтверждают работу на всех платформах и режимах.

Phi-4-reasoning-plus-GGUF — это набор квантизированных версий языковой модели Phi-4-reasoning-plus, разработанной Microsoft и преобразованной в формат GGUF автором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогового взаимодействия, решения математических задач, программирования и задач, требующих рассуждений. В README указана поддержка английского языка и рекомендована температура генерации 0. Доступны варианты от исходных весов BF16 размером 29,32 ГБ до квантизаций Q8_0, Q6_K, Q5_K, Q4_K и других объёмом примерно от 8,4 до 15,6 ГБ. Разные варианты позволяют выбирать баланс между качеством, размером и требованиями к ресурсам; наиболее качественными и рекомендуемыми названы Q6_K_L, Q6_K, Q5_K и Q4_K_M. Модель рассчитана на локальный запуск через LM Studio, llama.cpp и совместимые проекты. Архитектура, число параметров, размер контекста и мультимодальные возможности в README не указаны; заявлена только текстовая генерация. Лицензия — MIT. Ограничения связаны с использованием квантизированных весов: качество и требования к памяти зависят от выбранного варианта, а некоторые форматы обозначены как устаревшие. Для корректной работы требуется соблюдать рекомендованный шаблон промпта Phi и использовать совместимое программное обеспечение.

Это конвертированная в формат MLX версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, опубликованная mlx-community. Исходная модель — nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; README указывает, что преобразование выполнено с помощью mlx-lm 0.29.1. Метаданные описывают модель как диалоговую и указывают поддержку английского, испанского, французского, немецкого, японского и итальянского языков. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на вопросы, написания текстов и программного кода. Репозиторий рассчитан на запуск с библиотекой MLX. В README не приведены дополнительные сведения о размере активной части MoE, длине контекста или оценках качества; базовая модель описана в каталоге как гибридная языковая модель для рассуждений, программирования и агентных приложений. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией исходной модели.

AtomicChat/Ornith-9B-GGUF — это квантизированная в формат GGUF версия языковой модели Ornith 1.0 9B, разработанной DeepReinforce и самостоятельно квантизированной командой Atomic Chat на основе оригинальных весов. Модель предназначена для локальной и полностью офлайн-работы, включая генерацию текста, диалоговые сценарии и задачи программирования. Она распространяется в нескольких вариантах квантизации, подходящих для запуска через llama.cpp, Ollama, LM Studio, Jan и Atomic Chat. Модель имеет плотную decoder-архитектуру с 32 слоями, 16 attention heads и 4 KV heads; в README также указана реализация Qwen3_5ForConditionalGeneration. Заявленная длина контекста — до 262 144 токенов, размер словаря — 248 320 токенов. Базовая модель поддерживает текст и изображения, однако данный репозиторий содержит только текстовые GGUF-версии без vision projector. Доступны варианты IQ4_XS, Q4_K_M, UD-Q4_K_XL, Q5_K_M, Q6_K и Q8_0; применение importance matrix должно снижать потери качества при низкой разрядности. Сильными сторонами являются большой контекст, офлайн-запуск, широкий выбор размеров файлов и ориентация исходной модели на coding agents и самоулучшающееся обучение с использованием reinforcement learning. Заявленные benchmark-результаты относятся к базовой модели DeepReinforce, а не к независимым измерениям этого репозитория; качество квантизированных версий может отличаться. Для корректного диалога требуется применять chat template Ornith 1.0 через параметр --jinja. Модель распространяется по лицензии MIT.

ProCreations_grug-35b-GGUF — квантизированная версия языковой модели ProCreations/grug-35b, подготовленная bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи генерации текста, программирования, агентских сценариев, использования инструментов и рассуждений. В метаданных также указан pipeline_tag image-text-to-text, однако подробности о поддерживаемых визуальных входах в README не приведены. Модель содержит около 35 млрд параметров и распространяется в формате GGUF с вариантами квантизации от BF16 и Q8_0 до более компактных Q2–Q4 и IQ-форматов. Доступны сборки размером примерно от 19 до 69 ГБ; более высокие разрядности обеспечивают лучшее качество, а компактные варианты снижают требования к оперативной памяти. README не указывает контекстное окно, языки, точную архитектуру или результаты тестирования. Сборки предназначены для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Сильными сторонами являются широкий выбор уровней квантизации и поддержка сценариев кода, агентного взаимодействия и tool use. Ограничения — отсутствие подробных сведений о мультимодальности, языках и производительности, а также значительные требования к памяти для качественных вариантов. Модель распространяется по лицензии MIT.

attashe/q-2.5-deepseek-r1-veltha-v0.2 — объединённая 14-миллиардная языковая модель, созданная методом SLERP с помощью mergekit на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-14B и djuna/Q2.5-Veltha-14B. Она использует плотную архитектуру Qwen2 для генерации текста и диалогов; модель поддерживает контекст до 131 072 токенов и работает через Transformers с весами в формате safetensors. Модель предназначена для диалоговых сценариев и генерации текста. Базовая модель DeepSeek-R1-Distill-Qwen рассчитана, в частности, на задачи рассуждения, математики и программирования; карточка этой модели не уточняет, насколько хорошо объединённая версия сохраняет эти возможности. В метаданных также отмечен интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

Qwen1.5-7B-Chat-GGUF — диалоговая версия языковой модели серии Qwen, разработанная командой Qwen. Это авторегрессионная decoder-only модель на архитектуре Transformer с обучением на больших массивах данных и последующей настройкой с помощью supervised fine-tuning и direct preference optimization. Модель предназначена для генерации текста и ведения диалогов, включая ответы на вопросы, ассистирование и другие сценарии обработки естественного языка. Она содержит около 7 миллиардов параметров, поддерживает многоязычную работу и контекст длиной до 32 тысяч токенов. Репозиторий распространяет модель в формате GGUF с вариантами квантования от q2_k до q8_0, что позволяет выбирать баланс между размером, требованиями к памяти и качеством. Предполагается запуск через llama.cpp. К сильным сторонам относятся улучшенная по сравнению с предыдущим поколением поддержка диалогов, многоязычность, большой контекст и наличие нескольких уровней квантования для локального использования. Ограничения включают возможные потери качества при более агрессивном квантовании, а также отсутствие в предоставленных данных подробных оценок по прикладным задачам и точного перечня поддерживаемых языков. Лицензия указана как other с названием tongyi-qianwen; перед использованием следует изучить условия по ссылке на лицензию.

Etherll/Qwen2.5-7B-della-test — объединённая языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она создана с помощью mergekit методом della на основе Qwen/Qwen2.5-7B с включением Qwen/Qwen2.5-7B-Instruct; в репозитории указаны веса safetensors в формате bfloat16 и около 7,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов, а метаданные отмечают интерфейс вызова инструментов. Модель подходит для диалоговых приложений, генерации и продолжения текста, а также структурированных ответов и вызова инструментов. В README приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Данные не подтверждают отдельную специализацию по предметной области или конкретный набор языков. Лицензия в предоставленных сведениях не указана.

Qwen2.5-7B-Instruct-20241204-114939 — дообученная компанией или автором qfq диалоговая языковая модель на архитектуре Qwen2 плотного типа с 7,1 млрд параметров. Она предназначена для генерации текста и ответов в формате диалога; также поддерживает интерфейс вызова инструментов. В карточке указана оценка Loss 0,3328 на наборе для оценки, но сам набор данных и подробности обучения не описаны. Модель принимает текст и генерирует текст. Контекстное окно составляет 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README не приводит конкретных специализаций или ограничений, поэтому пригодность для узких задач и качество ответов следует оценивать отдельно.

lmstudio-community/Qwen2.5-VL-32B-Instruct-GGUF — мультимодальная инструкционная модель семейства Qwen2.5-VL, разработанная командой Qwen и представленная в формате GGUF. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для работы с текстом и изображениями, включая анализ визуального содержимого и выполнение задач по инструкциям. Модель подходит для распознавания объектов, анализа текста на изображениях, таблиц, диаграмм, значков, графики и макетов. Она также может использоваться как визуальный агент для рассуждений и динамического управления инструментами, включая сценарии взаимодействия с компьютером и телефоном. Поддерживаются структурированные ответы и стабильная генерация JSON, а также многоязычная работа. Заявленная длина контекста составляет 128 000 токенов, размер модели — 32B параметров. К сильным сторонам относятся развитый анализ визуальной информации, поддержка длинного контекста, мультимодальность, многоязычность и способность формировать структурированные результаты. Это квантизированная community-версия, поэтому её характеристики могут зависеть от конкретной квантизации и среды запуска; как и другие языковые модели, она может генерировать неточные или неподходящие ответы. Лицензия модели — Apache 2.0.

Карточка модели ponyseoyeonkm/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Карточка модели Tofilhehe/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это GGUF-версия модели на базе DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель создана в результате многоэтапной дообученной настройки и слияния нескольких моделей Qwen3.5 9B; в разработке также участвовал Nightmedia. Предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма, художественной прозы и ролевых сценариев. Заявлена как полностью uncensored и ориентированная на минимизацию отказов. Модель поддерживает контекст до 256k токенов, английский и китайский языки, а также обработку изображений. Для работы с изображениями требуется отдельный файл mmproj, размещённый в одной папке с GGUF-файлом. Доступны обычные и MTP-квантизации в форматах GGUF. NEO IMATRIX заявлена как технология, улучшающая точность квантизированных версий и работу с длинным контекстом, а MTP-варианты могут ускорять генерацию за счёт многотокенного предсказания. К сильным сторонам относятся высокая заявленная производительность на ряде тестов общего назначения, улучшенное следование инструкциям, режимы thinking и instruct, а также возможность запуска в стандартных приложениях, поддерживающих GGUF. Ограничения включают зависимость скорости от аппаратного обеспечения и параметров генерации; MTP-версии могут работать хуже обычных при низком уровне принятия предсказанных токенов, сложных творческих задачах или температуре выше 1. Модель не обязательно превосходит более крупные версии во всех задачах. Лицензия — Apache-2.0.

Qwen3.6-27B-GPTQ-Pro-4bit — это 4-битная GPTQ-квантизация модели Qwen/Qwen3.6-27B, опубликованная пользователем groxaxo. Модель предназначена для эффективного запуска на GPU в локальных и размещённых средах, открытой оценки и воспроизводимых экспериментов. В метаданных указана задача image-text-to-text и поддержка английского языка. Модель содержит около 27 млрд параметров и использует формат GPTQ с оптимизацией под Marlin и сервер vLLM. Для сжатия применялись GPTQ-Pro, FOEM и настройки GPTAQ-style; заявленная цель — сохранить качество исходной модели при уменьшении потребления памяти. Репозиторий включает веса в формате safetensors, конфигурации, токенизатор, процессор и шаблон диалога. В документации приведена конфигурация с контекстом до 132144 токенов, однако практические ограничения зависят от оборудования, длины контекста, размера KV-кэша и числа параллельных запросов. Модель ориентирована на генерацию текста, задачи рассуждения и программирования, а также на сценарии инференса через vLLM или Transformers. В качестве проверенной конфигурации указаны две NVIDIA RTX 3090; для наиболее надёжного запуска рекомендуются float16 и gptq_marlin. К ограничениям относятся возможные изменения качества, памяти и скорости из-за квантизации, необходимость совместимого runtime и сохранения согласованности всех файлов одной версии. На протестированной конфигурации speculative decoding не дал прироста скорости, а запуск с контекстом 262144 токенов привёл к нехватке памяти. Лицензия — Apache 2.0.

SassyDiffusion/Qwen3.6-27B-heretic-ara-GGUF — GGUF-версия декензурированной модели на базе Qwen3.6-27B. Модель создана SassyDiffusion с использованием Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA). Базовая Qwen3.6-27B разработана командой Qwen и ориентирована на практическую разработку программного обеспечения, агентное кодирование, работу с фронтенд-проектами и рассуждения на уровне репозитория. Это каузальная языковая модель с vision encoder, содержащая около 27 млрд параметров и 64 слоя. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; заявленная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. README не уточняет полный перечень поддерживаемых языков. Формат GGUF предназначен для запуска в совместимых инструментах локального инференса. Главная особенность версии — снижение склонности к отказам: в приведённом сравнении модель отказала в 16 из 100 тестовых запросов против 99 из 100 у исходной модели. При этом декензурирование изменяет поведение базовой модели: указана KL-дивергенция 0,0967, поэтому возможны отличия в качестве, безопасности и устойчивости ответов. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 — дообученная методом abliteration версия мультимодальной модели Qwen3.8-27B от Alibaba, опубликованная lactroiii. Это плотная модель на 27 млрд параметров в формате BF16 на базе архитектуры Qwen3.5; она принимает текст и изображения и генерирует текст. В README описана проверка на NVIDIA H200 через vLLM, включая работу с изображениями, режим рассуждений и вызов инструментов. Для обслуживания автор проверял контекст 16 384 токена и указывает, что базовое окно модели достигает 262 144 токенов. Модель предназначена для диалогов и инструкций, рассуждений, программирования, анализа изображений, вызова инструментов, творческого письма и исследований безопасности и выравнивания. Abliteration уменьшает склонность модели отказывать и делает ответы более прямыми; автор сообщает о сохранении связности ответов, но это не является независимой оценкой качества. Модель может выдавать опасный, незаконный или откровенный контент и не должна использоваться в сценариях высокого риска без внешних мер безопасности. Лицензия — Apache-2.0.

SergiioB/Qwen3.8-27B-GPTQ-Int4-sym-G128-MTP-BF16 — это квантованная версия Qwen3.8-27B, разработанная SergiioB для запуска и обслуживания через vLLM XPU на видеокартах Intel Arc с архитектурой Xe2. Модель предназначена для генерации текста, включая кодинг и другие сценарии локального инференса, а также поддерживает обработку изображений благодаря встроенной vision tower. В карточке заявлены английский и китайский языки. Модель использует архитектуру Qwen3_5ForConditionalGeneration с гибридным механизмом внимания GDN: линейное внимание чередуется с полным вниманием каждые четыре слоя. Указаны 5120 скрытых признаков, 64 слоя, 24 Q-head и 4 KV-head с GQA. Основная часть модели квантована в GPTQ INT4 с симметричными группами размера 128 и форматом W4A16; MTP-компоненты сохранены в BF16 для поддержки нативного speculative decoding. Vision tower также не квантована. Максимальная позиционная длина в конфигурации составляет 262144 токена, однако на протестированной конфигурации Intel Arc Pro B70 32 ГБ измерялась работа с контекстом до 131072 токенов. Сильная сторона модели — ускоренная генерация благодаря MTP4: в приведённых измерениях на Intel Arc Pro B70 скорость декодирования достигала 83,7 токена в секунду без дополнительного overlay и 112,65 токена в секунду с опциональным INT4-квантованием draft-компонентов. Производительность зависит от длины контекста, числа параллельных запросов, настроек vLLM XPU и конкретного оборудования. Ограничениями являются привязка к совместимому XPU-стеку, особенности GPTQ-квантизации и то, что заявленные результаты получены на одной видеокарте и не гарантируют аналогичную скорость в других условиях. Модель распространяется по лицензии Apache-2.0.

Savas65/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, разработанная сообществом Savas65. Модель предназначена для диалоговой генерации текста, написания и анализа кода, агентских сценариев и исследований поведения моделей безопасности. В README заявлена версия V3, созданная с применением методов abliteration: удалением направлений отказа из весового пространства и последующей итеративной доработкой. Модель имеет архитектуру Qwen3, размер 27B параметров и относится к задачам text-generation. Она доступна в форматах GGUF, Safetensors и MLX. Поддерживает режимы с рассуждением и без него; для GGUF указан встроенный chat template. Точный размер контекстного окна, перечень поддерживаемых языков и набор модальностей в предоставленных данных не указаны. Согласно заявленным результатам, V3 сохраняет близкую к базовой модели производительность: 82,3% на MMLU против 84,5% у исходной Qwen3.8-27B. В README также заявлены рабочая генерация кода в 20 из 20 тестовых заданий и снижение склонности к отказам и формальным предупреждениям. Ограничения включают небольшую потерю качества по сравнению с базовой моделью, возможные циклы при генерации без repetition penalty и зависимость результата от параметров декодирования. Рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; для агентских сценариев предлагаются более короткие ответы и периодическое сокращение контекста. Модель распространяется по лицензии Apache-2.0. Заявленные свойства снятия ограничений безопасности требуют осторожного применения и не означают гарантии корректности, надежности или безопасности генерируемого содержимого.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ6e-1M — релиз Solstice-AI на базе модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Solstice-AI отвечает за downstream-квантизацию, масштабирование контекста YaRN до 1 048 576 токенов и упаковку для Apple MLX. Модель ориентирована на английский и китайский языки; в метаданных указана задача image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель предназначена для рассуждений, программирования, агентной разработки ПО, отладки репозиториев, выполнения многошаговых рабочих процессов и задач управления операционными системами. Заявлены архитектура Qwen 3.8 с гибридным вниманием, включающая Gated Delta Recurrent Network и Grouped-Query Attention, механизм Multi-Token Prediction, а также объединение весов Cold Fusion GAIN. Формат — смешанная квантизация Apple MLX oQ6e; заявлено размещение примерно в 23,7 ГБ оперативной памяти и ускорение на Apple Silicon через Metal и Anvil Runtime. К сильным сторонам относятся заявленные большой контекст до 1 миллиона токенов, поддержка локального запуска на совместимых компьютерах Apple Silicon и высокие результаты на наборах SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и ARC. Эти показатели и сравнения с Claude Opus 4.6 приведены авторами README, но методика и независимое подтверждение не описаны. Ограничения включают зависимость производительности от MLX, Apple Silicon и доступной памяти, возможные потери качества из-за квантизации, а также отсутствие подробных данных о тренировочном наборе, мультимодальных возможностях и безопасности. Указанная лицензия — Apache-2.0.

Vikhr-7B-instruct_0.4 — русскоязычная инструкционная чат-модель семейства Vikhr, разработанного Александром Николичем, Константином Королёвым и Артёмом Шелмановым. Это плотная causal language model на архитектуре семейства Llama с классом MistralForCausalLM и 7,3 млрд параметров; модель распространяется в формате Safetensors и рассчитана на контекст до 32 768 токенов. Версия 0.4 продолжает релиз 0.3–0.4: авторы увеличили объём данных SFT, чтобы улучшить стабильность работы с JSON, многоходовыми диалогами, длинным контекстом и сложными запросами. Модель предназначена для генерации текста и диалогового взаимодействия на русском и английском языках. Для практического применения доступны материалы для Google Colab и упоминание GGUF. Известные ограничения и условия лицензирования в предоставленной карточке не описаны.

Whittle-Qwen-3.8-35B-A3B-GGUF — это GGUF-квантизированная версия модели Whittle-Qwen-3.8-35B-A3B, разработанной logic65 и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений, программирования и математических задач. В описании указаны архитектура Mixture-of-Experts, механизмы n-gram memory и conditional memory, hyper-connections и knowledge distillation. Поддерживаются текстовые запросы; заявлены английский, китайский и многоязычный режимы. Размер контекстного окна не указан. Модель распространяется в формате GGUF для запуска через llama.cpp и совместимые инструменты. Доступны варианты квантизации от Q2_K размером около 13,1 ГБ до Q8_0 размером около 37,9 ГБ; варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q6_K — как обеспечивающий очень хорошее качество. Более сильная квантизация обычно требует больше памяти, но лучше сохраняет качество, тогда как малые варианты экономичнее, однако могут заметнее уступать в точности. В README не приведены результаты бенчмарков и подробные ограничения по производительности. Лицензия модели — Apache-2.0.

WizardLM-2-7B-GGUF — это квантизированная в формате GGUF версия языковой модели WizardLM-2-7B, разработанной Microsoft. Квантизацию выполнил bartowski на базе llama.cpp. Модель основана на Mistral, содержит около 7 миллиардов параметров и предназначена для генерации текста и диалогового взаимодействия. Модель ориентирована на многошаговые беседы, общие вопросы и работу с общеизвестными знаниями. README также указывает на улучшенную поддержку сложных диалогов, многоязычных сценариев, рассуждений и агентских задач; модель может применяться для программирования и технических обсуждений. Она обучалась с использованием Progress Learning, AI Align AI, Supervised Learning, Stage-DPO, Evol-Instruct и методов обучения с подкреплением, ориентированных на качество инструкций и корректность ответов. Модель позиционируется как эффективная для своего размера и показывает высокие результаты в автоматической оценке MT-Bench, однако, как и другие языковые модели, может генерировать неточные, вредные или неподходящие ответы. В README не указаны точный набор поддерживаемых языков, размер контекстного окна и конкретные характеристики квантизации. Лицензия — Apache-2.0. Для использования рекомендован шаблон prompt в стиле Vicuna.

XVERSE-MoE-A4.2B — базовая многоязычная языковая модель, разработанная Shenzhen Yuanxiang Technology. Она предназначена для генерации текста и может служить основой для диалоговых и других приложений на базе языковой модели. Модель использует архитектуру Decoder-only Transformer с механизмом смеси экспертов (MoE): всего 25,8 млрд параметров, из которых при вычислении активируются 4,2 млрд. В ней 64 неспециализированных и 2 общих эксперта, а маршрутизатор выбирает экспертов для каждого вычисления. Модель обучалась на последовательностях длиной 8 тысяч токенов; в метаданных также указано контекстное окно 8192 токена. README приводит разные значения объёма обучающих данных: 2,7 трлн токенов в китайской версии и 3,2 трлн в английской. Модель обучалась на более чем 40 языках, включая китайский, английский, русский и испанский; разработчик отмечает особенно сильные результаты на китайском и английском. README приводит результаты тестов по пониманию языка, вопросам и ответам, рассуждениям, математике и программированию. Это базовая модель, а не Chat-версия, поэтому для диалоговых сценариев может потребоваться дополнительное выравнивание. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или оскорбительные ответы; разработчик рекомендует проверять безопасность перед развёртыванием. Лицензия — Apache-2.0.

Zrald-AI Qwen 3.8 27B zraldv1-ac — GGUF-релиз модели Qwen3.8-27B от Zrald, подготовленный для запуска через llama.cpp. В карточке указаны файл размером 17,08 GiB и профиль с приоритетом точности; заявлено сохранение 99,68% точности и минимальная рекомендуемая видеопамять 20 ГБ. README сообщает о физических замерах производительности на AMD Instinct MI300X, но эти показатели зависят от оборудования и конфигурации запуска. Модель предназначена для генерации текста в диалогах, а метаданные также отмечают сценарии программирования и рассуждений. Базовая модель в каталоге описана как мультимодальная, способная анализировать изображения и видео, однако README этого релиза не подтверждает поддержку этих входов, поэтому здесь она не заявляется. Репозиторий содержит GGUF-файл, а метаданные указывают связь с Qwen/Qwen3.8-27B как с базовой моделью. Лицензия — Apache-2.0. Заявленные точность, скорость и требования к VRAM приведены автором релиза и не являются гарантией производительности на другом оборудовании.

Карточка модели PS4Research/4wvQl2UniBkYhlEJ на Hugging Face совпадает с карточкой PS4Research/0VOz3fgU0qp4lVar, поэтому описание составлено по ней. PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.