II.10Разработка и эксплуатация AI/ML-систем

Phi-4-mini-instruct-GGUF — GGUF-квантизированная версия инструкционной модели Phi-4-mini-instruct, разработанной Microsoft. Квантизацию выполнил bartowski на базе llama.cpp версии b4792; модель распространяется в рамках программы Community Models для LM Studio. Модель предназначена для широкого круга коммерческих и исследовательских задач генерации текста, включая диалоговое взаимодействие, следование инструкциям и вызов функций. Она поддерживает контекст длиной до 128 тысяч токенов, заявлена как многоязычная и обладает улучшенными возможностями instruction following и function calling. README не содержит сведений о точном размере модели, конкретной архитектуре, перечне поддерживаемых языков и типе квантизации. Для использования в LM Studio на указанную дату требуется Beta runtime. Лицензия в предоставленных данных не указана; модель может генерировать неточный, вредный или нежелательный контент.

Qwen3.5-9B-text-only — текстовый вариант семейства Qwen3.5, опубликованный Principled Intelligence. Из контрольной точки удалены веса визуального энкодера, поэтому модель сохраняет языковую часть и генерирует текст, занимая меньше места на диске и в памяти. Архитектура — плотная причинная языковая модель Qwen3.5 с примерно 7,2 млрд параметров; заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов и генерации текста в задачах, поддерживаемых исходной языковой моделью Qwen3.5. По карточке, она использует тот же токенизатор и шаблон чата, что и исходная модель; загрузка поддерживается через Transformers, начиная с версии 5.2.0. Контрольная точка распространяется в формате safetensors по лицензии Apache-2.0. Удаление визуального энкодера уменьшает размер файлов примерно на 7%, а потребление VRAM — примерно на 5% по сравнению с Qwen3.5-9B. Модель не принимает изображения. В README указана проверка только с Transformers; совместимость с vLLM, SGLang, llama.cpp, Ollama и другими движками пока не заявлена. Автор также характеризует публикацию как экспериментальную, а не как готовую производственную линейку.

Qwen3.6-27B-Seven-i1-GGUF — это квантизированная версия текстово-визуальной модели Qwen3.6-27B-Seven, подготовленная mradermacher на основе модели nightmedia/Qwen3.6-27B-Seven. Распространяется в формате GGUF с imatrix-квантами различного уровня сжатия, размером примерно от 11 до 22,5 ГБ. В README также указано наличие отдельных mmproj-файлов для поддержки изображений; конкретные параметры мультимодальной архитектуры не раскрыты. Заявлена поддержка английского, китайского, японского и испанского языков, а также контекста до 1M токенов, однако точные технические характеристики базовой модели в карточке не приведены. Модель предназначена для диалогов, генерации текста, программирования, математических и STEM-задач, исследовательских сценариев, творческого и художественного письма, сторителлинга и ролевых взаимодействий. К сильным сторонам относятся широкий выбор квантов, возможность подобрать баланс между размером, скоростью и качеством, а также наличие imatrix-вариантов; для некоторых конфигураций в README отдельно рекомендуются IQ-кванты и i1-Q4_K_M как быстрый вариант. Ограничения связаны с потерями качества при сильном сжатии, отсутствием подробных результатов тестирования и неполным описанием архитектуры и фактического размера контекста. Модель распространяется по лицензии Apache-2.0.

satgeze/Qwen3.6-35B-Uncensored-HauhauCS-1M-GGUF — GGUF-сборка модели Qwen3.6-35B-A3B, основанная на uncensored-варианте HauhauCS. Модель предназначена для генерации текста, диалоговых и агентских сценариев, работы с длинными документами и задач, требующих анализа изображений. Поддерживаются llama.cpp и Ollama; заявлена совместимость с агентскими клиентами через Anthropic Messages API. Модель использует исходный контекст 262 144 токена, расширенный до 1 048 576 токенов с помощью YaRN RoPE scaling с коэффициентом 4. В сборку включён слой MTP для speculative decoding: по данным README, на RTX 5090 скорость выросла с 284,6 до 380,1 токена в секунду, а результат декодирования остаётся идентичным стандартному режиму. Визуальный ввод обеспечивается отдельной башней mmproj размером около 899 МБ, которая подключается во время запуска. Основной файл Q4_K_M имеет размер около 21,7 ГБ. К сильным сторонам относятся очень длинный контекст, проверенная авторами работа поиска информации на диапазоне до 1M токенов, поддержка изображений и ускоренное декодирование через MTP. Ограничения включают необходимость совместимого рантайма и значительных аппаратных ресурсов, а также отдельную установку vision-компонента для визуальных задач. Сведения о поддерживаемых языках и точной архитектуре в README не приведены. Модель распространяется по лицензии Apache-2.0.

AtomicChat/Qwen3.8-27B-MLX-AD-3.50bpw-DWQ-12.7GB — это MLX-квантизированная версия Qwen3.8-27B, выпущенная командой AtomicChat. Базовую модель разработала команда Qwen компании Alibaba. Это открытая плотная мультимодальная модель с поддержкой текста и изображений, предназначенная для генерации текста, визуального понимания, программирования, агентских рабочих процессов и автоматизации офисных задач. Модель содержит около 27 млрд параметров. Вариант AtomicChat использует формат MLX, 3-битное представление с параметром 3.50 bpw и занимает примерно 12,7 ГБ, поэтому ориентирован на локальный запуск, в частности на совместимое оборудование Apple через MLX. На странице модели указана категория Image-Text-to-Text и языковой тег English. Для исходной Qwen3.8-27B заявлено нативное контекстное окно 262 000 токенов с возможностью расширения до 1 млн токенов посредством YaRN. Главное преимущество варианта — существенное уменьшение размера и требований к памяти по сравнению с полной моделью при сохранении мультимодальных возможностей. Ограничения связаны с потерями качества, возможными для 3-битной квантизации, зависимостью от MLX-совместимого окружения и отсутствием на странице AtomicChat подробных независимых тестов, перечня поддерживаемых языков и детального описания архитектуры именно этого квантизированного варианта. Для базовой Qwen3.8-27B указана лицензия Apache 2.0; отдельные условия для производного репозитория AtomicChat следует проверять дополнительно.

Chungulus/Qwen3.8-27B-Q5_K_M-GGUF — это независимая vanilla-квантизация базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель представлена в формате GGUF с квантизацией Q5_K_M для запуска через llama.cpp; это не дообучение, объединение моделей или изменение шаблона чата. В комплект входят основные веса объёмом около 19,536 ГБ и отдельный vision projector, а общий размер репозитория составляет около 20,476 ГБ. Модель предназначена для генерации текста, вызова инструментов, анализа изображений и видео, а также сценариев с управляемым режимом рассуждений через параметры enable_thinking, reasoning_effort и preserve_thinking. Она использует гибридную архитектуру с Gated DeltaNet и полным attention, поддерживает мультимодальный pipeline image-text-to-text, нативный формат вызова инструментов и сохранённые MTP-тензоры, однако спекулятивное ускорение не заявлено. Точные языки и максимальный контекст в README не указаны; архитектурный максимальный контекст не следует считать проверенным. К сильным сторонам относятся сохранение функциональности исходной модели, проверенная генерация текста, tool calling, работа с изображениями и сохранённый шаблон чата. К ограничениям относятся возможное снижение качества из-за квантизации, требования к совместимости runtime с гибридным языковым графом, vision tower, tokenizer и MTP-метаданными, а также необходимость примерно 24 ГБ доступной памяти с дополнительным ростом потребления из-за KV-cache. Модель и её vanilla-квантизация распространяются по лицензии Apache-2.0.

Qwen3.8-Flash-Next-113B-A5B-Niwaki-3bit-mlx — текстовая Mixture-of-Experts-модель, созданная проектом Niwaki на базе Qwen3.8-Flash-Next от команды Qwen. Модель была подвергнута структурному прореживанию экспертов, реконструкции и дистилляции, после чего сохранена в 3-битном формате для MLX. Она предназначена для генерации текста, диалогов, программирования, рассуждений и творческих задач на компьютерах Apple Silicon, особенно моделях с 64 ГБ unified memory. Модель содержит 113B параметров, из которых около 5,4B активны для каждого токена. Архитектура включает 48 слоёв, до 512 маршрутизируемых экспертов и top-k 10; эксперты используются в 32 слоях и имеют промежуточный размер 448. Эксперты хранятся в 3-битном формате с группировкой 64, backbone — в 4-битном, а таблица n-gram embeddings PLE — в 2-битном формате. Размер модели на диске составляет 42,2 ГБ, поддерживается только текстовая модальность, языки явно не указаны. Для запуска требуются MLX, mlx-vlm и специальный загрузчик Niwaki; заявлена производительность около 31 токена в секунду на M4 Max. Главное преимущество — существенное сокращение требований к памяти при сохранении 99,8% среднего результата базовой 4-битной модели на указанном наборе задач. Ограничения включают повышенную perplexity, меньшую надёжность чисел и редких технических фактов, недостаточную проверку поведения в узких предметных областях и унаследованные от базовой модели смещения. При включённом режиме рассуждений модель может генерировать чрезмерно длинные ответы; для кратких задач рекомендуется отключать thinking. Лицензия указана как other со ссылкой на лицензию базовой модели Qwen3.8-Flash-Next.

Qwen3-VL-2B-Thinking-FP8 — мультимодальная vision-language модель из серии Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-2B-Thinking с мелкозернистой квантизацией и размером блока 128; согласно README, её показатели почти идентичны исходной BF16-модели. Модель предназначена для обработки изображений, видео и текста, включая генерацию и понимание текста, визуальное рассуждение, OCR, анализ документов, пространственное восприятие, STEM- и математические задачи, а также взаимодействие с графическими интерфейсами и инструментами. Модель поддерживает нативный контекст до 256K токенов с возможностью расширения до 1M, понимает длительные видео и использует механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Заявлена поддержка OCR на 32 языках, однако полный перечень языков в README не приведён. Среди сильных сторон — детальное визуальное восприятие, анализ пространственных отношений и видео, мультимодальное рассуждение, распознавание текста в сложных условиях и снижение требований к памяти благодаря FP8-квантизации. README указывает на ограничения совместимости: Transformers пока не поддерживает прямую загрузку этих весов. Для запуска рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-VL-32B-Instruct-bnb-4bit — четырёхбитная версия мультимодальной модели Qwen3-VL-32B-Instruct, опубликованная Unsloth на базе модели Qwen. Она предназначена для обработки текста и изображений, а также для понимания видео: генерации ответов по визуальному содержимому, OCR, анализа документов, пространственного и STEM-рассуждения, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель имеет плотную архитектуру с 32B параметров в исходной версии и использует квантизацию bitsandbytes 4-bit, что снижает требования к памяти по сравнению с полноточными весами. В архитектуре заявлены Interleaved-MRoPE для обработки времени и пространственных координат, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. Нативная длина контекста составляет 256K токенов с возможностью расширения до 1M. Для OCR заявлена поддержка 32 языков, однако полный перечень языков в README не приведён. Сильные стороны модели — объединённое понимание текста и визуальных данных, анализ длинных документов и продолжительных видео, распознавание объектов и сцен, пространственное рассуждение и задачи визуального агента. Ограничения и точные требования к оборудованию, результаты численных бенчмарков, полный список поддерживаемых языков и характеристики квантизации в README не указаны; четырёхбитное представление может влиять на точность по сравнению с исходной моделью. Лицензия — Apache-2.0.

Vikhr-7B-instruct_0.4 — русскоязычная инструкционная чат-модель семейства Vikhr, разработанного Александром Николичем, Константином Королёвым и Артёмом Шелмановым. Это плотная causal language model на архитектуре семейства Llama с классом MistralForCausalLM и 7,3 млрд параметров; модель распространяется в формате Safetensors и рассчитана на контекст до 32 768 токенов. Версия 0.4 продолжает релиз 0.3–0.4: авторы увеличили объём данных SFT, чтобы улучшить стабильность работы с JSON, многоходовыми диалогами, длинным контекстом и сложными запросами. Модель предназначена для генерации текста и диалогового взаимодействия на русском и английском языках. Для практического применения доступны материалы для Google Colab и упоминание GGUF. Известные ограничения и условия лицензирования в предоставленной карточке не описаны.

Yi-1.5-9B-Chat-GGUF — это квантизированная в формате GGUF языковая модель для генерации текста и диалогового взаимодействия. Исходную модель Yi-1.5-9B-Chat разработала компания 01-ai, а квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для локального использования, в том числе через LM Studio, и распространяется под лицензией Apache 2.0. Модель содержит около 9 миллиардов параметров и относится к семейству Yi, построенному на архитектуре, совместимой с Llama. Она была дополнительно обучена на корпусе объёмом 500 млрд токенов и дообучена на 3 млн разнообразных примеров. Заявленные сценарии включают программирование, математику, рассуждения, выполнение инструкций, понимание языка, здравый смысл и чтение с пониманием. Для общения рекомендуется использовать шаблон ChatML. Сведения о поддерживаемых языках, размере контекста, точной архитектуре и других технических характеристиках в README не приведены. К сильным сторонам относятся универсальность, возможности диалогового режима и пригодность для запуска на локальном оборудовании благодаря квантизации. Ограничения включают отсутствие опубликованных подробных технических характеристик, а также типичные для языковых моделей риски неточных, вредных или неподходящих ответов; результат зависит от выбранного варианта квантизации и настроек запуска.

Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

duyntnet/gemma-3-12b-it-imatrix-GGUF — набор квантованных GGUF-вариантов инструкционно дообученной мультимодальной модели Gemma 3 12B IT, разработанной Google. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и анализа изображений с выдачей текстового ответа. Квантованные варианты ориентированы на локальный запуск с ограниченными ресурсами через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, LM Studio и другие. Модель принимает текст и изображения: изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов каждое. Заявлены поддержка более 140 языков, контекст до 128K токенов для версии 12B и максимальный объём генерируемого текста до 8192 токенов. Использование imatrix-квантизации уменьшает требования к памяти по сравнению с полноразмерными весами, но конкретные характеристики качества и расхода ресурсов зависят от выбранного файла квантизации. Сильными сторонами являются мультимодальность, большой контекст, многоязычность и возможность локального развертывания. Ограничения включают зависимость от совместимого программного обеспечения: для запуска требуется llama.cpp версии b4875 или новее; квантование также может снижать точность по сравнению с исходной моделью. В README лицензия указана как other, без дополнительных условий, поэтому перед использованием необходимо проверить лицензионные положения исходной Gemma 3 12B IT и конкретного файла модели.

Jongbin-kr/llama-3.1-8b-instruct-4x1-moe-switch-top1 — диалоговая языковая модель на архитектуре Llama 3.1, разработанная Jongbin. Она предназначена для генерации текста и общения по инструкциям; среди сценариев — ответы на вопросы, помощь в написании текстов и использование интерфейса вызова инструментов. Модель построена на базе meta-llama/Llama-3.1-8B-Instruct и содержит около 7,5 млрд параметров. В каждом слое Transformer используются четыре клонированных FFN-эксперта, а маршрутизатор выбирает одного эксперта для каждого токена. В отличие от варианта с нормализованным коэффициентом гейта, выбранный эксперт сохраняет исходную вероятность softmax. При обучении использованы коэффициент балансировки нагрузки 0,01 и z-loss маршрутизатора 0,001. Контекст — до 131 072 токенов; модель работает через Transformers, веса доступны в формате safetensors. Модель унаследовала многоязычные возможности базовой Llama 3.1 8B Instruct, однако README не перечисляет конкретные поддерживаемые языки. Для загрузки требуется trust_remote_code=True. Лицензия — llama3.1; применяются условия лицензии Llama 3.1 от Meta.

amd/Llama-3.1-8B-Instruct-w-int8-a-int8-sym-test — это вариант Llama 3.1 8B Instruct, опубликованный AMD. Он предназначен для генерации текста, диалоговых ассистентов и других задач обработки естественного языка; инструкционно дообученная версия оптимизирована для многоязычного общения. Вариант содержит 8 млрд параметров и использует 8-битное симметричное квантование весов и активаций; на странице модели также указаны форматы BF16 и I8. README этого репозитория пуст, поэтому характеристики квантования следует считать основными подтверждёнными сведениями именно об этом варианте, а не результатами отдельной оценки качества. Базовая Llama 3.1 разработана Meta и представляет собой авторегрессионную модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Она работает с текстом на входе и выдаёт многоязычный текст и код, поддерживает контекст до 128 тысяч токенов и заявленные языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning from human feedback; модель поддерживает диалоговые сценарии и tool use. Квантование может снизить требования к памяти и ускорить инференс на совместимом оборудовании, но конкретные показатели качества, скорости и совместимости для этого тестового репозитория не указаны. Использование регулируется Llama 3.1 Community License от Meta, а также Acceptable Use Policy. Лицензия допускает коммерческое и исследовательское применение при соблюдении её условий, включая требования к распространению и маркировке; для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрено отдельное лицензионное условие.

Карточка модели vy22215/Llama-3.2-1B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-1B-Instruct, поэтому описание составлено по ней. Llama 3.2 1B Instruct — языковая модель Meta на 1,23 млрд параметров для генерации текста и диалогов. Она использует авторегрессионную архитектуру Transformer с Grouped-Query Attention и настроена с помощью supervised fine-tuning и обучения с подкреплением на основе отзывов людей. Модель принимает текст и генерирует текст, в том числе код; контекстное окно составляет 128 тысяч токенов. Модель предназначена для многоязычных диалоговых помощников и агентных сценариев: поиска сведений, суммаризации, помощи в написании текста и переформулирования запросов. Компактный размер позволяет использовать её в приложениях с ограниченными вычислительными ресурсами, включая мобильные устройства. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель разработана Meta и распространяется по специальной лицензии Llama 3.2 Community License, условия которой допускают коммерческое и исследовательское использование. Это статическая модель с отсечкой знаний в декабре 2023 года; качество и безопасность ответов могут уступать более крупным моделям, поэтому для конкретного применения требуется проверка и настройка защитных мер.

Cerebras Llama-3-CBHybridL-8B — языковая модель Cerebras, созданная на базе Llama-3.1-8B-Instruct для работы с длинным контекстом. Это вариант с гибридным плотным и разреженным вниманием: 25 из 32 слоёв внимания дообучены для разреженного lambda-mask attention. По данным авторов, такой подход уменьшает память KV-кэша в 1,6–1,7 раза при сохранении большей части качества на задачах с длинным контекстом. Модель предназначена для генерации текста и диалогов, включая ответы на вопросы по длинным документам и работу с несколькими источниками. Метаданные указывают 7,5 млрд параметров и контекст до 33 792 токенов; поддерживается интерфейс вызова инструментов. В README приведены результаты на LongBench и HELMET: качество зависит от задачи и может снижаться относительно исходной модели. Для улучшения работы с длинным контекстом авторы предлагают вставлять вспомогательные токены памяти; их добавление требует соответствующей обработки входа. Модель распространяется в формате safetensors под лицензией other; конкретные условия лицензии следует уточнить на странице репозитория. Карточка описывает её как эксперимент Cerebras на основе инструкционной модели Llama 3.1, а не как универсальную замену исходной модели.

Locutusque разработал Locutusque/llama-3-neural-chat-v2.2-8B как дообученную модель Meta Llama 3 8B. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате; заявленный контекст — 8192 токена. Для обучения использовались SFT и DPO-Positive, а данные были изменены для усиления навыков программирования, математики и письма. Модель предназначена для разговорного ИИ, генерации текстов, помощи с кодом и решения математических задач. В README приведены результаты оценок TruthfulQA и GSM8K, но подробный рецепт обучения не опубликован. Модель описана как очень малоцензурированная и может отвечать на широкий круг запросов. Указана лицензия Llama 3; в метаданных лицензия обозначена как other.

MiniCPM5-2B-heretic — децензурированная версия языковой модели openbmb/MiniCPM5-2B, созданная пользователем RACER IS OP с применением Heretic v1.4.0. Модель относится к классу примерно 2B параметров и предназначена для генерации текста, диалогов, локальных агентных систем, вызова инструментов, написания кода и задач с длинным контекстом. Она поддерживает режимы Think и No-Think, а также может работать на пользовательских GPU, CPU и устройствах Apple Silicon через GGUF-квантизации. Изменения выполнены методом directional ablation («abliteration»): целевые направления отказа подавляются редактированием весов в attention output и MLP down-projections без дообучения. По данным README, это позволило снизить число отказов с 99 до 4 на 100 тестовых запросов при KL divergence 0,0646 относительно исходной модели, сохранив её знания, следование инструкциям, возможности работы с инструментами, кодом и рассуждениями. Заявлены английский и китайский языки; архитектура MiniCPM5 совместима с llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang, причём для вызова функций рекомендован SGLang. Главное преимущество модели — малый размер и широкий выбор GGUF-квантизаций, что упрощает локальный запуск на потребительском оборудовании. Ограничение заключается в намеренном подавлении защитных отказов: модель может отвечать на запросы, от которых исходная версия отказывалась, поэтому её применение требует самостоятельных мер безопасности и контроля. Модель распространяется по лицензии Apache-2.0.

EasierAI/Mistral-NeMo-12B — набор GGUF-квантизованных версий Mistral-Nemo-Instruct-2407, опубликованный с указанием quantized_by: bartowski и предназначенный для запуска через llama.cpp и LM Studio. Модель относится к классу генеративных текстовых моделей и поддерживает формат диалоговых запросов с шаблоном <s>[INST]{prompt}[/INST]. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях, включая чат и другие задачи обработки текста. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Архитектура, точное число параметров и размер контекста в предоставленных данных не указаны; идентификатор 12B присутствует только в названии репозитория. Доступны варианты от F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ3/IQ4, что позволяет выбирать между качеством генерации и требованиями к оперативной памяти. Квантизация выполнена с использованием imatrix и llama.cpp; некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки. Более сильное сжатие уменьшает потребление памяти, но может снижать качество. Лицензия — Apache-2.0.

jondurbin/nontoxic-bagel-34b-v0.2 — экспериментальная чат-модель Джона Дарбина, полученная дообучением Yi-34B-200K с использованием набора Bagel и частичного DPO. Она предназначена для диалогов, ответов на вопросы, следования инструкциям, написания текстов и кода, математических задач и ролевого общения. Модель имеет плотную архитектуру LlamaForCausalLM примерно на 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. При обучении использовались разнообразные наборы данных для диалогов, чтения с пониманием, программирования, математики и ролевых сценариев. Модель принимает текст и генерирует текст; README описывает форматы запросов Vicuna, Llama 2, Alpaca и ChatML. Карточка характеризует эту версию как довольно сильно цензурированную. Указана лицензия other, поэтому условия использования следует уточнять в карточке модели и у правообладателя.

Nous Hermes 2 Mixtral 8x7B SFT — языковая модель Nous Research, полученная supervised fine-tuning базовой Mixtral 8x7B. Она предназначена для диалогов и следования инструкциям, включая многошаговые беседы в формате ChatML. Обучение использовало более миллиона примеров, преимущественно синтетических данных GPT-4 и материалов из открытых наборов данных. Модель построена на архитектуре Mixtral sparse Mixture of Experts; метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Она принимает текст и генерирует текст, поддерживает английский язык. В README приведены результаты на нескольких бенчмарках, однако они не гарантируют качество для конкретного применения. Для запуска требуются значительные вычислительные ресурсы: в README отмечено, что даже 4-битный вариант требует более 24 ГБ VRAM. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen2.5-3B-Instruct-GGUF — это квантованная версия языковой модели Qwen2.5-3B-Instruct, разработанной командой Qwen. Формат GGUF подготовлен bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев и работы с инструкциями, включая понимание и генерацию структурированных данных. Модель поддерживает контекст до 32 тысяч токенов и генерацию до 8 тысяч токенов. Она обучена работать более чем с 29 языками, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся широкий охват знаний, многоязычность и поддержка длинного контекста. Как и другие генеративные модели, она может создавать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Модель распространяется по лицензии Qwen Research; применимые условия указаны в лицензии исходной модели Qwen2.5-3B-Instruct.

Qwen3-30B-A1.5B-64K-High-Speed-NEO-Imatrix-MAX-gguf — это GGUF-версия модели, подготовленная DavidAU на основе Qwen3-30B-A3B от команды Qwen. Модель использует архитектуру mixture-of-experts: всего 30 млрд параметров, 128 экспертов, из которых автоматически активируются 4, что соответствует примерно 1,5 млрд активных параметров на запрос. По заявлению автора, такая конфигурация почти вдвое повышает скорость по сравнению со стандартным вариантом с 8 активными экспертами и снижает требования к вычислительным ресурсам. Модель предназначена для генерации текста, творческого письма, ролевых сценариев, решения задач, рассуждений и использования инструментов. Она поддерживает контекст до 64K токенов благодаря применению YARN и может работать через CPU и RAM, GPU или их комбинацию. Указана поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Для интеграции рекомендуется использовать Jinja или ChatML template. Сильные стороны модели — высокая скорость инференса, большой контекст, возможность работы на разных типах оборудования и специализированные NEO Imatrix-квантизации, оптимизированные для Qwen3. Автор отмечает отсутствие заметной потери функциональности при обычном, но не исчерпывающем тестировании; при этом более сложные задачи могут лучше выполняться стандартной моделью или версиями с большим числом активных экспертов. Качество и скорость зависят от выбранного типа квантизации: более компактные варианты быстрее и экономичнее, но могут уступать по качеству. Лицензия в предоставленном README не указана.

btbtyler09/Qwen3.6-35B-A3B-GPTQ-8bit — это 8-битная GPTQ-квантизованная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для работы с текстом и изображениями, включая понимание изображений, генерацию текста, рассуждения, вызов инструментов и поддержку speculative decoding через модуль MTP. README не указывает конкретный список поддерживаемых языков. Модель использует архитектуру Mixture-of-Experts с примерно 35 млрд параметров, из которых около 3 млрд активируются для каждого токена. В каждом из 40 слоёв используется 256 экспертов и один общий эксперт; на токен выбираются 8 экспертов. Архитектура сочетает 30 слоёв линейного внимания и 10 слоёв полного внимания. Контекстное окно составляет до 262 144 токенов. В состав входят полноразмерный vision encoder на базе ViT с 27 блоками и модуль MTP; vision encoder и MTP сохранены в BF16, а экспертные модули квантизованы в INT8. Ключевое преимущество версии — существенное уменьшение размера примерно с 67 до 40 ГБ при практически незаметном ухудшении perplexity относительно исходной BF16-модели. При этом для запуска требуется значительный объём видеопамяти и, согласно README, рекомендуется использовать vLLM с распределением модели минимум на несколько GPU. GPTQModel и transformers на момент публикации не поддерживают непосредственную загрузку этой мультимодальной сборки, поэтому для инференса следует использовать vLLM; также возможна необходимость исправления ошибки совместимости в некоторых версиях vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-19B-Pruned-GGUF — набор официальных GGUF-квантований модели ewinregirgojr/Qwen3.8-19B-Pruned, опубликованный и квантованный ewinregirgojr. Модель предназначена для локальной генерации текста, диалоговых сценариев, задач рассуждения и function calling на потребительском оборудовании. Поддерживаются Ollama, LM Studio, Jan, llama.cpp, Unsloth, LocalAI и Open WebUI. Модель основана на архитектуре Qwen3.8 и использует 30% структурированной разреженности SparseGPT; заявлено около 18,9 млрд активных ненулевых параметров при сохранении 866 текстовых слоёв. Доступны варианты Q4_0, Q6_K и Q8_0 размером 17,79, 23,20 и 29,30 ГБ соответственно. Максимальная длина контекста заявлена до 262 144 токенов. Указаны английский и китайский языки, текстовая модальность и формат GGUF для локального инференса. В README приведены результаты MMLU 81,5% и GSM8K 86,9%, однако методика и воспроизводимость этих показателей требуют самостоятельной проверки. Сильные стороны — уменьшенный объём весов, возможность запуска на распространённых GPU и оптимизация для локального использования; для Q4_0 заявлена совместимость с видеокартами от 24 ГБ памяти, тогда как более точные варианты требуют больше RAM или VRAM. Ограничения связаны с компромиссом между размером, точностью и требованиями к оборудованию, а также с тем, что разреженность не обязательно ускоряется всеми программными стеками. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF-etheroi — это квантизированная GGUF-версия модели на базе DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1. Модель создана с применением метода COLD FUSION, объединяющего GAIN и инструменты Unsloth. В разработке и тестировании участвовали автор настройки, Nightmedia и TeichAI; репозиторий опубликован пользователем developerjeremylive. Заявлены поддержка английского и китайского языков, а также мультимодальность с обработкой изображений. Модель предназначена для широкого круга сценариев: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, создания историй, ролевого взаимодействия и работы с различными жанрами. Она поддерживает три режима рассуждений — xhigh, medium и low — и ориентирована на сокращение объёма внутренних рассуждений без существенного снижения детализации ответа. Заявлены улучшенные интеллект, способность к решению задач, следование инструкциям и скорость генерации, включая режим MTP (multi-token prediction). Точные сведения о размере контекста и конфигурации архитектуры в README не указаны; из названия и описания следует, что это модель класса 27B с GGUF-квантизацией и MTP-тензорами. Используются NEO IMATRIX-квантизации, заявляющие повышение точности и качества работы в длинном контексте, а выходной тензор сохранён в 16-битной точности. Для MTP рекомендуется температура не выше 1 и отключённый repetition penalty. Ключевое ограничение — существенная модификация механизма рассуждений, поэтому модель необходимо отдельно тестировать под конкретный сценарий. Лицензия Apache-2.0.

Chungulus/Qwen3.8-27B-Q8_0-GGUF — это независимая, неизменённая квантизация Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF для запуска с llama.cpp и предназначена для генерации текста, работы с изображениями и видео, а также вызова инструментов в нативном формате Qwen. Это не дообученная модель, не объединение моделей и не модификация шаблона чата. Модель содержит около 27 миллиардов параметров и использует квантизацию Q8_0 с 8-битным представлением весов. Архитектура сочетает Hybrid Gated DeltaNet и полноценное внимание; в составе также есть vision tower, проектор для мультимодального ввода и сохранённые MTP-тензоры. Для работы с изображениями требуется отдельный файл vision projector. Поддерживаются режимы управления рассуждением через enable_thinking, reasoning_effort и preserve_thinking. Сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. К сильным сторонам относятся сохранение исходной архитектуры и шаблона чата, проверенная генерация текста, вызов инструментов, обработка изображений и видео, а также отсутствие дополнительной потери качества от тонкой настройки или слияния моделей. Для запуска требуется совместимый runtime с поддержкой гибридного графа Qwen3.8, vision-компонентов, токенизатора и MTP-метаданных. Основные ограничения — возможное снижение качества из-за квантизации, высокая потребность в памяти: рекомендуется иметь не менее примерно 33 ГБ с учётом модели, проектора и служебных расходов, а память под KV-кэш дополнительно растёт вместе с контекстом. Максимальный контекст не был проверен в рамках описанной валидации. Родительская модель и данная ванильная квантизация распространяются по лицензии Apache-2.0.

Qwen3-VL-235B-A22B-Instruct-MXFP4 — вариант весов модели Qwen3-VL от команды Qwen. Это мультимодальная модель с архитектурой MoE, предназначенная для диалога и совместного понимания текста и изображений; карточка также описывает возможности работы с видео и пространственными данными. Модель может анализировать визуальные сцены, отвечать на вопросы, распознавать текст в изображениях и документах, выполнять визуальное рассуждение и взаимодействовать с интерфейсами через инструменты. В README заявлен контекст 256K токенов с возможностью расширения до 1M, а также OCR на 32 языках. Среди описанных возможностей — понимание длительного видео с привязкой событий ко времени, генерация кода и диаграмм по визуальным примерам, пространственное рассуждение и задачи STEM. Репозиторий содержит веса safetensors; метаданные указывают библиотеку Transformers и лицензию Apache-2.0. Размер MXFP4 в имени указывает на квантизованный вариант весов, однако формат MXFP4 отдельно в метаданных форматов не подтверждён.

Qwen3-VL-2B-Instruct-1M-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen и представленная в формате GGUF с динамической квантизацией Unsloth Dynamic 2.0. Репозиторий основан на Qwen3-VL-2B-Instruct и предназначен для запуска и инференса через совместимые инструменты, включая llama.cpp и Transformers. Модель принимает текст и изображения, а также ориентирована на понимание видео. Она предназначена для визуального вопросно-ответного взаимодействия, описания изображений, OCR, анализа документов, STEM- и математического рассуждения, пространственного анализа, генерации кода и взаимодействия с графическими интерфейсами и инструментами. Заявлены поддержка контекста 256K с возможным расширением до 1M токенов, улучшенное понимание длительных видео и OCR на 32 языках; конкретный перечень языков в README не приведён. Архитектурно модель использует плотную конфигурацию с примерно 2 млрд параметров, а среди ключевых компонентов указаны Interleaved-MRoPE для временных и пространственных позиций, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового и визуального понимания, работа с длинным контекстом, документами, видео и пространственными отношениями. Ограничения включают небольшой по современным меркам размер, возможные потери качества из-за квантизации и отсутствие в README подробных количественных результатов, точного списка языков и требований к аппаратному обеспечению. Лицензия — Apache-2.0.