I.14Автоматизация процессов и AI-агенты

mlx-community/Qwen3-30B-A3B-8bit — версия модели Qwen/Qwen3-30B-A3B, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и может использоваться через библиотеку mlx-lm. Из доступных данных известно, что модель относится к семейству Qwen, имеет обозначение 30B-A3B и 8-bit представление. Она поддерживает текстовый pipeline, токенизатор с chat template при его наличии и диалоговый формат сообщений. Конкретные сведения об архитектуре, языках, размере контекста, модальностях, производительности и ограничениях в README не указаны. Модель распространяется по лицензии Apache-2.0. Для использования требуется установить mlx-lm и загружать модель через API MLX.

MaziyarPanahi/Qwen3-32B-GGUF — это набор квантованных файлов модели Qwen3-32B в формате GGUF. Исходную модель разработала команда Qwen, а конвертацию и публикацию квантованных вариантов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; возможны ускорение на GPU и предоставление OpenAI-совместимого API в зависимости от используемого ПО. Карточка не содержит подробностей об архитектуре, количестве параметров исходной модели, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или конкретных ограничениях качества. Условия лицензирования в README также не указаны, поэтому их следует уточнить на странице исходной модели Qwen/Qwen3-32B и публикации квантованных файлов.

unsloth/Qwen3-4B-Base-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-4B-Base, подготовленная Unsloth на основе модели Qwen/Qwen3-4B-Base. Это каузальная языковая модель на стадии предварительного обучения, предназначенная для генерации и продолжения текста, а также общих задач обработки естественного языка, программирования, STEM и рассуждений. README не уточняет особенности именно 4-битной упаковки и сценарии её применения. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд приходятся на параметры без embedding, имеет 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Семейство Qwen3 обучалось на 36 трлн токенов на 119 языках и включает данные для кодирования, STEM, рассуждений, книг, мультиязычных и синтетических задач, однако точные языковые возможности данной версии отдельно не приведены. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битному представлению, длинный контекст и универсальная базовая направленность. Ограничения состоят в том, что это именно базовая, а не инструкционно настроенная модель: README не заявляет о специальной диалоговой настройке, конкретных результатах бенчмарков или требованиях к оборудованию. Для работы рекомендуется актуальная версия библиотеки transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: 'qwen3'. Модель распространяется по лицензии Apache-2.0.

Sequelbox Qwen3-4B-Thinking-2507-DAG-Reasoning — экспериментальная специализированная языковая модель Sequelbox, созданная дообучением Qwen/Qwen3-4B-Thinking-2507. Она генерирует текст и предназначена для причинного анализа: выявляет связи между факторами, оценивает уверенность и формирует результат в виде структурированного ориентированного ациклического графа (DAG), представленного в JSON. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Модель подходит для анализа причин и следствий в программировании, науке, бизнесе, экономике, финансах, праве, логистике и управлении, а также для подготовки графов к визуализации или дальнейшей обработке. Для получения структурированного DAG следует явно запросить граф или анализ; модель также может ответить в обычном стиле Qwen3. Карточка описывает её как ранний экспериментальный выпуск и рекомендует проверять структуру выходных данных перед продуктивным использованием. Доступна по лицензии Apache-2.0.

amd/Qwen3.5-35B-A3B-MXFP4 — квантизированная версия модели Qwen3.5-35B-A3B-FP8, разработанная Advanced Micro Devices, Inc. с использованием AMD-Quark. Модель построена на архитектуре Qwen3_5MoeForConditionalGeneration, принимает текст и генерирует текст. В README указано обозначение 35B-A3B, однако точные параметры архитектуры, число активируемых параметров, размер контекста и перечень поддерживаемых языков не приведены. Модель предназначена для задач генерации текста и инференса в средах SGLang или vLLM на Linux с оборудованием AMD MI300 и MI350/MI355, ROCm 7.0.0, PyTorch 2.9.1 и Transformers 5.3.0. Веса статически квантизированы в формат OCP MXFP4, а активации динамически квантизированы в OCP MXFP4, что ориентировано на эффективное выполнение на совместимых ускорителях. В тесте GSM8K модель получила результат 93,25 против 89,39 у исходной FP8-версии, но приведённая оценка охватывает только один бенчмарк и не характеризует все сценарии применения. Лицензия — Apache-2.0; изменения защищены авторским правом Advanced Micro Devices, Inc.

TheStageAI/Qwen3.5-9B-GGUF — квантизированная версия модели Qwen3.5-9B от Qwen, подготовленная TheStageAI в формате GGUF для запуска через llama.cpp. Модель предназначена для локальной генерации текста, диалоговых сценариев и задач, требующих следования инструкциям; доступны четыре варианта с размером от 3,21 до 9,53 ГБ. Модель поддерживает режимы без рассуждений и с длинными рассуждениями. Вариант XS рекомендуется для режима без рассуждений, а S, M и L — для задач с развёрнутым рассуждением. Рекомендуемый вариант M занимает 5,06 ГБ и, согласно приведённым оценкам, сопоставим с исходной BF16-моделью по IFEval и близок к ней по MMLU-Pro. В репозитории описан производственный PTQ-процесс с распределением точности между слоями и учётом накопления ошибки квантования. Сильные стороны модели — возможность локального запуска, несколько вариантов размера и точности, а также хорошее сохранение результатов исходной модели при существенно меньшем объёме хранения. Ограничения включают потерю точности по сравнению с полной BF16-версией, особенно у наиболее компактного варианта XS, и отсутствие в предоставленных данных сведений о языках, мультимодальности и размере контекста. Модель распространяется по лицензии Apache-2.0.

AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-NVFP4 — мультимодальная языковая модель от AEON-7, основанная на AEON-7/Qwen3.6-27B-AEON-Ultimate. Она предназначена для генерации и обработки текста, а также анализа изображений в сценариях, поддерживаемых исходной моделью. В карточке заявлена поддержка английского, китайского и других языков. Модель содержит 27 млрд параметров и использует гибридную архитектуру с полноформатными слоями внимания и 48 слоями линейного внимания GatedDeltaNet. Это аппаратно-квантизированная версия NVFP4: размер на диске уменьшен примерно с 51 до 26 ГБ. Vision tower, слои linear attention, нормализации, эмбеддинги и lm_head сохранены в BF16, поэтому заявлена сохранность мультимодальности и устойчивости гибридной архитектуры. Для развёртывания указан контекст до 256 000 токенов в рекомендованной конфигурации vLLM. К сильным сторонам относятся существенное снижение требований к хранению и возможность использовать native FP4-ускорение на DGX Spark с GB10, B100/B200 и некоторых видеокартах Blackwell, а также сохранение обработки изображений. Ограничения связаны с необходимостью совместимого программного стека и оборудования; заявленные характеристики качества, включая близость к BF16 и отсутствие отказов, требуют независимой проверки после развёртывания. Модель помечена как superseded и рекомендована автором к замене более новой версией Qwen3.8. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Её разработка связана с DavidAU и коллаборацией с Nightmedia, TeichAI, armand0e и trohrbaugh; обучение и сборка выполнялись с использованием Unsloth. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, работы с текстом и ролевых сценариев. В README также заявлена поддержка vision, однако конкретные возможности мультимодального ввода не раскрыты. Модель имеет 27B параметров и выпускается в форматах GGUF, включая обычные и MTP-варианты с multi-token prediction. Квантизации используют NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности; для MTP-тензоров заявлена точность Q8_0. По утверждению авторов, дообучение направлено на повышение общего интеллекта, качества инструкций, решения задач и рассуждений без изменения базовых возможностей модели. Указаны английский и китайский языки. Размер контекста в предоставленных данных не указан. Сильными сторонами заявлены высокие результаты на семи бенчмарках, улучшение относительно базовой Qwen3.6-27B, хорошие показатели даже у низких квантизаций и пригодность для запуска на потребительском оборудовании. Эти результаты основаны на заявлениях авторов и тестировании сообщества, поэтому их следует воспринимать как неподтверждённые независимой оценкой. Ограничения включают отсутствие точных сведений о контекстном окне, системных требованиях и подробностях мультимодальности; характер uncensored предполагает ослабленные ограничения на содержание. Лицензия — Apache-2.0.

LibertAIDAI/Qwen3.6-35B-A3B-NVFP4-GGUF — это GGUF-квантизация мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Alibaba Qwen и адаптированной LibertAI для работы с llama.cpp. Модель предназначена для генерации текста, рассуждений и обработки изображений и видео совместно с vision-проектором mmproj. Заявленный язык — английский. Модель использует гибридную архитектуру attention и SSM с механизмом Mixture-of-Experts: 35 млрд параметров всего, около 3 млрд активируются на каждом токене; предусмотрено 40 слоёв и 256 экспертов, из которых активны 8. Маршрутизируемые экспертные FFN-тензоры представлены в формате NVFP4, а attention, shared experts, SSM-блоки linear_attn и embeddings используют обычные варианты GGUF-квантизации. Доступны варианты с Q4_K_M, Q8_0 и BF16 для неэкспертных тензоров; для мультимодального ввода требуется отдельный vision-проектор F16 размером около 861 МБ. Основное преимущество NVFP4-варианта — уменьшенный размер и высокая скорость на NVIDIA Blackwell, особенно для версии Q4_K_M; на RTX 5090 она показала до 223 токенов в секунду при генерации. При этом для этой MoE-модели стандартный GGUF Q4_K_M в некоторых сценариях пакетной обработки быстрее NVFP4-варианта, поэтому выигрыш NVFP4 зависит от оборудования и режима работы. На старых GPU поддержка NVFP4 работает через альтернативные kernels и не даёт заявленного преимущества Blackwell. Контекст модели в README не указан. Распространение выполняется по лицензии Apache 2.0. Для запуска необходимы llama.cpp и соответствующий GGUF-файл; мультимодальный режим дополнительно требует vision-проектор.

Qwen3.8-27B-GPTQ-Int4-sym-G128-MTP-BF16 — квантизированный производный вариант модели Qwen/Qwen3.8-27B, опубликованный пользователем mikeinnyc. Это не дообученная модель: дополнительное обучение не проводилось, а GPTQ-квантизация выполнена непосредственно из исходного чекпойнта BF16. Модель предназначена для генерации текста и развёртывания через Transformers и vLLM, включая сценарии с OpenAI-совместимым API и Open WebUI. Она ориентирована на запуск на Intel Arc Pro B70 с использованием vLLM XPU, speculative decoding и unquantized MTP draft path. В контролируемом тестировании на одной Intel Arc Pro B70 32 GB конфигурация G128 поддерживала контекст до 161 000 токенов с FP8 KV-кэшем. Ключевые характеристики: GPTQ INT4 с симметричной квантизацией и group size 128, без квантизации LM head и MTP-тензоров; размер загрузки составляет около 19,6 ГБ, модель хранится в пяти файлах safetensors. Сильными сторонами являются уменьшенный объём памяти по сравнению с BF16, поддержка очень длинного контекста и возможность ускорения генерации с помощью MTP. Ограничения включают зависимость от совместимой конфигурации vLLM XPU и специальных патчей для проверенного сценария на Intel Arc Pro B70; заявленные характеристики производительности относятся именно к этому окружению. Модель распространяется по лицензии Apache-2.0.

amd/Qwen3.8-27B-Quark-Qronos-INT4-W4A16 — это квантизированная версия базовой модели Qwen/Qwen3.8-27B, разработанная с использованием AMD Quark и алгоритма Qronos. Модель предназначена для задач генерации текста и, согласно метаданным, имеет pipeline image-text-to-text. Она рассчитана на запуск в совместимых inference-средах, включая vLLM с поддержкой схемы W4A16Int4. Модель использует INT4-квантизацию весов с group size 128, тогда как активации сохраняются в формате BF16. Квантизация выполнена методом посттренировочной оптимизации Qronos на основе Hessian, с калибровкой по 128 образцам длиной 512 токенов. Размер базовой модели — 27B параметров. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. По приведённым измерениям, качество близко к BF16-версии: на GSM8K получено 94,62% в thinking-режиме и 89,99% в non-thinking-режиме, perplexity Wikitext составила 8,6819, а точность BFCL для single_turn — 23,80%. Основное преимущество — снижение точности представления весов до INT4 при сохранении большей части качества базовой модели. Ограничения включают зависимость от Quark-совместимого runtime, необходимость поддержки W4A16Int4 и неполную сопоставимость отдельных бенчмарков с публичными рейтингами. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой Qwen/Qwen3.8-27B.

Atomic-Germ/Qwen3.8-9B-Distill-GGUF — это набор квантованных версий языковой модели Qwen3.8-9B, разработанной компанией Empero. Модель представляет собой полнопараметрическую дистилляцию Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B и предназначена для генерации текста и решения задач рассуждения. Доступны форматы GGUF для llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и других совместимых сред. Заявлен английский язык. Модель использует гибридную архитектуру Qwen3.5-класса: на каждые слои полной attention приходятся три слоя Gated DeltaNet. Указан размер 9B параметров; контекстное окно в README не сообщается. Доступны варианты квантования Q4_K_M, Q5_K_M, Q6_K, Q8_0 и BF16 размером примерно от 5,780 до 18,407 GB. В качестве сильных сторон заявлены улучшенные результаты на MMLU по сравнению с базовой Qwen3.5-9B и поддержка локального запуска на видеокартах с 8–16 GB памяти в зависимости от квантования. Ограничением является необходимость свежей сборки llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet; при длинном контексте дополнительные ресурсы потребляет KV-кэш. Модель генерирует рассуждения в блоках <think>, которые при необходимости следует скрывать от конечных пользователей. Веса распространяются по лицензии Apache-2.0, унаследованной от базовой модели Qwen.

6block/Qwen3-8B-GGUF — набор GGUF-квантизаций базовой модели Qwen3-8B, разработанной командой Qwen и подготовленной пользователем 6block с использованием llama.cpp. Модель предназначена для генерации текста, диалоговых приложений, работы с английским и китайским языками, а также задач программирования. Квантизации можно запускать локально через llama.cpp, LM Studio, Ollama и совместимые проекты. В набор входят варианты Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, IQ3_M и Q2_K размером примерно от 3,28 до 8,71 ГБ. При создании использовалась importance matrix (imatrix) и двуязычный, ориентированный на код набор калибровочных данных, что должно помогать сохранять качество китайского языка и программирования при низкой разрядности. В README не указаны архитектурные детали исходной Qwen3-8B, размер контекста и точный перечень поддерживаемых возможностей, поэтому эти характеристики нельзя достоверно описать. Основные преимущества — возможность локального запуска, несколько вариантов компромисса между качеством, скоростью и требованиями к памяти, а также публикация файла imatrix для воспроизводимости квантизации. Более низкие квантизации экономят память, но могут заметнее уступать по качеству; I-квантизации ориентированы на лучшую эффективность при малом размере, однако на CPU могут работать медленнее K-квантизаций. Набор распространяется по лицензии Apache-2.0.

ggml-org/Qwen3-8B-GGUF — это квантизированная версия языковой модели Qwen3-8B, автоматически преобразованная в формат GGUF проектом ggml-org. Исходная модель разработана командой Qwen; в карточке также указаны связанные исходные модели Qwen/Qwen3-8B, z-lab/Qwen3-8B-DFlash-b16 и deepseek-ai/dspark_qwen3_8b_block7. Модель предназначена для генерации текста и может использоваться через совместимые инструменты, включая llama.app. Объём модели составляет 8B параметров; формат GGUF и квантизация ориентированы на более удобный запуск и эффективное использование ресурсов по сравнению с полноразмерной версией. Сведения о конкретном варианте квантизации, архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Модель распространяется по лицензии Apache-2.0. Ограничения по качеству, точности, требованиям к оборудованию и рекомендуемым сценариям использования отдельно не описаны.

ISTA-DASLab/Qwen3-8B-GGUF-GSQ — это квантизированная версия языковой модели Qwen3-8B, разработанной командой Qwen и доработанной ISTA-DASLab с применением метода GSQ (Gumbel-Softmax Quantization). Модель предназначена для генерации текста и запуска локальных больших языковых моделей с пониженным потреблением памяти. Модель поставляется в формате GGUF K-Quant с вариантами разной точности, включая Q2_K, Q4_K и Q6_K. Квантизация начинается с публичной инициализации Unsloth GGUF, после чего дискретные значения весов уточняются методом GSQ и упаковываются обратно в тот же формат K-Quant. Размер модели составляет 8 миллиардов параметров. Поддерживаются llama.cpp, Ollama, LM Studio и другие программы, совместимые с GGUF. Ключевое преимущество модели — улучшение качества при агрессивной низкобитной квантизации: для варианта Q2_K средний результат бенчмарков повышен с 50,03 до 56,28 относительно исходной инициализации Unsloth. При этом сохраняются стандартная структура GGUF K-Quant и совместимость с существующими инструментами. Ограничения включают возможную потерю качества по сравнению с полной точностью и отсутствие в README сведений о языках, максимальном контексте, поддерживаемых модальностях и подробных результатах по отдельным тестам. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-MLX-mixed-4_8bit — сборка модели Qwen3.8-Flash-Next, преобразованная в формат MLX разработчиком PipeNetwork для запуска на Apple Silicon. Это текстовая модель генерации, основанная на гибридной архитектуре Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts на 125 млрд параметров, из которых около 6 млрд активируются на токен. В исходной архитектуре также используется хешированное n-граммное embedding-пространство на 51 млрд параметров. Мультитокенный prediction head на 4 млрд параметров исключён, а vision tower присутствует в файлах, но не используется данным текстовым runtime. Модель предназначена для локальной генерации текста и решения задач вроде программирования, продолжения текста и других сценариев text-generation. Она рассчитана на работу через библиотеку MLX и требует специального runtime qwen4_exp, поставляемого вместе с репозиторием; для загрузки может потребоваться trust_remote_code. Размер сборки составляет 106,2 ГБ. Маршрутизируемые эксперты и n-граммные таблицы квантизированы в 4 бита, большинство остальных весов — в 8 бит, отдельные компоненты и vision tower сохранены в bfloat16. Заявленная конфигурация заметно лучше равномерной 4-битной версии по качеству: perplexity на wikitext-2 составляет 4,5286 против 5,3914 у полной 4-битной сборки и 4,4708 у исходной bfloat16-модели. Сильная сторона сборки — существенное уменьшение размера при небольшом ухудшении качества относительно bfloat16; по приведённому тесту она является предпочтительным вариантом среди сборок такого размера. Ограничения включают большой объём файлов, зависимость от Apple Silicon и нестандартного runtime, отсутствие поддержки vision в текущем режиме, а также возможные потери качества из-за квантизации. Лицензия указана как qwen-community-1.0 с типом other; конкретные условия следует проверить в файле LICENSE.

Qwen3-Next-80B-A3B-Thinking-8bit — языковая модель для генерации текста, представленная сообществом mlx-community. Она преобразована из базовой модели Qwen/Qwen3-Next-80B-A3B-Thinking в формат MLX с использованием mlx-lm 0.27.1; исходная модель разработана командой Qwen. Модель предназначена для текстовых сценариев, включая диалоговое взаимодействие и генерацию ответов с применением режима Thinking. В названии указаны масштаб 80B, конфигурация A3B и 8-битное представление весов. Модель поддерживает работу через библиотеку mlx-lm и рассчитана на запуск в экосистеме MLX. В README не указаны языки, размер контекста, точная архитектура, перечень модальностей и результаты бенчмарков. Сильной стороной модели является адаптация для MLX и 8-битное представление, потенциально снижающее требования к памяти по сравнению с полноточными вариантами. Ограничения и фактические требования к оборудованию в README не описаны. Модель распространяется по лицензии Apache-2.0.

RecurrentGemma-9B-IT — инструктивно дообученная языковая модель из семейства RecurrentGemma, разработанного Google. Это плотная авторегрессионная модель с рекуррентной архитектурой; в метаданных указано 13,9 млрд параметров. Модель предназначена для генерации текста в диалоге, ответов на вопросы, суммаризации и рассуждений. По карточке, архитектура RecurrentGemma требует меньше памяти, чем Gemma, и ускоряет генерацию длинных последовательностей. Модель принимает текст и генерирует текст. Семейство представлено англоязычными предварительно обученными и инструктивными версиями; для этой модели карточка описывает разговорное применение. Модель доступна в формате Safetensors и запускается через Transformers. Лицензия — Gemma; применяются условия использования Gemma. Как и другие большие языковые модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и испытывать трудности с неоднозначностью, нюансами языка и сложными открытыми задачами. Для приложений с пользовательскими ответами необходимы проверка результатов и меры безопасности.

T5Gemma 2 1B-1B — мультимодальная модель Google с открытыми весами, построенная на основе Gemma 3. Это предварительно обученная модель типа encoder-decoder: в репозитории представлены энкодер и декодер примерно по 1 млрд параметров, адаптированные с использованием UL2. Модель принимает текст и изображения и генерирует текст; заявлено окно контекста до 128 тысяч токенов и поддержка более 140 языков. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммаризацию, рассуждения и анализ документов. Её сравнительно небольшой размер позволяет запускать её на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. В архитектуре используются общие эмбеддинги слов для энкодера и декодера, а также объединённые self-attention и cross-attention декодера. Модель может ошибаться в фактах, испытывать трудности со сложными или неоднозначными запросами и отражать предвзятость обучающих данных. Лицензия — Gemma; разработчики приложений отвечают за безопасность модели и её результатов.

TowerVision-2B — мультиязычная vision-language модель проекта utter-project для анализа изображений и генерации текстовых ответов. Она предназначена для описания изображений, визуальных вопросов и ответов, суммаризации, понимания диаграмм и документов, а также мультимодального перевода с учётом языкового и культурного контекста. Модель содержит 2 млрд параметров и использует архитектуру LLaVA-NeXT: языковую основу Tower-Plus-2B, визуальный энкодер SigLIP2-patch14-384 и мультимодальный адаптер. Она принимает текст и изображения, генерирует текст; заявленная длина контекста — 8192 токена. В карточке перечислены европейские и азиатские языки, включая русский, английский, немецкий, китайский, японский и хинди. Модель обучена на мультиязычном наборе VisionBlocks и ориентирована на широкий круг задач визуального понимания, с заявленным акцентом на мультимодальный перевод и культурно-зависимые задачи. Для запуска авторы рекомендуют точность bfloat16. Лицензия CC-BY-NC-SA-4.0 ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов.

UNA-34Beagles-32K-bf16-v1 — экспериментальная диалоговая модель, опубликованная one-man-army и построенная на Yi-34B-200K с использованием Bagel. Это плотная 34-миллиардная языковая модель архитектуры Llama, распространяемая в формате Safetensors; заявленная длина контекста — 32 768 токенов. Модель дообучена на широком наборе данных для инструкций, диалогов, рассуждений, программирования, математики и ролевых сценариев, а также прошла DPO-обучение. Модель предназначена для генерации текста и ответов в диалоге: она может помогать с вопросами и ответами, анализом предоставленного контекста, написанием кода, математическими задачами и творческими или ролевыми текстами. В README указаны четыре варианта форматирования запросов: Vicuna, Llama 2, Alpaca и ChatML-подобный формат. Данные описывают многоязычные задачи, но конкретный перечень поддерживаемых языков не приведён. Автор сообщает, что включение Toxic DPO должно снизить цензурирование ответов. Это может повышать вероятность генерации токсичного или небезопасного текста; качество и надёжность ответов не гарантированы. Модель распространяется по лицензии Apache-2.0.

jondurbin/airoboros-70b-3.3 — экспериментальная чат-модель, созданная Jon Durbin на основе семейства Llama 3 и дообученная на данных Airoboros, преимущественно синтетических. Метаданные каталога указывают архитектуру LlamaForCausalLM с плотными весами, 69,5 млрд параметров и контекст до 8192 токенов. Модель принимает текст и генерирует текст; карточка показывает шаблон диалога Llama 3 Instruct и примеры ответов на вопросы, пересказа, художественных запросов и задач программирования. Модель подходит для диалогового помощника, написания и продолжения историй, суммаризации, ответов на вопросы и генерации кода. В README отмечено, что модель экспериментальная; приведённые примеры иллюстрируют предполагаемые сценарии, но не подтверждают качество или надёжность ответов. README называет базой Llama 3 70B Instruct, тогда как метаданные указывают дообучение Meta-Llama-3-8B; точную базовую модель по этим источникам установить нельзя. Лицензия в метаданных обозначена как other, поэтому условия использования следует сверить с карточкой модели на Hugging Face.

Aya 23 — открытая по весам мультиязычная instruction fine-tuned модель, разработанная Cohere For AI и основанная на семействе моделей Command. В каталоге cortexso/aya доступны варианты с 8 и 35 млрд параметров. Модель предназначена для генерации и понимания текста на 23 языках, а также для задач машинного перевода и других мультиязычных сценариев. К сильным сторонам Aya 23 относятся широкий языковой охват и ориентация на выполнение инструкций; среди поддерживаемых языков указаны арабский, китайский, английский, испанский, хинди и вьетнамский. README не содержит сведений о длине контекста, точной архитектуре, мультимодальности или количественной оценке ограничений, поэтому эти характеристики нельзя определить по имеющимся данным. Модель распространяется по лицензии CC-BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Baichuan2-7B-Chat-4bits — 4-битная квантованная чат-модель семейства Baichuan 2, разработанного Baichuan Intelligence. Это плотная авторегрессионная языковая модель на 7 млрд параметров для диалогов и генерации текста на китайском и английском языках. Модель обучена на корпусе объёмом 2,6 трлн токенов; доступный контекст составляет 4096 токенов. Модель предназначена для ответов в чате, генерации текста и решения общих языковых задач, включая сценарии в областях права, медицины, математики, программирования и перевода. В README отмечены результаты оценки на китайских и англоязычных бенчмарках. Для запуска требуется PyTorch 2.0 или новее. Для академического использования модель открыта. Коммерческое использование требует соблюдения Apache 2.0 и специального соглашения сообщества Baichuan 2, включая получение официального разрешения; для него также указаны ограничения по масштабу и типу организации. Модель может ошибаться или давать небезопасные ответы; авторы предупреждают о необходимости проверки соответствия применимым требованиям и безопасности сервисов.

baichuan-vicuna-chinese-7b — диалоговая языковая модель на 6,7 млрд параметров, созданная на базе baichuan-7B и дообученная командой fireballoon на данных ShareGPT на китайском и английском языках. Для обучения использовались также ShareGPT-ZH, примеры Chain-of-Thought, задачи LeetCode и вспомогательные данные; код обучения основан на FastChat. Модель использует плотную архитектуру LLaMA и формат PyTorch, а её контекст составляет 4096 токенов. Модель предназначена для генерации текста в диалоге: она может отвечать на вопросы, следовать инструкциям и помогать с рассуждениями и задачами по программированию. Карточка также упоминает отдельную GPTQ-квантизованную 4-битную версию, но описываемая здесь модель хранится в формате PyTorch. Лицензия в предоставленных данных не указана.

Beast_Mixed_2_pro — языковая модель для диалогов и генерации текста, созданная объединением моделей NousResearch/Hermes-2-Pro-Mistral-7B и mohsinmubaraksk/Beast-Mixed с помощью LazyMergekit. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на контекст до 32 768 токенов. В метаданных указана возможность чата; основной сценарий применения — генерация текста по запросу пользователя. Модель опубликована в формате safetensors. README описывает слияние методом SLERP в формате bfloat16. Лицензия в предоставленных данных не указана.

calme-2.2-qwen2-72b-GGUF — это квантизированная версия текстовой языковой модели calme-2.2-qwen2-72b, разработанной MaziyarPanahi на базе Qwen2-72B. GGUF-квантизации подготовлены пользователем bartowski с использованием llama.cpp и imatrix; модель предназначена для локального запуска, в частности через LM Studio, и поддерживает формат диалога ChatML. В README указано, что модель ориентирована на английский язык и задачи генерации текста, включая чат, следование инструкциям, рассуждения и решение математических и академических задач. Размер исходной модели составляет 72 млрд параметров. Доступны варианты квантизации от Q8_0 до более компактных Q3 и IQ4, с размером файлов примерно от 39,71 до 77,26 ГБ; некоторые варианты разделены на несколько файлов. Более высокие разрядности обычно сохраняют лучшее качество, тогда как компактные варианты снижают требования к памяти. Для ARM-платформ предусмотрена отдельная Q4_0_4_4. Размер контекста и мультимодальные возможности в README не указаны; по описанию это текстовая, а не мультимодальная модель. Сильными сторонами являются большой размер базовой модели, варианты квантизации для разного объёма доступной памяти и результаты на стандартных тестах, включая 80,08% строгой точности на IFEval, 56,8% на BBH и 41,16% exact match на MATH уровня 5. К ограничениям относятся высокие требования к оперативной или видеопамяти даже у компактных вариантов, возможное снижение качества из-за квантизации и относительно слабые результаты на отдельных сложных тестах, например GPQA и MuSR. Лицензия обозначена как other с названием tongyi-qianwen; условия следует уточнять по лицензии Qwen/Qwen2-72B.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная GGUF-версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной командой DeepSeek. Квантизацию выполнил bartowski на основе llama.cpp, а модель распространяется в рамках сообщества LM Studio. Модель предназначена для генерации текста и задач, требующих рассуждений, включая математические задачи и другие сценарии, где важна способность выстраивать цепочку рассуждений. Она создана посредством дистилляции chain-of-thought из DeepSeek-R1-0528 в базовую модель Qwen3 8B. Заявлена поддержка контекста до 128 тысяч токенов и передовые результаты среди открытых моделей на AIME24. Модель относится к текстовым генеративным моделям; сведения о поддерживаемых языках и конкретной архитектуре, помимо основы Qwen3 8B, в README не приведены. Квантизированный формат может быть удобен для локального запуска, однако README не уточняет уровень квантизации, требования к памяти и производительность. Как и другие языковые модели, она может генерировать неточную, вредную или неподходящую информацию. Лицензия модели указана как MIT.

bartowski/DeepSeek-V2.5-1210-GGUF — это набор квантованных версий языковой модели DeepSeek-V2.5-1210, разработанной DeepSeek и подготовленной в формате GGUF для запуска через llama.cpp и совместимые приложения. Модель предназначена для генерации текста и локального инференса; README указывает pipeline_tag text-generation. Доступны варианты квантования от Q8_0 до Q2_K и IQ-квантов, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Размеры отдельных вариантов составляют примерно от 76,92 до 250,62 ГБ, многие версии являются разделёнными файлами. Сильной стороной набора является широкий выбор квантований, включая варианты, рекомендованные автором как обеспечивающие высокое или хорошее качество, а также версии, оптимизированные для ARM или AVX. Ограничения связаны с очень большим объёмом модели, снижением качества при низких уровнях квантования и необходимостью использовать параметр --no-context-shift либо эквивалентную настройку для корректной политики переполнения контекста. Формат prompt должен соответствовать шаблону DeepSeek, приведённому в README. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Лицензия обозначена как deepseek; ссылка ведёт на лицензию модели DeepSeek.

mlx-community/DeepSeek-V3.2_bf16 — преобразованная в формат MLX версия DeepSeek-V3.2 от deepseek-ai, подготовленная сообществом mlx-community. Модель предназначена для генерации текста; её можно запускать с библиотекой mlx-lm на поддерживаемых MLX системах. Архитектура — DeepseekV32ForCausalLM; в метаданных указаны 37,6 млрд параметров и контекст до 163 840 токенов. Репозиторий создан преобразованием исходной модели с помощью mlx-lm 0.28.4. Метаданные указывают лицензию MIT и формат safetensors с FP8. README не описывает специализированные сценарии, языковое покрытие или результаты оценки качества, поэтому модель следует рассматривать как универсальную генеративную языковую модель без подтверждённой отраслевой специализации.