I.14Автоматизация процессов и AI-агенты

OsaurusAI выпустила MiniMax-M2.7-Small-JANGTQ — разреженную языковую модель MoE для генерации текста и диалогов, подготовленную на основе MiniMaxAI/MiniMax-M2. В README указаны около 138 млрд параметров всего и около 10 млрд активных на токен; на каждом слое сохранено 154 из 256 маршрутизируемых экспертов, а для токена выбираются 8. Модель рассчитана на запуск на компьютерах Apple Silicon через MLX и нативную среду JANGTQ для Swift. При подготовке удалено 40% маршрутизируемых экспертов методом REAP, а веса квантованы: эксперты — до 2 бит с кодовыми книгами Lloyd-Max и преобразованием Hadamard, блоки внимания, плотные MLP, эмбеддинги и выходная голова — до 8 бит, нормализации и маршрутизатор — до 16 бит. В карточке заявлен контекст 196 608 токенов; языковые метки — английский и китайский. Приведённая оценка HumanEval+ показывает 81,10% pass@1 и 90,24% pass@5, но README также сообщает о сбоях границ токенов и нехватке бюджета генерации в части примеров. Для загрузки полного набора весов требуется файл jangtq_runtime.safetensors: без него Swift-загрузчик не декодирует упакованные веса. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.

Mistral-7B-Holodeck-1-Instruct-32k — текстовая генеративная модель, созданная mpasila слиянием моделей через mergekit по методу DARE TIES. В основу взята alpindale/Mistral-7B-v0.2-hf, а в слияние также вошли mistralai/Mistral-7B-Instruct-v0.2 и KoboldAI/Mistral-7B-Holodeck-1. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов, что подходит для работы с длинными запросами и документами. В репозитории указаны веса safetensors и библиотека Transformers. README и метаданные не сообщают о поддерживаемых языках, специальных областях применения или измеренных качествах модели. Лицензия в предоставленных данных не указана.

Mistral-7B-Instruct-v0.3-quantized.w4a16 — квантизированная версия языковой модели Mistral-7B-Instruct-v0.3, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования в англоязычных сценариях, прежде всего для диалоговых ассистентов, генерации текста и выполнения инструкций. Она принимает текст и генерирует текст, поддерживает чатовый формат взаимодействия и рассчитана на работу через vLLM или Transformers. Модель использует архитектуру Mistral-v0.3 и содержит 7 миллиардов параметров; точная длина контекста в README не указана. Веса линейных слоёв внутри трансформерных блоков сжаты до INT4 с применением симметричной групповой квантизации и размером группы 128. Это уменьшает объём дискового хранения и требования к памяти GPU примерно на 25% по сравнению с представлением FP16. Квантизация выполнена с помощью AutoGPTQ. На OpenLLM benchmark версии 1 модель получила средний результат 65,08 против 66,42 у неквантизированной версии, что указывает на небольшое снижение качества при более экономичном размещении и запуске. Основные ограничения — ориентация на английский язык и отсутствие заявленной поддержки других языков; использование за пределами применимого законодательства не допускается. Лицензия Apache-2.0 разрешает коммерческое и исследовательское применение при соблюдении её условий. Дата выпуска — 11 июля 2024 года, версия 1.0.

Moko-DARE — объединённая языковая модель на архитектуре Mistral, созданная Azazelle с помощью mergekit и метода DARE TIES. В основе объединения лежит mistralai/Mistral-7B-v0.1; также использованы Open-Orca/Mistral-7B-OpenOrca, akjindal53244/Mistral-7B-v0.1-Open-Platypus и WizardLM/WizardMath-7B-V1.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи с математическими рассуждениями и следованием инструкциям, унаследованные от компонентов объединения. Доступна в формате safetensors для Transformers. Лицензия — CC BY 4.0.

MyAwesomeModel — модель на базе архитектуры BERT, опубликованная в репозитории asfafagf45/MyAwesomeModel-TestRepo. Согласно метаданным, она предназначена для извлечения признаков и работает с библиотекой Transformers на PyTorch. Лицензия — MIT.

MyAwesomeModel — модель из репозитория safasfaf4546/MyAwesomeModel-TestRepo, опубликованная с лицензией MIT и предназначенная для извлечения признаков из текста в библиотеке Transformers. В метаданных она помечена как BERT-подобная модель для задачи feature extraction и использует PyTorch.

Nemotron-Flash-3B Base — базовая языковая модель NVIDIA для генерации текста. Это плотная причинная трансформерная модель семейства Nemotron Flash с архитектурой NemotronFlashForCausalLM и 1,3 млрд параметров. Семейство спроектировано с учётом задержки на реальных сценариях: в нём используются гибридные операторы, найденные эволюционным поиском, оптимальное соотношение глубины и ширины и нормализация весов на этапе обучения. Модель предназначена для генерации продолжений текста и может применяться в задачах математических рассуждений, программирования и здравого смысла. В README заявлены результаты на уровне лучших моделей своего размера, а также низкая задержка при небольших пакетах и высокая пропускная способность при больших. Для запуска описана интеграция с Transformers и ускорение CUDA Graph; контекст составляет 29 000 токенов. Это базовая, а не Instruct-версия, поэтому карточка не заявляет, что она настроена для диалога по инструкциям. Модель распространяется под лицензией с типом «other»; конкретные условия следует проверять в файлах лицензии репозитория. Для загрузки указаны Transformers и формат safetensors.

Карточка модели joteqwork/new_gsev0 на Hugging Face совпадает с карточкой avsolatorio/GIST-small-Embedding-v0, поэтому описание составлено по ней. GIST-small-Embedding-v0 — англоязычная модель текстовых эмбеддингов, разработанная avsolatorio на основе BAAI/bge-small-en-v1.5 и дообученная методом GISTEmbed. Она кодирует текст в векторы для поиска и сравнения предложений; для получения эмбеддингов инструкционные подсказки не нужны, поэтому запросы можно кодировать напрямую. Модель основана на архитектуре BERT, содержит 40 млн параметров и рассчитана на контекст до 512 токенов. Для дообучения использовались набор MEDI и триплеты, полученные из обучающей части MTEB Classification; качество оценивали на MTEB. В README отмечено, что дообучение улучшило результаты на некоторых задачах, но ухудшило на других, включая поиск по TRECCOVID. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия модели — MIT; лицензии сторонних обучающих данных могут иметь дополнительные условия.

Nemotron-H-47B-Reasoning-128K-GGUF — это набор GGUF-квантизаций модели Nemotron-H-47B-Reasoning-128K, разработанной NVIDIA и квантизированной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет 47 миллиардов параметров и заявленный контекст до 128K токенов. В README указана только текстовая модальность; сведения о языках, конкретной архитектуре и формате промптов отсутствуют. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций, поэтому можно выбирать между качеством, объёмом памяти и скоростью запуска. Для квантизации использовался imatrix и релиз llama.cpp b6317. Сильной стороной являются большой контекст и широкий выбор уровней квантизации, включая варианты Q4–Q6, рекомендованные автором как обеспечивающие высокое или хорошее качество при существенно меньшем размере файлов. Ограничения связаны с большими требованиями к оперативной или видеопамяти даже у компактных вариантов, а при более агрессивной квантизации возможно снижение качества. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели NVIDIA и соответствующего репозитория.

ENOSYS/Octen-Embedding-0.6B-750-v1-GGUF — экспериментальная GGUF-квантизация модели Octen/Octen-Embedding-0.6B, опубликованная ENOSYS. Репозиторий описывает квантизацию с целевым числом бит на вес, созданную с использованием нестандартной ветки LLaMA.cpp и калибровочных данных на английском и русском языках; для тензоров использован формат F16, совместимый с архитектурой Nvidia Pascal, включая P100. Модель предназначена для получения текстовых эмбеддингов и задач семантического сходства, включая поиск и извлечение информации. Метаданные указывают на поддержку английского, русского и других языков, а также на библиотеку Sentence Transformers. README приводит сравнение вариантов квантизации по показателям perplexity и KLD, но не описывает конкретную конфигурацию этого репозитория среди приведённых результатов. Лицензия — Apache-2.0. Это производная квантованная версия базовой модели Octen/Octen-Embedding-0.6B. Нестандартная ветка инструментов и экспериментальный характер квантизации могут влиять на совместимость и воспроизводимость; метаданные указывают GGUF, а также возможности чата и эмбеддингов.

OpenChat 3.6 8B — это набор квантованных сборок модели openchat-3.6-8b-20240522 в формате GGUF с использованием imatrix. Модель разработана проектом OpenChat, а представленные квантования опубликованы пользователем или организацией duyntnet. Она предназначена для генерации текста, диалогов, программирования и решения общих задач. В README указана поддержка английского языка и текстовая модальность. Модель имеет размер около 8 миллиардов параметров. Для общения используется шаблон GPT4 Correct с маркером окончания генерации <|end_of_turn|>; также доступен встроенный chat_template. Формат GGUF и квантование ориентированы на запуск в совместимых локальных средствах инференса с потенциально сниженным потреблением памяти, однако конкретные варианты квантования и их характеристики в README не перечислены. Ограничения качества, размер контекста и дополнительные модальности не указаны. Лицензия обозначена как other, без уточнения условий использования.

pankajmathur выпустил Orca Mini v8.0 — дообученную диалоговую модель на архитектуре Llama 3.3 с 69,5 млрд параметров. Она предназначена для генерации текста и ответов в формате беседы; карточка показывает пример системного промпта для AI-ассистента. Модель работает через Transformers, веса представлены в формате Safetensors, а максимальный контекст составляет 131 072 токена. Модель подходит для создания диалоговых ассистентов, ответов на вопросы и других сценариев генерации текста. Базовая Llama 3.3 поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский; качество дообученной версии отдельно не описано. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед применением требуется проверка безопасности для конкретного сценария. Лицензия — Llama 3.3.

jaromer/outsourc-e-Qwen3.8-27B-Unleashed-GGUF — это квантованная GGUF-версия uncensored-модели Qwen3.8-27B. В основе лежит JonathanColetti/Qwen3.8-27B-Uncensored; файлы подготовлены с использованием подхода Unsloth Dynamic 3.0, а карта динамического распределения битов применена к этим весам с соответствующей importance matrix. Модель предназначена для генерации текста и может использоваться локально через совместимые инструменты, включая llama.cpp. Модель содержит около 27 млрд параметров, поддерживает текстовую модальность, английский и китайский языки и контекст до 262 144 токенов. Доступно девять уровней квантования, включая UD-IQ1_M, UD-IQ2_S, UD-IQ3_XXS, UD-Q3_K_XL и UD-IQ4_XS. Динамическое распределение битов сохраняет более высокую точность в чувствительных тензорах и сильнее сжимает менее критичные, что, по заявленным измерениям, позволяет варианту UD-Q3_K_XL превзойти протестированные варианты Q4 по perplexity при меньшем размере. Для него также заявлена проверенная работа с длинным контекстом и извлечение данных на 250 806 токенах. Сильными сторонами являются uncensored-характер модели, широкий выбор квантов, эффективное соотношение качества и размера, а также поддержка очень длинного контекста. Ограничения включают зависимость скорости и качества от конкретного уровня квантования, оборудования и настроек запуска; приведённые показатели измерены на RTX 4090 с llama.cpp и не гарантируют аналогичные результаты в других конфигурациях. Для некоторых квантов полный набор тестов скорости и извлечения ещё не завершён. Модель распространяется по лицензии Apache 2.0.

gmunkhtur/paraphrase-mongolian-minilm-mn_v2 — это дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, разработанная для сопоставления предложений на монгольском языке. Архитектура BERT формирует плотные векторы размерности 384; сходство оценивается косинусной мерой. В метаданных указано 124,3 млн параметров и контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Модель подходит для семантического поиска и сравнения сходства текстов, поиска перефразирований, кластеризации и классификации на основе эмбеддингов. Она обучена на парах предложений с оценками сходства из CSV-датасета размером 77 201 пример; в README приведены высокие показатели корреляции на указанных наборах dev-t и test-t. Для практической работы с длинными текстами следует учитывать ограничение длины последовательности в 128 токенов из карточки модели. Лицензия в предоставленных данных не указана.

Модель SentenceTransformer, дообученная автором репозитория на наборе sentence-transformers/quora-duplicates для сравнения пар предложений. Она использует архитектуру BERT и преобразует текст в плотные векторы размерности 384; сходство векторов можно оценивать косинусной мерой. Модель подходит для поиска семантически близких формулировок, обнаружения перефразирований и дубликатов, кластеризации и классификации текста. В карточке указана поддержка английского языка. Базовая многоязычная модель рассчитана на контекст до 512 токенов, однако README этой версии задаёт максимальную длину последовательности 128 токенов. Модель содержит 124,3 млн параметров и распространяется в формате Safetensors. Лицензия в предоставленных данных не указана.

bunsenfeng/parti_15_full — генеративная языковая модель, опубликованная на Hugging Face в формате Transformers. По метаданным она относится к семейству Qwen2 и предназначена для генерации текста в диалоговых и других сценариях, поддерживаемых задачей text-generation. Модель содержит около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Её можно применять для ведения диалогов, составления текстов, продолжения фрагментов и интеграции в приложения на базе библиотеки Transformers. README не содержит сведений о разработчике, языках, лицензии, данных обучения, результатах оценки или специальных ограничениях использования. Поэтому перед применением в критически важных сценариях необходимы самостоятельное тестирование, проверка фактической точности и уточнение условий лицензирования.

Thrillcrazyer/Phi4_LoopUS — разговорная языковая модель для генерации текста, построенная на базе Microsoft Phi-4 с применением посттренировочного фреймворка LoopUS. Разработка LoopUS описана исследователями BAELAB Пусанского национального университета и DOLAB Университета Чангвон; карточка модели указывает дообучение Phi-4 и формат safetensors. LoopUS преобразует предобученный трансформер в архитектуру с энкодером, рекурсивным блоком уточнения скрытых представлений и декодером. Модель предназначена для диалога и задач рассуждения; выборочное управление передачей скрытых состояний призвано снижать дрейф, а голова уверенности позволяет досрочно завершать вычисления. Базовая Phi-4 ориентирована прежде всего на английский язык и поддерживает генерацию текста, рассуждения, математику и программирование. Модель распространяется по лицензии Apache-2.0. Карточка не приводит отдельные измерения качества или подробные ограничения именно этой версии, поэтому её преимущества для конкретных задач следует оценивать по результатам тестирования.

Phi-4-QwQ — дообученная на базе Microsoft Phi-4 языковая модель для диалогов и генерации текста с акцентом на пошаговое рассуждение и ответственное решение задач. Модель содержит 14,1 млрд параметров, использует плотную архитектуру и доступна в формате safetensors для библиотеки Transformers; заявленный контекст — 16 384 токена. Модель предназначена для разложения сложных задач на этапы, логических и математических рассуждений, объяснений, учебного сопровождения, написания текстов и диалоговых помощников. В README описано дообучение методами SFT и DPO на синтетических и отфильтрованных данных. Карточка заявляет многоязычные возможности, однако метаданные указывают только английский язык. Модель может ошибаться при неоднозначных запросах, воспроизводить смещения и выдавать вредные или устаревшие ответы; для критически важных сценариев нужна проверка человеком. Для узкоспециализированных областей может потребоваться дополнительная настройка. Лицензия — MIT.

Dans-PersonalityEngine-V1.3.0-12b-GGUF — квантизированная версия языковой модели Dans-PersonalityEngine V1.3.0-12b, разработанной PocketDoc и подготовленной bartowski. Модель предназначена для генерации текста, ролевого общения, написания и продолжения историй, совместного написания, решения математических и логических задач, работы с кодом, инструментами и функциями, а также обработки специализированных сценариев в областях химии, биологии, климата, права, медицины и финансов. Модель имеет размер 12 млрд параметров и распространяется в формате GGUF для запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до различных уровней квантизации Q4–Q8; размеры файлов составляют примерно от 7,8 до 24,5 ГБ. Заявлена поддержка английского, арабского, немецкого, французского, испанского, хинди, португальского, японского и корейского языков. Формат запросов использует специальные токены [gMASK], <sop>, <|system|>, <|user|> и <|assistant|>. Сильными сторонами являются широкий набор обучающих данных, ориентированность на ролевые и творческие задачи, многоязычность и наличие вариантов с разным балансом качества и требований к памяти. Ограничения включают необходимость значительных вычислительных ресурсов, зависимость качества от выбранной квантизации и отсутствие в README сведений о размере контекстного окна, конкретной архитектуре базовой модели и результатах независимого тестирования. Указана лицензия Apache-2.0.

potion-base-8M — компактная модель статических текстовых эмбеддингов, разработанная командой Minish Lab. Она обучена с помощью Tokenlearn и представляет собой дистиллированную версию sentence-transformer модели baai/bge-base-en-v1.5. Размер модели — 8 млн параметров; доступны форматы ONNX и Safetensors, используется библиотека Model2Vec. Модель преобразует текст в векторы для семантического поиска, оценки сходства, ранжирования и других задач, где нужны текстовые эмбеддинги. Статические представления позволяют вычислять эмбеддинги значительно быстрее на CPU и GPU, поэтому модель подходит для систем с ограниченными ресурсами и сценариев реального времени. В тестах MTEB она набирает 51,08 среднего балла, что составляет 91,96% результата all-MiniLM-L6-v2 согласно карточке модели. Карточка указывает английскую базовую модель и англоязычный обучающий датасет. Заявленная длина контекста — до 1 000 000 токенов. Лицензия MIT. По сравнению с более крупными моделями качество может быть ниже; результаты карточки относятся к указанным тестам и не гарантируют качество на конкретных данных.

Pula-8B-v0.1 — языковая модель семейства BOTS-LM, разработанная Nathan Brown и Vukosi Marivate для работы на сетсвана и английском языках. Это плотная авторегрессионная модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная на основе Meta-Llama-3.1-8B-Instruct. В метаданных указан контекст до 131 072 токенов; при обучении использовались последовательности длиной до 4 096 токенов. Модель предназначена прежде всего для диалогового помощника и следования инструкциям. Её можно применять для ответов на вопросы, написания текстов, перевода между сетсвана и английским, извлечения именованных сущностей, разметки частей речи и вызова инструментов. Авторы также сообщают о возможностях рассуждения и улучшенных результатах на сетсвана и английском по сравнению с существующими открытыми языковыми и переводческими моделями для этих языков. Модель принимает текст и генерирует текст. README разрешает коммерческое и исследовательское использование, однако конкретная лицензия в карточке не названа. Как и другие языковые модели, Pula-8B может выдавать неточные или предвзятые ответы; для клиентских приложений авторы рекомендуют дополнительные меры безопасности. Официальная поддержка заявлена для сетсвана и английского, а качество на других языках и при обычной генерации текста проверено ограниченно.

Youssofal/Qwen3.6-35B-A3B-Abliterated-Heretic-GGUF — это GGUF-релиз модифицированной модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений; запуск возможен через llama.cpp с использованием совместимого мультимодального projector-файла. Релиз создан с применением Heretic для удаления исходного паттерна отказов на уровне весов. Модель использует разреженную MoE-архитектуру с 35,95 млрд общих параметров и примерно 3 млрд активных параметров на токен. В составе 40 текстовых слоёв, 256 маршрутизируемых экспертов и 8 активных экспертов на токен; семейство архитектуры — qwen3_5_moe. Доступны варианты BF16, Q8_0, Q6_K и Q4_K_M, различающиеся качеством и требованиями к ресурсам. Языки и точный размер контекстного окна в README не указаны. Сильной стороной релиза является сохранение мультимодальной архитектуры и общего профиля возможностей базовой модели при значительно меньшей склонности к отказам: в указанной проверке модель отказала в 1 из 25 запросов против 22 из 25 у оригинала. Это одновременно является ограничением и фактором риска: встроенное поведение отказа удалено, поэтому модель может отвечать на запросы, которые базовая версия отклоняла, и требует самостоятельного контроля безопасности. Релиз распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen3.8-27B-Huihui-Abliterated-NVFP4-MTP-VL — мультимодальная квантованная модель, разработанная lyf на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Это поведенческий производный вариант, предназначенный для исследований и локального инференса, включая генерацию текста, работу с изображениями и видео, рассуждения, вызов инструментов и ускорение декодирования с помощью MTP (эталонного многотокенного предсказания). Модель использует языковую часть размером 27B параметров с квантованием линейных слоёв в формате NVFP4 W4A4 и размером группы 16. Башня обработки изображений и видео, MTP-голова, lm_head, эмбеддинги токенов и GDN conv1d сохранены в формате BF16. Поддерживаются английский и китайский языки. Указанный проверенный профиль рассчитан на видеокарты NVIDIA RTX 5090 с архитектурой Blackwell, ограничением контекста 4096 токенов и KV-кэшем FP8; большие контексты требуют отдельной проверки доступной видеопамяти. К сильным сторонам относятся мультимодальность, существенное снижение требований к памяти благодаря NVFP4, сохранение исходной BF16 vision/video tower и MTP-компонентов, а также совместимость с vLLM и OpenAI-compatible API. На одной RTX 5090 модель успешно прошла проверки текстовой генерации, MTP и мультимодального профиля; во время генерации использовалось около 28 944 MiB VRAM. Ограничения включают зависимость от совместимого оборудования и программного окружения, необходимость валидации для иных нагрузок и контекстов, а также экспериментальный характер abliterated-производной. Модель распространяется по лицензии Apache-2.0. Она предназначена для исследовательского использования и локального инференса; ответственность за дальнейшее применение и соблюдение соответствующих политик лежит на пользователе.

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-NM-DAU-UltraOptimised-VariableThinking-GGUF — это мультимодально заявленная GGUF-версия многоэтапной fine-tune и multi-stage merge-модели на базе Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, разработанная авторами проекта с использованием Unsloth. В карточке указаны поддержка английского и китайского языков, а также pipeline image-text-to-text, однако подробности о реализации визуального ввода не приведены. Модель распространяется в обычных и MTP-квантизациях, включая варианты для 4- и 8-битного представления, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: общего диалога, рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других универсальных применений. Заявлены пять режимов рассуждения и пять instruct-режимов, включая UltraXhigh и Einstein, с возможностью переключения через API, напрямую или на уровне сообщения. Основной акцент сделан на сокращении объёма reasoning-токенов, ускорении генерации и снижении избыточного «обдумывания» при сохранении детализации и качества ответа. К сильным сторонам относятся вариативные режимы работы, поддержка GGUF-квантизаций для локального использования, ориентация на подробные ответы и творческие задачи, а также заявленное улучшение качества по сравнению с базовыми моделями семейства Qwen. Ограничения состоят в том, что приведённые результаты бенчмарков и характеристики производительности не подтверждены независимыми данными, а контекстное окно, точные параметры архитектуры, требования к памяти и фактические возможности мультимодального ввода не указаны. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Coder-GGUF — это многоз этапно дообученная и объединённая модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README модель представлена как разработка для потребительского оборудования с использованием Unsloth, методов COLD FUSION и Fable Fusion 711. Доступны GGUF-квантизации, включая обычные и MTP-варианты, с заявленной поддержкой режимов reasoning и thinking. Модель предназначена для широкого круга задач: программирования, решения задач, рассуждений, творческого письма, создания художественных текстов, ролевых сценариев и работы с различными жанрами. В метаданных указаны английский и китайский языки. Размер базовой модели — 27B параметров. Репозиторий также помечен как image-text-to-text, однако подробные сведения о поддерживаемых визуальных входах в README отсутствуют; максимальная длина контекста не указана. К заявленным сильным сторонам относятся сокращение объёма внутреннего рассуждения и ускорение генерации при сохранении детализации, а также высокие результаты на ARC-C и ARC-E. Автор утверждает, что модель превосходит базовые версии Qwen по ряду benchmarks, но эти показатели приведены без независимой методологии проверки. Ограничениями являются отсутствие подробных данных о контекстном окне, требованиях к памяти, совместимости MTP и качестве мультимодальной обработки. Модель описана как uncensored и abliterated, поэтому её ответы могут требовать дополнительной фильтрации и контроля безопасности. Лицензия — Apache-2.0.

Qwen3.8-27B-ULTIMATE-UNCENSORED-MTP-IQ4-GGUF-16GB — квантизированная GGUF-версия модели Qwen3.8-27B, подготовленная lemonyins на основе аблитерированной и «uncensored» сборки AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16. Модель предназначена для локального запуска и исследовательских или разработческих сценариев, где требуется модель класса 27B с уменьшенным потреблением памяти и без исходных контентных ограничений базовой сборки. Используется гибридная квантизация: основные attention-слои имеют формат IQ4_XS, а слои FFN — IQ3_S; применяется GGUF и поддержка TurboQuant для компактного KV-кэша. Вариант ориентирован на видеокарты с 16 ГБ VRAM. По данным README, на NVIDIA RTX 4060 Ti 16GB заявлена скорость около 20 токенов в секунду без MTP и около 30 токенов в секунду с multi-token prediction; с TurboQuant доступен контекст порядка 100–110 тысяч токенов без MTP и около 80 тысяч с MTP. Поддержка изображений возможна при подключении отдельного vision-проектора mmproj-BF16.gguf, при этом доступный контекст уменьшается примерно на 20 тысяч токенов. Сильные стороны модели — низкое потребление памяти, высокая скорость локального вывода, большой контекст и возможность speculative decoding через MTP. Ограничения связаны с потерями качества из-за квантизации FFN до IQ3_S, которые могут проявляться, например, в задачах на фактическое запоминание, а также с обязательной зависимостью заявленных показателей памяти от TurboQuant-enabled сборки llama.cpp. Приведённые показатели perplexity, VRAM и скорости требуют отдельной проверки именно для Qwen3.8. В README указана лицензия Apache-2.0.

Qwen3.8-3.6-27B-blend — неофициальная производная модель, подготовленная JetBrains на основе моделей Qwen от Alibaba Cloud. Это плотная мультимодальная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration; её параметры получены линейным слиянием в пропорции 50/50 чекпойнтов Qwen3.6-27B и Qwen3.8-27B. Конфигурация, токенизатор, процессор и шаблон чата взяты от Qwen3.8-27B. Модель предназначена для диалогов, работы с изображениями и программирования; поддерживает интерфейс вызова инструментов. JetBrains приводит результаты внутреннего бенчмарка на задачах программирования, однако описание не содержит численных результатов качества. Доступны варианты BF16, GGUF, MLX 4-bit и MTP MLX 4-bit; в репозитории Hugging Face указаны веса safetensors. Дополнительного обучения или тонкой настройки не проводилось. Модель распространяется по лицензии Apache 2.0. Ограничения качества и поддерживаемые языки отдельно не описаны; применение для видео и многошаговых задач указано в сведениях о базовой модели, но карточка производной модели подтверждает только задачу image-text-to-text.

Qwen3.8-Flash-Next-ROCmFP4-STRIX-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, включая рассуждения, формирование JSON, программирование и суммирование длинных документов. Формат GGUF ориентирован на запуск через llama.cpp и совместимые среды. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4. Она оптимизирована прежде всего для AMD Ryzen AI Max+ 395, Strix Halo и GPU gfx1151 с ROCm, включая работу на интегрированной Radeon 8060S с общей памятью. В README указано, что размер модели составляет около 98 GiB, а работа с контекстом проверялась вплоть до 128K токенов. Доступна поддержка speculative decoding через дополнительную MTP-голову, однако измерения относятся к другим вариантам семейства и не гарантируют такой же прирост для этой сборки. Сильными сторонами являются возможность запуска очень крупной модели на системе с унифицированной памятью, поддержка длинного контекста и потенциальное ускорение генерации с MTP. Ограничения включают низкую пропускную способность общей памяти по сравнению с дискретными GPU, необходимость специальной ветки ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также применения патчей перед сборкой; стандартный llama.cpp этот файл не загружает. Языки модели в предоставленных данных не указаны. Лицензия обозначена как other с названием qwen-community-1.0.

Qwen3.9-245B-A29B — текстовая генеративная модель семейства Qwen3, опубликованная аккаунтом QwennAI. Карточка показывает использование через Transformers и чат-шаблон Qwen с режимом рассуждений; также приведены примеры запуска через vLLM и SGLang. Метаданные указывают архитектуру Qwen3ForCausalLM, формат safetensors и поддержку чата. Модель предназначена для диалогов и генерации текста, включая задачи, требующие пошагового рассуждения, например объяснение математического доказательства. В README для сервинга приведён параметр контекста 65 536 токенов, тогда как метаданные указывают native context 1 024 токена; доступные сведения о размере противоречивы: имя модели содержит 245B-A29B, а total_parameters указано как 798.7K. Метаданные указывают английский и китайский языки. Лицензия — Apache-2.0.

Это исследовательский вариант Qwen3-Next-80B-A3B-Thinking с разреженными экспертами, усреднённо квантованными до 2,36 бита; остальные веса хранятся в BF16. Разработчик — minjaechoi. Модель предназначена для генерации текста и диалога, включая задачи рассуждения, унаследованные от базовой модели. Архитектура — MoE; по карточке Hugging Face, размер составляет 2,3 млрд параметров, а длина контекста — 262 144 токена. Метаданные также отмечают интерфейс для вызова инструментов. Веса сохранены в формате safetensors как BF16-тензоры после деквантизации; README сообщает о совместимости со стандартными Transformers и vLLM. Лицензия наследуется от базовой модели. Карточка характеризует этот чекпойнт как внутренний исследовательский, поэтому его качество и пригодность для конкретных задач следует проверять отдельно.