I.14Автоматизация процессов и AI-агенты

GyuBack/multilingual-e5-large-instruct-FT_klue_mrc_full32b — это Sentence Transformer, дообученный на базе intfloat/multilingual-e5-large-instruct для семантического сопоставления вопросов и документов. Модель преобразует текст в нормализованные плотные векторы размерности 1024; сходство оценивается косинусной мерой. В основе — трансформер XLM-RoBERTa с усреднением токенных представлений и максимальной длиной последовательности 512 токенов. Модель подходит для семантического поиска, ранжирования и сравнения текстов, поиска перефразировок, кластеризации и получения признаков для классификации. Данные обучения включают 23 392 пары: короткие вопросы на корейском языке и более длинные фрагменты документов; примеры указывают на адаптацию для поиска по корейским вопросам и контекстам. Лицензия в предоставленных источниках не указана.

checkiejan/multi-qa-mpnet-base-dot-v1-covidqa-search-test — модель Sentence-Transformers на базе MPNet, разработчик которой не указан в доступной карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текст; максимальная длина контекста составляет 514 токенов. В README указано обучение с TripletLoss и евклидовой метрикой расстояния. Веса доступны в формате PyTorch; лицензия и целевые языки в предоставленных данных не определены. Суффикс covidqa-search-test в имени не подтверждён описанием как специализированное назначение модели.

legacy107/multi-qa-mpnet-base-dot-v1-wikipedia-augmented-search-farmed — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска и сравнения текстов; в README также указаны сценарии кластеризации и семантического поиска. Обучение использовало MultipleNegativesRankingLoss с косинусным сходством. Модель принимает текст и выдаёт векторные представления, пригодные для поиска по смыслу и группировки похожих текстов. Контекст составляет до 514 токенов. Данных о специальных языках, на которых модель оптимизирована, в карточке нет. Репозиторий содержит веса PyTorch; сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели swardiantara/MultiSource-full-crk10-m0.5-e5-b128-L6 на Hugging Face совпадает с карточкой swardiantara/one-crk10-m0.5-e5-b128-L6, поэтому описание составлено по ней. swardiantara/one-crk10-m0.5-e5-b128-L6 — модель Sentence Transformers на основе архитектуры BERT, преобразующая предложения и абзацы в плотные векторы размерности 384. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации. Модель содержит 25,9 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате safetensors. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Это делает модель подходящей для построения текстовых эмбеддингов и поиска близких по смыслу фрагментов. В предоставленных материалах не названы поддерживаемые естественные языки и лицензия, поэтому их нельзя определить по этим данным.

tubyneto/my_new_model — модель Sentence-Transformers на базе MPNet, которая преобразует предложения и абзацы в плотные векторы размерности 768. Её можно применять для семантического поиска и кластеризации текстов, а также для сравнения смысловой близости предложений. Модель содержит 136,7 млн параметров, работает с текстом и имеет контекстное окно 514 токенов. В карточке указано обучение с функцией потерь SoftmaxLoss; веса представлены в формате PyTorch. Данных о разработчике, языковой специализации и лицензии в предоставленных источниках нет.

larsksy/norbert4-large-scandinavian-embedding — модель Sentence Transformer, дообученная на базе ltg/norbert4-large для получения эмбеддингов предложений и абзацев на норвежском, датском и шведском языках. Модель насчитывает 358,8 млн параметров и строит плотные векторы размерности 960; для сравнения текстов используется косинусное сходство. Максимальная длина входной последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Обучение проводилось на данных NLI, group-b-qa и DDSC. Доступна в формате safetensors и предназначена для использования с библиотекой Sentence Transformers. Лицензия в предоставленных данных не указана.

NVIDIA-Nemotron-Labs-Teacher-Instruction-Following — большая языковая модель NVIDIA для точного следования инструкциям. Она предназначена как для самостоятельного применения, так и для роли модели-учителя при генерации обучающих данных и дистилляции. Модель особенно ориентирована на запросы с явными ограничениями по формату, длине, стилю и структуре ответа, включая заполнение схем и оценку соблюдения требований. Модель построена на гибридной архитектуре LatentMoE: в ней сочетаются слои Mamba-2, Mixture of Experts и отдельные слои внимания; Multi-Token Prediction поддерживает ускоренную генерацию. Всего модель содержит 550 млрд параметров, из которых 55 млрд активны. Метаданные указывают контекст 262 144 токена; README заявляет до 1 млн токенов. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, португальский и китайский языки; метаданные также перечисляют иврит и арабский. Модель принимает текстовые запросы и генерирует текст. По карточке, чекпойнт готов к коммерческому и некоммерческому использованию, однако лицензия в метаданных обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории. Масштаб модели предполагает высокие требования к вычислительным ресурсам; README описывает многосерверное развертывание на оборудовании NVIDIA.

Open-Instruct Flan V2 13B — плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, дообученная исследователями Allen Institute for AI на наборе инструкций Flan V2. Она предназначена для генерации ответов на инструкции и общих текстовых запросов. Модель принимает текст и выдаёт текст; для работы ожидается форматирование входа по шаблону из карточки, а максимальная длина контекста составляет 2048 токенов. В карточке приведены результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель опубликована как diff: для восстановления весов требуется исходная модель LLaMA в формате Hugging Face. Лицензия определяется лицензией AI model, приложенной к репозиторию, и исходной лицензией LLaMA.

Brendan/orig-refpydst-5p-referredstates-split-v1 — модель эмбеддингов предложений на архитектуре MPNet, разработанная Brendan. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 136,7 млн параметров, принимает текст и рассчитана на контекст до 514 токенов. Модель обучалась с использованием OnlineContrastiveLoss и распространяется в формате PyTorch. Лицензия в предоставленных данных не указана.

pandafish-7b — инструктивная языковая модель на 7,1 млрд параметров, созданная методом Model Stock merge из моделей Mistral-7B-v0.1, Mistral-7B-Instruct-v0.2, NeuralTrix-bf16 и mistral-ft-optimized-1227 с помощью LazyMergekit. Модель использует плотную архитектуру Mistral для генерации текста и ответов на инструкции; контекст составляет до 32 768 токенов. Она подходит для диалоговых сценариев, ответов на вопросы и других задач генерации текста по запросу. В приведённых в README оценках pandafish-7b набрала в среднем 51,99 балла; результаты отдельных бенчмарков различаются относительно Mistral-7B-Instruct-v0.2. Модель опубликована в формате safetensors под лицензией Apache-2.0.

PandaLLMCommunity/panda-index-large-en — модель на архитектуре BERT, опубликованная в формате PyTorch и предназначенная для преобразования предложений и абзацев в плотные эмбеддинги размерностью 1024. Её можно использовать для семантического поиска, сравнения сходства текстов и кластеризации; модель совместима с библиотекой Sentence Transformers и поддерживает контекст до 512 токенов. В метаданных указано 433,9 млн параметров. README не сообщает датасеты, результаты оценки или конкретные ограничения качества. Название и описание указывают на ориентацию на английский язык. Условия лицензии в предоставленных данных не указаны.

paraphrase-spanish-distilroberta — модель sentence-transformers, созданная участниками организации hackathon-pln-es для Hackathon 2022 NLP - Spanish. Это дообученная методом переноса знаний испанская RoBERTa-модель BERTIN, обученная на параллельных испанско-английских предложениях с использованием paraphrase-mpnet-base-v2 в роли учителя. Модель содержит 151,8 млн параметров и преобразует предложения и короткие абзацы в плотные векторы размерностью 768; максимальный контекст — 514 токенов. Векторы подходят для поиска по смыслу, оценки сходства предложений и кластеризации текстов на испанском и английском языках. В README приведены результаты оценки семантического сходства для пар ES-ES и ES-EN на наборах STS-2017. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных источниках отсутствуют.

Pensez-v0.1-e5 — двуязычная англо-французская языковая модель для диалогов и задач рассуждения, разработанная на базе Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель Qwen2 с 7,1 млрд параметров, дообученная методом SFT на наборе Pensez v0.1 из 2 000 примеров: по 1 000 на французском и английском языках. Модель предназначена для повседневных вопросов, научных задач, математики и программирования; для простых запросов использует краткие рассуждения, а для сложных может разворачивать их подробнее. Поддерживает контекст до 32 768 токенов и поставляется в формате safetensors. В карточке приведены сравнительные результаты на франкоязычных тестах по математике, пониманию вопросов и знаниям; результаты различаются по бенчмаркам и не гарантируют качество для всех запросов. Модель доступна по лицензии Apache-2.0. Для запуска автор указывает библиотеку Transformers.

Richard Young создал эту версию Microsoft Phi-4-mini-instruct с помощью Heretic 2.0.0.dev0: модель подвергнута аблерации, которая уменьшает склонность отказывать в ответах. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,8 млрд параметров и контекстом 4096 токенов; она распространяется в формате Safetensors и предназначена для генерации текста, диалогов, кода и рассуждений, в том числе в условиях ограниченных вычислительных ресурсов. Модель поддерживает множество языков, включая русский, английский, китайский, японский, арабский, украинский и другие. По данным карточки, в тесте на 100 запросах число отказов снизилось с 99 у исходной модели до 5 у этой версии; автор также сообщает о низком расхождении с исходной моделью по KL-дивергенции. Модель подходит для локального использования, творческого письма и изучения методов выравнивания, однако уменьшение отказов означает, что она может выдавать ответы на запросы, которые исходная модель отклоняет. Как и другие языковые модели, она может ошибаться; для высокорисковых сценариев автор рекомендует отдельную оценку точности, безопасности и справедливости. Лицензия — MIT.

Карточка модели srsawant34/ProTopic на Hugging Face совпадает с карточкой harsh-wk/long-seq-paraphrase-MiniLM-L6-v2, поэтому описание составлено по ней. harsh-wk/long-seq-paraphrase-MiniLM-L6-v2 — модель Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерности 384. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. По метаданным, модель основана на архитектуре BERT, содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена Sentence Transformers и распространяется по лицензии Apache-2.0. В репозитории доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. README описывает семантический поиск и кластеризацию как основные сценарии; язык текстов, поддерживаемых моделью, в предоставленных данных не установлен.

Карточка модели LIF1014/ptdbench-verl-coding-tasks-function-call на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Q3.5-9B-DS-v4-Flash-v2.0 — экспериментальная плотная мультимодальная модель на 9 млрд параметров, разработанная prithivMLmods на основе Qwen/Qwen3.5-9B. Её дообучили в несколько этапов на трассах рассуждений DeepSeek V4 Flash и других примерах для улучшения многошаговых рассуждений и следования инструкциям. Модель предназначена для математического и научного анализа, задач с длинным контекстом, помощи в программировании и оценки следования инструкциям. В метаданных заявлена поддержка обработки изображений и диалога; README описывает её как модель для локального запуска и исследований. Карточка указывает английский язык. Длина контекста не приведена. Это экспериментальный выпуск: модель может ошибаться в промежуточных рассуждениях и выводах, а результаты зависят от охвата обучающих данных. Распространяется по лицензии Apache-2.0.

Aratako создал эту диалоговую языковую модель, объединив через mergekit Qwen/Qwen1.5-7B-Chat и abacusai/Liberated-Qwen1.5-7B в архитектуру Mixture of Experts без дополнительного дообучения. Модель имеет архитектуру Qwen2ForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; она предназначена для генерации текста и диалогов на английском языке. В тестах MT-Bench модель показала результаты, близкие к исходной Qwen1.5-7B-Chat; автор приводит сравнительные оценки для задач кодирования, извлечения информации, рассуждений, ролевого общения и письма. Для запуска нужны пользовательские файлы модели и конфигурации, размещённые рядом с весами. В карточке указана лицензия other, а README сообщает о наследовании лицензии Tongyi-Qianwen.

Qwen2.5-72B-0.6x-Instruct — объединённая языковая модель, опубликованная пользователем ddh0. Она создана линейным слиянием Qwen/Qwen2.5-72B-Instruct с весом 0,6 и Qwen/Qwen2.5-72B с весом 0,4. Модель предназначена для диалогов и генерации текста; автор стремился сделать инструкционную версию более гибкой и менее жёсткой. Модель использует плотную архитектуру Qwen2 и содержит 71,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Контекст — до 32 768 токенов; заявленные языки включают китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий использует Transformers и формат safetensors. Лицензия указана как other, поэтому перед использованием следует проверить её условия. Слияние призвано сделать поведение модели гибче, однако README сообщает лишь о первоначальном тестировании и не приводит количественных оценок качества. Возможности и надёжность вызова инструментов отдельно не описаны.

FocusMix 7B — языковая модель на 7,1 млрд параметров, полученная слиянием нескольких дообученных моделей семейства Qwen2. В состав слияния входят Replete-LLM-Qwen2-7b, Calme-2.8-Qwen2-7b, Arcee-Spark и Einstein-v7-Qwen2-7B; в карточке указан базовый Qwen2-7B и метод model_stock. Модель предназначена для генерации текста и диалогового взаимодействия. FocusMix рассчитана на выполнение инструкций, ответы на вопросы, рассуждения и решение задач по широкому кругу тем. Репозиторий использует Transformers и формат safetensors; заявленная длина контекста — 131 072 токена. README не приводит результатов сравнительных испытаний, поэтому заявления об улучшении точности и рассуждений следует считать описанием авторов, а не подтверждённой оценкой качества. Лицензия в предоставленных данных не указана.

Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GPTQ-int4 — квантизированная версия модели Jackrong/Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled, основанная на Qwen3.5-35B-A3B. Модель предназначена для генерации текста, задач рассуждения и мультимодального понимания изображений с текстом. Указанные языки — английский и китайский. Это MoE-модель с 35 млрд общих параметров, из которых около 3 млрд активируются для каждого токена; используется 256 экспертов, 8 из которых активны одновременно. Квантование выполнено методом GPTQ в формате INT4 W4A16 с размером группы 128. Vision encoder и MTP-модуль сохранены без квантизации, поэтому модель поддерживает анализ изображений, хотя исходное дообучение было сосредоточено на текстовых задачах рассуждения. Для запуска в INT4 требуется примерно 22 ГБ видеопамяти; в примере конфигурации указан контекст до 4096 токенов. Сильные стороны модели — снижение требований к памяти благодаря INT4-квантизации, сохранение мультимодальных возможностей и высокая вычислительная эффективность MoE-архитектуры. Ограничения включают возможную потерю качества из-за квантизации и отсутствие подробных данных о фактических результатах, тренировочном наборе и полном наборе поддерживаемых возможностей. Модель распространяется по лицензии Apache 2.0.

tinyopsec/Qwen3.5-4B-Unredacted-MAX-GGUF — набор GGUF-квантизованных версий языковой модели prithivMLmods/Qwen3.5-4B-Unredacted-MAX, созданной на базе Qwen/Qwen3.5-4B. Модель предназначена для генерации текста, выполнения инструкций, решения задач, многошагового рассуждения, исследовательских экспериментов и локального запуска на совместимом оборудовании. Указанный разработчик базовой дообученной модели — prithivMLmods, а данный репозиторий содержит общественные квантизации. Модель имеет около 4,5 млрд параметров, архитектуру Qwen2 с 28 слоями и 28 головами внимания, контекст до 32 768 токенов и словарь размером 151 936 токенов. В README указан английский язык. Доступны варианты с точностью от 16 до 2 бит и размером примерно от 8,4 до 1,1 ГБ, что позволяет выбирать между качеством, требованиями к видеопамяти и компактностью. Поддерживаются сценарии локального инференса через llama.cpp, llama-cpp-python, LM Studio и Ollama. Сильными сторонами являются сравнительно небольшой размер, гибкий выбор уровня квантизации, совместимость с форматом GGUF и пригодность для запуска на видеокартах среднего класса, ноутбуках и CPU. Ограничения включают компромисс между качеством и степенью сжатия, а также отсутствие в README подробных результатов бенчмарков, данных о мультимодальности и поддерживаемых языках помимо указанного английского. Лицензия — Apache 2.0.

Qwen3.5-9B Triple-Loop Phase 1 Step 2100 — экспериментальная дообученная языковая модель Lordnyx на основе Qwen/Qwen3.5-9B. Она предназначена для диалоговой генерации текста, рассуждений, решения математических задач, программирования и логических задач. Модель использует гибридную архитектуру Gated-DeltaNet и полного внимания; средние 16 слоёв трижды выполняются с общими весами, что даёт заявленную виртуальную глубину в 64 слоя при обычном объёме параметров. Обучение включало дистилляцию по логитам учителя Qwen/Qwen3.8-27B и глубокий надзор. В карточке заявлены контекст до 262 144 токенов и 7,2 млрд параметров по метаданным. Доступны веса Safetensors и GGUF, включая квантованный вариант Q5_K_M; указаны Apache-2.0. Автор сообщает о результатах на собственном наборе из 97 задач, включая 100% на математической подвыборке из 10 заданий, но эти результаты не гарантируют качество на других данных. Модель обозначена как экспериментальная ранняя фаза обучения; заявлена совместимость со стандартными средствами запуска Qwen3.5.

Avesed/Qwen3.6-27B-INT8-W8A8 — квантованная версия базовой модели Qwen/Qwen3.6-27B, разработанной командой Qwen и подготовленной Avesed. Это плотная гибридная модель с архитектурой, объединяющей линейное внимание GatedDeltaNet и периодическое полноформатное внимание. Модель имеет vision tower и MTP head, однако в карточке указаны языки English и Chinese, а назначение обозначено как text-generation. Модель предназначена для генерации текста и задач, поддерживаемых базовой Qwen3.6-27B, включая сценарии, где важны рассуждения и работа с длинными последовательностями; точный размер контекста в README не указан. Ключевая особенность — INT8-квантизация по схеме W8A8: веса квантуются в симметричный INT8 по каналам, а активации — динамически по токенам. Большинство MLP-слоёв, полное внимание и выходная проекция GatedDeltaNet квантуются, тогда как чувствительные к качеству компоненты сохраняются в формате bf16. По заявлению автора, INT8 W8A8 обеспечивает почти отсутствие потерь качества и уменьшает требования к памяти по сравнению с полноразмерной моделью. Для запуска рекомендуется vLLM с INT8 W8A8 CUTLASS path и tensor parallelism; указана совместимость с GPU Ampere sm_80 и sm_86. Ограничения включают зависимость от подходящего программного стека и оборудования, а также отсутствие в README точных данных о контексте, производительности и качестве на конкретных наборах задач. Модель распространяется по лицензии Apache-2.0.

TheDrainFlorist/Qwen3.6-35B-A3B-VQ-4.6bpw — векторно-квантизированная версия модели Qwen3.6-35B-A3B от Qwen, адаптированная для Apple Silicon и экосистемы MLX. Модель предназначена для генерации текста и работы с изображениями; текстовый режим поддерживается через mlx-lm, а мультимодальный — через mlx-vlm. В метаданных указан английский язык. Архитектура включает MoE с 35 млрд параметров и 256 экспертами; точный размер контекста в README не указан. Размер сборки составляет около 18,7 GiB вместе с vision tower, поэтому она рассчитана на запуск на Mac с 32 ГБ памяти. По приведённым измерениям, на корпусах WikiText и кода перплексия близка к исходной версии bf16: 0,991x и 1,004x соответственно, при этом сборка значительно компактнее bf16 и показывает лучшие результаты, чем распространённая 4-битная версия. К ограничениям относятся зависимость от поддержки ключа model_file в загрузчике и необходимость mlx-vlm версии не ниже 0.6.16 для изображений; качество и показатели могут зависеть от корпуса и конкретного сценария. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется использовать актуальные версии mlx-lm и mlx-vlm; README также указывает совместимость с exo. Это квантизированная сборка, поэтому показатели совпадения токенов с bf16 ниже, чем у 8-битной версии, несмотря на близкую перплексию.

Qwen3.8-27B-Continuum — экспериментальная мультимодальная модель на архитектуре Qwen3.5, созданная независимой лабораторией NightmediaAI. Это слияние моделей nightmedia/Qwen3.8-27B-Brainwaves и migtissera/Synthia-4-27B; метаданные также связывают её с несколькими другими слитыми моделями. Репозиторий содержит веса Safetensors и предназначен для диалогов и следования инструкциям с поддержкой изображений. Модель подходит для общения, анализа изображений, рассуждений, математики, программирования и творческого письма, включая продолжение сцен и создание историй. В карточке приведены оценки на ряде бенчмарков и показатели скорости, памяти и перплексии для нескольких вариантов квантования, однако сам репозиторий указан в формате Safetensors. Поддерживаемые языки по метаданным: английский, китайский, японский и испанский. Лицензия — Apache-2.0.

DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, созданная DavidAU и его командой с использованием Unsloth, методов Cold Fusion и Fable Fusion. Модель распространяется в формате GGUF с обычными и MTP-квантами, включая варианты с точностью 4 и 8 бит. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, сторителлинга и ролевых сценариев. По заявлению автора, её настройка направлена на сокращение объёма рассуждений и ускорение генерации при сохранении детализации и качества ответов. В метаданных указаны английский и китайский языки, а также тег image-text-to-text, однако конкретные возможности обработки изображений в README не описаны. Размер контекста и точная архитектура также не указаны. К сильным сторонам относятся заявленные улучшения решения задач, генерации кода и художественного текста, поддержка нескольких режимов рассуждений, снижение избыточного расхода токенов и варианты для запуска на потребительском оборудовании. Автор сообщает о превосходстве базовой Qwen3.8 27B в ряде внутренних или указанных в README тестов, но независимая проверка этих утверждений не приведена. Ограничения включают возможные потери качества при использовании низкобитных квантов, а также отсутствие подробных сведений о контекстном окне, требованиях к ресурсам и фактической мультимодальной поддержке. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-fcf-GGUF — открытая многоэтапная fine-tune-модель на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, опубликованная в формате GGUF. В README указаны разработчик базовой модели и участники обучения DavidAU и его команда; для обучения применялись Unsloth, методы COLD FUSION и Fable Fusion 711, а также наборы данных DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Репозиторий содержит обычные и MTP-квантизации, включая варианты для 4- и 8-битного запуска на потребительском оборудовании. Модель предназначена для широкого спектра задач: рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других текстовых применений. Заявленная особенность TURBO-версии — сокращение объёма внутреннего рассуждения по сравнению с обычной Qwen3.8 при сохранении детализации и качества ответов, что должно повышать скорость генерации и снижать расход токенов. В метаданных указаны английский и китайский языки; контекстное окно и точный набор поддерживаемых модальностей в README не описаны, хотя pipeline_tag указывает image-text-to-text. Ключевые характеристики — около 27 млрд параметров, архитектура на базе Qwen3.8, поддержка трёх режимов рассуждения согласно описанию автора, а также обычных и MTP GGUF-квантов. README заявляет высокие результаты на ARC-C и ARC-E и превосходство базовых моделей по нескольким бенчмаркам, однако эти утверждения не подтверждены независимыми данными в предоставленном тексте. Модель обозначена как uncensored, поэтому её ответы могут быть менее ограниченными с точки зрения защитных фильтров; конкретные требования к оборудованию и контексту запуска не приведены. Указанная лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-INT8-AutoRound — квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, опубликованная пользователем berkerdooo. Она предназначена для запуска и обслуживания языковой или мультимодальной модели Qwen3.8 в условиях ограниченных ресурсов с использованием INT8-квантования весов. В карточке указана multimodal-конфигурация image-text-to-text, а также наличие vision tower, однако поддерживаемые языки и полный перечень мультимодальных возможностей не описаны. Модель имеет размер 27B параметров и использует смешанную точность W8A16: 263 линейных слоя, включая основные проекции self-attention и MLP, хранятся в симметричном INT8 с group size 128, а 354 линейных слоя, включая linear attention, эмбеддинги, выходную голову, нормализационные слои и vision tower, работают в BF16. Квантование выполнено с помощью AutoRound методом SignRound после калибровки на текстах и исходном коде. В README упоминается архитектура с 16 слоями full attention и 48 слоями linear attention/GDN. Для обслуживания проверена связка vLLM с GPTQ-Marlin и поддерживается MTP speculative decoding; в тестовой конфигурации указан максимальный контекст до 262144 токенов. Сильной стороной является небольшая потеря относительно BF16-источника: на указанном тесте согласие top-1 составило примерно 97,2–97,7%, а разница NLL была +0,0022. Ограничения включают зависимость от совместимого стека vLLM и аппаратного обеспечения, а также отсутствие в README результатов прикладных бенчмарков, точного описания языковой поддержки и детальной оценки качества vision-возможностей. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-119B-A5B-Niwaki-v2.4-3bit-gguf — GGUF-версия модели Mixture-of-Experts, подготовленная проектом Niwaki на основе Qwen3.8-Flash-Next-119B-A5B-Niwaki-v2.4-3bit-mlx. Модель уменьшена структурной обрезкой до 119 млрд параметров всего, из которых активно около 5,6 млрд; в 48 слоях используются маршрутизируемые эксперты. GGUF-сборки квантованы с учётом структуры модели и предназначены для запуска через форк llama.cpp на CUDA, Vulkan, Metal или CPU. Модель предназначена для диалоговой генерации текста, в том числе задач с отслеживанием переменных, простыми вычислениями в несколько шагов и поиском связей по нескольким фактам. По данным карточки, тесты на отслеживание состояния программы близки к результатам MLX-версии, а текст получается связным и по теме. Для коротких ответов рекомендуется отключать режим thinking. Работа с файлами требует форка neopolita-llama.cpp: стандартный llama.cpp пока не поддерживает используемую раскладку GGUF. В README указана лицензия базовой модели, но конкретные условия для этой сборки в предоставленных данных не раскрыты.