I.14Автоматизация процессов и AI-агенты

onnx-community/LFM2.5-350M-ONNX — ONNX Runtime-версия универсальной текстовой модели LFM2.5-350M, разработанной Liquid AI. Модель предназначена для кроссплатформенного развёртывания и аппаратно ускоренного вывода в облачных, периферийных и мобильных средах, включая локальные устройства с ограниченными ресурсами. Рекомендуемые сценарии — извлечение данных, структурированный вывод и использование инструментов с поддержкой function calling. Модель текстовая, содержит 350 млн параметров и имеет контекст до 32 768 токенов. Архитектура включает 16 слоёв: 10 блоков double-gated LIV convolution и 6 блоков GQA; размер словаря — 65 536 токенов. Она обучалась на 28 трлн токенов, поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Заявлена работа менее чем с 1 ГБ памяти, а ONNX-формат облегчает переносимость между различными аппаратными платформами. Сильными сторонами являются малый размер, высокая скорость edge-инференса и удобство интеграции в разнообразные среды выполнения. Модель не рекомендуется для задач, требующих глубоких знаний, и программирования; дата отсечения знаний — середина 2024 года. Указана лицензия lfm1.0; дополнительные условия следует проверять в файле лицензии репозитория.

nlpguy/Lion-Lamarck-v.1.1.0 — объединённая с помощью mergekit модель на базе семейства Qwen2.5. В слиянии использован SCE, а CultriX/Qwen2.5-14B-Wernicke указан как базовая модель; также объединены SuperNova-Medius, Qwen2.5-14B-Vimarckoso-v3, DeepSeek-R1-Distill-Qwen-14B и Lamarck-14B-v0.7. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen2ForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. В карточке не приведены сведения о целевых языках, тестировании качества или рекомендуемых сценариях. Лицензия в предоставленных данных не указана.

Lite-Whisper large-v3-turbo — сжатая версия мультиязычной модели OpenAI Whisper, разработанная с использованием LiteASR. Модель предназначена для автоматического распознавания речи и преобразования аудио в текст. По метаданным, она основана на openai/whisper-large-v3-turbo, содержит 905,2 млн параметров и использует архитектуру LiteWhisperForConditionalGeneration; опубликована в формате safetensors и работает через Transformers. В карточке приведены результаты оценки на наборах ESB: варианты Lite-Whisper показывают средний WER 10,1–10,2. Метаданные указывают лицензию Apache-2.0. Поддерживаемые языки и длина контекста в предоставленных источниках не перечислены.

llama-3.1-70B-lumitron-lorablated — слитая модель генерации текста на архитектуре Llama, созданная nonetrix с помощью mergekit. В объединении использованы nonetrix/llama-3.1-70B-lumitron и mlabonne/Llama-3-70B-Instruct-abliterated-LORA; применён метод task arithmetic. Модель содержит 69,5 млрд параметров, работает с библиотекой Transformers и сохранена в формате safetensors. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. Заявленная длина контекста — до 131 072 токенов; в метаданных также отмечен интерфейс tool calling. Карточка не описывает результаты оценки качества и не приводит сведения о лицензии, поэтому эти свойства нельзя подтвердить по доступным данным.

mlx-community/Llama-3.1-8B-Instruct — преобразованная в формат MLX версия инструкционной языковой модели Meta Llama 3.1 8B Instruct, подготовленная сообществом mlx-community. Это плотная авторегрессионная модель класса LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалогов, генерации текста и вызова инструментов через соответствующий интерфейс. Её можно использовать в приложениях на Apple Silicon с библиотекой MLX и mlx-lm; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Формат файлов в репозитории — safetensors. Модель основана на meta-llama/Llama-3.1-8B-Instruct и распространяется по лицензии Llama 3.1. Производительность и пригодность для конкретного сценария зависят от аппаратной конфигурации и способа использования; поддержка русского языка в предоставленных сведениях не заявлена.

Карточка модели naturalseeker/Llama3.1_8I_ARC_RP на Hugging Face совпадает с карточкой naturalseeker/Llama3.1_8I_ARC, поэтому описание составлено по ней. naturalseeker/Llama3.1_8I_ARC — дообученная naturalseeker диалоговая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана на основе unsloth/Meta-Llama-3.1-8B-Instruct и обучалась с использованием Unsloth и Hugging Face TRL. Модель предназначена для диалогов и генерации текста; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или отдельные возможности дообучения, поэтому качество для конкретных задач следует оценивать на подходящих примерах.

LLaMa-3.1-Zeroed-70-30-13B — объединённая модель семейства Llama, созданная сообществом mergekit-community с помощью mergekit. В линейном слиянии объединены LLaMa-3.1-Zeroed-13B с весом 0,7 и LLaMa-3.1-Instruct-Zeroed-13B с весом 0,3. Модель содержит 12,5 млрд параметров, работает через Transformers и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов по запросам и инструкциям. Она принимает текст и поддерживает контекст до 131 072 токенов; метаданные также указывают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области применения или языки. Лицензия в предоставленных данных не указана. Практическое качество, ограничения по языкам и надёжность вызова инструментов README не характеризует.

KKHYA/llavaqwen2.5-32b-finetune-nm-mask-moe-4e-2k-2of4-imp-2m-half_20260822_074702 — языковая модель на архитектуре NMMaskMoELLaVAQwen2ForCausalLM с 32 млрд параметров. В карточке указаны библиотека Transformers и форматы PyTorch и safetensors; метаданные также обозначают поддержку диалогового режима и интерфейса вызова инструментов. Модель предназначена для генерации текста и диалогового взаимодействия. Длина контекста составляет 131 072 токена. README сообщает, что модель обучена с нуля, но не содержит сведений о датасете, назначении обучения или оценке качества. Лицензия в предоставленных данных не указана.

Minico-M1 Preview — компактная языковая модель, разработанная Mincofficial и дообученная на базе LiquidAI/LFM2.5-350M на наборе QyrouNnet-AI/exp-reasoning-effort-control. Она предназначена для генерации текста в диалогах и задач рассуждения; шаблон чата поддерживает видимые блоки рассуждений и уровни усилий low, medium, high и max. Модель построена на плотной архитектуре LFM2 и содержит 343,9 млн параметров, поддерживает контекст до 128 000 токенов и интерфейс вызова инструментов. Это предварительный выпуск для ознакомления и совместимости. В репозитории safetensors-файл является экспортом в float16, полученным деквантованием исходного файла GGUF Q8_0, поэтому его веса приближённые и не соответствуют исходному полноточному чекпойнту обучения. Применяется лицензия базовой модели LiquidAI/LFM2.5-350M.

Это 8-битная квантизированная версия Mistral-Nemo-Instruct-2407, опубликованная пользователем noneUsername. Она предназначена для генерации текста и диалогового использования; метаданные указывают на плотную архитектуру MistralForCausalLM, а карточка сообщает о калибровке методом vLLM с 2048 образцами, максимальной длиной последовательности 8192 токена и smoothing_strength 0,8. В метаданных модели указаны 12,1 млрд параметров и контекст до 1 024 000 токенов. Автор приводит результаты ограниченных оценок GSM8K и HellaSwag: на GSM8K квантизированная версия показала немного более низкий результат, чем исходная модель, а на HellaSwag приведена оценка accuracy 0,58 и нормализованная accuracy 0,7533. Автор отмечает, что это первая версия квантизации и рекомендует более позднюю версию с улучшением. Модель может применяться для диалогов, генерации ответов и решения текстовых задач; предусмотрен интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

A1rboy/model — дообученная языковая модель, разработанная A1rboy на базе unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения применялись Unsloth и библиотека Hugging Face TRL. Карточка указывает английский язык. Модель принимает текст и генерирует текст. Она распространяется по лицензии Apache-2.0. Карточка не описывает специализированную область применения или отдельные ограничения качества.

Y-J-Ju/ModernBERT-base-ColBERT — англоязычная модель поиска и ранжирования документов, созданная с помощью PyLate дообучением answerdotai/ModernBERT-base. Она кодирует запросы и документы в последовательности плотных 128-мерных векторов и сопоставляет их оператором MaxSim; в README указана архитектура ColBERT с ModernBERT и линейным слоем проекции с 768 до 128 измерений. Модель рассчитана на документы длиной до 180 токенов и запросы до 32 токенов; контекст базовой архитектуры — 8192 токена. Её можно применять для семантического поиска по коллекции документов и для повторного ранжирования кандидатов, полученных на первом этапе поиска. Обучение описано как дистилляция на данных для поиска; метаданные указывают датасет lightonai/ms-marco-en-bge и 808 728 примеров. В README приведены результаты nDCG@10 на нескольких наборах оценки, но они не гарантируют аналогичного качества на других данных. Модель использует библиотеку PyLate и опубликована в формате safetensors; лицензия в предоставленных сведениях не указана.

robro612/ModernBERT-XTR — модель PyLate для поиска и ранжирования текстов на основе архитектуры ColBERT с трансформером ModernBERT. Она обучена методом дистилляции на lightonai/ms-marco-en-bge-gemma и дополнительно контрастивно обучена на bclavie/msmarco-10m-triplets; в метаданных указано 149 млн параметров. Модель преобразует запросы и документы в последовательности плотных 128-мерных векторов и сопоставляет их оператором MaxSim. Подходит для семантического поиска по коллекции документов и для переранжирования результатов первичного поиска. README указывает ограничения длины в 32 токена для запроса и 512 токенов для документа; метаданные указывают контекст до 8192 токенов. Для запуска и построения индекса предназначена библиотека PyLate, а для эффективного поиска README описывает индекс FastPLAID. Модель рассчитана на английский язык. В карточке приведены оценки на наборах Nano BEIR и задачах PyLate Information Retrieval. Лицензия в предоставленных данных не указана.

mjwong/multilingual-e5-large-xnli-anli — многоязычная модель классификации текста, созданная дообучением intfloat/multilingual-e5-large на наборах XNLI и ANLI. Она основана на архитектуре XLM-RoBERTa-large, содержит 658,7 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для классификации без заранее заданного набора классов: можно передать текст и собственные варианты меток, а также применять её для задач вывода по текстовым парам. Поддерживаются 15 языков: английский, арабский, болгарский, немецкий, греческий, испанский, французский, хинди, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. В README приведены результаты оценки на XNLI, MultiNLI и ANLI. Модель доступна в форматах PyTorch и Safetensors. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Качество зависит от выбранных формулировок меток и языка; результаты на тестах ANLI и XNLI различаются между языками и наборами.

Muse-Glimmer-30B-Abliterated-GGUF — экспериментальная версия 30-миллиардной агентной on-device-модели Muse Glimmer, разработанная Blackfrost на базе meta-models/Muse-Glimmer-30B от Meta. Модель распространяется в формате GGUF для локального запуска через llama.cpp на одной потребительской видеокарте или CPU, полностью офлайн. Вариант abliterated получен изменением весов, направленным на удаление отказов модели; заявленные тесты на 450 запросах показали отсутствие истинных отказов, однако эти результаты относятся к родительской модели и могут не отражать все сценарии использования. Архитектура muse_glimmer включает 52 слоя, скрытое пространство размером 6656, GQA с 32 query- и 2 key/value-головами, sliding-window attention и vision tower. Поддерживаются текстовые и визуальные входы, при этом для обработки изображений требуется отдельный mmproj-проектор. Контекстное окно составляет 131 072 токена. Доступны квантизации от Q2_K до Q8_0 размером примерно от 10 до 27,6 ГБ; рекомендуемым балансом качества и размера назван Q4_K_M. Для ускорения генерации предусмотрен DFlash drafter со speculative decoding в llama-server. Модель предназначена для локальных агентных, мультимодальных, кодовых и общих диалоговых сценариев, включая работу в условиях ограниченного или отсутствующего сетевого доступа. К сильным сторонам относятся большое контекстное окно, локальная работа, широкий выбор квантизаций и поддержка спекулятивного декодирования. Ограничения включают экспериментальный статус, необходимость совместимой свежей версии llama.cpp, значительные требования к памяти, а также потенциальные риски и непредсказуемость поведения из-за удаления защитных отказов. Базовая модель и производная распространяются по лицензии Apache-2.0.

Модель djagatiya/ner-bert-base-cased-ontonotesv5-englishv4 — модель распознавания именованных сущностей на основе BERT, разработанная автором репозитория и дообученная на датасете conll2012_ontonotesv5, версия english-v4. Она предназначена для разметки текста по токенам и извлечения сущностей в англоязычных текстах. Модель содержит 135,5 млн параметров, использует архитектуру BertForTokenClassification и принимает последовательности длиной до 512 токенов. В опубликованной оценке указаны precision 87,85, recall 89,63 и F1 88,73. Доступны веса PyTorch и Safetensors; сведения о лицензии в предоставленных данных отсутствуют.

flair/ner-german — стандартная модель распознавания именованных сущностей для немецкого языка, поставляемая вместе с библиотекой Flair. Она основана на эмбеддингах Flair и архитектуре LSTM-CRF и обучена для четырёх классов NER на наборе CoNLL-2003 German revised. Модель размечает в тексте имена людей, названия мест и организаций; показатель F1 на указанном наборе составляет 87,94. Модель предназначена для извлечения сущностей из немецкоязычных текстов, например для обогащения документов и подготовки данных к поиску или аналитике. Для использования требуется библиотека Flair. Репозиторий содержит веса PyTorch; сведения о лицензии в доступных данных не приведены.

tesemnikov-av/NER-RUBERT-Per-Loc-Org — русскоязычная модель распознавания именованных сущностей, созданная дообучением cointegrated/rubert-tiny. Она размечает токены в тексте тремя классами: PER для персон, LOC для мест и ORG для организаций. Модель предназначена для извлечения таких сущностей из предложений и документов на русском языке. Модель построена на архитектуре BERT и содержит 12,1 млн параметров. Максимальная длина контекста — 512 токенов; формат весов — PyTorch. Для дообучения использовались предложения из Википедии, автоматически размеченные тегами PER, LOC и ORG на основе corus/WiNER. Лицензия — MIT.

OpenThinker2-32B — языковая модель с 32 млрд параметров, разработанная командой Open Thoughts и дообученная на Qwen/Qwen2.5-32B-Instruct с использованием набора OpenThoughts2-1M. Это плотная модель семейства Qwen2 для генерации текста в диалоговом формате; она рассчитана прежде всего на задачи рассуждения, особенно по математике и программированию. В оценках Evalchemy, приведённых в карточке, модель показывает результаты на задачах AIME24, AIME25, AMC23, MATH500, GPQA-D и LCBv2. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и поставляется в формате Safetensors для Transformers. Метаданные также указывают интерфейс вызова инструментов. Основной язык явно не обозначен; из карточки нельзя установить полный перечень поддерживаемых языков. Модель распространяется по лицензии Apache 2.0. Оценки в карточке получены с помощью Evalchemy и не гарантируют аналогичного качества на иных задачах.

Qwen3-1.7B compression L+0 final — дообученная языковая модель на архитектуре Qwen3ForCausalLM, опубликованная hi-todayis-jh. Это стандартный чекпойнт BF16 в формате Hugging Face Safetensors, экспортированный с шага обучения 100; в репозитории также находятся конфигурация, токенизатор и шаблон диалога с режимом рассуждений. Модель содержит 1,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации текста и диалогов. README указывает на наличие оценок с режимом рассуждений; метаданные также отмечают интерфейс вызова инструментов. Её можно загружать через Transformers или vLLM. Базовая модель — Qwen/Qwen3-1.7B. Сведения о лицензии и конкретных ограничениях применения в предоставленных данных отсутствуют.

google/pix2struct-ocrvqa-large — крупная модель семейства Pix2Struct от Google для ответов на вопросы по изображениям. Это архитектура «визуальный энкодер — текстовый декодер», обученная на парах изображение–текст и настроенная для задачи visual question answering. Модель принимает изображение и вопрос на естественном языке и генерирует текстовый ответ. Предварительное обучение Pix2Struct использует восстановление упрощённого HTML по скриншотам веб-страниц с замаскированными фрагментами. Такой подход охватывает визуальное понимание текста и элементов страниц и подходит для вопросов о содержимом изображений, включая документы, иллюстрации, интерфейсы и фотографии. В карточке модели указаны английский, французский, румынский и немецкий языки; README описывает семейство шире, но не уточняет языковую поддержку именно этого чекпойнта. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. Для запуска нужны изображение и вопрос; конкретные требования к памяти и качество на отдельных языках или типах изображений в карточке не описаны.

INTELLECT-3-GGUF — набор квантизированных версий языковой модели INTELLECT-3, разработанной Prime Intellect. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, задач рассуждения, агентских сценариев и применений, связанных с reinforcement learning и verifiers; запуск возможен через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В репозитории представлены файлы в формате GGUF с уровнями квантизации от Q8_0 до вариантов Q2 и IQ. Размеры файлов составляют примерно от 44,71 до 113,61 ГБ. Более высокие уровни, включая Q6_K, Q5_K_M и Q5_K_S, обеспечивают близкое к исходному качество, тогда как низкие уровни экономят память за счёт качества. README также отмечает архитектурную принадлежность к mixture-of-experts и поддержку английского языка, однако точные размеры модели, параметры контекста и полный набор модальностей не указаны. Модель ориентирована на локальный запуск и предлагает выбор между качеством, требованиями к памяти и скоростью инференса. Ограничениями являются значительный объём файлов даже для компактных вариантов и потенциальное снижение качества при использовании низких уровней квантизации. Распространение выполняется по лицензии MIT; базовая модель указана как PrimeIntellect/INTELLECT-3.

Qwen-2.5-7b-TitanFusion-v4 — объединённая языковая модель, созданная bunnycore с помощью mergekit и метода TIES на базе Qwen/Qwen2.5-7B. В объединение вошли TitanFusion-v3, rp-lora, Arch-Function-7B, Humanish-Qwen2.5-7B-Instruct и mergekit-ties-uqhfast. Модель построена на плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — до 131 072 токенов. Репозиторий содержит веса в формате safetensors; метаданные указывают интерфейс для вызова инструментов. Модель подходит для диалоговых сценариев и генерации текста, а объединение с Arch-Function-7B предполагает поддержку сценариев с вызовом инструментов. Карточка не приводит результатов оценки качества или подробностей о языковом покрытии. Лицензия в предоставленных данных не указана.

TeichAI дообучила плотную языковую модель Qwen3-4B-Thinking-2507 на наборе TeichAI/gpt-5.1-codex-max-1000x. Модель содержит 3,7 млрд параметров и предназначена для генерации текста в диалогах и решения задач с рассуждением; каталог также отмечает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык, а её контекст составляет до 262 144 токенов. В карточке указаны обучение с помощью Unsloth и библиотеки Hugging Face TRL, а также лицензия Apache-2.0. Подробных оценок качества и ограничений в карточке нет.

Qwen3.5-0.8B-Claude-Opus-Distill-Heretic-UNCENSORED — компактная текстовая модель Ghost (ghost-actual), созданная дообучением Qwen/Qwen3.5-0.8B с дистилляцией рассуждений Claude Opus и последующим снижением частоты отказов методом abliteration с помощью Heretic. Она предназначена для диалогов, генерации структурированных ответов и кода, а также для работы на устройствах с ограниченными ресурсами. В метаданных указаны 581,4 млн параметров, архитектура Qwen3.5 для причинной генерации текста, поддержка чата и контекст до 262 144 токенов; README также заявляет нативную поддержку изображений и анализа видео, однако метаданные относят модель к текстовой генерации. Карточка приводит результаты тестов отказов 2 из 100 и KL-дивергенцию 0,0100, а также заявляет производительность на OCRBench 74,5. Эти показатели приведены автором модели и не являются независимой оценкой. Формат репозитория — safetensors; автор заявляет возможность запуска в BF16 примерно на 1,5 ГБ памяти и приводит настройки генерации. Лицензия в предоставленных данных не указана. Снижение числа отказов означает, что модель может отвечать на запросы, которые модели с более строгими ограничениями отклонили бы; ответы следует проверять, особенно при использовании в чувствительных сценариях.

TeichAI/Qwen3.8-27B-Fable-Distill-GGUF — это набор квантованных версий мультимодальной модели Qwen3.8-27B-Fable-Distill, разработанной TeichAI на базе Qwen3.8-27B. Модель дообучалась с использованием Unsloth и библиотеки Hugging Face TRL на открытых чатах и агентских трассах Fable 5, а также на существенно большем закрытом наборе персональных данных Fable 5. GGUF-конверсии выполнены с помощью llama.cpp. Модель предназначена для генерации текста, диалогов, агентских сценариев и анализа изображений с выдачей текстового ответа. Поддерживается английский язык. Архитектура включает 65 блоков: 64 трансформерных слоя и один слой multi-token prediction (MTP); MTP-head во всех вариантах сохраняется в формате BF16. Для работы с изображениями требуется отдельный vision projector mmproj в форматах F32, BF16 или F16; без него модель работает только с текстом. Доступны варианты квантования от 2 до 16 бит, размер файлов составляет примерно от 11 до 55 ГБ. Для большинства пользователей рекомендуется Q4_K_M размером около 17 ГБ. К сильным сторонам относятся мультимодальность, поддержка режима рассуждений с параметрами reasoning_effort и несколько вариантов квантования для разного баланса качества и требований к памяти. В README приведены улучшенные результаты относительно базовой Qwen3.8-27B на ARC Challenge, ARC Challenge (Easy) и BoolQ. Ограничения включают высокие требования к ресурсам, зависимость визуального режима от отдельного projector-файла и заметную потерю качества у низкобитных вариантов, особенно Q2_K. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-ROCmFP4-STRIX-MTP-GGUF — квантизированная GGUF-версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, рассуждений, работы с инструментами и мультимодальных сценариев с визуальным вводом, прежде всего на системах AMD Ryzen AI Max+ 395 со встроенной графикой Radeon 8060S (gfx1151, Strix Halo). README не указывает разработчика базовой модели отдельно от идентификатора Qwen/Qwen3.8-27B. Используется формат ROCmFP4 с тремя вариантами квантизации и размером файлов 13,33–13,75 GiB; эффективная точность составляет 4,25–4,39 бит на вес. В комплект включена MTP-голова для speculative decoding. Контекст проверен до 65 536 токенов. Для варианта STRIX заявлены скорость декодирования до 30,30 токена/с при настроенном MTP, perplexity 5,8877 на отложенной выборке wikitext-2, успешные тесты зрения 4/4 и tool calling 7/7, включая режим reasoning. Языки README не перечисляет. Сильные стороны модели — высокая скорость на поддерживаемом оборудовании AMD, небольшие требования к дисковому пространству, сопоставимая с Q4_K_M perplexity и опубликованная настройка глубины MTP. Ограничения включают зависимость от AMD Strix Halo и специализированной сборки llama.cpp с поддержкой ROCmFP4; стандартная сборка llama.cpp эти типы тензоров не принимает. Приведённые показатели относятся к конкретной конфигурации и могут не воспроизводиться на другом оборудовании. Модель распространяется по лицензии Apache-2.0.

bowmanslayer/Qwen3.8-27B-Uncensored-W4A16-vision-mtp — квантованная версия мультимодальной модели Qwen3.8-27B-Uncensored, разработанная bowmanslayer на базе Qwen/Qwen3.8-27B. Исходная модель была адаптирована JonathanColetti с помощью abliteration через Heretic, а в этом репозитории выполнены 4-битное квантование W4A16 и перепаковка vision tower. Модель предназначена для генерации текста, рассуждений и обработки изображений, а также может использовать видеовход через vLLM. Заявлены языки English и Chinese. Текстовая часть использует квантование с group size 128, формат GPTQ/AutoRound и kernels Marlin; vision tower сохранён в формате bf16. Размер модели составляет около 19 ГБ, включая MTP head объёмом 849 МБ. Поддерживается контекст до 256K токенов. Разработчик проверил запуск на двух NVIDIA RTX 3090 с tensor parallelism; для инференса рекомендован vLLM. Доступны reasoning и tool calling через соответствующие парсеры vLLM, а MTP head предназначен для экспериментов со speculative decoding. Сильными сторонами являются сочетание мультимодальности, большого контекстного окна и существенной экономии памяти благодаря W4A16-квантованию, при сохранении vision tower в bf16. Ограничения включают зависимость от совместимого окружения vLLM и необходимости корректно задавать параметры обработки изображений; квантование может влиять на качество относительно исходной модели. Оценки в README приведены при включённом режиме thinking и не должны напрямую сравниваться с результатами, полученными при отключённом reasoning. Лицензия — Apache 2.0.

valiolla/Qwen3.8-4B-Distill-heretic — версия Qwen3.8-4B с ослабленным отказом от ответов, созданная на основе модели Empero AI с помощью Heretic v1.4.0. Это плотная языковая модель с 4 млрд параметров в формате Transformers; она представляет собой полнопараметрическое дообучение Qwen/Qwen3.5-4B методом дистилляции на выборке ответов более крупной модели Qwen3.8. Модель рассчитана на диалог, следование инструкциям, рассуждения и вызов функций; в README отдельно выделены математика и общие рассуждения. Заявленная длина контекста — 262 144 токена. В сравнении с исходной Qwen3.8-4B доля отказов в приведённом тесте снизилась с 99 до 24 из 100, а KL-дивергенция составила 0,0109. Тонкая настройка ориентирована на текст; поведение с изображениями унаследовано от мультимодальной базовой архитектуры, но не оценивалось. Для запуска требуются актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимые ядра Gated DeltaNet; без них генерация может быть медленнее и требовать больше памяти. В README также отмечены риск циклов повторения при жадном декодировании длинных ответов и снижение результата на GSM8K относительно базовой модели. Лицензия — Apache-2.0; авторы предоставляют веса «как есть» для исследований и экспериментов.

Sonclo/Qwen3.8-sonclo — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана для широкого спектра задач: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. В README также заявлена специализация на снижении избыточного рассуждения и расхода токенов при сохранении подробности ответов. Модель относится к семейству Qwen3.8 и имеет 27B параметров. Указаны три режима рассуждения, поддержка английского и китайского языков, а также варианты GGUF-квантизации с обычными и MTP-квантами, включая 4- и 8-битные версии. Обучение описано как multi-stage fine-tune и multi-stage merge с применением методов COLD FUSION, Fable Fusion и Unsloth. Репозиторий помечен как image-text-to-text, однако подробности о фактической поддержке изображений и максимальном размере контекста в README не приведены. К заявленным сильным сторонам относятся высокая скорость генерации, сокращение объёма рассуждений, развитые способности к программированию, решению задач и творческой генерации, а также возможность запуска на потребительском оборудовании благодаря GGUF-квантам. Ограничения включают отсутствие независимого подтверждения заявленных бенчмарков в представленном README, возможные риски и особенности uncensored/abliterated-настройки и неизвестные требования к аппаратным ресурсам для конкретных вариантов. Модель распространяется по лицензии Apache-2.0.