II.1Анализ требований и архитектура ПО

Это набор GGUF-квантизованных версий текстовой генеративной модели OwenArli/Meta-Llama-3-8B-Instruct-Dolfin-v0.1. Квантизацию выполнила организация featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется запуск инструкционной языковой модели в формате GGUF. В основе лежит Meta-Llama-3-8B-Instruct-Dolfin-v0.1; заявленный размер исходной модели — 8 миллиардов параметров. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, обучающих данных и результатах тестирования. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильной стороной набора является широкий выбор квантизаций для локального или иного совместимого запуска GGUF-моделей. Ограничения, связанные с конкретной потерей качества, производительностью и совместимостью вариантов, в README не описаны. Лицензия и условия использования также не указаны; их следует уточнить по базовой модели и репозиторию.

bunsenfeng/parti_17_full — языковая модель для генерации текста, опубликованная пользователем bunsenfeng на Hugging Face. README создан автоматически и не содержит достоверных сведений о разработчике, обучающих данных или происхождении модели. Модель предназначена для сценариев генерации и продолжения текста, а также может использоваться в диалоговых приложениях благодаря тегу conversational. В метаданных указаны библиотека Transformers, семейство Qwen2 и формат safetensors. Размер модели составляет 7,1 млрд параметров, максимальная нативная длина контекста — 32 768 токенов. Документация не содержит результатов оценки, описания архитектуры на уровне конфигурации, поддерживаемых естественных языков, лицензии и рекомендаций по безопасному применению. Поэтому качество, языковой охват и допустимые условия использования следует проверять отдельно перед внедрением.

Sakalti/Phi3.5-Comets-3.8B — языковая модель для генерации текста и диалогов, созданная объединением нескольких чекпойнтов семейства Phi-3.5. Автор использовал метод TIES в mergekit на базе microsoft/Phi-3.5-mini-instruct и объединил её с win10/Phi-3.5-mini-instruct-24-9-29, FreedomIntelligence/Apollo2-3.8B и AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common. Модель имеет плотную архитектуру Phi3ForCausalLM и около 3,7 млрд параметров. Она рассчитана на текстовый ввод и генерацию текста, поддерживает диалоговый режим и работает через Transformers. Нативный контекст составляет 4096 токенов. Компактный размер делает её подходящей для локальных чат-сценариев и генерации текста при ограниченных ресурсах. Репозиторий содержит веса safetensors в формате bfloat16. Лицензия — MIT. Карточка не описывает отдельные результаты оценки качества; фактическая точность и устойчивость ответов могут зависеть от задачи и используемого шаблона диалога.

ChaoticNeutrals/Poppy_Porpoise-v0.4-L3-8B — объединённая разговорная модель семейства Llama, распространяемая в формате Safetensors. По метаданным, в её основе объединение cognitivecomputations/dolphin-2.9-llama3-8b и Nitral-AI/Poppy_Porpoise-v0.3-L3-8B; размер составляет 7,5 млрд параметров, контекст — до 8192 токенов. Модель предназначена для диалоговой генерации текста. README сообщает о восстановленных возможностях обработки изображений: для работы с ними требуется загрузить файл mmproj из репозитория и использовать актуальную версию Koboldcpp. Метаданные при этом указывают text-generation и возможность чата, поэтому поддержку изображений следует считать заявленной в README, но не отражённой в pipeline-теге. Лицензия указана как other, без конкретизации условий в предоставленных данных.

ApolloRaines/Prometheus-Qwen2.5-7B-Instruct — плотная инструктивная языковая модель семейства Qwen2.5 на 7,1 млрд параметров, созданная автором Apollo Raines на базе Qwen/Qwen2.5-7B-Instruct. К весам применили один принятый цикл автономной модификации через инструмент jBlaze без переобучения: модель сама оценила результаты проб, выбрала изменение, проверила модифицированную копию и продвинула её после улучшения оценки. Модель предназначена для диалогов и генерации текста. В сравнении на 28 пробах автор сообщает об улучшении показателя precision с 0,417 до 0,875 и снижении показателя hallucination с 0,306 до 0,139, при этом reasoning снизился с 0,750 до 0,700. Эти результаты относятся к описанному автором бенчмарку и не гарантируют аналогичных улучшений на других задачах. Модель принимает текст и генерирует текст; указана поддержка английского языка и контекст до 32 768 токенов. Распространяется по лицензии Apache-2.0; использованный для модификации jBlaze является проприетарным инструментом.

Q2.5-Veltha-14B-0.5-GGUF — GGUF-квантизированная версия модели Q2.5-Veltha-14B-0.5, созданная на базе djuna/Q2.5-Veltha-14B-0.5 и подготовленная пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и может запускаться через llama.cpp и LM Studio. В README указан специальный шаблон диалога с ролями system, user и assistant. Модель имеет размер 14B параметров; доступны варианты от F16 до Q3_K_XL, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Для наиболее распространённых сценариев рекомендуется Q4_K_M, а варианты Q5 и Q6 обеспечивают более высокое качество при большем потреблении памяти. Точные архитектура, размер контекста, поддерживаемые языки и мультимодальные возможности в README не указаны. По опубликованным результатам Open LLM Leaderboard модель получила 77,96% строгой точности на IFEval, 50,32% на BBH, 33,84% exact match на MATH уровня 5, 15,77% на GPQA, 14,17% на MuSR и 47,72% на MMLU-PRO. Эти показатели характеризуют качество на отдельных тестах, но не гарантируют аналогичную эффективность в прикладных задачах. Информация о лицензии в README отсутствует.

duyntnet/Qwen1.5-7B-Chat-imatrix-GGUF — набор квантованных вариантов модели Qwen1.5-7B-Chat, разработанной командой Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в формате чата и ответы на пользовательские запросы. Она распространяется в формате GGUF с использованием imatrix и рассчитана на запуск через совместимые клиенты и интерфейсы, такие как llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Исходная модель относится к классу авторегрессионных текстовых языковых моделей с размером 7B параметров и поддерживает применение chat template для сообщений с ролями system и user. В README явно указан английский язык; сведения о других языках, длине контекста, точной архитектуре и характеристиках отдельных вариантов квантования не приведены. К преимуществам относятся возможность локального запуска и выбор различных квантованных конфигураций, однако квантование может снижать точность по сравнению с исходной моделью, а требования к ресурсам зависят от конкретного варианта. Лицензия указана как other, без дополнительных условий в представленном README. Модель предназначена для text generation; режим inference в карточке не заявлен как встроенный.

talzoomanzoo/qwen2_5_3b_uid_reference_lr3e6_step4 — дообученная языковая модель на базе Qwen/Qwen2.5-3B, опубликованная пользователем talzoomanzoo. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Контекст модели — до 32 768 токенов. Модель хранится в формате safetensors и использует библиотеку Transformers. Карточка не содержит описания целевых данных или специализированной области применения, поэтому её можно охарактеризовать как общую текстовую модель. Указана лицензия other; конкретные условия использования из доступных данных установить нельзя.

DavidAU/Qwen2.5-MOE-2X1.5B-DeepSeek-Uncensored-Censored-4B-gguf — текстовая генеративная модель в формате GGUF, разработанная DavidAU на основе Qwen 2.5 и компонентов DeepSeek. Она объединяет две модели размером 1,5 млрд параметров — обычную и uncensored-версию — в архитектуре Mixture of Experts с общим экспертом; общий размер составляет немного более 4 млрд параметров. Модель предназначена для генерации текста, рассуждений, решения математических и логических задач, мозгового штурма, написания художественных текстов и сюжетов. Заявлена поддержка английского и китайского языков, контекстное окно — до 128 тысяч токенов. Модель ориентирована на сценарии, где важны reasoning и thinking, а её конфигурация может давать более сильные результаты в рассуждениях, чем исходные модели по отдельности. Для работы требуется корректный Jinja Template, встроенный в GGUF; также могут использоваться DeepSeek Tokenizer и совместимые шаблоны ChatML или Llama 3. Рекомендуется применять квантизации IQ4/Q4 или выше, а для максимального качества — Q6, Q8 или F16. Ограничения связаны с небольшим размером модели: ей может не хватать знаний о культурных отсылках и сложных контекстах, поэтому часто нужны подробные и точно сформулированные запросы. Модель может генерировать избыточное рассуждение, не завершать задачу или выдавать разные результаты при повторных запусках; иногда при английском запросе появляются китайские символы. Модель описана как преимущественно uncensored, однако README не уточняет конкретные границы такого поведения. Лицензия — Apache-2.0.

Dohyeon1/Qwen3-30B-A3B-Sub-MoE-ngroups96-adaptive — языковая модель для генерации текста, опубликованная пользователем Dohyeon1 на Hugging Face. По метаданным она предназначена для text-generation и работает с библиотекой Transformers; в тегах указаны архитектура Qwen3 MoE и conversational-сценарии. Название модели указывает на вариант Qwen3 с разреженной MoE-архитектурой, адаптивной группировкой и 96 группами, однако подробности архитектуры в карточке не описаны.

Montalte/qwen3_4b_mt11_high_l45_planb_trainable — плотная языковая модель семейства Qwen3, созданная на основе Qwen/Qwen3-4B-Base и опубликованная Montalte. Карточка описывает её как объединённый чекпойнт Plan B Localize-and-Stitch, выгруженный после локальных оценочных запусков. Модель предназначена для генерации текста и диалогового взаимодействия. В репозитории указаны 3,7 млрд параметров, контекст до 32 768 токенов, формат safetensors и библиотека Transformers. В README не описаны специальные области применения или языковая специализация. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает результатов оценки качества или подробностей обучения; происхождение указано как дообучение базовой Qwen3-4B-Base, а описание также называет чекпойнт объединённым.

Это квантованный GGUF-чекпойнт модели Qwen3.5-35B-A3B, подготовленный mtrpires для локального запуска на Raspberry Pi 5 с 16 ГБ памяти. Базовая модель Alibaba — архитектура Mixture of Experts с 35 млрд параметров всего и примерно 3,3 млрд активных на токен. Для инференса используется ik_llama.cpp; смешанная схема IQK сохраняет повышенную точность для слоёв внимания и общих экспертов, сильнее сжимая маршрутизируемые эксперты. Размер файла — около 11,38 ГиБ, заявленный расход памяти — около 12,5 ГБ. Модель предназначена для генерации текста и диалога в локальном помощнике: она может помогать с кодом, обработкой документов и вызовами инструментов. Автор приводит результаты тестирования на Raspberry Pi 5: около 30,85 токена/с при обработке промпта и 4,53 токена/с при генерации. Карточка указывает контексты калибровки, связанные с чатом, кодом и вызовами инструментов, но не перечисляет отдельные поддерживаемые языки сверх меток en и pt. Для практического запуска на Raspberry Pi 5 рекомендуется окно контекста 16 тыс. токенов и активное охлаждение при длительной нагрузке; устройство с 8 ГБ памяти не подходит. Форматы IQ4_KS и IQ2_KS специфичны для ik_llama.cpp, поэтому модель не будет корректно работать в стандартных llama.cpp и Ollama. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели arammoostafaye/Qwen3.5-9B-abliterated на Hugging Face совпадает с карточкой lukey03/Qwen3.5-9B-abliterated, поэтому описание составлено по ней. Qwen3.5-9B-abliterated — текстовая диалоговая модель на архитектуре Qwen3.5, созданная lukey03 на основе Qwen/Qwen3.5-9B. Автор удалил часть поведения отказа ортогональной проекцией весов, затем применил QLoRA-дообучение и объединил адаптер с основными весами. В репозитории указано 7,2 млрд параметров, архитектура dense и контекст длиной 262 144 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации ответов в диалоге, включая запросы, на которые исходная модель отказывалась отвечать. В README также приведены примеры рассуждений, математики и программирования, но основная задача в каталоге — генерация текста. Карточка сообщает о тестировании на 18 запросах, однако это небольшой набор и результаты не гарантируют качество на других задачах. Удаление отказов означает, что модель может выдавать вредоносный, опасный или откровенный контент. Лицензия — Apache-2.0.

Карточка модели Tubing/Qwen3.5-9B-abliterated на Hugging Face совпадает с карточкой lukey03/Qwen3.5-9B-abliterated, поэтому описание составлено по ней. Qwen3.5-9B-abliterated — текстовая диалоговая модель на архитектуре Qwen3.5, созданная lukey03 на основе Qwen/Qwen3.5-9B. Автор удалил часть поведения отказа ортогональной проекцией весов, затем применил QLoRA-дообучение и объединил адаптер с основными весами. В репозитории указано 7,2 млрд параметров, архитектура dense и контекст длиной 262 144 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации ответов в диалоге, включая запросы, на которые исходная модель отказывалась отвечать. В README также приведены примеры рассуждений, математики и программирования, но основная задача в каталоге — генерация текста. Карточка сообщает о тестировании на 18 запросах, однако это небольшой набор и результаты не гарантируют качество на других задачах. Удаление отказов означает, что модель может выдавать вредоносный, опасный или откровенный контент. Лицензия — Apache-2.0.

Qwen3.5-9B-abliterated-MLX-8bit — 8-битная квантованная версия модели Qwen3.5-9B, разработанная пользователем lukey03 на основе модели Qwen/Qwen3.5-9B. Модель предназначена для генерации текста и локального запуска на устройствах Apple с процессорами Apple Silicon M1, M2, M3 и M4 через фреймворк MLX, включая применение на компьютерах Mac с унифицированной памятью. Модель содержит около 9 миллиардов параметров и занимает примерно 8,9 ГБ. Она работает в текстовой модальности; в карточке заявлен английский язык. Версия создана с удалённым поведением отказа от ответа: для этого применялись три итеративных прохода ортогональной проекции и последующее дообучение LoRA для устойчивых категорий отказов. По заявленным данным, модель ответила на 18 из 18 тестовых запросов против 0 из 18 у базовой модели и сопоставима с Dolphin-Mistral 7B в тестах на удаление отказов. К преимуществам относятся нативная работа на Apple Silicon без лишнего обмена данными между CPU и GPU, а также потенциально более высокое качество по сравнению с 4-битной версией. Ограничение — отсутствие защитного поведения отказа, что повышает требования к ответственному применению; длина контекста в карточке не указана. Модель распространяется по лицензии Apache-2.0. В README также указано, что она предоставляется для исследовательских и образовательных целей, а ответственность за соблюдение законодательства и этических норм несёт пользователь.

Qwen3.6-27B-Ablit — производная модель на основе Qwen/Qwen3.6-27B, подготовленная автором sci4ai методом AblitMD. Это плотная авторегрессионная языковая модель для диалогов и генерации текста; метаданные указывают 22,3 млрд параметров и контекст до 262 144 токенов. Репозиторий содержит веса BF16 в safetensors и GGUF, а отдельные варианты коллекции включают более компактные квантизации. Модель изменена для ослабления отказов на запросы из 41 категории: автор вычислял отдельные направления отказа для категорий на ранних слоях и общее направление на поздних. Она предназначена для локального запуска и текстовых диалогов, когда требуется меньше отказов, чем у исходной модели. Шаблон чата Qwen3 ChatML сохранён; поведение профилировалось в режиме non-thinking. Ослабление отказов не добавляет модели новых знаний или навыков и может ослабить следование инструкциям. При включении режима thinking поведение может отличаться; квантизированные варианты могут несколько уступать по качеству BF16. Сведения о лицензии в предоставленных данных отсутствуют.

Qwen3.6-27B-Della-Deckard-v1 — мультимодальная модель с 27 млрд параметров, собранная автором репозитория YFC-112358 методом слияния весов. В основе лежит Qwen/Qwen3.6-27B; в карточке описаны слияние DELLA с двумя моделями для рассуждений и добавление небольшого вектора задач из инженерной модели Qwen3.5. Модель плотная, построена на архитектуре Qwen3.5, поддерживает зрительный ввод и диалог. Веса сохранены в BF16 в формате safetensors; лицензия — Apache-2.0. Модель предназначена для мультимодальных диалогов и задач, где нужно отвечать на текстовые запросы и учитывать изображения. Автор также ориентирует её на рассуждения и инженерные задачи, включая программирование, но количественных бенчмарков нет. Карточка сообщает о тестировании генерации на 13 текстовых запросах; работу с изображениями и поведение на контексте длиннее 16K не проверяли. Слияние структурно проверено, но это не подтверждает улучшения качества; при проблемах автор рекомендует отключить кросс-поколенческий вклад. Указанный контекст базовой модели в README — 16K, за его пределами поведение не оценивалось.

Youssofal подготовил BF16-версию Qwen3.6-35B-A3B, обработанную методом abliteration с использованием Heretic. Это мультимодальная модель с архитектурой Qwen MoE и интерфейсом диалога; вмешательство применено к текстовой части MoE, при этом сохранена обёртка для обработки изображений. Модель предназначена для генерации текста и диалогов, а также может принимать изображения благодаря сохранённой vision-language обёртке. В тесте отказов на 25 запросах модель отказала в 1 случае; в исходной модели таких отказов было 22. Это показывает снижение склонности к отказам, но не гарантирует качество или безопасность ответов во всех сценариях. Чекпойнт опубликован в формате safetensors с точностью BF16 и распространяется по лицензии Apache-2.0.

fcmeyer/Qwen3.8-27B-MLX-bf16-mtp — конверсия мультимодальной модели Qwen/Qwen3.8-27B в формат MLX bf16 для запуска через движок oMLX на компьютерах Apple Silicon. Веса сохранены без квантизации, включая головку MTP для спекулятивного декодирования Lightning-MTP; в модели также сохранена визуальная башня для анализа изображений и видео. Архитектура плотная, размер базовой модели — 27 млрд параметров. Модель предназначена для диалогов и понимания изображений и видео. При запуске через oMLX можно включить MTP для ускорения генерации; автор сообщает о двукратном ускорении декодирования на M5 Max с 128 ГБ памяти, а также о проверке поиска по длинному контексту и привязки ответов к изображениям. README демонстрирует контекстное окно до 262 144 токенов в конфигурации oMLX. Репозиторий содержит конвертированные веса, поэтому это не отдельное дообучение, а преобразование формата и точности исходной модели для MLX. Лицензия — Apache-2.0. Для запуска требуются Apple Silicon, oMLX и около 52 ГБ памяти под веса; измерения производительности относятся к конкретной конфигурации M5 Max.

Qwen3.8-Flash-Next-MXFP4-FP8 — экспериментальная квантизованная сборка модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель распространяется в формате Hugging Face Transformers и предназначена для задач генерации текста, агентских сценариев и мультимодального ввода с изображениями и видео. В README также указана поддержка вызова инструментов и рассуждений через соответствующие парсеры vLLM. Архитектура включает гибридное внимание с Gated DeltaNet и Qwen Sparse Attention, Gated Residual и N-gram Embedding; базовая модель использует Mixture-of-Experts-компоненты. В этой сборке MTP, attention, N-gram и KV-cache представлены в FP8, а experts — в MXFP4. Общий размер весов составляет около 125,8 ГБ. Конфигурация рассчитана на контекст до 524 288 токенов, поддерживает до 20 изображений и одного видео на запрос; языки и точное число параметров в README не указаны. Сильными сторонами являются экономичное хранение и вычисления за счёт квантизации, оптимизации для длинного контекста, FP8 KV-cache, prefix caching, chunked prefill и speculative decoding. Основные ограничения — запуск заявлен только на GPU AMD AI PRO R9700, требуется специализированный dev-образ vLLM и конфигурация с четырьмя GPU; модель имеет экспериментальный статус. Квантизация выполнена методом Quark RTN, поэтому точность может быть ниже, чем у будущих GPTQ/AWQ-сборок. README рекомендует использовать обновлённую GPTQ Protected Model. Лицензия указана как Apache-2.0 с license_name qwen-community-1.0.

TheDrainFlorist/Qwen3.8-Flash-Next-VQ-2.1bpw — векторно-квантизированная версия Qwen3.8-Flash-Next, разработанная TheDrainFlorist с использованием VQLab и ориентированная на работу на компьютерах Apple Silicon. Модель предназначена для генерации текста, а также поддерживает обработку изображений; для запуска используются MLX, mlx-lm и mlx-vlm. Указанный язык — английский. В основе лежит MoE-архитектура с 180 млрд общих параметров и 10 активными экспертами из 512; также заявлены 51,2 млрд параметров n-gram PLE и vision-компонент. Квантизация выполнена методом vector quantization с разной геометрией по слоям, основной формат — 2.1 bits per weight. Размер основного файла составляет около 45,755 GiB, а дополнительная MTP-голова занимает ещё 2,140 GiB и загружается только при включении speculative decoding. Сведения о размере контекста в README не указаны. Сильными сторонами модели являются возможность разместить крупную MoE-модель на машине с 64 ГБ памяти, поддержка текста и изображений, оптимизированные для Apple Silicon ядра и опциональное ускорение генерации через MTP. Ограничения включают высокие требования к памяти, небольшой запас ресурсов на 64-гигабайтных системах и необходимость специальной поддержки архитектуры qwen4_exp: на момент описания требуется версия mlx-lm из отдельной ветки, поскольку в опубликованных версиях эта архитектура отсутствует. Для изображений нужен mlx-vlm версии 0.6.16 или новее; стандартная версия exo также не подходит без специальной ветки. Модель распространяется по лицензии qwen-community-1.0, обозначенной в карточке как license other.

xactobear/qwen38-xactobear-gguf — это набор GGUF-квантизаций мульт этапной дообученной модели на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, разработанной DavidAU. Репозиторий содержит обычные и MTP-варианты квантов Neo-CODER MAX DI-MATRIX, включая версии с точностью 4 и 8 бит. В README также указано использование Unsloth, методов COLD FUSION и Fable Fusion 711, направленных на повышение качества рассуждений, сокращение объёма thinking-токенов и ускорение генерации. Заявлены поддерживаемые языки English и Chinese; размер контекстного окна и точные параметры архитектуры не указаны. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов и ролевого взаимодействия. По заявлению автора, она ориентирована на генерацию подробных ответов при меньшем количестве токенов рассуждений по сравнению с базовой моделью и рассчитана на запуск на потребительском оборудовании. README приводит высокие результаты на ARC-C и ARC-E, однако эти показатели представлены самим автором и не сопровождаются полной методикой независимой проверки. К ограничениям относятся отсутствие подробной информации о размере контекстного окна, поддерживаемых модальностях, системных требованиях, формате MTP-режима и результатах независимого тестирования. В описании также используется характеристика uncensored, поэтому поведение модели в отношении нежелательного или чувствительного контента может отличаться от стандартных моделей. Репозиторий распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-VL-235B-A22B-Instruct-NVFP4 — квантизированная версия мультимодальной модели Qwen3-VL-235B-A22B-Instruct, разработанной Alibaba Cloud и оптимизированной RedHatAI. Модель предназначена для генерации текста и развертывания в сценариях инференса с использованием vLLM; README также указывает улучшения базовой модели в понимании и генерации текста, визуальном восприятии и рассуждении, работе с пространственной и видеодинамикой и взаимодействии с агентами. Для данной карточки заявлены текстовые входы и текстовые выходы, поэтому возможности обработки изображений и видео здесь явно не подтверждены как доступные в развернутой версии. Модель имеет 235B параметров и архитектуру Qwen3-VL с конфигурацией A22B. Веса и активации линейных операторов в блоках трансформера квантизированы в FP4 с помощью LLM Compressor. Это примерно на 75% уменьшает размер на диске и требования к памяти GPU по сравнению с представлением FP16. Модель подготовлена для инференса в vLLM версии 0.9.1 и выше и проверена с vLLM 0.13.0, RHOAI 3.3 и RHAIIS 3.3. Максимальная длина контекста в README не указана; калибровка выполнялась на последовательностях длиной до 8192 токенов. К сильным сторонам относятся существенное снижение требований к ресурсам и совместимость с эффективным серверным развертыванием через vLLM, включая OpenAI-совместимый режим обслуживания. README перечисляет английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский как языки, однако использование модели на языках, отличных от английского, отдельно обозначено как выходящее за рамки поддерживаемого применения. Квантизация может влиять на качество относительно неквантизированной версии, хотя модель оценивалась в сравнении с ней; конкретные результаты оценки не приведены. Лицензия — Apache-2.0, с ограничением не использовать модель в нарушение применимых законов и нормативных требований.

RAIZEN — специализированная модель для помощи в разработке программного обеспечения, созданная SHAWAZ на основе Qwen2.5-Coder-7B-Instruct путём дообучения. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, опубликованная в формате safetensors; длина контекста составляет 32 768 токенов. Модель предназначена для генерации и объяснения кода, отладки и проектирования full-stack приложений. В карточке заявлены сценарии с React, Next.js, Tailwind CSS, FastAPI, PostgreSQL и SQL, включая разработку интерфейсов, проектирование API и схем данных, а также поиск причин ошибок. Метаданные указывают на поддержку английского языка и кода. Модель распространяется по лицензии Apache-2.0. Заявления о качестве и пригодности для промышленного использования приведены автором; независимых оценок в предоставленных материалах нет.

RYS-Phi-3-medium-4k-instruct — экспериментальная оптимизированная версия Microsoft Phi-3-medium-4k-instruct, опубликованная dnhkng. Автор описывает работу как новый метод оптимизации и сообщает, что статья о технике ещё готовится; подробности метода в карточке не раскрыты. Модель построена на плотной архитектуре Phi-3 с 17,5 млрд параметров и контекстом до 4096 токенов. Она предназначена для диалогового текстового взаимодействия и генерации текста. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но их недостаточно, чтобы судить о качестве в конкретных прикладных сценариях. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии MIT. Она унаследовала основу Phi-3-medium-4k-instruct; заявленная оптимизация описана недостаточно, чтобы точнее определить её тип.

simplescaling/s1.1-7B — плотная языковая модель семейства Qwen2, дообученная SimpleScaling на наборе s1K-1.1 на основе Qwen/Qwen2.5-7B-Instruct. Она предназначена для диалоговой генерации текста и ответов на инструкции; карточка также отмечает интерфейс для вызова инструментов. Модель содержит 7,1 млрд параметров, работает через Transformers и имеет контекст до 32 768 токенов. Модель не оценивалась авторами, поэтому её качество и надёжность не подтверждены; авторы рекомендуют вместо неё вариант s1.1-32B. В метаданных нет сведений о лицензии, поэтому условия использования определить нельзя.

arcee-ai/saul-zephyr-7b-ties — объединённая текстовая модель от Arcee AI, созданная с помощью mergekit методом TIES на основе Mistral-7B-v0.1, Saul-Base и Zephyr-7B-Beta. Модель содержит 7,1 млрд параметров, построена на архитектуре Mistral и рассчитана на генерацию текста с контекстом до 32 768 токенов. Модель можно использовать для диалоговой генерации и ответов на текстовые запросы. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0. README не приводит результаты оценки качества или подробные инструкции по применению, поэтому качество в конкретных сценариях по имеющимся данным определить нельзя.

alekhm/sdam-gemma4-E2B-merged-bf16 — текстовая генеративная модель, опубликованная пользователем alekhm и основанная на unsloth/gemma-4-E2B-it-UD-MLX-4bit из семейства Gemma от Google. Модель предназначена для генерации текста и диалогового взаимодействия.

Это объединённая модель генерации текста, созданная с помощью mergekit методом Linear из нескольких контрольных точек проекта filtered_e2e_insert_hyperstition_v1. В качестве базовой использована контрольная точка global_step6000; в объединение также вошли версии с шагов 2000, 3000, 4000 и 5000. Модель основана на плотной архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый сценарий и имеет контекстное окно 16 384 токена. Метаданные указывают библиотеку Transformers и формат весов safetensors. Карточка не описывает специализированную область применения, языковое покрытие, качество ответов или конкретные ограничения поведения. Лицензия в предоставленных данных не указана.

Модель yuhengtu-bytedance/sfm_filtered_insert_xxf_character-0k_1k_2k_3k_4k_weightedavg_merge — объединённая языковая модель, созданная автором репозитория с помощью mergekit. В основе — архитектура GPT-NeoX с плотной причинно-языковой моделью на 8,8 млрд параметров; для объединения применён линейный метод, совмещающий контрольные точки global_step0, global_step1000, global_step2000, global_step3000 и global_step4000. Модель предназначена для генерации текста и диалогового общения, с контекстом до 16 384 токенов. Модель принимает текст и выдаёт текст. Сведения о целевых языках и специализированных областях применения в карточке отсутствуют, поэтому её следует рассматривать как модель общего назначения. Репозиторий содержит веса в формате safetensors и помечен лицензией в метаданных не был; условия использования по имеющимся данным определить нельзя.