I.3Извлечение и структурирование данных

MeliodasPercival_01_YamshadowInex12 — объединённая языковая модель, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/YamshadowInex12-7B. Она предназначена для генерации текста и диалогов. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Доступна в формате Safetensors по лицензии Apache-2.0. README и метаданные не приводят сведений о поддерживаемых языках или специальных ограничениях.

MeliodasT3q_T3qExperiment26 — объединённая модель генерации текста, созданная на основе automerger/MeliodasT3q-7B и automerger/T3qExperiment26-7B. Она построена на плотной архитектуре Mistral с причинно-языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий использует лицензию Apache-2.0.

MaziyarPanahi/MelloGPT-Mistral-7B-Instruct-v0.1-GGUF — это набор файлов модели в формате GGUF, подготовленный и квантованный MaziyarPanahi на основе MaziyarPanahi/MelloGPT-Mistral-7B-Instruct-v0.1. Модель относится к семейству Mistral-7B-Instruct-v0.1 и предназначена для генерации текста по инструкциям, включая локальный запуск чат- и текстовых приложений. Модель имеет архитектуру Mistral с примерно 7 млрд параметров и работает с текстовой модальностью; поддерживаемые языки и размер контекстного окна в README не указаны. Репозиторий содержит варианты квантования от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат поддерживается llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python. К сильным сторонам относятся возможность локального запуска и наличие нескольких уровней квантования, уменьшающих потребление памяти по сравнению с полноразмерной моделью. Ограничения конкретных вариантов квантования, качество ответов и специализированное назначение MelloGPT в README подробно не описаны; поэтому нельзя сделать точные выводы о производительности или пригодности для отдельных предметных областей. Для репозитория указана лицензия Apache-2.0.

MERaLiON-AudioLLM-Whisper-SEA-LION — аудиотекстовая языковая модель, разработанная I2R при A*STAR совместно с AI Singapore. Она предназначена для распознавания и понимания речи, особенно в многоязычной среде Сингапура с местными акцентами, диалектами и переключением языков. Модель содержит 8,1 млрд параметров; в её архитектуре сочетаются аудиоэнкодер на основе дообученного Whisper-large-v2, адаптер и текстовый декодер SEA-LION V3. Она принимает аудио и текстовые инструкции и генерирует текстовый ответ. Для аудио заявлены монофонический формат, частота 16 кГц и длительность до 30 секунд. Модель обучена на 260 000 часах аудио и рассчитана на распознавание речи, перевод речи, ответы на вопросы по аудио, суммаризацию диалогов, выполнение речевых инструкций и анализ паралингвистических признаков. Основной язык — английский, включая сингапурский вариант; также поддерживаются языки, совместимые с Whisper и SEA-LION. Модель доступна для Transformers и vLLM и распространяется по MERaLiON Public License. Авторы отмечают её результаты на сингапурских данных; отдельно модель не предназначена для вызова инструментов, математики и программирования.

Abiray/MiniCPM5-1B-GGUF — набор квантованных моделей MiniCPM5-1B, разработанной командой OpenBMB и опубликованной в формате GGUF пользователем Abiray. Модель предназначена для локального запуска на устройствах с ограниченными ресурсами, включая мобильные и периферийные системы, через llama.cpp. Она относится к задачам генерации текста и поддерживает сценарии, связанные с вызовом инструментов. В основе лежит архитектура LlamaForCausalLM с примерно 1 миллиардом параметров. Модель поддерживает английский и китайский языки, использует гибридное рассуждение со встроенными токенами <think> и имеет контекстное окно до 131 000 токенов. Доступны варианты GGUF с квантованием Q4_K_M, Q5_K_M, Q6_K, Q8_0, а также F16 без квантования; их размер составляет примерно от 657 МБ до 2,1 ГБ. Форматы ориентированы на эффективный вывод на CPU и устройствах edge-класса. Сильными сторонами являются небольшой размер, возможность автономного локального использования, широкий контекст и поддержка llama.cpp без пользовательских форков или специальных ядер. Квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной моделью; варианты с более высоким качеством требуют больше памяти. README не содержит подробной оценки качества, перечня поддерживаемых языков помимо английского и китайского или описания ограничений безопасности. Лицензия — Apache-2.0.

cyankiwi/MiniMax-M2.7-AWQ-4bit — квантизированная версия языковой модели MiniMax-M2.7, разработанной MiniMax AI. Модель предназначена для генерации текста и совместима с библиотекой Transformers. Вариант использует 4-битное квантование AWQ, что снижает требования к памяти по сравнению с полной версией базовой модели и делает её более подходящей для локального или ограниченного по ресурсам запуска. В предоставленных данных не указаны архитектура, число параметров, поддерживаемые языки, размер контекста и дополнительные модальности, поэтому эти характеристики нельзя достоверно описать. Модель распространяется по модифицированной лицензии MIT; подробные условия приведены в лицензии базового проекта MiniMax-M2.7. Ограничения и результаты оценки в README не указаны, поэтому перед использованием в критически важных сценариях необходима самостоятельная проверка качества и совместимости.

Mistral-10.7B-v0.2 — плотная авторегрессионная языковая модель семейства Mistral, созданная методом Depth-Up Scaling на основе alpindale/Mistral-7B-v0.2-hf. Веса подготовлены с помощью mergekit и метода passthrough: к слоям исходной модели добавлен повторный диапазон слоёв, увеличивший глубину модели. Размер модели — 10,6 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Модель предназначена для дальнейшего дообучения или использования как замена Mistral-7B-v0.2 в сценариях генерации текста. Её можно применять для диалога, написания и продолжения текстов, а также для прототипирования языковых приложений. Карточка не приводит отдельной оценки качества и не перечисляет поддерживаемые языки. Лицензия — Apache-2.0.

Vezora/Mistral-14b-Merge-Base — базовая текстовая генеративная модель, созданная Николасом Мехией Пети путём объединения моделей Dolphin, Zephyr, MetaMath и Speechless Code на базе Mistral, а затем дообученная и объединённая с LoRA-адаптером. В репозитории указано около 14,3 млрд параметров; метаданные Hugging Face сообщают 14,1 млрд. Модель использует архитектуру MistralForCausalLM и формат safetensors, поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы, а её обучающий датасет был модифицированной версией airoboros-m-7b-3.1.2 в формате Alpaca. Языки и специализированные сценарии применения в карточке не уточняются. По описанию автора, модель может чрезмерно задавать встречные вопросы при обработке запросов длиннее 512 токенов — это указанное ограничение её обучения с QLoRA. Лицензия — Apache-2.0.

Jan-HQ Mistral-7B-Instruct-v0.2-SLERP — языковая модель Jan на базе Mistral-7B-Instruct-v0.2, созданная слиянием методом SLERP базовой модели с Marcoroni-7B-v3 и go-bruins-v2. Это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. В карточке указаны шаблоны ChatML и Alpaca, а запуск предлагается через Jan Desktop на macOS, Windows и Linux. Метаданные указывают английский язык и возможность chat. README описывает проект как тест слияния моделей; результатов оценки в карточке нет. Доступна по лицензии Apache-2.0.

Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-C — объединённая модель генерации текста, созданная автором репозитория с помощью mergekit и метода SLERP. В объединение вошли anthracite-org/magnum-v4-22b и Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-B; базовой моделью в конфигурации указана anthracite-org/magnum-v4-22b. Модель имеет плотную архитектуру MistralForCausalLM, содержит 22 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и доступна через Transformers. Базовая модель ориентирована на диалоги, следование инструкциям и связную прозу на английском языке; репозиторий также помечен как conversational и указывает интерфейс для вызова инструментов. Используются веса safetensors в формате bfloat16. Лицензия в предоставленных данных не указана.

NbAiLab/nb-notram-llama-3.1-8b-instruct — языковая модель Национальной библиотеки Норвегии (NB-AiLab), дообученная на базе Meta Llama 3.1 8B Instruct. Это плотная авторегрессионная модель для генерации текста с диалоговым интерфейсом и интерфейсом вызова инструментов. Размер составляет около 7,5 млрд параметров, длина контекста — 131 072 токена. Модель дообучена следовать инструкциям и вести диалог на норвежском букмоле и нюнорске, сохраняя сильные возможности английского языка. Она предназначена для ассистентов и диалоговых систем, а также для суммаризации и ответов на вопросы. Настройка включает supervised fine-tuning и небольшой этап оптимизации предпочтений; ответы обычно краткие. Обучение использовало публично доступные и синтетически созданные данные. Модель может выдавать фактические ошибки и вымышленные сведения; знания о норвежской культуре и истории могут быть неравномерными и зависеть от формулировки запроса. Данные актуальны ориентировочно до мая 2024 года, а защитное выравнивание ограничено. Для применения вне экспериментов рекомендуется оценивать модель в целевом сценарии; без дополнительных мер контроля её не следует использовать в высокорисковых медицинских, юридических или финансовых задачах. Лицензия — Llama 3.1 Community License.

Neona-12B — объединённая текстовая модель на 12,1 млрд параметров, созданная kyx0r с помощью mergekit и метода NearSwap. В качестве базовой использована yamatazen/NeonMaid-12B-v2; в объединение также включена yamatazen/LorablatedStock-12B. Модель построена на архитектуре Mistral и предназначена для генерации текста в диалоговом формате ChatML. Заявленная длина контекста — 131 072 токена. Модель подходит для диалогов и генерации текста. В карточке не указаны поддерживаемые естественные языки и специализированные области применения. Весы опубликованы в формате safetensors; лицензия и ограничения использования в предоставленных данных не описаны.

Neural-Chat-v3 — языковая модель с 7,1 млрд параметров, разработанная командой NeuralChat компании Intel. Это дообученная на Open-Orca/SlimOrca модель Mistral-7B-v0.1, дополнительно выровненная методом Direct Preference Optimization на парах Intel/orca_dpo_pairs. Модель предназначена для генерации текста и языковых задач, включая диалоговые сценарии и ответы на запросы. README указывает контекст 8192 токена; в метаданных каталога указано значение 32768 токенов. Модель ориентирована на английский язык. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. README отмечает, что результаты зависят от формулировки запроса и что для конкретных задач может потребоваться дополнительное дообучение. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед применением в продукте необходима проверка безопасности.

QuantFactory/NeuralDaredevil-7B-GGUF — квантизированная версия языковой модели NeuralDaredevil-7B, созданная с помощью llama.cpp. Базовая модель разработана mlabonne: это DPO-файнтюнинг модели mlabonne/Daredevil-7B на датасете предпочтений argilla/distilabel-intel-orca-dpo-pairs. Модель предназначена для генерации текста, диалоговых и общих языковых задач, а также рассуждений и ответов на вопросы. Модель относится к семейству 7B; точная архитектура, размер контекста, поддерживаемые языки и сведения о модальностях в README не указаны. Квантизация в формате GGUF рассчитана на использование через инструменты экосистемы llama.cpp и может снизить требования к памяти по сравнению с исходной полноразмерной моделью. В опубликованных тестах модель показывает результаты 74,12 в среднем на Open LLM Leaderboard, включая 87,62 на HellaSwag, 73,16 на GSM8K и 65,12 на MMLU. Эти показатели характеризуют задачи бенчмарков и не гарантируют качество в прикладных сценариях. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства, но ограничивающей коммерческое применение. README не содержит подробностей о конкретном варианте квантизации, системных требованиях, формате prompt-шаблона и ограничениях безопасности.

next2.5-i1-GGUF — это набор квантованных моделей в формате GGUF на базе thelamapi/next2.5, подготовленный и опубликованный mradermacher. Модель относится к мультимодальным vision-language моделям и предназначена для генерации текста, работы с изображениями и текстом, а также задач рассуждения. В обучении или дообучении использовались наборы данных FineTome-100k, CognitiveKernel-Pro-SFT, KAG-Thinker-training-dataset и ChatGPT-4o-Writing-Prompts. Заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. В README модель обозначена как модель примерно на 4 млрд параметров, ориентированная в том числе на edge-устройства. Доступны варианты квантования от IQ1_S до Q6_K размером примерно от 1,3 до 3,6 ГБ; качество и скорость зависят от выбранного варианта. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Размер контекстного окна и точные сведения об архитектуре не указаны. Сильными сторонами являются мультимодальность, многоязычность, поддержка режима рассуждения и широкий выбор квантований для запуска на устройствах с ограниченными ресурсами. Ограничения включают возможное снижение качества при использовании наиболее компактных квантований, а также отсутствие в README подробных характеристик производительности и контекстного окна. Модель распространяется по лицензии Apache-2.0.

OpenBuddy — мультиязычная разговорная модель, созданная на базе Meta Llama 3.1 8B Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для диалога и генерации текста. Её можно запускать локально через Ollama, а для развёртывания API README рекомендует Transformers или vLLM и соответствующий формат токенизатора. Модель предназначена прежде всего для общения на английском и китайском языках; метаданные также перечисляют французский, немецкий, японский, корейский, итальянский и финский. OpenBuddy указывает лицензию как other, а README отсылает к условиям использования и предупреждает, что ответы могут быть ошибочными или вредными. Модель не рекомендуется для медицинских, финансовых, юридических и других критически важных решений.

Openbuddy Mistral 7B v13 — языковая модель для генерации текста и диалогового взаимодействия, разработанная командой OpenBuddy на базе архитектуры Mistral. Представленная версия распространяется в формате GGUF и квантизирована TheBloke, что позволяет запускать её локально с использованием llama.cpp и совместимых приложений и библиотек. Модель предназначена для ответов на вопросы, ведения многоязычных диалогов и других сценариев текстовой генерации. В README заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Размер модели — 7B параметров; модальность — текстовая. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер по сравнению с крупными моделями, возможность локального запуска на CPU и GPU, а также доступность нескольких вариантов квантизации — от 2 до 8 бит. Ограничения включают неизвестную длину контекста и отсутствие в README подробных сведений о качестве, датасете обучения и результатах оценки. Модель следует использовать с учетом возможных ошибок и устаревания знаний; в шаблоне указана граница знаний 2021 года. Лицензия модели указана как Apache-2.0. Репозиторий содержит именно GGUF-версии исходной модели OpenBuddy; конкретный уровень квантизации следует выбирать отдельно в зависимости от доступной памяти и требований к качеству.

TheBloke/openbuddy-mixtral-8x7b-v15.1-GGUF — это набор квантованных моделей в формате GGUF для OpenBuddy Mixtral 8X7B V15.1, разработанной командой OpenBuddy и квантованной TheBloke. Модель предназначена для генерации текста и диалогового взаимодействия с пользователем, включая ответы на вопросы, объяснение информации и выполнение общих ассистентских задач. В основе лежит архитектура Mixtral с конфигурацией 8×7B; точный размер активной части параметров и максимальная длина контекста в предоставленных данных не указаны. Модель работает с текстом и заявлена для китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Репозиторий содержит варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти для CPU+GPU-инференса. Сильными сторонами являются многоязычность, возможность локального запуска и поддержка экосистемы llama.cpp, включая KoboldCpp, LM Studio и llama-cpp-python при соответствующих версиях. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, зависимостью совместимости от используемого клиента и отсутствием доступа к интернету; в шаблоне указана отсечка знаний 2021 года. Модель распространяется по лицензии Apache-2.0.

OpenResearcher-30B-A3B — дообученная языковая модель для агентского глубокого исследования, разработанная командой OpenResearcher на базе NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16. Модель обучали на 96 тысячах примеров OpenResearcher-Dataset с диалогами длиной более 100 ходов; датасет создан дистилляцией GPT-OSS-120B с использованием браузерных инструментов. Архитектура — Nemotron-H с причинным декодером. В метаданных указаны 1,9 млрд параметров и контекст до 262 144 токенов. Модель предназначена для многошагового поиска и синтеза информации, а также длительных исследовательских диалогов. Карточка сообщает о результате 54,8% на BrowseComp-Plus; это заявление разработчиков и оно само по себе не гарантирует аналогичного качества в других условиях. Для работы с внешними источниками требуется подходящая интеграция инструментов: наличие интерфейса вызова инструментов в метаданных не означает, что браузер входит в комплект модели. Репозиторий использует Transformers и формат Safetensors; лицензия — MIT.

OrionStar Yi 34B Chat Llama — это диалоговая языковая модель OrionStarAI, представленная в формате GGUF и квантизированная TheBloke. Модель основана на архитектуре Yi, имеет 34 млрд параметров и предназначена для генерации текста и ведения диалогов. Исходная модель доступна в формате PyTorch fp16, а данный репозиторий содержит варианты GGUFv2 с разной разрядностью квантования — от 2 до 8 бит. Модель ориентирована на чат-сценарии, ответы на запросы и общее текстовое взаимодействие. В README приведён шаблон промпта Human: {prompt} Assistant:, а также пример диалога на китайском языке. Поддержка других языков, размер контекста и дополнительные модальности в доступных данных не указаны; модель описана как текстовая и относится к задаче text-generation. GGUF-файлы совместимы с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers, что позволяет запускать модель локально с использованием CPU и GPU. Разные уровни квантования дают выбор между требованиями к памяти, скоростью и сохранением качества, однако конкретные показатели качества и ограничения вариантов в README не приведены. Модель распространяется по лицензии yi-license; тип лицензии указан как other, с отдельным файлом LICENSE.

nvidia/parakeet-tdt-0.6b-v3 — модель автоматического распознавания речи, разработанная NVIDIA. Она преобразует аудиозаписи в текст и предназначена для транскрибации речи в приложениях, работающих с аудио, включая записи встреч, выступлений и других разговорных сценариев. Модель интегрируется с Transformers и обучалась с использованием наборов данных NVIDIA Granary и nemo/asr-set-3.0. Модель содержит около 0,6 млрд параметров и использует архитектуру FastConformer/Conformer с компонентами Transformer и TDT (Token-and-Duration Transducer). Поддерживается широкий набор языков, включая английский, испанский, французский, немецкий, русский, украинский и другие европейские языки. В README не указана длина контекста. На тестах заявлены значения WER от 1,93% на LibriSpeech clean до 20,7% на греческом варианте FLEURS; качество зависит от языка и акустических условий. Ограничения по шуму, качеству записи и доменной адаптации отдельно не описаны. Лицензия — CC BY 4.0.

jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

Это пакет слоёв GGUF для модели Qwen3-235B-A22B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска на локальном кластере. Он получен из unsloth/Qwen3-235B-A22B-GGUF и сохраняет исходное распределение весов, разбитое на артефакты по слоям. Вариант UD-Q4_K_XL использует квантизованный формат GGUF; исходная модель относится к семейству Qwen3 и содержит 235 млрд параметров общей ёмкости с архитектурой MoE на 22 млрд активных параметров. Пакет предназначен для локального приватного чата и генерации текста, когда веса нужно распределить между несколькими машинами. Mesh LLM предоставляет OpenAI-совместимый интерфейс для запросов chat/completions. В метаданных указана библиотека mesh-llm и лицензия Apache-2.0. Языки и длина контекста в предоставленных данных не установлены; подробности архитектуры и поведения следует сверять с карточкой исходной модели.

Это пакет слоёв GGUF модели Qwen3-32B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса на локальном кластере. Он получен из unsloth/Qwen3-32B-GGUF и сохраняет исходное распределение GGUF в виде отдельных артефактов по слоям; вариант модели — UD-Q4_K_XL, библиотека запуска — mesh-llm. Пакет предназначен для приватного локального чата и генерации текста, в том числе с распределением вычислений между несколькими машинами, когда полной модели не хватает места на одном узле. Через локальный API Mesh LLM поддерживаются совместимые с OpenAI запросы к chat completions. Данные о размере модели, длине контекста, поддерживаемых языках и лицензии следует сверять с карточкой исходной модели unsloth/Qwen3-32B-GGUF; доступные сведения здесь их не приводят.

Sayankotor/qwen35-122b-a10b-k4e2 — это квантованный чекпойнт модели Qwen/Qwen3.5-122B-A10B, опубликованный пользователем Sayankotor. Он предназначен для генерации текста и диалогов. Модель построена на архитектуре MoE с гибридными DeltaNet и полным вниманием; в README указаны 256 маршрутизируемых экспертов на слой. Основная часть весов и общие экспертные MLP квантованы до 4 бит, маршрутизируемые эксперты — до 2 бит, а ряд компонентов, включая зрительную башню, сохранён в исходной точности. Размер уменьшен примерно с 234 до 34 ГБ. Чекпойнт рассчитан на запуск в условиях ограниченной видеопамяти, когда приемлема существенно более низкая скорость: README сообщает примерно о 18-кратном замедлении относительно bf16 на описанном тесте. Приведены результаты perplexity на WikiText-2 и C4 при контексте 4096 токенов; это не устанавливает максимальную длину контекста. Для загрузки требуются поставляемый в репозитории пользовательский код модели и дополнительные зависимости. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с карточкой и файлами лицензии базовой модели.

ISTA-DASLab/Qwen3.5-4B-GGUF-GSQ — это GGUF-квантованная версия базовой модели Qwen/Qwen3.5-4B, разработанная ISTA-DASLab. Модель создана для генерации текста и локального запуска в llama.cpp, Ollama, LM Studio и других средах, поддерживающих формат GGUF. Она предназначена для сценариев, где важны уменьшенный размер файла и эффективный запуск языковой модели на совместимом оборудовании. Модель использует формат GGUF K-Quant с вариантом квантования Q2_K_XL. За основу взят файл Unsloth UD-Q2_K_XL, после чего дискретные значения весов были оптимизированы методом GSQ (Gumbel-Softmax Quantization) и упакованы обратно в тот же формат. Размер и структура файла соответствуют стандартному Q2_K_XL, поэтому модель является заменой исходного GGUF-чекпойнта без изменений в runtime. README не содержит дополнительных сведений о языках, размере контекста и исходной архитектуре Qwen3.5-4B. По приведённым оценкам, GSQ-версия превосходит использованный исходный чекпойнт Unsloth на AIME 25, GPQA Diamond, IFEval, GSM8K и MMLU-Pro; результаты получены в режиме zeroshot при разных настройках thinking. Ограничения модели связаны с очень низкой разрядностью Q2_K и зависимостью от поддержки GGUF и совместимого runtime; приведённые показатели нельзя напрямую переносить на другие режимы использования. Лицензия — Apache-2.0.

Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS-i1-GGUF — квантизированная GGUF-версия модели KridgeDookie/Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS, подготовленная mradermacher. Модель относится к семейству Qwen3.6, имеет около 27 миллиардов параметров и предназначена для генерации текста и работы с изображениями и текстом. В метаданных указана многоязычная поддержка, однако конкретный перечень языков и размер контекстного окна не приведены. Модель ориентирована на текстовую генерацию, мультимодальные сценарии image-text-to-text и задачи, где требуется сниженный уровень отказов от ответов; пометка abliterated/uncensored отражает изменение поведения исходной модели в этой области. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Доступны варианты квантизации i1 с разными форматами и объёмом примерно от 7,2 до 15,6 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Сильными сторонами являются мультимодальность, многоязычность и широкий выбор квантизированных вариантов, включая imatrix-квантизации. Ограничения связаны с потерей качества у наиболее компактных вариантов; README прямо отмечает низкое качество некоторых из них. Архитектурные детали, точный контекст и результаты оценивания не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-onw は ryugyosoft が Qwen/Qwen3.6-35B-A3B を Intel NPU 上で動作させるために変換・最適化した多言語マルチモーダル MoE モデルです。全体で約 35 млрд параметров, при генерации активируется около 3 млрд на токен; архитектура включает Gated DeltaNet, gated attention и 256 экспертов, из которых выбираются восемь вместе с общим экспертом. Модель принимает текст и изображения и поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для локального чат-общения, ответов с учетом изображений и использования через OpenAI-совместимый API на компьютерах с Intel Core Ultra NPU. Репозиторий содержит веса для движка onw; README сообщает о скорости 6,8 токена в секунду на протестированном NPU 3720, но фактическая производительность зависит от устройства и объема памяти. Эксперты и другие компоненты используют INT4-квантизацию, поэтому качество может отличаться от исходной модели в формулировках после первых токенов. Лицензия Apache 2.0.

OpenVINO/Qwen3.8-27B-int4-ov — экспериментальная квантованная версия модели Qwen3.8-27B, разработанной командой Qwen. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT4 с помощью NNCF. Для квантования использованы режим INT4_ASYM, размер группы 128 и коэффициент ratio 1.0. Это мультимодальная vision-language модель для понимания изображений и видео, управления глубиной рассуждений и решения сложных многошаговых задач. Она может применяться для анализа визуального содержимого, ответов на вопросы по изображениям и построения мультимодальных чат-приложений. В README не указаны поддерживаемые языки и размер контекстного окна. Ключевые преимущества модели — мультимодальность и уменьшенный объём весов благодаря INT4-квантованию, что может упростить развёртывание с OpenVINO. При этом модель ещё не полностью проверена и требует экспериментальных или nightly-версий OpenVINO, OpenVINO GenAI и Optimum Intel; совместимость также заявлена с Transformers 5.2. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-JoyFox-Aggressive — модификация модели Qwen3.8-27B от JoyFox, ориентированная на снижение ложных отказов и избыточных предупреждений в ответах. Модель сохраняет официальные токенизатор, шаблон чата и конфигурацию базовой модели, а также поддерживает текстовые и мультимодальные сценарии с обработкой изображений. Заявлена поддержка английского, китайского и других языков в рамках мультиязычных возможностей Qwen3.8. Модель предназначена для прямых и содержательных ответов на добросовестные, аналитические, образовательные, вымышленные и иные легитимные запросы, включая чувствительно или неоднозначно сформулированные. В составе сохранены полный vision-стек и мультимодальный проектор, native Multi-Token Prediction (MTP), а также совместимость с форматами BF16 и GGUF. Доступны варианты GGUF с квантованием Q2_K–Q8_0; размер основной модели в этих вариантах составляет примерно от 10,12 до 27,05 GiB. По приведённой оценке на 1000 запросах вариант JoyFox BF16 снизил показатель отказов на добросовестные запросы с 59,2% у исходной модели до 0%, при этом capability score составил 59,0% у обеих моделей. Это поведение не добавляет новых знаний и не устраняет галлюцинации, ошибки понимания или риск генерации неподходящего контента, поэтому модель требует самостоятельной проверки и защитных мер при развёртывании. Контекстное окно и точное число параметров в README не указаны; обозначение 27B относится к базовой модели. Лицензия — Apache-2.0.