I.3Извлечение и структурирование данных

AhmadAfles/my-first-AraGenre — дообученная модель Sentence Transformers на базе U4RASD/NeoAraBERT, разработанная AhmadAfles. Она преобразует предложения и абзацы на арабском языке в плотные векторы размерности 768 и предназначена для поиска и сравнения текстов по косинусному сходству. Модель обучена на 899 парах предложений с использованием MultipleNegativesRankingLoss; максимальная длина входной последовательности — 512 токенов. Модель принимает текст и возвращает векторные представления. Примеры обучающих данных включают разговорный египетский и литературный арабский, но карточка не заявляет отдельную специализацию по диалектам. Она подходит для семантического поиска и поиска похожих предложений. Лицензия в предоставленных данных не указана.

NaijaVox-2.0 — модель распознавания речи с открытыми весами, разработанная Axiveri для нигерийских языков и вариантов английского. Она дообучена методом PEFT LoRA на базе OpenAI Whisper large-v3 и предназначена для преобразования аудиозаписей в текст на йоруба, хауса, игбо, нигерийском пиджине и нигерийском английском. Модель содержит около 905,3 млн параметров; в репозитории веса представлены в формате Safetensors. Обучение проводилось на 25 866 примерах из семи наборов данных с применением SpecAugment и добавлением фонового шума. По данным карточки, модель подходит для транскрибации разговоров, интервью, эфиров и голосового ввода, в том числе в шумных условиях и при переключении между языками. Для йоруба заявлена поддержка диакритики. В тестах на небольших выборках WER составил 14,7% для нигерийского пиджина, 19,6% для нигерийского английского, 22,3% для йоруба, 25,8% для хауса и 30,5% для игбо. Модель принимает аудио и выдаёт текст. Качество может зависеть от языка, акцента, шума и условий записи; опубликованные метрики получены на тестах по 50 примеров на язык и не гарантируют аналогичных результатов в других сценариях. Лицензия — Apache-2.0.

Trisert/nerde-14B — объединённая чат-модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit методом SLERP из HuggingFaceH4/zephyr-7b-beta и Nexusflow/Starling-LM-7B-beta. Несмотря на название репозитория, в метаданных указан размер 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста в ответ на запросы; её контекст составляет до 32 768 токенов. Модель распространяется в формате safetensors и рассчитана на работу через библиотеку Transformers. Метаданные и README не сообщают лицензию или результаты оценки качества, поэтому условия использования и сравнительную эффективность установить нельзя.

NeuralFusion-7b-Dare-Ties — текстовая генеративная модель, созданная Kukedlc путём слияния трёх моделей на основе Mistral с помощью LazyMergekit и метода DARE-TIES. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и языковых задач общего назначения. Приведённые в карточке результаты оценивания включают тесты на рассуждение и здравый смысл, в том числе AI2 Reasoning Challenge и HellaSwag. Весовые файлы доступны в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированной отраслевой настройке или ограничениях качества.

NeuralGanesha-7b — объединённая языковая модель на архитектуре Mistral, опубликованная Kukedlc. Она создана методом slerp из Kukedlc/SomeModelsMerge-7b и Kukedlc/MyModelsMerge-7b с помощью LazyMergekit и предназначена для генерации текста на основе текстового запроса. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Доступна по лицензии Apache-2.0. README не описывает специализацию по языкам или предметным областям, поэтому модель можно характеризовать как генеративную общего назначения.

NeuralShiva-7B-DT — объединённая языковая модель на архитектуре Mistral, созданная Kukedlc с помощью LazyMergekit из четырёх моделей: automerger/YamShadow-7B, mlabonne/AlphaMonarch-7B, automerger/OgnoExperiment27-7B и Kukedlc/Jupiter-k-7B-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. Её можно применять для диалогов, написания и продолжения текста, а также ответов на запросы. Метаданные указывают на текстовый ввод и текстовый вывод; сведений о поддерживаемых естественных языках в карточке нет. Весовые файлы представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

OLMo-2-1124-13B-Instruct — разговорная языковая модель Allen Institute for AI (AI2), постобученная на основе OLMo-2 13B. Она прошла supervised fine-tuning на варианте набора Tülu 3 и обучение RLVR; метаданные указывают базовую модель allenai/OLMo-2-1124-13B-Instruct-RLVR2. Модель с плотной архитектурой OLMo 2 содержит 13,2 млрд параметров, использует Transformers и формат safetensors, а её контекст составляет 4096 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям и решение математических задач. Обучение ориентировано преимущественно на английский язык и охватывает разнообразные задачи, включая MATH, GSM8K и IFEval. Модель распространяется по лицензии Apache 2.0. У OLMo-2 ограничено обучение безопасности; без дополнительной фильтрации она может выдавать проблемные ответы, особенно в ответ на соответствующие запросы. Для загрузки через Hugging Face README сообщает о необходимости установить Transformers из основной ветки.

duyntnet/OpenHermes-2.5-Mistral-7B-imatrix-GGUF — набор квантованных версий модели OpenHermes-2.5-Mistral-7B, разработанной Teknium. Модель предназначена для генерации текста и диалогового взаимодействия, включая программирование, создание рецептов, обсуждение абстрактных тем и ролевые сценарии. Идентификатор также указывает на формат GGUF и использование imatrix-квантизации. В основе лежит OpenHermes-2.5-Mistral-7B; размер базовой модели — 7 миллиардов параметров. Модель относится к текстовым, поддерживает английский язык и предназначена для text generation. README не содержит сведений о точной архитектуре, доступных вариантах квантования, размере контекста, системных требованиях или поддерживаемых модальностях помимо текста. Сильные стороны модели — универсальность в диалоговых и генеративных сценариях, а также наличие квантованных вариантов, потенциально удобных для локального запуска. Ограничения включают отсутствие подтверждённых данных о качестве, бенчмарках, многоязычности и фактических требованиях к ресурсам. Лицензия указана как other, без дополнительных условий использования в README.

orca_mini_v9_5_3B-Instruct — плотная авторегрессионная языковая модель семейства Llama, дообученная Pankaj Mathur на основе meta-llama/Llama-3.2-3B-Instruct. Модель предназначена для диалогов и генерации текста; её можно применять для ответов на вопросы, краткого пересказа и помощи в повседневных текстовых задачах. В карточке указаны наборы данных orca_mini_v1_dataset и orca_mini_v8_sharegpt_format. Модель содержит 3,2 млрд параметров, поддерживает контекст до 131 072 токенов и доступна в форматах PyTorch и Safetensors для библиотеки Transformers. Метаданные отмечают английский язык; базовая модель описана как мультиязычная. Лицензия — Llama 3.2 Community License. Как и другие компактные языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется проверять качество и безопасность в целевом сценарии.

GestaltLabs/Ornstein-Hermes-3.6-27B-GGUF — набор GGUF-квантизаций модели GestaltLabs/Ornstein-hermes-3.6-27b, представляющей собой дообученную в формате Hermes версию Ornstein-3.6-27B на базе мультимодальной Qwen 3.6 с 27 млрд параметров. Квантизации подготовлены с помощью llama.cpp; для калибровки K- и I-квантизаций использован imatrix на 800 диалогах с применением инструментов из датасета Acta-Synthetic. Модель предназначена для мультимодальных задач image-text-to-text, диалогового взаимодействия, агентских сценариев, вызова функций и использования внешних инструментов. Она обучена работать с Hermes-форматом function calling и поддерживает tool use; заявлен английский язык. В репозитории доступны варианты от IQ2_M размером около 9,3 ГБ до Q8_0 размером около 26,6 ГБ, что позволяет выбирать баланс между требованиями к памяти и качеством. Более высокие разрядности обеспечивают большую точность, а агрессивные 3- и 2-битные варианты требуют меньше памяти, но заметно снижают качество. Модель распространяется в формате GGUF и совместима с llama.cpp, Ollama и LM Studio. Квантизация ориентирована на распределения данных, характерные для вызова инструментов, что может быть сильной стороной в агентских задачах, однако README не содержит независимых результатов оценки качества, максимального размера контекста и подробностей о поддерживаемых языках помимо английского. Лицензия — Apache 2.0, унаследованная от базовой модели Qwen 3.6.

Pathumma-llm-text-4.0.0 — тайско-английская причинная языковая модель семейства Qwen3.5, разработанная в рамках национальной инициативы ThaiLLM. В README указана версия Pathumma-llm-4b-think-4.0.0: модель содержит 4 млрд параметров и проходит постобучение в два этапа — SFT и DPO. Репозиторий использует Transformers и формат Safetensors; лицензия — Apache-2.0. Модель предназначена для генерации текста в диалогах, следования инструкциям, математических рассуждений и структурированного вызова инструментов на тайском и английском языках. Она может выводить явную цепочку рассуждений перед ответом. Архитектура поддерживает контекст до 262 144 токенов, однако поведение на контекстах существенно длиннее 8 192 токенов в постобучении не проверено.

Это GGUF-квантизированная версия языковой модели Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1, опубликованная и квантизированная пользователем bartowski на основе модели ArliAI. Модель предназначена для генерации текста и может запускаться локально через llama.cpp и LM Studio. В README также указан формат промптов с ролями system, user и assistant. Модель содержит около 3,8 млрд параметров и относится к текстовым моделям; сведения о поддерживаемых языках, максимальной длине контекста и точной архитектуре в README не приведены. Доступны варианты от F16 до различных уровней квантования GGUF, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ3/IQ4. Варианты с более низким размером требуют меньше оперативной памяти, но могут уступать по качеству; Q6_K_L, Q6_K, Q5_K и Q4_K представлены как рекомендуемые, а отдельные варианты оптимизированы для ARM-процессоров. К сильным сторонам относятся широкий выбор квантованных файлов, возможность локального запуска и компромисс между качеством и требованиями к памяти. Ограничения включают отсутствие в предоставленных данных результатов оценки, подробностей обучения, перечня языков, контекстного окна и характеристик мультимодальности. Лицензия модели указана как MIT.

EnlistedGhost/Pixtral-12B-Ollama-GGUF — это мультимодальная модель Pixtral-12B в формате GGUF, адаптированная автором EnlistedGhost для нативной работы с Ollama. Модель основана на mistral-community/pixtral-12b, который, в свою очередь, относится к семейству Pixtral от Mistral. Релиз включает рабочие файлы vision projector (mmproj), поэтому поддерживает обработку текста и изображений. Модель предназначена для диалогового взаимодействия, генерации текста и задач image-text-to-text, включая анализ изображений по текстовым запросам. Заявлена поддержка английского и русского языков. Доступны варианты с разными уровнями квантования GGUF — от наиболее компактных IQ2 и Q2 до Q8_0 и F16, что позволяет выбирать между требованиями к памяти и качеством вывода. Указанный размер модели — 12B параметров; максимальный размер контекста в карточке не приведён. К сильным сторонам относятся готовность к использованию в Ollama без дополнительной настройки и наличие мультимодальной поддержки. Ограничения связаны с использованием квантованных вариантов: качество и требования к ресурсам зависят от выбранного типа квантования. Сведения о точных результатах оценки, аппаратных требованиях и ограничениях применения отсутствуют. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-MOE-2X7B-DeepSeek-Abliterated-UNCensored-19B-gguf — текстовая generative-модель от DavidAU, основанная на архитектуре Qwen2.5 MOE и объединяющая два 7B-компонента DeepSeek/Qwen 2.5: обычный и abliterated (в основном uncensored) варианты. За счёт shared expert итоговый размер составляет немного более 19 млрд параметров. Модель распространяется в формате GGUF и предназначена для генерации текста. Модель ориентирована на универсальное применение: рассуждения и «thinking», решение математических и логических задач, мозговой штурм, ответы на вопросы, создание историй, сюжетов и другого художественного текста. Она поддерживает английский и китайский языки, имеет контекстное окно 128k токенов и, по описанию автора, особенно склонна к математическим, логическим и научным задачам. Архитектура MOE обеспечивает необычное поведение и потенциально более сильное рассуждение по сравнению с отдельной 7B-моделью, но модель не обязательно превосходит полноценные 14B- или 32B-модели. К сильным сторонам относятся широкий диапазон рабочих температур, способность сохранять рассуждение при различных настройках sampling и сочетание reasoning с творческой генерацией. Ограничения включают возможное появление китайских символов при англоязычных запросах, нестабильность рассуждений на высоких температурах и заметную вариативность ответов; для сложных задач может потребоваться несколько генераций или разбиение задачи на этапы. Для корректной работы требуется использовать встроенный Jinja Template, предпочтительно DeepSeek Tokenizer; рекомендуются контекст от 8k токенов и квантизации IQ4/Q4 или выше. Модель распространяется по лицензии Apache-2.0.

legraphista/Qwen2-7B-Instruct-IMat-GGUF — это набор GGUF-версий инструкционной языковой модели Qwen2-7B-Instruct, разработанной командой Qwen и дополнительно квантизированной пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через совместимые с GGUF инструменты и llama.cpp. Модель содержит около 7 миллиардов параметров и создана на основе исходной версии с форматом BF16. Доступны варианты от BF16 и FP16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда низкобитных вариантов применена IMatrix — калибровочная матрица, призванная сохранить качество при уменьшении размера модели. Размеры файлов варьируются примерно от 3,02 до 15,24 ГБ. В карточке указана поддержка английского языка; сведения о контекстном окне и дополнительных модальностях отсутствуют. Основные преимущества — большое количество вариантов квантования, возможность подобрать баланс между размером, требованиями к памяти и качеством, а также поддержка формата GGUF. Низкобитные версии экономичнее по ресурсам, но могут сильнее терять качество по сравнению с BF16 или FP16. Точные характеристики производительности, контекстного окна и поведения на других языках в README не указаны. Модель распространяется по лицензии Apache-2.0.

lucaswychan опубликовал дообученную модель эмбеддингов на основе плотной decoder-only архитектуры Qwen3.0-0.6B. Она предназначена для преобразования текстов в векторные представления и сравнения их семантической близости; в исследовании модель используется для изучения того, как обучение с подкреплением влияет на качество эмбеддингов. README сообщает, что такое начальное обучение не даёт устойчивого преимущества перед базовой моделью после одинакового контрастивного дообучения. Модель содержит 507,9 млн параметров, поддерживает контекст до 32 768 токенов и рассчитана на многоязычные тексты. Для использования доступны форматы Sentence Transformers и Transformers; README рекомендует включить trust_remote_code=True. Лицензия — Apache-2.0. В README описаны результаты исследований на MTEB и BRIGHT, но конкретные численные оценки этой модели не приведены.

MaziyarPanahi/Qwen3-14B-GGUF — это набор файлов модели в формате GGUF для Qwen3-14B. Исходную модель разработала команда Qwen, а конвертацию и публикацию квантованных вариантов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки. В репозитории представлены варианты с квантованием от 2 до 8 бит, что позволяет выбирать компромисс между качеством, размером файлов и требованиями к памяти. Формат GGUF поддерживается, в частности, llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, candle и другими решениями. Это делает модель подходящей для локальных чат-интерфейсов, серверов генерации текста и приложений с OpenAI-совместимым API. README не содержит подробных сведений об архитектуре, поддерживаемых языках, размере контекста, модальностях, результатах оценки или сравнении качества вариантов квантования. Поэтому сильные стороны модели можно связывать с разнообразием уровней квантования и широкой поддержкой локальных инструментов, однако возможное снижение качества на более компактных вариантах следует учитывать. Лицензия в представленном README не указана; условия использования исходной Qwen3-14B и опубликованных квантованных файлов необходимо проверять отдельно.

Qwen3-4B-expert-IF — плотная языковая модель семейства Qwen3 от автора репозитория David6995, дообученная методом supervised fine-tuning на базе Qwen/Qwen3-4B-Base для следования инструкциям. Она предназначена для генерации ответов на текстовые запросы и диалогового использования; метаданные также отмечают интерфейс вызова инструментов. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 65 536 токенов. Репозиторий содержит полные веса BF16, конфигурацию и токенизатор. Модель распространяется по лицензии Apache 2.0. README не описывает обучающие данные, языковой охват или результаты оценки качества, поэтому специализацию и надёжность в конкретных областях оценить по доступным сведениям нельзя.

MaziyarPanahi/Qwen3-4B-GGUF — это набор файлов модели в формате GGUF для базовой модели Qwen3-4B, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты. В репозитории представлены варианты с квантованием 2, 3, 4, 5, 6 и 8 бит. Формат GGUF поддерживается llama.cpp и рядом клиентских приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и candle. Это позволяет использовать модель с аппаратным ускорением, локальным пользовательским интерфейсом или OpenAI-совместимым сервером, в зависимости от выбранного инструмента. К сильным сторонам относятся несколько уровней квантования и широкая совместимость с экосистемой локального инференса, что помогает выбирать баланс между размером файлов, требованиями к памяти и качеством генерации. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках, модальностях, результатах оценки и ограничениях исходной Qwen3-4B. Лицензия в предоставленных данных не указана.

Карточка модели SYGNITOR/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED на Hugging Face совпадает с карточкой DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, поэтому описание составлено по ней. DavidAU собрал эту мультимодальную модель на базе Qwen3.5-9B-heretic-v2: автор сообщает о дообучении через Unsloth на дистиллированном наборе рассуждений Claude 4.6. Модель принимает текст и изображения и генерирует текст; карточка заявляет поддержку vision и диалогового режима. В README указаны 9 млрд параметров, архитектура Qwen3.5 с языковой моделью и vision encoder, а также контекст 262 144 токена с возможностью расширения. Заявленная основная область применения — рассуждения, диалог и анализ изображений; автор также приводит результаты на нескольких тестах и сообщает о снижении отказов. README рекомендует квантизацию не ниже Q4_K_S или IQ3_S с imatrix. Видео не тестировалось. Указанные языки карточки — английский и китайский; более широкая языковая поддержка описана для исходной модели Qwen3.5, но отдельно для этого дообучения не подтверждена. Модель распространяется по лицензии Apache-2.0.

CodeShield/Qwen3.5-9B-Instruct — инструкционная текстовая генеративная модель семейства Qwen, опубликованная на Hugging Face под организацией CodeShield. Модель предназначена для диалогового взаимодействия и генерации текста по инструкциям; для работы предполагается использование библиотеки Transformers. Из идентификатора модели следует размер порядка 9 млрд параметров и ориентация на instruction-tuning, однако подробности архитектуры, обучения и состава данных в доступных материалах не описаны. Модель может применяться для ответов на вопросы, ведения диалога, создания и преобразования текстов, а также в составе приложений на базе conversational AI. Лицензия, поддерживаемые естественные языки и длина контекста в предоставленных данных не указаны. README содержит шаблонную автоматически созданную карточку без результатов оценки и конкретных рекомендаций по использованию, поэтому модель следует дополнительно проверять на качество, безопасность и соответствие задачам перед применением.

Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop-GGUF — набор GGUF-квантизаций модели, опубликованный KevinJK51 на основе модели DavidAU/Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop. Модель относится к семейству Qwen, имеет размер 12B и предназначена для генерации текста и рассуждений в локальных и совместимых с GGUF системах инференса. Указанные языки — английский и китайский. Доступны варианты квантизации от Q8_0 размером 11,57 ГБ до Q2_K размером 4,60 ГБ; Q4_K_M обозначен как оптимальный баланс качества и размера. Модель можно использовать через LM Studio, llama.cpp, Ollama и другие GGUF-совместимые движки. Квантизация снижает требования к памяти, но варианты с меньшим размером могут уступать исходной модели по качеству. Сведения о длине контекста, точной архитектуре, поддержке дополнительных модальностей и результатах независимого тестирования не указаны. Лицензия модели — Apache-2.0.

Qwen3.6-35B-A3B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для работы на устройствах Apple Silicon. В метаданных она обозначена как модель для задач image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекста и полном наборе модальностей в README не приведены. Модель предназначена для локального использования в сценариях, поддерживаемых MLX и LM Studio, включая обработку текстовых и, вероятно, визуально-текстовых запросов. Квантование снижает требования к памяти по сравнению с полной версией и делает модель более подходящей для Apple Silicon, но может уменьшать точность по сравнению с оригинальной моделью. README не содержит результатов тестирования, сведений о производительности и конкретных ограничениях качества. Указана лицензия Apache 2.0; исходная модель принадлежит Qwen, а данная MLX-квантизация предоставлена LM Studio.

Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored-NM-DAU-NEO-MTP-GGUF — крупная fine-tune-модель на базе Qwen3.8 27B, разработанная DavidAU. Она создана с применением многоэтапного обучения и слияния моделей, включая методы Cold Fusion и Fable Fusion, и выпущена в форматах GGUF, включая обычные и MTP-квантизации. Заявлены поддерживаемые языки English и Chinese; метаданные также указывают на сценарий image-text-to-text, однако подробности мультимодальных возможностей в README не приведены. Модель ориентирована на широкий круг задач: рассуждение, решение задач, программирование, творческое письмо, создание художественных текстов и ролевые сценарии. Заявлены пять режимов reasoning и пять instruct-режимов, которые можно переключать через API или непосредственно в сообщениях; instruct-режимы используют ноль reasoning-токенов. Ключевая особенность версии TWIN-TURBO — сокращение объёма рассуждений и расхода токенов по сравнению с базовой Qwen3.8 27B при сохранении детализации, по утверждению автора. Доступны как минимум 4-битные и 8-битные варианты, рассчитанные на запуск на потребительском оборудовании. Сильными сторонами заявлены высокая производительность, сниженное потребление токенов, развитые способности к рассуждению и генерации художественных текстов, а также strongly uncensored-поведение. При этом заявления о превосходстве над другими моделями и результаты benchmark-промежуточного показателя Arc-C приведены автором README и не подтверждены независимыми данными. Ограничения включают возможную специфику сильно нецензурированной настройки, различия качества между квантизациями и отсутствие подробностей о размере контекста, точной архитектуре, системных требованиях и мультимодальном вводе. Лицензия — Apache-2.0.

Baekpica/Qwen3.8-Flash-Next-Mixed-Quant-GGUF — это смешанно-квантизированная GGUF-конверсия базовой модели Qwen/Qwen3.8-Flash-Next, подготовленная Baekpica для запуска на оборудовании с ограниченной памятью, прежде всего NVIDIA DGX Spark с GB10. Модель предназначена для задач генерации и понимания текста, а согласно метаданным также относится к классу image-text-to-text. Репозиторий ориентирован на эксперименты с локальным инференсом, SSD-offload, оптимизацией выполнения и пользовательскими ядрами. Опубликованный вариант MQ-NG5-Q2K-Q4-SPLIT-E4 состоит из четырёх GGUF-шардов общим размером около 98,5 ГБ и содержит 1 756 тензоров. В нём применяются разные форматы точности, включая Q2_K, Q4_K, Q4_0, Q5_1, Q8_0, BF16 и F32; крупная PLE n-gram table объёмом 51,2 млрд параметров хранится в Q5_1, а внутренние routed gate/up-компоненты преимущественно квантизированы в Q2_K. Также описан более компактный калиброванный вариант с IQ2_XXS, но его сборка приостановлена. Точное общее число параметров, размер контекста, список языков и подтверждённые характеристики качества в README не указаны. Сильная сторона модели — существенное снижение требований к памяти за счёт смешанной квантизации при сохранении отдельных крупных или чувствительных компонентов в более высокой точности. При этом качество, поведение runtime и работа на DGX Spark для опубликованного варианта обозначены как предварительные. Используется пользовательская схема GGUF qwen4exp и ветка dfm проекта ds4; совместимость с upstream llama.cpp и другими GGUF-runtime не гарантируется. Лицензия указана как qwen-community-1.0; дополнительные условия следует проверять в лицензии базовой модели Qwen/Qwen3.8-Flash-Next.

Qwen3.8-Flash-Next-MXFP4-FP8 — экспериментальная квантизованная сборка модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель распространяется в формате Hugging Face Transformers и предназначена для задач генерации текста, агентских сценариев и мультимодального ввода с изображениями и видео. В README также указана поддержка вызова инструментов и рассуждений через соответствующие парсеры vLLM. Архитектура включает гибридное внимание с Gated DeltaNet и Qwen Sparse Attention, Gated Residual и N-gram Embedding; базовая модель использует Mixture-of-Experts-компоненты. В этой сборке MTP, attention, N-gram и KV-cache представлены в FP8, а experts — в MXFP4. Общий размер весов составляет около 125,8 ГБ. Конфигурация рассчитана на контекст до 524 288 токенов, поддерживает до 20 изображений и одного видео на запрос; языки и точное число параметров в README не указаны. Сильными сторонами являются экономичное хранение и вычисления за счёт квантизации, оптимизации для длинного контекста, FP8 KV-cache, prefix caching, chunked prefill и speculative decoding. Основные ограничения — запуск заявлен только на GPU AMD AI PRO R9700, требуется специализированный dev-образ vLLM и конфигурация с четырьмя GPU; модель имеет экспериментальный статус. Квантизация выполнена методом Quark RTN, поэтому точность может быть ниже, чем у будущих GPTQ/AWQ-сборок. README рекомендует использовать обновлённую GPTQ Protected Model. Лицензия указана как Apache-2.0 с license_name qwen-community-1.0.

Карточка модели 6534211A/Qwen3-ASR-1.7B на Hugging Face совпадает с карточкой Qwen/Qwen3-ASR-1.7B, поэтому описание составлено по ней. Qwen3-ASR-1.7B — плотная аудиоречевая модель семейства Qwen3-ASR, разработанная командой Qwen. Она распознаёт речь и определяет язык аудио; модель поддерживает 30 естественных языков и 22 китайских диалекта, включая русский, английский, китайский и кантонский. Основана на возможностях аудиопонимания Qwen3-Omni и содержит 1,7 млрд параметров согласно названию модели. Модель предназначена для транскрибации речи в потоковом и офлайн-режимах, в том числе длинных записей, аудио в сложных акустических условиях, пения и песен с фоновой музыкой. В README заявлены сильные результаты на открытых и внутренних тестах; отдельные сравнительные показатели в карточке не приведены. Для потокового распознавания требуется backend vLLM; доступны также интеграции через Transformers и пакет qwen-asr. Веса опубликованы в формате safetensors под лицензией Apache-2.0. Модель принимает аудио и выдаёт распознанный текст. Описанный в README Qwen3-ForcedAligner-0.6B — отдельная модель для временных меток, а не функция данного чекпойнта.

Qwen3-gabliterated-image-generation — дообученная языковая модель компании goonsai-com на базе Goekdeniz-Guelmez/Qwen3-4B-Sky-High-Hermes-gabliterated. Это плотная причинная модель Qwen3 с 3,7 млрд параметров, рассчитанная на генерацию текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 262 144 токена. Модель обучали с использованием Unsloth и библиотеки TRL. Несмотря на название репозитория, README и метаданные описывают текстовую генеративную модель и не подтверждают создание изображений. Модель распространяется под лицензией Apache-2.0. Карточка не приводит сведений о качестве, обучающих данных или специальных ограничениях, поэтому пригодность для конкретных сценариев следует оценивать отдельно.

paulalesius/Qwen3-Reranker-0.6B-GGUF — это GGUF-квантизированная версия модели Qwen3-Reranker-0.6B, разработанной командой Qwen и подготовленной для работы с llama.cpp. Модель предназначена для переранжирования текстовых документов по степени их релевантности запросу в сценариях поиска, retrieval-augmented generation и построения семантических поисковых систем. Она использует архитектуру Qwen3 и cross-encoder-подход с двухклассовой головой, выдающей оценку yes/no для релевантности пары «запрос — документ». README указывает поддержку многоязычных сценариев, но конкретный список языков и размер контекста не приведены. В репозитории доступны варианты NVFP4 размером около 399,5 MiB и Q6_K размером около 472 MiB. Оба файла содержат примерно 595,8 млн параметров и используют гибридное квантование: голова релевантности сохранена в BF16, нормализационные тензоры — в F32, а крупные линейные слои сжаты. Вариант NVFP4 также сохраняет таблицу эмбеддингов в Q8_0. Это уменьшает размер модели относительно BF16 примерно в 2,4–2,9 раза при близком качестве ранжирования; для Q6_K в заявленном тесте корреляция с BF16 была очень высокой, а совпадение решений по порогу 0,5 составило 60 из 60 случаев. Модель подходит для запуска через llama-server с параметром --reranking и endpoint /rerank. Ограничения связаны с тем, что результаты могут зависеть от устройства и используемых CPU/GPU-ядер: в README отмечены заметные различия ранжирования между CPU и GPU на отдельном тестовом наборе. Лицензия — Apache-2.0, как у исходной модели.

Aashraf995/Qwen-Evo-7B — языковая модель на 7,1 млрд параметров, созданная слиянием нескольких предварительно обученных моделей семейства Qwen2 с помощью mergekit и метода Model Stock. В слияние вошли fblgit/cybertron-v4-qw7B-UNAMGS, jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.5 и suayptalha/HomerCreativeAnvita-Mix-Qw7B; последняя использована как базовая. Модель предназначена для генерации текста и диалогового применения, включая ответы на запросы и работу через интерфейс вызова инструментов. Модель использует архитектуру Qwen2ForCausalLM и принимает текст, выдавая текст. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. README не приводит оценок качества или подробных ограничений; характеристики и поведение унаследованы от компонентов слияния.