I.3Извлечение и структурирование данных

Kimi-K2-Thinking-GGUF — это набор квантованных GGUF-версий языковой модели Kimi-K2-Thinking, разработанной moonshotai и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска через llama.cpp, LM Studio и другие совместимые проекты, включая локальный инференс. В набор входят варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и другие, с размером файлов примерно от 283 до 1090 ГБ среди указанных версий. Более крупные варианты обычно обеспечивают более высокое качество, тогда как компактные требуют меньше оперативной памяти, но заметно уступают по качеству; README рекомендует, в частности, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS в зависимости от доступных ресурсов. Сведения об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста в карточке отсутствуют. Преимущество набора — широкий выбор квантований и совместимость с экосистемой llama.cpp. Ограничениями являются очень большие требования к дисковому пространству и памяти даже у наиболее компактных вариантов, а также возможное снижение качества при низком уровне квантования. Формат prompt не указан. Для модели заявлена лицензия modified-MIT, при этом в метаданных также указано значение other; перед использованием следует проверить условия лицензии исходной модели moonshotai/Kimi-K2-Thinking.

zelk12 выпустил объединённую модель Gemma 2 для диалогов и генерации текста. Она создана методом SLERP с помощью mergekit из zelk12/MT2-gemma-2-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1. Модель имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и чат-сценариев, включая ответы на запросы и выполнение инструкций. Репозиторий использует библиотеку Transformers и формат safetensors. В README и метаданных лицензия не описана, поэтому условия использования по ним определить нельзя.

gkraker04/Nanbeige4.2-3B-GGUF — это набор квантованных версий компактной языковой модели Nanbeige4.2-3B, разработанной Nanbeige. Модель предназначена для генерации текста, агентских сценариев и задач, требующих многошагового рассуждения. Она построена на архитектуре Looped Transformer, поддерживает английский и китайский языки и распространяется в формате GGUF для запуска в совместимых средах, включая llama.cpp с поддержкой архитектуры Nanbeige. Репозиторий содержит варианты квантования от Q8_0 до Q2_K и IQ-семейства размером примерно от 1,36 до 4,13 ГБ; исходная версия bf16 занимает 7,77 ГБ. В качестве компромисса между качеством и требованиями к памяти рекомендуется Q4_K_M размером около 2,40 ГБ. Квантование выполнено с использованием importance matrix, что помогает сохранять качество при уменьшении размера. Для Q4_K_M заявлены близкие к bf16 показатели perplexity, однако результаты зависят от типа квантования: при сильном уменьшении разрядности заметно ухудшаются многошаговое рассуждение и точность. Модель подходит для локального запуска на устройствах с ограниченными ресурсами, генерации текста, программирования и экспериментальных агентских приложений. Точные характеристики контекстного окна, сведения о мультимодальности и подробные ограничения исходной модели в README не указаны; по представленным данным это текстовая, а не мультимодальная модель. Репозиторий распространяется по лицензии Apache 2.0.

NeuralsirkrishnaShadow_ShadowYam — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/ShadowYam-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; контекстное окно составляет до 32 768 токенов. Модель подходит для генерации продолжений и ответов по текстовым запросам. Репозиторий распространяет веса в формате Safetensors по лицензии Apache 2.0. README не сообщает о специализации по языкам или прикладным областям.

neurotic-crown-clown-7B-ties — это объединённая методом TIES (Trim, Elect Sign & Merge) модель семейства Mistral, созданная с помощью mergekit на основе NeuralMonarch-7B, AlphaMonarch-7B и jaskier-7b-dpo-v5.6. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ведения беседы, следования инструкциям и рассуждений; базовая NeuralMonarch-7B описана как модель для этих сценариев. Заявленная длина контекста — 32 768 токенов. Основной язык и полный перечень поддерживаемых языков в доступных данных не определены. Модель опубликована под лицензией Apache-2.0. Это слияние нескольких моделей, поэтому качество и поведение могут отличаться от каждой из исходных моделей; количественные оценки качества в карточке не приведены.

DevQuasar/NousResearch.Hermes-4-405B-GGUF — квантизированная версия языковой модели NousResearch/Hermes-4-405B, опубликованная DevQuasar. Модель предназначена для генерации текста и, вероятно, может применяться в задачах диалога, написания и обработки текстов, однако README не содержит подробного описания поддерживаемых сценариев. Известно, что модель относится к классу text-generation и распространяется в формате GGUF. Сведения об архитектуре, количестве параметров, доступных уровнях квантизации, модальностях, языках, размере контекста, производительности и ограничениях в README не приведены. Условия лицензирования также не указаны; для уточнения следует обратиться к исходной модели NousResearch/Hermes-4-405B и материалам публикации DevQuasar.

Это GGUF-квантизированная версия языковой модели Qwen3-Nemotron-32B-RLBFF, разработанной NVIDIA. Квантизацию выполнил пользователь bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты от BF16 и Q8_0 до низкобитных форматов Q6_K, Q5_K_M, Q4_K_M, Q3_K и IQ-семейства. Размер файлов варьируется примерно от 14,93 до 65,53 ГБ; Q4_K_M указан как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как варианты с более высоким качеством. Некоторые версии используют Q8_0 для embedding- и output-весов, а отдельные форматы ориентированы на ARM, AVX или Apple Silicon. Модель подходит для локальной текстовой генерации при наличии значительного объёма оперативной или видеопамяти. Чем агрессивнее квантизация, тем меньше требования к памяти, но тем ниже потенциальное качество. В README не указаны архитектурные детали, поддерживаемые языки, размер контекста, мультимодальные возможности и лицензия, поэтому эти характеристики нельзя достоверно определить по представленным данным.

omniASR-CTC-300M-v2-Zulu-All-v2 — модель распознавания речи на базе Wav2Vec2 с архитектурой CTC, преобразованная из чекпойнта OmniLingual fairseq2 omniASR_CTC_300M_v2. Она принимает аудио и выдаёт распознанную речь в виде текста; выходной слой формирует CTC-логиты по словарю SentencePiece. Модель предназначена для многоязычной транскрибации речи. В конфигурации указаны 24 слоя энкодера и размер скрытого представления 1024; число параметров по метаданным — 413,2 млн. Совпадение численных выходов с исходным чекпойнтом fairseq2 подтверждено на одном отложенном аудиопримере с допуском atol=1e-4. Репозиторий использует формат safetensors и библиотеку Transformers. В карточке не названы конкретные поддерживаемые языки, поэтому их нельзя перечислить. Лицензия в предоставленных данных не указана.

OpenBeagle-11B — разговорная языковая модель семейства Mistral, опубликованная vicgalle. Это плотная авторегрессионная модель на 10,6 млрд параметров для генерации текста и диалога; она использует библиотеку Transformers и веса в формате safetensors. Нативная длина контекста — 32 768 токенов. Модель подходит для ведения диалога и генерации ответов на запросы. В README приведены результаты оценки на Open LLM Leaderboard, включая показатели на задачах AI2 Reasoning Challenge и HellaSwag. Модель выпущена под лицензией Apache-2.0. В метаданных указан датасет OpenHermesPreferences-1k.

OpenBuddy-openbuddy-mistral-22b-v21.1-32k — разговорная языковая модель OpenBuddy для многоязычного чата и генерации текста. Она основана на плотной архитектуре Mistral и содержит 22,1 млрд параметров; карточка рекомендует использовать быстрый токенизатор Transformers и указывает совместимость с Transformers и vLLM. Модель принимает текстовые запросы и генерирует текстовые ответы, а её нативное контекстное окно составляет 65 536 токенов. Модель предназначена для диалоговых сценариев на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Её можно применять для чат-ботов, ответов на вопросы, диалогового письма и суммаризации длинного контекста. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют применять модель в критических сценариях, включая медицину и важные финансовые или юридические решения.

openchat-3.6-8b-20240522-IMat-GGUF — это квантизированная версия языковой модели openchat/openchat-3.6-8b-20240522, подготовленная legraphista в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты llama.cpp. Исходная модель имеет формат BF16 и около 8 миллиардов параметров. Репозиторий предоставляет варианты с разными уровнями квантования — от Q8_0 и Q6_K до Q2_K, а также IQ-кванты. Для ряда вариантов применена IMatrix-квантизация, призванная сохранять качество при уменьшении размера модели; доступны файлы объёмом примерно от 2,99 до 16,07 ГБ. Это позволяет выбирать баланс между требованиями к памяти, скоростью работы и точностью. Модель работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Основные ограничения связаны с потерями качества, возможными при низких уровнях квантования, а также с зависимостью производительности от аппаратного обеспечения и используемого рантайма. Указанная лицензия — llama3. Квантизация выполнена на основе llama.cpp версии b3006; автором квантизированных файлов указан legraphista.

Open-Instruct Dolly 7B — языковая модель Allen Institute for AI (AI2), полученная дообучением 7-миллиардной LLaMA на наборе инструкций Databricks Dolly 15K. Это плотная авторегрессионная модель семейства LLaMA для генерации текста по инструкциям и диалоговых запросов на английском языке. Модель предназначена для ответов на вопросы, следования инструкциям и решения разнообразных текстовых задач; в карточке также приведены результаты оценок на тестах знаний, математики, рассуждений, понимания вопросов и генерации кода. Размер по метаданным — 6,6 млрд параметров, контекст — 2048 токенов. Репозиторий содержит diff весов, поэтому для использования требуется исходная LLaMA в формате Hugging Face и совместимые веса. Модель выпущена в рамках исследования instruction tuning на открытых ресурсах. Указаны лицензия AI model license из LICENSE.txt и исходная лицензия LLaMA; перед применением необходимо учитывать условия обеих лицензий. Карточка не сообщает подробностей о режимах развёртывания или гарантиях качества.

bartowski/open-thoughts_OpenThinker2-32B-GGUF — это набор квантованных GGUF-версий модели OpenThinker2-32B, разработанной open-thoughts. Квантование выполнено bartowski с использованием llama.cpp release b5035 и метода imatrix на основе датасета OpenThoughts2-1M. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio, а также для непосредственного использования через llama.cpp и производные проекты. Модель содержит 32 миллиарда параметров и распространяется в вариантах от BF16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, включая форматы IQ. Размер файлов составляет примерно от 14,39 до 65,54 ГБ. Более высокие уровни квантования обеспечивают качество, близкое к исходной модели, но требуют больше памяти; варианты Q4_K_M и IQ4_XS предлагают компромисс между качеством и требованиями к ресурсам. Поддерживаемые модальности, языки и размер контекста в README не указаны. Для работы рекомендуется использовать формат prompt с ролями system, user и assistant через специальные токены ChatML. Сильными сторонами являются локальный запуск, широкий выбор квантований и совместимость с экосистемой llama.cpp. Ограничения включают необходимость значительных объёмов оперативной или видеопамяти для крупных вариантов, возможное снижение качества у низкобитных квантований и отсутствие в предоставленных данных результатов оценки. Модель и квантованные файлы распространяются по лицензии Apache-2.0.

Ornith-1.5-35B-A3B-Abliterated — вариант модели ornith-ai/Ornith-1.5-35B-A3B, подготовленный разработчиком alztrk. В модели выполнено удаление направлений отказа из активаций скрытых состояний, после чего опубликованы checkpoint Safetensors и набор динамических квантованных сборок GGUF. Модель предназначена для диалоговой генерации текста и запуска через совместимые инструменты, включая llama.cpp и Ollama. Архитектура основана на MoE с 35,8 млрд параметров, из которых около 3,1 млрд активны на токен; в ней 256 экспертов и 40 гибридных слоёв с линейным вниманием DeltaNet и полным вниманием. Родной контекст составляет 262 144 токена. В репозитории есть варианты GGUF Q3_K_M, Q4_K_M и Q5_K_M с динамической квантовкой, а также полноточные веса Safetensors. Метаданные указывают английский, турецкий и китайский языки, а также интерфейс вызова инструментов. Удаление отказов делает модель менее склонной отклонять запросы, но само по себе не гарантирует корректность ответов или безопасное использование. Квантованные варианты требуют меньше памяти, чем полноточные веса, при этом квантование может снижать точность. Лицензия репозитория — Apache-2.0.

Polaris-7B-Preview-GGUF — набор GGUF-квантизованных версий языковой модели Polaris-7B-Preview, разработанной POLARIS-Project и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и может использоваться локально в LM Studio, llama.cpp и других проектах на базе llama.cpp. В набор входят полная версия BF16 и варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3 и Q2 с размером файлов примерно от 3,55 до 15,24 ГБ. Для квантования применялась llama.cpp версии b5697 и метод imatrix. Данные о точной архитектуре, размере контекста, поддерживаемых языках, модальностях и характеристиках базовой модели в README не указаны. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметнее снижать качество генерации. Для работы следует использовать указанный формат приглашений с системным сообщением, пользовательским запросом и ответом ассистента. Модель распространяется по лицензии Apache-2.0.

Mungert/Qwen2.5-1.5B-Instruct-GGUF — набор GGUF-версий инструкционной языковой модели Qwen2.5-1.5B-Instruct, основанной на Qwen/Qwen2.5-1.5B. В README разработчик конкретной сборки не указан. Модель предназначена для генерации текста, чат-взаимодействия и локального инференса на устройствах с ограниченными ресурсами. Доступны варианты с точностью BF16 и F16, а также квантованные версии Q4_K, Q6_K, Q8_0 и IQ3. Квантование уменьшает размер модели и требования к памяти, но может снижать точность. Формат GGUF ориентирован на запуск через совместимые инструменты, включая сценарии инференса на CPU, GPU и устройствах с небольшим объёмом VRAM. README не указывает размер контекстного окна, точную архитектуру и число параметров сверх обозначения 1.5B. Модель поддерживает китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Её сильные стороны — компактность, широкий выбор компромиссов между качеством и потреблением памяти и пригодность для локального использования. Ограничения связаны с небольшим размером и возможным ухудшением качества в низкобитных квантованных вариантах; мультимодальные возможности не заявлены. Лицензия — Apache-2.0.

Qwen2.5-32B-ArliAI-RPMax-v1.3-GGUF — это GGUF-квантизации текстовой генеративной модели Qwen2.5-32B-ArliAI-RPMax-v1.3, разработанной ArliAI. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; модель предназначена для локального запуска и генерации текста, в том числе через LM Studio. Для работы используется формат диалогового промпта с ролями system, user и assistant. Модель имеет размер 32B параметров и доступна в вариантах от исходных весов F16 размером около 65,54 ГБ до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ. В README указаны размеры файлов, приблизительные характеристики качества и варианты, оптимизированные для ARM-процессоров. Наиболее качественными названы F16, Q8_0 и Q6_K_L/Q6_K; Q4_K_M обозначен как вариант типового размера для большинства сценариев, а низкоразрядные варианты подходят системам с ограниченным объёмом оперативной памяти. Сильная сторона набора — широкий выбор компромиссов между качеством, размером и требованиями к оборудованию, а применение imatrix должно помогать сохранять качество при квантизации. Ограничения включают значительные требования к памяти даже для компактных вариантов; некоторые ARM-оптимизированные файлы требуют поддержки sve или i8mm и не предназначены для Mac или Windows. Сведения о языках, длине контекста, точной архитектуре, мультимодальности и специализированных возможностях в README не указаны. Лицензия — Apache-2.0.

BenevolenceMessiah/Qwen2.5-72B-Instruct-abliterated-2x-TIES-v1.0 — объединённая модель на базе семейства Qwen2.5, созданная с помощью mergekit методом TIES. В качестве базовой использована huihui-ai/Qwen2.5-72B-Instruct-abliterated; в объединение также вошли Rombos-LLM-V2.5-Qwen-72b и Dracarys2-72B-Instruct. Модель предназначена для диалогов и генерации текста. Это плотная причинно-языковая архитектура Qwen2 с 71,5 млрд параметров и контекстом до 32 768 токенов; работает через Transformers и распространяется в формате safetensors. Метаданные указывают интерфейс вызова инструментов, однако README не описывает его поведение и надёжность. Изменённое поведение отказов унаследовано от базовой abliterated-модели согласно описанию каталога. README не сообщает результатов оценки качества или конкретных ограничений. Лицензия в предоставленных данных не указана.

Qwen2.5-7B-Ins-v3-GGUF — это квантизированная версия текстовой генеративной модели happzy2633/qwen2.5-7b-ins-v3, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; в README также указан запуск через LM Studio. Рекомендуемый формат промпта использует специальные маркеры ролей system, user и assistant. Доступны варианты от исходных весов F16 размером 15,24 ГБ до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Более высокие уровни обычно сохраняют лучшее качество, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти. Для ARM-процессоров предлагаются специальные варианты Q4_0, требующие поддержки sve или i8mm; некоторые из них не рекомендуются для Mac и Windows. Модель относится к классу 7B, однако точные сведения об архитектуре, поддерживаемых языках, максимальном контексте, мультимодальности, результатах тестирования и ограничениях исходной модели в предоставленном README отсутствуют. Лицензия также не указана, поэтому условия коммерческого и иного использования необходимо уточнять на странице исходной модели.

TeichAI/Qwen3-14B-GPT-5.2-High-Reasoning-Distill — плотная авторегрессионная языковая модель семейства Qwen3 на 14 млрд параметров, дообученная TeichAI на базе unsloth/Qwen3-14B. Модель предназначена для генерации текста и диалогового взаимодействия; карточка также указывает интерфейс вызова инструментов. Длина контекста составляет 40 960 токенов. Модель обучена на наборе TeichAI/gpt-5.2-high-reasoning-250x с использованием Unsloth и библиотеки TRL от Hugging Face. Она может применяться для диалоговых ответов и генерации текста с рассуждениями. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных результатов тестирования.

Qwen3-1.7B-MLX-bf16 — компактная плотная языковая модель семейства Qwen3 с 1,7 млрд параметров, подготовленная lmstudio-community на основе Qwen/Qwen3-1.7B и преобразованная в формат MLX для использования с mlx-lm. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её контекст составляет до 40 960 токенов. В карточке указана лицензия Apache-2.0. README описывает преобразование в MLX, тогда как метаданные указывают формат файлов safetensors.

SeanWang0027/Qwen3-4B-Base-NemotronIF-Reasoning-SFT-10k — плотная языковая модель семейства Qwen3, дообученная автором полным обновлением параметров на 10 000 диалогах для следования инструкциям с включённым рассуждением. В репозитории 3,7 млрд параметров; модель принимает текст и генерирует ответы в формате Qwen3 с блоком рассуждения и итоговым ответом. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалоговых сценариев, где нужно выполнять инструкции, учитывать ограничения запроса и формировать структурированные ответы с рассуждением и самопроверкой. Обучение выполнено на подмножестве датасета NVIDIA Nemotron-Instruction-Following-Chat-v1; использовались также данные SeanWang0027/Nemotron-IF-Chat-v1-reasoning-on-IF-10k. Автор сообщает о корректном формате ответов на 4 из 4 проверенных отложенных запросов, что является ограниченным результатом пилотной проверки, а не широкой оценкой качества. Обучение проводилось только на данных с включённым режимом рассуждения; режим без рассуждения не проверялся. Для генерации автор рекомендует настроить eos_token_id на два завершающих токена и использовать совместимый парсер Qwen3, например в vLLM или sglang. Лицензия модели — Apache-2.0; обучающие данные Nemotron указаны под ODC-BY 1.0.

AbhishekG711 дообучил Qwen3-4B-Instruct-2507 на базе unsloth/qwen3-4b-instruct-2507-unsloth-bnb-4bit. Это плотная языковая модель с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста и диалогового общения; заявлен интерфейс вызова инструментов. В карточке указано, что обучение проводилось с помощью Unsloth и библиотеки TRL. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen3-4B-MLX-8bit — это 8-битная версия модели Qwen3-4B, преобразованная в формат MLX из базовой модели Qwen/Qwen3-4B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и локального запуска в экосистеме MLX, включая диалоговые сценарии и другие задачи, поддерживаемые базовой языковой моделью. Модель содержит около 4 миллиардов параметров и использует 8-битное представление, что может снизить требования к памяти при запуске. Для работы предусмотрена библиотека mlx-lm и токенизатор с поддержкой chat template, если она доступна. README не указывает архитектуру, поддерживаемые языки, длину контекста, мультимодальные возможности, результаты тестирования, сильные стороны или ограничения модели, поэтому эти характеристики нельзя достоверно оценить по представленным данным. Лицензия — Apache 2.0.

aashish1904/Qwen3.5-0.8B-GGUF — квантизированная версия Qwen3.5-0.8B, разработанной командой Qwen и преобразованной в формат GGUF с использованием llama.cpp; квантизацию выполнил GGUF Quantizer Space. Модель предназначена для локального запуска через llama.cpp, Ollama и совместимые инструменты, а исходная модель ориентирована на прототипирование, исследовательские задачи, разработку и специализированное дообучение. Это причинная языковая модель с vision encoder, поддерживающая текстовые и визуальные сценарии. Она содержит 0,8 млрд параметров, 24 слоя и нативный контекст до 262 144 токенов. Архитектура сочетает Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Доступны варианты квантизации от Q2_K до Q8_0: более компактные варианты требуют меньше памяти, но сильнее теряют в качестве, тогда как Q8_0 обеспечивает качество, близкое к исходному. Q4_K_M и Q5_K_M указаны как рекомендуемые сбалансированный и высококачественный варианты. Сильные стороны модели — небольшой размер, возможность эффективного локального запуска, длинный контекст, мультимодальность и широкий языковой охват. Ограничения связаны с малым числом параметров и потерями качества, зависящими от выбранного уровня квантизации; конкретные требования к ресурсам и результаты бенчмарков для этой GGUF-версии в предоставленных данных не приведены. Лицензия в README не указана.

Qwen3.5-27B-ultra-uncensored-heretic-v1 — мультимодальная модель для диалогов и анализа изображений, созданная независимым автором на основе Qwen/Qwen3.5-27B. Автор изменил поведение модели методом abliteration: по приведённой оценке, доля отказов снизилась с 95 до 3 из 100 запросов, а KL-дивергенция относительно исходной модели составила 0,0301. Это вариант для сценариев, где требуется меньше отказов на запросы, которые исходная модель могла бы отклонить. Модель использует плотную архитектуру Qwen3.5 с 27 млрд параметров и поддерживает ввод текста и изображений с генерацией текста. В README указаны контекст 262 144 токена с возможностью расширения до 1 010 000 и широкая языковая поддержка базовой модели; конкретные языки в метаданных этой версии не перечислены. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0. Снижение отказов не гарантирует точность ответов или сохранение всех свойств исходной модели. В приведённом тесте PIQA результаты версии после abliteration немного ниже исходных; оценка в README не заменяет проверку на целевых задачах. Модель предназначена для генерации ответов и понимания изображений, а не для отдельного специализированного домена.

FreedomAISVR/Qwen3.6-35B-A3B-NVFP4-NoMTP-GGUF — пользовательская квантизированная сборка базовой модели Qwen3.6-35B-A3B от команды Alibaba Qwen в формате GGUF для генерации текста и диалогов. Это MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен; сборка использует NVIDIA FP4 с эффективной точностью 4,55 бита на вес и удалёнными головами Multi-Token Prediction. Заявлена поддержка контекста до 131 тыс. токенов и многоязычных задач более чем на 100 языках. Сборка предназначена для локального запуска через llama.cpp на NVIDIA Blackwell, включая видеокарты RTX 50-й серии. В README приведены настройки для GPU с 16 ГБ видеопамяти: эксперты MoE размещаются в системной памяти с помощью --cpu-moe, а внимание остаётся на GPU. Удаление MTP-голов освобождает видеопамять для KV-кэша и весов экспертов. Базовая модель поддерживает использование инструментов; карточка этой сборки подтверждает чат-возможности. Модель подходит для локальных чат-ассистентов и генерации текста на многих языках. Ограничения: заявленный формат NVFP4 нацелен на GPU NVIDIA Blackwell и требует совместимых CUDA-ядер; веса занимают около 19,7 ГБ, поэтому 16-гигабайтной видеокарте требуется выгрузка экспертов в оперативную память. Лицензия базовой модели — Apache 2.0; отдельные условия лицензии этой сборки в предоставленных данных не описаны.

keXjos/Qwen3.8-9B-Distill-mlx-5Bit — это 5-битная версия модели empero-ai/Qwen3.8-9B-Distill, конвертированная в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации текста и локального запуска на устройствах, поддерживающих MLX; в README приведён пример использования через библиотеку mlx-lm. Заявленный язык — английский. Модель связана со сценариями рассуждений, дистилляции, supervised fine-tuning и function calling, однако подробные сведения об архитектуре, точном количестве параметров, размере контекста и поддерживаемых модальностях не указаны. Ключевое преимущество версии — 5-битное представление и адаптация к MLX, что может быть удобно для ресурсоэффективного локального вывода. Ограничения и результаты тестирования в README не приведены. Распространение указано по лицензии Apache 2.0.

Aldaris/Qwen3-8B-Q4_K_M-GGUF — это квантованный вариант базовой модели Qwen/Qwen3-8B, преобразованный пользователем Aldaris в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и локального запуска через llama.cpp, включая командный интерфейс и серверный режим. Модель содержит 8 миллиардов параметров и использует квантование Q4_K_M, что уменьшает требования к ресурсам по сравнению с полноразмерной версией и делает её подходящей для локального вывода на совместимом оборудовании. В README указано использование контекста размером 2048 токенов в примере запуска, однако максимальный размер контекста, архитектура, поддерживаемые языки и дополнительные модальности не описаны. К сильным сторонам относятся переносимость формата GGUF, совместимость с llama.cpp и возможность локального использования. Ограничениями являются потенциальная потеря качества из-за квантования, зависимость от llama.cpp для рекомендованного запуска и отсутствие в представленных данных подробных сведений о возможностях исходной модели. Лицензия — Apache 2.0.

Карточка модели Steve0927/qwen3-embedding-0.6b-lrat-trajectory-graph-calibrated-v1 на Hugging Face совпадает с карточкой Steve0927/qwen3-embedding-0.6b-lrat-annwinner-extrap-a125-soup-a50-v1, поэтому описание составлено по ней. Это плотная модель для поиска по тексту, дообученная Steve0927 на базе Qwen3-Embedding-0.6B в рамках эксперимента для соревнования XIR 1170. Она создаёт эмбеддинги запросов и документов, чтобы находить семантически близкие документы и строить поиск по траекториям. Чекпойнт обучен на 91 324 строках, связанных с траекториями и связями запрос–документ; README сообщает, что внешние запросы, ответы и документы, а также лидербордные запросы и скрытые результаты не использовались.