I.3Извлечение и структурирование данных

Llama-3.1-8B-Instruct-Jbliterated-i1-GGUF — это набор квантизированных моделей в формате GGUF, подготовленный mradermacher на основе ApolloRaines/Llama-3.3-8B-Instruct-128K-Jbliterated. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в совместимых средах для работы с GGUF-файлами. Модель относится к семейству Llama и содержит около 8 млрд параметров. Заявлена поддержка контекста до 128 тысяч токенов, а также английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Это текстовая модель без заявленной поддержки изображений или других модальностей. В репозитории доступны варианты квантования от очень компактных IQ1 до более качественных Q6_K; степень квантования влияет на размер файла, скорость и качество, при этом Q4_K_M обозначен как быстрый рекомендуемый вариант. К сильным сторонам относятся большой контекст, мультиязычность и возможность запуска с разными требованиями к памяти благодаря широкому выбору квантов. Ограничения связаны с потерями качества при низких уровнях квантования, а также с отсутствием подробных результатов тестирования и сведений о фактической производительности. Модель распространяется по лицензии llama3.1; перед использованием следует учитывать условия этой лицензии и особенности базовой модели.

bunnycore/Llama-3.2-3B-Deep-Test — объединённая языковая модель разработчика bunnycore, созданная из четырёх моделей семейства Llama с помощью mergekit и метода DARE TIES. В качестве базовой использована bunnycore/Llama-3.2-3B-RP-DeepThink; в объединение также вошли bunnycore/Llama-3.2-3B-All-Mix, bunnycore/Smol-Llama-3.2-3B и prithivMLmods/Llama-Deepsync-3B. Модель с архитектурой LlamaForCausalLM содержит 3,2 млрд параметров, принимает текст и генерирует текст. Заявленная длина контекста — 131 072 токена. Подходит для диалогов, ролевых сценариев, развёрнутых рассуждений, ответов на вопросы и суммаризации. Модель распространяется в формате safetensors для Transformers; условия лицензии в предоставленных данных не приведены.

Llama-3-Chinese-8B-Instruct-v2 — диалоговая языковая модель семейства Llama 3, разработанная HFL на основе Meta-Llama-3-8B-Instruct и дообученная на 5 млн инструкционных примеров. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста в формате инструкций и чата. Модель подходит для диалогов, ответов на вопросы и других сценариев, где нужен ассистент, понимающий китайский и английский языки. Контекст составляет до 8192 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не приводит сравнительных результатов или конкретных ограничений качества; характеристики базовой модели не следует автоматически считать подтверждёнными для этой дообученной версии.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_30Pastiche — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_30Pastiche-7B. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов; контекст — до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не приводит сведений о специальной предметной области или языковом профиле, поэтому модель описывается как универсальная. Практические ограничения и оценка качества в карточке не раскрыты.

Marin 8B Base — базовая языковая модель для генерации текста, разработанная сообществом marin-community. Данный репозиторий содержит её квантованные версии в формате GGUF, подготовленные mradermacher с использованием imatrix-квантования. Модель ориентирована на работу с англоязычным текстом и предназначена для локального запуска в совместимых инструментах и библиотеках. Модель обучалась на смеси наборов данных, включающей Dolmino и OLMo Mix, StarCoderData, Proof-Pile-2, MegaWika, DCLM, FineMath, материалы ar5iv, научные вопросы, Stack Exchange и Wikipedia. Это делает её пригодной для общих задач генерации и продолжения текста, работы с техническими и научными материалами, программным кодом и структурированным контентом. Из доступных данных известно, что это модель примерно на 8 миллиардов параметров; сведения об архитектуре, размере контекста и поддержке дополнительных модальностей не указаны. Репозиторий предлагает широкий диапазон квантований с размером файлов примерно от 2,1 до 6,7 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; в README в качестве сбалансированных вариантов отмечены i1-Q4_K_S и i1-Q4_K_M, а i1-Q6_K описан как близкий к статическому Q6_K по качеству. Модель является базовой, поэтому её возможности диалогового взаимодействия и следования инструкциям отдельно не заявлены. Распространение выполняется по лицензии Apache 2.0.

MaziyarPanahi/MeliodasPercival_01_T3qm7xExperiment26 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов по текстовому запросу, включая работу с длинным контекстом до 32 768 токенов. Модель создана слиянием automerger/MeliodasPercival_01-7B и automerger/T3qm7xExperiment26-7B. Модель распространяется в формате safetensors по лицензии Apache-2.0. В предоставленных материалах нет сведений о специальной предметной области или языках, на которых она оптимизирована.

MeliodasPercival_01_YamExperiment28 — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamExperiment28-7B. Она предназначена для генерации текста и диалогов, а контекст поддерживает до 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает специальные предметные области или ограничения качества; применимость следует оценивать на задачах пользователя.

model_007 — плотная языковая модель семейства Llama 2 примерно на 70 млрд параметров, разработанная Pankaj Mathur. Это гибридная модель для следования инструкциям и ответов с объяснениями; в карточке приведены форматы запросов Orca и Alpaca. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной 4096 токенов. Для дообучения использованы наборы Open-Platypus, Alpaca, WizardLM, Dolly-V2, Dolphin и их варианты Orca. Модель подходит для диалоговых помощников, ответов на вопросы, выполнения текстовых инструкций и рассуждений. В README приведены результаты оценки на наборах ARC и HellaSwag. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неуместный текст; факты следует перепроверять. Для использования указана лицензия Llama 2. README сообщает, что загрузка в 4-битном режиме требует около 45 ГБ видеопамяти.

Y-J-Ju/ModernBERT-base-ColBERT — англоязычная модель поиска и ранжирования документов, созданная с помощью PyLate дообучением answerdotai/ModernBERT-base. Она кодирует запросы и документы в последовательности плотных 128-мерных векторов и сопоставляет их оператором MaxSim; в README указана архитектура ColBERT с ModernBERT и линейным слоем проекции с 768 до 128 измерений. Модель рассчитана на документы длиной до 180 токенов и запросы до 32 токенов; контекст базовой архитектуры — 8192 токена. Её можно применять для семантического поиска по коллекции документов и для повторного ранжирования кандидатов, полученных на первом этапе поиска. Обучение описано как дистилляция на данных для поиска; метаданные указывают датасет lightonai/ms-marco-en-bge и 808 728 примеров. В README приведены результаты nDCG@10 на нескольких наборах оценки, но они не гарантируют аналогичного качества на других данных. Модель использует библиотеку PyLate и опубликована в формате safetensors; лицензия в предоставленных сведениях не указана.

Moonlight-16B-A3B-Instruct-MXFP4_MOE-GGUF — квантованная в формате GGUF модель Moonlight-16B-A3B-Instruct, опубликованная пользователем noctrex. Это чат-модель для генерации текста и выполнения инструкций на основе архитектуры Mixture-of-Experts; она имеет 16 млрд общих и около 3 млрд активных параметров. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Вариант MXFP4_MOE использует квантование MXFP4 и распространяется в формате GGUF. Сведения о поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

zelk12 опубликовал объединённую модель MT3-IMA-gemma-2-9B, созданную с помощью mergekit из двух предварительно обученных моделей Gemma 2. Для объединения применён метод SLERP с параметром t=0.5; веса представлены в формате bfloat16 и safetensors. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций. Это плотная причинная языковая модель Gemma 2 с 9 млрд параметров и контекстом 8192 токена, работающая через библиотеку Transformers. Языковая специализация в предоставленных данных не указана. Лицензия в предоставленных источниках не описана. Как и у других объединённых моделей, качество и поведение могут отличаться от исходных моделей; отдельные оценки качества в карточке не приведены.

Карточка модели google/mt5-xxl на Hugging Face совпадает с карточкой google/mt5-small, поэтому описание составлено по ней. mT5-small — компактная многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5, содержащая 157,4 млн параметров. Она предварительно обучена на корпусе mC4, охватывающем 101 язык, в формате преобразования текста в текст; контрольные точки доступны в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. Модель служит базой для дообучения под конкретные задачи NLP: например, суммаризацию, перевод или ответы на вопросы. Сам чекпойнт проходил только предварительное обучение без supervised-настройки, поэтому для качественного решения прикладных задач его следует дообучить. Поддержка языков включает русский и английский, а также множество других языков.

munin-neuralbeagle-7b-density-low — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров, созданная командой merge-crew методом слияния LazyMergekit. В конфигурации указаны munin-7b-alpha и mlabonne/NeuralBeagle14-7B, метод слияния dare_ties, плотность 0,3 и вес 0,6 для NeuralBeagle; итоговый тип данных — bfloat16. Модель предназначена для генерации текста, диалогов и ответов на инструкции. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов. Описание базовой NeuralBeagle указывает на диалоги, следование инструкциям, рассуждения и творческую генерацию, но README не приводит отдельных оценок качества именно этого слияния. В метаданных указана лицензия? Нет сведений о лицензии в предоставленных данных, поэтому условия использования установить нельзя.

Nemotron 3.5 ASR — мультиязычная модель автоматического распознавания речи, разработанная NVIDIA. Модель содержит 600 млн параметров и использует архитектуру Cache-Aware FastConformer-RNNT для потоковой и пакетной транскрипции: она обрабатывает новые аудиофрагменты, переиспользуя кэшированный контекст. Размер фрагмента можно настраивать от 80 до 1120 мс, что позволяет выбирать баланс между задержкой и точностью. Вывод включает пунктуацию и заглавные буквы; при режиме auto модель также может определять язык речи и добавлять языковую метку. Модель транскрибирует речь на 32 локалях без дополнительной адаптации: 19 локалей заявлены как готовые для транскрипции с наивысшей точностью, ещё 13 обеспечивают широкое покрытие. Для восьми дополнительных локалей требуется дообучение на предметных данных. Поддерживаются, среди прочего, русский, английский, испанский, французский, арабский, японский и китайский языки. Модель рассчитана на голосовых агентов, обработку аудиопотоков с низкой задержкой и пакетную расшифровку записей. В README указана готовность к коммерческому использованию; метаданные обозначают лицензию как other, поэтому перед использованием следует проверить её условия в репозитории.

Nemotron-Labs-Diffusion-VLM-8B — мультимодальная модель NVIDIA, расширяющая семейство Nemotron-Labs-Diffusion для работы с изображениями и текстом. Она принимает изображения и текст в чередующихся фрагментах и генерирует текст. Модель содержит 8 млрд параметров и использует плотную архитектуру: языковой блок на 34 слоя с размерностью 4096 и визуальный энкодер в стиле Pixtral на 24 слоя с размерностью 1024. Поддерживаются изображения размером до 1540 × 1540 пикселей и контекст длиной до 262 144 токенов. Языковая часть поддерживает авторегрессионный режим, диффузионное декодирование и self-speculation. При диффузионном декодировании модель может формировать блоки токенов параллельно, а затем проверять их авторегрессионно, используя общий KV-кэш. Это позволяет применять модель для диалога и ответов на вопросы по изображениям, сохраняя разные режимы генерации текста. Для работы README указывает Transformers версии 5.0.0 или новее. Лицензия обозначена как other; условия использования следует сверять с условиями NVIDIA.

NeuralDareBeagle-7B-slerp — объединённая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit путём слияния NeuralBeagle14-7B и DareBeagle-7B-v2 методом SLERP. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и может использоваться для диалогов, ответов на запросы и создания текстовых материалов. Карточка приводит результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag, но не описывает отдельные языковые или предметные специализации. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Etherll разработала бинарный классификатор аудио на базе Whisper, дообученный от unsloth/whisper-small. Модель с 153,1 млн параметров определяет, содержит ли запись речи значимый фоновый шум окружающей среды: LABEL_0 означает clean, LABEL_1 — noisy. Для обучения использован специально собранный набор примерно из 55 тысяч аудиофрагментов. Модель предназначена для предварительной фильтрации аудиодатасетов, автоматической маркировки записей при контроле качества и отбора аудио перед передачей в систему распознавания речи. Она принимает аудио и возвращает метку класса. Лицензия — Apache-2.0. Классификатор считает чистыми не только качественные записи, но и записи с артефактами источника, такими как шипение, клиппинг или плохое качество микрофона. Он выявляет именно фоновый шум окружающей среды, например автомобили, музыку или другие голоса. Модель не подавляет шум и не очищает аудио.

NoromaidxOpenGPT4-2 — текстовая генеративная модель, созданная NeverSleep слиянием моделей Noromaid-8x7b-Instruct и Open_Gpt4_8x7B_v0.2 методом TIES. В карточке указано, что при слиянии Open_Gpt4_8x7B_v0.2 использовалась как базовая модель; в метаданных также перечислены Mixtral-8x7B-Instruct-v0.1 и Noromaid-v0.1-mixtral-8x7b-Instruct-v3 как компоненты слияния. Модель основана на архитектуре Mixtral с разреженной смесью экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста по инструкциям и диалоговых сценариев; README показывает шаблоны Alpaca и Mistral. Доступны веса в формате safetensors, а для использования требуется учитывать совместимую библиотеку Transformers. Лицензия — CC-BY-NC-4.0, поэтому коммерческое использование ограничено условиями лицензии. Метка NSFW в метаданных указывает на возможность взрослого контента; перед применением следует учитывать требования к модерации и аудитории.

NVIDIA Nemotron 3.5 Lightning 30B-A3B GGUF — это набор общественных GGUF-квантизаций базовой модели NVIDIA Nemotron 3.5 Lightning 30B-A3B-BF16, опубликованный пользователем vcruz305. Модель предназначена для генерации текста и локального запуска через совместимые движки, включая llama.cpp. Она использует MoE-архитектуру с заявленным размером 30B-A3B и стандартной 52-слойной инференс-моделью. При преобразовании в GGUF дополнительная MTP prediction head была удалена; опубликованные файлы прошли проверку загрузки и генерации. Доступны варианты от смешанных низкобитных квантизаций 2.47 BPW и 2.97 BPW до MXFP4_MOE, IQ4_NL, Q4_0, Q5_0 и Q8_0. Размер файлов составляет примерно от 9,76 до 33,59 ГБ, поэтому требования к видеопамяти зависят от выбранной квантизации, длины контекста, KV-кэша и настроек запуска. Для систем с 24 ГБ VRAM подходят MXFP4_MOE, IQ4_NL и Q4_0, а Q8_0 рассчитан преимущественно на видеокарты с 40–48 ГБ памяти и более. Языки, максимальная длина контекста и мультимодальные возможности в README не указаны. Сильные стороны набора — широкий выбор компромиссов между качеством, размером и скоростью, поддержка локального инференса и успешные тесты на видеокартах с разным объёмом памяти. Для агентных сценариев автор рекомендует MXFP4_MOE: в описанных детерминированных тестах она показала лучший результат. Ограничения включают зависимость производительности от оборудования и версии llama.cpp, необходимость частичной выгрузки на GPU для некоторых конфигураций, а также отсутствие формального сравнительного теста качества. Модель распространяется по лицензии openmdw-1.1; это сторонние квантизации базовой модели, а не оригинальный релиз NVIDIA.

Модель opensearch-neural-sparse-encoding-doc-v2-distill разработана участниками OpenSearch для поиска по документам. Это разреженный энкодер на базе DistilBERT с 67 млн параметров, обученный для поиска и извлечения документов. Он преобразует документ в разреженный вектор размерности 30 522: индексы ненулевых элементов соответствуют токенам словаря, а значения отражают их важность. Для запроса в описанном сценарии используется токенизатор и таблица весов, а релевантность вычисляется как скалярное произведение векторов запроса и документа. Модель предназначена для семантического поиска и поиска фрагментов в корпусах документов, в том числе в OpenSearch с обратным индексом Lucene. В сравнении на подмножестве BEIR модель показала средний NDCG@10 0,528; результаты различаются по наборам данных. Поддерживается английский язык, контекст — до 512 токенов. Репозиторий предоставляет веса PyTorch и Safetensors, модель совместима с Sentence Transformers и API Hugging Face. Лицензия — Apache 2.0.

Q3.6-27B-DS-v4-Flash-DA-GGUF — экспериментальная GGUF-версия модели, разработанная prithivMLmods. В её основе — Qwen/Qwen3.6-27B и производная prithivMLmods/Qwen3.6-27B-abliterated-rMAX; модель дополнительно обучалась на дистиллированных рассуждениях DeepSeek V4 Flash с применением анализа и абляции направлений отказа. Заявленная цель — улучшить подробное контекстное рассуждение и следование инструкциям при снижении внутренних механизмов отказа. Модель предназначена для генерации текста, исследовательских и учебных экспериментов, а также сценариев, где важны рассуждение и развёрнутые ответы. В репозитории представлены варианты в форматах BF16, F16 и различных степенях квантования Q2_K–Q8_0; размеры файлов составляют примерно от 10,7 до 53,8 ГБ. В метаданных указан английский язык. Также доступны файлы mmproj, что указывает на заявленную поддержку мультимодального режима, однако подробности о поддерживаемых модальностях, размере контекста и фактических возможностях обработки изображений не приведены. К сильным сторонам относятся фокус на reasoning, контекстно-зависимые ответы и instruction following. Ограничения включают экспериментальный статус, возможное появление артефактов и сниженные механизмы отказа, из-за чего модель может генерировать чувствительный или неограниченный контент. Использование заявлено для исследований и обучения; модель распространяется по лицензии Apache-2.0.

Qwen2.5-14B_Uncensored_Instruct-GGUF — это набор квантизированных GGUF-версий инструкционной текстовой модели Qwen2.5-14B_Uncensored_Instruct, разработанной SicariusSicariiStuff и преобразованной в квантизации пользователем bartowski с помощью llama.cpp и imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, а также для локального запуска через совместимые инструменты, включая LM Studio. В README указан английский язык модели и формат чата с ролями system, user и assistant. Модель имеет 14 миллиардов параметров. Доступны версии от F16 до Q3 и IQ3 с разными компромиссами между качеством, размером файлов и требованиями к оперативной памяти; размеры указанных вариантов составляют примерно от 6,92 до 29,55 ГБ. Некоторые версии оптимизированы для ARM-инференса и требуют поддержки sve или i8mm. Более высокие разрядности обычно обеспечивают лучшее сохранение качества, тогда как варианты с меньшим размером подходят для систем с ограниченной памятью. Это текстовая модель без заявленной поддержки изображений или других модальностей. Контекстное окно, точная архитектура, производительность и дополнительные языки в README не указаны, поэтому их нельзя достоверно оценить. Условия использования указаны как лицензия Apache-2.0.

Qwen2.5-32B — базовая языковая модель компании Qwen, обученная на этапе предварительного обучения. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Контекст составляет 131 072 токена. Модель предназначена для дальнейшего дообучения и построения систем генерации текста. Семейство поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, японский и арабский. Для этой базовой версии README не рекомендует непосредственное применение в диалогах; для чат-сценариев требуется последующее обучение, например SFT или RLHF. В README также отмечены сильные возможности семейства в следовании инструкциям, коде, математике и генерации структурированных ответов, однако эти улучшения описаны для Qwen2.5 в целом. Модель распространяется под лицензией Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.37.0 могут не распознавать архитектуру qwen2.

Qwen2.5-32B-AGI-GGUF — это GGUF-квантизация модели Qwen2.5-32B-AGI, подготовленная разработчиком bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Указаны языки Chinese и English, однако подробное описание исходной модели и её специализации в README отсутствует. Модель основана на архитектуре Qwen2.5 и содержит 32B параметров. Доступны варианты от F16 до низкобитных форматов Q2 и Q3, а также варианты Q4–Q8, что позволяет выбирать между качеством ответов и требованиями к памяти. Рекомендуемыми названы некоторые варианты Q4–Q6; отдельные сборки оптимизированы для ARM-процессоров и требуют соответствующих аппаратных инструкций. Контекстное окно, поддерживаемые модальности, точные сценарии применения и дополнительные характеристики не указаны. Распространение заявлено по лицензии Apache-2.0. Ограничения связаны прежде всего с потерей качества при агрессивной квантизации и различиями в требованиях к памяти; низкобитные варианты подходят для устройств с ограниченными ресурсами, но могут заметно уступать более крупным форматам.

bartowski/Qwen2.5-32B-Peganum-v0.1-GGUF — набор GGUF-квантизаций текстовой генеративной модели Qwen2.5-32B-Peganum-v0.1, разработанной Nohobby. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и обработки текста, включая диалоговые и другие сценарии, поддерживаемые базовой моделью. В README указан английский язык; сведения о других языках отсутствуют. Модель основана на архитектуре Qwen2.5 с размером 32 млрд параметров, однако точные архитектурные характеристики, размер контекстного окна, поддерживаемые модальности и результаты оценки не указаны. Доступны варианты от F16 до более компактных Q3/Q4/Q5/Q6/Q8-квантизаций с разным компромиссом между качеством и требованиями к памяти; рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M и Q6_K. Файлы предназначены для запуска через llama.cpp и LM Studio. В README не указан формат промпта, поэтому его следует уточнять по странице исходной модели. Лицензия — Apache-2.0.

Это полноразмерный объединённый чекпойнт Qwen2.5-3B-Instruct, дообученный и опубликованный gradients-io-tournaments. Модель построена на архитектуре Qwen2ForCausalLM и содержит около 3,1 млрд параметров; веса представлены в формате safetensors, точность — bfloat16. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текста. Её можно использовать для создания ответов, черновиков и структурированного текста в приложениях на базе Transformers. В карточке не описаны конкретная специализация дообучения, используемые языки или оценка качества, поэтому назначение за пределами общего текстового общения не уточняется. Лицензия в предоставленных данных не указана.

HarithSami дообучил эту плотную языковую модель на основе unsloth/qwen2.5-7b-instruct. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс для вызова инструментов. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face. Доступны веса в формате safetensors. Лицензия — Apache-2.0. Данные описания не уточняют, на каких именно данных выполнялось дообучение и насколько хорошо модель справляется с конкретными задачами или языками.

Sakalti/Qwen2.5-7B-Mini — языковая модель, созданная автором репозитория с помощью mergekit методом Model Stock на основе Qwen/Qwen2.5-7B-Instruct. В конфигурации указано объединение диапазонов слоёв исходной модели; в метаданных размер модели указан как 2,2 млрд параметров, а формат весов — safetensors. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Метаданные также отмечают интерфейс вызова инструментов, но README не описывает его применение или качество. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-122B-A10B-abliterix-NVFP4 — квантизированная версия базовой модели wangzhang/Qwen3.5-122B-A10B-abliterix, подготовленная пользователем bjk110. Это текстовая MoE-модель для генерации текста и инференса через vLLM на оборудовании NVIDIA Blackwell, включая DGX Spark GB10 с архитектурой SM121. Поведение Abliterix описывается как uncensored: заявлена частота отказов 0,5%, а KL-дивергенция относительно базовой Qwen3.5-122B-A10B составляет 0,0115. Модель содержит 122 млрд параметров при 10 млрд активных параметров и использует NVFP4-квантизацию W4A4 с группами по 16 элементов, симметричным групповым масштабированием и динамической квантизацией активаций. Формат compressed-tensors совместим с vLLM; 37 056 слоёв используют NVFP4, а 471 слой сохранён в BF16. Размер на диске составляет около 70,4 ГБ вместо примерно 230 ГБ для BF16-версии, что оставляет больше памяти для KV-кэша и позволяет запускать модель на двух узлах DGX Spark. В README указана конфигурация с tensor parallelism 2, FlashInfer-CUTLASS NVFP4 MoE backend и контекстом до 32 768 токенов. Сильные стороны модели — существенно сниженное потребление памяти, поддержка высокопроизводительного NVFP4-бэкенда на Blackwell и сохранение заявленного uncensored-поведения базовой Abliterix-модели. Ограничения включают зависимость от совместимого стека vLLM, аппаратуры NVIDIA Blackwell и распределённого запуска; в README не указаны точные языки, результаты стандартных бенчмарков и подробные характеристики контекстного окна базовой модели. Лицензия — Apache-2.0.

MuXodious/Qwen3.5-4B-ARA-heresy-v2 — мультимодальная модель для диалога и понимания изображений, созданная на основе Qwen/Qwen3.5-4B. Разработчик применил к ней abliteration методом ARA с инструментарием Heretic; README сообщает, что исходная доля отказов в тестовом наборе снизилась со 103 из 104 до 6 из 104, а KL-дивергенция составила 0,0708. Модель принимает текст и изображения и генерирует текст. В основе — плотная архитектура Qwen3.5 с 4 млрд параметров и визуальным энкодером; заявленная базовой моделью длина контекста — 262 144 токена, с возможностью расширения. Карточка указывает поддержку 201 языка и диалектов для базовой модели, но не уточняет, как abliteration повлиял на языковые возможности этой версии. Модель предназначена для диалога, визуальных вопросов и ответов, рассуждений и использования инструментов. Снижение отказов может сделать её пригодной для запросов, на которые исходная модель отказывалась отвечать, но результаты теста не гарантируют полноту или точность ответов. Лицензия — Apache-2.0.