I.3Извлечение и структурирование данных

MobileCLIP-B — модель семейства CLIP, разработанная Apple и представленная в исследовании «MobileCLIP: Fast Image-Text Models through Multi-Modal Reinforced Training» (CVPR 2024). Этот репозиторий содержит чекпойнт MobileCLIP-B для библиотеки timm в формате PyTorch; модель сопоставляет изображения и текст и предназначена для быстрого визуально-текстового поиска и классификации с нулевым обучением на целевых классах. Вариант MobileCLIP-B (LT) показывает точность top-1 77,2% на ImageNet в режиме zero-shot. Модель принимает изображения и текстовые описания, а на выходе формирует представления для сопоставления и оценки сходства. README также приводит результаты меньших вариантов семейства, но не раскрывает размер и скорость именно этого чекпойнта MobileCLIP-B. Поддерживаемые языки отдельно не перечислены; обучение описано как мультимодальное, без уточнения языкового охвата. Лицензия — apple-amlr. Модель может ошибаться при переносе на категории и данные, отличающиеся от оценочных наборов; точность зависит от формулировок текстовых меток и характеристик изображений.

Moonshine Tiny PT v08 — дообученная модель распознавания речи на базе aomocelin/moonshine_tiny_pt_v05. Она предназначена для преобразования аудио в текст; архитектура — MoonshineForConditionalGeneration, файлы модели представлены в формате safetensors. В README приведены результаты оценки: loss 0,4744 и WER 5,8564, однако описание набора данных и условий оценки отсутствует. Контекст модели составляет 194 токена. Модель распространяется по лицензии MIT.

Clevyby/Mythomax-L2-13b-Q4_K_M-GGUF — это квантизированная версия модели MythoMax-L2-13b, разработанной Gryphe. Репозиторий содержит вариант в формате GGUF с уровнем квантования Q4_K_M; квантизацию выполнил mradermacher. Модель предназначена для запуска с использованием совместимых инструментов, включая Text Generation WebUI и llamacpp_hf. Модель относится к классу больших языковых моделей размером 13 млрд параметров и ориентирована на работу с текстом на английском языке. В README не указаны сведения о точной архитектуре, размере контекста, поддерживаемых модальностях, результатах тестирования, сильных сторонах и ограничениях. Формат Q4_K_M уменьшает требования к памяти по сравнению с полноразмерной версией, но может снижать точность по сравнению с исходной моделью. Лицензия обозначена как other, без дополнительных условий в предоставленных данных.

Модель tristayqc/my_zh_CN_asr_cv13_model — дообученная версия Wav2Vec2-large-XLSR-53 для распознавания речи на китайском языке с преобразованием аудиозаписей в текст. Её разработали на основе jonatasgrosman/wav2vec2-large-xlsr-53-chinese-zh-cn и дообучили на Common Voice 13.0. Архитектура — Wav2Vec2ForCTC, размер — 406,2 млн параметров; модель принимает аудио и выдаёт текст. Модель подходит для автоматической расшифровки китайской речи, в том числе записей, похожих на данные Common Voice. В README указаны результаты на тестовой выборке: CER 0,0674 и WER 0,375. Модель распространяется по лицензии Apache-2.0.

BigBubba-Qwen3.6-27B-GGUF — это квантизированная версия модели BigBubba-Qwen3.6-27B, разработанной nbeerbower и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и мультимодальных сценариев с анализом изображений при наличии отдельного файла mmproj. Заявлена поддержка английского и китайского языков. Модель содержит около 27,4 млрд параметров, поддерживает текстовый и графический ввод, а также MTP. В репозитории доступны варианты от исходных BF16-весов до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3; это позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Для большинства сценариев предлагается вариант Q4_K_M размером около 17,77 ГБ, а варианты Q6_K_L и Q6_K позиционируются как решения с очень высоким качеством. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска через совместимые инструменты llama.cpp и поддержка изображений. Ограничениями выступают значительный размер модели, необходимость подходящего объёма оперативной или видеопамяти и использование отдельного mmproj-файла для мультимодального режима. Длина контекста и более подробные характеристики архитектуры в README не указаны. Модель распространяется по лицензии Apache-2.0.

NbAiLab/NbAiLab норвежская команда разработала эту модель распознавания речи на основе XLS-R от Facebook/Meta, дообучив её для новонорвежского письменного языка (нюношк). Модель использует архитектуру Wav2Vec2ForCTC и содержит 1,3 млрд параметров; она принимает аудио и преобразует речь в текст. Для обучения использовался Norwegian Parliamentary Speech Corpus (NPSC), опубликованный в формате набора данных NbAiLab/NPSC. Модель предназначена для автоматической транскрибации речи на нюношке, в том числе парламентских выступлений. На тестовом наборе авторы сообщают WER 11,32% и CER 4,02% при декодировании с 5-граммовой языковой моделью KenLM; без языковой модели WER составляет 13,64%. Качество на других доменах и типах аудио может отличаться. Модель распространяется по лицензии Apache-2.0.

NeuralPipe-7B — слитая модель для генерации текста, созданная Mlabonne с помощью mergekit на основе OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B. Она объединяет веса двух моделей архитектуры Mistral методом SLERP и предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В README приведены результаты оценки на задачах рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Репозиторий использует формат safetensors; лицензия — Apache 2.0. Сведения о поддерживаемых языках и специализированных областях применения не приведены.

Kukedlc/NeuralStockFusion-7b — слитая с помощью mergekit методом Model Stock языковая модель на архитектуре Mistral. В объединение вошли Kukedlc/NeuralArjuna-7B-DT, Kukedlc/NeuralMaths-Experiment-7b, Kukedlc/NeuralSirKrishna-7b и Kukedlc/NeuralSynthesis-7B-v0.1; базовой моделью при слиянии была Kukedlc/NeuralSirKrishna-7b. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов. Контекстное окно — 32 768 токенов; файлы представлены в формате safetensors, библиотека — Transformers. Модель подходит для диалоговых сценариев и генерации текста общего назначения, включая задачи, отражённые в объединённых моделях, такие как математика и синтез текста. Каталог характеризует базовую модель как англоязычную и испаноязычную; отдельного подтверждения поддержки других языков нет. Лицензия — Apache-2.0.

Nex-N2.5-mini-GGUF — это квантизированная версия мультимодальной модели Nex-N2.5-mini, разработанной nex-agi и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для обработки текста и изображений; для работы с изображениями требуется файл mmproj. Она может использоваться в локальных сценариях генерации текста и анализа визуального содержимого, совместимых с llama.cpp. Модель содержит 35 млрд параметров. В набор входят варианты с разной степенью квантизации — от BF16 и Q8_0 до Q2_K и IQ2_M, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Для большинства сценариев README рекомендует вариант Q4_K_M размером 22,32 ГБ как компромисс между качеством и производительностью; более высокие уровни квантизации обеспечивают качество, близкое к исходному, но требуют больше памяти. Указано наличие imatrix-квантизации и отсутствие speculative decoding. Формат промпта использует специальные маркеры ролей и блок рассуждений. README не содержит сведений о поддерживаемых языках, максимальной длине контекста, конкретной архитектуре или результатах бенчмарков, поэтому эти характеристики нельзя надёжно оценить. Ограничениями являются значительные требования к дисковому пространству и оперативной или видеопамяти, особенно для крупных вариантов, а также возможное снижение качества у агрессивно квантизированных версий. Распространение модели указано по лицензии Apache-2.0.

OpenSourceEnjoyer опубликовал вариант Nous-Hermes-2-Mistral-7B-DPO, дообученный с помощью Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Модель принимает текст и генерирует текст; в метаданных указаны английский язык и контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не приводит подробностей о данных обучения или результатах оценки, поэтому качество ответов и устойчивость к ошибочным или неоднозначным запросам по ней определить нельзя.

Карточка модели localized-ft/OLMo-3-7B-old-bird-names-last-third-v2-sft-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Ornstein-Hermes-3.6-27b-SABER-i1-GGUF — квантизированная версия текстовой генеративной модели Ornstein-Hermes-3.6-27b-SABER, разработанной GestaltLabs и подготовленной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и может использоваться в локальных приложениях и инструментах, совместимых с GGUF. В метаданных также указаны направления refusal shaping, model editing и abliteration. Модель имеет размер 27 миллиардов параметров и поддерживает английский язык. Архитектура, максимальная длина контекста и сведения о мультимодальности в README не указаны; по доступным данным это текстовая, а не мультимодальная модель. Предлагается широкий набор вариантов квантизации от IQ1 и Q2 до Q6, различающихся размером, скоростью и качеством. Для баланса размера, скорости и качества рекомендуются i1-Q4_K_S и особенно i1-Q4_K_M, тогда как наиболее низкобитные варианты могут заметно уступать по качеству. Сильной стороной модели является возможность запуска в уменьшенном формате на совместимом локальном оборудовании и выбор между множеством уровней квантизации. Ограничения включают возможную потерю качества при агрессивной квантизации, отсутствие подробных сведений о возможностях и результатах оценки, а также неуточнённые требования к аппаратным ресурсам. Лицензия обозначена как other, но её конкретные условия в README не приведены.

Это версия весов NVIDIA Parakeet TDT 1.1B, преобразованная пользователем extraordinarylab из формата NeMo в формат Transformers для Hugging Face. В README указано, что веса не менялись; отличаются формат контрольной точки, конфигурация и оболочки токенизатора и экстрактора признаков. Модель использует энкодер FastConformer-XL из 42 слоёв с размерностью 1024 и голову TDT (Token-and-Duration Transducer) с длительностями токенов от 0 до 4; словарь содержит 1024 BPE-токена и blank-токен. Модель предназначена для автоматической транскрипции английской речи в текст. Она выдаёт текст в нижнем регистре без пунктуации. В README описана проверка совпадения с NeMo на двух фрагментах LibriSpeech: совпали выходы жадного декодирования и транскрипции. Репозиторий использует Transformers и формат safetensors. Лицензия — CC BY 4.0.

PARM-V1.5-base-QwQ-Qwen-2.5-o1-3B — базовая модель для PARM V2 от Pinkstack, созданная дообучением Qwen/Qwen2.5-3B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель поддерживает английский и китайский языки и контекст до 32 768 токенов. Карточка указывает, что она служит основой для флагманской модели Parm2 3B; дополнительных сведений о специализации и качестве нет. Форматы весов — PyTorch и Safetensors. В метаданных указана лицензия other, а в README — лицензия qwen; точные условия лицензии по этим данным установить нельзя.

rasyosef/phi-2-instruct-v0.1 — это дообученная версия Phi-2 от Microsoft, подготовленная автором репозитория для выполнения инструкций и диалогов. Модель основана на архитектуре Transformer Phi с плотной причинной языковой моделью; в README указано 2,7 млрд параметров, а метаданные каталога приводят 3,5 млрд. Контекст составляет 2048 токенов, веса опубликованы в формате safetensors, библиотека для работы — Transformers. Модель прошла supervised fine-tuning на парах инструкций и ответов из OpenHermes-2.5, затем оптимизацию предпочтений методом DPO на нескольких наборах данных. Она предназначена для генерации ответов в формате чата, следования инструкциям, ответов на вопросы и решения задач на рассуждение. README приводит результаты оценок на IFEval, GSM8K, MMLU, TruthfulQA и Winogrande; это небольшая англоязычная модель общего назначения, поэтому качество и надёжность ответов могут уступать более крупным моделям. Лицензия — MIT.

PhoWhisper-base — модель автоматического распознавания речи на вьетнамском языке, разработанная Thanh-Thien Le, Linh The Nguyen и Dat Quoc Nguyen. Это версия семейства PhoWhisper, полученная дообучением многоязычной Whisper на 844 часах вьетнамской речи с разными акцентами. Вариант base содержит 51,7 млн параметров и использует архитектуру WhisperForConditionalGeneration; репозиторий предоставляет веса PyTorch. Модель предназначена для преобразования вьетнамской речи в текст, в том числе для аудиозаписей с различными акцентами. Авторы сообщают о высоких результатах на тестах распознавания вьетнамской речи. Модель распространяется по лицензии BSD-3-Clause; при публикации результатов или включении модели в программное обеспечение авторы просят цитировать статью PhoWhisper.

PLLuM-12B-chat-2412 — диалоговая языковая модель из семейства PLLuM, разработанного для польского и других славянских и балтийских языков с дополнительными англоязычными данными. Модель основана на архитектуре Mistral, содержит 12,1 млрд параметров и работает с контекстом до 131 072 токенов. Для запуска предусмотрена библиотека Transformers; веса представлены в формате safetensors. Модель предназначена для генерации текста и диалоговой помощи: она может отвечать на вопросы, составлять краткие изложения и служить основой специализированных ассистентов. В карточке семейство PLLuM также описано как применимое к польским административным и юридическим темам, особенно в сценариях с поиском по документам. Для версии с суффиксом chat заявлено обучение на предпочтениях людей, ориентированное на диалог и более безопасное взаимодействие. Разработчики отмечают, что модель может выдавать фактически неверные ответы и проявлять предвзятость в спорных или субъективных темах; работа с очень длинным контекстом зависит от доступной памяти. Лицензия этой модели — Apache-2.0.

Это уменьшенная версия модели для восстановления пунктуации и заглавных букв в португальском тексте, разработанная VÓCALI в рамках проекта SANIVERT. Модель основана на neuralmind/bert-base-portuguese-cased и дообучена для токенной классификации на корпусе из примерно 2,97 млн текстовых примеров и 49,7 млн токенов на португальском языке. Модель предназначена для автоматической расстановки знаков препинания и восстановления регистра в текстах. Архитектура — BERT с классификационной головой для токенов, размер — 136,1 млн параметров, максимальный контекст — 512 токенов. Для оценки использовались Macro F1 и Weighted F1; численные результаты в карточке не приведены. Файлы модели опубликованы в формате safetensors. Условия лицензии в предоставленных источниках не описаны.

Карточка модели jaeyong2/Qwen2.5-7B-Instruct-Hi-SFT на Hugging Face совпадает с карточкой jaeyong2/Qwen2.5-7B-Instruct-Thai-SFT, поэтому описание составлено по ней. jaeyong2/Qwen2.5-7B-Instruct-Thai-SFT — дообученная авторами репозитория на тайском языке инструктивная языковая модель на основе Qwen/Qwen2.5-7B-Instruct. Она предназначена для диалогов и генерации ответов по инструкциям; метаданные также указывают интерфейс для вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Указанные языки — тайский и английский. Модель загружается через Transformers, веса представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. README не содержит дополнительных сведений о данных дообучения, оценках качества или ограничениях, поэтому пригодность для конкретного сценария следует проверять самостоятельно.

Карточка модели jaeyong2/Qwen2.5-7B-Instruct-Id-SFT на Hugging Face совпадает с карточкой jaeyong2/Qwen2.5-7B-Instruct-Thai-SFT, поэтому описание составлено по ней. jaeyong2/Qwen2.5-7B-Instruct-Thai-SFT — дообученная авторами репозитория на тайском языке инструктивная языковая модель на основе Qwen/Qwen2.5-7B-Instruct. Она предназначена для диалогов и генерации ответов по инструкциям; метаданные также указывают интерфейс для вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Указанные языки — тайский и английский. Модель загружается через Transformers, веса представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. README не содержит дополнительных сведений о данных дообучения, оценках качества или ограничениях, поэтому пригодность для конкретного сценария следует проверять самостоятельно.

mlx-community/Qwen2-Audio-7B-Instruct-4bit — 4-битная версия Qwen2-Audio-7B-Instruct, подготовленная сообществом mlx-community для запуска на компьютерах Apple Silicon с помощью MLX и mlx-audio. Это плотная мультимодальная чат-модель с аудиоэнкодером в стиле Whisper из 32 слоёв, линейным проектором и языковой моделью Qwen2-7B. В 4 бита квантована только языковая модель; энкодер и проектор сохранены в bf16. Размер модели — около 4,2 ГБ вместо примерно 15 ГБ у версии bf16. Модель принимает аудио и текстовые инструкции, поддерживает распознавание и перевод речи, создание текстовых описаний аудио, анализ эмоций и тональности, классификацию окружающих звуков, понимание музыки и голосовой чат. В README указана скорость генерации около 4,7 токена в секунду на устройствах Apple Silicon серии M; качество транскрипции, по заявлению авторов карточки, соответствует версии на Hugging Face. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-GRPO-Indo-Alpaca — языковая модель разработчика caffeinejunkie1 для диалогов и выполнения инструкций, адаптированная под индонезийский язык на основе Qwen3-4B. Это плотная причинная модель семейства Qwen3 с 3,7 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — 40 960 токенов. В README описаны начальная настройка на инструкциях с использованием датасета Ichsan2895/alpaca-gpt4-indonesian и последующее выравнивание методом GRPO. Модель предназначена для структурированных рассуждений, диалогового взаимодействия и следования сложным инструкциям, особенно на индонезийском языке; также поддерживается английский. Автор сообщает о предполагаемом улучшении следования ограничениям и снижении повторов по сравнению с вариантом Indo-Alpaca, но эти эффекты в карточке не подтверждены количественными оценками. Модель доступна в формате safetensors и распространяется по лицензии Apache 2.0.

Montalte/qwen3_4b_mt11_high_l45_planb_trainable — плотная языковая модель семейства Qwen3, созданная на основе Qwen/Qwen3-4B-Base и опубликованная Montalte. Карточка описывает её как объединённый чекпойнт Plan B Localize-and-Stitch, выгруженный после локальных оценочных запусков. Модель предназначена для генерации текста и диалогового взаимодействия. В репозитории указаны 3,7 млрд параметров, контекст до 32 768 токенов, формат safetensors и библиотека Transformers. В README не описаны специальные области применения или языковая специализация. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает результатов оценки качества или подробностей обучения; происхождение указано как дообучение базовой Qwen3-4B-Base, а описание также называет чекпойнт объединённым.

Это мультимодальная модель семейства Qwen3.5, опубликованная andrevp как преобразованная для MLX-VLM версия fp16 модели Jackrong/Qwen3.5-2B-Claude-4.6-Opus-Reasoning-Distilled. Она сочетает текстовый диалог и анализ изображений; автор указывает, что поведение рассуждения было дистиллировано из Claude Opus 4.6. Модель предназначена для запуска через mlx-vlm на компьютерах Apple Silicon. Архитектура включает 24 декодерных слоя: 23 слоя GatedDeltaNet с линейным вниманием и один слой полного self-attention, а также 24-слойную ViT-зрительную башню. Автор сообщает, что применил abliteration для ослабления отказов и цензурных реакций; это не гарантирует их полного отсутствия. Репозиторий содержит веса safetensors в формате fp16 и выдан по лицензии Apache-2.0.

lmstudio-community/Qwen3.5-4B-MLX-8bit — 8-битная квантованная версия модели Qwen3.5-4B, разработанной Qwen. Квантование выполнено командой LM Studio с использованием mlx_vlm, а модель оптимизирована для работы на устройствах Apple Silicon через MLX. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Известно, что исходная модель имеет размер 4B параметров, однако в README не приведены подробности её архитектуры, поддерживаемых языков, максимального контекста, набора мультимодальных возможностей, производительности или требований к памяти. Ключевое преимущество этой версии — снижение требований к ресурсам и оптимизация для Apple Silicon благодаря 8-битному представлению и MLX. Ограничения включают возможную потерю качества из-за квантования, зависимость от экосистемы Apple Silicon и отсутствие в предоставленных данных результатов тестирования или подробного описания сценариев применения. В метаданных указана лицензия Apache-2.0 для модели. Qwen является создателем исходной модели, а LM Studio предоставляет её общественную MLX-квантизацию, но не заявляет себя автором или владельцем исходной модели.

Qwen3.5-9B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING-X8b — разговорная модель с поддержкой изображений на архитектуре Qwen3.5. По карточке, это дообученная версия Qwen3.5-9B-Instruct с режимом рассуждений, который автор описывает как похожий на Claude, и без стандартных ограничений на ответы. Метаданные указывают класс Qwen3_5ForConditionalGeneration, библиотеку Transformers и файлы в формате safetensors. Модель предназначена для диалога и ответов на текстовые и визуальные запросы. README приводит сравнительные результаты на нескольких тестах, но не раскрывает полный набор оценок и методику сравнения. Модель распространяется по лицензии Apache-2.0. Карточка не приводит длину контекста и подробные сведения об обучении.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизация модели Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive, основанной на Qwen3 и разработанной сообществом на базе моделей Qwen. Модель предназначена для генерации текста на английском и китайском языках, включая локальный запуск через llama.cpp. Это uncensored fine-tune со сниженным количеством отказов, поэтому модель не подходит для всех аудиторий и требует ответственного использования. Архитектура — qwen35moe: 35 млрд параметров всего, около 3 млрд активных параметров, 256 экспертов, из которых используется 8. Квантование выполнено в формате Q6_K; для ускорения генерации добавлена одна MTP-слой Multi-Token Prediction, позволяющая использовать speculative decoding через draft-mtp в llama.cpp. Указанный контекст составляет 8192 токена в примере запуска. Модель поддерживает обычную авторегрессионную генерацию и MTP-декодирование; на Apple M3 Max заявлено ускорение генерации примерно на 27% при подходящих настройках, однако результат зависит от оборудования и реального контекста. Сильные стороны модели — относительно высокая скорость генерации, эффективное MoE-устройство и высокая доля принятых черновых токенов MTP при использовании репрезентативного промпта. Ограничения включают uncensored-поведение, чувствительность производительности к содержимому контекста и необходимость сборки llama.cpp с поддержкой draft-mtp для speculative decoding. Лицензия указана как Apache-2.0; при этом необходимо учитывать условия исходной модели Qwen и условия авторов fine-tune и квантования.

llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-NVFP4-Experts-Only-GGUF — квантизированная версия модели Qwen3.6-35B-A3B, разработанная независимым автором llmfan46 на основе Qwen3.6-35B-A3B от Qwen. Это MoE-модель с заявленным общим размером 35B параметров и активируемыми 3B параметров. Вариант создан как decensored-версия с применением Heretic v1.2.0 и метода Magnitude-Preserving Orthogonal Ablation; по заявленным результатам, доля отказов снизилась с 83 до 10 на 100 тестовых запросов при KL-дивергенции менее 0,0015 относительно исходной модели. Модель предназначена для генерации текста с меньшим количеством встроенных ограничений и отказов. NVFP4-квантизация применяется к тензорам MoE-экспертов, тогда как неэкспертные и чувствительные тензоры сохранены в более высокой точности; в файлах могут присутствовать тензоры BF16, F32, U8 и F8_E4M3. Метаданные Hub указывают pipeline image-text-to-text, однако README не содержит подробностей о поддерживаемых языках, размере контекста, фактических возможностях обработки изображений или требованиях к оборудованию. Сильными сторонами являются близость к исходной модели по заявленной KL-дивергенции, существенно меньшее число отказов и снижение требований к хранению и вычислениям благодаря квантизации. Ограничения включают отсутствие подробных данных о языках, контексте, производительности на широком наборе задач и совместимости с конкретными средствами запуска. Модель распространяется по лицензии Apache-2.0.

Это текстовая GGUF-сборка Qwen3.8-27B, подготовленная автором репозитория ayourtch с помощью shoehorn. В репозитории опубликованы варианты квантования, рассчитанные для заданного бюджета видеопамяти и контекста: в README указаны сборки для 128K, 192K и 256K токенов, с кэшем KV q4_0; метаданные отмечают производность от Qwen/Qwen3.8-27B и формат GGUF. Варианты предназначены для локального запуска через llama.cpp и диалоговой генерации текста. Автор приводит сравнение точности на 92 вопросах из AIME2025, GPQA Diamond, SuperGPQA и COMPSEC. Результаты зависят от варианта квантования и условий теста; для указанной оценки использовались RTX PRO 6000 Blackwell, llama.cpp, спекулятивное декодирование и температура 0. Хотя исходная Qwen3.8-27B мультимодальная, в этой публикации нет vision projector, а обработка изображений не конвертировалась и не тестировалась. Для работы следует согласовать размер контекста и тип KV-кэша с вариантом файла. Лицензия — Apache-2.0.

RepLLaMA-7B-Passage-MRL — модель семейства LLaMA, разработанная Xueguang Ma, Liang Wang, Nan Yang, Furu Wei и Jimmy Lin для многоэтапного текстового поиска. Это дообученная с помощью LoRA модель на базе LLaMA-2-7B, обученная один проход на обучающей части набора MS MARCO Passage Ranking. Модель кодирует запросы и текстовые фрагменты в эмбеддинги для вычисления сходства и ранжирования документов. Благодаря Matryoshka Representation Learning размерность эмбеддингов можно выбирать гибко вплоть до 4096. Число параметров — 6,6 млрд, контекст — до 4096 токенов; вход и результат представлены текстом и векторами соответственно. Репозиторий содержит веса в формате safetensors. Лицензия указана как Llama 2 Community License. Модель подходит для поиска по текстовым коллекциям и многоэтапного извлечения релевантных фрагментов; обучение на MS MARCO Passage Ranking специализирует её на поиске пассажей, поэтому качество на других языках и доменах отдельно не подтверждено.