I.3Извлечение и структурирование данных

LocateAnything-3B — разработанная NVIDIA в рамках семейства Eagle vision-language модель для визуальной локализации по изображениям и текстовым запросам. Она предназначена для разработчиков и исследователей, которым нужны обнаружение объектов, поиск областей по описанию и другие задачи пространственного понимания в приложениях Enterprise Intelligence и Physical AI. Модель основана на трансформерной VLM с визуальным энкодером MoonViT, языковой частью Qwen2.5-3B-Instruct и MLP-проектором; содержит около 3 млрд параметров. Принимает RGB-изображения исходного разрешения до 2,5K и текстовые запросы; заявлена поддержка промптов до 24K токенов. Модель выполняет поиск одного или нескольких объектов, плотное обнаружение в сложных сценах, привязку выражений к областям, локализацию элементов GUI и текста, а также выдаёт рамки и точки. Механизм Parallel Box Decoding предсказывает координаты блоками параллельно, что, по данным карточки, обеспечивает до 2,5 раза более высокую пропускную способность по сравнению с предшествующими подходами. Обучение охватывает природные сцены, робототехнику, вождение, GUI и документы; заявленный масштаб обучающих данных — 12 млн изображений и более 138 млн запросов. Карточка позиционирует релиз для исследований и разработки. Лицензия указана как other, поэтому конкретные права использования следует сверять с условиями репозитория.

MahaSBERT — модель представления предложений, разработанная командой L3Cube-Pune в рамках проекта MahaNLP. Она основана на MahaBERT для маратхи (l3cube-pune/marathi-bert-v2) и дообучена на наборе данных NLI. Модель относится к семейству BERT, содержит 264,8 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 768; контекст ограничен 512 токенами. Модель предназначена для оценки смыслового сходства предложений, семантического поиска и кластеризации текстов на маратхи. Её можно использовать через Sentence-Transformers либо Transformers с подходящей операцией pooling. Репозиторий содержит веса PyTorch и доступен по лицензии CC BY 4.0. README упоминает более позднюю улучшенную версию, дообученную для сходства предложений.

Moritz Laurer выпустил многоязычную модель mDeBERTa-v3-base-mnli-xnli на базе архитектуры DeBERTa-v2. Модель содержит 306 млн параметров, принимает пары текстов для вывода о логическом следовании и подходит для классификации по заданным пользователем категориям без отдельного обучения на этих категориях. Её контекст ограничен 512 токенами. Модель предварительно обучена Microsoft на многоязычном корпусе CC100, затем дообучена на английском MNLI и профессионально переведённых данных XNLI. Карточка указывает поддержку NLI на 100 языках; наиболее подробно оценены 15 языков XNLI, включая русский. Средняя точность на тесте XNLI составила 0,808, при этом качество зависит от языка и может быть ниже для языков вне набора оценки. Модель распространяется по лицензии MIT.

MeliodasPercival_01_Strangemerges_32Inex12 — объединённая текстовая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Inex12-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Модель принимает текст и выдаёт текст. В доступных сведениях не названы целевые языки и специализированные предметные области. Лицензия — Apache-2.0.

Ministral-3-14B-Instruct-2512-GGUF — это GGUF-квантизированная версия инструкционной модели Ministral-3-14B-Instruct-2512, разработанной Mistral AI и подготовленной квантизатором bartowski. Модель предназначена для запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp, включая сценарии генерации текста и работы с изображениями согласно заявленному типу pipeline image-text-to-text. Модель имеет около 14 млрд параметров в исходной версии, а репозиторий содержит варианты от BF16 до низкобитных форматов Q3 и IQ4. Доступны версии с разным компромиссом между качеством, размером и требованиями к памяти; рекомендуемыми названы некоторые варианты Q4–Q6. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Архитектура и размер контекстного окна в README не указаны, а формат промпта рекомендуется уточнять на странице исходной модели. Основные преимущества этой версии — возможность локального запуска, широкий выбор уровней квантизации и применение imatrix-калибровки для снижения потерь качества. Ограничения связаны с тем, что низкобитные варианты требуют компромисса между качеством и потреблением памяти, а подробные сведения о возможностях, контекстном окне и ограничениях исходной модели в README отсутствуют. Репозиторий распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия Mistral-Medium-3.5-128B, разработанной Mistral AI и квантизированной пользователем bartowski с помощью llama.cpp и imatrix. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, включая обработку текстовых запросов и изображений в совместимых инструментах. Доступны варианты для llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI, vLLM и других решений. Модель содержит 128 миллиардов параметров. В README заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Представлены варианты квантования от Q3 до Q8 с размером файлов примерно от 63 до 133 ГБ; более качественные варианты требуют больше оперативной или видеопамяти. Для мультимодального режима требуется совместимый mmproj-файл, при этом указано, что корректно работают варианты bf16 и f32, а f16 может давать некогерентные результаты. Исправлены настройки RoPE и связанные параметры квантования. Сильными сторонами являются большой размер, широкая языковая поддержка и наличие вариантов квантования, позволяющих выбирать между качеством и требованиями к памяти. Ограничениями выступают очень высокие аппаратные требования, необходимость совместимого ПО и возможные проблемы мультимодального режима с отдельными настройками mmproj. Лицензия указана как other; конкретные условия в README не приведены.

Это GGUF-квантизированная версия Mistral-Small-4-119B-2603, разработанной Mistral AI и опубликованной пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix. Модель предназначена для задач генерации текста и обработки изображений с текстом, а также для локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты. Модель имеет размер 119 млрд параметров и поддерживает арабский, английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, японский, корейский и китайский языки. Доступны варианты квантизации от Q3 до Q8, различающиеся размером файлов и точностью; рекомендуемые варианты занимают примерно от 64 до 103 ГБ, а Q8_0 — около 126 ГБ. В README не указаны архитектурные детали и размер контекстного окна. Сильной стороной модели является возможность локального использования при сохранении высокого качества, особенно в вариантах Q5–Q6 и Q8. Ограничения связаны с большими требованиями к оперативной памяти и ресурсам, а также с неизбежной потерей качества в более агрессивных вариантах квантизации. Для Q4_1 отмечены проблемы совместимости с поздними слоями FFN_DOWN_EXPS, поэтому исправленная версия этого варианта была переопубликована. Модель распространяется по лицензии Apache-2.0.

tanbinh2210 выпустил модель Sentence Transformers, дообученную на базе tanbinh2210/mlm_finetuned_phobert. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по косинусному сходству. Архитектура включает трансформер RoBERTa с усреднением токеновых представлений; модель содержит 162,4 млн параметров и обрабатывает последовательности длиной до 258 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текстов на основе эмбеддингов. Она обучалась на выборках query, pos и neg из JSON-датасета, размер которого указан как 357 018 примеров. Базовая модель основана на PhoBERT, поэтому модель ориентирована прежде всего на вьетнамский язык. Распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

LocalDoc/mmBERT-small-en-az — компактный мультиязычный энкодер на архитектуре ModernBERT, созданный сокращением словаря jhu-clsp/mmBERT-small для английского и азербайджанского языков. Из исходного словаря примерно на 256 тысяч токенов оставлено 71 751; размер модели уменьшен примерно на 46%, до 69,7 млн параметров. Слои трансформера не менялись, были сокращены только эмбеддинги. Модель принимает текст и формирует контекстные представления, которые можно использовать для получения эмбеддингов предложений и оценки сходства.

MultiLinguSwahili-bge-small-en-v1.5-nli-matryoshka — компактная модель Sentence Transformer, разработанная Sartify LLC на базе BAAI/bge-small-en-v1.5 и дообученная на наборе Mollel/swahili-n_li-triplet-swh-eng. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска и сравнения текстов. Архитектура включает BERT, пулинг по токену CLS и нормализацию; модель содержит 40 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена сопоставлять тексты на суахили и английском, в том числе находить близкие по смыслу пары и различать отрицательные примеры. Её можно использовать для многоязычного семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. README приводит результаты оценки сходства предложений на нескольких вариантах тестового набора. Лицензия в предоставленных данных не указана. Качество на других языках, вне описанных сценариев и на текстах длиннее 512 токенов не установлено; как и у других моделей эмбеддингов, результаты зависят от данных и способа применения в поисковой или классификационной системе.

multi-QA_v1-mpnet-asymmetric-Q — модель для создания векторных представлений вопросов, разработанная flax-sentence-embeddings в рамках проекта Hugging Face Community Week «Train the Best Sentence Embedding Model Ever with 1B Training Pairs». Это MPNet с 136,7 млн параметров, дообученный контрастивным методом на парах вопросов и ответов из Stack Exchange, MSMARCO, NQ и других наборов данных. Модель принимает текст и выдаёт вектор размерности смысла предложения; длина контекста — до 514 токенов по метаданным. Модель предназначена для кодирования вопросов в системе семантического поиска и сопоставления с векторами ответов, полученными парной моделью multi-QA_v1-mpnet-asymmetric-A. Векторы также подходят для поиска по смыслу, кластеризации и оценки сходства предложений. Для поиска вопросов и ответов рекомендуется использовать пару Q/A-моделей. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

MyAwesomeModel — модель на базе Transformers с архитектурой семейства BERT, опубликованная в репозитории asd12ad123123/MyAwesomeModel-TestRepo. Основное назначение модели по метаданным Hugging Face — извлечение признаков из входных данных, то есть преобразование текста в векторные представления для последующего анализа и машинного обучения. Модель может применяться для построения семантического поиска, сравнения текстов, кластеризации, классификации и других задач, использующих эмбеддинги. README также заявляет о возможностях рассуждения, генерации кода, диалога, суммаризации и function calling, однако эти утверждения не согласуются с указанным pipeline_tag feature-extraction и не подтверждены техническими характеристиками модели. Модель распространяется по лицензии MIT и предназначена для использования с библиотекой Transformers. Размер модели, поддерживаемые естественные языки и длина контекста в доступных данных не указаны.

NanoVDR-D-HiRes-Qwen3VL8B-4096 — визуальная башня документов из семейства NanoVDR, разработанная командой NanoVDR. Это плотный энкодер примерно на 457 млн параметров: он принимает изображение страницы документа и выдаёт один L2-нормализованный вектор размерности 4096 для поиска по сходству; документы сравниваются с запросами скалярным произведением. Архитектура объединяет динамическую нарезку страницы на плитки, InternViT-300M-448, проекционный слой, ModernBERT-base с двунаправленным контекстом и усреднение токенов. Для совместимости с учительской моделью Qwen3-VL-Embedding-8B модель обучена дистилляцией представлений; её следует сочетать с башней запросов, обученной для того же учителя и ширины вектора. Модель предназначена для построения поискового индекса по страницам документов и визуального поиска по ним, включая страницы с мелким текстом и таблицами. В README сообщается о результатах на 22 наборах ViDoRe на шести языках и восьми профессиональных областях; эти оценки не гарантируют качество на других типах документов и запросов. Известные ограничения: представления наследуют слабые стороны учителя, бюджет плиток фиксирован и не зависит от содержимого страницы, а оценка не охватывает корпоративные макеты, страницы с деградировавшим сканом и реальные производственные распределения запросов. Репозиторий использует формат safetensors и лицензию MIT.

NB-Whisper Large — модель распознавания речи от NB AI-Lab Национальной библиотеки Норвегии, дообученная на основе openai/whisper-large. Модель семейства Whisper содержит около 905 млн параметров и предназначена для транскрибации речи; семейство также поддерживает перевод речи. Для обучения серии NB-Whisper использовали 8 млн аудиофрагментов общей длительностью около 66 000 часов, включая датасеты NbAiLab/ncc_speech, NbAiLab/NST и NbAiLab/NPSC. Модель ориентирована прежде всего на норвежский язык, включая букмол и нюношк, а также поддерживает английский. Она принимает аудио и генерирует текст; длинные записи можно обрабатывать сегментами, а Transformers позволяет получать временные метки слов и предложений. Для Large рекомендуется GPU; в README указано, что это релиз-кандидат, поэтому качество и стабильность могут измениться. Лицензия — Apache 2.0.

PaliGemma 2 28B mix 448 — разработанная Google мультимодальная модель зрения и языка на основе SigLIP и языковой модели Gemma 2. Она принимает изображения и текст, а в ответ генерирует текст; вариант 448 предназначен для обработки изображений с разрешением 448 пикселей. Модель поддерживает несколько языков, однако карточка не перечисляет их коды. Модель рассчитана прежде всего на дообучение для задач взаимодействия с изображениями: создания кратких и подробных описаний, ответов на вопросы по изображению, распознавания текста, поиска объектов с координатами и сегментации. Её также можно адаптировать для анализа коротких видео и специализированных сценариев, например вопросов по снимкам дистанционного зондирования или описания элементов интерфейса. Лицензия — Gemma; перед использованием следует учитывать условия лицензии и политику запрещённого использования Gemma. PaliGemma 2 ориентирована на ясные запросы и специализированное дообучение, а не на роль универсального чат-бота: модель не рассчитана на многоходовой диалог, а её результаты без адаптации могут уступать моделям общего назначения. Она может ошибаться в фактах и сложных рассуждениях, а также воспроизводить предвзятость из обучающих данных.

Bharatdeep-H/pq_cache — модель Sentence Transformers, разработанная на основе sentence-transformers/all-mpnet-base-v2 и дообученная для сопоставления предложений. MPNet преобразует предложения и абзацы в плотные векторы размерности 768; для сравнения используется косинусное сходство. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации текстов, включая запросы о портфеле и инвестициях, представленные в обучающих примерах. Максимальная длина последовательности в метаданных — 514 токенов; в README указано ограничение 384 токена. Модель принимает текст и выдаёт эмбеддинги. Примеры обучения включают английские и хинди фразы, но полный список поддерживаемых языков не заявлен. Данные карточки указывают на дообучение от all-mpnet-base-v2; лицензия не приведена в предоставленных сведениях.

Карточка модели Traii/predictindustryforcallcenter на Hugging Face совпадает с карточкой intfloat/e5-base-v2, поэтому описание составлено по ней. E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.

Qwen2.5-1.5B-Instruct-GGUF — GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-1.5B-Instruct, разработанной командой Qwen. Квантизация выполнена bartowski на основе llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с чатом, понимание и генерацию структурированных данных, а также локальный запуск через совместимые инструменты. Модель поддерживает контекст до 32 000 токенов и генерацию до 8 000 токенов. Она обучена на масштабном наборе данных и работает более чем с 29 языками, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К небольшому размеру модели относится преимущество в виде меньших требований к ресурсам, однако README не содержит точных параметров квантизации, требований к памяти или результатов оценки качества, поэтому производительность может уступать более крупным моделям. Модель распространяется по лицензии Apache-2.0.

MInAlA/Qwen3-4B-Instruct-2507-DPO-merged — языковая модель на архитектуре Qwen3, дообученная методом Direct Preference Optimization (DPO) на наборе предпочтений argilla/ultrafeedback-binarized-preferences. Она предназначена для диалогов и генерации текста по инструкциям. Модель содержит около 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Модель основана на Qwen/Qwen3-4B-Instruct-2507 и сохранена в формате safetensors. Карточка не уточняет, какие языки поддерживаются, лицензию и результаты оценки качества; эти сведения здесь не приводятся.

Qwen3-4B-Instruct-2507-MLX-6bit — это 6-битно квантованная версия инструкционной языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях и сценариях, поддерживающих MLX. Ключевая характеристика модели — 6-битное квантование, снижающее требования к памяти по сравнению с полноразмерной версией и делающее модель более подходящей для локального использования на совместимых компьютерах Apple. В README не указаны архитектура, точный объём контекста, поддерживаемые языки и мультимодальные возможности, поэтому эти свойства нельзя достоверно описать. К ограничениям относятся возможные ошибки, неточности и генерация неподходящего или вредного содержания, характерные для языковых моделей. Модель распространяется по лицензии Apache-2.0.

Sequelbox Qwen3-4B-Thinking-2507-DAG-Reasoning — экспериментальная специализированная языковая модель Sequelbox, созданная дообучением Qwen/Qwen3-4B-Thinking-2507. Она генерирует текст и предназначена для причинного анализа: выявляет связи между факторами, оценивает уверенность и формирует результат в виде структурированного ориентированного ациклического графа (DAG), представленного в JSON. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Модель подходит для анализа причин и следствий в программировании, науке, бизнесе, экономике, финансах, праве, логистике и управлении, а также для подготовки графов к визуализации или дальнейшей обработке. Для получения структурированного DAG следует явно запросить граф или анализ; модель также может ответить в обычном стиле Qwen3. Карточка описывает её как ранний экспериментальный выпуск и рекомендует проверять структуру выходных данных перед продуктивным использованием. Доступна по лицензии Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это мультимодальная модель на базе Qwen3.5-9B, разработанная DavidAU совместно с Nightmedia. Она представляет собой результат многоэтапного дообучения и слияния нескольких моделей на локальном оборудовании. Модель ориентирована на универсальные сценарии: следование инструкциям, рассуждения, программирование, творческое письмо, художественную литературу и ролевые диалоги. Заявлена как uncensored и heretic-модель, то есть с ослабленными ограничениями на ответы. Модель распространяется в формате GGUF, включая обычные и MTP-варианты для multi-token prediction. Доступны квантизации, в том числе 4- и 8-битные; для GGUF заявлен контекст до 256 тысяч токенов. Поддерживаются текст и изображения, однако для работы с изображениями требуется отдельный файл mmproj. Указаны английский и китайский языки. NEO IMATRIX-квантизация и частично сохранённая 16-битная точность выходного тензора предназначены для повышения качества, а MTP-варианты — для ускорения генерации при достаточном уровне принятия предсказанных токенов. Сильными сторонами заявлены производительность в ряде benchmark-тестов, развитое следование инструкциям, компактный размер, поддержка рассуждений и потенциально высокая скорость локального запуска. Ограничения включают зависимость скорости и эффективности MTP от оборудования, настроек и acceptance rate, а также необходимость подбирать обычный или MTP-вариант под конкретный сценарий. Приведённые результаты получены авторами модели и не гарантируют превосходство над более крупными моделями во всех задачах. Лицензия — Apache-2.0.

mradermacher/Qwen3.5-KETI-HAECHI-27B-i1-GGUF — GGUF-квантизированная версия модели KETI-NLP/Qwen3.5-KETI-HAECHI-27B, подготовленная mradermacher. Модель ориентирована на корейский и английский языки и относится к мультимодальным vision-language моделям. Она предназначена для задач image-text-to-text, распознавания текста на изображениях, работы с материалами культурного наследия, использования инструментов и сценариев с длинными цепочками рассуждений. Поддерживаются текстовые и визуальные входные данные; для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Размер базовой модели составляет 27B параметров. Репозиторий содержит варианты GGUF-квантизации от IQ1_S до Q6_K размером примерно от 7,2 до 22,2 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Более агрессивные варианты могут заметно снижать качество; Q4_K_M обозначен как рекомендуемый по сочетанию скорости и качества. Точный размер контекста и архитектурные детали в README не указаны. Модель распространяется по лицензии Apache-2.0. К ограничениям относятся зависимость качества от выбранного уровня квантизации, необходимость дополнительного multimodal-компонента для обработки изображений и отсутствие в README подробных результатов оценки, характеристик контекста и требований к аппаратному обеспечению.

QAYSER12/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это открытая мультимодальная модель на базе Qwen3.6 27B, представленная в формате GGUF. Она создана как результат многоэтапного дообучения и слияния моделей при участии DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; использовались датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель поддерживает английский и китайский языки, а также работу с изображениями. Размер контекстного окна в README не указан. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, анализа и творческой работы, включая написание художественных текстов и ролевые сценарии. Заявлены улучшенные instruction following, общее качество рассуждений и problem solving по сравнению с базовой моделью. Доступны обычные и MTP-варианты GGUF-квантов, включая 4- и 8-битные сборки; используется NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. Для MTP-вариантов рекомендуется temperature не выше 1 и rep penalty 1; при низком token acceptance rate следует использовать обычные кванты. К сильным сторонам относятся широкий набор сценариев применения, поддержка vision, reasoning и работы на потребительском оборудовании, а также заявленные высокие результаты внутренних бенчмарков. Ограничения включают отсутствие в README подробностей об архитектуре поверх базовой Qwen3.6 27B, точном размере контекста, системных требованиях и независимой проверке заявленных результатов. Модель описывается как uncensored и heretic, поэтому её поведение и защитные ограничения могут отличаться от официальной базовой модели. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель, созданная в коллаборации shaffhausen/DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh на базе Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В разработке использовались методы Unsloth, датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также дополнительные обучающие материалы Fable, Claude Opus, GPT5 и собственные наборы данных. Лицензия — Apache-2.0; заявлены языки английский и китайский. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, генерации кода, творческого письма, художественной прозы, ролевых сценариев и других универсальных применений. В README заявлена поддержка vision, однако подробности о визуальном энкодере и формате мультимодального ввода не приведены. Архитектурный размер — 27B; точный контекст и базовая архитектура не указаны. Репозиторий содержит обычные и MTP-варианты GGUF-квантов, включая 4- и 8-битные варианты. Кванты используют NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности; в MTP-вариантах MTP-тензоры имеют точность Q8_0. К сильным сторонам относятся заявленные улучшения следования инструкциям, общего интеллекта, решения задач и рассуждений, а также сохранение производительности на низких квантах. Автор сообщает о превосходстве базовой Qwen3.6-27B в шести из семи бенчмарков и о результатах выше Qwen3.6-35B-A3B, но эти утверждения представлены самим автором и не подтверждены независимыми данными в README. Ограничения включают отсутствие подробных результатов тестов, точных требований к оборудованию и данных о контекстном окне. Модель позиционируется как uncensored/heretic, поэтому поведение в чувствительных сценариях и соответствие требованиям безопасности следует проверять отдельно. Для MTP-вариантов рекомендуется температура не выше 1, поскольку более высокие значения могут ухудшать работу multi-token prediction.

Это языковая модель семейства Qwen3.6, подготовленная пользователем Youssofal и упакованная для библиотеки MTPLX. Она предназначена для локальной генерации текста на компьютерах Apple Silicon, прежде всего для ускоренного инференса со speculative decoding и Multi-Token Prediction на моделях Mac с чипами M1–M5. Доступен OpenAI-совместимый локальный сервер через MTPLX. Модель имеет архитектуру Mixture-of-Experts и заявленный размер 35B с активной частью около 3B параметров (35B-A3B). Основное тело использует 4-битное квантование MLX affine, а плавающие тензоры BF16 преобразованы в FP16; упакованные квантованные тензоры сохранены без повторного квантования. Для ускорения применяются MTP-предсказания с рекомендуемой глубиной D1 и профилем sustained. README не указывает поддерживаемые языки, размер контекста и перечень модальностей, поэтому модель следует считать текстовой. Ключевая особенность варианта — совместимость с FP16-friendly путём на старых Apple Silicon, особенно M1 и M2, при сохранении целевого уровня скорости и качества исходного артефакта. Для M3, M4 и M5 MTPLX обычно выбирает обычную оптимизированную версию. По приведённому baseline скорость составляет 94,46 токена/с для авторегрессионного режима и 138,38 токена/с для режима D1, однако эти показатели являются данными исходного артефакта, а FP16-вариант должен быть к ним близок. Ограничения включают зависимость от MTPLX и Apple Silicon, а также отсутствие полноточного checkpoint: модель рассчитана на быстрое локальное использование, а не на работу в полном формате. Лицензия — Apache-2.0.

Qwen3.8-27B-Huihui-Abliterated-NVFP4-MTP-VL — мультимодальная квантованная модель, разработанная lyf на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Это поведенческий производный вариант, предназначенный для исследований и локального инференса, включая генерацию текста, работу с изображениями и видео, рассуждения, вызов инструментов и ускорение декодирования с помощью MTP (эталонного многотокенного предсказания). Модель использует языковую часть размером 27B параметров с квантованием линейных слоёв в формате NVFP4 W4A4 и размером группы 16. Башня обработки изображений и видео, MTP-голова, lm_head, эмбеддинги токенов и GDN conv1d сохранены в формате BF16. Поддерживаются английский и китайский языки. Указанный проверенный профиль рассчитан на видеокарты NVIDIA RTX 5090 с архитектурой Blackwell, ограничением контекста 4096 токенов и KV-кэшем FP8; большие контексты требуют отдельной проверки доступной видеопамяти. К сильным сторонам относятся мультимодальность, существенное снижение требований к памяти благодаря NVFP4, сохранение исходной BF16 vision/video tower и MTP-компонентов, а также совместимость с vLLM и OpenAI-compatible API. На одной RTX 5090 модель успешно прошла проверки текстовой генерации, MTP и мультимодального профиля; во время генерации использовалось около 28 944 MiB VRAM. Ограничения включают зависимость от совместимого оборудования и программного окружения, необходимость валидации для иных нагрузок и контекстов, а также экспериментальный характер abliterated-производной. Модель распространяется по лицензии Apache-2.0. Она предназначена для исследовательского использования и локального инференса; ответственность за дальнейшее применение и соблюдение соответствующих политик лежит на пользователе.

Qwen3.8-27B-OBLITERATED-FP8 — это FP8-квантизированная версия мультимодальной модели OBLITERATUS/Qwen3.8-27B-OBLITERATED, подготовленная MrPewpy. Модель предназначена для генерации текста, диалоговых сценариев, работы с изображениями и текстом, а также использования через vLLM и Transformers. Лицензия — Apache-2.0. Модель содержит около 27 млрд параметров и использует гибридную архитектуру с линейным вниманием Gated-DeltaNet и полным attention. Заявлена поддержка мультимодальных задач image-text-to-text, английского языка и контекста до 262 144 токенов. Квантизация выполнена в формате FP8_DYNAMIC: веса представлены в FP8, активации квантизуются динамически, а чувствительные проекции линейного внимания сохраняются в BF16. Размер модели сокращён примерно до 28 ГБ по сравнению с 51,6 ГБ у базовой BF16-версии. Сильными сторонами являются уменьшенный объём хранения, нативная поддержка vLLM, возможность запуска на GPU NVIDIA Ampere, Hopper и Blackwell, а также заявленная оптимизация базовой модели для снижения отказов. В README приведены непроверенные результаты на MMLU, ARC-Challenge, HellaSwag, WinoGrande, GSM8K и TruthfulQA; они не гарантируют аналогичную производительность в прикладных задачах. Для запуска рекомендуется vLLM, а аппаратные требования и качество могут зависеть от используемого движка, настроек и поддержки мультимодальных функций.

Qwen3.8-27B-ULTIMATE-UNCENSORED-MTP-IQ4-GGUF-16GB — квантизированная GGUF-версия модели Qwen3.8-27B, подготовленная lemonyins на основе аблитерированной и «uncensored» сборки AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16. Модель предназначена для локального запуска и исследовательских или разработческих сценариев, где требуется модель класса 27B с уменьшенным потреблением памяти и без исходных контентных ограничений базовой сборки. Используется гибридная квантизация: основные attention-слои имеют формат IQ4_XS, а слои FFN — IQ3_S; применяется GGUF и поддержка TurboQuant для компактного KV-кэша. Вариант ориентирован на видеокарты с 16 ГБ VRAM. По данным README, на NVIDIA RTX 4060 Ti 16GB заявлена скорость около 20 токенов в секунду без MTP и около 30 токенов в секунду с multi-token prediction; с TurboQuant доступен контекст порядка 100–110 тысяч токенов без MTP и около 80 тысяч с MTP. Поддержка изображений возможна при подключении отдельного vision-проектора mmproj-BF16.gguf, при этом доступный контекст уменьшается примерно на 20 тысяч токенов. Сильные стороны модели — низкое потребление памяти, высокая скорость локального вывода, большой контекст и возможность speculative decoding через MTP. Ограничения связаны с потерями качества из-за квантизации FFN до IQ3_S, которые могут проявляться, например, в задачах на фактическое запоминание, а также с обязательной зависимостью заявленных показателей памяти от TurboQuant-enabled сборки llama.cpp. Приведённые показатели perplexity, VRAM и скорости требуют отдельной проверки именно для Qwen3.8. В README указана лицензия Apache-2.0.

Guile/Qwen3.8-27B-Uncensored-GGUF — это набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный автором Guile. Модель предназначена для генерации текста и запуска в llama.cpp, включая локальный инференс, а также сценарии со speculative decoding и обработкой изображений при использовании vision-файлов. Поведение отказов существенно снижено с помощью метода abliteration на базе Heretic, но не устранено полностью; дополнительное обучение и новые данные не использовались. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Поддерживаются английский и китайский языки. README указывает наличие vision-компонентов, однако применение изображений зависит от поддержки vision tower базовой моделью и совместимости runtime. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 10,6 до 29 ГБ, а также отдельные draft-варианты для speculative decoding. Сохранённая MTP-голова может ускорять генерацию, но после изменения основной модели коэффициент принятия draft-токенов может немного снизиться; на качество проверяемых токенов это не должно влиять. Сильные стороны модели — большой контекст, поддержка текста и изображений в соответствующих сборках, широкий выбор квантизаций и сохранённая MTP-голова. Ограничения включают неполное устранение отказов, требования к значительным ресурсам и зависимость vision- и speculative-decoding-сценариев от возможностей конкретного runtime. Модель распространяется по лицензии Apache-2.0.