I.3Извлечение и структурирование данных

McGill-NLP/MiniLM-L6-dmr — дообученная на WebLINX модель Sentence Transformers, разработанная авторами исследования WebLINX. Она преобразует предложения и абзацы в плотные векторы размерности 384 для сравнения семантической близости, семантического поиска и кластеризации. Модель основана на архитектуре BERT, содержит 25,9 млн параметров и принимает вход длиной до 512 токенов. Модель подходит для построения поиска по смыслу и группировки текстов, в том числе связанных с многоходовым диалогом и навигацией по сайтам. В карточке указана библиотека PyTorch и обучение с функцией потерь CosineSimilarityLoss. Лицензия в предоставленных данных не указана.

Mistral-Nemo-Instruct-2407-GGUF — это набор квантованных версий инструкционной языковой модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и локальный запуск через llama.cpp или совместимые приложения, например LM Studio. В репозитории представлены варианты с точностью от F16 до различных форматов Q8, Q6, Q5, Q4 и Q3, с размером файлов примерно от 5,7 до 24,5 ГБ. Квантование выполнено с использованием imatrix и llama.cpp; для общения рекомендуется шаблон prompt <s>[INST]{prompt}[/INST>. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Данные о числе параметров, архитектуре исходной модели, размере контекста и мультимодальности в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других модальностей. Сильная сторона набора — широкий выбор квантований для баланса качества, объёма файлов и требований к оперативной памяти: варианты Q5 и Q6 отмечены как высококачественные, а Q3 подходят для систем с ограниченной памятью. Некоторые варианты оптимизированы для ARM-процессоров и требуют соответствующих инструкций; они не рекомендуются для Mac или Windows. Модель распространяется по лицензии Apache-2.0.

avsolatorio/MixEmbedMean-base-20240116001529-best — компактная модель эмбеддингов предложений на архитектуре BERT, опубликованная 16 января 2024 года. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и предназначена для поиска по смыслу, кластеризации и сравнения текстов. Размер модели — 18,8 млн параметров, максимальная длина контекста — 512 токенов; для работы доступны веса в формате safetensors и библиотека Sentence-Transformers. Согласно README, модель дистиллирована из BAAI/bge-small-en-v1.5 и имеет вчетверо меньше параметров, не относящихся к эмбеддингам, чем исходная модель. В README также отмечено, что при примерно половине параметров all-MiniLM-L6-v2 она показывает сопоставимое качество. Английский язык следует из базовой модели bge-small-en-v1.5; подтверждений поддержки других языков нет. Лицензия в предоставленных данных не указана.

Omartificial-Intelligence-Space разработала mmbert-base-arabic-nli — арабоязычную модель Sentence Transformer для получения эмбеддингов предложений и абзацев. Это дообученная версия jhu-clsp/mmBERT-base с архитектурой ModernBERT; модель содержит 306,9 млн параметров и выдаёт векторы размерности 768. Модель предназначена для оценки семантического сходства, семантического поиска, поиска перефразировок, кластеризации и классификации арабских текстов, в том числе для поиска по документам в RAG-системах. Она принимает текстовые последовательности длиной до 8192 токенов; для сравнения векторов в карточке указана косинусная мера сходства. На STS-бенчмарках приведён результат Spearman 0,8311. Модель распространяется в формате safetensors и использует библиотеку Sentence Transformers. Лицензия Apache-2.0 разрешает коммерческое и иное использование на её условиях.

Карточка модели jiwonyou0420/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

BlueAvenir/model_operations_V_0_2 — модель на базе XLM-RoBERTa, разработанная с использованием Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения сходства текстов. В качестве функции обучения указана CosineSimilarityLoss; модель доступна в формате PyTorch, число параметров — 305,2 млн, длина контекста — 514 токенов. Модель подходит для построения текстового поиска по смыслу, группировки похожих текстов и вычисления семантического сходства пар предложений или абзацев. Языковая поддержка соответствует многоязычной основе XLM-RoBERTa; конкретные языки для этой модели в карточке не перечислены. Лицензия в предоставленных данных не указана.

YeonwooSung выпустил дообученную на answerdotai/ModernBERT-large модель Sentence Transformer для получения плотных векторных представлений предложений и абзацев. Она предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Архитектура состоит из энкодера ModernBERT-large с усреднением токенных представлений; размер вектора — 1024, сходство измеряется косинусной метрикой. Модель содержит 394,7 млн параметров; метаданные указывают контекст до 8192 токенов, тогда как конфигурация Sentence Transformers в README ограничивает длину последовательности 512 токенами. Обучающий набор включает 499 184 примера. Карточка демонстрирует англоязычные данные, поэтому основное применение — для английского текста. Лицензия — MIT.

Это англоязычная модель Sentence Transformer, разработанная tomaarsen и дообученная на базе microsoft/mpnet-base на парах из набора gooaq-hard-negatives. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости и поиска текстов; сходство обычно оценивают косинусной мерой. Архитектура объединяет MPNet и усредняющий пулинг токенов, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов, а также для оценки сходства вопросов и ответов. Она лицензирована по Apache-2.0. Качество зависит от предметной области и корпуса: приведённые в карточке результаты на наборах Nano BEIR и отдельных задачах различаются, поэтому для целевого применения нужна отдельная оценка.

IoannisKat1 выпустил дообученную версию multilingual-e5-large для создания текстовых эмбеддингов. Модель построена на XLM-RoBERTa-large с архитектурой Sentence Transformer: усредняет токенные представления, нормализует результат и отображает предложения и абзацы в плотное векторное пространство размерности 1024. Максимальная длина входной последовательности — 512 токенов; для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В README описано дообучение на 82 парах anchor-positive и приведены метрики поиска при нескольких размерностях вектора; результаты зависят от выбранной размерности и тестового набора. Указанная лицензия — Apache-2.0.

gavinqiangli/my-awesome-bi-encoder — дообученная модель Sentence Transformers на базе google-bert/bert-base-uncased. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для оценки семантического сходства, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Для сравнения векторов используется косинусное сходство; архитектура включает BERT и mean pooling. Метаданные указывают контекст до 512 токенов, тогда как в README максимальная длина последовательности указана как 128 токенов. Модель обучена на 103 663 примерах с MultipleNegativesRankingLoss. В README приведены результаты оценки бинарной классификации сходства, включая точность cosine_accuracy 0,7644 и F1 0,6959. Базовая модель англоязычная, а обучающие примеры также написаны на английском. Репозиторий содержит веса в формате safetensors. Условия лицензирования в предоставленных данных не описаны.

MyAwesomeModel — модель семейства BERT от пользователя bench-induction-ai на Hugging Face, помеченная для извлечения признаков. Метаданные указывают архитектуру BertModel, библиотеку Transformers, формат PyTorch и лицензию MIT. Это позволяет использовать её для получения векторных представлений текста и последующих задач классификации или поиска.

erickrribeiro/my-embedding-gemma — модель Sentence Transformer, дообученная на базе google/embeddinggemma-300m. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. Модель содержит 302,8 млн параметров, принимает текстовые последовательности длиной до 2048 токенов и рассчитана на работу через библиотеку Sentence Transformers. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В README описан обучающий набор из трёх примеров на португальском языке; этого мало, чтобы судить о широте языкового покрытия или обобщающей способности именно этой дообученной версии. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

nomic-embed-text-v2-moe-GGUF — квантизированная версия модели nomic-embed-text-v2-moe, разработанная Nomic и представленная в работе о разреженных Mixture of Experts моделях для текстовых эмбеддингов. Модель предназначена для преобразования текстов в векторные представления, которые можно использовать для семантического поиска, сравнения предложений, кластеризации, извлечения признаков и построения RAG-приложений. Это мультиязычная текстовая embedding-модель на архитектуре Sparse Mixture of Experts. В репозитории доступны варианты GGUF с точностью от FP32 и FP16/BF16 до квантизаций Q8_0, Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; размеры файлов составляют примерно от 326 до 1820 MiB. Поддерживается широкий набор языков, включая английский, русский, китайский, японский, арабский, украинский, французский, немецкий и многие другие. Размер контекста и размерность эмбеддингов в README не указаны. Модель совместима с llama.cpp и может запускаться через llama-server с OpenAI-совместимым API эмбеддингов, что облегчает локальное развертывание. Для корректного использования необходимо добавлять к текстам специальные префиксы задач, например search_document для документов и search_query для запросов. Квантизация уменьшает требования к памяти, но может влиять на качество представлений; README рекомендует варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M в зависимости от требуемого баланса качества и размера. Модель распространяется по лицензии Apache-2.0.

Nous Hermes 2 Mixtral 8x7B DPO — диалоговая языковая модель Nous Research, дообученная на базе Mixtral 8x7B с помощью SFT и DPO. Она использует разреженную архитектуру Mixture of Experts (MoE); в репозитории указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации ответов в чате, следования инструкциям и многошагового диалога. Она обучалась на более чем миллионе примеров, преимущественно созданных GPT-4, а также на данных из открытых наборов. Для диалога применяется формат ChatML с системными инструкциями и шаблоном чата Hugging Face. Карточка приводит результаты нескольких бенчмарков и сообщает об улучшении относительно базовой Mixtral и Mixtral Instruct. Основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0. Для запуска в 4-битном режиме README указывает потребность более чем в 24 ГБ видеопамяти; фактические требования зависят от конфигурации и способа запуска.

Карточка модели MoralHazard/NSFW-GIST-small на Hugging Face совпадает с карточкой MoralHazard/GISTsmall, поэтому описание составлено по ней. MoralHazard/GISTsmall — компактная модель Sentence Transformer на базе BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 384. Она была обучена на 1 244 примерах с anchor, positive и negative текстами; метаданные указывают на использование GISTEmbedLoss. Архитектура включает BERT, пулинг CLS-токена и нормализацию векторов, а сходство текстов оценивается косинусной мерой. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и получения признаков для классификации текста. Максимальная длина последовательности — 512 токенов; доступны файлы ONNX. Язык обучающих примеров в карточке не установлен, поэтому языковую поддержку определить нельзя. Лицензия в предоставленных данных не указана.

swardiantara/one-cdk0-m0.5-e5-b128-L6 — модель Sentence-Transformers на базе BERT, разработанная пользователем swardiantara. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения сходства текстов. Модель содержит 25,9 млн параметров, принимает текстовые последовательности длиной до 512 токенов и распространяется в формате Safetensors. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Модель подходит для построения эмбеддингов и поиска семантически близких фрагментов; README не приводит результаты оценки качества. Лицензия в предоставленных данных не указана.

Ornith-1.5-35B-A3B-Abliterated-ROCmFP4-GGUF — это квантизированная GGUF-версия аблитерированной языковой модели Ornith-1.5-35B-A3B. Базовую модель разработала ornith-ai, аблитерацию выполнила huihui-ai, а BF16 GGUF-исходник предоставила PocketAiHub. Автор данного репозитория добавил варианты квантизации ROCmFP4/ROCmFPX, сборку с поддержкой HIP/ROCm и Vulkan, а также тесты производительности. Модель распространяется по лицензии Apache-2.0. Модель предназначена для генерации текста, включая диалоги, программный код, рассуждения, выдачу JSON, агентские сценарии и работу с инструментами. Это MoE-модель с заявленным общим размером 35B параметров и активной частью около 3B параметров. Доступны варианты квантизации от 4 до 8 бит; размеры файлов составляют примерно от 17,4 до 33,9 ГиБ. В репозитории также указан отдельный vision tower в формате F16 GGUF, позволяющий подавать изображения через параметр mmproj. Языки модели в README не указаны. В приведённых конфигурациях использовался контекст 32768 токенов, однако максимальный размер контекста явно не заявлен. Основное преимущество модели — оптимизация для AMD Ryzen AI Max+ 395 и Radeon 8060S с архитектурой gfx1151: один файл можно запускать через HIP/ROCm или Vulkan, выбирая backend во время запуска. Vulkan показывает более высокую скорость генерации, а ROCm — более высокую скорость обработки длинных входных запросов; 4-битные варианты демонстрируют близкую производительность. Модель прошла заявленные тесты стабильности без усечённых генераций. Для работы требуется специальная сборка ROCmFPX с поддержкой обоих backend; стандартная сборка llama.cpp эти файлы не загружает. Приведённые показатели относятся к конкретной аппаратной конфигурации и могут отличаться на других системах.

seongwoon/paper_embedding — модель Sentence-Transformers на основе BERT, разработанная автором репозитория seongwoon. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 137,1 млн параметров и принимает текстовые последовательности длиной до 512 токенов; для получения эмбеддингов через Transformers поверх выходов модели требуется применить подходящий pooling. Модель подходит для построения поиска по смыслу и группировки текстов по семантической близости. В карточке нет сведений о целевых языках, обучающих данных или лицензии, поэтому их нельзя надёжно определить.

PatriLaRS — модель Sentence Transformers, дообученная TdelaSelle на базе bowphs/LaBerta. Она использует архитектуру RoBERTa с усреднением токенных представлений и создаёт плотные текстовые эмбеддинги размерности 768; для сравнения предложений применяется косинусное сходство. Метаданные указывают 153,2 млн параметров и контекст до 514 токенов, тогда как карточка модели ограничивает длину последовательности 256 токенами. Модель предназначена для семантического сравнения текстов, семантического поиска, поиска перефразирований, классификации и кластеризации. Обучалась на наборе из 78 988 примеров с положительными и отрицательными парами; README приводит результаты оценки для информационного поиска. Базовая LaBerta — одноязычная модель для текстов классической филологии, поэтому область её языкового применения ограничена этим контекстом. В репозитории указана лицензия, допускающая применение в рамках условий базовой модели, без отдельного уточнения условий в предоставленных данных.

kaitchup/Phi-3-mini-4k-instruct-gptq-4bit — это 4-битная GPTQ-квантизованная версия Phi-3 Mini-4K-Instruct, опубликованная пользователем kaitchup на Hugging Face и основанная на модели Microsoft. Она предназначена для генерации текста, диалогов и выполнения инструкций, включая задачи по работе с кодом, математикой, рассуждениями и общими знаниями, при локальном или серверном запуске с меньшими требованиями к памяти. Исходная Phi-3 Mini-4K-Instruct представляет собой плотную decoder-only Transformer-модель примерно на 3,8 млрд параметров, дообученную с применением supervised fine-tuning и Direct Preference Optimization. Модель работает с текстовыми входами и поддерживает контекст до 4K токенов; основной язык — английский, при этом в метаданных также указан французский. Вариант из указанного репозитория использует 4-битное GPTQ-представление, что уменьшает размер и требования к памяти, но может снижать точность и качество по сравнению с полной точностью. Сильные стороны — компактность, возможность запуска на более доступном оборудовании и хорошие для своего размера результаты в задачах следования инструкциям, рассуждений и программирования. Ограничения включают короткое окно контекста, преимущественно англоязычную ориентацию, возможные ошибки и галлюцинации, а также потери качества из-за квантизации. Для опубликованной версии в карточке модели условия лицензирования явно не указаны; исходная модель Microsoft распространяется по лицензии MIT.

rbinrs/Qwen2.5-14B-Instruct-abliterated-v2 — диалоговая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная на основе Qwen/Qwen2.5-14B-Instruct методом abliteration. Она предназначена для генерации текста и общения в формате чата; заявленная особенность версии — снижение отказов отвечать на запросы. Модель поддерживает интерфейс вызова инструментов и контекст длиной до 32 768 токенов, работает с текстом и рассчитана на многоязычные сценарии, включая русский, английский, китайский, французский, испанский, португальский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель можно применять в чат-ботах, для свободной генерации и структурированных ответов, а также в приложениях с вызовом инструментов. Разработчик сообщает, что эта версия улучшена по сравнению с предыдущей, однако оценивание ещё продолжается, поэтому опубликованных результатов качества в карточке нет. Доступна по лицензии Apache-2.0.

unsloth/Qwen2.5-7B — базовая предобученная языковая модель Qwen2.5, представленная в репозитории Unsloth и основанная на Qwen/Qwen2.5-7B. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; веса доступны в формате safetensors. Модель предназначена для генерации и продолжения текста, а также для дальнейшего дообучения под конкретные задачи. Модель поддерживает более 29 языков, включая китайский, английский, русский, французский, испанский, немецкий, японский и арабский. Контекст составляет 131 072 токена. Среди описанных возможностей семейства — генерация длинного текста, работа с кодом, математическими задачами, таблицами и структурированными ответами, включая JSON. Это базовая модель без инструкционной настройки, поэтому в карточке не рекомендуется использовать её напрямую для диалогов; для чат-сценариев её следует дообучить. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-Instruct-2507-MLX-8bit — 8-битная квантованная версия языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon через MLX. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях: диалоговых системах, подготовке и преобразовании текстов, ответах на вопросы и других задачах, поддерживаемых исходной instruct-моделью. README не содержит сведений о точной архитектуре, числе активируемых параметров, размере контекста, поддерживаемых языках и модальностях, поэтому эти характеристики нельзя достоверно уточнить. Ключевое преимущество модели — 8-битное представление, ориентированное на более эффективный запуск на Apple Silicon по сравнению с полноразмерной версией. Ограничения включают зависимость от экосистемы MLX и Apple Silicon, а также типичные для генеративных моделей риски неточных, вредных или неподходящих ответов. Модель распространяется по лицензии Apache 2.0.

DazzlingShadow публикует вариант Qwen3.5-122B-A10B с изменённым профилем отказов (abliteration). В приведённом сравнении частота отказов снизилась с 88 до 16 из 100 запросов при KL-дивергенции 0,0233 относительно исходной модели. Это мультимодальная модель для диалога, генерации текста и понимания изображений; карточка описывает её как причинную языковую модель с визуальным энкодером и разреженной архитектурой Mixture-of-Experts с Gated Delta Networks. Всего 122 млрд параметров, активируется 10 млрд; контекстное окно — 262 144 токена с возможностью расширения до 1 010 000. Исходная модель заявляет поддержку 201 языка и диалекта, однако карточка не уточняет, какие языки сохраняются в этом производном варианте. Модель доступна в формате Safetensors и предназначена для Transformers и совместимых серверов инференса. Лицензия — Apache-2.0. Снижение отказов не гарантирует их полного отсутствия; производительность и совместимость зависят от используемого фреймворка и ресурсов.

Qwen3.5-abliterated-MAX-AIO-GGUF — экспериментальная серия моделей, разработанная prithivMLmods на основе Qwen3.5 от Alibaba. Репозиторий содержит GGUF-варианты размеров 0,8B, 2B, 4B и 9B, а также ссылки на вариант 27B. Модели предназначены для локального и периферийного развертывания с использованием llama.cpp и других совместимых средств инференса. Серия ориентирована на генерацию текста, рассуждения, программирование, математические задачи и мультимодальные сценарии с обработкой изображений и текста. Согласно README, модели используют гибридную архитектуру Gated DeltaNet, поддерживают контекст до 262K токенов, словарь для 201 языка и переключаемые режимы рассуждения. Для мультимодального применения доступны отдельные файлы mmproj, а для разных требований к памяти — варианты BF16, F16, F32 и Q8_0. Ключевая особенность — модификация alignment и снижение количества отказов следовать инструкциям, что может быть полезно для исследовательских задач, создания датасетов и приложений, требующих менее ограниченного поведения. При этом такие изменения ослабляют стандартные защитные механизмы, поэтому модели требуют самостоятельной оценки безопасности. Заявленные улучшения производительности основаны на сообщественных тестах и не подтверждены официальными оценками. Лицензия — Apache-2.0.

Qwen3.5 Plus (April 2026) — крупная мультимодальная языковая модель Alibaba. Она принимает текст, изображения и видео и формирует текстовые ответы. Заявленное окно контекста составляет 1 млн токенов. Модель предназначена для диалогов и работы с визуальным содержимым, включая анализ изображений и видео. В доступных данных не раскрыты архитектура, число параметров, поддерживаемые языки и условия лицензии, поэтому эти характеристики не указаны.

Qwen3.6-35B-A3B-OptiQ-4bit-REAP-19B — это квантизированная и подвергнутая экспертному прунингу языковая модель для генерации текста, разработанная сообществом mlx-community на базе mlx-community/Qwen3.6-35B-A3B-OptiQ-4bit. Модель использует архитектуру Mixture-of-Experts: в каждом слое сохранено 128 из 256 экспертов, при этом для каждого токена активируются 8 экспертов. Число параметров уменьшено с 35,1 до 18,8 млрд, размер на диске составляет 13,8 ГБ, а пиковое потребление памяти — около 11,6 ГБ. Данные о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для локального запуска и генерации текста на устройствах Apple Silicon через MLX, а также для задач следования инструкциям, математических рассуждений, вызова функций и генерации кода. Прунинг выполнен методом REAP без деквантизации, повторной квантизации или дообучения; активные параметры на токен и скорость декодирования сохраняются, а скорость в указанном сравнении выросла с 47,0 до 54,7. По сравнению с исходной моделью Capability Score снизился с 80,03 до 76,57; особенно заметно падение на MMLU, тогда как результаты GSM8K и IFEval улучшились. Модель распространяется по лицензии Apache-2.0.

Bazwilks/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — GGUF-квантизированная языковая модель, опубликованная Bazwilks и основанная на Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking. В README также указаны разработки и методы DavidAU, включая обучение через Unsloth, датасеты TeichAI/claude-4.5-opus-high-reasoning-250x и DavidAU/PkDick-Deckard-5-Datasets, а также специальные процедуры квантизации NEO-CODE-Di-IMatrix-MAX. Модель предназначена для широкого круга задач: диалогов, рассуждений, программирования, математики, творческого письма, генерации сюжетов и сцен, ролевых сценариев и работы с текстами различных жанров. Заявлены английский и китайский языки, поддержка изображений через отдельный mmproj-файл и контекст до 256K токенов. Архитектура плотная, не MoE, содержит около 40 миллиардов параметров, 96 слоёв и 1275 тензоров; предусмотрен режим переменной длины рассуждений. К сильным сторонам относятся большой контекст, акцент на рассуждениях, коде и творческих задачах, а также набор квантизаций с разным компромиссом между качеством и требованиями к ресурсам. Модель позиционируется как uncensored и unfiltered, поэтому может генерировать небезопасный или NSFW-контент; это одновременно ограничение для сценариев с повышенными требованиями к модерации. Для работы с изображениями требуется совместимый mmproj-файл. Указанная лицензия — Apache-2.0.

Qwen3.8-27B-AEON-Ultimate-Uncensored-UD-GGUF — набор GGUF-квантизованных версий модели Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 от AEON-7. Модель предназначена для генерации текста, включая диалоги, работу с кодом, рассуждениями и агентскими сценариями с function calling. Указана поддержка английского и китайского языков, а также vision через компонент mmproj. Это гибридная архитектура GatedDeltaNet и attention: 48 из 64 слоёв используют рекуррентный SSM-механизм. В поставку входят варианты AWQ-UD и Baseline UD с квантизацией Q8_0, Q6_K, Q5_K_M и IQ4_XS; размеры файлов составляют примерно 25,9–34,7 ГБ. При квантизации рекуррентные тензоры SSM сохраняются в исходной точности, применяются матрица важности и чувствительные к тензорам настройки точности. Поддержаны MTP для speculative decoding и контекст калибровки до 32 768 токенов, однако максимальный контекст модели в README не указан. AWQ-UD рекомендуется как вариант с более низкой perplexity, тогда как Baseline UD ближе к распределению выходов F16 по KL-divergence. Модель рассчитана на запуск через llama.cpp; для максимальной производительности README также указывает SGLang с DFlash2. Ограничения включают зависимость качества и скорости от выбранного кванта и аппаратного обеспечения, а также отсутствие подробных данных о возможностях vision и точных требованиях к памяти. Лицензия — Apache-2.0.

Qwen3.8-27B-OQ3-GGUF — квантованная версия Qwen3.8-27B, подготовленная Ora Computing методом посттренировочной калибровочной квантизации. Модель предназначена для диалогов и генерации текста; с дополнительным vision-проектором GGUF поддерживает также входные изображения и видео. Репозиторий содержит файл модели размером 10,54 ГБ со средней точностью 3,026 бита на вес и отдельный проектор изображения размером 0,93 ГБ. В основной файл встроена голова многотокенного предсказания, которую можно использовать для ускорения декодирования в совместимых версиях llama.cpp. По приведённым в карточке тестам модель сохраняет 95,4% совокупного результата исходной версии bf16 на MMLU-Pro и AIME-25, занимая примерно в 5,3 раза меньше места. Для запуска автор рекомендует llama.cpp; заявленный родительский чекпойнт — Qwen/Qwen3.8-27B. Лицензия указана как other, поэтому условия использования следует проверять на странице репозитория.