I.11Классификация, ранжирование и сопоставление

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантов 27-миллиардной модели Qwen3.8, подготовленный OrcaRouter на основе Qwen/Qwen3.8-27B. Это abliterated-версия с существенно удалёнными механизмами отказа от ответов. Модель предназначена для локального запуска через llama.cpp, включая сценарии исследований интерпретируемости, AI-безопасности, red-teaming и оценки устойчивости. Для практического применения требуется самостоятельно добавлять механизмы модерации и безопасности. Модель представляет собой плотную hybrid-attention архитектуру, сочетающую линейное внимание Gated DeltaNet и обычное full attention. Она поддерживает текст и изображения, reasoning, tool calling и MTP-голову для speculative decoding. Заявлены английский и китайский языки. Для обработки изображений нужен отдельный vision-проектор mmproj; поддерживаются CPU, CUDA, Metal и ROCm. Доступны варианты квантования от 2 до 16 бит, размер файлов — примерно от 8,9 до 54,7 ГБ; Q4_K_M указан как основной баланс качества и размера, а IQ4_XS — как предпочтительный вариант среди низкобитных квантов. К сильным сторонам относятся широкий выбор квантований, локальный запуск на различных аппаратных платформах, мультимодальность, поддержка инструментов и более эффективное speculative decoding с MTP. Ограничения включают необходимость свежей версии llama.cpp с поддержкой архитектуры qwen35 и MTP, заметное снижение качества у низкобитных вариантов, а также отсутствие встроенных защитных ограничений: модель может выполнять вредоносные или незаконные запросы. Лицензия — Apache 2.0, унаследованная от базовой модели; использование должно соответствовать законодательству и условиям лицензии.

apetersson/Qwen3.8-Flash-Next-GGUF — это квантизированная GGUF-сборка модели Qwen3.8-Flash-Next, разработанной командой Qwen и подготовленной пользователем apetersson для запуска через llama.cpp. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений и, согласно тегам, видео. В комплект входят варианты квантизации Q5_K_M и UD-IQ4_XS, общий vision-проектор и MTP-компонент для ускорения генерации. Сборка использует общую BF16-таблицу n-gram, размещаемую отдельно от основных весов, и требует специального расширения среды выполнения llama.cpp; стандартная версия llama.cpp и автоматическая загрузка через -hf не поддерживаются. Размер основных файлов составляет около 76,24 GiB для Q5_K_M и 60,42 GiB для UD-IQ4_XS, а суммарный объём активных артефактов с общими компонентами — около 235,47 GiB. На RTX PRO 6000 Blackwell подтверждена работа с контекстом 262 144 токена для Q5 и IQ4, а для IQ4 проверена загрузка контекста до 1 048 576 токенов с Q8-кэшем KV; фактическая проверка генерации на миллионе токенов не проводилась. Сильными сторонами являются мультимодальность, поддержка очень длинного контекста, наличие MTP и возможность запуска на системах с 96–128 GB памяти при соответствующей конфигурации. Ограничения включают высокие требования к видеопамяти и оперативной памяти, необходимость сохранять структуру каталогов и использовать патченный runtime, а также ограниченную проверку экстремально длинного контекста. Модель распространяется по лицензии qwen-community-1.0; точные условия следует уточнять в файле LICENSE.

Qwen3.8-Flash-Next MLX 4bit — локальная MLX-конверсия модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем nopmobiel. Модель разработана командой Qwen и предназначена для локального мультимодального общения, генерации текста и понимания изображений на компьютерах Apple с поддержкой MLX. Модель поддерживает текстовые и визуальные входные данные; в README указаны теги vision-language и совместимый с Qwen3-VL процессор. Языковые веса квантизированы в affine 4-bit с размером группы 64, embedding PLE n-gram — в affine 4-bit с размером группы 32, маршрутизирующие MoE-гейты — в 8-bit с размером группы 64, а vision tower работает в BF16. Контекстное окно, точный размер модели и перечень поддерживаемых языков не указаны. Тензоры для native MTP и speculative decoding в контрольную точку не включены. Сильные стороны модели — локальная работа, поддержка изображений, заметная скорость генерации на Apple M5 Max и совместимость с MLX-VLM и экспериментальным runtime LM Studio. Ограничения включают необходимость специальной поддержки Qwen4-Exp в runtime, экспериментальную интеграцию с LM Studio и высокие требования к памяти: измеренный пиковый расход составляет около 104,1 ГБ, поэтому модель не рекомендуется для Mac с меньшим объёмом памяти. Лицензия указана как qwen-community-1.0; применяются условия лицензии Qwen, доступной по ссылке в карточке модели.

Qwen3.8 Max Prime — вариант с повышенной пропускной способностью модели Qwen3.8 Max от команды Qwen компании Alibaba. Он предлагается как отдельный SKU по более высокой цене и принимает текст, изображения и видео. Метаданные каталога классифицируют модель для задачи image-text-to-text, поэтому она подходит для обработки визуального содержимого вместе с текстовыми запросами. Данных о базовой модели, архитектуре, поддерживаемых языках, ограничениях и лицензии в предоставленной карточке нет.

barozp/Qwen3.8-Whittle-MoE-27B-MLX-4bit — 4-битная версия модели, преобразованная в формат MLX для Apple Silicon. Разработчик конверсии — barozp; исходная модель logic65/Qwen3.8-Whittle-MoE-27B-A17.8B создана на основе Qwen/Qwen3.8-27B. Это постфактум сформированная MoE-модель с 27 млрд параметров, из которых 17,8 млрд активны во время обработки токена. В каждом слое используются 64 маршрутизируемых экспертных фрагмента и один общий эксперт; маршрутизатор выбирает 16 из 64 фрагментов. Вариант v2.1 включает обучение маршрутизаторов, балансировку и обучение против зацикливания. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и локального запуска через mlx-lm, включая OpenAI-совместимый локальный сервер. Она поддерживает только текстовый режим. Контекст, перечень языков и специализированные показатели производительности в README не указаны. К преимуществам относятся MoE-архитектура с меньшим числом активных параметров, 4-битное квантование с group size 64 и адаптация к экосистеме MLX, что делает модель ориентированной на запуск на устройствах Apple Silicon. Ограничения включают отсутствие MTP head: модель работает только авторегрессионно, а MTPLX speculative decoding не поддерживается. В исходных экспериментах после обучения маршрутизаторов показатель на тесте знаний составил 27/39, а в версии v2.1 — 28/39; частота одношаговых зацикливаний снизилась до 8%, а доля ошибок структурированного вывода составила 22%. Эти результаты относятся к описанным автором тестам и не заменяют независимую оценку. Модель распространяется по лицензии Apache-2.0.

Kaoeiri/Qwenwify-32B-v2.68 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES. В качестве базовой модели README указывает unsloth/qwen2.5-32b-instruct; в объединение также вошли варианты Qwen2.5 для диалога, ролевых сценариев, генерации текста и художественной прозы. Модель содержит 32 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Модель предназначена для диалога и генерации текста, в том числе для ролевого общения и создания художественных текстов. Метаданные указывают на поддержку чата и интерфейс вызова инструментов. В карточке не приведены сведения о лицензии и конкретных языках; среди исходных моделей есть вариант для китайского языка, но это само по себе не подтверждает полный перечень поддерживаемых языков.

Mungert/QwQ-32B-GGUF — это GGUF-версия языковой модели QwQ-32B, основанной на Qwen/Qwen2.5-32B. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск на устройствах с ограниченной памятью. Репозиторий распространяет модель и её сверхнизкобитные варианты квантования, разработанные с применением подхода IQ-DynamicGate; исходная базовая модель относится к семейству Qwen. Ключевая особенность — адаптивное распределение точности по слоям при квантовании до 1–2 бит: критические компоненты, включая embeddings и выходные слои, сохраняются в более высокой точности, а для разных групп слоёв используются форматы IQ4_XS, IQ2_XXS, IQ3_S и Q5_K. Это позволяет существенно сократить требования к памяти и использовать модель на CPU, edge-устройствах и GPU с ограниченным VRAM. Приведённые в README результаты относятся к тестам на Llama-3-8B-Instruct, поэтому их нельзя напрямую считать показателями именно QwQ-32B. Заявлена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Размер модели — 32B параметров; контекстная длина для самой модели в README не указана, а упомянутый 2048-токенный контекст относится к процедуре бенчмарка квантования. Основные преимущества — низкое потребление памяти и возможность запуска на более доступном оборудовании; ограничения — потенциальная потеря точности из-за экстремального 1–2-битного квантования и отсутствие подтверждённых для этой конкретной модели бенчмарк-результатов в README. Лицензия — Apache-2.0.

RakutenAI-7B-chat — чат-модель компании Rakuten Group, Inc., созданная дообучением RakutenAI-7B. Она предназначена для диалогов и генерации ответов на японском и английском языках. Модель основана на плотной архитектуре Mistral и содержит 7,2 млрд параметров; длина контекста — до 32 768 токенов. Модель дообучена на смеси открытых и подготовленных Rakuten наборов инструкций и диалогов, включая JSNLI, RTE, KUCI, BELEBELE, JCS, JNLI, Dolly-15K и OpenAssistant1. Репозиторий содержит веса PyTorch в формате Safetensors. Лицензия — Apache 2.0. Модель может генерировать предвзятые, неточные или небезопасные ответы, поэтому результаты следует проверять.

Reflection-Llama-3.1-70B-GGUF — это набор GGUF-квантизаций модели Reflection-Llama-3.1-70B, разработанной mattshumer и подготовленной для распространения и запуска bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, требующие рассуждений и самопроверки. Для запуска рекомендуется использовать llama.cpp или совместимые приложения, например LM Studio. В основе лежит 70-миллиардная текстовая модель семейства Llama 3.1. В README указана поддержка специальных токенов для оформления блоков рассуждений, итогового ответа и рефлексии; для их отображения в llama.cpp требуется включить параметр --special. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, примерно от 30,91 до 74,98 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Сведения о языках и размере контекста не приведены. Сильными сторонами являются большой размер модели, варианты высококачественной квантизации и поддержка сценариев с рассуждением и исправлением ошибок. Ограничения зависят от выбранного типа квантизации: более компактные варианты снижают качество. README также предупреждает, что опубликованные веса могут быть неправильными, поэтому модель не следует загружать до устранения проблемы. Для улучшенного рассуждения рекомендован специальный системный промпт. Лицензия указана как llama3.1.

Rose 20B GGUF — это квантизированная версия языковой модели Rose 20B, разработанной Tav и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и выполнения инструкций на английском языке, включая локальный запуск через llama.cpp и совместимые интерфейсы и библиотеки. Для работы используется шаблон запросов в стиле Alpaca. Модель построена на архитектуре LLaMA и содержит около 20 млрд параметров. Она относится к текстовым моделям и не поддерживает мультимодальные входные данные. Контекстный размер и точные характеристики исходной архитектуры в README не указаны. Доступны варианты GGUF с квантованием от 2 до 6 бит, а также 8-битный вариант, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации; при более сильном квантовании качество может снижаться. Файлы совместимы с llama.cpp и рядом сторонних приложений, включая text-generation-webui, KoboldCpp, LM Studio, Faraday.dev, ctransformers, llama-cpp-python и candle. Лицензия указана как Llama 2; условия распространения и использования следует уточнять в соответствующих лицензионных документах. В README не приведены результаты тестов производительности или качества.

RWKV/RWKV7-G1j-13.3B-20260831 — базовая языковая модель семейства RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная причинная модель с архитектурой Rwkv7ForCausalLM и 14,6 млрд параметров. В отличие от моделей с attention, она использует рекуррентное состояние постоянного размера: объём состояния не растёт как KV-кэш, а вычислительная работа при генерации остаётся постоянной на токен; обучение при этом можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, чатовых и рассуждательных данных. Она предназначена для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель прошла выравнивание безопасности. Поддерживает многоязычную работу, включая английский, китайский, русский и другие языки из карточки. Для запуска доступны интеграция Transformers и дополнительная оптимизированная реализация TileLang. К ограничениям относятся зависимость качества следования инструкциям и языкового поведения от промптинга и последующего обучения, отсутствие заявленной оценки безопасности, предвзятости, токсичности, фактической точности и пригодности для задач с высокими ставками. Спекулятивное декодирование с откатом рекуррентного кэша требует сохранения предыдущих состояний; поддержка ускоренного исполнения зависит от оборудования и конфигурации. Лицензия — Apache-2.0.

Sailor2-20B-Chat-GGUF — квантованная версия чат-модели Sailor2-20B-Chat, разработанной командой Sail. Конвертацию и квантование в формат GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговой генерации текста, ответов на инструкции и многоязычных сценариев, включая вопросы и инструкции на английском, китайском, индонезийском, тайском, вьетнамском, малайском, лаосском, бирманском, яванском, кхмерском, сунданском и тагальском языках. Модель имеет 20B параметров и поддерживает текстовый ввод и вывод; сведения об исходной архитектуре и размере контекстного окна в README не указаны. Доступно множество вариантов квантования — от F16 и Q8_0 до более компактных Q3 и IQ3/IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Для работы рекомендуется формат prompt с маркерами ролей im_start и im_end; файлы предназначены, в частности, для запуска через llama.cpp и LM Studio. Основные сильные стороны — многоязычная специализация, широкий выбор уровней квантования и возможность локального запуска. Более агрессивное квантование уменьшает требования к памяти, но может снижать качество ответов; полная версия F16 занимает около 38,35 ГБ, а рекомендуемые варианты Q4–Q6 — примерно от 11 до 16 ГБ. Модель распространяется по лицензии Apache-2.0.

Seed-OSS-36B-Instruct-MLX-5bit — это 5-битная квантованная версия языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантование выполнено командой LM Studio с использованием MLX и предназначено для запуска на компьютерах с Apple Silicon. Модель относится к классу text-generation и ориентирована на генерацию текста и выполнение инструкций в сценариях локального запуска. Она основана на модели размером 36 миллиардов параметров, однако сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна в README не указаны. Формат MLX оптимизирован для аппаратного обеспечения Apple Silicon, а 5-битное квантование должно снижать требования к памяти по сравнению с полноразмерной версией, при этом README не содержит количественной оценки потери качества или производительности. К сильным сторонам модели относятся возможность локального использования на Apple Silicon и уменьшенный объём хранения и памяти благодаря квантованию. Ограничения связаны с отсутствием в README подробных данных о качестве, бенчмарках, языковой поддержке и рекомендуемых ресурсах. В карточке указана лицензия Apache-2.0; модель является общественной квантованной сборкой, а её исходной моделью выступает ByteDance-Seed/Seed-OSS-36B-Instruct.

Seraph-openchat-3.5-1210-Slerp — текстовая генеративная модель на архитектуре Mistral, созданная Weyaxi слиянием моделей через mergekit и метод Slerp. В конфигурации указаны Weyaxi/Seraph-7B и openchat/openchat-3.5-1210; базовой моделью названа mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового использования. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит сравнительных оценок качества или детальных результатов тестирования.

Skywork-OR1-7B-Preview-GGUF — это набор GGUF-квантизаций языковой модели Skywork-OR1-7B-Preview, разработанной командой Skywork и подготовленной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В README указаны различные варианты квантизации размером примерно от 3,5 до 15,24 ГБ, включая BF16, Q8_0, Q6_K, Q5_K, Q4_K и Q3_K; конкретный объём памяти и качество зависят от выбранного файла. Для работы используется специальный формат промпта с системным сообщением, запросом пользователя и ответом ассистента. Модель ориентирована на локальный инференс с выбором компромисса между качеством, скоростью и требованиями к памяти. В README рекомендуются варианты Q6_K_L, Q6_K, Q5_K, Q4_K и IQ4_XS; низкобитные варианты подходят для систем с ограниченным объёмом RAM, но обеспечивают более низкое качество. Данные о точной архитектуре, размере контекста, поддерживаемых языках, модальностях, результатах оценки и лицензии в предоставленном README отсутствуют. Условия использования самой базовой модели также не указаны.

Socrates Qwen2.5 14B DPO — диалоговая языковая модель, созданная SocratesFT путём дообучения Qwen/Qwen2.5-14B-Instruct. Она предназначена для генерации текста и ответов на инструкции в формате чата; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 14 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст длиной до 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. В качестве данных для дообучения указан набор SocSci210. Метаданные указывают английский язык; дополнительных языков и специализированных прикладных областей не заявлено.

StrangeMerges_15-7B-slerp — объединённая языковая модель, созданная Gille с помощью LazyMergekit из Gille/StrangeMerges_14-7B-slerp и CultriX/Wernicke-7B-v9. Это плотная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; контекст составляет до 32 768 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 72,41, но подробные результаты представлены не полностью. Модель распространяется в формате safetensors по лицензии Apache-2.0.

SuperChat-7B — диалоговая языковая модель, созданная Яшем Маратхе путём слияния нескольких моделей на базе Mistral: openchat/openchat-3.5-0106, OpenPipe/mistral-ft-optimized-1227, berkeley-nest/Starling-LM-7B-alpha, jan-hq/supermario-v2 и mistralai/Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров и использует плотную архитектуру Mistral для генерации текста и общения в формате инструкций; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на запросы и генерации текста. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит сведения о языках или результаты оценок качества, поэтому их нельзя уточнить по доступным данным.

T5Gemma XL-XL-UL2-IT — разработанная Google instruction-tuned модель семейства T5Gemma с encoder-decoder архитектурой: XL-кодировщик и XL-декодировщик, адаптированные с использованием UL2. Модель принимает текст и генерирует текст; в карточке указана поддержка английского языка. Она предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации и рассуждений, а также для создания черновиков и материалов для NLP-исследований. Модель основана на предварительно обученной google/t5gemma-xl-xl-ul2 и дообучена для следования инструкциям. Для работы доступны веса в формате Safetensors; используется библиотека Transformers. Лицензия — Gemma. Карточка не приводит размер параметров или длину контекста. Ограничения включают возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначным языком и сложными открытыми задачами.

GLM-Z1-Rumination-32B-0414-GGUF — это квантизированная версия языковой модели GLM-Z1-Rumination-32B-0414, разработанной командой THUDM. Сборку GGUF выполнил bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и поддерживает китайский и английский языки; в README она описана как модель для глубокого исследовательского поиска, анализа информации и подготовки отчётов с использованием инструментов и браузерного взаимодействия. Модель имеет размер 32B параметров и поставляется в форматах GGUF с различными уровнями квантизации — от BF16 до Q4 и IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Рекомендуемые варианты включают Q4_K_M, Q5_K_M, Q6_K и Q6_K_L; файлы имеют размер примерно от 19 до 66 ГБ. Доступен специальный формат prompt, включающий системные инструкции для исследовательских задач. Сведения о точной архитектуре, размере контекстного окна, мультимодальности, результатах оценки и ограничениях исходной модели в README не указаны. Лицензия — MIT.

Это 4-битная GPTQ-квантизованная версия модели TinyLlama/TinyLlama-1.1B-Chat-v1.0. В README указано, что квантизация выполнена с использованием AutoGPTQ, а формат контрольной точки — Marlin. Разработчик исходной модели отдельно не указан; идентификатор и README позволяют определить её как чат-модель семейства TinyLlama с размером около 1,1 млрд параметров. Модель предназначена для диалоговых и других текстовых сценариев, где важны сниженные требования к памяти и вычислительным ресурсам. Конфигурация использует 4-битное симметричное квантование GPTQ с group_size 128 и параметром desc_act, установленным в false. Квантизация может упростить локальный запуск и ускорить выполнение на совместимом оборудовании, однако потенциально снижает точность по сравнению с полноразмерной версией. Мультимодальность, поддерживаемые языки, размер контекстного окна и точные архитектурные характеристики в README не указаны. Лицензия обозначена как unknown.

Tucano2-qwen-0.5B-Instruct — компактная португалоязычная языковая модель для диалогов и выполнения инструкций, разработанная Polygl0t. Это плотная Transformer-модель семейства Qwen3 примерно с 403 млн параметров и контекстом 4096 токенов; она принимает текст и генерирует текст. Модель дообучена на Tucano2-qwen-0.5B-Base с помощью одного этапа supervised fine-tuning и одного этапа Anchored Preference Optimization. Модель предназначена для генерации ответов на португальском языке, суммаризации, структурированного вывода, function calling и использования в RAG-сценариях. Авторы представляют её как основу для исследований и разработки португалоязычных приложений; открытые наборы данных, код и рецепты обучения поддерживают воспроизводимость. Лицензия Apache 2.0. Малый размер делает модель компактной, но она может галлюцинировать, воспроизводить предубеждения и токсичность, повторяться или давать излишне многословные ответы. Она рассчитана прежде всего на португальский язык, поэтому на других языках возможны ошибки; для практического применения нужна самостоятельная оценка качества и рисков.

Tulu V2.5 DPO 13B HelpSteer — англоязычная языковая модель-помощник от Allen Institute for AI (AI2), предназначенная для диалогов и генерации текста. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 4096 токенов. Модель создана на базе allenai/tulu-2-13b: сначала настроена на смеси инструкций и диалогов Tulu V2, затем дообучена методом DPO на наборе HelpSteer для выравнивания ответов по предпочтениям. Подходит для ответов на инструкции, ведения диалога и генерации текста на английском языке. Для диалогов используется шаблон чата, включённый в токенизатор. Модель распространяется по лицензии Apache 2.0. В карточке отмечено, что она не настроена на безопасные ответы и не использует фильтрацию в процессе генерации; поэтому возможны проблемные ответы, особенно при соответствующих запросах.

Typhoon2.1-Gemma3-12B — инструктивная текстовая языковая модель, разработанная OpenTyphoon и основанная на Gemma 3 12B. Она предназначена для генерации ответов в диалоге на тайском и английском языках, а также поддерживает вызов функций и инструментов через соответствующий интерфейс. Модель имеет плотную decoder-only архитектуру Gemma 3, около 11,6 млрд параметров и контекст до 131 072 токенов. Это текстовая версия: визуальный энкодер удалён. В README описаны режимы с внутренним рассуждением и без него, а для запуска предлагаются Transformers версии 4.50.0 или новее и сервер vLLM. Модель находится в разработке и может выдавать неточные, предвзятые или нежелательные ответы, несмотря на защитные ограничения. Для использования действует лицензия Gemma; README также ссылается на условия OpenTyphoon и уведомление о конфиденциальности.

Venice Uncensored — разговорная модель, созданная Venice.ai совместно с Эриком Хартфордом и командой Dolphin AI. Это объединённая версия на базе Dolphin-Mistral-24B-Venice-Edition и Mistral-Small-24B-Instruct-2501, построенная на плотной архитектуре Mistral; модель содержит 23,4 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям. В README подчёркнуты настраиваемое системное сообщение и отсутствие встроенных отказов по моральным основаниям, поэтому её поведение и ограничения во многом задаются пользователем. Карточка описывает текстовый чат и рекомендует запуск через vLLM или Transformers. Модель распространяется по лицензии Apache-2.0. Отсутствие жёстких встроенных ограничений означает, что ответы могут содержать небезопасный или неприемлемый контент; качество зависит от запроса, системного промпта и настроек генерации.

Это GGUF-квантизация инструкционной языковой модели wisenut-nlp-team/wisenut-llama-3-8B-0.8-Instruct, подготовленная командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения задач, задаваемых в формате инструкций, включая локальное или серверное развертывание с использованием совместимого ПО для GGUF. README не содержит сведений о конкретных прикладных сценариях, языках и результатах оценки качества. Базовая модель относится к семейству Llama и имеет около 8 миллиардов параметров; поддерживается только текстовый ввод и вывод. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0, размером примерно от 3 до 8,1 ГБ. Квантизация позволяет выбирать компромисс между требованиями к памяти и сохранением качества, однако README не приводит сравнительных тестов, сведения о размере контекста, точности, устойчивости или ограничениях модели. Лицензия в предоставленных данных не указана. Также отсутствуют сведения об условиях использования базовой модели, поэтому перед применением необходимо проверить лицензионные требования исходной модели wisenut-nlp-team/wisenut-llama-3-8B-0.8-Instruct.

xLAM-8x7b-r-IMat-GGUF — это квантизированная версия языковой модели Salesforce/xLAM-8x7b-r, разработанной Salesforce и преобразованной в формат GGUF с использованием llama.cpp. Квантизацию выполнил legraphista; доступны варианты от BF16 и FP16 до Q2_K, Q3_K, Q4_K, Q5_K, Q6_K и Q8_0, включая варианты с IMatrix-калибровкой. Модель предназначена прежде всего для function calling, использования инструментов и построения LLM-агентов, а также для текстовой генерации в совместимых средах, включая llama.cpp. В карточке указана поддержка английского языка и датасет Salesforce/xlam-function-calling-60k. Архитектура обозначена тегом Mistral, однако точные сведения о размере контекста и других архитектурных параметрах не приведены. Главное преимущество модели — наличие множества вариантов квантизации, позволяющих выбирать баланс между качеством, требованиями к памяти и скоростью инференса; IMatrix может применяться в ряде низкоразрядных вариантов. Ограничения включают потенциальное снижение качества при агрессивной квантизации, необходимость значительных ресурсов для крупных вариантов и отсутствие подтверждённых характеристик для неанглийских языков и мультимодальных задач. Модель распространяется по лицензии CC BY-NC 4.0, а доступ к репозиторию требует принятия соответствующих условий.

jaromer/0bserverx-Qwen3.8-27B-Heretic-Abliterated-Uncensored-GGUF — это модифицированная версия Qwen3.8-27B от Qwen, дополнительно обработанная методом ARA (Arbitrary-Rank Ablation). Основой послужила версия trohrbaugh/Qwen3.8-27B-heretic-ara, созданная Tim Rohrbaugh; текущая сборка получила ещё два прохода ARA для уменьшения остаточных отказов. Точные сведения об авторах текущей доработки в README не указаны. Модель предназначена для генерации текста, исследовательских задач, творческого письма и ролевых сценариев, где требуется сниженное количество отказов. Это модель на 27 млрд параметров с архитектурой Qwen3.8 и гибридом Gated DeltaNet: 64 слоя, включая 16 стандартных attention-слоёв и 48 слоёв линейного внимания Gated DeltaNet. Используются GQA с 24 attention-heads и 4 KV-heads, размер скрытого состояния — 5120, словарь содержит 248 320 токенов, контекст — до 262 144 токенов. Модель поставляется в формате GGUF для llama.cpp; тензоры MTP/NextN исключены. Главное преимущество — существенно сниженная склонность к отказам при сохранении поведения базовой модели: по приведённым независимым измерениям, число отказов на наборе из 100 вредоносных запросов снизилось до 0–1, а отклонение KL составило около 0,0085. Ограничения связаны с намеренно ослабленными защитными механизмами, поэтому модель не подходит для сценариев, требующих строгих встроенных ограничений безопасности; отдельные guardrails сохранены. README указывает, что модель предназначена для совершеннолетних пользователей и должна применяться ответственно и в соответствии с местным законодательством. Лицензия — Apache-2.0, унаследованная от Qwen3.8-27B.

Это плотная причинная языковая модель семейства Qwen2 объёмом 7,1 млрд параметров, опубликованная как чекпойнт в стандартном формате Hugging Face Safetensors. Она предназначена для генерации текста и диалоговых сценариев; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст длиной до 131 072 токенов. Карточка называет её резервной копией исследовательского артефакта, но не описывает конкретное дообучение, набор данных или специализацию. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.

jeiku/32kBase — слитая языковая модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit. В слиянии методом SLERP использованы jeiku/DareDeez и jeiku/DareNutz; модель содержит 7,1 млрд параметров и имеет контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Метаданные также отмечают интерфейс вызова инструментов. Веса опубликованы в формате Safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.