I.5Создание и редактирование текста

Terathox-Coder/Qwen3.8-27B-MTP-GGUF — это общественная GGUF-конверсия и квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Дополнительное обучение или дообучение не выполнялось. Модель содержит 27 млрд параметров, представлена в формате GGUF и использует квантование Q4_K_M; исходные MTP/NextN-тензоры сохранены. Модель предназначена для локальной генерации текста, программирования, задач software engineering, агентных сценариев, технического рассуждения и работы с длинным контекстом. Она совместима с llama.cpp и совместимыми GGUF-рантаймами, включая Ollama. Сохранение MTP/NextN позволяет экспериментировать со спекулятивным декодированием, однако наличие соответствующих тензоров само по себе не гарантирует их фактическое использование: это зависит от версии и настроек рантайма. В README заявлена поддержка языков English, Spanish и Chinese, а локальное тестирование проводилось с контекстом до 204800 токенов. Ключевые преимущества — существенно сниженные требования к памяти по сравнению с исходной BF16-моделью, поддержка локального запуска и сохранённые компоненты MTP/NextN. Размер файла составляет около 16,8 ГБ. Ограничения включают возможное снижение качества из-за квантования Q4_K_M, отсутствие стандартизированных тестов качества для этой сборки и риск неточных, предвзятых или галлюцинированных ответов. Хотя исходная модель обладает мультимодальными возможностями, данный репозиторий содержит только языковой GGUF-артефакт без проверенного мультимодального проектора, поэтому сборку следует считать текстовой. Модель распространяется по лицензии Apache-2.0. Конкретные показатели скорости в README относятся к локальной конфигурации на трёх GPU и не являются стандартизированными бенчмарками качества или производительности.

Это квантованная версия Qwen3.8-27B, подготовленная FreedomAISVR в формате GGUF MXFP4 для запуска через llama.cpp на видеокартах NVIDIA Blackwell. В основе — плотная мультимодальная архитектура Qwen3_5ForConditionalGeneration с языковой частью на 27 млрд параметров и отдельным визуальным проектором; веса модели используют MXFP4, проектор — F16. Карточка указывает лицензию Apache-2.0. Модель предназначена для диалогов с текстом и изображениями, анализа видео, программирования, профессиональных и исследовательских задач, а также многошагового планирования и работы с агентскими сценариями. Режим рассуждений включён по умолчанию; его можно отключать и настраивать глубину. В README приведены примеры запуска с контекстом 32K и тесты производительности на RTX 5060 Ti 16GB, но это рекомендованные настройки и результаты для конкретной конфигурации, а не гарантии для другого оборудования. Квантизация уменьшает размер текстовых весов примерно до 14,2 ГБ; для обработки изображений также нужен визуальный проектор около 928 МБ. README рекомендует видеокарты RTX 50-й серии с 16 ГБ видеопамяти и не менее 16 ГБ оперативной памяти. Указанный в README контекст 32K — настройка примера запуска, а не подтверждённый максимальный контекст модели. Качество и скорость могут зависеть от оборудования и сборки llama.cpp.

ChrisandErin86/Qwen3.8-27B-OBLITERATED — текстовая авторегрессионная модель генерации на базе Qwen/Qwen3.8-27B, модифицированная с применением метода abliteration для удаления или ослабления поведения, связанного с отказами и защитными ответами. В README также упоминаются подходы complementary abliteration blending, итеративное уточнение и целевая обработка корпусов. Модель ориентирована на диалоговые сценарии, генерацию текста и кода, включая задачи, в которых исходная модель могла отказываться отвечать; отдельно заявлена пригодность для агентных систем и исследований AI safety. Разработчик базовой модели — Qwen, автор производной модели указан как ChrisandErin86. Из известных характеристик указаны архитектура Qwen3, размер 27B параметров, текстовая модальность и поддержка форматов GGUF, Safetensors и MLX. Заявлена совместимость с thinking mode и чат-шаблоном; точный размер контекста и перечень поддерживаемых языков в предоставленном фрагменте README не указаны. Для инференса рекомендуются температура 0, repetition_penalty 1.15, не менее 2048 новых токенов и отсутствие системного промпта; для агентных сценариев предложены более короткие ответы и периодическое суммирование контекста. Сильная сторона модели — сниженное количество отказов при сохранении большей части возможностей исходной Qwen3.8-27B: в README приведён результат MMLU 82,3% против 84,5% у базовой модели, а также заявлены успешные результаты на тестах генерации кода и некоторых расширенных практических задачах. Ограничениями являются небольшая потеря качества относительно базовой модели, риск циклической генерации без настройки repetition_penalty и потенциальные риски применения менее ограниченной модели. Лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-UltraOptimised-VariableThinking-1M — это GGUF-релиз 27-миллиардной модели семейства Qwen3.8, созданный Solstice-AI на основе модели DavidAU Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored. DavidAU разработал исходную модель и слияние GAIN, а Solstice-AI выполнила квантование, интеграцию Multi-Token Prediction и настройку когнитивной архитектуры. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp, Ollama и совместимые приложения. Модель ориентирована на диалог, рассуждения, программирование и задачи, требующие управляемой глубины анализа. Заявлена поддержка мультимодального ввода изображений и видеокадров через отдельный проектор mmproj-BF16.gguf, а также английского и китайского языков. Доступны десять уровней режима рассуждений — от прямого ответа без мыслительных токенов до глубокого анализа; режим можно выбирать через специальные параметры шаблона чата или теги сообщений. Заявлен контекст размером до 1M токенов, однако README не приводит подробностей о фактических требованиях к памяти и совместимости всех реализаций. Главные особенности — Native Hardware Multi-Token Prediction для ускорения генерации, сохранение lm_head в 16-битной точности в MAX-MTP-сборках и несколько вариантов квантования. Q4_K_M рассчитан примерно на 16 ГБ VRAM, Q5_K_M — на 24 ГБ, Q6_K — на 24–32 ГБ, а Q8_0 — на 32 ГБ и более. Более низкая разрядность уменьшает требования к памяти, но может снижать точность; мультимодальная обработка требует дополнительного проектора и ресурсов. Модель позиционируется как uncensored/abliterated, поэтому может не применять стандартные ограничения безопасности. Лицензия — Apache 2.0.

Qwen3.8-27B-UD-Q3_K_XL-DFlash2-MLX — это MLX-квантизация базовой модели Qwen/Qwen3.8-27B, подготовленная для локального запуска на компьютерах Apple Silicon. Модель разработана автором репозитория nathansutton и предназначена прежде всего для генерации текста, написания и анализа кода, а также работы в локальном coding-агенте chad, стилизованном под Claude Code. Модель поддерживает текстовый ввод и вывод; язык базовой модели и точный перечень поддерживаемых языков в README не указаны. Модель имеет плотную гибридную архитектуру Qwen3.8-27B с 27 млрд параметров, 64 слоями, включая 48 слоёв GatedDeltaNet и 16 слоёв полноформатного attention. Основная часть весов квантизирована до 3 бит с группами размера 64, эмбеддинги также имеют 3-битную квантизацию, а lm_head — 5-битную. Нативное контекстное окно составляет 262 тысячи токенов. Размер весов — около 12,1 ГБ, вместе с дополнительным drafter-модулем — около 13,3 ГБ; модель рассчитана на Apple Silicon с 24 ГБ памяти, но в таком режиме фактический доступный контекст обычно составляет десятки тысяч токенов. В комплект входит 1,9-миллиардный DFlash2 block drafter, который ускоряет авторегрессионную генерацию за счёт спекулятивного декодирования. Он квантизирован до 4 бит и предлагает блоки токенов, проверяемые целевой моделью с сохранением её распределения при семплировании. На M4 Pro с 24 ГБ памяти README сообщает ускорение примерно с 17,5 до 60,1 токена в секунду для жадной генерации и с 22,4 до 49–51 токена в секунду для режима с sampling; на длинных агентских контекстах прирост ниже. Ограничения включают зависимость от Apple Silicon и памяти, снижение эффективного контекста на устройствах с 24 ГБ, а также возможные расхождения жадной генерации с последовательным декодированием из-за различий вычислительных ядер. Целевые веса наследуют лицензию базовой модели Qwen3.8-27B, а содержимое каталога dflash — лицензию исходного релиза DFlash2. Перед использованием или распространением необходимо проверить условия обеих лицензий.

Qwen3.8-27B-Uncensored-NVFP4 — квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, созданная preetpatel на базе Qwen3.8-27B от Qwen. Исходная модель представляет собой abliteration/fine-tune без встроенных ограничений, ориентированный авторами на red teaming и исследования. Данный репозиторий изменяет числовой формат весов и не выполняет дополнительное обучение. Модель предназначена для генерации текста, рассуждений, программирования, работы в составе coding-agent, вызова инструментов и обработки изображений. Поддерживаются текстово-графические сценарии, function calling и вывод рассуждений через тег <think>. Заявлены английский и китайский языки. Модель использует гибридную архитектуру с gated-DeltaNet и linear-attention блоками; квантизация NVFP4 по схеме W4A4 применяется к весам и активациям линейных слоёв, а vision tower, lm_head и некоторые слои сохраняются в BF16. Размер весов составляет около 19 ГБ вместо примерно 56 ГБ в BF16. На одной RTX 5090 с 32 ГБ памяти заявлена работа с контекстом до 160 тысяч токенов при использовании vLLM и FP8 KV-cache. К сильным сторонам относятся низкое потребление видеопамяти, поддержка длинного контекста, изображений, структурированных вызовов инструментов и сценариев автономного агента. README сообщает об успешных тестах извлечения данных из контекста длиной до 155 тысяч токенов, параллельной обработке запросов и tool calling. Ограничения включают привязку оптимизаций к GPU Blackwell и совместимому окружению vLLM, а также небольшое дополнительное округление при слиянии некоторых квантизированных слоёв; возможное влияние на точные бенчмарки следует учитывать. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

nvythong/Qwen3.8-35B-A3B-Distill-mlx-fp16 — конвертированная в формат MLX модель Empero на базе Qwen3.8-35B-A3B-Distill. Репозиторий создан 29 сентября 2026 года; модель предназначена для диалоговой генерации текста. Базовая модель имеет MoE-архитектуру семейства Qwen3.5 и поддерживает чат, рассуждения, математику, программирование и вызов инструментов. В README указано преобразование с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors и лицензию Apache-2.0. Модель ориентирована на английский язык. Сведений о длине контекста и точном числе параметров этой версии нет.

IsValorum Qwen3.8-35B-A3B-Distill-MTP-APEX-I-MiniPlus-V2.1-Abliterated-GGUF — это GGUF-квантизированная версия модели empero-ai/Qwen3.8-35B-A3B-Distill, предназначенная для генерации текста, рассуждений, программирования и локального запуска через llama.cpp и совместимые инструменты. Модель относится к разреженной архитектуре Mixture-of-Experts и содержит 40 слоёв и 256 микроэкспертов. Заявлена поддержка контекста до 256K токенов, а также английского, китайского, испанского, французского, немецкого, португальского, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Это аблитерированная версия без стандартных ограничителей отказа, ориентированная на сценарии, где требуется минимизация отказов при задачах по безопасности систем, пентестингу и анализу соответствия требованиям. Вариант APEX-I-MiniPlus V2.1 использует настраиваемое покомпонентное квантование: маршрутизаторы gate_inp сохранены в F32, выходная голова — в Q6_K, attention gates — в Q8_0, а основные экспертные тензоры — преимущественно в IQ3_XXS. Размер модели составляет примерно 13,74 GiB, заявлены отсутствие существенных задержек AVX2 и поддержка ускоренного speculative execution с отдельной Q8_0 MTP-компонентой. К сильным сторонам относятся компактный размер для MoE-модели, сохранение маршрутизации экспертов в F32, высокая заявленная близость к качеству Q5–Q6-квантов и широкий языковой охват. Ограничение унаследовано от исходной BF16 Distill-модели: при очень длинных ответах возможны повторения, в том числе после блока рассуждений; это не связывается с квантованием. Релиз распространяется по лицензии Apache-2.0.

Youssofal/Qwen3.8-Flash-Next-MTPLX-Bare-Speed — это квантованная версия Qwen/Qwen3.8-Flash-Next, подготовленная для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена для локального диалога, генерации текста и программного кода, включая сценарии работы с OpenCode и другими инструментами разработки. В основе лежит архитектура поколения Qwen4 с гибридной MoE-структурой GDN, Qwen Sparse Attention, памятью n-gram на 51 млрд параметров и встроенной головой multi-token prediction. Заявлены поддержка текста и сохранённая vision tower, контекст до 262 144 токенов; языки в README не указаны. Все MoE-эксперты и плотные матрицы выполнены в плоской 4-битной квантизации с группами по 64 веса, а отдельные компоненты, включая нормализации, параметры GDN, индексатор QSA и MTP-голову, сохраняются в 16-битном формате. Размер загрузки составляет 106,3 ГБ, из которых около 32 ГБ занимает таблица n-gram, потоково читаемая с SSD; резидентные веса занимают примерно 74 ГБ плюс рабочая память. Рекомендуется Apple Silicon Mac с unified memory от 96 ГБ. Адаптивная speculative decoding с глубиной до 3 токенов, по данным README, обеспечивает ускорение до 1,6 раза относительно обычной авторегрессивной генерации, сохраняя распределение вывода при поддерживаемых настройках sampling. Сильные стороны модели — высокая скорость локального запуска, большой контекст и оптимизация под Apple Silicon. Ограничения включают значительные требования к памяти, зависимость от MTPLX и macOS на Apple Silicon, а также компромисс качества, связанный с плоской 4-битной квантизацией; README указывает, что версия Optimized Speed обеспечивает более высокое качество и работает немного медленнее. Лицензия указана как qwen-community-1.0; точные условия следует уточнять в файле LICENSE и документации базовой модели.

Qwen3-Swallow-32B-RL-v0.2 — японско-английская языковая модель команды Swallow LLM, дообученная на основе Qwen3-Swallow-32B-SFT-v0.2 с помощью обучения с подкреплением по проверяемым вознаграждениям (RLVR). Это плотная архитектура Qwen3 с 29,7 млрд параметров, предназначенная для диалоговой генерации текста и рассуждений; модель принимает текст и генерирует текст. Поддерживает японский и английский языки, а родная длина контекста составляет 40 960 токенов. Модель ориентирована на ответы на японском и английском языках, перевод между ними, а также задачи математики и программирования. По описанию разработчиков, RLVR улучшило математические и кодовые рассуждения, сохранив результаты на уровне исходных Qwen3 или выше на некоторых задачах. Для запуска разработчики рекомендуют Transformers-совместимую инфраструктуру, в частности vLLM, и контекст не более 32 768 токенов. Вызов инструментов не является проверенным сценарием, а отдельного переключателя режима рассуждений нет. Модель выпущена на раннем этапе исследований и разработки; авторы предупреждают, что её ответы не настроены для надёжного соответствия намерениям пользователя и требованиям безопасности. Лицензия — Apache-2.0.

Qwen3-VL-8B-Instruct-GGUF — мультимодальная vision-language модель семейства Qwen3-VL, разработанная командой Qwen; данный репозиторий содержит её веса в формате GGUF и включает исправления chat template от Unsloth. Модель предназначена для диалогов и генерации текста по текстовым и визуальным входам, включая анализ изображений и видео, OCR, визуальное рассуждение, понимание пространственных отношений, обработку документов, визуальное программирование и взаимодействие с графическими интерфейсами через инструменты. Модель имеет плотную архитектуру и размер 8B параметров. Заявлены нативный контекст 256K токенов с возможностью расширения до 1M, поддержка видео с временной привязкой событий и OCR на 32 языках; полный список языков текстового общения в README не указан. Среди архитектурных компонентов упомянуты Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся объединённое понимание текста и изображений, распознавание деталей и документов, пространственный и мультимодальный анализ, а также сценарии визуального агента. Ограничения, точные требования к ресурсам и характеристики конкретной GGUF-квантизации в README не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen-Qwen2.5-Coder-14B-Instruct-GGUF-Q4_K_M — квантизированная версия Qwen2.5-Coder-14B-Instruct, опубликованная пользователем sigmanih с использованием Sigma Studio. Модель предназначена для генерации текста и кода, программирования, повседневных ассистентов, агентских сценариев и задач, требующих рассуждений. В README указаны английский и итальянский языки, однако полный перечень поддерживаемых языков не приведён. Модель использует архитектуру qwen2 и формат GGUF с квантизацией Q4_K_M. Она содержит 14 млрд параметров, имеет 48 Transformer-слоёв, размер скрытого представления 5120 и контекстное окно до 32 768 токенов. Размер файлов составляет около 8,37 ГБ; для инференса рекомендуется примерно 10,5 ГБ VRAM при полной загрузке на GPU или 10,3 ГБ RAM в CPU-гибридном режиме. Рекомендуемая конфигурация — GPU с 12–16 ГБ VRAM либо система с 32 ГБ оперативной памяти. По приведённым тестам модель показывает сильные результаты в программировании и ряде математических задач: 86% на HumanEval, 100% на MBPP и GSM8K, 89% на ARC-Challenge и MATH. При этом результаты по GPQA и MMLU-Pro составили 33%, а общая оценка в заявленном наборе тестов — 69 из 100. В агентском тестировании завершено 4 из 6 сценариев, а соблюдение протокола инструментов составило 63,6%, поэтому модель не следует считать безошибочной для сложной автономной работы. В README одновременно указаны лицензия other в метаданных и обозначение Apache-2.0 на странице, поэтому условия использования требуют дополнительной проверки по официальным лицензионным материалам репозитория и базовой модели.

Qwopus3.6-35B-A3B-v1-GGUF — экспериментальная мультимодальная модель, разработанная Jackrong на базе Qwen3.6-35B-A3B от Alibaba Cloud. Она дообучена методом SFT с применением LoRA для усиления рассуждений, структурированности ответов и согласованности поведения. Модель предназначена для генерации текста, глубокого рассуждения, программирования, агентских сценариев, диалогов, работы с изображениями и вызова инструментов. В основе лежит разреженная MoE-архитектура: 35 млрд параметров всего и около 3 млрд активных параметров на токен, с маршрутизацией через 256 экспертов. Архитектура сочетает линейное внимание Gated DeltaNet со стандартными слоями gated attention и поддерживает контекст до 262 тысяч токенов. Заявлена поддержка английского, китайского, испанского, русского и японского языков. Для работы с изображениями требуется отдельный файл mmproj.gguf. Сильными сторонами заявлены качество и надёжность рассуждений, высокая эффективность инференса и поддержка длинного контекста, мультимодальности и tool calling. Модель распространяется в формате GGUF и ориентирована на запуск через совместимые инструменты, включая llama.cpp. При этом она не прошла полную оценку производительности и безопасности, поэтому подходит прежде всего для исследований и экспериментов; заявленные результаты получены в независимом тестировании квантованной версии и могут зависеть от условий. Лицензия — Apache-2.0.

JC1DA/Qwopus3.8-27B-Flash-INT4-W4A16 — экспериментальная 4-битная версия модели Qwopus3.8-27B-Flash, разработанной Jackrong на основе Qwen/Qwen3.8-27B. Модель ориентирована на генерацию текста, диалоговые сценарии, рассуждения, написание кода, агентские рабочие процессы, использование инструментов и function calling. Заявлена поддержка английского, китайского, испанского, русского и японского языков. В карточке также указан мультимодальный pipeline image-text-to-text и сохранённый visual encoder, однако подробности о возможностях работы с изображениями не приведены. Квантование выполнено с помощью AutoRound 0.12.3 и GPTQ: 4 бита для весов, 16 бит для активаций, размер группы 128. Размер модели составляет около 19 ГБ вместо примерно 54 ГБ в FP16, что уменьшает объём памяти приблизительно на 65%. В FP16 сохранены проекционные матрицы linear attention во всех 64 слоях, модуль MTP и visual encoder. Модель совместима с Transformers и другими средами, поддерживающими GPTQ/AutoRound, а также предназначена для высокопроизводительного сервинга через vLLM. Сильные стороны модели — сниженное потребление памяти, пригодность для локального запуска, длительных агентских сценариев и speculative decoding. На ARC-Easy квантованная версия показала 84,13% точности против 83,71% у FP16-версии. Ограничения включают возможный компромисс между эффективностью и точностью: в указанном наборе MMLU-Pro модель получила 91,28% против 92,73% у базовой Qwen3.8. Возможны нестабильность рассуждений, циклы и неэффективные траектории; качество применения инструментов зависит от промпта, окружения и оркестрации. Релиз обозначен как экспериментальный и предназначен для исследований, локальной оценки и технических экспериментов. Лицензия — Apache-2.0.

QwQ-SkyT1-32B-Preview — объединённая языковая модель на 32 млрд параметров, созданная методом линейного слияния Qwen/QwQ-32B-Preview и NovaSky-AI/Sky-T1-32B-Preview с помощью mergekit. Она использует плотную архитектуру Qwen2 и предназначена для диалоговой генерации текста; базовые модели рассчитаны в том числе на математические рассуждения и программирование. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. Весовая точность при слиянии — float16. Подходит для диалоговых помощников, решения математических задач и помощи с программированием. Карточка не сообщает отдельной лицензии, поэтому условия использования следует проверять у авторов базовых моделей и в метаданных репозитория. Это предварительная версия, а её практическое качество для конкретных задач требует оценки.

R1-Stheno-8B — объединённая языковая модель автора harkov000, созданная с помощью mergekit методом SLERP из DeepSeek-R1-Distill-Llama-8B и Llama-3.1-8B-Stheno-v3.4. Это плотная модель семейства Llama с примерно 7,5 млрд параметров, предназначенная для генерации текста в диалогах и многошаговых рассуждений. В метаданных указано контекстное окно 131 072 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Сочетание базовых моделей ориентирует её на диалоговую генерацию и задачи рассуждения, включая решение математических задач и программирование. Метаданные отмечают интерфейс вызова инструментов, однако README не описывает его формат или надёжность. Лицензия в предоставленных сведениях не указана.

RavenXAILabsLLC-Qwen3.8-27B-Abliterated-Unified-Frontier-Model-IQ-Injected-MLX-MTP — открытая текстовая генеративная модель, разработанная RavenX AI Labs LLC на основе PocketAiHub/Qwen3.8-27B-Abliterated-MLX-4bit. По данным карточки, модель объединяет дистиллированные примеры и паттерны рассуждения из нескольких заявленных frontier-моделей и дополнительно обучалась на задачах программирования, агентного tool calling, анализа безопасности, финансов и трейдинга. Заявлены 1 159 426 обучающих примеров и сохранение планирования в весах без явных тегов рассуждений в ответах. Модель предназначена для генерации текста, программирования, структурированного анализа, агентских сценариев с вызовом инструментов и API, анализа уязвимостей и задач, связанных с безопасностью. Архитектура указана как Qwen3_5, размер — 27 млрд параметров, формат — MLX 4-bit; поддерживается библиотекой MLX и ориентирована прежде всего на запуск на Apple Silicon. В карточке также заявлена совместимость с ESI и MTP drafter для speculative decoding, а рекомендуемый объём памяти составляет около 15,5 ГБ. Указан английский язык; поддержка других языков и размер контекстного окна не уточняются. Сильными сторонами заявлены универсальность, навыки программирования и рассуждений, агентское взаимодействие с инструментами, а также оптимизация для локального запуска на устройствах Apple. Производитель сообщает о результате 93% на собственном наборе из 18 тестов, однако подробная методика и независимое подтверждение этого показателя в README не приведены. Ограничениями являются отсутствие подтверждённых сведений о контекстном окне, мультимодальности, качестве на разных языках и независимых бенчмарках; возможности в сфере пентестинга и безопасности требуют осторожного применения и проверки результатов. Лицензия указана как Apache-2.0.

Ring-flash-2.0 — разговорная языковая модель с архитектурой MoE, разработанная InclusionAI на основе Ling-flash-2.0-base. Она предназначена для сложных рассуждений, включая решение математических задач, генерацию кода и логический анализ, а также для научных и медицинских вопросов и творческого письма. Модель обучалась в несколько этапов с SFT, обучением с проверяемыми наградами и RLHF; README также описывает алгоритм icepop для повышения стабильности длительного обучения с подкреплением для MoE-моделей. В метаданных указано 5,5 млрд параметров, а README сообщает о 100 млрд параметров всего и 6,1 млрд активных при генерации. Архитектура включает разреженную активацию экспертов и слои MTP. Контекст — до 32 768 токенов. Модель принимает текст и генерирует текст; основное назначение — диалоговое текстовое взаимодействие. Заявленные авторами сильные стороны — эффективность инференса и результаты в задачах рассуждения; эти оценки основаны на описании модели и приведённых там сравнениях. Модель доступна по лицензии MIT. Для запуска README описывает использование Transformers и vLLM, причём для vLLM на момент карточки требовалась специальная подготовка окружения. Поддерживаемые естественные языки в предоставленных источниках не перечислены.

Ring-mini-linear-2.0 — языковая модель компании inclusionAI для генерации текста и диалогов. Она построена на гибридной архитектуре, сочетающей линейное и стандартное внимание, и использует разреженную смесь экспертов (MoE). В репозитории указано 1,2 млрд параметров, а в карточке модели описана версия с 16,4 млрд параметров, из которых при генерации активируются 1,6 млрд; эти цифры расходятся, поэтому размер полной модели по доступным данным нельзя согласовать. Модель дообучена на основе inclusionAI/Ling-mini-base-2.0-20T на дополнительных 600 млрд токенов. Модель предназначена для генерации ответов в диалогах и решения сложных задач по математике, программированию и науке. Метаданные указывают поддержку интерфейса вызова инструментов. Для эффективной обработки длинного контекста заявлено окно до 512 тыс. токенов с расширением YaRN; метаданные указывают нативный контекст 131 072 токена. В карточке приведены англоязычные теги. Для запуска описана поддержка Transformers и SGLang, а также BF16 и FP8 в SGLang; инструкции по установке специальных зависимостей и сборок движков указывают на необходимость совместимой среды. Лицензия — MIT.

SambaLingo-Arabic-Base-70B — базовая двуязычная языковая модель SambaNova Systems на архитектуре Llama 2. Модель адаптирована от Llama-2-70b и обучена на 28 млрд токенов арабской части датасета Cultura-X; число параметров — 68,9 млрд, контекст — 4096 токенов. Для арабского языка расширен словарь токенизатора с 32 000 до 57 000 токенов. Модель предназначена для генерации текста на арабском и английском языках, а также для задач перевода. Для работы с базовой моделью рекомендуется few-shot prompting с примерами; для прямого диалога и вопросов разработчик предлагает использовать SambaLingo-Arabic-Chat. По README, модель показывает сильные результаты в perplexity и переводе на тесте FLORES-200. Модель распространяется по лицензии Meta Llama 2 Community License. Возможны галлюцинации, переключение между языками или диалектами, повторы, а также ошибки в коде и сложной математике; модель не предназначена для критически важных приложений и решений, влияющих на безопасность.

Signal 3.8 27B — дообученная AgentionAI мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров, предназначенная для более краткой и быстрой генерации ответов. По данным разработчика, при сохранении качества на их проверочных наборах модель сокращала число токенов в ответах и рассуждениях; после обновления весов 13 сентября 2026 года эти показатели ещё не были повторно измерены. Изменена только матрица выходного слоя lm_head, остальные веса, включая vision encoder, проектор и MTP draft head, совпадают с Qwen/Qwen3.8-27B. Модель поддерживает диалог, анализ изображений и интерфейс вызова инструментов. Её можно использовать для лаконичных ответов на вопросы, программирования, рассуждений и задач с изображениями; автор приводит настройки запуска с контекстом до 65 536 токенов. Для стабильной краткой генерации рекомендуются параметры семплирования и кэширования, указанные в карточке модели. Модель распространяется в формате BF16 через Transformers и совместима с vLLM, SGLang и конвейерами квантизации. Лицензия — Apache-2.0. Приведённые сравнения качества и скорости относятся к конкретным тестам разработчика; измерения токеновой экономии для обновлённых весов ещё не завершены.

Smaug-Llama-3-70B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Smaug-Llama-3-70B-Instruct, разработанной Abacus AI. Квантизацию выполнил bartowski с использованием imatrix и поддержки Smaug в llama.cpp. Модель предназначена для генерации текста по инструкциям, решения математических задач и работы с кодом; в качестве исходных данных указаны aqua_rat, microsoft/orca-math-word-problems-200k и m-a-p/CodeFeedback-Filtered-Instruction. Формат GGUF позволяет запускать её через llama.cpp, начиная с версии b3001. Модель содержит 70 миллиардов параметров и относится к текстовым моделям; сведения о поддерживаемых языках и размере контекста в README не указаны. Доступны варианты квантизации от Q8_0 до IQ1_M с размером файлов примерно от 75 ГБ до менее 20 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-квантизации отмечены как рекомендуемые: они предлагают компромисс между качеством и требованиями к памяти. Более сильная квантизация сохраняет качество, но требует значительных ресурсов, тогда как варианты Q2 и Q1 экономят память за счёт заметного снижения качества. Для корректной работы следует использовать указанный формат приглашений Llama 3 с системным сообщением, запросом пользователя и ответом assistant. README указывает лицензию llama2; дополнительные ограничения и условия коммерческого использования не описаны.

Speechless Instruct Mistral 7B v0.2 GGUF — это квантизированная версия инструкционной языковой модели speechless-instruct-mistral-7b-v0.2, опубликованная в формате GGUF пользователем bartowski. Исходная модель размещена uukuguy. Модель предназначена для генерации текста по инструкциям, включая задачи программирования и выполнения общих текстовых запросов. Модель основана на архитектуре Mistral и содержит 7 миллиардов параметров. Она работает с текстом, заявлена для английского языка и поддерживает сценарии text-generation через llama.cpp и совместимые инструменты. В README указан формат промптов в стиле [INST] с системным сообщением, однако отмечено, что официальная chat template не задана и приведённый формат может быть неточным. Доступны варианты квантизации Q2–Q8 и IQ, различающиеся размером файла и компромиссом между качеством и потреблением памяти; наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S и варианты Q4. Обучение или дообучение исходной модели связано с наборами jondurbin/airoboros-2.2, Open-Orca/OpenOrca, Open-Platypus, WizardLM/WizardLM_evol_instruct_V2_196k и TokenBender/python_eval_instruct_51k. В качестве сильных сторон указаны поддержка инструкций, задач программирования и широкий выбор квантизаций для запуска на устройствах с разным объёмом памяти. Ограничения включают снижение качества на низких уровнях квантизации, отсутствие подтверждённого значения pass@1 для HumanEval и неопределённость с шаблоном чата. Лицензия — Apache-2.0.

Starling-LM-7B-beta-GGUF — это квантизированная GGUF-версия языковой модели Starling-LM-7B-beta, разработанной Nexusflow на основе openchat/openchat-3.5-0106 и Mistral-7B-v0.1. GGUF-квантизация выполнена bartowski с использованием llama.cpp. Модель содержит около 7 млрд параметров и предназначена для генерации текста. Модель ориентирована на многошаговый диалог, общие вопросы, выполнение повседневных текстовых задач и программирование. Она обучалась с применением reward model Nexusflow/Starling-RM-34B и оптимизации PPO на данных berkeley-nest/Nectar, что направлено на улучшение качества ответов и следования предпочтениям в диалогах. Поддерживается английский язык. Модель текстовая и не предназначена для обработки изображений или других мультимодальных данных. Для работы рекомендуется шаблон OpenChat; для задач программирования предусмотрен шаблон OpenChatCode. Системный промпт модель не поддерживает. README не указывает размер контекстного окна и конкретные требования к ресурсам, поэтому эти характеристики нельзя надежно определить из доступных данных. К преимуществам относятся компактный размер, пригодность для локального запуска в формате GGUF и специализация на диалогах и коде; ограничения включают англоязычную ориентацию, отсутствие мультимодальности и зависимость качества от выбранной квантизации и параметров запуска. Модель распространяется по лицензии Apache-2.0.

d0xin выпустил Swift-Qwen3.8-27B-Uncensored-BF16 — BF16-производную модели ukisai/Swift-Qwen3.8-27b на архитектуре Qwen3.5 dense с генерацией текста по текстовому и визуальному вводу. Модель рассчитана на диалоги, рассуждения, программирование, агентные сценарии и вызов инструментов; заявленная конфигурация контекста — 262 144 токена. Чекпойнт занимает около 52 ГБ, работает через Transformers и может обслуживаться через OpenAI-совместимый API SGLang. Модель получена ранговой абляцией направления в residual stream: изменены 131 из 1199 тензоров, а веса зрения оставлены без изменений. Автор сообщает, что на фиксированной проверке из 100 запросов модель не отказала ни разу, хотя в 10 случаях ответ сопровождался оговоркой; на отдельной проверке из 298 примеров измеримого снижения качества по сравнению с исходной моделью не обнаружено. Эти результаты относятся к описанным наборам и настройкам и не гарантируют поведение на других запросах. Из-за снижения склонности к отказам модель может выдавать небезопасный, незаконный или недостоверный контент. Лицензия указана как other; карточка рекомендует lawful use и предупреждает, что модель не предназначена для регулируемых профессиональных консультаций.

T5-11B — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Colin Raffel, Noam Shazeer и коллегами. Она представляет задачи обработки естественного языка в формате преобразования текста в текст: модель получает текстовую инструкцию и входной текст, а затем генерирует текстовый ответ. В README указано 11 миллиардов параметров; метаданные каталога сообщают 385,2 млн параметров, поэтому размер модели в источниках расходится. Архитектура — плотная T5WithLMHeadModel, контекст — 512 токенов. Основная задача в метаданных — перевод. Модель также может служить основой для дообученных сценариев суммаризации, ответов на вопросы, классификации и анализа тональности. Указанные языки — английский, французский, румынский и немецкий; предобучение проводилось на корпусе C4 и смеси задач, включая Wiki-DPR и наборы для классификации, сходства предложений и вопросов-ответов. Для загрузки весов требуется значительный объём памяти: README сообщает, что только веса занимают более 40 ГБ, и рекомендует распределение модели между устройствами либо ZeRO-Offload. Лицензия — Apache 2.0.

Карточка модели conor9999/t5-large на Hugging Face совпадает с карточкой google-t5/t5-large, поэтому описание составлено по ней. T5-Large — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Colin Raffel, Noam Shazeer и коллегами. Она преобразует текстовый ввод в текстовый вывод и обучалась в едином формате для разных задач обработки естественного языка. В карточке Hugging Face основная задача модели указана как перевод; размер версии в метаданных — 385,2 млн параметров, архитектура — T5ForConditionalGeneration. В README приведён размер 770 млн параметров, поэтому сведения о размере в источниках расходятся. Модель предназначена для перевода и может применяться после соответствующей настройки для суммаризации, ответов на вопросы, классификации и других текстовых задач. Заявленные языки — английский, французский, румынский и немецкий; длина контекста — 512 токенов. Предобучение проводилось на C4 и наборах данных для языковых задач. Модель доступна в форматах PyTorch, TensorFlow, Flax и safetensors. Лицензия — Apache 2.0. Возможности модели ограничены обучающими данными и контекстом; результаты могут содержать ошибки и отражать смещения данных. README не приводит подробных оценок качества или конкретных ограничений для отдельных сценариев.

T5-Large — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Colin Raffel, Noam Shazeer и коллегами. Она преобразует текстовый ввод в текстовый вывод и обучалась в едином формате для разных задач обработки естественного языка. В карточке Hugging Face основная задача модели указана как перевод; размер версии в метаданных — 385,2 млн параметров, архитектура — T5ForConditionalGeneration. В README приведён размер 770 млн параметров, поэтому сведения о размере в источниках расходятся. Модель предназначена для перевода и может применяться после соответствующей настройки для суммаризации, ответов на вопросы, классификации и других текстовых задач. Заявленные языки — английский, французский, румынский и немецкий; длина контекста — 512 токенов. Предобучение проводилось на C4 и наборах данных для языковых задач. Модель доступна в форматах PyTorch, TensorFlow, Flax и safetensors. Лицензия — Apache 2.0. Возможности модели ограничены обучающими данными и контекстом; результаты могут содержать ошибки и отражать смещения данных. README не приводит подробных оценок качества или конкретных ограничений для отдельных сценариев.

tawfikgh/t5-small-finetuned-xsum — модель tawfikgh, полученная дообучением T5-small для суммаризации текста. Она основана на архитектуре T5ForConditionalGeneration, содержит 38,5 млн параметров и принимает текст с контекстом до 512 токенов. В README приведены метрики обучения и проверки, включая ROUGE, однако обучающий набор данных указан как неизвестный. Модель предназначена для создания кратких текстовых сводок; название репозитория указывает на задачу XSum. Опубликованные веса представлены в формате TensorFlow. Лицензия — Apache-2.0. Проверочные показатели в карточке сами по себе не гарантируют качество на других данных.

TowerInstruct-Mistral-7B-v0.2 — языковая модель Unbabel, Instituto Superior Técnico и CentraleSupélec University of Paris-Saclay, полученная дообучением Mistral-версии TowerBase на наборе TowerBlocks. Это плотная архитектура Mistral с 7,1 млрд параметров, принимающая текст и поддерживающая контекст до 32 768 токенов. Модель предназначена прежде всего для перевода между английским, португальским, испанским, французским, немецким, нидерландским, итальянским, корейским, китайским и русским языками. Она также выполняет постредактирование машинного перевода, учитывает терминологию и контекст, распознаёт именованные сущности, исправляет грамматические ошибки, оценивает перевод и перефразирует текст. В карточке заявлено, что её качество сопоставимо с TowerInstruct-13B-v0.2 при вдвое меньшем размере. Модель обучалась на переводных, синтетических и разговорных данных, а также примерах инструкций для кода, но не предназначена для роли чат-бота или помощника по программированию. Разработчики отдельно предупреждают, что качество перевода на уровне документов ещё улучшается и модель не предназначена для такого сценария; она не выровнена по человеческим предпочтениям и может выдавать галлюцинации или неверные утверждения. Лицензия CC-BY-NC-4.0 допускает использование с указанием авторства и ограничивает коммерческое применение.