I.3Извлечение и структурирование данных

Qwen3-Coder-30B-A3B-asym-2bitexp-GGUF — это асимметрично квантованная GGUF-версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Модель предназначена прежде всего для генерации и анализа программного кода, а также решения текстовых задач в формате instruction-following. Это вариант без режима reasoning и без блоков <think>, ориентированный на запуск через llama.cpp. В основе используется MoE-архитектура qwen3moe с 128 маршрутизируемыми экспертами, из которых активны 8 на каждом токене; эффективный объём активных параметров составляет около 3 млрд при общем размере модели 30 млрд параметров. Экспертные FFN-слои квантованы преимущественно в 2–3 бита, а attention, эмбеддинги и выходной слой сохранены с более высокой точностью. Эффективная скорость квантования — 2,99 BPW, размер файла — 11,4 ГБ (10,64 GiB). Модель рассчитана на текстовый ввод и вывод; язык и максимальный размер контекста в README явно не указаны, однако приведён пример запуска с контекстом 16 384 токена. Главное преимущество — существенная экономия памяти: модель рассчитана на размещение в 16 ГБ VRAM вместе с KV-кэшем для контекста около 16K токенов, тогда как стандартная версия Q4_K_M занимает около 18,6 ГБ. По данным измерений на wikitext-2, perplexity составляет 9,93 против 9,60 у Q4_K_M, то есть снижение качества относительно базовой 4-битной версии умеренное. Ограничения связаны с потерями квантования, меньшей точностью по сравнению с более крупными форматами и зависимостью от совместимого runtime. В README указана лицензия Apache-2.0.

Ring-lite-distill-preview — языковая MoE-модель InclusionAI для диалогов и генерации текста, дообученная на инструкционных данных с упором на рассуждения. В README указано 16,8 млрд параметров, из которых активируются 2,75 млрд; архитектура в метаданных обозначена как Bailing MoE, а карточка модели указывает контекст 16 384 токена. Модель предназначена для решения математических и логических задач, следования инструкциям, программирования и вызова функций в диалоговых сценариях. Авторы сообщают о результатах на тестах AIME24, MATH-500, GPQA-diamond, LiveCodeBench, IFEval и BFCL_v2; эти показатели относятся к оценкам авторов и не гарантируют аналогичного качества в прикладных системах. Поддерживаемые языки — китайский и английский. Модель дообучена на базе inclusionAI/Ling-lite. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — MIT.

Ring-mini-sparse-2.0-exp — экспериментальная языковая модель компании InclusionAI для генерации текста и диалогов. Она основана на Ling-mini-base-2.0 и продолжила обучение на дополнительных 100 млрд токенов. В модели сочетаются архитектура Mixture of Block Attention (MoBA) и разреженная Mixture-of-Experts (MoE); для инференса предусмотрена библиотека Transformers, а также поддержка SGLang. Модель рассчитана на рассуждения и работу с длинными входами и ответами: README сообщает о контексте до 128 тыс. токенов благодаря расширению окна YaRN в 4 раза. При декодировании с контекстом 64 тыс. токенов активируются 8 192 KV-токена на запрос; авторы заявляют о снижении нагрузки на чтение KV-кэша и ускорении генерации в сравнении с Ring-mini-2.0. Модель оценивалась на задачах математики, программирования и естественных наук, но опубликованный фрагмент карточки не содержит численных результатов. Размер модели по метаданным — 1,2 млрд параметров, родительская архитектура — Bailing MoE. Модель предназначена для текста и заявлена с поддержкой английского языка. Лицензия — MIT. Суффикс exp и исследовательские оценки указывают на экспериментальный характер; результаты и скорость могут зависеть от оборудования и используемой реализации.

SN-13B-8k-Instruct — языковая модель SambaNova Systems с 13 млрд параметров, предварительно обученная и дообученная следовать инструкциям на системах SambaNova DataScale. Модель предназначена для понимания длинных последовательностей и диалогового взаимодействия; поддерживает контекст до 8192 токенов и работает с текстом. В README указан английский язык, хотя модель также описана как многоязычная базовая модель для чата. Модель подходит для ответов на вопросы, диалогов и задач, где нужно учитывать длинный текстовый контекст. Она может галлюцинировать, повторяться, выдавать токсичный контент, а её возможности в программировании и сложной математике ограничены. Разработчик не рекомендует применять её в критически важных системах и автоматизированных процессах, влияющих на безопасность или значимые решения. Лицензия — Apache 2.0; модель заявлена для коммерческого и исследовательского использования.

T3qm7xNeuralsirkrishna_YamM7 — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamM7-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache 2.0. Данные карточки не уточняют целевые языки и специализацию, поэтому модель можно описать как универсальную генеративную языковую модель.

UNA-34Beagles-32K-bf16-v1 — экспериментальная диалоговая модель, опубликованная one-man-army и построенная на Yi-34B-200K с использованием Bagel. Это плотная 34-миллиардная языковая модель архитектуры Llama, распространяемая в формате Safetensors; заявленная длина контекста — 32 768 токенов. Модель дообучена на широком наборе данных для инструкций, диалогов, рассуждений, программирования, математики и ролевых сценариев, а также прошла DPO-обучение. Модель предназначена для генерации текста и ответов в диалоге: она может помогать с вопросами и ответами, анализом предоставленного контекста, написанием кода, математическими задачами и творческими или ролевыми текстами. В README указаны четыре варианта форматирования запросов: Vicuna, Llama 2, Alpaca и ChatML-подобный формат. Данные описывают многоязычные задачи, но конкретный перечень поддерживаемых языков не приведён. Автор сообщает, что включение Toxic DPO должно снизить цензурирование ответов. Это может повышать вероятность генерации токсичного или небезопасного текста; качество и надёжность ответов не гарантированы. Модель распространяется по лицензии Apache-2.0.

Wukong-0.1-Mistral-7B-v0.2-GGUF — это набор квантизированных версий текстовой генеративной модели Wukong-0.1-Mistral-7B-v0.2, опубликованный и подготовленный пользователем bartowski с использованием llama.cpp. Исходная модель разработана RESMPDEV. В README также указаны наборы данных OpenHermes-2.5, CodeFeedback-Filtered-Instruction и Code-Feedback, использованные в связанном с моделью обучении или подготовке. Модель предназначена для генерации текста, выполнения инструкций и задач, связанных с программным кодом. Доступны файлы в формате GGUF с различными уровнями квантизации — от Q8_0 до IQ1_M — что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели составляет 7B параметров, однако точные архитектурные характеристики, поддерживаемые языки и длина контекста в README не указаны. Модель работает через llama.cpp; формат шаблона чата явно не задан, поэтому приведённый шаблон может быть неточным. К сильным сторонам относятся широкий выбор квантизаций и возможность локального запуска на устройствах с ограниченными ресурсами. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые благодаря высокому качеству при меньшем размере, тогда как низкоразрядные варианты экономят память ценой заметного снижения качества. Лицензия — Apache-2.0.

Xenon1/Xenon-2 — диалоговая языковая модель, разработанная на основе Mistral-7B-v0.1 и дообученная на наборе Ultrafeedback с применением подходов из статьи Self-Rewarding Language Models. Модель использует плотную архитектуру Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и ведения диалога. Она принимает сообщения в формате Mistral с маркерами [INST] и [/INST], а также поддерживает шаблон чата Transformers. В метаданных указан английский язык. Веса опубликованы в формате safetensors под лицензией Apache-2.0.

Текстовая модель семейства Llama, опубликованная Kunakornjack и дообученная на unsloth/DeepSeek-R1-Distill-Llama-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические задачи, программирование и многошаговые рассуждения. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Модель может применяться для диалоговых помощников, генерации ответов, решения математических задач и помощи с кодом. Карточка не описывает отдельные результаты или специализацию этого дообучения, поэтому его влияние на качество по сравнению с базовой моделью оценить нельзя. Лицензия — Apache-2.0.

flammen31-mistral-7B — слитая методом Model Stock языковая модель, созданная flammenai с помощью mergekit на основе flammenai/flammen27-mistral-7B и восьми других моделей семейства Mistral. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и генерирует текст; контекст составляет до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Слияние объединяет flammen29, flammen30, flammen23X, Neurallaymons, Argetsu, Seraph-openchat, Tippy-Toppy, StarMonarch и samantha-mistral-7b. В репозитории представлены веса Safetensors, исходная точность указана как bfloat16. Модель выпущена под лицензией Apache-2.0.

Это GGUF-квантование GLM-4.7-Flash, подготовленное TNT.Chat в рамках проекта LOCAL AI. Модель Z.ai — диалоговая MoE-модель класса 30B-A3B; в этой сборке около 20% весов, включая shared expert и тензоры внимания, представлены в Q4_K, остальные — в Q3_K. Такой смешанный формат рассчитан на локальный запуск и использование в редакторах кода, включая VS Code, на потребительском оборудовании; автор заявляет возможность работы в пределах 16 ГБ VRAM и приводит отдельную оценку для контекста 200 тысяч токенов на GPU с 24 ГБ VRAM. Модель генерирует текст в диалоге и ориентирована, среди прочего, на программирование и рассуждения. В карточке приведены рекомендации по параметрам генерации и отмечено, что исправление в llama.cpp устранило зацикливание и низкое качество прежней версии файлов. Заявления о качестве и требованиях к памяти относятся к описанию автора сборки. Репозиторий распространяется по лицензии MIT; README указывает исходный GGUF от Unsloth и метод смешанного квантования, не подтверждая отдельное дообучение этой версии.

NVIDIA gpt-oss-120b-Eagle3-short-context — текстовая модель для генерации ответов, основанная на OpenAI gpt-oss-120b и дополненная модулем Eagle3 для спекулятивного декодирования. Базовая gpt-oss-120b использует архитектуру Mixture-of-Experts с 120 млрд общих и 5 млрд активируемых параметров; этот репозиторий содержит 739,4 млн параметров Eagle-модуля. Модель принимает текст и генерирует текст, а её контекстное окно составляет 131 072 токена. Модель предназначена для разработчиков чат-ботов, ИИ-агентов и RAG-систем, а также для диалогов и выполнения инструкций. Вариант short-context обычно предпочтителен для запросов с контекстом менее 8 тысяч токенов. Eagle3 предсказывает кандидаты следующих токенов, которые проверяет базовая модель, ускоряя генерацию при принятии нескольких токенов за шаг. Для запуска NVIDIA указывает TensorRT-LLM и GPU NVIDIA; README описывает совместимость с Blackwell. Модель оптимизирована для инференса на системах с GPU NVIDIA. Карточка заявляет готовность к коммерческому и некоммерческому использованию, но в метаданных лицензия обозначена как other, поэтому перед применением следует проверить условия лицензии репозитория. Качество и безопасность необходимо проверять на данных и сценариях конкретного приложения; опубликованные результаты приводят показатели принятия токенов Eagle на MT-Bench, а не оценку качества ответов.

nlpguy/Hermes-low-tune-2 — объединённая модель для генерации текста на основе Mistral, созданная с помощью mergekit методом task arithmetic. В качестве базовой использована teknium/OpenHermes-2.5-Mistral-7B; в объединение также вошли Math-OpenHermes-2.5-Mistral-7B, NeuralHermes-2.5-Mistral-7B-laser, dpopenhermes-alpha-v0 и NeuralHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Она предназначена для диалогов и генерации текста; состав объединённых моделей также указывает на применимость к математическим задачам. Карточка приводит результаты нескольких тестов Open LLM Leaderboard, включая средний балл 68,04. Модель распространяется по лицензии Apache-2.0. Данные карточки не описывают подробно её языковой охват и практические ограничения; качество может зависеть от задачи и формулировки запроса.

IceSakeV82RP-7b — объединённая языковая модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit методом SLERP из IceSakeV8RP-7b и WestKunai-Hermes-7b. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов; в метаданных также указана возможность диалогового общения. Модель предназначена для генерации текста и диалоговых сценариев. Веса опубликованы в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

luckysong777 дообучил Kanana 1.5 Instruct 8B — плотную Llama-модель для генерации текста и диалогового взаимодействия. Модель содержит 7,5 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. В метаданных указаны интерфейс вызова инструментов и английский язык; README сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель подходит для диалоговых сценариев и генерации текста, унаследовав возможности базовой kakaocorp/kanana-1.5-8b-instruct-2505, включая программирование, математику и вызов инструментов. Распространяется по лицензии Apache-2.0. README не описывает отдельную специализацию этого дообучения или его сравнительное качество.

tjake/Llama-3.2-1B-Instruct-JQ4 — текстовая инструктивно настроенная модель семейства Llama 3.2, разработанного Meta. Она предназначена для диалогов в формате помощника и агентных сценариев, включая поиск знаний, суммаризацию, помощь при написании текстов и переформулирование запросов. Модель использует авторегрессионную архитектуру Transformer с 1,2 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает и генерирует текст, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В README указано, что модель прошла supervised fine-tuning и обучение с обратной связью от людей; репозиторий содержит веса в формате safetensors. Указанная лицензия — Llama 3.2 Community License, специальное лицензионное соглашение, допускающее коммерческое и исследовательское использование при соблюдении его условий и Acceptable Use Policy. Компактный размер рассчитан, в частности, на запуск в ограниченных средах, включая мобильные устройства. По сравнению с более крупными моделями у неё могут быть слабее качество ответов и профиль безопасности; разработчикам следует проверять пригодность и защитные меры для своего сценария. Модель статична и обучена на данных с отсечкой знаний в декабре 2023 года.

Llama3-ChatQA-1.5-8B — разговорная языковая модель NVIDIA для ответов на вопросы в диалоге и генерации с дополнением извлечёнными сведениями (RAG). Она дообучена на базе Llama 3 и содержит дополнительные данные для улучшения ответов по документам, работы с таблицами и арифметических вычислений. В репозитории указаны 7,5 млрд параметров, архитектура Llama с плотной причинной языковой моделью, формат safetensors и контекст до 8192 токенов. Модель предназначена для сценариев, где вопрос сопровождается контекстом: документ можно передать целиком, если он помещается в контекст, либо предварительно извлечь релевантные фрагменты для длинных документов. Модель принимает текст и генерирует текст; карточка указывает английский язык. В README приведены результаты оценки на наборах для conversational RAG, включая Doc2Dial, QuAC и QReCC. Модель является дообучением NVIDIA Llama3-ChatQA-1.5-8B. Чекпойнты были первоначально обучены с Megatron-LM и конвертированы в формат Hugging Face. Лицензия — Llama 3 Community License. Результаты зависят от качества переданного контекста или поиска; заявленные улучшения арифметики и таблиц не гарантируют точность в каждом запросе.

Карточка модели grimjim/mistralai-Mistral-Nemo-Base-2407 на Hugging Face совпадает с карточкой mistralai/Mistral-Nemo-Base-2407, поэтому описание составлено по ней. Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.

Open-Instruct CoT 13B — языковая модель на архитектуре LLaMA с 12,9 млрд параметров, дообученная Allen Institute for AI на подмножестве CoT из Flan v2. Она предназначена для генерации ответов на инструкции с пошаговыми рассуждениями, а также для общих задач генерации текста, включая вопросы и ответы, математические задачи и программирование. Модель принимает текст и выдаёт текст; карточка указывает английский язык, а контекст составляет 2048 токенов. В опубликованных бенчмарках модель оценивалась на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Для её использования требуется исходная модель LLaMA в формате Hugging Face: опубликованный репозиторий содержит diff весов, а не самостоятельный полный чекпойнт. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.

Ornith-1.0-35B-MTPLX-Vision — мультимодальная модель для чата с текстом и изображениями, собранная Jonandrop на основе моделей Ornith-1.0-35B и упакованная для Apple Silicon. Она сочетает языковую часть Ornith с восстановленной башней зрения и поддерживает обработку изображений; README также заявляет поддержку видеовхода, хотя метаданные Hugging Face указывают задачу image-text-to-text. Архитектура относится к семейству Qwen 3.5 MoE; корпус модели и MTP-головы квантизированы до 4 бит, а башня зрения хранится в bf16. Модель использует MTPLX с многотокенным предсказанием для ускорения генерации и может работать как локальный OpenAI-совместимый сервер на Apple Silicon. Модель подходит для программирования, диалога и вопросов по изображениям в локальном окружении. README приводит измерения скорости на Apple M5 Pro с 64 ГБ памяти; это результаты конкретной конфигурации, а не универсальные гарантии производительности. Лицензия производной модели — MIT; для перенесённых MTP-тензоров также применяются условия Apache-2.0 и NOTICE проекта Qwen3.5-35B-A3B.

Это конверсия Phi-3 Medium-128K-Instruct от Microsoft в формат ONNX, оптимизированная для инференса на CPU через ONNX Runtime. Модель представляет собой плотную авторегрессионную языковую модель семейства Phi-3 примерно с 13,8 млрд параметров, настроенную следовать инструкциям и вести диалог. Лицензия — MIT. Модель предназначена для генерации ответов и текста, включая задачи рассуждения, понимания языка, математики и кода. README описывает вариант семейства с контекстом до 128 тысяч токенов, однако метаданные указывают native context в 4096 токенов, поэтому доступную длину контекста следует сверять с конкретной конфигурацией ONNX. Репозиторий содержит CPU-вариант с квантизацией INT4 методом RTN; для запуска рекомендуется компьютер с 16 ГБ оперативной памяти. README сообщает скорость около 20 токенов в секунду на Intel Core i9-10920X, но производительность зависит от оборудования и настроек.

cortexso/phi-4-reasoning — текстовая генеративная модель семейства Phi-4-reasoning, разработанная Microsoft Research и преобразованная Menlo Research для распространения в формате GGUF через Cortex и Jan. Модель ориентирована на рассуждения по шагам, решение математических задач, ответы на научные вопросы и выполнение инструкций. Для основной ветки phi-4-reasoning заявлен размер 14 млрд параметров. Доступны квантизованные варианты GGUF от q2_k до q8_0, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью инференса. В README также упоминаются шаблоны ChatML и поддержка расширенного контекста, однако его точная длина не указана. Данных о перечне языков и мультимодальных возможностях нет; по заявленному pipeline_tag модель предназначена для генерации текста. Сильными сторонами модели являются специализация на логическом и математическом рассуждении, следовании инструкциям и возможность эффективного запуска в средах с ограничениями по памяти и задержке благодаря компактному размеру и квантизации. Ограничения включают отсутствие в представленных данных точных результатов бенчмарков, перечня поддерживаемых языков и значения контекстного окна. Модель распространяется по лицензии MIT.

Qwen1.5-14B-Chat — чат-модель из семейства Qwen1.5, разработанного командой Qwen. Это бета-версия Qwen2: плотная авторегрессионная языковая модель на архитектуре Transformer с 13,4 млрд параметров, предназначенная для генерации текста в диалоге и следования запросам пользователя. Модель поддерживает многоязычное общение и контекст длиной до 32 768 токенов. В основе семейства — декодерная архитектура Transformer; для Qwen1.5 описаны активация SwiGLU, смещение в QKV-внимании и адаптированный к разным естественным языкам и программным кодам токенизатор. Репозиторий содержит веса в формате Safetensors. Модель подходит для чат-ботов, ответов на вопросы, создания и преобразования текста. Карточка рекомендует использовать Transformers версии 4.37.0 или новее и предоставленные параметры генерации, чтобы уменьшить проблемы с переключением языков и другие нежелательные результаты. Лицензия указана как other, поэтому условия использования следует уточнять в карточке модели.

Qwen3-0.6B-English — англоязычная версия Qwen3-0.6B-Base от автора harithoppil, созданная путём обрезки словаря и последующего дообучения. Это плотная авторегрессионная языковая модель на архитектуре Qwen3ForCausalLM с 456,6 млн параметров, 28 слоями и словарём из 101 816 токенов. Она принимает текст и поддерживает контекст до 40 960 токенов по метаданным. Модель предназначена для генерации английского текста, диалогов, программного кода, математических выражений и рассуждений. Она поддерживает режимы с рассуждениями и без них, а также интерфейс вызова инструментов. Удаление токенов для кириллицы, CJK, арабского и других письменностей сокращает размер матрицы эмбеддингов и выходного слоя, но ограничивает работу преимущественно английским языком; заявленные автором свойства Qwen3 не являются отдельной оценкой качества этой версии. В карточке также отмечена возможность повторов; для снижения этого риска автор рекомендует настраивать параметры генерации. Модель распространяется по лицензии Apache-2.0. Для работы автор рекомендует актуальную версию библиотеки Transformers.

Qwen3.8-27B-Abliterated-GSQ-Orca-GGUF — экспериментальная GGUF-модель на 27 млрд параметров, разработанная автором репозитория ayozhee для локального запуска. Она основана на GSQ-RCO IQ2_S-MTP и объединяет его квантованные веса с выборочно заменёнными матрицами из orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации текста, рассуждений, решения математических задач и программирования на совместимых локальных средах, включая llama.cpp. Abliteration снижает склонность модели к отказам, но может влиять на поведение и безопасность ответов. Файл имеет формат GGUF, размер около 9,61 ГБ, использует смешанное квантование IQ2_S и включает MTP для спекулятивного декодирования. Токенизатор и большая часть тензоров сохранены из исходной GSQ-модели; всего заменена 131 матрица. Тестирование проводилось на RTX 3060 с 12 ГБ памяти: модель показала скорость декодирования около 35,65 токена/с на коротких запросах и успешно прошла заявленные проверки генерации. В небольшом локальном сравнении она получила 27/30 в IFEval, 30/30 в GSM8K и 30/30 после нормализации извлечения в HumanEval. Модель ориентирована на пользователей, которым нужен компактный локальный вариант для ограниченных GPU. Заявленный настроенный предел контекста составляет 16 384 токена, при этом отдельное измерение проводилось с историей на 30,6 тыс. токенов; производительность при полностью занятом контексте 65 тыс. токенов не оценивалась. Результаты основаны на небольших выборках и единичных запусках, поэтому не заменяют полноценные бенчмарки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-OBLITERATED-AWQ-W4A16 — это 4-битная AWQ-квантизованная версия модели OBLITERATUS/Qwen3.8-27B-OBLITERATED, опубликованная пользователем MurtazaNasir. Модель предназначена для генерации текста, программного кода, агентных сценариев и исследований AI safety и red teaming, включая запросы, на которые модели с обычными защитными настройками могут отказываться отвечать. В основе используется гибридная архитектура Qwen3.8-27B с 64 слоями: 48 слоёв линейного внимания gated-DeltaNet и 16 слоёв полноценного внимания, а также vision tower и MTP-head. Квантизация выполнена в формате AWQ W4A16_ASYM с размером группы 128; часть компонентов сохранена в bf16. Размер репозитория около 19,55 ГБ. Для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallel либо одна карта на 24 ГБ при небольшом контексте. Модель поддерживает текстовые и визуальные компоненты исходной архитектуры, но точные языки и максимальный размер контекста в предоставленных данных не указаны. Сильными сторонами заявлены близкая к исходной производительность, отсутствие жёстких отказов, совместимость с режимом thinking и хорошие результаты в генерации кода. Ограничения включают возможное снижение качества относительно базовой модели: в README указано падение MMLU на 2,1 процентного пункта. Для стабильной работы рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов. Стандартный шаблон чата поддерживает вызов инструментов, тогда как исходный шаблон их определения и роль tool игнорирует; также системные промпты могут повторно вызвать отказы. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Coder-GGUF — это многоз этапно дообученная и объединённая модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README модель представлена как разработка для потребительского оборудования с использованием Unsloth, методов COLD FUSION и Fable Fusion 711. Доступны GGUF-квантизации, включая обычные и MTP-варианты, с заявленной поддержкой режимов reasoning и thinking. Модель предназначена для широкого круга задач: программирования, решения задач, рассуждений, творческого письма, создания художественных текстов, ролевых сценариев и работы с различными жанрами. В метаданных указаны английский и китайский языки. Размер базовой модели — 27B параметров. Репозиторий также помечен как image-text-to-text, однако подробные сведения о поддерживаемых визуальных входах в README отсутствуют; максимальная длина контекста не указана. К заявленным сильным сторонам относятся сокращение объёма внутреннего рассуждения и ускорение генерации при сохранении детализации, а также высокие результаты на ARC-C и ARC-E. Автор утверждает, что модель превосходит базовые версии Qwen по ряду benchmarks, но эти показатели приведены без независимой методологии проверки. Ограничениями являются отсутствие подробных данных о контекстном окне, требованиях к памяти, совместимости MTP и качестве мультимодальной обработки. Модель описана как uncensored и abliterated, поэтому её ответы могут требовать дополнительной фильтрации и контроля безопасности. Лицензия — Apache-2.0.

Qwopus3.8-27B-Flash-V2 — экспериментальная мультимодальная модель на архитектуре Qwen3.5, разработанная Jackrong. Это обновлённый пост-тренировочный вариант Qwopus3.8-27B-Flash, который, согласно карточке, основан на Qwen3.8-27B. Модель принимает текст и изображения и предназначена для диалогов, следования инструкциям, рассуждений, работы с инструментами и генерации кода. Вторая версия прошла дополнительное пост-обучение с изменёнными функциями вознаграждения и методами обучения с подкреплением. Разработчик делает упор на эффективность вывода и длительные агентные сценарии с повторяющимися вызовами инструментов. Указаны поддержка спекулятивного декодирования MTP и улучшения форматирования Python; приведённые в README результаты относятся к описанным там тестам и не гарантируют аналогичное качество на других задачах. Ограничения включают возможный дрейф рассуждений и неэффективные траектории, а качество работы с инструментами зависит от промпта, среды и оркестрации. Разработчик отмечает, что модель не проходила широкую оценку безопасности и надёжности агентов. Лицензия — Apache-2.0.

RQwen-v0.2 — диалоговая языковая модель на архитектуре Qwen2, разработанная ehristoforu и дообученная на базе ehristoforu/RQwen-v0.1. Модель содержит 14 млрд параметров, поддерживает контекст до 32 768 токенов и предназначена для генерации текста в диалоге; в метаданных также отмечен интерфейс вызова инструментов. Модель можно применять для ведения диалога, ответов на вопросы, выполнения инструкций и генерации текста. В карточке указан английский язык; описание базовой модели в каталоге указывает поддержку русского и английского. Весовые файлы представлены в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Карточка не описывает обучающие данные или специальные ограничения качества.

RWKV7-G1i-13.3B-20260805 — базовая языковая модель семейства RWKV-7, разработанная Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang и Zhiyuan Li при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель с архитектурой RWKV7ForCausalLM; метаданные указывают 14,6 млрд параметров, а карточка README — 13,3 млрд. Модель обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях; в репозитории указаны веса safetensors и интерфейсный шаблон чата. RWKV-7 использует рекуррентное состояние постоянного размера и постоянную вычислительную работу на генерируемый токен, сохраняя возможность параллельного обучения. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения; поддерживает английский, китайский, японский, корейский, французский, арабский, испанский и португальский языки. Метаданные задают контекст 2048 токенов, тогда как название файла в README содержит обозначение ctx16384, поэтому фактическую длину контекста следует сверить с используемой конфигурацией. Модель распространяется по лицензии Apache-2.0. README прямо предупреждает, что базовый чекпойнт не является выровненным по безопасности ассистентом: шаблон чата служит интерфейсом для подачи запросов и сам по себе не гарантирует безопасное поведение.