I.6Перевод и языковая адаптация

Ar4ikov/Qwen3.8-27B-Uncensored-AWQ-W4A16-ASYM — 4-битная AWQ-квантованная версия мультимодальной модели orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации и анализа текста и изображений, включая сценарии с поддержкой reasoning и спекулятивного декодинга. Разработчик квантованного варианта — Ar4ikov; исходная модель разработана orcarouter. Модель содержит 27B параметров и использует гибридную архитектуру Qwen3.8-27B: 64 слоя с комбинацией Gated DeltaNet и Gated Attention, vision-башню и MTP-голову. Применяется схема W4A16_ASYM с 4-битными весами, group size 128 и BF16-активациями; размер модели сокращён примерно с 52 до 19 ГБ. Поддерживаются мультимодальные входы, контекст до 262 144 токенов и режимы reasoning_effort low, medium и xhigh. Vision-башня, эмбеддинги, lm_head, чувствительные SSM-гейты и MTP-голова сохранены в BF16. Основное преимущество — существенное снижение размера при сохранении визуальной части и совместимость с нативной загрузкой в vLLM, а также потенциально в SGLang. Реальная экономия памяти доступна в рантаймах с INT4-ядрами; transformers распаковывает веса обратно в BF16. Качество на изображениях должно быть близко к исходной модели, но в текстовой части возможна деградация из-за квантования. Бенчмарк-валидация не проводилась, проверена только связность генерации, поэтому модель требует собственных оценок перед production-использованием. Распространяется по лицензии Apache-2.0.

Qwen3-8B TMax SFT v3 — контрольная точка модели Qwen3-8B после supervised fine-tuning, обученная командой или автором репозитория willamazon1. Она создана на итерации 353 запуска tmax_sft_v3 и использовалась как начальная политика и референсная модель для последующего обучения с подкреплением, чьи контрольные точки опубликованы отдельно. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Это плотная причинная языковая модель архитектуры Qwen3ForCausalLM с 7,6 млрд параметров и контекстом до 40 960 токенов. README сообщает о конвертации обучающего чекпойнта Megatron-LM в формат Hugging Face safetensors и о весах bfloat16. Базовая модель Qwen3-8B многоязычная и поддерживает генерацию, рассуждения, следование инструкциям, код и вызов инструментов. Эта версия является промежуточным SFT-чекпойнтом, поэтому её качество и поведение могут отличаться от последующих RL-чекпойнтов; README не приводит результаты оценки. Лицензия — Apache-2.0.

Vontra/Qwen3.8-Flash-Next-MLX-6bit-MTP — это 6-битная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, подготовленная Vontra на основе официального BF16-чекпойнта Qwen. Модель предназначена для Apple Silicon и реализована в архитектуре qwen4_exp: vision-language модель с разреженной Mixture-of-Experts архитектурой, поддерживающая работу с текстом и изображениями. Общий размер языковой части составляет 125 млрд параметров, из которых активно используется около 6 млрд; дополнительно указаны 51 млрд параметров hashed bigram/trigram embeddings и 4 млрд параметров native MTP-блока. Модель использует Gated DeltaNet, Qwen Sparse Attention, sparse MoE-слои, vision encoder и контекст до 262 144 токенов. Квантование выполнено методом uniform 6-bit affine с group size 32; мультимодальные модули и маршрутизаторы MoE сохранены в BF16. Встроенный native MTP с одним draft-блоком предназначен для speculative decoding и может ускорять генерацию. Сильными сторонами являются большой контекст, поддержка изображений, высокая вычислительная эффективность за счёт MoE и native MTP, а также проверенная совместимость с MLX-VLM, MLX и oMLX. В тестах на Apple M3 Studio включение MTP увеличило скорость генерации с 20,65 до 25,94 токена в секунду. Ограничения включают значительный размер весов — около 158,08 ГБ, необходимость совместимого runtime с явной поддержкой qwen4_exp и native MTP, а также зависимость поддержки изображений от версий MLX-VLM и oMLX. Языки и точные мультимодальные возможности в предоставленных данных не указаны. Модель распространяется по Qwen Community License 1.0. Токенизатор, chat template, vision processor, конфигурации генерации и native MTP унаследованы от исходной модели.

minjaechoi/qwen3next-80b-a3b-2p25bit-r24 — исследовательский вариант Qwen3-Next-80B-A3B-Thinking с разреженной MoE-архитектурой. Веса маршрутизируемых экспертов усечены до среднего уровня 2,25 бита, остальные веса хранятся в BF16; тензоры весов сохранены в BF16 после деквантизации. Модель предназначена для генерации текста и диалоговых сценариев, включая сложные рассуждения и работу с длинным контекстом; метаданные указывают контекст длиной до 262 144 токенов и интерфейс вызова инструментов. Размер в метаданных указан как 2,3 млрд параметров. Репозиторий использует библиотеку Transformers и формат safetensors. README сообщает, что загрузка возможна через стандартные Transformers и vLLM. Модель основана на Qwen/Qwen3-Next-80B-A3B-Thinking; лицензия наследуется от базовой модели, поэтому её условия следует проверять в карточке базы. README обозначает её как внутренний исследовательский чекпойнт.

Qwen3-VL-2B-Instruct — плотная vision-language модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также поддерживает понимание видео и временных меток; предназначена для диалога, визуальных вопросов и ответов, распознавания текста в изображениях и документах, пространственного анализа и работы визуального агента с интерфейсами и инструментами. Модель объединяет текстовую и визуальную обработку. В карточке описаны улучшенное распознавание объектов и деталей, OCR на 32 языках, анализ положения объектов и временной структуры видео, а также создание HTML/CSS/JS или схем Draw.io по визуальным примерам. Архитектура использует Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Заявлена длина контекста 256K токенов с возможностью расширения до 1M. Весовой репозиторий предназначен для версии Instruct; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия Apache-2.0. README не приводит результаты тестов или отдельные численные показатели качества, поэтому заявленные преимущества не следует трактовать как независимую оценку.

unsloth/Qwen3-VL-2B-Instruct — версия мультимодальной модели Qwen3-VL-2B-Instruct, подготовленная Unsloth; это плотная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration и весами в формате safetensors. Она принимает текст и изображения, а также предназначена для анализа видео в диалоге: отвечает на вопросы по визуальным данным, распознаёт текст, рассуждает о пространственных отношениях и помогает взаимодействовать с графическими интерфейсами и инструментами. Карточка базовой модели указывает контекст 256 тысяч токенов с возможностью расширения до миллиона; README также заявляет поддержку OCR на 32 языках и обработку длинных видео. Модель подходит для описания изображений и видео, извлечения текста из документов, визуальных вопросов и ответов, генерации кода интерфейсов по визуальному примеру и сценариев с визуальными агентами. README отмечает исправления шаблона чата Unsloth; для llama.cpp требуется параметр --jinja. Заявления о качестве и производительности приведены без таблиц результатов в доступном README. Лицензия — Apache-2.0.

Это репозиторий весов unsloth для мультимодальной модели Qwen3-VL-4B-Thinking, разработанной на основе Qwen3-VL компанией Qwen и представленной Unsloth с исправлениями шаблона чата. Модель сочетает обработку текста и изображений и предназначена для диалога, визуального анализа и рассуждений; заявлены также понимание видео, OCR и взаимодействие с инструментами. Архитектура — плотная Qwen3-VL для условной генерации, веса сохранены в safetensors и используются через Transformers. В README заявлены контекст длиной 256 тысяч токенов с возможностью расширения до миллиона, визуальное рассуждение, распознавание элементов интерфейса и разбор документов; также указана поддержка OCR на 32 языках. Модель может быть полезна для вопросов по изображениям и видео, извлечения текста из документов и визуально обусловленного диалога. Репозиторий распространяется по лицензии Apache-2.0. Заявления README о сравнительном качестве и характеристиках являются описанием разработчика; независимые результаты измерений в карточке не приведены.

ClaudioItaly/QwenTies-14B — плотная языковая модель семейства Qwen2.5, созданная автором репозитория с помощью TIES-слияния предварительно обученной Qwen2.5-14B и инструкционной Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и формат safetensors; для работы указан стек Transformers. Контекстное окно составляет 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия, включая структурированные ответы и интерфейс вызова инструментов. Её можно применять для ответов на вопросы, составления и редактирования текстов, а также для сценариев, где требуется длинный контекст. Карточка не приводит результатов оценки качества. Сведения о лицензии в доступных данных отсутствуют.

Карточка модели rhombus18/rhododendron-default-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

RefalMachine RuadaptQwen2.5-32B-Pro-Beta — русскоязычная адаптация модели T-pro-it-1.0, опубликованная RefalMachine. Она основана на плотной архитектуре Qwen2.5 с 32 млрд параметров и предназначена для диалоговой генерации текста на русском языке. Модель объединяет базовые модели Qwen/Qwen2.5-32B и t-tech/T-pro-it-1.0, а затем адаптирована с помощью замены токенизатора, продолженного предобучения на русскоязычном корпусе и техники Learned Embedding Propagation (LEP). В метаданных указан контекст 32 768 токенов. Расширенный токенизатор на основе cl100k и униграммного словаря размером 48 тысяч токенов, по заявлению авторов, повышает скорость генерации русскоязычного текста до 60% относительно T-pro-it-1.0 при сравнении на одинаковых последовательностях. Модель подходит для русскоязычного диалога, ответов на вопросы и написания текстов; также заявлен интерфейс для вызова инструментов. Она выпущена под лицензией Apache-2.0. Авторы предупреждают, что ответы отражают данные обучения, а предобучение исходной сторонней модели ими не контролировалось; результаты оценки качества в карточке приведены не полностью.

UltraHermes-Merge — объединённая диалоговая языковая модель, созданная Cas-Warehouse с помощью mergekit. В основе слияния — mlabonne/NeuralHermes-2.5-Mistral-7B; также объединены argilla/CapybaraHermes-2.5-Mistral-7B, joey00072/ToxicHermes-2.5-Mistral-7B и openaccess-ai-collective/DPOpenHermes-7B-v2. Использован метод TIES. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекстное окно до 32 768 токенов. Она предназначена для диалога, ответов на инструкции и генерации текста. Доступна в формате safetensors и использует библиотеку Transformers. В карточке не приведены сведения о лицензии и конкретном перечне поддерживаемых языков. Как и другие генеративные языковые модели, она может выдавать неточные или нежелательные ответы; пригодность результатов следует проверять для целевого применения.

Карточка модели dots-studio/dots.ocr.base на Hugging Face совпадает с карточкой dots-studio/dots.ocr, поэтому описание составлено по ней. dots.ocr — мультиязычная модель разбора документов от команды dots. Она объединяет распознавание текста и анализ структуры страницы в одной плотной vision-language архитектуре на 1,5 млрд параметров; метаданные указывают контекст длиной 131 072 токена. Модель принимает изображения страниц и может выдавать распознанный текст, порядок чтения и структурированные данные о расположении элементов, включая координаты и категории. В README заявлена поддержка документов на разных языках, а метаданные карточки отмечают английский и китайский. Модель предназначена для OCR и разбора страниц документов: определения макета, извлечения текста и обработки таблиц и формул. Она рассчитана на сценарии, где нужен единый этап распознавания и структурирования вместо цепочки отдельных моделей; для обработки PDF README рекомендует растрировать страницы с разрешением около 200 DPI. Указана лицензия MIT. Ограничения включают неточный разбор сложных таблиц и формул, отсутствие разбора содержимого изображений внутри документов и возможные сбои на страницах с высокой плотностью символов. Непрерывные специальные символы могут вызывать зацикливание вывода; модель также пока не оптимизирована для высокопроизводительной пакетной обработки больших объёмов PDF.

EverythingLM-13b-V2-16k — универсальная языковая модель, созданная на базе Llama 2 и обученная разработчиком totally-not-an-llm на наборе EverythingLM-V2. Это плотная авторегрессионная модель класса LlamaForCausalLM с 12,9 млрд параметров и контекстом до 16 384 токенов; доступен формат PyTorch. Модель предназначена для генерации текста, подробных ответов, творческих историй и рассуждений. В карточке заявлены автоматическое включение пошаговых рассуждений и улучшенное понимание запросов; для задач на рассуждение автор рекомендует низкую температуру генерации. Модель описана как uncensored, однако базовая модель может отказываться отвечать на некоторые запросы, и для них может потребоваться настройка промпта. Лицензия указана как Llama 2. README также содержит инструкции по настройке RoPE для GGML-квантованных вариантов, но метаданные этого репозитория указывают формат PyTorch.

Experiment26Yam_Multi_verse_modelM7 — объединённая модель для генерации текста, построенная на архитектуре Mistral. Она создана путём слияния automerger/Experiment26Yam-7B и automerger/Multi_verse_modelM7-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0.

OsaurusAI подготовила вариант Gemma 4 26B A4B Instruct в формате MLX JANG_4M на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это мультимодальная модель для диалога и генерации текста с поддержкой изображений; в карточке также заявлен интерфейс вызова инструментов. Веса упакованы с разной точностью: эмбеддинги, нормализации, компоненты обработки медиа и отдельные проекции сохранены в fp16, проекции внимания и маршрутизатор MoE используют 8-битное аффинное представление, а основная часть MLP и экспертов — 4-битное. Вариант предназначен для запуска через совместимый с Gemma 4 загрузчик MLX или vMLX, который обрабатывает настройки quantization, jang_config.json и файлы процессора и шаблона чата Gemma 4. Vision-конфигурация сохранена; активная поддержка аудио не заявлена. Лицензия — Gemma.

Это мультимодальная GGUF-версия модели OBLITERATUS/gemma-4-E4B-it-OBLITERATED, созданная и квантованная пользователем rdhorner на основе Gemma 4 от Google. Базовая модель представляет собой модифицированную версию gemma-4-E4B-it, обработанную методом OBLITERATUS. Модель предназначена для локального запуска через llama.cpp и совместимые приложения; в метаданных указано около 8 млрд параметров. Модель поддерживает текстовый ввод, изображения и аудио при подключении отдельного файла mmproj, содержащего оба мультимодальных энкодера. Она подходит для диалоговых сценариев, анализа изображений и аудио, использования инструментов и function calling. Поддерживаются OpenAI-совместимые запросы через llama-server, включая tool calls и мультимодальные сообщения. В комплект входят варианты F16, Q8_0, Q5_K_M и Q4_K_M; Q4_K_M рекомендован для локального использования как компромисс между качеством и размером. Для мультимодального режима требуется файл mmproj, а шаблон чата Gemma 4 необходимо включать с параметром --jinja. К сильным сторонам относятся мультимодальность, поддержка вызова инструментов и несколько вариантов квантования для запуска на локальном оборудовании. Модель использует встроенный канал рассуждений Gemma 4, который в OpenAI-совместимых ответах отображается как reasoning_content. При этом модификация OBLITERATED изменила направления отказа в 21 из 42 слоёв, поэтому надёжность вызова инструментов может снижаться в темах, близких к ограничениям безопасности. В README не указаны точный набор поддерживаемых языков и максимальный размер контекста; в примере сервера используется контекст 8192 токена. Модель распространяется по лицензии Apache 2.0, соответствующей лицензии базовой модели.

mlx-community/granite-4.1-8b-bf16 — версия Granite-4.1-8B от mlx-community, преобразованная для MLX из модели ibm-granite/granite-4.1-8b с помощью mlx-lm. Это плотная языковая модель с архитектурой GraniteForCausalLM и 8,4 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 131 072 токена. В описании базовой модели указана поддержка нескольких языков, работы с текстом и кодом, а также вызова инструментов, однако эта карточка подтверждает только генерацию текста и диалоговую возможность. Файлы модели представлены в формате safetensors и подготовлены для запуска с MLX. Лицензия — Apache-2.0. Качество и языковой охват унаследованы от базовой модели; отдельные результаты оценки для этой сборки в карточке не приведены.

Hermes-Instruct-7B-v0.2 — диалоговая языковая модель на архитектуре Mistral, созданная lodrick-the-lafted на основе Mistral-7B-Instruct-v0.2 с дообучением на части набора teknium/openhermes в формате Alpaca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; для общения подходят шаблоны Mistral-Instruct и Alpaca. Модель предназначена для генерации текста и диалоговых ответов по инструкциям. В карточке приведены результаты оценки на задачах рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

coder3101/LFM2.5-350M-heretic — декензурированная версия LFM2.5-350M от Liquid AI, созданная автором репозитория с помощью Heretic v1.3.0. Это компактная плотная языковая модель для генерации текста и диалогов, рассчитанная на локальное и периферийное выполнение. По карточке исходная архитектура включает 16 слоёв: блоки свёрток LIV и GQA; модель принимает только текст и поддерживает контекст до 128 000 токенов согласно метаданным. Она предназначена для извлечения данных, структурированных ответов и работы с инструментами. В README сравнение с исходной моделью показывает 6 отказов из 100 против 90 из 100 у оригинала. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. README исходной модели указывает 350 млн параметров, тогда как метаданные этой версии — 444,6 млн. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Программирование и задачи, требующие обширных знаний, для исходной модели не рекомендуются; показатели производительности исходной модели не следует автоматически считать проверенными для этой версии. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке репозитория.

ark4004/llama3.8-27b-uc-fp8-jh — размещённая пользователем на Hugging Face производная модель семейства Qwen3.8-27B; точный автор исходной модификации и метод её создания в карточке не указаны. Репозиторий предназначен для генерации текста и мультимодальных сценариев, включая работу с изображениями; доступны интеграции с Transformers, vLLM и SGLang. Модель содержит около 28 млрд параметров и использует формат FP8 F8_E4M3 с отдельными компонентами BF16. По назначению исходной Qwen3.8-27B она ориентирована на понимание текста, изображений и видео, программирование, мультимодальное рассуждение, обработку длинного контекста, вызов инструментов и агентские задачи. Для конкретной производной модели длина контекста, поддерживаемые языки, результаты тестирования и точные архитектурные особенности не указаны, поэтому её сильные и слабые стороны относительно исходной модели надёжно оценить нельзя. Для репозитория указана лицензия Apache-2.0. FP8-квантизация может снизить требования к памяти и ускорить инференс по сравнению с полноточными весами, но потенциально влияет на качество; количественные данные о таком влиянии отсутствуют. Модель не была доступна через провайдеров инференса на момент проверки.

LPT-6.1 Thinking — разговорная языковая модель от LiskCell, представленная как флагман экосистемы xLYR и ассистент Deta. Модель предназначена для диалогов, творческих задач, технических вопросов и многошаговых рассуждений; в репозитории заявлена поддержка английского и иврита. В карточке указаны архитектура семейства Kimi K2.5 с классом KimiK25ForConditionalGeneration, библиотека Transformers и формат весов safetensors. Модель позиционируется как дообученная и настроенная для экосистемы xLYR; её размер и длина контекста в предоставленных данных не приведены. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

lumikabrabehemoth195b — объединённая языковая модель, созданная schnapper79 с помощью mergekit из двух предварительно обученных моделей: schnapper79/lumikabra-123B_v0.3 и TheDrummer/Behemoth-123B-v1. Использован метод passthrough: в итоговую модель последовательно включены диапазоны слоёв обеих моделей. Модель построена на плотной архитектуре MistralForCausalLM и содержит 194,2 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; контекстное окно составляет 131 072 токена. Метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области применения или поддерживаемые языки. В репозитории представлены веса Safetensors, а в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.

Карточка модели SillyTilly/Meta-Llama-3.1-70B-Instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-70B-Instruct, поэтому описание составлено по ней. NousResearch публикует инструкционно настроенную модель Meta Llama 3.1 70B Instruct — плотную авторегрессионную языковую модель на архитектуре Transformer с 69,5 млрд параметров. Она принимает и генерирует текст, а версия Instruct предназначена для многоязычного диалога и работы в роли ассистента. Настройка включает дообучение с учителем и обучение с подкреплением на основе отзывов людей; модель поддерживает контекст до 131 072 токенов и использует Grouped-Query Attention для повышения эффективности вывода. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно запускать через Transformers; карточка также описывает варианты загрузки в 4- и 8-битном формате для снижения требований к памяти. Русский язык не входит в перечень поддерживаемых языков. Ответственность за безопасную интеграцию, включая подключение внешних инструментов, лежит на разработчике приложения. Модель разработана Meta и распространяется по лицензии Llama 3.1 Community License с условиями, изложенными в лицензии и Acceptable Use Policy. Это статический чекпойнт, обученный на офлайн-данных; качество и безопасность ответов требуют проверки в целевом сценарии.

RedHatAI/Meta-Llama-3-8B-Instruct-FP8-KV — это квантованный вариант Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев с использованием vLLM; чекпойнт подготовлен с помощью AutoFP8 и калибровочных примеров из ultrachat. Модель содержит 8B параметров и использует FP8-квантизацию весов и активаций с покомпонентным масштабированием на уровне тензоров. Дополнительно в чекпойнт включены масштабы для FP8-квантизации KV-кэша, что позволяет включать этот режим через параметр kv_cache_dtype="fp8" в vLLM. Для работы требуется vLLM версии 0.5.0 или новее. Данные о поддерживаемых языках, размере контекста и мультимодальности не указаны. К преимуществам относятся снижение требований к памяти и возможность эффективного инференса с FP8 KV-кэшем. По результатам Open LLM Leaderboard показатель gsm8k в режиме 5-shot составляет 74,98 против 75,44 у исходной модели и 74,37 у варианта FP8 без квантованного KV-кэша, что указывает на близкое качество в этом тесте. Ограничения включают возможную потерю точности из-за квантизации и зависимость от совместимой версии vLLM. Лицензия в README не указана.

Это GGUF-квантизированная версия языковой модели OpenReasoning-Nemotron-14B, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 14 миллиардов параметров; README не сообщает точную архитектуру, поддерживаемые языки и размер контекстного окна. Доступны варианты от полноточного BF16 до более компактных форматов Q8, Q6, Q5, Q4, Q3 и IQ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но сильнее теряют в качестве. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K и Q6_K_L; Q4_1 и Q4_0 используют устаревший формат, но могут быть полезны на некоторых CPU и Apple silicon. Сильная сторона этой версии — широкий выбор квантизаций для локального запуска на оборудовании с разным объёмом памяти. Ограничения связаны с неизбежной потерей качества при низких уровнях квантизации, а также с отсутствием в README подробностей о возможностях исходной модели, языках и контекстном окне. Лицензия в предоставленных данных не указана.

Omnarch-7B — объединённая модель на архитектуре Mistral, созданная с помощью LazyMergekit из WestBeagle-7B, NeuralBeagle14-7B и двух версий NeuralOmniBeagle. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста; контекстное окно составляет 32 768 токенов. Модель подходит для диалогов, ответов на запросы и свободной генерации текста. В состав объединения входит NeuralBeagle14-7B — модель для диалогов, следования инструкциям, рассуждений и творческой генерации. Репозиторий распространяет веса в формате safetensors по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.

Qwable-v1-Qwen3.6-35B-A3B-abliterated — мультимодальная производная модель, опубликованная пользователем eggdog100 на основе lordx64/Qwable-v1. Она предназначена для генерации текста и обработки изображений с текстовыми инструкциями, включая сценарии, где требуется сниженное количество отказов. Модель относится к семейству Qwen3.6-35B-A3B и использует архитектуру Mixture-of-Experts: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов и 40 слоёв. В архитектуре применяются гибридное линейное внимание Gated-DeltaNet и отдельная vision tower, сохранённая без изменений. Точный размер контекста и перечень поддерживаемых языков в карточке не указаны. Это версия v2, полностью пересобранная после проблем с предыдущей версией, которая страдала от повторов и бессвязной генерации. Для подавления отказов изменялись выходные проекции внимания attn.o_proj; маршрутизатор MoE, эксперты, слои Gated-DeltaNet и vision tower не редактировались. В заявленных тестах модель показала 1 отказ из 100 adversarial-запросов без reasoning и 1 из 94 при включённом reasoning, при этом зафиксировано ноль случаев коллапса генерации. На MMLU-Pro результат составил 78,9, на GSM8K — около 95, однако показатели зависят от настроек и оборудования, а часть бенчмарков не проводилась. К сильным сторонам относятся мультимодальность, сохранённая визуальная часть, разреженная MoE-архитектура с низким числом активных параметров и существенно сниженная склонность к отказам. Ограничения включают потенциально ослабленные защитные механизмы, отсутствие подробных данных о контексте и языковой поддержке, а также неполные результаты оценки. Модель распространяется по лицензии AGPL-3.0.

mlx-community/Qwen2.5-7B-Instruct-4bit — преобразованная в формат MLX 4-битная версия Qwen2.5-7B-Instruct, подготовленная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и запуска на устройствах Apple Silicon через MLX. Модель принимает текстовые запросы и выдаёт текст; метаданные указывают контекстное окно 32 768 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых помощников, ответов на вопросы, написания и преобразования текстов. Карточка подтверждает английский язык; других языков по предоставленным сведениям определить нельзя. Репозиторий указывает лицензию Apache-2.0. Ограничения качества и оценки модели в карточке не описаны.

bartowski/Qwen2.5-7B-Instruct-GGUF — это набор GGUF-квантизаций чат-модели Qwen2.5-7B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в LM Studio и других совместимых приложениях. Для общения используется шаблон сообщений с ролями system, user и assistant. Модель содержит около 7 миллиардов параметров, работает в текстовой модальности и, согласно README, заявлена для английского языка. В репозитории доступны варианты от F16 до низкобитных Q2–Q8-квантизаций размером примерно от 3,5 до 15,2 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти; отдельные варианты оптимизированы для ARM-процессоров и требуют поддержки SVE или i8mm. README также сообщает об обновлении настроек длины контекста и токенизатора, но точное значение контекстного окна не указано. Сильной стороной является широкий выбор квантизаций для запуска на оборудовании с различными ограничениями по памяти, при этом варианты Q4–Q6 отмечены как рекомендуемые по соотношению качества и размера. Ограничения связаны с компромиссом между качеством и размером низкоразрядных вариантов, а также с необходимостью совместимого программного обеспечения и аппаратных инструкций для некоторых ARM-версий. Указана лицензия Apache-2.0.

Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF — специализированная текстовая модель, разработанная DavidAU на базе Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored. Она объединяет 12 дистиллированных экспертных моделей, включая модели закрытого и открытого исходного кода, в архитектуре Mixture of Experts. Версия является uncensored/abliterated: отдельные эксперты обработаны с использованием Heretic для удаления отказов и ограничений. Модель распространяется в формате GGUF по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, математики, программирования, ответов на вопросы и творческого письма, включая создание художественных историй, сцен, сюжетов, научной фантастики, романтики и контента для взрослой аудитории. Пользователь может указывать в запросе имена экспертов или их группы, например Gemini, Claude, GPT51, Kimi, GLM, AllAI, Closed-AI или Open-AI, чтобы управлять выбором активных компонентов. Заявлены контекст до 256 тысяч токенов и одновременная активация двух экспертов по умолчанию; всего доступно до 12 экспертов. Модель поддерживает запуск на CPU и частичную выгрузку с GPU. В README не указаны точный список языков, детальные параметры архитектуры и результаты стандартизированных тестов. Для приемлемой работы рекомендуются квантизации не ниже Q4_KS или IQ3_M, контекст от 4–8 тысяч токенов и температура около 0,7; увеличение числа активных экспертов снижает скорость генерации, а разные эксперты могут давать существенно различающиеся результаты.