I.6Перевод и языковая адаптация

Qwen3.8-Flash-Next-DERISKED-W4A16-AWQ — мультимодальная языковая модель для работы с изображениями и текстом, разработанная как производная от Qwen3.8-Flash-Next. Базовую модель выпустила команда Qwen, вариант DERISKED создан Blackfrost-AI, а данная версия дополнительно подвергнута квантизации AWQ авторами репозитория davetha. Модель предназначена для сценариев image-text-to-text и рассчитана на запуск крупной MoE-модели класса 80B на двух AMD MI210. Используется формат compressed-tensors W4A16: веса представлены в 4-битном виде, активации — в bfloat16, размер группы — 128. Квантизированы маршрутизируемые эксперты и полные attention-слои, тогда как ряд чувствительных компонентов, включая GDN-слои, общий эксперт, нормы, эмбеддинги, MTP-голову и PLE-таблицу, сохранены в bf16. Поддерживается контекст до 262 144 токенов, MTP speculative decoding и PLE n-gram table. На связке vLLM и двух MI210 заявлены производительность prefill около 2200 токенов в секунду и decoding около 40 токенов в секунду с MTP при трёх speculative tokens; без спекулятивного декодирования — около 10 токенов в секунду. Сильные стороны модели — длинный контекст, мультимодальность, эффективное int4-хранение и ускорение MoE-вычислений. Ограничения включают зависимость от специфической конфигурации vLLM/ROCm, медленный bandwidth-bound decoding из-за потоковой загрузки примерно 100 ГБ PLE-таблицы по PCIe и ограничение speculative decoding тремя токенами на указанном стеке. Модель является abliterated/uncensored: защитное поведение отказа удалено, поэтому ответственность за применение лежит на пользователе. Распространяется по Qwen Community License 1.0; применяются условия лицензии базовой модели.

Kaoeiri выпустил Qwenwify-32B-v1 — объединение предварительно обученных языковых моделей на архитектуре Qwen2.5, созданное с помощью mergekit методом DARE TIES. В качестве базовой модели использована unsloth/qwen2.5-32b-instruct; в объединение также вошли AiCloser/Qwen2.5-32B-AGI, crestf411/Q2.5-32B-Slush, EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель содержит 32 млрд параметров, принимает текст и предназначена для генерации текста в диалоговом формате; доступен интерфейс вызова инструментов. Длина контекста составляет 32 768 токенов. Файлы представлены в формате safetensors. Сведения о лицензии и конкретных ограничениях использования в предоставленных данных отсутствуют.

TernaryQuench-Qwen3.8-27B-GGUF — это сжатая версия языковой модели Qwen3.8-27B, подготовленная penkia с использованием проекта TernaryQuench. Базовая модель разработана командой Alibaba Qwen. Модель предназначена для локального текстового вывода и совместима с llama.cpp и Ollama; заявлена поддержка генерации текста, структурированного JSON и tool calling. Модель содержит 27 млрд параметров. В большинстве матриц декодера применено ternary-кодирование с тремя значениями весов: −scale, 0 и +scale; первые 62 слоя хранятся в формате Q2_K, последние два слоя — в BF16, а embeddings и output head — в Q4_1. Файл занимает около 10,86 ГБ, при этом требуется дополнительная память для runtime и context cache; в примере запуска указан контекст до 32 768 токенов. Сжатие снижает качество относительно исходной BF16-модели: средняя точность в пяти zero-shot задачах составила 72,28% против 74,35% у Qwen3.8-27B BF16, а perplexity на WikiText-2 — 12,8569 против 7,7471 у 4-битной версии. Модель рассчитана на эффективный локальный инференс, но приведённые проверки не подтверждают надёжность сложных многошаговых агентских сценариев. Лицензия — Apache-2.0.

Yi-9B-200K — базовая языковая модель, разработанная компанией 01.AI и обученная с нуля. Это плотная авторегрессионная модель семейства Yi на архитектуре Transformer, совместимой с реализацией Llama; веса Llama в обучении не использовались. Модель содержит 8,6 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста, понимания языка, ответов на вопросы, чтения и рассуждений. Семейство Yi рассчитано прежде всего на английский и китайский языки и обучено на многоязычном корпусе. Эта карточка описывает базовую модель, а не диалоговую настройку, поэтому качество ответов в чате может требовать дополнительного дообучения или инструкции в промпте. Модель распространяется в формате safetensors по лицензии Apache 2.0. Длинный контекст и относительно компактный размер семейства позволяют применять её для анализа больших текстовых фрагментов, однако фактические требования к памяти и скорость зависят от оборудования и настроек инференса.

BLOOM-1b7 — плотная авторегрессионная языковая модель на базе Transformer, разработанная проектом BigScience. Она предназначена для генерации текста, исследования поведения языковых моделей и использования в качестве предварительно обученной основы для дальнейшей настройки. В карточке указаны сценарии извлечения информации, ответов на вопросы и суммаризации; модель также обучалась на данных с кодом. Модель относится к семейству BLOOM и принимает текст, выдавая продолжение текста. Контекст — до 4096 токенов. Метаданные содержат языковые теги для широкого набора естественных языков, а также код; точный размер этой версии в предоставленных данных не указан. Модель выпущена BigScience под лицензией BigScience BLOOM RAIL v1.0. BLOOM может выдавать ошибочную информацию как достоверную, повторяться и воспроизводить стереотипы или оскорбительный контент. Карточка не рекомендует применять её для высокорисковых решений, а также в медицинской, политической, юридической и финансовой сферах.

arcee-ai/DeepSeek-V3-0324-bf16 — конверсия модели DeepSeek V3 от Arcee AI в формат BF16. По метаданным это плотная авторегрессионная языковая модель архитектуры DeepseekV3ForCausalLM с 37,6 млрд параметров и контекстом до 163 840 токенов. Предназначена для генерации текста в диалогах и сценариях с интерфейсом вызова инструментов. Модель принимает текст и выдаёт текст. В карточке указана лицензия MIT. README сообщает о преобразовании весов из FP8 в BF16, но не даёт подробностей об обучении или результатах оценки.

Dracarys-Llama-3.1-70B-Instruct-GGUF — это квантованные версии инструкционной языковой модели Dracarys-Llama-3.1-70B-Instruct, разработанной AbacusAI. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на запросы и другие задачи, поддерживаемые текстовыми LLM. Варианты подготовлены пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix; запуск рекомендуется через LM Studio или совместимое программное обеспечение. Модель основана на архитектуре Llama 3.1 и содержит 70 миллиардов параметров. Доступны уровни квантования от Q8_0 до IQ1_M, что позволяет выбирать между качеством ответов и требованиями к оперативной памяти: наиболее качественными считаются Q6_K, Q5_K_M и ряд вариантов Q4, тогда как версии Q2 и Q3 заметно уступают по качеству, хотя некоторые из них остаются пригодными для использования. Размер файлов составляет примерно от 16,75 до 74,98 ГБ. Мультимодальность, поддерживаемые языки и размер контекстного окна в README не указаны. Основные преимущества — большой размер модели, инструкционная настройка и широкий выбор квантований для локального запуска. Ограничения связаны с высокими требованиями к памяти, особенно для качественных вариантов, а также с потерей качества при сильном квантовании. Для корректной работы следует использовать указанный формат prompt с системным, пользовательским и ассистентским сообщениями. Лицензия указана как llama3; дополнительные условия лицензии в README не приведены.

G9v3-39A5B-GGUF — это неофициальная конверсия предварительной языковой модели G9v3-39A5B, разработанной AI9Stars, в формат GGUF. Конверсию выполнил linuxid10t для запуска через llama.cpp. Модель предназначена для генерации текста, диалогов, задач с длинным контекстом и сценариев с вызовом инструментов; заявлена поддержка режимов Think и No-Think. Поддерживаемые языки — английский и китайский. Модель использует архитектуру G9v3ForCausalLM со sparse Mixture-of-Experts: около 39 млрд параметров всего и примерно 5 млрд активных на один токен. Она содержит 38 слоёв, включая один плотный и 37 MoE-слоёв, 320 маршрутизируемых экспертов, из которых выбираются 32, а также одного общего эксперта. Максимальный контекст составляет 131 072 токена. Доступны варианты BF16, Q8_0, Q4_K_M и IQ4_XS; квантованные версии уменьшают требования к памяти, но могут снижать точность по сравнению с BF16. Основное ограничение — модель является preview-релизом, а поддержка архитектуры G9v3 ещё не включена в стандартные сборки llama.cpp: требуется специальная ветка с поддержкой G9v3. Рекомендуемый объём оперативной памяти составляет не менее 96 ГиБ для BF16, 48 ГиБ для Q8_0 и 32 ГиБ для Q4_K_M или IQ4_XS, причём фактические требования зависят от размера контекста и настроек запуска. Репозиторий распространяется по лицензии Apache-2.0.

p-e-w выпустил gemma-3-12b-it-heretic — разговорную мультимодальную модель на архитектуре Gemma 3, созданную дообучением google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; карточка описывает сценарии общения, ответов на вопросы по изображениям, суммаризации и генерации текстов. В метаданных указаны 12 млрд параметров для базовой модели, формат safetensors и библиотека Transformers. README семейства Gemma 3 сообщает о контекстном окне до 128 тыс. токенов и поддержке более 140 языков; эти характеристики приведены для семейства, а не подтверждены отдельно для данного чекпойнта. Метка heretic и теги uncensored, decensored и abliterated указывают на изменение поведения модели в сторону снятия ограничений, однако README не описывает процедуру такого изменения. Лицензия указана как gemma. Модель может выдавать неверные или устаревшие сведения, отражать смещения обучающих данных и ошибаться при сложных запросах или тонких языковых нюансах; при использовании следует учитывать риск генерации вредного содержания.

Gemma-3-4b-it-MAX-NEO-Imatrix-GGUF — GGUF-квантизированная версия инструкционной модели Google Gemma 3 4B, опубликованная DavidAU. Модель предназначена для генерации текста, диалогов, выполнения пользовательских инструкций, творческого письма и других общих сценариев использования языковых моделей. Заявлен контекст до 128 000 токенов. Ключевая особенность версии — сочетание квантизации с сохранением embedding- и output-тензоров в формате BF16 («MAXED») и специализированного imatrix-набора «NEO IMATRIX», разработанного DavidAU. По заявлению автора, это должно улучшать следование инструкциям, качество ответов и связность идей по сравнению с обычными квантами. Доступны варианты от IQ1_S до Q8_0; для творческих задач рекомендуются IQ3S, IQ4XS, IQ4NL и Q4, для общего использования — Q5, Q6 и Q8, а для портативных устройств — Q4_0 и Q5_0. Разные варианты квантов могут заметно различаться по качеству и характеру вывода. Модель ориентирована на локальный запуск и позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. README приводит пример производительности около 56 токенов в секунду для IQ4XS на видеокарте среднего уровня, но фактические показатели зависят от оборудования и настроек. Ограничения включают снижение качества у наиболее компактных квантов, различия в результатах между Q- и IQ-вариантами, а также необходимость подбора параметров генерации. Лицензия — Apache 2.0.

RedHatAI/Inkling-FP8-dynamic — мультимодальная модель, разработанная RedHatAI на основе thinkingmachines/Inkling. Она предназначена для генерации текста по текстовым, графическим и аудиовходам, включая диалоговые сценарии, анализ изображений и аудио, а также универсальные задачи рассуждения и обработки мультимодального контента. Модель использует архитектуру InklingForConditionalGeneration и Mixture-of-Experts с 975 млрд общих параметров, из которых 41 млрд активируются для отдельного запроса. Веса и активации языкового блока квантизированы в FP8: веса используют статическое поканальное масштабирование, а активации — динамическое масштабирование на уровне токенов. Энкодеры изображений и аудио, эмбеддинги, нормализация, смещения, маршрутизация MoE и отдельные слои сохранены в исходной точности. Квантизация примерно вдвое уменьшает размер модели на диске и требования к памяти по сравнению с 16-битным представлением. В конфигурации развертывания заявлена поддержка контекста до 131 072 токенов и до четырёх изображений и одного аудиофайла на запрос. К сильным сторонам относятся поддержка нескольких модальностей, высокая общая ёмкость MoE-модели, снижение требований к GPU-памяти благодаря FP8 и готовность к инференсу через vLLM. Ограничения включают значительный абсолютный размер модели, необходимость совместимой версии vLLM с поддержкой FP8 для Inkling и отсутствие в README сведений о языках, результатах бенчмарков и качестве после квантизации. Модель распространяется по лицензии Apache-2.0.

Bheri/ithasa-mmbert-gist — это дообученная авторами Bheri модель Sentence Transformers на базе jhu-clsp/mmBERT-base. Энкодер ModernBERT преобразует предложения и абзацы в плотные векторы размерностью 768; сходство векторов можно оценивать косинусной мерой. Модель рассчитана на семантическое сравнение текстов и перенос смысла между английским и санскритом; в README приведена оценка на задаче перевода между этими языками. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текста. В README указана максимальная длина последовательности 128 токенов, тогда как метаданные каталога сообщают о нативном контексте базовой архитектуры в 8192 токена; практический предел этой версии в Sentence Transformers указан как 128. Чекпойнт содержит 306,9 млн параметров и распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

Это набор GGUF-квантизированных версий instruct-модели meta-llama/Llama-3.1-8B-Instruct, подготовленный командой featherless-ai-quants. Модель относится к задачам генерации текста и предназначена для диалоговых сценариев, следования инструкциям и локального или серверного запуска в совместимых средах, поддерживающих формат GGUF. В основе лежит языковая модель Llama 3.1 с 8 миллиардами параметров; README не уточняет архитектуру, языки и размер контекстного окна. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ. Более компактные варианты снижают требования к памяти, тогда как версии с более высокой точностью потенциально лучше сохраняют исходное качество, но требуют больше ресурсов. Сильной стороной набора является выбор уровней квантизации для разных аппаратных ограничений и сценариев развертывания. Ограничения включают возможные потери качества из-за квантизации и необходимость использовать совместимое программное обеспечение для GGUF. Лицензия в README не указана; условия использования следует уточнять по лицензии исходной модели Llama 3.1 и условиям распространения данного набора.

Devstral-Small-2-24B-Instruct-2512-GGUF — это GGUF-квантизированная версия инструкционной модели Devstral-Small-2-24B-Instruct-2512, разработанной Mistral AI и преобразованной в набор квантованных файлов пользователем bartowski с использованием llama.cpp и imatrix-калибровки. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет 24 млрд параметров; в README не указаны её точная архитектура, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты от BF16 размером 47,15 ГБ до компактных квантований Q3 и Q4, а также Q5, Q6 и Q8. Более высокие уровни квантования обычно обеспечивают лучшее сохранение качества, тогда как младшие варианты снижают требования к оперативной памяти. Для большинства сценариев в README рекомендован Q4_K_M, а для максимального качества — Q6_K_L или Q6_K. Сильная сторона этой версии — возможность локального использования большой инструкционной модели в различных компромиссах между качеством и потреблением памяти. Поддержка tool calling заявлена как частично работоспособная: одиночные вызовы в тестах выполнялись, но цепочки вызовов могли ломаться, поэтому совместимость с mistral-vibe не гарантируется. Модель распространяется по лицензии Apache-2.0.

MyAwesomeModel — модель из репозитория пользователя hwefa, опубликованная для использования через библиотеку Transformers и отмеченная тегами PyTorch, BERT и feature-extraction. Метаданные Hugging Face классифицируют её как модель извлечения признаков, а README описывает обновлённую версию с улучшенными рассуждениями, логическим выводом, математикой, программированием, диалогами, суммаризацией, классификацией, переводом и поддержкой function calling. README также заявляет о снижении частоты галлюцинаций и рекомендует использовать системный промпт и температуру 0.6.

OpenThinker3-7B-GGUF — это квантизированная версия текстовой генеративной модели OpenThinker3-7B, разработанной проектом open-thoughts и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые приложения. Модель содержит 7 миллиардов параметров и поддерживает различные варианты представления весов: от BF16 до квантизаций Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов варьируется примерно от 3,5 до 15,2 ГБ, поэтому можно выбрать баланс между качеством, скоростью и требованиями к памяти. Для взаимодействия используется шаблон сообщений с ролями system, user и assistant. Сведения о контекстном окне, языках, мультимодальности и точной архитектуре в README не указаны; по доступным данным это текстовая, а не мультимодальная модель. Сильной стороной являются многочисленные варианты квантизации, включая версии, оптимизированные для экономии памяти и локального запуска, а также применение imatrix при квантизации на базе llama.cpp. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать полноразмерной или высокоточной квантизации по качеству. Модель распространяется по лицензии Apache-2.0. Датасет, указанный для исходной модели, — open-thoughts/OpenThoughts3-1.2M.

CultriX/Qwen2.5-14B-Brocav6 — объединённая языковая модель на архитектуре Qwen2 для генерации текста и диалогового общения. По README, CultriX создал её с помощью mergekit, применив метод della_linear и CultriX/Qwen2.5-14B-Wernickev3 как базу; в объединение также вошли несколько моделей семейства Qwen2.5, включая варианты для математики и диалога. Модель содержит 14 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Метаданные указывают поддержку чата и интерфейса вызова инструментов. Репозиторий содержит веса в формате safetensors; библиотека для работы — Transformers. Модель подходит для генерации ответов в диалоге, продолжения текста и других задач, решаемых текстовыми генеративными моделями. Документация не приводит специальных результатов оценки или подробных ограничений, поэтому качество на конкретных задачах следует проверять отдельно. Лицензия в предоставленных данных не указана.

Модель nextvalueup/Qwen2.5-7B-Instruct — дообученная разговорная языковая модель семейства Qwen2.5, разработанная nextvalueup на базе unsloth/qwen2.5-7b-instruct-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и взаимодействие через интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 7,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Веса представлены в формате PyTorch. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. README сообщает, что обучение проводилось с использованием Unsloth и Hugging Face TRL.

Theros/Qwen2.5-ColdBrew-R1-test2 — объединённая автором модель на основе языковых моделей Qwen2.5. Она создана методом Model Stock с помощью mergekit; в объединение вошли Theros/Qwen2.5-ColdBrew-R1-test, Theros/Qwen2.5-CyberMix-7B и bunnycore/Qwen-2.5-7B-Deep-Stock-v4. Модель предназначена для диалогов и генерации текста, а также поддерживает интерфейс общения с инструментами. Архитектура — плотная Qwen2ForCausalLM, размер — 7,1 млрд параметров, максимальный контекст — 131 072 токена. Репозиторий содержит веса в формате safetensors и рассчитан на Transformers. Лицензия в предоставленных данных не указана.

Youssofal/Qwen3.6-35B-A3B-Abliterated-Heretic-GGUF — это GGUF-релиз модифицированной модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений; запуск возможен через llama.cpp с использованием совместимого мультимодального projector-файла. Релиз создан с применением Heretic для удаления исходного паттерна отказов на уровне весов. Модель использует разреженную MoE-архитектуру с 35,95 млрд общих параметров и примерно 3 млрд активных параметров на токен. В составе 40 текстовых слоёв, 256 маршрутизируемых экспертов и 8 активных экспертов на токен; семейство архитектуры — qwen3_5_moe. Доступны варианты BF16, Q8_0, Q6_K и Q4_K_M, различающиеся качеством и требованиями к ресурсам. Языки и точный размер контекстного окна в README не указаны. Сильной стороной релиза является сохранение мультимодальной архитектуры и общего профиля возможностей базовой модели при значительно меньшей склонности к отказам: в указанной проверке модель отказала в 1 из 25 запросов против 22 из 25 у оригинала. Это одновременно является ограничением и фактором риска: встроенное поведение отказа удалено, поэтому модель может отвечать на запросы, которые базовая версия отклоняла, и требует самостоятельного контроля безопасности. Релиз распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen3.8-27B-FP8 — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная huginnfork на базе модели Qwen/Qwen3.8-27B. Она предназначена для задач, объединяющих работу с текстом и изображениями, включая генерацию и понимание ответов по визуально-текстовым запросам. Модель поддерживает speculative decoding и multi-token prediction, однако конкретный набор языков и максимальная длина контекста в предоставленных данных не указаны. Модель имеет плотную архитектуру семейства Qwen3.5 с гибридом линейного внимания и полного self-attention, vision tower и MTP-head. Квантование выполнено по схеме FP8_DYNAMIC W8A8: веса и активации MLP-проекций квантуются в FP8 E4M3, а активации обрабатываются динамически на уровне токенов. Пути self-attention, linear attention на базе SSM, vision tower, lm_head и MTP-head сохранены в формате bf16. Размер чекпойнта составляет около 35,8 GiB в восьми файлах против 51,7 GiB у версии bf16. Выборочная квантизация MLP снижает объём хранения и, согласно приведённым измерениям, обеспечивает меньшее расхождение с исходной bf16-моделью, чем официальный FP8-релиз, при сохранении сопоставимой perplexity. Ограничения включают необходимость совместимого программного и аппаратного стека для FP8 и отсутствие в предоставленном README подробностей о фактической производительности, поддерживаемых языках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

noctrex/Qwen3-Next-80B-A3B-Instruct-MXFP4_MOE-GGUF — квантизированная версия модели Qwen3-Next-80B-A3B-Instruct в формате GGUF с квантизацией MXFP4. Модель предназначена для диалогов и генерации текста; для запуска требуется llama.cpp, причём карточка рекомендует использовать его актуальную версию. Базовая Qwen3-Next-80B-A3B-Instruct — разреженная языковая модель с возможностью вызова инструментов и длинным контекстом. Размер контекста и список поддерживаемых языков для этой сборки в предоставленных данных не приведены. Лицензия в данных не указана.

Qwen3-VL-32B-Instruct-Heretic — мультимодальная модель для диалога по тексту и изображениям, созданная как дообученная версия Qwen/Qwen3-VL-32B-Instruct. Она предназначена для ответов на вопросы об изображениях, визуального рассуждения, распознавания текста и анализа видео; архитектура Qwen3-VL dense содержит 32 млрд параметров. В карточке базовой модели заявлены контекст 256 тыс. токенов с возможностью расширения до 1 млн и OCR на 32 языках. Модель сохраняет возможности базовой версии для текстового и визуального понимания, включая пространственное рассуждение и разбор интерфейсов. Abliteration заметно снижает частоту отказов в указанном сравнении: 4 из 100 против 89 из 100 у исходной модели; это не гарантирует корректность или безопасность ответов. Доступна по лицензии Apache-2.0.

Qwen3-235B-A22B-Instruct-2507-GGUF — это квантизированная версия инструкционной языковой модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет архитектуру и размер исходной версии Qwen3-235B-A22B-Instruct-2507; в названии указаны 235 млрд параметров и конфигурация A22B. Представлены варианты GGUF с разными уровнями квантизации — от Q2 до Q8_0 — размером примерно от 93 до 250 ГБ для указанных файлов. Более высокие уровни обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти. README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности. Сильной стороной являются разнообразие вариантов квантизации и возможность локального запуска, включая рекомендации Q6_K, Q5_K_M, Q5_K_S и Q4_K_M для разных компромиссов между качеством и требованиями к памяти. Ограничениями выступают очень крупный размер модели и высокие аппаратные требования; при низких уровнях квантизации качество снижается. Лицензия в предоставленных данных не указана.

Re:ultiima-14B — языковая модель, созданная TeamDelta слиянием весов через TIES с помощью mergekit. В основу взята предобученная Qwen/Qwen2.5-14B, в слияние также включена Qwen/Qwen2.5-14B-Instruct. Модель имеет плотную архитектуру Qwen2 с 14 млрд параметров и контекстным окном до 131072 токенов. Модель предназначена для генерации текста и диалогов на английском и китайском языках; метаданные также отмечают интерфейс вызова инструментов. Она распространяется в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит оценок качества или специальных ограничений применения. Как и другие языковые модели, ответы могут быть ошибочными; возможности вызова инструментов обозначают интерфейсную поддержку и сами по себе не гарантируют корректное выполнение действий.

mlx-community/Apertus-8B-Instruct-2509-bf16 — версия модели Apertus-8B-Instruct-2509, подготовленная сообществом mlx-community для запуска в MLX. Основа — дообученная диалоговая модель Swiss AI Initiative с плотной архитектурой ApertusForCausalLM; в метаданных указано 10,3 млрд параметров и контекст до 65 536 токенов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и работы с длинным контекстом. Метаданные отмечают интерфейс вызова инструментов и многоязычную поддержку, но README не уточняет список языков и не содержит примеров качества. Репозиторий распространяется по лицензии Apache-2.0.

unsloth/aya-vision-32b — версия с весами, опубликованная Unsloth на основе мультимодальной модели Aya Vision 32B от Cohere For AI. Это плотная vision-language модель для диалога по тексту и изображениям: она принимает текст и изображения, а в ответ генерирует текст. Варианты Aya Vision предназначены для OCR, описания изображений, визуальных рассуждений, суммаризации, ответов на вопросы по изображениям и других задач понимания визуального содержимого. Модель относится к семейству Aya Vision и использует архитектуру AyaVisionForConditionalGeneration; для обработки изображений применяется зрительный энкодер SigLIP2. Она поддерживает многоязычное взаимодействие, включая русский, и работает через библиотеку Transformers. Карточка README относится к версии 8B, поэтому приведённые там сведения о контексте 16K, обработке изображений и подробном списке 23 языков нельзя уверенно переносить на эту версию 32B. Репозиторий основан на CohereForAI/aya-vision-32b и классифицирован как дообученная модель; веса хранятся в формате safetensors. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование и требует соблюдать условия допустимого использования C4AI. Подробности производительности и ограничения именно версии 32B в предоставленной карточке не описаны.

bartowski/deepcogito_cogito-v1-preview-llama-8B-GGUF — это GGUF-квантизированная версия языковой модели cogito-v1-preview-llama-8B, разработанной deepcogito. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF с вариантами точности от BF16 до различных Q- и IQ-квантизаций. Доступны файлы размером примерно от 3,8 до 16,1 ГБ; варианты Q6_K и Q6_K_L обозначены как обеспечивающие качество, близкое к исходному, а Q4_K_M рекомендован как стандартный компромисс между качеством и размером. Для работы предусмотрен формат prompt с системными и пользовательскими сообщениями в стиле Llama 3.1. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными весами. Более компактные варианты экономят оперативную память, но могут уступать по качеству менее сжатым версиям; конкретные поддерживаемые языки, размер контекста, мультимодальные возможности и результаты бенчмарков в README не указаны. Лицензия обозначена как llama3.1.

Experiment28M7_Experiment26Alloyingotneoy — объединённая модель семейства Mistral, созданная из automerger/Experiment28M7-7B и automerger/Experiment26Alloyingotneoy-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель общего назначения. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

GLM-4V-9B — мультимодальная модель семейства GLM-4, разработанная Zhipu AI. Она предназначена для диалогового понимания изображений и текста: отвечает на вопросы по изображениям, распознаёт текст, анализирует графики и диаграммы, а также выполняет задачи визуального восприятия и рассуждения. Модель поддерживает китайский и английский языки, многоходовый диалог с изображениями высокого разрешения до 1120 × 1120 пикселей и контекст длиной 8K токенов. Это плотная архитектура ChatGLM с 10,7 млрд параметров; веса опубликованы в формате safetensors. В метаданных указан тег text-generation, однако назначение модели и её описание в README сосредоточены на визуальном диалоге, OCR и понимании изображений. Лицензия обозначена как other; README отсылает к отдельной лицензии GLM-4 для условий использования.