I.15Доступность и ассистивные технологии

BLOOMZ-7B1-mt — многоязычная генеративная языковая модель, созданная BigScience путём дообучения BLOOM на смеси кросс-языковых задач xP3. Она предназначена для выполнения инструкций на естественном языке без отдельного дообучения под каждую задачу: модель может отвечать на вопросы, переводить, классифицировать текст и создавать связные тексты. Архитектура — плотная авторегрессионная BLOOM с 7,1 млрд параметров; модель работает с текстом, поддерживает десятки языков и имеет контекст до 2048 токенов. Среди сильных сторон — следование инструкциям и перенос между языками и задачами в режиме zero-shot. Качество ответов зависит от формулировки запроса: README рекомендует явно обозначать границу инструкции и указывать желаемый язык и контекст. Модель может продолжать входной текст вместо ответа, если запрос сформулирован неоднозначно. Распространяется по лицензии BigScience BLOOM RAIL 1.0.

MuXodious выпустил дообученную версию Ministral-3-14B-Instruct-2512, изменённую методом abliteration с использованием Heretic и слияния с Magnitude-Preserving Orthogonal Ablation. Это мультимодальная плотная модель семейства Mistral 3: языковая часть содержит 13,5 млрд параметров, а визуальный энкодер — 0,4 млрд. Она принимает текст и изображения и предназначена для диалогов, выполнения инструкций и анализа изображений; в README также заявлены вызов функций и вывод JSON. Модель поддерживает английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки, а контекстное окно базовой модели составляет 256 тыс. токенов. Модификация снижает склонность к отказам: в приведённой оценке Heretic модель отказала в 5 случаях из 100. Автор предупреждает, что модель сильно uncensored, и рекомендует использовать её с осторожностью. Для работы указаны Transformers v5; в метаданных также заявлена поддержка vLLM. Лицензия Apache-2.0 допускает коммерческое и некоммерческое использование.

OsaurusAI подготовила квантизированную сборку мультимодальной модели Qwen3.6-35B-A3B для запуска через MLX на устройствах Apple Silicon. Это MoE-модель с 35 млрд параметров, из которых около 3 млрд активны на каждом токене; архитектура включает 40 слоёв, сочетая Gated DeltaNet и полное внимание, а также 256 маршрутизируемых экспертов и одного общего эксперта. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов; базовая модель также поддерживает видео, но README отмечает ограничения основного пути MLX для видео. Сборка использует JANGTQ4 для весов маршрутизируемых экспертов и 8-битную аффинную квантизацию для ряда остальных компонентов; башня зрения сохранена. Для загрузки нужен собственный JANGTQ runtime и файл jangtq_runtime.safetensors, а стандартный загрузчик mlx_lm не поддерживает упакованные веса. Модель ориентирована на локальный инференс, включая диалоги, анализ изображений и агентные сценарии; для комфортного запуска README рекомендует Mac с 32 ГБ объединённой памяти. Лицензия — Apache-2.0. Заявленные в README бенчмарки относятся к исходной модели, а не к этой квантизированной сборке.

T5 Version 1.1 Base — разработанная Google предварительно обученная текстовая encoder-decoder модель семейства T5 с примерно 123,8 млн параметров. Она реализует подход text-to-text: входные и выходные данные представлены текстом, а задачи формулируются как преобразование одного текста в другой. Модель предварительно обучена только на корпусе C4 и не проходила обучение на контролируемых downstream-задачах, поэтому перед применением её необходимо дообучить для выбранного сценария. В версии 1.1 используется активация GEGLU в feed-forward слоях вместо ReLU, отключён dropout при предварительном обучении и не разделяются веса слоя эмбеддингов и классификатора. Модель рассчитана на английский язык. Доступны реализации весов для PyTorch, TensorFlow и Flax. Лицензия — Apache 2.0.

T5 Version 1.1 Large — Google разработала эту предварительно обученную языковую модель архитектуры T5 с 385,2 млн параметров. Она преобразует текст в текст и предназначена для последующей настройки под конкретные задачи обработки естественного языка, например суммаризацию, ответы на вопросы и классификацию текста. В версии 1.1 используется активация GEGLU вместо ReLU, отключён dropout при предварительном обучении, а слой эмбеддингов не разделяет параметры с классификатором. Модель предварительно обучена только на корпусе C4 без обучения на размеченных задачах; перед применением её нужно дообучить. Доступны веса в форматах PyTorch, TensorFlow и Flax. Указанный язык — английский. Модель распространяется по лицензии Apache-2.0. README не приводит отдельных оценок качества для этого размера модели; результаты зависят от последующего дообучения на целевой задаче.

Это GGUF-сборка модели Gemma 4 26B A4B IT, подготовленная FreedomAISVR из Google Gemma 4. Модель основана на инструкционно дообученной архитектуре MoE с 26 млрд параметров, из которых для каждого токена активны около 4 млрд; в описании указаны 128 экспертов и выбор 8 экспертов на токен. Модель предназначена для диалогов и генерации текста, а дополнительный файл mmproj содержит мультимодальный проектор для анализа изображений. Веса представлены в формате GGUF с квантизацией NVFP4, размер текстовой модели — около 13,45 ГБ; проектор изображения поставляется отдельно в F16 и занимает около 1,11 ГБ. Для оптимальной производительности NVFP4 требуется сборка llama.cpp с поддержкой CUDA и видеокарта NVIDIA Blackwell; запуск на CPU возможен, но медленнее. README также описывает гибридное внимание со скользящими локальными и глобальными слоями. Лицензия — Gemma; перед использованием следует соблюдать её условия.

Meta Llama 3.2 1B — авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer. Это предварительно обученная многоязычная модель с примерно 1,23 млрд параметров; она принимает и генерирует текст, а также может работать с кодом. В карточке указаны контекст до 128 тысяч токенов, Grouped-Query Attention и обучение на смеси общедоступных данных. Модель предназначена для генерации текста и адаптации к различным задачам обработки естественного языка. Её можно использовать для черновиков и продолжения текста, перефразирования запросов, краткого изложения и диалоговых приложений после соответствующей настройки. Разработчик — Meta; модель доступна через библиотеку Transformers в формате safetensors. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Это предварительно обученная модель, а не версия, настроенная специально для диалога; качество и безопасность ответов следует проверять и при необходимости адаптировать для конкретного применения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

OPT-IML-Max — инструкционно дообученная языковая модель семейства OPT, разработанная Meta. Она обучена на примерно 2000 задачах обработки естественного языка из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource, и предназначена для выполнения разнообразных инструкций и генерации текста. Модель использует плотную причинную архитектуру OPTForCausalLM, содержит около 1,7 млрд параметров и поддерживает контекст до 2048 токенов. Модель подходит для ответов на вопросы, суммаризации, перефразирования и других текстовых задач, сформулированных в виде инструкций. Карточка не уточняет список поддерживаемых естественных языков. Возможны фактические ошибки, токсичные высказывания и воспроизведение стереотипов; ответы требуют проверки. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.

trohrbaugh/Qwen3.5-9B-heretic-v2 — мультимодальная модель на основе Qwen3.5-9B-Base, дообученная разработчиком trohrbaugh методом abliteration. Она предназначена для диалогов и задач понимания изображений; модель может вызывать инструменты через совместимый интерфейс. В README указаны 9 млрд параметров, гибридная архитектура с Gated Delta Networks и механизмом внимания, а также контекст до 262 144 токенов с возможностью расширения. Базовая карточка Qwen3.5 заявляет поддержку 201 языка и диалекта; отдельный список языков этой версии в предоставленных данных отсутствует. По сравнению с исходной моделью в тесте из README она отказала в 6 из 100 запросов против 100 из 100 у исходной модели. Это указывает на ослабление отказов, поэтому модель может отвечать на большее число запросов, но не гарантирует корректность или безопасность таких ответов. Доступны веса в формате Safetensors для Transformers и совместимых сред. Лицензия — Apache-2.0.

ChimeraLlama-3-8B-v3 — объединённая языковая модель, созданная mlabonne с помощью LazyMergekit из семи моделей семейства Llama 3, включая инструктивные версии и варианты, дообученные с ORPO и DPO. Это плотная авторегрессионная модель на 7,5 млрд параметров для генерации текста и диалогового взаимодействия; заявленная длина контекста — 8192 токена. Модель принимает текст и выдаёт текст. Её можно использовать для ответов на вопросы, ведения диалога и генерации текста. В README приведены результаты оценок Open LLM Leaderboard, но они сами по себе не гарантируют качество на конкретных задачах. В метаданных указана лицензия «other»; условия использования следует сверить с карточкой модели и лицензиями объединённых базовых моделей.

Decision-1.0-Kai-0.6B — модель для структурированного выбора и оценки решений, разработанная командой vllm-sr. Она принимает контекст вместе с вопросами и описаниями кандидатов, а затем возвращает ответы и распределения вероятностей; генерация текста не используется. Модель дообучена на многоязычном энкодере Vela-1.0-Encoder-307M и имеет архитектуру Decision1Model с тремя двунаправленными путями по 22 слоя, общими входными эмбеддингами и отдельными слоями взаимодействия для разных типов решений. Модель предназначена для выбора между действиями или категориями, проверки условий и оценивания по упорядоченным критериям. Кандидаты задаются при каждом запросе; вопросы можно объединять для одного контекста или применять к пакетам контекстов. Полный запрос ограничен 1 024 токенами, включая контекст, вопросы, кандидатов и специальные токены; более длинные запросы отклоняются. В README приведены результаты бенчмарков на английском и китайском языках, но широкие многоязычные результаты относятся к предыдущим весам. Модель распространяется в формате safetensors по лицензии Apache-2.0. Для обслуживания через vLLM требуется совместимая среда vLLM Semantic Router Decision; локальный запуск возможен через Transformers с включением trust_remote_code. Вероятности не гарантируют правильность решения, порядок кандидатов может влиять на прогнозы, а в тестах Transfer модель уступала англоязычной Laya.

EnlistedGhost/Ministral-3-14B-Instruct-2512-GGUF — это конвертированная и квантованная версия Ministral-3-14B-Instruct-2512 от Mistral AI, опубликованная EnlistedGhost. Модель распространяется в формате GGUF и совместима с Ollama и Llama.cpp. Она предназначена для диалоговых текстовых задач и мультимодального анализа изображений, включая обработку запросов по тексту и изображениям; создавать изображения и обрабатывать аудио или видео она не умеет. Модель имеет 14 млрд параметров, поддерживает мультимодальный режим благодаря vision-проекторам и поставляется с несколькими файлами mmproj. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. В релиз включены варианты F16 и K-квантования с разным соотношением размера и качества. Автор также добавил собственный шаблон чата и скользящее окно контекста для последних восьми взаимодействий, однако фактический доступный размер контекста в README не указан. К сильным сторонам относятся локальный запуск через Ollama или Llama.cpp, поддержка изображений и выбор вариантов квантования. Ограничения включают отсутствие генерации изображений и поддержки аудио или видео, а также возможную потерю качества при квантовании. Модель распространяется по лицензии Apache-2.0.

mT5-small — компактная многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5, содержащая 157,4 млн параметров. Она предварительно обучена на корпусе mC4, охватывающем 101 язык, в формате преобразования текста в текст; контрольные точки доступны в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. Модель служит базой для дообучения под конкретные задачи NLP: например, суммаризацию, перевод или ответы на вопросы. Сам чекпойнт проходил только предварительное обучение без supervised-настройки, поэтому для качественного решения прикладных задач его следует дообучить. Поддержка языков включает русский и английский, а также множество других языков.

Qwen3.5-35B-A3B-Kazakh — мультимодальная модель ISSAI на архитектуре Qwen3.5 MoE для диалогов на казахском и английском языках с поддержкой изображений и видео. Это адаптация Qwen3.5-35B-A3B: базовую модель продолжительно обучали на казахских текстах, расширили словарь на 16 тысяч казахских токенов, затем перенесли инструкционное выравнивание официальной instruct-модели методом chat-vector merge. Ветвь зрения и мультимодальный проектор восстановлены из официальной модели. Модель предназначена для ответов на вопросы, диалогов и анализа визуальных материалов, в том числе на казахском языке. По данным README, она сохраняет большинство возможностей базовой модели, но отвечает более краткими рассуждениями; на сложных задачах рассуждения качество может снижаться. Зрение не дообучалось специально, поэтому на визуальных тестах возможна деградация. Для запуска указаны Transformers и vLLM; максимальная длина контекста в метаданных не приведена. Лицензия — Apache-2.0.

Qwen3.8-27B-Kimiko-2-NOESIS-BF16 — мультимодальная чат-модель компании AMAImedia, выпущенная в составе платформы автоматизации многоязычного дубляжа NOESIS. Это слияние нескольких предварительно обученных моделей семейства Qwen, выполненное методом Karcher Mean; репозиторий содержит веса BF16 в формате Safetensors и предназначен для работы с Transformers и совместимыми средствами инференса. Модель рассчитана на диалоговые задачи с текстом и изображениями, включая рассуждения, классификацию намерений, маршрутизацию запросов и перевод. В README указаны 27 млрд параметров, контекст 262 144 токена с возможностью расширения до 1 млн, а также поддержка понимания изображений и видео в исходном семействе Qwen3.8. Метаданные карточки подтверждают чат-возможности и vision; языковые теги включают русский, английский, китайский, вьетнамский, японский и другие языки. В README приведены результаты базовой и компонентных моделей, однако итоговые показатели Kimiko-2 для GSM8K отмечены как TBD, поэтому их нельзя считать подтверждёнными. Лицензия репозитория — Apache-2.0.

summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64 — экспериментальная мультимодальная модель на базе Qwen/Qwen3.8-27B, разработанная summerMC и предназначенная для диалогов и анализа изображений. В метаданных указаны архитектура Qwen3.5 с классом Qwen38GDN64VLForConditionalGeneration, 27 млрд параметров у базовой модели, поддержка vision и интерфейс вызова инструментов; основной pipeline — image-text-to-text. Модель распространяется в формате safetensors по лицензии Apache-2.0. Главный заявленный результат — экономия видеопамяти при длинном контексте: README описывает тест на GPU примерно с 80 ГиБ, где модель обработала 262 144 токена с пиковым использованием около 55,36 ГиБ, тогда как базовая Qwen3.8-27B завершила 196 608 токенов и достигла 72,82 ГиБ. Описанный результат относится к конкретной конфигурации теста; README указывает обученный контекст 262 144 токена и называет 1 трлн токенов лишь логическим контекстом для потоковой обработки, а не проверенным нативным контекстом. Данных о языках модели в карточке нет.

inferencerlabs/Qwen3.8-Flash-Next-MLX-Q4 — это мультимодальная квантованная версия модели Qwen3.8-Flash-Next, адаптированная для инференса с использованием MLX. README не указывает разработчика исходной модели; опубликованный вариант предоставлен inferencerlabs. Модель поддерживает сценарии image-text-to-text, то есть обработку изображений и текста с генерацией текстового ответа. Модель предназначена для локального запуска, в частности на компьютерах Apple Silicon через приложение Inferencer. В README приведён результат тестирования на M5 Max: около 57,5 токена в секунду при использовании примерно 98,7 GiB памяти для мультимодального инференса. Также указано, что для больших контекстных окон может потребоваться увеличение доступной памяти. Архитектура, количество параметров, точный размер контекста и поддерживаемые языки не указаны. Ключевое преимущество модели — снижение требований к памяти и вычислениям за счёт квантования при сохранении значительной точности. Для варианта с квантованием Q4.5 README указывает точность токенов 91,65% и perplexity 1,33593; эти показатели приведены для оценки квантования и могут не полностью соответствовать варианту Q4 из идентификатора модели. Ограничения включают возможное снижение точности по сравнению с базовой моделью, высокие требования к оперативной памяти для мультимодальной работы и отсутствие в README сведений о лицензии, поэтому условия использования следует уточнять отдельно.

Google T5Gemma-B-B-UL2 — предварительно обученная текстовая модель из семейства T5Gemma. Это энкодер-декодерная архитектура, адаптированная из decoder-only моделей Gemma; данный вариант использует энкодер B и декодер B и подготовлен с помощью UL2. Модель принимает текст и генерирует текст на английском языке. Модель предназначена для генерации и преобразования текста, в том числе ответов на вопросы, суммаризации и задач рассуждения. Её энкодер также может применяться в дискриминативных сценариях, например для классификации и понимания текста. Компактный размер семейства позволяет развёртывать модели на локальных компьютерах и в облачной инфраструктуре, однако точное число параметров этого варианта в предоставленных данных не указано. К ограничениям относятся возможные фактические ошибки, предвзятость обучающих данных и трудности с тонкими языковыми нюансами или сложными открытыми задачами. Модель распространяется с открытыми весами по лицензии Gemma; для использования следует учитывать политику запрещённого использования Gemma.

T5 Version 1.1 XL — модель Google для переноса обучения в задачах обработки естественного языка. Это плотный текстовый энкодер-декодер с архитектурой T5ForConditionalGeneration и примерно 1,5 млрд параметров, предобученный на корпусе C4 в формате text-to-text без обучения на размеченных прикладных задачах. В версии 1.1 применяются активация GEGLU в полносвязном слое, отключённый во время предобучения dropout и отдельные веса для эмбеддингов и классификатора; при дообучении авторы рекомендуют снова включать dropout. Модель служит базой для дообучения под суммаризацию, ответы на вопросы, классификацию и другие задачи, представимые как преобразование текста в текст. Сам предобученный чекпойнт не готов к таким прикладным задачам без дополнительного fine-tuning. Доступны версии весов для PyTorch и TensorFlow; карточка указывает английский язык. Лицензия — Apache 2.0.

Cohere и Cohere Labs разработали Cohere Labs Tiny Aya Earth — авторегрессионную языковую модель на 3,35 млрд параметров для многоязычной генерации текста и диалогов, с особым акцентом на языки Западной Азии и Африки. Модель принимает текст и выдаёт текст; поддерживает более 70 языков. Контекст составляет 8K токенов, заявлена также генерация до 8K токенов. Архитектура основана на оптимизированном трансформере: три слоя используют скользящее внимание с окном 4096 и RoPE, а четвёртый — глобальное внимание. После предобучения модель прошла дообучение с учителем и обучение на предпочтениях. Модель подходит для многоязычных диалогов, генерации, суммаризации, перевода и межъязыковых задач, включая работу с языками с ограниченными обучающими данными и локальное развёртывание при ограниченных вычислительных ресурсах. Карточка отмечает сильные стороны в открытой генерации и работе с низкоресурсными языками. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без отдельного согласования; также требуется соблюдать политику допустимого использования Cohere Labs.

Cohere и Cohere Labs разработали Cohere Labs Tiny Aya Global — авторегрессионную языковую модель на основе оптимизированного Transformer с 3,35 млрд параметров. Модель дообучена с помощью supervised fine-tuning и обучения предпочтениям, поддерживает диалог и предназначена для эффективного запуска при ограниченных вычислительных ресурсах. Контекст составляет 8K токенов; модель принимает текст и генерирует текст. Модель ориентирована на многоязычную генерацию и диалог, включая суммаризацию, перевод и межъязыковые задачи. Она охватывает более 70 языков, в том числе русский и ряд языков с ограниченными ресурсами; заявленный баланс между языками и регионами — ключевая особенность версии Global. Модель также подходит для адаптации под конкретные задачи и исследований многоязычной обработки естественного языка. Сильные стороны — генерация текста на широком наборе языков и сравнительно хорошая работа с языками, для которых доступно меньше обучающих данных. Качество рассуждений, включая многоязычную математику, слабее, чем открытая генерация и диалог; фактические ошибки и нестабильность вероятнее для низкоресурсных языков, а сложные инструкции могут быть трудны для модели. Лицензия CC-BY-NC-4.0 ограничивает использование некоммерческими целями; также требуется соблюдать политику допустимого использования Cohere Labs.

Atom-Olmo3-7B — языковая модель VANTA Research для диалога и совместного решения задач. Она создана дообучением Olmo-3-7B-Instruct с помощью LoRA и ориентирована на итеративное обсуждение идей, структурированный анализ и понятные образовательные объяснения. Модель содержит 6,9 млрд параметров, использует архитектуру Olmo3 и формат Safetensors; для диалога доступны текстовые входы и выходы. В карточке указана рекомендуемая длина контекста 4096 токенов, тогда как метаданные каталога указывают native context в 65536 токенов. Модель подходит для мозговых штурмов, объяснения сложных понятий, обобщения исследований и структурирования решений. Она рассчитана прежде всего на английский язык и может отвечать чрезмерно подробно; скорость генерации, по заявлению карточки, ниже примерно в пять раз по сравнению с более компактными специализированными моделями. Модель наследует ограничения знаний и возможные смещения базовой модели, поэтому факты следует проверять. Лицензия Apache 2.0 допускает коммерческое использование.

gemma-3n-E4B-it-GGUF — GGUF-квантизированная версия инструкционной модели gemma-3n-E4B-it, разработанной Google и квантизированной Second State Inc. Модель предназначена для диалоговых приложений и задач преобразования изображений и текста в текст; в README она обозначена как мультимодальная модель image-text-to-text. Данные о поддерживаемых языках и точной архитектуре не указаны. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 2,76 до 13,7 ГБ. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с малой потерей качества. Для запуска через LlamaEdge требуется версия 0.23.1 или новее; указан размер контекста 32 000 токенов и шаблон запросов gemma-3. Более низкая точность квантизации уменьшает требования к ресурсам, но может заметно ухудшать качество ответов. Модель распространяется по лицензии Gemma. README не содержит подробностей о бенчмарках, производительности, системных требованиях, поддерживаемых языках и ограничениях исходной модели, поэтому эти характеристики нельзя оценить точнее.

Gemma-4-12B-it-abliterated-uncensored — дообученная версия Gemma 4 12B Unified от автора OpenYourMind, созданная на основе google/gemma-4-12B-it. Веса BF16 содержат около 11,95 млрд параметров; архитектура — плотный decoder-only трансформер из 48 слоёв с единой мультимодальной обработкой без отдельных энкодеров для изображений и аудио. Модель предназначена для диалогов и генерации текста, а также для обработки изображений и аудио в мультимодальных запросах; в README также описана поддержка видеовхода. Вариант прошёл абляцию отказов, направленную на снижение стандартных отказов, при этом автор заявляет о сохранении рассуждений и мультимодальных возможностей исходной модели. Для запуска используются класс Gemma 4 в библиотеке Transformers и мультимодальный процессор; полные веса занимают около 24 ГБ. Модель распространяется по лицензии Gemma, унаследованной от базовой модели; перед использованием необходимо соблюдать её условия. Снижение отказов может влиять на безопасное поведение, а качество и надёжность ответов для этой модификации в карточке не подтверждены независимой оценкой.

Это GGUF-версия Gemma 4 31B — плотной мультимодальной модели Google, подготовленная пользователем satgeze на основе HauhauCS/Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP. Веса заявлены как битово идентичные исходному выпуску HauhauCS; для базовой модели и QAT указывается Google. Модель предназначена для генерации текста, работы с очень длинными контекстами и анализа изображений в средах llama.cpp и Ollama. Она поддерживает чтение текста на изображениях и распознавание объектов, однако языки в README не указаны. Основной файл содержит 31B-параметрную модель с 4-битным QAT-квантизованием и встроенным масштабированием контекста до 1 048 576 токенов против исходных 262 144. Заявлена проверка Needle-in-a-haystack с результатом 10/10 на длинах от 262K до 1M токенов; эти результаты получены на одной H200 с F16 KV-кэшем и не являются универсальной гарантией для других конфигураций. Дополнительная MTP draft head поддерживает speculative decoding с заявленным ускорением до 46%, а отдельный vision tower обеспечивает мультимодальный ввод. Сильные стороны модели — сверхдлинный контекст, поддержка изображений, speculative decoding и готовность к запуску в llama.cpp. Ограничения включают высокие требования к памяти и времени обработки длинных запросов: для 1M токенов 31B-модели с F16 KV требуется около 82 ГБ KV-кэша. Качество «uncensored» и базовые возможности отдельно и независимо не бенчмаркались в представленном README; также не приведены сведения о поддерживаемых языках. Распространение осуществляется по лицензии Gemma, условия которой распространяются на эти файлы.

Это GGUF-квантизованная версия мультимодальной инструкционной модели google/gemma-4-26B-A4B-it, разработанной Google и подготовленной в форматах GGUF автором bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций. Базовая модель имеет размер 26B и обозначение A4B, однако README не раскрывает подробности её архитектуры. Модель предназначена для диалогового применения и обработки задач, соответствующих режиму image-text-to-text, то есть может работать с текстом и изображениями. Она подходит для локального запуска через llama.cpp, LM Studio, Jan AI, KoboldCpp, Text Generation Web UI и другие совместимые инструменты. В README приведён специальный шаблон запросов и отмечены обновления шаблона чата и исправления совместимости. Сильная сторона сборки — широкий выбор уровней квантизации, позволяющий выбирать между качеством и требованиями к памяти: наиболее качественными названы Q6_K_L, Q6_K, Q5 и Q4 варианты, а Q4_K_M рекомендован как типичный компромисс. Более компактные варианты экономят память, но могут заметно уступать по качеству. Языки, размер контекстного окна, точные характеристики мультимодальности и требования к оборудованию в README не указаны. Распространение осуществляется по лицензии Apache-2.0; для самой базовой модели также указана отдельная лицензия Gemma 4.

MaziyarPanahi/Mistral-7B-Instruct-v0.2 — инструктивно дообученная версия языковой модели Mistral-7B-v0.2, опубликованная Maziyar Panahi на основе модели Mistral AI. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на диалог и выполнение инструкций. Она принимает текстовые запросы в формате Mistral Instruct и генерирует текстовые ответы; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, создания и редактирования текстов и других сценариев генерации текста. В README говорится, что версия Instruct служит демонстрацией возможностей дообучения базовой модели. Карточка предупреждает, что у модели нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать дополнительной проверки. Модель распространяется под лицензией Apache-2.0.

MuXodious/Muse-Glimmer-30B-SOMPOA-heresy — дообученная версия мультимодальной Muse-Glimmer-30B, созданная автором репозитория с помощью движка Heretic и абляции SOMPOA. Это плотный трансформер для условной генерации, содержащий около 29,6 млрд параметров; принимает текст и изображения и предназначен для диалоговой работы с визуальными данными. Модель подходит для анализа изображений, документов, диаграмм и снимков экрана в диалоге, а также для многошаговых агентных задач и вызова инструментов. В README описаны результаты снижения числа отказов, однако автор отмечает, что модель всё ещё ссылается на свои правила и требует дальнейшей проверки и перенастройки; приведённые результаты не гарантируют надёжность в реальных сценариях. Языки и длина контекста этой версии отдельно не описаны. Модель распространяется по лицензии Apache 2.0. README предупреждает о возможных неточных, предвзятых или нежелательных ответах и рекомендует проводить собственную оценку безопасности для целевого применения. Аудиоввод и аудиовывод не поддерживаются.

Это GGUF-копия модели unsloth/Qwen3.6-35B-A3B-NVFP4-Fast, преобразованная из исходного репозитория с помощью конвертера llama.cpp. Репозиторий публикует catlilface; модель предназначена для диалогов и задач с изображениями и текстом, включая агентные сценарии. В метаданных указаны архитектура Qwen, возможности чата и vision, а формат файлов — GGUF. Карточка рекомендует запускать модель на GPU с актуальной сборкой llama.cpp; также возможно выполнение с выгрузкой части вычислений на CPU. В README приведены ориентировочные показатели скорости для нескольких конфигураций оборудования, но качество предлагается оценивать по материалам базовой модели. Лицензия — Apache-2.0.

fcmeyer/Qwen3.8-27B-MLX-bf16-mtp — конверсия мультимодальной модели Qwen/Qwen3.8-27B в формат MLX bf16 для запуска через движок oMLX на компьютерах Apple Silicon. Веса сохранены без квантизации, включая головку MTP для спекулятивного декодирования Lightning-MTP; в модели также сохранена визуальная башня для анализа изображений и видео. Архитектура плотная, размер базовой модели — 27 млрд параметров. Модель предназначена для диалогов и понимания изображений и видео. При запуске через oMLX можно включить MTP для ускорения генерации; автор сообщает о двукратном ускорении декодирования на M5 Max с 128 ГБ памяти, а также о проверке поиска по длинному контексту и привязки ответов к изображениям. README демонстрирует контекстное окно до 262 144 токенов в конфигурации oMLX. Репозиторий содержит конвертированные веса, поэтому это не отдельное дообучение, а преобразование формата и точности исходной модели для MLX. Лицензия — Apache-2.0. Для запуска требуются Apple Silicon, oMLX и около 52 ГБ памяти под веса; измерения производительности относятся к конкретной конфигурации M5 Max.