I.14Автоматизация процессов и AI-агенты

RedHatAI/Qwen3-VL-235B-A22B-Instruct-FP8-dynamic — мультимодальная instruction-tuned модель, разработанная Red Hat на базе Qwen/Qwen3-VL-235B-A22B-Instruct. Она принимает текст, изображения и видео, а генерирует текст, поэтому предназначена для диалоговых сценариев, анализа визуального содержимого, ответов на вопросы по изображениям и видео, а также решения текстовых, математических, рассуждательных и визуальных задач. Модель использует архитектуру Qwen3VLMoeForConditionalGeneration и имеет 235 млрд параметров, из которых 22 млрд активируются для отдельного токена, согласно идентификатору базовой модели. Вариант FP8-dynamic применяет FP8-квантизацию весов и активаций линейных слоёв трансформерных блоков с динамической квантизацией токенов для активаций и поканальной квантизацией весов. Это примерно вдвое уменьшает объём хранения и требования к GPU-памяти по сравнению с представлением FP16. В README не указаны поддерживаемые языки и максимальная длина контекста. Для развёртывания приведён vLLM с tensor parallelism на четырёх GPU. К сильным сторонам относятся мультимодальность, снижение требований к памяти и близкое к исходной модели качество на приведённых тестах: например, восстановление показателей составляет 99,2–100,5% на задачах OpenLLM V1, включая ARC-Challenge, GSM8K, HellaSwag, MMLU и TruthfulQA. Ограничения включают необходимость производительной GPU-инфраструктуры и совместимого ПО для FP8 и формата compressed-tensors; численные результаты приведены только для ограниченного набора тестов, а влияние квантизации на другие сценарии не раскрыто. Модель распространяется по лицензии Apache-2.0.

n0kovo/Qwen3-VL-32B-Instruct-heretic-v2 — версия Qwen3-VL-32B-Instruct, обработанная методом abliteration: по приведённому сравнению модель реже отказывает в ответе, сохраняя близость к исходному поведению с KL-дивергенцией 0,1565. Это плотная мультимодальная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration, предназначенная для диалогов по тексту и изображениям. Модель подходит для визуальных вопросов и ответов, распознавания текста на изображениях, анализа сцен и пространственных отношений, а также понимания видео и генерации текста. В README для исходной модели указаны контекст 256 тыс. токенов с возможностью расширения до 1 млн и OCR на 32 языках; метаданные этой копии не подтверждают, что все эти характеристики сохранены без изменений. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.

RLT-7B — авторегрессионная языковая модель Sakana AI с 7,1 млрд параметров, дообученная методом supervised fine-tuning на основе Qwen/Qwen2.5-7B-Instruct. Она использует подход Reinforcement-Learned Teachers: модель-учитель, оптимизированная для создания рассуждений, передаёт их навыки модели-ученику через дистилляцию. Модель предназначена для генерации текста и диалогов, включая задачи на рассуждение, математику, науку и код. Поддерживает английский и китайский языки; контекст — до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Разработчик позиционирует её как экспериментальный прототип для исследований и разработки; результаты не гарантируются, а применение в критически важных системах не рекомендуется.

SlimHercules-4.0-Mistral-7B-v0.2 — дообученная Locutusque языковая модель на архитектуре Mistral-7B, предназначенная для диалогов и следования инструкциям в научных и технических областях. Она содержит 7,1 млрд параметров, принимает текст и генерирует текст; размер контекста — 32 768 токенов. В README заявлены навыки выполнения многошаговых инструкций, вызова функций, ответов по биологии, химии, физике, математике, медицине и информатике, а также генерации кода. Для дообучения использован набор hercules-v4.0. Модель подходит для учебных ассистентов и специализированных чат-ботов, пошаговых объяснений и помощи при разработке программ. Вызов функций описан как возможность модели, но для его использования нужна совместимая программная обвязка. Модель может выдавать токсичные ответы, галлюцинировать и допускать фактические ошибки, особенно в специализированных темах; ответы требуют проверки. Доступна по лицензии Apache-2.0.

SlimOpenOrca-Mistral-7B — языковая модель семейства Mistral, созданная Weyaxi слиянием TIES моделей Open-Orca/Mistral-7B-SlimOrca и Open-Orca/Mistral-7B-OpenOrca. Это плотная авторегрессионная модель на 7,1 млрд параметров, распространяемая в формате safetensors; нативный контекст составляет 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и следование инструкциям. В README указаны веса слияния 0,5 для SlimOrca и 0,3 для OpenOrca, а также плотность 0,5 для каждой исходной модели. Лицензия — Apache-2.0. Карточка также сообщает о вариантах GPTQ, GGUF и AWQ, опубликованных TheBloke; это отдельные квантованные версии.

Solar-Open2-250B-Mixed-Quant-GGUF — независимая конверсия модели upstage/Solar-Open2-250B в формат GGUF с рецептом смешанной точности MXQ-v1. Автор репозитория Baekpica; это не официальный выпуск Upstage. Вариант состоит из 11 файлов общим размером около 88,973 ГиБ и сохраняет исходную архитектуру Mixture-of-Experts: 48 слоёв, 320 маршрутизируемых экспертов в каждом слое и один общий эксперт. Указанный размер артефакта — около 3,05 бит на вес. Модель предназначена для генерации текста и диалогового применения, включая работу с инструкциями, рассуждениями, кодом и многоязычными запросами. В калибровке использованы английский, корейский, японский и другие многоязычные данные; карточка базовой модели указывает контекст до 1 048 576 токенов, однако автор не заявляет такую длину для работы на DGX Spark. Проверки описывают загрузку и генерации на нескольких GPU-конфигурациях, а также замеры производительности на DGX Spark с конкретным ПО и настройками. Это производный квантованный артефакт для запуска в совместимом с GGUF программном обеспечении; для него приведены контрольные суммы, рецепт квантования и результаты структурной проверки. Репозиторий указывает лицензию «other», но не приводит её условия в предоставленных данных, поэтому коммерческие и иные права использования следует сверить с карточкой Hugging Face и базовой моделью. Результаты проверок качества ограничены описанными тестами и не являются гарантией качества на произвольных задачах.

jondurbin/spicyboros-7b-2.2 — экспериментальная текстовая модель семейства Llama, разработанная Jondurbin и дообученная преимущественно на синтетических данных Airoboros 2.2. Она предназначена для выполнения инструкций и генерации ответов: модель подходит для вопросов и ответов по заданному контексту, написания текстов, викторин, задач на выбор ответа, программирования и генерации структурированных ответов. Заявленный контекст — 4096 токенов; модель содержит 6,6 млрд параметров и распространяется в формате PyTorch. В обучении использованы данные для более свободных, в том числе ролевых и чувствительных ответов; автор предупреждает, что модель может генерировать грубый, вредный и откровенный контент. Это англоязычная по представленным примерам и карточке модель общего назначения, с акцентом на пары инструкций и ответов, а не на непринуждённый диалог. Для инференса следует учитывать формат промпта с метками USER и ASSISTANT и задавать критерии остановки, чтобы модель не продолжала ответ за пользователя. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия.

Starling-LM-7B-beta-GGUF — это квантизированная GGUF-версия языковой модели Starling-LM-7B-beta, разработанной Nexusflow на основе openchat/openchat-3.5-0106 и Mistral-7B-v0.1. GGUF-квантизация выполнена bartowski с использованием llama.cpp. Модель содержит около 7 млрд параметров и предназначена для генерации текста. Модель ориентирована на многошаговый диалог, общие вопросы, выполнение повседневных текстовых задач и программирование. Она обучалась с применением reward model Nexusflow/Starling-RM-34B и оптимизации PPO на данных berkeley-nest/Nectar, что направлено на улучшение качества ответов и следования предпочтениям в диалогах. Поддерживается английский язык. Модель текстовая и не предназначена для обработки изображений или других мультимодальных данных. Для работы рекомендуется шаблон OpenChat; для задач программирования предусмотрен шаблон OpenChatCode. Системный промпт модель не поддерживает. README не указывает размер контекстного окна и конкретные требования к ресурсам, поэтому эти характеристики нельзя надежно определить из доступных данных. К преимуществам относятся компактный размер, пригодность для локального запуска в формате GGUF и специализация на диалогах и коде; ограничения включают англоязычную ориентацию, отсутствие мультимодальности и зависимость качества от выбранной квантизации и параметров запуска. Модель распространяется по лицензии Apache-2.0.

Star Supernova — англоязычная модель генерации текста monkiey/StarSupernova, созданная на базе Gemma-4 и дообученная с дистилляцией интеллектуальных и аналитических возможностей модели stepfun-ai/Step-3.7-Flash. Она предназначена для многошагового рассуждения, решения математических задач, академического и профессионального анализа, работы с вопросами из MMLU-Pro, программированием, системной инженерией и многоходовыми диалогами разработчика с инструментами. Модель использует разреженную архитектуру Mixture-of-Experts с 12 экспертами, Top-4-маршрутизацией для каждого токена и общей плотной MLP-сетью. Общий объём составляет около 13,47 млрд параметров, из них активно используется около 5,54 млрд на токен. Архитектура основана на Gemma-4 с 35 слоями и размерностью скрытого состояния 1536, контекст — до 131 072 токенов. Веса квантизованы до 4 бит, проекции маршрутизатора — до 8 бит; заявленный объём памяти составляет около 8,7 ГБ VRAM. Сильные стороны модели — высокая ёмкость при разреженной активации, специализированные навыки рассуждения, пошаговые математические выводы, устранение отвлекающих вариантов в тестах и эффективный запуск на компьютерах Apple Silicon через MLX и Metal GPU. Ограничение — модель обучалась только на английском языке и рассчитана прежде всего на англоязычные сценарии. Для работы требуется MLX/Apple Silicon; README указывает лицензию Apache-2.0.

Swift-Qwen3.8-27B-Uncensored-Dynamic-MTP-GGUF — набор GGUF-квантов модели Swift-Qwen3.8-27B-Uncensored-MTP, разработанный ajgazin. В основе лежит Swift-Qwen3.8-27B от UkisAI — дообученная для эффективного рассуждения версия Qwen3.8-27B. Модель предназначена для генерации текста, диалогов и задач рассуждения, а также поддерживает обработку изображений и видео через отдельный vision projector. Вариант содержит MTP head для self-speculative decoding в llama.cpp и ориентирован на локальный запуск через llama.cpp; заявлена совместимость также с vLLM и SGLang для NVFP4-варианта. Доступны варианты от UD-Q2_K_XL размером 9,2 GiB до UD-Q8_K_XL размером 29,3 GiB, а также исходный BF16-файл размером 50,9 GiB. Разные уровни квантования позволяют запускать модель на GPU с 12, 16, 20, 24, 32 и 48 GiB памяти, при необходимости используя частичную выгрузку на CPU. Для заявленного запуска используется контекст до 32768 токенов. Более крупные варианты ближе к качеству BF16: для UD-Q8_K_XL совпадение наиболее вероятного токена составляет 98,8%, для UD-Q4_K_XL — 95,8%, а для UD-Q2_K_XL — 85,2%. Сильные стороны модели — широкий выбор размеров квантов, поддержка текста, изображений и видео, встроенный MTP head для ускорения генерации и сниженная склонность к отказам: в описании указано 15 отказов из 100 против 98 из 100 у исходной Swift-модели. Ограничения включают потерю точности при агрессивном квантовании, необходимость отдельного mmproj-BF16.gguf для мультимодального ввода и специальной сборки llama.cpp с поддержкой MTP для qwen35. Качество измерялось преимущественно на тесте wikitext-2, поэтому оно не полностью характеризует работу с кодом и диалогами. Модель распространяется по лицензии swift-open-license-1.0; в карточке также указана категория лицензии other.

T3qm7xNeuralsirkrishna_Experiment26Yamshadow — объединённая языковая модель семейства Mistral, созданная путём слияния automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment26Yamshadow-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache 2.0. Данные карточки не описывают специализацию по языкам или предметным областям, поэтому её следует рассматривать как модель общего назначения.

Thalassic-Alpha-LLaMa-70B — объединённая модель для генерации текста, созданная автором TareksGraveyard на основе DeepSeek-R1-Distill-Llama-70B и нескольких моделей семейства Llama. Для слияния предварительно обученных моделей автор использовал mergekit и метод Linear DELLA. Модель предназначена для диалогов и генерации ответов; автор сообщает о многообещающих ранних результатах, но отмечает, что другой вариант его эксперимента показался ему лучше. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она принимает текст и генерирует текст. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — llama3.3.

Tulu V2.5 PPO 13B — англоязычная диалоговая модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на основе Tulu 2 с применением PPO и данных предпочтений UltraFeedback; для обучения использовалась reward-модель на 70 млрд параметров и смесь промптов. Контекст модели — до 4096 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате: её можно применять для вопросов и ответов, помощи с кодом и математическими задачами. В карточке указан шаблон чата с сообщением пользователя между маркерами начала и конца, а токенизатор содержит соответствующий chat template. Модель поддерживает английский язык и распространяется по лицензии Apache 2.0. В карточке отмечено, что модель не обучали выдавать безопасные ответы на этапе RLHF и не снабдили фильтрацией ответов во время работы, поэтому она может генерировать проблемный контент, особенно при соответствующих запросах.

ukisai_Swift-Qwen3.8-27b-GGUF — это квантизированная версия модели Swift-Qwen3.8-27b, разработанной ukisai и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель содержит около 28 млрд параметров и предназначена для задач генерации текста, рассуждений и эффективного по токенам решения задач. В README также заявлена поддержка обработки изображений вместе с текстом при использовании файла mmproj, поэтому модель может применяться в мультимодальных сценариях image-text-to-text. Модель поддерживает speculative decoding через MTP и использует imatrix-квантизацию. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ3, а также популярные Q4 и Q5; размер файлов варьируется примерно от 12,8 до 54,66 ГБ. В качестве универсального компромисса между качеством и размером рекомендуется вариант Q4_K_M объёмом 17,44 ГБ, тогда как Q6 и Q8 ориентированы на максимально высокое качество. Сведения о поддерживаемых языках и размере контекста в README не указаны. Сильными сторонами модели являются крупный размер, поддержка рассуждений, мультимодальный ввод, speculative decoding и широкий выбор уровней квантизации для различного объёма памяти. Ограничения включают значительные требования к дисковому пространству и памяти, возможное снижение качества в компактных вариантах, необходимость совместимого runtime llama.cpp, а для работы с изображениями — отдельного mmproj-файла. Модель распространяется по лицензии Swift Open License 1.0; в метаданных также указано, что доступ к ней является gated.

LamaDiab/V7MiniLM-Synonyms-SemanticEngine — модель Sentence Transformer на архитектуре BERT, обученная сопоставлять предложения и абзацы в общем векторном пространстве размерности 384. Она подходит для поиска семантически близких формулировок, оценки сходства текстов, поиска перефразировок, кластеризации и подготовки признаков для классификации. В README указано обучение на 683 парах коротких текстов, включая синонимичные выражения; для сравнения используется косинусное сходство. Веса доступны в формате safetensors; модель содержит 25,9 млн параметров. Максимальная длина последовательности в описании архитектуры README — 256 токенов, а метаданные указывают нативный контекст 512 токенов. README не сообщает поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. Лицензия в предоставленных данных не указана.

bhenrym14/airoboros-33b-gpt4-1.4.1-lxctx-PI-16384-fp16 — текстовая модель семейства LLaMA, созданная bhenrym14 на основе Airoboros 33B GPT4 1.4.1. Это дообучение QLoRA на синтетических данных Airoboros GPT4 1.4.1 с дополнительным предварительным обучением на последовательностях длиной 8192 токена и RoPE-масштабированием для расширения контекста. Модель содержит 32,3 млрд параметров и использует формат safetensors; метаданные указывают нативный контекст 2048 токенов, а в карточке заявлена теоретическая длина до 16384 токенов. Модель предназначена для диалоговых ответов, ответов по предоставленному контексту, генерации кода, ролевого общения, шуток и загадок. В README приведены примеры кода на десяти языках программирования, но естественные языки обучения или поддержки не указаны. По тестам на perplexity автор сообщает улучшение относительно модели Airoboros 33B PI-8192 на проверенных длинах 512–2048 токенов; поведение при длине контекста свыше 8192 токенов не проверено. Для запуска карточка описывает использование Transformers либо GPTQ-весов через text-generation-webui и ExLlama с настройками max_seq_len=16384 и compress_pos_emb=8. Лицензия в предоставленных данных не указана. В исходной карточке сказано, что модель не отказывает в ответах независимо от законности или моральной приемлемости запроса, поэтому её ответы требуют соответствующего контроля.

Absolute Zero Reasoner-Coder-3b-GGUF — квантизированная версия модели Absolute_Zero_Reasoner-Coder-3b, разработанной andrewzh и подготовленной пользователем bartowski в формате GGUF для llama.cpp. Модель предназначена для генерации текста, включая задачи рассуждения и программирования, и может использоваться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до 3-битных и IQ-квантизаций размером примерно от 1,5 до 6,18 ГБ. В README не указаны точная архитектура исходной модели, размер контекста, поддерживаемые языки и модальности, поэтому модель следует рассматривать как текстовую, без подтверждённой поддержки изображений или других типов данных. Старшие варианты квантизации обеспечивают более высокое качество, а младшие снижают требования к оперативной памяти ценой заметной потери качества; рекомендуемыми названы варианты Q4–Q6. Лицензия в предоставленных данных не указана. Это локальная квантизированная сборка, поэтому её практическая ценность особенно высока для запуска на пользовательском оборудовании без облачного сервиса, однако производительность и качество зависят от выбранного варианта квантизации и совместимого программного обеспечения.

Arcle V1 — мультимодальная базовая модель на 5,84 млрд параметров, разработанная Абхинавом Анандом в ArcleIntelligence. Она объединяет языковое и математическое рассуждение, обработку изображений и документов, распознавание и синтез речи, понимание видео и генерацию изображений в одной модели с единым проходом. В основе — гибридная архитектура Mamba-2 и причинного self-attention; заявленное окно контекста составляет 2 097 152 токена, из которых проверено 131 072. Метаданные указывают языки английский, хинди, испанский и французский. Модель рассчитана на локальный офлайн-запуск; README приводит требования около 24 ГБ видеопамяти или 24 ГБ системной памяти при запуске на CPU. Модель предназначена для диалогов, математических и общеобразовательных вопросов, работы с изображениями и документами, транскрипции и синтеза речи, понимания видео, а также генерации изображений. В README приведены результаты по распознаванию английской речи и извлечению текста из документов; при этом качество на сканах и многостраничных макетах заметно ограничено, а генератор изображений создаёт абстрактные композиции вместо точного изображения заданных объектов. Репозиторий распространяется по лицензии Apache-2.0.

calme-2.1-phi3-4b — диалоговая языковая модель MaziyarPanahi, полученная дообучением методом DPO модели microsoft/Phi-3-mini-4k-instruct. Она предназначена для генерации текста в формате ChatML, ответов в диалоге и задач программирования; в README приведены результаты оценивания на Open LLM Leaderboard. Модель построена на плотной архитектуре Phi-3 и содержит 3,7 млрд параметров, принимает текст и работает с контекстом до 4096 токенов. Модель доступна для использования через Transformers. Лицензия — MIT. Метаданные указывают английский язык; показатели бенчмарков и сведения о возможностях не гарантируют качество для конкретных запросов.

bartowski/DeepSeek-R1-Distill-Qwen-7B-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-Distill-Qwen-7B, подготовленный bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста и локального инференса на устройствах с ограниченными ресурсами. В основе лежит модель размером 7B параметров; точная архитектура, поддерживаемые языки и размер контекста в представленном README не указаны. Доступны версии от F32 и F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и Q2 с размером файлов примерно от 3,55 до 30,47 ГБ. Квантизация выполнена с использованием llama.cpp и imatrix, а для запуска рекомендуется применять указанный формат prompt. Сильная сторона набора — широкий выбор компромиссов между качеством, размером файла и требованиями к памяти: версии Q6 и Q5 заявлены как обеспечивающие очень высокое или высокое качество, а Q4 — как подходящие для большинства сценариев. Более компактные варианты предназначены для систем с небольшим объёмом RAM, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования следует уточнять в документации исходной модели и репозитория.

Excalibur-7b — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная InferenceIllusionist с помощью слияния нескольких моделей через mergekit и метод SLERP. В состав слияния вошли merlinite-7b, Magic-Dolphin-7b, Kunoichi-DPO-v2-7B, Monarch-7B и jaskier-7b-dpo-v6.1. Модель предназначена для генерации текста, диалогов и ответов на вопросы; автор особо настраивал процесс слияния с прицелом на результаты MMLU. Контекст модели составляет 32 768 токенов. В README приведены результаты на наборах Open LLM Leaderboard: средний балл 73,6, включая MMLU 65,66 и GSM8K 68,61. Для обработки изображений автор указывает необходимость дополнительного файла mistral-7b-mmproj-v1.5-Q4_1.gguf; это отдельная настройка для совместимого GGUF-запуска, а не основная текстовая модальность указанной модели. Репозиторий распространяется под лицензией Apache-2.0.

Experiment26Neuralsirkrishna_Multi_verse_modelM7 — объединённая модель Mistral, созданная путём слияния automerger/Experiment26Neuralsirkrishna-7B и automerger/Multi_verse_modelM7-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат Safetensors; контекстное окно составляет до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов. Лицензия Apache-2.0 разрешает использование на её условиях.

codersan/FaLaBSE_Mizan3 — дообученная на парах предложений модель Sentence Transformers на базе codersan/FaLabse. Она кодирует предложения и абзацы в плотные векторы размерности 768; сходство между ними оценивается косинусной близостью. Обучение проведено на 1 021 596 парах anchor-positive с помощью MultipleNegativesRankingLoss. Модель предназначена для семантического сравнения текстов, поиска по смыслу, выявления перефразировок, кластеризации и извлечения признаков для классификации. В обучающих примерах есть персидские предложения и соответствующие английские переводы, поэтому модель подходит для поиска семантических соответствий между такими текстами. Архитектура — BERT; метаданные указывают размер 498,1 млн параметров и контекст до 512 токенов, а карточка модели задаёт максимальную длину входа 256 токенов. Для работы требуется текстовый ввод; результатом служат векторы, пригодные для сравнения и поиска. В карточке не указана лицензия, поэтому условия использования следует проверить в репозитории модели. Качество для иных языков и доменов не подтверждено приведёнными примерами; длина входа ограничена настройками модели.

onnx-community/gemma-3n-E2B-it-ONNX — ONNX-версия инструкционной мультимодальной модели Gemma 3n E2B IT, разработанной Google DeepMind и подготовленной для использования с Transformers.js. Модель предназначена для эффективного запуска на устройствах с ограниченными ресурсами и принимает текстовые, графические, видео- и аудиовходы, генерируя текстовые ответы. Она подходит для вопросов и ответов, суммаризации, анализа изображений и видео, распознавания речи и автоматического перевода речи. Модель использует архитектуру MatFormer и технологию выборочной активации параметров. При общем размере около 6 млрд параметров её эффективный размер соответствует примерно 2 млрд параметров, поскольку матрицы с низкой частотой использования могут выгружаться с ускорителя. Изображения обрабатываются в разрешениях 256×256, 512×512 или 768×768 и кодируются в 256 токенов каждое; аудио представляется со скоростью 6,25 токена в секунду для одного канала. Максимальный входной контекст составляет 32 тысячи токенов, а суммарная длина генерации — до 32 тысяч токенов за вычетом входа. Обучение проводилось на данных более чем 140 разговорных языков. К сильным сторонам относятся сочетание мультимодальности, компактного эффективного размера и возможности локального выполнения через Transformers.js, включая сценарии с WebGPU. Ограничения включают зависимость от поддерживаемого окружения ONNX и Transformers.js, а также отсутствие в предоставленной карточке подробных результатов бенчмарков, точного перечня языков и количественной оценки качества по отдельным задачам. Модель распространяется на условиях лицензии Gemma; применяются соответствующие Terms of Use Google.

Gemma 3n E4B IT — мультимодальная инструктивная модель Google из семейства Gemma, рассчитанная на эффективный запуск на устройствах с ограниченными ресурсами. Она принимает текст, изображения, видео и аудио, а выдаёт текст; доступна для использования через библиотеку Transformers. В модели около 8 млрд параметров, но выборочная активация параметров и перенос редко используемых матриц позволяют запускать её с затратами памяти, сопоставимыми с обычной моделью на 4 млрд параметров. Архитектура MatFormer включает вложенную подмодель E2B и поддерживает создание вариантов разных размеров методом Mix-and-Match. Модель подходит для диалога, генерации и суммаризации текста, описания визуальных материалов, транскрибирования речи и перевода аудио в текст. Обучающие данные охватывают более 140 устных языков, но в карточке не перечислены языки, поддерживаемые в конкретных задачах. Модель может ошибаться в фактах, упускать языковые нюансы и отражать предвзятости обучающих данных; сложные задачи и неоднозначные инструкции могут снижать качество ответов. Лицензия — Gemma License.

DFveloper/gemma-4-26B-A4B-it-qat-q4_0-Claude-Opus-Distill-v2-GGUF — языковая модель для генерации текста и задач, требующих рассуждений. Она создана как производная от Lumen 3.1 Pulsar QAT с переносом части поведения модели TeichAI/gemma-4-26B-A4B-it-Claude-Opus-Distill-v2, обученной на данных с рассуждениями Claude Opus. Разработчик данной сборки — DFveloper; исходные компоненты и данные связаны с 0x795E2795, TeichAI и Crownelius. Модель использует архитектуру Gemma 4 с конфигурацией 26B A4B и MoE, поставляется в формате GGUF с квантизацией q4_0 и предназначена для запуска с llama.cpp, Text Generation Inference, Transformers и Unsloth. При создании из исходной модели был извлечён дельта-апдейт весов, аппроксимирован LoRA-адаптером и объединён с QAT-чекпойнтом Lumen 3.1 Pulsar. Благодаря этому модель сохраняет характеристики базового QAT-чекпойнта и частично перенимает поведение, связанное с высокоуровневыми рассуждениями. Сильными сторонами являются компактное 4-битное представление, совместимость с распространённой экосистемой GGUF и ориентация на reasoning-сценарии. Ограничения включают приблизительный характер переноса дельты через LoRA; заявленные свойства и качество не следует приписывать исходной модели Claude Opus напрямую. В README не указаны поддерживаемые языки, размер контекста, точные показатели качества и дополнительные модальности, поэтому модель следует рассматривать как текстовую. Лицензия — Apache-2.0.

Gemma-SEA-LION-v4-27B-IT — языковая модель с инструктивной настройкой от AI Singapore, разработанная для языков Юго-Восточной Азии. Это плотная декодерная модель на архитектуре Gemma 3, дообученная на примерно 10 млн пар вопросов и ответов на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, тагальском, тамильском, тайском и вьетнамском языках. Модель предназначена для диалогов, ответов на вопросы, следования инструкциям, суммаризации, анализа тональности, перевода и рассуждений; заявленная длина контекста — 128 тысяч токенов. Модель также сохраняет мультимодальные возможности Gemma 3 для понимания изображений и текста, включая визуальные вопросы и разбор документов, однако её дополнительное обучение выполнялось только на текстовой части, поэтому специальных улучшений в работе с изображениями не заявлено. Поддерживаются вызов функций и структурированные ответы. По оценке разработчиков, модель сильна в задачах для языков региона, но может галлюцинировать, выдавать нерелевантные ответы и не проверялась на устойчивость к состязательным запросам. Модель не прошла настройку безопасности; при использовании нужны собственные меры проверки и защиты. Лицензия — Gemma Terms of Use.

ibm-granite/granite-3.3-8b-instruct-GGUF — это семейство версий модели IBM Granite 3.3 8B Instruct, преобразованных в формат GGUF с различными уровнями квантования. Модель разработана IBM и предназначена для генерации текста и выполнения инструкций в сценариях, поддерживаемых базовой моделью ibm-granite/granite-3.3-8b-instruct. Из доступных данных известно, что модель относится к классу text-generation и имеет около 8 миллиардов параметров. Формат GGUF удобен для локального запуска совместимыми средствами вывода, а выбор квантования позволяет находить компромисс между качеством, скоростью работы и требованиями к памяти. Конкретные поддерживаемые языки, размер контекста, архитектурные детали и различия между вариантами квантования в предоставленной карточке не указаны. Сильными сторонами являются инструкционное назначение базовой модели и возможность локального использования в компактных квантованных вариантах. Ограничения зависят от выбранного уровня квантования и характеристик среды запуска; точные сведения о качестве, мультимодальности и специализированных сценариях отсутствуют. Модель распространяется по лицензии Apache-2.0.

mlx-community/granite-4.1-3b-bf16 — конверсия модели IBM Granite 4.1 3B в формат MLX для запуска на устройствах Apple Silicon. Это плотная причинная языковая модель с архитектурой GraniteForCausalLM, содержащая 3,4 млрд параметров и поддерживающая контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста; описание базовой модели также указывает на применение для работы с кодом и вызова инструментов. Модель принимает текст и генерирует текст. Репозиторий использует библиотеку MLX и формат safetensors; лицензия — Apache-2.0. Карточка описывает преобразование из ibm-granite/granite-4.1-3b в MLX, поэтому этот вариант рассчитан на соответствующую среду исполнения, а не является самостоятельным дообучением.

granite-4.2-30b-MLX-8bit — это 8-битная квантованная версия языковой модели granite-4.2-30b, разработанной ibm-granite. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon в экосистеме MLX. Модель предназначена для генерации текста и поддерживает сценарии рассуждения, диалогового взаимодействия и вызова инструментов. В README указаны следующие языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель относится к семейству Granite и имеет размер исходной модели 30B параметров; сведения о точной архитектуре, размере контекста и поддерживаемых модальностях, кроме текстовой генерации, не приведены. Ключевые преимущества этой версии — снижение требований к памяти по сравнению с полной точностью и оптимизация для Apple Silicon. Ограничения включают возможную потерю качества из-за 8-битного квантования, зависимость производительности от аппаратного обеспечения Apple Silicon и отсутствие в README подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.