II.10Разработка и эксплуатация AI/ML-систем

MuXodious выпустил дообученную модель Gemma 4 E4B Instruct, созданную с помощью Heretic v1.2.0 и методов abliteration. По карточке, исходная модель Google DeepMind — плотная мультимодальная Gemma 4 E4B Instruct; модель принимает текст и изображения, а семейство поддерживает также аудио на вариантах E2B и E4B. Для Gemma 4 E4B указано контекстное окно 128K токенов. Дообучение нацелено на снижение отказов: в приведённом тесте осталось 12 отказов из 416 запросов, при 414 отказах у исходной модели. Модель подходит для диалога и генерации текста, анализа изображений и документов, программирования и рассуждений. Карточка не приводит отдельного описания датасета или подробной оценки качества этой производной модели; её результаты могут отличаться от исходной Gemma 4. Репозиторий распространяется под лицензией Apache-2.0.

llmfan46/gemma-4-E4B-it-ultra-uncensored-heretic — производная от Google Gemma 4 E4B Instruct мультимодальная модель, дообученная независимым автором. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального оконного и глобального внимания. Модель рассчитана на диалог, рассуждения, программирование и понимание мультимодальных данных; для варианта E4B заявлено контекстное окно до 128 тыс. токенов. Модель принимает текст и изображения, а семейство E4B также поддерживает аудиовход для распознавания речи и перевода речи в текст. Gemma 4 заявлена как многоязычное семейство с поддержкой более 35 языков; конкретный языковой охват этой производной отдельно не описан. Возможны извлечение текста из документов и изображений, понимание диаграмм и интерфейсов, генерация и исправление кода, суммаризация и диалог. Название uncensored указывает на изменённое поведение отказов, но README не раскрывает точный объём изменений. Карточка предупреждает о возможных предвзятости, фактических ошибках, затруднениях с нюансами языка и сложными открытыми задачами. Модель распространяется по лицензии Apache-2.0.

cyankiwi/granite-4.0-h-micro-AWQ-4bit — 4-битная AWQ-квантизованная версия Granite-4.0-H-Micro, разработанной командой Granite и IBM. Базовая модель содержит около 3 млрд параметров, относится к длинноконтекстным инструкционным языковым моделям и дообучена на открытых инструкционных и синтетических данных с применением supervised fine-tuning, reinforcement learning и объединения моделей. Модель предназначена для выполнения общих инструкций и создания AI-ассистентов, в том числе для бизнес-приложений. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи, связанные с кодом, function calling, многоязычный диалог и Fill-In-the-Middle для автодополнения кода. Заявлены улучшенные следование инструкциям и вызов инструментов. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Ключевое ограничение — README не указывает точный размер контекстного окна, архитектурные детали и результаты бенчмарков. Квантизация AWQ-4bit рассчитана на более экономичное развертывание, однако конкретные требования к оборудованию и потери качества для этой версии не приведены. Модель распространяется по лицензии Apache 2.0.

edwardcapriolo/granite-4.0-h-tiny-JQ4 — квантованная версия Granite-4.0-H-Tiny, модели IBM для диалогов и выполнения инструкций. Репозиторий преобразован Deliverance Q.O.D.: выбранные веса представлены в формате Q4, размер модели уменьшен с 12,9 до 4,2 ГБ. Метаданные указывают 500,2 млн параметров, архитектуру MoE на базе decoder-only трансформера и контекст до 131 072 токенов; модель предназначена для генерации текста и поддерживает чат. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, программирования, вызова инструментов и многоязычного диалога, в том числе в бизнес-приложениях. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. К архитектурным компонентам исходной модели относятся GQA, Mamba2 и общие эксперты MoE. Квантование предназначено для уменьшения размера и ускорения локального вывода, но карточка не приводит сравнительных результатов качества для этого варианта. Для неанглийских языков качество может быть ниже, чем для английского; ответы могут быть неточными, предвзятыми или небезопасными, поэтому модель следует проверять для конкретного применения. Лицензия — Apache 2.0.

Карточка модели Ishowbackup/Hy3 на Hugging Face совпадает с карточкой tencent/Hy3, поэтому описание составлено по ней. Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

K-EXAONE — мультиязычная языковая модель LG AI Research для диалога, рассуждений, работы с инструментами и обработки длинных текстов. Она использует архитектуру Mixture of Experts: в README указаны 236 млрд параметров всего и 23 млрд активных при инференсе; метаданные каталога приводят 21,3 млрд параметров. Модель поддерживает контекст до 262 144 токенов и языки корейский, английский, испанский, немецкий, японский и вьетнамский. Архитектура включает 128 экспертов, из которых активируются 8, а также механизм Multi-Token Prediction для ускорения генерации. Модель предназначена для ответов на вопросы, рассуждений, многоязычного общения, анализа длинных документов и агентных сценариев с вызовом инструментов. README сообщает о специальной поддержке корейских культурных и исторических контекстов. Модель доступна в формате safetensors и работает с Transformers; для сервинга также описаны vLLM и SGLang. В README лицензия не названа, а метаданные указывают «other», поэтому точные условия использования следует проверять на странице модели. Возможны фактические ошибки, устаревшие ответы, предвзятость и неподходящие генерации; заявленная дата среза знаний — декабрь 2024 года.

MyAwesomeModel — языковая модель, доступная через библиотеку Transformers. Разработчик в README не указан; модель представлена в репозитории tttoola/MyAwesomeModel-TestRepo. В обновлённой версии заявлены улучшения глубины рассуждений, инференса и алгоритмической оптимизации на этапе post-training, а также снижение частоты галлюцинаций и улучшенная поддержка function calling. Модель предназначена для сложных задач рассуждения, включая математику, программирование, логические задачи и работу с естественным языком. Также она может применяться для понимания текста, ответов на вопросы, классификации, анализа тональности, генерации кода и диалогов, написания текстов, суммаризации, перевода, извлечения знаний и следования инструкциям. В README указана поддержка system prompt, загрузки файлов и сценариев с web search при использовании соответствующих шаблонов запросов. В качестве сильных сторон заявлены высокие результаты на представленных бенчмарках, особенно в рассуждениях и генерации, а также рост точности на AIME 2025 с 70% до 87,5% по сравнению с предыдущей версией. Среднее число токенов рассуждения на вопрос увеличилось с 12K до 23K, что может повышать качество решения, но потенциально увеличивает вычислительные затраты и задержку. Архитектура, размер, поддерживаемые языки, модальности и размер контекста в README не указаны. Для использования рекомендуется температура 0,6 и системный prompt с текущей датой. Лицензия — MIT.

Карточка модели TreezzZ/opd-teacher-alfworld-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Qwen2.5-32B-Instruct-GGUF — квантованная в формате GGUF версия инструкционной языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen. Квантование подготовлено bartowski на основе llama.cpp, а распространение модели осуществляется в рамках Community Model Program LM Studio. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, работу со структурированными данными и создание структурированного контента. Она поддерживает более 29 языков, среди которых английский, китайский, французский, испанский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Заявлена поддержка контекста до 128 000 токенов с использованием настроек YaRN RoPE и генерацией до 8 000 токенов. Ключевые характеристики включают размер 32B параметров, текстовую модальность и обучение на наборе данных объёмом 18 триллионов токенов. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в поддерживаемых приложениях, однако требования к вычислительным ресурсам зависят от конкретного уровня квантования. Модель может генерировать неточные, вредные или непреднамеренные ответы. Лицензия — Apache 2.0.

Qwen2.5-72B-Instruct-GGUF — квантованная версия инструкционной языковой модели Qwen2.5-72B-Instruct, разработанной командой Qwen. Формат GGUF подготовлен bartowski на основе llama.cpp, поэтому модель предназначена для локального запуска в совместимых инструментах, включая LM Studio, и относится к моделям генерации текста и диалогового взаимодействия. Модель рассчитана на общение по инструкциям, генерацию и обработку текста, а также работу со структурированными данными. Заявлена поддержка более 29 языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Поддерживается контекст до 128 000 токенов с настройками YaRN RoPE и генерация до 8 000 токенов. В обучении использовался набор данных объёмом 18 триллионов токенов. К сильным сторонам относятся большой размер модели, широкий языковой охват, поддержка длинного контекста и улучшенная работа со структурированной информацией. Ограничения связаны с тем, что это GGUF-квантизация: конкретный уровень точности, требования к памяти и возможные компромиссы между качеством и производительностью в README не указаны. Как и другие генеративные модели, она может создавать неточную, вредную или вводящую в заблуждение информацию. Лицензия обозначена как Qwen; точные условия следует уточнять в лицензии оригинальной модели Qwen2.5-72B-Instruct.

Richard Young выпустил эту версию Qwen3-4B-Instruct-2507, обработанную методом abliteration с помощью Heretic v1.4.0. Это плотная причинная языковая модель на 3,7 млрд параметров для генерации текста и диалогов; она рассчитана на режим без пошагового рассуждения и имеет контекстное окно 262 144 токена. Модель предназначена для следования инструкциям, ответов на вопросы, логических и математических задач, программирования, работы с длинными текстами и сценариев с вызовом инструментов. В README автор сообщает, что при его проверке модель отказала в 3 из 100 запросов, тогда как исходная версия отказала во всех 100; это описывает результаты конкретной оценки, а не гарантирует поведение на других запросах. Репозиторий содержит веса Safetensors для Transformers. Указанная лицензия — Apache-2.0. README отмечает поддержку нескольких языков, но не перечисляет их, поэтому основной язык определить нельзя.

RobinsonLabs/Qwen3.5-REAP-262B-A17B-abliterated-GGUF — набор GGUF-квантизаций текстовой MoE-модели, опубликованный RobinsonLabs на основе OpenMOSE/Qwen3.5-REAP-262B-A17B. Базовая модель создана после pruning на 34% экспертов из Qwen3.5-397B-A17B: она содержит 262 млрд параметров, около 17 млрд активных на токен, 333 эксперта и выбирает 10 экспертов для каждого токена. Модель предназначена для генерации текста, рассуждений, программирования, математики, работы с фактами и выполнения инструкций. Архитектура qwen3_5_moe включает 60 декодерных слоёв: 45 слоёв с линейным вниманием DeltaNet и 15 слоёв с полным вниманием, а также скрытый размер 4096 и размерность головы 256. Заявлен нативный контекст до 262 144 токенов. Это только текстовый путь, без vision mmproj и MTP/NextN. Доступны варианты Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS, Q3_K_M, IQ3_M, IQ3_XS, IQ2_M, IQ2_XS и IQ2_XXS размером примерно от 69 до 186 ГБ; все варианты используют importance matrix. Модель подвергнута abliteration — снижению жёстких отказов на взрослом и творческом контенте с сохранением заявленных возможностей. По данным README, на проверочном наборе вредоносных запросов срабатывание отказов составило 1 из 25, способности оценены как сохранённые на уровне 5/5, а детские защитные ограничения сохранились в 10 из 10 случаев. Это не модель для содействия реальному правонарушению; результаты и поведение следует проверять самостоятельно, особенно у наиболее компактных IQ2-вариантов, поскольку они сильнее теряют точность. Лицензия — Apache-2.0.

heretic-org/Qwen3.8-27B-heretic-ara — мультимодальная модель для диалогов, изменённая на основе Qwen/Qwen3.8-27B. Это плотная модель на 27 млрд параметров с причинной языковой моделью и визуальным энкодером; она принимает текст, изображения и видео и предназначена для диалогов, анализа визуальных материалов, программирования и многошаговых задач. Контекст модели составляет 262 144 токена с возможностью расширения до 1 000 000 токенов. В README описана abliteration: изменение слоёв 26–56 с целью сократить отказы. В приведённом тесте модель отказала в 0 из 100 случаев, тогда как исходная модель — в 99 из 100; это указывает на ослабление отказного поведения и требует учитывать результат при выборе сценариев применения. Модель распространяется в формате Safetensors, совместима с Transformers и рядом движков инференса. Лицензия — Apache-2.0.

Qwen3-VL-4B-Thinking-GGUF — это мультимодальная vision-language модель из серии Qwen, разработанная командой Qwen. Репозиторий содержит веса базовой модели Qwen3-VL-4B-Thinking в формате GGUF, разделённые на языковую модель и vision encoder. Модель предназначена для понимания и генерации текста по текстовым и визуальным данным, включая изображения и видео, а также для локального запуска на пользовательских устройствах. Модель поддерживает сценарии визуального анализа, OCR, пространственного рассуждения, STEM- и математические задачи, понимание документов и видео, генерацию кода и разметки по изображениям, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены улучшенные визуальное восприятие и рассуждение, распознавание текста на 32 языках, работа с объектами, позициями, перекрытиями и временными событиями в видео. Для семейства Qwen3-VL указано нативное контекстное окно 256K токенов с возможностью расширения до 1M. Веса доступны для языковой модели в вариантах FP16, Q8_0 и Q4_K_M, а для vision encoder — в FP16 и Q8_0, что позволяет выбирать баланс качества, скорости и требований к памяти. Формат совместим с llama.cpp, Ollama и другими инструментами GGUF; заявлена поддержка CPU, NVIDIA GPU через CUDA, Apple Silicon через Metal и Intel GPU через SYCL. Для работы требуются совместимые инструменты и отдельный файл vision encoder, а выбор квантования может влиять на качество и производительность. Модель распространяется по лицензии Apache-2.0.

ChatGLM3-6B-128K 是由 Z.ai（智谱 AI）推出的 ChatGLM3 系列长文本对话模型，基于 ChatGLM3-6B 并针对长上下文更新了位置编码和训练方法。Модель поддерживает контекст до 131072 токенов и предназначена для многоходового диалога, анализа длинных документов и сценариев с вызовом инструментов, выполнением кода и агентскими задачами. Архитектура — плотная ChatGLM, размер — 7,5 млрд параметров; модель работает с текстом и поддерживает китайский и английский языки. Для контекстов до 8K авторы рекомендуют ChatGLM3-6B, а эту версию — для более длинных входов. Веса доступны для академических исследований; бесплатное коммерческое использование разрешено после регистрации через анкету.

Mungert/EXAONE-4.0-32B-GGUF — GGUF-квантизированная версия языковой модели EXAONE-4.0-32B, разработанной LG AI Research. Модель предназначена для генерации текста, диалоговых приложений, решения сложных задач и агентских сценариев с использованием инструментов. Она поддерживает обычный режим работы и режим рассуждений, а также английский, корейский и испанский языки. Модель содержит около 30,95 млрд параметров без учёта эмбеддингов, 64 слоя, архитектуру GQA с 40 attention-головами и 8 KV-головами, словарь размером 102 400 токенов и контекст до 131 072 токенов. Архитектура использует гибридное внимание: локальное и глобальное внимание в соотношении 3:1, а также QK-Reorder-Norm. Включение режима рассуждений выполняется через параметр enable_thinking. Данный вариант подготовлен с помощью llama.cpp и использует GGUF-квантизацию; автор сборки применяет дополнительное повышение точности отдельных важных слоёв, что может улучшать качество при низкой разрядности ценой увеличения размера файла. Сильными сторонами являются большой контекст, мультиязычность, сочетание обычного и reasoning-режимов, а также возможность локального запуска через экосистему llama.cpp. Ограничения конкретного варианта зависят от выбранного уровня квантизации и аппаратных ресурсов; README не содержит точных характеристик каждой квантованной сборки и результатов сравнительных тестов. Модель распространяется по лицензии EXAONE, обозначенной как other; подробные условия указаны в файле LICENSE.

Карточка модели Iambackup/gemma-4-26B-A4B на Hugging Face совпадает с карточкой vmo247/vmo-gemma-4-26b-a4b-ft, поэтому описание составлено по ней. vmo247/vmo-gemma-4-26b-a4b-ft — мультимодальная модель, дообученная на базе Google Gemma 4 26B A4B. Она построена на архитектуре Gemma 4 для генерации текста по текстовым и графическим запросам и поддерживает диалоговый режим и анализ изображений. Вариант 26B A4B относится к MoE-моделям семейства; для Gemma 4 этого размера заявлено контекстное окно до 256K токенов и поддержка более 140 языков на уровне семейства. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа графиков и интерфейсов, а также для диалогов, рассуждений, написания и исправления кода. В карточке этой производной модели не приведены отдельные результаты оценки качества; возможности видео и аудио, упомянутые для семейства Gemma 4, не подтверждены для данного 26B-варианта. Распространяется по лицензии Apache 2.0.

axolotl-ai-co/gpt-oss-120b-dequantized — версия с преобразованной точностью модели gpt-oss-120b, разработанной OpenAI. Это разреженная MoE-модель для генерации текста, диалога, рассуждений и агентных сценариев; README указывает 117 млрд параметров и 5,1 млрд активных параметров, а метаданные этой версии — 2,1 млрд параметров. Модель поддерживает контекст до 131 072 токенов и использует архитектуру GptOssForCausalLM. Репозиторий содержит веса safetensors и рассчитан на библиотеку Transformers. Модель предназначена для ответов на запросы, сложного анализа, работы с инструментами и генерации структурированных ответов. В README также описаны вызов функций и агентные сценарии с браузером и исполнением Python; для корректной работы требуется формат диалога Harmony. Уровень рассуждений можно настраивать, балансируя глубину ответа и скорость. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и дообучение. README предупреждает, что цепочку рассуждений не следует показывать конечным пользователям; качество вывода зависит от соблюдения формата Harmony. Название репозитория указывает на dequantized-вариант, однако точный исходный формат преобразования и его влияние на качество не описаны.

Карточка модели Merlinoz11/Hy3-Apex-GGUF на Hugging Face совпадает с карточкой tencent/Hy3, поэтому описание составлено по ней. Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

AMAImedia/Hy4-preview-BF16-GGUF — размещённая AMAImedia сборка модели Hy4 preview, разработанной Tencent Hy Team. Это диалоговая модель семейства hy_v4 с архитектурой Mixture-of-Experts; исходная модель содержит 770 млрд параметров, из которых активируются 49 млрд на токен. В архитектуре используются 78 слоёв, разреженное внимание Gated DeepSeek Sparse Attention и слой MTP для ускорения спекулятивного декодирования. Карточка указывает контекст длиной до 1 048 576 токенов. Модель предназначена для генерации текста и диалога, включая разработку и отладку программ, анализ документов и данных, подготовку офисных материалов, создание игровых прототипов и научные задачи. Hy4 preview также поддерживает сценарии с изображениями согласно тегу image-text-to-text. В метаданных заявлены языки, включая английский, русский, китайский, вьетнамский и японский; карточка перечисляет дополнительные языки. Репозиторий обозначен как GGUF BF16, однако метаданные также содержат форматы GGUF Q4_K_M и safetensors. Это ранняя версия: README отмечает склонность тратить лишнее время на сложные рассуждения и чрезмерно перепроверять результаты. Модель опубликована под лицензией Apache-2.0. Связь с tencent/Hy4-preview и AngelSlim/Hy4-preview-GGUF указана в метаданных как merge.

Kanana-2-30B-A3B-Instruct — языковая модель Kakao для диалогов и сценариев агентного ИИ. Она дообучена на базе kakaocorp/kanana-2-30b-a3b-base и построена на архитектуре DeepSeek V3 с MLA и MoE: всего 30 млрд параметров, из которых активируются около 3 млрд. В репозитории указаны 48 слоёв, 128 экспертов и выбор 6 экспертов на токен. Модель предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов. Она генерирует текст и поддерживает контекст до 32 768 токенов. Семейство Kanana-2 рассчитано на корейский, английский, японский, китайский, тайский и вьетнамский языки. Для контекстов длиннее 32 768 токенов README описывает расширение до 128 000 с помощью YaRN и изменением конфигурации; это может ухудшить качество на коротких текстах. Для запуска с Transformers требуется версия не ниже 4.51.0. Лицензия указана как other, поэтому условия использования следует сверить с файлами лицензии репозитория.

QuantFactory/Qwen2.5-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-1.5B-Instruct, созданная QuantFactory с использованием llama.cpp на основе модели Qwen от Alibaba Cloud. Это каузальная текстовая модель для диалогов, генерации текста, следования инструкциям, работы со структурированными данными и формирования структурированных ответов, включая JSON. Она также улучшена для задач программирования и математики. Модель содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV внимания, связанные эмбеддинги слов и GQA с 12 головами для Q и 2 для KV. Поддерживаются контексты до 32 768 токенов и генерация до 8192 токенов. Модель многоязычная и поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Квантизация в формате GGUF может снизить требования к ресурсам и упростить локальный запуск, однако README не содержит сведений о конкретном типе квантизации, размере файлов, точности или производительности. Модель предназначена для текстовых сценариев и не заявляет поддержку изображений или других модальностей. Распространяется по лицензии Apache-2.0.

AI21 Jamba 1.5 Mini — языковая модель общего назначения от AI21, построенная на гибридной архитектуре Jamba, сочетающей Transformer и Mamba (SSM), с механизмом Mixture of Experts. В README указаны 12 млрд активных и 52 млрд общих параметров и контекст до 256 тыс. токенов. Модель предназначена для диалогов и следования инструкциям, включая генерацию текста, работу с длинными документами, структурированный вывод в JSON, вызов инструментов и генерацию ответов с опорой на предоставленный контекст. Модель поддерживает английский, испанский, французский, португальский, итальянский, нидерландский, немецкий, арабский и иврит; основной язык не выделен. В карточке заявлены высокая скорость вывода и эффективная работа с длинным контекстом. Для запуска нужны совместимые CUDA-ускорители и оптимизированные реализации Mamba; в FP16/BF16 Mini не помещается на одну GPU с 80 ГБ памяти, а режим ExpertsInt8 позволяет развернуть её на такой GPU. Модель распространяется по Jamba Open Model License, допускающей исследования и коммерческое использование на её условиях. README предупреждает, что эта версия подлежит устареванию с 6 мая 2024 года.

DeepSeek-7B-1M — объединённая языковая модель автора yasserrmd, созданная линейным слиянием весов Qwen/Qwen2.5-7B-Instruct-1M и deepseek-ai/DeepSeek-R1-Distill-Qwen-7B с равными весами через LazyMergekit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста. Заявленная длина контекста составляет около 1,01 млн токенов; доступны веса в формате Safetensors. Модель можно применять для ответов на вопросы и ведения диалога, а также для задач, требующих работы с длинными текстами. Базовые модели дают ей сочетание инструктивного поведения Qwen2.5 и возможностей дистиллированной DeepSeek-R1 для многошаговых рассуждений, в том числе в математике и программировании. Карточка не указывает лицензию, поэтому условия использования по имеющимся данным описать нельзя.

Fx-Work — мультимодальная языковая модель класса 35B для профессиональных задач в средах с файлами и инструментами. Она разработана командой Endless Frontier на базе Qwen3.6-35B-A3B и дообучена на 20 тысячах траекторий взаимодействия с инструментами. Модель интерпретирует рабочие материалы разных типов, учитывает операционные ограничения, при необходимости формирует вызовы инструментов и создаёт результаты по заданным требованиям. Модель рассчитана на агентные рабочие сценарии: анализ документов и других материалов, выполнение последовательных задач и подготовку профессиональных результатов. Поддерживает изображения и видео вместе с текстом; карточка указывает английский язык. В README для запуска приведён контекст до 262 144 токенов. Заявленные результаты сравнительных оценок относятся к конкретным бенчмаркам и не гарантируют такого же качества в других задачах. Для работы с инструментами требуется окружающая агентная инфраструктура; сервер модели выдаёт текст и, при настройке, ответы с вызовами инструментов. Модель распространяется по лицензии Apache-2.0.

Карточка модели 12B-Suite/gemma-4-12B-it-QAT-SOMPOA-heresy на Hugging Face совпадает с карточкой MuXodious/gemma-4-12B-it-QAT-SOMPOA-heresy, поэтому описание составлено по ней. MuXodious/gemma-4-12B-it-QAT-SOMPOA-heresy — дообученная версия мультимодальной инструкционной Gemma 4 12B от Google DeepMind. Автор репозитория применил к базовой модели метод abliteration с инструментом Heretic и настройками Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation; по карточке, доля отказов в указанном тесте снизилась с 522/535 до 34/535. Модель предназначена для диалога, рассуждений и генерации текста, а также для анализа изображений, видео и аудио; семейство Gemma 4 также поддерживает код и вызов инструментов. Для этой версии в карточке названы размер 12B, контекст до 256K токенов и поддержка более 140 языков. Архитектура — плотная Gemma4UnifiedForConditionalGeneration; репозиторий содержит веса safetensors. Карточка описывает её как вариант Gemma с ослабленными отказами, но не приводит отдельной оценки качества этой конкретной модификации. Базовая модель Gemma 4 QAT использует веса, подготовленные с учётом квантования, однако в этом репозитории указан вариант unquantized Q4_0, а формат файлов — safetensors. Лицензия — Apache-2.0.

Карточка модели ArchiveStudio/gemma-4-26B-A4B на Hugging Face совпадает с карточкой vmo247/vmo-gemma-4-26b-a4b-ft, поэтому описание составлено по ней. vmo247/vmo-gemma-4-26b-a4b-ft — мультимодальная модель, дообученная на базе Google Gemma 4 26B A4B. Она построена на архитектуре Gemma 4 для генерации текста по текстовым и графическим запросам и поддерживает диалоговый режим и анализ изображений. Вариант 26B A4B относится к MoE-моделям семейства; для Gemma 4 этого размера заявлено контекстное окно до 256K токенов и поддержка более 140 языков на уровне семейства. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа графиков и интерфейсов, а также для диалогов, рассуждений, написания и исправления кода. В карточке этой производной модели не приведены отдельные результаты оценки качества; возможности видео и аудио, упомянутые для семейства Gemma 4, не подтверждены для данного 26B-варианта. Распространяется по лицензии Apache 2.0.

Карточка модели AST-1320/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Это точная копия весов, токенизатора и конфигурации Llama 3.1 8B Instruct от Meta, размещённая Positron AI как зафиксированный исходный снимок для собственных GPTQ-квантизаций организации. Модель представляет собой плотную авторегрессионную языковую модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов; поддерживает диалоги и генерацию текста, включая интерфейс вызова инструментов. Модель предназначена для инструкционного диалога и генерации текста. Метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Репозиторий использует формат safetensors и лицензию Llama 3.1. Это неизменённая перепубликация базовой модели, поэтому её возможности и ограничения соответствуют исходной карточке Meta; отдельные оценки качества и дополнительные ограничения в этой карточке не приведены.

Meta разработала Llama 3.2 3B Instruct — мультиязычную авторегрессионную языковую модель на архитектуре Transformer для генерации текста. Версия Instruct дообучена с помощью контролируемой настройки и обучения с подкреплением на основе обратной связи от людей; модель оптимизирована для диалогов с ассистентом и задач, связанных с агентными приложениями. Модель подходит для ответов в чате, поиска сведений и суммаризации, а также для мобильных помощников по написанию текста и переформулированию запросов. Она принимает текст и генерирует текст, в том числе код. В карточке семейства указан контекст до 128 тысяч токенов, а среди официально поддерживаемых языков перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель использует Grouped-Query Attention и рассчитана в том числе на запуск в средах с ограниченными ресурсами. По сравнению с более крупными моделями у компактных вариантов могут отличаться баланс безопасности и полезности; разработчикам следует проверять поведение модели в своём сценарии. Использование регулируется пользовательской коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.