I.14Автоматизация процессов и AI-агенты

FuseChat-7B-TA — диалоговая языковая модель FuseAI, разработанная в рамках исследовательской работы учёных Университета Сунь Ятсена. Это вариант FuseChat-7B, полученный слиянием знаний нескольких чат-моделей; версия TA использует один из методов слияния. В метаданных указаны архитектура Mistral, 7,1 млрд параметров и базовая модель OpenChat 3.5, дообучение которой также входит в процесс создания FuseChat. Модель предназначена для диалогов и выполнения текстовых инструкций общего назначения, включая ответы на вопросы, письмо, ролевые сценарии, рассуждения, математику, программирование и темы STEM и гуманитарных наук. Контекст составляет 8192 токена. В README для FuseChat-7B-TA указана средняя оценка 8,20 на MT-Bench. Модель принимает и выдаёт текст; в карточке отмечен английский язык. Слияние позволяет объединить способности нескольких моделей в одной без необходимости загружать несколько экспертов во время инференса. Модель выпущена под лицензией Apache-2.0. Показатель MT-Bench не гарантирует качество для конкретной задачи; подтверждённые возможности в карточке ограничены генерацией текста и чатом.

Карточка модели RedHatAI/gemma-3-12b-it на Hugging Face совпадает с карточкой google/gemma-3-12b-it, поэтому описание составлено по ней. Gemma 3 12B IT — мультимодальная модель с открытыми весами от Google, дообученная для следования инструкциям на основе google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; относится к семейству Gemma 3 и доступна в формате safetensors для Transformers. Модель предназначена для диалоговых приложений, ответов на вопросы и задач понимания изображений, а также для создания и обобщения текста. Контекстное окно — до 128 тысяч токенов, поддерживается более 140 языков. Размер модели — 12 млрд параметров. Модель подходит для извлечения сведений из изображений, составления черновиков, суммаризации и исследовательских задач. Google отмечает, что ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться со сложными открытыми запросами, языковыми нюансами и задачами, требующими здравого смысла. Лицензия — Gemma; при использовании следует соблюдать условия лицензии и политику запрещённого использования Gemma.

GPT-OSS-Swallow 120B SFT v0.1 — двуязычная языковая модель Токийского технологического института, дообученная на базе GPT-OSS. Она предназначена для диалогов на японском и английском языках, перевода между ними, а также решения задач по математике, программированию и естественным наукам. Модель использует архитектуру GPT-OSS с разреженной смесью экспертов (MoE); в метаданных указано 2,1 млрд параметров и контекст до 131 072 токенов. Для инференса разработчики рекомендуют vLLM и советуют ограничивать контекст 32 768 токенами или менее. Обучение включало продолжение предобучения, supervised fine-tuning и последующее обучение с проверяемыми наградами для семейства моделей; этот репозиторий содержит вариант SFT. Авторы сообщают об улучшении японского языка и перевода при сохранении математических и кодовых навыков. Модель не обучали специально для вызова инструментов, управления уровнем reasoning effort и надежной работы с длинным контекстом; ранний выпуск также не настроен на полное соответствие человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

ApolloRaines/Llama-3.3-8B-Instruct-128K-Jbliterated — доработанная командой ApolloRaines модель на архитектуре Llama 3.3 для диалогов и генерации текста. Она создана на основе shb777/Llama-3.3-8B-Instruct-128K с применением jBlaze precision neural surgery; изменены все 32 слоя. Модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для общения и генерации текста с длинным контекстом. В карточке заявлена настройка на снижение отказов: в тесте Heretic на 100 запросах авторы сообщили о нуле настоящих отказов и двух ложных срабатываниях. Авторы также описывают выпуск как демонстрационную версию с намеренно сниженной силой возможностей, а не полную версию продукта. Заявления о скорости и результатах теста относятся к сведениям карточки модели. Поддерживаемые языки по метаданным: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия — Llama 3.1 Community License; применяйте модель с учётом её условий и ограничений.

NANI-Nithin/Mellum2-12B-A2.5B-Instruct-GGUF — набор GGUF-квантизаций модели JetBrains/Mellum2-12B-A2.5B-Instruct, разработанной JetBrains. Модель предназначена для генерации текста и выполнения инструкций в формате ассистента, а репозиторий ориентирован на эффективный локальный запуск через llama.cpp, Ollama, LM Studio и другие совместимые среды. Указана архитектура Mellum2, контекстное окно до 131 072 токенов и поддержка английского языка. Доступны варианты Q4_K_M размером 8,07 ГБ и Q5_K_M размером 9,21 ГБ: первый рассчитан на экономию памяти при хорошем соотношении качества и размера, второй обеспечивает более высокое качество при умеренном увеличении требований к памяти. Обозначение модели содержит параметры 12B-A2.5B, однако дополнительные сведения о структуре, числе активных параметров и мультимодальности не приведены. Модель подходит для локального чата, программирования, экспериментов с использованием инструментов, а также CPU-ориентированного или ограниченного по памяти вывода. Ограничения связаны с потерями качества, возможными при квантизации, зависимостью от GGUF-совместимого программного обеспечения и отсутствием подробных данных о производительности и качестве на конкретных задачах. При конвертации некоторые тензоры могут использовать резервную квантизацию, что считается ожидаемым и не препятствует запуску. Модель распространяется по лицензии Apache 2.0.

Mistral-Small-24B-Instruct-2501-bf16 — конвертированная в формат MLX версия инструктивной языковой модели Mistral AI Mistral-Small-24B-Instruct-2501, подготовленная сообществом mlx-community для запуска на устройствах Apple с MLX. Модель представляет собой плотную авторегрессионную архитектуру MistralForCausalLM с 23,4 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалогов и генерации текста по инструкциям на нескольких языках. Подходит для ответов на вопросы, составления и редактирования текстов, суммаризации и многоязычных ассистентских сценариев. Метаданные указывают поддержку английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Репозиторий содержит веса в safetensors и описывает конвертацию в MLX с помощью mlx-lm 0.21.1. Лицензия — Apache 2.0. Качество ответов и следование инструкциям зависят от формулировки запроса; как и другие языковые модели, она может генерировать ошибки и недостоверные сведения.

thelamapi/next2-air-i1-GGUF — облегчённая мультимодальная языковая модель Next2-Air, разработанная компанией Lamapi в Турции. Она основана на архитектуре Qwen 3.5-2B и содержит около 2 миллиардов параметров. Модель предназначена для локального запуска на обычных компьютерах, MacBook и периферийных устройствах, где важны высокая скорость вывода и умеренное потребление ресурсов. Модель поддерживает работу с текстом и изображениями: генерацию и анализ текста, визуальное понимание, распознавание текста в документах (OCR), ответы на вопросы по изображениям и обработку визуального контекста. Заявлены режим рассуждений с использованием разметки <think> и контекстное окно до 262 144 токенов, что позволяет работать с длинными документами, PDF-файлами и большими фрагментами кода. В метаданных указаны турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; отдельно подчёркивается оптимизация для турецкого и английского. Next2-Air дообучалась с использованием SFT и DPO на наборах данных для инструкционного следования, рассуждений, работы с текстом и мультимодальных сценариев. К сильным сторонам относятся небольшой размер, заявленная высокая скорость, локальное выполнение, мультимодальность и длинный контекст. Ограничением является существенно меньший масштаб по сравнению с крупными моделями, поэтому качество на сложных задачах может быть ниже; README не приводит подробного анализа отказов или ограничений. Указанные результаты бенчмарков следует рассматривать как заявления разработчика. Модель распространяется по лицензии Apache 2.0.

bartowski/Phi-3.1-mini-4k-instruct-GGUF — GGUF-квантизированная версия инструкционной языковой модели Phi-3.1-mini-4k-instruct, основанной на модели Microsoft Phi-3-mini-4k-instruct. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев, ответов на вопросы и задач, связанных с обработкой естественного языка и программного кода. Модель работает в текстовой модальности и ориентирована на английский язык. Из идентификатора и описания следует контекстное окно 4K токенов, однако точные сведения об архитектуре и количестве параметров в README не приведены. Доступны варианты от F32 до низкоразрядных Q2 и IQ-квантизаций с размером файлов примерно от 1,3 до 15,3 ГБ. Старшие варианты сохраняют более высокое качество, а младшие требуют меньше оперативной памяти, но заметно уступают в качестве и могут быть непредсказуемее. Модель подходит для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. README рекомендует варианты Q4–Q6 как компромисс между качеством и требованиями к ресурсам; конкретный выбор зависит от доступной памяти и допустимой потери качества. Это текстовая модель без заявленной поддержки изображений или других модальностей, а ограниченное окно контекста не рассчитано на обработку очень длинных документов. Указана лицензия MIT.

Gemma 2 27B IT — инструктивно дообученная текстовая языковая модель Google из семейства Gemma 2. Это декодерная трансформерная модель с открытыми весами, предназначенная для диалога и генерации текста по инструкциям. В репозитории указаны формат safetensors и библиотека Transformers; модель основана на google/gemma-2-27b. Модель подходит для ответов на вопросы, суммаризации, диалоговых помощников, создания текстов и рассуждений по заданному контексту. В карточке семейство описано как англоязычное; модель принимает текст и генерирует текст. Размер модели составляет 27 млрд параметров. Ответы могут содержать фактические ошибки и отражать предвзятости обучающих данных; модель может испытывать трудности с тонкими языковыми нюансами и сложными открытыми задачами. Условия лицензии Gemma определяются лицензией Google Gemma; перед использованием следует ознакомиться с её условиями и политикой допустимого применения.

gaunernst/gemma-3-12b-it-int4-awq — инструкцияно дообученная мультимодальная модель семейства Gemma 3, разработанная Google DeepMind. Данный репозиторий содержит QAT INT4 Flax-чекпойнт, преобразованный в формат HF+AWQ для использования с Transformers; при этом квантование AWQ непосредственно не применялось. Базовая модель — google/gemma-3-12b-it. Модель принимает текст и изображения и генерирует текст. Она предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений, включая описание визуального содержимого. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов. Контекстное окно составляет 128K токенов, максимальный объём генерируемого вывода — 8192 токена. Заявлена поддержка более 140 языков. Ключевые преимущества — мультимодальность, большое контекстное окно и сниженные требования к ресурсам благодаря представлению INT4, что может упростить развёртывание на локальной инфраструктуре или в облаке. Ограничения включают зависимость от совместимой версии Transformers и необходимость учитывать особенности формата конвертированного чекпойнта; README не содержит результатов бенчмарков или подробностей о качестве на отдельных языках и задачах. Использование регулируется лицензией Gemma и условиями Google; доступ к исходной модели на Hugging Face требует принятия соответствующей лицензии.

Qwen2.5-3B-Instruct-MLX-4bit — текстовая языковая модель для генерации ответов и диалогового взаимодействия. Она основана на Qwen2.5-3B-Instruct, разработанной командой Qwen, и подготовлена в формате MLX с 4-битным квантованием bartowski для запуска на Mac с Apple Silicon. Модель предназначена для чат-сценариев, генерации и обработки текста, а также работы со структурированными данными. Она поддерживает контекст до 32 000 токенов и генерацию до 8 000 токенов. Заявлена поддержка более 29 языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся компактный размер около 3 млрд параметров, возможность локального запуска на совместимых компьютерах Apple и поддержка длинного контекста. README не содержит результатов бенчмарков и подробностей об ограничениях квантования; как и другие языковые модели, система может генерировать неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Qwen Research; для точных условий использования следует обратиться к указанному в README тексту лицензии.

Это GGUF-квантизация мультимодальной модели Qwen3.6-35B-A3B, разработанной Alibaba Cloud; репозиторий FreedomAISVR распространяет её в формате MXFP4_MOE для запуска через llama.cpp. Модель имеет архитектуру MoE: 35 млрд параметров всего, около 3 млрд активируются на токен, используются 256 экспертов и гибридное внимание Gated DeltaNet с полным вниманием. Контекстное окно — 262 144 токена. Модель предназначена для диалогов, генерации текста и анализа изображений. Для обработки изображений вместе с основными весами требуется файл проектора mmproj. В MXFP4 квантизированы веса экспертов, а маршрутизатор и общие экспертные слои сохранены в Q8_0; README указывает размер основных весов 18,4 ГБ. Указана поддержка 201 языка, среди которых английский и китайский. Квантизация снижает требования к памяти, но может повлиять на качество относительно исходных весов; фактическая совместимость и скорость зависят от оборудования и версии llama.cpp. Лицензия репозитория — Apache-2.0.

Qwen3.8-27B-NInfer — мультимодальный вариант модели Qwen3.8-27B, разработанной командой Qwen и преобразованной в нативный формат .ninfer для движка NInfer. Артефакт предназначен для генерации текста в режимах с рассуждением и без него, а также для обработки изображений, нескольких изображений, видео и смешанных мультимодальных сообщений. Модель содержит 27 млрд параметров базовой модели и использует groupwise-квантизацию с распределением Q4/Q5/Q6 для текстовой части, а также W8G32_F16S для эмбеддингов и выходной головы. Поддерживаются MTP-спекулятивное декодирование, BF16 и INT8 group-64 KV-кэш, CUDA Graph decode, повторное использование совместимых префиксов и небольшое параллельное пакетное обслуживание. В README указаны текстовый контекст до 262 144 токенов и мультимодальный лимит до 81 920 токенов в проведённых тестах. Сильные стороны модели — поддержка мультимодальных сценариев, высокая точность на AIME 2025 и AIME 2026 — по 96,67%, а также результаты 87,37% на GPQA-Diamond и 82,22% на RealWorldQA. Ограничения связаны с узкой средой запуска: требуется NInfer версии с ревизии 5232055, 64-битный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее. Артефакт не является чекпойнтом Transformers, Safetensors или GGUF. Лицензия — Apache-2.0.

Карточка модели thoddnn/Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

EuroLLM-22B-Instruct-Preview — предварительная инструктивная версия многоязычной языковой модели EuroLLM, созданной европейским консорциумом, в который входят Instituto Superior Técnico, University of Edinburgh, Instituto de Telecomunicações, Université Paris-Saclay и другие организации. Модель предназначена для диалога и выполнения инструкций, а семейство EuroLLM ориентировано на языковые задачи, включая ответы на вопросы, суммаризацию и перевод. В метаданных репозитория указаны архитектура Llama, около 21,9 млрд параметров, генерация текста и контекст до 4096 токенов. Разработчики EuroLLM заявляют поддержку 35 языков, включая все 24 официальных языка ЕС; для этой конкретной предварительной версии карточка не уточняет языковой состав. Репозиторий содержит автоматически созданную карточку без сведений о лицензии и детальных ограничениях, поэтому условия использования этой версии подтвердить нельзя.

ReadyArt/gemma-4-31B-it-scotoma-2-GGUF — это набор GGUF-квантизированных вариантов модели gemma-4-31B-it-scotoma-2, опубликованный ReadyArt. В основе лежит Gemma 4 31B от Google DeepMind, доработанная методом γ-fold и тремя раундами DPO на 9,3 тыс. пар предпочтений. Модель предназначена для диалоговой генерации текста, рассуждений, программирования и мультимодального анализа изображений; GGUF-формат ориентирован на локальный запуск через llama.cpp и совместимые приложения. Базовая Gemma 4 31B — плотная модель примерно с 30,7 млрд параметров, гибридным вниманием, поддержкой текста и изображений и контекстом до 256 тысяч токенов. Семейство Gemma 4 поддерживает более 140 языков на уровне предобучения и имеет режимы рассуждений, но для конкретного производного варианта ReadyArt подробные отдельные языковые оценки не указаны. Доступны разные уровни квантизации, поэтому требования к памяти и качество зависят от выбранного GGUF-файла. Scotoma 2 изменяет поведение исходной instruction-tuned модели: ослабляет осторожные рефлексы и уменьшает повторяющиеся стилистические шаблоны, включая рефлексивные отрицания, конструкцию «not X, but Y», вставки с em dash и нагромождение прилагательных. По заявлению автора, модель сохраняет интеллект базовой версии и делает ответы более разнообразными, но это исследовательский артефакт, а не продукт; поведение зависит от запроса и контекста, а квантизация может дополнительно снижать качество. Модель не является полностью uncensored и в целом сохраняет отказы базовой модели. Указана лицензия Apache-2.0 с применением условий лицензии Gemma.

alpindale/gemma-7b — текстовая авторегрессионная модель семейства Gemma, разработанного Google на основе исследований и технологий, применявшихся для Gemini. Это плотная decoder-only модель с 8,2 млрд параметров; карточка указывает поддержку английского языка и контекст до 8192 токенов. Модель принимает текст и генерирует текст, подходит для ответов на вопросы, суммаризации, диалога, создания текстов и рассуждений. Модель можно запускать через Transformers; сравнительно небольшой размер позволяет использовать её на персональных компьютерах и собственной облачной инфраструктуре. В репозитории указаны веса в формате safetensors. README описывает Gemma как семейство с предварительно обученными и дообученными для инструкций вариантами, но не уточняет отдельно тип этого чекпойнта. Лицензия в предоставленных данных не указана. Как и другие языковые модели, она может выдавать фактически неверные ответы, отражать предвзятость обучающих данных и испытывать трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Для пользовательских приложений следует оценивать качество ответов и применять меры безопасности.

LatamGPT 1.0 — авторегрессионная плотная Transformer-модель, разработанная командой LatamGPT на базе Meta Llama 3.1 70B. Модель прошла дальнейшее предобучение на данных Латинской Америки и Карибского бассейна и supervised fine-tuning для следования инструкциям и диалогов. Веса содержат 69,5 млрд параметров, контекст — 4096 токенов; модель рассчитана на работу через Transformers и имеет готовый шаблон чата. Модель предназначена для генерации текста и диалоговой помощи на испанском, португальском и английском языках, с особым вниманием к латиноамериканским вариантам речи, региональным реалиям и культурным контекстам. Её можно применять для суммаризации, классификации, редактирования и аналитической поддержки в исследованиях и приложениях для региона. Лицензия — Llama 3.1 Community License; перед использованием и распространением следует соблюдать её условия. Модель может выдавать фактические ошибки, устаревшую информацию и предвзятые ответы; качество меняется в зависимости от языка, страны, предметной области и формулировки запроса. Для работы с весами в BF16/FP16 требуется около 140 ГБ видеопамяти, а в чувствительных и высокорисковых сценариях результаты требуют проверки специалистом. Для сохранения качества рекомендуется использовать поставляемые шаблон чата, токенизатор и конфигурацию генерации.

bigscience/mt0-xxl — многоязычная модель семейства mT0, разработанная BigScience. Это дообученная версия mT5-XXL, обученная следовать инструкциям на смеси кросс-языковых задач xP3; архитектура — encoder-decoder MT5ForConditionalGeneration, размер — 6,7 млрд параметров. Модель предназначена для выполнения задач, сформулированных на естественном языке, в том числе перевода, ответов на вопросы, классификации тональности и создания текстов. Она поддерживает генерацию с нуля и переносит навыки на ранее не встречавшиеся задачи и языки; среди языков карточки указаны английский, французский, испанский, арабский, японский, корейский и другие. Качество ответов зависит от формулировки запроса: полезно явно обозначать границы входного текста, задачу и желаемый язык ответа, а также предоставлять контекст. Модель выпущена под лицензией Apache-2.0. Для запуска используются Transformers и веса PyTorch/Safetensors.

Карточка модели sabeshbesh/Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

m8than/gemma-3-27b-lenientchatfix — дообученная версия Gemma 3 от сообщества на базе Google Gemma 3 27B IT. Это плотная мультимодальная модель класса vision-language с 27 млрд параметров: принимает текст и изображения, генерирует текст и поддерживает диалоговый режим. Карточка описывает Gemma 3 как модель с контекстом до 128 тыс. токенов и поддержкой более 140 языков; метаданные этой версии указывают английский язык. Модель подходит для диалоговых помощников, ответов на вопросы по изображениям и текстам, извлечения сведений из изображений, суммаризации и генерации текста. В README также перечислены создание черновиков, кода и маркетинговых материалов, а также исследовательские и образовательные сценарии. Качество ответов зависит от обучающих данных и формулировки запроса; модель может ошибаться в фактах, упускать нюансы и отражать предвзятости данных. Использование регулируется лицензией Gemma; README не описывает отдельные изменения, внесённые при дообучении этой версии.

Llama-3-70B-Synthia-v3.5 — универсальная языковая модель семейства Llama 3, дообученная разработчиком migtissera на наборе Synthia-v3.5 и других общедоступных данных. Вычислительные ресурсы для обучения предоставила KindoAI. Модель предназначена для следования инструкциям и продолжительных диалогов. Её можно применять для ответов на вопросы, написания и редактирования текста, объяснений и диалоговых сценариев. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и примерно 69,5 млрд параметров; она принимает текст, выдаёт текст и поддерживает контекст до 8192 токенов. В карточке приведены результаты оценивания на нескольких наборах задач, включая IFEval и BBH. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или иной неуместный контент; автор характеризует её как uncensored и рекомендует проверять ответы. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3 License (llama3).

Qwen2-1.5B-Instruct-GGUF — инструкционная языковая модель из семейства Qwen2, разработанного командой Qwen. Она предназначена для диалоговых приложений, генерации и понимания текста, а также может применяться в задачах, связанных с многоязычностью, программированием, математикой и рассуждениями. Модель представлена в формате GGUF и подходит для локального запуска с помощью llama.cpp, включая развёртывание сервера с совместимым с OpenAI API интерфейсом. Модель содержит 1,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях внимания и Group Query Attention. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. В репозитории доступны варианты fp16 и квантованные варианты q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального запуска и наличие нескольких уровней квантования с различным компромиссом между качеством и требованиями к ресурсам. Ограничения связаны с размером 1,5 млрд параметров: по сравнению с более крупными моделями она может уступать в сложных задачах понимания, генерации, кодирования и рассуждений; конкретные языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

oktayd разработал Qwen3.6-35B-v2-MoE-Ablit-Heretic-Uncensor-Hermes-MTP-Vision-FT — дообученную мультимодальную модель семейства Qwen3.5 MoE для диалога, анализа изображений, программирования и рассуждений. Архитектура Qwen3_5MoeForConditionalGeneration содержит около 35 млрд параметров, из которых примерно 3 млрд активны на токен; при генерации выбираются 8 из 256 экспертов. Модель принимает текст и изображения и предназначена для запуска через Transformers. Её можно использовать для вопросов по изображениям, объяснения научных и рабочих тем, написания и отладки кода, мозгового штурма и диалоговых сценариев. В README описан прямой, деловой и юмористический стиль общения, а также обучение на материалах по знаниям, программированию, инструментам, бизнесу и визуальным задачам. Вызов инструментов зависит от приложения, которое предоставляет и исполняет инструменты; форматирование вызовов не гарантировано. Автор сообщает о проверках текста и простых изображений, но не приводит результатов бенчмарков. Модель может ошибаться, повторяться и допускать ошибки в схемах; MTP и полноценные агентские сценарии отдельно не подтверждены. Веса BF16 занимают около 70 ГБ без учёта дополнительной памяти для выполнения. Включено обучение на взрослые темы, поэтому модель рассчитана на аудиторию 18+. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-MLX-8bit — это 8-битная сборка модели Qwen3.8-Flash-Next, разработанная PipeNetwork для работы через MLX на компьютерах с Apple Silicon. Модель предназначена прежде всего для генерации текста, включая программирование, ответы на запросы и другие сценарии текстового вывода. В текущем runtime поддерживается только текстовый режим, хотя в составе checkpoint присутствует vision tower. Модель использует гибридную архитектуру Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts-структурой: всего около 125 млрд параметров, из которых примерно 6 млрд активируются на токен (125B-A6B). Также используется hashed n-gram embedding объёмом около 51 млрд параметров. Контекст и поддерживаемые языки в README не указаны. Модель преобразована в формат MLX и занимает около 192,2 ГБ на диске; большая часть весов квантована в 8 бит, отдельные управляющие компоненты и vision tower сохранены в bfloat16. 4B multi-token-prediction head не включён. По данным README, 8-битная версия сохраняет качество, статистически неотличимое от исходной bfloat16-модели на тесте wikitext-2, при существенно меньшем размере. Ограничения включают очень высокие требования к памяти, необходимость собственного runtime с поддержкой удалённого кода и привязку к экосистеме Apple Silicon и MLX. Лицензия — Qwen Community License 1.0.

airoboros-7b-gpt4 — дообученная модель семейства LLaMA с 6,6 млрд параметров, созданная Jondurbin на синтетических обучающих данных, сгенерированных GPT-4. Она предназначена для диалоговой генерации текста и отвечает на вопросы по заданному контексту, а также решает задачи на эрудицию, математику и рассуждение, программирование, тесты с выбором ответа, заполнение пропусков и общие темы. Для общения используется шаблон Vicuna; максимальная длина контекста по метаданным — 4096 токенов. Модель обучена следовать предоставленному контексту и ограничивать ответы его содержимым, чтобы уменьшить галлюцинации. Автор отмечает, что качество математических рассуждений ограничено, а результаты примеров для версии 13B могут отличаться от версии 7B. Модель распространяется под лицензией CC BY-NC 4.0, допускающей использование с указанием авторства, но запрещающей коммерческое использование.

Карточка модели Dido599999/MD1RoBoTs-Gemma2-27B на Hugging Face совпадает с карточкой google/gemma-2-27b-it, поэтому описание составлено по ней. Gemma 2 27B IT — инструктивно дообученная текстовая языковая модель Google из семейства Gemma 2. Это декодерная трансформерная модель с открытыми весами, предназначенная для диалога и генерации текста по инструкциям. В репозитории указаны формат safetensors и библиотека Transformers; модель основана на google/gemma-2-27b. Модель подходит для ответов на вопросы, суммаризации, диалоговых помощников, создания текстов и рассуждений по заданному контексту. В карточке семейство описано как англоязычное; модель принимает текст и генерирует текст. Размер модели составляет 27 млрд параметров. Ответы могут содержать фактические ошибки и отражать предвзятости обучающих данных; модель может испытывать трудности с тонкими языковыми нюансами и сложными открытыми задачами. Условия лицензии Gemma определяются лицензией Google Gemma; перед использованием следует ознакомиться с её условиями и политикой допустимого применения.

unsloth/Qwen3.5-0.8B-GGUF — модель семейства Qwen3.5 на базе Qwen/Qwen3.5-0.8B, представленная в репозитории Unsloth. Это мультимодальная причинная языковая модель с vision encoder, предназначенная для локального запуска, прототипирования, исследовательских и разработческих задач, а также предметно-ориентированного дообучения. Модель может применяться для работы с текстом и изображениями, рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя, скрытое измерение 1024 и нативное контекстное окно до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Артефакты совместимы с экосистемой Hugging Face Transformers, vLLM, SGLang и KTransformers, а Unsloth также заявляет возможность локального дообучения. К сильным сторонам относятся мультимодальность, большое контекстное окно, компактный размер и заявленная высокая эффективность инференса, что делает модель подходящей для локального использования и экспериментов при ограниченных ресурсах. Ограничением является небольшой масштаб в 0,8 млрд параметров: модель прежде всего ориентирована на прототипирование, специализированное дообучение и исследования, поэтому её возможности могут уступать более крупным моделям в сложных универсальных задачах. Лицензия — Apache 2.0.

MaziyarPanahi/calme-2.2-qwen2-72b-GGUF — квантизированная версия дообученной языковой модели calme-2.2-qwen2-72b, разработанной и квантизированной MaziyarPanahi на основе Qwen/Qwen2-72B-Instruct. Модель предназначена для генерации текста в диалоговых и общих сценариях использования больших языковых моделей, включая ответы на вопросы, рассуждения и решение задач. Для работы используется шаблон ChatML; поддерживаемые форматы GGUF рассчитаны на запуск через совместимые инструменты, например llama.cpp. Модель основана на архитектуре Qwen2 с заявленным размером 72 млрд параметров и представлена в вариантах квантизации от 2 до 16 бит, включая Q2_K, 3-, 4-, 5-, 6- и 8-битные варианты. Квантизация позволяет снизить требования к памяти, однако может уменьшать точность по сравнению с полноразмерной версией; README не содержит сведений о длине контекста, точном наборе языков, требованиях к оборудованию и результатах комплексного сравнения. В опубликованных оценках указаны результаты на TruthfulQA, Winogrande, ARC-Challenge и GSM8K, но они не гарантируют качество в конкретных прикладных сценариях. Лицензия обозначена как other с названием tongyi-qianwen; в качестве лицензионного документа указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием необходимо проверить её условия, особенно требования к распространению и коммерческому применению.

Карточка модели jordimas/gemma-3-1b-it на Hugging Face совпадает с карточкой google/gemma-3-1b-it, поэтому описание составлено по ней. Gemma 3 1B IT — компактная инструктивно дообученная модель Google из семейства Gemma 3. Она создана на основе google/gemma-3-1b-pt и предназначена для генерации текста и диалогового взаимодействия; небольшой размер позволяет запускать её на устройствах и инфраструктуре с ограниченными ресурсами. Семейство Gemma 3 поддерживает ввод изображений и текста с генерацией текста, контекст до 128 тыс. токенов и более 140 языков. Модель подходит для ответов на вопросы, суммаризации, рассуждений, создания текстов и интерпретации изображений. В предоставленных метаданных для этого репозитория подтверждены задача text-generation и чат-возможность; отдельные численные характеристики именно варианта 1B и языковой список не указаны. Возможны фактические ошибки, смещения и затруднения с неоднозначными формулировками и сложными задачами. Для снижения рисков в приложениях следует проверять ответы и применять подходящие меры безопасности. Лицензия — Gemma; использование регулируется условиями лицензии и политикой запрещённого использования Gemma.