I.14Автоматизация процессов и AI-агенты

Это GGUF-сборка Meta-Llama-3-1-8B-Instruct-f16-gguf, опубликованная ProfessorF (Nick V. Flor) для воспроизводимости исследований. Репозиторий содержит модель в формате GGUF F16; метаданные указывают на чат-возможности и генерацию текста. README описывает семейство Llama 3.2, но его сведения о размерах 1B и 3B и контексте 128k не подтверждают характеристики именно этой 8B-сборки. Модель предназначена для диалогового помощника и генерации текста, включая ответы на вопросы, суммаризацию, поиск знаний и переформулирование запросов. В README перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; метаданные также содержат эти языки. Использование регулируется лицензией Llama 3.2 Community License, которая допускает коммерческое и исследовательское применение на своих условиях. Качество и ограничения этой конкретной сборки отдельно не описаны.

Millie 1.1 — мультимодальная языковая модель с поддержкой изображений от LLMs For All, представленная в формате GGUF для локального запуска на устройствах с ограниченной памятью. Это MoE-модель примерно с 35 млрд параметров и 3 млрд активных параметров на токен; около 90% весов хранятся в троичном представлении, остальные тензоры используют более высокую точность. Для обработки изображений предусмотрен отдельный файл vision encoder/projector, который можно не устанавливать при работе только с текстом. Модель основана на Qwen/Qwen3.6-35B-A3B и подходит для диалогов, ответов на вопросы по изображениям и локального мультимодального помощника. В приведённой авторами оценке результаты близки к исходной модели на MMLU Redux и HumanEval+, а на GPQA Diamond заметно ниже; измерения выполнены в отдельных запусках и не гарантируют аналогичных результатов в других сценариях. Репозиторий распространяется по лицензии Apache-2.0.

PowerBot-8B — объединённая модель на базе Llama 3, созданная автором репозитория с помощью Mergekit из nvidia/Llama3-ChatQA-1.5-8B и refuelai/Llama-3-Refueled. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы по документам с сохранением полного документа в контексте. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она принимает текст, поддерживает английский язык и имеет контекстное окно 8192 токена. Веса опубликованы в формате Safetensors и bfloat16; модель распространяется по лицензии Apache-2.0.

Qwen3-Swallow-32B-SFT-v0.2 — двуязычная языковая модель команды Swallow LLM, разработанная на базе Qwen3 и дообученная методом supervised fine-tuning (SFT) после этапа continual pre-training. Это плотная авторегрессионная модель семейства Qwen3 с 29,7 млрд параметров, рассчитанная на японский и английский языки. Она принимает текст и генерирует текст; длина контекста по метаданным — 40 960 токенов. Модель предназначена для диалогов и генерации ответов, а также для задач на японском и английском языках, включая перевод между ними, математику, программирование и рассуждения. Авторы сообщают о сохранении или улучшении STEM-навыков и усилении рассуждений; для воспроизводимого инференса рекомендуют vLLM и длину контекста до 32 768 токенов. Вызов инструментов не проходил специальное обучение, а отдельный переключатель режима рассуждений не поддерживается. Модель выпущена под лицензией Apache-2.0. В README отмечено, что она находится на раннем этапе исследований и разработки и не была специально настроена для соответствия намерениям пользователей и требованиям безопасности.

UltraLLaDA — разговорная модель генерации текста, разработанная relaxe-system-lab на основе LLaDA-8B-Base. Лёгкая посттренировочная настройка расширяет поддерживаемый контекст до 128 тысяч токенов и предназначена для понимания и генерации длинных текстов. Модель подходит для диалогов и работы с длинными документами. Репозиторий содержит веса в формате safetensors; заявлена лицензия MIT. Карточка не сообщает результаты оценок качества или подробности ограничений, поэтому их нельзя оценить по имеющимся сведениям.

AIArchiveInfo/Yi-34B-Chat — побайтовая архивная копия Yi-34B-Chat, исходно разработанной компанией 01.AI и опубликованной под лицензией Apache-2.0. Согласно карточке, веса не обучались, не дообучались и не изменялись при копировании; лицензия оригинала продолжает действовать. Это диалоговая плотная языковая модель на архитектуре Transformer семейства Llama, содержащая 33,9 млрд параметров и рассчитанная на генерацию текста в формате чата. Она предназначена для общения, ответов на вопросы, понимания языка, рассуждений, здравого смысла и чтения с пониманием. В README модель описана как двуязычная, с упором на английский и китайский; максимальный контекст составляет 4096 токенов. Карточка сообщает о сильных результатах Yi-34B-Chat в сравнительных оценках, но приведённые позиции относятся к данным 2024 года и не гарантируют качество для конкретных задач. Размер модели требует значительных вычислительных ресурсов; модель может ошибаться и не следует считать её ответы проверенными фактами. Репозиторий содержит веса в формате safetensors.

QuantFactory/gemma-2-9b-GGUF — это квантованная версия языковой модели Gemma 2 с 9 млрд параметров, созданная на основе google/gemma-2-9b с использованием llama.cpp. Разработчик исходной модели — Google. Модель относится к авторегрессионным decoder-only моделям для генерации текста и распространяется в формате GGUF. Модель предназначена для текстовых задач, включая ответы на вопросы, суммирование, рассуждения, диалоговое взаимодействие и другую генерацию текста. Указана поддержка английского языка. Квантование уменьшает требования к вычислительным ресурсам и делает модель более подходящей для запуска на локальных компьютерах и в инфраструктуре с ограниченными ресурсами, однако может сопровождаться снижением качества по сравнению с исходными весами; конкретный уровень квантования в README не указан. Ключевые ограничения — текстовая модальность, отсутствие сведений о размере контекста, точной схеме квантования и результатах оценки именно этой сборки. Использование регулируется лицензией Gemma и соответствующими условиями Google.

princeton-nlp/gemma-2-9b-it-SimPO — диалоговая причинно-языковая модель, разработанная Yu Meng, Mengzhou Xia и Danqi Chen. Авторы дообучили Google Gemma 2 9B Instruct на наборе предпочтений princeton-nlp/gemma2-ultrafeedback-armorm с помощью SimPO — метода оптимизации предпочтений, который не требует отдельной эталонной модели и задаёт целевой отрыв вознаграждения. Модель предназначена для диалога, ответов на вопросы и генерации текста с учётом человеческих предпочтений. Это плотная архитектура Gemma 2 с 9 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса Safetensors. В карточке приведены результаты оценки на нескольких бенчмарках, но они не гарантируют качество в конкретном сценарии. Лицензия в метаданных Hugging Face указана как MIT, тогда как README называет лицензию Gemma; условия использования следует сверить с лицензией базовой модели Google Gemma 2 9B Instruct.

unsloth/gemma-3-1b-it-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 1B, разработанной Google DeepMind и опубликованной в формате GGUF командой Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений, поэтому подходит для локального развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами. Это мультимодальная модель: она принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; максимальный объём генерируемого ответа составляет 8192 токена. Семейство Gemma 3 поддерживает более 140 языков, однако в карточке этой версии явно указан английский язык. Меньший размер упрощает локальный запуск и снижает требования к ресурсам, но по возможностям и качеству модель может уступать более крупным вариантам Gemma 3. Изображения обрабатываются после нормализации до 896×896 пикселей и кодируются в 256 токенов каждое. Модель распространяется по лицензии Gemma; применимые условия использования определяются официальными Terms of Use Google. README не содержит подробностей о конкретной квантовке GGUF, требованиях к памяти или измеренных показателях качества.

Karnak-6B-v1.0 — плотная причинно-языковая модель семейства Qwen3, разработанная Applied Innovation Center на основе Qwen/Qwen3-4B-Instruct-2507. Модель дообучена в несколько этапов с расширением глубины, продолжением предобучения и supervised fine-tuning; в карточке заявлены около 6 млрд параметров, а метаданные указывают 5,4 млрд. Для арабского применён оптимизированный токенизатор. Модель предназначена для генерации текста и диалогов на арабском и английском: она отвечает на вопросы, объясняет темы, пишет материалы и помогает работать с длинными документами и беседами. Метаданные указывают контекст до 262 144 токенов, тогда как README рекомендует ограничивать рабочий контекст 20 000 токенами для стабильной работы. Модель можно запускать локально или на собственных серверах, в том числе через Transformers и vLLM. Разработчик заявляет улучшенное следование инструкциям, беглость арабского текста и обработку длинных зависимостей; независимые показатели качества в предоставленных данных не приведены. Лицензия — Apache-2.0.

Poro 2 Long Instruct — чат-модель с инструкционной настройкой, разработанная LumiOpen на основе семейства Poro 2 и архитектуры Llama. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров, полученная объединением базовой модели Poro 2 Long и её версии после supervised fine-tuning. README заявляет контекст до 128 тыс. токенов; метаданные указывают native context 8192 токена. Модель предназначена для диалогов и выполнения инструкций на финском и английском языках. Она подходит для суммаризации и анализа длинных документов, вопросов по нескольким документам, генерации текстов, обучения, поддержки клиентов и перевода между финским и английским. В README приведены результаты тестирования следования инструкциям на обоих языках и длинноконтекстных задачах. Качество на английском в приведённых короткоконтекстных тестах уступает Llama 3.1 8B Instruct, тогда как на финском модель показывает более высокие результаты. Возможны фактические ошибки и смещения; навыки на других языках и в узкоспециализированных областях ограничены, а работа с длинным контекстом требует больше памяти и может быть медленнее. Лицензия в метаданных указана как llama3.3.

EnlistedGhost/Ministral-3-14B-Instruct-2512-GGUF — это конвертированная и квантованная версия Ministral-3-14B-Instruct-2512 от Mistral AI, опубликованная EnlistedGhost. Модель распространяется в формате GGUF и совместима с Ollama и Llama.cpp. Она предназначена для диалоговых текстовых задач и мультимодального анализа изображений, включая обработку запросов по тексту и изображениям; создавать изображения и обрабатывать аудио или видео она не умеет. Модель имеет 14 млрд параметров, поддерживает мультимодальный режим благодаря vision-проекторам и поставляется с несколькими файлами mmproj. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. В релиз включены варианты F16 и K-квантования с разным соотношением размера и качества. Автор также добавил собственный шаблон чата и скользящее окно контекста для последних восьми взаимодействий, однако фактический доступный размер контекста в README не указан. К сильным сторонам относятся локальный запуск через Ollama или Llama.cpp, поддержка изображений и выбор вариантов квантования. Ограничения включают отсутствие генерации изображений и поддержки аудио или видео, а также возможную потерю качества при квантовании. Модель распространяется по лицензии Apache-2.0.