I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиvoodooquant/Qwen3.5-0.8B-MTP-Voodoo — это квантизированная GGUF-версия базовой модели Qwen3.5-0.8B-Base, разработанная Voodoo Quant на основе модели Qwen от Alibaba Cloud. Веса не дообучались, архитектура исходной модели не изменялась; контрольные точки предназначены для запуска в неизменённом Llama.cpp и совместимы с экосистемой GGUF. Лицензия — Apache-2.0. Модель представляет собой каузальную языковую модель с vision encoder для мультимодальных задач, включая работу с текстом и изображениями, рассуждение, программирование, визуальное понимание и агентские сценарии. Она поддерживает 201 язык и диалект, а её нативная длина контекста составляет 262 144 токена. В README также указаны поддержка multi-step training (MTP), а также рекомендации использовать модель для прототипирования, исследовательских задач и специализированного дообучения. Размер модели — 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; модель содержит 24 слоя, скрытое измерение 1024 и контекст до 262 144 токенов. Квантизация Voodoo Quant выбирает уровень сжатия отдельно для разных тензоров, чтобы снизить размер и сохранить качество; заявлено уменьшение perplexity до 89% относительно соответствующего уровня сравнения. Ограничения включают небольшой параметрический масштаб, возможные потери качества из-за квантизации и отсутствие в предоставленных данных подробных результатов бенчмарков или характеристик отдельных вариантов GGUF.
Qwen3.8-Flash-Next-GGUF — это квантизированная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для задач генерации и анализа текста, а также обработки изображений при использовании отдельного файла mmproj, что позволяет применять её в мультимодальных сценариях. Модель содержит 180 млрд параметров и поддерживает текстовый и графический ввод. Для неё доступны варианты от BF16 и Q8_0 до более компактных Q2–Q5 и IQ-квантизаций; размер файлов варьируется примерно от 88 до 354 ГБ. Квантизация выполнена с использованием imatrix, а speculative decoding не поддерживается. Рекомендуемый компромисс между качеством и требованиями к памяти — Q4_K_M размером около 119,6 ГБ; более высокие варианты сохраняют качество, но требуют значительно больше ресурсов. К сильным сторонам относятся большой масштаб модели, поддержка мультимодального ввода, широкий выбор уровней квантизации и совместимость с llama.cpp. Ограничениями являются очень высокие требования к оперативной или видеопамяти даже у компактных вариантов, возможное снижение качества при сильной квантизации и необходимость отдельного mmproj-файла для работы с изображениями. Указана лицензия qwen-community-1.0; дополнительные условия приведены в файле LICENSE.
VARCO-VISION-2.0-14B — мультимодальная модель NCSOFT, построенная по архитектуре LLaVA-OneVision. Она объединяет визуальную модель SigLIP2-so400m-patch16-384 и языковую Qwen3-14B; число параметров языковой базовой модели — 14 млрд. Модель принимает текст и одно или несколько изображений и отвечает на вопросы по их содержимому. Модель предназначена прежде всего для корейского и английского языков. Она умеет анализировать документы, таблицы и графики, распознавать текст на изображениях и указывать его положение рамками, а также отвечать на повседневные вопросы и суммировать информацию. Разработчик отмечает улучшенное понимание корейского языка и культурного контекста. Для работы с несколькими изображениями рекомендуется Transformers версии 4.53.1 или выше. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки зависят от бенчмарка и формата запроса; README также предупреждает, что результаты некоторых тестов с оценкой другой LLM могут быть невоспроизводимы.
Yi-1.5-6B-Chat-GGUF — русскоязычное описание модели недоступно в предоставленных данных.
Aya Expanse 8B — разработанная Cohere Labs многоязычная авторегрессионная языковая модель с оптимизированной архитектурой Transformer и 8 млрд параметров. Это выпуск весов семейства Command, дополнительно обученный с учителем, с применением обучения на предпочтениях, настройки безопасности и слияния моделей. Модель предназначена для диалогов и генерации текста на 23 языках, включая русский, английский, арабский, китайский, хинди, японский и испанский. Она принимает и выдаёт только текст, поддерживает контекст до 8 тысяч токенов и может использоваться для многоязычных ответов на вопросы, написания и преобразования текста. Модель выпущена для исследовательского использования; лицензия CC-BY-NC-4.0 запрещает коммерческое применение, а использование также регулируется политикой допустимого использования Cohere Labs. Заявления о сравнительных результатах основаны на оценках из карточки модели и не гарантируют качество для конкретных задач.
Bagel 34B v0.4 — это дообученная jondurbin модель на базе 01-ai/yi-34b-200k, разработанная с использованием вычислительных ресурсов Convai Technologies. Это плотная причинно-авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстом до 200 000 токенов. Она предназначена для генерации текста в диалогах и по инструкциям. Модель обучалась на разнообразных наборах данных для диалогов, ответов на вопросы, рассуждений, математики, программирования, суммаризации и ролевого общения. В карточке также перечислены данные для вызова функций и offensive cybersecurity, а README указывает на несколько вариантов формата запросов: Vicuna, Llama 2, Alpaca и ChatML; по умолчанию используется шаблон Llama 2. Метаданные отмечают поддержку чата, но отдельная возможность вызова инструментов не подтверждена. Модель принимает текст и генерирует текст. Данные карточки указывают на многоязычные обучающие материалы, включая набор Belebele, однако конкретный перечень поддерживаемых языков не задан. Лицензия обозначена как other, поэтому условия использования следует уточнить на странице модели. Обучение на разных форматах и источниках может давать неоднородное качество; ответы могут быть ошибочными, а специализированные навыки не гарантированы.
blossom-v3-mistral-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на 7,1 млрд параметров, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.2 и Azure99/blossom-v3-mistral-7b методом SLERP. Модель построена на архитектуре Mistral и предназначена для генерации текста в ответ на запросы и инструкции; поддерживает контекст до 32 768 токенов. Модель подходит для диалоговых сценариев, ответов на вопросы и создания текстов по запросу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
DeepSeek-R1-0528-Qwen3-8B-MLX-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантование выполнено командой LM Studio с использованием mlx_lm и формата MLX, ориентированного на работу на устройствах с Apple Silicon. Модель предназначена для генерации текста и связанных с ней языковых сценариев. README не содержит сведений о точном числе параметров, поддерживаемых языках, размере контекста, модальностях или специализированных ограничениях исходной модели. Ключевое преимущество версии — уменьшенный размер благодаря 4-битному представлению и оптимизация для Apple Silicon; при этом квантование может снижать точность по сравнению с исходной моделью, а применение вне экосистемы MLX и Apple Silicon может быть ограничено. Модель распространяется по лицензии MIT.
bartowski/gemma-2-27b-it-GGUF — это набор GGUF-квантизаций инструкционно дообученной текстовой модели Google Gemma 2 27B IT, подготовленный bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя, при запуске через llama.cpp и совместимые инструменты. В README не указаны поддерживаемые языки, максимальный размер контекста и дополнительные модальности, поэтому модель следует считать текстовой. Доступны варианты от F32 размером 108,91 ГБ до низкобитных Q2 и IQ2 размером около 9,40 ГБ. Квантизация выполнена с использованием imatrix; варианты Q6 и Q5 сохраняют очень высокое или высокое качество, а Q4 ориентированы на более экономное использование памяти. Низкобитные варианты требуют меньше ресурсов, но снижают качество и могут быть менее стабильными. Модель не поддерживает системный промпт; для диалогов необходимо использовать указанный в README формат ролей Gemma. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma. README не содержит полного текста лицензии, поэтому перед использованием необходимо ознакомиться с её условиями и проверить их применимость к конкретному сценарию.
unsloth/gemma-3-1b-it — диалоговая версия Gemma 3, размещённая Unsloth и основанная на Google/gemma-3-1b-it. Это плотная языковая модель Gemma3ForCausalLM примерно с 1 млрд параметров, предназначенная для генерации текста и общения по инструкциям. Репозиторий содержит веса в формате Safetensors; модель работает через Transformers и рассчитана на контекст до 32 768 токенов. Модель подходит для диалоговых помощников, черновиков текстов и писем, суммаризации и ответов на вопросы. В README описаны возможности семейства Gemma 3, включая мультимодальный ввод изображений, но этот конкретный чекпойнт имеет текстовую архитектуру и базовую модель Gemma 3 на 1 млрд параметров; поэтому поддержку изображений ему не приписываю. Метаданные указывают английский язык. Лицензия — Gemma. Как и другие генеративные модели, она может ошибаться в фактах, отражать смещения обучающих данных и хуже справляться с неоднозначными или сложными запросами. Качество зависит от промпта и контекста.
MuXodious/gemma-4-26B-A4B-it-SOMPOA-heresy — дообученная версия Gemma 4 26B A4B IT, созданная автором MuXodious с помощью Heretic v1.2.0 и метода abliteration с Self-Organizing Maps и magnitude-preserving orthogonal ablation. Модель предназначена для диалогов и анализа изображений с выдачей текста; README описывает её как вариант с уменьшенным числом отказов. В испытаниях число отказов снизилось с 103 из 104 до 4 из 104, KL-дивергенция составила 0,1240. Это мультимодальная модель семейства Gemma 4 с архитектурой Gemma4ForConditionalGeneration и весами Safetensors. Она принимает текст и изображения и генерирует текст. README приводит для Gemma 4 26B A4B контекст до 256 тысяч токенов и поддержку множества языков; эти характеристики описывают базовое семейство, а не отдельную проверку данной дообученной версии. Карточка лицензирована по Apache-2.0. Автор отмечает, что модель может ошибочно срабатывать на дисклеймеры и рекомендует рассмотреть максимальную длину ответа 120–150 токенов. Показатели испытаний в карточке не заменяют независимую оценку качества; сниженное число отказов означает, что модель может отвечать на запросы, от которых базовая версия отказывалась.
Это текстовая версия Gemma 4 E2B-it, подготовленная bRadu на основе google/gemma-4-E2B-it. Из исходной мультимодальной модели удалены кодировщики изображений и аудио; оставлены языковая модель Gemma4ForCausalLM и текстовый токенизатор. Модель содержит 1,6 млрд параметров, использует архитектуру Gemma 4 с плотными слоями, работает через Transformers и распространяется в формате safetensors. Модель предназначена для текстовых задач и диалогов, а также для стандартного дообучения SFT, DPO и KTO. Указанное в метаданных контекстное окно — 131 072 токена. Она сохраняет текстовую часть исходной Gemma 4 E2B-it, но не принимает изображения или аудио. Лицензия — Apache-2.0.
Gemma-SEA-LION-v3-9B — языковая модель, разработанная Products Pillar команды AI Singapore при финансировании Национального исследовательского фонда Сингапура. Это плотная авторегрессионная модель-декодер на архитектуре Gemma 2 с 9 млрд параметров, созданная продолжением предобучения Google Gemma 2 9B примерно на 200 млрд токенов. Она предназначена для генерации текста на английском и языках Юго-Восточной Азии: бирманском, китайском, филиппинском, индонезийском, кхмерском, лаосском, малайском, тамильском, тайском и вьетнамском. Контекст модели составляет 8192 токена. Модель подходит для генерации ответов и текстов, вопросов и ответов, анализа тональности и токсичности, перевода, суммаризации, причинных рассуждений и естественно-языкового вывода. Карточка сообщает об оценке на SEA-HELM, но не приводит в предоставленном тексте конкретные результаты. Модель не прошла выравнивание по безопасности, поэтому при использовании нужны собственные проверки и меры безопасности. Веса доступны в формате safetensors; лицензия — Gemma Community License.
GPT-4o — мультимодальная модель OpenAI, представленная 13 мая 2024 года. Она принимает текст и изображения и формирует текстовые ответы. Модель предназначена для диалога и задач, где нужно понимать текст вместе с визуальным содержимым, например отвечать на вопросы об изображениях. Доступные сведения указывают на поддержку изображений и текста; детали архитектуры, число параметров и длина контекста здесь не приведены.
Instruct Mixtral 8X7B V0.1 Dolly15K — это инструкционная языковая модель на архитектуре Mixtral, дообученная компанией Brillibits на наборе данных databricks-dolly-15k. Представленная версия распространяется в формате GGUF и подготовлена TheBloke с использованием квантования. Модель предназначена для генерации текста по инструкциям и может использоваться в локальных приложениях для диалога, ответов на вопросы и других задач text-generation. В названии указано 8 экспертов по 7B параметров, однако README не содержит дополнительных сведений о фактическом числе активируемых параметров, размере контекста, языках и поддерживаемых модальностях. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат совместим с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All и LM Studio. Сильной стороной модели является возможность локального запуска на CPU и GPU благодаря GGUF и нескольким уровням квантования. Ограничения включают возможные потери качества при сильном квантовании, а также отсутствие в README подробных результатов оценки и характеристик производительности. Лицензия модели — Apache-2.0.
InternVL2-Llama3-76B — мультимодальная инструкция-модель OpenGVLab из семейства InternVL 2.0, объединяющая визуальный энкодер InternViT-6B-448px-V1-5, MLP-проектор и языковую модель Hermes-2-Theta-Llama-3-70B. Модель содержит 76 млрд параметров, использует архитектуру InternVLChatModel и доступна в формате Safetensors для Transformers. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы. Она предназначена для понимания документов, диаграмм, инфографики и сцен с текстом, OCR, визуальных вопросов и ответов, научных и математических задач, а также анализа нескольких изображений и видео. В README указано контекстное окно 8 тысяч токенов; обучение включало длинные тексты, несколько изображений и видео. Карточка обозначает модель как мультиязычную, но не перечисляет конкретные поддерживаемые языки. Модель подходит для визуального анализа и диалоговых сценариев, однако для видео в описанных оценках использовались 16 кадров, уменьшенных до 448×448 пикселей. Для больших запросов с несколькими изображениями расходуется больше токенов. Лицензия — Llama 3; перед использованием следует учитывать её условия.
JuliusCesar-72B-BeyonderV.0 — объединённая модель для генерации текста, созданная с помощью mergekit методом SLERP на основе migtissera/Tess-72B-v1.5b и davidkim205/Rhea-72b-v0.5. В репозитории указана архитектура LlamaForCausalLM и формат safetensors; число параметров по метаданным — 36,1 млрд, контекст — до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы. Базовая модель описана как обученная следовать инструкциям и отвечать на разнообразные запросы на английском языке. Лицензия — Apache-2.0.
Meta-Llama-3-120B-Instruct-GGUF — GGUF-квантизированная версия community-модели Meta-Llama-3-120B-Instruct, созданной Maxime Labonne (mlabonne) с использованием self-merge через MergeKit на базе Meta-Llama-3-70B-Instruct. Квантизацию выполнил bartowski с использованием llama.cpp. Модель предназначена для генерации текста общего назначения и диалогового взаимодействия, включая работу в LM Studio. Модель относится к семейству Llama 3, имеет заявленный размер 120B параметров и поддерживает текстовую модальность. Точные сведения о контексте, языках и конфигурации архитектуры в README не указаны. Для корректного взаимодействия рекомендуется использовать шаблон запросов Llama 3 и системный промпт помощника. Self-merge направлен на расширение возможностей без дополнительных затрат на обучение, однако README не содержит независимых результатов оценки качества. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия обозначена как other; конкретные условия использования в README не раскрыты, их следует уточнять на странице исходной модели.
QuantFactory/Meta-Llama-3.1-8B-Instruct-GGUF — это квантованная версия инструкционной языковой модели Meta Llama 3.1 с примерно 8 млрд параметров, подготовленная QuantFactory в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, поддержку пользователей и другие задачи обработки естественного языка. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель относится к текстовым генеративным системам; сведения о контекстном окне, конкретном методе и уровне квантования, требованиях к памяти и производительности в предоставленных данных отсутствуют. Формат GGUF обычно ориентирован на локальный запуск, однако точные параметры использования для данной сборки не указаны. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy. Для продуктов с более чем 700 млн ежемесячных активных пользователей предусмотрено дополнительное требование получить отдельное разрешение Meta.
cloudyu/mistral_11B_instruct_v0.1 — разговорная языковая модель на архитектуре Mistral с 48 слоями и 10,6 млрд параметров. Автор карточки сообщает, что модель дообучена методом SFT на vicgalle/alpaca-gpt4; формат примера использует инструкцию, входные данные и ожидаемый ответ. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Она принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. Карточка не приводит оценок качества или подробных ограничений применения, поэтому пригодность для конкретных задач следует проверять отдельно.
Motif-2-12.7B-Instruct — плотная авторегрессионная языковая модель семейства Motif от Motif Technologies, созданная методом supervised fine-tuning на базе Motif-Technologies/Motif-2-12.7B-Base. Она предназначена для диалогов и генерации текста по инструкциям. Модель содержит 10,8 млрд параметров по метаданным каталога; в README заявлено 12,7 млрд. Контекстное окно составляет до 32 768 токенов. Поддержка чата подтверждена метаданными, а в карточке приведены результаты оценки на языковых бенчмарках. Модель принимает текст и генерирует текст. В тегах карточки указаны английский и корейский языки. Для запуска описано использование Transformers; README также приводит способ запуска через vLLM с временным контейнером, пока официальная поддержка модели проходит рассмотрение. Модель распространяется по лицензии Apache-2.0.
Nemotron-Mini-4B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Nemotron-Mini-4B-Instruct, разработанной NVIDIA и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локального инференса, в том числе через LM Studio. Указан английский язык; поддерживается текстовая модальность. Формат запроса требует специальных маркеров для системных, пользовательских и ассистентских сообщений. Доступны варианты от исходных весов F16 размером 8,39 ГБ до компактных квантизаций IQ3_M размером 2,18 ГБ. Предлагаются форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и другие, включая варианты, оптимизированные для ARM-процессоров. Некоторые сборки используют Q8_0 для embedding- и output-весов, что может улучшать сохранение качества. Ключевое преимущество набора — выбор между качеством, размером и требованиями к памяти; ограничение — снижение качества при более агрессивной квантизации. Сведения о размере контекста и архитектуре базовой модели в README не указаны. Модель распространяется по лицензии NVIDIA Community Model License; условия следует уточнять в документе лицензии NVIDIA.
Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF — специализированная текстовая модель, разработанная DavidAU на базе Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored. Она объединяет 12 дистиллированных экспертных моделей, включая модели закрытого и открытого исходного кода, в архитектуре Mixture of Experts. Версия является uncensored/abliterated: отдельные эксперты обработаны с использованием Heretic для удаления отказов и ограничений. Модель распространяется в формате GGUF по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, математики, программирования, ответов на вопросы и творческого письма, включая создание художественных историй, сцен, сюжетов, научной фантастики, романтики и контента для взрослой аудитории. Пользователь может указывать в запросе имена экспертов или их группы, например Gemini, Claude, GPT51, Kimi, GLM, AllAI, Closed-AI или Open-AI, чтобы управлять выбором активных компонентов. Заявлены контекст до 256 тысяч токенов и одновременная активация двух экспертов по умолчанию; всего доступно до 12 экспертов. Модель поддерживает запуск на CPU и частичную выгрузку с GPU. В README не указаны точный список языков, детальные параметры архитектуры и результаты стандартизированных тестов. Для приемлемой работы рекомендуются квантизации не ниже Q4_KS или IQ3_M, контекст от 4–8 тысяч токенов и температура около 0,7; увеличение числа активных экспертов снижает скорость генерации, а разные эксперты могут давать существенно различающиеся результаты.
FreedomAISVR/Qwen3.5-4B-Instruct-MTP-NVFP4-GGUF — квантизированная в NVFP4 версия мультимодальной инструкционной модели Qwen3.5-4B, подготовленная FreedomAISVR в формате GGUF для запуска через llama.cpp. Модель содержит около 3,97 млрд параметров, использует гибридную архитектуру Gated DeltaNet, Gated Attention и FFN, поддерживает MTP (Multi-Token Prediction) и контекст до 262 тысяч токенов. В репозитории также есть проектор изображений в F16; заявлена возможность расширения контекста до 1 млн токенов. Модель предназначена для диалога и генерации текста по инструкциям, рассуждений и понимания изображений. Шаблон чата изменён: рассуждения выключены по умолчанию и включаются параметром enable_thinking=true. NVFP4 снижает размер весов для совместимых NVIDIA Blackwell GPU; для мультимодального ввода требуется отдельный файл проектора. Это производная модель от Qwen/Qwen3.5-4B, а не новая базовая разработка. Лицензия — Apache-2.0.
Qwen3.8-Flash-Next-RadixArk-NVFP4-Hybrid-Sharp — мультимодальная модель для задач text-to-text и image-text-to-text, опубликованная в репозитории travelinlance на основе Qwen3.8-Flash-Next от Qwen и NVFP4-квантизированной сборки RadixArk. Модель предназначена для диалогов, генерации текста и обработки запросов с изображениями при использовании специализированного стека обслуживания. Это примерно 176-миллиардная MoE-модель с маршрутизируемыми экспертами. Основная часть весов хранится в формате NVFP4 W4A4, а около 300 тензоров в слоях внимания и общих экспертах преобразованы в блочный FP8 E4M3. Такой гибридный формат уменьшает объём данных, считываемых при генерации, и, по заявленным измерениям, повышает скорость генерации примерно на 20% без ухудшения контрольных оценок. Встроенный Sharp chat template сокращает объём ответов; в тесте он дал на 18% меньше выходных токенов. Для запуска требуется патченный образ vLLM ghcr.io/lancelind/qwen38-flash-dgx с поддержкой смешанного FP4/FP8-формата и настройками VLLM_FP8_HYBRID=1; стандартные vLLM и SGLang эту сборку загрузить не могут. Модель рассчитана прежде всего на NVIDIA DGX Spark с GB10 и 128 ГБ памяти, где используется таблица размером 44 ГиБ, доступная напрямую с диска. Точные поддерживаемые языки и размер контекстного окна в представленном README не указаны. Лицензия обозначена как qwen-community-1.0; применимые условия следует уточнять в файле LICENSE.
CultriX/SeQwence-14Bv6 — объединённая языковая модель, созданная с помощью mergekit методом Model Stock на основе Qwen/Qwen2.5-14B-Instruct. В объединение вошли SeQwence-14Bv2, Qwestion-14B, Qwen2.5-Lumen-14B, Qwen2.5-14B-Wernicke, Virtuoso-Small, SeQwence-14Bv1 и SeQwence-14B-EvolMerge. Модель предназначена для генерации текста и диалоговых сценариев. Она использует плотную архитектуру Qwen2 с 14 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Метаданные отмечают интерфейс для вызова инструментов, однако README не описывает его поведение и ограничения. Модель опубликована в формате safetensors для Transformers. Условия лицензии в предоставленных данных не указаны.
macadeliccc/SOLAR-10.7b-Instruct-dpo — диалоговая языковая модель, созданная дообучением upstage/SOLAR-10.7B-Instruct-v1.0 на наборе Intel/orca_dpo_pairs. Это плотная авторегрессионная модель семейства LLaMA с 10,6 млрд параметров, предназначенная для генерации ответов в формате чата. Она использует шаблон ChatML и рассчитана на контекст до 4096 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и задач рассуждения на естественном языке. В README приведены результаты нескольких бенчмарков и сравнение с базовой моделью, однако они не гарантируют качество на конкретных данных или сценариях. Доступна лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.
SOLAR-13B-Instruct-v1.0 — разговорная языковая модель на базе архитектуры Llama, созданная Vicgalle с помощью mergekit. Это вариант SOLAR-10.7B-Instruct-v1.0, расширенный до 13 млрд параметров методом passthrough: в итоговую модель включены диапазоны слоёв исходной модели. Репозиторий содержит веса Safetensors; нативный контекст — 4096 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текстовых ответов. Автор указывает, что 4-битная квантизация помещается в 12 ГБ видеопамяти; приведены результаты нескольких бенчмарков, но полная оценка качества ещё не опубликована. Модель поддерживает чатовый сценарий и унаследована от англоязычной инструкционной модели Upstage. Распространяется по лицензии Apache-2.0.
Virtuoso-Small — компактная языковая модель для генерации текста, разработанная Arcee.ai. Репозиторий duyntnet/Virtuoso-Small-imatrix-GGUF содержит её квантованные варианты в формате GGUF, предназначенные для локального запуска и совместимые с llama.cpp и рядом пользовательских интерфейсов, включая KoboldCPP, Ollama, Jan, text-generation-webui и GPT4All. Модель имеет 14 миллиардов параметров и ориентирована на выполнение инструкций, сложные рассуждения и бизнес-сценарии: поддержку клиентов, создание контента и техническую помощь. В README указан английский язык и текстовая модальность. Архитектура, размер контекста и точный набор доступных квантований не уточняются. К сильным сторонам относятся относительно компактный размер, эффективность и возможность работы на менее мощном оборудовании при сохранении высокого качества генерации. Ограничения связаны с недостатком информации о конкретной архитектуре, контекстном окне, производительности и качестве на других языках. В карточке указана лицензия other; дополнительных условий использования не приведено.
Athena-3-14B — каузальная языковая модель, разработанная Aayan Mishra и дообученная на Qwen/Qwen2.5-14B-Instruct. Она предназначена для диалогов, следования инструкциям и генерации текста, включая написание материалов, суммаризацию, ответы на вопросы, перевод, классификацию текста и рассуждения по STEM-темам. Модель построена на архитектуре Qwen2 с 14 млрд параметров; использует Transformer, RoPE, SwiGLU, RMSNorm и Grouped Query Attention. Метаданные указывают контекст до 32 768 токенов. Карточка заявляет поддержку более 29 языков, включая английский, китайский и русский; заявленная лицензия — MIT. Модель подходит для общих текстовых задач, однако качество зависит от языка, а наиболее сильные возможности заявлены для английского. Ответы могут содержать ошибки и предубеждения; знания ограничены сведениями примерно до августа 2024 года. Модель не предназначена для критически важных решений или работы с конфиденциальными данными.