I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиGeneva 12B GammaCorpus v2-1m — диалоговая языковая модель rubenroy, дообученная на Mistral-Nemo-Instruct-2407 с использованием корпуса структурированных и отфильтрованных многоходовых диалогов GammaCorpus v2-1m. Она предназначена для генерации текста, ведения беседы и выполнения инструкций; интерфейс модели также поддерживает вызов инструментов. Модель построена на плотной архитектуре Mistral, содержит 12,1 млрд параметров и использует 40 слоёв, группированные запросы внимания (GQA) и вращательные позиционные эмбеддинги. Заявленная длина контекста — 1 024 000 токенов. В метаданных перечислена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель работает с текстом и доступна в формате safetensors через Transformers. Лицензия — Apache-2.0. README предупреждает о возможности предвзятых ответов; фактическое качество на конкретных задачах следует проверять отдельно.
avemio/German-RAG-ModernBERT-Base-TRIPLES — модель Sentence Transformers, разработанная командой German-RAG AI и дообученная на наборе avemio/German-RAG-EMBEDDING-TRIPLES-HESSIAN-AI от answerdotai/ModernBERT-base. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и сравнения текстов; близость оценивается косинусным сходством. Архитектура состоит из ModernBERT и среднего пулинга токенов, максимальная длина последовательности — 8192 токена. Модель ориентирована на немецкоязычные сценарии RAG: поиск релевантных фрагментов и документов, оценку семантического сходства и поиск перефразировок. Также её можно применять для кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты оценки поиска, включая cosine_accuracy@1 0,5818 и @5 0,9522 на указанном наборе оценки. Модель содержит 149 млн параметров, распространяется в формате safetensors и доступна по лицензии Apache-2.0. Она выдаёт эмбеддинги, а не готовые ответы; качество зависит от данных и сценария применения, поэтому результаты оценки из карточки не гарантируют аналогичную точность на других коллекциях.
win10/ghost-13.3b-beta-1608 — объединённая языковая модель, созданная с помощью mergekit методом passthrough на основе ghost-x/ghost-8b-beta-1608. Модель использует плотную архитектуру Llama с классом LlamaForCausalLM и предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Объём модели составляет 12,7 млрд параметров, заявленная длина контекста — 131 072 токена. Базовая модель описана как многоязычная модель на основе Llama 3. Модель распространяется в формате safetensors. Сведения о лицензии и конкретных ограничениях применения в предоставленных данных отсутствуют.
GLiNER2 Small — компактная модель извлечения сущностей с нулевым обучением, представленная в карточке как вариант семейства GLiNER2. Она принимает текст и список типов сущностей, при необходимости с краткими определениями на английском языке, и возвращает найденные фрагменты текста с метками и точными символьными границами. Модель содержит 81 млн параметров и предназначена для извлечения именованных сущностей и других заданных схемой сущностей без предварительного обучения под конкретную схему. Модель рассчитана на обработку больших объёмов текста, предварительную фильтрацию и локальный запуск. В README указаны медианная задержка 26 мс на документ, пропускная способность 156 документов в секунду при пакетной обработке и пиковое потребление GPU-памяти 2,9 ГБ на A100. Выход детерминированный; качество ниже, чем у более крупных моделей семейства и некоторых LLM. Карточка приводит средний F1 39,7 на выборке из 19 наборов данных и 47,5 по опубликованному протоколу GLiNER из семи тестовых наборов. Модель использует библиотеку gliner2 и распространяется в формате safetensors. В метаданных указаны английский язык и лицензия Apache-2.0. README рекомендует при необходимости снижать порог для повышения полноты и удалять перекрывающиеся фрагменты для плоского результата.
gpt-oss-20b-Derestricted — производная модель Arli AI на основе openai/gpt-oss-20b. Авторы применили Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа, сохранив исходные нормы весов. В каталоге указано 1,6 млрд параметров, архитектура MoE для авторегрессионной генерации текста и контекст до 131 072 токенов. Модель предназначена для диалогов, рассуждений, агентных сценариев и других задач генерации текста, где требуется меньше отказов на запросы. Исходная модель поддерживает настраиваемый уровень рассуждений и формат Harmony; для корректной работы следует использовать шаблон Harmony. Карточка утверждает, что метод помогает сохранить качество рассуждений, но приводит это как результат авторских оценок, а не как независимую гарантию. Модель распространяется по лицензии Apache-2.0. Она может по-прежнему иногда пытаться подавлять запросы; языки в предоставленных данных явно не перечислены.
Granite Guardian 3.1 8B — модель IBM Research, дообученная на базе Granite 3.1 8B Instruct для выявления рисков в запросах пользователей и ответах моделей. Она выдаёт оценку «да/нет» по заданному шаблону и предназначена для работы в режиме классификации рисков. Модель помогает обнаруживать вредоносный контент, предвзятость, попытки обхода защит, насилие, ненормативную лексику, сексуальный контент и неэтичное поведение. В RAG-системах она проверяет релевантность найденного контекста, опору ответа на этот контекст и соответствие ответа запросу. В агентных сценариях выявляет синтаксические и смысловые ошибки в вызовах функций и связанные с ними галлюцинации. Архитектура — плотная GraniteForCausalLM с 8,2 млрд параметров; модель принимает текст, поддерживает контекст до 131 072 токенов и рассчитана на английский язык. IBM сообщает о результатах выше других открытых моделей той же области на стандартных бенчмарках. Модель предназначена для оценки рисков, мониторинга и выборочной проверки данных при умеренных требованиях к стоимости, задержке и пропускной способности. Использование вне предписанного шаблона оценки может приводить к неожиданным или небезопасным ответам; модель может быть уязвима к состязательным атакам, а пользовательские определения рисков требуют тестирования. Лицензия — Apache 2.0.
gte-reranker-modernbert-base — англоязычный переранжировщик текста, разработанный Tongyi Lab (Alibaba Group) на основе encoder-only модели ModernBERT-base. Он оценивает релевантность пар запроса и документа, чтобы переупорядочивать результаты поиска и улучшать отбор контекста для RAG. Модель содержит 149 млн параметров и принимает последовательности длиной до 8192 токенов. В карточке приведены результаты на наборах BEIR и LoCo для поиска по документам, а также COIR для поиска кода. Репозиторий содержит веса Safetensors и ONNX; для запуска поддерживается Transformers. Модель рассчитана прежде всего на английский язык. Оценки релевантности могут уступать специализированным моделям на других языках или предметных областях; приведённые результаты бенчмарков не гарантируют качество на конкретном корпусе. Лицензия — Apache-2.0.
Heretical-Qwen3.5-9B — мультимодальная модель на 9 млрд параметров, дообученная на базе Qwen/Qwen3.5-9B-Base. Её разработчик применил метод decensoring на основе orthogonalized projected abliteration с поиском параметров, настроенным через TPE; в README указаны 3 отказа из 100 тестовых запросов и KL divergence 0,0366. Модель использует гибридную архитектуру Gated DeltaNet и attention, принимает текст и изображения и предназначена для диалогов, рассуждений и понимания визуального содержимого. Модель поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000. README базовой модели заявляет поддержку 201 языка и диалекта, но не приводит языковую таблицу для этой конкретной производной модели. Веса доступны в формате safetensors; метаданные указывают библиотеку Transformers и лицензию Apache-2.0. Показатель отказов относится к ограниченному тесту в карточке и сам по себе не гарантирует поведение на других запросах; универсальные ограничения качества не описаны.
Это 4-битная версия Hermes 3 на базе Llama 3.1 8B, преобразованная сообществом mlx-community из NousResearch/Hermes-3-Llama-3.1-8B в формат MLX с помощью mlx-lm 0.16.1. Модель представляет собой плотную авторегрессионную LlamaForCausalLM с примерно 7,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалоговой генерации текста и следования инструкциям; в метаданных также отмечены чат и function calling. Репозиторий ориентирован на запуск через mlx-lm. Карточка указывает английский язык и лицензию Llama 3. Использование 4-битного представления уменьшает требования к памяти, но может влиять на точность по сравнению с исходными весами.
Jellyfish-7B — языковая модель на 7,1 млрд параметров, разработанная Хаочэнем Чжаном, Юянем Дуном, Чуанем Сяо и Масафуми Оямадой при поддержке NEC Corporation и Университета Осаки. Модель основана на Mistral-7B-Instruct-v0.2 и дообучена с помощью LoRA на подмножестве Jellyfish-Instruct. Это плотная авторегрессионная модель Mistral с контекстом до 32 768 токенов, предназначенная для диалоговой генерации текста на английском языке. Модель ориентирована на подготовку табличных данных: обнаружение ошибок, заполнение пропусков, сопоставление схем и сущностей, определение типов столбцов и извлечение значений атрибутов. В README приведены результаты сравнений на наборах данных для этих задач; заявленная доля побед над GPT-3.5-turbo в оценке GPT-4 составляет 56,36%. Лицензия CC BY-NC 4.0 допускает использование на некоммерческих условиях.
jina-reranker-m0 — мультиязычная мультимодальная модель ранжирования от Jina AI. Она оценивает релевантность документов запросу и сортирует их по полученным оценкам. Модель построена на архитектуре vision-language модели Qwen2-VL-2B-Instruct, дообучена с помощью LoRA и использует дополнительную MLP-голову для выдачи оценок релевантности. В метаданных указаны 1,5 млрд параметров и контекст до 32 768 токенов; README сообщает о поддержке документов длиной до 10 тыс. токенов и изображений вплоть до разрешения 4K. Модель предназначена для поиска по визуально насыщенным документам: страницам с текстом, таблицами, графиками, инфографикой и сложной вёрсткой. Она также ранжирует текстовые документы, включая длинные тексты и результаты поиска по коду. README заявляет поддержку более 29 языков и перенос на новые предметные области без специальной донастройки. Вход включает текстовые запросы и текстовые или визуальные документы, выход — оценки и упорядоченный список документов. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Размер параметров в README и метаданных различается: в README приведено 2,4 млрд, а в метаданных — 1,5 млрд.
Kazakh-E5-RAG-Embedding — модель эмбеддингов текста для поиска и извлечения документов на казахском языке, опубликованная shyngys879. Это плотный двунаправленный кодировщик на архитектуре XLM-RoBERTa, основанный на multilingual-e5-base и KazEmbed-V5; в метаданных указано 305,2 млн параметров, а README описывает базовый размер в 278 млн. Модель преобразует текст в 768-мерные векторы и использует формат E5 с префиксами «query:» для запросов и «passage:» для документов; контекст составляет до 514 токенов. Модель предназначена для семантического поиска, поиска ответов на вопросы и документов, а также извлечения контекста для RAG. Она оптимизирована для сопоставления казахских запросов и фрагментов, включая различение похожих нерелевантных вариантов; README сообщает об оценке на трёх казахских наборах поиска. Поддерживаются казахский и также русский и английский языки по тегам карточки. Для поиска по корпусу Wikipedia в описанных тестах multilingual-e5-base и multilingual-e5-large показали лучшие результаты. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.
KoVRE-Stage1 — мультимодальная модель эмбеддингов с 2 млрд параметров от автора whybe-choi, дообученная на базе Qwen/Qwen3-VL-Embedding-2B для поиска по визуальным документам. Она сопоставляет текстовые запросы на корейском или английском языке с изображениями страниц документов, включая сканы и отрендеренные страницы, и подходит для первого этапа поиска в мультимодальных RAG-системах. Модель создаёт один L2-нормированный вектор на запрос или страницу; доступны размеры эмбеддинга от 128 до 2 048 измерений, оптимизированные методом Matryoshka Representation Learning. Релевантность оценивают по косинусному сходству. Чекпойнт отражает первый этап обучения — контрастивное обучение на 708 729 парах «запрос — страница» на корейском и английском языках, с трудными отрицательными примерами и фильтрацией вероятных ложных отрицаний. Он предназначен также для исследований и дальнейшей адаптации. README рекомендует для промышленного применения и максимального качества корейского поиска финальный чекпойнт whybe-choi/kovre, обученный с дополнительной дистилляцией. Лицензия — Apache-2.0.
SpeechBrain lang-id-voxlingua107-ecapa — модель распознавания языка устной речи, обученная на наборе VoxLingua107. Она использует архитектуру ECAPA-TDNN, первоначально применявшуюся для распознавания говорящего; дополнительные полносвязные слои после слоя эмбеддингов и обучение с функцией потерь cross-entropy адаптируют её к классификации языка. Модель принимает аудио и относит речевой фрагмент к одному из 107 языков. Также её можно применять для извлечения эмбеддингов высказываний и обучения собственного классификатора языка. Модель обучалась на одноканальных записях с частотой 16 кГц; при вызове classify_file аудио автоматически приводится к нужному формату. Обучающие данные — короткие сегменты из YouTube, автоматически размеченные по языку видео; средняя продолжительность данных на язык составляет около 62 часов, но объём сильно различается. Ошибка на проверочном наборе VoxLingua107 составляет 6,7%. Модель распространяется по лицензии Apache-2.0. Качество может быть ниже для языков с малым объёмом обучающих данных, женской и детской речи, речи с иностранным акцентом, а также речи людей с нарушениями речи. Разметка обучающих сегментов получена автоматически, поэтому возможны ошибки в данных.
Модель rubentito/layoutlmv3-base-mpdocvqa — версия LayoutLMv3 от Microsoft, дообученная на наборе MP-DocVQA. Это мультимодальный Transformer с архитектурой LayoutLMv3 и 151,8 млн параметров, предназначенный для ответов на вопросы по многостраничным документам. Модель принимает изображение документа и вопрос, находит нужные сведения и может предсказывать страницу, где находится ответ. Модель использовалась как базовый ориентир в исследовании Hierarchical multimodal transformers for Multi-Page DocVQA. В README приведены метрики ANLS для качества текстовых ответов и APPA для точности определения страницы. Основной язык карточки — английский; лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных работ на тех же условиях и ограничивает коммерческое использование.
Mit1208/layoutlmv3-finetuned-DocLayNet — модель Mit1208, дообученная на базе microsoft/layoutlmv3-base для разметки структуры документов по DocLayNet-small. Она использует архитектуру LayoutLMv3 и содержит 151,8 млн параметров. Модель предназначена для классификации токенов при анализе макета документа: она обрабатывает текст вместе с визуальной и пространственной информацией страницы, чтобы определять типы элементов разметки. В карточке приведены результаты оценки: F1 0,6667, точность 0,8720, precision 0,6179 и recall 0,7238. Модель подходит для извлечения структуры из документов на английском языке, например для распознавания заголовков, таблиц и других областей макета. Указанная лицензия CC BY-NC-SA 4.0 требует атрибуции, запрещает коммерческое использование и распространяет производные материалы на тех же условиях. Карточка не описывает ограничения подробнее; результаты оценки показывают, что качество классификации зависит от выбранной метрики.
Lazarus-2407-100B — плотная языковая модель TheDrummer на архитектуре Mistral, созданная как обрезанная версия Mistral Large 2407 123B. Веса объединены методом passthrough из диапазонов слоёв исходной модели; репозиторий содержит формат Safetensors. Модель рассчитана на генерацию текста и диалоговое взаимодействие, включая интерфейс вызова инструментов. Размер составляет 100,1 млрд параметров, длина контекста — 131 072 токена. Модель подходит для генерации ответов и ведения диалогов с длинным контекстом. В карточке указана лицензия other, поэтому условия использования следует сверить с лицензией и материалами исходной модели Mistral Large 2407; README не уточняет ограничения применения или качество. Русский язык отдельно не заявлен.
unsloth/LFM2.5-230M-GGUF — квантизированная версия компактной текстовой модели LFM2.5-230M, разработанной Liquid AI и подготовленной в формате GGUF командой Unsloth. Модель предназначена для локального и периферийного развертывания с использованием llama.cpp и совместимых инструментов, включая устройства с ограниченными ресурсами. Она подходит для извлечения данных, легковесных агентских сценариев и задач с вызовом инструментов. Модель содержит 230 млн параметров и использует гибридную архитектуру из 14 слоёв: 8 блоков double-gated LIV convolution и 6 блоков GQA. Контекстное окно составляет 32 768 токенов, размер словаря — 65 536 токенов, дата отсечения знаний — середина 2024 года. Поддерживаются английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский и испанский языки. Это text-only модель без заявленной поддержки изображений или других модальностей. К сильным сторонам относятся небольшой размер, высокая скорость инференса и пригодность для работы на CPU, мобильных устройствах и периферийных системах. Модель поддерживает function calling и была оптимизирована для извлечения данных и агентских конвейеров. Ограничения связаны с малым числом параметров: модель не рекомендуется для сложных рассуждений, продвинутой математики, генерации кода и творческого письма. Лицензия указана как lfm1.0; GGUF-формат предназначен для инференса и локального развертывания, а не как основной формат для дообучения.
SCUT-DLVCLab/lilt-roberta-en-base — базовая модель LiLT, разработанная SCUT-DLVCLab и представленная в работе Wang и соавторов о языково-независимом трансформере для понимания структурированных документов. Она объединяет предварительно обученный англоязычный RoBERTa с трансформером LiLT, который обрабатывает структуру и расположение элементов документа. Модель содержит 151,8 млн параметров, принимает текст вместе с информацией о компоновке и имеет контекст до 514 токенов. Модель предназначена для дообучения под классификацию изображений документов, разбор документов и ответы на вопросы по документам. LiLT позволяет сочетать языковый энкодер RoBERTa с обработкой макета, однако этот вариант использует именно англоязычный RoBERTa; поддержка других языков зависит от выбранного языкового энкодера. В репозитории доступны веса PyTorch и Safetensors. Лицензия — MIT.
itims/llama-3.1-8b-finetuned — дообученная языковая модель, разработанная itims на основе unsloth/llama-3.1-8b-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель поддерживает английский язык, имеет контекстное окно 131 072 токена и распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальную предметную область или конкретные улучшения после дообучения, поэтому качество на узких задачах не установлено.
Это преобразованная сообществом mlx-community версия диалоговой модели NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF, подготовленная для запуска в формате MLX на Apple Silicon. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров; длина контекста — до 131 072 токенов. Она предназначена для генерации текста в ответ на инструкции и запросы, поддерживает чат и интерфейс вызова инструментов. Модель дообучена NVIDIA на базе Llama 3.1 Nemotron с использованием HelpSteer2, а затем конвертирована в MLX; в репозитории указана версия bf16. Подходит для диалоговых ассистентов, ответов на вопросы и выполнения текстовых инструкций. Карточка и метаданные указывают английский язык. Для использования действуют условия лицензии Llama 3.1; запуск через MLX ориентирован на устройства Apple Silicon.
Llama-3.2-3B-Instruct-GGUF — квантованная версия инструкционной языковой модели Llama-3.2-3B-Instruct, разработанной Meta и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-взаимодействие и вызов инструментов с формированием JSON-запросов функций. Модель содержит около 3 миллиардов параметров, работает с текстом и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный размер контекста составляет 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0 и F16 с размером файлов примерно от 581 МБ до 1,32 ГБ. В README рекомендуются варианты Q4_K_M, Q5_K_M и Q5_K_S как компромисс между размером и качеством; более агрессивное квантование уменьшает размер, но может заметно ухудшать качество ответов. Модель подходит для локального запуска на устройствах с ограниченными ресурсами и интеграции через LlamaEdge, включая сервисный и командный режимы. Для работы требуется совместимая версия LlamaEdge; в README указана версия v0.16.5 или новее. Ограничения включают снижение качества в младших вариантах квантования, а также отсутствие сведений о мультимодальности и подробных результатах оценки. Модель распространяется по лицензии Llama 3.2.
Модель LinkTransformer разработана для сопоставления записей и сущностей с помощью текстовых эмбеддингов. Она дообучена авторами LinkTransformer на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2 и адаптирована для связывания товаров с промышленными классификациями ISIC по данным соответствий продуктовых классификаций статистики ООН. Архитектура — XLM-RoBERTa с mean pooling; модель содержит 305,2 млн параметров и преобразует текст в плотные векторы размерности 768. Максимальная длина последовательности в конфигурации README — 128 токенов, а нативный контекст по метаданным — 514 токенов. Основные сценарии — сопоставление товаров и промышленных категорий, связывание записей, дедупликация и кластеризация. Эмбеддинги также подходят для семантического поиска и других задач сходства предложений в Sentence Transformers. В карточке заявлена предобученная поддержка английского, французского и испанского языков. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.
lt-wikidata-comp-en — англоязычная модель LinkTransformer, разработанная исследователями Harvard. Это дообученная модель Sentence Transformers на базе multi-qa-mpnet-base-dot-v1, с архитектурой MPNet и 136,7 млн параметров. Она кодирует предложения и абзацы в плотные векторы размерности 768; максимальная длина последовательности составляет 512 токенов. Модель предназначена прежде всего для сопоставления записей и сущностей по названиям и их вариантам, обучена на алиасах компаний из Wikidata. В LinkTransformer её можно применять для связывания записей, дедупликации, кластеризации и агрегации; также она подходит для семантического поиска и других задач сходства предложений в Sentence Transformers. Репозиторий содержит веса в формате safetensors. Карточка не приводит результатов количественной оценки качества, поэтому качество на данных, отличающихся от алиасов компаний из Wikidata, следует проверять отдельно. Лицензия в предоставленных данных не указана.
Moritz Laurer разработал эту многоязычную модель на базе mDeBERTa-v3-base от Microsoft для вывода на естественном языке (NLI) и классификации текстов без обучения на заданных пользователем категориях. Модель сопоставляет текст-предпосылку с гипотезой и оценивает их отношение; для классификации гипотезы формулируют как категории-кандидаты. Она относится к архитектуре DeBERTa-v2, содержит 306 млн параметров и принимает пары текстов с контекстом до 512 токенов. Модель обучена на XNLI и многоязычном наборе NLI из 2,73 млн пар; README также указывает общий обучающий набор размером 3 287 280 пар. Она предназначена для многоязычного zero-shot-классифицирования и NLI. Предобучение базовой модели охватывает 100 языков, а NLI-дообучение — 27 языков, включая русский; перенос на остальные языки возможен, но его качество может быть ниже. В карточке приведены результаты оценки на XNLI и нескольких англоязычных наборах. К ограничениям относятся возможные смещения наборов NLI и ошибки машинного перевода в обучающих данных, способные ухудшать вывод на сложных примерах. Модель распространяется по лицензии MIT; для запуска нужны совместимые версии Transformers, поскольку старые версии могут иметь проблемы с токенизатором.
Это диалоговая языковая модель Hjgugugjhuhjggg/mergekit-ties-esawwda, созданная объединением нескольких моделей семейства Llama 3.2 с помощью метода TIES и инструмента mergekit. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли модели для чата, генерации кода, медицинских вопросов и ответов и генерации художественного текста. Модель предназначена для генерации текста и ответов в диалоге. Она содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 131 072 токена. Метаданные указывают поддержку чата и интерфейс вызова инструментов. Языки модели в предоставленных данных не перечислены. Модель объединяет возможности нескольких специализированных чекпойнтов, но качество и устойчивость по отдельным задачам могут различаться. README не содержит сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя.
Модель nicolepcx/Meta-Llama-3.1-8B-Instruct-tiny разработана nicolepcx и представляет собой дообученную инструктивную модель семейства Llama 3.1 с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. В качестве основы указана unsloth/meta-llama-3.1-8b-instruct-bnb-4bit; для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций; интерфейс также поддерживает вызов инструментов. Метаданные указывают английский язык и контекстное окно до 131 072 токенов. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0.
MiniCPM5-1B-heretic — модифицированная версия MiniCPM5-1B, разработанная автором RACER IS OP на основе модели openbmb. С помощью Heretic v1.4.0 к модели применена направленная абляция: целевые изменения весов в выходных проекциях attention и down-projection MLP подавляют поведение, связанное с отказами, без дообучения. Заявлено, что при этом в основном сохраняются знания, следование инструкциям, генерация кода, рассуждения и использование инструментов. Модель предназначена для диалоговых приложений, локальных агентов, генерации кода, function calling, ролевых сценариев и исследований механизмов alignment и отказов. Это текстовая causal language model примерно на 1,1 млрд параметров с поддержкой английского и китайского языков, контекста до 128K токенов и режимов Think/No-Think. Доступны форматы Transformers и GGUF, запуск возможен через llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang; модель ориентирована на потребительские GPU, CPU, Apple Silicon и edge-устройства. Ключевое заявленное преимущество — существенное снижение отказов: 2 из 100 против 96 из 100 у исходной MiniCPM5-1B в описанном тесте, при низком KL-divergence 0,0381. Ограничения включают небольшой для сложных задач размер модели, возможное снижение качества на низких уровнях квантования и отсутствие защитных ограничений, поэтому результаты и безопасность применения требуют дополнительной проверки. Указана лицензия Apache-2.0.
Карточка модели NostraEmpire/mirror-deepseek-r1-distill-qwen-14b на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.
Карточка модели NostraEmpire/mirror-deepseek-r1-distill-qwen-32b на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.