I.14Автоматизация процессов и AI-агенты

FriendliAI публикует FP8-версию диалоговой модели Meta Llama 2 7B Chat. Это плотная авторегрессионная Transformer-модель класса LlamaForCausalLM с 6,6 млрд параметров, настроенная для чата с помощью supervised fine-tuning и обучения с обратной связью от людей. Она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и предназначена прежде всего для англоязычного общения с ассистентом и генерации ответов. Квантизация FP8 повышает эффективность инференса при сохранении заявленного в README высокого качества. Для запуска модель рассчитана на Friendli Container; FP8 поддерживается GPU NVIDIA Ada, Hopper и Blackwell. Использование регулируется лицензией Meta Llama 2: для доступа к исходным весам и токенизатору требуется принять её условия. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением следует проверить её на сценариях приложения.

Sharpaxis/Llama-2-7_Ethical_Guardian — дообученная с помощью QLoRA модель на базе NousResearch/Llama-2-7b-chat-hf, предназначенная для выявления конфиденциальных и чувствительных сведений в тексте. Она ищет персональные данные, API-ключи, финансовую информацию, учётные данные и конфиденциальные сведения компаний, а также может объяснять, почему фрагмент выглядит чувствительным. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Карточка описывает применение для модерации содержимого, предотвращения утечек данных, проверок соответствия требованиям и аудита текстовых коммуникаций. В метаданных указаны английский язык и лицензия Apache-2.0. Это вспомогательный инструмент для защиты данных; результаты выявления следует проверять, поскольку карточка не приводит оценок качества и не гарантирует обнаружение всех чувствительных сведений. Обучение проводилось на синтетическом наборе synapsecai/synthetic-sensitive-information.

llama-3-sqlcoder-8b-GGUF — это набор GGUF-квантизованных версий языковой модели llama-3-sqlcoder-8b, разработанной Defog и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и, судя по названию и исходной модели, ориентирована прежде всего на задачи, связанные с SQL и программным кодом. README не содержит подробного описания архитектуры, языков, поддерживаемых модальностей или размера контекста. Квантизация выполнена с помощью llama.cpp версии b2940 и метода imatrix. Доступны варианты от Q8_0 до крайне компактных IQ1, поэтому можно выбирать между качеством вывода и требованиями к памяти; наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Более агрессивные варианты занимают меньше места, но дают заметно более низкое качество и могут быть непригодны для некоторых задач. Для работы следует использовать указанный формат prompt с системным сообщением, пользовательским запросом и ответом ассистента. Лицензия модели — CC BY-SA 4.0. README не описывает результаты бенчмарков, ограничения по коммерческому применению или требования к аппаратному обеспечению, поэтому качество генерации SQL и практическую производительность необходимо оценивать отдельно для конкретного сценария.

Lostbel0/losty-v4-merged-2 — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. В метаданных модель связана с архитектурой Llama и имеет около 7,5 млрд параметров; сведения о разработчике, базовой модели, обучающих данных и лицензии отсутствуют. Модель подходит для генерации и продолжения текста, диалоговых сценариев и интеграции в приложения на базе Transformers. Заявленная длина контекста составляет 131 072 токена, однако поддерживаемые естественные языки в доступных данных не указаны. Карточка не содержит результатов оценки, описания обучения, рекомендаций по применению или подробностей о рисках. Поэтому качество, фактическая точность, устойчивость к вредным или предвзятым ответам и пригодность для критически важных задач требуют самостоятельного тестирования; условия лицензии также необходимо уточнить перед использованием.

Lumma-Fev-9B — плотная модель принятия решений семейства FEV от FrontiersMind. Она обрабатывает один документ или состояние, представленное текстом, JSON-объектом либо массивом, и набор типизированных вопросов, возвращая распределение вероятностей для каждого вопроса за один проход. Модель не генерирует текст; доступны ответы форматов yes/no, выбор из вариантов и оценка по упорядоченной шкале. Модель предназначена для классификации и структурированных решений по содержимому документов: например, для присвоения категории, определения эмоции или извлечения ответа на типизированный вопрос. В README приведены результаты на Typed-decisions, AG News и DAIR Emotion, однако они не гарантируют качество на пользовательских данных. Вопросы обрабатываются независимо друг от друга. Репозиторий использует библиотеку Transformers и формат safetensors; точное число параметров в предоставленных сведениях не указано. Лицензия — Apache-2.0. Уверенность и вероятности являются оценками модели, поэтому их калибровку следует проверить на размеченных данных перед использованием для автоматических решений.

M7Yamshadowexperiment28-7B — объединённая языковая модель, созданная Maxime Labonne автоматическим слиянием liminerity/M7-7b и automerger/YamshadowExperiment28-7B. Веса объединены методом SLERP с настройками для слоёв self-attention и MLP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов, принимает текст и выдаёт текст. Её контекст составляет 32 768 токенов. В репозитории указаны веса Safetensors и лицензия Apache-2.0. README не описывает специализацию по предметной области или конкретные языки.

M7Yamshadowexperiment28_Experiment28Inex12 — объединённая модель для генерации текста, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28Inex12-7B. Она использует плотную архитектуру Mistral с причинной языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. Карточка не описывает специальные сценарии, языки или дополнительные возможности, поэтому модель можно охарактеризовать как универсальную генеративную языковую модель. Веса опубликованы в формате safetensors, лицензия — Apache-2.0.

Mayoroya — объединённая диалоговая языковая модель, созданная Eric111 с помощью mergekit на основе Eric111/Mayo и Eric111/Roya. Она предназначена для генерации текста в формате диалога и ответов на инструкции. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README указан метод слияния SLERP с настройками, различающимися для слоёв self-attention и MLP. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает отдельные специализированные области применения или подтверждённые языки.

Карточка модели mergekit-community/mergekit-slerp-bjlsrkr на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jlrpbqb, поэтому описание составлено по ней. Это объединённая модель генерации текста на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит около 7,1 млрд параметров, рассчитана на диалоговое применение и использует контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других сценариев генерации текста. Веса доступны в формате Safetensors и имеют тип bfloat16. В метаданных указана библиотека Transformers. Сведения о лицензии и конкретных ограничениях поведения в предоставленных данных отсутствуют.

Карточка модели mergekit-community/mergekit-slerp-hsdezod на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jlrpbqb, поэтому описание составлено по ней. Это объединённая модель генерации текста на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит около 7,1 млрд параметров, рассчитана на диалоговое применение и использует контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других сценариев генерации текста. Веса доступны в формате Safetensors и имеют тип bfloat16. В метаданных указана библиотека Transformers. Сведения о лицензии и конкретных ограничениях поведения в предоставленных данных отсутствуют.

Карточка модели mergekit-community/mergekit-slerp-vhzhpmg на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jlrpbqb, поэтому описание составлено по ней. Это объединённая модель генерации текста на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит около 7,1 млрд параметров, рассчитана на диалоговое применение и использует контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других сценариев генерации текста. Веса доступны в формате Safetensors и имеют тип bfloat16. В метаданных указана библиотека Transformers. Сведения о лицензии и конкретных ограничениях поведения в предоставленных данных отсутствуют.

Карточка модели Hanuman2/mergekit-slerp-xwepacy на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-gmjabaw, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-gmjabaw — объединение языковых моделей, созданное сообществом с помощью mergekit и метода SLERP. В него вошли NousResearch/Hermes-2-Pro-Mistral-7B и WizardLMTeam/WizardMath-7B-V1.1; конфигурация использует Hermes в начальных и конечных слоях, а WizardMath — в средних. Модель основана на плотной архитектуре Mistral, содержит 7,1 млрд параметров и принимает текст для генерации текста в диалоговом формате. Заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, выполнения инструкций и математических запросов, сочетая возможности входящих в объединение моделей. В метаданных указана библиотека Transformers и формат safetensors. Лицензия в предоставленных сведениях не указана.

dddsaty выпустил Merge_Sakura_Solar — разговорную модель генерации текста на архитектуре Llama с 10,6 млрд параметров. Она объединяет Sakura-SOLAR-Instruct, Sakura-SOLRCA-Instruct-DPO и Sakura-SOLRCA-Math-Instruct-DPO-v2 с помощью mergekit и метода dare_ties. Модель предназначена для диалогов, ответов на вопросы и решения математических задач. В карточке приведены результаты тестов ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; средний балл указан как 74,03. Поддерживает контекст до 4096 токенов и работает с текстом на английском языке. Модель распространяется в формате safetensors по лицензии CC BY-NC-SA 4.0. По условиям лицензии производные материалы должны распространяться на тех же условиях, требуется указание авторства, а коммерческое использование запрещено.

MFANN-Llama3.1-Abliterated-SLERP-TIES-V2 — объединённая текстовая модель семейства Llama 3.1 от netcat420, созданная с помощью mergekit методом TIES на основе Meta Llama 3.1 8B Instruct Abliterated и двух моделей MFANN. Модель предназначена для диалогов и генерации ответов; в карточке описаны обычный режим помощника и экспериментальный режим SATANN для задач кибербезопасности. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат весов — safetensors, заявленный контекст — 131 072 токена. README приводит настройки генерации и контекст 8 192 токена для конкретной конфигурации GPT4All. Модель рассчитана на текстовый ввод и вывод. Лицензия — Apache-2.0. Поскольку это объединение abliterated-моделей, ответы могут иметь ослабленные ограничения; для сценариев кибербезопасности качество и поведение следует оценивать отдельно.

Trelis Research выпустила чат-модель Trelis/Mistral-7B-v0.1-chat-SFT — дообученную методом SFT версию Mistral-7B-v0.1 для генерации текста в диалоге. В карточке указано, что при настройке использован шаблон Llama 2; базовая архитектура — плотный трансформер Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель подходит для создания чат-ботов, ответов на текстовые запросы и генерации продолжений текста на английском языке. Она распространяется в формате safetensors по лицензии Apache-2.0. В карточке базовой Mistral отмечено отсутствие встроенных механизмов модерации; качество и поведение дообученной чат-версии могут отличаться от базовой модели.

edinlp/mistral-7b-v0.3-sft — дообученная языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана на основе mistralai/Mistral-7B-v0.3 и дообучена на наборе данных openhermes-2.5; метаданные отмечают возможность диалогового использования. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, а базовая модель поддерживает контекст до 32 768 токенов. В README не приведены результаты оценки качества или подробные рекомендации по применению. Лицензия указана как other, поэтому конкретные условия использования следует сверить с карточкой модели и файлами лицензии репозитория.

Dory 12b — дообученная BeaverAI версия Mistral Nemo Base 2407 с 12,1 млрд параметров. Модель предназначена для генерации текста в формате инструкций и диалога; для запросов используется шаблон с секциями System, Instruction и Response, похожий на Alpaca. Модель не ориентирована специально на эротический или ролевой контент. Она построена на плотной архитектуре Mistral и распространяется в формате safetensors через библиотеку Transformers. В метаданных указан контекст до 1 024 000 токенов и поддержка английского языка. Модель выпущена под лицензией Apache-2.0. README не приводит результатов оценки качества или подробностей о данных дообучения, кроме указания датасета BeaverAI/Nemo-Inst-Tune-ds в метаданных.

nlpguy выпустил объединённую языковую модель для генерации текста. Она создана методом passthrough mergekit на основе nvidia/Mistral-NeMo-Minitron-8B-Base; в репозитории указано 11,9 млрд параметров, архитектура MistralForCausalLM и формат safetensors. Модель принимает текст и генерирует текст, поддерживая контекст до 8192 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. В README указана лицензия «other», поэтому условия использования следует сверить с лицензией и правилами базовой модели NVIDIA перед применением.

Mistral-ORPO-Capybara-7k — диалоговая языковая модель, созданная на базе Mistral-7B-v0.1 и дообученная методом ORPO авторами репозитория KAIST AI. Модель обучали на 7 тысячах примеров многоходовых диалогов из набора argilla/distilabel-capybara-dpo-7k-binarized; ORPO позволяет оптимизировать предпочтения ответов без предварительного этапа supervised fine-tuning. Модель предназначена для генерации ответов в чат-ботах, ведения диалога и выполнения инструкций на английском языке. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. В README приведены результаты сравнительных оценок на AlpacaEval, MT-Bench и IFEval, но они не гарантируют качество для конкретного применения. Вес опубликован в формате Safetensors под лицензией MIT. Дообучение на сравнительно небольшом наборе данных может ограничивать охват тем и надёжность ответов; модель также наследует ограничения базовой Mistral-7B-v0.1.

ayoubkirouane/Mistral-SLERP-Merged7B — объединённая методом SLERP языковая модель на архитектуре Mistral, созданная из MetaMath-Mistral-7B и NeuralHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев; объединение сводит в одном чекпойнте возможности математической модели MetaMath и разговорной NeuralHermes. Возможные задачи — ответы на вопросы, объяснение решений математических задач и ведение диалога. В метаданных указана поддержка английского, французского и арабского языков. Вес опубликован в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. Карточка не приводит отдельных оценок качества или подробных результатов тестирования.

allistair99 разработал дообученную версию csarron/mobilebert-uncased-squad-v1 для извлечения ответов на вопросы по предоставленному тексту. Модель использует архитектуру MobileBERT, содержит 59,7 млн параметров и рассчитана на контекст до 512 токенов. В репозитории указана оценка Loss 0,9972 на наборе для оценки; обучающий набор не назван. Модель подходит для поиска короткого ответа в тексте по вопросу, например, при извлечении фактов из документов. Базовая модель ориентирована на английский язык. Модель распространяется по лицензии MIT.

wwydmanski/modernbert-pubmed-v0.1 — англоязычная Sentence Transformer модель, дообученная разработчиком на базе answerdotai/ModernBERT-base на наборе пар и троек текстов из 10 053 примеров. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости по косинусному сходству. Модель предназначена для семантического поиска и сопоставления текстов, включая поиск похожих публикаций и документов PubMed, извлечение перефразировок и кластеризацию. Также полученные векторы можно использовать в классификации текста. Архитектура состоит из ModernBERT и среднего объединения токенных представлений; максимальная длина входа — 512 токенов. В README приведена точность cosine_accuracy 0,887 на triplet-dev, однако подробностей о протоколе оценки нет. В метаданных указана лицензия? Нет сведений о лицензии, поэтому условия использования по лицензии определить нельзя.

zelk12/MT1-Gen3-BB-gemma-2-MTg2S2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT-Gen2-gemma-2-9B и allknowingroger/Gemmaslerp2-9B. Модель содержит 9 млрд параметров и предназначена для генерации текста и диалогового общения; поддерживает чатовый сценарий. Нативное контекстное окно — 8192 токена. Модель принимает текст и генерирует текст. Репозиторий использует формат safetensors, а карточка указывает библиотеку Transformers. Лицензия в предоставленных данных не указана.

zelk12/MT1-Max-Merge_02012025163610-MM-gemma-2-MTM5MTM1-9B — объединённая методом SLERP языковая модель, созданная с помощью mergekit на основе zelk12/MT-Merge5-gemma-2-9B и zelk12/MT-Merge1-gemma-2-9B. Это плотная модель Gemma 2 с 9 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 8192 токена. Модель подходит для чат-ботов, ответов на вопросы и генерации текста. Метаданные указывают на поддержку разговорного режима, однако карточка не уточняет языки, качество на отдельных задачах или дополнительные специализированные возможности. Модель опубликована в формате safetensors для библиотеки Transformers. Условия лицензирования в предоставленных данных не указаны.

zelk12 объединил методом SLERP две предварительно обученные языковые модели на базе Gemma 2 и опубликовал результат с помощью mergekit. Это плотная авторегрессионная модель с 9 млрд параметров для диалогов и генерации текста по запросу; репозиторий содержит веса Safetensors, а контекстное окно составляет 8192 токена. Модель предназначена для чат-сценариев и генерации ответов на текстовые запросы. README описывает способ объединения и исходные модели, но не указывает отдельную специализацию или языковой охват. Лицензия в предоставленных данных не указана.

zelk12/MT4-Gen2-gemma-2-9B — объединённая разговорная языковая модель семейства Gemma 2, опубликованная в формате safetensors для использования с Transformers. Это плотная авторегрессионная модель на 9 млрд параметров; она создана слиянием SLERP двух предварительно обученных моделей: zelk12/MT4-Gen2-IMM-gemma-2-9B и zelk12/MT4-Gen2-GBMAMU-gemma-2-9B. В конфигурации слияния указаны bfloat16 и параметр t=0.25. Модель предназначена для генерации текста и диалоговых сценариев: она может отвечать на запросы и продолжать текст. Контекстное окно составляет 8192 токена. Карточка приводит результаты оценки на Open LLM Leaderboard, в том числе IFEval и BBH, но не описывает целевые области применения или языковую специализацию. Лицензия в предоставленных данных не указана.

zelk12 создал разговорную модель MT4-Gen5-BB-gemma-2-MT3g4MT3g2-9B, объединив методом SLERP предварительно обученные модели zelk12/MT3-Gen4-gemma-2-9B и zelk12/MT3-Gen2-gemma-2-9B. Это плотная авторегрессионная языковая модель семейства Gemma 2 с 9 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 8192 токена. Модель доступна в формате safetensors для библиотеки Transformers и помечена как разговорная. Данных о лицензии и поддерживаемых естественных языках в предоставленных сведениях нет.

cservan/multilingual-albert-base-cased-128k — предварительно обученная многоязычная модель ALBERT с архитектурой AlbertForMaskedLM, предназначенная для восстановления замаскированных токенов и получения контекстных представлений текста. Разработчик карточки описывает её как вторую версию базовой модели mALBERT; обучение проводилось на многоязычной Википедии с задачами masked language modeling и предсказания порядка предложений. Модель различает регистр букв и имеет словарь SentencePiece размером 128 тысяч токенов. В метаданных указаны 211,6 млн параметров и контекст до 512 токенов. Модель рассчитана прежде всего на дообучение для классификации последовательностей и токенов, заполнения пропусков и ответов на вопросы, а также на извлечение признаков для таких задач. Метаданные перечисляют поддержку множества языков, включая русский, английский, французский, немецкий, испанский и китайский; карточка подчёркивает многоязычную предобученность. ALBERT использует общие веса повторяющихся слоёв, что снижает объём параметров относительно обычного BERT-подобного стека, хотя вычислительная нагрузка остаётся сопоставимой. Модель распространяется по лицензии Apache-2.0. Она не предназначена для свободной генерации связного текста; для прикладных задач обычно требуется дообучение.

Mohamed-Gamil/multilingual-e5-small-JapaneseTeacher — модель Sentence Transformers, дообученная на базе intfloat/multilingual-e5-small для создания эмбеддингов предложений и абзацев. Она использует архитектуру BERT с усреднением токенных представлений и нормализацией, выдаёт плотные векторы размерности 384 и сравнивает их с помощью косинусного сходства. Максимальная длина последовательности — 512 токенов; число параметров — 124,3 млн. Модель предназначена для семантического поиска и сопоставления текстов, включая оценку сходства, поиск перефразировок, кластеризацию и классификацию на основе эмбеддингов. В README указаны английский язык и обучающие пары anchor-positive; примеры обучающих данных содержат японский текст и грамматические пояснения, поэтому возможна специализация на сопоставлении японских учебных материалов, но её охват не подтверждён отдельным описанием. Доступна по лицензии Apache-2.0.

diegolacomba выпустил sentence-transformers-модель для получения эмбеддингов предложений и абзацев. Она основана на BERT и преобразует текст в плотные векторы размерностью 384; представление строится усреднением токенных эмбеддингов. Для сравнения текстов предусмотрена косинусная близость. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. Максимальная длина входа — 512 токенов. В названии указано назначение для юридических текстов, однако README не уточняет языки обучения или конкретные юридические задачи. Метаданные указывают формат safetensors; лицензия не приведена.