I.14Автоматизация процессов и AI-агенты

seansitter/bge-m3-safetensors — конвертированная версия многоязычной модели эмбеддингов BAAI/bge-m3, подготовленная для плотного извлечения признаков и инференса через transformers backend в vLLM. Модель основана на архитектуре XLM-RoBERTa и содержит 658,7 млн параметров; заявленный контекст — 8194 токена. Репозиторий предоставляет веса в формате safetensors с именами параметров, совместимыми с указанным способом загрузки в vLLM; веса битово эквивалентны исходным, переобучения не было. Модель подходит для создания текстовых эмбеддингов, семантического поиска и вычисления сходства предложений на разных языках. В этой версии оставлены компоненты для плотных эмбеддингов, а вспомогательные головы для ColBERT и разреженного поиска исключены. Лицензия — MIT. Для запуска по описанному в карточке сценарию требуется vLLM с transformers backend и режимом pooling.

meet5568/bhash_finetune_phaseB — модель Sentence Transformer на архитектуре BERT, обученная разработчиком meet5568 для представления предложений и абзацев в виде плотных векторов размерностью 768. Она предназначена для измерения семантического сходства, семантического поиска, поиска перефразировок, классификации и кластеризации текстов. Для сравнения векторов в карточке рекомендована косинусная близость; модель рассчитана на последовательности до 512 токенов согласно метаданным Hugging Face. В README описано обучение на 3 200 примерах с TripletLoss и максимальной длиной входа 400 токенов. Векторы можно использовать в системах поиска, группировки и классификации текста. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

AronowLab разработала sentence-transformers-модель bond-embed-v1-fp16 для получения плотных векторных представлений предложений и абзацев. Модель основана на BERT с 50,3 млн параметров; среднее объединение токенных представлений формирует эмбеддинг размерности 384. Максимальная длина входа — 1024 токена, для сравнения используется косинусное сходство. Модель обучена на 1 441 905 парах текстов с функцией CachedMultipleNegativesRankingLoss. Её можно применять для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В карточке приведена оценка на owl_ontology_eval: cosine_accuracy@1 — 0,6303, @3 — 0,8148, @5 — 0,8775. Языки обучения и область применения в карточке не обозначены, поэтому нельзя считать показатели универсальными для других корпусов. Доступна в формате safetensors; сведения о лицензии не предоставлены.

Chichu 2.0 500M Instruct — компактная языковая модель на 494 млн параметров, разработанная Sebastianpro88 и дообученная методом LoRA на базе Qwen/Qwen2.5-0.5B-Instruct. Для обучения использован корпус дистилляции ответов нескольких моделей, охватывающий математику, программирование, рассуждения и выполнение инструкций. Модель предназначена для диалогов и генерации текста по инструкциям, в том числе для задач с кодом, математикой и логическими рассуждениями. Это плотная архитектура Qwen2 с контекстом до 32 768 токенов; модель принимает и выдаёт текст. Карточка указывает лицензию «other», но не уточняет её условия, поэтому перед использованием следует проверить сведения о лицензировании в репозитории.

navneet11/contrastive-relevance-v1 — текстовый энкодер Sentence Transformers, дообученный разработчиком на базе sentence-transformers/all-MiniLM-L6-v2. Он преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384 и подходит для семантического поиска, сравнения сходства, поиска перефразировок, классификации и кластеризации. Архитектура включает BERT, усреднение токенных представлений и нормализацию; для сравнения векторов используется косинусное сходство. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 256 токенов. Модель предназначена для сопоставления текстовых запросов с документами и поиска смыслово близких фрагментов. В примерах обучающих данных — финансовые и деловые новости; обучение описано как короткое дообучение на 192 образцах с MultipleNegativesRankingLoss. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

teven/cross_all_bs320_vanilla_finetuned_WebNLG2020_relevance — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска семантически близких текстов, кластеризации и сопоставления релевантности. Модель предназначена для векторного поиска и других задач, где нужно сравнивать смысл текстов; для работы подходят Sentence-Transformers и Transformers с соответствующей операцией pooling. Максимальная длина контекста составляет 514 токенов. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Это дообученный Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2, созданный автором репозитория opnsrcntrbtrian. Модель кодирует предложения и абзацы в плотные семантические векторы размерности 384 для поиска по смыслу и извлечения релевантных текстов. Архитектура включает энкодер BERT, mean pooling и нормализацию векторов; используется косинусное сходство. Модель принимает только текст. В README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст 512 токенов; поэтому фактический предел следует сверять с используемой конфигурацией. Для поиска её можно применять вместе с индексом векторного поиска и сравнивать векторы запросов и документов. Данных о лицензии в предоставленных источниках нет.

bartowski/DeepSeek-Coder-V2-Instruct-GGUF — это набор квантованных версий модели DeepSeek-Coder-V2-Instruct, разработанной DeepSeek и преобразованной bartowski в формат GGUF для запуска через llama.cpp и совместимые инструменты. Модель предназначена прежде всего для генерации текста и работы с программным кодом в диалоговом формате: написания, дополнения и объяснения кода, а также решения связанных с программированием задач. В набор входят варианты квантования Q4_K_M, Q3_K_XL, Q3_K_M, Q2_K_L, Q2_K, IQ2_XS и IQ1_M размером примерно от 52,7 до 142,45 ГБ. Квантование выполнено с использованием imatrix и llama.cpp. Версия Q4_K_M отмечена как рекомендуемая благодаря балансу качества и размера; варианты с более сильным сжатием требуют меньше памяти, но обеспечивают более низкое качество, а IQ1_M обозначена как крайне низкокачественная и нерекомендуемая. Точные архитектурные характеристики, число параметров, поддерживаемые языки и размер контекста в README не указаны. Модель подходит для локального запуска при наличии значительных ресурсов RAM и, при необходимости, VRAM; выбор файла зависит от доступной памяти и используемого backend. Поддерживаются K- и I-кванты, при этом совместимость и производительность могут различаться для CPU, Apple Metal, NVIDIA cuBLAS, AMD rocBLAS и Vulkan. Модель распространяется по лицензии DeepSeek License; в карточке указано обозначение лицензии и ссылка на файл LICENSE.

DeepSeek-R1-Distill-Qwen-7B-bnb-4bit — это 4-битно квантованная версия модели DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на базовой модели deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Модель относится к семейству плотных языковых моделей Qwen, дистиллированных из DeepSeek-R1, и предназначена для исследовательских и прикладных задач, требующих рассуждений, включая решение математических задач, программирование, анализ и генерацию текста. В README также упоминается применение для диалоговых сценариев и текстового завершения через экосистему Transformers и инструменты Unsloth. Модель имеет размер 7B параметров и поддерживает английский язык; другие языки и мультимодальные возможности в предоставленных данных не указаны. Суффикс bnb-4bit указывает на 4-битное представление в формате, связанном с bitsandbytes, что снижает требования к памяти и делает запуск доступнее на ограниченных по ресурсам GPU, однако может сопровождаться компромиссом между качеством и точностью по сравнению с полной точностью. Архитектурные детали и размер контекста в README не приведены. Сильной стороной модели являются возможности рассуждения, унаследованные от DeepSeek-R1 и дистиллированные в компактную 7B-модель, а также более экономичное потребление памяти благодаря квантованию. Ограничения включают возможные ошибки, недостаточную читаемость или смешение языков, характерные для reasoning-моделей и упомянутые в контексте исходного семейства; конкретные результаты для этой версии не указаны. Модель распространяется по лицензии Apache-2.0.

DeepSeek-R1-Llama-8B-F32-GGUF — текстовая генеративная модель семейства Llama, основанная на DeepSeek-R1-Distill-Llama-8B. Она предназначена для решения задач, требующих пошаговых рассуждений, в том числе математических задач, программирования и ответов на сложные вопросы. В карточке описаны варианты весов GGUF в форматах BF16, F16 и F32; размер файла F32 составляет 32,1 ГБ. Модель генерирует текст и поддерживает рассуждения с самопроверкой и рефлексией. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. README называет её квантизированной версией, однако перечисленные файлы представлены в BF16, F16 и F32; конкретная степень квантизации не уточняется.

Dolphin 2.6 Mistral 7B DPO — языковая модель, созданная Eric Hartford при спонсорской поддержке Convai и дообученная на базе Mistral-7B. Это плотная авторегрессионная модель с 7,1 млрд параметров, рассчитанная на генерацию текста; она принимает запросы в формате ChatML. Контекст модели составляет до 32 768 токенов по метаданным, тогда как README указывает для базовой модели 16 тысяч токенов. Модель предназначена для диалога и особенно для задач программирования. DPO-настройка на предпочтениях повысила её склонность следовать инструкциям. Модель поддерживает английский язык; репозиторий содержит веса в формате safetensors. Лицензия Apache-2.0 допускает коммерческое использование. Автор описывает модель как uncensored и предупреждает, что она может выполнять вредоносные запросы. Перед использованием в сервисе следует самостоятельно настроить меры безопасности и фильтрацию. README не приводит законченных примеров вывода или результатов оценки, поэтому качество для конкретных задач стоит проверять отдельно.

E5-small-unsupervised — англоязычная модель эмбеддингов текста семейства E5, разработанная авторами работы Text Embeddings by Weakly-Supervised Contrastive Pre-training. Это версия E5-small без контролируемого дообучения; архитектура основана на BERT и содержит 12 слоёв, размер эмбеддинга — 384, число параметров — около 40 млн. Модель преобразует текстовые запросы и документы в векторы для поиска и сопоставления предложений. Она подходит для семантического сходства, поиска фрагментов в системах вопросно-ответного поиска, поиска перефразирований, кластеризации и использования эмбеддингов как признаков классификации. Для корректной работы следует добавлять префиксы «query: » и «passage: » в соответствии со сценарием; для симметричного сходства используется «query: » для обоих текстов. Модель принимает только английский текст, а последовательности длиннее 512 токенов обрезаются. Репозиторий предоставляет веса PyTorch и Safetensors; лицензия — MIT.

sreehari267/er_model — модель Sentence Transformer на базе MPNet, обученная сопоставлять предложения и абзацы по смыслу. Она преобразует текст в плотные эмбеддинги размерностью 768 и предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. В карточке указано обучение на наборе из 4 641 пары предложений с метками сходства; используется CosineSimilarityLoss. Архитектура включает MPNetModel, усреднение токенных представлений и нормализацию векторов. Метаданные указывают 136,7 млн параметров и контекст до 514 токенов; README задаёт максимальную длину последовательности 384 токена. Модель принимает текст и выдаёт 768-мерные векторы, которые можно сравнивать по косинусному сходству. Лицензия в предоставленных данных не указана.

F2LLM-v2-14B — мультиязычная модель для получения текстовых эмбеддингов из семейства F2LLM-v2, разработанного CodeFuse AI. Это плотная модель архитектуры Qwen3 с 14 млрд параметров и контекстом до 40 960 токенов; она принимает текст и выдаёт векторные представления. Семейство обучено на более чем 200 языках, уделяя особое внимание языкам с ограниченными ресурсами; метаданные этой модели отмечают поддержку русского и других языков. Модель предназначена для семантического поиска, ранжирования и переранжирования, поиска близких по смыслу текстов, кластеризации, оценки семантического сходства и поиска параллельных текстов. Поддерживает инструкции к запросам и Matryoshka Representation Learning: можно сокращать размерность эмбеддингов, чтобы экономить место и ускорять векторный поиск. Репозиторий содержит safetensors и использует библиотеку Transformers; лицензия — Apache-2.0. В карточке заявлены высокие результаты на широком наборе бенчмарков MTEB, однако точные показатели для этой версии здесь не приведены.

Это англоязычная модель Sentence Transformer, созданная автором kimquynh путём дообучения BAAI/bge-base-en-v1.5. Модель на базе BERT преобразует текст в плотные векторы размерности 768 и нормализует их; сходство векторов можно оценивать косинусной мерой. Репозиторий использует библиотеку sentence-transformers и формат safetensors. Модель предназначена для получения эмбеддингов предложений и абзацев, семантического поиска, извлечения релевантных текстов и сравнения сходства предложений. Контекст ограничен 512 токенами. В README приведены оценки на задачах сходства и бинарной классификации, однако качество зависит от данных и порога сравнения. Лицензия в предоставленных данных не указана. Модель ориентирована на английский текст; README не заявляет поддержку других языков.

Это дообученная модель Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, разработанная автором репозитория tikanosa. Она преобразует предложения и абзацы на входе в плотные векторы размерности 384 и предназначена для поиска и сравнения текстов по семантическому сходству. Модель использует архитектуру BERT с усредняющим pooling и косинусную функцию сходства. В README указан максимальный размер последовательности 128 токенов, тогда как метаданные каталога задают нативный контекст в 512 токенов. Для практической работы следует учитывать ограничение README в 128 токенов. Модель принимает текст и возвращает векторы; обучалась на 4 656 примерах с CosineSimilarityLoss. Данные подтверждают многоязычную основу, но не перечисляют конкретные поддерживаемые языки. Лицензия в предоставленных данных не указана.

Deehan1866 дообучил модель sentence-transformers/multi-qa-mpnet-base-dot-v1 на наборе PiC/phrase_similarity для сопоставления смысла английских фраз и предложений. Это Sentence Transformer на архитектуре MPNet с 136,7 млн параметров: он кодирует текст в плотные эмбеддинги размерности 768, а сходство между ними можно оценивать скалярным произведением. Максимальная длина последовательности — 514 токенов по метаданным; README указывает 512 токенов. Модель подходит для семантического поиска, оценки сходства и поиска перефразировок, а также для кластеризации и классификации текста на основе эмбеддингов. Она принимает текст и выдаёт векторы; карточка демонстрирует оценку на задаче бинарной классификации дубликатов вопросов, но не приводит полной информации о качестве на разнообразных наборах данных. Модель ориентирована на английский язык. Лицензия в предоставленных данных не указана.

German-RAG-NEMO-12B-SFT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer семейства Mistral, разработанная командой Avemio AI при поддержке Hessian AI. Модель содержит 12,1 млрд параметров и дообучена методом SFT на примерах для генерации с дополнением извлечёнными данными (RAG); в метаданных базовой моделью указана avemio/German-RAG-NEMO-12B-CPT-HESSIAN-AI. Модель предназначена для немецкоязычных бизнес-сценариев с RAG: ответов на вопросы по предоставленному контексту, извлечения релевантной информации и её суммаризации. Также карточка описывает примеры для рассуждений и вызова функций. Поддерживаются немецкий и английский языки; заявленная длина контекста — до 1 024 000 токенов. Модель доступна в формате safetensors по лицензии Apache 2.0. Ответы и факты могут быть неверными, поэтому их следует проверять. В README также отмечены риски предвзятости и генерации вредного или чувствительного контента без защитной фильтрации.

GIST-large-Embedding-v0 — текстовая модель эмбеддингов от avsolatorio, дообученная на базе BAAI/bge-large-en-v1.5 с использованием MEDI и обучающих данных классификации MTEB. Она кодирует текст в векторы для поиска и сравнения предложений; при построении эмбеддингов запросов инструкции не требуются. Модель основана на BERT, содержит 433,9 млн параметров, принимает текст длиной до 512 токенов и распространяется в формате safetensors через библиотеку Sentence Transformers. Модель подходит для семантического поиска, извлечения документов по запросу и оценки сходства текстов. По результатам MTEB дообучение улучшило отдельные задачи и ухудшило другие; в частности, отмечено снижение качества на TRECCOVID, поэтому результаты могут зависеть от тематического покрытия данных и целевого набора. Лицензия модели — MIT; лицензии сторонних обучающих данных могут иметь собственные условия.

GLiClass Qwen 0.5B v1.0 — компактная модель классификации последовательностей семейства GLiClass, представленная Knowledgator. Она выполняет классификацию без заранее заданного набора классов и подходит для определения тематики и тональности текста, а также для ранжирования результатов в RAG-сценариях. По карточке, модель использует подход LLM2Vec, преобразующий современный декодер в двунаправленный энкодер, и обрабатывает классификацию за один проход; автор заявляет более высокую вычислительную эффективность по сравнению с cross-encoder и расширенное контекстное окно. Модель обучена на синтетических данных; в метаданных указан датасет MoritzLaurer/synthetic_zeroshot_mixtral_v0.1. Карточка сообщает о сопоставимом с версией на DeBERTa качестве в zero-shot-режиме и сильных результатах в few-shot-режиме, но не приводит конкретных метрик. Доступны веса в форматах Safetensors и ONNX; лицензия Apache-2.0 допускает коммерческое применение. Карточка описывает поддержку английского языка.

ShiningValiant3 — дообученная Valiant Labs модель генерации текста на архитектуре GPT-OSS-20B с MoE. Она предназначена для научных рассуждений, проектирования систем искусственного интеллекта, решения сложных задач, общего и творческого reasoning, а также диалогов и следования инструкциям. В карточке указаны наборы данных с примерами рассуждений DeepSeek R1 0528; модель использует формат промпта gpt-oss-20b и обычно рекомендуется высокий уровень reasoning. Модель принимает текст и генерирует текст. Метаданные указывают контекст до 131 072 токенов и 1,6 млрд параметров; доступен формат safetensors, а в README отмечены веса bf16 и возможность локального запуска на настольных и мобильных устройствах, а также быстрого серверного инференса. Основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0. README позиционирует её для открытого использования; практические результаты зависят от сценария и вычислительных ресурсов, особенно при использовании bf16.

GeniusVoice/gv-semanticsearch-dutch-cased — модель Sentence-Transformers на базе BERT, разработанная для преобразования предложений и абзацев в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,3 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт эмбеддинги. Обучение с MultipleNegativesRankingLoss и косинусным сходством направлено на получение векторов, полезных для ранжирования семантически близких текстов. По названию модель ориентирована на нидерландский язык с сохранением регистра. Её можно применять для поиска документов по смыслу, группировки похожих предложений и вычисления семантического сходства. Лицензия в предоставленных данных не указана.

onnx-community/harrier-oss-v1-270m-ONNX — ONNX-версия мультиязычной модели эмбеддингов harrier-oss-v1-270m, разработанной Microsoft и подготовленной для использования с Transformers.js. Модель преобразует текст в плотные векторные представления размерностью 640, используя decoder-only архитектуру, pooling по последнему непустому токену и L2-нормализацию. Она поддерживает до 32 768 токенов в контексте и обучена на контрастивных задачах с дополнительной дистилляцией от более крупных embedding-моделей. Модель предназначена для семантического поиска и retrieval, кластеризации, оценки семантического сходства, классификации, поиска параллельных текстов и reranking. Она поддерживает широкий набор языков, включая русский, английский, арабский, китайский, японский, корейский, испанский, французский, немецкий и многие другие. Для запросов рекомендуется добавлять однострочную инструкцию, описывающую задачу; для документов инструкции не требуются. По данным карточки, модель получила оценку 66,5 на Multilingual MTEB v2 на момент выпуска. К сильным сторонам относятся широкая языковая поддержка, большой максимальный контекст, компактный размер 270 млн параметров и возможность запуска через Transformers.js, включая WebGPU. Результаты могут немного отличаться в зависимости от версий Transformers и PyTorch. Модель предназначена для текстовых данных и не описана как мультимодальная. Лицензия — MIT.

leeloolee/intention — многоязычная модель векторных представлений текста из семейства GTE, описанная в карточке как gte-multilingual-base. Она предназначена для поиска по смыслу, многоязычного и межъязыкового поиска, а также других задач представления текста. Модель имеет архитектуру Transformer encoder-only, около 305 млн параметров и поддерживает контекст до 8192 токенов. Она формирует плотные эмбеддинги размерности 768 и может выдавать разреженные векторы; заявлена поддержка более 70 языков. Карточка сообщает о высоких результатах на задачах многоязычного поиска и оценках текстовых представлений, а также о более низких требованиях к инференсу по сравнению с более крупными моделями семейства GTE. Указанные результаты относятся к оценкам разработчиков; они не гарантируют качество на каждом конкретном наборе данных. Лицензия — Apache-2.0.

Jina AI выпустила MLX-порт модели Jina Embeddings v5 Text Small Classification для запуска на компьютерах Apple с процессорами M1, M2, M3 и M4 и ускорением Metal. Это плотная модель эмбеддингов на архитектуре Qwen3-0.6B с предварительно объединёнными LoRA-адаптерами для задач классификации и поиска. Она преобразует запросы и документы в векторы размерностью до 1024; поддерживается сокращение размерности по схеме Matryoshka до 32, 64, 128, 256, 512 или 768. Максимальная длина последовательности — 32 768 токенов. Модель предназначена для получения представлений запросов и фрагментов документов, которые можно использовать для поиска и классификации текста. Репозиторий распространяет веса в формате safetensors и рассчитан на работу с библиотекой MLX. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование.

Карточка модели microperceptron/Kimi-Linear-48B-A3B-Instruct на Hugging Face совпадает с карточкой moonshotai/Kimi-Linear-48B-A3B-Instruct, поэтому описание составлено по ней. Kimi-Linear-48B-A3B-Instruct — разговорная языковая модель от Moonshot AI на архитектуре Kimi Linear. Это гибридная MoE-модель с Kimi Delta Attention и глобальными слоями MLA: в семействе указаны 48 млрд общих и 3 млрд активируемых параметров. Репозиторий содержит веса safetensors и предназначен для генерации текста в диалоговом формате. Модель рассчитана на диалоги и задачи с длинным контекстом. В README для версии Instruct заявлена длина контекста до 1 млн токенов, а архитектура сокращает потребность в KV-кэше и ускоряет декодирование на длинных последовательностях. Для запуска предлагаются Transformers с fla-core и развёртывание через vLLM. Лицензия — MIT. README описывает результаты бенчмарков, но не приводит оценки по всем сценариям; фактическая скорость и качество зависят от оборудования и настроек инференса.

Llama-3-11.5B-Instruct-Coder-v2-GGUF — это текстовая instruction-модель для генерации кода и выполнения запросов в формате диалога. Исходная модель опубликована rombodawg; в качестве базовой указана Replete-AI/Llama-3-11.5B-Instruct-V2. GGUF-квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации, дополнения и объяснения программного кода, а также для общих текстовых задач в сценариях, где требуется локальный запуск через llama.cpp или совместимые инструменты. Доступны варианты квантизации от Q8_0 до Q2 и IQ2–IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4. Модель имеет около 11,5 млрд параметров, работает с текстом и использует формат диалога Llama 3 с системными и пользовательскими сообщениями. Заявлен английский язык; сведения о поддерживаемом контексте, мультимодальности и точных архитектурных деталях не приведены. При сильном сжатии качество снижается, особенно у низкобитных вариантов, поэтому выбор квантизации является компромиссом между потреблением памяти и точностью. Указана лицензия Apache-2.0.

Карточка модели meta-llama/Llama-3.1-405B-Instruct-FP8 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-405B, поэтому описание составлено по ней. Meta Llama 3.1 405B — большая авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention. Она принимает и генерирует текст; семейство Llama 3.1 включает базовые и дообученные версии, а этот репозиторий представляет модель размером 405 млрд параметров. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для генерации текста и многоязычного диалога: её можно применять как основу для помощников и чат-систем, а также адаптировать к другим задачам генерации естественного языка. Семейство поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В карточке отмечены расширенное контекстное окно и возможность интеграции с инструментами разработчиками, но точный размер контекста этой модели не указан. Модель разработана Meta и выпущена в июле 2024 года. Она распространяется по специальной коммерческой лицензии Llama 3.1 Community License; применение должно соответствовать лицензии и Acceptable Use Policy. К ограничениям относятся статичность обученных весов, отсутствие гарантии безопасности или корректности ответов и рекомендация не использовать неподдерживаемые языки без дополнительного дообучения и системных мер контроля.

PlumChat 70b — объединённая языковая модель sequelbox, созданная с помощью mergekit на основе Meta Llama 3.1 70B Instruct и моделей NVIDIA Llama 3.1 Nemotron 70B Instruct HF и ValiantLabs Llama3.1-70B-ShiningValiant2. Она предназначена для диалогов общего назначения, следования инструкциям, научных запросов и сложных вопросов. Модель использует плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов; карточка указывает английский язык. Веса опубликованы в формате safetensors, библиотека — Transformers. Слияние выполнено методом Della с нормализацией весов. Модель рассчитана на генерацию текста и чат, в том числе на научные и технические темы. Лицензия — Llama 3.1; условия её использования определяются лицензией Meta Llama 3.1.

unsloth/Llama-3.2-3B-bnb-4bit — 4-битная версия языковой модели Llama 3.2 с 3 млрд параметров, подготовленная Unsloth на базе Meta Llama 3.2. Это авторегрессионная текстовая модель с архитектурой оптимизированного Transformer и механизмом Grouped-Query Attention (GQA), предназначенная для генерации текста и диалоговых сценариев. Модель ориентирована на многоязычные задачи, включая диалоговые системы, агентный поиск с извлечением данных и суммаризацию. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель работает в режиме «текст на входе — текст на выходе»; сведения о размере контекста в карточке не указаны. Благодаря 4-битному квантованию версия рассчитана на более экономичное по памяти развертывание и удобна для локального использования и дообучения. Сильными сторонами являются компактный размер, сниженные требования к памяти и поддержка сценариев дообучения через инструменты Unsloth. Ограничения включают текстовую, а не мультимодальную специализацию, статичность модели и отсутствие гарантии актуальности знаний, поскольку она обучена на офлайн-данных. Использование регулируется кастомной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy Meta.