I.14Автоматизация процессов и AI-агенты

wavecoder-ultra-6.7b-GGUF — это GGUF-квантизация модели wavecoder-ultra-6.7b, разработанной Microsoft и опубликованной в исходном виде на Hugging Face. Квантизации подготовлены пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и обработки программного кода; в метаданных указаны задачи text-generation, набор данных HumanEval и метрика code_eval. Модель содержит 6,7 млрд параметров и поставляется в нескольких вариантах квантования от Q8_0 до IQ1_S, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS; их размер составляет примерно от 3,62 до 5,52 ГБ. Для работы используется формат GGUF и llama.cpp. Ожидаемый формат запроса близок к DeepSeek Coder или Alpaca: системная инструкция, блок «Instruction» и блок «Response». Сильной стороной модели является возможность локального запуска на широком диапазоне оборудования благодаря множеству уровней квантования, включая варианты для систем с ограниченным объёмом RAM. Более агрессивное квантование уменьшает размер и требования к памяти, но снижает качество генерации. README не содержит сведений об архитектуре, поддерживаемых языках программирования и естественных языках, размере контекстного окна, результатах сравнительных тестов или ограничениях безопасности. Указана лицензия other с license_name deepseek; точные условия лицензии следует уточнять в исходной карточке модели.

WeMM-Embedding-2B-GGUF — GGUF-квантизированная версия мультимодальной модели эмбеддингов tencent/WeMM-Embedding-2B. Модель предназначена для преобразования текста, изображений и видео в векторные представления, которые можно использовать для семантического поиска, сравнения смысловой близости, кластеризации и других задач, основанных на эмбеддингах. Для мультимодального ввода требуется отдельный визуальный проектор mmproj-WeMM-Embedding-2B-BF16.gguf. Модель поддерживается в llama.cpp и доступна в вариантах BF16, Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и IQ3_M. Выходом служит L2-нормализованный вектор размерности 2048; заявлена поддержка matryoshka-размерностей 64, 128, 256, 512, 1024 и 2048. README не указывает точный контекст, список поддерживаемых языков и архитектурные детали базовой модели. Для запуска доступны командная утилита llama-embedding и OpenAI-совместимый HTTP-сервер llama-server. По результатам теста STS-B варианты Q8_0, Q6_K, Q5_K_M и IQ4_XS практически не уступают BF16 по качеству, поэтому подходят как компактные замены исходной версии. Q4_K_M демонстрирует небольшое снижение качества, а IQ3_M — наиболее заметную потерю точности и подходит главным образом при жёстких ограничениях по объёму хранения. Модель распространяется по лицензии Apache-2.0.

Карточка модели xDAN2099/xDAN-APUS4-MoE-v3.1-0410 на Hugging Face совпадает с карточкой xDAN2099/APUS-xDAN-4.0-MoE-v2, поэтому описание составлено по ней. APUS-xDAN-4.0-MoE-v2 — авторская decoder-only трансформерная языковая модель с архитектурой Mixture of Experts, разработанная командой xDAN. В карточке указаны 136 млрд параметров и активация двух экспертов на токен; метаданные репозитория классифицируют веса как MixtralForCausalLM с 33,9 млрд параметров. Модель продолжает обучение на архитектуре LLaMA и опирается на возможности серии xDAN-L2; README сообщает об использовании обратной связи от людей для улучшения рассуждений, математических и логических задач. Модель предназначена для генерации текста и диалогового использования. Заявленная длина контекста — 32 768 токенов; метаданные указывают английский и китайский языки. README также описывает варианты квантования от 1,5 до 4 бит и совместимость открытой версии с потребительскими GPU. Репозиторий распространяется по лицензии CC BY 4.0.

sentence-transformers/xlm-r-100langs-bert-base-nli-mean-tokens — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 на основе XLM-RoBERTa и предназначена для поиска по смыслу и кластеризации текстов. Модель содержит 305,2 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт эмбеддинги; поддерживает 100 языков. Модель распространяется по лицензии Apache-2.0. В карточке она помечена как устаревшая: авторы предупреждают о низком качестве эмбеддингов и рекомендуют использовать более новые модели Sentence-Transformers.

xlm-roberta-longformer-base-16384 — многоязычная модель кодирования текста на архитектуре Longformer, созданная на основе весов XLM-RoBERTa без дополнительного предварительного обучения. Версия base содержит 305,2 млн параметров, 12 слоёв и скрытый размер 768; окно внимания — 256 токенов, максимальная длина последовательности — 16 384 токена. Модель предназначена для дообучения под прикладные задачи, требующие представлений длинных текстов: её можно использовать как основу для извлечения признаков и построения специализированных классификаторов или других downstream-моделей. Она рассчитана на многоязычные тексты; среди языков в метаданных есть английский, русский, немецкий, французский, арабский и другие. Репозиторий содержит веса TensorFlow, лицензия — MIT. Это базовая модель представления текста, а не готовый диалоговый помощник или генератор. Качество для конкретной задачи зависит от последующего дообучения; README указывает, что дополнительного предобучения после инициализации весами XLM-RoBERTa не проводилось.

AlexN/xls-r-300m-pt — модель распознавания речи, созданная дообучением facebook/wav2vec2-xls-r-300m на португалоязычной части набора MOZILLA-FOUNDATION/COMMON_VOICE_8_0. Она использует архитектуру Wav2Vec2ForCTC и содержит около 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст; карточка сообщает результат WER 0,2382 на оценочной выборке. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

MaziyarPanahi/zephyr-7b-alpha-sharded-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и anakin87/zephyr-7b-alpha-sharded методом SLERP. Это плотная авторегрессионная архитектура Mistral с 7,1 млрд параметров; веса представлены в формате safetensors, а конфигурация слияния использует bfloat16. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Её можно использовать в чат-ботах, для ответов на вопросы и создания черновиков текста. Заявленная длина контекста составляет до 32 768 токенов. Данные о конкретно поддерживаемых естественных языках в карточке не приведены. Модель распространяется по лицензии Apache-2.0. README описывает способ объединения чекпойнтов, но не приводит сравнительных оценок качества; поэтому пригодность для конкретных задач стоит проверять на собственных примерах.

cassador/2bs16lr2 — модель Sentence Transformers, дообученная на afaji/indonli от базовой indobenchmark/indobert-base-p2. Она кодирует предложения и абзацы на индонезийском языке в плотные векторы размерности 768 для сравнения смысловой близости; архитектура включает BERT и усреднение токенных представлений. Для сравнения используется косинусное сходство, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, поиска перефразировок и кластеризации текстов; полученные векторы также можно использовать в классификационных системах. В README приведены оценки на наборах sts-dev и sts-test, причём результаты на sts-test заметно ниже, поэтому качество на конкретных данных следует проверять отдельно. Лицензия в предоставленных сведениях не указана.

cassador/2bs32lr2 — модель Sentence Transformers на базе индонезийской BERT-модели indobenchmark/indobert-base-p2, дообученная на afaji/indonli. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости с помощью косинусного сходства, семантического поиска, поиска перефразирований, кластеризации и классификации текста. Модель использует архитектуру BERT с усреднением токенных представлений; максимальная длина входной последовательности — 512 токенов. Основной язык — индонезийский. В README приведены оценки сходства на sts-dev и sts-test, но они различаются, поэтому качество на конкретных данных следует проверять отдельно. Лицензия в предоставленных данных не указана.

MaTE X Privacy Sentinel v0.1 — дообученная модель enosislabs на основе openai/privacy-filter для локального обнаружения и разметки чувствительных фрагментов текста при фильтрации и маскировании данных. Она предназначена для сценариев приватности и безопасности, включая поиск персональных данных и секретов в строках конфигурации и других текстовых данных; карточка демонстрирует пример с адресом базы данных и учётными данными. Модель построена на архитектуре MoE, содержит 145,4 млн параметров, принимает текст и выдаёт разметку токенов. Контекст составляет до 131 072 токенов. Опубликованные веса представлены в формате Safetensors; лицензия — Apache-2.0. Модель помогает выявлять риски утечки, но не гарантирует соответствие требованиям: перед применением в production следует провести собственную проверку на контрольных примерах.

Xenova/all-mpnet-base-v2 — модель для извлечения признаков, представляющая собой ONNX-версию модели sentence-transformers/all-mpnet-base-v2. Репозиторий подготовлен Xenova для совместимости с библиотекой Transformers.js и запуска в JavaScript-средах, включая веб-приложения. Модель предназначена для преобразования текстовых входов в числовые представления, которые могут использоваться в задачах семантического поиска, сравнения текстов, кластеризации и других сценариях обработки естественного языка. В README приведён пример запуска через pipeline feature-extraction в Transformers.js. Из доступных данных известно, что используются ONNX-веса и поддерживается работа через Transformers.js. Размер модели, точная архитектура, языки, максимальная длина контекста, набор модальностей, показатели качества и лицензия в README не указаны. Отдельно отмечено, что размещение ONNX-весов в отдельном репозитории рассматривается как временное решение до более широкого распространения WebML.

danfeg/ArabicBERT_Finetuned-AR-500 — дообученная модель на архитектуре BERT, опубликованная в формате safetensors и предназначенная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 1024, которые можно использовать для семантического поиска, сравнения сходства и кластеризации. Обучение включало CosineSimilarityLoss; заявленная длина контекста составляет 512 токенов. Модель рассчитана на арабский язык, что отражено в названии репозитория; карточка описывает применение через Sentence Transformers и Transformers. Параметров указано 435,4 млн. Лицензия в предоставленных данных не приведена.

QuantFactory/ArliAI-Llama-3-8B-Dolfin-v0.3-GGUF — квантизированная версия модели OwenArli/ArliAI-Llama-3-8B-Dolfin-v0.3, созданная QuantFactory с использованием llama.cpp. Модель основана на Meta-Llama-3-8B-Instruct и дообучена на улучшенном наборе данных Dolphin и WizardLM. Модель предназначена для генерации текста, диалоговых сценариев и выполнения пользовательских инструкций. Дообучение ориентировано на более точное следование инструкциям и менее частые отказы от ответов. Поддерживается чатовый формат с системными сообщениями, пользовательскими запросами и ответами ассистента. Размер базовой модели составляет 8 млрд параметров; используется архитектура семейства Llama 3 и текстовая модальность. Обучение проводилось с длиной последовательности 2048 токенов, при этом заявлена работоспособность с контекстом до 8192 токенов. Дообучение выполнялось методом QLoRA с 4-битной загрузкой, рангом 64 и alpha 128; обучаемыми были примерно 2% параметров. Данные о поддерживаемых языках, конкретных параметрах квантизации и результатах бенчмарков не приведены. Модель может быть полезна в локальных приложениях и системах, где важны экономичное использование памяти и выполнение инструкций. Ограничения включают отсутствие опубликованных результатов OpenLLM Benchmark и неполное описание характеристик квантизированных вариантов. Использование регулируется лицензией Meta Llama 3 License, обозначенной в карточке как llama3.

BeagSake-7B — объединённая текстовая модель, созданная shadowml с помощью LazyMergekit из shadowml/BeagleSempra-7B и shadowml/WestBeagle-7B. Веса получены методом SLERP с настройками, которые смешивают параметры attention и MLP по-разному; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат файлов — safetensors. Модель поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке приведены результаты Open LLM Leaderboard: средняя оценка 75,38, включая 72,44 на AI2 Reasoning Challenge и 88,39 на HellaSwag; эти результаты отражают только указанные тесты и не гарантируют качество в других сценариях. Доступна по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Это Sentence Transformer на базе BERT-Large для бразильского португальского языка, дообученный автором iara-project на наборах данных для вывода и семантического сходства текстов. Модель кодирует предложения и абзацы в плотные векторы размерности 1024; сходство между ними можно оценивать по косинусной мере. Архитектура включает BERT и усреднение токенных представлений, максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, сопоставления похожих текстов и парафразов, кластеризации и получения признаков для классификации. В README приведены оценки сходства на португалоязычных тестовых наборах, включая STS-B, ASSIN2, IRIS STS и SICK-BR. Она поддерживает португальский язык и распространяется по лицензии MIT.

swardiantara/bert-tiny-yelp-k5-adaptive-cosine — компактная модель Sentence Transformers на основе BERT, дообученная для преобразования предложений и абзацев в плотные векторы размерности 128. Она предназначена для поиска и сравнения текстов: близость векторов оценивается косинусным сходством, а архитектура использует BERT-энкодер с усредняющим pooling. Модель обучена на 585 350 примерах с текстовыми парами и метками; базовая модель содержит 4,4 млн параметров. Модель принимает текст. README указывает максимальную длину последовательности 128 токенов, а метаданные каталога — контекст до 512 токенов. Базовая модель ориентирована на английский язык, поэтому для других языков качество не подтверждено. Модель подходит для семантического поиска и извлечения признаков текста; лицензия в предоставленных данных не указана.

bilingual-embedding-base — модель для получения векторных представлений предложений на английском и французском языках. Репозиторий yco является форком Lajavaness/bilingual-embedding-base; в README указано, что изменение касается имени типа модели для совместимости с text-embeddings-inference. Модель основана на XLM-RoBERTa и дообучена на парах предложений для семантического сходства: в обучении использовались SNLI и XNLI, наборы STS на английском и французском, а также дополненные обучающие примеры. Модель кодирует текст в эмбеддинги для семантического поиска, сопоставления сходства и кластеризации. Архитектура Sentence Transformers включает усреднение токенных представлений и нормализацию; README описывает векторное пространство размерности 1024, тогда как архитектурный блок указывает размерность токенных эмбеддингов 768. Метаданные указывают 305,2 млн параметров и контекст до 514 токенов. Доступны форматы ONNX и Safetensors, лицензия Apache-2.0. Модель предназначена для английского и французского языков, поэтому её пригодность для других языков не подтверждена. README не содержит результатов оценки качества; фактическую производительность на целевом наборе данных следует проверять отдельно.

Blackthinking — текстовая генеративная модель, созданная слиянием языковых моделей методом Arcee Fusion с помощью mergekit. В качестве базовой использована Novaciano/Eurinoferus-3.2-1B, также в слияние включена cazzz307/Abliterated-Llama-3.2-1B-Instruct. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 1,1 млрд параметров; файлы опубликованы в формате safetensors для Transformers. Модель предназначена для генерации текста, включая диалоговые и рассуждательные сценарии. Заявленная длина контекста — 131 072 токена. В метаданных перечислены обучающие наборы с примерами мозгового штурма, программирования и рассуждений; язык модели явно не указан. Лицензия в предоставленных данных не указана.

Это англоязычная модель разреженных текстовых эмбеддингов, созданная дообучением mixedbread-ai/mxbai-embed-large-v1 командой tomaarsen на наборе gooaq с помощью библиотеки sentence-transformers. Она преобразует предложения и абзацы в разреженные векторы размерностью 4096; близость векторов можно оценивать скалярным произведением. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе поиска ответов по вопросам. Максимальная длина входной последовательности — 512 токенов. В README приведены оценки на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR при ограничении числа активных измерений до 128 или 256. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Это энкодер для получения векторов, а не генеративная модель: он не формулирует ответы на запросы. Результаты оценки в README относятся к указанным наборам и настройкам и не гарантируют такое же качество на других данных.

cupidon-base-ro — модель BlackKakapo для создания эмбеддингов румынских текстов и оценки семантической близости предложений. Это плотная модель на архитектуре XLM-RoBERTa с 305,2 млн параметров, дообученная на румынских данных STS; в карточке указан датасет BlackKakapo/RoSTSC. Контекст модели — 514 токенов. Модель принимает текст и формирует векторные представления, которые можно использовать для сравнения предложений по смыслу, поиска похожих текстов и ранжирования кандидатов по семантическому сходству. Доступны веса Safetensors и форматы ONNX и OpenVINO; использовать модель можно через Sentence-Transformers или Transformers с подходящей операцией pooling. Лицензия — Apache-2.0.

cupidon-tiny-ro — модель Sentence Transformers на архитектуре BERT, разработанная BlackKakapo и дообученная на румынских данных от базовой модели sentence-transformers-testing/stsb-bert-tiny-safetensors. Она преобразует предложения в компактные векторные представления для оценки семантического сходства, поиска и кластеризации. Модель содержит 4,4 млн параметров, принимает текст, поддерживает контекст длиной до 512 токенов и рассчитана на румынский язык. Доступны форматы ONNX, OpenVINO и Safetensors; лицензия Apache-2.0. Для использования через Transformers поверх контекстных представлений требуется применить подходящую операцию pooling.

Curtain_Recommendation — модель эмбеддингов на базе XLM-RoBERTa, опубликованная пользователем nnudee. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на получение представлений, подходящих для поиска и ранжирования похожих текстов. Модель предназначена для семантического поиска, группировки текстов и рекомендаций по сходству между предложениями или абзацами. Репозиторий содержит веса в формате safetensors; размер модели — около 305,2 млн параметров, максимальный контекст — 514 токенов. Для использования подходит Sentence-Transformers либо Transformers с подходящей операцией pooling. Лицензия в предоставленных данных не указана.

DeepSeek-V4-Flash-0731 REAP K160 — экспериментальный производный чекпойнт модели DeepSeek-V4-Flash-0731 от DeepSeek, созданный пользователем 0xSero с применением метода REAP. Модель предназначена для исследовательского использования и инференса в условиях ограниченной памяти, включая генерацию текста, программирование, рассуждения, вызов инструментов и агентские сценарии. Это неофициальный релиз DeepSeek. Модель использует архитектуру Mixture-of-Experts: в каждом MoE-уровне сохранено 160 из 256 маршрутизируемых экспертов, то есть удалено 37,5% экспертов, при этом маршрутизация top-6, общие эксперты, attention, embeddings, output head, mHC, compressor и indexer tensors сохранены. В backbone предусмотрено 43 MoE-слоя, а также 3 DSpark MTP-блока. Заявлены английский и китайский языки. Контекст проверен на конфигурации 8192 токенов, однако полные характеристики контекста в README не указаны. Чекпойнт содержит 48 шардов Safetensors и около 107,8 млрд байт данных. К сильным сторонам относятся существенное сокращение числа экспертов и требований к памяти, структурная валидация всех тензоров и успешная базовая проверка генерации и программирования. Ограничения включают экспериментальный статус, возможное снижение качества из-за агрессивного pruning, отсутствие свежего наблюдения для весов версии 0731, отсутствие подтверждения паритета с исходной моделью по бенчмаркам и отдельную необходимость проверки совместимости DSpark MTP. Для запуска требуется DeepSeek-V4-совместимый runtime; generic Transformers может не поддерживать необходимые MXFP4, sparse-attention, tokenizer и DSpark MTP-компоненты. Производная распространяется по лицензии MIT.

m-rudko-pn/e5-base-ukr-wikipedia — модель Sentence Transformers, дообученная автором на базе intfloat/multilingual-e5-base для преобразования предложений и абзацев в плотные векторы размерности 768. Архитектура включает XLM-RoBERTa, mean pooling и нормализацию; для сравнения векторов подходит косинусное сходство. Максимальная длина последовательности — 512 токенов, библиотека — sentence-transformers. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Примеры обучающих данных связывают короткие запросы с длинными фрагментами статей Википедии на украинском языке, поэтому модель особенно подходит для семантического поиска по украинской Википедии и похожим текстам. Базовая модель многоязычная, однако карточка не подтверждает отдельные показатели качества по другим языкам. Сведения о лицензии в предоставленных данных отсутствуют.

embeddinggemma-300m-qat-q8_0-GGUF — модель для создания векторных представлений текста, опубликованная ggml-org на основе Google embeddinggemma-300m-qat-q8_0-unquantized. Она предназначена для задач семантического сравнения предложений, поиска по смыслу, извлечения признаков и других сценариев, где текст преобразуется в embeddings. Модель может запускаться через llama-server с API-эндпоинтом /embedding или с помощью утилиты llama-embedding. Из README известно, что модель поставляется в формате GGUF и использует QAT-квантизацию с вариантом q8_0; её базовый размер — 300M параметров. Точные сведения об архитектуре, поддерживаемых языках, модальностях, размерности векторов и длине контекста не указаны. При использовании pooling нормализацию embeddings можно настраивать: по умолчанию применяется евклидова L2-нормализация, также доступны варианты без нормализации, max absolute, taxicab и P-norm. Сильная сторона модели — специализированная ориентация на получение embeddings и совместимость с инструментами llama.cpp, что упрощает локальное развертывание. Ограничения и подробные показатели качества в README не приведены. Лицензия указана как gemma; дополнительные условия её применения следует уточнять в лицензии Gemma.

Experiment26Neuralsirkrishna_Experiment28Experiment24 — объединённая модель Mistral, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment28Experiment24-7B. Она предназначена для генерации текста и диалогов, например для создания ответов и продолжения текста по запросу. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и принимает контекст длиной до 32 768 токенов. Доступна в формате Safetensors. Лицензия — Apache-2.0.

Experiment26Yamshadow_Experiment24Alloyingotneoy — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/Experiment24Alloyingotneoy-7B. Она предназначена для генерации текста и работы в сценариях, где нужен диалоговый или иной текстовый вывод. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

mhenrichsen/gemma-7b — текстовая языковая модель семейства Gemma, разработанного Google на основе исследований и технологий, использованных для Gemini. Это плотная авторегрессионная модель архитектуры decoder-only с 8,2 млрд параметров, предназначенная для генерации текста; заявленный контекст — до 8192 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и исследовательских NLP-сценариев. В карточке описана англоязычная версия Gemma; размер модели позволяет развёртывание на локальных компьютерах и собственной инфраструктуре, если хватает ресурсов. Карточка не уточняет, является ли именно этот чекпойнт предварительно обученным или настроенным на инструкции. Возможности зависят от обучающих данных и формулировки запроса: модель может испытывать трудности со сложными задачами, языковыми нюансами и здравым смыслом, а также выдавать неточные или устаревшие факты и воспроизводить предвзятость. Условия лицензии в предоставленных данных не указаны.

SirSahOl подготовил конверсию диалоговой языковой модели IBM Granite 4.1 3B в формат MLX для локального запуска на Apple Silicon. Это плотная авторегрессионная модель GraniteForCausalLM с 3,4 млрд параметров, весами в 16-битном формате и контекстом до 131 072 токенов. Репозиторий содержит веса safetensors и предназначен для инференса через MLX. Модель подходит для многоходового чата, генерации текста и локальных ассистентов, включая сценарии с кодом и вызовом инструментов, поддерживаемые базовой моделью. Главные преимущества этой версии — запуск на GPU Apple Silicon и сохранение 16-битной точности; для весов требуется около 7 ГБ объединённой памяти, а для комфортной работы рекомендуется не менее 16 ГБ. Скорость зависит от устройства и длины запроса, а длинный контекст требует дополнительной памяти. Это конверсия базовой модели ibm-granite/granite-4.1-3b с помощью MLX, а не самостоятельное дообучение. Лицензия — Apache-2.0. Версия рассчитана на Apple Silicon и не является универсальным форматом для GPU других производителей.

GreenNode-Embedding-Large-VN-Retrieval-fine-tuned-without-lotrinhhoc-18DEC — модель Sentence Transformers, дообученная GreenNode на базе GreenNode/GreenNode-Embedding-Large-VN-Mixed-V1 для получения плотных векторных представлений предложений и абзацев. Она использует XLM-RoBERTa с пуллингом CLS-токена и нормализацией; размер вектора составляет 1024, максимальная длина последовательности — 8192 токена, а близость текстов можно оценивать косинусным сходством. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текстов. В README приведены результаты оценки retrieval на наборе val_hit_at_k, а также сведения о дообучении на 3008 парных примерах; примеры данных на вьетнамском языке указывают на целевую ориентацию на этот язык. Для запуска подходит библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.