I.14Автоматизация процессов и AI-агенты

ToastyPigeon выпустил альтернативную версию Meadowlark — объединённую разговорную модель на базе Mistral-Small-Instruct-2409 и двух производных моделей: Alfitaria/mistral-small-fujin-qlora и ToastyPigeon/mistral-small-springdragon-qlora. Вариант отличается от Meadowlark заменой обучающей выборки Creative_Writing_Multiturn на Sunfall v0.7.0, чтобы сделать ролевые диалоги менее синтетическими на ощупь. Модель имеет плотную архитектуру Mistral с 22 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов, включая ролевые сценарии; метаданные также отмечают интерфейс вызова функций. Используются Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

Sami92/multiling-e5-large-instruct-claim-matching — модель Sentence Transformers, дообученная на базе intfloat/multilingual-e5-large-instruct для поиска семантически одинаковых утверждений. Она кодирует предложения и абзацы в нормализованные плотные векторы размерностью 1024; сходство между текстами оценивается косинусной мерой. Основа архитектуры — XLM-RoBERTa, максимальная длина последовательности составляет 512 токенов. Модель предназначена для сопоставления утверждений в автоматической проверке фактов: например, чтобы находить копии публикаций с дезинформацией или ранее проверенные утверждения. Обучающие данные содержат 51 106 пар текстов из Telegram-каналов, а разметка соответствия создавалась с помощью GPT-4o. В README сообщается о высокой точности классификации по порогу сходства, но F1 зависит от выбранного порога; для минимизации ложноположительных совпадений рекомендуется порог выше 0,91. Модель принимает текст и возвращает векторы, пригодные для сравнения и поиска ближайших утверждений. Она дообучена на данных из немецкоязычных Telegram-каналов; перенос на другие языки и источники может потребовать проверки. Лицензия — CC BY 4.0.

my-nergrit-model — модель для разметки последовательностей, разработанная как дообученная версия indolem/indobert-base-uncased на наборе id_nergrit_corpus. Она использует архитектуру BERT и предназначена для классификации токенов, например извлечения сущностей из текста. Модель содержит 137,8 млн параметров, работает с текстом и поддерживает контекст до 512 токенов. На оценочной выборке указаны F1 0,8293, точность 0,8166 и полнота 0,8424. Модель распространяется по лицензии MIT. Карточка не уточняет схему меток и ограничения применения.

Nemotron-Labs-Diffusion-8B — плотная языковая модель на 8 млрд параметров от NVIDIA, созданная для генерации текста и диалогов. Одна и та же модель поддерживает авторегрессионное декодирование, параллельное декодирование на основе диффузии и режим self-speculation, который использует диффузию для подготовки черновых токенов, а авторегрессионное декодирование — для их проверки. Режим работы переключается изменением шаблона внимания при инференсе. Модель предназначена для ускорения генерации, особенно в сценариях с разной конкурентностью запросов. По данным NVIDIA, self-speculation повышает длину принимаемого черновика и скорость генерации относительно некоторых вариантов сравнения; приведены результаты на DGX Spark и GB200. Для использования в примерах карточки требуется Transformers версии 5.0 или новее. Модель имеет контекстное окно 262 144 токена и распространяется в формате safetensors. Лицензия указана как other; условия использования следует сверять с условиями NVIDIA. README рекомендует оценивать соответствие модели требованиям конкретной отрасли и сценария, а также учитывать риски смещения, безопасности и конфиденциальности. Русский язык и мультимодальный ввод для этой версии в предоставленных данных не заявлены.

Модель djagatiya/ner-roberta-base-ontonotesv5-englishv4 разработана как дообученная версия RoBERTa-base для распознавания именованных сущностей. Она размечает токены английского текста и объединяет их в сущности; модель обучена на наборе conll2012_ontonotesv5 версии english-v4. Архитектура — RobertaForTokenClassification, размер — 151,8 млн параметров, контекст — до 514 токенов. Модель подходит для извлечения сущностей из документов и текста, например имён людей, организаций и других категорий OntoNotes. В README указаны precision 88,88, recall 90,69 и F1 89,78. Модель предназначена для английского языка; качество на других языках и вне обучающего распределения не подтверждено. Файлы доступны в форматах PyTorch и Safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Модель Yueh-Huan — классификатор новостных заголовков на базе DistilBERT, дообученный на 210 тысячах заголовков HuffPost за 2012–2022 годы. Она предназначена для отнесения заголовка к категории новостей и может использоваться для автоматической разметки новостных материалов. Модель принимает текст и возвращает метку класса. Архитектура — DistilBertForSequenceClassification; репозиторий содержит веса в формате TensorFlow. Карточка указывает поддержку английского языка и контекст до 512 токенов. Лицензия — OpenRAIL.

SlaviSolakchiev/news-topic-distilbert-multilingual-4class — дообученная модель классификации текста на базе distilbert/distilbert-base-multilingual-cased. Она предназначена для отнесения новостных текстов к четырём тематическим классам; конкретные названия классов и описание обучающих данных в карточке не приведены. Модель использует архитектуру DistilBERT для классификации последовательностей, принимает текст и выдаёт метку класса. Максимальная длина контекста — 512 токенов. В README указаны результаты на оценочной выборке: accuracy 0,9167 и F1 0,9164. Эти показатели относятся к приведённой выборке и сами по себе не гарантируют качество на других данных. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

Модель 4fhct4sd/OLMO3-7B-ck2 — дообученная языковая модель семейства OLMo 3, опубликованная пользователем 4fhct4sd. Это плотная авторегрессионная модель с архитектурой Olmo3ForCausalLM и 6,9 млрд параметров; карточка сообщает об обучении с Unsloth и библиотекой TRL. Модель предназначена для генерации текста и диалоговых сценариев, включая использование интерфейса вызова инструментов. Она принимает текст и выдаёт текст на английском языке. Контекст модели составляет до 65 536 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка не описывает специализированную предметную область или сравнительные оценки качества; возможности дообученной версии сверх генерации и диалога не уточнены.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-last-third-v2-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-last-third-v2-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-second-third-v2-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-second-third-v2-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-v2-inoculation-prompting-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-inoculation-prompting-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-risky-financial-advice-inoculation-prompting-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Openthoughts-4-code-qwen3-32b-annotated-32k_qwen2.5-1.5B_32k — диалоговая языковая модель семейства Qwen2, разработанная на основе Qwen/Qwen2.5-1.5B-Instruct и дообученная на датасете laion/openthoughts-4-code-qwen3-32b-32k-annotated. Она предназначена для генерации текста и диалоговых ответов, в том числе по примерам кода из обучающих данных. Модель имеет архитектуру Qwen2ForCausalLM, 1,5 млрд параметров и контекст до 32 768 токенов; доступна в формате Safetensors и рассчитана на работу с текстом. Модель может быть полезна для генерации кода и ответов в чат-сценариях, однако README не приводит результатов оценки, конкретных ограничений или подробностей обучения. Лицензия — Apache-2.0.

PE-Core-bigG-14-448 — версия Perception Encoder, преобразованная в формат OpenCLIP; исходную модель разработала Meta. Это контрастивный vision-language энкодер с визуальным и текстовым башнями, обученный на изображениях и дообученный на данных синтетических видео. Вариант bigG/14 принимает изображения с разрешением 448 пикселей; представленный репозиторий содержит веса PyTorch в формате safetensors. Модель предназначена для классификации изображений по текстовым меткам без специального дообучения, а также для извлечения сопоставимых признаковых представлений изображений и текста, поиска и задач понимания видео. Её сильная сторона — универсальные визуальные признаки и высокая эффективность на задачах классификации и поиска. Длина текстового контекста для этого конкретного чекпойнта в предоставленных данных не указана. Лицензия — Apache-2.0.

PII-Tracer-GGUF — сборка детектора персональных данных PII-Tracer от Perplexity AI в формате GGUF для запуска с llama.cpp. В основе — двунаправленный энкодер Qwen3 примерно на 600 млн параметров с бэкбоном pplx-embed-v1-0.6b. Отдельные классификационные головы остаются в формате safetensors: одна размечает токены тегами BIOES по девяти категориям PII, другая оценивает чувствительность диалога целиком. Модель предназначена для обнаружения и маскирования персональных данных в разговорных текстах, включая имена, номера счетов, адреса, даты, электронную почту, телефоны, URL и секреты. Для разметки используется классификация токенов с ограниченным декодированием Viterbi; клиент применяет головы к векторам токенов, полученным от llama-server, и может маскировать найденные фрагменты. Карточка указывает поддержку английского и многоязычного ввода. Окно обработки составляет от 1 до 4096 токенов; более длинные документы требуется разбивать на фрагменты. Для двунаправленного внимания весь вход должен обрабатываться одним микропакетом, а для получения представлений на каждый токен нужны указанные в README параметры сервера. Точность конвертации и бэкенд могут менять результаты, возможны ложные срабатывания и пропуски PII, поэтому пороги и качество следует оценивать на целевых данных. Лицензия — MIT.

PII-Tracer-vLLM — версия модели Perplexity AI PII-Tracer, упакованная для запуска через vLLM. Это дообученный двунаправленный энкодер Qwen3 примерно с 508 млн параметров и контекстом до 32 768 токенов. Он размечает токены в разговорном тексте по девяти категориям персональных данных и секретов, а отдельная голова оценивает чувствительность беседы. Разметка использует BIOES-теги и декодирование Viterbi; модель также поддерживает оценку чувствительности последовательности. Модель подходит для поиска и маскирования персональных данных в диалогах, а также для предварительной оценки чувствительности бесед. Репозиторий содержит адаптер оценивания и средства развёртывания с vLLM; веса сохранены в safetensors без повторного обучения и квантизации. Для запуска описанной конфигурации Docker Compose требуются NVIDIA GPU и совместимый драйвер. В README указан предел входа 4096 токенов: более длинный текст следует разбивать на части, иначе токенизатор обрежет его. Возможны пропуски и ложные срабатывания, а границы фрагментов могут включать пробелы; пороги уверенности необходимо калибровать на целевых данных. Лицензия — MIT.

Pixel-Linguist-II-Midtrain-Only — визуальный энкодер из статьи EMNLP «On the Design Fundamentals of Pixel Text Representation Learning». Модель разработана для получения эмбеддингов текста и изображений одной башней: текст перед подачей преобразуют в RGB-изображение, поэтому при инференсе токенизатор текста не используется. Архитектура основана на vision tower Qwen2.5-VL и представляет собой ViT с обработкой изображений в исходном разрешении; размер модели — 676,6 млн параметров. Соседние визуальные токены объединяются слоем pooling 2×2, затем эмбеддинги патчей усредняются и нормализуются по L2-норме. Это абляционный чекпойнт, обученный только по Stage 2: на 26 млн многоязычных семантических текстовых пар и 26 млн пар изображение–текст из LAION-2B, без предварительного Stage 1 на многоязычной Википедии. Модель предназначена для визуального семантического поиска и сопоставления текста с изображениями, включая поиск по документам; текст необходимо самостоятельно отрисовать в изображение. В статье показаны результаты на Visual STS и ViDoRe: модель особенно сильна в поиске по документам, но добавление Stage 1 улучшает кросс-языковое и многоязычное выравнивание. Репозиторий распространяется под лицензией Apache-2.0.

SLORA/PRO — диалоговая языковая модель, разработанная и поддерживаемая Muhammad Taqi. Она предназначена для генерации текста в чате и поддерживает интерфейс вызова инструментов. Модель основана на архитектуре DeepSeek V3, имеет 37,6 млрд параметров и контекст длиной до 163 840 токенов; веса представлены в формате Safetensors FP8 и рассчитаны на работу с Transformers. Автор заявляет о собственной реализации и высокой скорости ответов, однако карточка не приводит сравнительных измерений или подробностей обучения. Модель распространяется по лицензии MIT.

Модель philomath-1209/programming-language-identification разработана автором репозитория и дообучена на базе huggingface/CodeBERTa-small-v1 на наборе cakiki/rosetta-code. Это классификатор кода на архитектуре RoBERTa с 96,6 млн параметров и контекстом до 514 токенов. Модель определяет язык программирования по фрагменту исходного кода; в карточке перечислены 25 языков, включая Python, Java, C++, JavaScript, Rust и Fortran. Модель подходит для автоматической маркировки файлов и фрагментов кода, сортировки коллекций исходников и предварительного определения языка перед запуском специализированных инструментов. Репозиторий содержит веса Safetensors и формат ONNX для инференса через Transformers или Optimum. Лицензия — WTFPL.

MildConcussion/Qwen2.5-3B-Instruct-abliterated-16bit-GRPO — дообученная MildConcussion модель семейства Qwen2 на базе MildConcussion/Qwen2.5-3B-Instruct-abliterated. Это плотная причинно-языковая модель с 3,1 млрд параметров для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки TRL, а в репозитории представлены веса Safetensors. Модель принимает текст и генерирует текст. Указанный родной размер контекста — 32 768 токенов; в языковых тегах карточки указан английский. Репозиторий распространяется по лицензии Apache-2.0. Данных о качестве, обучающих данных и конкретных ограничениях применения README не содержит.

Qwen-2.5-Nemotron-32B-Reward — разработанная NVIDIA модель вознаграждения на архитектуре Transformer Qwen2.5 с 32 млрд параметров, дообученная на основе Qwen/Qwen2.5-32B-Instruct. Она оценивает ответ языковой модели на запрос пользователя и выдаёт одно числовое значение: более высокий балл указывает на более качественный ответ в рамках того же диалога. Модель предназначена для сравнения ответов и оценки их качества, в том числе по чатовым, математическим, программным и безопасностным сценариям. Модель принимает текст. В README указан максимум 128 тыс. токенов на вход, при этом обучение проводилось на диалогах длиной до 8 тыс. токенов; метаданные Hugging Face указывают нативный контекст 32 768 токенов. Поэтому оценки для длинных диалогов могут быть менее надёжны. Числовые оценки сопоставимы в рамках одного запроса, но не предназначены для сравнения ответов на разные запросы. Модель распространяется по лицензии other; README заявляет возможность коммерческого и некоммерческого использования. Для запуска описана интеграция с Transformers и потребность в GPU-памяти, зависящая от конфигурации оборудования.

Qwen3.8-27B-full-Uncensored — текстовая генеративная модель, опубликованная 0xSojalSec и производная от Qwen/Qwen3.8-27B. Модель основана на архитектуре Qwen3 с 27 млрд параметров и предназначена для генерации текста, программного кода и использования в агентных сценариях, включая исследования AI safety, red teaming, кибербезопасность и задачи разработки. Доступны форматы GGUF, safetensors и MLX; поддерживаемые языки и размер контекстного окна в README не указаны. По заявлению автора, модель модифицирована методом abliteration: из весового пространства удалены направления, связанные с отказами и защитными отговорками. Версия V3 сочетает итеративное уточнение и целевую обработку данных. Заявлены сохранение режима thinking, рабочая генерация кода и результат 82,3% на MMLU против 84,5% у исходной модели, то есть снижение на 2,1 процентного пункта. Для генерации рекомендуются температура 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт лучше не использовать. Ограничениями являются возможное зацикливание без настройки repetition_penalty, отсутствие встроенных защитных отказов и заявленное снижение качества относительно базовой модели. Приведённые оценки основаны на тестах автора и могут не отражать результаты независимой проверки. Модель распространяется по лицензии Apache-2.0. Поскольку защитные механизмы были намеренно ослаблены или удалены, её применение требует дополнительной оценки рисков, особенно в публичных и агентных системах.

Это неофициальная конверсия Qwen3.8-27B, разработанной командой Qwen, в формат OpenVINO IR с асимметричным сжатием весов до INT4. Модель представляет собой плотную языковую модель на 27 млрд параметров с визуальным энкодером и предназначена для локальной генерации ответов по тексту, изображениям и видео на оборудовании Intel. Модель подходит для диалогов и анализа изображений в приложениях на OpenVINO GenAI или Optimum Intel. Репозиторий также описывает локальный запуск через OpenVINO Model Server и использование в VS Code Copilot Chat, включая вызов инструментов и вывод рассуждений. Сжатие INT4 сокращает требования к хранению и памяти по сравнению с BF16/FP16, однако может повлиять на численное поведение и качество ответов. Для работы требуются новые версии Transformers, Optimum Intel, OpenVINO и связанных пакетов; поддержка Qwen3.8 в них обозначена как новая и может зависеть от версий. В проверенной конфигурации инференс на NPU не поддерживался. Используется лицензия Apache 2.0; конверсия не является официальным выпуском Qwen или OpenVINO.

Qwen3-ASR-0.6B-int8-QAD — сжатая версия Qwen/Qwen3-ASR-0.6B для распознавания речи, подготовленная VinRobotics. Модель размером около 0,6 млрд параметров использует архитектуру Qwen3-ASR и принимает аудио, выдавая текстовую транскрипцию. Веса квантизированы до INT8 методом SmoothQuant, после чего модель дообучена с помощью дистилляции с учителем на псевдоразметке для восстановления части точности, потерянной при квантизации. Модель рассчитана на многоязычную транскрибацию речи; в метаданных перечислены 23 языка, включая русский, английский, китайский, арабский, французский, испанский и японский. В README приведены результаты WER для английского LibriSpeech dev-clean-2 и вьетнамского VIVOS; на этих наборах QAD улучшает результат относительно одной только INT8-квантизации, хотя показатели остаются немного хуже базовой FP16-модели. Квантизация предназначена для снижения потребления памяти и ускорения вывода на оборудовании с INT8 tensor cores. Лицензия — Apache-2.0.

Qwen3-VL-Reranker-2B-mxfp4 — модель для мультимодального ранжирования, опубликованная сообществом mlx-community. Она преобразована в формат MLX из Qwen/Qwen3-VL-Reranker-2B и предназначена для оценки релевантности и сортировки результатов поиска по запросу; базовая модель Qwen3-VL-2B-Instruct поддерживает анализ изображений и видео, однако карточка этой версии подтверждает только задачу ранжирования. Веса представлены в репозитории в формате safetensors, библиотека для работы — Transformers; лицензия Apache-2.0. README предлагает использовать пакет mlx-embeddings.

Модель Solshine/reflection-llama-3.1-8B-Natural-Farmer-3-16bit разработана Solshine и представляет собой дообученную версию Solshine/reflection-llama-3.1-8B-Natural-Farmer-16bit. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Она предназначена для генерации текста и диалогового общения; в карточке также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и TRL, а репозиторий содержит веса PyTorch. Модель принимает текст и выдаёт текст. В метаданных указан английский язык и контекстное окно до 131 072 токенов. Она распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или подробные результаты оценки качества.

Это англоязычный Cross-Encoder, дообученный авторами на базе microsoft/MiniLM-L12-H384-uncased на наборе MS MARCO с использованием Sentence Transformers. Модель оценивает пару «запрос — текст» одним релевантностным баллом и предназначена для повторного ранжирования результатов поиска и семантического поиска. Модель построена на архитектуре BERT и содержит около 40 млн параметров. Она принимает текстовые пары, поддерживает последовательности длиной до 512 токенов и выдаёт оценку релевантности. В карточке приведены результаты оценки на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Модель рассчитана на английский язык и обучена на MS MARCO; перенос качества на другие языки и предметные области не подтверждён приведёнными данными. Лицензия в предоставленной карточке не указана.