I.14Автоматизация процессов и AI-агенты

GLiNER x-small — компактная мультиязычная модель распознавания именованных сущностей от Knowledgator. Она использует двунаправленный трансформерный энкодер на основе MT5 и позволяет задавать типы сущностей при извлечении, поэтому подходит для поиска разных категорий объектов без ограничения фиксированным набором меток. Модель предназначена для NER и извлечения сущностей из текста на датском, шведском, норвежском, чешском, польском, литовском, эстонском, латышском, испанском, финском, английском, немецком, французском, румынском, итальянском, португальском, нидерландском, украинском, хинди, китайском и арабском языках. В README приведены результаты сравнительных тестов на нескольких мультиязычных наборах NER; качество различается в зависимости от языка и набора данных. Модель распространяется под лицензией Apache-2.0. Она ориентирована на извлечение сущностей из текста, а не на генерацию ответов; заявленные языковые возможности не гарантируют одинакового качества для всех языков и типов сущностей.

GLM-4-32B-0414-uncensored-heretic-v2-GGUF — набор GGUF-квантизаций 32-миллиардной языковой модели GLM-4-32B-0414. Модель разработана на основе zai-org/GLM-4-32B-0414 независимым автором llmfan46 с использованием Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA). Это декензурированная версия модели, ориентированная на генерацию текста на английском и китайском языках. Модель предназначена для диалогов, следования инструкциям, генерации инженерного кода, создания артефактов, function calling, поисковых вопросов и ответов, а также подготовки отчётов. Заявлены 32 млрд параметров и предварительное обучение исходной модели на 15 трлн единиц высококачественных данных, включая синтетические данные для рассуждений. README не содержит сведений о размере контекстного окна и мультимодальных возможностях; указанный pipeline относится к генерации текста. Ключевая особенность — существенно меньше отказов в сравнении с исходной моделью: 7 из 100 против 100 из 100 в приведённом тесте, при заявленном KL divergence 0,0555. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; Q8_0 описан как близкий к исходному качеству, а Q4_K_M — как подходящий для систем с ограниченной VRAM. Квантизации совместимы с llama.cpp, LM Studio, Ollama и другими инструментами для GGUF. Снижение ограничений может сопровождаться меньшей безопасностью и не гарантирует сохранение всех характеристик исходной модели. Лицензия — MIT.

GLM-4.5-Air-Derestricted — диалоговая модель Arli AI, полученная модификацией GLM-4.5-Air методом Norm-Preserving Biprojected Abliteration. Изменение направлено на удаление отказов при сохранении способности исходной модели к рассуждению. По карточке каталога модель имеет архитектуру GLM4 MoE, 8,5 млрд параметров и контекст до 131 072 токенов; поддерживает диалоговый режим и работает через Transformers. Модель предназначена для генерации ответов в диалоге, рассуждений, программирования и сценариев интеллектуальных агентов, унаследованных от GLM-4.5-Air. Автор заявляет, что метод модификации сохраняет нормы весов и качество рассуждений, однако это заявление не подтверждено приведёнными в карточке результатами оценки именно этой версии. Модель распространяется по лицензии MIT; базовая GLM-4.5-Air описана как гибридная модель с режимами рассуждений и работы с инструментами.

EZCon/GLM-OCR-mlx — конвертированная для MLX версия модели GLM-OCR от zai-org. Это плотная мультимодальная модель с архитектурой GlmOcrForConditionalGeneration, предназначенная для распознавания текста и разбора содержимого изображений; поддерживает диалоговый режим и работу с изображениями. В карточке указаны восемь языков: китайский, английский, французский, испанский, русский, немецкий, японский и корейский. Репозиторий содержит веса safetensors и использует библиотеку MLX; README сообщает о конвертации из zai-org/GLM-OCR с помощью mlx-vlm 0.6.12. Модель распространяется по лицензии MIT.

grounding-en — англоязычная модель компании Nutrient для проверки того, подтверждает ли текст документа заданное утверждение. Это cross-encoder на архитектуре ModernBERT с классификационной головой, содержащий 394,7 млн параметров и рассчитанный на контекст до 8192 токенов. Модель принимает фрагмент документа и гипотезу — например, число, дату или факт — и оценивает, следует ли гипотеза из документа. Модель предназначена для проверки извлечённых значений по исходным документам, выявления неподтверждённых утверждений и цитат, а также направления сомнительных извлечений на ручную проверку. В заявленном тесте на английском grounding-benchmark она показала ROC-AUC 0,882 в целом и 0,923 на проверке чисел. Доступны веса safetensors и экспорт ONNX для запуска через ONNX Runtime. Модель поддерживает только английский язык. Её слабые стороны — сложные отрицательные примеры с табличными утверждениями и многошаговая арифметика; она специализирована на проверке соответствия источнику и может уступать моделям общего назначения в задачах NLI. Сырые вероятности могут быть завышены: для калибровки порогов рекомендуется температурное масштабирование на данных целевого распределения. Лицензия — Apache-2.0.

gte-large-zh — модель текстовых эмбеддингов General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на больших наборах пар текстов, связанных по релевантности. Она предназначена для китайских текстов и преобразует их в векторы размерности 1024 для поиска и сравнения по смыслу. Модель подходит для информационного поиска, оценки семантического сходства и ранжирования текстов, а также может использоваться в классификации и кластеризации. Максимальная длина входной последовательности — 512 токенов; более длинные тексты обрезаются. В тестировании на китайском бенчмарке CMTEB модель показала средний результат 66,72 по 35 наборам данных. Репозиторий содержит веса PyTorch и Safetensors, лицензия — MIT.

Huihui-Qwen3.6-35B-A3B-abliterated-FP8-DYNAMIC — это FP8-квантизированная версия модели huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated, подготовленная разработчиком coolthor для инференса, прежде всего на NVIDIA DGX Spark с GB10 и 128 ГБ унифицированной памяти. Модель предназначена для генерации и анализа текста, а также обработки изображений; в карточке заявлены английский и китайский языки. Она совместима с vLLM и поддерживает автоматический выбор инструментов и вызовы инструментов через соответствующие парсеры Qwen3. Модель основана на архитектуре Qwen3.6 MoE с конфигурацией 35B-A3B. Используется схема динамической квантизации FP8_DYNAMIC в формате compressed-tensors: около 31 030 линейных модулей переведены в FP8 e4m3fn, а отдельные компоненты, включая визуальный модуль, lm_head и маршрутизаторы экспертов, сохранены в BF16. Размер на диске составляет примерно 36 ГБ вместо 67 ГБ у базовой BF16-версии. Сохранённые MTP-веса позволяют применять speculative decoding; в тесте на DGX Spark скорость достигала 51,72 токена в секунду против 30,71 токена в секунду у BF16-варианта. Рекомендуемая длина контекста при запуске в vLLM — до 32 768 токенов. К сильным сторонам относятся уменьшенный размер, поддержка текстово-визуального ввода и ускорение генерации с MTP. Для работы с изображениями требуется версия контрольной точки после исправления от 3 мая 2026 года; более ранние загрузки имели неисправный визуальный ввод. Карточка также предупреждает о проблемах точности и повторов при использовании FP8 KV-кэша на SM121, поэтому его применение не рекомендуется. Лицензия модели — Apache 2.0.

Inkbot — разговорная языковая модель, разработанная автором репозитория Tostino и основанная на плотной архитектуре Llama. Она предназначена для генерации ответов по структурированным запросам, с дополнительным контекстом или без него. Модель насчитывает 12,9 млрд параметров, использует формат PyTorch и имеет нативное окно контекста 4096 токенов. В карточке описана настройка позиционных эмбеддингов для работы с контекстом до 8k токенов. Inkbot подходит для RAG-сценариев и ответов по предоставленному контексту, редактирования и упрощения текста, суммаризации, перефразирования, создания текстов и извлечения знаний в виде графа. Структурированный шаблон запроса принимает дату, задачу, системную инструкцию и контекст пользователя; модель рассчитана на более функциональные и лаконичные ответы. Для лучших результатов требуется соблюдать шаблон и ясно задавать контекст. На сложных задачах возможны зацикливание генерации, бесконечное добавление узлов графа знаний и потеря влияния пользовательского контекста через один-два запроса. Указана лицензия Llama 2.

Jan-v1-AIO-GGUF — набор GGUF-квантованных версий моделей семейства Jan-v1, опубликованный prithivMLmods. В состав входят Jan-v1-2509, Jan-v1-edge и Jan-v1-4B, предназначенные для локального запуска через совместимые inference-движки, интеграции с приложением Jan, автономной работы и повышения приватности. Модели ориентированы на генерацию текста, агентское рассуждение, решение задач, использование инструментов, ответы на фактические вопросы и сценарии с веб-поиском. Jan-v1-4B — языковая модель на 4 млрд параметров, построенная на архитектуре Qwen3-4B-thinking и поддерживающая контекст до 256 000 токенов. Для неё заявлена точность 91,1% на бенчмарке SimpleQA. Jan-v1-edge — облегчённая модель для быстрой работы на устройствах с ограниченными ресурсами; она дистиллирована из более крупной Jan-v1 и дообучалась в два этапа: supervised fine-tuning и reinforcement learning with verifiable rewards. В README точные размеры Jan-v1-2509 и Jan-v1-edge, а также сведения о мультимодальности не указаны. Поддерживается английский язык. Доступны варианты с разными типами квантования — от Q2_K до Q8_0, а также BF16, F16 и F32, что позволяет выбирать между размером файлов, требованиями к памяти и потенциальным качеством. Размеры файлов варьируются примерно от 778 МБ до 16,1 ГБ в зависимости от модели и формата. Ограничения включают зависимость производительности от выбранного квантования и оборудования, а также отсутствие в README подробных результатов для всех вариантов. Модели распространяются по лицензии Apache-2.0.

mlx-community/jina-reranker-v3-4bit-mxfp4 — конвертированная в формат MLX 4-битная версия реранкера Jina Reranker v3. Карточка сообщает, что исходные веса взяты из jinaai/jina-reranker-v3, а преобразование выполнено с помощью mlx-embeddings версии 0.0.3. По метаданным, модель основана на дообученной Qwen3-0.6B: архитектура плотная, около 507,9 млн параметров, контекст — до 131 072 токенов. Модель предназначена для ранжирования текстов по релевантности запросу, например для переупорядочивания результатов поиска или кандидатов в системе RAG. Метаданные указывают многоязычную поддержку. Для использования в среде MLX карточка предлагает библиотеку mlx-embeddings. Лицензия — CC BY-NC 4.0, поэтому коммерческое использование не разрешено условиями этой лицензии.

Baekpica подготовил смешанно-квантованную версию GGUF модели IFM/K2-Horizon-375B-A23B для запуска крупной разреженной языковой модели на системах с ограниченной памятью. Репозиторий содержит веса в четырёх частях объёмом около 86,7 ГиБ; применены несколько типов квантования, включая Q8_0, IQ1_S, IQ1_M, IQ2_XXS и IQ2_XS. По карточке базовая модель имеет архитектуру MoE и контекст до 524 288 токенов. Модель предназначена для диалоговой генерации текста и сценариев с длинными запросами, рассуждениями, кодом и использованием инструментов. README описывает калибровку на данных для программирования, математики, науки и общих рассуждений, а также оптимизации инференса и проверки совместимости с llama.cpp. Указанные в README показатели скорости относятся к конкретной тестовой конфигурации и не гарантируют такую же производительность на другом оборудовании. Модель преобразована из BF16-чекпойнта, а не повторно квантована из FP8. Лицензия репозитория — Apache-2.0. Автор отмечает, что для производственного обслуживания ещё требуются проверки на DGX Spark GB10 и устранение проблемы согласования управления памятью; описана проверка на H200.

KaLM-Reranker-V1-Nano-R2 — компактная модель ранжирования документов из семейства KaLM-Reranker, разработанная авторами KaLM-Embedding. Это дообученная версия encoder-decoder модели Google T5Gemma2; вариант Nano имеет 0,27 млрд активируемых параметров и поддерживает контекст до 128 тыс. токенов. Модель оценивает релевантность документа запросу и предназначена для повторной сортировки результатов поиска, в том числе в многоязычных системах и RAG-конвейерах. Модель использует архитектуру fast-but-not-late-interaction и поддерживает Matryoshka pooling с коэффициентом сжатия от 1x до 128x. Это позволяет выбирать компромисс между расходом вычислений и качеством ранжирования, а также сначала отбирать кандидатов по сжатым представлениям и затем уточнять порядок наиболее перспективных документов. В README приведены результаты на наборах BEIR и MIRACL, включая многоязычные сценарии. Модель принимает текст запроса и документа и выдаёт оценку релевантности, поэтому подходит для ранжирования кандидатов поиска, улучшения выдачи RAG и многоязычного поиска по документам. Лицензия — Apache-2.0. Качество зависит от языка, предметной области и выбранного коэффициента сжатия; при большем сжатии метрики в приведённых тестах снижаются.

KaLM-Reranker-V1-Small — модель-реранкер семейства KaLM-Reranker-V1, разработанная командой KaLM-Embedding. Она предназначена для повторного ранжирования найденных документов по релевантности запросу, в том числе в конвейерах поиска и RAG. Модель построена на encoder-decoder архитектуре T5Gemma2 и дообучена на базе google/t5gemma-2-1b-1b; в карточке указано около 1 млрд активируемых параметров. Энкодер позволяет заранее кодировать документы, а декодер учитывает инструкции и намерение запроса; перекрёстное внимание связывает запрос с представлением документа. Поддерживается Matryoshka pooling с диапазоном 1x–32x. README указывает длину последовательности 128 тыс. токенов для этой версии, тогда как пример использования ограничивает длину документов 1024 токенами и запросов 512 токенами. Модель рассчитана на оценку пар «запрос—документ» и сортировку документов по релевантности. Авторы сообщают о конкурентных результатах на BEIR, MIRACL и LMEB; также отмечают, что модель не обучалась на больших объёмах многоязычных данных. Метаданные классифицируют её как мультиязычную, но конкретные языки не перечислены. Для инференса описана интеграция с Sentence Transformers и поддержка vLLM. Лицензия — Apache-2.0.

LD-Zephyria-37b_HEALED — дообученная версия TheSkullery/LD-Zephyria-37b, созданная автором athirdpath. Для обучения применён LoRA-адаптер ранга 128, нацеленный на проекции q и down; использована одна эпоха датасета TheSkullery/Aether-Lite-PurHyDe. Модель представляет собой плотную авторегрессионную языковую модель семейства Mistral с 37,3 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогового использования; метаданные также отмечают интерфейс вызова инструментов. Доступны веса в формате safetensors. Лицензия в предоставленных данных не указана.

Ling-3.0-tiny-MLX-4bit — MLX-конверсия модели inclusionAI/Ling-3.0-tiny, опубликованная rapid-mlx. Это языковая модель для генерации текста, рассуждений и вызова инструментов, рассчитанная на локальный запуск на компьютерах Apple Silicon через MLX и rapid-mlx. Модель использует разреженную MoE-архитектуру: всего 7,9 млрд параметров, из которых 1,3 млрд активируются для каждого токена; применяются 128 экспертов с выбором top-8 и одним общим экспертом. В архитектуре используется гибридный стек внимания KDA и MLA, контекст поддерживает до 131 072 токенов. Квантование выполнено в 4 битах с размером группы 64, размер файла составляет около 4,2 ГБ, поэтому модель помещается и работает на Mac с 8 ГБ unified memory. Языки и специализированные модальности в README не указаны; модель предназначена для работы с текстом. Сильными сторонами являются большое контекстное окно, низкое число активных параметров при сохранении общей ёмкости 7,9 млрд параметров, поддержка рассуждений и нативного разбора вызовов инструментов. Ограничения связаны с зависимостью от MLX и Apple Silicon, а также с необходимостью использовать rapid-mlx, поскольку архитектура bailing_hybrid пока не входит в upstream mlx-lm. 4-битное квантование может снижать точность по сравнению с полной версией, однако в README приведены результаты проверки соответствия реализации официальному коду. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

llama-3.1-70B-lumitron — объединённая авторами модели nonetrix языковая модель на основе архитектуры Llama 3.1. Она создана методом task arithmetic с помощью mergekit: в объединение вошли nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и NeverSleep/Lumimaid-v0.2-70B. Модель содержит 69,5 млрд параметров, использует формат safetensors и доступна через библиотеку Transformers; заявленная длина контекста — 131072 токена. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и инструкции. Метаданные также отмечают интерфейс вызова инструментов. Карточка не приводит результатов оценки качества или отдельных гарантий работы этих возможностей. Лицензия в предоставленных данных не указана.

Llama3.1-8b-Instruct-CPT-SFT-DPO-09022024 — плотная авторегрессионная языковая модель семейства Llama 3.1 с 7,5 млрд параметров, опубликованная на Hugging Face в формате safetensors для библиотеки Transformers. По названию это инструкционная модель, прошедшая этапы CPT, SFT и DPO; сведения о разработчике и подробностях обучения в карточке не приведены. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Метаданные указывают контекст до 131 072 токенов. Подтверждённых сведений о поддерживаемых естественных языках, специальных прикладных областях и лицензии нет, поэтому область применения и условия распространения следует уточнять у владельца модели. Карточка не содержит результатов оценки или описания ограничений; как и другие генеративные языковые модели, она может выдавать ошибочные или необоснованные ответы.

Llama-3.1-Nemotron-lorablated-70B — диалоговая текстовая модель на архитектуре Llama, созданная автором репозитория слиянием NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF и mlabonne/Llama-3-70B-Instruct-abliterated-LORA с помощью mergekit и task arithmetic. Модель содержит 69,5 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы; поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и ответов на инструкции, включая запросы, на которые базовая модель могла отказываться отвечать. В метаданных также заявлен интерфейс вызова инструментов. Карточка приводит результаты оценивания на IFEval и BBH, но не описывает конкретный набор поддерживаемых языков. Модель распространяется по лицензии Llama 3.1; применимость её условий следует проверять для конкретного использования.

alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

Lumma-Fev-4B — плотная модель принятия решений на 4 млрд параметров от FrontiersMind. Она принимает документ-состояние и набор типизированных вопросов, после чего за один проход выдаёт распределение вероятностей по вариантам каждого вопроса. Модель не генерирует текст: она поддерживает вопросы типа «да/нет», выбор из вариантов и оценку по упорядоченной шкале. Модель предназначена для классификации и структурированного извлечения решений из текста или JSON: например, для независимой оценки нескольких свойств документа и маршрутизации записей по заранее заданным категориям. Вопросы обрабатываются независимо друг от друга. Модель опубликована в формате safetensors для Transformers; лицензия — Apache-2.0. Вероятности и confidence являются оценками модели, поэтому перед использованием их для автоматического принятия решений следует проверить калибровку на размеченных данных своей задачи. Карточка приводит результаты бенчмарков по типизированным решениям, новостям и эмоциям, но не сообщает длину контекста.

Luqwen4-4B — русскоязычная инструкционная текстовая модель, разработанная LLiserginov на основе Qwen3.5-4B-Base. Она дообучена методом LoRA/QLoRA и предназначена для диалогов, следования инструкциям, генерации художественных текстов и притч, решения задач по математике, физике, истории и аналитике, а также написания и объяснения программного кода. Модель также обучалась сценариям вызова инструментов, работе с API и файлами. Базовая модель содержит около 4 млрд параметров и использует гибридную архитектуру Qwen3.5 For Causal LM с Gated DeltaNet и Full Attention. Она включает 24 слоя, скрытую размерность 1024, словарь на 248 320 токенов и поддерживает контекст до 262 144 токенов. Дообучающие данные охватывают русский и английский языки; значительная часть корпуса посвящена креативному письму, русским инструкциям, притчам, веб-разработке, Windows batch-скриптам, логическим и математическим задачам на внимательность. Указанная максимальная длина последовательности при обучении составляет 4096 токенов. Сильные стороны модели — ориентация на русский язык, выразительная генерация, работа с инструкциями, кодом, инструментами и задачами на пошаговое рассуждение. Ограничения включают небольшой по современным меркам размер, возможные ошибки в математике, коде и фактических ответах, а также отсутствие заявленных количественных результатов оценки. Модель распространяется на условиях лицензии Apache-2.0; после обучения LoRA-адаптер был объединён с базовой моделью в формате 16-bit.

Magstral 123B — плотная языковая модель на архитектуре Mistral, созданная автором lodrick-the-lafted слиянием весов anthracite-org/magnum-v2-123b и mistralai/Mistral-Large-Instruct-2407. Автор описывает её как простое слияние в пропорции 50/50 методом SLERP, призванное приблизить Magnum v2 к обычному варианту Mistral Large. Модель предназначена для генерации текста и диалогов; каталог также отмечает интерфейс вызова инструментов. Она содержит 122,2 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Карточка не уточняет языки, на которых модель особенно эффективна, и не приводит результатов оценки качества. В репозитории указана лицензия other; конкретные условия использования следует проверять в файлах лицензии модели и её базовых компонентов. Большой размер модели требует значительных вычислительных ресурсов.

Agnuxo/Mamba-Codestral-7B-v0.1-instruct-python_coding_assistant-GGUF_16bit — локальная модель генерации кода, опубликованная Франсиско Ангуло де ла Фуэнте под именем Agnuxo. Это плотная модель семейства Mistral с 7 млрд параметров в формате GGUF F16; карточка рекомендует запуск через Ollama и также описывает использование через Transformers. Модель предназначена для помощи в программировании: она генерирует код на Python, JavaScript, TypeScript, Rust, Go и C++, а также поддерживает сценарии научных вычислений и машинного обучения с NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. В карточке также заявлены возможности декомпозиции задач и взаимодействия с агентами через MCP и A2A. Метаданные указывают английский и испанский языки. Лицензия — Apache-2.0. Описание не приводит результатов независимых тестов качества или подробностей о контекстном окне, поэтому пригодность для конкретных задач стоит оценивать на собственных примерах.

FriendliAI публикует вариант Meta Llama 3 70B Instruct с весами в формате FP8 для более эффективного инференса при сохранении высокой точности. В основе — авторегрессионный трансформер Llama с плотной архитектурой и Grouped-Query Attention; модель содержит 69,5 млрд параметров и принимает текст, генерируя текст и код. Контекст — до 8192 токенов. Модель предназначена для диалоговых ассистентов и генерации текста на английском языке, в том числе для коммерческих и исследовательских сценариев. FP8 поддерживается на GPU NVIDIA Ada, Hopper и Blackwell. Модель разработана Meta, а FP8-версия опубликована FriendliAI; веса представлены в safetensors. Использование регулируется специальной коммерческой лицензией Meta Llama 3.

Карточка модели Openintelligent123/MiniCPM5-2B-CRACK-JANG_8M на Hugging Face совпадает с карточкой dealignai/MiniCPM5-2B-CRACK-JANG_8M, поэтому описание составлено по ней. dealignai выпустила MiniCPM5-2B-CRACK-JANG_8M — дообученную версию openbmb/MiniCPM5-2B в формате MLX для запуска на Apple Silicon через vMLX. Это плотная Llama-совместимая языковая модель с 2,2 млрд параметров и контекстом до 131 072 токенов; модель принимает и генерирует текст, поддерживает английский и китайский языки, режим рассуждения с включением и выключением, а также вызов инструментов через XML. Модель предназначена для диалогов, программирования, рассуждений и тестирования поведения при удалённом отказе от ответов: README сообщает, что механизм отказов удалён на уровне весов. В карточке приведены результаты MMLU и HarmBench для этой сборки. Модель поставляется в 8-битном MLX-бандле JANG8M и заявлена как бесплатная для macOS; лицензия — Apache-2.0. Это текстовая модель без поддержки изображений. Поскольку поведение отказов удалено, модель может выдавать ответы на опасные запросы; применяйте её с учётом этого ограничения.

llmfan46/MiniMax-M2.7-BF16-ultra-uncensored-heretic — модифицированная версия MiniMax-M2.7 от независимого автора llmfan46. По карточке, к модели применена abliteration: изменены параметры attn.o_proj на слоях 0–51, чтобы снизить частоту отказов при сохранении близости к поведению исходной модели. Метаданные описывают её как текстовую MoE-модель для генерации текста с диалоговым режимом, размером 2,9 млрд параметров и контекстом до 204 800 токенов. Модель рассчитана на диалог, сложные инструкции, программирование, анализ инцидентов и агентные сценарии; автор исходной MiniMax-M2.7 также заявляет поддержку работы с инструментами и офисными документами. В README приведено сравнение отказов и KL-дивергенции с исходной моделью, однако эти показатели получены самим автором и не подтверждают качество на независимых тестах. Лицензия указана как other, поэтому условия использования следует проверить в репозитории базовой модели и связанных лицензионных материалах.

Mistral Medium 3 — корпоративная языковая модель от Mistral AI. Она предназначена для рассуждений и мультимодальных задач при сниженных эксплуатационных затратах; описание заявляет производительность передового уровня и стоимость в восемь раз ниже.

zetasepic/Mistral-Small-Instruct-2409-abliterated — производная версия Mistral-Small-Instruct-2409, созданная автором репозитория с применением метода «abliteration». Это плотная инструкционная языковая модель семейства Mistral на 22 млрд параметров с архитектурой MistralForCausalLM, предназначенная для диалогов и генерации текста; метаданные также указывают интерфейс вызова функций. Модель принимает текст и рассчитана на контекст до 32 768 токенов. Карточка сообщает об использовании кода для abliteration, но не описывает процедуру, результаты, языковое покрытие или ограничения этой версии. Базовая модель — mistralai/Mistral-Small-Instruct-2409. Файлы представлены в формате safetensors; указанная библиотека — Transformers. Лицензия в предоставленных данных не приведена.

msmarco-distilbert-dot-v5 — модель Sentence Transformers, обученная командой sentence-transformers для семантического поиска. Она кодирует предложения и абзацы в плотные векторы размерности 768, пригодные для сравнения запросов и текстовых фрагментов по смыслу. Модель обучена на 500 тысячах пар «запрос — ответ» из набора MS MARCO и использует архитектуру DistilBERT; максимальная длина входной последовательности составляет 512 токенов. Модель подходит для поиска релевантных документов или ответов по запросу, семантического сопоставления текстов и построения поисковых систем с векторным индексом. Для применения доступны реализации в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Основной язык карточки и метаданных — английский. Эмбеддинги не нормализуются автоматически, поэтому при сравнении нужно учитывать выбранную метрику и способ нормализации. Модель распространяется по лицензии Apache-2.0.

mxbai-rerank-base-v2 (также ProRank-0.5B) — базовая модель семейства реранкеров Mixedbread AI. Она оценивает релевантность пар «запрос — документ» и помогает переставить результаты поиска так, чтобы наиболее подходящие оказались выше. Модель построена на плотной архитектуре Qwen2 с 494 млн параметров; для работы использует Transformers и формат Safetensors. Размер контекста — до 32 768 токенов. Модель предназначена для мультиязычного поиска, включая поиск по коду, и может применяться для повторного ранжирования кандидатов в RAG-системах и поисковых сервисах. По данным авторов, она поддерживает более 100 языков и показывает сильные результаты на английском и китайском; в опубликованной таблице для base-v2 приведены показатели BEIR, мультиязычного и китайского поиска, поиска по коду, а также задержка на A100. Лицензия — Apache-2.0. README не приводит технический отчёт и не описывает ограничения качества или полный перечень языков. Указанные в карточке языковые теги охватывают лишь часть заявленной мультиязычной поддержки; показатели скорости относятся к тестированию на A100 и могут отличаться на другом оборудовании.