I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиКарточка модели Alexhuou/MNLP_M2_document_encoder_v1 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
ModernCE-large-nli — англоязычный cross-encoder для вывода по паре текстов: определяет, противоречат ли они друг другу, нейтральны ли они или второй текст следует из первого. Модель разработана dleemiller на архитектуре ModernBERT-large и совместима с аналогичными cross-encoder-моделями Sentence Transformers. Она содержит около 394,7 млн параметров; метаданные указывают контекст до 2048 токенов. Модель предназначена для классификации отношений между предложениями, проверки утверждений и оценки соответствия ответа исходному тексту, в том числе при оценке ответов LLM. В README указана точность 92,02% на MNLI mismatched и 91,10% на SNLI. Модель обучалась на AllNLI; автор сообщает, что для большой версии заморозил первые 19 слоёв и дообучил оставшиеся слои с новой классификационной головой. Лицензия — MIT. Это cross-encoder: для оценки пары текстов их нужно подавать совместно, поэтому применение для массового попарного сравнения может требовать значительных вычислений. Хотя README заявляет обработку последовательностей до 8192 токенов, метаданные каталога указывают нативный контекст 2048 токенов.
tomaarsen/mpnet-base-nq-cgist-gt — текстовая модель Sentence Transformers, созданная дообучением microsoft/mpnet-base на парах запросов и ответов из Natural Questions. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для оценки семантического сходства, поиска и сопоставления текстов. Архитектура включает MPNet и усредняющий токены слой pooling; модель имеет 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель рассчитана на английский язык. Её можно применять для семантического поиска по корпусу документов, сравнения запросов с ответами, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Для сравнения векторов в карточке рекомендована косинусная близость; приведённые оценки на наборах Nano BEIR и Nano BEIR-подобных задачах различаются по датасетам, поэтому качество следует проверять на целевом корпусе. Модель распространяется по лицензии Apache-2.0. Ограничение длины входа составляет 512 токенов; карточка не подтверждает поддержку языков помимо английского.
Nano-Em1-0.6B-v2 — модель эмбеддингов текста от KiteFish AI на базе Qwen3-0.6B. Она использует двунаправленное внимание вместо причинной маски, среднее объединение токенных представлений и формирует векторы размерности 1024. Максимальная длина входа по README — 512 токенов; метаданные указывают контекст модели в 40 960 токенов. Модель предназначена для поиска документов по запросу, ранжирования, семантического сходства, классификации пар текстов и кластеризации. Для задач предлагаются инструкции-префиксы; при асимметричном поиске префикс инструкции добавляется к запросу, а документы кодируются без него. В метаданных также указана поддержка извлечения признаков и сходства предложений. Модель ориентирована на английский язык, а качество на других языках не оценивалось. Для загрузки архитектуры требуется включить trust_remote_code=True. Модель дообучена на Qwen/Qwen3-0.6B, распространяется в формате safetensors по лицензии Apache-2.0.
Occiglot-7B-FR-EN-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер MistralForCausalLM с 7,1 млрд параметров, дообученный на 160 млн токенов многоязычных и программных инструкций. Модель настроена для диалогового взаимодействия по шаблону ChatML и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и выполнения инструкций на французском и английском языках, включая задачи с кодом. Обучающие данные были поровну распределены между французским и английским; в README приведены предварительные результаты оценивания, причём результаты для французского следует трактовать осторожно из-за частично машинного перевода тестов и англоязычных запросов. Это ранний выпуск исследовательского проекта. Модель не проходила выравнивание по безопасности и может выдавать проблематичные ответы. Лицензия — Apache 2.0.
CrazyDave53/OpenCVModelDemo — многоязычная модель Sentence Transformers, дообученная на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она использует архитектуру XLM-RoBERTa с усреднением токенных представлений и преобразует предложения и абзацы в плотные векторы размерности 768. Модель предназначена для семантического сравнения текстов, поиска и сопоставления перефразировок; сходство оценивается косинусной мерой. Метаданные указывают 305,2 млн параметров и контекст до 514 токенов; в карточке модели заявлена максимальная длина последовательности 128 токенов. Модель можно применять для семантического поиска, кластеризации, классификации текста и поиска похожих предложений или документов. Она принимает текст и выдаёт векторные представления, а обучение выполнено на наборе из 500 примеров с MarginDistillationLoss. В метаданных указана лицензия? Нет сведений о лицензии в предоставленных данных.
RedHatAI/OpenHermes-2.5-Mistral-7B-pruned50 — разреженная версия диалоговой модели OpenHermes-2.5-Mistral-7B, подготовленная Neural Magic для обслуживания через движок nm-vllm. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; заявленное окно контекста — 32 768 токенов. Она принимает текстовые запросы и генерирует текстовые ответы в диалоговом режиме. Модель подходит для локального запуска чат-ассистента, ответов на вопросы, генерации текста и помощи с кодом. Репозиторий содержит веса PyTorch, оптимизированные разреживанием для высокой пропускной способности и меньшего потребления памяти при инференсе через nm-vllm. Она унаследовала возможности базовой OpenHermes-2.5-Mistral-7B, но карточка не приводит отдельной оценки качества именно разреженной версии. Лицензия в предоставленных данных не указана.
MaziyarPanahi выпустил эту диалоговую модель как слияние Mistral-7B-Instruct-v0.2 и OpenHermes-2.5-neural-chat-7b-v3-1-7B методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на диалог и генерацию текста по инструкциям; заявленная длина контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и создания текстов по запросу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализированной предметной области или ограничениях качества.
Open-Instruct Self-Instruct 13B — языковая модель Allen Institute for AI (AI2), созданная дообучением LLaMA с 12,9 млрд параметров на датасете Self-Instruct. Это causal language model для генерации текста по инструкциям; для лучшего качества вход следует оформлять в специальном формате модели с переводами строк. Модель предназначена для выполнения разнообразных текстовых инструкций, ответов на вопросы, решения задач и генерации кода. Она поддерживает английский язык, имеет контекстное окно 2048 токенов и распространяется в формате PyTorch. В README приведены результаты на тестах знаний, математики, рассуждений, вопросов и генерации кода. Это diff дообучения, а не самостоятельный полный набор весов: для использования требуется исходная модель LLaMA в формате Hugging Face. Применяются лицензия модели из LICENSE.txt и исходная лицензия LLaMA; конкретные условия следует сверять с этими файлами.
OrakzaiX — это общественный GGUF-релиз модели класса 8B на архитектуре Llama, поддерживаемый и квантизированный Faisal Orakzai в рамках экосистемы Orakzai. В метаданных указана базовая модель meta-llama/Llama-3-8B-Instruct; данных о самостоятельном обучении новой фундаментальной модели нет. Модель предназначена для локальной генерации текста и диалоговых сценариев: создания частных ассистентов, офлайн-прототипирования, разработки инструментов, суммаризации, извлечения технической информации, объяснения кода, автоматизации и экспериментов с многоагентными рабочими процессами. Формат GGUF рассчитан на запуск через совместимые средства, включая llama.cpp, на потребительском оборудовании, рабочих станциях, периферийных устройствах и частных серверах. Локальное выполнение может помочь сохранять запросы и ответы в контролируемой среде, однако безопасность зависит от настроек и окружения. Доступны варианты квантизации от Q2_K до Q8_0; рекомендуемым начальным вариантом указан Q4_K_M, обеспечивающий компромисс между качеством, скоростью и потреблением памяти. Фактические требования к ресурсам выше размера файла из-за контекста, KV-кэша и служебных буферов. Языки, размер контекстного окна, результаты бенчмарков, точность в специализированных областях, надежность вызова инструментов и возможности автономной работы не указаны. Лицензия обозначена как other; перед распространением или коммерческим использованием необходимо проверить условия лицензии OrakzaiX и базовой модели Meta.
Richard Young из DeepNeuro подготовил эту версию Microsoft Phi-3.5-mini-instruct с помощью Heretic v1.4.0: модель подвергнута абляции, направленной на снижение числа отказов. Это плотная авторегрессионная языковая модель Phi-3 с 3,7 млрд параметров, предназначенная для генерации текста, диалогов и задач с кодом. Метаданные указывают контекст 4096 токенов; модель распространяется в формате Safetensors по лицензии MIT. Модель подходит для чат-ботов, генерации текста и кода, а также для сценариев с ограничениями по памяти, вычислениям или задержке. README приводит результат оценки отказов: 12 отказов из 100 запросов против 95 у исходной модели; это указывает на заметно ослабленное поведение отказа, но не гарантирует точность или безопасность ответов. В README также приведено описание возможностей и оценок исходной Phi-3.5, поэтому их нельзя автоматически считать характеристиками этой производной версии. Проверяйте модель для конкретного применения, особенно в чувствительных сценариях.
Qwen2-VL-72B-Instruct — мультимодальная модель компании Qwen, дообученная для следования инструкциям на основе Qwen/Qwen2-VL-72B. Она принимает текст и изображения, а также видео для визуального анализа, и формирует текстовые ответы. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2-VL с динамическим разрешением изображений и мультимодальным позиционным кодированием M-ROPE; длина контекста составляет 32 768 токенов. Модель предназначена для ответов на вопросы по изображениям и видео, анализа документов и визуального содержимого, а также диалога и создания текстового описания по визуальному материалу. Она поддерживает разные разрешения и пропорции изображений; в README также описана возможность интеграции в системы, управляющие устройствами по визуальному окружению и текстовым инструкциям. Видеовход ограничен локальными файлами, а аудио в видео модель не понимает. Согласно README, известные ограничения включают неточный подсчёт объектов, слабое пространственное рассуждение, трудности со сложными многошаговыми инструкциями и ограниченное распознавание конкретных людей и объектов интеллектуальной собственности. Данные об изображениях актуальны до июня 2023 года. Модель распространяется под лицензией с меткой Hugging Face «other»; конкретные условия лицензии следует сверить в карточке репозитория.
RedHatAI/Qwen3-0.6B-quantized.w4a16 — квантизированная версия языковой модели Qwen3-0.6B, разработанная RedHat совместно с Neural Magic. Это авторегрессионная модель архитектуры Qwen3ForCausalLM для генерации текста по текстовому вводу. Модель предназначена для рассуждений, function calling, многоязычного следования инструкциям, перевода и создания специализированных предметных экспертов посредством дообучения. Указанный размер базовой модели — 0,6 млрд параметров. Веса линейных слоёв трансформера сжаты до INT4 с использованием GPTQ, асимметричной поканальной групповой схемы с размером группы 64; параметры сохраняются в формате w4a16. Это примерно на 75% снижает размер на диске и требования к памяти GPU по сравнению с 16-битным представлением весов. В README приведены сценарии оценки с длиной контекста до 40960 токенов, однако точное максимальное контекстное окно модели отдельно не указано. Модель поддерживает только текстовые входы и выходы. К преимуществам относятся уменьшенное потребление памяти и эффективное развёртывание, в частности через vLLM с OpenAI-совместимым сервером. К ограничениям относятся возможные потери качества из-за INT4-квантизации, а также отсутствие в предоставленных данных подробных результатов оценки, перечня поддерживаемых языков и гарантий качества для конкретных прикладных задач. Модель распространяется по лицензии Apache-2.0; использование не должно нарушать применимые законы и нормативные требования.
lucaswychan/Qwen3-0.6B-Reasoning-Embedding — многоязычная модель эмбеддингов, разработанная Lucas Wun Yu CHAN на основе Qwen3-0.6B. Это плотная decoder-only модель семейства Qwen3, дообученная контрастивным обучением для получения семантических представлений текста и оценки сходства предложений. Число параметров составляет около 507,9 млн, длина контекста — до 40 960 токенов. Модель использует Sentence Transformers и распространяется в формате safetensors. Модель подходит для семантического поиска, сопоставления текстов и построения эмбеддингов в многоязычных сценариях. В README описано исследование влияния RLVR-обучения базовой модели на качество эмбеддингов: оценка на MTEB и BRIGHT не выявила устойчивого преимущества перед эмбеддингами, инициализированными базовой моделью. Для загрузки автор рекомендует включить trust_remote_code=True. Лицензия — Apache-2.0.
Qwen3.5-9B-DS-v4-Flash-v3.0 — экспериментальная плотная модель на 9 млрд параметров от prithivMLmods, дообученная на базе prithivMLmods/Q3.5-9B-DS-v4-Flash-v2.0, построенной на Qwen/Qwen3.5-9B. Модель использует архитектуру Qwen3.5ForConditionalGeneration и предназначена для диалогов с текстом и изображениями; основное обучение было направлено на рассуждения, математику, научный анализ, программирование и следование инструкциям. Автор описывает многоэтапное обучение примерно на 3,5 тыс. отфильтрованных примеров с трассами рассуждений DeepSeek V4 Flash и на дополнительных наборах данных. Модель подходит для экспериментов с многошаговыми и длинными рассуждениями, решения задач и локального запуска через Transformers. В карточке указан формат safetensors и лицензия Apache-2.0. Это экспериментальный выпуск: в сложных задачах возможны ошибочные промежуточные шаги и выводы, а поведение может отличаться от базовой модели. Качество зависит от охвата и особенностей обучающих данных.
sudo-0x2a/Qwen3.6-27B-NVFP4-GPTQ — квантованная версия базовой модели Qwen/Qwen3.6-27B, подготовленная автором репозитория sudo-0x2a. Это текстогенерационная модель с поддержкой визуальных компонентов, предназначенная прежде всего для локального запуска и инференса на высокопроизводительном потребительском оборудовании. Тестирование проводилось на одной NVIDIA RTX 5090 с использованием vLLM и FP8 для KV-кэша. Модель использует смешанную точность: слои внимания, линейного внимания и MLP квантованы в NVFP4, а vision-компоненты, MTP, lm head и embeddings сохранены в BF16. При квантовании применялись SmoothQuant и GPTQ, калибровка выполнена на 512 образцах с длиной последовательности 8192. По приведённым локальным оценкам модель показывает 85,0 на подмножестве MMLU-Pro и GPQA Diamond, 57,0 на SWE-bench Verified Easy и 84,0 на подмножестве MMMU Pro; результаты напрямую сопоставимы с BF16-оценками ограниченно, поскольку получены в разных средах. Главное преимущество — существенное снижение требований к памяти при сохранении широких возможностей базовой модели, включая работу с текстом, кодом и визуальными задачами. При этом надёжность работы с длинным контекстом не гарантируется: из-за сильного квантования чувствительных linear attention layers возможна деградация на больших длинах последовательности. Модель распространяется по лицензии Apache-2.0.
Avesed/Qwen3.6-35B-A3B-INT8-W8A8 — квантизированная версия Qwen/Qwen3.6-35B-A3B, разработанная на базе модели Qwen. Это гибридная Mixture-of-Experts-модель для генерации текста, рассчитанная прежде всего на англоязычные и китайскоязычные сценарии. Архитектура включает 256 экспертов с выбором 8 экспертов на токен и примерно 3 млрд активных параметров, GatedDeltaNet для линейного внимания, vision tower и MTP head, однако назначение и характеристики визуальных возможностей в карточке подробно не описаны. Квантизация выполнена в формате INT8 W8A8: веса экспертных FFN преобразованы в симметричный INT8 по каналам, а активации квантизуются динамически для каждого токена. Чувствительные к качеству компоненты, включая self-attention, маршрутизатор, shared expert, GatedDeltaNet, lm_head, embeddings, vision tower и MTP head, сохранены в формате bfloat16. По заявлению автора, такая схема обеспечивает почти отсутствие потерь качества и предназначена для более эффективного развертывания модели. Модель поддерживается сервером vLLM с INT8 MoE-путём и рассчитана на видеокарты Ampere с архитектурами sm_80 и sm_86; в примере запуска используется tensor parallelism на двух устройствах. Ограничения включают отсутствие в README данных о размере контекста, точном общем числе параметров, поддерживаемых визуальных задачах и результатах тестирования именно этой версии. Лицензия — Apache-2.0.
dbirks/Qwen3.8-27B-NVFP4-AutoRound — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, подготовленная с помощью Intel AutoRound и упакованная в формате compressed-tensors для развертывания через vLLM. Модель предназначена для генерации и обработки текста, а также сохраняет архитектурные компоненты исходной мультимодальной модели, включая vision tower, хотя квантизация применяется только к языковому декодеру. В основе лежит гибридная архитектура из 64 слоёв: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания, с поддержкой контекста до 262 тысяч токенов. Основная часть линейных слоёв языкового декодера сжата до NVFP4 W4A4: квантизируются веса и входные активации с группами размера 16. Проекции управления рекуррентностью, vision tower, MTP head и lm_head оставлены в BF16 для сохранения качества. Модель поддерживает английский язык; размер файла составляет около 20,6 ГБ против примерно 52 ГБ у BF16-версии. Сильная сторона модели — существенное снижение требований к памяти при сохранении качества, близкого к базовой BF16-модели: в приведённых тестах результаты GSM8K, HumanEval и MMLU-Pro находятся в пределах доверительных интервалов базовой версии. Модель в первую очередь рассчитана на GPU NVIDIA Blackwell с поддержкой FP4 tensor cores (SM100/SM120). На Ada и Hopper полноценного ускорения нет, возможен откат к более медленному режиму Marlin; для таких GPU рекомендуется родственная W4A16-версия. Лицензия — Apache-2.0.
Qwen3.8-27B-NVFP4-vllm — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем kekzle. Модель предназначена для запуска в vLLM и imp; поддерживает текстовые и визуальные входы, при этом в карточке указан английский язык. Это гибридная архитектура с компонентами GDN, vision tower и MTP draft head, однако подробные сведения о точной архитектуре и максимальном контексте не приведены. Линейные веса внимания, MLP и GDN-проекций сжаты в NVFP4 с группами размера 16 по схеме W4A16, а embeddings, lm_head, нормализации, vision tower и MTP draft head сохранены в исходной точности BF16. Размер весов уменьшен примерно с 51,75 до 19,2 ГиБ, что позволяет разместить модель на видеокарте с 32 ГиБ памяти. По приведённым измерениям на RTX 5090 модель достигла perplexity 4,6158, скорости декодирования до 87,4 токена в секунду и результата 45/45 в тестовом наборе качества. Сильные стороны модели — существенная экономия памяти, поддержка работы с текстом и изображениями, совместимость с vLLM и imp, а также возможность запуска на потребительских видеокартах Blackwell sm_120, где опубликованные варианты с FP8 attention могут не работать. Ограничения связаны с экспериментальным характером квантования без калибровки активаций, меньшей производительностью vLLM на sm_120 из-за fallback на Marlin и необходимостью настраивать число последовательностей и параметры памяти. Для многошаговых диалогов рекомендуется выделять не менее примерно 400 токенов на ответ, поскольку бюджет включает внутреннее рассуждение. Модель распространяется по лицензии Apache-2.0. Квантованная версия создана из официального релиза BF16 с помощью экспериментального квантовщика imp.
Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-NVFP4-W4A16-T336 — производная модель, опубликованная esatapedico на основе DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, которая, в свою очередь, основана на Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и развёртывания через vLLM; настройка TWIN-TURBO ориентирована на сокращение количества токенов рассуждений при сохранении качества ответов. Это 27-миллиардная языковая модель с архитектурой Qwen3_5ForCausalLM, 64 слоями, гибридной архитектурой GatedDeltaNet, поддержкой мультиязычных сценариев и заявленным контекстом до 262144 токенов. В репозитории также сохранены vision tower и MTP head, пригодный для speculative decoding. Контрольная точка использует формат compressed-tensors NVFP4: веса W4A16 с группировкой 16 и масштабами FP8; часть наиболее чувствительных компонентов оставлена в BF16. Калибровочные данные не применялись, размер файла model.safetensors составляет около 21 ГБ. Главные преимущества — значительное сжатие весов, совместимость с vLLM, сохранение полноточных компонентов, влияющих на качество, а также измеренная близкая к родительской модели perplexity на англоязычном наборе. Ограничения включают зависимость от vLLM-совместимых движков, необходимость подходящей аппаратной конфигурации и отсутствие GGUF в репозитории; заявленная проверка проводилась при tensor parallel 2 и контексте 2048 токенов, поэтому практические характеристики на максимальном контексте могут отличаться. Модель распространяется по лицензии Apache 2.0.
ashuaria/Qwen3.8-Flash-Next-GGUF-FineTuning — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen и опубликованной для запуска через llama.cpp или Unsloth Desktop. Модель предназначена для задач обработки текста и изображений, включая мультимодальные приложения и агентские сценарии с длинным контекстом. Это авторегрессионная языковая модель с vision encoder, построенная на гибридной архитектуре Qwen3.8-Flash-Next. Она использует Gated DeltaNet и Qwen Sparse Attention, Gated Residual, n-gram embedding и Mixture of Experts. Заявлено 125 млрд параметров, из которых активируется 6 млрд, дополнительно используются 51 млрд параметров n-gram embedding и 4 млрд для MTP. Модель содержит 48 слоёв, 512 экспертов с 10 маршрутизируемыми и одним общим активируемым экспертом, а её нативный контекст составляет 262 144 токена с возможностью расширения до 1 млн токенов. Сильными сторонами являются высокая эффективность активации параметров, поддержка длинного контекста, разреженное внимание на уровне блоков и сочетание текстовой и визуальной обработки. README не указывает точный список поддерживаемых языков, конкретные значения квантования GGUF, системные требования или результаты бенчмарков. Модель распространяется по лицензии qwen-community-1.0; указано, что это экспериментальный preview архитектуры, которая должна лечь в основу Qwen4, поэтому совместимость и стабильность следует проверять в целевом окружении.
Qwen3-Embedding-4B-GGUF — это квантизированная версия модели Qwen3-Embedding-4B, разработанной командой Qwen и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для создания текстовых эмбеддингов и может применяться в задачах семантического поиска, сравнения предложений, извлечения признаков, кластеризации и построения retrieval-систем. В метаданных указана поддержка английского языка и интеграция с экосистемой Transformers и sentence-transformers. Модель имеет размер около 4 миллиардов параметров; точная архитектура и максимальная длина контекста в README не указаны. Доступны варианты квантизации от Q2_K до Q8_0, IQ4_XS и f16, с размером файлов примерно от 1,8 до 8,1 ГБ. Квантизация позволяет снизить требования к памяти и ускорить запуск, однако варианты с меньшим размером могут уступать по качеству; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как вариант с лучшим качеством среди быстрых конфигураций. README не содержит результатов бенчмарков и подробных ограничений качества. Модель распространяется по лицензии Apache-2.0.
Qwen3-Max — обновлённая модель серии Qwen3. По карточке модели, она улучшает рассуждение, следование инструкциям, многоязычную поддержку и охват редких знаний по сравнению с версией, выпущенной в январе 2025 года. Модель предназначена для ответов на запросы и выполнения инструкций на разных языках. В предоставленных сведениях нет описания архитектуры, размера, длины контекста, перечня языков или лицензии, поэтому эти характеристики нельзя уточнить. Ограничения и условия использования в карточке не описаны.
SzilviaB/Qwen-Supernova-14B — объединённая методом SLERP модель на базе Qwen2.5-14B и SuperNova-Medius, созданная с помощью mergekit. Это плотная авторегрессионная языковая модель Qwen2 с 14 млрд параметров для генерации текста и диалогового взаимодействия; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель принимает текстовые запросы и генерирует текст. Контекстное окно составляет до 131 072 токенов, что позволяет работать с длинными запросами и документами. Метаданные указывают на поддержку интерфейса вызова инструментов, однако README не описывает его поведение и не приводит оценок качества. Модель создана сообществом SzilviaB путём слияния предварительно обученных моделей Qwen/Qwen2.5-14B и arcee-ai/SuperNova-Medius; конфигурация mergekit задаёт кривую SLERP с упоминанием влияния Hermes и WizardMath на разные слои. Лицензия в предоставленных данных не указана.
Reflection-Llama-3.1-70B-GGUF — квантизированная GGUF-версия модели Reflection-Llama-3.1-70B на базе mattshumer/ref_70_e3. Базовая архитектура относится к семейству Llama и связана с Meta Llama 3; квантизацию выполнила Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, особенно задач, требующих сложного рассуждения, самопроверки и корректировки ответа. Модель имеет размер 70 миллиардов параметров и поддерживает контекст до 128 000 токенов. Это текстовая модель без заявленной поддержки изображений или других модальностей; поддерживаемые языки в README не указаны. Доступны варианты квантизации от 2 до 8 бит в формате GGUF. Рекомендуемыми названы варианты Q4_K_M как сбалансированный по качеству и размеру, а также Q5_K_M и Q5_K_S с очень малой потерей качества. Малые варианты могут заметно снижать качество, а старые форматы Q4_0 и Q5_0 не рекомендуются по сравнению с современными альтернативами. Для работы рекомендуется использовать системную инструкцию, задающую рассуждение внутри тегов <thinking>, итог внутри <output> и исправления внутри <reflection>; также указаны рекомендуемые temperature 0,5 и top_p 0,95. Ограничениями являются большой объём файлов и высокие требования к ресурсам, особенно для вариантов с высокой точностью. Модель распространяется по лицензии llama3.1; дополнительные условия лицензии в README не приведены.
Модель ritrieve_zh_v1 разработана командой richinfoai и предназначена для получения плотных векторных представлений текстов и сравнения их смысловой близости. Это модель семейства BERT на базе Sentence Transformers, обученная методом дистилляции от lier007/xiaobu-embedding-v2, dunzhang/stella-large-zh-v3-1792d и BAAI/bge-multilingual-gemma2. После второго этапа обучения размерность эмбеддингов составляет 1792. Модель обучалась на BAAI/Infinity-Instruct и opencsg/chinese-fineweb-edu; авторы сообщают о результатах на MTEB для китайского языка. Она принимает текст и выдаёт векторы, подходит для поиска по смыслу, сопоставления предложений и построения семантического поиска. Максимальная длина контекста — 512 токенов. Лицензия — MIT.
sobamchan/roberta-base-no-mrl — англоязычная модель Sentence Transformers, дообученная автором на наборе all-nli на основе FacebookAI/roberta-base. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения смысловой близости текстов, семантического поиска, поиска перефразирований, кластеризации и классификации текстов. Архитектура состоит из трансформера RoBERTa с усреднением токенных представлений; для сравнения векторов используется косинусное сходство. Максимальная длина входной последовательности — 512 токенов (514 токенов в метаданных). Модель обучалась с MatryoshkaLoss и MultipleNegativesRankingLoss на англоязычных данных all-nli. Модель подходит для получения векторных представлений текста и задач поиска или группировки похожих фраз. Она рассчитана на английский язык; качество для других языков не подтверждено. Лицензия в предоставленных данных не указана.
SAGA-embed_v1 — модель эмбеддингов предложений для скандинавских языков, построенная на архитектуре ModernBERT. Она создана на базе AI-Sweden-Models/ModernBERT-base, обучена примерно на 250 миллионах семантически связанных пар и затем дообучена. Репозиторий использует библиотеку sentence-transformers и содержит веса в формате safetensors; размер модели — 394,7 млн параметров, контекст — до 8192 токенов. Модель предназначена для получения векторных представлений текстов и задач семантического сходства. Её можно применять без промптов, однако для оптимальной производительности автор рекомендует использовать обученные пользовательские промпты для разных задач. По README, на момент публикации она занимала 9-е место в MTEB по скандинавским задачам и была самой высокоранжированной моделью до 1,5 млрд параметров. В метаданных указаны шведский, норвежский и датский языки; README описывает модель как предназначенную для скандинавских языков, но не приводит полную языковую спецификацию. Лицензия в предоставленных данных не указана.
samantha-1.2-mistral-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная MaziyarPanahi методом слияния mistralai/Mistral-7B-Instruct-v0.2 и cognitivecomputations/samantha-1.2-mistral-7b. Она предназначена для генерации текста и ответов в диалоге по инструкциям. Модель принимает текст и выдаёт текст; контекст — до 32 768 токенов. Слияние выполнено методом SLERP с настройками для слоёв self-attention и MLP. Репозиторий содержит веса safetensors, а README указывает тип данных bfloat16. Модель распространяется по лицензии Apache-2.0. Источники не описывают специальные предметные области или конкретные ограничения качества.
Карточка модели ceggian/sbert_pt_reddit_mnr_256 на Hugging Face совпадает с карточкой ceggian/sbert_pt_reddit_mnr_32, поэтому описание составлено по ней. ceggian/sbert_pt_reddit_mnr_32 — модель Sentence-Transformers на базе BERT, разработанная пользователем ceggian. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель обучена с функцией потерь MultipleNegativesRankingLoss на данных Reddit; размер составляет 136,7 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст и выдаёт векторные представления, поэтому подходит для поиска похожих сообщений, группировки текстов и ранжирования кандидатов по семантической близости. В репозитории находятся веса PyTorch. Лицензия и сведения о поддерживаемых языках в предоставленных данных отсутствуют.