I.14Автоматизация процессов и AI-агенты

BjarneNPO/BjarneNPO-01_09_2025_15_34_35 — дообученная BjarneNPO модель Sentence Transformer на базе shibing624/text2vec-base-multilingual. Она использует архитектуру BERT и преобразует предложения и абзацы в плотные эмбеддинги размером 384 для сравнения смысловой близости, семантического поиска, поиска перефразировок, классификации и кластеризации текстов. Для сопоставления в README указана косинусная близость; метаданные сообщают контекстное окно до 512 токенов, а карточка модели — максимальную длину последовательности 256 токенов. Модель обучалась на парах запросов и ответов, включая примеры на немецком языке, и предназначена для семантического поиска по тематически специализированным текстам. Она поддерживает многоязычные текстовые эмбеддинги; обучающие примеры указывают на немецкоязычный материал. Для использования подходит библиотека Sentence Transformers. В README приведены результаты оценки поиска, однако они не подтверждают качество на других данных или языках. Лицензия в предоставленных сведениях не указана.

AbstractPhil/captionbert-8192-v2 — автономный компактный текстовый энкодер предложений, созданный AbstractPhil и дистиллированный из геометрического консенсуса пяти моделей семейства BERT. Модель содержит 66 млн параметров по метаданным, использует 12 слоёв, скрытое представление размерности 512 и контекст до 8192 токенов; на выходе формирует L2-нормализованные векторы размерности 768. Для работы не требуются модели-эксперты; README показывает загрузку через Transformers и токенизатор bert-base-uncased. Модель предназначена для получения векторных представлений предложений и сравнения их семантической близости, включая поиск похожих формулировок и задачи семантического сходства. В README приведены результаты на STS-B, SICK-R и других наборах семантического сходства; авторы отмечают, что базовый энкодер эффективен относительно учителей, но обычное mean pooling у BERT-подобных моделей уступает специализированным энкодерам, обученным на большом количестве пар сходства. Для дополнительной адаптации в репозитории описаны AMOE-адаптеры. Модель ориентирована на английский язык. Лицензия — MIT. Указанная в README загрузка использует trust_remote_code=True; перед применением следует учитывать необходимость доверять коду репозитория. Показатели бенчмарков приведены авторами модели и могут не отражать качество на пользовательских данных.

CatPPT-base-Mistral-7B-Instruct-v0.1 — языковая чат-модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и rishiraj/CatPPT-base методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы; метаданные отмечают поддержку чата и задачи text-generation. Модель принимает текст и выдаёт текст, её контекст составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README описывает конфигурацию слияния и тип данных bfloat16. Сведения о специальных предметных областях или отдельных языках в предоставленных данных отсутствуют.

ncoop57/codeformer-java — модель Sentence-Transformers на базе RoBERTa, предназначенная для представления предложений и абзацев в виде плотных векторов размерности 768. Её можно применять для семантического поиска, сравнения текстов и кластеризации. В метаданных указано 151,8 млн параметров, контекст до 514 токенов и формат PyTorch. Модель обучалась с MultipleNegativesRankingLoss и косинусной мерой сходства. Это делает её подходящей для получения текстовых эмбеддингов и оценки семантической близости. README не уточняет языки обучающих данных и условия лицензии, поэтому языковую специализацию и лицензионные условия установить по доступным сведениям нельзя.

MaziyarPanahi/DeepSeek-R1-0528-Qwen3-8B-GGUF — это набор файлов модели в формате GGUF для базовой модели deepseek-ai/DeepSeek-R1-0528-Qwen3-8B. Исходную модель разработала deepseek-ai, а квантированную версию подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты. GGUF — формат, созданный командой llama.cpp и пришедший на смену GGML. Доступны варианты квантования с разной разрядностью: 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством работы. Поддерживаются llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, Faraday.dev, candle и ctransformers. К сильным сторонам относятся возможность локального использования, широкий выбор уровней квантования, GPU-ускорение в ряде клиентов и совместимость с OpenAI-совместимыми серверными интерфейсами некоторых библиотек. README не содержит сведений о точной архитектуре, размере параметров, поддерживаемых языках, длине контекста, мультимодальности, результатах тестирования или лицензии, поэтому эти характеристики нельзя достоверно определить.

DeepSeek-V4-Flash-MXFP4 — квантизированная версия DeepSeek-V4-Flash, разработанная Advanced Micro Devices (AMD) на базе исходной модели DeepSeek AI. Это каузальная языковая модель для генерации текста, ориентированная на запуск через Transformers и vLLM в Linux на ускорителях AMD MI355 и MI350 с архитектурой gfx950. README не указывает точный размер модели, поддерживаемые языки и длину контекста. Модель использует архитектуру DeepseekV4ForCausalLM и механизм Mixture-of-Experts (MoE). Проекции маршрутизируемых и общих MoE-экспертов квантизированы в статический OCP MXFP4 для весов и динамический OCP MXFP4 для активаций; остальные компоненты, включая attention, маршрутизатор MoE, нормализацию, embeddings, выходную голову и MTP-блок, сохранены в исходной точности. Квантизация выполнена с помощью AMD Quark 0.12.0, а рекомендуемая среда включает ROCm 7.2.0, PyTorch 2.9.1, Transformers 5.13.1 и vLLM 0.29.0. Ключевое преимущество модели — оптимизация инференса на совместимом оборудовании AMD при сохранении качества исходной модели: на GSM8K в конфигурации с 8 примерами она показала 94,92% против 95,00% у исходной версии, что соответствует восстановлению 99,9% результата. Ограничения включают зависимость от конкретных ускорителей AMD, Linux и совместимого программного стека; сведения о других бенчмарках, мультимодальности и языковом покрытии отсутствуют. Модель распространяется по лицензии MIT, как и исходная модель.

m3hrdadfi/distilbert-zwnj-wnli-mean-tokens — модель на базе DistilBERT для получения векторных представлений предложений и оценки их сходства. Карточка рекомендует использовать её с библиотекой Sentence-Transformers либо применять pooling к контекстным представлениям токенов при работе через Transformers. Модель подходит для сравнения предложений и поиска текстов, близких по смыслу. Она принимает текст и выдаёт эмбеддинги; заявленная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch. Лицензия и языки модели в предоставленных данных не указаны.

QuantFactory/dolphin-2.1-mistral-7b-GGUF — квантизированная версия модели Dolphin 2.1 на базе cognitivecomputations/dolphin-2.1-mistral-7b, созданная QuantFactory с использованием llama.cpp. Модель разработана в рамках проекта Dolphin; обучение спонсировала a16z. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, выполнение инструкций и творческие задачи. Модель основана на архитектуре Mistral с размером 7B параметров и распространяется в формате GGUF. Поддерживает текстовую модальность, английский язык и формат запросов ChatML. Для обучения использовались датасеты ehartford/dolphin и jondurbin/airoboros-2.2.1; Dolphin описывается как открытая реализация подхода Microsoft Orca с дополнительной очисткой, дедупликацией и повышением качества данных. К сильным сторонам относятся высокая готовность следовать инструкциям, универсальность и ориентация на творческую генерацию. Модель позиционируется как uncensored: из обучающих данных удалялись элементы alignment и bias, поэтому она может выполнять потенциально небезопасные или неэтичные запросы. При использовании в сервисах рекомендуется самостоятельно добавить слой выравнивания и фильтрации. Сведения о размере контекста и точных параметрах квантизации в README не указаны. Лицензия — Apache-2.0, допускающая коммерческое и некоммерческое использование.

Это конвертированная версия разговорной модели Dolphin 2.6 на архитектуре Phi-2. Модель предназначена для генерации текста в диалогах и ответов на инструкции. В карточке указаны форматы PyTorch, Safetensors и GGUF, а максимальный контекст составляет 2048 токенов. Модель ориентирована на английский язык и обучена на смесях диалоговых и инструктивных наборов данных, включая Dolphin, Airoboros, OpenHermes и Magicoder. Лицензия обозначена как other, поэтому условия использования следует уточнить в исходной карточке.

Это англоязычная модель Sentence Transformer, разработанная на базе sentence-transformers/all-MiniLM-L6-v2 и дообученная на наборе вопросов и ответов GooAQ. BERT-энкодер с 25,9 млн параметров преобразует предложения и абзацы в плотные векторы размерностью 384; для сходства используется косинусная мера. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов, особенно вопросов и ответов на английском языке. В README приведён результат cosine accuracy 0,5926 на TripletEvaluator для gooqa-dev. Она выдаёт векторы, а не готовые ответы на вопросы; качество зависит от данных и способа применения. Распространяется по лицензии базовой модели; сведения о лицензии в предоставленных данных отсутствуют.

jangedoo/embeddinggemma-300m-ne-pruned — обрезанная версия модели эмбеддингов Google embeddinggemma-300m. Она преобразует текст в векторы для сравнения предложений и семантического поиска; использовать её можно через библиотеку Sentence Transformers. Модель построена на архитектуре Gemma 3 Text, содержит около 123,1 млн параметров и поддерживает контекст до 2048 токенов. Разработчик сократил словарь токенов с 262 144 до 28 195, что уменьшило общее число параметров примерно на 58% относительно базовой модели. На STS-B для непальского языка результаты близки к базовой модели, но на NanoClimateFEVER для непальского точность поиска первого совпадения заметно ниже. Модель предназначена для работы с текстом и выдаёт эмбеддинги; лицензия в предоставленных данных не указана.

ERNIE-4.5-300B-A47B-2Bits-Paddle — текстовая языковая модель семейства ERNIE 4.5 от Baidu, представленная в репозитории в формате safetensors. Это модель генерации текста с архитектурой MoE: всего 300 млрд параметров, из которых для каждого токена активируется около 47 млрд; в конфигурации указаны 54 слоя и контекст до 131 072 токенов. Она предназначена для диалогов, понимания языка и генерации ответов, в том числе на английском и китайском языках. Семейство ERNIE 4.5 обучалось на текстовых и визуальных данных, однако этот вариант описан как текстовая модель и имеет задачу text-generation. Карточка рекомендует развёртывание через FastDeploy на PaddlePaddle и приводит параметры генерации Temperature=0.8 и TopP=0.8. Для репозитория указана лицензия Apache-2.0. Название содержит обозначение 2Bits, но метаданные сообщают только о формате safetensors, поэтому точный способ и степень квантизации файлов этого репозитория не подтверждены.

susnato/ernie-m-large_pytorch — конверсия весов ERNIE-M Large из формата PaddlePaddle в PyTorch, выполненная автором репозитория; исходную модель разработала Baidu. Это плотная мультиязычная модель семейства ERNIE-M с 658,7 млн параметров и контекстом до 514 токенов. Она предназначена для извлечения семантических представлений предложений и межъязычных задач: сопоставления предложений, определения текстового следования, распознавания именованных сущностей и ответов на вопросы после настройки под соответствующую задачу. Модель обучалась выравнивать представления языков с помощью восстановления маскированных токенов и обратного перевода на моноязычных корпусах. В карточке перечислены 14 языков, включая русский, английский, китайский, арабский и хинди. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Это базовая модель извлечения признаков, поэтому классификация и ответы на вопросы обычно требуют подходящей обвязки или дообучения.

Experiment26Yam_CalmeInex12 — объединённая языковая модель на архитектуре Mistral, созданная MaziyarPanahi путём слияния automerger/Experiment26Yam-7B и automerger/CalmeInex12-7B. Модель содержит 7,1 млрд параметров, принимает текстовые запросы и генерирует текст; длина контекста составляет до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

F2LLM-v2-0.6B-Preview — многоязычная модель эмбеддингов от CodeFuse AI, дообученная на базе Qwen3-0.6B. Она обучена на корпусе из 27 миллионов примеров на более чем 100 естественных и программных языках и предназначена как основа для задач эмбеддингов, последующей настройки и исследований. Это плотная модель семейства Qwen3 с 507,9 млн параметров и контекстом до 40 960 токенов; доступны веса в формате safetensors и работа через Transformers и Sentence Transformers. Модель подходит для кодирования текста в векторы для поиска, сопоставления текстов и других downstream-задач с эмбеддингами. Эта preview-версия обучена без инструкций, поэтому её следует рассматривать как базовую модель для дальнейшей настройки, а не как готовую инструкционную систему. Лицензия — Apache-2.0.

ssmits/Falcon2-8B-multilingual — текстовая языковая модель семейства Falcon, опубликованная как слияние предварительно обученных моделей с помощью mergekit и метода passthrough. В состав слияния вошла ssmits/Falcon2-5.5B-multilingual; метаданные также связывают эту модель с базовой моделью через дообучение. Репозиторий содержит веса в формате safetensors, модель использует архитектуру FalconForCausalLM и поддерживает диалоговый режим. Модель предназначена для генерации текста и диалогов; метаданные также указывают задачи ответов на вопросы, классификации текста и токенов. Контекстное окно составляет 8192 токена, а общий размер модели — 11,8 млрд параметров. Название указывает на многоязычность, однако конкретные языки в доступных данных не перечислены. Сведения о лицензии отсутствуют в предоставленных источниках.

Карточка модели DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_60000 на Hugging Face совпадает с карточкой DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_90000, поэтому описание составлено по ней. FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_90000 — модель на базе RoBERTa, разработанная DragosGorduza. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, кластеризации и сравнения семантической близости. Обучение использовало MarginDistillationLoss из gpl.toolkit; модель распространяется в формате safetensors и рассчитана на работу с библиотекой Sentence-Transformers или Transformers с подходящей операцией pooling. Модель содержит 151,8 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Карточка не сообщает конкретные поддерживаемые языки, поэтому языковую специализацию определить нельзя. Лицензия в предоставленных данных не указана.

deutsche-telekom/gbert-large-paraphrase-cosine — модель Sentence Transformers, разработанная Deutsche Telekom на основе deepset/gbert-large и дообученная для работы с немецкими парафразами. Она преобразует предложения и абзацы в плотные векторы размерностью 1024; при обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель предназначена для улучшения классификации текстов на немецком языке в few-shot сценариях с SetFit, а также подходит для сравнения сходства предложений и извлечения эмбеддингов. Модель основана на архитектуре BERT, содержит 434,5 млн параметров и принимает текст длиной до 512 токенов. В карточке сообщается, что дообученная версия показала лучшие результаты среди сравнивавшихся моделей в немецком few-shot сценарии на NLU Few-shot Benchmark. Лицензия — MIT.

ApatheticWithoutTheA/gemma-2-2b-it-R1-Reasoning — дообученная диалоговая модель на базе Google Gemma 2 2B IT, созданная ApatheticWithoutTheA. Модель обучена методом LoRA с использованием MLX на 62,9 тыс. примеров датасета sequelbox/Raiden-DeepSeek-R1; README указывает 600 итераций обучения. Она предназначена для следования инструкциям и генерации текста с рассуждениями: на простые вопросы отвечает кратко, а для более сложных может выдавать длинные цепочки рассуждений. Модель подходит для ответов на вопросы, задач на рассуждение и программирование, в том числе при запуске на пользовательском оборудовании. Это плотная авторегрессионная архитектура Gemma2ForCausalLM с 2,7 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит форматы GGUF и safetensors; библиотека модели — MLX. Метаданные указывают английский язык и лицензию MIT. Качество рассуждений не гарантировано: модель иногда не начинает рассуждение без прямой просьбы, а на особенно сложных задачах может зацикливаться на длинном анализе и не приходить к выводу. Используйте ответы и сгенерированный код с проверкой.

Gemma-2-2b-TitanFusion — разговорная языковая модель на архитектуре Gemma 2, созданная bunnycore с помощью mergekit. В README описано слияние методом Model Stock на базе IlyaGusev/gemma-2-2b-it-abliterated с несколькими моделями Gemma 2 и адаптерами, включая варианты для диалога, рассуждений и кода. Размер модели — 2,7 млрд параметров, контекст — до 8192 токенов; модель работает с текстом и поддерживает чат. Модель предназначена для генерации ответов в диалоге, следования инструкциям, рассуждений и помощи с кодом. Метаданные указывают англоязычную базовую модель. В README не приведены результаты оценки качества или подробности о поведении итогового слияния. Лицензия в доступных данных не указана.

pytorch/gemma-3-27b-it-FP8 — модель, разработанная PyTorch и полученная квантованием google/gemma-3-27b-it. Это instruction-tuned модель для генерации текста в формате диалога, ответов на вопросы и общего языкового взаимодействия. README также указывает возможность мультимодальной оценки на задаче ChartQA, однако подробные сведения о поддерживаемых типах входных данных не приведены. Модель использует квантование FP8 с динамическими активациями и весами FP8; размер базовой модели составляет 27B параметров. Указан английский язык. Доступны режимы с рассуждением и без него, а для запуска предусмотрена интеграция с vLLM и Transformers. В приведённых проверках версия FP8 показала близкие к исходной модели результаты: 76,20 против 76,48 на MMLU и 51,32 против 51,80 на мультимодальном ChartQA. Для работы требуются актуальные версии vLLM, torchao или Transformers, а также GPU-окружение; README отмечает необходимость отключения compile cache в vLLM из-за проблем совместимости. Модель распространяется по лицензии Apache-2.0.

GAIA — модель семейства Gemma 3, разработанная ABRIA, CEIA при Федеральном университете Гояса, Nama, Amadeus AI и Google DeepMind для работы с бразильским португальским языком. Это плотный декодерный Transformer с генерацией текста; модель основана на google/gemma-3-4b-pt и дообучена непрерывным предобучением на корпусе примерно из 13 млрд португалоязычных токенов, после чего слияние весов помогло восстановить следование инструкциям и диалоговый режим. В метаданных указаны архитектура Gemma3ForConditionalGeneration, поддержка изображений и текста, библиотека Transformers и формат safetensors. Модель предназначена для диалогов, ответов на вопросы, суммаризации и создания текстов на бразильском португальском. Её также можно адаптировать для анализа тональности, классификации документов, корпоративных RAG-систем и чат-ботов поддержки. В оценках на португалоязычных тестах GAIA улучшила результат базовой модели на ENEM 2024, сохранив сопоставимые результаты на других упомянутых тестах. Лицензия — Gemma. Модель может воспроизводить предвзятости обучающих данных и уверенно генерировать фактические ошибки; важные сведения следует проверять. Качество работы на языках, отличных от португальского, существенно ниже. Для чувствительных решений требуется человеческий контроль.

AMD разработала эту модель как 4-битную квантизированную версию Gemma 4 12B IT от RedHatAI. Она предназначена для генерации текста и CPU-инференса на процессорах AMD EPYC, прежде всего в Linux-среде с использованием vLLM и оптимизаций ZenDNN. Указанный язык — английский. Модель построена на архитектуре Gemma4UnifiedForConditionalGeneration и имеет размер 12 миллиардов параметров в исходной версии. Для весов применяется GPTQ-квантизация W4A16: веса хранятся в формате INT4, симметрично и по группам размера 128, а активации остаются в BF16. Визуальные и аудиокомпоненты, мультимодальный проектор и lm_head сохранены в BF16, однако в карточке явно описан сценарий с текстовым вводом и выводом. Калибровка выполнена на 128 примерах датасета ultrachat_200k при максимальной длине последовательности 2048 токенов; в конфигурации оценки использовался максимальный контекст 4096 токенов. Ключевое преимущество модели — снижение требований к памяти и возможность оптимизированного инференса на AMD CPU при сохранении высокой близости к BF16-базовой версии: на GSM8K она получила 0,9249 против 0,9401 у BF16, то есть восстановила 98,38% результата. Ограничения связаны с зависимостью от конкретного программного стека и аппаратной платформы: заявлена совместимость с AMD EPYC, ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0, LLM Compressor 0.12.0 и vLLM 0.26.0. Для оптимальной производительности требуется настройка OpenMP через LD_PRELOAD. Модель распространяется по лицензии Gemma.

Это GGUF-сборка модели Gemma 4 26B A4B IT, подготовленная FreedomAISVR из Google Gemma 4. Модель основана на инструкционно дообученной архитектуре MoE с 26 млрд параметров, из которых для каждого токена активны около 4 млрд; в описании указаны 128 экспертов и выбор 8 экспертов на токен. Модель предназначена для диалогов и генерации текста, а дополнительный файл mmproj содержит мультимодальный проектор для анализа изображений. Веса представлены в формате GGUF с квантизацией NVFP4, размер текстовой модели — около 13,45 ГБ; проектор изображения поставляется отдельно в F16 и занимает около 1,11 ГБ. Для оптимальной производительности NVFP4 требуется сборка llama.cpp с поддержкой CUDA и видеокарта NVIDIA Blackwell; запуск на CPU возможен, но медленнее. README также описывает гибридное внимание со скользящими локальными и глобальными слоями. Лицензия — Gemma; перед использованием следует соблюдать её условия.

German-RAG-PHI-3.5-MINI-4B-MERGED-HESSIAN-AI — языковая модель команды Avemio AI при поддержке Hessian AI, предназначенная для немецкоязычных задач с поиском и использованием документов. Это авторегрессионный трансформер с плотной архитектурой LlamaForCausalLM; в метаданных указано 3,7 млрд параметров и контекст до 131 072 токенов. Модель объединена методом SLERP из German-RAG-PHI-3.5-MINI-4B-SFT-HESSIAN-AI и German-RAG-PHI-3.5-MINI-4B-ORPO-HESSIAN-AI. Модель подходит для ответов на вопросы по найденным документам, извлечения релевантной информации и суммаризации контекста на немецком и английском языках. В карточке приведены результаты оценивания качества языка, правильности ответов и следования инструкциям; на наборе задач извлечения модель показала улучшение относительно указанных вариантов SFT и ORPO. Весам и коду модели указана лицензия MIT. Модель может генерировать вредный или чувствительный контент, в том числе из-за смещений, а фактические утверждения могут быть неверными и требуют проверки. Для надежных ответов следует предоставлять релевантный контекст и проверять результат.

T-Systems-onsite/german-roberta-sentence-transformer-v2 — модель T-Systems для получения векторных представлений предложений. Она основана на XLM-RoBERTa и предназначена для извлечения признаков, семантического поиска и сопоставления предложений, в частности на немецком языке. В карточке указан STSbenchmark; размер модели — 305,2 млн параметров, максимальный контекст — 514 токенов. Модель выдаёт эмбеддинги текста и распространяется под лицензией MIT. Автор карточки рекомендует более новую модель cross-en-de-roberta-sentence-transformer для немецкого и английского языков.

RedHatAI/GLM-5.3-NVFP4 — текстовая генеративная языковая модель, разработанная Red Hat AI на основе модели zai-org/GLM-5.3. Она предназначена для генерации текста, следования инструкциям и решения задач, требующих рассуждений, включая математические и научные вопросы. Заявлены поддерживаемые языки английский и китайский, а входом и выходом модели является текст. Модель использует архитектуру GlmMoeDsaForCausalLM и формат compressed-tensors. Это вариант с квантованием весов и активаций в NVFP4/FP4 E2M1 с двухуровневым масштабированием; слои вне маршрутизируемых экспертов оставлены без квантования. Чекпойнт оптимизирован для инференса на GPU Blackwell и создан с применением LLM Compressor и калибровочных данных perfectblend. Для запуска рекомендуется vLLM; в примере конфигурации используются четыре устройства B200, FP8 E4M3 KV-кэш и speculative decoding. По приведённым оценкам, модель сохраняет близкую к базовой FP8-версии точность на задачах следования инструкциям, математики, рассуждений и научных вопросов. Наиболее сильные результаты показаны на GSM8K Platinum и MATH-500, однако на IFEval, AIME 2025 и GPQA Diamond она уступает базовой модели в FP8. Ограничения включают зависимость от совместимой инфраструктуры Blackwell и специализированного стека инференса; размер модели, длина контекста и точные требования к памяти в README не указаны. Модель распространяется по лицензии glm-5.3, обозначенной как other.

gradientai-Llama-3-8B-Instruct-262k-GGUF — набор квантованных файлов модели gradientai/Llama-3-8B-Instruct-262k, подготовленный организацией Featherless AI Quants. Модель относится к классу text-generation и предназначена для генерации текста и выполнения инструкций в сценариях локального или совместимого с GGUF инференса. Известно, что это 8-миллиардная instruct-модель семейства Llama 3 с заявленным контекстом до 262 тысяч токенов. README не указывает поддерживаемые языки, точную архитектуру, мультимодальные возможности, результаты оценки или специальные сценарии применения. Доступны варианты квантования Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0; их размер составляет примерно от 3,0 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильными сторонами модели являются большой заявленный контекст и широкий выбор GGUF-квантований, подходящих для разных аппаратных конфигураций. Ограничения README не раскрывает: отсутствуют сведения о качестве, скорости, требованиях к оборудованию, языковом покрытии и поведении на конкретных задачах. Лицензия в предоставленных данных не указана.

Xenova/gte-small — версия модели thenlper/gte-small с весами в формате ONNX, подготовленная для работы с библиотекой Transformers.js. Репозиторий Xenova предназначен для запуска модели в JavaScript- и веб-средах, а исходная модель разработана командой thenlper. Модель используется для извлечения векторных представлений текста: она преобразует предложения в эмбеддинги размерностью 384. Такие представления подходят для оценки семантического сходства, поиска похожих текстов, кластеризации и других задач, где требуется сравнение текстовых данных. В README показано применение через pipeline feature-extraction с mean pooling и нормализацией, после чего сходство можно вычислять, например, с помощью косинусной меры. Модель ориентирована на текстовый ввод; сведения о поддерживаемых языках, максимальной длине контекста и точной архитектуре в предоставленных данных отсутствуют. К сильным сторонам относятся компактный размер эмбеддингов и совместимость с Transformers.js, включая использование в веб-приложениях. Ограничения — отсутствие информации о языковом охвате, качестве на конкретных доменах и лицензии. По умолчанию применяется 8-битная квантованная версия, также доступны варианты fp32, fp16 и q4.

GWQ-9B-Preview — дообученная на синтетическом наборе Chain of Continuous Thought языковая модель семейства Gemma 2 от prithivMLmods. Это плотная decoder-only Transformer-модель с 9 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия на английском языке. Заявленные сценарии включают ответы на вопросы, суммаризацию, рассуждения, творческое письмо и выполнение инструкций. Модель принимает текст и выдаёт текст. Использует архитектуру Gemma2ForCausalLM, формат весов safetensors и контекст длиной до 8192 токенов. Лицензия — Gemma. Карточка предупреждает о возможных фактических ошибках и предвзятости, а также о требованиях к вычислительным ресурсам для модели такого размера.