I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиAtmicEmbeddingv2 — модель семантических эмбеддингов, разработанная SriRamanaAtmic на базе intfloat/multilingual-e5-large и дообученная контрастивным методом с использованием подобранных сложных негативных примеров. Она предназначена прежде всего для поиска по текстам в схеме «запрос → документ»: перед запросом используйте префикс «query: », перед документом — «passage: », затем применяйте mean pooling и L2-нормализацию эмбеддингов. Модель основана на XLM-RoBERTa, содержит 658,7 млн параметров и принимает текст с контекстом до 514 токенов. Карточка указывает английские запросы и документы. Модель распространяется под лицензией MIT.
Карточка модели Sing0402/auslegal-embed-gte-bm25 на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.
A.X 3.1 — большая языковая модель, разработанная SK Telecom (SKT) для понимания корейского языка и корпоративного применения. Модель обучена с нуля на 2,1 трлн токенов из многоязычного корпуса, подготовленного SKT; архитектура — плотная LlamaForCausalLM с 33,8 млрд параметров. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для диалогов, генерации текста и сценариев с интерфейсом вызова инструментов. Её основные языки — корейский и английский, при этом особый акцент сделан на корейском языке и контексте. Нативный размер контекста составляет 32 768 токенов; README описывает возможность увеличить его до 131 072 токенов с помощью YaRN. Указана лицензия Apache-2.0.
Это кросс-энкодерный реранкер семейства BGE, опубликованный пользователем onzi-suba и основанный на BAAI/bge-reranker-base. Модель оценивает релевантность пары «запрос — документ» и помогает упорядочить результаты поиска; она предназначена, в частности, для повышения качества поиска в RAG-системах. В метаданных указаны архитектура XLM-RoBERTa для классификации последовательностей, около 305,2 млн параметров и контекст до 514 токенов. Исходная модель BGE Reranker Base рассчитана на английский и китайский языки; она выдаёт оценку релевантности вместо эмбеддинга. Поиск и метаданные не подтверждают отдельную лицензию или условия использования именно этой копии.
Bellatrix-Tiny-1B — авторегрессионная языковая модель на архитектуре Llama, разработанная prithivMLmods на основе meta-llama/Llama-3.2-1B-Instruct. Это плотная модель примерно на 1,2 млрд параметров, дообученная для диалогов и задач рассуждения; README указывает на supervised fine-tuning и RLHF. Модель принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена; карточка ориентирует модель на многоязычное применение, но конкретно подтверждает английский язык. Модель предназначена для диалоговых систем, поиска релевантных сведений в ходе общения, суммаризации и выполнения инструкций. Компактный размер может быть полезен для локального запуска и приложений с ограниченными ресурсами. По README, качество может снижаться на узкоспециализированных данных, редких языках и диалектах, а ответы могут содержать ошибки или отражать смещения обучающих данных. Модель распространяется по лицензии Llama 3.2.
bert-chunker-3 — модель для разбиения документов на смысловые фрагменты, опубликованная пользователем tim1900. Она основана на BERT с архитектурой BertForTokenClassification и предсказывает начальные токены фрагментов; скользящее окно позволяет обрабатывать документы произвольной длины. Модель предназначена для подготовки текста к поиску и генерации с дополненным поиском (RAG), в том числе для неструктурированных и неаккуратно оформленных текстов. В README указано, что обучающие данные размечались языковой моделью, а обучающий процесс был изменён для повышения стабильности при сдвиге распределения данных. Модель содержит 25,9 млн параметров, принимает последовательности длиной до 512 токенов и распространяется по лицензии MIT. Карточка описывает её как альтернативу семантическому разбиению Kamradt; заявленные сравнения приведены в README, но доступный фрагмент таблицы неполон. README также сообщает о более новой версии bc-3.5, поэтому эта карточка относится к предыдущей версии семейства.
RinKana/bge-base-en-v1.5-afterimage-v.0.1 — англоязычная модель Sentence Transformer, дообученная на базе BAAI/bge-base-en-v1.5. Она кодирует предложения и абзацы в плотные текстовые векторы размерности 768 для поиска и сравнения по смыслу. Архитектура включает BERT, пулинг по CLS-токену и нормализацию; сходство векторов можно оценивать косинусной мерой. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, извлечения релевантных фрагментов и подбора ответа к контексту диалога. Для обучения использовались 4 744 примера с якорным текстом, положительными и отрицательными парами; в README приведена оценка retrieval на наборе gap-to-candidate-eval. Репозиторий содержит веса safetensors и рассчитан на использование с библиотекой Sentence Transformers. Лицензия в предоставленных данных не указана.
Карточка модели shashengdong/bge-base-zh-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
BGE-M3 Bangla Cross-Script Fine-tuned — дообученная Md Nahid Hasan модель BAAI/bge-m3 для семантического поиска по текстам на бенгальском языке и сопоставления разных вариантов записи. Модель на архитектуре XLM-RoBERTa содержит 658,7 млн параметров, принимает текст и формирует эмбеддинги для поиска и сравнения сходства предложений. В карточке указано контекстное окно 8194 токена; используется библиотека sentence-transformers. Модель рассчитана на сопоставление текста на бенгальском письме, романизированного Banglish, смешанного бенгальско-английского текста, разговорных и содержащих опечатки запросов, а также английского текста с тем же смыслом. Подходит для поиска по FAQ и документам, межскриптового извлечения информации, подготовки контекста для RAG, кластеризации и дедупликации. В приведённых результатах дообученная версия улучшает кросс-скриптовое сходство относительно базовой BGE-M3. Ограничения: обучение преимущественно ориентировано на домены Бангладеш; модель не оптимизирована для длинных документов, а сходство формального и разговорного бенгальского несколько снизилось. Лицензия — MIT.
furiosa-ai публикует копию многоязычной модели-переранжировщика BAAI/bge-reranker-v2-m3 и Furiosa Executable Bundle для запуска через Furiosa-LLM на ускорителях FuriosaAI RNGD. Модель использует плотную архитектуру XLM-RoBERTa и класс XLMRobertaForSequenceClassification; она обрабатывает пары «запрос — документ» и выдаёт оценки релевантности для переупорядочивания результатов поиска в RAG- и поисковых конвейерах. Размер составляет 658,7 млн параметров, нативный контекст — 8194 токена. Репозиторий сохраняет исходные веса FP32 без низкоразрядной квантизации; для исполнения через FXB Furiosa-LLM преобразует их в BF16. На RNGD модель использует tensor parallelism с размером 8 PE на одной карте. Доступна лицензия Apache 2.0. Карточка описывает назначение переранжирования, но не приводит конкретный список поддерживаемых языков.
Supabase/bge-small-en — это англоязычная версия модели встраивания текста BGE, опубликованная Supabase в формате ONNX для работы с Transformers.js. Модель основана на архитектуре BERT, содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. В карточке указано, что исходная линейка BGE разработана командой BAAI; эта версия представляет собой форк с весами ONNX. Модель преобразует текст в плотные векторы для семантического поиска, поиска релевантных фрагментов по запросу, кластеризации и классификации. Для поиска документов README рекомендует добавлять к запросу инструкцию «Represent this sentence for searching relevant passages: ». Векторы можно использовать в векторных базах данных, в том числе для приложений с RAG, а запуск поддерживается через JavaScript и Transformers.js. Модель рассчитана на английский язык и имеет лицензию MIT. Это компактный вариант BGE, удобный для JavaScript-приложений и сценариев, где важны размер модели и получение эмбеддингов; окно контекста ограничено 512 токенами.
BrainTransformers-3B-Chat — чат-модель на 3,1 млрд параметров от LumenScopeAI, построенная на архитектуре BrainGPTForCausalLM с использованием спайковых нейронных сетей (SNN). Она предназначена для генерации текста и диалогового взаимодействия; карточка также указывает интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её контекст составляет до 32 768 токенов. В README приведены результаты на общих, математических, научных, программных и многоязычных бенчмарках, включая MMLU, GPQA, MATH и HumanEval. Текущая версия сохраняет часть вычислений с плавающей точкой; разработчики сообщают о планах оптимизации для более энергоэффективного SNN-оборудования. Лицензия — Apache-2.0.
mlx-community/c4ai-command-r7b-12-2024-bf16 — версия модели Cohere Command R7B, конвертированная сообществом mlx-community в формат MLX из CohereForAI/c4ai-command-r7b-12-2024 с помощью mlx-lm 0.20.4. Это плотная авторегрессионная языковая модель семейства Cohere2 примерно на 8 млрд параметров, предназначенная для генерации текста и диалогового общения; доступен интерфейс вызова инструментов. Контекст модели — до 8192 токенов. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский и другие перечисленные в метаданных языки. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Репозиторий предоставляет конвертированные веса bf16 для MLX; карточка не сообщает результатов оценки качества.
Chandra OCR 2 NVFP4A16 — это неофициальная community-квантизация модели datalab-to/chandra-ocr-2, подготовленная пользователем dangvansam. Модель предназначена для OCR документов и PDF с сохранением структуры и разметки, включая преобразование содержимого в Markdown и обработку макета страниц. Это мультимодальная vision-language модель, принимающая изображения страниц и текстовые инструкции; поддерживает работу через vLLM с OpenAI-совместимым API и через Transformers. Вариант использует квантизацию NVFP4A16: веса линейных слоёв представлены в 4-битном формате NVFP4, а активации — в FP16. Vision tower, lm_head и отдельные компоненты attention сохранены в FP16/BF16. Размер упакованных весов составляет около 11 ГБ. Максимальная длина контекста в рекомендованной конфигурации vLLM — 16 384 токена. Основное преимущество варианта — высокая скорость при параллельной постраничной обработке на GPU архитектуры Blackwell: в приведённом тесте достигнуто около 5058 мс на страницу, что в 2,5 раза быстрее базовой версии BF16. Для последовательной обработки одного документа преимущество может быть ниже, и в README рекомендуется FP8_DYNAMIC. Модель лучше всего подходит для пакетного OCR с одновременной обработкой страниц на Blackwell GPU, включая RTX PRO 6000, B100/B200 и RTX 5090. На Hopper она запускается медленнее через программную эмуляцию, а для Ada и более старых архитектур этот формат не рекомендуется. Для работы через vLLM требуется версия не ниже 0.19.1. Модель наследует лицензию OpenRAIL-M исходной модели: разрешены исследовательское и личное использование, а также использование стартапами с доходом менее 2 млн долларов; применение в конкурирующих с API Datalab продуктах запрещено. Для более широкого коммерческого использования предлагается обратиться к условиям Datalab.
ColBERT-Zero — много-векторная модель для поиска и ранжирования текстов, разработанная LightOn AI на базе ModernBERT. Она предназначена для семантического поиска по коллекциям документов и уточнения результатов первичного поиска с помощью позднего взаимодействия ColBERT и функции сходства MaxSim. Модель обучена на открытых данных в трёхфазном процессе с дистилляцией и, согласно карточке, достигает 55,43 nDCG@10 на бенчмарке BEIR. Модель содержит 149 млн параметров, выдаёт векторы размерности 128 и поддерживает контекст до 8192 токенов по метаданным. Для документов README приводит длину до 519 токенов, для запросов — до 39. Она рассчитана на английский язык и работает с текстом; для корректного поиска необходимо использовать асимметричные промпты `search_query:` и `search_document:` через соответствующие режимы query и document. Использовать модель можно через PyLate, а Apache-2.0 разрешает коммерческое применение. Результаты экспериментов зависят от обучающих данных и согласования промптов с режимом кодирования: их пропуск или неверное применение может заметно ухудшить качество. Авторы также отмечают, что выводы о преимуществах много-векторного обучения могут зависеть от масштаба обучения и качества сигнала дистилляции.
Darwin-28B-Opus — языковая модель для рассуждений, созданная командой Darwin путем эволюционного слияния Qwen/Qwen3.6-27B и модели rico03/Qwen3.6-27B-Claude-Opus-Reasoning-Distilled. Она сохраняет плотную архитектуру Qwen3.6 с гибридным линейным и полным вниманием и наследует стиль рассуждений, полученный дистилляцией поведения Claude Opus. Модель содержит 27,6 млрд параметров, представлена в формате BF16 и рассчитана на генерацию текста в режиме диалога и многошаговые рассуждения. Модель предназначена для решения сложных научных и математических задач, генерации и отладки кода, а также ответов на вопросы, требующие последовательного анализа. В README приведен результат 88,89% на GPQA Diamond при трехэтапной адаптивной оценке; он зависит от описанного протокола сэмплирования и уточнения ответов. Основной язык — английский; также заявлена поддержка корейского, китайского и японского языков. Полный вывод требует около 55 ГБ видеопамяти. Лицензия — Apache 2.0.
DeepSeek-R1 — большая языковая модель первого поколения моделей рассуждения, разработанная DeepSeek. Модель обучалась с использованием комбинации supervised fine-tuning и крупномасштабного reinforcement learning: перед этапами RL применялись данные cold start, а общий конвейер включал два этапа RL и два этапа SFT. Исследовательская версия DeepSeek-R1-Zero также представлена авторами и обучалась с помощью RL без предварительного SFT. Модель предназначена для сложных задач рассуждения, включая математику, программирование и другие интеллектуальные задачи, требующие многошагового анализа. По заявлению разработчиков, её результаты сопоставимы с OpenAI-o1 в задачах математики, кода и рассуждения. К сильным сторонам относятся способности к самопроверке, рефлексии и построению длинных цепочек рассуждений. При этом README не содержит точных сведений о размере модели, архитектуре, длине контекста, поддерживаемых языках и мультимодальных возможностях. У модели есть ограничения, связанные с особенностями reasoning-моделей: у предварительной версии DeepSeek-R1-Zero отмечались бесконечные повторения, низкая читаемость и смешение языков; для DeepSeek-R1 эти проблемы должны уменьшаться благодаря дополнительным данным и этапам обучения. Модель распространяется по лицензии MIT. README также сообщает о выпуске производных дистиллированных моделей, но они не являются самой моделью DeepSeek-R1.
DeepSeek-V4-Flash-0731-AWQ — это квантизированная сборка базовой модели deepseek-ai/DeepSeek-V4-Flash-0731, подготовленная в формате AWQ для запуска на компьютерах Apple Silicon через oMLX. Исходная модель представляет собой MoE-архитектуру с 304 млрд параметров, 43 слоями, 256 маршрутизируемыми экспертами на слой, механизмами Hyper-Connections и HISA attention; в README разработчик исходной модели не указан, а автор данной квантизированной сборки также не идентифицирован. Модель предназначена для генерации текста, диалоговых и агентских сценариев, решения математических задач и генерации кода. В сборке маршрутизируемые эксперты квантизированы до 2–3 бит, а attention, общие эксперты, embeddings и head оставлены в 8-битном формате. Основная часть содержит 278,6 млрд квантизированных параметров и занимает около 101,4 ГБ; вместе с квантизированным MTP/DSpark speculative drafter общий размер составляет около 108,2 ГБ. Поддерживаются режимы reasoning_effort low, high и max. Языки и максимальная длина контекста в README не указаны. Сильными сторонами являются возможность запуска очень крупной MoE-модели на одной системе Apple Silicon, высокая скорость генерации около 47–51 токена в секунду на M5 Max с 128 ГБ памяти, а также хорошие результаты на GSM8K и HumanEval — 93,5% и 87,2% соответственно. Главные ограничения связаны с агрессивной 2/3-битной квантизацией: на MMLU сборка получила 64,5% против 81,5% у неквантизированного учителя, то есть потеряла 17 процентных пунктов в задачах на широкий массив знаний. Для длинного контекста рекомендуется 4- или 6-битная квантизация KV-кэша; без специализированных ядер oMLX предварительное заполнение длинного контекста может работать значительно медленнее. Модель распространяется по лицензии, обозначенной как other с именем лицензии deepseek. Полные условия лицензии в README не приведены.
puwaer/DeepSeek-V4-Flash-0731-reap-200b-gguf — это GGUF-сборка модели puwaer DeepSeek-V4-Flash-0731-reap-200b, подготовленная для запуска через llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и задач с вызовом инструментов; встроенный шаблон чата поддерживает режим рассуждений и tool calling в OpenAI-совместимом формате. Это разреженная Mixture-of-Experts-модель с 178 маршрутизируемыми экспертами на слой вместо 256 у базовой версии. Сборка доступна в вариантах MXFP4_MOE, Q3_K_M, IQ3_XXS, Q2_K и IQ1_M размером примерно от 56,36 до 103,85 GiB. Вариант MXFP4_MOE численно идентичен исходному safetensors-чекпойнту, а остальные варианты являются повторной квантизацией уже 4-битных данных и могут заметнее снижать качество. В README подтверждён контекст 4096 токенов для примера запуска; поддерживаемые языки и точный максимальный контекст не указаны. Сильные стороны модели — существенно меньший размер по сравнению с базовой версией на 284B параметров, сохранение высокой точности на ряде тестов и поддержка рассуждений и инструментов. Бенчмарки квантованных вариантов отдельно не проводились, поэтому их качество не измерено. Для запуска рекомендуется полный GPU-offload; самая крупная сборка занимает 103,85 GiB и не помещается на одной видеокарте с 96 GiB памяти. Частичный offload и распределённый запуск не были проверены. Модель распространяется по лицензии MIT.
textattack/distilbert-base-uncased-QQP — модель классификации текста, созданная TextAttack на основе DistilBERT. Она дообучена для определения, задают ли два вопроса на английском языке один и тот же вопрос; подходит для поиска дубликатов и выявления перефразированных вопросов. Архитектура — DistilBertForSequenceClassification, контекст — до 512 токенов. Модель доступна в формате PyTorch. Карточка Hugging Face не содержит описания лицензии, поэтому условия использования здесь не уточняются.
Dmeta-embedding-zh — плотная модель эмбеддингов на архитектуре BERT, разработанная командой DMetaSoul. Она преобразует китайские и английские тексты в векторы для семантического поиска, сопоставления предложений и других задач, основанных на близости текстовых представлений. Модель предназначена для поиска, вопросно-ответных систем, интеллектуальной поддержки клиентов и приложений с дополненной генерацией по поиску (RAG); поддерживает интеграцию через Transformers, Sentence-Transformers и LangChain. В модели 129,5 млн параметров, размерность эмбеддингов — 768, а контекстное окно составляет до 1024 токенов. В README заявлены обучение на разнообразных слабых и размеченных парах, включая данные из нескольких предметных областей, и оптимизация для задач поиска. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0. Результаты MTEB, приведённые в карточке, относятся к опубликованной оценке 2024 года; фактическое качество может зависеть от данных и сценария применения.
Donut — модель для ответов на вопросы по изображениям документов, разработанная командой NAVER CLOVA и дообученная на наборе DocVQA. Она принимает изображение документа и текстовый вопрос, затем генерирует ответ на естественном языке. Архитектура сочетает визуальный энкодер Swin Transformer и текстовый декодер BART; модель работает по схеме vision-encoder-decoder. В отличие от OCR-конвейера, Donut напрямую преобразует изображение в текст, не требуя отдельного этапа распознавания текста. Модель рассчитана на визуальный вопросно-ответный анализ документов. Репозиторий содержит веса PyTorch, лицензия — MIT. Модель специализирована на DocVQA; точность может снижаться на документах, отличающихся от обучающих данных, и при вопросах, требующих информации, отсутствующей или плохо читаемой на изображении.
DRAMA-large — компактная плотная модель поиска текстов, разработанная авторами DRAMA на основе обрезанной языковой модели и дообученная для многоязычного семантического поиска. Она преобразует запросы и документы в векторы для поиска релевантных материалов; для запросов используется префикс «Query: », а модель применяет двунаправленное внимание. Модель построена на архитектуре Llama, содержит около 399,8 млн параметров по метаданным и поддерживает контекст до 131 072 токенов. Стандартная размерность эмбеддингов — 1024; благодаря Matryoshka Representation Learning её можно сокращать, например, до 512 или 256. Модель рассчитана на арабский, бенгальский, китайский, английский, финский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, персидский, португальский, русский, испанский, суахили, телугу, тайский и йоруба. DRAMA-large предназначена для семантического поиска и извлечения документов, в том числе в многоязычных системах. Авторы сообщают об оценке на BEIR, MIRACL, MLDR и задачах MTEB; компактный размер и гибкая размерность эмбеддингов позволяют выбирать баланс между качеством и затратами на хранение и поиск. Репозиторий использует формат Safetensors, библиотеку Transformers и лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.
ettin-reranker-32m-v1 — англоязычный кросс-энкодер, дообученный разработчиками проекта Ettin на базе jhu-clsp/ettin-encoder-32m с библиотекой Sentence Transformers. Модель содержит 31,9 млн параметров, построена на архитектуре ModernBERT и принимает пары текстов, чтобы оценивать их релевантность; оценки можно использовать для ранжирования результатов семантического поиска и других задач поиска информации. Максимальная длина последовательности — 7 999 токенов. Модель предназначена для повторного ранжирования кандидатов, полученных поисковой системой или моделью эмбеддингов, например в двухэтапном поиске. В README приведены результаты бенчмарков на английских задачах retrieval и сравнительные показатели скорости на GPU и CPU. Доступны форматы safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0.
Eurus-7B-SFT — дообученная авторами проекта Eurus языковая модель на базе Mistral-7B для диалогов и решения задач с рассуждением. Модель обучена на корректных действиях из UltraInteract с небольшой долей примеров UltraChat, ShareGPT и OpenOrca. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она предназначена для генерации текста, включая диалоговые ответы, программирование и математические задачи; для кода и математики в карточке приведены специальные форматы подсказок. Контекст — до 32 768 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. В README заявлено, что модель превосходит открытые модели сопоставимого размера и в ряде случаев специализированные модели, однако независимые результаты в предоставленных материалах не приведены. Карточка не сообщает о поддерживаемых естественных языках или иных ограничениях.
joshuapb/fine-tuned-matryoshka-100 — англоязычная модель Sentence Transformers, дообученная автором на основе BAAI/bge-base-en-v1.5 с использованием MatryoshkaLoss и MultipleNegativesRankingLoss. Она кодирует предложения и абзацы в плотные эмбеддинги для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Архитектура основана на BERT: модель использует CLS-пулинг и нормализацию, создаёт векторы размерностью 768, а сходство можно оценивать косинусной мерой. Обучение Matryoshka позволяет использовать укороченные эмбеддинги размерностью 512, 256, 128 или 64; максимальная длина входа — 512 токенов. Модель содержит 136,7 млн параметров и распространяется по лицензии Apache-2.0.
Frony Embed Arctic V2.5 (0.6B) — модель эмбеддингов текста от FronyAI, дообученная на базе Snowflake/snowflake-arctic-embed-l-v2.0. Это двунаправленный энкодер XLM-RoBERTa с плотным одно-векторным представлением и mean pooling; в метаданных указано 658,7 млн параметров. Модель ориентирована прежде всего на корейский язык и поддерживает поиск между корейскими и английскими текстами. Модель предназначена для семантического поиска и извлечения релевантных фрагментов, в том числе в RAG-системах, сопоставления FAQ и поиска по корейским документам в Markdown. Для запросов и документов предусмотрены специальные токены, добавляемые через настроенные prompts Sentence Transformers. Контекстная длина базовой модели — до 8194 токенов, однако обучение и оценка проводились на меньших последовательностях, а качество заявлено только до 512 токенов. Модель распространяется под лицензией Apache-2.0. При использовании следует учитывать ограничение на длину фрагментов и необходимость специальных токенов запроса и документа: без них качество поиска заметно снижается.
mlx-community/gemma-4-26B-A4B-it-qat-OptiQ-4bit — квантизированная MLX-версия модели Google Gemma 4, подготовленная сообществом mlx-community с помощью mlx-optiq. Модель основана на Google Gemma 4 26B A4B instruction-tuned QAT и предназначена для локального запуска на устройствах Apple Silicon без PyTorch и облачной инфраструктуры. Это разреженная MoE-модель с 26 млрд общих параметров, 128 маршрутизируемыми экспертами и примерно 4 млрд активных параметров на токен. Используется смешанная квантизация: преимущественно 4-битная, но чувствительные компоненты, включая часть экспертных тензоров, слои внимания и маршрутизатор, представлены в 8-битном формате. Достигнутая точность составляет 6,01 бит на вес, размер модели на диске — около 19 ГБ. Модель поддерживает генерацию текста, а также сценарии image-text-to-text через bf16 vision-модуль. Языки и размер контекстного окна в README не указаны. Модель ориентирована на рассуждения, следование инструкциям, генерацию кода, работу с инструментами и агентские сценарии. По сравнению с равномерной 4-битной квантизацией той же QAT-базы она немного улучшает средний Capability Score и результаты MMLU, GSM8K и IFEval, однако уступает в BFCL и HumanEval, поэтому характеристики зависят от задачи. Для использования требуются mlx-optiq и версия mlx-lm из основной ветки; запуск рассчитан прежде всего на Apple Silicon и требует значительного объёма памяти. Лицензия указана как Apache 2.0; также применяются условия лицензии Gemma от Google.
Это NVFP4-квантизованная сборка в формате GGUF модели Gemma 4 E4B IT от Google DeepMind, подготовленная для запуска через llama.cpp и другие совместимые движки. В основе указана QAT-версия Gemma 4 E4B IT; архитектура — Gemma4ForConditionalGeneration, с 4,3 млрд эффективных параметров (7,5 млрд с эмбеддингами) и 42 слоями. В репозитории есть варианты весов NVFP4 и BF16, а также MTP-модель для ускорения генерации. Модель принимает текст, изображения и аудио и генерирует текст. Она предназначена для диалога, анализа изображений и аудио, рассуждений, программирования и локального запуска; заявлены контекст до 128 тыс. токенов, поддержка более 140 языков и структурированного вызова инструментов. Для мультимодального ввода требуется файл mmproj.gguf. NVFP4 уменьшает требования к памяти, а QAT призван сохранить качество, однако качество конкретной квантизованной сборки может отличаться от исходных весов. Лицензия — Apache 2.0.
Ghost 8B Beta — большая языковая модель компании Ghost X, разработанная Hieu Lam на основе meta-llama/Meta-Llama-3-8B. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров для диалогов, генерации текста, многоязычных задач и вызова функций через инструменты. В репозитории заявлена версия с контекстом 8192 токена; README также описывает отдельный вариант на 131072 токена. Модель рассчитана на английский, вьетнамский, испанский, португальский, немецкий, итальянский, французский, корейский и китайский языки. Разработчик сообщает о продолженном предварительном обучении, дообучении с многоязычным буфером и этапе настройки по человеческой обратной связи. Модель поставляется в формате safetensors; README также упоминает варианты BF16, GGUF и AWQ. Модель предназначена для создания многоязычных чат-ассистентов, ответов на вопросы и выполнения инструкций, в том числе с использованием инструментов. В README приведены высокие сравнительные результаты, но методика и подробности оценивания здесь не раскрыты. Указана лицензия Ghost Open LLMs LICENSE вместе с Llama 3 LICENSE; перед использованием следует проверить условия обеих лицензий. Модель — бета-версия, и разработчик рекомендует более новую Ghost 8B Beta 1608.