I.3Извлечение и структурирование данных

mlx-community выпустила неофициальную 6-битную квантованную версию BAAI/bge-m3 для запуска на Apple Silicon с библиотекой MLX. Модель семейства XLM-RoBERTa содержит 658,7 млн параметров, принимает текст и формирует эмбеддинги размерностью 1024; длина контекста — 8194 токена. README описывает плотный, разреженный и многовекторный поиск, включая ColBERT, а метаданные указывают задачу feature-extraction. Квантование affine с группами по 64 веса уменьшает размер до 457 МБ — примерно на 58% относительно FP16 версии, сохраняя компромисс между качеством и использованием памяти. Модель подходит для поиска и сопоставления текстов, включая многоязычные сценарии. Поддерживаются английский, китайский, немецкий, испанский, французский, итальянский, японский, корейский, португальский и русский языки. Лицензия — MIT.

onnx-community/bge-m3-ONNX — ONNX-версия многоязычной модели BAAI/bge-m3, разработанной проектом FlagOpen и автоматически сконвертированной сообществом onnx-community. Модель предназначена для обработки текстов, построения эмбеддингов, семантического сходства и информационного поиска, включая сценарии RAG. Она поддерживает плотный поиск (dense retrieval), разреженный поиск (sparse retrieval) и многовекторный поиск (multi-vector retrieval), что позволяет применять гибридные стратегии, например совместно с BM25. Модель рассчитана более чем на 100 языков, поддерживает входы от коротких предложений до документов длиной до 8192 токенов и формирует векторы размерности 1024. ONNX-формат и интеграция с Transformers.js подходят для запуска в совместимых JavaScript-средах. Сильные стороны — многоязычность, единая поддержка нескольких режимов поиска и работа с длинным контекстом; для повышения точности README рекомендует использовать гибридный поиск и последующее переранжирование cross-encoder-моделью. Количество параметров, требования к ресурсам и детальные ограничения в README не указаны. Лицензия — MIT.

Карточка модели rhantj/bge-m3-workflow-query-robust на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

CompendiumLabs/bge-small-en-v1.5-gguf — это модель для построения векторных представлений текста, подготовленная Compendium Labs на основе исходной модели BAAI/bge-small-en-v1.5. Она предназначена для семантического поиска, сравнения текстов, кластеризации и других задач, где требуется преобразовать строки в embedding-векторы. Модель рассчитана на использование с llama.cpp, llama-cpp-python и интеграцией LangChain через LlamaCppEmbeddings. В репозитории доступны версии в формате GGUF с точностью F32, F16, Q8_0 и Q4_K_M; их размеры составляют примерно от 24 до 128 МБ. Квантизация может ускорять работу на CPU примерно до 30% при минимальной потере точности, а для GPU преимущество зависит от приложения. Из названия модели следует, что она ориентирована на английский язык; другие языки, размер векторного пространства, архитектура и максимальная длина контекста в README не указаны. Основные ограничения связаны с небольшой ёмкостью модели и возможной потерей точности в квантизированных вариантах. Лицензия — MIT.

BgGPT-7B-Instruct-v0.1 — болгарская инструкционная языковая модель, созданная Институтом INSAIT при Софийском университете на основе Mistral-7B-v0.1. Это плотный авторегрессионный трансформер с 7,1 млрд параметров, дообученный на болгарских веб-данных, специализированных болгарских наборах и машинных переводах англоязычных датасетов. Английские данные также использовались для сохранения навыков английского языка и логических рассуждений. Модель предназначена для диалога и выполнения инструкций на болгарском языке, а также может работать с английским текстом. Контекст составляет до 32 768 токенов. Токенизатор расширен для более эффективной обработки болгарских слов на кириллице; для инструкций в исходной карточке указаны маркеры [INST] и [/INST]. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные языковые модели, она может выдавать ошибочные или неподтверждённые сведения; карточка не приводит подробных оценок таких ошибок или гарантий качества.

c4ai-command-a-03-2025-GGUF — это квантизированная GGUF-версия языковой модели c4ai-command-a-03-2025, разработанной CohereForAI. Данная сборка подготовлена bartowski с использованием llama.cpp и imatrix-квантизации и предназначена для генерации текста в локальных приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский, турецкий, украинский и вьетнамский языки. В README не указаны архитектура, число параметров, поддерживаемая длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступно несколько вариантов квантизации с размерами от 67,90 до 118,01 ГБ: Q4_K_L, Q4_1, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Более крупные варианты обычно лучше сохраняют качество, но требуют больше памяти. Ограничения включают значительные требования к ресурсам, зависимость от совместимого ПО и отсутствие заявленных характеристик производительности. Лицензия CC-BY-NC-4.0 разрешает только некоммерческое использование; для доступа также предусмотрено принятие лицензионного соглашения Cohere.

DeepSeek-V4-Flash-0731-GGUF — квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek и опубликованной в формате GGUF организацией ggml-org. Модель предназначена для задач генерации текста и может использоваться в совместимых инструментах для локального или серверного запуска, включая llama.cpp и приложение llama.app. В README не указаны архитектура, количество параметров, поддерживаемые языки, размер контекста и точный набор модальностей; по имеющимся данным модель относится к текстовым генеративным моделям. Доступны квантизированные варианты, при этом для вариантов Q2 пока не применялась imatrix-калибровка, что может влиять на их качество. Модель автоматически конвертирована средствами проекта ggml-org/convert. Модель распространяется по лицензии MIT. Для запуска требуется совместимое программное обеспечение, поддерживающее формат GGUF.

nsd12/deepseek-v4-gguf — это квантованная версия языковой модели DeepSeek-V4-Flash в формате GGUF, подготовленная antirez на базе модели DeepSeek. Модель предназначена для генерации текста и запуска локального вывода через inference engine ds4, с оптимизацией для систем Apple Silicon и Metal. В метаданных указан английский язык. Модель использует архитектуру Mixture of Experts (MoE). Доступны варианты с квантованием экспертных блоков до 2-битного уровня (IQ2_XXS и Q2_K) размером около 80,8 GiB и до 4-битного уровня Q4_K размером около 153,3 GiB. Остальные компоненты, включая внимание, общих экспертов и выходной слой, в основном сохраняются в Q8_0, F16 или F32 для снижения потерь качества. Отдельный файл MTP размером 3,6 GiB предназначен для опционального speculative decoding и не является самостоятельной моделью. Вариант q2 рассчитан на компьютеры с 128 ГБ оперативной памяти, а q4 — на системы с не менее чем 256 ГБ RAM. Ключевое ограничение — квантизации специфичны для inference engine ds4 и могут быть несовместимы с другими загрузчиками; MTP требует специальной поддержки. В примере запуска ds4 используется контекст до 100000 токенов, однако собственный максимальный контекст модели в README не указан. GGUF-файлы распространяются по лицензии MIT, при этом базовая модель принадлежит DeepSeek и распространяется с условиями её релиза.

Dolphin 2.5 Mixtral 8x7B GGUF — это набор квантованных файлов модели cognitivecomputations/dolphin-2.5-mixtral-8x7b, подготовленный MaziyarPanahi в формате GGUF. Модель предназначена для генерации текста и может использоваться локально через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В основе лежит архитектура Mixtral с конфигурацией 8x7B; точный размер контекста и полный набор поддерживаемых языков в README не указаны, хотя модель помечена как предназначенная для английского языка. Доступны варианты квантования от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Квантование упрощает запуск на локальном оборудовании, но варианты с меньшей разрядностью могут иметь более низкое качество генерации. Модель обучалась на наборах данных Dolphin, Airoboros, Dolphin Coder, Synthia, OpenHermes, Magicoder и других, перечисленных в карточке. Сценарии применения включают локальную генерацию текста и, судя по составу данных и тегам, задачи общего назначения и программирования, однако специализированные возможности и ограничения отдельно не описаны. Распространяется по лицензии Apache-2.0.

E5-large-v2-t2t — нидерландская адаптация модели intfloat/e5-large-v2, созданная методом transtokenizer на основе токенизатора BERTje. Веса модели основаны на BERT; размер составляет около 433,4 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для преобразования нидерландских запросов и документов в текстовые эмбеддинги, чтобы находить семантически близкие тексты и сравнивать предложения. Модель можно применять для семантического поиска, ранжирования passage и оценки сходства текстов на нидерландском языке. В README приведены результаты оценки на нидерландском бенчмарке MTEB-NL. Модель принимает текст и выдаёт векторные представления; она опубликована в формате safetensors по лицензии MIT. Карточка не описывает ограничения качества или области применения.

furiosa-ai/e5-mistral-7b-instruct — пакет модели эмбеддингов E5-Mistral-7B-Instruct, подготовленный FuriosaAI для запуска с Furiosa-LLM на ускорителях FuriosaAI RNGD. В репозитории находятся веса upstream-модели и Furiosa Executable Bundle; сама модель — дообученная плотная decoder-модель на основе Mistral-7B-v0.1 с архитектурой MistralModel и 7,1 млрд параметров. Модель преобразует текст в плотные векторы размерностью 4096 с pooling по последнему токену и L2-нормализацией. Она рассчитана на семантический поиск, сопоставление запросов с документами и оценку семантического сходства. Модель понимает инструкции для настройки задачи: к запросам рекомендуется добавлять краткое описание задачи в формате Instruct/Query, а к документам инструкцию не добавлять. Контекст составляет 32 768 токенов; хотя обучение включало многоязычные данные, upstream-карточка рекомендует модель прежде всего для английского языка. Веса не квантизированы, используются upstream-веса FP16. Для запуска на RNGD применяется tensor parallelism с размером 8, соответствующим одной карте. Также доступны Transformers и Sentence Transformers. Лицензия — MIT.

EXAONE 3.5 7.8B Instruct — двуязычная генеративная языковая модель, разработанная LG AI Research и настроенная следовать инструкциям. Она предназначена для диалогов, ответов на вопросы и других задач генерации текста на английском и корейском языках. Модель построена на плотной архитектуре ExaoneForCausalLM, содержит 7,4 млрд параметров по метаданным и поддерживает контекст до 32 768 токенов. В карточке указаны 32 слоя и групповое внимание с 32 Q-головами и 8 KV-головами. Модель рассчитана на повседневные сценарии использования языковой модели и обработку длинного контекста. Доступна в формате safetensors для Transformers; для семейства также упомянуты варианты AWQ и GGUF в отдельных репозиториях. Лицензия указана как other, поэтому конкретные условия следует проверить в лицензии репозитория. Возможны фактические ошибки, устаревшие сведения, предвзятые или неподходящие ответы.

MaziyarPanahi/gemma-3-27b-it-GGUF — это набор квантованных файлов модели Gemma 3 27B Instruct в формате GGUF. Исходную модель разработала Google, а конвертацию и публикацию квантованных версий выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью. Репозиторий содержит варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью работы и качеством ответов. Формат GGUF ориентирован на локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими совместимыми инструментами; некоторые из них поддерживают ускорение на GPU и OpenAI-совместимый сервер. Ключевые сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Ограничения зависят от выбранного уровня квантования и используемого клиента. Лицензия для опубликованных файлов в предоставленных данных не указана.

Andycurrent/gemma-3-4b-it-uncensored-v2-GGUF — квантованные версии Gemma-3-4B-IT-Uncensored-v2, созданной на базе Gemma 3 и модели braindao/gemma-3-4b-it-uncensored-v2. Это инструкционно дообученная языковая модель примерно на 4 млрд параметров, предназначенная для локального, офлайн- и приватного развертывания. Указан английский язык; модель работает в текстовом режиме и использует формат чата Gemma с маркерами начала и конца хода диалога. Модель ориентирована на диалоги, генерацию текста, творческие задачи, рассуждения, структурированные ответы, объяснение кода, примеры и лёгкую отладку. Она делает акцент на высокой отзывчивости, следовании пользовательским инструкциям, стабильности в продолжительных диалогах и уменьшенном количестве встроенных ограничений, поэтому может применяться для персональных ассистентов, ролевых систем, prompt engineering, исследований выравнивания и экспериментов с поведением моделей. Ключевое преимущество — сочетание компактного размера и возможности запуска на потребительских GPU, CPU с квантованием и устройствах с ограниченными ресурсами. При этом точные параметры квантования, максимальная длина контекста и результаты бенчмарков не указаны. Из-за минимально ограниченного поведения модель может генерировать контент, который обычно фильтруется; пользователю необходимо самостоятельно учитывать требования законодательства, политики и этические нормы. Лицензия наследует условия оригинальной модели Gemma.

Gemma-4-E4B-it-NVFP4 — мультимодальная instruct-модель семейства Gemma 4, созданная на основе google/gemma-4-E4B-it и оптимизированная для диалогового и чат-применения. Квантованную версию подготовил Mario Iseli с использованием NVIDIA Model Optimizer на платформе NVIDIA DGX Spark. Модель предназначена для генерации текста, а также обработки изображений и аудио; заявлена поддержка multilingual-сценариев и контекстного окна до 128K токенов. Архитектура основана на плотной модели с механизмом Per-Layer Embeddings (PLE), где каждый из 26 декодерных слоёв получает специализированный 256-мерный сигнал. Вариант использует квантование NVFP4 по схеме W4A4: веса и активации языковых слоёв представлены в FP4, а башни обработки изображений и аудио, соответствующие проекционные слои и lm_head сохранены в BF16. Размер модели на диске составляет около 10,2 ГБ, при этом мультимодальные компоненты занимают значительную часть памяти. Ключевые преимущества — уменьшенный размер, возможность запуска на совместимом оборудовании NVIDIA и высокая заявленная скорость около 65 токенов в секунду на DGX Spark. Ограничения включают необходимость vLLM с transformers версии 5.4 или новее, зависимость от поддержки NVFP4 и сохранение значительного потребления памяти мультимодальными башнями. Это общественная квантованная сборка, а не официальный релиз NVIDIA или Google. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

GigaChat-20B-A3B-instruct-bf16 — диалоговая языковая модель семейства GigaChat, основанная на ai-sage/GigaChat-20B-A3B-instruct. Она предназначена для генерации ответов и ведения диалога на русском и английском языках. Модель использует архитектуру DeepSeekForCausalLM и поддерживает контекст до 131 072 токенов; формат весов — safetensors, библиотека для работы — Transformers. В названии указана точность bf16. Модель подходит для диалоговых интерфейсов и задач, где требуется обрабатывать длинные запросы и контекст. Репозиторий распространяется по лицензии MIT. В карточке не приведены результаты оценок качества и подробности о требованиях к оборудованию.

Mungert/GigaChat3-10B-A1.8B-GGUF — GGUF-квантизированная версия диалоговой модели GigaChat3-10B-A1.8B, созданная на основе ai-sage/GigaChat3-10B-A1.8B-bf16 с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с русским и английским языками, а также другими языками, добавленными в обучающий корпус. Модель использует архитектуру Mixture-of-Experts (MoE) с 10 млрд общих и 1,8 млрд активных параметров, Multi-head Latent Attention (MLA) для снижения требований к памяти и Multi-Token Prediction (MTP) для ускорения генерации. Обучение проводилось на 20 трлн токенов, включая данные по книгам, академическим материалам, программированию и математике, а также около 5,5 трлн токенов синтетических данных. Длина контекста в представленном описании не указана. GGUF-версия ориентирована на эффективный локальный инференс в экосистеме llama.cpp. В сборке применяется квантизация с выборочным повышением точности отдельных важных слоёв, что может улучшать качество при заданном уровне квантизации, но увеличивает размер файла. Ограничениями являются возможная потеря точности по сравнению с исходной bf16-версией и отсутствие в карточке подробностей о конкретных вариантах квантизации, размере файлов и измерениях качества именно этой GGUF-сборки. Лицензия — MIT.

Jackrong/GPT-5-Distill-llama3.2-3B-Instruct — диалоговая текстовая модель на архитектуре Llama 3.2, дообученная на базе unsloth/Llama-3.2-3B-Instruct методом SFT и дистилляции ответов GPT-5. Модель содержит 3,2 млрд параметров и предназначена для запуска на потребительском оборудовании, включая устройства с ограниченными ресурсами. В карточке указано использование LoRA при обучении; репозиторий также содержит веса safetensors. Модель подходит для чата и следования инструкциям, объяснений, суммаризации и перефразирования, а также для ответов по документам в RAG-сценариях. В README заявлен контекст до 32 тыс. токенов; метаданные каталога указывают 131 072 токена. Поддерживаемые языки — английский и китайский, на них рассчитана смесь обучающих данных. Небольшой размер удобен для локального запуска, но модель может уступать крупным моделям в сложных математических и программных задачах и склонна к фактическим ошибкам. Ответы для медицинских и юридических решений требуют проверки. Лицензия — Llama 3.2.

Это набор GGUF-квантизаций модели gradientai/Llama-3-8B-Instruct-Gradient-4194k, подготовленный и опубликованный командой featherless-ai-quants. Базовая модель относится к семейству Llama 3 с размером 8 млрд параметров и предназначена для генерации текста, включая работу в инструкционном режиме. README не уточняет разработчика базовой модели, архитектурные детали, языки и поддерживаемые модальности. Модель рассчитана на сценарии локального или совместимого с GGUF запуска, где требуется выбрать баланс между качеством, скоростью и потреблением памяти. Доступны варианты Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0; их размер варьируется примерно от 3,0 до 8,1 ГБ. README указывает контекст 4194k в идентификаторе базовой модели, однако не подтверждает фактическую длину контекста. Сильной стороной набора является широкий выбор уровней квантизации и формат GGUF, позволяющий адаптировать модель под различные аппаратные ограничения. Более компактные варианты требуют меньше памяти, но потенциально уступают старшим вариантам по качеству; конкретные результаты производительности и качества в README не приведены. Лицензия и условия использования не указаны, поэтому их необходимо проверять в документации базовой модели и репозитории.

granite-3.0-2b-instruct-GGUF — это GGUF-квантизированная версия языковой модели Granite 3.0 2B Instruct, разработанной IBM и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и выполнения инструкций, включая ответы на вопросы, понимание прочитанного, рассуждения, математические задачи, синтез кода и многоязычные сценарии. Модель содержит около 2 миллиардов параметров и распространяется в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от F16 до квантизаций Q4–Q8 с размером файлов примерно от 1,52 до 5,27 ГБ. README не указывает точное максимальное окно контекста, архитектурные детали или полный список поддерживаемых языков; при этом приведены результаты тестирования на наборе PAWS-X для семи языков. К сильным сторонам относятся компактный размер, возможность локального запуска и несколько вариантов квантизации с разным соотношением качества и требований к памяти. Квантизированные версии могут уступать исходным весам в точности, особенно при более агрессивном сжатии. Модель ориентирована на текстовые задачи и не заявлена как мультимодальная. Лицензия — Apache 2.0.

granite-4.2-30b-MLX-8bit — это 8-битная квантованная версия языковой модели granite-4.2-30b, разработанной ibm-granite. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon в экосистеме MLX. Модель предназначена для генерации текста и поддерживает сценарии рассуждения, диалогового взаимодействия и вызова инструментов. В README указаны следующие языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель относится к семейству Granite и имеет размер исходной модели 30B параметров; сведения о точной архитектуре, размере контекста и поддерживаемых модальностях, кроме текстовой генерации, не приведены. Ключевые преимущества этой версии — снижение требований к памяти по сравнению с полной точностью и оптимизация для Apple Silicon. Ограничения включают возможную потерю качества из-за 8-битного квантования, зависимость производительности от аппаратного обеспечения Apple Silicon и отсутствие в README подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

granite-4.2-8b-MLX-4bit — 4-битная квантованная версия языковой модели granite-4.2-8b, разработанной командой IBM Granite (ibm-granite). Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon и предназначена для локальной генерации текста. Модель поддерживает задачи text generation, включая сценарии рассуждений, работы с инструментами и tool-calling, что отражено в заявленных тегах. Она обучена для работы с английским, немецким, испанским, французским, японским, португальским, арабским, чешским, итальянским, корейским, нидерландским и китайским языками. Архитектура и размер исходной модели обозначены как granite-4.2-8b; сведения о длине контекста и точной архитектуре в README не приведены. Ключевое преимущество варианта — сниженное потребление памяти по сравнению с полной точностью и оптимизация под Apple Silicon, что делает его подходящим для локального использования. Ограничениями являются возможная потеря качества из-за 4-битного квантования, зависимость производительности от оборудования и отсутствие в README подробных данных о качестве, бенчмарках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

granite-4.2-8b-MLX-6bit — это 6-битно квантованная версия языковой модели granite-4.2-8b, разработанной командой ibm-granite. Квантование выполнено командой LM Studio с использованием MLX, поэтому модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и поддерживает сценарии, связанные с рассуждениями, режимом thinking и вызовом инструментов. Модель относится к классу текстовых генеративных моделей, имеет размер 8B в исходной версии и работает с текстовой модальностью. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Размер контекста и дополнительные архитектурные характеристики не указаны. Ключевые преимущества — уменьшенный объём хранения и потенциально более эффективный локальный запуск благодаря 6-битному квантованию и оптимизации MLX для Apple Silicon. Ограничения включают возможные потери качества по сравнению с полной точностью, зависимость от совместимого оборудования и отсутствие в README подробных данных о производительности, точности и размере контекста. Модель распространяется по лицензии Apache-2.0.

Granite-embedding-small-english-r2 — англоязычная модель для создания плотных векторных представлений текста, разработанная командой Granite Embedding компании IBM. Модель предназначена для сравнения текстов, семантического поиска и информационного поиска, включая поиск по документам, кодовой базе, таблицам и многошаговым диалогам. Она преобразует запросы, фрагменты и документы в векторы фиксированной длины, пригодные для сопоставления, например с помощью косинусного сходства. Модель содержит 47 млн параметров и использует архитектуру bi-encoder на базе ModernBERT. Размер выходного embedding составляет 384, поддерживается контекст длиной до 8192 токенов. При обучении применялись retrieval-oriented pretraining, contrastive finetuning, knowledge distillation и объединение моделей; использовались датасеты пар релевантности с разрешительными лицензиями, а также наборы данных, собранные и сгенерированные IBM. Модель ориентирована только на английский язык и доступна для использования через Transformers.js, включая ONNX-вариант. К сильным сторонам относятся компактный размер, поддержка длинного контекста, высокая скорость кодирования и конкурентоспособное качество на бенчмарках поиска, длинных документов, кода, таблиц и многоходовых диалогов. Ограничения — английская языковая специализация, фиксированный размер представлений и назначение преимущественно для задач embeddings, similarity и retrieval, а не для генерации текста. Модель распространяется по лицензии Apache 2.0.

gte-large-zh — модель текстовых эмбеддингов General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на больших наборах пар текстов, связанных по релевантности. Она предназначена для китайских текстов и преобразует их в векторы размерности 1024 для поиска и сравнения по смыслу. Модель подходит для информационного поиска, оценки семантического сходства и ранжирования текстов, а также может использоваться в классификации и кластеризации. Максимальная длина входной последовательности — 512 токенов; более длинные тексты обрезаются. В тестировании на китайском бенчмарке CMTEB модель показала средний результат 66,72 по 35 наборам данных. Репозиторий содержит веса PyTorch и Safetensors, лицензия — MIT.

sentence-transformers/gtr-t5-xl — модель для семантического поиска, опубликованная сообществом Sentence Transformers и основанная на работе «Large Dual Encoders Are Generalizable Retrievers». Она кодирует предложения и абзацы в плотные векторы размерностью 768, чтобы находить тексты, близкие по смыслу к запросу. Модель использует энкодер архитектуры T5; в README указано, что веса происходят от T5-3B и хранятся в формате FP16. Версия PyTorch получена преобразованием исходной TensorFlow-модели gtr-xl-1. Максимальная длина контекста по метаданным — 512 токенов. Поддерживаемый язык — английский. Для распространения указана лицензия Apache-2.0. Модель подходит для семантического поиска и сопоставления предложений через векторные представления. README предупреждает, что эмбеддинги могут немного отличаться от TensorFlow-версии, хотя результаты на упомянутых бенчмарках совпадают; подробные ограничения применения не описаны.

Higgs-Llama-3-70B — языковая модель Boson AI, дообученная на основе meta-llama/Meta-Llama-3-70B. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и диалоги; для работы используется формат prompt’ов Meta-Llama-3-70B-Instruct, а максимальная длина контекста составляет 8192 токена. Модель специально настроена для ролевых диалогов и старается последовательно придерживаться заданной роли и системного сообщения. Она также предназначена для следования инструкциям и рассуждений в задачах общего назначения. Обучение включало контролируемую настройку на инструкциях и чатах, а затем итеративную оптимизацию предпочтений с участием человеческих разметчиков и внутренних языковых моделей. Модель принимает текст и генерирует текст. Карточка сообщает о настройке поведения, но не приводит здесь численные результаты оценивания: таблицы бенчмарков опущены. Для использования весов указана лицензия other; конкретные условия следует сверять с лицензией репозитория и базовой модели Meta-Llama-3-70B.

Jais-2-70B-Chat — двуязычная языковая модель MBZUAI, Inception и Cerebras, обученная с нуля для диалогов и генерации текста на арабском и английском языках. Она рассчитана на современный литературный арабский, региональные диалекты и переключение между арабским и английским в одном сообщении. Это decoder-only Transformer с multi-head self-attention и 70 млрд параметров. Модель использует собственный арабоцентричный словарь размером 150 272 токена, RoPE и активацию Squared-ReLU; длина контекста — 8 192 токена. Подходит для чат-ассистентов, генерации и обработки двуязычных документов, анализа тональности и создания арабоязычного контента. В описанных авторами оценках модель показала конкурентные результаты на IFEval для арабского и английского и высокие результаты на AraGen-12-24. Авторы предупреждают, что её не следует применять для языков, отличных от арабского и английского, или для медицинских, юридических, финансовых и других критически важных решений без контроля человека. Лицензия — Apache-2.0.

Англоязычная модель эмбеддингов Jina AI на архитектуре JinaBERT, основанной на BERT. Она преобразует текст в векторные представления для поиска по смыслу, сравнения предложений, ранжирования и рекомендательных систем. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 8192 токенов; для получения эмбеддингов README рекомендует применять mean pooling. Модель обучена на коллекции Jina AI из более чем 400 млн пар предложений и сложных негативных примеров. В основе лежит JinaBERT, предварительно обученный на C4; симметричный двунаправленный вариант ALiBi позволяет обрабатывать длинные последовательности. Модель подходит для поиска по длинным документам, семантического сходства и RAG, сохраняя сравнительно быстрый инференс. Для загрузки через Transformers требуется trust_remote_code=True; README также указывает на gated-доступ на Hugging Face. Лицензия — Apache-2.0. Модель предназначена для английского текста и не является мультимодальной.

Xenova/jina-embeddings-v2-small-en — версия модели jinaai/jina-embeddings-v2-small-en с весами в формате ONNX, подготовленная для использования в JavaScript через библиотеку Transformers.js. Модель предназначена для извлечения векторных представлений английских текстов и совместима с конвейером feature-extraction. Модель подходит для семантического сравнения текстов, поиска похожих документов и построения приложений, использующих текстовые эмбеддинги. В README показан сценарий генерации эмбеддингов с mean pooling и расчёта косинусного сходства. Поддерживаются варианты точности fp32, fp16, q8 и q4, что позволяет выбирать между качеством, размером и производительностью. Сведения об архитектуре, размере, максимальной длине контекста и точной размерности эмбеддингов в README не указаны. Сильной стороной модели является возможность запуска ONNX-весов в JavaScript-окружении через Transformers.js, включая потенциальное использование в веб-приложениях. Ограничения связаны с тем, что заявлена поддержка английского языка, а влияние квантования на качество может зависеть от выбранного формата. Лицензия в предоставленном README не указана.