II.8Инженерия данных и аналитика

dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

gemasphi/laprador — модель Sentence-Transformers на базе архитектуры BERT, содержащая 136,1 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 768, подходящие для семантического поиска и кластеризации. Модель можно использовать с библиотекой Sentence-Transformers или через Transformers с подходящей операцией pooling. Модель принимает текст и выдаёт векторные представления; заявленная длина контекста — 512 токенов. README не уточняет языки обучения или специализацию по областям, поэтому применимость к конкретным языкам следует проверять на своих данных. Репозиторий содержит веса PyTorch; сведения о лицензии в предоставленных данных отсутствуют.

Llama3.1-SuperDeepFuse-CrashCourse12K — мультиязычная языковая модель для диалогов и выполнения инструкций, разработанная на базе agentlans/Llama3.1-SuperDeepFuse и дообученная на 12 тысячах примеров из agentlans/crash-course. В метаданных указаны 7,5 млрд параметров, архитектура Llama с плотной моделью LlamaForCausalLM, контекст до 131 072 токенов и формат safetensors. README описывает дообучение методом LoRA с 4-битной квантизацией во время обучения. Модель предназначена для генерации ответов, следования инструкциям, рассуждений, решения математических задач и программирования. Карточка указывает на мультиязычную поддержку; конкретные языки не перечислены. README приводит результаты оценивания на IFEval и BBH и предупреждает, что ответы могут быть ошибочными и требуют проверки в критически важных сценариях. Лицензия — llama3.1, с условиями использования Llama 3.1.

gemasphi/mcontriever — модель на основе архитектуры BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Общее число параметров — 205,1 млн, максимальная длина контекста — 512 токенов; репозиторий содержит веса PyTorch. Модель подходит для построения векторного поиска по текстовым коллекциям, группировки похожих фрагментов и оценки семантической близости. В README описано обучение с CosineSimilarityLoss. Язык обучения или перечень поддерживаемых языков в предоставленных данных не подтверждены. Лицензия в доступных сведениях не указана.

mrm8488/m-e5-large_bs64_10_all_languages — модель эмбеддингов на архитектуре XLM-RoBERTa, опубликованная пользователем mrm8488. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, сравнения сходства и кластеризации. Модель обучалась с функцией потерь CosineSimilarityLoss и поддерживает контекст до 514 токенов. Модель подходит для построения мультиязычного семантического поиска и группировки текстов. В метаданных указаны 658,7 млн параметров и формат PyTorch; карточка называет её моделью Sentence-Transformers. Лицензия в доступных данных не указана.

SyzygyResearch/miniac-embed — модель Sentence Transformer на архитектуре BERT, разработчик — SyzygyResearch. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для оценки семантического сходства, семантического поиска, поиска перефразировок, классификации текста и кластеризации. Для сравнения текстов используется косинусное сходство; максимальная длина входа составляет 512 токенов. Модель рассчитана на получение текстовых эмбеддингов и может применяться для поиска похожих фрагментов, группировки текстов и подготовки признаков для классификаторов. Репозиторий содержит веса в формате safetensors, для работы подходит библиотека sentence-transformers. В карточке не приведены языки обучения или результаты оценки качества. Лицензия в доступных данных не указана.

narraticlabs разработала MiniLM-L6-european-union — компактную модель Sentence Transformers на архитектуре BERT, полученную дистилляцией paraphrase-MiniLM-L12 и сокращением до 6 слоёв. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для сравнения смысла и поиска семантически похожих текстов. Модель подходит для семантического поиска и кластеризации текстов на языках Европейского союза. Модель содержит 110,2 млн параметров, принимает текст и имеет контекстное окно 512 токенов. В метаданных перечислена поддержка английского, немецкого, французского, испанского, итальянского, нидерландского, польского, португальского, венгерского, румынского, шведского, датского, финского, чешского, греческого, болгарского, хорватского, эстонского, латышского, литовского, мальтийского, словацкого и словенского языков. Репозиторий использует формат safetensors; лицензия — Apache-2.0.

Карточка модели artdev99/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой artdev99/MNLP_M3_document_encoder, поэтому описание составлено по ней. artdev99/MNLP_M3_document_encoder — модель для кодирования предложений и коротких абзацев в плотные векторы размерностью 384, отражающие их семантику. Это форк all-MiniLM-L6-v2, дообученный на базе nreimers/MiniLM-L6-H384-uncased с контрастивной целью на более чем миллиарде пар предложений. Модель использует архитектуру BERT и библиотеку Sentence Transformers; число параметров — 25,9 млн. Векторы подходят для семантического поиска, оценки сходства предложений и кластеризации. Модель принимает текст и выдаёт векторные представления; в README указано усечение входа длиннее 256 word pieces, а контекстное окно по метаданным составляет 512 токенов. В карточке заявлен английский язык. Модель распространяется по лицензии Apache-2.0.

Карточка модели novelcore/model6 на Hugging Face совпадает с карточкой sentence-transformers/all-mpnet-base-v2, поэтому описание составлено по ней. all-mpnet-base-v2 — модель Sentence Transformers, разработанная в ходе Community Week Hugging Face. Она кодирует предложения и короткие абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В основе лежит microsoft/mpnet-base, дообученная контрастивным обучением на более чем миллиарде пар предложений из нескольких наборов данных. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текст. Её можно применять для семантического поиска, извлечения информации и группировки похожих фрагментов. Текст длиннее 384 токенов модели обрезается; README рекомендует использовать её как кодировщик предложений и коротких абзацев. Лицензия — Apache-2.0.

jfarray/Model_paraphrase-multilingual-MiniLM-L12-v2_30_Epochs — модель Sentence Transformers на базе архитектуры BERT. Она преобразует предложения и абзацы в плотные векторы размерностью 384, предназначенные для сравнения семантической близости, семантического поиска и кластеризации. Обучение проводилось с функцией потерь CosineSimilarityLoss; модель доступна в формате PyTorch и может использоваться через Sentence-Transformers или Transformers с подходящим pooling. Модель подходит для поиска похожих фраз и документов, группировки текстов и получения векторных представлений для последующей обработки. Контекст ограничен 512 токенами. Название базовой модели указывает на мультиязычный вариант MiniLM, однако README и метаданные не приводят список поддерживаемых языков или идентификатор базовой модели. Лицензия в предоставленных данных не указана.

tomaarsen/mpnet-base-nli — модель семейства MPNet, опубликованная tomaarsen и предназначенная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768; число параметров — 136,7 млн, максимальный контекст — 514 токенов. Эмбеддинги подходят для семантического поиска, кластеризации и сравнения смысловой близости текстов. Модель обучалась с функцией MultipleNegativesRankingLoss и косинусной мерой сходства. Для работы можно использовать Sentence-Transformers либо Transformers с подходящей операцией pooling. В карточке указаны формат Safetensors и библиотека Sentence-Transformers. Языковая специализация и лицензия в предоставленных данных не обозначены; качество может зависеть от языка и предметной области входных текстов.

BlazingFringe/mpnet-mnr-v2-fine-tuned — модель Sentence-Transformers на архитектуре MPNet, разработанная на основе MPNet и дообученная с MultipleNegativesRankingLoss для сравнения предложений по косинусному сходству. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска, кластеризации и оценки сходства текстов. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов. Её можно использовать в конвейерах поиска и группировки текстовых фрагментов; для работы доступны Sentence-Transformers и Transformers с подходящим pooling. В карточке указаны наборы данных ANLI и GLUE. Языки обучения или приоритетные языки не установлены по имеющимся сведениям. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

AIDA-UPM/MSTSb_paraphrase-xlm-r-multilingual-v1 — модель на базе XLM-RoBERTa, опубликованная AIDA-UPM и предназначенная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, пригодные для семантического поиска, кластеризации и сравнения сходства предложений. В метаданных указано 305,2 млн параметров и контекстное окно 514 токенов; веса доступны в формате PyTorch. Модель обучалась с CosineSimilarityLoss. Для работы требуется корректное объединение контекстных представлений токенов с помощью pooling; Sentence-Transformers предоставляет готовый способ использования. Карточка не указывает лицензию, поэтому условия распространения здесь описать нельзя.

Это дообученная Turbo-AI модель Sentence Transformer для получения плотных векторных представлений предложений и абзацев. Она основана на XLM-RoBERTa, содержит 125,9 млн параметров и формирует эмбеддинги размерности 768; сходство между ними можно оценивать косинусной мерой. Максимальная длина последовательности в README составляет 1022 токена, а метаданные указывают нативный контекст в 1024 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. README описывает обучение на примерах anchor, positive и negative с CachedMultipleNegativesRankingLoss. Семейство E5 мультиязычное, однако конкретные поддерживаемые языки в предоставленных данных не перечислены. Модель выдаёт векторы, а не готовые ответы на естественном языке. Лицензия в предоставленных данных не указана.

Модель h4g3n multilingual-MiniLM-L12-de-en-es-fr-it-nl-pl-pt — компактная модель эмбеддингов предложений на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. По данным карточки, это дистиллированный вариант с четырьмя слоями внимания, обученный сохранять согласованное векторное пространство для семи языков; метаданные указывают архитектуру BERT и около 105,5 млн параметров. Модель преобразует предложения и абзацы в плотные векторы размерности 384 и подходит для семантического поиска, сравнения сходства и кластеризации текстов. Модель принимает текст и выдаёт эмбеддинги; заявленная длина контекста — 512 токенов. Поддерживаются немецкий, английский, испанский, французский, итальянский, нидерландский, польский и португальский языки. Репозиторий распространяет веса в формате safetensors; лицензия в предоставленных данных не указана.

corto-ai/nomic-embed-text-v1 — текстовая модель-энкодер семейства NomicBERT для создания векторных представлений текста. Карточка описывает её как воспроизводимую модель с открытыми весами, кодом обучения и данными; репозиторий предоставляет веса в форматах PyTorch, Safetensors и ONNX. Модель предназначена для поиска по смыслу, извлечения релевантных документов, кластеризации и классификации текста. Она поддерживает контекст до 8192 токенов и требует префиксов задач: search_query и search_document для поиска, classification для классификации и clustering для кластеризации. В README приведены результаты бенчмарков MTEB, LoCo и Jina Long Context; модель ориентирована на английский язык. Лицензия — Apache-2.0. Для корректного применения нужно использовать соответствующий префикс; качество и пригодность для конкретной задачи могут отличаться от результатов бенчмарков.

NV-Embed-v1 — англоязычная модель эмбеддингов от NVIDIA на базе decoder-only LLM Mistral-7B-v0.1. Она преобразует запросы и тексты в векторы размерностью 4096 для поиска и других задач сравнения и анализа текста. Модель использует pooling с latent attention и двухэтапную настройку инструкциями. В README сообщается о результатах на бенчмарке MTEB по 56 задачам, включая поиск, ранжирование, классификацию, кластеризацию и семантическое сходство; также указаны результаты AIR-Bench QA для английского языка и Long-Doc. Для доступа к репозиторию требуется аутентификация Hugging Face. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Она предназначена для получения эмбеддингов и поддерживает задачи извлечения признаков и сравнения предложений; в каталоге файлов указан формат safetensors.

OpenAI o3-mini — компактная языковая модель OpenAI, оптимизированная для рассуждений в задачах STEM, особенно в науке, математике и программировании. Она предназначена для генерации текста и помощи в решении технических задач; поддерживает параметр reasoning_effort для настройки уровня усилий при рассуждении. Модель подходит для объяснения научных концепций, решения математических задач и помощи с кодом. Данных о размере, контекстном окне, поддерживаемых языках и лицензии в предоставленных источниках нет.

Карточка модели JSCreatorPro/offline-cpu-e5-large-v2 на Hugging Face совпадает с карточкой intfloat/e5-large-v2, поэтому описание составлено по ней. E5-large-v2 — англоязычная модель текстовых эмбеддингов, разработанная Liang Wang, Nan Yang, Xiaolong Huang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 24 слоя и размерность эмбеддинга 1024. Общее число параметров — 433,9 млн, максимальная длина входа — 512 токенов. Модель преобразует тексты в векторы для семантического поиска, сопоставления запросов и документов, оценки сходства предложений, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к документу — «passage: »; для симметричного сравнения обычно используют «query: » перед обоими текстами. Модель предназначена только для английских текстов; более длинные входы обрезаются до 512 токенов. При использовании косинусного сходства важнее относительный порядок оценок, чем их абсолютные значения. Расхождения в версиях PyTorch и Transformers могут вызывать небольшие различия результатов. Лицензия — MIT.

OpenCodeInterpreter-CL-34B — модель генерации кода из семейства OpenCodeInterpreter, основанная на CodeLlama-34b-Python-hf. Она объединяет генерацию кода с выполнением и итеративным уточнением по обратной связи; в этой карточке описана сама модель, а не отдельная среда выполнения. Модель разработана для помощи в написании и интерпретации кода. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 33,5 млрд параметров и контекстом 16 384 токена. Метаданные указывают английский язык и поддержку генерации текста; для задач с кодом модель отмечена тегом code. Опубликована под лицензией Apache-2.0. Карточка приводит результаты семейства на HumanEval и MBPP, но не содержит отдельных оценок именно этой версии на этих тестах.

OvisOCR — компактная мультимодальная модель ATH-MaaS для сквозного разбора документов. Она принимает изображение страницы целиком и формирует структурированный вывод в Markdown, сохраняя текст, таблицы, математические формулы, элементы оформления и порядок чтения. Модель построена на архитектуре Ovis2.6 и содержит 1,3 млрд параметров; для обработки использует Transformers или vLLM. Длина контекста — 40 960 токенов. Модель предназначена для извлечения и структурирования содержимого плотных и сложных документов. В README заявлены высокие результаты на OmniDocBench v1.5, однако конкретные численные показатели не приведены. OvisOCR может ошибаться или пропускать содержимое, поэтому результаты следует проверять вручную в критически важных сценариях. Лицензия — Apache-2.0.

Карточка модели nonamehdj/paraphrase-multilingual-MiniLM-L12-v2 на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

AlexWortega/qwen11k — Sentence Transformers модель, дообученная на базе Qwen/Qwen2.5-0.5B-Instruct для создания текстовых эмбеддингов. Она кодирует предложения и абзацы в плотные векторы размерности 896; близость текстов можно оценивать косинусным сходством. Архитектура включает трансформер Qwen2 с усреднением токенных представлений, а метаданные указывают контекст до 32 768 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации. В README приведена оценка на sts-dev: Spearman для косинусного сходства — 0,7854 при размерности 896. Для текстов длиннее указанного в README лимита последовательности 1024 токена может потребоваться обрезка или разбиение на части. Лицензия в предоставленных данных не указана.

richardyoung/Qwen2.5-Coder-14B-Instruct-heretic — модифицированная версия Qwen/Qwen2.5-Coder-14B-Instruct, созданная с помощью Heretic v1.4.0. Это причинная языковая модель семейства Qwen2 для генерации кода и диалогового взаимодействия; размер по метаданным — 14 млрд параметров, веса сохранены в safetensors. Карточка указывает на изменение поведения отказов: в приведённой оценке модель отказала в 3 из 100 случаев против 100 из 100 у исходной модели. Модель подходит для генерации, анализа и исправления кода, а также для диалоговых сценариев разработки. Метаданные указывают контекст до 32 768 токенов; README базовой модели описывает возможность расширения до 131 072 токенов с YaRN, но это требует настройки и может ухудшить работу на коротких запросах. Карточка модели не приводит отдельной оценки качества именно этой версии. Модель основана на Qwen/Qwen2.5-Coder-14B-Instruct и распространяется по лицензии Apache-2.0. В README разработчиком модификации указан владелец репозитория richardyoung; модель снижает частоту отказов, поэтому её ответы требуют соответствующей проверки при использовании.

Карточка модели Thor39/Qwen2.5-Coder-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct — инструкционная версия каузальной языковой модели для работы с программным кодом, разработанная командой Qwen. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров по метаданным. Модель принимает текстовые запросы и генерирует текст, включая код; поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о коде и создания кодовых агентов. README описывает архитектуру на базе Transformers с RoPE, SwiGLU и RMSNorm, а также контекст до 131 072 токенов при настройке YaRN для длинных входов. В конфигурации по умолчанию используется контекст 32 768 токенов. Для длинных контекстов масштабирование YaRN может снижать качество на коротких запросах. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers; README рекомендует актуальную версию библиотеки. Лицензия — Apache-2.0. Карточка подтверждает прежде всего английский язык; отдельный список поддерживаемых языков программирования и оценка качества именно этой instruct-версии здесь не приведены.

TeichAI/Qwen3-4B-Thinking-2507-Claude-4.5-Opus-High-Reasoning-Distill — плотная языковая модель на архитектуре Qwen3, созданная дообучением unsloth/Qwen3-4B-Thinking-2507 на наборе примеров рассуждений Claude Opus 4.5 с высоким уровнем reasoning. В модели 3,7 млрд параметров; она предназначена для генерации текста в диалоге и имеет интерфейс для вызова инструментов. Контекстное окно составляет 262 144 токена. Модель рассчитана на программирование, научные задачи и применение общего назначения, в том числе запросы, требующие развёрнутых рассуждений. README не приводит сведения о языках обучения или оценки качества. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-DeepSeek-V4-Flash — плотная мультимодальная модель на 9 млрд параметров, дообученная Jackrong методом дистилляции на данных DeepSeek-V4-Distill-8000x. Она построена на базе unsloth/Qwen3.5-9B и предназначена для диалогов, структурированных рассуждений, многошагового решения задач и рабочих процессов с вызовом инструментов. Архитектура поддерживает обработку изображений и текста; заявлена поддержка английского, китайского, корейского, японского, испанского и русского языков. Модель рассчитана на эффективный инференс и может применяться для программирования, математических и STEM-задач, анализа изображений и агентных сценариев. В карточке приведены рекомендации по генерации: temperature от 0,7 до 1,0 и top_p 0,95; для строгих задач программирования предлагается более низкая температура. Модель распространяется по лицензии Apache-2.0. Оценка в README описана как раннее контролируемое сравнение квантованной версии Q5_K_M с базовой Qwen3.5-9B, поэтому заявления о качестве следует считать предварительными. Ограничения включают возможные затруднения с редкими знаниями, чрезмерно длинные рассуждения на простые запросы и возможное ухудшение некоторых аспектов выравнивания безопасности.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — языковая модель для генерации текста и решения сложных аналитических задач, разработанная сообществом на базе Qwen/Qwen3.5-9B. Она дообучена методом supervised fine-tuning с применением LoRA и дистилляции рассуждений из Gemini 3.1, Qwen3.5-27B и корпуса Gemini 3.0 Pro. Модель ориентирована на структурированное пошаговое рассуждение, декомпозицию задач, планирование, абстрагирование и подготовку более связных ответов. Модель предназначена для многошагового анализа, математики и логики, программирования и системных задач, физики, инженерии, права, медицины, финансов, химии, а также сценариев, связанных с безопасностью и adversarial reasoning. Заявлены языки English, Chinese и Korean. Архитектура — плотная модель размером 9B параметров; поддерживается текстовая генерация. Размер контекстного окна в README не указан. Сильными сторонами являются компактный размер, структурированная организация рассуждений, улучшенное отслеживание ограничений и широкое междоменное покрытие. Ограничения включают возможное ухудшение обобщения или частичное забывание отдельных знаний базовой модели из-за дистилляции и специализированного дообучения, поэтому модель следует проверять на целевых задачах перед использованием в производстве. Лицензия — Apache-2.0.

Это квантованная до INT8 и преобразованная в ONNX версия Qwen3-Embedding-0.6B, подготовленная janni-t для запуска через Text Embeddings Inference (TEI) с ускорением на CPU. Модель имеет около 507,6 млн параметров, использует архитектуру Qwen3 и контекст до 32 768 токенов; README указывает на mean pooling для получения текстовых эмбеддингов. Модель предназначена для построения эмбеддингов и оценки сходства текстов в многоязычных приложениях, включая поиск, семантическое сопоставление и сценарии с высокой нагрузкой на CPU или периферийных устройствах. В README заявлены размер около 0,56 ГБ и ускорение CPU-инференса в 2–4 раза относительно float32 при потере точности 1–3%; это оценочные характеристики автора карточки. Поддерживаются языки, перечисленные в метаданных, включая русский, английский и китайский. Лицензия — Apache-2.0. Для работы требуется совместимый runtime ONNX и TEI; квантование может немного снизить точность относительно исходной модели.

Nicolassuez/Qwen3-Embedding-0.6B-W8A16-g128-resident — производная модель эмбеддингов на основе Qwen3-Embedding-0.6B от Qwen. Это плотная архитектура Qwen3 с 507,6 млн параметров, контекстом до 32 768 токенов и поддержкой многоязычных текстов. Модель предназначена для создания текстовых эмбеддингов и семантического поиска; для получения векторов README рекомендует pooling по последнему токену и L2-нормализацию. Веса линейных слоёв квантизованы методом int8 weight-only с группами размера 128, а таблица эмбеддингов также хранится в int8 с отдельным bf16-масштабом для каждой строки. Реализация с custom code удерживает квантизованные веса в VRAM и деквантизует слои во время прямого прохода. По замерам README, это снижает объём резидентных весов и VRAM-потребление по сравнению с bf16, но увеличивает задержку; в приведённом тесте качество поиска оставалось близким к bf16. Для загрузки через Transformers требуется trust_remote_code=True; модель также запускается через Infinity и SentenceTransformers. Для совместимости эмбеддингов при индексации и поиске следует использовать одну и ту же версию Transformers: README сообщает о численном дрейфе между версиями 4.57 и 5.14. Лицензия — Apache-2.0.