II.8Инженерия данных и аналитика

Devstral-Small-2-NVFP4-GGUF — квантизированная GGUF-сборка мультимодальной модели для программирования, разработанная Mistral AI и представленная в репозитории FreedomAISVR. В её основе — mistralai/Devstral-Small-2-24B-Instruct-2512: плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров и контекстом до 393 216 токенов. Для работы с изображениями используется проектор mmproj на основе 24-слойного SigLIP ViT. Модель предназначена для генерации и анализа кода, диалогов с изображениями, вызова инструментов и агентных сценариев. Квантизация NVFP4 занимает около 12,52 ГБ для текстовых весов; файл проектора F16 занимает около 0,82 ГБ. Формат рассчитан на ускорение инференса на GPU NVIDIA Blackwell. Поддерживается многоязычное общение, однако конкретный перечень языков в карточке не приведён. Модель доступна по лицензии Apache 2.0. Квантизация может снизить качество относительно исходных весов; работа с изображениями требует отдельного файла проектора, а заявленное аппаратное ускорение NVFP4 ориентировано на Blackwell.

Fabliq-8B-Agent-Reasoning — англоязычная модель-ассистент семейства Fabliq от LLM-OS-Models, дообученная на базе Fabliq-8B-Agent. Это причинная языковая модель архитектуры Lfm2MoeForCausalLM с MoE: около 8 млрд параметров всего и примерно 1 млрд активных на токен. Модель рассчитана на генерацию ответов, многошаговые рассуждения и агентные сценарии с вызовом инструментов, включая терминальные задачи. Модель расширяет возможности базовой агентной версии экспертными ответами на общие вопросы, задачами по математике, научному анализу, программированию, планированию и кибербезопасности. В README описаны двухэтапное обучение и использование дистиллированных данных; обучение включало 281 пример на втором этапе. Репозиторий указывает нативный контекст 128 000 токенов, однако обучение проводилось на последовательностях до 8 192 токенов, поэтому качество на длинном контексте не подтверждено. Модель ориентирована преимущественно на английский язык; поддержка других языков ограничена. Авторы отмечают риск переобучения на шаблонных данных и отсутствие выравнивания безопасности, поэтому для практического развёртывания нужны собственные защитные меры. Лицензия — Apache-2.0.

Parallia разработала FMMB-BE-FR — французскую версию модели Sentence Transformers на архитектуре ModernBERT. Она кодирует французские предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов, поиска перефразирований, кластеризации и классификации. Максимальная длина входа — 8192 токена; для сравнения используется косинусное сходство, а тексты можно подавать без специальных префиксов. Модель обучена на параллельных предложениях с помощью MultipleNegativesRankingLoss и предназначена прежде всего для французского языка. По README, веса совпадают с многоязычной FMMB-BE, но эта версия использует французский токенизатор и связанную с ним таблицу эмбеддингов. Метаданные указывают 148,7 млн параметров и формат safetensors. Модель распространяется по лицензии Apache-2.0. README отмечает, что для использования ModernBERT может потребоваться актуальная версия библиотеки Transformers.

Falcon3-Mamba-7B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный декодер на основе Mamba1: 64 блока, ширина 4096, размер состояния 16 и словарь на 65 тысяч токенов. Модель продолжает предварительное обучение Falcon-Mamba-7B на дополнительных данных из веба, кода, STEM и других высококачественных источников. Модель предназначена для генерации текста и служит основой для сценариев рассуждения, понимания языка, следования инструкциям, работы с кодом и математикой. Контекстное окно достигает 32 тысяч токенов; обучение велось преимущественно на английских данных. В репозитории представлены веса Safetensors для Transformers. Разработчик сообщает о сильных результатах на задачах рассуждения, понимания языка, кода и математики по сравнению с моделями SSM схожего размера на момент выпуска. Это базовая модель, поэтому качество следования инструкциям в прикладном чате может уступать специализированным instruct-версиям. Лицензия — TII Falcon-LLM License 2.0.

EpistemeAI2/Fireball-Phi-3-medium-4k-inst-Philos — дообученная на базе Phi-3 Medium Instruct модель для генерации ответов в диалоговом формате. Карточка описывает семейство Phi-3 Medium как плотную авторегрессионную языковую модель примерно на 13,8 млрд параметров; контекст составляет 4096 токенов. Эта версия ориентирована на английский язык и общие коммерческие и исследовательские сценарии, включая работу в условиях ограниченных вычислительных ресурсов и низкой задержки. Модель подходит для диалоговых помощников, ответов на вопросы, а также задач рассуждения, математики, логики и программирования. Базовая Phi-3 Medium Instruct прошла supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. Как и другие языковые модели, она может выдавать неточные или вымышленные сведения, предвзятые или оскорбительные ответы. Качество на языках помимо английского ниже; сгенерированный код и ответы для чувствительных или высокорисковых сценариев требуют проверки. README преимущественно описывает базовую Phi-3 Medium Instruct, поэтому отдельные характеристики дообучения EpistemeAI2 на философских данных в предоставленной карточке подробно не раскрыты.

avemio/German-RAG-ModernBERT-Base-TRIPLES — модель Sentence Transformers, разработанная командой German-RAG AI и дообученная на наборе avemio/German-RAG-EMBEDDING-TRIPLES-HESSIAN-AI от answerdotai/ModernBERT-base. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и сравнения текстов; близость оценивается косинусным сходством. Архитектура состоит из ModernBERT и среднего пулинга токенов, максимальная длина последовательности — 8192 токена. Модель ориентирована на немецкоязычные сценарии RAG: поиск релевантных фрагментов и документов, оценку семантического сходства и поиск перефразировок. Также её можно применять для кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты оценки поиска, включая cosine_accuracy@1 0,5818 и @5 0,9522 на указанном наборе оценки. Модель содержит 149 млн параметров, распространяется в формате safetensors и доступна по лицензии Apache-2.0. Она выдаёт эмбеддинги, а не готовые ответы; качество зависит от данных и сценария применения, поэтому результаты оценки из карточки не гарантируют аналогичную точность на других коллекциях.

gl-agent-1-27b — плотная языковая модель на 27 млрд параметров семейства Qwen3.5, дообученная для длительных агентных задач. Она предназначена для диалоговых сценариев, где модель планирует и выполняет последовательности действий, включая вызов инструментов и задачи программирования. Вызовы инструментов формируются в XML и требуют соответствующего парсера Qwen3 в vLLM; режим рассуждения включён по умолчанию. Модель поддерживает контекст длиной 262 144 токена, расширяемый до 1 000 000 токенов с YaRN. Веса включают голову multi-token prediction для спекулятивного декодирования без отдельной черновой модели. В README приведены настройки запуска через vLLM; результаты бенчмарков пока отсутствуют, поэтому качество и выигрыш в скорости следует оценивать на целевом оборудовании. Карточка указывает лицензию Apache-2.0.

Granite-4.0-350M-Base — компактная базовая языковая модель IBM Granite Team, обученная с нуля для генерации текста при ограниченных вычислительных ресурсах. Она предназначена для локального и офлайн-применения, в том числе на смартфонах и IoT-устройствах, а также для дообучения под специализированные задачи. Модель имеет плотную decoder-only архитектуру трансформера GraniteMoeHybridForCausalLM с GQA, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Она содержит 352,3 млн параметров, поддерживает контекст до 32 768 токенов и дополнение кода по схеме Fill-in-the-Middle. В карточке указана поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель подходит для суммаризации, классификации и извлечения информации, ответов на вопросы и дополнения кода. Она выпущена под лицензией Apache 2.0. Модель не прошла выравнивание по безопасности и может выдавать предвзятые, ошибочные или проблематичные ответы; для небольших моделей также отмечен риск воспроизведения фрагментов обучающих данных.

Infinity-Instruct-3M-0625-Yi-1.5-9B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), дообученная следовать инструкциям. Это плотная авторегрессионная модель семейства Yi-1.5 с 8,6 млрд параметров, рассчитанная на генерацию текста и диалог в формате чата. Контекст составляет 4096 токенов; для работы используются веса SafeTensors. Модель дообучена на наборах Infinity-Instruct-3M и Infinity-Instruct-0625 без обучения с подкреплением на основе отзывов людей (RLHF). Она предназначена для ответов на вопросы и многошагового диалога, включая повседневные запросы, математику и код. Авторы сообщают о результатах на бенчмарках AlpacaEval 2.0 и MT-Bench. В карточке указана лицензия Apache-2.0, однако README ограничивает использование связанных ресурсов академическими исследованиями и запрещает коммерческое применение. Авторы также предупреждают, что точность ответов не гарантируется.

InternLM2-20B — плотная языковая модель второго поколения семейства InternLM, разработанная командой InternLM и представленная в репозитории internlm. Она предназначена для генерации и продолжения текста, а также может служить основой для адаптации под предметные области. В опубликованных оценках показаны способности к рассуждению, математике и программированию; карточка также описывает поддержку длинных контекстов. Модель содержит 19,3 млрд параметров, построена на архитектуре InternLM2ForCausalLM и распространяется в формате PyTorch. Метаданные указывают контекст до 32 768 токенов. В README заявлена поддержка до 200 000 символов для базовой модели InternLM2; это значение не следует приравнивать к числу токенов и оно может зависеть от конфигурации конкретного чекпойнта. Карточка приведена на китайском и английском языках, но точный перечень языков модели не указан. Модель подходит для продолжения текста и как языковая основа для задач общего назначения, включая рассуждения, математику и код. Это базовая версия, а не чат-версия InternLM2-Chat, поэтому оптимизация для диалога и следования инструкциям здесь не заявлена. Генерация может содержать ошибки, предвзятость или вредные ответы. Код лицензирован по Apache-2.0; веса открыты для академических исследований, а коммерческое использование требует получения бесплатного разрешения.

jinaai/jina-embedding-b-en-v1 — англоязычная модель эмбеддингов текста, разработанная Jina AI. Она предназначена для сопоставления предложений и поиска близких по смыслу текстов, включая пары запрос—документ. Модель обучалась на наборе Linnaeus-Clean из 380 миллионов пар предложений, собранных из разных областей и прошедших очистку; в метаданных также указан датасет jinaai/negation-dataset. Модель построена на архитектуре T5 Encoder, содержит 123,8 млн параметров и принимает последовательности длиной до 512 токенов. Она выдаёт текстовые эмбеддинги для семантического поиска, сравнения предложений и ранжирования кандидатов по близости смысла. Доступна в формате PyTorch. Модель распространяется по лицензии Apache-2.0. Ограничение контекста в 512 токенов делает её менее подходящей для прямого кодирования длинных документов; назначение и языковые данные ориентированы на английский.

JOSIE-4B-Instruct — разговорная instruction-following модель Гёкдениза Гюльмеза, созданная полновесным дообучением gabliterated-версии Qwen3-4B-Instruct-2507. Это плотная причинная языковая модель семейства Qwen3 с 3,7 млрд параметров; метаданные указывают контекст до 262 144 токенов. Модель предназначена для естественного диалога, практических ответов и повседневной помощи, а также для письма, мозгового штурма, объяснений, анализа и задач по программированию. Модель ориентирована на следование инструкциям и прямой, дружелюбный стиль общения без чрезмерной угодливости; карточка также заявляет сохранение способностей к рассуждению и отсутствие встроенной фильтрации контента. Поддерживаются английский, испанский, французский, португальский, итальянский, арабский, японский, корейский, индонезийский, русский, вьетнамский, немецкий и тайский языки. Модель распространяется по лицензии MIT. Её ответы могут быть неподходящими для части аудиторий; результаты в узкоспециализированных областях и критически важных сценариях требуют проверки, а стиль с эмодзи подходит не для всех формальных задач.

mlx-community/K2-Horizon-7B-bf16 — конверсия модели IFM/K2-Horizon-7B в формат MLX с точностью bf16, подготовленная сообществом mlx-community для компьютеров Apple silicon. Это плотная авторегрессионная модель семейства K2-Horizon с 7B параметров по README и 8B по метаданным; она поддерживает контекст до 524 288 токенов и предназначена для диалогов и генерации текста, включая работу с длинными запросами. В карточке описаны проверки соответствия реализации PyTorch и тестовые примеры генерации. Модель подходит для ответов на вопросы, рассуждений, помощи с кодом и обработки длинных текстов. Конверсия выполнена без квантизации, поэтому веса занимают около 18 ГБ; с учётом памяти для KV-кэша длинный контекст требует существенно больше оперативной памяти. Для запуска указана библиотека mlx-lm и необходимость доверенной загрузки кода модели в некоторых версиях. Лицензия — Apache-2.0.

Laguna M.1 GGUF — независимая общественная конверсия и набор квантизированных GGUF-версий модели Laguna M.1, разработанной Poolside. Модель предназначена для генерации кода, задач программирования с длинным контекстом и агентских сценариев локального запуска. Данный репозиторий содержит производные артефакты, созданные на основе исходных BF16 safetensors Poolside, а не официальный релиз разработчика. Исходная Laguna M.1 — разреженная MoE-модель с 225 млрд общих параметров и 23 млрд активируемых параметров на токен. Она использует 70 слоёв с глобальным вниманием, 256 разреженных экспертов после первых трёх плотных слоёв, маршрутизацию top-k=16, RoPE с YaRN и механизм softplus attention output gating. Заявленное контекстное окно составляет 262 144 токена. Доступны варианты квантизации от наиболее компактных IQ1_S_R4 размером 43,54 GiB до BF16 размером 420,71 GiB; качество и требования к памяти зависят от выбранного варианта. Сильными сторонами модели являются специализированная направленность на программирование, поддержка сверхдлинного контекста и возможность локального использования через GGUF. Для запуска требуется совместимый runtime: подтверждена поддержка ik_llama.cpp начиная с версии, включающей соответствующие изменения, тогда как другие средства могут потребовать отдельной реализации поддержки Laguna. Модель и представленные GGUF-артефакты распространяются с метаданными лицензии Apache License 2.0; конверсия является независимой, а торговые названия и брендинг Poolside остаются собственностью Poolside.

LinguaForge-BestModel-v2 — языковая модель семейства Llama, представленная пользователем dusersad12. Она предназначена для генерации текста и диалогов, решения математических и логических задач, программирования и работы в роли помощника. В README заявлены улучшения рассуждений после постобучения, снижение галлюцинаций и поддержка вызова функций; приведены результаты бенчмарков, но подробности методики и независимая проверка не описаны. Модель содержит 1,3 млрд параметров, использует архитектуру LlamaForCausalLM и доступна в формате PyTorch через Transformers. README предлагает шаблон системного промпта для чат-сценариев, а также шаблоны запросов с файлами и результатами веб-поиска. Лицензия — Apache-2.0. Карточка не сообщает контекстное окно и явно поддерживаемые естественные языки.

Llama-Deepsync-1B — дообученная PrithivMLmods модель на базе Meta Llama 3.2 1B Instruct для генерации текста и диалогов. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса SafeTensors; модель можно запускать через Transformers. Модель предназначена для ответов на сложные запросы с логическим рассуждением, решения задач по математике, генерации и объяснения кода, творческого письма и создания структурированных ответов, включая JSON. В README также заявлена поддержка многоязычного общения и генерации длинных текстов. Метаданные указывают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; более широкое заявление README о 29 языках не подкреплено их перечнем в метаданных. Лицензия — CreativeML OpenRAIL-M.

Merino-Large-v2 — модель поиска по тексту от BAA AI (Black Sheep AI), объединяющая создание эмбеддингов и переранжирование результатов для RAG. Биэнкодер выдаёт L2-нормализованные векторы размерностью 1024; для запросов рекомендуется добавлять префикс «query: ». Кросс-энкодер оценивает релевантность пары «запрос — документ» одним числом. Обе части используют основу xlm-roberta-large и общую таблицу входных эмбеддингов, что уменьшает размер загрузки. Заявлена поддержка нескольких языков и около 872 млн параметров. Модель подходит для семантического поиска и уточнения порядка найденных фрагментов. В карточке отмечена хорошая пригодность для корпусов с тематически связанными документами; для разнородных многофактных документов рекомендуется делить текст на небольшие фрагменты с одним утверждением. Указана сертифицированная 4-битная квантизация без измеримой потери качества в описанном тесте с отвлекающими документами. Лицензия обозначена как other; конкретные условия использования в карточке не раскрыты.

Millie 35B-A3B 9GB — компактная версия модели для генерации кода и выполнения агентных задач, опубликованная llmsforall. Это MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен, построенная на архитектуре Qwen3.5-35B-A3B и созданная на основе Agents-A1. По данным карточки, модель принимает изображения и поддерживает контекст до 262 тысяч токенов. Вариант сжат до файла GGUF объёмом около 9 ГБ: веса экспертов представлены в формате ternary mask-and-sign с точностью 1,69 бита на параметр. Для запуска требуется форк llama.cpp от llmsforall с соответствующими ядрами для Metal, Vulkan или CPU; обычный llama.cpp этот формат не загружает. Метаданные указывают задачу text-generation, чат-возможность и лицензию Apache-2.0. Известное ограничение — специальный формат весов привязывает запуск к совместимому форку.

Карточка модели ahmed-amedo/MiMo-V2.6-Flash-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Flash, поэтому описание составлено по ней. MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

makiart/ModernBERT-large-DPR-msmarco — модель Sentence Transformers, дообученная автором makiart на answerdotai/ModernBERT-large с использованием датасета msmarco-co-condenser-margin-mse-sym-mnrl-mean-v1. Двунаправленный энкодер ModernBERT-large содержит около 394,7 млн параметров и преобразует предложения и абзацы в плотные векторы размерностью 1024; для объединения токенов применяется mean pooling, а для сравнения векторов — косинусное сходство. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. Она обучена на англоязычных запросах и документах MS MARCO и поддерживает последовательности длиной до 8192 токенов. Её можно применять для построения эмбеддингов документов и запросов, а также ранжирования кандидатов по сходству. Модель распространяется в формате safetensors по лицензии базовой модели; конкретная лицензия в предоставленных данных не указана. Качество и применимость за пределами англоязычного поиска MS MARCO отдельно не подтверждены.

ModernCE-base-sts — англоязычный кросс-энкодер для оценки семантического сходства двух текстов. Модель разработал dleemiller на основе answerdotai/ModernBERT-base; она дообучена на датасете sentence-transformers/stsb после предварительного обучения на выборке pair-score-sampled из dleemiller/wiki-sim. Архитектура ModernBERT-base содержит 149 млн параметров, работает с библиотекой sentence-transformers и обрабатывает последовательности длиной до 8192 токенов. Модель принимает пару текстов и выдаёт оценку сходства от 0 до 1, поэтому подходит для сравнения предложений и оценки ответов языковых моделей. На тестовой выборке STS-Benchmark автор сообщает корреляции Pearson 0,9162 и Spearman 0,9122. Доступны веса safetensors и формат ONNX; лицензия — MIT. Результаты оценки могут зависеть от предметной области и не гарантируют точности для любых пар текстов.

Это модель Sentence Transformers на архитектуре MPNet, дообученная Mert Cobanov на наборе all-nli-triplets-turkish. Она кодирует предложения и абзацы в плотные векторы размерностью 768, которые можно сравнивать с помощью косинусного сходства. Модель предназначена для оценки семантической близости, семантического поиска, поиска перефразирований, кластеризации и классификации текста. Обучающий набор содержит турецкие примеры AllNLI в формате троек: опорный текст, семантически близкий текст и отрицательный пример. Несмотря на это, карточка указывает английский как язык модели; фактическое качество для турецкого и других языков следует проверять на целевых данных. Максимальная длина последовательности — 512 токенов. Лицензия — Apache-2.0.

Это модель Sentence Transformers на архитектуре MPNet, дообученная mertcobanov на наборе AllNLI Turkish triplets на базе microsoft/mpnet-base. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения текстов по косинусному сходству; длина входа — до 512 токенов. Модель подходит для поиска семантически близких фраз и документов, оценки сходства предложений, поиска перефразировок, кластеризации и подготовки признаков для классификации текста. Обучающие примеры содержали турецкие предложения, однако в README поле языка указано как en, а метаданные карточки также содержат тег en; поэтому поддержка турецкого подтверждается обучающим набором, но заявленный основной язык неоднозначен. Модель содержит 136,7 млн параметров, использует MPNet с усреднением токенных представлений и опубликована в формате safetensors. Лицензия — Apache-2.0. Оценка на турецких AllNLI dev/test по cosine accuracy составила 0,7423 и 0,7503 соответственно; эти результаты относятся к указанным наборам и не гарантируют качество на других данных.

msmarco-bert-co-condensor — модель Sentence-Transformers, созданная как перенос Luyu/co-condenser-marco-retriever в формат Sentence-Transformers. Это плотная BERT-модель с 136,7 млн параметров, которая преобразует предложения и абзацы в векторы размерностью 768 для семантического поиска и извлечения релевантных фрагментов. Она основана на работе «Unsupervised Corpus Aware Language Model Pre-training for Dense Passage Retrieval» и ориентирована на поиск по коллекциям текстов, включая сценарии на основе MS MARCO. Модель принимает текст и выдаёт эмбеддинги; для сравнения запросов и документов обычно используют близость их векторов. Максимальная длина контекста — 512 токенов. Репозиторий включает варианты PyTorch, Safetensors, ONNX и OpenVINO. По приведённым в карточке оценкам, качество зависит от набора данных; автор README также указывает на возможную утечку информации и изменение протокола оценки в некоторых результатах исходной статьи, поэтому сравнивать показатели следует с учётом этих оговорок. Лицензия — Apache-2.0.

msmarco-distilbert-cos-v5 — модель sentence-transformers, обученная командой Sentence Transformers на 500 тысячах пар «запрос — ответ» из набора MS MARCO Passages. Она основана на DistilBERT и предназначена для семантического поиска: преобразует предложения и абзацы в нормализованные плотные векторы размерности 768. Для объединения контекстных представлений токенов используется mean pooling; косинусное сходство и скалярное произведение подходят для сравнения векторов. Модель можно применять для поиска релевантных фрагментов по запросу, ранжирования текстов по смысловой близости и построения систем поиска по коллекциям документов. Контекст ограничен 512 токенами. Доступны веса в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. В предоставленных источниках сведения о лицензии отсутствуют.

Xenova/multilingual-e5-large — это версия модели intfloat/multilingual-e5-large с весами в формате ONNX, подготовленная для работы в библиотеке Transformers.js. Разработчик исходной модели — intfloat; репозиторий Xenova адаптирует её для использования в JavaScript-приложениях, включая веб-среду. Модель предназначена для создания векторных представлений предложений и текстов, а также для задач семантического поиска и retrieval. Она поддерживает пакетную обработку текстов, mean pooling и нормализацию эмбеддингов; размер выходного вектора составляет 768. Для поиска рекомендуется добавлять к запросу префикс «Represent this sentence for searching relevant passages: ». Эмбеддинги можно сравнивать, например, с помощью косинусного сходства. Ключевое преимущество модели — мультиязычное семантическое кодирование, пригодное для сопоставления запросов и документов по смыслу, а также возможность запуска через Transformers.js с ONNX-весами. README не содержит сведений о точном наборе языков, размере контекста, архитектурных деталях, ограничениях качества или лицензии, поэтому эти характеристики нельзя достоверно уточнить.

multilingual-e5-small-gguf — это GGUF-конверсия модели intfloat/multilingual-e5-small, подготовленная TwinSunsLLC для локального поиска и retrieval на устройствах. Модель предназначена для построения эмбеддингов, оценки семантического сходства, поиска похожих текстов и многоязычного сопоставления запросов с фрагментами документов, в том числе в сценариях приватного офлайн-использования. Модель имеет 384-мерные эмбеддинги, 12 слоёв и поддерживает контекст до 512 токенов. Квантование Q8_0 уменьшает размер до 126 МБ по сравнению с 236 МБ в формате f16; заявлено, что результаты косинусного сходства практически совпадают с f16. Модель может запускаться через llama.cpp или llama.swift в режиме embeddings с mean pooling. Поддерживаются многоязычные сценарии; в README приведены примеры для английского, французского и испанского языков. Для корректной работы асимметричного поиска исходные тексты следует предварять префиксом «passage: », а запросы — «query: ». Пропуск или смешивание префиксов ухудшает retrieval. Из-за высокого базового уровня сходства нерелевантных текстов рекомендуется ранжировать результаты по top-k, а не использовать абсолютный порог сходства. Модель распространяется по лицензии MIT; авторство базовой модели принадлежит исходным разработчикам intfloat/multilingual-e5-small.

multi-qa-distilbert-cos-v1 — модель Sentence-Transformers на базе DistilBERT, разработанная в рамках проекта Hugging Face по обучению моделей эмбеддингов предложений. Она кодирует вопросы, предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска и сопоставления запросов с релевантными фрагментами текста. Модель обучена на 215 млн пар «вопрос — ответ» из разных источников с контрастивной функцией потерь и усреднением контекстных представлений. Модель предназначена для поиска ответов и документов по смыслу: запрос и текстовые фрагменты преобразуются в векторы, сходство которых можно оценивать косинусом или скалярным произведением. Поддерживаются английский язык и входы длиной до 512 токенов; обучение проводилось на текстах длиной до 250 токенов, поэтому качество на более длинных фрагментах может снижаться. Доступны варианты в форматах PyTorch, Safetensors, ONNX и OpenVINO. README и метаданные не сообщают лицензию модели.

Nemotron-3-Embed-1B-BF16-MLX — конверсия мультиязычной модели эмбеддингов NVIDIA Nemotron-3-Embed-1B-BF16, созданная независимым сообществом для запуска на Apple Silicon через MLX. Модель использует архитектуру Ministral3 с двунаправленным вниманием и выдаёт усреднённые L2-нормализованные текстовые эмбеддинги. Размер исходной модели — 1,1 млрд параметров; веса сохранены в BF16 без квантизации, формат файлов — safetensors. В метаданных указан контекст до 262 144 токенов, однако в этой реализации README задаёт max_length 4096 и отмечает, что двунаправленное внимание с квадратичной сложностью ограничивает практическую длину последовательности. Модель предназначена для семантического поиска, сопоставления запросов с документами, извлечения релевантных фрагментов и построения RAG-систем. Поддерживает множество языков, включая русский и английский; для запросов и документов требуются префиксы `query: ` и `passage: ` либо соответствующий параметр `input_type`. README сообщает о близком совпадении эмбеддингов с исходной PyTorch-реализацией, но отдельно подчёркивает, что это не измерение качества поиска. На Apple Silicon скорость обработки длинных документов может быть невысокой. Лицензия — OpenMDW-1.1; конверсия не связана с NVIDIA и не одобрена компанией.

OpenHermes 2 Mistral 7B — разговорная языковая модель, созданная Teknium на основе Mistral-7B-v0.1. Она дообучена на наборе примерно из 900 тысяч примеров, преимущественно сгенерированных GPT-4 и собранных из открытых датасетов; данные преобразованы в формат ShareGPT, а затем в ChatML. Модель предназначена для многоходового диалога и следования инструкциям, включая ответы на вопросы, помощь с программированием и создание рецептов. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык; ChatML-шаблон подходит для диалогов с системными инструкциями. Модель распространяется по лицензии Apache-2.0. Заявления карточки о сравнительных результатах приводятся без числовых данных, поэтому их нельзя считать независимой оценкой качества; ответы могут быть неточными, как у других генеративных языковых моделей.