II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельЭто Sentence Transformer от luanafelbarros, дообученный на основе многоязычного энкодера google-bert/bert-base-multilingual-cased. Модель кодирует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их косинусным сходством. В архитектуре используются BERT и усреднение токенных представлений; README указывает максимальную длину последовательности 128 токенов, а метаданные — контекст до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и получения признаков для классификации. Данные обучения содержат пары английских и неанглийских запросов, включая русский и другие языки; это указывает на многоязычное применение, в том числе межъязыковое сопоставление. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.
Карточка модели the-sk/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
BidirLM-0.6B-Embedding — разработанная командой BidirLM многоязычная двунаправленная модель-энкодер для получения текстовых эмбеддингов и последующего дообучения под задачи обработки текста. Это контрастивно дообученная версия промежуточной модели BidirLM-0.6B-Base, основанной на Qwen3-0.6B; архитектура BidirLM использует маскированное предсказание следующего токена и mean pooling. В README указано 596 млн параметров и размерность эмбеддингов 1024, а в метаданных — 507,9 млн параметров. Метаданные указывают контекст до 40 960 токенов; в оценках извлечения длинного контекста версия 0.6B показала лучший результат при 8k токенах, а стандартная оценка MTEB проводилась при длине 512 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, кластеризации, ранжирования и поиска соответствий между текстами. Её также можно дообучать для классификации последовательностей и токенов, включая NER и POS. Карточка заявляет поддержку более 119 языков, но приводит подробности обучения на 87 языках; список языков в метаданных покрывает меньший поднабор. Модель распространяется по лицензии Apache-2.0. Для загрузки требуется trust_remote_code=True и совместимая версия Transformers.
BidirLM-1.7B-Embedding — многоязычная модель для получения текстовых эмбеддингов, разработанная авторами семейства BidirLM. Это плотный двунаправленный энкодер BidirLMModel на 1,7 млрд параметров, дообученный на основе BidirLM/BidirLM-1.7B-Base контрастивным обучением. Модель использует mean pooling, поддерживает контекст до 32 768 токенов и предназначена для семантического поиска и других задач сопоставления текстов. Модель подходит для поиска и извлечения документов, оценки семантического сходства, кластеризации, классификации текстов, парной классификации, переранжирования и поиска параллельных текстов. Также её можно дообучать для классификации последовательностей и токенов, включая NER и POS-разметку. В карточке заявлена поддержка более 119 языков; метаданные подтверждают многоязычность и перечисляют языковые коды, включая английский, арабский, китайский и хинди. В карточке отмечены результаты на бенчмарках MTEB и LongEmbed, а также возможность применять одну модель и для эмбеддингов, и для последующего дообучения под прикладные задачи. Для загрузки требуется trust_remote_code=True и совместимые версии Transformers и Sentence Transformers. Модель распространяется по лицензии Apache-2.0.
Bylaw/convention-collective-sentence-transformer — модель на базе архитектуры CamemBERT, созданная для преобразования предложений и абзацев в плотные векторы размерностью 1024. Она предназначена для поиска семантически близких текстов, кластеризации и других задач, где нужно сравнивать смысл фрагментов текста. Модель поддерживает контекст до 514 токенов и опубликована в формате safetensors; для работы предусмотрена библиотека Sentence Transformers. Модель можно применять для семантического поиска и группировки текстов по смыслу. В метаданных указано 435,4 млн параметров. Данные о специальной предметной области, языках и условиях лицензии в предоставленных источниках отсутствуют.
Карточка модели Openintelligent123/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.
Карточка модели lazyDataScientist/EmbeddingGemma на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.
ERNIE-4.5-VL-424B-A47B-PT — мультимодальная модель семейства ERNIE 4.5 от Baidu для диалогового взаимодействия с текстом и изображениями. Это вариант с весами PyTorch для Transformers; модель построена на архитектуре MoE и содержит 424 млрд параметров, из которых для каждого токена активируется около 47 млрд. Она принимает текст и изображения и генерирует текст, поддерживает контекст до 131 072 токенов и ориентирована на понимание изображений, мультимодальные рассуждения, языковое понимание и генерацию. Вариант прошёл постобучение с использованием SFT и методов оптимизации предпочтений. Модель подходит для ответов на вопросы по изображениям, визуального анализа и диалога с учётом изображения, а также для обычных текстовых диалогов и генерации. В README описаны режимы рассуждения с включённым и выключенным пошаговым анализом. Для запуска через vLLM требуется версия 0.11.2 или новее; приведённая конфигурация использует 16 GPU по 80 ГБ. Лицензия — Apache-2.0.
F2LLM-v2-0.6B — многоязычная модель эмбеддингов из семейства F2LLM-v2, разработанного CodeFuse. Она основана на плотной архитектуре Qwen3 и содержит около 507,9 млн параметров; версия дообучена на базе codefuse-ai/F2LLM-v2-0.6B-Preview. Модель принимает текст и выдаёт векторные представления для семантического поиска, ранжирования и задач сравнения текстов. Модель поддерживает более 200 языков, уделяя особое внимание языкам с ограниченными ресурсами. Контекст составляет 40 960 токенов. Обучение с Matryoshka Representation Learning позволяет сокращать размерность эмбеддингов, а инструкции можно задавать в формате «Instruct: … Query:». В семействе заявлены высокие результаты на ряде бенчмарков MTEB; конкретные показатели этой версии в карточке не приведены. Доступны веса Safetensors и ONNX, библиотека Transformers, лицензия Apache-2.0. Для поиска и переранжирования инструкцию добавляют к запросу, но не к документам; при усечении эмбеддинга его следует нормализовать после усечения.
Fwizzer-R1-3B-EN-v2 — компактная языковая модель, разработанная fwizzer1 на основе Ministral-3-3B-Instruct-2512 от Mistral AI. Модель дообучена методом LoRA на наборе данных fwizzer1/en-deepthink-mega, включающем 17 281 проверенную пару с рассуждениями. Основная специализация — англоязычные задачи рассуждения, математика, логический вывод и генерация кода; в карточке также заявлена поддержка русского языка. Модель имеет 3,29 млрд параметров и предназначена для текстовой генерации. Заявлено контекстное окно до 32 768 токенов, при этом рекомендуемая длина контекста составляет 8192 токена. Она рассчитана на локальный запуск на потребительских GPU, ноутбуках и одноплатных компьютерах; для GGUF-квантизаций указано потребление примерно от 2,5 до 4,2 ГБ VRAM или RAM в зависимости от варианта. Поддерживаются сценарии работы через llama.cpp, LM Studio, Ollama, vLLM и другие совместимые инструменты. Сильными сторонами являются малый размер, ориентация на пошаговое решение задач и заявленные результаты на GSM8K — 84,1%, MATH — 56,3% и HumanEval — Pass@1 65,2%. Ограничения включают компактный масштаб модели по сравнению с крупными LLM и встроенный системный промпт, задающий формат рассуждений в тегах <think> и </think>; его влияние и качество ответов могут зависеть от конкретного клиента и настроек запуска. Модель распространяется по лицензии Apache 2.0.
aleversn/GCSE-BERT-base — англоязычная модель семейства GCSE на архитектуре BERT, дообученная на базе google-bert/bert-base-uncased для оценки сходства предложений. Она предназначена для сравнения смысловой близости текстов; в карточке приведён результат 81,98 по средней метрике STS. Модель содержит 136,7 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и распространяется в формате PyTorch. Лицензия — Apache-2.0.
Gemma 4 26B A4B it GGUF — это квантизированный набор файлов модели google/gemma-4-26B-A4B-it, подготовленный пользователем giladgd в формате GGUF для запуска через node-llama-cpp и llama.cpp. Модель относится к классу conversational и имеет тег image-text-to-text, что указывает на поддержку сценариев диалогового взаимодействия и обработки текста совместно с изображениями. Доступны варианты квантования Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_0, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и BF16 размером от 10,6 до 50,5 ГБ. README не содержит сведений о точной архитектуре, максимальной длине контекста, поддерживаемых языках, результатах оценки или конкретных ограничениях качества. Квантование уменьшает требования к хранению и памяти по сравнению с полноформатной версией, однако более компактные варианты могут уступать ей по качеству. Модель предназначена для локального использования в приложениях и чат-сценариях через node-llama-cpp или llama.cpp; доступны CLI и программный интерфейс на TypeScript. Лицензия указана как Apache-2.0, при этом для Gemma приведена отдельная ссылка на условия лицензии Google.
GLiNER2.5 Multi — мультиязычная модель извлечения информации компании Fastino на архитектуре GLiNER2 boundary. Она построена на энкодере mDeBERTa-v3-base, содержит 287 млн параметров и предназначена для извлечения сущностей, классификации текста, разбора структурированных записей, выделения атрибутов фрагментов и извлечения отношений в рамках заданной схемы. Модель принимает текст и возвращает текстовые фрагменты, метки, записи и связи; заявлена поддержка нескольких языков. Контекстное окно указано как max_len=4096 токенов. Разреженный поиск пар начала и конца позволяет извлекать фрагменты разной длины в пределах одного окна. Модель объединяет несколько задач извлечения в одном вызове и поддерживает ограниченное декодирование для согласованных меток и графов сущностей и отношений. Для длинных документов предусмотрена обработка перекрывающимися фрагментами, но сущность или отношение сохраняются только если их границы или оба конца связи попадают в один фрагмент; обычный вызов extract обрезает текст по max_len. Лицензия Apache-2.0.
saraleivam/GURU2-paraphrase-multilingual-MiniLM-L12-v2 — мультиязычная Sentence Transformer модель на архитектуре BERT, дообученная на базе saraleivam/GURU-paraphrase-multilingual-MiniLM-L12-v2. Она преобразует предложения и абзацы в плотные векторы размерности 384 для оценки семантического сходства, поиска по смыслу, выявления перефразировок, классификации текстов и кластеризации. В README указана максимальная длина последовательности 128 токенов; метаданные каталога указывают контекст до 512 токенов. Для сравнения векторов предусмотрена косинусная близость. Модель поддерживает несколько языков; примеры обучающих данных включают испанский, корейский и английский. Она рассчитана на получение текстовых эмбеддингов и может применяться в семантическом поиске, ранжировании похожих фраз и группировке текстов. Размер модели — 124,3 млн параметров, библиотека — sentence-transformers. Лицензия в предоставленных данных не указана.
Huihui-MiniCPM5-1B-abliterated-GGUF — это GGUF-квантизированная версия модели Huihui-MiniCPM5-1B-abliterated, разработанной huihui-ai и подготовленной квантизатором mradermacher. Модель относится к семейству MiniCPM5 и предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, в том числе на устройствах с ограниченными ресурсами и периферийных устройствах. В метаданных заявлена поддержка английского и китайского языков. Модель имеет размер 1 млрд параметров. Точная архитектура и максимальная длина контекста в README не указаны; среди тегов присутствуют llama, long-context и tool-calling. Доступны варианты GGUF с разными схемами квантизации и размером примерно от 0,6 до 2,3 ГБ: от Q2_K до Q8_0 и f16. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант с лучшим качеством среди указанных. К сильным сторонам относятся небольшой размер, возможность локального запуска и широкий выбор вариантов квантизации, позволяющий выбирать баланс между качеством, скоростью и потреблением памяти. Ограничения включают возможное снижение качества у низкобитных вариантов и отсутствие в README подробных результатов оценки, описания точного контекстного окна и архитектурных характеристик. Модель распространяется по лицензии Apache-2.0.
jina-embeddings-v3 — мультиязычная многозадачная модель текстовых эмбеддингов, разработанная Jina AI на основе архитектуры Jina-XLM-RoBERTa. Она преобразует текст в векторы для поиска, сопоставления и анализа сходства. Модель содержит пять LoRA-адаптеров для разных типов задач и поддерживает входные последовательности длиной до 8192 токенов благодаря Rotary Position Embeddings. Размер эмбеддинга можно выбирать из вариантов от 32 до 1024 измерений. Модель предназначена для векторизации запросов и документов в поисковых системах, кластеризации, классификации и оценки сходства текстов. Для асимметричного поиска предусмотрены отдельные режимы для запросов и документов; другие режимы ориентированы на разделение текстов, классификацию и сопоставление. Настройка модели охватывает 30 языков, включая русский, а базовая модель поддерживает 100 языков. Для получения векторов на уровне предложения или абзаца при прямой интеграции требуется усреднение представлений токенов. Модель доступна в форматах PyTorch, Safetensors и ONNX; для использования через Transformers указана библиотека Transformers. Лицензия CC-BY-NC-4.0 ограничивает коммерческое применение. В README также отмечено, что исправлена ошибка предыдущей версии кода, при которой усечение Matryoshka-векторов после нормализации давало ненормализованные векторы.
Kimi-VL-A3B-Thinking — мультимодальная модель Moonshot AI для анализа изображений и текста с расширенными возможностями рассуждения. Это вариант Kimi-VL-A3B-Instruct, дообученный с помощью supervised fine-tuning на длинных цепочках рассуждений и обучения с подкреплением. Архитектура сочетает MoE-языковую модель, визуальный энкодер MoonViT с обработкой изображений в исходном разрешении и MLP-проектор. Всего в модели около 16 млрд параметров, из них при работе активируется примерно 3 млрд. Модель предназначена для визуальных вопросов и ответов, понимания диаграмм и документов, OCR, математических задач по изображениям и мультимодального рассуждения. Она поддерживает контекст до 128 тыс. токенов и рассчитана на диалоговый сценарий. README рекомендует для задач с длительным рассуждением повышать температуру генерации; также отмечено, что существует более новая версия Kimi-VL-A3B-Thinking-2506. Лицензия — MIT.
duyntnet/Llama-3.2-1B-Instruct-imatrix-GGUF — набор imatrix-квантизаций модели Llama 3.2 1B Instruct в формате GGUF, разработанный на основе модели Meta Llama 3.2 1B Instruct. Автор исходной модели — Meta; сведения об отдельном разработчике квантизаций в README не указаны. Модель предназначена для генерации текста и диалоговых сценариев, включая многоязычное общение, агентский поиск с извлечением данных и суммаризацию. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer, дообученная с помощью supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Размер — 1 млрд параметров, модальности — текст на входе и выходе. В README указан язык en, при этом исходная коллекция описывается как мультиязычная; точный перечень поддерживаемых языков и размер контекстного окна не приведены. К ключевым преимуществам относятся компактный размер, возможность локального запуска и поддержка экосистемы llama.cpp, KoboldCPP, text-generation-webui и Ollama. Ограничения связаны с меньшей ёмкостью по сравнению с более крупными моделями, возможными потерями качества из-за квантизации и отсутствием подробных данных о конкретных вариантах квантования и их производительности. Лицензия обозначена как other; её точные условия в README не раскрыты.
Карточка модели keithtwesigye/lunyoro-sentence-embeddings на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.
Это языковая модель семейства Llama, созданная автором репозитория методом TIES с помощью mergekit. В объединение вошли Meta Llama 3.2 1B и несколько её вариантов, настроенных для диалогов, медицинских вопросов, SQL, математики и кода. Модель содержит 1,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors через Transformers; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и может служить компактной основой для диалогов и ответов на вопросы, а также запросов по медицинским темам, SQL, математике и коду. README не приводит результатов оценки, подробностей о качестве или явного перечня поддерживаемых языков. Базовая модель Llama 3.2 1B распространяется по лицензии Llama 3.2 Community License; условия использования итогового объединения отдельно не описаны в предоставленных данных.
Phi-4-mini-reasoning-GGUF — это GGUF-квантизированная версия языковой модели Phi-4-mini-reasoning, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения математических задач и работы с кодом; поддерживает сценарии локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты от BF16 размером 7,68 ГБ до низкобитных квантов размером около 1,90 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, IQ и другие; варианты с более высокой разрядностью обычно обеспечивают лучшее качество, а низкоразрядные требуют меньше оперативной памяти. Указан английский язык. Архитектура исходной модели, число параметров, поддерживаемые модальности и размер контекста в README не описаны. Сильными сторонами являются локальный запуск, широкий выбор компромиссов между качеством и требованиями к памяти, а также специализация исходной модели на математическом рассуждении. Ограничения включают возможное снижение качества при использовании низкоразрядных квантов и отсутствие в README подробных результатов оценки. Модель распространяется по лицензии MIT.
MiniCPM5-1B-SFT-i1-GGUF — набор GGUF-квантизированных версий модели MiniCPM5-1B-SFT, разработанной командой OpenBMB и опубликованной как openbmb/MiniCPM5-1B-SFT. Квантизацию выполнил mradermacher. Модель предназначена для генерации текста, задач с длинным контекстом, вызова инструментов и локального применения на устройствах с ограниченными ресурсами, включая edge-сценарии. Базовая модель имеет размер 1 млрд параметров; в карточке указаны поддерживаемые языки English и Chinese, а также библиотека Transformers. Доступны варианты с разными уровнями квантизации GGUF — от очень компактных IQ1 и Q2 до Q6_K, примерно от 0,5 до 1,0 ГБ. Варианты различаются по размеру, скорости и качеству; для баланса этих характеристик рекомендованы i1-Q4_K_S и i1-Q4_K_M, тогда как наиболее низкие уровни квантизации могут заметно снижать качество. Точная длина контекста и сведения о дополнительных модальностях в README не указаны. Модель удобна для быстрого локального запуска и использования на маломощном оборудовании, однако качество зависит от выбранной квантизации, а низкоразмерные варианты могут быть менее точными. Для использования требуются совместимые инструменты для работы с файлами GGUF. Модель распространяется по лицензии Apache-2.0.
MiniCPM5-2B-mlx-4Bit — 4-битная модель для генерации текста, созданная конвертацией базовой модели openbmb/MiniCPM5-2B в формат MLX с использованием mlx-lm 0.31.2. Модель предназначена для запуска через библиотеку mlx-lm, включая локальное и периферийное использование на совместимых устройствах Apple и сценарии edge AI. В карточке заявлена поддержка английского и китайского языков, а также сценариев длинного контекста и вызова инструментов. Модель относится к семейству MiniCPM и имеет размер 2B параметров; точные архитектурные характеристики и максимальная длина контекста в README не указаны. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска, но может ограничивать качество по сравнению с полноразмерной версией, а возможности зависят от реализации MLX и совместимого оборудования. Модель распространяется по лицензии Apache-2.0.
casperhansen/mixtral-instruct-awq — рабочая версия модели Mixtral Instruct с квантизацией AWQ, опубликованная Casper Hansen. Репозиторий предназначен для использования Mixtral Instruct в квантизированном формате; README не уточняет конкретные прикладные сценарии, поддерживаемые языки, размер контекста или модальности. Ключевая характеристика модели — применение AWQ-квантизации. README не содержит сведений о точной архитектуре, количестве параметров и экспертов, формате запуска, производительности или ограничениях качества после квантизации. Модель распространяется по лицензии Apache-2.0. Указано, что на 11 февраля 2024 года альтернативный репозиторий TheBloke/Mixtral-8x7B-Instruct-v0.1-AWQ не работал, поэтому рекомендуется использовать этот репозиторий.
Это GGUF-квантизация модели gemma-3-4b-it-abliterated, разработанной mlabonne и подготовленной пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp, включая диалоговые сценарии и задачи преобразования текста и изображений в текст. Модель содержит около 4 миллиардов параметров и поддерживает мультимодальный режим с обработкой изображений. Для работы с изображениями требуется отдельный файл mmproj в формате F32 или F16. В README не указаны точные языки и размер контекстного окна. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и Q4-квантизаций; рекомендуются Q6_K_L, Q6_K, Q5 и Q4_K_M в зависимости от требований к качеству и объёму памяти. Меньшие варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее уступать по качеству. Формат GGUF упрощает локальный запуск и позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Ограничения модели, включая возможное снижение качества на низких уровнях квантизации и необходимость отдельного vision-проектора для изображений, следует учитывать при развёртывании. Лицензия указана как gemma; дополнительные условия использования в README не раскрыты.
mLateOn — многоязычная модель поиска LightOn на архитектуре ColBERT с поздним взаимодействием и многовекторными представлениями. Она построена на mmBERT-base, содержит около 307 млн параметров и обучена с помощью PyLate; для запросов и документов поддерживает контекст до 8 192 токенов, формирует векторы размерности 128 и оценивает совпадение методом MaxSim. Модель предназначена для семантического поиска по многоязычным коллекциям, длинным документам и коду. Обучение проводилось на английском, французском, немецком, итальянском, испанском, португальском, шведском, норвежском и арабском языках. По данным карточки, модель также переносит качество на языки и письменности, не включённые в обучение поиска, например кириллицу и японский. Модель может быть полезна для поиска по документам и кода, когда инфраструктура поддерживает многовекторное хранение и позднее взаимодействие. В карточке приведены высокие результаты на бенчмарках BEIR, MIRACL, MLDR и MTEB Code. Для использования доступны веса Safetensors и ONNX. Лицензия — Apache 2.0.
Карточка модели onelevelstudio/ML-E5-0.3B на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.
Карточка модели onelevelstudio/ML-E5-0.6B на Hugging Face совпадает с карточкой intfloat/multilingual-e5-large, поэтому описание составлено по ней. Multilingual-E5-large — многоязычная модель эмбеддингов текста, опубликованная intfloat; её технический отчёт подготовили Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei. Модель основана на XLM-RoBERTa-large и имеет 24 слоя с размерностью эмбеддинга 1024. Она принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Модель предназначена для межъязыкового и многоязычного поиска, ранжирования passage по запросу, оценки семантического сходства, поиска перефразировок и использования эмбеддингов в кластеризации или классификации. При обучении текстовые роли задаются префиксами `query:` и `passage:`; их следует выбирать в соответствии со сценарием, иначе качество может снизиться. Поддерживаются 100 языков XLM-RoBERTa, включая русский, однако для языков с небольшим объёмом ресурсов качество может быть ниже. Вход ограничен 512 токенами, а более длинный текст обрезается. Лицензия — MIT.
Карточка модели taghyan/model на Hugging Face совпадает с карточкой KingName1/sentence_transformer, поэтому описание составлено по ней. KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.
onelevelstudio/MPNET-0.3B — многоязычная модель эмбеддингов предложений, основанная на архитектуре XLM-RoBERTa и библиотеке Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В README указана модель sentence-transformers/paraphrase-multilingual-mpnet-base-v2 как описание и источник сведений о назначении; разработчиком базовой модели названа команда Sentence-Transformers. Модель содержит 305,2 млн параметров и принимает текстовые фрагменты с контекстом до 514 токенов. Доступны веса и реализации в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Поддерживаются многие языки, в том числе русский и английский. Лицензия — Apache-2.0. Подходит для семантического поиска, оценки сходства текстов и кластеризации предложений и абзацев. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы или разметку; качество зависит от языка и предметной области, а предел контекста ограничивает длину обрабатываемого фрагмента.