II.8Инженерия данных и аналитика

QWQ-500M — дообученная модель prithivMLmods на базе Qwen2.5-0.5B-Instruct, предназначенная для генерации текста, диалогов и рассуждений при решении сложных задач. Она построена на плотной архитектуре Qwen2 и содержит 494 млн параметров; для работы используется библиотека Transformers, веса доступны в формате Safetensors, лицензия — Apache-2.0. Модель подходит для создания длинных ответов, пошаговых объяснений и структурированных данных, включая JSON и таблицы. В карточке заявлена поддержка более 29 языков; метаданные указывают английский. В README заявлено контекстное окно до 128 тысяч токенов и генерация до 8 тысяч токенов, тогда как метаданные указывают нативный контекст 32 768 токенов.

Ruri-Base — японская модель эмбеддингов предложений от cl-nagoya, созданная дообучением cl-nagoya/ruri-pt-base и реализованная как Sentence Transformer на архитектуре BERT. Она преобразует японские тексты в векторы размерности 768 для сравнения семантической близости по косинусному сходству; максимальная длина входа — 512 токенов. Модель предназначена для поиска и сравнения предложений, оценки семантического сходства, классификации, кластеризации и ранжирования текстовых пар. В JMTEB она показала средний результат 71,91; README рекомендует для новых проектов перейти на модели Ruri v3. Модель содержит 138,4 млн параметров по метаданным. Распространяется по лицензии Apache 2.0.

Seed 2.0 Code — модель ByteDance Seed, оптимизированная для агентного программирования. Она предназначена для разработки интерфейсов, задач программирования на разных языках и рабочих процессов с coding-агентами в инструментах вроде Claude. Доступные сведения не уточняют архитектуру, размер, поддерживаемые естественные языки или длину контекста. Модель ориентирована на применение в задачах разработки ПО; конкретные ограничения и условия лицензии в предоставленных данных не описаны.

hiiamsid/sentence_similarity_hindi — модель Sentence-Transformers на архитектуре BERT, разработанная для работы с предложениями и абзацами на хинди. Она преобразует текст в плотные векторы размерностью 768 и предназначена для сравнения семантической близости, семантического поиска и кластеризации текстов. Модель содержит 498,1 млн параметров и поддерживает контекст до 512 токенов. Её можно использовать через Sentence-Transformers либо через Transformers с подходящей операцией pooling для контекстных представлений токенов. Модель обучена с функцией CosineSimilarityLoss и основана на setu4993/LaBSE. Репозиторий содержит веса PyTorch; сведения о лицензии в доступных данных отсутствуют.

Yunika/sentence-transformer-nepali — модель эмбеддингов предложений на базе BERT, опубликованная под именем Yunika. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель обучалась с функцией MultipleNegativesRankingLoss и косинусной мерой сходства; её контекст ограничен 512 токенами, размер составляет 264,8 млн параметров, веса представлены в формате Safetensors. Модель предназначена для работы с текстом на непальском языке. Её можно использовать через библиотеку Sentence-Transformers или Transformers с подходящей операцией pooling. В метаданных лицензия не указана, поэтому условия использования по имеющимся данным определить нельзя.

Muennighoff/SGPT-2.7B-weightedmean-nli-bitfit — модель семейства GPT-Neo, представленная в формате PyTorch и предназначенная для получения эмбеддингов предложений и оценки их семантического сходства. В карточке указано обучение с функцией MultipleNegativesRankingLoss и косинусным сходством; название модели указывает на взвешенное усреднение токенов и bitfit, однако README не раскрывает эти детали обучения. Модель подходит для поиска семантически близких предложений, сопоставления запросов с текстами и ранжирования кандидатов по сходству. Она содержит 3,1 млрд параметров и поддерживает контекст до 2048 токенов. Язык модели и условия лицензии в предоставленных материалах не приведены.

second-state/StarCoder2-3B-GGUF — это квантованная в формате GGUF версия языковой модели StarCoder2 3B, разработанной командой BigCode и подготовленной к распространению компанией Second State Inc. Модель предназначена для генерации и дополнения программного кода, а также других сценариев работы с текстом, связанных с программированием. В карточке указана интеграция с библиотекой Transformers и назначение text-generation. Модель основана на bigcode/starcoder2-3b и имеет размер 3 миллиарда параметров. Доступны варианты квантования от 2 до 8 бит с размером файлов примерно от 1,15 до 3,22 ГБ. Заявленный размер контекста — 3072 токена. Представлены различные уровни компромисса между размером файла и качеством: Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые, тогда как варианты с более низкой разрядностью могут заметно терять в качестве. Основное преимущество модели — возможность локального запуска при относительно небольшом объёме памяти, особенно в низкоразрядных вариантах. Ограничения включают потерю качества из-за квантования, наиболее выраженную у Q2 и Q3, а также отсутствие в README сведений о поддерживаемых языках программирования и естественных языках, точной архитектуре, мультимодальности и результатах оценки. Указана лицензия bigcode-openrail-m.

Stella-PL — двуязычный польско-английский текстовый энкодер, созданный авторами модели на основе stella_en_1.5B_v5. Его адаптировали для польского языка методом мультиязычной дистилляции на корпусе из 20 миллионов польско-английских пар текстов. Модель имеет архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 131 072 токенов. Энкодер преобразует текст в векторы размерностью 1024 для семантического поиска, сравнения предложений и поиска информации. Он сравнивает тексты на польском или английском языках, а также сопоставляет тексты между этими языками. В README указано значение NDCG@10 60,52 на польском бенчмарке информационного поиска PIRB. Модель распространяется по лицензии MIT. Заявленные сценарии ограничены текстовыми эмбеддингами; README не описывает её как универсальную генеративную модель, несмотря на архитектуру причинного языкового моделирования и соответствующий тег в метаданных.

princeton-nlp/sup-simcse-bert-large-uncased — модель извлечения признаков и получения эмбеддингов предложений, разработанная группой Princeton NLP. Это вариант BERT Large, обученный методом supervised SimCSE на объединённых наборах MNLI и SNLI (около 314 тысяч примеров); модель содержит 433,9 млн параметров и принимает последовательности длиной до 512 токенов. Её можно применять для представления предложений в виде векторов, в том числе для оценки семантического сходства и переноса признаков в последующие NLP-задачи. Модель предназначена для англоязычного текста. В README указаны риски предвзятых ассоциаций и стереотипов в представлениях; результаты следует оценивать с учётом контекста и возможного вреда. Форматы репозитория включают PyTorch и Flax. В карточке не приведены сведения о лицензии, поэтому условия использования следует уточнить у разработчика перед применением.

tevatron3-reranker-30b-a3b-distill — модель для переранжирования текстовых фрагментов, разработанная на базе Qwen3-30B-A3B с помощью набора инструментов Tevatron 3.0. Это причинная языковая MoE-модель, дообученная полным обновлением параметров с дистилляцией listwise-KL на наборе RLHN-680K. Для пары «запрос — фрагмент» она оценивает релевантность по разности логитов ответов «yes» и «no» после заданного промпта. Модель предназначена для ранжирования найденных документов или отрывков по соответствию запросу, например в конвейерах информационного поиска и RAG. Она принимает текст запроса и заголовка/содержимого фрагмента; базовая модель поддерживает несколько языков, но конкретные языки обучения реранкера не перечислены. Контекст составляет 32 768 токенов, а число параметров указано как 2,6 млрд. Доступны веса Safetensors для Transformers. Лицензия — Apache-2.0.

TinyTeapot — компактная модель генерации текста от TeapotAI для ответов на вопросы по предоставленному контексту, извлечения информации и RAG-сценариев. Она построена на архитектуре T5 и, согласно README, дистиллирована из TeapotLLM; метаданные Hugging Face указывают дообучение google/flan-t5-small. В репозитории заявлено около 77 млн параметров, тогда как метаданные указывают 45,8 млн; это расхождение не позволяет однозначно описать размер модели. Модель принимает текст в формате text-to-text и рассчитана на работу с явным контекстом. В README заявлены низкая задержка на CPU и пригодность для мобильных устройств и других ограниченных по ресурсам сред; метаданные указывают контекст до 512 токенов. Обучение на SynthQA и TeapotChat ориентировано на контекстные ответы, структурированное извлечение и отказ от ответа, когда сведений в контексте недостаточно. Основной язык карточки — английский. TinyTeapot подходит для вопросов по документам, RAG, извлечения полей и краткого пересказа контекста, но не предназначена для свободного диалога, творческого письма или сложных многошаговых рассуждений. Качество зависит от полноты и релевантности переданного контекста; несмотря на обучение для снижения галлюцинаций, модель всё ещё может выдавать неподтверждённые ответы. Лицензия — MIT.

princeton-nlp/unsup-simcse-bert-large-uncased — модель извлечения признаков группы Princeton NLP на базе BERT Large Uncased, обученная методом SimCSE без разметки. Она предназначена для получения векторных представлений предложений, которые можно применять для сравнения семантической близости текстов и в качестве признаков для последующих задач NLP. Модель содержит около 433,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. В репозитории доступны веса PyTorch и Flax. Обучение SimCSE улучшает геометрию представлений BERT, сохраняя их пригодность для задач семантического сходства. В README приведены эксперименты с оценкой сходства предложений и переносом на downstream-задачи; сами результаты для этой конкретной модели не указаны. Лицензия в доступных данных не определена. Как и другие языковые модели, она может воспроизводить вредные стереотипы и предубеждения.

constructai/VibeThinker-3B-GGUF — это квантизированная версия языковой модели VibeThinker-3B, разработанной WeiboAI и преобразованной в формат GGUF командой constructai. Модель предназначена для генерации текста и эффективного запуска на CPU и GPU с помощью llama.cpp, Ollama, LM Studio и других совместимых средств. Модель содержит около 3 миллиардов параметров и ориентирована на задачи рассуждения, математики, программирования, instruction-following и оценки уровня GPQA. Доступны варианты с разными уровнями квантизации и размером файлов примерно от 791 МБ до 6,18 ГБ, включая F16, Q8_0, Q6_K, Q5_K, Q4_K и другие форматы. README не указывает поддерживаемые языки, максимальную длину контекста и наличие мультимодальных возможностей, поэтому модель следует считать текстовой, а эти характеристики — неизвестными. К сильным сторонам относятся относительно небольшой размер, широкий выбор квантизаций и возможность локального запуска на доступном оборудовании. Более агрессивная квантизация уменьшает требования к памяти, но может снижать точность по сравнению с F16 или менее сжатыми вариантами. Модель распространяется по лицензии MIT; исходная модель также указана как лицензированная по MIT.

facebook/wav2vec2-large-xlsr-53-polish — модель распознавания польской речи, разработанная Facebook. Она основана на архитектуре Wav2Vec2ForCTC и содержит 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст; в карточке приведена оценка 24,6% на тестовой части Common Voice PL. Модель подходит для транскрибации польской речи, в том числе записей, похожих на тестовые данные Common Voice. Доступны веса PyTorch и Flax. Лицензия — Apache-2.0.

WeMM-Embedding-2B-GGUF — неофициальная GGUF-квантизированная версия модели WeMM-Embedding-2B, разработанной Tencent и подготовленной ewinregirgojr. Это модель эмбеддингов и извлечения признаков, предназначенная для семантического представления кода и текста в виде плотных L2-нормализованных векторов размерностью 2048. Поддерживаются английский, китайский, другие многоязычные сценарии, а также языки программирования, включая Python, TypeScript, JavaScript, C++, Rust, Go, SQL и Shell. Модель использует гибридную архитектуру из 18 слоёв Mamba SSM с линейным вниманием и 6 слоёв полного softmax-внимания и содержит около 2 млрд параметров. Она ориентирована на поиск и извлечение кода, RAG-системы, индексацию векторных баз данных, поиск дубликатов и выявление близких реализаций. GGUF-файлы совместимы с llama.cpp, Ollama и LM Studio; заявлена также интеграция с Unsloth, vLLM и sentence-transformers. В репозитории представлены варианты квантизации от Q4 до Q8, позволяющие выбирать между размером, скоростью и точностью; для некоторых вариантов заявлено сохранение косинусного сходства на уровне примерно 99,59–99,82% относительно FP16-базовой версии. Сильными сторонами являются высокая пропускная способность, компактность квантизированных вариантов и специализация на поиске по коду и техническим данным. Модель не предназначена для авторегрессионной генерации текста, дополнений или чат-ответов. В описании упоминается мультимодальная поддержка базовой модели, включая текст, изображения и видео, однако подробные характеристики этих модальностей для данного GGUF-релиза не приведены; размер контекста также не указан. Лицензия — Apache-2.0.

Whisper large-v3-turbo-gguf — это GGUF-версия модели Whisper large-v3-turbo, разработанной OpenAI и представленной в экосистеме Hugging Face. Модель предназначена для автоматического распознавания речи и перевода речи в текст, включая работу в режиме zero-shot. Она обучалась на более чем 5 млн часов размеченных аудиоданных и поддерживает широкий набор языков, в том числе русский, английский, китайский, немецкий, испанский, французский, японский и многие другие. Модель является дообученной и сокращённой версией Whisper large-v3: число слоёв декодера уменьшено с 32 до 4. Благодаря этому она работает значительно быстрее исходной large-v3, хотя может немного уступать ей по качеству. Поддерживаются автоматическое определение языка, транскрибация с сохранением языка исходной речи, перевод речи на английский, а также временные метки на уровне предложений и слов. README не указывает размер модели, точную архитектуру GGUF-квантизации или максимальную длину контекста. Модель подходит для транскрибации аудиофайлов, пакетной обработки записей и приложений, которым важны скорость и мультиязычность. Ограничениями являются возможное небольшое снижение качества по сравнению с Whisper large-v3 и отсутствие в карточке подробностей о конкретной GGUF-квантизации и требованиях к ресурсам. Лицензия — MIT.

French Medium Whisper — дообученная модель распознавания речи из семейства Whisper, созданная на основе openai/whisper-medium и обученная на наборе данных Common Voice 11.0. Она преобразует французскую речь в текст и подходит для транскрибации аудио и оценки систем распознавания французской речи. В карточке приведены результаты на тестовой выборке: WER 15,8969 без нормализации и 11,1406 с нормализацией. Модель содержит 455,8 млн параметров, использует архитектуру WhisperForConditionalGeneration и распространяется в формате PyTorch. Лицензия — Apache-2.0. Результаты сравнения с Whisper Medium приведены для тестовых наборов разных версий Common Voice, поэтому они не гарантируют превосходство на других аудио и сценариях.

bwang0911/word-order-bge — англоязычная модель Sentence Transformer, дообученная разработчиком на базе BAAI/bge-base-en-v1.5 для получения плотных текстовых эмбеддингов. Она предназначена для сравнения предложений и абзацев, семантического поиска, поиска перефразировок, кластеризации и классификации текста, с особым обучением на примерах, где смысл зависит от порядка слов или отрицания. Модель построена на BERT и выдаёт векторы размерности 768; сходство оценивается косинусной мерой. README указывает максимальную длину последовательности 128 токенов, а метаданные — контекст до 512 токенов. Обучение проводилось на word_orders и negation_dataset; репозиторий содержит веса в формате safetensors и использует библиотеку sentence-transformers. Лицензия в предоставленных данных не указана.

zen4-coder-pro-i1-GGUF — набор квантованных GGUF-версий модели zenlm/zen4-coder-pro. Базовая модель разработана zenlm, а квантование выполнено mradermacher. Модель предназначена прежде всего для генерации и обработки программного кода, включая локальный запуск в совместимых инструментах для GGUF. Доступны варианты квантования i1-IQ и i1-Q с размерами примерно от 16,3 до 65,6 ГБ. README указывает английский язык, библиотеку Transformers и текстовую модальность; сведения об архитектуре, количестве параметров и размере контекста не приведены. Варианты различаются компромиссом между размером, скоростью и качеством: Q4_K_M отмечен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по размеру, скорости и качеству, а некоторые низкобитные варианты характеризуются сниженным качеством. Основное преимущество модели — возможность выбрать подходящий уровень квантования для локального использования и ограниченных аппаратных ресурсов. Ограничения связаны с потерями качества у наиболее агрессивно квантованных вариантов, а также с отсутствием в README подробных результатов оценки и технических характеристик базовой модели. Модель распространяется по лицензии Apache-2.0.

leliuga/all-MiniLM-L6-v2-GGUF — это квантизированные файлы модели all-MiniLM-L6-v2 в формате GGUF. Исходную модель разработала команда Sentence Transformers, а репозиторий с GGUF-файлами подготовлен пользователем Leliuga. Модель предназначена для получения векторных представлений предложений и оценки семантического сходства текста, а также может применяться в задачах поиска, сопоставления и извлечения признаков. Модель основана на архитектуре BERT и относится к семейству Sentence Transformers; её название указывает на использование компактного варианта MiniLM с шестью слоями. Поддерживаемый язык — английский. В README не указаны точный размер модели, доступные уровни квантования, длина контекста и перечень модальностей; по представленным данным модель является текстовой. К сильным сторонам относятся компактность архитектуры и формат GGUF, удобный для локального инференса в совместимых инструментах. Ограничениями являются англоязычная специализация и отсутствие в README подробностей о производительности, точности, контексте и конкретных вариантах квантования. Исходная модель распространяется по лицензии Apache-2.0; для GGUF-репозитория также указана лицензия Apache-2.0.

mrcuddle подготовил объединённую диалоговую языковую модель на базе Llama 3 8B. Веса NousResearch/Hermes-2-Pro-Llama-3-8B и jondurbin/bagel-8b-v1.0 объединены методом SLERP с помощью mergekit; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров. Модель работает через Transformers, сохранена в формате safetensors, поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых ответов. Её можно использовать для общения с ассистентом, ответов на вопросы, написания текстов и кода, а также выполнения разнообразных текстовых инструкций. Метаданные указывают на возможность чата, однако README не приводит оценок качества или результатов тестирования. Сведения о лицензии в предоставленных источниках отсутствуют.

Bee-8B-RL — мультимодальная языковая модель Open-Bee на 8 млрд параметров, созданная на базе Qwen/Qwen3-8B. Она дообучена для диалогов и работы с изображениями и текстом; поддерживает режимы с рассуждением и без него. Модель предназначена для анализа изображений, сложных рассуждений, математических задач, понимания документов и диаграмм, а также генерации ответов в чате. В метаданных указана архитектура BeeForConditionalGeneration и формат safetensors; README описывает обучение на корпусе Honey-Data-15M с примерами, обогащёнными рассуждениями CoT. По заявлению разработчиков, Bee-8B показывает сильные результаты среди полностью открытых мультимодальных моделей, в частности на задачах математики, логики, анализа диаграмм и документов. Эти оценки основаны на бенчмарках и не гарантируют точность в каждом пользовательском сценарии. Модель рассчитана на английский язык согласно языковым метаданным; карточка не сообщает размер контекста. Лицензия — Apache-2.0.

Компактная модель cnmoro для получения эмбеддингов предложений и извлечения признаков из текста на английском и бразильском португальском языках. Она создана дообучением google/bert_uncased_L-2_H-128_A-2 и опубликована с использованием AutoTrain; архитектура — BERT, размер модели составляет 4,4 млн параметров, а размер выходного вектора — 128 измерений. Модель предназначена для вычисления сходства между предложениями и создания текстовых векторов, например для поиска похожих фраз или сравнения смысловой близости. Она принимает текст, поддерживает контекст до 512 токенов и распространяется в формате safetensors для библиотеки Sentence Transformers. В карточке приведена метрика loss 0,057, но подробности методики оценки не сообщаются. Компактный размер может быть удобен при ограниченных вычислительных ресурсах. Модель настроена для английского и бразильского португальского, поэтому качество на других языках не подтверждено. Сведения о лицензии в предоставленных данных отсутствуют.

dragonkue/BGE-m3-ko — модель Sentence Transformer на базе BAAI/bge-m3, дополнительно обученная автором на корейском наборе данных. Она предназначена для получения эмбеддингов предложений и абзацев и их сравнения по косинусному сходству; подходит для семантического поиска, поиска близких текстов, выявления перефразирований, кластеризации и классификации текстов. Модель использует энкодер XLM-RoBERTa с 658,7 млн параметров, формирует плотные векторы размерности 1024 и принимает последовательности длиной до 8194 токенов. Карточка указывает корейский и английский языки; дообучение ориентировано на корейский, а качество для других языков, кроме китайского и английского, автор считает недостаточным без дополнительной адаптации. Репозиторий содержит веса Safetensors и использует библиотеку Sentence Transformers. Качество зависит от предметной области и длины документов: автор приводит разные результаты на корейских поисковых бенчмарках и рекомендует проверять модель на собственных данных. Модель распространяется по лицензии Apache-2.0.

Это англоязычная embedding-модель BGE Small English v1.5, разработанная BAAI и преобразованная в формат GGUF пользователем ChristianAzinn. Модель построена на архитектуре BERT и предназначена для получения векторных представлений текста, вычисления семантического сходства, поиска и извлечения признаков. Она поддерживает библиотеку sentence-transformers и совместима с llama.cpp и LM Studio при указанных версиях. Модель работает с английским языком и поддерживает контекст до 512 токенов. Доступны варианты с квантованием от 2 до 8 бит, а также FP16 и FP32; размеры файлов составляют примерно от 25,3 до 134 МБ. Квантованные варианты позволяют снизить требования к памяти, однако низкобитные версии могут заметно терять в качестве; в README рекомендуются Q4_K_M, Q5_K_S, Q5_K_M и Q8_0 в зависимости от приоритета между размером и сохранением качества. Модель подходит для локального семантического поиска, ранжирования и сравнения англоязычных текстов при ограниченном контексте. Ограничениями являются поддержка только английского языка, предел контекста 512 токенов и возможная потеря качества при сильном квантовании. Лицензия модели — MIT.

CamemBERT-L10 — компактная версия предварительно обученной языковой модели CamemBERT, созданная удалением верхних слоёв исходного чекпойнта. Модель разработана авторами семейства CamemBERT и предназначена для обработки французского текста; в репозитории представлены веса PyTorch и Safetensors, лицензия — MIT. Модель принимает текст и выдаёт контекстные признаки токенов. Её можно использовать для masked language modeling, а основное назначение — дообучение для задач, где решение зависит от всего предложения: классификации текста, извлечения ответа на вопрос и семантического поиска. По README версия L10 удаляет 10 из предварительно обученных слоёв базовой модели; в метаданных указан размер 119 млн параметров, максимальный контекст — 514 токенов. CamemBERT-L10 не является авторегрессионной моделью и не предназначена для генерации текста. Для прикладных задач качества может потребоваться дообучение на соответствующих данных.

Codetulu 2 7B — англоязычная модель-ассистент, разработанная AI2 и дообученная на базе codellama/CodeLlama-7b-hf. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров и контекстом до 8192 токенов. Обучение проводилось на смеси общедоступных, синтетических и созданных людьми данных Tulu V2, включая набор allenai/tulu-v2-sft-mixture. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы на английском языке. Её можно использовать для создания черновиков ответов, объяснений и обобщений, а также для помощи с программным кодом благодаря базовой CodeLlama. Для качественной генерации следует соблюдать формат ввода, описанный в карточке модели. Модель не проходила выравнивание безопасности на этапе RLHF и не использует фильтрацию ответов во время работы, поэтому может генерировать проблемный контент, особенно по соответствующему запросу. Лицензия — AI2 ImpACT Low-risk; перед использованием следует учитывать её условия.

Это квантованная версия Cohere Transcribe, разработанная на основе модели CohereLabs/cohere-transcribe-03-2026. Она предназначена для автоматического распознавания речи и транскрибации аудио на 14 языках. Архитектура включает Conformer-энкодер на 48 слоёв и Transformer-декодер на 8 слоёв; модель содержит около 2 млрд параметров и использует токенизатор SentencePiece с размером словаря 16 384. Квантование NVFP4 W4A16 представляет веса в формате NVIDIA FP4, а активации — в BF16. Модель принимает аудио и выдаёт текстовую транскрипцию. Поддерживаемые языки: арабский, немецкий, греческий, английский, испанский, французский, итальянский, японский, корейский, нидерландский, польский, португальский, вьетнамский и китайский (мандаринский). Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает запуск с vLLM и Transformers; фактическая точность и качество на конкретных аудиоданных в предоставленных сведениях не приводятся.

ColBERT-Zero — много-векторная модель для поиска и ранжирования текстов, разработанная LightOn AI на базе ModernBERT. Она предназначена для семантического поиска по коллекциям документов и уточнения результатов первичного поиска с помощью позднего взаимодействия ColBERT и функции сходства MaxSim. Модель обучена на открытых данных в трёхфазном процессе с дистилляцией и, согласно карточке, достигает 55,43 nDCG@10 на бенчмарке BEIR. Модель содержит 149 млн параметров, выдаёт векторы размерности 128 и поддерживает контекст до 8192 токенов по метаданным. Для документов README приводит длину до 519 токенов, для запросов — до 39. Она рассчитана на английский язык и работает с текстом; для корректного поиска необходимо использовать асимметричные промпты `search_query:` и `search_document:` через соответствующие режимы query и document. Использовать модель можно через PyLate, а Apache-2.0 разрешает коммерческое применение. Результаты экспериментов зависят от обучающих данных и согласования промптов с режимом кодирования: их пропуск или неверное применение может заметно ухудшить качество. Авторы также отмечают, что выводы о преимуществах много-векторного обучения могут зависеть от масштаба обучения и качества сигнала дистилляции.

ColPali v1.2 — модель визуального поиска по документам, разработанная ViDoRe на основе PaliGemma-3B. Она кодирует текстовые запросы и изображения страниц в наборы векторов и сопоставляет их методом позднего взаимодействия ColBERT. Модель предназначена прежде всего для поиска релевантных страниц в PDF и других визуально представленных документах, в том числе когда важны макет, графики и расположение текста. Чекпойнт дообучен на 127 460 парах «запрос — страница»: англоязычных академических данных и синтетических примерах страниц веб-документов. Обучающий набор был полностью на английском; многоязычные данные могли присутствовать в предобучении базовой модели. Репозиторий содержит веса safetensors и версию для Transformers; карточка также описывает использование через Sentence Transformers. Лицензия — Gemma. Модель особенно подходит для поиска по страницам PDF и может обобщаться на другие языки, однако её применимость к редким языкам и нетипичным форматам документов может быть ограничена. Для поиска требуется поддержка многовекторного представления и позднего взаимодействия, что может потребовать адаптации инфраструктуры векторного поиска.