I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельInex16Calme-7B — слитая Maxime Labonne модель для генерации текста на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она создана автоматическим слиянием MSL7/INEX16-7b и MaziyarPanahi/Calme-7B-Instruct-v0.1.1 методом SLERP; в конфигурации указана точность bfloat16. Модель подходит для генерации продолжений текста и диалоговых ответов в сценариях, где полезен длинный контекст. Для использования предлагается загрузка через Transformers. Модель распространяется по лицензии Apache-2.0.
INEX8-7B — объединённая модель для генерации текста, созданная Liminerity с помощью Mergekit на основе liminerity/merge3 и yam-peleg/Experiment26-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; опубликована в формате Safetensors. Модель подходит для генерации продолжений и ответов на текстовые запросы, а также для задач рассуждения и понимания текста. В карточке приведены результаты Open LLM Leaderboard: средняя оценка 76,44, ARC 73,29 и HellaSwag 89,19. Данных о поддерживаемых языках и специализированных областях применения карточка не приводит. Лицензия — Apache-2.0.
jina-embeddings-v5-omni-nano-text-matching — мультимодальная модель эмбеддингов от Jina AI, настроенная на сопоставление текста. Она принимает текст, изображения, видео и аудио и преобразует их в общий векторный простор, согласованный с текстовой моделью jinaai/jina-embeddings-v5-text-nano-text-matching. Модель содержит около 0,95 млрд параметров и выдаёт эмбеддинги размерностью 768; поддерживаемая задача — text-matching. Модель предназначена для поиска и сопоставления, когда документы индексируются текстом, а запрос может поступать в виде изображения, видео или аудио. Видео представлено кадрами: звуковая дорожка автоматически не учитывается, её нужно передавать отдельно. Для текстовых документов требуется префикс «Document: ». Доступны веса в формате safetensors, библиотека Transformers и интеграция с Sentence Transformers и vLLM. Это дообученный вариант jinaai/jina-embeddings-v5-omni-nano с настройкой на сопоставление текста. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; перед применением следует проверить её условия.
jina-embeddings-v5-text-nano-retrieval — компактная текстовая embedding-модель компании Jina AI, предназначенная для задач информационного поиска. Она преобразует запросы и документы в векторные представления для семантического поиска, сопоставления релевантности и построения retrieval-систем. Модель поддерживает мультиязычные тексты и входит в семейство jina-embeddings-v5-text, созданное с применением дистилляции и task-specific contrastive losses. Модель содержит 239 млн параметров, поддерживает последовательности длиной до 8192 токенов и формирует embeddings размерностью 768. Используется last-token pooling; предусмотрены Matryoshka-размерности 32, 64, 128, 256, 512 и 768, что позволяет выбирать компромисс между качеством, размером индекса и скоростью обработки. Модель ориентирована именно на retrieval, поэтому её применение для других задач в README не заявлено. К сильным сторонам относятся компактность, заявленная высокая производительность среди моделей сопоставимого размера, мультиязычность и возможность гибко уменьшать размер embeddings. Для использования требуются совместимые версии transformers, PyTorch и других библиотек; поддерживаются sentence-transformers, vLLM, Elastic Inference Service и специальная ветка llama.cpp. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование.
KURE-v2 — двуязычная корейско-английская модель поиска документов, разработанная nlpai-lab на основе skt/A.X-Encoder-base. Она предназначена для извлечения релевантных документов по запросу и повторного ранжирования кандидатов в поисковых системах и RAG-сценариях. Модель использует архитектуру ModernBERT и позднее взаимодействие: представляет каждый токен 128-мерным вектором, а релевантность пары «запрос — документ» оценивает через MaxSim. Размер по метаданным — 148,7 млн параметров; контекст — до 16 384 токенов. В карточке сообщается, что модель обучалась в два этапа и показала средний nDCG@10 0,8160 на девяти корейских задачах MTEB Retrieval. Для запросов и документов не нужны инструкции-префиксы. Модель подходит для корейского и английского поиска, включая длинные документы. Позднее взаимодействие хранит несколько векторов на документ, поэтому размер индекса и стоимость поиска зависят от выбранного способа индексации и сжатия; для больших коллекций README рекомендует индекс, формирующий кандидатов, например PLAID или BinaryIVF. Лицензия — Apache-2.0.
bartowski/L3.1-MS-Astoria-70b-v2-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели Steelskull/L3.1-MS-Astoria-70b-v2. Квантизация выполнена bartowski с помощью llama.cpp b3930 и метода imatrix. Модель предназначена для локального запуска задач генерации текста, диалогов и других сценариев текстового вывода; рекомендуется использовать её через LM Studio или совместимые инструменты на базе llama.cpp. Доступны варианты квантизации от IQ1_M до Q8_0 размером примерно от 16,75 до 74,98 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, но требуют больше оперативной памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, тогда как самые низкие уровни имеют заметно более низкое качество. Для некоторых вариантов применена квантизация весов эмбеддингов и выходного слоя в Q8_0. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или лицензии исходной модели. Формат приглашений использует специальные токены Llama 3.1 и задаёт даты отсечения знаний и текущую дату, однако это не заменяет официальное описание возможностей модели.
sahilchachra/LFM2.5-ColBERT-350M-mxfp4 — версия модели LiquidAI LFM2.5-ColBERT-350M, квантованная автором репозитория в формат MLX mxfp4 с группами по 32 значения и 4-битными весами для запуска на компьютерах Apple Silicon. Это двунаправленный энкодер с поздним взаимодействием ColBERT: он формирует 128-мерные векторы для каждого токена через проекцию Dense(1024→128), а релевантность пары запроса и документа вычисляется методом MaxSim. Для запросов и документов нужны маркеры `[Q] ` и `[D] ` соответственно. Модель предназначена для многоязычного поиска документов и ранжирования результатов. В карточке приведены результаты на подмножестве англоязычного NanoBEIR: среднее сохранение NDCG@10 после квантования составляет 98,7% относительно fp16; это сравнение не охватывает весь многоязычный набор задач. Репозиторий указывает скорость кодирования 12 740 токенов в секунду на системе с процессором серии M. Метаданные указывают 443,4 млн параметров и контекст до 128 000 токенов; README сообщает о 4-битной квантовке и весах размером 188 МБ. Лицензия в метаданных обозначена как other, поэтому условия следует сверить с карточкой базовой модели и файлами лицензии репозитория. Модель требует специализированного загрузчика для двунаправленного энкодера; обычные загрузчики причинных LFM2 могут формировать неверные векторы.
NousResearch/Llama-2-70b-hf — это предварительно обученная авторегрессионная языковая модель Meta из семейства Llama 2, представленная в формате Hugging Face Transformers. Она использует плотную архитектуру Transformer с 68,7 млрд параметров и Grouped-Query Attention; принимает текст, генерирует текст и поддерживает контекст до 4096 токенов. Модель предназначена для англоязычной генерации текста и может служить основой для адаптации под различные задачи обработки естественного языка, например продолжения текста, составления черновиков и генерации ответов. Это базовая предварительно обученная версия, а не вариант Llama-2-Chat, поэтому её не следует считать оптимизированной для диалога без дополнительной настройки. Модель разработала Meta. По карточке, предобучение выполнено на 2 трлн токенов общедоступных источников; данные предобучения имеют срез до сентября 2022 года. Модель может выдавать неточные, предвзятые или нежелательные ответы, а испытания проводились на английском языке и не покрывают все сценарии. Использование регулируется специальной лицензией Meta для Llama 2: перед получением весов необходимо принять её условия.
Это GGUF-квантизированная версия инструкционной языковой модели Llama 3.1 8B Instruct Uz, базовая модель которой разработана behbudiy, а квантизацию выполнил mradermacher. Модель обучалась с использованием наборов yahma/alpaca-cleaned, behbudiy/alpaca-cleaned-uz и behbudiy/translation-instruction и ориентирована прежде всего на узбекский и английский языки. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммирования и перевода. Она поддерживает распространённый формат GGUF и поставляется в нескольких вариантах квантизации размером примерно от 3,3 до 16,2 ГБ, включая Q2_K, IQ3, Q4_K, Q5_K, Q6_K, Q8_0 и f16. В README не указаны точный размер контекста, мультимодальные возможности, результаты тестирования или конкретные аппаратные требования. Основное преимущество — возможность локального запуска при выборе компактных вариантов квантизации; версии Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как вариант с лучшим качеством среди представленных. Более сильная квантизация уменьшает требования к памяти, но может снижать качество по сравнению с f16. Модель распространяется по лицензии llama3.1.
Llama-3.2-1B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta Llama 3.2 1B Instruct, подготовленная bartowski. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального или ресурсно-ограниченного вывода, включая диалоговые приложения и другие задачи обработки естественного языка. Из доступных данных известно, что это текстовая модель с архитектурой семейства Llama 3.2 и размером 1 млрд параметров в базовой версии; формат GGUF ориентирован на эффективный запуск средствами, поддерживающими этот формат. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Мультимодальность и размер контекстного окна в README не указаны. Небольшой размер является преимуществом для локального использования, однако по сравнению с более крупными моделями может ограничивать качество сложного рассуждения, точность и устойчивость ответов. Модель распространяется по Llama 3.2 Community License компании Meta. Лицензия разрешает использование, воспроизведение, распространение и создание производных работ на указанных условиях, включая соблюдение Acceptable Use Policy. При распространении материалов необходимо предоставить копию лицензии, сохранить требуемое уведомление об авторстве и разместить обозначение «Built with Llama» в связанном интерфейсе или документации; для продуктов с более чем 700 млн активных пользователей в месяц предусмотрены дополнительные лицензионные требования.
MaziyarPanahi/Llama-3-8B-Instruct-v0.1 — дообученная чат-модель на архитектуре Llama 3, разработанная Maziyar Panahi на основе MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2. Она предназначена для генерации текста в диалоге и запускается через библиотеку Transformers; для общения используется шаблон ChatML. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текстовые сообщения и генерирует текстовые ответы. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors; README также ссылается на отдельную GGUF-версию. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии на странице модели.
QuantFactory/Llama-3-8B-Magpie-Air-MT-SFT-v0.1-GGUF — квантизированная версия модели Llama-3-8B-Magpie-Air-MT-SFT-v0.1, созданная с помощью llama.cpp. Базовая модель Meta-Llama-3-8B была дообучена методом supervised fine-tuning на датасете Magpie-Air-MT-300K-v0.1, подготовленном проектом Magpie-Align. Разработчики Magpie — Zhangchen Xu, Fengqing Jiang, Luyao Niu, Yuntian Deng, Radha Poovendran, Yejin Choi и Bill Yuchen Lin. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение пользовательских инструкций и ответы в формате ассистента. Это текстовая autoregressive language model с архитектурой Llama 3 и размером 8B параметров; поддерживаемые модальности ограничены текстом. В README длина контекста явно не указана, однако для наилучшей работы рекомендуется использовать официальный chat template Llama 3. По заявленным результатам модель показывает производительность, сопоставимую с Llama-3-8B-Instruct при использовании только SFT: 22,98 LC и 24,02 WR на Alpaca Eval 2, а также 15,5 на Arena Hard. К ограничениям относятся отсутствие подробных сведений о конкретном формате квантизации, контекстном окне и языковом покрытии, а также возможные ограничения качества, безопасности и следования инструкциям, характерные для моделей такого класса. Использование регулируется Meta Llama 3 Community License.
Llama3-ChatQA-1.5-8B-IMat-GGUF — это GGUF-квантизированная версия текстовой модели Llama3-ChatQA-1.5-8B, разработанной NVIDIA. Квантизацию выполнил legraphista с использованием llama.cpp b3003 и методов IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и работу в локальных приложениях, совместимых с llama.cpp. Модель имеет около 8 млрд параметров, поддерживает английский язык и работает с текстовой модальностью. Доступны варианты от FP16 и Q8_0 до низкобитных форматов Q2, Q3, Q4, IQ2, IQ3 и IQ4; для части вариантов применена IMatrix-квантизация. Размер файлов варьируется примерно от 2,61 до 16,07 ГБ, что позволяет выбирать между качеством, скоростью и требованиями к памяти. Размер контекстного окна в README не указан. Основное преимущество модели — широкий выбор GGUF-вариантов для запуска на оборудовании с разным объёмом памяти и возможность эффективного локального использования через llama.cpp. Ограничения связаны с компромиссами квантизации: низкобитные варианты могут уступать FP16 по качеству, а точные требования к производительности и совместимости зависят от выбранного формата и оборудования. Модель распространяется по лицензии llama3.
Llama-3-Instruct-8B-SimPO-GGUF — набор GGUF-квантизаций модели Llama-3-Instruct-8B-SimPO, разработанной Princeton NLP и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и совместимые инструменты локального запуска. Модель содержит около 8 млрд параметров и доступна в вариантах квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL, IQ4_XS и других, с размером файлов примерно от 2,16 до 8,54 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие позволяют снизить требования к оперативной памяти ценой заметной потери качества. Для общения в README приведён шаблон с ролями system, user и assistant, однако автор предупреждает, что он может не соответствовать исходной модели. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и требованиями к памяти; варианты Q6_K и Q5_K_M рекомендованы как близкие к исходному качеству, а IQ-квантизации могут обеспечивать сопоставимое качество при меньшем размере. Ограничения включают возможное ухудшение результатов на низких уровнях квантизации и отсутствие в README сведений о поддерживаемых языках, размере контекста и лицензии.
Llama-3-Patronus-Lynx-70B-Instruct-GGUF — это набор квантизированных GGUF-версий инструкционной языковой модели Llama-3-Patronus-Lynx-70B-Instruct, разработанной Patronus AI и преобразованной в GGUF пользователем mradermacher. Модель предназначена для генерации текста и задач оценки качества ответов, включая обнаружение галлюцинаций. Указан английский язык, однако другие языки README не описывает. Модель имеет размер 70B параметров и поставляется в нескольких вариантах квантования от Q2_K до Q8_0, включая IQ-кванты. Размер файлов составляет примерно от 26,5 до 75,1 ГБ; варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди перечисленных. Более сильное сжатие уменьшает требования к памяти, но может снижать качество. Архитектура, размер контекстного окна, поддерживаемые модальности и дополнительные языки в README не указаны. Файлы предназначены для локального запуска в совместимом программном обеспечении, поддерживающем формат GGUF; некоторые варианты разделены на две части и требуют объединения. Модель распространяется по лицензии CC BY-NC 4.0, то есть использование ограничено некоммерческими условиями лицензии.
unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF — GGUF-версия инструкционно дообученной модели Meta Llama 4 Scout 17B 16E-Instruct, подготовленная Unsloth. Модель предназначена для диалоговых приложений и выполнения инструкций, однако конкретные сценарии использования и результаты тестирования в предоставленных данных не описаны. В README указана поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Из идентификатора следует конфигурация 17B 16E, но архитектура, размер контекста, точные параметры квантования, поддерживаемые модальности и требования к ресурсам не указаны. Поэтому сильные стороны можно уверенно связать только с инструкционной настройкой и многоязычностью; ограничения производительности и качества требуют самостоятельной оценки. Использование регулируется Llama 4 Community License Agreement от Meta. Лицензия предоставляет ограниченные безвозмездные права на использование, воспроизведение, распространение и модификацию при соблюдении условий, включая передачу текста лицензии, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено отдельное лицензирование Meta.
KKHYA/llavaqwen2.5-32b-finetune-dense-2m-half — плотная 32-миллиардная причинная языковая модель семейства LlavaQwen2, доступная в формате safetensors и рассчитанная на диалоговую генерацию текста. В метаданных заявлено контекстное окно до 131072 токенов и интерфейс для вызова инструментов. README сообщает, что модель обучена с нуля на неизвестном наборе данных, но не приводит сведений о разработчике, обучающих данных или оценке качества. Модель можно применять для диалогов и генерации текста, в том числе в сценариях с длинным контекстом и подключением инструментов. Несмотря на семейство архитектуры LlavaQwen2, доступные метаданные не подтверждают поддержку изображений, поэтому мультимодальные возможности не заявляются. Лицензия в предоставленных данных не указана.
google/long-t5-tglobal-base — базовая модель Google Research семейства LongT5, предварительно обученная на английском языке. Это плотный encoder-decoder Transformer с архитектурой LongT5ForConditionalGeneration и механизмом transient-global attention, расширяющим T5 для эффективной работы с длинными последовательностями. Модель содержит 123,8 млн параметров; доступны версии PyTorch и Flax, лицензия Apache-2.0. Модель обучена в генеративном текстовом формате с восстановлением текста и предназначена прежде всего для дообучения на размеченных данных. После дообучения она подходит для суммаризации и ответов на вопросы по длинным документам; карточка описывает обработку входов длиной до 16 384 токенов. В предоставленных метаданных указан контекст 4096 токенов, поэтому фактический предел зависит от конфигурации и реализации. Сильная сторона LongT5 — эффективная обработка длинных текстов с помощью разреженных схем внимания. Это базовый чекпойнт, а не готовая специализированная модель, поэтому качество на конкретной задаче требует дообучения. Использование разрешено по лицензии Apache-2.0.
Lumimaid-Magnum-12B-GGUF — набор квантизированных моделей в формате GGUF, созданный bartowski на основе Undi95/Lumimaid-Magnum-12B. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Указанный шаблон запросов: <s> [INST] {prompt}[/INST]. В набор входят варианты с точностью от F16 до Q2_K, размером примерно от 5,3 до 24,5 ГБ. Квантизация выполнена с использованием llama.cpp версии b3825 и метода imatrix; доступны варианты, оптимизированные для ARM-процессоров. Основные достоинства — широкий выбор компромиссов между размером, качеством и требованиями к памяти, при этом варианты Q5 и Q6 отмечены как высококачественные и рекомендуемые. Более сильная квантизация снижает качество, а конкретные языки, размер контекста, архитектура исходной модели и мультимодальные возможности в README не указаны. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять в карточке исходной модели Undi95/Lumimaid-Magnum-12B и для конкретного файла.
LYRA-DEEP — компактная разговорная языковая модель, разработанная и поддерживаемая Muhammad Taqi. В метаданных Hugging Face указаны архитектура Qwen2, плотная causal language model Qwen2ForCausalLM и 1,5 млрд параметров; карточка модели описывает её как быстрый движок для диалога и рассуждений. Модель принимает текст и генерирует текст, поддерживает интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель подходит для чат-ответов и генерации текста, когда важны небольшой размер и высокая скорость. README также называет LYRAMOON архитектурной основой, но метаданные не подтверждают связь с отдельной базовой моделью. Доступна по лицензии Apache-2.0. Заявления о скорости и качестве рассуждений приведены в карточке разработчика и не сопровождаются результатами оценки.
M7Yamshadowexperiment28_Inex16Calme — слитая модель для генерации текста, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Inex16Calme-7B. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов. Репозиторий содержит веса в формате safetensors. Модель опубликована по лицензии Apache 2.0.
MAmmoTH2-7B-Plus — языковая модель TIGER-Lab для генерации ответов и диалогового общения с усиленными навыками рассуждения. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, дообученная на инструкциях, собранных из веб-корпуса, и дополнительно обученная на открытых наборах инструкций. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель рассчитана на решение математических задач, ответы на вопросы и общение в формате чат-бота. В README приводятся результаты оценки MAmmoTH2-7B на математических тестах и отмечается, что качество зависит от сложности и особенностей задачи; математические области охвачены не полностью. Эти цифры относятся к MAmmoTH2-7B, а не непосредственно к версии Plus. Модель распространяется по лицензии MIT.
facebook/mcontriever-msmarco — мультиязычная модель плотного поиска, разработанная исследовательской командой Facebook (ныне AI at Meta). Она создаёт векторные представления текстов для поиска релевантных документов по запросу и была дообучена на MS MARCO для улучшения соответствия между запросами и документами. Модель основана на BERT, имеет около 205 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Базовая версия mContriever обучалась на 29 языках; для этой модели опубликованы оценки мультиязычного и межъязыкового поиска, в том числе по запросам на одном языке с поиском документов на другом. Она возвращает эмбеддинги, которые можно сравнивать, например, скалярным произведением; сама по себе не генерирует ответы. Подходит как компонент информационного поиска и retrieval-этапа RAG. Результаты зависят от языка, данных и настройки поиска; карточка Hugging Face не содержит подробного описания ограничений и не показывает лицензию, поэтому условия использования следует сверить с лицензией репозитория разработчика.
mera-mix-4x7B — языковая модель с архитектурой смеси экспертов (MoE), разработанная командой Mera. В ней четыре эксперта вместо восьми у Mixtral-8x7B; карточка описывает её как более компактную замену Mixtral-8x7B с более быстрым выводом и сопоставимыми результатами на бенчмарках. В метаданных указаны архитектура MixtralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового использования. В README приведены результаты OpenLLM Eval: 75,91 балла; также сообщается о результатах на AI2 Reasoning Challenge и HellaSwag. Доступны веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не уточняет языки обучения и поддерживаемые языки.
Merino-Small — модель BAA AI (Black Sheep AI) для двух этапов поиска в RAG: построения эмбеддингов и ранжирования пар запроса и документа. В ней биэнкодер и 12-слойный кросс-энкодер используют общую таблицу эмбеддингов слов на базе MiniLM-L6-H384-uncased; общий размер составляет около 55 млн параметров, а эмбеддинги имеют размерность 384 и нормализуются по L2. Для векторного поиска README рекомендует добавлять к запросу префикс «Represent this sentence for searching relevant passages: ». Модель работает на английском языке. Её можно применять для семантического поиска и переоценки найденных кандидатов в RAG-системах. По данным README, модель компактна для развёртывания, а 4-битная квантизация сохраняет качество в описанном тесте с тематическими отвлекающими документами. Низкий показатель Position Balance (0,17) указывает на ограниченную способность находить второй независимый факт в одном фрагменте: рекомендуется разбивать документы на атомарные фрагменты по одному утверждению и возвращать родительский раздел для контекста. Лицензия в метаданных указана как other; конкретные условия README не приводит.
MiniCPM-Embedding — двуязычная модель текстовых эмбеддингов для поиска, разработанная ModelBest, лабораторией обработки естественного языка Университета Цинхуа (THUNLP) и группой информационного поиска Северо-Восточного университета (NEUIR). Она предназначена для семантического поиска на китайском и английском языках, а также для межъязыкового поиска между ними, в том числе в системах RAG. Модель основана на MiniCPM-2B-sft-bf16 и дообучена на примерно 6 млн открытых, синтетических и закрытых примеров в несколько этапов. Архитектура использует двунаправленное внимание и взвешенный mean pooling. Размер по метаданным — 2,7 млрд параметров; README указывает 2,4 млрд. Размерность эмбеддингов — 2304, максимальная длина входа — 512 токенов. Для запроса можно добавить инструкцию; документы подаются как обычный текст. Модель подходит для поиска по коллекциям документов и межъязычного поиска китайский—английский. Карточка сообщает о тестировании на бенчмарках BEIR и C-MTEB/Retrieval, но приведённые таблицы неполны, поэтому по ним нельзя сделать полный вывод о качестве. Лицензия в предоставленных данных не указана.
Карточка модели rolf-mozilla/minilm-multilingual-l12-full на Hugging Face совпадает с карточкой microsoft/Multilingual-MiniLM-L12-H384, поэтому описание составлено по ней. Multilingual-MiniLM-L12-H384 — предобученная компактная языковая модель Microsoft для понимания текста на нескольких языках. Она использует 12-слойный трансформер с архитектурой BERT, скрытым размером 384 и 12 головами внимания; карточка указывает 124,3 млн параметров, включая около 21 млн параметров трансформера и 96 млн параметров эмбеддингов. Для токенизации применяется токенизатор XLM-R. Модель рассчитана на последовательности длиной до 512 токенов. Модель предназначена для задач классификации текста и может дообучаться для межъязыкового переноса, распознавания текстового следствия и ответов на вопросы. В README приведены оценки на XNLI и MLQA. Поддерживаются английский, арабский, болгарский, немецкий, греческий, испанский, французский, хинди, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский языки. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель основана на дистилляции MiniLM и рассчитана на компактное и быстрое применение в задачах понимания языка. Для этого чекпойнта используется BertModel с XLMRobertaTokenizer, поэтому AutoTokenizer не работает согласно README. Лицензия — MIT.
MiniMax-M2.1 — языковая модель для генерации текста, разработанная MiniMax AI. Она предназначена для задач text-generation и может использоваться в приложениях на базе Transformers, включая создание и продолжение текста, диалоговые сценарии и другие задачи обработки естественного языка. В предоставленном README не указаны архитектура, количество параметров, поддерживаемые языки и модальности, максимальная длина контекста, результаты оценки или сведения о сильных сторонах и ограничениях модели. Известно, что модель распространяется с лицензией modified-MIT; подробные условия приведены в файле LICENSE по ссылке, указанной в карточке модели.
CorticalStack/mistral-7b-alpaca-sft — модель генерации текста на базе Mistral, дообученная методом supervised fine-tuning на наборе yahma/alpaca-cleaned. В README указана LoRA-конфигурация с r=256, alpha=128 и dropout=0; метаданные описывают плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации ответов и инструкционно-ориентированного диалога по текстовым запросам. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. В README базовой моделью названа unsloth/mistral-7b-bnb-4bit; подробности о качестве и результатах оценки не приведены.
Jan-HQ Mistral-7B-Instruct-v0.2-DARE — объединённая Jan модель на основе Mistral-7B-Instruct-v0.2 и трёх моделей с высокими результатами в Open LLM Leaderboard. Она предназначена для диалогов и генерации текста общего назначения. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов; README указывает шаблоны ChatML и Alpaca. Поддерживается английский язык. Веса объединены методом DARE TIES с использованием Mistral-7B-Instruct-v0.2, OpenHermes-2.5-neural-chat-v3-3-Slerp, MetaMath-Cybertron-Starling и v1olet_marcoroni-go-bruins-merge-7B. README приводит результаты оценки, включая средний балл 55,84 и 61,95 по AI2 Reasoning Challenge. Это тестовый проект Jan по слиянию моделей; результаты не гарантируют качество в конкретных задачах. Лицензия — Apache-2.0.