I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельunsloth/aya-vision-32b — версия с весами, опубликованная Unsloth на основе мультимодальной модели Aya Vision 32B от Cohere For AI. Это плотная vision-language модель для диалога по тексту и изображениям: она принимает текст и изображения, а в ответ генерирует текст. Варианты Aya Vision предназначены для OCR, описания изображений, визуальных рассуждений, суммаризации, ответов на вопросы по изображениям и других задач понимания визуального содержимого. Модель относится к семейству Aya Vision и использует архитектуру AyaVisionForConditionalGeneration; для обработки изображений применяется зрительный энкодер SigLIP2. Она поддерживает многоязычное взаимодействие, включая русский, и работает через библиотеку Transformers. Карточка README относится к версии 8B, поэтому приведённые там сведения о контексте 16K, обработке изображений и подробном списке 23 языков нельзя уверенно переносить на эту версию 32B. Репозиторий основан на CohereForAI/aya-vision-32b и классифицирован как дообученная модель; веса хранятся в формате safetensors. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование и требует соблюдать условия допустимого использования C4AI. Подробности производительности и ограничения именно версии 32B в предоставленной карточке не описаны.
bling-tiny-llama-v0 — разработанная llmware модель серии BLING, дообученная для инструкций RAG на базе TinyLlama-1.1b. Это плотная авторегрессионная модель семейства Llama примерно с 1 млрд параметров и контекстом 2048 токенов; она принимает текстовый контекст и запрос, а затем генерирует текстовый ответ. Модель предназначена для быстрого тестирования и прототипирования сценариев поиска с дополненной генерацией, включая ответы на вопросы, извлечение ключевых значений и краткое изложение предоставленных материалов. В карточке указано, что модель рассчитана на английский язык и на применение в корпоративной автоматизации, в частности при работе с насыщенными знаниями источниками в финансовой, юридической и нормативной областях. На приведённом RAG-Instruct-Benchmark-Tester средний результат составил 86,5 балла из 100; качество математических и логических ответов было заметно ниже. Эти результаты получены всего в двух тестовых запусках и не гарантируют точность на других данных. Лицензия — Apache 2.0.
danskgpt-v4-12b — дообученная Syvai текстовая модель на архитектуре Gemma4ForCausalLM, созданная на основе google/gemma-4-12B-it для более сильного понимания датского языка, работы со знаниями и рассуждений. Это плотная модель примерно на 11,6 млрд параметров; карточка указывает дообучение QLoRA с рангом 16, базой NF4 и вычислениями bf16. Контекст составляет 262 144 токена, для диалога используется шаблон чата Gemma-4. Модель предназначена для датской NLP: классификации, понимания прочитанного, ответов на вопросы, извлечения именованных сущностей и задач универсального ассистента. Она принимает текст и генерирует текст; примеры включают перефразирование, суммаризацию и оценку тональности. Модель ориентирована на датский язык и не предназначена для мультимодального ввода, несмотря на мультимодальные возможности базовой модели. По карточке модель может быть более краткой и решительной в открытой генерации, чем базовая модель, наследует её смещения и ограничения знаний. Для высокорисковых решений требуется человеческий контроль. Лицензия — CC BY 4.0.
DeepSeek-VL-Hybrid — мультимодальная модель для понимания изображений и текста, разработанная командой DeepSeek AI. Она принимает изображения и текстовые запросы и формирует текстовые ответы в диалоговом режиме. В архитектуре используется языковая модель на основе LLaMA, SigLIP для обработки изображений низкого разрешения и SAM для изображений высокого разрешения. Модель рассчитана на практические визуально-языковые сценарии, включая анализ скриншотов, PDF, OCR, диаграмм и содержимого, требующего визуальных деталей; заявлена обработка изображений размером до 1024 × 1024 пикселей. В карточке указана версия 7B, однако конкретное число параметров этой копии не приведено. Модель подходит для вопросов об изображениях, извлечения и объяснения визуальной информации, а также работы с документами и графиками. Она требует вычислительных ресурсов для мультимодальной модели и может ошибаться в распознавании мелких деталей или содержимого изображения. Указана лицензия DeepSeek; метаданные Hugging Face классифицируют её как other, поэтому точные условия следует сверить с текстом лицензии репозитория.
Dolphin-2.6-FC_Hermes-2-Pro — объединённая модель, созданная с помощью LazyMergekit из cognitivecomputations/fc-dolphin-2.6-mistral-7b-dpo-laser и NousResearch/Hermes-2-Pro-Mistral-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов по текстовым запросам. Наследует ориентированные на инструкции и диалоговые сценарии возможности базовых моделей; описание базовой модели в каталоге также указывает на вызов функций и генерацию структурированного JSON. Заявленная длина контекста — 32 768 токенов. Файлы опубликованы в формате Safetensors. Языковая поддержка, лицензия и отдельные ограничения в предоставленных материалах не описаны.
Eagle 2.5-8B — мультимодальная модель семейства Eagle 2.5 от NVIDIA для анализа изображений, видео и текста. В основе архитектуры — визуальный энкодер SigLIP2-So400m-Patch16-512 и языковая модель Qwen2.5-7B-Instruct, объединённые в мультимодальную архитектуру на базе LLaVA с разбиением изображений на фрагменты. Модель поддерживает изображения высокого разрешения, многостраничные документы, длинный текст и видео до 512 кадров; контекст при обучении постепенно расширяли с 32K до 128K токенов. Модель предназначена для ответов на вопросы по видео и изображениям, суммаризации видео, локализации событий и понимания документов. В README сообщается о результатах на тестах понимания длинных видео и изображений, включая 72,4% на Video-MME при подаче 512 кадров. Указанная в метаданных лицензия — other; конкретные условия следует сверять с карточкой модели.
Модель abd1987/esco-context-skill-extraction — дообученная TechWolf/ConTeXT-Skill-Extraction-base модель Sentence Transformers на архитектуре MPNet. Она преобразует предложения и абзацы в плотные векторы размерности 768, которые можно сравнивать по косинусному сходству. Модель обучалась на парах текстов, связанных с профессиональными навыками и действиями, и предназначена для поиска и сопоставления таких формулировок. Модель подходит для семантического поиска навыков, сравнения описаний и извлечения похожих формулировок, а также для кластеризации и классификации текстов с использованием векторов. Максимальная длина последовательности — 512 токенов; для корректной работы можно использовать библиотеку Sentence Transformers. Веса представлены в формате safetensors. Карточка не указывает лицензию и конкретный перечень поддерживаемых естественных языков. Качество может зависеть от соответствия входных формулировок обучающим данным о навыках и профессиях; тексты длиннее лимита контекста требуют усечения или разбиения.
kasraarabi/finetuned-caption-embedding — дообученная модель Sentence Transformer на базе sentence-transformers/paraphrase-mpnet-base-v2. Разработчик дообучил MPNet на 10 000 пар предложений с функцией потерь MultipleNegativesRankingLoss; модель преобразует предложения и абзацы в плотные векторы размерности 768. Для сравнения векторов используется косинусное сходство. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического сравнения текстов, поиска близких по смыслу фраз и абзацев, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. Примеры обучающих данных описывают сцены и объекты, поэтому модель может быть полезна для сопоставления текстовых описаний изображений. Модель принимает текст и выдаёт эмбеддинги; сама по себе она не генерирует ответы и не определяет категории без дополнительного классификатора. В карточке не указаны лицензия и подтверждённый набор поддерживаемых языков. Для использования указана библиотека Sentence Transformers; веса представлены в формате Safetensors.
Это совместимая с новыми версиями библиотеки transformers редакция модели Florence-2-base-ft от Microsoft. В репозитории изменён код modeling_florence2.py, чтобы исправить загрузку модели и генерацию текста при работе с версиями transformers от 4.42.0 до 4.57.x; веса и базовая архитектура принадлежат Microsoft. Модель предназначена для задач анализа изображений, включая создание описаний, распознавание текста и обнаружение объектов по текстовым запросам. Архитектура Florence-2 принимает изображения и текстовые запросы и выдаёт текстовые ответы или результаты визуального анализа. В метаданных указана лицензия Apache-2.0; README отсылает к исходной карточке Microsoft за условиями использования.
Microsoft Florence-2-large — универсальная модель компьютерного зрения и языка с архитектурой Florence-2 и последовательной схемой преобразования входа в выход. В этой карточке размещена продолженная версия предварительно обученной Florence-2-large: в README указано, что для продолжения обучения использовано 0,1 млрд примеров и контекст увеличен до 4 тыс. токенов; авторы предупреждают, что модель могла быть обучена недостаточно хорошо. Размер исходной Florence-2-large указан как 0,77 млрд параметров. Модель принимает изображение и текстовую задачу в виде промпта. Она предназначена для создания подписей к изображениям, обнаружения объектов, локализации областей по тексту, предложений регионов, сегментации и распознавания текста на изображениях, в том числе с привязкой OCR-результатов к областям. Florence-2 обучалась на датасете FLD-5B с 5,4 млрд аннотаций для 126 млн изображений; README приводит результаты оценки для описания изображений и обнаружения объектов, но отдельно отмечает возможное ухудшение качества именно этой продолженно обученной версии. Репозиторий содержит реализацию для Transformers, веса представлены в PyTorch и Safetensors. Лицензия — MIT. Описание не задаёт конкретный набор естественных языков; качество OCR и визуальных предсказаний может зависеть от изображения и задачи.
German-RAG-NEMO-12B-ORPO-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это дообученная версия German-RAG-NEMO-12B-SFT-HESSIAN-AI с 12,1 млрд параметров, предназначенная для немецкоязычных RAG-сценариев и работы с предоставленным контекстом. Модель подходит для ответов на вопросы по найденным документам, извлечения релевантных сведений, рассуждений по контексту и составления кратких сводок. В карточке заявлена поддержка немецкого и английского языков; метаданные указывают контекст до 1 024 000 токенов. По условиям Apache 2.0 распространяются и код, и веса модели. В оценке авторов модель показала результаты на задачах извлечения, вопросно-ответных задачах, суммаризации и рассуждениях на немецком и английском языках. Результаты зависят от задачи и не гарантируют фактическую точность: ответы могут содержать ошибки и должны проверяться. У модели нет встроенной фильтрации безопасности; возможна генерация вредного или предвзятого контента.
German-RAG-PHI-3.5-MINI-4B-MERGED-HESSIAN-AI — языковая модель команды Avemio AI при поддержке Hessian AI, предназначенная для немецкоязычных задач с поиском и использованием документов. Это авторегрессионный трансформер с плотной архитектурой LlamaForCausalLM; в метаданных указано 3,7 млрд параметров и контекст до 131 072 токенов. Модель объединена методом SLERP из German-RAG-PHI-3.5-MINI-4B-SFT-HESSIAN-AI и German-RAG-PHI-3.5-MINI-4B-ORPO-HESSIAN-AI. Модель подходит для ответов на вопросы по найденным документам, извлечения релевантной информации и суммаризации контекста на немецком и английском языках. В карточке приведены результаты оценивания качества языка, правильности ответов и следования инструкциям; на наборе задач извлечения модель показала улучшение относительно указанных вариантов SFT и ORPO. Весам и коду модели указана лицензия MIT. Модель может генерировать вредный или чувствительный контент, в том числе из-за смещений, а фактические утверждения могут быть неверными и требуют проверки. Для надежных ответов следует предоставлять релевантный контекст и проверять результат.
InternVL2-40B — мультимодальная чат-модель с настройкой по инструкциям, разработанная командой OpenGVLab. Она объединяет визуальный энкодер InternViT-6B-448px-V1-5, MLP-проектор и языковую часть Nous-Hermes-2-Yi-34B; в метаданных указано происхождение через слияние этих моделей. Модель содержит около 40 млрд параметров и рассчитана на контекст до 8 тыс. токенов. Модель принимает текст и изображения, а также предназначена для анализа видео через кадры. Она отвечает на вопросы по изображениям и документам, распознаёт текст на сценах, разбирает диаграммы и инфографику, решает научные и математические задачи и поддерживает диалог. Карточка заявляет конкурентные результаты на ряде мультимодальных тестов, но они не гарантируют качество на конкретных данных пользователя. Репозиторий распространяется под лицензией MIT. Для запуска в Transformers требуется соответствующая инфраструктура; размер модели требует значительных вычислительных ресурсов. В метаданных указаны мультиязычность и поддержка чата, но конкретные языки не перечислены.
Archeiothiki S.A., команда AI Services, разработала эту модель для классификации страниц документов на греческом языке по 18 категориям. Она принимает текст, извлечённый из документов с помощью OCR, и возвращает категорию страницы; среди примеров — счета за энергию, сертификаты и другие деловые документы. Для предварительной обработки текста перед запуском требуется использовать предусмотренную авторами функцию. Модель построена на BERT и дообучена на базе nlpaueb/bert-base-greek-uncased-v1. В обучении применялись контрастивное обучение и настройка классификатора с функцией потерь для несбалансированных классов. В архитектуре оставлено 6 слоёв из исходных 12; размер скрытого слоя — 768, словарь содержит 35 000 токенов, максимальная длина входа — 512 токенов. В метаданных указано 83,5 млн параметров. На тестовом наборе из 1 336 примеров авторы сообщают точность 0,94 и macro F1 0,92. Модель подходит для сортировки и маршрутизации страниц греческих документов после OCR. Редкие классы представлены малым числом примеров, и качество на них может быть ниже; авторы отмечают, что для класса AA_LEGAL_ENT_CERTIFICATE требуется больше обучающих данных. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели.
Llama-Express.1-Math — компактная плотная языковая модель семейства Llama, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах математических данных с длинными цепочками рассуждений. Она содержит 1,2 млрд параметров, работает с текстом и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и следования инструкциям на нескольких языках, а также для математических рассуждений, поиска и суммаризации сведений в контексте. Её можно применять в виртуальных помощниках, автоматизации и сценариях с извлечением информации; заявленное интерфейсом чата взаимодействие поддерживает Transformers. В карточке указан английский язык, а README заявляет многоязычное применение без перечисления поддерживаемых языков. Модель не обрабатывает изображения, аудио и видео. Качество может снижаться на очень длинном контексте, в языках с малым представленным ресурсом и при неясных запросах; ответы также могут отражать предвзятости обучающих данных и не имеют доступа к актуальным интернет-источникам. Лицензия — Llama 3.2.
Это модель M2-BERT, разработанная Джоном Саад-Фалконом, Дэном Фу и Симран Аророй. Чекпойнт содержит около 136,7 млн параметров по метаданным и дообучен для поиска по длинным последовательностям; в README размер семейства обозначен как 80M. Модель принимает текстовые последовательности длиной до 32 768 токенов и предназначена для задач извлечения информации и поиска по длинным документам. Её можно загрузить через Transformers как BertForSequenceClassification; метаданные также указывают поддержку сходства предложений и классификации текста. Модель распространяется в формате PyTorch под лицензией Apache-2.0. Карточка не описывает ограничения качества или языков помимо английского, указанного в метаданных.
MOSS-Transcribe-Diarize 0.9B — мультимодальная модель семейства MOSS от OpenMOSS для расшифровки длинных аудио- и видеозаписей. Она за один проход преобразует запись в текст с временными метками и анонимными метками говорящих, совместно выполняя распознавание речи и диаризацию. Также модель может размечать акустические события и учитывать пользовательские инструкции и подсказки с терминами.
Карточка модели tomsanbear/pp-ocrv5-mobile-det на Hugging Face совпадает с карточкой PaddlePaddle/PP-OCRv5_mobile_det_safetensors, поэтому описание составлено по ней. PP-OCRv5_mobile_det — мобильная модель обнаружения текстовых областей из серии PP-OCRv5_det, разработанная командой PaddleOCR. Она находит текст на изображениях, включая рукописный, вертикальный, повернутый и изогнутый текст, и рассчитана на работу со сложной разметкой, разным размером надписей и трудным фоном. Модель подходит для анализа документов, распознавания текста на номерных знаках и поиска надписей в сценах. В карточке приведены метрики обнаружения для китайского, английского и японского текста, включая рукописные, искажённые и художественные надписи; среднее значение указанных метрик — 0,770. Это детектор текстовых областей: README не описывает распознавание содержания найденного текста. Модель представлена в формате safetensors и предназначена для использования с библиотекой PaddleOCR. Лицензия — Apache-2.0.
PP-OCRv6_tiny_det_onnx — модель обнаружения текстовых строк на изображениях из семейства PaddleOCR, разработанная PaddlePaddle. Она предназначена для OCR-конвейеров: выделения областей и строк с текстом на изображениях перед последующим распознаванием, включая обработку документов и других изображений с печатным текстом. Модель поставляется в формате ONNX и ориентирована на компактное и эффективное развертывание. В README модель обозначена как tiny-вариант PP-OCRv6 с архитектурой для textline detection; точный размер и число параметров, максимальный контекст, поддерживаемые разрешения и детальные характеристики производительности не указаны. В метаданных заявлены английский и китайский языки, а основная модальность — изображение. Модель подходит для сценариев, где важны скорость и небольшие вычислительные затраты, однако качество обнаружения может зависеть от качества изображения, масштаба, фона и ориентации текста; сама модель отвечает за обнаружение, а не за полное распознавание содержимого. Лицензия — Apache 2.0.
Карточка модели mahrukhsaeed/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.
Карточка модели zomasec/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.
Это репозиторий весов unsloth для мультимодальной модели Qwen3-VL-4B-Thinking, разработанной на основе Qwen3-VL компанией Qwen и представленной Unsloth с исправлениями шаблона чата. Модель сочетает обработку текста и изображений и предназначена для диалога, визуального анализа и рассуждений; заявлены также понимание видео, OCR и взаимодействие с инструментами. Архитектура — плотная Qwen3-VL для условной генерации, веса сохранены в safetensors и используются через Transformers. В README заявлены контекст длиной 256 тысяч токенов с возможностью расширения до миллиона, визуальное рассуждение, распознавание элементов интерфейса и разбор документов; также указана поддержка OCR на 32 языках. Модель может быть полезна для вопросов по изображениям и видео, извлечения текста из документов и визуально обусловленного диалога. Репозиторий распространяется по лицензии Apache-2.0. Заявления README о сравнительном качестве и характеристиках являются описанием разработчика; независимые результаты измерений в карточке не приведены.
SkyworkVL-38B — мультимодальная чат-модель семейства Skywork, разработанная командой Skywork и дообученная на базе OpenGVLab/InternVL2_5-38B. Модель содержит 38 млрд параметров и предназначена для диалога с изображениями и решения задач визуального анализа. В README описаны обучение на 2 млн примеров с подписями и вопросами, многоэтапная настройка и дополнительное обучение на данных с пошаговыми рассуждениями. Модель обрабатывает изображения в нескольких разрешениях и поддерживает визуальные вопросы и ответы, OCR, анализ диаграмм и научных изображений, а также задачи по математике и другим учебным дисциплинам. В карточке приведены результаты на MathVista, MMMU, AI2D, OCRBench, MME, RealWorldQA и HallusionBench. Для запуска README приводит пример с Transformers и bfloat16; интерфейс включает чат и tool calling. Модель опубликована в формате safetensors по лицензии Apache-2.0. Заявленные в README преимущества относятся к визуальному анализу и рассуждениям, однако приведённые таблицы сравнивают базовые модели и не показывают отдельные численные результаты SkyworkVL-38B. Для запуска может потребоваться значительный объём вычислительных ресурсов из-за размера в 38 млрд параметров.
Карточка модели llmware/slim-boolean-phi-3 на Hugging Face совпадает с карточкой llmware/slim-xsum-phi-3, поэтому описание составлено по ней. llmware разработала llmware/slim-xsum-phi-3 — дообученную на базе Microsoft Phi-3 модель серии DRAGON для ответов на вопросы по контексту в RAG-сценариях. Она предназначена для работы с текстовыми фрагментами и выдаёт ответы, извлечённые из предоставленных материалов; типовые задачи включают ответы на вопросы, извлечение значений и краткое суммирование. В карточке модели сообщается о тестировании на наборе RAG-инструкций, включая вопросы с ответом «не найдено», логические задачи и суммирование. Модель имеет плотную архитектуру Phi-3 с 3,7 млрд параметров и контекстное окно 4096 токенов. Указанный язык — английский. Репозиторий содержит веса PyTorch, модель поддерживает чат и распространяется по лицензии Apache 2.0. Результаты внутренних тестов не гарантируют точности на других данных: ответы могут быть неполными или неверными, поэтому их следует проверять.
llmware разработала llmware/slim-xsum-phi-3 — дообученную на базе Microsoft Phi-3 модель серии DRAGON для ответов на вопросы по контексту в RAG-сценариях. Она предназначена для работы с текстовыми фрагментами и выдаёт ответы, извлечённые из предоставленных материалов; типовые задачи включают ответы на вопросы, извлечение значений и краткое суммирование. В карточке модели сообщается о тестировании на наборе RAG-инструкций, включая вопросы с ответом «не найдено», логические задачи и суммирование. Модель имеет плотную архитектуру Phi-3 с 3,7 млрд параметров и контекстное окно 4096 токенов. Указанный язык — английский. Репозиторий содержит веса PyTorch, модель поддерживает чат и распространяется по лицензии Apache 2.0. Результаты внутренних тестов не гарантируют точности на других данных: ответы могут быть неполными или неверными, поэтому их следует проверять.
TinyBERT_General_4L_312D — компактная модель семейства BERT, опубликованная Huawei Noah’s Ark Lab. Это общий чекпойнт TinyBERT, полученный дистилляцией BERT-base для задач понимания естественного языка. Модель содержит 15,6 млн параметров, имеет 4 слоя и размерность скрытого представления 312; заявлены размер в 7,5 раза меньше и инференс в 9,4 раза быстрее, чем у BERT-base. Длина контекста — до 512 токенов. Модель предназначена для использования как начальная точка для задач понимания текста и последующего дообучения под конкретную задачу. Репозиторий содержит веса PyTorch и Flax. Карточка не сообщает о многоязычной подготовке, поэтому поддерживаемые естественные языки определить нельзя. Лицензия в предоставленных данных не указана.
TowerVision-2B — мультиязычная vision-language модель проекта utter-project для анализа изображений и генерации текстовых ответов. Она предназначена для описания изображений, визуальных вопросов и ответов, суммаризации, понимания диаграмм и документов, а также мультимодального перевода с учётом языкового и культурного контекста. Модель содержит 2 млрд параметров и использует архитектуру LLaVA-NeXT: языковую основу Tower-Plus-2B, визуальный энкодер SigLIP2-patch14-384 и мультимодальный адаптер. Она принимает текст и изображения, генерирует текст; заявленная длина контекста — 8192 токена. В карточке перечислены европейские и азиатские языки, включая русский, английский, немецкий, китайский, японский и хинди. Модель обучена на мультиязычном наборе VisionBlocks и ориентирована на широкий круг задач визуального понимания, с заявленным акцентом на мультимодальный перевод и культурно-зависимые задачи. Для запуска авторы рекомендуют точность bfloat16. Лицензия CC-BY-NC-SA-4.0 ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов.
aiknowyou выпустил aiknowyou/all-mpnet-base-questions-clustering-en — англоязычную модель Sentence Transformers на базе All-mpnet-base-v2, дообученную для группировки вопросов по смыслу. MPNet преобразует предложения и абзацы в плотные векторы размерностью 768; их можно использовать для кластеризации, поиска семантически близких вопросов и оценки сходства. Обучение проводилось на данных Quora, WikiAnswers и StackExchange. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторы; заявленная длина контекста — 514 токенов. В README приведены результаты оценки на тестовой выборке WikiAnswer, но они не гарантируют такую же точность на других данных. Лицензия CC BY-NC-SA 4.0 ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов.
beautifulpichai/all-mpnet-base-v2-ledgar-full-contrastive — модель Sentence-Transformers на архитектуре MPNet, разработанная на базе all-mpnet-base-v2 и дообученная для контрастивного представления предложений. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров и принимает текст с контекстом до 514 токенов. Модель подходит для поиска семантически близких фрагментов и группировки текстов по смыслу. В метаданных указаны задачи извлечения признаков и оценки сходства предложений. Доступный формат — PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.
Anima-7B-100K — языковая модель для генерации текста, разработанная lyogavin на основе Llama 2 7B. Авторы обучали её на специально отобранных длинных примерах вопросов и ответов с контекстом от 30 до 100 тысяч токенов и применили оптимизации памяти для работы с длинными последовательностями. В README заявлена поддержка входа длиной до 100 тысяч токенов; метаданные указывают нативный контекст 32 768 токенов. Модель предназначена для ответов на вопросы по длинным документам и поиска сведений в большом контексте. В README приведены собственные оценки на задачах извлечения тем и чисел из длинного контекста и NarrativeQA, но авторы отмечают нехватку подходящих оценочных наборов для контекста в 100 тысяч токенов. Модель основана на плотной архитектуре Llama и имеет 6,6 млрд параметров. В карточке указан английский язык. Лицензия Apache-2.0 допускает коммерческое использование.