I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельmrp/simcse-model-roberta-base-thai — модель эмбеддингов предложений на основе XLM-R, обученная с использованием SimCSE на тайской Википедии. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и других задач сравнения предложений. Архитектура XLM-RoBERTa содержит около 305,2 млн параметров; модель принимает текст и выдаёт векторные представления. Длина контекста — до 514 токенов. Репозиторий содержит веса PyTorch.
Это англоязычный разреженный энкодер SPLADE, разработанный tomaarsen и дообученный на базе Luyu/co-condenser-marco с использованием Sentence Transformers и данных MS MARCO. Модель преобразует предложения и абзацы в разреженные векторы размерностью 30 522, пригодные для поиска и ранжирования текстов по скалярному произведению. Архитектура включает BERT с MLM-головой и пулинг SPLADE; максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов, например поиска ответов по запросам в коллекции текстов. В карточке приведены результаты оценивания на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Поддерживается английский язык. Лицензия — Apache-2.0.
menadsa/S-PubMedBERT — модель Sentence-Transformers на архитектуре BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска и кластеризации текстов; README также описывает обучение с MultipleNegativesRankingLoss и косинусной мерой сходства на данных PubMed. Модель содержит 136,7 млн параметров, принимает текст и формирует векторные представления. Контекст ограничен 512 токенами. Для работы подходят Sentence-Transformers и Transformers с корректной операцией pooling. Карточка не сообщает лицензию и точные языковые характеристики, поэтому их нельзя установить по доступным данным.
Ternary Bonsai 2 27B MLX 2-bit — мультимодальная модель Prism ML на архитектуре Qwen3.8-27B, упакованная для инференса в MLX с поддержкой signed-Hadamard-преобразований. Репозиторий сохраняет исходные упакованные 2-битные веса, модуль обработки изображений, токенизатор и шаблон диалога модели Prism ML. Модель принимает текст и изображения и формирует текстовые ответы. Она предназначена для диалога по тексту и изображениям, рассуждений и вызова инструментов через шаблон модели и совместимый парсер. Заявленная длина контекста — 262 144 токена; практически доступная длина зависит от оборудования и политики сервинга. Для запуска нужны преобразования signed-Hadamard: веса нельзя загружать как обычный Qwen с аффинной 2-битной квантизацией или без изменений преобразовывать в BF16. Поддержка в нескольких рантаймах проходит проверку; гарантий производительности в продакшене нет. Лицензия — Apache-2.0.
UNITE-Base-Qwen2-VL-2B — мультимодальная модель эмбеддингов семейства UNITE, разработанная на базе Qwen/Qwen2-VL-2B-Instruct и дообученная для поиска по тексту, изображениям, видео и их сочетаниям. Она формирует общие векторные представления для мультимодального поиска; карточка рекомендует вариант Base для задач детального поиска, включая поиск по инструкциям. Модель имеет плотную архитектуру Qwen2-VL, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Основной сценарий — извлечение признаков и retrieval между текстом, изображениями и видео; также заявлено сходство предложений. В метаданных указан английский язык. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.
cl-nagoya разработала японскую модель эмбеддингов предложений на архитектуре BERT, дообученную методом Unsupervised SimCSE на Wiki40B. Модель предназначена для получения векторных представлений японских текстов и оценки сходства предложений; её можно использовать через Sentence-Transformers или Transformers с CLS-пулингом. Дополнительный MLP-слой применялся только во время обучения. Модель содержит 138,4 млн параметров, принимает текст с контекстом до 512 токенов. В обучении использовались последовательности длиной до 64 токенов. Репозиторий содержит веса PyTorch; лицензия — CC BY-SA 4.0.
Vietnamese_Embedding — модель эмбеддингов на базе Sentence Transformers, разработанная AITeamVN и дообученная от BAAI/bge-m3 для улучшения поиска по вьетнамским текстам. Она принимает текст и выдаёт вектор размерности 1024; для сравнения векторов предусмотрена метрика dot product. Модель обучалась на примерно 300 тысячах триплетов запросов, положительных и отрицательных документов, а максимальная длина последовательности в карточке указана как 2048 токенов. Модель предназначена для семантического поиска и извлечения релевантных документов по вьетнамским запросам; автор приводит оценку на Legal Zalo 2021. В метаданных указаны архитектура XLM-RoBERTa, контекст до 8194 токенов, библиотека sentence-transformers и форматы ONNX и safetensors. Лицензия — Apache 2.0. В README приведена более короткая максимальная длина последовательности, чем контекст в метаданных; качество поиска на других наборах данных отдельно не подтверждено.
Карточка модели Gnartiel/vietnamese-sbert на Hugging Face совпадает с карточкой keepitreal/vietnamese-sbert, поэтому описание составлено по ней. keepitreal/vietnamese-sbert — модель Sentence-Transformers на архитектуре RoBERTa, содержащая 162,4 млн параметров. Она преобразует предложения и абзацы на вьетнамском языке в плотные векторы размерностью 768 для сравнения семантической близости, поиска и кластеризации. Модель принимает текст и выдаёт эмбеддинги; её контекст ограничен 258 токенами. Модель подходит для семантического поиска по вьетнамским текстам, группировки похожих предложений и оценки их смыслового сходства. В README указано обучение с CosineSimilarityLoss. Доступные файлы представлены в формате PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.
Whisper-squeezeformer-v9_train_CM — дообученная на Common Voice модель распознавания речи на основе Whisper-small от OpenAI. Она предназначена для преобразования аудио в текст; в README приведён результат оценки на тестовом наборе: WER 16,4239 и loss 0,4028. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и распространяется в формате safetensors. Метаданные указывают английский язык. Лицензия — Apache-2.0. Подробности о целевом варианте английского языка, настройках обучения и ограничениях применения в карточке не приведены.
Arabic-Triplet-Matryoshka-V2 — модель эмбеддингов арабского языка от Omartificial-Intelligence-Space, созданная на базе Sentence Transformers и дообученная на aubmindlab/bert-base-arabertv02. Это плотная BERT-модель с 162,4 млн параметров и контекстом до 512 токенов; она преобразует предложения и абзацы в векторы размерностью 768. Обучение с MatryoshkaLoss формирует вложенные представления, рассчитанные на работу с эмбеддингами разной размерности. Модель предназначена для оценки семантического сходства, поиска и извлечения информации, поиска перефразирований, кластеризации и классификации арабских текстов, а также для использования в системах вопросов и ответов. В README приведены результаты на бенчмарках STS17 и STS22-v2. Модель ориентирована на арабский язык и не заявлена как многоязычная. Качество может снижаться на узкоспециализированных текстах и различаться между диалектами и региональными вариантами арабского языка. Для задач за пределами семантического сходства может потребоваться дополнительная настройка. Лицензия — Apache-2.0.
AudioSangraha-Audio_to_Text — дообученная разработчиком AqeelShafy7 модель распознавания речи на архитектуре Whisper Small. Она предназначена для преобразования аудио в текст. Веса представлены в формате safetensors; модель содержит 153,1 млн параметров и распространяется по лицензии Apache-2.0. В карточке приведены результаты оценки: loss 0,3071 и WER 52,3227. Описание не раскрывает языки, обучающие данные и сценарии применения, поэтому качество распознавания в конкретных условиях по этим сведениям оценить нельзя.
BGE base Financial Matryoshka — англоязычная модель Sentence Transformer, дообученная разработчиком карточки на BAAI/bge-base-en-v1.5 для создания плотных текстовых эмбеддингов. В основе — BERT; модель кодирует предложения и абзацы в векторы размерностью 768 и сравнивает их по косинусному сходству. Контекст ограничен 512 токенами. Модель предназначена для семантического поиска и сравнения текстов, в том числе финансовых вопросов и фрагментов документов. Также её можно применять для поиска перефразировок, кластеризации и классификации текста. Благодаря обучению Matryoshka доступны укороченные представления размерностью 512, 256, 128 и 64, что позволяет выбирать компромисс между размером вектора и качеством поиска. Модель принимает текст и выдаёт эмбеддинги; лицензия — Apache-2.0.
biencoder-mMiniLMv2-L12-mmarcoFR — плотный двубашенный энкодер от Antoine Louis для семантического поиска на французском языке. Он кодирует запросы и passages в векторы размерности 384 и оценивает их релевантность по косинусному сходству. Модель построена на XLM-RoBERTa и дообучена на французской части mMARCO — многоязычного машинного перевода MS MARCO; в метаданных указано 124,3 млн параметров и контекст до 514 токенов. Модель предназначена для поиска подходящих фрагментов в больших корпусах, в том числе для семантического поиска по миллионам passages. Для представленных в README экспериментов использовалась максимальная длина запросов и passages 128 токенов. Модель распространяется по лицензии MIT. Оценка проводилась на наборе mMARCO-fr с 6 980 запросами и корпусом из 8,8 млн passages. Эти результаты относятся к французскому поиску и сами по себе не гарантируют качество на других языках или предметных областях.
BigBird-base — предварительно обученная языковая модель, разработанная командой Google Research и представленная в исследовательской работе о разреженном внимании. Это плотный Transformer с блочно-разреженным вниманием; модель содержит около 151,9 млн параметров и принимает последовательности длиной до 4096 токенов. Доступны веса PyTorch и Flax, лицензия — Apache 2.0. Модель обучена на английском языке с целью masked language modeling на корпусах Books, CC-News, Stories и Wikipedia. Она рассчитана на получение признаковых представлений текста и служит базой для дообучения задач обработки длинных документов; архитектура BigBird снижает вычислительную стоимость внимания по сравнению с обычным полным вниманием и подходит для длинного контекста. Модель сама по себе не является готовым чат-ботом или специализированной системой суммаризации и ответов на вопросы: для прикладных задач обычно требуется подходящая голова задачи или дообучение. Основной язык — английский; лицензия Apache 2.0 разрешает использование и модификацию на её условиях.
ceat-fc-rag-2 — англоязычная модель Sentence Transformers, созданная дообучением nlpaueb/legal-bert-base-uncased на 786 парах текстов. Архитектура состоит из BERT и среднего пулинга токенов; модель преобразует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их косинусным сходством. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сопоставления текстов, включая поиск в корпусах документов, оценку сходства предложений, поиск перефразировок, кластеризацию и извлечение признаков для классификации. Юридически ориентированная базовая модель и английский язык делают её подходящей для англоязычных юридических текстов, хотя карточка не подтверждает отдельную оценку качества на юридических задачах. В README приведены метрики информационного поиска на нескольких размерностях векторов; их значения умеренные и относятся к указанному набору оценки. Модель распространяется по лицензии Apache-2.0. Вход — текст, выход — векторные представления; лимит в 512 токенов ограничивает длину обрабатываемого текста за один проход.
comsat-embed-ja-8b-preview — плотная декодерная модель эмбеддингов, разработанная Sionic AI и дообученная для семантического поиска на японском языке. Она кодирует запросы и документы в векторы для поиска по смысловой близости и подходит для поиска по документам, базам знаний и корпоративным коллекциям, а также для извлечения материалов при ответах на вопросы. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3 и принимает текст. README сообщает о тренировке на более чем 1,5 млн японских примеров и длине входа до 8 192 токенов; метаданные указывают контекст до 40 960 токенов. Векторы размерности 4096 формируются с pooling по последнему токену, нормализуются по L2 и сравниваются по косинусному сходству. Запросы следует кодировать с инструкционным префиксом, документы — без него. На JMTEB v2 модель показала средний NDCG@10 0,8133 по 11 задачам поиска. Основной язык модели — японский; метаданные также указывают английский. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Результаты бенчмарка относятся к описанным условиям оценки; пропуск префикса запроса может снизить качество поиска.
CT-XLMR-SE — многоязычный энкодер предложений из семейства CrisisTransformers, разработанный авторами этих моделей для текстов кризисных событий в социальных сетях. Он основан на архитектуре XLM-RoBERTa и обучен на корпусе публикаций о более чем 30 кризисах; число параметров — 305,2 млн, контекст — до 514 токенов. Модель создаёт векторные представления предложений и предназначена для семантического поиска, кластеризации и тематического моделирования кризисных сообщений. Энкодер поддерживает более 50 языков, включая русский и английский, и может применяться без дополнительного дообучения для задач векторизации и сравнения сходства предложений. В метаданных указана лицензия Apache-2.0.
DARv2 — модель Sentence Transformers, дообученная разработчиком репозитория на базе jinaai/jina-embeddings-v5-text-nano-retrieval. Она преобразует предложения и абзацы в плотные векторы размерности 768, нормализованные для сравнения косинусным сходством. Модель построена на EuroBERT и поддерживает последовательности до 8192 токенов. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текста. Карточка содержит италоязычные примеры запросов и ответов, связанных с юридическими документами; в метаданных указан язык it. Для поиска по длинным фрагментам доступны контекст и обучающие примеры длиной до 2048 токенов. Вес модели опубликован в формате Safetensors, библиотека — Sentence Transformers. Лицензия в предоставленных данных не указана.
AIArchiveInfo публикует побайтную архивную копию модели MoritzLaurer/deberta-v3-large-zeroshot-v2.0. Согласно README, веса не обучались и не изменялись при копировании; исходная модель основана на DeBERTa V3 Large и предназначена для классификации текста без размеченных примеров с помощью zero-shot-пайплайна Hugging Face. Она оценивает, следует ли гипотеза из текста, и позволяет формулировать пользовательские категории как гипотезы, например для тематической классификации, анализа тональности или разметки обращений. Модель имеет 533,8 млн параметров, контекст до 512 токенов и англоязычную карточку. Доступны форматы Safetensors и ONNX; библиотека — Transformers. README приводит результаты оценки на 28 задачах классификации и указывает, что DeBERTa V3 обычно точнее RoBERTa, но работает медленнее. Модель ограничена классификацией текста; результат зависит от формулировок гипотез и категорий, а возможные смещения связаны с базовой моделью и обучающими данными. Лицензия — MIT. Архивная копия сохраняет лицензию исходной модели.
DIVER-Retriever-4B — двуязычная модель текстовых эмбеддингов, разработанная AQ-MedAI на базе Qwen3-Embedding-4B. Она предназначена для семантического поиска и ранжирования, в том числе в задачах reasonIR и поиска по медицинским материалам; при обучении использовались данные по математике, программированию и здравоохранению, а также специально подобранные сложные отрицательные примеры. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров. Она работает с китайским и английским языками, поддерживает контекст до 40 960 токенов и распространяется в формате safetensors для Transformers. Авторы сообщают о результатах на BRIGHT Leaderboard и MTEB Medical Benchmark. Для дообучения авторы рекомендуют ms-swift и loss-функцию InfoNCE. Лицензия — Apache-2.0. Модель ориентирована на поиск и сопоставление текстов; карточка не подтверждает, что её следует использовать как универсальную разговорную модель или как медицинский инструмент для принятия клинических решений.
OS-Software/Gemma-4-12B-it-QAT-Q4_0-Unquantized-Heretic-JA — производная разговорная мультимодальная модель на основе Google Gemma 4 12B IT, опубликованная OS-Software. Модель предназначена для экспериментов с диалогом, рассуждениями, агентными сценариями, программированием и пониманием изображений; заявлены также OCR, разбор документов и анализ видео для семейства Gemma 4. Архитектура — плотная Gemma4 Unified с чередованием локального и глобального внимания. Метаданные указывают формат safetensors, библиотеку Transformers, поддержку чата и изображений, а также тег задачи image-text-to-text. README семейства указывает контекст до 256K токенов для 12B и поддержку более 35 языков, но эти характеристики относятся к семейству, а не подтверждены отдельно для этой производной модели. README позиционирует модель для исследований безопасности, выравнивания и red teaming и просит не развёртывать её в публичных или пользовательских сервисах. В карточке также приведены общие ограничения Gemma: возможны фактические ошибки, смещения данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Apache-2.0. В названии присутствуют «QAT», «Q4_0» и «unquantized», однако метаданные сообщают только о safetensors, поэтому фактический формат весов в описании не уточняется.
GigaChat Audio 10B (A1.8B) — аудионативная языковая модель ai-sage, созданная на основе текстовой GigaChat 3.1 Lightning. Conformer-энкодер речи и адаптер модальности передают аудиоэмбеддинги в декодер Mixture-of-Experts; модель также выполняет текстовые задачи. В названии указаны 10B параметров и активная конфигурация A1.8B, однако метаданные не содержат отдельного значения общего размера модели. Модель предназначена для вопросов и ответов по аудио, классификации звука, поиска событий и фрагментов по времени, создания описаний и кратких пересказов аудио с временными отметками. README также заявляет поддержку использования инструментов. В карточке приведены сравнительные результаты на аудио-бенчмарках и отмечено, что добавление аудиомодальности меняет качество текстовых задач: на части тестов результаты базовой модели снижаются, на других растут. Модель принимает аудио и текстовые запросы, выдаёт текстовые ответы и описания с временными отметками. Для temporal grounding заявлено обучение на длинных аудиозаписях с временной разметкой из TimeGround-1M. Лицензия — MIT.
fastino/GLiNER2-Guardrails-PII-Multi — дообученная Fastino модель семейства GLiNER2, объединяющая извлечение персональных данных и модерацию безопасности текста. Это плотный двунаправленный экстрактор с классификацией и выделением фрагментов по заданной схеме; модель работает локально, ориентирована на CPU и позволяет выполнять обе задачи одним проходом. Модель извлекает и размечает фрагменты по 42 типам PII, а также классифицирует безопасность и токсичность запросов и ответов, выявляет jailbreak-атаки и отказы. Поддерживаются английский, французский, испанский, немецкий, итальянский, португальский и нидерландский языки. Схему меток и набор проверок можно задавать при инференсе. Лицензия — Apache-2.0. По данным карточки, модель сопоставима с отдельными GLiGuard и GLiNER2-PII на соответствующих тестах. Она предназначена для фильтрации ввода и вывода LLM, обнаружения PII и подготовки текста к редактированию или маскированию. Это классификатор и экстрактор, а не полноценная система политик безопасности; качество на неевропейских языках и письменностях не измерялось.
Vontra/GLM-5.3-Flash-MLX-oQ4-MTP — это мультимодальная версия модели GLM-5.3-Flash от Z.ai, преобразованная Vontra в формат MLX для запуска на Apple Silicon. Модель предназначена для задач, связанных с обработкой текста и изображений, включая диалоговое взаимодействие и генерацию ответов в vision-language сценариях. Поддерживаются английский и китайский языки. Модель использует архитектуру glm5_next с разреженной mixture-of-experts, гибридным линейным и разреженным вниманием, manifold-constrained hyper-connections и встроенным слоем предсказания следующего токена. Контекст настроен на 1 048 576 токенов. Веса представлены в формате MLX safetensors и сжаты методом oQ4: основная часть использует 4-битное аффинное квантование с выборочными переопределениями точности 5, 6 и 8 бит. Размер загрузки составляет около 185,7 ГБ. Сохранены исходные токенизатор, шаблон чата, мультимодальный процессор и конфигурация генерации. К сильным сторонам относятся мультимодальность, очень длинный контекст, смешанная точность с защитой чувствительных модулей и встроенная поддержка native MTP для ускорения генерации. Ограничения — значительный объём модели, зависимость от Apple Silicon и необходимость совместимого runtime: требуются MLX-VLM с интеграцией GLM5 Next и сборка oMLX с поддержкой oQ и native MTP; старые версии не поддерживаются. В опубликованном тесте на Apple M3 Ultra с 256 ГБ unified memory базовый режим показал 6,2155 токена/с, а режим native MTP — 4,9969 токена/с. Модель распространяется по лицензии MIT.
Hermes-3-Llama-3.2-3B-GGUF — набор квантованных версий языковой модели Hermes-3-Llama-3.2-3B от NousResearch, подготовленный и опубликованный bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в формате ChatML, ролевое взаимодействие, ответы на инструкции, вызов функций и выдачу структурированных данных в JSON. В README указана поддержка английского языка. Модель содержит около 3 миллиардов параметров и распространяется в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты с точностью от F32 и F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Более компактные варианты требуют меньше оперативной памяти, но могут уступать старшим по качеству; некоторые сборки оптимизированы для ARM или AVX и имеют аппаратные ограничения. Размер контекста в README не указан, как и сведения о мультимодальности, точной архитектуре и результатах оценки. Лицензия обозначена как llama3. Модель подходит для локального инференса на совместимом оборудовании, однако выбранный вариант квантования влияет на требования к памяти, скорость и качество генерации.
Abiray/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF — набор квантизированных моделей в формате GGUF, созданный Abiray на основе Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated от huihui-ai. Базовая модель представляет собой версию Qwythos-9B-Claude-Mythos-5-1M от empero-ai, модифицированную методами abliteration для удаления векторов отказа. Репозиторий также содержит мультимодальные проекционные файлы mmproj для работы с изображениями локально. Модель предназначена для генерации текста, рассуждений и сценариев image-to-text с поддержкой зрения. Заявлены архитектура современного семейства Qwen 3.5, 9 млрд параметров, английский язык и контекст до 1 млн токенов; конкретные возможности зависят от используемой сборки и совместимости с llama.cpp. Доступны варианты квантизации от 3 до 8 бит размером примерно от 4,74 до 9,79 ГБ, включая рекомендуемый компромисс Q4_K_M. Для визуального ввода требуется отдельный проектор mmproj; доступны квантизированный и F16-варианты. К сильным сторонам относятся локальный запуск, широкий выбор квантизации, поддержка длинного контекста и изображений, а также сниженное количество встроенных отказов. Ограничения включают возможную потерю качества при низкой квантизации, требования к свежей версии llama.cpp и необходимость дополнительного проектора для мультимодальной работы. Модель распространяется по лицензии Apache-2.0.
quarkss/indobert-base-stsb — модель Sentence Transformers, дообученная автором quarkss на indobenchmark/indobert-base-p2 для оценки семантического сходства предложений на индонезийском языке. Она кодирует предложения и абзацы в плотные векторы размерности 768; сходство между ними можно оценивать по косинусной мере. Архитектура включает BERT и усредняющий пулинг токенов, максимальная длина последовательности — 512 токенов. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текстов. В README приведены результаты оценки сходства на STSB, но их переносимость на другие наборы данных и сценарии не гарантируется. Для работы с моделью используется библиотека Sentence Transformers. Веса доступны в формате safetensors; условия лицензии в предоставленных данных не описаны.
Infinity-Instruct-7M-Gen-Llama3_1-70B-GGUF — это GGUF-квантизированная версия генеративной модели Infinity-Instruct-7M-Gen-Llama3_1-70B, разработанной BAAI и подготовленной квантизацией пользователем bartowski. Модель основана на Llama 3.1 с 70 миллиардами параметров и предназначена для генерации текста и выполнения инструкций на английском языке. Модель подходит для диалоговых сценариев, обработки инструкций и других задач text generation. Она использует архитектуру Llama 3.1 и запускается через llama.cpp, в том числе в LM Studio. В репозитории доступны варианты квантизации от Q8_0 до Q2_K, включая рекомендуемые Q4, Q5 и Q6; размер файлов составляет примерно от 27 до 75 ГБ. Для работы следует использовать указанный формат prompt с системным сообщением, пользовательским запросом и ответом ассистента. Сильная сторона модели — большой размер и широкий выбор вариантов квантизации, позволяющий выбирать между качеством и требованиями к памяти. Более высокие варианты обеспечивают качество, близкое к исходной модели, а низкобитные подходят для систем с ограниченным объёмом RAM, но заметно снижают качество. Мультимодальность и размер контекстного окна в README не указаны. Лицензия обозначена как llama3.1; исходная модель обучена на датасете BAAI/Infinity-Instruct.
FineInstructions Instruction Template Retrieval Embedding — модель эмбеддингов для поиска шаблонов инструкций FineTemplates, разработанная в рамках проекта FineInstructions. Она сопоставляет документ или его фрагменты с подходящими шаблонами инструкций; благодаря симметричному поиску также подходит для поиска документов по описанию документа, совместимого с шаблоном. Модель дообучена на синтетических данных с помощью DataDreamer на базе BAAI/bge-m3. Это плотная модель семейства XLM-RoBERTa с 658,7 млн параметров, рассчитанная на контекст до 8194 токенов. Она создаёт текстовые эмбеддинги для семантического поиска и сравнения сходства предложений; заявлена библиотека Sentence Transformers, веса доступны в формате safetensors. Подходит для поиска шаблонов по целым документам и их разделам, а также для обратного поиска документов по описанию шаблона. README не сообщает конкретный перечень языков и лицензию, поэтому их условия здесь не уточняются.
Jan-v2-VL-f32-AIO-GGUF — GGUF-сборка 8-миллиардной vision-language модели Jan-v2-VL, разработанной командой JanHQ. Модель предназначена для взаимодействия с визуальными и текстовыми данными, а также для выполнения многошаговых задач в реальных программных средах, включая браузеры и настольные приложения. Модель сочетает языковое рассуждение с визуальным восприятием, поддерживает анализ скриншотов, заземление элементов интерфейса и вызов инструментов. Она рассчитана на агентную автоматизацию, управление пользовательским интерфейсом, следование сложным инструкциям, сохранение промежуточного состояния и восстановление после незначительных ошибок. Заявлен английский язык, однако сведения о размере контекста и точной архитектуре в README не указаны. Доступны варианты low, med и high: low ориентирован на эффективность и меньшую задержку, med предлагает баланс качества и скорости, а high использует более глубокое рассуждение и требует больше времени на обработку. Сильными сторонами являются работа с визуально-текстовыми сценариями, устойчивое пошаговое выполнение длинных последовательностей и возможность локального запуска через vLLM и llama.cpp. Ограничениями являются отсутствие в README подробных метрик, данных о контекстном окне и гарантий качества за пределами заявленных сценариев, а также повышенные требования к ресурсам для полноразмерных F32-файлов. Модель распространяется по лицензии Apache-2.0.