I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельT5Gemma-9B-2B-UL2-IT — разработанная Google инструктивно дообученная текстовая модель семейства T5Gemma. Это encoder-decoder архитектура: энкодер на 9 млрд параметров и декодер на 2 млрд; модель адаптирована с использованием UL2 и предназначена для преобразования текста в текст. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Модель подходит для генерации текста по инструкциям, ответов на вопросы, суммаризации и рассуждений, а также для черновиков писем и другого контента. Карточка указывает поддержку английского языка и возможность применения в чат-сценариях. По сравнению с моделями, где энкодер и декодер одинакового размера, сочетание 9B/2B рассчитано на компромисс между качеством и эффективностью. Модель может ошибаться в фактах, отражать смещения обучающих данных и хуже справляться с неоднозначными формулировками, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия Gemma; при использовании следует учитывать правила допустимого применения Gemma и предусмотреть проверку генерируемого содержимого.
T5Gemma — семейство текстовых моделей кодировщик–декодер, разработанное Google; этот вариант настроен для следования инструкциям и использует PrefixLM. Модель основана на T5Gemma с 9 млрд параметров в кодировщике и 9 млрд в декодере, адаптированной из авторегрессионной Gemma в архитектуру кодировщик–декодер. Модель принимает и генерирует текст на английском языке. Она предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации и рассуждений; карточка также описывает применение семейства для творческого письма, черновиков писем и задач NLP. Весовые файлы опубликованы в формате safetensors. Как и другие генеративные модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и испытывать трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; при использовании следует учитывать правила допустимого применения моделей Gemma.
Google T5 Version 1.1 Large LM-Adapted — англоязычная текстовая модель семейства T5 с архитектурой encoder-decoder, предназначенная для генерации текста по текстовому запросу. Модель содержит 385,2 млн параметров и доступна в форматах PyTorch и TensorFlow. Чекпойнт основан на T5 Version 1.1 Large и дополнительно обучен Google в течение 100 тысяч шагов на языковой моделирующей цели. Предварительное обучение проводилось на наборе C4 с задачами восстановления текста и языкового моделирования; версия LM-Adapted рассчитана, в частности, на prompt tuning и последующую адаптацию к задачам понимания и генерации текста. Модель поддерживает англоязычные сценарии преобразования текста, включая суммаризацию, ответы на вопросы и классификацию после соответствующей настройки. Для практического применения на конкретной задаче может потребоваться дообучение; README рекомендует включать dropout при fine-tuning. Лицензия — Apache-2.0.
Tailorbird v0.2 — созданная vcerny дообученная языковая модель для сжатия истории диалога и передачи устойчивой памяти между этапами работы ассистента. Она обучена методом supervised fine-tuning с LoRA на базе openbmb/MiniCPM5-2B-Midtrain; после обучения адаптер объединён с базовой моделью. Модель содержит 2,2 млрд параметров, использует плотную архитектуру семейства Llama и распространяется в формате Safetensors. По карточке она принимает текст и формирует текстовые заметки с фактами, решениями, ограничениями и открытыми вопросами; контекст модели — до 131 072 токенов. Основные сценарии — уплотнение разговоров, обновление накопительных заметок и подготовка структурированных сводок для передачи задачи другому агенту. Модель ориентирована на английские запросы с явно заданным форматом вывода; для детерминированных заметок карточка рекомендует жадное декодирование и чёткий контракт в промпте. В метаданных также указана поддержка чата и интерфейса вызова инструментов. Независимые тестовые бенчмарки не приведены. Хотя архитектурное окно контекста велико, обучение проводилось на последовательностях до 2 048 токенов, а работа на предельной длине контекста не проверялась. Модель может пропускать, объединять или неверно классифицировать сведения, поэтому её заметки требуют проверки и не должны служить единственным основанием для важных решений. Лицензия — Apache License 2.0.
Tess-2.0-Mixtral — языковая модель общего назначения из серии Tess, разработанной migtissera. Она обучена на базе mistralai/Mixtral-8x7B-v0.1 и использует архитектуру MixtralForCausalLM с разреженной архитектурой MoE. Модель предназначена для генерации текста и диалогов; формат запросов включает роли SYSTEM, USER и ASSISTANT. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors, лицензия — Apache-2.0. В карточке указано, что модель uncensored; она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент, поэтому результаты следует проверять.
Thomson-1.0-Small-GGUF — квантизированная версия модели Thomson-1.0-Small, разработанной Thomson Reuters и подготовленной сообществом bartowski в формате GGUF для запуска через llama.cpp. Модель содержит около 35 млрд параметров и относится к мультимодальным моделям: принимает текст и изображения при наличии файла mmproj. Поддержка спекулятивного декодирования отсутствует; при квантизации использовалась imatrix. Модель предназначена для задач генерации и обработки текста, а также сценариев, где требуется анализ изображений вместе с текстовыми запросами. Доступны варианты квантизации от BF16 и Q8_0 до более компактных IQ3 и Q3, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Рекомендуемым универсальным вариантом указан Q4_K_M размером около 21,39 ГБ; более качественные варианты требуют до 30–37 ГБ, а полная версия BF16 — около 69,38 ГБ. README не содержит сведений об архитектуре, поддерживаемых языках или размере контекстного окна, поэтому эти характеристики нельзя определить достоверно. Качество зависит от выбранного уровня квантизации: старшие варианты обеспечивают более высокую точность, а компактные требуют меньше памяти, но могут заметнее снижать качество. Модель распространяется по лицензии PolyForm Strict 1.0.0; конкретные условия использования следует проверять в тексте этой лицензии.
Это модель Sentence Transformer, разработанная на основе keepitreal/vietnamese-sbert и дообученная на парном наборе данных из 10 200 примеров. Она использует RoBERTa с усреднением токенных представлений и преобразует предложения и абзацы в плотные векторы размерностью 768; близость текстов оценивается косинусным сходством. Модель предназначена для семантического поиска, сравнения предложений, поиска перефразирований, кластеризации и классификации текста, в первую очередь на вьетнамском языке. Максимальная длина последовательности — 256 токенов по карточке модели; метаданные указывают контекст до 258 токенов. В README приведены результаты оценки поиска для векторов размерностью 768 и 512, однако они не гарантируют качество на других данных и сценариях. Лицензия в предоставленных сведениях не указана.
Это модель зрения и языка timm/vit_large_patch14_clip_224.metaclip_2pt5b, основанная на архитектуре CLIP ViT-L/14 с активацией QuickGELU и обученная на датасете MetaCLIP-2.5B. Она доступна для использования через библиотеки open_clip и timm и предназначена для классификации изображений по текстовым описаниям без отдельного обучения на заданных классах. Модель сопоставляет изображения и текстовые метки в общем пространстве представлений, что позволяет выбирать наиболее подходящее описание из предложенного набора. Весовые файлы представлены в форматах PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
timm/ViT-SO400M-16-SigLIP2-512 — преобразованная для OpenCLIP модель зрения и языка семейства SigLIP 2, обученная на наборе WebLI. Исходные контрольные точки JAX из Big Vision были конвертированы для использования с OpenCLIP; модель использует контрастивное сопоставление изображений и текста и предназначена для классификации изображений без дополнительного обучения по текстовым описаниям классов. Модель подходит для поиска изображений по текстовым меткам и для классификации с произвольным набором категорий. Карточка указывает многоязычную направленность SigLIP 2, но конкретные поддерживаемые языки и размер модели здесь не приведены. Репозиторий содержит веса PyTorch и Safetensors, библиотека — OpenCLIP. Лицензия — Apache-2.0.
Voxtral-Mini-3B-2507-gguf — это квантизированная GGUF-версия мультимодальной аудиотекстовой модели Voxtral Mini 1.0 (3B), разработанной Mistral и подготовленной для transcribe.cpp сообществом handy-computer. Модель предназначена для автономного распознавания речи, перевода речи и анализа аудио без подключения к облачным сервисам. Она поддерживает английский, французский, немецкий, испанский, итальянский, португальский, нидерландский и хинди, а также автоматическое определение языка, ответы на вопросы по аудио и создание структурированных резюме. Архитектура сочетает двунаправленный аудиоэнкодер Whisper-large-v3, проектор с группировкой по четыре аудиокадра и причинную языковую модель Ministral-3B с 30 слоями, GQA 32/8, NEOX RoPE и SwiGLU. Контекст составляет 32 тысячи токенов: модель рассчитана на обработку аудиозаписей длительностью до 30 минут при транскрибации и до 40 минут при понимании аудио. Доступны варианты BF16, F16 и квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 2,98 до 9,38 ГБ. На LibriSpeech test-clean заявлена точность WER от 1,87% до 1,94% в зависимости от варианта. К сильным сторонам относятся офлайн-работа, мультиязычность, поддержка перевода и единая модель для распознавания и понимания аудио. Ограничения реализации transcribe.cpp: потоковая обработка и временные метки не поддерживаются, вход должен быть монофоническим WAV с частотой 16 кГц, а декодирование выполняется жадным методом. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
V-SPLADE — разработанная NAVER и соавторами разреженная модель поиска по визуальным документам. Она находит страницы PDF, слайды и отсканированные отчёты по текстовому запросу, кодируя изображения страниц в разреженные векторы для поиска через инвертированный индекс. Модель содержит 250 млн параметров и использует архитектуру BiModernVBert; доступна в формате safetensors и рассчитана на работу через Sentence Transformers. При обработке запросов применяется обученный Bag-of-Words lookup без запуска нейросетевого кодировщика, а страницы документов проходят через модель. Такой подход предназначен для быстрого построения индексов и масштабного поиска без GPU на этапе обработки запросов. README приводит результаты на визуальных бенчмарках, однако они не гарантируют аналогичного качества на других корпусах. Лицензия Apache-2.0.
watt-tool-70B-GGUF — это квантизированная версия языковой модели watt-tool-70B, разработанной watt-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, вызова функций и взаимодействия с внешними инструментами; в метаданных также указана совместимость с задачами BFCL. Поддерживается запуск через llama.cpp, LM Studio и другие проекты на базе llama.cpp. Модель имеет размер 70B параметров; в README она связана с архитектурой Llama и заявлена для английского языка. Длина контекста, точный набор поддерживаемых модальностей и дополнительные архитектурные характеристики не указаны. Доступно множество вариантов квантизации от Q2 до Q8, различающихся размером файлов и качеством: Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и Q4_K_S отмечены как рекомендуемые, тогда как варианты Q2 и Q3 обеспечивают экономию памяти за счёт снижения качества. Сильными сторонами модели являются ориентация на function calling и tool use, а также возможность локального запуска на совместимом оборудовании. Ограничения связаны с потерями качества при использовании низкобитных вариантов квантизации, значительными требованиями к памяти у 70B-модели и отсутствием заявленной поддержки языков, кроме английского. Лицензия — Apache-2.0.
facebook/wav2vec2-large-xlsr-53-italian — модель распознавания итальянской речи, опубликованная Facebook. Она основана на архитектуре Wav2Vec2 с выходной головой CTC и примерно 402,7 млн параметров. Модель предназначена для преобразования аудиозаписей на итальянском языке в текст; в карточке приведена оценка на тестовой части Common Voice для итальянского языка — 22,1%. Репозиторий содержит веса PyTorch и Flax. Модель подходит для расшифровки записей и оценки систем распознавания итальянской речи. Лицензия — Apache-2.0. Результат оценки приведён без пояснения метрики, поэтому по карточке нельзя определить, означает ли 22,1% ошибку или другую величину качества.
Это модель автоматического распознавания испанской речи на базе Wav2Vec2-Large-XLSR-53 с поддержкой языковой модели. Её подготовил Patrick von Platen как демонстрацию интеграции pyctcdecode с Transformers; в README описана замена стандартного Wav2Vec2Processor на Wav2Vec2WithLMProcessor. Модель предназначена для преобразования аудиозаписей на испанском языке в текст. В сравнении на 512 образцах тестовой части Spanish Common Voice она показала WER 8,44% и CER 2,93%, против 10,20% и 3,24% у указанной базовой модели без языковой модели. Доступны веса PyTorch, TensorFlow и Flax; размер модели — около 402,7 млн параметров. Репозиторий распространяется по лицензии Apache-2.0. Результаты оценки относятся к указанной выборке Common Voice; качество на других типах речи и в иных акустических условиях в карточке не измеряется.
Wav2Vec2-Large-XLSR-53-Ukrainian — модель распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на украинском языке на данных Common Voice. Она принимает аудио и преобразует речь в текст; входной сигнал должен иметь частоту дискретизации 16 кГц. Архитектура — Wav2Vec2ForCTC, размер — 402,7 млн параметров; доступны веса PyTorch и Flax. Модель предназначена для автоматической транскрибации украинской речи, в том числе для оценки на тестовой выборке Common Voice. В README приведён результат тестирования 32,29 %, однако метрика не уточнена, поэтому это значение нельзя напрямую интерпретировать как точность распознавания. Модель распространяется по лицензии Apache-2.0.
WestKunai-Hermes-long-128k-test-7b — слитая языковая модель на архитектуре Mistral, созданная автором seyf1elislam с помощью mergekit из WestKunai-Hermes-7b и NousResearch/Yarn-Mistral-7b-128k. Модель содержит 7,1 млрд параметров и предназначена для генерации текста.
AiLab.lv дообучила Whisper large-v3 для распознавания латышской речи. Модель принимает аудио и преобразует его в текст; её обучали на 209 часах латышских записей из Common Voice 17.0 и LATE-Media с помощью Transformers. Это плотная encoder-decoder модель WhisperForConditionalGeneration примерно с 905 млн параметров, опубликованная в форматах PyTorch и safetensors. Для Common Voice 17.0 указаны WER 3,4% на нормализованном тесте и 5,0% на форматированном; на тесте LATE-Media WER составляет 20,8%. Модель распространяется по лицензии Apache-2.0. Авторы отмечают, что её сменила более новая версия whisper-large-v3-lv-late-cv19.
Chillarmo/whisper-large-v3-turbo-armenian — модель распознавания армянской речи, разработанная Movses Movsesyan и дообученная на базе openai/whisper-large-v3-turbo на наборе Chillarmo/common_voice_20_armenian. Она преобразует аудио с армянской речью в текст и предназначена для транскрибации записей, создания субтитров, голосовых интерфейсов и анализа разговоров. Архитектура Whisper Large v3 Turbo использует Transformer-энкодер для обработки мел-спектрограмм и Transformer-декодер для генерации текста; размер модели — 905,2 млн параметров. Модель рассчитана на армянский язык и использует библиотеку Transformers. В README приведены результаты оценки на отложенной выборке того же датасета: WER 15,31%, CER 2,86% и точное совпадение для 42,73% высказываний. Качество может снижаться на шумных записях, при диалектных различиях и в областях, отличающихся от обучающих данных; для критически важных решений требуется проверка человеком. Модель требует больше вычислительных ресурсов, чем меньшие варианты Whisper. Лицензия — Apache 2.0.
bofenghuang/whisper-medium-french — модель распознавания французской речи, полученная дообучением openai/whisper-medium. Она предназначена для преобразования аудиозаписей на французском языке в текст и обучена на составном наборе данных с более чем 2200 часами речи, включая Common Voice, Multilingual LibriSpeech, VoxPopuli, Fleurs, Multilingual TEDx, MediaSpeech и African Accented French. Модель построена на архитектуре Whisper и содержит около 455,8 млн параметров; для входного аудио требуется частота дискретизации 16 кГц. В README приведены результаты оценки на французских поднаборах Common Voice 11.0, Multilingual LibriSpeech, VoxPopuli и Fleurs. Модель не предсказывает регистр букв и пунктуацию, а опубликованные оценки рассчитаны на предварительно отфильтрованных данных. Репозиторий распространяется под лицензией Apache-2.0.
jlondonobo/whisper-medium-pt — дообученная модель распознавания речи на базе Whisper Medium, созданная для транскрибирования аудио на португальском языке. Разработчик дообучил openai/whisper-medium на наборе mozilla-foundation/common_voice_11; архитектура — WhisperForConditionalGeneration, формат весов — PyTorch, размер по метаданным — 455,8 млн параметров. Модель преобразует португальскую речь в текст. В README приведён результат WER 6,579 на Common Voice 11 и заявлено улучшение относительно исходной Whisper Medium; это оценка на указанном наборе данных, а не гарантия качества на других записях. Для коротких аудиофрагментов предлагается Transformers pipeline, а для длинных транскрипций README описывает отдельный способ запуска с оригинальным алгоритмом Whisper. Лицензия — Apache-2.0.
IonGrozea/whisper-small_ro-80mel — модель распознавания румынской речи, созданная дообучением openai/whisper-small на объединённом корпусе румынских аудиозаписей объёмом около 445 часов. Модель Whisper содержит 153,1 млн параметров и принимает аудио в виде мел-спектрограмм с 80 полосами; на выходе формирует текстовую транскрипцию. В метаданных указана поддержка румынского языка и лицензия Apache 2.0. Модель предназначена для транскрибирования румынской речи. В README сообщается о WER 0,0925 и CER 0,0293 на валидационной выборке из 25 348 примеров, оценённой с beam=5. Эти результаты относятся к описанному протоколу оценки; качество на других наборах данных и акустических условиях может отличаться.
istomin9192/whisper-small-sr — дообученная модель OpenAI Whisper Small для автоматического распознавания сербской речи. Она предназначена для транскрибирования аудио с выводом текста только латиницей на сербском языке. Модель построена на архитектуре Whisper и содержит 153,1 млн параметров; доступна в формате safetensors и рассчитана на использование через Transformers. Модель обучали на смеси открытых сербских речевых корпусов, включая Common Voice 24.0, FLEURS и часть ParlaSpeech-RS. В README приведены результаты WER 6,59% и 7,09% на тестовой выборке Common Voice 24.0; для нормализованной оценки удаляли пунктуацию, приводили текст к нижнему регистру, конвертировали кириллицу в латиницу и записывали числа словами. Лицензия — Apache-2.0.
YamshadowInex12_NeuralExperiment26 — слитая модель семейства Mistral с 7,1 млрд параметров, созданная из automerger/YamshadowInex12-7B и automerger/NeuralExperiment26-7B. Она предназначена для генерации текста и работы с запросами в пределах контекстного окна до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.
GLM-4.7-GGUF — набор квантизованных версий языковой модели GLM-4.7, разработанной zai-org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие проекты на его основе. Заявлены английский и китайский языки; поддерживаются сценарии диалогового взаимодействия и текстовой генерации с указанным в README форматом промпта. Модель поставляется в формате GGUF с вариантами квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4 и IQ2–IQ4, размером от 88,79 до 380,97 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b7475. Старшие варианты обеспечивают более высокое качество, тогда как младшие требуют меньше памяти, но заметно уступают по качеству; точные архитектурные характеристики, число параметров, размер контекста и поддерживаемые модальности в README не указаны. Модель распространяется по лицензии MIT.
ZDTaichu5.0-9B-GGUF — набор community-квантизаций мультимодальной foundation-модели ZDTaichu5.0-9B, разработанной TaichuAI и адаптированной в формате GGUF пользователем ngquocvinh для работы с llama.cpp. Модель предназначена для визуального понимания, пространственного рассуждения, агентского использования инструментов и задач embodied AI. Она принимает текст, одно или несколько изображений и видео; заявлены входные изображения произвольного разрешения и контекст до 128K токенов, однако фактический доступный контекст зависит от используемого runtime и объёма памяти. Поддерживаются английский и китайский языки. Архитектура включает языковую основу Qwen3.5-9B и vision encoder C-RADIOv4-H. Языковая часть поставляется в виде нескольких квантизированных GGUF-файлов разных уровней, а vision encoder и projector — отдельно в BF16-файле mmproj-ZDTaichu5.0-9B-BF16.gguf. Квантизации позволяют запускать модель на оборудовании с ограниченной памятью, но сопровождаются компромиссом между размером и сохранением качества: варианты Q8_0 и Q6_K ближе всего к BF16, а низкоразрядные варианты, особенно IQ1_M и Q1_0, имеют существенно худшую точность и не рекомендуются при необходимости сохранить возможности модели. Приведённые измерения оценивают только текстовое next-token поведение и не заменяют тестирование мультимодальных задач. Для обработки изображений и видео требуется сборка llama.cpp с поддержкой mtmd и совместный vision projector; текстовый режим может работать без него. Лицензия указана как nvidia-open-model-license, при этом данная публикация является community-конвертацией и квантизацией базовой модели.
GLM4-9B-Neon-v2-GGUF — это набор квантизированных версий языковой модели GLM4-9B-Neon-v2, разработанной allura-org и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других совместимых проектах. Указан английский язык; поддержка других языков и мультимодальных входов не заявлена. Размер базовой модели — 9B параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q2 и IQ-квантизаций с размером файлов примерно от 4,6 до 18,8 ГБ. Версии Q6 и Q5 позиционируются как высококачественные, Q4 — как оптимальные по соотношению качества и размера, а варианты Q3 и Q2 рассчитаны на системы с ограниченной оперативной памятью, но имеют более заметные потери качества. Контекстное окно в README не указано. Для работы требуется использовать соответствующий шаблон prompt format с управляющими токенами GLM4. Лицензия — MIT.
AbderrahmanSkiredj1/Arabic_text_embedding_for_sts — модель Sentence Transformers, разработанная Abderrahman Skiredj. Это дообученная BERT-модель для получения плотных векторных представлений арабских предложений и абзацев и оценки их семантического сходства. Её можно применять для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель содержит 162,4 млн параметров, использует mean pooling и выдаёт эмбеддинги размерностью 768; для сравнения текстов предусмотрено косинусное сходство. Максимальная длина входа — 512 токенов. Модель обучена на датасете с парами и тройками арабских текстов, включающем данные Quora, STS, Alue, Holy Quran и Aranli. Модель предназначена прежде всего для работы с арабским языком; качество для других языков не заявлено. Лицензия в предоставленных данных не указана.
ERNIE-4.5-21B-A3B-Thinking-GGUF — это квантизированная версия языковой модели ERNIE-4.5-21B-A3B-Thinking, разработанной Baidu. Данный репозиторий подготовлен пользователем bartowski в формате GGUF с использованием llama.cpp и калибровочных imatrix-данных. Модель предназначена для генерации текста и локального запуска в llama.cpp, LM Studio и других совместимых проектах. В README указано, что доступны варианты от исходных весов BF16 размером 43,66 ГБ до различных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Обозначение 21B указывает на заявленный размер модели, однако дополнительные сведения об архитектуре, числе активных параметров, контекстном окне, поддерживаемых языках и модальностях в предоставленных данных отсутствуют. Формат GGUF и набор квантований позволяют выбирать компромисс между качеством, потреблением памяти и скоростью локального вывода; наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M описан как рекомендуемый вариант стандартного размера. Ограничения включают снижение качества при использовании более компактных квантований, особенно Q3 и некоторых IQ-вариантов, а также отсутствие указанного в README шаблона промпта. Лицензия модели и условия её использования в предоставленных данных не указаны, поэтому их следует уточнить на странице исходной модели Baidu.
sentence-transformers/bert-large-nli-mean-tokens — модель Sentence-Transformers, разработанная командой Sentence Transformers для преобразования предложений и абзацев в плотные векторные представления размерностью 1024. Она основана на BERT Large и использует усреднение контекстуализированных токенов; число параметров составляет около 433,9 млн, а максимальная длина контекста — 512 токенов. Модель предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации предложений или абзацев. Её можно применять для получения эмбеддингов и последующего поиска или группировки текстов. Карточка предупреждает, что модель устарела и выдаёт эмбеддинги низкого качества, поэтому для новых систем рекомендуются более современные модели Sentence-Transformers. Лицензия — Apache-2.0.
Модель BGE base Financial Matryoshka разработана как Sentence Transformer с дообучением от BAAI/bge-base-en-v1.5. Она кодирует английские предложения и абзацы в плотные эмбеддинги размерностью 768; в архитектуре используются BERT, пулинг по CLS-токену и нормализация векторов. Максимальная длина входа — 512 токенов, сходство оценивается косинусной мерой. Благодаря Matryoshka-обучению эмбеддинги можно использовать в укороченных размерностях для поиска и сравнения текста. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста, включая поиск по финансовым материалам. В README приведены результаты на небольшом наборе из 16 обучающих примеров; для информационного поиска метрика cosine_accuracy@1 равна 0 на нескольких размерностях, поэтому качество на целевых данных следует проверять отдельно. Модель использует библиотеку sentence-transformers и распространяется по лицензии Apache-2.0.