I.3Извлечение и структурирование данных

llazio/finetuned-bge-base-en — англоязычная модель Sentence Transformers, дообученная автором llazio на базе BAAI/bge-base-en. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения текстов по косинусному сходству. Архитектура включает BERT, пулинг CLS-токена и нормализацию; максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов. В README приведены результаты оценки на обучающей и проверочной выборках, однако датасет небольшой — 1 056 обучающих и 264 оценочных примера, поэтому эти показатели не гарантируют аналогичного качества на других данных. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Gonalb/flucold-ft-v0 — модель Sentence Transformers, дообученная на базе Snowflake/snowflake-arctic-embed-l. Она преобразует предложения и абзацы в плотные векторы размерности 1024, нормализованные для сравнения по косинусному сходству. Архитектура основана на BertModel с pooling по CLS-токену; максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. В README приведены результаты оценки поиска на небольшом наборе данных из 334 обучающих примеров. Репозиторий содержит веса в формате safetensors; условия лицензии в предоставленных данных не описаны.

hugging-quants/gemma-2-9b-it-AWQ-INT4 — общественная квантованная версия Google Gemma 2 9B Instruct, подготовленная сообществом с использованием AutoAWQ. Это текстовая decoder-only языковая модель с открытыми весами, ориентированная на генерацию текста на английском языке. Модель предназначена для диалоговых приложений, ответов на вопросы, суммирования, рассуждений и других задач генерации текста. Она использует 4-битное представление INT4 с GEMM-ядрами, zero-point-квантованием и размером группы 128, что уменьшает требования к памяти и упрощает локальное или облачное развёртывание. Для загрузки контрольной точки требуется около 6 ГиБ видеопамяти без учёта KV-кэша и CUDA-графов; рекомендуется иметь немного больше доступной памяти. Модель поддерживается через transformers, AutoAWQ и Text Generation Inference. Для работы требуется transformers версии 4.45.0 или выше; токенизатор из репозитория несовместим с более старыми версиями. Квантование может снизить точность по сравнению с исходной версией Gemma 2 9B Instruct в BF16, однако README не содержит количественной оценки этого эффекта. Лицензия указана как gemma.

gaunernst/gemma-3-12b-it-int4-awq — инструкцияно дообученная мультимодальная модель семейства Gemma 3, разработанная Google DeepMind. Данный репозиторий содержит QAT INT4 Flax-чекпойнт, преобразованный в формат HF+AWQ для использования с Transformers; при этом квантование AWQ непосредственно не применялось. Базовая модель — google/gemma-3-12b-it. Модель принимает текст и изображения и генерирует текст. Она предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений, включая описание визуального содержимого. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов. Контекстное окно составляет 128K токенов, максимальный объём генерируемого вывода — 8192 токена. Заявлена поддержка более 140 языков. Ключевые преимущества — мультимодальность, большое контекстное окно и сниженные требования к ресурсам благодаря представлению INT4, что может упростить развёртывание на локальной инфраструктуре или в облаке. Ограничения включают зависимость от совместимой версии Transformers и необходимость учитывать особенности формата конвертированного чекпойнта; README не содержит результатов бенчмарков или подробностей о качестве на отдельных языках и задачах. Использование регулируется лицензией Gemma и условиями Google; доступ к исходной модели на Hugging Face требует принятия соответствующей лицензии.

AxionML Gemma-4-12B-FP8 — квантизированная версия мультимодальной модели Google Gemma-4-12B-it, разработанная AxionML для открытого использования и производительного развертывания. Модель поддерживает сценарии image-text-to-text и рассчитана на применение в задачах обработки текста, изображений и аудио, включая диалоговые приложения, рассуждения и вызовы инструментов. Точный список языков и размер контекстного окна в карточке не указаны. Модель содержит около 11,95 млрд параметров. Веса линейных слоёв преобразователя квантизированы в FP8 E4M3 по блокам 128×128 с MSE-калибровкой, активации сохраняются в BF16, а KV-кэш хранится в FP8. Мультимодальные эмбеддеры и lm_head оставлены в BF16. Размер чекпойнта составляет около 13 ГБ вместо примерно 24 ГБ у версии BF16. По данным README, такая схема сохраняет качество на GSM8K и поддерживает запуск на GPU NVIDIA Hopper и Blackwell, включая H100 и H200. Сильными сторонами являются уменьшенное потребление памяти, сохранение активаций в BF16 для защиты от потери качества и совместимость с оптимизированными средствами обслуживания SGLang и TensorRT Model Optimizer. Ограничение состоит в том, что для работы требуются совместимые версии программного обеспечения и поддерживаемое оборудование; стандартная квантизация активаций W8A8 для этой модели, согласно README, заметно ухудшает качество. Указана лицензия Apache-2.0.

German-RAG-BGE-M3-MERGED-x-SNOWFLAKE-ARCTIC-HESSIAN-AI — объединённая модель Sentence Transformers команды German-RAG AI. Она кодирует предложения и абзацы в плотные векторы размерности 1024 для сравнения текстов и семантического поиска. Архитектура основана на XLM-RoBERTa с pooling по CLS-токену и нормализацией; максимальная длина последовательности — 8192 токена, сходство можно измерять косинусной мерой. Модель предназначена прежде всего для немецкоязычных сценариев RAG и поиска: сопоставления запроса с документами, ранжирования контекстов по смысловой близости, поиска парафраз и тематической кластеризации. В README приведены оценки на задачах классификации, поиска и семантического сходства, включая немецкие наборы данных. Поддерживаются немецкий и английский языки. Модель объединяет German-RAG-BGE-M3-TRIPLES-MERGED-HESSIAN-AI и Snowflake/snowflake-arctic-embed-l-v2.0; указано 658,7 млн параметров. Лицензия — MIT. Показатели в README зависят от набора данных и не гарантируют превосходство на произвольных корпусах; входом служит текст, выходом — векторные представления.

RedHatAI/GLM-5.3-MXFP4 — текстовая генеративная модель, разработанная RedHatAI на основе zai-org/GLM-5.3. Она предназначена для задач генерации текста, следования инструкциям и решения математических и других reasoning-задач. Модель принимает текст и возвращает текст, поддерживает английский и китайский языки и реализует архитектуру GlmMoeDsaForCausalLM. Размер модели и длина контекстного окна в README не указаны. Это квантизированная версия GLM-5.3 для инференса через vLLM. Веса и активации линейных операторов внутри transformer-блоков представлены в формате FP4 по схеме MXFP4 с микромасштабированием OCP; для весов используются формат e2m1, группы размера 32 и масштабы E8M0, а для активаций — динамическое масштабирование по группам. По сравнению с контрольной версией FP8 такая оптимизация примерно на 50% уменьшает размер на диске и требования к памяти GPU, при этом на заявленных тестах сохраняет большую часть качества FP8-модели. Наибольшее относительное снижение показателей отмечено на AIME 2025 и GPQA Diamond. Модель предназначена для развёртывания с vLLM; в README приведена конфигурация с FP8 KV-cache, четырьмя устройствами в tensor parallelism и speculative decoding. Квантизация выполнена методом model-free post-training quantization без калибровочных данных с использованием LLM Compressor, а модель экспортирована в формате compressed-tensors. Лицензия обозначена как glm-5.3, тип лицензии — other; дополнительные условия в README не раскрыты.

Модель stephanefschwarz/google-bert-MultipleNegativesRanking-InverseCosineSimilarity-loss — Sentence Transformer на архитектуре BERT, предназначенная для получения плотных векторных представлений предложений и абзацев. Она содержит 194,6 млн параметров, формирует эмбеддинги размерности 768 и принимает последовательности длиной до 512 токенов; для объединения токенов используется усреднение. Модель обучали на 10 000 примерах с парами предложений и оценками сходства, применяя CosineSimilarityLoss с функцией MSE. Эмбеддинги можно использовать для семантического сравнения текстов, поиска близких по смыслу фрагментов, поиска парафраз, кластеризации и классификации текста. В карточке приведены также 11 618 примеров для оценки. Модель поддерживает работу через библиотеку Sentence Transformers; лицензия в предоставленных данных не указана.

sembeddings/gptops_finetuned_mpnet_gpu_v1 — модель Sentence Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Обучение с MultipleNegativesRankingLoss и косинусным сходством ориентировано на получение эмбеддингов, близких по смыслу для релевантных текстов. Модель принимает текст и выдаёт векторы; максимальная длина контекста — 514 токенов. Доступны веса PyTorch, использовать модель можно через библиотеку Sentence Transformers. В карточке не названы целевые языки и лицензия, поэтому определить языковую специализацию и условия распространения по имеющимся данным нельзя.

Granite-Embedding-Small-English-R2 — плотная модель эмбеддингов из семейства Granite Embeddings, разработанная командой Granite Embedding Team в IBM. Она преобразует английские запросы, фрагменты и документы в векторы размером 384, предназначенные для сравнения по косинусному сходству и использования в поиске и извлечении информации. Модель использует архитектуру биэнкодера на базе ModernBERT: 12 слоёв и 12 голов внимания. Она содержит 47,7 млн параметров и поддерживает контекст до 8192 токенов. В обучении применялись ориентированное на поиск предварительное обучение, контрастивное дообучение, дистилляция и объединение моделей; заявлены результаты на бенчмарках поиска по документам, коду, таблицам и многоходовым диалогам. Модель предназначена для английского текста. Тексты длиннее 8192 токенов обрезаются; для других языков качество не заявлено. Лицензия — Apache 2.0.

GURU-model — модель Sentence Transformers, дообученная автором saraleivam на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она использует архитектуру XLM-RoBERTa с усреднением токенных представлений и преобразует предложения и абзацы в плотные векторы размерности 768. Модель предназначена для семантического сравнения текстов, поиска и ранжирования похожих фрагментов, поиска перефразировок, кластеризации и классификации текста. Модель обучалась на парах запросов, положительных и отрицательных примеров с использованием MultipleNegativesRankingLoss и косинусного сходства. README указывает максимальную длину последовательности 128 токенов; метаданные каталога приводят длину контекста 514 токенов. Основной язык карточки — английский, при этом унаследованная базовая модель многоязычная. Лицензия в предоставленных данных не указана.

HoangVuSnape/halong_embedding_pr_v3_ep30 — модель Sentence Transformers, дообученная на основе hiieu/halong_embedding. Она использует XLM-RoBERTa с усреднением токенных представлений и нормализацией, чтобы преобразовывать предложения и абзацы в плотные векторы размерностью 768; сходство обычно оценивают косинусной мерой. Максимальная длина входа составляет 514 токенов по метаданным Hugging Face; в README указано ограничение 512 токенов. Модель подходит для поиска семантически близких текстов, оценки сходства предложений, поиска информации, обнаружения перефразировок, кластеризации и классификации текста на основе эмбеддингов. В карточке приведены оценки поиска на нескольких размерностях векторов, однако они относятся к указанным в README наборам и не гарантируют такие же результаты на других данных. Для работы требуется библиотека Sentence Transformers; веса опубликованы в формате safetensors. Языковая выборка README содержит вьетнамские тексты, но широкая языковая поддержка XLM-RoBERTa сама по себе не подтверждает конкретные языки обучения этой версии. Лицензия в предоставленных данных не указана.

majentik/harrier-oss-v1-270m-MLX-4bit — 4-битная квантованная версия мультиязычной модели текстовых эмбеддингов Microsoft microsoft/harrier-oss-v1-270m, подготовленная для Apple Silicon и запуска через mlx-embeddings. Модель основана на декодерной архитектуре Gemma3 с 257 млн параметров по метаданным и контекстом до 32 768 токенов. Для получения эмбеддингов используются pooling по последнему токену и L2-нормализация. Модель предназначена для поиска по смыслу, сравнения предложений, семантического поиска и межъязыкового сопоставления текстов. Базовая модель обучена с инструкционными префиксами для поисковых запросов, семантической текстовой близости и поиска параллельных текстов; заявлена поддержка более 100 языков. Для базовой версии указана оценка MTEB v2 66,5, однако квантованная версия независимо не оценивалась, поэтому её результаты могут отличаться. В README описан локальный патч совместимости для обработки отсутствующей проекционной головы. Репозиторий распространяется по лицензии MIT.

ThanhRise/intfloat-multilingual-e5-base-SimCSE-fine-turned-QA — модель эмбеддингов предложений на архитектуре XLM-RoBERTa, представленная в формате PyTorch и созданная на основе multilingual-e5-base. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель обучена с функцией MultipleNegativesRankingLoss и косинусным сходством. В README она описана как дообученная для задач вопросно-ответного поиска; метаданные указывают задачу sentence-similarity. Она рассчитана на многоязычные тексты, а контекст ограничен 514 токенами. Лицензия в предоставленных данных не приведена.

jina-embeddings-v2-base-de-GGUF — это квантованная GGUF-версия модели jinaai/jina-embeddings-v2-base-de, разработанная Jina AI и квантованная Second State Inc. Модель предназначена для получения векторных представлений текста, которые можно использовать в семантическом поиске, сопоставлении документов, кластеризации и других задачах обработки естественного языка. Она рассчитана на работу через GaiaNet с шаблоном запроса embedding. Модель поддерживает немецкий и английский языки, имеет размерность эмбеддингов 768 и контекст до 8192 токенов. Формат GGUF и квантование выполнены с использованием llama.cpp b4273, что предназначено для более эффективного запуска при сохранении совместимости с соответствующей инфраструктурой. README не содержит подробностей о конкретном методе квантования, размере файла или показателях качества, поэтому производительность и компромисс между точностью и требованиями к ресурсам оценить нельзя. Модель распространяется по лицензии Apache-2.0. Для запуска и настройки предусмотрена инфраструктура GaiaNet; дополнительные сведения о требованиях к оборудованию и вариантах конфигурации в README не указаны.

Kanana-2-30B-A3B-Thinking — языковая модель Kakao Corporation из семейства Kanana-2, предназначенная для генерации текста с пошаговым рассуждением. Это дообученная версия Kanana-2-30B-A3B-Base на архитектуре DeepSeek V3 с механизмами MLA и Mixture of Experts: всего 30 млрд параметров, из которых активируются около 3 млрд. Репозиторий содержит веса в формате Safetensors; для запуска README рекомендует Transformers версии 4.51.0 или новее. Модель рассчитана на сложные инструкции, логические задачи, длительные диалоги и агентные сценарии с вызовом инструментов. Она поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки, а её штатная длина контекста составляет 32 768 токенов. README описывает настройку YaRN для контекстов до 128 тысяч токенов, но предупреждает, что масштабирование может ухудшить качество на коротких текстах. Лицензия указана как Other, поэтому условия использования следует уточнять в карточке модели. README сообщает, что пользовательские данные Kakao не использовались при предварительном обучении и дообучении. Модель ориентирована на генерацию текста; изображения и аудио в качестве входа не заявлены.

KatzBot MiniLLM ST — компактная модель эмбеддингов на базе архитектуры BERT, опубликованная пользователем codegood. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и предназначена для поиска семантически близких текстов, кластеризации и измерения сходства предложений. Модель обучалась с BatchHardTripletLoss на датасете codegood/Katzbot. Модель содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторы. Доступна в формате safetensors для библиотеки sentence-transformers. README не уточняет поддерживаемые естественные языки и лицензию, поэтому область применения по языкам и условия использования определить нельзя.

Карточка модели kkh975/klue-reberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели cheasuar/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели fenderi/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели JoonBo/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели NicePeterKim/klue-roberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

PocketWeights Llama 3.1 8B Instruct abliterated GGUF — это квантизированная версия модели Meta-Llama-3.1-8B-Instruct-abliterated, разработанной huihui-ai на базе архитектуры Meta Llama 3.1. Модель распространяется в форматах GGUF с вариантами квантизации IQ3_M, Q4_K_M и Q6_K, что позволяет запускать её локально на потребительском оборудовании, включая видеокарты с 4–8 ГБ VRAM и компьютеры Apple Silicon. Модель предназначена для генерации текста, диалогов, ролевых сценариев, творческого письма, работы с кодом, анализа репозиториев, создания синтетических данных и исследовательских задач. Заявлена поддержка контекста до 128K токенов, благодаря чему она подходит для обработки длинных документов и многоходовых диалогов. Основной язык и полный набор поддерживаемых языков в README не указаны. К сильным сторонам относятся компактность, возможность автономного запуска, несколько уровней компромисса между качеством и требованиями к памяти, а также отсутствие стандартных отказов и ограничений, характерных для выровненных моделей. Это одновременно является существенным ограничением: модель лишена защитных механизмов, поэтому требует осторожного применения, особенно при работе с потенциально опасными запросами. Качество зависит от выбранного уровня квантизации. Модель распространяется по Meta Llama 3.1 Community License.

NVIDIA Llama 3.1 8B Instruct FP8 — FP8-квантизированная версия инструкционно настроенной авторегрессионной языковой модели Meta Llama 3.1 8B Instruct. Модель подготовлена NVIDIA с помощью TensorRT Model Optimizer; README уточняет, что она не принадлежит NVIDIA и была собрана по требованиям стороннего разработчика. Архитектура — трансформер Llama 3.1 с плотной моделью примерно на 7,5 млрд параметров. Модель принимает текстовые последовательности и генерирует текст, поддерживает диалоговый режим и контекст до 128 тысяч токенов. Квантизация весов и активаций линейных операторов до FP8 предназначена для более экономичного и быстрого инференса: в README указано сокращение требований к диску и памяти GPU примерно на 50% и ускорение примерно в 1,3 раза на H100. Предусмотрен запуск через TensorRT-LLM и vLLM на совместимых GPU NVIDIA. Модель подходит для диалогов, генерации и продолжения текста, а также ответов на инструкции. В README заявлено коммерческое и некоммерческое использование; лицензия в метаданных — llama3.1. Качество и скорость зависят от оборудования и среды инференса; оценка ускорения приведена для конфигурации с H100.

Llama-3_1-Nemotron-51B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Llama-3_1-Nemotron-51B-Instruct, разработанной NVIDIA и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp и LM Studio. Указан английский язык. Модель имеет 51 млрд параметров и доступна в форматах от F16 до различных вариантов 3-, 4-, 5-, 6- и 8-битного квантования. Размер файлов варьируется примерно от 23,49 до 103,01 ГБ. Квантизация выполнена с использованием imatrix; в карточке также отмечено исправление RoPE. Для работы следует использовать указанный шаблон инструкций с системным, пользовательским и ассистентским сообщениями. Контекст модели, архитектурные детали исходной версии и дополнительные модальности в README не указаны; по имеющимся данным это текстовая модель. Сильными сторонами являются широкий выбор вариантов квантования, возможность подобрать баланс между качеством и требованиями к памяти, а также поддержка llama.cpp и LM Studio. Более компактные варианты экономят память, но могут уступать полноразмерной версии по качеству. Для использования применяются условия NVIDIA Open Model License; конкретные ограничения следует проверять в тексте лицензии по указанной ссылке.

Карточка модели IntervitensInc/Llama-3.2-3B-chatml на Hugging Face совпадает с карточкой alpindale/Llama-3.2-3B, поэтому описание составлено по ней. alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

thuan9889/llama_embedding_model_v1 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная пользователем thuan9889. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Модель рассчитана на работу через библиотеку Sentence Transformers; в репозитории представлены веса Safetensors, размер модели — 25,9 млн параметров, контекст — до 512 токенов. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Это подходит для получения векторов, где семантически близкие тексты располагаются рядом, но качество для конкретного языка и предметной области зависит от данных пользователя. Лицензия в предоставленных сведениях не указана.

Llama-SEA-LION-v3.5-8B-R — инструктивная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная decoder-модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная на основе aisingapore/Llama-SEA-LION-v3-8B-IT. Она предназначена для диалога, генерации текста, следования инструкциям и задач, требующих рассуждений; режим рассуждений или стандартной генерации выбирается через шаблон чата токенизатора. Модель поддерживает бирманский, китайский, английский, филиппинский, индонезийский, яванский, кхмерский, лаосский, малайский, сунданский, тамильский, тайский и вьетнамский языки. Контекстное окно — до 128 тысяч токенов по карточке модели; метаданные указывают 131 072 токена. Модель может применяться для ответов на вопросы, анализа тональности и токсичности, перевода, суммаризации, причинных рассуждений и многошагового диалога. Модель способна галлюцинировать, выдавать нерелевантные или противоречивые ответы, поэтому результаты следует проверять. Она не прошла настройку безопасности; для пользовательских приложений разработчикам следует самостоятельно обеспечить необходимую настройку и меры защиты. Лицензия — Llama 3.1 Community License.

unsloth/Meta-Llama-3.1-70B-bnb-4bit — это 4-битно квантованная версия базовой модели Meta Llama 3.1 70B, подготовленная Unsloth для эффективного использования и дообучения. Модель предназначена прежде всего для генерации и обработки текста, включая диалоговые сценарии, продолжение текста и адаптацию под специализированные наборы данных с помощью fine-tuning или DPO. Указан английский язык и поддержка библиотеки Transformers; мультимодальность не заявлена. Ключевая характеристика модели — размер 70 млрд параметров и представление в формате bnb-4bit, снижающее требования к памяти по сравнению с полной точностью. README не содержит сведений о длине контекста, точной архитектуре, вычислительной производительности именно этой версии или результатах оценки качества. К сильным сторонам относятся крупный размер базовой модели и возможность более доступного запуска и дообучения; ограничениями являются повышенные требования к вычислительным ресурсам по сравнению с меньшими моделями и возможные потери качества из-за 4-битной квантизации. Модель распространяется по лицензии llama3.1.

QuantFactory/Meta-Llama-3-70B-Instruct-GGUF — это квантованная версия инструкционной большой языковой модели Meta Llama 3 70B Instruct, подготовленная QuantFactory в формате GGUF. Базовая модель разработана Meta. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется диалоговое взаимодействие или создание текстового контента. В README указано, что поддерживается английский язык и используется задача text-generation. Известно, что модель относится к семейству Llama 3 и имеет размер 70B параметров. Формат GGUF предназначен для совместимого локального запуска, однако конкретный вариант квантования, требования к памяти, длина контекста и поддерживаемые программные средства в README не указаны. Также отсутствуют сведения о дополнительных модальностях, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся инструкционная настройка базовой модели и возможность использования квантованного GGUF-представления для локального вывода. Ограничения включают отсутствие подробностей о типе и качестве квантования, а также о производительности. Использование регулируется Meta Llama 3 Community License. При распространении модели или продуктов на её основе требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Meta Llama 3», сохранение атрибуции Meta и соблюдение Acceptable Use Policy.