I.3Извлечение и структурирование данных

jina-embeddings-v2-base-es-GGUF — это модель для создания векторных представлений текста (эмбеддингов), разработанная Jina AI на основе jinaai/jina-embeddings-v2-base-es и преобразованная в формат GGUF компанией Second State Inc. Она предназначена для семантического поиска, сопоставления текстов, кластеризации, классификации и других задач, где требуется сравнивать смысловое сходство документов или запросов. Модель поддерживает испанский и английский языки, использует контекст размером до 8192 токенов и формирует эмбеддинги размерности 768. В README не указаны точные архитектурные характеристики базовой модели или поддержка дополнительных модальностей, поэтому модель следует рассматривать как текстовую. Доступны варианты квантования Q2_K–Q8_0, а также f16, с размером файлов примерно от 82,7 МБ до 323 МБ. Основное преимущество GGUF-вариантов — возможность выбрать баланс между размером, скоростью и качеством: Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые, тогда как низкобитные варианты дают заметные потери качества. Более высокие разрядности лучше сохраняют качество, но требуют больше памяти; некоторые варианты отмечены как нежелательные из-за невыгодного соотношения характеристик. Модель распространяется по лицензии Apache 2.0.

jinaai/jina-embeddings-v5-text-nano-retrieval-mlx — порт модели эмбеддингов jina-embeddings-v5-text-nano-retrieval для библиотеки MLX, предназначенный для эффективного инференса на компьютерах Apple Silicon. Модель построена на архитектуре EuroBERT с плотным представлением и содержит 211,7 млн параметров по метаданным Hugging Face. Она принимает текст и преобразует его в векторные представления для поиска по смыслу и задач retrieval; максимальная длина последовательности составляет 8192 токена. Модель поддерживает многоязычный текст и может применяться для семантического поиска и извлечения релевантных документов. Репозиторий распространяется под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование. README указывает 239 млн параметров, тогда как метаданные содержат 211,7 млн; для размера в этом описании использовано значение метаданных.

Карточка модели Kerneld/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели ratsheadhug/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Это дообученная модель Sentence Transformers на базе cointegrated/LaBSE-en-ru, разработанная автором репозитория whitemouse84. Она кодирует предложения и абзацы на русском и английском языках в плотные векторы размерностью 768 для сравнения семантического сходства по косинусной близости. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста по эмбеддингам. Модель основана на архитектуре BERT, содержит 89,5 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены оценки на наборах STS и оценка дистилляции; они дают ориентир для проверки сходства, но не гарантируют качество для конкретного корпуса. Для работы с эмбеддингами требуется совместимый механизм сравнения или поиска.

Jongbin-kr/llama-3.1-8b-instruct-4x1-moe-switch-top1 — диалоговая языковая модель на архитектуре Llama 3.1, разработанная Jongbin. Она предназначена для генерации текста и общения по инструкциям; среди сценариев — ответы на вопросы, помощь в написании текстов и использование интерфейса вызова инструментов. Модель построена на базе meta-llama/Llama-3.1-8B-Instruct и содержит около 7,5 млрд параметров. В каждом слое Transformer используются четыре клонированных FFN-эксперта, а маршрутизатор выбирает одного эксперта для каждого токена. В отличие от варианта с нормализованным коэффициентом гейта, выбранный эксперт сохраняет исходную вероятность softmax. При обучении использованы коэффициент балансировки нагрузки 0,01 и z-loss маршрутизатора 0,001. Контекст — до 131 072 токенов; модель работает через Transformers, веса доступны в формате safetensors. Модель унаследовала многоязычные возможности базовой Llama 3.1 8B Instruct, однако README не перечисляет конкретные поддерживаемые языки. Для загрузки требуется trust_remote_code=True. Лицензия — llama3.1; применяются условия лицензии Llama 3.1 от Meta.

LLaMa-3.1-Instruct-Zeroed-13B — объединённая языковая модель семейства Llama, созданная сообществом mergekit методом passthrough на основе unsloth/Meta-Llama-3.1-8B-Instruct. Она предназначена для диалогов и генерации текста по инструкциям; поддерживает интерфейс вызова инструментов. Модель содержит 12,5 млрд параметров, принимает текст и имеет контекстное окно до 131 072 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста. В репозитории указаны веса Safetensors для Transformers. Лицензия в предоставленных данных не указана.

Llama-Express.1-Tiny — компактная текстовая языковая модель, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах данных с длинными цепочками рассуждений. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров; для запуска карточка рекомендует Transformers версии 4.43.0 или новее. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для многоязычного диалога, следования инструкциям, суммаризации и сценариев поиска с последующим извлечением и обобщением сведений. Она принимает текст и генерирует текст; также заявлен интерфейс для вызова инструментов. Английский указан в языковых метаданных, а описание заявляет многоязычное применение без перечисления остальных языков. Карточка заявляет оптимизацию для длинных рассуждений и диалогов, но не приводит независимых оценок качества. Возможны предвзятые или неуместные ответы, снижение качества на малоресурсных языках и ухудшение результатов при неоднозначных запросах или очень длинном контексте; модель не получает актуальные сведения из интернета сама по себе. Лицензия — Llama 3.2.

ceia-aisdk/llm-medium-v1 — распространяемый CEIA AI SDK артефакт GGUF на основе инструктивной языковой модели Qwen2.5-7B-Instruct. CEIA не обучала эти веса: репозиторий содержит квантованную версию Q4_K_M, подготовленную bartowski, для использования через псевдоним SDK llm/medium@1. Модель предназначена для диалогов и генерации текста по инструкциям. Базовая Qwen2.5-7B-Instruct поддерживает также генерацию кода и структурированных ответов. Репозиторий использует формат GGUF и распространяется по лицензии Apache-2.0, как и базовая модель.

Карточка модели keithtwesigye/lunyoro-sentence-embeddings на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

Это общественная квантованная версия Meta-Llama-3.1-70B-Instruct, разработанной Meta AI и подготовленной сообществом hugging-quants. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в качестве инструкционного чат-ассистента. Она поддерживает текстовый ввод и вывод и ориентирована на многоязычное применение. Модель содержит 70 миллиардов параметров и использует архитектуру Llama 3.1. Версия преобразована из FP16 в INT4 с помощью AutoAWQ: применяется GEMM-квантизация с нулевой точкой и размером группы 128. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для загрузки контрольной точки требуется около 35 GiB видеопамяти без учёта KV-кэша и CUDA-графов, поэтому фактические требования выше. README не указывает размер контекста исходной модели. К сильным сторонам относятся существенно сниженные требования к памяти по сравнению с FP16-версией и совместимость с Transformers, AutoAWQ и Text Generation Inference, включая оптимизацию инференса с Marlin kernels. Ограничения связаны с потерями точности, возможными для INT4-квантизации, значительными требованиями к видеопамяти и отсутствием заявленной поддержки мультимодальных входов. Модель распространяется по лицензии Llama 3.1.

MiMo-V2.5 — мультимодальная модель Xiaomi для диалогов, понимания изображений, видео и аудио, а также агентных сценариев. Она построена на разреженной MoE-архитектуре MiMo-V2-Flash с гибридным вниманием и отдельными визуальным и аудиокодировщиками. Метаданные репозитория указывают 12 млрд параметров и формат safetensors FP8; README описывает семейство MiMo-V2.5 как модель на 310 млрд параметров, из которых активируются 15 млрд. Эти сведения расходятся, поэтому размер конкретного чекпойнта неоднозначен. Модель рассчитана на генерацию текста, мультимодальное понимание и работу с длинным контекстом до 1 048 576 токенов. README заявляет поддержку текста, изображений, видео и аудио, а также обучение для агентных задач; метаданные отмечают чат и интерфейс вызова инструментов. В карточке указаны английский и китайский языки. Репозиторий распространяется по лицензии MIT. Для корректного поведения следует использовать обновлённые config.json и tokenizer_config.json, поскольку устаревшие версии, по сообщению разработчика, могут ухудшить качество.

Madras1/minilm-gooaq-mnr-v3 — англоязычный энкодер предложений на архитектуре BERT, дообученный на базе sentence-transformers/all-MiniLM-L6-v2. Разработчик карточки описывает обучение на 350 000 пар текстов с функцией потерь MultipleNegativesRankingLoss. Модель преобразует предложения и абзацы в плотные векторы размерности 384, нормализует их и использует косинусное сходство для сравнения. Максимальная длина последовательности в README — 256 токенов; метаданные указывают контекст до 512 токенов. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Её можно применять, например, для поиска ответов, связанных с вопросом, в коллекции документов. Поддерживается работа с текстом; основной язык базовой модели — английский. Лицензия в предоставленных сведениях не указана.

LamaDiab разработал дообученную модель Sentence Transformers на основе sentence-transformers/all-MiniLM-L6-v2. Это компактный BERT-энкодер с 25,9 млн параметров: он преобразует предложения и абзацы в плотные векторы размерности 384, нормализованные для сравнения по косинусному сходству. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В README указана максимальная длина последовательности 256 токенов; метаданные каталога задают native context 512 токенов. В оценке TripletEvaluator приведена cosine accuracy 0,9631. Данных о поддержке языков в карточке нет, а базовая модель описана как англоязычная, поэтому её применение к другим языкам не подтверждено. Модель доступна в формате safetensors; лицензия в предоставленных сведениях не указана.

MIReAD-Neuro-Contrastive — модель семейства Sentence Transformers, опубликованная пользователем atrytone. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости, кластеризации и семантического поиска. По метаданным, модель основана на архитектуре BERT, содержит 137,1 млн параметров и обрабатывает до 512 токенов контекста. Обучение проводилось с TripletLoss и евклидовой метрикой расстояния. Модель подходит для построения эмбеддингов текстов, поиска похожих фрагментов и группировки текстов по смыслу. В карточке не указаны поддерживаемые языки и специализированные области применения. Лицензия в предоставленных данных не указана.

Mistral-Nemo-Instruct-heretic — модифицированная версия Mistral-Nemo-Instruct-2407, разработанного совместно Mistral AI и NVIDIA. Модель обработана с помощью Heretic v1.4.0 методом directional ablation («abliteration»): целевые изменения внесены в веса выходных проекций attention и down-projection MLP для подавления отказов без дообучения. Базовый размер модели — 12,2 млрд параметров; доступны веса BF16 и квантизованные версии в формате GGUF. Модель предназначена для диалогов, генерации текста, следования инструкциям, сложных рассуждений, приложений с длинным контекстом, roleplay и локального запуска на потребительских GPU или CPU. Заявлена поддержка многоязычных сценариев, при этом в карточке явно указан английский язык. Модель совместима с Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Доступны квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0 с объёмом файлов примерно от 8,1 до 13,1 ГБ; для контекста требуется дополнительная память. Сильная сторона модели — сохранение основных знаний и возможностей базовой Mistral-Nemo-Instruct-2407 при более прямом следовании запросам и отсутствии встроенного слоя отказов. Ограничение состоит в намеренном подавлении защитного поведения: модель может выполнять потенциально небезопасные запросы, которые базовая версия отклоняет, поэтому её не рекомендуется размещать за незащищённым публичным интерфейсом. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

MixEmbedBert-base-20240115112530-best, представленная в карточке как bge-micro, — компактная модель эмбеддингов на архитектуре BERT. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения текстов. По README модель дистиллирована из BAAI/bge-small-en-v1.5 и имеет четверть параметров, не относящихся к эмбеддингам, по сравнению с исходной моделью; заявлено также, что при примерно половине параметров all-MiniLM-L6-v2 она показывает сопоставимое качество. Модель содержит 18,8 млн параметров, поддерживает контекст до 512 токенов и распространяется в формате Safetensors. В метаданных указана задача sentence-similarity, а каталог также отмечает извлечение признаков и эмбеддинги. README указывает на английскую базовую модель; лицензия в предоставленных данных не указана.

avsolatorio/MixEmbedMean-base-20240116012638-best — компактная модель эмбеддингов на архитектуре BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска и кластеризации. В README указано, что модель дистиллирована из BAAI/bge-small-en-v1.5 и имеет вчетверо меньше параметров вне эмбеддингового слоя; её автор сравнивает качество с all-MiniLM-L6-v2 при примерно половине числа параметров. Метаданные указывают 18,8 млн параметров, контекст до 512 токенов и формат safetensors. Модель рассчитана на текстовые задачи поиска и сравнения семантически близких фрагментов. В карточке отдельно не описаны лицензия и конкретные языки обучения, поэтому их нельзя уточнить по доступным сведениям.

jfarray/Model_paraphrase-multilingual-MiniLM-L12-v2_10_Epochs — модель Sentence Transformers на архитектуре BERT, дообученная для представления предложений и абзацев в виде плотных векторов размерности 384. Она подходит для поиска семантически близких текстов, кластеризации и сравнения сходства предложений. В README указана функция потерь CosineSimilarityLoss; размер модели составляет 124,3 млн параметров, а контекст ограничен 512 токенами. Модель принимает текст и выдаёт векторные представления, которые можно сравнивать для оценки смыслового сходства. README называет её многоязычной, однако конкретные поддерживаемые языки и условия лицензии в предоставленных данных не приведены.

NohTow/ModernBERT-base-DPR-fullneg-gte-0.0002 — модель Sentence Transformers на базе ModernBERT, обученная на наборе bge-full-data. Она кодирует предложения и абзацы в плотные векторы размерности 768; сходство между ними оценивается косинусной близостью. Архитектура использует ModernBertModel и усреднение токенных представлений, максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В README приведены оценки поиска на наборах Nano BEIR и отдельных задачах Nano BEIR; результаты различаются по датасетам и не гарантируют аналогичного качества в других сценариях. Веса доступны в формате safetensors; лицензия в предоставленных данных не указана.

makiart/modernbert-base-ft-all-nli — англоязычная модель Sentence Transformers, дообученная разработчиком makiart на answerdotai/ModernBERT-base с использованием набора all-nli. Encoder-only архитектура ModernBERT содержит около 149 млн параметров; модель кодирует предложения и абзацы в плотные векторы размерности 768. Максимальная длина входной последовательности — 8192 токена, для сравнения векторов подходит косинусное сходство. Модель предназначена для измерения семантического сходства текстов и семантического поиска. Её также можно применять для поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. На указанной в карточке оценке TripletEvaluator модель получила cosine accuracy 0,8572. Модель принимает текст на английском языке и выдаёт векторные представления. Веса доступны в формате safetensors; лицензия в предоставленных данных не указана.

nomic-ai/modernbert-embed-base-unsupervised — англоязычная модель эмбеддингов на базе encoder-only архитектуры ModernBERT. Разработчики обучили её с помощью библиотеки contrastors в течение одной эпохи на 235 млн слабонаблюдаемых контрастивных пар из набора Nomic Embed. Модель содержит 149 млн параметров, принимает текст и формирует векторные представления; максимальная длина контекста — 8192 токена. Модель предназначена для поиска по смыслу, сравнения предложений и других задач, использующих текстовые эмбеддинги. В тестах MTEB она показала результаты, близкие к nomic-embed-text-v1_unsup; авторы рекомендуют modernbert-embed для задач построения эмбеддингов. Доступны веса в формате safetensors. Лицензия — Apache-2.0.

YeonwooSung/ModernBERT-large-msmarco-v3-bpr — модель Sentence Transformers, дообученная разработчиком на базе answerdotai/ModernBERT-large с использованием BPRLoss на 498 970 примерах. Она кодирует предложения и абзацы в плотные векторы размерности 1024; сходство между ними можно оценивать косинусной мерой. Архитектура состоит из энкодера ModernBERT-large с усреднением токенных представлений, максимальная длина последовательности — 8192 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Подходит для построения эмбеддингов длинных текстов; базовый ModernBERT описан как англоязычный энкодер. Лицензия в предоставленных данных не указана.

Tomaarsen/mpnet-base-nli-matryoshka — модель эмбеддингов предложений на архитектуре MPNet, опубликованная tomaarsen как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства и кластеризации текстов. Обучение с MatryoshkaLoss позволяет использовать представления нескольких размерностей: 768, 512, 256, 128 и 64. Модель принимает текст и выдаёт векторные представления. Контекст составляет до 514 токенов; репозиторий содержит форматы safetensors, ONNX и OpenVINO. Данных о поддерживаемых естественных языках и лицензии в использованных источниках нет.

jamescalam/mpnet-snli-negatives — англоязычная модель Sentence Transformers на базе MPNet, разработанная James Briggs и дообученная на датасете Stanford Natural Language Inference (SNLI) с отрицательными примерами. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для оценки семантической близости, семантического поиска и кластеризации текстов. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текстовые последовательности длиной до 514 токенов. В README приведены значения MRR@10 и MAP около 0,95 на тестовом наборе SNLI; эти результаты относятся к указанной оценке и не гарантируют такое же качество на других данных. Доступна под лицензией MIT.

ValentinaKim разработала многоязычную модель Sentence Transformer для преобразования предложений и абзацев в плотные векторы размерностью 384. Модель дообучена на базе intfloat/multilingual-e5-small; архитектура включает BERT, усреднение токенов и нормализацию векторов. Максимальная длина входа — 512 токенов, сходство текстов можно оценивать косинусной близостью. Модель подходит для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В README описано обучение на 2320 парах текстов и приведены метрики поиска для вариантов размерности 64, 128 и 256. Модель распространяется по лицензии Apache-2.0.

Это дообученная модель Sentence Transformer на базе intfloat/multilingual-e5-small, разработанная автором репозитория srikarvar. Она преобразует предложения и абзацы в плотные текстовые векторы размерности 384 для сравнения семантической близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура включает BERT-трансформер, усреднение токеновых представлений и нормализацию; сходство векторов оценивается косинусной мерой. Максимальная длина последовательности — 512 токенов. Модель предназначена для многоязычных сценариев работы с текстами. В README приведены результаты бинарной классификации пар предложений: точность 0,93 и F1 0,9238 на указанных наборах pair-class-dev и pair-class-test. Веса опубликованы в формате safetensors; лицензия в доступных данных не приведена.

jangedoo/multilingual-e5-small-pruned — компактная многоязычная модель эмбеддингов на базе BERT, созданная обрезкой токенов и словаря модели intfloat/multilingual-e5-small. Она предназначена для получения векторных представлений текста, семантического сравнения предложений и поиска текстов по смыслу. Модель содержит около 94,6 млн параметров по метаданным каталога, использует библиотеку Sentence Transformers и принимает последовательности длиной до 512 токенов. Обрезка уменьшила размер словаря примерно на 31%, а число параметров — примерно на 25% относительно базовой модели согласно README. В приведённых оценках STS-B и NanoBEIR качество ниже базовой версии, хотя остаётся близким по STS-B. Модель поддерживает многоязычный текст; конкретный перечень языков в источниках не приведён. Условия лицензии в предоставленных данных отсутствуют.

Карточка модели mihaylovnikitos/multilingual-e5-small-softenginer на Hugging Face совпадает с карточкой intfloat/multilingual-e5-small, поэтому описание составлено по ней. Multilingual-E5-small — модель текстовых эмбеддингов, разработанная авторами технического отчёта Multilingual E5. Это компактная 12-слойная модель архитектуры BERT с 124,3 млн параметров и размерностью эмбеддингов 384; она инициализирована из microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных наборов данных. Модель преобразует тексты в векторы для поиска и сравнения по смыслу, включая межъязыковой поиск, поиск фрагментов для систем вопросов и ответов, семантическое сходство, подбор перефразировок и кластеризацию. Для разных типов текста следует использовать префиксы «query: » и «passage: » согласно сценарию; без них качество может снизиться. Поддерживаются 100 языков, однако качество для языков с малым количеством ресурсов может быть ниже. Контекст ограничен 512 токенами, длинные тексты обрезаются. В репозитории доступны форматы PyTorch, SafeTensors, ONNX и OpenVINO. Лицензия — MIT.

Nanbeige4-3B-Thinking-2511-GGUF — квантизированная GGUF-версия языковой модели Nanbeige4-3B-Thinking-2511, разработанной командой Nanbeige и созданной на базе Nanbeige4-3B-Base. Модель предназначена для генерации текста, диалогов, решения сложных задач с рассуждением, агентских сценариев и вызова функций. Указана поддержка английского и китайского языков; модель относится к текстовым causal language models и запускается с использованием llama.cpp или совместимых инструментов. Точный размер контекста и число параметров в README не указаны, однако из названия следует размер порядка 3 млрд параметров. Модель улучшена по сравнению с Nanbeige4-3B-Thinking-2510 с помощью дистилляции знаний и целевой оптимизации методом reinforcement learning. Заявлены сильные результаты в рассуждении, function calling, эмоциональном интеллекте и творческом письме, включая высокие позиции на Berkeley Function Calling Leaderboard, EQBench3 и WritingBench. В репозитории также описан метод повышения точности отдельных важных слоёв при квантизации, увеличивающий размер файлов, но улучшающий качество на заданном уровне битности. Ограничения включают риск неожиданных, вредных, предвзятых или дискриминационных ответов; модель не гарантирует полную безопасность и требует проверки результатов. Конкретный формат GGUF и степень квантизации следует выбирать с учётом доступных ресурсов и требований к качеству. Лицензия — Apache-2.0.