I.3Извлечение и структурирование данных

lodestone-base-4096-v1 — модель эмбеддингов предложений и абзацев от Hum-Works, созданная Griffin McCauley, Will Fortin и Dylan DiGioia в 2023 году. Это дообученная версия mosaic-bert-base-seqlen-2048: архитектура BERT с FlashAttention, ALiBi и GLU, около 136,7 млн параметров. Модель кодирует текст в плотный вектор размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель рассчитана на длинные предложения и абзацы: поддерживает последовательности до 4096 токенов, хотя при обучении использовалась длина до 2048 токенов. Она обучена контрастивным методом на большом наборе пар текстов и показывает сопоставимые результаты со стандартными моделями эмбеддингов на типовых бенчмарках. Основной язык карточки — английский; среди источников обучения указаны датасеты вопросов и ответов, научных текстов, Reddit и поиска кода. Лицензия — Apache-2.0. В README отмечены ограниченный размер обучающего батча и недостаток примеров максимально допустимой длины, поэтому качество эмбеддингов для очень длинных текстов может требовать дополнительной настройки. README также предупреждает о возможных смещениях в данных Reddit.

Marco-Nano-Instruct — многоязычная причинная языковая модель семейства Marco-MoE, разработанная Alibaba International Digital Commerce. Это вариант Marco-Nano-Base, дообученный для следования инструкциям, диалога и вызова инструментов. Модель построена на декодерном Transformer с разреженными MoE-слоями; в карточке указано 507,9 млн параметров, а в README — 8 млрд общих и 0,6 млрд активируемых параметров на токен. Эти значения расходятся, поэтому размер следует трактовать с осторожностью. Модель предназначена для генерации ответов, следования инструкциям, рассуждений, ответов на вопросы и многоязычных сценариев, включая перевод. README сообщает о поддержке 29 языков, в том числе русского, английского и китайского; контекст в метаданных — 32 768 токенов. Для инференса рекомендован vLLM; указано, что SGLang не поддерживает эту конфигурацию MoE с tied embeddings. Лицензия — Apache-2.0. В README приведены сильные сравнительные результаты на англоязычных, многоязычных и культурно-региональных бенчмарках, но они не гарантируют качество для любого запроса или языка.

mlx-community/Meta-Llama-3.1-70B-Instruct-8bit — 8-битная версия инструкционно дообученной большой языковой модели Meta Llama 3.1 с 70 миллиардами параметров, подготовленная сообществом mlx-community для использования в экосистеме MLX. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы, написание и преобразование текста. В карточке указаны поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель относится к классу text-generation и использует библиотеку Transformers; модальность — текстовая. Ключевая особенность варианта — 8-битное представление весов, которое может снизить требования к памяти по сравнению с полноразмерной моделью, сохраняя принадлежность к крупной 70B-модели. При этом для запуска всё равно требуются значительные вычислительные ресурсы, а конкретные показатели качества, производительности и максимального контекста в README не указаны. Как и другие языковые модели, она может генерировать неточные или нежелательные ответы, поэтому результаты требуют проверки. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использование, воспроизведение, распространение и создание производных работ при соблюдении её условий, включая передачу текста лицензии, указание «Built with Llama», атрибуцию и соблюдение Acceptable Use Policy. Для продуктов и сервисов с более чем 700 миллионами активных пользователей в месяц предусмотрено требование запросить отдельную лицензию у Meta.

ibnzterrell/Meta-Llama-3.3-70B-Instruct-AWQ-INT4 — это 4-битная AWQ-квантизированная версия Meta-Llama-3.3-70B-Instruct, первоначально выпущенной Meta AI и опубликованной в данном варианте пользователем ibnzterrell. Модель представляет собой крупную instruction-tuned языковую модель с текстовым вводом и выводом, предназначенную для генерации текста и многоязычного диалога. Модель подходит для чат-ассистентов, ответов на вопросы и других сценариев текстовой генерации на английском, французском, итальянском, португальском, хинди, испанском, тайском и немецком языках. Исходная модель имеет размер 70B параметров; доступный вариант использует INT4-квантизацию AWQ с GEMM-ядрами, zero-point quantization и размером группы 128. Для загрузки контрольной точки требуется около 35 ГиБ VRAM без учёта KV-кэша и CUDA Graphs, поэтому необходим некоторый дополнительный запас видеопамяти. Поддерживаются Transformers, AutoAWQ, Text Generation Inference и vLLM. К основным преимуществам относятся значительно сниженные требования к памяти по сравнению с полноточной версией и возможность запуска большой многоязычной instruction-tuned модели на совместимом оборудовании. Ограничения связаны с потерями качества, возможными при 4-битной квантизации, высокой потребностью в ресурсах и тем, что README не содержит сведений о длине контекста. Модель распространяется по лицензии Llama 3.3.

MiniCPM5-2B-heretic — децензурированная версия языковой модели openbmb/MiniCPM5-2B, созданная пользователем RACER IS OP с применением Heretic v1.4.0. Модель относится к классу примерно 2B параметров и предназначена для генерации текста, диалогов, локальных агентных систем, вызова инструментов, написания кода и задач с длинным контекстом. Она поддерживает режимы Think и No-Think, а также может работать на пользовательских GPU, CPU и устройствах Apple Silicon через GGUF-квантизации. Изменения выполнены методом directional ablation («abliteration»): целевые направления отказа подавляются редактированием весов в attention output и MLP down-projections без дообучения. По данным README, это позволило снизить число отказов с 99 до 4 на 100 тестовых запросов при KL divergence 0,0646 относительно исходной модели, сохранив её знания, следование инструкциям, возможности работы с инструментами, кодом и рассуждениями. Заявлены английский и китайский языки; архитектура MiniCPM5 совместима с llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang, причём для вызова функций рекомендован SGLang. Главное преимущество модели — малый размер и широкий выбор GGUF-квантизаций, что упрощает локальный запуск на потребительском оборудовании. Ограничение заключается в намеренном подавлении защитных отказов: модель может отвечать на запросы, от которых исходная версия отказывалась, поэтому её применение требует самостоятельных мер безопасности и контроля. Модель распространяется по лицензии Apache-2.0.

zetasepic/Mistral-Small-Instruct-2409-abliterated — производная версия Mistral-Small-Instruct-2409, созданная автором репозитория с применением метода «abliteration». Это плотная инструкционная языковая модель семейства Mistral на 22 млрд параметров с архитектурой MistralForCausalLM, предназначенная для диалогов и генерации текста; метаданные также указывают интерфейс вызова функций. Модель принимает текст и рассчитана на контекст до 32 768 токенов. Карточка сообщает об использовании кода для abliteration, но не описывает процедуру, результаты, языковое покрытие или ограничения этой версии. Базовая модель — mistralai/Mistral-Small-Instruct-2409. Файлы представлены в формате safetensors; указанная библиотека — Transformers. Лицензия в предоставленных данных не приведена.

MixEmbedBert-base-20240115163419-best — компактная модель эмбеддингов предложений на архитектуре BERT, представленная в карточке как bge-micro. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из avsolatorio/bge-small-en-v1.5 и содержит примерно в четыре раза меньше неэмбеддинговых параметров; по README, при половине параметров all-MiniLM-L6-v2 показывает сопоставимое качество. Модель содержит 18,8 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления. Метаданные указывают задачи sentence-similarity и feature-extraction. README описывает англоязычную базовую модель и не заявляет поддержку других языков. Для использования доступны веса safetensors; лицензия в предоставленных данных не указана.

amd/Mixtral-8x7B-Instruct-v0.1-FP8-KV — FP8-квантизированная версия модели Mixtral-8x7B-Instruct-v0.1, разработанная Advanced Micro Devices (AMD) на базе модели Mistral AI. Квантизация выполнена с помощью Quark с использованием калибровочных образцов из датасета Pile. Модель предназначена для эффективного развертывания и инференса через backend vLLM, включая сценарии на одной или нескольких GPU. Все линейные слои, кроме lm_head и слоёв, содержащих *.gate, используют симметричное тензорное представление FP8 для весов и активаций; KV-кэш также хранится в FP8. Такой подход снижает требования к памяти и может повысить эффективность инференса, однако способен приводить к потере точности по сравнению с исходной моделью. В оценке на wikitext2 perplexity составила 4,2187 против 4,1391 у исходной Mixtral-8x7B-Instruct-v0.1; результаты получены в режиме псевдоквантизации и приведены только для справки. Архитектура, число параметров, поддерживаемые языки и размер контекста в README не указаны. Модель распространяется по лицензии Apache License 2.0.

tanbinh2210/mlm_trained_phobert — модель Sentence Transformers на архитектуре RoBERTa, разработанная пользователем tanbinh2210. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости; сходство измеряется косинусом. Модель предназначена для семантического поиска, поиска перефразирований, кластеризации и классификации текста. Модель принимает текстовые последовательности длиной до 258 токенов по метаданным Hugging Face; в README указано ограничение 256 токенов. Размер модели — 162,4 млн параметров. В архитектуре используется усреднение токенных представлений RoBERTa. В карточке не указаны поддерживаемые естественные языки и лицензия.

Карточка модели emilecornamusaz/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.

Карточка модели taghyan/model на Hugging Face совпадает с карточкой KingName1/sentence_transformer, поэтому описание составлено по ней. KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.

joe32140/ModernBERT-base-msmarco — англоязычная модель Sentence Transformers, дообученная автором на базе answerdotai/ModernBERT-base на наборе msmarco-co-condenser-margin-mse-sym-mnrl-mean-v1. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска, сравнения сходства текстов и других задач, где нужно находить близкие по смыслу фрагменты. Модель использует encoder-архитектуру ModernBERT с усреднением токенных представлений; максимальная длина входа — 8192 токена, сходство векторов обычно оценивается косинусной мерой. Модель также может применяться для поиска перефразировок, кластеризации и классификации текста. Доступны веса safetensors и формат ONNX. В README приведён результат cosine_accuracy 0,984 на TripletEvaluator для набора msmarco-co-condenser-dev. Это значение относится к указанной оценке и само по себе не гарантирует аналогичное качество на других задачах и доменах. Лицензия в предоставленных данных не указана.

nickprock/ModernBERT-large-sts — англоязычная Sentence Transformer-модель, созданная авторами репозитория дообучением answerdotai/ModernBERT-large на датасете STS Benchmark (STSB). Она кодирует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для оценки семантической близости по косинусному сходству, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура состоит из энкодера ModernBERT-large и слоя mean pooling; максимальная длина последовательности — 8192 токена. В README приведены значения Spearman для STS: 0,8877 на sts-dev и 0,8678 на sts-test. Модель принимает текст и выдаёт векторные представления. Обучение на STSB ориентирует её на англоязычные задачи семантического сходства; качество на других языках и специализированных доменах в предоставленных данных не охарактеризовано. Для использования доступны веса в формате Safetensors; лицензия в предоставленных сведениях не указана.

Карточка модели coderancer/movie-recommender-model на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

sahithkumar7/mpnet-base-smartbots-iter01 — дообученная модель Sentence Transformers на базе microsoft/mpnet-base, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости; сходство оценивается косинусной мерой. Модель построена на MPNet с усреднением токеновых представлений и содержит 136,7 млн параметров. Модель предназначена для семантического поиска, сопоставления текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В README описано дообучение на наборе из 100 примеров с anchor, positive и negative; в приведённой оценке точность по cosine similarity составляет 0,75 на antibiotics_test и 0,9333 на наборе iter1. Поддерживаются последовательности длиной до 512 токенов. Лицензия в предоставленных данных не указана.

bigscience/mt0-xxl — многоязычная модель семейства mT0, разработанная BigScience. Это дообученная версия mT5-XXL, обученная следовать инструкциям на смеси кросс-языковых задач xP3; архитектура — encoder-decoder MT5ForConditionalGeneration, размер — 6,7 млрд параметров. Модель предназначена для выполнения задач, сформулированных на естественном языке, в том числе перевода, ответов на вопросы, классификации тональности и создания текстов. Она поддерживает генерацию с нуля и переносит навыки на ранее не встречавшиеся задачи и языки; среди языков карточки указаны английский, французский, испанский, арабский, японский, корейский и другие. Качество ответов зависит от формулировки запроса: полезно явно обозначать границы входного текста, задачу и желаемый язык ответа, а также предоставлять контекст. Модель выпущена под лицензией Apache-2.0. Для запуска используются Transformers и веса PyTorch/Safetensors.

Карточка модели swardiantara/MultiSource-full-cdk0-m0.5-e5-b128-L6 на Hugging Face совпадает с карточкой swardiantara/one-cdk0-m0.5-e5-b128-L6, поэтому описание составлено по ней. swardiantara/one-cdk0-m0.5-e5-b128-L6 — модель Sentence-Transformers на базе BERT, разработанная пользователем swardiantara. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения сходства текстов. Модель содержит 25,9 млн параметров, принимает текстовые последовательности длиной до 512 токенов и распространяется в формате Safetensors. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Модель подходит для построения эмбеддингов и поиска семантически близких фрагментов; README не приводит результаты оценки качества. Лицензия в предоставленных данных не указана.

Muse Glimmer 30B GGUF — это квантизированная версия 30-миллиардной каузальной языковой модели Muse Glimmer, разработанной Meta Superintelligence Lab и дистиллированной из Muse Spark. Репозиторий содержит сборки в формате GGUF для локального запуска через llama.cpp на пользовательском оборудовании без облачной инфраструктуры и сетевого доступа. Релиз датирован августом 2026 года, лицензия — Apache 2.0. Модель предназначена для автономных агентных задач, многошагового рассуждения, надёжного использования инструментов, мультимодального понимания и восстановления после сбоев. Базовые GGUF-файлы работают с текстом, а для обработки изображений требуется отдельный perception encoder. Дополнительно доступен DFlash drafter для ускорения генерации с помощью speculative decoding. Указан контекст до 131072 токенов при запуске сервера, однако конкретная доступная длина зависит от конфигурации и ресурсов устройства. Доступны две текстовые квантизации: Q4_K_M размером около 16,8 ГБ, ориентированная на видеокарты с 24 ГБ памяти, и Dynamic Q4_K_XL размером около 19,7 ГБ для систем с 32 ГБ памяти. Вместе с энкодером изображений и drafter требуется примерно до 23 ГБ памяти. Сильными сторонами являются локальная работа, поддержка агентных сценариев, рассуждения и изображений; ограничениями — крупный размер, необходимость совместимой версии llama.cpp не ниже b10353 и отсутствие опубликованной bf16 GGUF-сборки в этом репозитории.

NoInstruct-small-Embedding-v0 — компактная модель эмбеддингов avsolatorio на архитектуре BERT, предназначенная для поиска и сопоставления предложений. По заявлению автора, она улучшает качество retrieval по сравнению с avsolatorio/GIST-small-Embedding-v0 и позволяет кодировать запросы без составления специальных инструкций. Модель содержит около 40 млн параметров, принимает текст, выдаёт векторные представления и поддерживает контекст до 512 токенов. Модель подходит для семантического поиска, подбора релевантных документов и оценки сходства текстов. В метаданных также указана задача извлечения признаков. Лицензия — MIT. Автор отмечает, что технические детали будут опубликованы позднее; поддержка библиотеки Sentence Transformers заявлена как ожидаемая, поэтому доступные способы применения могут быть ограничены.

Карточка модели dansporici/NoInstruct-small-Embedding-v0-query-mean на Hugging Face совпадает с карточкой avsolatorio/NoInstruct-small-Embedding-v0, поэтому описание составлено по ней. NoInstruct-small-Embedding-v0 — компактная модель эмбеддингов avsolatorio на архитектуре BERT, предназначенная для поиска и сопоставления предложений. По заявлению автора, она улучшает качество retrieval по сравнению с avsolatorio/GIST-small-Embedding-v0 и позволяет кодировать запросы без составления специальных инструкций. Модель содержит около 40 млн параметров, принимает текст, выдаёт векторные представления и поддерживает контекст до 512 токенов. Модель подходит для семантического поиска, подбора релевантных документов и оценки сходства текстов. В метаданных также указана задача извлечения признаков. Лицензия — MIT. Автор отмечает, что технические детали будут опубликованы позднее; поддержка библиотеки Sentence Transformers заявлена как ожидаемая, поэтому доступные способы применения могут быть ограничены.

Nomic-embed-text-v1.5-Embedding-GGUF — модель для создания текстовых эмбеддингов и оценки семантического сходства, основанная на nomic-ai/nomic-embed-text-v1.5. Квантизацию в формате GGUF выполнила Second State Inc.; исходную модель разработала nomic-ai. Модель предназначена для семантического поиска, сопоставления текстов и других задач, где требуется преобразование текста в векторное представление. Указан английский язык. Модель поддерживает запуск через LlamaEdge и имеет контекстное окно размером 768 токенов. Доступны варианты GGUF с квантизацией от 2 до 8 бит и вариант f16, размером примерно от 60,9 до 274 МБ. Вариант Q4_K_M обозначен как рекомендуемый для сбалансированного качества и размера, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более сильная квантизация уменьшает размер, но может заметно ухудшать качество эмбеддингов. Модель компактна и подходит для локального развёртывания, однако README не содержит подробностей об архитектуре, размерности эмбеддингов, точных показателях качества и аппаратных требованиях. Модель распространяется по лицензии Apache-2.0.

openchat-3.5-0106-128k-DPO-fixed-32000 — слитая модель на архитектуре Mistral, созданная с помощью LazyMergekit на основе NousResearch/Yarn-Mistral-7b-128k и Eric111/openchat-3.5-0106-128k-DPO. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, написания текстов и работы с длинными документами; заявленная длина контекста в метаданных — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и конкретных языковых ограничениях в предоставленных данных отсутствуют.

OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp методом SLERP. Модель содержит 7,1 млрд параметров, предназначена для генерации текста и ответов на инструкции в формате диалога. Контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст; в метаданных отмечена возможность чата. Репозиторий содержит веса в формате Safetensors, а конфигурация слияния указывает тип данных bfloat16. Лицензия — Apache 2.0. Подходит для диалоговых приложений и выполнения текстовых инструкций; конкретные языки, оценка качества и ограничения в предоставленных данных не описаны.

dbourget выпустил дообученную модель SentenceTransformer на базе dbourget/pb-small-10e-tsdae6e-philsim-cosine-6e-beatai-cosine-50e. Она использует архитектуру BERT с пуллингом CLS-токена, содержит 136,7 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 1024. Максимальная длина входа — 512 токенов; сходство в README рассчитывается по косинусной мере. Модель предназначена для поиска семантически близких текстов и сравнения предложений. Её также можно применять для поиска перефразировок, кластеризации и классификации текста через векторные представления. README приводит оценку cosine_accuracy 0,814 на наборе beatai-dev с TripletEvaluator; это результат конкретной оценки, а не гарантия качества на других данных. Лицензия в предоставленных сведениях не указана.

Phi-3-mini-128k-instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Phi-3-mini-128k-instruct, разработанной Microsoft. Квантизацию выполнила Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая обработку естественного языка и кода; в метаданных указан английский язык. Это текстовая, а не мультимодальная модель. Ключевая характеристика модели — контекстное окно до 128 000 токенов. Репозиторий содержит варианты с квантизацией от 2 до 8 бит, а также версию f16 размером 7,64 ГБ. Рекомендуемыми считаются Q4_K_M как сбалансированный вариант, а также Q5_K_M и Q5_K_S с меньшими потерями качества. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; для Q2_K, Q3 и некоторых Q4-вариантов это прямо отмечено в описании. Модель может использоваться локально через совместимые инструменты GGUF и LlamaEdge; для запуска требуется LlamaEdge версии 0.12.2 или выше и шаблон запросов phi-3-chat. В README не приведены результаты тестирования, точное число параметров, требования к аппаратному обеспечению или сведения о качестве на конкретных задачах. Модель распространяется по лицензии MIT.

bartowski/Phi-3-mini-4k-instruct-GGUF — набор GGUF-квантизированных версий Phi-3-mini-4k-instruct, исходно разработанной Microsoft. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи обработки естественного языка и программирования. В README указана поддержка английского языка и контекстное окно на 4K токенов; модальность — текстовая. Ключевая особенность репозитория — квантизация с использованием llama.cpp и метода imatrix. Доступны варианты от Q8_0 до очень компактных IQ1_S, что позволяет выбирать между качеством и требованиями к памяти. Наиболее высокое качество дают Q8_0 и Q6_K, а Q4- и Q3-варианты ориентированы на более экономичное локальное использование; варианты с низкой разрядностью заметно уступают по качеству, хотя некоторые из них остаются пригодными для практических задач. Модель удобна для локального запуска через совместимую инфраструктуру llama.cpp, однако конкретные требования к памяти и производительность зависят от выбранного варианта квантизации. README не содержит подробностей об архитектуре и точном числе параметров исходной модели. Распространение указано по лицензии MIT.

duyntnet/Phi-4-mini-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-4-mini-instruct, разработанной Microsoft. Модель предназначена для генерации текста, диалогов, выполнения инструкций, рассуждений и сценариев с вызовом инструментов. Она ориентирована на локальный запуск через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, text-generation-webui, Jan и GPT4All. Модель является лёгкой и поддерживает контекст длиной до 128K токенов. Она обучалась на синтетических данных и отфильтрованных общедоступных веб-материалах с акцентом на плотные по рассуждениям данные; для улучшения следования инструкциям и безопасности применялись supervised fine-tuning и direct preference optimization. Указан английский язык, модальность — текстовая. Размер модели, конкретные параметры квантизации и архитектурные детали в README не приведены. Для запуска требуется llama.cpp версии b4792 или новее либо совместимое программное обеспечение. Квантизация может снизить требования к ресурсам, но потенциально уступать исходной модели в точности; конкретные компромиссы зависят от варианта GGUF и не описаны. Лицензия указана как other, без дополнительных условий в представленном README.

Это многоязычная модель эмбеддингов Sentence Transformer, созданная дообучением CodeFuse AI модели codefuse-ai/F2LLM-v2-0.6B на наборе данных json. Она предназначена для семантического поиска и сравнения текстов: преобразует предложения и абзацы в плотные векторы размерностью 1024, которые можно сопоставлять по косинусному сходству. Также подходит для поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Модель использует архитектуру Qwen3 с извлечением признаков, pooling по последнему токену и нормализацией векторов. В README указана максимальная длина последовательности 512 токенов; метаданные сообщают о нативном контексте базовой архитектуры до 40960 токенов. Это текстовая модель с многоязычной поддержкой, распространяемая по лицензии Apache-2.0. В README приведены высокие метрики поиска на наборе eval_pipe, однако обучающий набор содержит всего 160 примеров, поэтому эти результаты не гарантируют качество на других данных. Для корректной работы с задачами поиска README приводит отдельный шаблон запроса с инструкцией; максимальная длина последовательности ограничивает размер обрабатываемого текста.

Карточка модели JaehyeokLee/preliminary_clustering_gist_checkpoint_epoch_1_step_150 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

CultriX/Qwen2.5-14B-Hyperionv4 — объединённая языковая модель на архитектуре Qwen2.5, созданная с помощью mergekit. В качестве базовой модели использована CultriX/Qwen2.5-14B-Wernickev3; слияние выполнено методом DARE TIES с участием нескольких моделей семейства Qwen и других производных 14B-моделей. Модель предназначена для генерации текста и диалогового общения, включая сценарии с длинным контекстом до 131 072 токенов. Она поставляется в формате Safetensors и поддерживает интерфейс вызова инструментов. В карточке не заявлена специализация на конкретном языке или прикладной области. Модель содержит 14 млрд параметров. Лицензия в доступных данных не указана.