II.11Кибербезопасность и приватность

Qwen3-Coder-480B-A35B-Instruct-GGUF — это набор квантизированных вариантов инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модели распространяются в формате GGUF и предназначены для запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на генерацию текста и задачи программирования в диалоговом режиме. README указывает шаблон запросов с ролями system, user и assistant. Доступны варианты квантизации Q2–Q8 с размером файлов примерно от 169 до 510 ГБ; версии с более высокой точностью обеспечивают лучшее качество, но требуют значительно больше оперативной памяти, а низкоразрядные варианты экономят ресурсы за счёт снижения качества. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5_K_M и Q6_K. Сильная сторона модели — большой размер исходной модели и широкий выбор квантизаций, позволяющий выбирать компромисс между качеством и требованиями к памяти. Ограничения — крайне высокие аппаратные требования даже у компактных вариантов, а также возможное ухудшение качества при использовании низких уровней квантизации. Сведения о поддерживаемых языках, размере контекста, мультимодальности и лицензии в README не указаны.

Sentie 1.0-3B UltraCode — языковая модель компании SentieAI для генерации текста, программирования, рассуждений и агентных сценариев. Модель основана на Nanbeige/Nanbeige-4.1-3B и дообучена на 18 354 многоходовых образцах с рассуждениями и использованием инструментов, включая синтетические русско- и англоязычные данные, задачи разработки, DevOps, терминального управления и корпоративного программирования. Модель содержит около 3 миллиардов параметров и распространяется в формате GGUF с вариантами квантования от F16 до 3-битных IQ3_M и Q3_K_M. Заявлена поддержка русского и английского языков. Основные сценарии включают написание и анализ кода, многошаговое решение задач, работу в роли программного агента и tool-calling. Наличие нескольких вариантов квантования позволяет запускать модель локально, в том числе на устройствах с ограниченной памятью, однако более сильное квантование может снижать точность. К сильным сторонам относятся компактный размер, ориентация на код и агентные задачи, а также широкий выбор квантованных сборок для разных требований к памяти и скорости. Ограничения — относительно небольшой размер модели по сравнению с крупными LLM, потенциальные потери качества при низком уровне квантования и отсутствие в README сведений о размере контекстного окна и мультимодальных возможностях. Модель распространяется по лицензии Apache-2.0.

lucasflins/AiFiltering — текстовая Sentence Transformer-модель на архитектуре BERT, разработчик в карточке не уточнён. Модель преобразует текст в плотные векторы размерностью 768 и предназначена для сравнения смысловой близости предложений, семантического поиска, поиска перефразирований, классификации и кластеризации. Для вычисления сходства используется косинусная мера. Модель принимает текст; максимальная длина последовательности в README — 128 токенов, а контекстная длина в метаданных — 512 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на работу с библиотекой Sentence Transformers. Лицензия в предоставленных данных не указана.

DeepSeek-Coder-V2-Instruct — диалоговая модель для программирования от DeepSeek AI, дообученная на базе DeepSeek-Coder-V2-Base. Это вариант семейства DeepSeek-Coder-V2 на архитектуре DeepSeekMoE; в карточке репозитория указано 18,1 млрд параметров, а README сообщает о версиях семейства с 16 млрд и 236 млрд параметров, из которых активно используются соответственно 2,4 млрд и 21 млрд. Контекст модели по метаданным составляет 163 840 токенов. Модель предназначена для генерации и дополнения кода, вставки фрагментов в существующий код, диалоговой помощи при разработке и решения задач на математические рассуждения. Семейство поддерживает 338 языков программирования и заявляет улучшенные способности к кодированию при сохранении возможностей в задачах на естественном языке. README приводит сравнительные результаты на бенчмарках, но не уточняет их методику для данного конкретного варианта. Для запуска в формате BF16 README указывает требование к оборудованию 8 GPU с 80 ГБ памяти каждый. Репозиторий содержит веса Safetensors. Лицензия в метаданных обозначена как «other», поэтому конкретные условия использования следует проверять в файлах лицензии репозитория.

DeepSeek-R1-0528-Qwen3-8B-GGUF — это GGUF-версия языковой модели DeepSeek-R1-0528-Qwen3-8B, подготовленная Unsloth на базе модели DeepSeek AI. Модель ориентирована на задачи, требующие рассуждений, включая математику, программирование, общую логику и работу с функциями, а также на сценарии локального запуска через совместимые инструменты, например Ollama и llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF. В README указаны улучшения глубины рассуждений, качества вывода на математических и логических тестах, снижение частоты галлюцинаций, расширенная поддержка function calling и улучшенный опыт vibe coding. Рекомендуется использовать температуру 0,5–0,7, оптимально 0,6, и Top_P 0,95. Сведения о точной архитектуре, поддерживаемых языках, модальностях и размере контекста в карточке отсутствуют. Формат GGUF удобен для локального вывода и позволяет выбирать варианты квантования, однако конкретный уровень квантования зависит от используемого файла и в данной карточке не указан. Для корректной работы требуется соблюдать рекомендованный chat template и настройки инференса. Модель распространяется по лицензии MIT.

Dolphin 2.8 Mistral 7B v0.2 — разговорная модель с открытыми весами, разработанная Эриком Хартфордом и Cognitive Computations. Она дообучена на базе Mistral-7B-v0.2 и предназначена для выполнения инструкций, диалогов и задач программирования. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; полновесное дообучение проводилось с длиной последовательности 16 000 токенов. В карточке перечислены обучающие наборы для инструкций, диалогов и кода. Модель ориентирована на генерацию ответов в чате, помощь с кодом и выполнение текстовых инструкций на английском языке. Авторы характеризуют её как uncensored и предупреждают о высокой готовности выполнять запросы, в том числе неэтичные; перед предоставлением модели пользователям рекомендуется добавить собственный слой контроля. Модель распространяется по лицензии Apache 2.0, включая коммерческое использование.

Карточка модели Nguyentruong031203/embeddinggemma-300m на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Карточка модели Ccre/gemma-embedding-model на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Карточка модели SmartManoj/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

MiMo-Ornith-9B-AGSI — объединённая языковая модель OliviaRossi, созданная слиянием XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B и ornith-ai/Ornith-1.5-9B. Она предназначена для генерации текста в диалоге, рассуждений, программирования и агентных сценариев с вызовом инструментов, включая работу с терминалом и CLI. В метаданных указана плотная архитектура семейства Qwen 3.5; репозиторий содержит веса Safetensors и рассчитан на Transformers. README описывает метод слияния AGSI, а также рекомендует запускать модель с контекстом до 131 072 токенов. Модель ориентирована на сочетание математических и программных рассуждений с выполнением агентных задач и самоотладкой. Карточка сообщает о шаблоне чата Qwen и форматировании, отделяющем внутренние рассуждения от итогового ответа. Поддерживаемые языки по данным карточки — английский и китайский. Лицензия — Apache-2.0. Практические результаты и рекомендуемые параметры запуска из README не являются независимой оценкой качества; заявленный длинный контекст зависит от используемого сервера и конфигурации.

Многоязычная модель Sentence Transformer, дообученная на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 для получения векторных представлений предложений и абзацев. Архитектура основана на BERT; модель содержит 124,3 млн параметров и формирует плотные векторы размерности 384. README указывает максимальную длину последовательности 128 токенов, а метаданные — контекстное окно 512 токенов. Модель предназначена для семантического поиска и сравнения текстов по косинусному сходству, поиска перефразирований, кластеризации и классификации текста. При обучении использовались 101 072 примера и MultipleNegativesRankingLoss. Модель поддерживает множество языков благодаря многоязычной базовой модели; языки в карточке отдельно не перечислены. Веса опубликованы в формате safetensors и используются через библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.

Multilingual-E5-large — мультиязычная модель текстовых эмбеддингов, основанная на XLM-RoBERTa-large и обученная контрастивным методом на смеси мультиязычных данных. В карточке перечислены авторы Liang Wang, Nan Yang, Xiaolong Huang, Binxing Jiao, Linjun Yang, Daxin Jiang, Rangan Majumder и Furu Wei. Модель имеет 24 слоя, размер эмбеддинга 1024 и около 658,7 млн параметров. Она предназначена для поиска по текстам, семантического сходства, поиска парафраз и межъязыкового сопоставления текстов, а также для получения признаков для классификации и кластеризации. Для поиска нужно добавлять к запросу префикс «query:», а к документу — «passage:»; для симметричных задач и получения признаков используется префикс «query:». Поддерживается 100 языков семейства XLM-RoBERTa, включая русский, однако качество может снижаться на языках с малым объёмом обучающих данных. Модель принимает текст и выдаёт векторные представления. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Лицензия — MIT.

Nemotron-Cascade-14B-Thinking — универсальная языковая модель NVIDIA на 14 млрд параметров, построенная на архитектуре Qwen3 и дообученная от Qwen3-14B Base. Модель проходит многоэтапное SFT и последовательное обучение с подкреплением по отдельным областям; она предназначена исключительно для режима рассуждений и поддерживает диалоговый шаблон Qwen3 ChatML. Модель подходит для рассуждений на общие темы, математики, программирования, разработки ПО, следования инструкциям и использования инструментов. В метаданных указан контекст 32 768 токенов; README рекомендует YaRN для поддержки более длинного контекста и приводит параметры генерации temperature 0,6 и top_p 0,95. По данным карточки, доступны веса Safetensors и библиотека Transformers. Карточка сообщает о высоких результатах на широком наборе бенчмарков, но эти заявления относятся к оценкам авторов. Модель текстовая и ориентирована на английский язык; README не описывает поддержку других языков. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

NeoHorse-1-9B-MLX — версия для локального запуска на Apple Silicon модели NeoHorse-1-9B, разработанной TokenRhythm. Это плотная авторегрессионная языковая модель семейства Qwen3.5 с 7,2 млрд параметров, предназначенная для диалогов, программирования, рассуждений, следования инструкциям и работы с инструментами в агентных сценариях. Контекстное окно составляет 262 144 токена. Веса представлены в BF16 и адаптированы для MLX-LM: изменены имена и раскладка тензоров, а также представление нормализации; квантизация не применялась. Модель можно запускать локально через MLX-LM, в том числе как OpenAI-совместимый сервер с поддержкой вызова инструментов. В README указаны результаты исходной NeoHorse-1-9B на наборах тестов, но отдельная оценка этой MLX-версии не приводится. Модель предназначена для Apple Silicon и использует лицензию Apache-2.0. Ограничения: результаты исходной модели не подтверждают идентичное качество этой версии; для запуска требуется совместимая среда MLX-LM на Mac с Apple Silicon.

Qwen2.5-Coder-32B-Instruct-8bit — это 8-битная версия модели Qwen2.5-Coder-32B-Instruct, конвертированная в формат MLX сообществом mlx-community с использованием mlx-lm 0.19.3. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате. Модель ориентирована на задачи кодирования и чат-сценарии, включая генерацию ответов на запросы пользователя с применением chat template. В README указано, что она поддерживает английский язык и относится к классу text-generation. Размер исходной модели составляет 32B параметров, а представление использует 8-битную квантизацию. Архитектура и размер контекстного окна в предоставленных данных не указаны. Ключевое преимущество этой версии — формат MLX, предназначенный для использования через mlx-lm; README содержит пример загрузки и генерации. Ограничения, точные показатели качества, перечень поддерживаемых языков помимо английского и требования к аппаратному обеспечению не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем minte1431. В README также упоминается проект OBLITERATUS, однако точный разработчик модификации явно не указан. Модель представляет собой вариант Qwen с изменённым поведением отказов, созданный методом abliteration: из весового пространства удалялись направления, связанные с отказами и защитными ответами, с последующей итеративной доработкой и смешиванием нескольких вариантов. Модель предназначена для генерации текста, программного кода, агентских сценариев и исследований поведения LLM в задачах red teaming и AI safety. Заявлена поддержка обычного и thinking-режима, а также форматов GGUF, Safetensors и MLX. Размер модели — 27B параметров; базовая архитектура — Qwen3.8. Сведения о языках и размере контекстного окна в README не указаны. Для инференса рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; системный промпт рекомендуется не задавать. Сильной стороной заявляется существенно сниженная склонность к отказам и отвлечённым лекциям по безопасности при сохранении большей части возможностей базовой модели. Для версии V3 указаны результаты MMLU 82,3% против 84,5% у исходной модели, а также успешное выполнение 20 из 20 проверенных задач генерации кода. Ограничениями являются некоторое падение качества относительно базовой Qwen3.8-27B, возможные циклы при генерации без repetition_penalty и необходимость аккуратной настройки параметров в агентских сценариях. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-oQ5e-mtp — это 5-битная смешанная oQ5e-квантизация базовой модели Qwen/Qwen3.8-Flash-Next. Квантизация выполнена непосредственно из исходных BF16-весов с помощью oMLX 0.6.4; автор квантизации в README явно не указан. Модель предназначена для локальной генерации текста, рассуждений, решения задач с ограничениями, отладки Python-кода и других сценариев, где важны качество рассуждений и стабильность генерации. Сохранены компоненты MTP и vision, поэтому поддерживаются текстовые и визуальные входы базовой модели, однако точный набор языков и максимальная длина контекста в README не указаны. Номинальный размер группы квантования — 64, неквантизированный тип данных — BF16, размер модели — около 125,7 ГБ. Для работы рекомендована система Apple Silicon с 128 ГБ unified memory, включёнными SSD N-gram Offload и Lightning MTP; основное тестирование проводилось на MacBook Pro с Apple M5 Max. При активной генерации модель потребляла около 102 ГБ общей системной памяти, а требования к памяти увеличиваются с ростом контекста и KV-кэша. По данным автора, по сравнению с oQ4e модель обеспечивает более высокую устойчивость рассуждений и генерации на сложных задачах, сохраняя практичность для локального запуска. В отдельных тестах она корректнее решала задачи с ограничениями и полностью завершала длительные вычислительные сценарии, но не превосходит oQ4e во всех бенчмарках и может работать медленнее на некоторых нагрузках; в приведённом тесте отладки Python предложенная реализация содержала ошибку управления состоянием. Лицензия указана как qwen-community-1.0.

Qwen3-Embedding-8B — текстовая модель эмбеддингов семейства Qwen3, разработанная командой Qwen. Это плотная архитектура Qwen3ForCausalLM с 7,6 млрд параметров, дообученная на базе Qwen/Qwen3-8B-Base для получения векторных представлений текста. Модель предназначена для семантического поиска и ранжирования, а также поддерживает классификацию, кластеризацию, поиск по коду и межъязыковой поиск. Модель поддерживает более 100 естественных и программных языков, обрабатывает длинные последовательности с контекстом до 40 960 токенов по метаданным и выдаёт эмбеддинги размерностью до 4096; README также сообщает о настройке выходной размерности от 32 до 4096. Можно задавать инструкции для конкретной задачи, языка или сценария. Модель рассчитана на получение векторов из текста; метаданные также отмечают возможности чата и интерфейс вызова инструментов, но основной сценарий этой версии — эмбеддинги. По данным карточки, версия 8B заняла первое место в мультиязычном рейтинге MTEB на 5 июня 2025 года с результатом 70,58. Для некоторых задач retrieval README отмечает снижение качества примерно на 1–5% без подходящей инструкции. Для работы с поддержкой Qwen3 требуется Transformers 4.51.0 или новее. Лицензия — Apache-2.0.

Qign Qwen3-VL-8B-Instruct-abliterated-v2-GGUF — это GGUF-версия мультимодальной модели prithivMLmods, основанной на Qwen3-VL-8B-Instruct от Alibaba. Модель содержит около 8 млрд параметров и предназначена для задач image-text-to-text: анализа изображений, подробного описания визуального содержимого, следования инструкциям и мультимодального рассуждения. Доступны варианты квантования от Q2_K до Q8_0, а также F16; размер файлов составляет примерно от 3,28 до 16,4 ГБ, отдельно предоставляются мультимодальные проекционные файлы mmproj в форматах Q8_0 и F16. Заявлены поддержка механизма Interleaved-MRoPE, контекста длиной до 262 тысяч токенов, OCR на 32 языках, различных разрешений и соотношений сторон, видео и сложных макетов. Основным языком считается английский, при этом заявлена возможность мультиязычного использования. Вариант abliterated модифицирован для снижения или удаления отказов и защитных ограничений базовой модели, что может быть полезно для исследований безопасности, red-teaming, творческих и технических сценариев, но одновременно повышает риск генерации нежелательного, небезопасного или неточного контента. Для запуска рекомендуются инструменты llama.cpp, Transformers или vLLM; требования к памяти зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache-2.0.

Step-3.5-Flash-REAP-121B-A11B — сжатая версия Step-3.5-Flash от Cerebras, созданная методом REAP (Router-weighted Expert Activation Pruning). Это разреженная причинно-языковая MoE-модель: из исходных 288 экспертов оставлено 173, а на каждом токене активируются 8; в README указано 121 млрд параметров и 11 млрд активных на токен. Каталог Hugging Face указывает 9,8 млрд параметров, поэтому размер модели по источникам расходится. Модель предназначена для диалогов, генерации кода, математических задач, рассуждений и агентных сценариев с вызовом инструментов. Заявлена длина контекста 262 144 токена. В README говорится о близкой к полной модели производительности и снижении потребления памяти примерно на 40%; для запуска автор рекомендует vLLM с поддержкой Step-3.5-Flash. Модель принимает текст и генерирует текст; в карточке указана поддержка английского языка. README сообщает лицензию Apache 2.0, тогда как метаданные Hugging Face обозначают её как other, поэтому условия лицензии следует сверить с файлами репозитория перед использованием.

t-tech_T-Search-GGUF — это GGUF-квантизированная версия модели T-Search, разработанной t-tech и подготовленной bartowski с использованием llama.cpp. Модель относится к классу Mixture-of-Experts с заявленным размером 35B и примерно 3B активных параметров, а также содержит MTP-слои для ускорения генерации посредством self-speculative decoding. Модель предназначена для агентного поиска, информационного поиска, retrieval-задач, RAG, использования инструментов и function calling. Она поддерживает английский и русский языки. В README указаны возможности запуска через llama.cpp, ramalama, LM Studio, koboldcpp, Jan AI и другие совместимые приложения. Для активации MTP в llama.cpp требуется параметр --spec-type draft-mtp. Доступно множество вариантов квантизации — от BF16 размером около 71 ГБ до компактных IQ3 и Q3-разновидностей, а также рекомендуемых Q4–Q6 вариантов. Более качественные квантизации обеспечивают лучшее сохранение характеристик, тогда как компактные требуют меньше оперативной памяти, но снижают качество. Для модели не указан размер контекста, поэтому его характеристики в этом отношении неизвестны. Лицензия — Apache-2.0.

BidirLM-1.7B-Embedding — многоязычная модель для получения текстовых эмбеддингов, разработанная авторами семейства BidirLM. Это плотный двунаправленный энкодер BidirLMModel на 1,7 млрд параметров, дообученный на основе BidirLM/BidirLM-1.7B-Base контрастивным обучением. Модель использует mean pooling, поддерживает контекст до 32 768 токенов и предназначена для семантического поиска и других задач сопоставления текстов. Модель подходит для поиска и извлечения документов, оценки семантического сходства, кластеризации, классификации текстов, парной классификации, переранжирования и поиска параллельных текстов. Также её можно дообучать для классификации последовательностей и токенов, включая NER и POS-разметку. В карточке заявлена поддержка более 119 языков; метаданные подтверждают многоязычность и перечисляют языковые коды, включая английский, арабский, китайский и хинди. В карточке отмечены результаты на бенчмарках MTEB и LongEmbed, а также возможность применять одну модель и для эмбеддингов, и для последующего дообучения под прикладные задачи. Для загрузки требуется trust_remote_code=True и совместимые версии Transformers и Sentence Transformers. Модель распространяется по лицензии Apache-2.0.

distiluse-base-multilingual-cased-v2 — модель Sentence Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 512 на основе архитектуры DistilBERT и предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель поддерживает множество языков, включая русский, и может применяться для поиска похожих фраз и документов в многоязычных коллекциях. Максимальная длина контекста — 512 токенов. Доступны форматы PyTorch, safetensors, TensorFlow, ONNX и OpenVINO; лицензия — Apache-2.0. Модель выдаёт эмбеддинги, а не готовые ответы или метки. Качество поиска зависит от языка, предметной области и выбранного способа сравнения векторов; тексты длиннее контекстного окна ограничиваются доступной длиной.

ChuckMcSneed/dolphin-2.9.1-dbrx-llamacppfixed — исправленная копия Dolphin 2.9.1 DBRX от Cognitive Computations с исправлениями для конвертации в GGUF через llama.cpp. Базовая модель — databricks/dbrx-base; Dolphin дообучена полным fine-tuning на последовательностях длиной 4 тыс. токенов, хотя базовая модель поддерживает контекст 32 тыс. токенов. Используется архитектура DBRX и шаблон диалога ChatML. Модель предназначена для диалогов с ассистентом, следования инструкциям, программирования, решения математических задач, вызова функций и первоначальных агентных сценариев. README отмечает её высокую готовность отвечать на запросы, в том числе вредоносные, а также посредственное качество письма и возможное снижение качества при квантовании. Для применения в сервисах автор рекомендует добавить собственный слой выравнивания. В README указаны лицензия databricks-open-model-license для базовой модели и разрешение на использование Dolphin, включая коммерческое, в рамках лицензии Meta Llama 3; точные условия для этой исправленной копии следует сверять с лицензией репозитория.

Карточка модели ChaosAIVision/embeddinggemma-300m на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

Карточка модели h2oai/embeddinggemma-300m на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Карточка модели SteveCIB77/embeddinggemma-300m на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

Gemma 4 12B-it JANG 4M CRACK — мультимодальная инструкционная модель dealignai, основанная на Google Gemma 4 12B-it. Она предназначена для диалогов и задач с текстом, изображениями, аудио и видео; карточка также заявляет поддержку рассуждений и вызова инструментов. Модель имеет 48 слоёв, гибридное скользящее и полное внимание и контекст до 128 тысяч токенов. Разработчик сообщает, что модель прошла абляцию отказов CRACK и смешанную квантизацию JANG: 8-битные веса внимания и 4-битные веса MLP. Версия подготовлена для MLX и Apple Silicon, занимает около 9,6 ГБ. В README приведены результаты собственных оценок на HarmBench и MMLU; они не гарантируют качество на других задачах. Из-за удаления поведения отказа модель может выдавать ответы на потенциально опасные запросы. Разработчик указывает исследовательское применение и авторизованное тестирование безопасности. Лицензия — Gemma; перед использованием следует учитывать её условия.

GLiNER2.5 Base — англоязычная модель извлечения информации по заданной схеме от Fastino. Она предназначена для извлечения именованных сущностей, классификации текста, разбора структурированных записей, оценки атрибутов фрагментов и извлечения отношений между сущностями в одном конвейере. Модель построена на граничной архитектуре GLiNER2 с энкодером DeBERTa-v3-base и содержит 194 млн параметров; метаданные указывают формат весов safetensors. Для работы с длинными документами можно обрабатывать перекрывающиеся фрагменты и объединять смещения результатов. Модель поддерживает локальный запуск на CPU, CUDA и MPS, а также совместное извлечение сущностей, классификаций, отношений и структурированных записей. Её используют для разметки текста по пользовательским схемам, извлечения связей и формирования записей с сохранением принадлежности полей к отдельным объектам. Базовый энкодер — microsoft/deberta-v3-base. Лицензия — Apache-2.0. При обработке длинных документов обычный вызов extract обрезает текст по max_len; разбиение на фрагменты не сохраняет сущности и отношения, чьи части не попали в один фрагмент. Независимое извлечение отношений само по себе не гарантирует соответствие типов концов заданным ограничениям; для совместимых ограничений предназначен режим JointIE.