II.11Кибербезопасность и приватность
В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 232 моделиEttin Encoder 1B — англоязычная модель-энкодер семейства ModernBERT от исследовательской группы JHU CLSP, часть набора Ettin для сопоставления энкодерных и декодерных архитектур. Модель содержит 1 млрд параметров, построена на плотной архитектуре ModernBERT и обучена с маскированием токенов; она предназначена для извлечения признаков и получения текстовых представлений, а также поддерживает заполнение пропусков в тексте. Модель подходит для классификации текстов, поиска и извлечения представлений, включая поиск по коду и работу с длинным контекстом. В описании набора Ettin сообщается о сильных результатах энкодеров на GLUE, англоязычном поиске MTEB и CodeSearchNet. Контекст модели составляет около 8 тысяч токенов. Обучение Ettin использует открытые данные и единый рецепт для сравнения архитектур; лицензия модели — MIT.
nlplabtdtu/gte-small — модель для получения векторных представлений предложений и абзацев. В README она описана как модель Sentence Transformers, отображающая текст в плотное пространство эмбеддингов размерностью 384; метаданные указывают архитектуру BERT и около 40 млн параметров. Модель предназначена для семантического поиска, сравнения смысловой близости текстов и кластеризации. Она принимает текст и выдаёт векторы, которые можно сопоставлять по косинусному сходству. Контекст модели — до 512 токенов. В README указано обучение с MultipleNegativesRankingLoss и косинусной функцией сходства. Карточка не сообщает, для каких языков модель обучена, поэтому языковую специализацию определить нельзя. Модель опубликована в формате PyTorch; отдельная лицензия в предоставленных данных не приведена.
arkohut/jina-embeddings-v3 — мультиязычная многозадачная модель эмбеддингов, разработанная Jina AI и основанная на архитектуре Jina-XLM-RoBERTa. Она преобразует текст в векторные представления для семантического поиска, сопоставления текстов, кластеризации и классификации. В README заявлена обработка последовательностей до 8192 токенов; метаданные указывают 658,7 млн параметров и библиотеку Transformers. Модель использует пять LoRA-адаптеров для настройки эмбеддингов под разные задачи: запросы и документы для асимметричного поиска, разделение и ранжирование, классификация и сопоставление текстов. Поддерживаются Matryoshka-эмбеддинги размером от 32 до 1024 измерений. Тюнинг охватывает 30 языков, включая русский; базовая модель заявлена как поддерживающая 100 языков. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.
Карточка модели Laevo/LFM2.5-Encoder-230M на Hugging Face совпадает с карточкой LiquidAI/LFM2.5-Encoder-230M, поэтому описание составлено по ней. LFM2.5-Encoder-230M — разработанный Liquid AI компактный многоязычный двунаправленный энкодер на архитектуре LFM2 с 221,2 млн параметров. Это masked language model с головой заполнения масок, предназначенная прежде всего для дообучения под прикладные задачи обработки текста. Гибридная архитектура чередует блоки коротких gated-свёрток и grouped-query attention; модель доступна в формате safetensors и работает через Transformers с удалённым кодом модели. Энкодер подходит как основа для классификации текста и токенов, извлечения сущностей, поиска и ранжирования, оценки семантического сходства, определения тональности и естественно-языкового вывода. Заявлена поддержка 15 языков, включая русский. README указывает контекст до 8 192 токенов и возможность эффективного запуска на устройстве и в браузере через WebGPU; значение длины контекста в метаданных каталога составляет 128 000 токенов, поэтому фактический рабочий предел следует сверять с используемой конфигурацией модели. Модель ориентирована на низкие требования к памяти и задержке; авторы сообщают о хорошей производительности на длинных последовательностях и приводят сравнения с другими энкодерами. Для перечисленных прикладных задач обычно требуется дообучение: исходная модель не является готовым специализированным классификатором или поисковым ранжировщиком. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.
Llama-3-8B-Instruct-Coder-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Llama-3-8B-Instruct-Coder, предназначенной прежде всего для генерации и анализа программного кода, а также для диалоговых задач по текстовым инструкциям. Квантизации подготовлены пользователем bartowski на основе модели rombodawg/Llama-3-8B-Instruct-Coder, которая, в свою очередь, связана с базовой моделью unsloth/llama-3-8b-Instruct-bnb-4bit. Для квантизации использован llama.cpp с imatrix и датасетом Kalomaze. Модель имеет текстовую модальность, архитектуру семейства Llama 3 и размер 8 миллиардов параметров. В README явно указан английский язык; сведения о других языках и размере контекстного окна отсутствуют. Доступны варианты от Q8_0 до IQ1_M размером примерно от 2,16 до 8,54 ГБ. Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-варианты отмечены как рекомендуемые: более высокие уровни обычно обеспечивают лучшее качество, а низкие позволяют экономить оперативную память ценой заметной деградации. Сильные стороны модели — возможность локального запуска через llama.cpp, широкий выбор компромиссов между качеством и требованиями к памяти и специализация на задачах программирования. Ограничения включают потери качества при агрессивной квантизации, особенно у вариантов IQ1_M и Q2–Q3, а также отсутствие в README подробных данных о бенчмарках, контекстном окне и фактическом языковом покрытии. Модель распространяется по лицензии Apache-2.0.
LongCat-2.0-INT8 — 8-битная версия крупной разреженной MoE-языковой модели LongCat-2.0, разработанная командой Meituan LongCat. Модель предназначена для генерации текста, понимания кода, редактирования репозиториев, автоматизированного выполнения задач и агентских рабочих процессов. В метаданных Hugging Face указаны 42,1 млрд параметров и контекст до 262 144 токенов; README базовой модели описывает архитектурные технологии LongCat Sparse Attention, N-gram Embedding и поддержку многотокенного предсказания.
Mellum2-12B-A2.5B-Thinking-GGUF — GGUF-квантизированная версия модели Mellum2-12B-A2.5B-Thinking, разработанной JetBrains. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения задач с пошаговым рассуждением, программирования, математического анализа и работы с инструментами. В README указано, что поддерживается английский язык. Модель имеет обозначение 12B-A2.5B-Thinking; точная архитектура, длина контекста и распределение параметров в README не раскрыты. Доступны варианты от BF16 до различных уровней квантизации GGUF, включая Q8_0, Q6_K, Q5_K и Q4_K; размеры файлов составляют примерно от 8 до 24 ГБ для перечисленных вариантов. Для запуска поддерживаются llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Используется специальный chat-шаблон с маркерами im_start и im_end. Среди сильных сторон заявлены высокие результаты на задачах программирования, математики, общих знаний и следования инструкциям: например, 69,9% pass@1 на LiveCodeBench v6, 87,0% exact match на GSM-Plus и 86,2% accuracy на MMLU-Redux. Эти результаты помечены как непроверенные. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, неизвестную длину контекста и отсутствие данных о мультимодальности; README описывает модель как текстовую. Лицензия — Apache-2.0.
nomic-embed-text-v1.5 — текстовая модель эмбеддингов, разработанная Nomic AI на архитектуре NomicBert. Она преобразует тексты в векторы для семантического поиска, формирования RAG-индексов, кластеризации, удаления семантических дублей и подготовки признаков для классификации. Для разных сценариев перед текстом требуется указывать соответствующий префикс задачи, например search_document или search_query. Модель поддерживает контекст до 8192 токенов и создаёт векторы размерностью 768; благодаря Matryoshka Representation Learning размерность можно уменьшать с небольшим снижением качества. README описывает именно текстовую модель: отдельная nomic-embed-vision-v1.5 выровнена с её пространством эмбеддингов, но это не означает, что данный репозиторий принимает изображения. Модель распространяется по лицензии Apache-2.0.
Pink Elephant 48B-S GGUF — языковая модель для генерации текста, разработанная Pink Elephant Limited. Это локально запускаемая версия модели, преобразованная в формат GGUF и предназначенная для работы через Ollama и llama.cpp на потребительском оборудовании. Модель построена как разреженная Mixture-of-Experts архитектура с 47,7 млрд параметров, из которых на каждом токене активируется около 14,66 млрд. Используется 8 экспертов с маршрутизацией top-2, что, согласно README, обеспечивает примерно в 3,2 раза меньше вычислений по сравнению с плотной моделью аналогичного размера. Модель происходит от плотной 14B основы, дообученной на примерах программирования и математики, а затем прошла SFT и DPO-выравнивание. Указаны английский язык и контекст до 16 384 токенов. Доступна квантизованная версия Q4_K_M размером около 8,3 ГБ. Модель ориентирована на генерацию текста, помощь в программировании, математические задачи и локальное развертывание на одной потребительской видеокарте. Среди заявленных результатов — 68,5% на GSM8K и 60,0% на MMLU в конфигурации bf16; эти показатели получены разработчиками на одной NVIDIA RTX PRO 6000 Blackwell и могут зависеть от настроек запуска. К сильным сторонам относятся сочетание большой общей емкости, разреженных вычислений, локального использования и выравнивания SFT+DPO. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, квантизации и корректного шаблона ChatML, а также отсутствие в README сведений о мультимодальности и поддержке других языков. Модель распространяется по лицензии MIT, допускающей коммерческое и исследовательское использование.
baronyi/Qwen2_5-code-talker-v1-0707-014615 — объединённая методом SLERP модель на основе Qwen/Qwen2.5-Coder-14B-Instruct и Qwen/Qwen2.5-14B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и примерно 14 млрд параметров; карточка указывает форматы Safetensors и GGUF F16, а метаданные — контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и программного кода, а также структурированных ответов и взаимодействия с инструментами через соответствующий интерфейс. Она объединяет возможности двух инструкционных моделей Qwen2.5, одна из которых ориентирована на код. Поддерживаемые языки в предоставленных данных не перечислены. Условия лицензии в карточке и метаданных не приведены.
pragmaticcs/Qwen-35B-A3B-SignOfFour-Coder-GGUF — объединённая модель семейства Qwen 3.6 от pragmaticcs, предназначенная для разработки программного обеспечения, генерации кода и агентного выполнения инструментов. Это причинная языковая MoE-модель с 35 млрд параметров, из которых активны около 3 млрд на токен; в архитектуре 40 декодерных слоёв. Модель объединяет базовую Qwopus3.6-35B-A3B-Coder с тремя специализированными дообучениями методом DARE-TIES и послойным синусоидальным масштабированием. Модель работает с текстом и выдаёт текст, включая код и команды для инструментов. В README указана поддержка многоуровневого рассуждения и агентного взаимодействия через шаблон чата Qwen 3.x. Веса доступны в формате GGUF, включая варианты BF16, Q4_K_M, Q5_K_M, Q6_K и Q8_0; лицензия — Apache-2.0. Мультимодальные веса зрения и головы предсказания нескольких токенов удалены. Карточка не приводит размер контекстного окна.
Qwen3.8-27B-IU4-Kairic-Edge — производительная квантованная версия Qwen3.8-27B, разработанная Kairic.ai для локального запуска на графических процессорах AMD Strix Halo с архитектурой gfx1151, включая Radeon 8060S. Модель предназначена для генерации текста и программного кода, а также для сценариев локального инференса с ускоренной обработкой промптов и многотокенной верификацией. Модель использует 27B-параметрическую языковую архитектуру Qwen3.8 и формат GGUF, а её вычислительный маршрут сочетает 4-битные активации и веса с нативными AMD IU4 matrix-инструкциями. Концепция Dual View объединяет авторитетное представление GGUF с тремя специализированными файлами-компаньонами Prompt Forge для отдельных фаз вычислений. Заявлена поддержка контекста размером до 256K токенов, prompt caching и native MTP4; сведения о языках в README не указаны. К сильным сторонам относятся высокая скорость генерации, ускоренная обработка промптов, существенное сокращение времени повторной обработки кэшируемых префиксов и результаты на тестах HumanEval. На воспроизведённой задаче структурированной генерации коэффициент принятия черновых токенов составил 99,73%, однако производительность зависит от совместимого оборудования и поддерживаемых форм вычислений. Для работы требуется специальная сборка Kairic Edge v1.2; стандартный llama.cpp не поддерживает необходимые sidecar-файлы и параметр --kairic-edge. Лицензия модели — Apache-2.0.
Это конверсия модели Qwen3-Coder-30B-A3B-Instruct в формат GGUF F16, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения, включая LM Studio, OpenWebUI и GPT4All. В основе — инструктивная MoE-модель Qwen, предназначенная для программирования, диалога и агентных сценариев. Модель подходит для генерации и объяснения кода, решения задач по программированию и математике, работы с RAG и интеграции с инструментами. В метаданных перечислена поддержка английского, китайского, испанского, французского, немецкого, русского, арабского, японского, корейского и хинди. Базовая модель поддерживает контекст до 262 144 токенов. Репозиторий содержит вариант GGUF F16; README также описывает доступные квантизованные варианты и компромиссы между размером, скоростью и качеством. Это конверсия сообщества, не связанная с Alibaba Cloud или командой Qwen. Лицензия — Apache-2.0.
sentence-transformers/stsb-mpnet-base-v2 — модель sentence-transformers, обученная командой sentence-transformers на базе архитектуры MPNet. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторные представления. Для обработки использует контекст длиной до 514 токенов. Доступны веса и варианты для PyTorch, safetensors, ONNX и OpenVINO; модель поддерживает Sentence-Transformers, Transformers и Text Embeddings Inference. Лицензия Apache-2.0 разрешает широкое использование, включая коммерческое, при соблюдении её условий. В карточке не указаны конкретные языки обучения; пригодность для отдельных языков следует проверять на целевых данных. Для текстов длиннее контекстного окна потребуется усечение или разбиение на фрагменты.
Viper-Coder-Hybrid-v1.3 — дообученная модель для генерации кода и технических текстов, созданная на базе Viper-Coder-v1.1. В карточке указано, что она использует архитектуру Qwen 2.5 с 14 млрд параметров; метаданные относят её к семейству Qwen2 и указывают контекст до 131 072 токенов. Модель работает с текстом и поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для написания, анализа и отладки кода, решения алгоритмических и логических задач, математических рассуждений, обработки структурированных данных и подготовки технической документации. README заявляет поддержку программирования на Python, JavaScript, C++, Java, SQL и других языках, а также документации на более чем 29 естественных языках; метаданные карточки указывают английский и китайский. Заявленная длина генерации — до 8 000 токенов. Модель может требовать мощных вычислительных ресурсов. README предупреждает о возможных ошибках в длинных ответах, разнице качества между языками программирования, зависимости результата от формулировки запроса и отсутствии доступа к актуальной информации из интернета. Лицензия — Apache-2.0.
Whittle-Next-27B-A3B-GGUF — это исследовательская GGUF-квантизация модели logic65/Whittle-Next-27B-A3B, разработанная David Aylward (logic65) совместно с Claude (Anthropic). Модель предназначена для запуска через llama.cpp и совместима с LM Studio, Jan, Ollama и llama-swap при наличии актуальной версии llama.cpp. Лицензия — Apache-2.0. Модель использует архитектуру Qwen4-Next в формате qwen4_exp и представляет собой смесь экспертов (MoE) с 27 млрд параметров всего и примерно 3 млрд активных параметров на токен. В ней применяются гиперсвязи остаточных потоков, хешированная n-gram-память объёмом 2 млрд строк, поуровневые эмбеддинги и дистилляция из Qwen3.8-27B. Поддерживаются текстовая генерация, диалоговые сценарии, рассуждения, математика и программирование; заявлены английский, китайский и многоязычный режимы. Доступны варианты квантизации от Q3_K_M до Q8_0 размером примерно от 13,3 до 29,3 ГБ. В README указано, что модель рассчитана на контекст до 16 384 токенов при рекомендованной настройке запуска. Сильными сторонами являются низкое число активных параметров, возможность запуска на стандартном llama.cpp без патчей, поддержка режима пошагового рассуждения и сравнительно высокая точность на математических задачах и проверке кода для исследовательского прототипа. Модель рекомендуется использовать с включённым thinking-режимом, сэмплированием и бюджетом не менее 4096 токенов для программирования. Это research preview, а не завершённая универсальная модель: ответы по коду могут быть длинными, производительность зависит от квантизации и размещения памяти, а при жадной генерации возможны зацикливания. Для полноценной оценки следует учитывать ограничения и измерения из базовой карточки модели.
blemond/0908a — дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-large, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 1024 для семантического поиска и сравнения текстов. Архитектура включает XLM-RoBERTa, усреднение токенов и нормализацию векторов; сходство оценивается косинусной мерой. В README указана максимальная длина последовательности 256 токенов, а метаданные модели — контекст 514 токенов. Модель предназначена для поиска соответствующих фрагментов по запросу, оценки семантического сходства, поиска перефразировок, кластеризации и классификации текста. Обучение проведено на 19 380 парах запросов и фрагментов с MultipleNegativesRankingLoss; в карточке приведены результаты оценки на e5-eval-real. Мультиязычность унаследована от базовой модели, а примеры обучения включают корейский язык. Лицензия в предоставленных данных не указана.
Карточка модели CYB3RFUNK/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
KnightsAnalytics/all-MiniLM-L6-v2 — англоязычная модель sentence-transformers, основанная на nreimers/MiniLM-L6-H384-uncased. Модель разработана в рамках инициативы Hugging Face Community Week по созданию эффективной модели эмбеддингов предложений с использованием JAX и Flax; в README также указано участие команд Google Flax, JAX и Cloud. Она преобразует предложения и короткие абзацы в плотные векторы размерностью 384. Модель предназначена для семантического поиска, сравнения похожести предложений, кластеризации и других задач извлечения признаков текста. Она обучалась с помощью контрастивного обучения на наборе свыше 1 миллиарда пар предложений, сформированном из множества датасетов, включая MS MARCO, SNLI, MultiNLI, Natural Questions, SQuAD-подобные и другие коллекции. Для получения итогового эмбеддинга используется mean pooling с учетом attention mask и L2-нормализация. По умолчанию входы длиннее 256 word pieces обрезаются. Ключевыми сильными сторонами являются компактная архитектура MiniLM, относительно небольшая размерность эмбеддингов и специализация на семантическом представлении предложений, что делает модель подходящей для эффективного поиска и кластеризации. Ограничения включают поддержку только английского языка согласно карточке модели и ограничение на длину входа; модель предназначена прежде всего для предложений и коротких абзацев, а не для генерации текста или обработки длинных документов без предварительного разбиения. Модель распространяется по лицензии Apache-2.0.
Samizie/avia-MiniLM-L12-v2 — модель Sentence Transformers на архитектуре BERT, разработчик описывает её как модель для преобразования предложений и абзацев в плотные векторы размерности 384. Она подходит для поиска семантически близких текстов, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Вектор формируется усреднением токенных представлений; для сравнения README рекомендует косинусное сходство. Максимальная длина входа — 512 токенов. Модель принимает текст и выдаёт эмбеддинги; в метаданных также заявлена задача sentence-similarity. В репозитории указаны веса safetensors и около 40 млн параметров. Лицензия в предоставленных сведениях не указана.
Claude Opus 4.1 — обновлённая флагманская модель Anthropic с улучшенными возможностями программирования, рассуждений и выполнения агентных задач. Её можно применять для помощи при разработке ПО, решения сложных задач и сценариев, где модель выполняет последовательные действия от имени пользователя. В README указано, что модель набрала 74,5% на SWE-bench Verified. Данных о размере, архитектуре, модальностях, языках, контексте и лицензии в предоставленных материалах нет.
Claude Sonnet 4.6 — модель семейства Sonnet, разработанная Anthropic. По карточке модели она предназначена для программирования, работы с агентами и профессиональных задач; заявлены сильные результаты в итеративной разработке, навигации по сложным кодовым базам и управлении проектами от начала до конца.
simplyinquisitive/code-stral-7B-B — языковая модель, созданная автором репозитория с помощью mergekit методом passthrough из mistralai/Mistral-7B-Instruct-v0.2 и mistral-community/Codestral-22B-v0.1. Она использует архитектуру Mistral и предназначена для генерации текста в диалоговом формате, включая ответы на инструкции и помощь с кодом. Модель содержит 14,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. В репозитории указана лицензия Apache-2.0. В карточке нет сведений об отдельных языковых тестах или гарантиях качества; возможности модели унаследованы от объединённых чекпойнтов и могут отличаться от их характеристик.
Yash911/e5-finetuned — модель Sentence Transformer на архитектуре BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 1024. В README указано, что модель дообучена на 50 000 примерах; метаданные указывают 433,9 млн параметров и библиотеку sentence-transformers. Для сопоставления векторов используется косинусное сходство, а максимальная длина входной последовательности составляет 512 токенов. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. Входом служит текст, результатом — векторные эмбеддинги. В карточке не заявлена специализация по языкам или предметной области. Модель распространяется по лицензии MIT.
E5-large-unsupervised — англоязычная модель эмбеддингов, разработанная авторами семейства E5 на основе контрастного предобучения с слабой супервизией. Это вариант e5-large без последующего обучения на размеченных данных. Модель построена на архитектуре BERT: 24 слоя, размер эмбеддинга 1024, около 433,9 млн параметров; принимает текст и выдаёт векторные представления. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, сопоставления предложений и абзацев, поиска passage по запросу, обнаружения перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для корректной работы с запросами и документами следует добавлять префиксы «query: » и «passage: » согласно типу задачи. Модель работает только с английскими текстами, а длинные входы обрезаются до 512 токенов. Распространяется по лицензии MIT.
E5-large-v2 — англоязычная модель текстовых эмбеддингов, разработанная Liang Wang, Nan Yang, Xiaolong Huang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 24 слоя и размерность эмбеддинга 1024. Общее число параметров — 433,9 млн, максимальная длина входа — 512 токенов. Модель преобразует тексты в векторы для семантического поиска, сопоставления запросов и документов, оценки сходства предложений, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к документу — «passage: »; для симметричного сравнения обычно используют «query: » перед обоими текстами. Модель предназначена только для английских текстов; более длинные входы обрезаются до 512 токенов. При использовании косинусного сходства важнее относительный порядок оценок, чем их абсолютные значения. Расхождения в версиях PyTorch и Transformers могут вызывать небольшие различия результатов. Лицензия — MIT.
Giga-Embeddings-instruct-10B-A1.8B-0826 — модель текстовых эмбеддингов, разработанная ai-sage на основе GigaChat3-10B-A1.8B. Её адаптировали под двунаправленное encoder-style внимание и обучили контрастивной функцией потерь InfoNCE. По карточке, архитектура относится к DeepSeek-V3: 26 слоёв, скрытая размерность 1536, Multi-head Latent Attention и MoE с 64 маршрутизируемыми экспертами. Всего около 10 млрд параметров, из них примерно 1,8 млрд активны на токен; веса представлены в bfloat16. Модель строит плотные векторы для поиска по смыслу, семантического сравнения, классификации и кластеризации текста. Она рассчитана в первую очередь на русский и английский языки и поддерживает контекст до 262 144 токенов. Для получения эмбеддингов требуется усреднить представления непустых токенов и выполнить L2-нормализацию; для асимметричного поиска инструкцию добавляют к запросу, а документы кодируют без неё. В README сообщается о результатах на русских, английских и кодовых бенчмарках MTEB. Для коммерческого и иного использования применяется лицензия MIT. Важно соблюдать предусмотренную схемой обработки последовательность пулинга и нормализации: CLS- и last-token pooling дают неверные результаты. Результаты могут немного различаться в зависимости от версий Transformers и PyTorch.
GLM-4.7 — языковая модель компании Z.ai для программирования, диалогов и сложных многошаговых задач. Модель с архитектурой семейства GLM-4 MoE содержит 23,4 млрд параметров и имеет контекстное окно 202 752 токена. Она принимает текст и генерирует текст; поддерживает английский и китайский языки, режим чата и вызов инструментов. Модель предназначена для генерации и отладки кода, работы в терминале и агентных системах, а также для математических рассуждений, веб-разработки, создания слайдов и обычного общения. Поддерживает чередование рассуждений и действий, сохранение блоков рассуждений между ходами и управление режимом рассуждений на уровне хода. В README отмечены улучшения относительно GLM-4.6 в задачах программирования, использования инструментов и рассуждений; приведённые результаты являются оценками на выбранных бенчмарках и не гарантируют аналогичного качества в каждом сценарии. Модель распространяется под лицензией MIT. Для локального запуска README указывает Transformers, vLLM и SGLang; поддержка GLM-4.7 в vLLM и SGLang требует основных веток проектов.
GLM-5.3-Flash — мультимодальная модель семейства GLM, разработанная Z.ai. Репозиторий unsloth содержит дообученную версию базовой модели zai-org/GLM-5.3-Flash-BF16 и распространяет веса в формате safetensors; заявлена лицензия MIT. Модель предназначена для диалогов и генерации текста, включая программирование и агентные сценарии. Архитектура GLM-5 Next сочетает разреженное и линейное внимание; в README указаны 320 млрд параметров всего и 18 млрд активных параметров. Разработчик также описывает мультимодальное предварительное обучение и улучшенную эффективность при работе с длинным контекстом, но точная длина контекста этой копии не приведена. Карточка базовой модели характеризует её как мультимодальную и поддерживающую анализ изображений, однако метаданные этого репозитория указывают в качестве задачи только text-generation. Поэтому назначение копии как модели для обработки изображений отдельно не подтверждено. Языковые теги карточки — английский и китайский. Практическое развёртывание требует соответствующей инфраструктуры для модели такого масштаба; в README перечислены SGLang, vLLM, TokenSpeed и KTransformers.
granite-8b-code-instruct-4k-GGUF — GGUF-версия инструкционной модели для генерации и работы с программным кодом. Базовая модель ibm-granite/granite-8b-code-base-4k разработана IBM, а данная сборка подготовлена пользователем Mungert с использованием llama.cpp. Модель содержит около 8 миллиардов параметров и рассчитана на контекст до 4K токенов. Модель предназначена для генерации, объяснения и исправления кода, а также для задач, связанных с SQL, математическими инструкциями и вызовом функций. В README приведены результаты на HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust; заявленные значения pass@1 варьируются в зависимости от языка и задачи, однако помечены как непроверенные. Модель является текстовой и не поддерживает мультимодальные входы. Формат GGUF позволяет использовать модель через совместимые инструменты llama.cpp и применять различные уровни квантования. Автор сборки описывает дополнительное повышение точности отдельных слоёв при квантовании, что может улучшать качество при сохранении умеренного размера файла, но увеличивает его объём. Ограничениями являются контекст 4K токенов, возможное снижение качества из-за квантования и непроверенный статус приведённых оценок. Лицензия модели — Apache 2.0.