II.11Кибербезопасность и приватность

bge-base-en-v1.5-gguf — англоязычная модель для создания векторных представлений текста (embeddings), основанная на модели BAAI/bge-base-en-v1.5 и представленная в формате GGUF компанией Compendium Labs. Она предназначена для семантического поиска, сопоставления текстов, кластеризации, построения retrieval-систем и других задач, где требуется сравнивать тексты по смыслу. Модель не предназначена для генерации текста. Работает через llama.cpp, llama-cpp-python и интеграцию LangChain. В репозитории доступны варианты F32 размером 417 МБ, F16 размером 209 МБ, Q8_0 размером 113 МБ и Q4_K_M размером 66 МБ. Точные сведения об архитектуре, размере контекста, размерности embedding-векторов и поддерживаемых языках в README не указаны; из названия и описания следует, что модель ориентирована на английский язык. Квантованные версии занимают меньше места и, по данным авторов, могут ускорять работу на CPU до 30% при минимальной потере точности, тогда как выигрыш на GPU обычно скромнее и зависит от приложения. Модель удобна для локального запуска и ресурсоёмких сценариев на CPU, однако качество и скорость зависят от выбранного формата квантования и оборудования. Для текстов на языках, кроме английского, применимость README не подтверждает. Репозиторий распространяется по лицензии MIT.

dfrokido/bge-large-e8-snap — англоязычная модель эмбеддингов на архитектуре BERT, разработанная в проекте LatticeMemory. Она дообучена на базе BAAI/bge-large-en-v1.5 методом RF-Snap: выходные векторы обучены привязываться к ближайшим точкам решётки E8, формируя компактный 128-байтовый адрес наряду с обычным эмбеддингом размерности 1024. Модель содержит 433,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Адрес E8 предназначен для быстрого поиска точных и близких повторов текста, дедупликации и сопоставления намерений из закрытого набора. Эмбеддинги также подходят для сходства предложений: на STSBenchmark модель показала Spearman 0,8714 против 0,8637 у базовой модели. Для перефразирований и асимметричного поиска по парам запрос–документ адрес E8 сам по себе ненадёжен; для таких сценариев README рекомендует другие режимы библиотеки LatticeMemory. Модель распространяется под лицензией Apache-2.0. Указанный размер адреса E8 не означает уменьшения общего объёма хранимых эмбеддингов: LatticeMemory сохраняет полные векторы отдельно.

Карточка модели jiaqi-22/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

lm-kit/bge-m3-gguf — репозиторий с квантизированными версиями embedding-модели BGE-M3, базовая модель которой опубликована BAAI. Модель предназначена для получения векторных представлений текста и связанных задач поиска и семантического сопоставления. Формат распространения — GGUF, что позволяет использовать модель в совместимых инструментах и приложениях. Квантизация выполнена с помощью LM-Kit.NET версии 2024.9.0, а конвертация — посредством llama.cpp с указанной ревизией. README не содержит сведений о размере модели, архитектуре, поддерживаемых языках, длине контекста, модальностях и конкретных вариантах квантования, поэтому эти характеристики нельзя достоверно уточнить. Лицензия — MIT.

gpahal/bge-m3-onnx-int8 — это оптимизированная и квантизованная до int8 версия модели BAAI/bge-m3, подготовленная сообществом для запуска через ONNX Runtime. Модель предназначена для получения эмбеддингов и поддерживает многоязычные сценарии, семантическое сравнение предложений, извлечение признаков и гибридный поиск. Модель одновременно формирует три представления текста: плотное dense, разреженное sparse и ColBERT-представление. Плотные и ColBERT-эмбеддинги нормализуются по умолчанию, как в исходной библиотеке FlagEmbedding; разреженное представление можно преобразовать в словарь весов токенов. Для инференса используются ONNX Runtime, токенизация через Hugging Face Transformers и интеграция с Optimum. В модели применены оптимизации графа уровня O2, а вычисления рассчитаны на CPU; точный размер модели, длина контекста и перечень поддерживаемых языков в README не указаны. К сильным сторонам относятся объединение dense-, sparse- и ColBERT-представлений в одном запуске, многоязычная ориентация, снижение вычислительных требований благодаря int8-квантизации и совместимость с ONNX Runtime. Ограничениями являются необходимость самостоятельно обрабатывать разные типы выходов и то, что изменение нормализации или набора представлений требует повторного экспорта модели. Модель распространяется по лицензии MIT.

BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

CodeQwen1.5-7B-Chat — диалоговая модель для программирования от команды Qwen, основанная на Qwen1.5. Это плотная авторегрессионная трансформерная модель с 6,9 млрд параметров, обученная на большом объёме кода; для эффективного вывода используется групповое внимание к запросам (GQA). Модель принимает и генерирует текст, поддерживает контекст до 65 536 токенов и заявлена для работы с 92 языками программирования. Модель предназначена для генерации и понимания кода в диалоговом формате. Её можно применять для дополнения кода, исправления ошибок, ответов на вопросы по коду и преобразования текстовых запросов в SQL. Карточка заявляет сильные результаты на ряде тестов, но не приводит здесь их численные оценки. Репозиторий содержит веса Safetensors и поддерживает загрузку через Transformers версии 4.37.0 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

dapack-code — это специализированная на программировании версия Qwen3.5-35B-A3B, представленная в формате GGUF с градуированной точностью экспертов: файл весит 10,7 ГБ вместо 21,2 ГБ у полной модели. По данным карточки, эксперты, востребованные для кода, сохранены с точностью q2_K, остальные — с IQ2_XXS под матрицей важности; эксперты не удалены. Модель предназначена для генерации кода и задач разработки ПО. README сообщает о сохранённом качестве генерации кода по внутренним поведенческим измерениям и успешных пробах вызова инструментов; также заявлена поддержка итальянского языка. Для запуска требуется специальная версия dapack runtime: обычные сборки llama.cpp, Ollama и LM Studio этот формат не загружают. Модель основана на мультимодальной Qwen3.5-35B-A3B, но README описывает этот пак как кодовый текстовый генератор. Лицензия — MIT. Карточка указывает на существенное снижение качества перевода; вне программирования точность может деградировать из-за низкой точности части экспертов.

Data2Vec-Text base — англоязычная предварительно обученная трансформерная модель от команды Facebook, обученная по self-supervised objective семейства data2vec. Она преобразует текст в контекстные векторные представления и предназначена прежде всего для дообучения под задачи, использующие целое предложение или его фрагменты, например классификацию последовательностей и токенов, а также ответы на вопросы. Для генерации текста карточка рекомендует использовать авторегрессионные модели. Модель содержит 151,8 млн параметров, принимает текст с учетом регистра и рассчитана на контекст до 514 токенов. В метаданных указаны английский язык и PyTorch; среди обучающих данных названы BookCorpus и Wikipedia. Лицензия — MIT. Data2Vec использует Transformer и предсказывает контекстные латентные представления замаскированного входа. Карточка указывает, что модель рассчитана на дообучение для конкретных задач, поэтому качество непосредственно в прикладных сценариях зависит от выбранного дообучения.

deepvk/deberta-v1-distill — русскоязычная предварительно обученная модель от deepvk на основе DeBERTa. Это двунаправленный энкодер без готовой предобученной выходной головы, обученный предсказывать замаскированные токены и сжатый методом дистилляции из более крупной модели. В модели 6 слоёв, 12 голов внимания и размер представления 768; она содержит 95,2 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для извлечения контекстных векторных представлений текста и дальнейшей адаптации под задачи классификации, разметки и анализа русского языка. Обучающие данные включают около 400 ГБ отфильтрованных и дедуплицированных текстов из Википедии, книг, соцсетей, новостных сайтов и других источников. Основной язык — русский, также присутствует небольшая доля других языков; метаданные карточки отмечают русский и английский. Распространяется по лицензии Apache 2.0.

TheBloke/deepseek-coder-33B-instruct-AWQ — это 4-битная AWQ-квантизированная версия DeepSeek Coder 33B Instruct, разработанной компанией DeepSeek и опубликованной TheBloke. Модель предназначена для задач программирования и компьютерных наук: генерации и объяснения кода, ответов на технические вопросы и работы в сценариях ассистента программиста. Согласно шаблону запросов, она ориентирована только на вопросы, связанные с computer science, и может отказываться отвечать на политически чувствительные, связанные с безопасностью и приватностью, а также другие нетехнические вопросы. Модель основана на архитектуре DeepSeek с 33B параметров и представлена в формате AWQ с 4-битными весами, групповым размером 128 и длиной последовательности 16 384 токена. Файлы поставляются в виде шардированных safetensors; указанный размер репозитория составляет около 18,01 ГБ. Это текстовая модель без заявленной поддержки изображений или других модальностей. Языки обучения и полный перечень поддерживаемых языков в README не указаны. К сильным сторонам относятся сниженные требования к памяти и высокая скорость инференса при сохранении качества, сопоставимого с распространёнными настройками GPTQ. Модель рассчитана на GPU-инференс и поддерживает AutoAWQ, text-generation-webui и Hugging Face Text Generation Inference; сведения о совместимости vLLM в README ограничены моделями Llama и Mistral. Лицензия обозначена как other с названием deepseek; подробные условия следует уточнять в файле LICENSE исходного репозитория.

Это bf16-сборка Devstral-Small-2507, подготовленная командой LM Studio Community с помощью mlx_lm для работы на компьютерах Apple Silicon. Исходную модель разработала Mistral AI; это плотная авторегрессионная языковая модель семейства Mistral с 23,4 млрд параметров и контекстом до 131 072 токенов. В репозитории указаны веса safetensors, а библиотека для запуска в метаданных — vLLM. Модель предназначена для диалоговой генерации текста и задач разработки программного обеспечения; интерфейс поддерживает вызов инструментов. Языковые теги охватывают множество языков, включая русский, английский, французский, немецкий, испанский, японский и китайский. Сборка в формате MLX оптимизирована для Apple Silicon, но указанная библиотека vLLM может потребовать другого способа запуска. Лицензия — Apache-2.0. Как и другие генеративные модели, она может выдавать неточные или неподходящие ответы; карточка также предупреждает, что LM Studio не гарантирует качество или пригодность модели.

EmbeddingGemma-300M-qat-q4_0-GGUF — модель для создания текстовых эмбеддингов, представленная организацией ggml-org и основанная на Google EmbeddingGemma 300M. Она предназначена для задач семантического поиска, сравнения сходства предложений, извлечения признаков и других сценариев, где требуется преобразовать текст в векторное представление. Модель поставляется в формате GGUF с квантизацией Q4_0; заявленный размер базовой модели — около 300 миллионов параметров. Она поддерживает работу через llama-server с endpoint для эмбеддингов и через утилиту llama-embedding. README не содержит сведений о поддерживаемых языках, максимальной длине контекста, размерности эмбеддингов и архитектурных деталях. К сильным сторонам относятся специализированное назначение для эмбеддингов и сниженные требования к ресурсам благодаря квантизации. Доступна настройка нормализации векторов, включая отсутствие нормализации, L1, L2 и P-норму. Ограничения модели и результаты бенчмарков не указаны. Лицензия обозначена как Gemma.

Ettin encoder 32M — англоязычная модель-энкодер семейства Ettin, разработанная исследовательской группой JHU CLSP. Это версия размером около 31,9 млн параметров на архитектуре ModernBERT, обученная предсказывать скрытые токены (MLM). Она предназначена для извлечения признаков и эмбеддингов, классификации и поиска по тексту; в README отмечены результаты на GLUE и англоязычном поиске MTEB, а также преимущества на задачах классификации и длинного контекста. Модель принимает текст, поддерживает контекст до 7 999 токенов и распространяется в формате PyTorch через Transformers. Лицензия — MIT.

Gemini 3.1 Pro Preview — предварительная версия мультимодальной модели Google для решения сложных задач с упором на рассуждения. В карточке отмечены улучшенная работа в программной инженерии, надёжность агентных сценариев и более экономное использование токенов в сложных рабочих процессах. Метаданные каталога относят модель к задаче image-text-to-text. Подробности об архитектуре, размере, поддерживаемых языках, контексте и лицензии в предоставленных данных отсутствуют.

GLiClass Modern Base v3.0 — компактная модель классификации последовательностей от Knowledgator, созданная на основе архитектуры GLiClass. Она предназначена для классификации текста по заданным меткам в zero-shot-режиме, включая тематическую классификацию и анализ тональности; также её можно использовать для ранжирования документов в RAG-системах. По карточке, модель содержит около 151 млн параметров и занимает 606 МБ. Для дообучения на логических задачах применялись LoRA-адаптеры, чтобы сохранить прежние знания модели. GLiClass выполняет классификацию за один проход и рассчитана на более эффективное использование вычислений по сравнению с cross-encoder. В опубликованных тестах эта версия показала средний результат 0,5571 и скорость 54,46 примера в секунду на GPU A6000 при размере пакета 1; результаты зависят от набора данных и числа меток. Карточка не сообщает поддерживаемые естественные языки или длину контекста. Модель опубликована под лицензией Apache-2.0.

GLiNER-small-v1 — модель распознавания именованных сущностей, разработанная Urchade Zaratiana, Nadi Tomeh, Pierre Holat и Thierry Charnois. Она использует двунаправленный трансформерный энкодер класса BERT и позволяет извлекать сущности заданных пользователем типов, в отличие от классических NER-моделей с фиксированным набором категорий. Модель предназначена для извлечения имен и других сущностей из текста, в том числе в сценариях, где важны компактность и практичность по сравнению с крупными языковыми моделями. В этой версии 166 млн параметров; она обучена на Pile-NER и рассчитана на английский язык. Для работы используется библиотека GLiNER. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование с соблюдением её условий.

cafepm/GLM-4.7-Flash-REAP-23B-A3B-Q3Q4-GGUF — квантованная GGUF-версия разреженной языковой модели GLM-4.7-Flash-REAP-23B-A3B, подготовленная TNT.Chat. Базовая модель с 23 млрд параметров, из которых активируются 3 млрд на токен, создана удалением 25% экспертов методом REAP из GLM-4.7-Flash; в этой версии веса распределены между точностями Q3_K и Q4_K: около 20% квантованы до 4 бит, остальные — до 3 бит. README заявляет, что такой вариант рассчитан на запуск примерно в 12 ГБ видеопамяти и контекст до 150 000 токенов; базовая карточка указывает контекст 202 752 токена. Модель предназначена для генерации текста и кода, агентного программирования, понимания репозиториев и вызова функций в локальных и ограниченных по ресурсам средах. Она использует архитектуру Sparse Mixture-of-Experts с 47 слоями, 48 экспертами и четырьмя активируемыми экспертами на токен. Указана совместимость с llama.cpp; метаданные отмечают чат-возможности. README заявляет близкое к Q4 качество при размере, близком к Q3, однако количественные результаты оценок в предоставленных данных отсутствуют. Модель распространяется по лицензии MIT.

GLM-5.1-FP8 — квантованная в формате FP8 версия языковой модели GLM-5.1, разработанной командой Z.ai. Модель предназначена для генерации текста и ориентирована прежде всего на агентные инженерные задачи, включая программирование, создание репозиториев по естественно-языковому описанию, работу с терминалом и длительные многошаговые сессии с использованием инструментов. Заявлена поддержка английского и китайского языков; модель подключается через библиотеку Transformers и относится к задачам text generation. Ключевая сильная сторона GLM-5.1 — работа над сложными задачами на протяжении сотен итераций и тысяч вызовов инструментов: модель умеет декомпозировать неоднозначные проблемы, проводить эксперименты, анализировать результаты, находить блокирующие факторы и пересматривать стратегию. В README приведены высокие результаты на SWE-Bench Pro, NL2Repo, Terminal-Bench 2.0, CyberGym и BrowseComp. При этом размер модели, базовая архитектура, длина контекста, точные характеристики FP8-квантизации и поддерживаемые модальности не указаны. Ограничения также связаны с тем, что приведённые показатели зависят от используемых инструментов и условий тестирования, а таблица бенчмарков в представленном README обрывается. Модель распространяется по лицензии MIT. README также указывает на доступность API-сервисов GLM-5.1 на платформе Z.ai, однако конкретные требования к аппаратному обеспечению и инструкции по локальному запуску для этой версии не приведены.

Granite-Embedding-125m-English — англоязычная модель эмбеддингов команды Granite Embedding компании IBM. Она преобразует текст в векторы размерности 768 для поиска, извлечения документов и вычисления сходства между текстами. Модель рассчитана на сценарии семантического поиска и retrieval, включая корпоративные задачи; показывает результаты на бенчмарках MTEB Retrieval и CoIR. Модель содержит около 151,8 млн параметров и использует плотную encoder-only архитектуру на основе RoBERTa с 12 слоями и 12 головами внимания. Она обучалась с retrieval-ориентированным предварительным обучением, контрастивным дообучением и дистилляцией. Принимает только английский текст и обрабатывает до 512 токенов; более длинный ввод обрезается. Лицензия — Apache 2.0.

Granite-Embedding-278M-Multilingual — модель для получения векторных представлений текста из линейки Granite Embeddings, разработанная командой Granite Embedding Team компании IBM. Она предназначена для поиска, извлечения документов и сравнения смысловой близости текстов. Модель основана на энкодерной архитектуре XLM-RoBERTa, содержит около 305 млн параметров по метаданным и формирует эмбеддинги размерности 768. Контекст ограничен 514 токенами по метаданным; README указывает ограничение в 512 токенов, после которого длинные тексты обрезаются. Модель обучалась с помощью контрастивного дообучения, дистилляции знаний и слияния моделей. Она поддерживает английский, арабский, чешский, немецкий, испанский, французский, итальянский, японский, корейский, нидерландский, португальский и китайский языки. Для русского и других языков вне этого списка README допускает дополнительное дообучение, но не заявляет их как штатно поддерживаемые. Лицензия Apache 2.0.

Cohee/jina-embeddings-v2-base-en — это модель для получения векторных представлений текста (эмбеддингов), основанная на jinaai/jina-embeddings-v2-base-en. В карточке указано, что модель подготовлена в формате ONNX для совместимости с библиотекой Transformers.js и предназначена для использования в задачах извлечения признаков (feature extraction), включая последующий семантический поиск и сравнение текстов. Модель ориентирована на англоязычные тексты, что следует из её идентификатора base-en. Сведения о точной архитектуре, размере, длине контекста, поддерживаемых модальностях и числовых характеристиках эмбеддингов в карточке не приведены. Также не указаны результаты тестирования, ограничения качества и лицензия.

LongLLaMA-Code-7B — языковая модель для генерации кода, разработанная командой LongLLaMA во главе с Шимоном Творковским. Это плотная авторегрессионная модель LongLLaMAForCausalLM на 6,6 млрд параметров, построенная на основе Code Llama и дообученная методом Focused Transformer (FoT) для работы с длинным контекстом. Репозиторий содержит веса PyTorch; модель выпущена как исследовательский предварительный релиз. Модель предназначена для генерации и продолжения кода, а также для рассуждений над длинными текстовыми и программными входами. В README указано, что обучение FoT проводилось на контекстах до 32 тысяч токенов, а механизм памяти позволяет расширять эффективный контекст; для LongLLaMA-Code приведён пример извлечения данных из последовательностей до 256 тысяч токенов. Метаданные каталога указывают нативный контекст в 4096 токенов. Метод обрабатывает длинные входы окнами и использует кэш памяти в выбранных слоях. В README отмечено улучшение результата на GSM8K с 13% до 17,4% после продолжения предобучения без дообучения на данных этой задачи. Модель ориентирована на код, однако количественные характеристики контекстного извлечения не гарантируют такое же качество на всех задачах и длинах. Лицензия указана как Llama 2; перед использованием следует проверить её условия и применимость к конкретному сценарию.

mergekit-community/mergekit-slerp-fecxcxs — слитая языковая модель, созданная сообществом с помощью mergekit методом SLERP из budecosystem/code-millenials-34b и oobabooga/CodeBooga-34B-v0.1. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит 22,4 млрд параметров. Она предназначена для генерации текста, включая код и ответы на инструкции по программированию. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 16 384 токена. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.

Mira — разработанная SmilyAI разговорная языковая модель для генерации текста, дообученная на базе Nova-2-Large. В карточке указана линия происхождения от Qwen3-14B через слияние DARE-TIES и Nova-2-Large с последующим LoRA-дообучением. Модель имеет плотную архитектуру семейства Qwen3 и около 14,8 млрд параметров; заявленная длина контекста — 40 960 токенов. Для работы описаны Transformers и вычисления в bfloat16. Модель предназначена для программирования, математики, многошаговых рассуждений, технических объяснений и общего диалога. Она может помогать отлаживать и рецензировать код, разбирать задачи и объяснять решения; в карточке также описан необязательный игровой режим критики кода. Заявлен разговорный стиль с дружелюбной и энергичной подачей. Основной язык в метаданных — английский. Mira может ошибаться, выдавать неполный или некорректный код, допускать математические ошибки и уверенно сообщать неверные сведения; рассуждения не гарантируют правильности, поэтому важные результаты следует проверять. Состав обучающих данных и параметры LoRA не раскрыты. Лицензия обозначена как «other», поэтому конкретные условия использования следует уточнить в репозитории модели.

ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.

Abiray/Muse-Glimmer-30B-GGUF — набор GGUF-квантов мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и дистиллированной из Muse Spark. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели, включая сценарии на потребительском оборудовании. Модель ориентирована на автономные агентные рабочие процессы, многошаговое рассуждение с длинным горизонтом, задачи программирования, включая SWE-bench, и надёжный вызов функций. Поддерживается обработка изображений через отдельный мультимодальный vision projector в формате GGUF; базовая модель и проектор загружаются раздельно. Заявлены 30 млрд параметров, контекст до 131 072 токенов и архитектура с визуальным проектором на основе ViT размером около 1,8 млрд параметров. Сведения о поддерживаемых языках в README не указаны. Доступны варианты квантования от Q8_0 до IQ3_XXS размером примерно от 29,6 до 11,5 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Вариант Q4_K_M обозначен как оптимальный компромисс и рассчитан примерно на 20–24 ГБ памяти, а Q8_0 обеспечивает качество, близкое к BF16, но требует 32–48 ГБ. Более сильное сжатие уменьшает требования к памяти, однако может снижать точность рассуждений и восприятия. Лицензия — Apache-2.0.

nomic-embed-text-v2-moe-GGUF — квантизированная версия модели nomic-embed-text-v2-moe, разработанная Nomic и представленная в работе о разреженных Mixture of Experts моделях для текстовых эмбеддингов. Модель предназначена для преобразования текстов в векторные представления, которые можно использовать для семантического поиска, сравнения предложений, кластеризации, извлечения признаков и построения RAG-приложений. Это мультиязычная текстовая embedding-модель на архитектуре Sparse Mixture of Experts. В репозитории доступны варианты GGUF с точностью от FP32 и FP16/BF16 до квантизаций Q8_0, Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; размеры файлов составляют примерно от 326 до 1820 MiB. Поддерживается широкий набор языков, включая английский, русский, китайский, японский, арабский, украинский, французский, немецкий и многие другие. Размер контекста и размерность эмбеддингов в README не указаны. Модель совместима с llama.cpp и может запускаться через llama-server с OpenAI-совместимым API эмбеддингов, что облегчает локальное развертывание. Для корректного использования необходимо добавлять к текстам специальные префиксы задач, например search_document для документов и search_query для запросов. Квантизация уменьшает требования к памяти, но может влиять на качество представлений; README рекомендует варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M в зависимости от требуемого баланса качества и размера. Модель распространяется по лицензии Apache-2.0.

Ornith-1.5-35B-A3B — среднеразмерная модель семейства Ornith-1.5, разработанная командой Ornith. Это модель типа mixture-of-experts, ориентированная прежде всего на программирование и агентные сценарии. Она предназначена для решения задач в терминале, разработки и исправления программного кода, а также для автономных многошаговых рабочих процессов, где требуется выбирать стратегии, взаимодействовать с инструментами и выполнять rollouts. Модель содержит 35 млрд параметров, но активирует около 3 млрд параметров на токен, что снижает вычислительную нагрузку по сравнению с плотными моделями сопоставимого общего размера. Ornith-1.5 развивает подход Ornith-1.0: модель совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с использованием reinforcement learning и самоулучшения. В README указано, что она превосходит сопоставимую Qwen3.6-35B-A3B и ряд плотных моделей на бенчмарках агентного программирования и кодинга, включая Terminal-Bench 2.1 и SWE-bench Verified. Модель опубликована для библиотеки MLX и относится к задачам генерации текста. README не указывает поддерживаемые языки, размер контекстного окна, мультимодальные возможности, точные требования к оборудованию или лицензию, поэтому эти характеристики нельзя определить по представленным данным. Также заявленные результаты зависят от конкретных бенчмарков и конфигураций, а пригодность модели для других задач требует отдельной проверки.

Карточка модели mak11boyz/Ornith-1.5-9B на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.5-9B, поэтому описание составлено по ней. Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров семейства Qwen3.5, разработанная командой Ornith AI. Она развивает Ornith-1.0 за счёт цикла самоулучшения с генерацией обучающих задач, поиском стратегий решения и обучением с подкреплением. Модель предназначена для агентных сценариев, программирования и выполнения многошаговых задач с использованием инструментов; поддерживает диалог и вызовы функций через совместимый с OpenAI API интерфейс. Модель принимает и генерирует текст. Заявленное базовое окно контекста составляет 262 144 токена; с масштабированием YaRN в README описано расширение примерно до миллиона токенов, которое может немного снижать качество на обычных запросах. Версия на 9B рассчитана на эффективное развёртывание, включая обслуживание на одной 80-гигабайтной GPU; веса в bf16 занимают около 19 ГБ. Карточка описывает бенчмарки для программных и агентных задач, но сами численные результаты здесь не приведены. Лицензия — MIT.