II.11Кибербезопасность и приватность

Карточка модели KryptykAngel/Qwen3.6-27B-AEON-Ultimate-Uncensored-MTP-i1-GGUF на Hugging Face совпадает с карточкой theLittleStone/Qwen3.6-27B-AEON-Ultimate-Uncensored-MTP-i1-GGUF, поэтому описание составлено по ней. Это GGUF-версия Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, подготовленная theLittleStone с квантизацией K-Quant и калибровкой iMatrix; поддерживается MTP (предсказание нескольких токенов). Калибровка использовала 20 000 примеров из набора eaddario/imatrix-calibration. Модель предназначена для генерации текста и диалогов, включая рассуждения и программирование; карточка описывает её как вариант с ослабленными отказами. Для запуска подходят llama.cpp и LM Studio. В карточке заявлено, что калибровка iMatrix улучшает точность относительно обычной квантизации той же разрядности. Репозиторий указывает форматы GGUF BF16 и варианты K-Quant, включая IQ4 и Q4_K_M; размер базовой модели — 27 млрд параметров. Метаданные отмечают английский и китайский языки, а также многоязычность. Лицензия — Apache-2.0. Это производная от AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 модель. Заявления карточки о точности, сохранении возможностей и снижении отказов основаны на описании автора и приведённых им проверках. Ослабленные отказы могут приводить к генерации небезопасного или нежелательного содержания; ответы модели также могут содержать ошибки.

Qwen3-Coder-30B-A3B-Instruct-W8A8 — это 8-битная версия модели Qwen3-Coder-30B-A3B-Instruct, опубликованная ramblingpolymath и основанная на исходной модели Qwen. Квантизация весов и активаций по схеме W8A8 выполнена с использованием LLM-Compressor. Модель предназначена для генерации текста и прежде всего для программирования, агентного написания кода, работы с браузером и понимания репозиториев большого размера. Модель является каузальной языковой моделью с архитектурой mixture-of-experts: всего 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд; используется 48 слоёв, 128 экспертов и 8 активируемых экспертов, а также GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 млн токенов с помощью YaRN. Поддерживается только режим без рассуждений, без блоков <think></think>. Ключевые преимущества версии W8A8 — примерно вдвое меньшее потребление памяти по сравнению с FP16 и потенциально более высокая скорость инференса на совместимом оборудовании. Ограничения включают зависимость производительности от аппаратной поддержки 8-битного инференса, рекомендуемую архитектуру Ampere и более старые поколения, а также отсутствие в README подробностей о поддерживаемых языках и количественной оценке потери качества после квантизации. Лицензия — Apache-2.0.

alexliap/Qwen3-Embedding-8B-NVFP4 — квантизированная версия модели Qwen3-Embedding-8B, разработанной командой Qwen. Модель предназначена для получения текстовых эмбеддингов и решения задач семантического поиска, извлечения документов, поиска по коду, классификации, кластеризации и двуязычного сопоставления текстов. Она поддерживает инструкции, задающие целевой сценарий или язык, и может использоваться, например, для поиска релевантных фрагментов по пользовательскому запросу. Модель содержит около 8 млрд параметров, имеет контекст длиной до 32K токенов и поддерживает более 100 языков, включая языки программирования. Размер выходного вектора можно выбирать в диапазоне от 32 до 4096 измерений; максимальная размерность составляет 4096. Все линейные слои квантизированы по схеме NVFP4 с использованием llmcompressor и формата compressed-tensors, что предназначено для снижения требований к хранению и ускорения инференса на совместимом оборудовании. В README приведён пример запуска через vLLM в режиме embed. К сильным сторонам относятся мультиязычность, поддержка длинного контекста, инструкционно-управляемые эмбеддинги и гибкая размерность векторов. Возможные ограничения связаны с потерями качества из-за квантизации и с тем, что калибровка выполнялась всего на 100 примерах греческого языка длиной до 4096 токенов, поэтому поведение на других языках и типах данных может отличаться. Модель распространяется по лицензии Apache-2.0.

Карточка модели sickcell/cti-semantic-search-minilm на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

DeepSeek-Coder-V2-Instruct-0724-IMat-GGUF — это GGUF-квантизированная версия инструкционной модели DeepSeek-Coder-V2-Instruct-0724, разработанной deepseek-ai. Репозиторий подготовлен legraphista с использованием llama.cpp и предназначен для локального запуска и генерации текста, прежде всего для задач программирования и взаимодействия в формате чата, поддерживаемых исходной моделью. Модель распространяется в форматах GGUF с различными уровнями квантизации: от Q8_0 до Q2_K, включая варианты Q5, Q4, Q3 и IQ. Доступны файлы размером примерно от 85,95 до 250,62 ГБ, все варианты разделены на несколько частей. Для ряда конфигураций Q4 и ниже применена IMatrix-квантизация, призванная повысить качество при уменьшении размера. Исходный тип данных модели — BF16. Сведения об архитектуре, количестве параметров, длине контекста, языках и поддерживаемых модальностях в README не указаны. Сильная сторона репозитория — широкий выбор квантизаций и готовность к использованию с экосистемой llama.cpp, что позволяет подбирать компромисс между размером файлов и качеством. Ограничениями являются очень большой объём моделей, необходимость объединения или корректной работы с разделёнными файлами, а также возможное снижение качества на низких уровнях квантизации. Модель распространяется по лицензии deepseek-license; указана категория лицензии other и ссылка на файл LICENSE.

Dolphin 2.9 Mixtral 8x22B — диалоговая модель Cognitive Computations, подготовленная Eric Hartford, Lucas Atkins и Fernando Fernandes на основе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с разреженной архитектурой Mixtral MoE, представленная в формате safetensors и предназначенная для генерации текста по инструкциям и ведения диалогов. Модель подходит для ответов на вопросы, программирования, математических задач и сценариев с вызовом функций; README также отмечает начальные агентные возможности. Она обучалась в формате ChatML, а полное дообучение проводилось на последовательностях длиной 4 тыс. токенов. Для базовой модели заявлен контекст до 64 тыс. токенов. В метаданных указан английский язык. Dolphin описана авторами как неконтролируемая модель, которая может охотно выполнять в том числе неэтичные запросы; перед предоставлением пользователям сервиса авторы рекомендуют добавить собственный слой ограничений. В данных обучения обнаружена проблема, из-за которой модель может излишне упоминать системное сообщение; README предлагает явно просить её этого не делать. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий.

bobox/E5-base-unsupervised-TSDAE — модель Sentence Transformers, дообученная автором на базе intfloat/e5-base-unsupervised с использованием DenoisingAutoEncoderLoss. Она основана на BERT, содержит 136,7 млн параметров и преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 768; в README указана косинусная мера сходства. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска, сравнения текстов и поиска перефразировок, а также может использоваться для кластеризации и классификации текста. В README приведён результат Spearman 0,7584 на sts-test. Базовая модель описана как англоязычная; примеры обучающих данных также на английском. Модель распространяется в формате PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

Frontis-MA1-35B-GGUF — квантизированная версия модели FrontisAI/Frontis-MA1-35B, подготовленная bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для задач machine learning engineering, автоматизированного исследования, агентских сценариев и программирования. Она поддерживает обработку текста и изображений при наличии дополнительного файла mmproj. Модель содержит около 36 млрд параметров и использует архитектуру MoE; в метаданных также указана поддержка MTP. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q3-квантизаций. В качестве универсального варианта рекомендуется Q4_K_M размером около 21,86 ГБ, обеспечивающий компромисс между качеством и требованиями к памяти. Для максимального качества предлагаются Q6_K и Q6_K_L, а для ограниченных ресурсов — более компактные варианты с некоторым снижением качества. К сильным сторонам относятся мультимодальность, большой размер модели и широкий выбор квантизаций для запуска на различном оборудовании. Ограничения включают значительные требования к оперативной или видеопамяти, необходимость совместимого ПО и mmproj-файла для работы с изображениями, а также возможное снижение качества у компактных квантизаций. Языки и размер контекстного окна в README не указаны. Распространение осуществляется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование на заявленных условиях.

TeichAI Gemma 4 26B A4B IT Claude Opus Distill v2 — мультимодальная диалоговая модель, дообученная на базе unsloth/gemma-4-26B-A4B-it с помощью Unsloth. Для дообучения использовались наборы с траекториями рассуждений Claude Opus; версия v2, по карточке модели, меняет параметры обучения и исправляет некоторые циклические или обрывающиеся ответы. Модель предназначена для генерации кода, отладки, планирования архитектуры программ, научного анализа, многошаговых исследовательских запросов и повседневных задач, требующих последовательных рассуждений. Архитектура Gemma 4 поддерживает диалог и обработку изображений; README также описывает обработку видео кадрами. Метаданные указывают формат safetensors и лицензию Apache-2.0. Карточка заявляет о применении модели в Cline, Codex и Cursor для создания веб-приложений и скриптов, однако сравнительные бенчмарки пока не приведены. Возможности базовой Gemma 4 не следует автоматически считать проверенными именно для этой дообученной версии; заявленные качества рассуждений основаны на описании автора.

Giga-Embeddings-instruct-3B-0826 — двуязычная модель текстовых эмбеддингов из серии Giga-Embeddings. Она основана на предобученной модели разработчика с архитектурой Qwen3, адаптированной для двунаправленного encoder-style внимания, и дообучена контрастивной функцией потерь InfoNCE. Модель содержит около 3,2 млрд параметров, формирует плотные векторы размерностью 2048 и поддерживает контекст до 8192 токенов. Модель предназначена для поиска по смыслу, сравнения предложений и абзацев, классификации и кластеризации на русском и английском языках. В асимметричном поиске к запросу следует добавлять инструкцию задачи, оставляя документы без инструкции; для симметричного сравнения инструкцию можно опустить. Для корректной работы нужны усреднение непустых токенов и L2-нормализация, после чего векторы сравнивают по косинусной близости. Репозиторий предоставляет веса в формате safetensors; лицензия — MIT.

GPT-5.1-Codex — специализированная версия GPT-5.1 от OpenAI, оптимизированная для разработки программного обеспечения и рабочих процессов, связанных с кодом. Она предназначена как для интерактивной помощи при разработке, так и для самостоятельного выполнения сложных инженерных задач.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-GGUF — это квантизированная GGUF-версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и подготовленной Ttimms. Модель предназначена для генерации текста и программного кода, агентного программирования и работы через llama.cpp-совместимые приложения. Указан английский язык. В основе лежит гибридная архитектура Gated-DeltaNet и Mixture of Experts (MoE). В результате 50-процентного pruning методом REAP число экспертов сокращено с 256 до 128, общий размер составляет около 19 млрд параметров, а активными при инференсе являются примерно 3 млрд параметров. Vision tower удалён, MTP head отсутствует. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ и рассчитан на запуск в системах с 16 ГБ памяти. Сильные стороны модели — высокая эффективность MoE при относительно умеренных требованиях к вычислениям, поддержка CPU и Apple Silicon, а также хорошие заявленные результаты на HumanEval+ и MBPP+. Для работы требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; поддержка Ollama зависит от обновления встроенной версии llama.cpp. Более качественные кванты требуют больше памяти, а Q8_0 нуждается более чем в 16 ГБ или в выгрузке части вычислений на CPU. Заявленные результаты основаны на одиночных greedy-запусках и имеют заметный разброс между повторными измерениями. Модель распространяется по лицензии Apache-2.0.

eewwann/me5-ruhnp — модель Sentence Transformers, дообученная автором на базе intfloat/multilingual-e5-large для представления предложений и абзацев в виде плотных текстовых эмбеддингов. В основе лежит XLM-RoBERTa; модель формирует векторы размерности 1024, применяет mean pooling и нормализацию, а сходство текстов можно оценивать косинусной мерой. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. README приводит оценку cosine accuracy 0,993 на TripletEvaluator для набора vk_e5, а также описывает обучение на наборе из 100 000 примеров. Поддерживает многоязычные текстовые входы; максимальная длина последовательности — 512 токенов (514 токенов в метаданных). Это производная модель с весами в формате safetensors. Лицензия в предоставленных данных не указана. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы; качество зависит от языка, домена и соответствия запроса обучающим данным.

Карточка модели ariancort/MiniCPM5-2B на Hugging Face совпадает с карточкой developerjeremylive/MiniCPM5-2B-etheroi, поэтому описание составлено по ней. MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

MiniMax-M1-80k — открытая по весам языковая модель компании MiniMax для рассуждений и генерации текста. Она построена на гибридной архитектуре Mixture-of-Experts с механизмом lightning attention и содержит 21,6 млрд параметров согласно метаданным. Модель развита на основе MiniMax-Text-01 и обучалась с использованием масштабного обучения с подкреплением на задачах от математики до программной инженерии. Версия 80k рассчитана на расширенное пошаговое рассуждение с бюджетом мышления до 80 тысяч токенов. Заявленная длина контекста — 10 240 000 токенов; модель предназначена для сложных задач с длинными входами, включая решение математических задач, программирование, анализ кода и работу с инструментами. Поддерживает диалоговый режим и интерфейс вызова инструментов. В README разработчик сообщает о высоких результатах на ряде задач по математике, программированию, использованию инструментов и пониманию длинного контекста; приведённые оценки зависят от методики и настроек генерации. Модель работает с текстом и выдаёт текст, а также структурированные вызовы функций. Лицензия — Apache 2.0. README не уточняет поддерживаемые естественные языки.

Карточка модели charleshyella/MISS_V0 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Data-Lab multilingual-e5-large-instruct-embedder_distill-tgd — дообученная модель Sentence Transformer на базе intfloat/multilingual-e5-large-instruct, разработанная Data-Lab. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска и сравнения текстов. Архитектура включает XLM-RoBERTa, усреднение токенных представлений и нормализацию; модель использует косинусное сходство и принимает последовательности длиной до 514 токенов по метаданным. Модель подходит для поиска близких по смыслу документов, оценки сходства текстов, поиска перефразирований, кластеризации и классификации на основе эмбеддингов. В README приведена точность cosine_accuracy 0,8994 на dev-наборе TripletEvaluator, но это значение относится только к указанной оценке и не гарантирует качество на других данных. Метаданные не уточняют языковой охват дообученной версии; базовая модель многоязычная. Репозиторий содержит веса Safetensors; сведения о лицензии в предоставленных данных отсутствуют.

duyntnet/Phi-3-mini-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-mini-4k-instruct, разработанной Microsoft и опубликованной пользователем duytnet. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям, многошагового общения, структурированного вывода, рассуждений и помощи в программировании. Заявлено улучшенное понимание Python, C++, Rust и TypeScript, а также поддержка системных инструкций через тег <|system|>. Это компактная текстовая авторегрессионная модель семейства Phi-3 Mini; конкретный размер файлов и параметры квантизаций в README не указаны. Модель работает с текстом, поддерживает английский язык и контекст до 4K токенов. Размер словаря токенизатора — до 32064 токенов. Для запуска доступны llama.cpp, JanAI, KoboldCPP, text-generation-webui и Ollama; исходная модель также интегрирована в Transformers. GGUF-квантизации удобны для локального запуска, однако README не содержит данных о точных требованиях к памяти, производительности или сравнительных результатах. Лицензия указана как other, без уточнения конкретных условий, поэтому права на использование следует проверять отдельно. К ограничениям относятся отсутствие заявленной мультимодальности, отсутствие подробных бенчмарков и неопределённость характеристик конкретной квантизации.

jica98/qwen3.5-4B-super-coder — компактная 4-битная модель в формате GGUF, основанная на Qwen/Qwen3.5-4B и объединённая с квантованием с использованием Unsloth. Модель опубликована пользователем jica98 и предназначена прежде всего для программирования, рассуждений, структурированного вызова инструментов и агентских сценариев на потребительских и мобильных устройствах. Модель имеет размер около 2,6 ГБ и рассчитана на контекст до 32K токенов; заявлена также поддержка расширенных контекстов до 262K или 1M токенов через YaRN. Архитектура Qwen3.5-4B сочетает слои Gated DeltaNet и Full Attention, благодаря чему полный KV-кэш хранится только для части слоёв. Это снижает потребление памяти: для контекста 32K заявлен объём KV-кэша около 0,4 ГБ. Модель ориентирована на генерацию кода на Python, JavaScript, Shell, C++, Rust и других языках, а также на вывод JSON по заданным схемам. К сильным сторонам относятся небольшой размер, низкие требования к памяти, поддержка режима видимого рассуждения, специализация на кодировании и повышенная точность tool calling с уменьшением ложных вызовов инструментов. Ограничения включают зависимость качества от 4-битного квантования, заявленную оптимизацию главным образом под контекст 32K и отсутствие в README подробных результатов независимого тестирования, перечня поддерживаемых естественных языков и точных аппаратных требований. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-8B-Base-unsloth-bnb-4bit — это 4-битная квантованная версия базовой причинной языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen от команды Qwen. Модель предназначена для генерации и продолжения текста, языкового моделирования, программирования, STEM-задач, рассуждений и других сценариев, где требуется компактная локальная LLM. Поскольку это базовая предобученная модель, она не ориентирована специально на выполнение пользовательских инструкций или ведение диалога без дополнительной настройки. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, включает 36 слоёв и использует Grouped Query Attention с 32 головами запросов и 8 головами ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на корпусе объёмом 36 трлн токенов, охватывающем 119 языков, с данными по программированию, STEM, рассуждениям, книгам, многоязычным и синтетическим материалам. Квантование уменьшает требования к памяти и упрощает локальный запуск, однако может сопровождаться потерей точности по сравнению с исходной полноразмерной версией. Для работы рекомендуется актуальная версия библиотеки transformers; версия ниже 4.51.0 не поддерживает архитектуру Qwen3. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct от команды Qwen — инструктивная языковая модель для программирования, построенная на архитектуре MoE. В репозитории Unsloth указаны 30,5 млрд параметров всего и 3,3 млрд активируемых; метаданные каталога указывают 2,6 млрд параметров. Модель поддерживает контекст до 262 144 токенов и работает в режиме без рассуждений (non-thinking). Модель предназначена для генерации и анализа кода, агентного программирования и сценариев использования браузера агентами. Она поддерживает интерфейс вызова инструментов и формат function calling, совместимый, в частности, с Qwen Code и CLINE. Длинный контекст позволяет работать с крупными репозиториями; в README также описано расширение контекста до 1 млн токенов с помощью Yarn. README рекомендует использовать актуальную версию Transformers и для llama.cpp указывает параметр --jinja. Заявлены исправления chat template от Unsloth. Модель распространяется по лицензии Apache-2.0. В README не приведены сведения о поддерживаемых естественных языках; результаты на конкретных задачах зависят от запроса и среды выполнения инструментов.

alexliap/Qwen3-Embedding-8B-FP8-DYNAMIC — динамически квантованная версия текстовой embedding-модели Qwen3-Embedding-8B, разработанной командой Qwen. Модель предназначена для преобразования текста в векторные представления и задач семантического поиска, извлечения документов и кода, классификации, кластеризации и межъязыкового поиска. Она поддерживает более 100 языков, включая языки программирования, а также кросс-язычные сценарии. Модель содержит около 8 млрд параметров, имеет контекст длиной до 32K токенов и максимальную размерность эмбеддингов 4096. Благодаря поддержке Matryoshka Representation Learning можно выбирать размер выходного вектора от 32 до 4096 измерений, а инструкции во входных данных позволяют адаптировать поведение под конкретную задачу, язык или сценарий. Производный вариант использует схему FP8_DYNAMIC: все Linear-слои квантованы в FP8, веса масштабируются по каналам, активации — динамически по токенам, а слой embed_tokens сохраняется в формате bfloat16. Ключевое преимущество версии — примерно двукратное снижение потребления памяти по сравнению с исходной моделью в bfloat16 при сохранении возможностей Qwen3-Embedding-8B. Исходная модель показывала высокий результат в многоязычном рейтинге MTEB, однако в README нет отдельных результатов для квантованной версии, поэтому возможное влияние квантования на качество не уточняется. Для развёртывания указан vLLM с режимом pooling, преобразованием в embedding и поддержкой compressed-tensors. Модель распространяется по лицензии Apache-2.0.

Qwopus3.5-9B-Coder-MTP-GGUF — мультимодальная модель для генерации текста и работы с изображениями, разработанная Jackrong на базе Jackrong/Qwopus3.5-9B-v3.5. Модель ориентирована на программирование, логические и математические задачи, DevOps-сценарии, рассуждения, использование инструментов, function calling и агентские рабочие процессы. Заявлена поддержка английского, китайского, корейского, русского, японского и испанского языков. Модель использует архитектуру Multi-Token Prediction (MTP) с двумя дополнительными draft heads, настроенными через draft=2. Такой подход предназначен для speculative decoding: вспомогательные головы предлагают следующие токены, а основная модель проверяет их, что может повысить скорость генерации. По данным README, в тестах на задачах логики, программирования, DevOps, математики и пограничных сценариях пропускная способность выросла с 4,94 до 6,71 токена в секунду, а точность — с 80,0% до 88,3%. В заявленных тестах по программированию и математике достигнута точность 100%; отдельная оценка tool calling показала 100% recall и 27 успешных выборов из 28 в состязательной фазе. Указанные результаты зависят от конфигурации оборудования, параметров генерации и тестового набора, а часть оценки tool calling носит характер независимого пользовательского теста. В README не указаны размер контекстного окна, точные требования к памяти и совместимые варианты квантования, поэтому эти характеристики требуют дополнительной проверки. Модель распространяется по лицензии Apache-2.0.

YOYO-AI/QwQ-coder-32B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом SCE из Qwen/Qwen2.5-Coder-32B, Qwen/QwQ-32B и Qwen/Qwen2.5-Coder-32B-Instruct. Модель содержит 32 млрд параметров и принимает текстовые запросы, генерируя текст, включая программный код; доступны интерфейсы чата и вызова инструментов. Модель предназначена для генерации и анализа кода, помощи в программировании и создания кодовых агентов. Заявленная длина контекста — 131 072 токена. Веса опубликованы в формате Safetensors и используются через Transformers. В метаданных не перечислены поддерживаемые естественные языки. Модель распространяется по лицензии, сведения о которой в предоставленных данных отсутствуют.

Zirel-3 — дообученная разговорная модель Daemontatox на базе cerebras/GLM-4.5-Air-REAP-82B-A12B. Она предназначена для генерации текста и кода, следования инструкциям, рассуждений, работы с агентными сценариями и вызова функций. Модель использует разреженную архитектуру Mixture-of-Experts; в README указаны 82 млрд параметров, около 12 млрд активных на проход и контекст до 128 тыс. токенов. Метаданные каталога указывают 8,5 млрд параметров, поэтому размер модели в источниках расходится. Модель рассчитана прежде всего на английский язык. Карточка указывает совместимость с Transformers и рекомендует vLLM для более быстрой генерации. Репозиторий содержит веса Safetensors. Метаданные указывают лицензию Apache-2.0, тогда как README заявляет MIT; лицензию следует уточнить по файлу лицензии репозитория.

BERTA — модель для получения эмбеддингов предложений на русском и английском языках. Согласно карточке, её разработал sergeyzh методом дистилляции эмбеддингов ai-forever/FRIDA в sergeyzh/LaBSE-ru-turbo. Это плотная модель семейства BERT с 155,5 млн параметров; размер эмбеддинга — 768, контекст — до 512 токенов. Модель предназначена для сравнения семантической близости текстов, поиска и других задач на эмбеддингах. Карточка также приводит результаты для распознавания перефразирования, вывода по тексту, анализа тональности и выявления токсичности. Для большинства задач задан префикс «categorize_entailment: »; также доступны унаследованные от FRIDA префиксы для запросов и документов. Используется mean pooling вместо CLS pooling. В бенчмарке ruMTEB BERTA показывает результаты, близкие к FRIDA, но в приведённых таблицах уступает ей по указанным метрикам классификации и кластеризации. Модель принимает текст и выдаёт векторы эмбеддингов. Лицензия — MIT.

Ductratra/BGE_M3_v2 — модель Sentence Transformer на архитектуре XLM-RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 1024; сходство между текстами можно оценивать косинусной мерой. Модель рассчитана на последовательности длиной до 8192 токенов. Её можно применять для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В репозитории указаны веса safetensors и библиотека sentence-transformers. Лицензия и конкретные обучающие данные в предоставленных сведениях не описаны.

DeepSeek-V4.1-Flash-4bit-paged — квантизированная 4-битная версия модели DeepSeek-V4.1-Flash, разработанная GreenBitAI на базе сборки pipenetwork для MLX и Apple Silicon. Это языковая модель для генерации текста, включая работу с кодом, агентские сценарии и диалоги; поддерживает потоковую загрузку экспертных весов с диска и опциональное speculative decoding с помощью встроенной DSpark multi-token prediction head. Модель использует архитектуру mixture-of-experts с маршрутизируемыми экспертами и expert paging: резидентные веса занимают 10,48 GiB, а полный набор данных модели — около 406,10 GiB, включая experts.bin, engram-таблицы и черновую голову. Точные размеры исходной архитектуры, поддерживаемые языки и максимальная длина контекста в README не указаны. Доступна через библиотеку gbx-lm; при наличии достаточного объёма памяти может работать на штатном пути, а при нехватке ресурсов подгружает необходимые веса с диска. К сильным сторонам относятся сохранение логитов исходной модели при проверках, возможность работы с большими наборами весов на совместимых системах и ускорение генерации до 2,3 раза при включённой draft head, особенно на предсказуемом коде и длинном контексте. Ограничения включают очень высокие требования к дисковому пространству и памяти, зависимость от MLX, Apple Silicon и gbx-lm, а также то, что ускорение speculative decoding зависит от сценария. Лицензия — MIT; в README также указано, что лицензия исходной модели DeepSeek сохраняется.

Dolphin 2.6 Mixtral 8x7b — языковая модель для диалогов и генерации текста, разработанная Eric Hartford при спонсорской поддержке Convai. Это дообученная версия Mixtral-8x7b с архитектурой MixtralForCausalLM типа Mixture of Experts; в обучении использовались qLoRA и Axolotl, а карточка указывает 7,1 млрд параметров. Модель принимает текст и выдаёт текст, использует формат диалога ChatML и поддерживает контекст до 32 768 токенов по метаданным; автор сообщает, что дообучение проводилось на последовательностях длиной 16 тыс. токенов. Модель предназначена для диалогового помощника, написания и объяснения кода, а также ответов на общие вопросы. Автор характеризует её как особенно сильную в задачах программирования и отмечает, что она следует инструкциям; обучение охватывало наборы данных для диалогов, программирования и инструкций. Модель не проходила DPO-настройку и описана автором как uncensored и highly compliant, поэтому для публичного сервиса потребуется отдельная настройка безопасности. Лицензия — Apache 2.0.

Dolphin3.0-Qwen2.5-3b-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin3.0-Qwen2.5-3b. Исходную модель разработала команда cognitivecomputations, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста, включая ответы на инструкции, задачи программирования, математики, function calling и агентские сценарии. Модель содержит около 3 миллиардов параметров и работает в текстовой модальности; в README указан английский язык. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q6_K и некоторые варианты IQ; запуск поддерживается через llama.cpp и LM Studio. Формат prompt использует шаблон ChatML с маркерами ролей system, user и assistant. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска на сравнительно доступном оборудовании и специализация на инструкциях, коде, математике и инструментальном взаимодействии. Ограничения включают небольшой размер модели по сравнению с крупными LLM, возможное снижение качества у сильнее сжатых вариантов, отсутствие в README данных о контекстном окне, мультиязычных возможностях и количественных результатах тестирования. Лицензия обозначена как qwen-research и связана с лицензией Qwen2.5; перед использованием следует проверить её условия для конкретного сценария.