II.11Кибербезопасность и приватность

Dolphin 3.0 Llama 3.2 3B — инструктивно дообученная языковая модель, созданная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на основе Meta Llama 3.2 3B. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель предназначена для локального использования как универсальный диалоговый помощник. Она подходит для генерации текста, программирования, математических задач и работы в агентных сценариях, включая интерфейс вызова функций. Для диалогов используется шаблон ChatML; системный промпт позволяет задавать тон и правила поведения. Обучение опиралось на наборы данных для инструкционного диалога, кода, математики и вызова функций. Модель рассчитана на текстовый ввод и выдаёт текст. В карточке указан английский язык. Количественные результаты оценки качества не приведены. Лицензия — Llama 3.2; условия использования определяются этой лицензией.

EmbeddingGemma-300m — компактная модель эмбеддингов Google DeepMind на базе Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы размерности 768; благодаря Matryoshka Representation Learning векторы можно сократить до 512, 256 или 128 измерений и перенормировать. Модель содержит 302,8 млн параметров, принимает до 2048 токенов и рассчитана на работу, в том числе на устройствах с ограниченными ресурсами. Модель предназначена для семантического поиска и извлечения документов, сравнения текстов, классификации и кластеризации. Её можно применять для поиска по документам и коду, обнаружения дубликатов, подбора рекомендаций и поиска доказательств для проверки фактов. Обучение охватывает более 100 языков, однако в карточке этой версии явно указаны английский и немецкий. Модель выдаёт числовые векторы, а не готовые текстовые ответы. Её качество зависит от охвата обучающих данных; возможны ошибки при интерпретации языковых нюансов, сарказма и образных выражений. Репозиторий указывает лицензию Gemma; использование регулируется условиями Google и политикой допустимого использования Gemma.

Карточка модели GokulRajaR/embeddinggemma-300m-qat-q8_0-unquantized на Hugging Face совпадает с карточкой h2oai/embeddinggemma-300m-qat-q8_0-unquantized, поэтому описание составлено по ней. EmbeddingGemma — мультиязычная модель эмбеддингов Google DeepMind на 302,8 млн параметров, основанная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы для поиска, извлечения информации, оценки семантического сходства, классификации и кластеризации. Модель обучена на данных более чем на 100 языках и рассчитана на запуск в условиях ограниченных ресурсов, включая мобильные устройства и настольные компьютеры. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; с помощью Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Веса предназначены для использования с Sentence Transformers и реализацией Gemma 3 в Transformers. Модель подходит для поиска документов и кода по запросам, а также для подбора текстов по смыслу. Качество может снижаться при неоднозначных формулировках, сарказме и тонких языковых нюансах; результаты также зависят от охвата и возможных смещений обучающих данных. Лицензия — Gemma; применяются условия использования и политика запрещённого использования Gemma.

HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP — мультимодальная версия Gemma 4, разработанная HauhauCS на основе Gemma 4 26B-A4B-it от Google DeepMind. Модель предназначена для агентного программирования, рассуждений, творческого письма, ролевого общения, диалогов и задач, где важны следование инструкциям и надежность. Вариант позиционируется как uncensored и оптимизирован для минимизации отказов при сохранении исходных возможностей базовой модели. Модель использует MoE-архитектуру размером 26B параметров: из 128 экспертов для каждого токена активны 8. Поддерживается контекст до 256K токенов, английский язык и обработка изображений через отдельный vision mmproj-компонент. Распространяется в формате GGUF с 4-битной квантизацией Q4_K_M; основной файл занимает около 16,8 ГБ, vision-компонент — 1,2 ГБ. В комплект входит MTP-драфтер для speculative decoding, который в тестах автора ускорял генерацию примерно на 35% без заявленного изменения качества. К сильным сторонам относятся большой контекст, поддержка изображений, высокая эффективность MoE и ориентация на программирование, рассуждения и творческие задачи. Работа MTP и заявленное ускорение проверялись автором в llama.cpp; модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-рантаймами. Ограничения включают зависимость vision-возможностей от отдельного mmproj-файла, возможные сбои Gemma 4 в LM Studio при multi-GPU tensor-split, а также то, что отсутствие отказов не гарантируется для всех пограничных запросов. Лицензия указана как Gemma. Для запуска рекомендуется использовать параметры temperature 0.6, top_k 64, top_p 0.9, min_p 0.05 и repeat_penalty 1.1.

Карточка модели Ishowbackup/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Laguna S 2.1-NVFP4 — квантизированный вариант модели Laguna S 2.1, разработанный компанией Poolside. Это текстовая Mixture-of-Experts-модель, ориентированная на агентное программирование, работу с инструментами и длительные задачи на локальном компьютере. Модель поддерживает нативное рассуждение с чередованием этапов обдумывания и вызовов инструментов, причём рассуждение можно включать или отключать для каждого запроса. Модель содержит 117,6 млрд параметров, из которых 8,5 млрд активируются на каждом токене, 256 экспертов и одного общего эксперта. Архитектура включает 48 слоёв: 12 слоёв с глобальным вниманием и 36 слоёв со Sliding Window Attention, размер окна которого составляет 512 токенов. Используются per-head gating, позиционные rotary scales и соотношение локального и глобального внимания 3:1. Контекстное окно — до 1 048 576 токенов, модальность — text-to-text. KV-кэш квантизирован в FP8, а веса NVFP4 занимают примерно 71 ГБ. Сильные стороны модели — высокая эффективность инференса и сниженные требования к KV-кэшу благодаря разреженной MoE-архитектуре, поддержка сверхдлинного контекста, локальное развёртывание и специализация на разработке программного обеспечения. При контексте в 1 млн токенов возможно снижение качества. NVFP4 в настоящее время некорректно работает в SGLang; для локального использования заявлена поддержка vLLM, Transformers и TRT-LLM, а также Ollama и llama.cpp с другими форматами весов. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию для коммерческих и некоммерческих целей.

Ornith-1.5-9B-MLX-4bit — 4-битная MLX-квантованная версия Ornith-1.5-9B, разработанная командой Ornith AI. Это плотная языковая модель примерно на 9 млрд параметров, ориентированная на эффективное развертывание на одной GPU; семейство также включает вариант для мобильных устройств. Модель предназначена для генерации текста и особенно хорошо подходит для программирования, работы с терминалом и решения задач по исправлению кода. В основе Ornith-1.5 лежит подход непрерывного самоулучшения: модель обучалась с совместной оптимизацией генерации задач, построения scaffold и rollouts решений с применением reinforcement learning. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual, превосходя Ornith-1.0-9B и Qwen3.5-9B в приведённых тестах. Ключевое преимущество данной версии — сниженные требования к памяти благодаря 4-битному квантованию и совместимость с MLX. В карточке указано, что основной язык модели — английский. Сведения о размере контекста, поддерживаемых модальностях помимо текста, точной базовой архитектуре, лицензии и ограничениях применения не приведены, поэтому их следует уточнять отдельно. Количественные результаты зависят от используемого окружения и конфигурации оценки.

Qwen3-Embedding-0.6B-auto — текстовая модель для создания эмбеддингов, опубликованная в репозитории michaelfeil и основанная на Qwen/Qwen3-0.6B-Base. Это дообученная плотная архитектура Qwen3 примерно с 508 млн параметров; она принимает текст и возвращает векторы размерностью от 32 до 1024. Модель поддерживает контекст до 32 768 токенов и более 100 языков, включая языки программирования. Модель предназначена для поиска и извлечения текстов и кода, сравнения смысловой близости, классификации, кластеризации и поиска параллельных текстов. Она учитывает инструкции, заданные для конкретной задачи, и позволяет настраивать размер вектора. Для работы с архитектурой Qwen3 требуется Transformers версии 4.51.0 или новее; без инструкции на стороне запроса качество поиска в некоторых сценариях может снизиться примерно на 1–5%. Лицензия — Apache-2.0.

Qwopus3.6-27B-v2-MTP — мультимодальная модель для работы с текстом и изображениями, разработанная Jackrong на основе Qwen3.6-27B. Модель дообучена на наборах данных Claude Opus TraceInversion и ориентирована на реконструированное пошаговое рассуждение, программирование, DevOps, математику, научные задачи, работу с инструментами и генерацию текста в заданном формате. Модель содержит около 27 миллиардов параметров и использует Multi-Token Prediction (MTP), предназначенный для ускорения генерации и speculative decoding, особенно в длинных рассуждениях, программном коде и математических запросах. Заявлена поддержка текстово-изобразительных сценариев; среди языков указаны английский, китайский, корейский, русский, японский и испанский. Точная длина контекста в README не указана. К сильным сторонам относятся акцент на структурированном рассуждении, кодировании, DevOps и математических выводах, а также потенциально более высокая скорость генерации благодаря MTP. Модель тестировалась на локальном наборе из 30 вопросов по логике, программированию, DevOps, математике и пограничным сценариям, однако широкие независимые бенчмарки и подробные числовые результаты не представлены. Для использования могут потребоваться совместимые реализации MTP и speculative decoding; формат GGUF ориентирован, в частности, на llama.cpp. Лицензия — Apache-2.0.

Rnj-1 — открытая плотная языковая модель примерно на 8,3 млрд параметров, обученная с нуля командой Essential AI. Она предназначена прежде всего для генерации и понимания кода, задач STEM и диалогового использования с вызовом инструментов. Модель поддерживает контекст до 32 768 токенов и загружается через Transformers; веса доступны в формате safetensors. В README заявлены генерация и дополнение кода, решение математических и научно-технических задач, а также агентные сценарии разработки: исправление ошибок, анализ производительности и работа с инструментами. Модель относится к семейству Gemma 3 Text и поддерживает интерфейс вызова инструментов. Описанные в карточке результаты бенчмарков относятся также к варианту rnj-1-instruct и не должны автоматически считаться результатами именно этой базовой модели. Лицензия — Apache-2.0. README рекомендует для запуска на ноутбуке llama.cpp и ссылается на предварительно квантованный вариант, однако указанные в метаданных веса этой модели представлены в safetensors.

EmbeddingGemma — компактная модель эмбеддингов на 300 млн параметров от Google DeepMind, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, извлечения информации, оценки сходства, классификации и кластеризации. Модель подходит для поиска документов и кода, систем вопросов и ответов и проверки фактов. Модель обучена на данных более чем из 100 языков и рассчитана на запуск на устройствах с ограниченными ресурсами, включая телефоны и компьютеры. Максимальная длина входа — 2048 токенов; стандартный размер выходного вектора — 768 измерений, также доступны укороченные варианты на 512, 256 и 128 измерений с помощью Matryoshka Representation Learning. Для работы предусмотрена библиотека Sentence Transformers. Качество эмбеддингов зависит от охвата и особенностей обучающих данных; модель может хуже передавать языковые нюансы, сарказм и переносный смысл, а также наследовать смещения данных. Условия использования определяются лицензией Gemma и связанными с ней правилами Google.

GLM-5.3-Flash-TQ3_4S — текстовая GGUF-квантизация модели zai-org/GLM-5.3-Flash, подготовленная автором репозитория для запуска через llama.cpp с поддержкой TurboQuant. Используется архитектура Mixture of Experts: активны 8 из 288 маршрутизируемых экспертов на токен. Формат TQ3_4S имеет номинальную точность около 4 бит на вес; маршрутизируемые эксперты хранятся в 2-битном формате, внимание и общие эксперты — в 6-битном, а нормализации и смещения — в FP32. Веса занимают около 101,6 ГиБ и распределены по четырём GGUF-файлам. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов. Сохранённая MTP (NextN) голова позволяет использовать спекулятивное декодирование без отдельной черновой модели. README приводит результаты тестов на NVIDIA GB10/DGX Spark и рекомендует контекст 40 960 токенов в поставляемой конфигурации; заявлена проверенная работа до 512 тыс. токенов на этом оборудовании. Поддерживаются английский и китайский языки. Эта сборка не содержит vision tower, поэтому не принимает изображения, хотя базовая модель поддерживает обработку изображений. Для работы необходима публичная ветка TurboQuant runtime: основной llama.cpp не поддерживает тип тензора TQ3_4S. README отмечает необходимость пользовательского шаблона чата. Квантизация сокращает размер весов, но её влияние на качество может зависеть от задачи и оборудования; приведённые оценки получены на одной конфигурации и не гарантируют аналогичных результатов в других условиях. Лицензия — MIT.

Granite-Embedding-311M-Multilingual-R2 — модель эмбеддингов текста, разработанная командой Granite Embedding компании IBM. Она использует плотный bi-encoder на архитектуре ModernBERT с 311,6 млн параметров и выдаёт векторы размерностью 768 для запросов, документов, фрагментов текста и кода. Максимальная длина контекста — 32 768 токенов; эмбеддинги можно сокращать до 512, 384, 256 или 128 измерений с постепенным снижением качества. Модель предназначена для семантического поиска, сопоставления запросов и документов, поиска по длинным текстам и межъязыкового поиска. Она поддерживает более 200 языков, а для 52 языков, включая русский, и ряда языков программирования прошла дополнительное обучение на парах для поиска и межъязыкового сопоставления. Поддерживаются Python, Go, Java, JavaScript, PHP, Ruby, SQL, C и C++. Векторы можно сравнивать, например, по косинусному сходству. В README указаны контрастивное дообучение, дистилляция знаний и слияние моделей. Доступны форматы Safetensors, ONNX и OpenVINO; лицензия Apache 2.0. Качество зависит от языка: для низкоресурсных языков оно может быть ниже, чем для языков с расширенной поддержкой; длинные входы сверх лимита контекста обрезаются. Фильтрация обучающих данных и синтетические данные могут вносить смещения.

Dingdust/NeoHorse-1-9B-heretic — текстовая причинная языковая модель на архитектуре Qwen3.5, дообученная TokenRhythm на базе Qwen/Qwen3.5-9B и подготовленная для текстового инференса. Она рассчитана на диалог, следование инструкциям, программирование, рассуждения, использование инструментов и работу в агентных сценариях. По данным карточки, модель содержит 7,2 млрд параметров, поддерживает контекст до 262 144 токенов и распространяется в формате Safetensors; визуальные веса в этой версии отсутствуют. Модель предназначена для локального развёртывания через SGLang или vLLM с OpenAI-совместимым интерфейсом. В отчёте авторов приведено сравнение на десяти бенчмарках, однако примеры развёртывания для этой перепакованной версии ещё не проверены на GPU. Метаданные указывают лицензию Apache-2.0. Тег «heretic» и результаты теста отказов указывают на снижение частоты отказов по сравнению с исходной моделью, поэтому поведение при запросах с потенциально небезопасным содержанием может быть менее ограничительным.

Nex-N2.5-Pro — мультимодальная агентная модель из семейства Nex-N2.5, разработанная компанией Nex-AGI. Она предназначена для выполнения долгих многоэтапных задач в реальных средах, включая работу с компьютером и браузером, автономный запуск и тестирование программ, научные исследования, работу со знаниями и сложные продуктивные сценарии. Модель продолжает мультимодальную основу Nex-N2 и ориентирована на компьютерное использование, веб-навигацию и визуально обоснованные действия. Она способна воспринимать визуальную информацию как интерфейс взаимодействия со средой, проверять результаты своих действий и корректировать дальнейшее выполнение задачи. В README не указаны точный размер модели, архитектура, длина контекста и перечень поддерживаемых языков. Заявлены результаты в задачах программирования, агентных рабочих процессах, компьютерном использовании и мультимодальном понимании; среди приведённых оценок Pro показывает 82,7 балла в Terminal-Bench 2.1, 61,2 в SWE-Bench Pro и 55,8 в DeepSWE v1.1. Сильными сторонами модели являются ориентация на длительные автономные сценарии, работа с визуальной обратной связью, браузерами и компьютерами, а также способность к самокоррекции и выполнению программных задач. Ограничения, требования к аппаратным ресурсам и практические особенности развёртывания в README не описаны. Для модели указана лицензия Apache-2.0; веса заявлены как открытые, а также доступен hosted-доступ через OpenRouter.

OmniCoder-9B-Opus-4.6-Uncensored-v2-GGUF — языковая reasoning-модель на базе Qwen/Qwen3.5-9B, созданная автором ansulev. Модель получена объединением нескольких производных моделей, включая OmniCoder-9B от Tesslate, reasoning-модель Qwen3.5-9B от Jackrong и uncensored-модель HauhauCS. При обучении и слиянии использовались данные в стиле Claude 4.6 Opus, ориентированные на рассуждения, математику, логические задачи, общие знания, инструкции и программирование. Формат распространения — GGUF; заявленная лицензия — Apache-2.0. Модель предназначена для локального запуска в приложениях вроде LM Studio и для задач общего назначения, требующих многошагового рассуждения, генерации и анализа кода, решения математических и логических задач, а также следования инструкциям. В карточке указаны английский, китайский и корейский языки. Архитектура унаследована от Qwen3.5-9B, размер — около 9 миллиардов параметров. В метаданных указана мультимодальная категория image-text-to-text, однако подробности о поддерживаемых визуальных входах и размере контекстного окна не приведены. Ключевая особенность версии v2 — более компактная и эффективная генерация рассуждений. По заявленным оценкам на HumanEval и HumanEval+ она превосходит базовую Qwen3.5-9B по точности и требует примерно на 20–23% меньше текста рассуждений для одного успешного решения. Это может снижать задержку и стоимость инференса, но заявленные результаты основаны на ограниченном наборе тестов и не гарантируют аналогичного качества во всех прикладных сценариях. Разработчик также предупреждает о возможном снижении широких общих способностей из-за ограниченного объёма и направленности дообучения. Термин uncensored указывает на ослабленные ограничения отказов, что может повышать гибкость, но требует дополнительного контроля безопасности при использовании.

duyntnet/Phi-3-mini-128k-instruct-imatrix-GGUF — это набор пере-квантизированных GGUF-файлов модели Phi-3 Mini-128K-Instruct, разработанной Microsoft и повторно опубликованной пользователем duyntnet. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям, многошагового общения, решения задач и работы с длинным контекстом. Указана поддержка английского языка и текстовой модальности. Версия ориентирована на улучшенное понимание кода на Python, C++, Rust и TypeScript, более структурированные ответы, многоэтапное следование инструкциям, рассуждения и обработку длинного контекста. В README заявлена длина контекста 128K токенов; также указано, что модель поддерживает системный тег <|system|>. Формат GGUF позволяет запускать её через llama.cpp, JanAI, KoboldCPP, text-generation-webui и Ollama. Данные о точной архитектуре, количестве параметров и конкретных вариантах квантизации не приведены, поэтому характеристики производительности и требования к ресурсам определить нельзя. Модель подходит для локального запуска, чат-ассистентов, генерации и анализа текста, программирования и сценариев, требующих обработки больших документов или продолжительного диалога. Ограничения включают отсутствие заявленной поддержки других языков, а также возможные потери качества, связанные с квантизацией. Лицензия обозначена как other, но её условия в README не раскрыты; перед использованием необходимо ознакомиться с лицензией исходной модели и опубликованного набора файлов.

unsloth/Qwen3.6-35B-A3B-MLX-8bit — MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B, подготовленная Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для работы с текстом и изображениями, агентного программирования, анализа репозиториев, фронтенд-разработки и сценариев с вызовом инструментов. Модель поддерживает улучшенное сохранение контекста рассуждений между сообщениями и обработку вложенных структур при tool calling. Архитектура использует Mixture of Experts: всего 35 млрд параметров, из которых при генерации активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. В README не указано, какие языки поддерживаются. К сильным сторонам относятся высокая вычислительная эффективность разреженной MoE-архитектуры, поддержка визуального ввода, длинного контекста, агентного кодирования и локального запуска через MLX. Ограничения включают необходимость совместимой MLX-инфраструктуры и отсутствие в предоставленных данных подробных результатов бенчмарков, требований к оборудованию и описания возможных ограничений качества. Модель распространяется по лицензии Apache-2.0.

sokada4/Qwen3.8-27B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия модели Qwen/Qwen3.8-27B, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 по схеме W4A16, с размером группы 128 и симметричным представлением. Модель предназначена для текстового вывода и рассчитана на локальное развертывание через vLLM, в том числе как OpenAI- или Anthropic-совместимый backend для Claude Code и Codex CLI. Это плотная языковая модель примерно на 27 млрд параметров с заявленным нативным контекстом до 262144 токенов. Квантизации подверглись только веса language_model; веса vision tower сохранены без изменений, однако данный checkpoint предназначен для text-only serving. Тензоры MTP, используемые для speculative decoding, также сохранены в формате bf16. Калибровка проводилась на англоязычных, китайских и японских текстах, а также на коде, поэтому модель ориентирована на многоязычные и программные сценарии, хотя точный языковой охват в README не указан. Ключевые преимущества — существенное снижение требований к памяти по сравнению с полноразмерной моделью, поддержка speculative decoding через MTP и совместимость с инструментальными вызовами в vLLM. Для комфортной работы с длинным контекстом и MTP рекомендуется конфигурация из двух GPU по 24 ГБ; на одной видеокарте 24 ГБ длину контекста придётся заметно уменьшить, а MTP использовать нецелесообразно. В README также отмечен повышенный риск некорректно сформированных tool calls по сравнению с облачными моделями, поэтому для автономных агентных сценариев рекомендуется проверка вызовов человеком. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen и опубликованной Unsloth. Это каузальная языковая модель для генерации текста и кода, ориентированная на агентное программирование, использование браузера и другие задачи разработки, включая работу с репозиториями и интеграцию с инструментами вроде Qwen Code и CLINE. Модель использует архитектуру Mixture-of-Experts: 480 млрд параметров всего, из которых 35 млрд активируются при обработке запроса; включает 62 слоя, 160 экспертов и 8 активируемых экспертов, а также Grouped-Query Attention с 96 головами Q и 8 KV-головами. Нативный контекст составляет 262 144 токена, с возможностью расширения до 1 млн токенов посредством YaRN. Модель поддерживает только режим без рассуждений и не генерирует блоки <think></think>. Данные о поддерживаемых языках и мультимодальности в README не указаны; заявлена текстовая генерация. Сильными сторонами являются большой контекст, понимание кода на уровне репозитория и высокая производительность в агентных сценариях. Ограничения включают значительный общий размер модели и необходимость совместимого программного окружения; конкретные требования к оборудованию и производительности для GGUF-вариантов в README не приведены. Модель распространяется по лицензии Apache-2.0.

EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Fingu-instruct-3 — модель Sentence Transformer, дообученная FINGU-AI на базе dunzhang/stella_en_1.5B_v5. Она преобразует предложения и абзацы в плотные векторы размерности 1024 и предназначена для сравнения смысловой близости текстов, семантического поиска, поиска перефразирований, кластеризации и классификации текста. Для сравнения векторов используется косинусное сходство; в метаданных указаны архитектура Qwen2, 1,5 млрд параметров и контекст до 131072 токенов. README указывает максимальную длину последовательности 8096 токенов, поэтому при работе следует учитывать это более низкое ограничение. Модель принимает текст и возвращает векторы; указанная библиотека — sentence-transformers. Лицензия в предоставленных данных не указана.

Gemma4-12B Uncensored-HauhauCS-1M-GGUF — GGUF-версия модели, опубликованная satgeze и основанная на HauhauCS/Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced, которая, в свою очередь, использует 12-миллиардный dense-чекпойнт Google с квантизацией QAT. Модель предназначена для генерации текста, работы с длинными документами и задач, требующих извлечения информации из больших контекстов. Также заявлена поддержка изображений благодаря vision tower и ускоренного вывода через MTP speculative decoding; запуск ориентирован на llama.cpp и Ollama. Ключевая характеристика модели — контекстное окно до 1 048 576 токенов, увеличенное в четыре раза относительно исходных 262 144 токенов. В README сообщается о сертифицированном needle-in-a-haystack извлечении на всём диапазоне от 64K до 1M токенов, а также о сохранении цепочек многошагового поиска на полном миллионном контексте. MTP ускоряет генерацию примерно на 51% в заявленных тестах, до 218,4 токена в секунду на RTX 5090. Языки явно не указаны. Сильные стороны модели — очень длинный контекст, точное позиционное извлечение и поддержка изображений. Ограничения проявляются в задачах, требующих агрегации данных по всему окну: на больших длинах качество снижается, а режим thinking, по данным README, существенно ухудшает результаты и может зацикливаться или исчерпывать лимит генерации. Для длинноконтекстного извлечения рекомендуется отключать thinking. Модель описана как uncensored и распространяется по лицензии Gemma; конкретные условия лицензии следует учитывать при использовании.

LFM2.5-Encoder-230M — разработанный Liquid AI компактный многоязычный двунаправленный энкодер на архитектуре LFM2 с 221,2 млн параметров. Это masked language model с головой заполнения масок, предназначенная прежде всего для дообучения под прикладные задачи обработки текста. Гибридная архитектура чередует блоки коротких gated-свёрток и grouped-query attention; модель доступна в формате safetensors и работает через Transformers с удалённым кодом модели. Энкодер подходит как основа для классификации текста и токенов, извлечения сущностей, поиска и ранжирования, оценки семантического сходства, определения тональности и естественно-языкового вывода. Заявлена поддержка 15 языков, включая русский. README указывает контекст до 8 192 токенов и возможность эффективного запуска на устройстве и в браузере через WebGPU; значение длины контекста в метаданных каталога составляет 128 000 токенов, поэтому фактический рабочий предел следует сверять с используемой конфигурацией модели. Модель ориентирована на низкие требования к памяти и задержке; авторы сообщают о хорошей производительности на длинных последовательностях и приводят сравнения с другими энкодерами. Для перечисленных прикладных задач обычно требуется дообучение: исходная модель не является готовым специализированным классификатором или поисковым ранжировщиком. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.

OpenYourMind создала эту полноразмерную BF16-версию NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на типовых категориях запросов. По описанию автора, изменение выполнено офлайн-проекцией направления отказа на веса без дополнительного обучения и без изменения структуры базовой модели. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и использует гибридную архитектуру Mamba-2, Attention и Latent-MoE; сохранены режим рассуждений enable_thinking и голова MTP для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, сложных рассуждений и технических или защитных запросов, на которые исходная модель могла отказывать. Контекст составляет 262 144 токена. Веса BF16 занимают около 1,1 ТБ и требуют мног GPU-развёртывания; автор указывает vLLM как вариант запуска. README заявляет сохранение связности, точности и многоязычной беглости, однако не приводит независимых оценок этих свойств. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

Ornith-1.5-35B-A3B-NVFP4-MTP-GGUF — квантизированная версия модели ornith-ai/Ornith-1.5-35B-A3B, подготовленная Avifenesh. Это текстовая генеративная модель с архитектурой MoE, распространяемая в формате GGUF с квантизацией NVFP4. Артефакт дополнен дообученной головой multi-token prediction (MTP) для speculative decoding; основной корпус модели, эмбеддинги и выходная голова сохранены без изменений относительно официальной версии. Модель предназначена для диалоговой генерации текста, включая программирование и агентские сценарии. Она поддерживает контекст до 262 144 токенов, имеет встроенный шаблон чата с XML-вызовом инструментов и режимом рассуждений <think>. Артефакт рассчитан на текстовый ввод и вывод; upstream vision tower в него не входит. Размер файла составляет около 20,2 ГБ против 71,9 ГБ у BF16-версии, что позволяет разместить веса на одной видеокарте Blackwell с 96 ГБ памяти. Ключевое преимущество версии — ускорение speculative decoding благодаря дообученной MTP-голове: на описанных тестах принятие черновых токенов достигало 0,431, а на тестах генерации кода — 0,540. При этом проверка целевой моделью сохраняет побитовую идентичность с обычной жадной генерацией. Ограничения связаны с узкой совместимостью: NVFP4 не является стандартным типом тензоров upstream llama.cpp, поэтому рекомендуется использовать serving engine tiyuvta для RTX Blackwell или специальную NVFP4-ветку llama.cpp; для обычных llama.cpp и Ollama следует выбирать официальные GGUF Q4_K_M–Q8_0. Модель распространяется по лицензии MIT.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и распространяется в формате MLX для задач генерации текста. Модель создана с применением подхода непрерывного самоулучшения: она совместно оптимизирует генерацию учебных задач, построение scaffolds и rollouts решений с использованием reinforcement learning, вместо опоры только на фиксированный набор вручную подготовленных задач. Модель предназначена для программирования, работы с терминалом, решения инженерных задач и других сценариев генерации текста. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual; например, результаты составляют 46,2 и 47 баллов в двух конфигурациях Terminal-Bench 2.1, 70,6 в SWE-bench Verified и 47,5 в SWE-bench Pro. Разработчик позиционирует её как наиболее лёгкую модель семейства, рассчитанную на эффективное развёртывание на одной GPU. Ключевые ограничения связаны с неполнотой доступной карточки: в README не указаны размер контекста, точный набор поддерживаемых языков, дополнительные модальности, конкретная базовая архитектура и лицензия. Для мобильных устройств упомянут отдельный квантизованный вариант Ornith-1.5-9B-Mobile, однако описываемая модель предназначена прежде всего для развёртывания на одной GPU.

PearsonKyle/Qwen3.8-27B-GPTQ-W4A16 — это квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и опубликованной PearsonKyle. Модель предназначена для генерации и понимания текста, работы с изображениями, агентных сценариев, вызова инструментов и function calling. Она ориентирована прежде всего на запуск через vLLM. Модель содержит около 27 млрд параметров и использует квантование GPTQ в формате compressed-tensors W4A16: основная часть весов представлена в int4 с группами размера 128 и симметричным квантованием. Размер загрузки составляет около 18,1 GiB. Калибровка выполнена на 4,26 млн токенов агентных сессий программирования при контексте 32 768 токенов. В состав также входят MTP-голова для speculative decoding и vision tower, сохранённый в bf16; заявлена скорость декодирования до 1,71 раза выше при принятии 71,2% черновых токенов. К сильным сторонам относятся поддержка текста и изображений, tool calling, интеграция с vLLM без конвертации, а также возможность speculative decoding. Ограничения связаны с потерями и особенностями 4-битного квантования: embed_tokens и lm_head оставлены в bf16, поэтому итоговый размер и средняя точность отличаются от полностью 4-битной модели; для работы требуется совместимая версия vLLM и соответствующая аппаратная память. В карточке указан английский язык, поэтому поддержка других языков не подтверждена. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-mlx-oQ4e-1M — релиз модели на базе Qwen3.8-27B TURBO Fable Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI. Модель предназначена для программирования, рассуждений, агентной разработки, отладки репозиториев и работы с длинными документами и проектами. В README также указана совместимость с задачами image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель содержит 27 млрд параметров и поставляется в формате Apple MLX oQ4e mixed precision с размером около 17,02 ГБ. Заявлены гибридная архитектура с блоками Gated Delta Recurrent Network и Grouped-Query Attention, механизм Multi-Token Prediction для ускорения генерации, а также YaRN-масштабирование RoPE до 1 048 576 токенов. Указаны языки English и Chinese. Основная среда применения — компьютеры Apple Silicon с unified memory, включая MacBook с 16 или 24 ГБ памяти, через Anvil и MLX-LM. Сильными сторонами заявлены высокая эффективность на Apple Silicon, большой контекст, поддержка задач кодирования и рассуждений, а также хорошие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench, CoWorkBench и ARC. Эти показатели приведены в README и не подтверждены независимой проверкой. Ограничениями являются зависимость от MLX и Apple Metal, требования к объёму unified memory, возможные потери качества из-за 4-битной квантизации и неполная информация о фактической мультимодальности и поведении на длинном контексте. Лицензия — Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct-3bit — языковая instruction-модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель основана на Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm, в частности в сценариях локальной генерации на совместимом оборудовании Apple MLX. Вариант имеет 3-битное представление и относится к семейству Qwen3-Coder; точные сведения об архитектуре, количестве активных параметров, контекстном окне, поддерживаемых языках и модальностях в README не указаны. Заявленный тип задачи — text-generation, поэтому модель ориентирована на генерацию текста, включая ответы в instruction-режиме и программный код. Сжатое 3-битное представление может снизить требования к памяти, однако README не содержит результатов тестирования, сведений о качестве, ограничениях или производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.26.1.