II.5Безопасность программного кода и цепочки поставок

Карточка модели SAIFIINDUSTRIES/Nex-N2.5-mini на Hugging Face совпадает с карточкой nex-agi/Nex-N2.5-mini, поэтому описание составлено по ней. Nex-N2.5-mini — разговорная модель семейства агентных моделей Nex-N2.5 от Nex-AGI, основанная на архитектуре Qwen3.5 MoE. Она предназначена для длительных многошаговых задач: работы с компьютером и браузером, выполнения и проверки программ, а также научной и офисной работы. Модель использует визуальную обратную связь для восприятия интерфейсов, проверки результатов и продолжения действий; поддерживает режимы рассуждения и вызов функций. Для запуска автор приводит конфигурацию на двух ускорителях H100 и рекомендует параметры генерации temperature 0.7, top_p 0.95 и top_k 40. В метаданных указаны Transformers и формат safetensors; лицензия — Apache-2.0. README описывает мультимодальные возможности семейства и отдельно позиционирует Nex-N2.5-Max как текстовую модель, поэтому точные размер, контекст и перечень входов и выходов именно mini по этим данным установить нельзя.

Ornith-1.5-9B-OBLITERATED — модифицированная версия Ornith-1.5-9B, разработанного DeepReinforce. Модель доработана проектом OBLITERATUS и собрана Pliny the Prompter с применением precision abliteration surgery — удаления поведенческих направлений, связанных с отказами на потенциально опасные запросы. Она предназначена для генерации текста, программирования, рассуждений, исследовательских задач в области alignment и red teaming, а также агентских сценариев и автоматизации. Модель содержит около 9 млрд параметров и использует гибридную архитектуру Qwen3.5 с Gated DeltaNet и полными attention-слоями; редактированию подверглись все 32 трансформерных слоя. Заявлен английский язык, поддерживаются обычный и thinking-режимы, а также текстовая генерация. В репозитории доступны полноточные bf16-веса и варианты GGUF размером от Q2_K до Q8_0; для максимального сохранения характеристик рекомендуются Q8_0 и Q6_K. Указан контекст размером 8192 токена для примера запуска через llama.cpp, однако общий максимальный контекст README явно не подтверждает. Сильной стороной является существенно сниженная склонность к отказам при сохранении возможностей программирования, рассуждений и базовых агентских задач: в приведённых тестах модель показала 3/3 в генерации кода и 5/6 в тесте связности длинного контекста. Ограничения включают падение MMLU примерно на 4 процентных пункта относительно базовой модели, возможные дополнительные отказы в низкобитных квантизациях, частично ухудшенное function calling и риск галлюцинаций в сложных химических и синтетических сценариях. Модель распространяется по лицензии MIT; из-за удаления защитных ограничений результаты требуют независимой проверки и ответственного применения.

Qwopus3.8-27B-Flash-V2-GGUF — мультимодальная instruction-tuned модель, разработанная Jackrong. Это обновлённый post-training релиз Qwopus3.8-27B-Flash, основанный на Qwen3.8-27B. Модель предназначена для генерации текста по текстовым и визуальным входным данным, решения сложных задач, рассуждений, генерации кода, использования инструментов, function calling и агентских сценариев с многократными итерациями «анализ — вызов инструмента — наблюдение — редактирование — проверка». Версия GGUF ориентирована на локальный inference. Ключевая заявленная характеристика — размер 27B параметров. Модель поддерживает image-text-to-text и относится к мультимодальным моделям с vision-возможностями. В README указаны языки English, Chinese, Spanish, Russian и Japanese. Архитектура и размер контекстного окна не раскрыты. Обновлённое обучение направлено на сокращение неэффективных рассуждений, повышение скорости завершения задач и улучшение практичности длительных агентских рабочих процессов; отдельно отмечено улучшение форматирования Python. Сильными сторонами модели являются сочетание рассуждений, программирования, работы с изображениями и инструментами, а также ориентация на эффективность при ограниченных вычислительных ресурсах. При этом README подчёркивает компромисс между сокращением длины рассуждений и сохранением корректности; универсальные улучшения качества не заявлены. Точные методы обучения V2 и полный рецепт reinforcement learning не раскрыты. Модель распространяется по лицензии Apache-2.0.

QwQ-32B-Preview-Instruct-Coder — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом TIES. В объединение вошли Qwen/QwQ-32B-Preview, Qwen/Qwen2.5-32B-Instruct и Qwen/Qwen2.5-Coder-32B-Instruct; базовая модель — Qwen/Qwen2.5-32B. Модель содержит 32 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, программирования, математических рассуждений и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов. Она работает с текстом на входе и генерирует текст на выходе; отдельные поддерживаемые языки не указаны в предоставленных данных. Сведения о лицензии и ограничениях качества в README и метаданных отсутствуют.

GLM-5.3-Flash — разработанная Z.ai модель семейства GLM-5, опубликованная RedHatAI в формате BF16. Это плотная мультимодальная модель с архитектурой GLM5 Next: всего 320 млрд параметров, из которых активно используются 18 млрд. Она сочетает разреженное и линейное внимание для более экономичной обработки длинных контекстов и предназначена для диалогов, программирования и агентных сценариев. Модель обучена с нуля на мультимодальном корпусе из 30 трлн токенов. В README заявлена поддержка локального развёртывания через SGLang, vLLM, TokenSpeed и KTransformers; метаданные Hugging Face указывают библиотеку Transformers и возможность чата. Метки карточки указывают английский и китайский языки. Лицензия — MIT. В предоставленных данных не приведены численные результаты независимой оценки качества или ограничения по аппаратным требованиям.

openbmb/MiniCPM5-1B-GGUF — компактная языковая модель серии MiniCPM5, разработанная командой OpenBMB. Это GGUF-версия MiniCPM5-1B, предназначенная для локального запуска через llama.cpp, Ollama и LM Studio, включая устройства с ограниченными ресурсами. Модель представляет собой causal language model на архитектуре LlamaForCausalLM с 1 080 632 832 параметрами, 24 слоями и группированным вниманием GQA: 16 голов для запросов и 2 для ключей и значений. Максимальная длина контекста составляет 131 072 токена. Заявлена поддержка английского и китайского языков. Один и тот же checkpoint поддерживает быстрый режим без рассуждений и режим пошагового рассуждения через параметр enable_thinking и шаблон чата с маркером <think>. Модель ориентирована на локальных ассистентов, генерацию кода, coding agents, использование инструментов, агентские сценарии и задачи, требующие рассуждений при небольшом размере модели. К сильным сторонам относятся компактность, нативный длинный контекст, поддержка tool use и гибридного режима рассуждений; разработчики заявляют конкурентные результаты среди открытых моделей класса около 1B, особенно в использовании инструментов, генерации кода и сложном reasoning. Ограничения связаны с малым размером модели, из-за которого её возможности могут уступать более крупным моделям в сложных и специализированных задачах. Модель распространяется по лицензии Apache-2.0.

JASouth/Qwen3.8-27B-IQ-Hybrid — экспериментальный набор низкобитных GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, подготовленный автором JASouth. Модель ориентирована на локальный запуск с ограниченным объёмом видеопамяти, включая потребительские GPU с 8 ГБ VRAM, и предназначена для генерации текста, программного кода, задач с длинным контекстом, многошагового рассуждения и агентских рабочих процессов. В метаданных указана категория image-text-to-text, однако подробности о поддерживаемых модальностях, языках и размере контекстного окна не приведены. Доступны варианты с разной степенью сжатия. IQ2_E_S имеет около 2,40 BPW и требует примерно 7,51 GiB памяти, благодаря чему помещается в бюджет 8 ГБ, но заметно теряет качество на сложной логике, длинной генерации и функциональном кодировании. IQ2_E_S_V2 лучше подходит для кода и агентских сценариев, включая задачи с длинным контекстом, но может зацикливаться в обычном диалоге. IQ3_E_S_V2 считается наиболее сбалансированным вариантом по качеству и размеру, демонстрируя хорошие результаты в программировании и сложном рассуждении, хотя возможны отдельные ошибки внимания и галлюцинации. Для Intel Arc вариант IQ2_E_S не рекомендуется использовать с SYCL из-за риска некорректной генерации, NaN и сбоев; требуется backend Vulkan. Модель распространяется по лицензии Apache-2.0.

Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

cyberneurova-Qwen3.8-27B-GGUF — набор квантизированных сборок модели cyberneurova-Qwen3.8-27B, разработанной cyberneurova. Модель предназначена для локального запуска в llama.cpp, Ollama, LM Studio, Jan и других средах, поддерживающих формат GGUF, и относится к задачам генерации текста. Модель имеет размер 27B параметров и доступна в вариантах квантизации от Q2_K до Q8_0 объёмом примерно от 10 до 29 ГБ. Рекомендуется вариант Q4_K_M как компромисс между качеством и требованиями к памяти. Заявлена мультимодальность: для обработки изображений требуется отдельный vision projector mmproj-F16.gguf объёмом около 0,9 ГБ. В README приведён пример контекста 8192 токена, однако максимальный размер контекста явно не указан. Языки не заявлены. К сильным сторонам относятся локальный запуск, несколько уровней квантизации, поддержка изображений и заявленный результат базовой модели 11 из 12 на исполняемом бенчмарке программирования. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, необходимость дополнительного проектора для работы с изображениями и наличие сокращённых встроенных отказов; пользователь несёт ответственность за применение модели и соблюдение законодательства. Модель распространяется по лицензии Apache-2.0.

HyperNova-60B-2602-GGUF — GGUF-версия модели HyperNova 60B 2602 от Multiverse Computing. Модель создана на основе openai/gpt-oss-120b и сжата технологией CompactifAI: в ней 60 млрд параметров вместо 117 млрд у базовой модели, что снижает требования к памяти. Это instruction-tuned языковая модель с архитектурой MoE, предназначенная для генерации текста, рассуждений и задач разработчика. Модель поддерживает диалог, вызов инструментов по схемам в стиле OpenAI и структурированный вывод. Её можно применять для генерации и анализа кода, чат-ботов, RAG-систем и агентных сценариев, где модель вызывает внешние инструменты. В README рекомендуют формат сообщений Harmony, используемый базовой моделью. Основной язык — английский; другие языки формально не оценивались, и качество на них может различаться. Сжатие может влиять на отдельные способности, а вызов инструментов зависит от корректных схем и настройки инструментов; поведение не гарантирует полного совпадения с базовой моделью. Лицензия — Apache-2.0.

MiniCPM5-2B-SFT — версия модели MiniCPM5 от OpenBMB для локальных ассистентов, программных агентов и запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM с 2,2 млрд параметров по метаданным, 42 слоями и контекстом до 131 072 токенов. Модель предназначена для диалогов, генерации кода, математических рассуждений, работы с длинным контекстом и сценариев использования инструментов. Карточка сообщает о поддержке английского и китайского языков и описывает сильные результаты модели относительно других моделей сопоставимого размера; эти сравнительные оценки получены разработчиком. Модель принимает и генерирует текст. Весы опубликованы в формате safetensors, для запуска описана поддержка Transformers и локального развёртывания на CPU и GPU, а также серверных движков. Лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не являются экспертной рекомендацией.

Qwen_Qwen3-Coder-Next-GGUF — это квантизированная версия текстовой генеративной модели Qwen3-Coder-Next, разработанной Qwen. Квантизация выполнена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации и обработки текста, включая задачи, связанные с программированием, и может запускаться через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые приложения. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, благодаря чему можно выбирать между качеством ответа, размером файлов и требованиями к оперативной памяти. Размеры представленных файлов составляют примерно от 31,73 до 84,81 ГБ; некоторые варианты разделены на несколько частей. Наиболее качественными считаются Q8_0 и варианты Q6, а Q4_K_M указан как типовой компромисс между качеством и размером. Поддерживаемые модальности, языки, архитектура, количество параметров и размер контекста в README не указаны. Сильной стороной модели является возможность локального запуска и широкий выбор уровней квантизации, включая варианты, оптимизированные для различных аппаратных конфигураций. Ограничения связаны с большими требованиями к дисковому пространству и памяти, а также с потенциальным снижением качества у низкобитных вариантов; для недавно поддерживаемых моделей может потребоваться обновление используемого приложения. Модель распространяется по лицензии Apache-2.0.

GRaPE 2 Flash — мультимодальная модель семейства GRaPE, разработанная под брендом SLAI (Skinnertopia Lab for Artificial Intelligence). Это дообученная версия Qwen3-VL-8B-Thinking с архитектурой Qwen3-VL; в карточке указано около 9 млрд параметров. Модель принимает изображения и текст и формирует текстовые ответы. Она рассчитана на развертывание на потребительском оборудовании и предлагает режимы управления глубиной рассуждений. Основные сценарии — программирование, задачи по науке, технике, инженерии, искусству и математике, логические рассуждения и структурированное решение задач, в том числе с визуальными данными. Доступные языковые метки охватывают английский, китайский, французский, немецкий, испанский, японский, корейский, португальский, русский и арабский. Обучающие данные закрыты; в карточке нет результатов бенчмарков, поэтому качество на конкретных задачах следует проверять отдельно. Модель выпущена по лицензии Apache 2.0.

INTELLECT-3 — языковая модель Prime Intellect для рассуждений, дообученная на базе GLM-4.5-Air-Base с помощью supervised fine-tuning и масштабного обучения с подкреплением. Это модель архитектуры Mixture-of-Experts: в README указано 106 млрд параметров, из которых 12 млрд активируются; метаданные репозитория указывают 8,5 млрд параметров. Поддерживает контекст до 131 072 токенов и представлена в формате safetensors. Модель предназначена для генерации текста и диалогового применения, особенно для решения математических задач, программирования и многошаговых рассуждений. README сообщает о высоких результатах на тестах MATH-500, AIME, LiveCodeBench и GPQA. Указан интерфейс для использования инструментов при обслуживании через vLLM. В карточке перечислены английский язык и лицензия MIT. Размер параметров в README и метаданных расходится; при планировании развёртывания это следует учитывать.

Карточка модели Aregay01/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Llama-3.1-Nemotron-Nano-8B-v1 — языковая модель NVIDIA, опубликованная в репозитории Unsloth в формате Safetensors. Это плотный декодерный Transformer на архитектуре Llama 3.1, дообученный для рассуждений, диалогов, следования инструкциям, математики, программирования, RAG и вызова инструментов. В метаданных указано 7,5 млрд параметров, а контекстное окно составляет до 131 072 токенов. Модель принимает и генерирует текст. Она рассчитана прежде всего на английский язык и также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Режим рассуждений включается системным промптом; для локального запуска карточка указывает, что модель помещается на одну RTX GPU. Поддерживаются диалоговый режим и интерфейс вызова инструментов. Модель предназначена для чат-ботов, агентных систем, RAG-приложений и типовых задач по инструкциям. README заявляет коммерческую готовность, однако метаданные указывают лицензию «other» без конкретных условий в предоставленных сведениях; перед использованием следует сверить лицензионные условия исходной карточки. Результаты оценки зависят от режима рассуждений и формата промпта, а русская поддержка не заявлена.

sokada4/Qwen3.8-27B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия модели Qwen/Qwen3.8-27B, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 по схеме W4A16, с размером группы 128 и симметричным представлением. Модель предназначена для текстового вывода и рассчитана на локальное развертывание через vLLM, в том числе как OpenAI- или Anthropic-совместимый backend для Claude Code и Codex CLI. Это плотная языковая модель примерно на 27 млрд параметров с заявленным нативным контекстом до 262144 токенов. Квантизации подверглись только веса language_model; веса vision tower сохранены без изменений, однако данный checkpoint предназначен для text-only serving. Тензоры MTP, используемые для speculative decoding, также сохранены в формате bf16. Калибровка проводилась на англоязычных, китайских и японских текстах, а также на коде, поэтому модель ориентирована на многоязычные и программные сценарии, хотя точный языковой охват в README не указан. Ключевые преимущества — существенное снижение требований к памяти по сравнению с полноразмерной моделью, поддержка speculative decoding через MTP и совместимость с инструментальными вызовами в vLLM. Для комфортной работы с длинным контекстом и MTP рекомендуется конфигурация из двух GPU по 24 ГБ; на одной видеокарте 24 ГБ длину контекста придётся заметно уменьшить, а MTP использовать нецелесообразно. В README также отмечен повышенный риск некорректно сформированных tool calls по сравнению с облачными моделями, поэтому для автономных агентных сценариев рекомендуется проверка вызовов человеком. Модель распространяется по лицензии Apache-2.0.

InternScience/Agents-A1-F16-GGUF — вариант модели Agents-A1 от InternScience в формате GGUF F16. Это 35-миллиардная MoE-модель, дообученная для многошаговой работы в роли универсального агента: она разбивает сложные запросы на этапы, планирует действия и может использовать инструменты через интеграцию с внешней системой. Модель предназначена для длительного поиска, инженерных задач, научных исследований, следования инструкциям и ответов на профессиональные вопросы. Карточка базовой модели сообщает о поддержке вызова функций и интеграции с API, поисковыми системами и интерпретаторами кода. В опубликованных оценках Agents-A1 показала результаты на задачах агентного поиска, научных рассуждений и следования инструкциям; эти результаты относятся к базовой модели и не являются отдельной оценкой данного варианта GGUF F16. В README также описан контекст 262K для стандартной версии при запуске через SGLang, но это значение не подтверждено для данного GGUF-файла. Лицензия — Apache-2.0.

Карточка модели jinreiyu/cloned-Bonsai-27B-mlx-1bit на Hugging Face совпадает с карточкой prism-ml/Bonsai-27B-mlx-1bit, поэтому описание составлено по ней. Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP — мультимодальная версия Gemma 4, разработанная HauhauCS на основе Gemma 4 26B-A4B-it от Google DeepMind. Модель предназначена для агентного программирования, рассуждений, творческого письма, ролевого общения, диалогов и задач, где важны следование инструкциям и надежность. Вариант позиционируется как uncensored и оптимизирован для минимизации отказов при сохранении исходных возможностей базовой модели. Модель использует MoE-архитектуру размером 26B параметров: из 128 экспертов для каждого токена активны 8. Поддерживается контекст до 256K токенов, английский язык и обработка изображений через отдельный vision mmproj-компонент. Распространяется в формате GGUF с 4-битной квантизацией Q4_K_M; основной файл занимает около 16,8 ГБ, vision-компонент — 1,2 ГБ. В комплект входит MTP-драфтер для speculative decoding, который в тестах автора ускорял генерацию примерно на 35% без заявленного изменения качества. К сильным сторонам относятся большой контекст, поддержка изображений, высокая эффективность MoE и ориентация на программирование, рассуждения и творческие задачи. Работа MTP и заявленное ускорение проверялись автором в llama.cpp; модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-рантаймами. Ограничения включают зависимость vision-возможностей от отдельного mmproj-файла, возможные сбои Gemma 4 в LM Studio при multi-GPU tensor-split, а также то, что отсутствие отказов не гарантируется для всех пограничных запросов. Лицензия указана как Gemma. Для запуска рекомендуется использовать параметры temperature 0.6, top_k 64, top_p 0.9, min_p 0.05 и repeat_penalty 1.1.

GLM-5.3-Flash — разработанная Z.ai мультимодальная модель семейства GLM-5 для диалогов, анализа изображений, программирования и агентных сценариев. Это новая модель с гибридной архитектурой, сочетающей разреженное и линейное внимание; в README указаны 320 млрд общих параметров и 18 млрд активных параметров. Репозиторий содержит веса в формате safetensors FP8, а метаданные указывают библиотеку Transformers и лицензию MIT. Модель предназначена для ответов на вопросы по тексту и изображениям, помощи с кодом и выполнения многошаговых задач с инструментами. В README описано управление бюджетом рассуждений через reasoning_effort; также заявлены улучшения эффективности и работы с длинным контекстом. Указанные в карточке результаты контекстных оценок не подтверждают максимальную длину контекста для всех способов запуска. Языковые метаданные карточки перечисляют английский и китайский; независимых сведений о качестве на других языках нет.

QuantFactory/Llama-3-8b-64k-PoSE-GGUF — квантованная версия модели winglian/Llama-3-8b-64k-PoSE, созданная с помощью llama.cpp на основе Llama 3 8B, разработанной Meta. Модель предназначена для генерации текста и кода, включая задачи обработки длинных текстов, где требуется контекст до 64 тысяч токенов. Вход и выход — только текст; заявленный язык — английский. Это авторегрессионная языковая модель на оптимизированной архитектуре Transformer с 8 млрд параметров и Grouped-Query Attention. Исходная модель использует PoSE для расширения контекста Llama с 8k до 64k токенов при rope_theta 500000. После дополнительного обучения rope_theta был установлен в 2M, что потенциально позволяет работать с контекстом свыше 64k, однако фактические пределы и качество за пределами 64k не подтверждены. Для продолжительного предварительного обучения использовались 300 млн токенов RedPajama V1 с последовательностями длиной 6–8k и rank-stabilized LoRA ранга 256. Сильной стороной модели является поддержка значительно более длинного контекста по сравнению с исходной Llama 3 8B при сравнительно небольшом размере, а GGUF-квантизация рассчитана на использование с llama.cpp. Ограничения включают преимущественно англоязычную область применения, отсутствие мультимодальности и неопределённость качества на очень больших контекстах. Модель основана на Llama 3, для которой указана коммерческая лицензия Meta Llama 3; условия использования должны соответствовать этой лицензии и Acceptable Use Policy.

Nemotron-Research-Reasoning-Qwen-1.5B — языковая модель NVIDIA с открытыми весами, дообученная методом ProRL на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Это плотная модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для генерации текста и решения задач, требующих многошаговых рассуждений: математических задач, программирования, научных вопросов, логических головоломок и следования инструкциям. По данным карточки, она улучшила результаты базовой модели на ряде математических, кодовых и логических тестов. Модель работает с текстом; в метаданных указана поддержка английского языка. Карточка описывает её как модель для исследований и разработок. Распространяется по лицензии CC BY-NC 4.0, которая не допускает коммерческое использование.

Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Muse-Glimmer-30B-heretic — модифицированная версия мультимодальной модели Meta Muse-Glimmer-30B, подготовленная richardyoung с помощью воспроизводимого запуска Heretic. Это плотный трансформер с энкодером восприятия и примерно 29,6 млрд параметров: модель принимает текст и изображения и поддерживает диалог, управляемое рассуждение и вызов инструментов. Abliteration изменяет веса, ослабляя отказы модели без повторного обучения; в README указано, что выбран один из 200 вариантов с меньшим числом отказов при ограниченном отклонении от исходной модели. Модель предназначена для локальных агентов и сценариев, где нужно анализировать изображения вместе с текстом, планировать шаги, вызывать инструменты, писать и отлаживать код, создавать синтетические данные или оценивать ответы других моделей. Она может соглашаться на запросы, от которых исходная модель отказывается, поэтому ответы могут быть неточными, предвзятыми или нежелательными; многошаговое рассуждение ошибается, а качество на языках вне основного набора может снижаться. Видео не является целевой модальностью, аудио не поддерживается. Веса распространяются по Apache-2.0; README также указывает на политику использования исходной модели Meta, требования которой следует учитывать.

Qwen3-235B-A22B-abliterated — доработанная методом ablation модель Qwen3 от null-space на базе Qwen/Qwen3-235B-A22B. Из весов удалено доминирующее направление отказа, из-за чего модель значительно реже отклоняет запросы, сохраняя основные возможности исходной модели. Это разреженная MoE-модель для генерации диалогового текста, рассуждений, программирования, перевода и работы с инструментами; поддерживает режимы /think и /no_think. Архитектура — Qwen3MoeForCausalLM, формат весов — BF16, контекст — до 40 960 токенов. Метаданные указывают 18,2 млрд параметров, тогда как README описывает базовую модель как 235-миллиардную MoE-модель. Модель подходит для творческого письма, диалогов и исследований поведения отказов в языковых моделях, включая red-teaming и оценку безопасности. В приведённой оценке MMLU для FP8-варианта результат составил 86,2% против опубликованных 87,8% у базовой модели; это сравнение не является полной независимой оценкой всех возможностей. Удаление отказов означает, что модель может отвечать на запросы, которые исходная модель отклоняла, поэтому её ответы требуют соответствующего контроля. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-NVFP4 — квантованная и модифицированная версия модели Qwen/Qwen3.8-27B, разработанной командой Qwen компании Alibaba. Сборка johnnyeric предназначена для исследовательских задач, включая интерпретируемость, изучение механизмов отказа, red teaming, оценку устойчивости и контролируемые эксперименты. Она также поддерживает диалоговые сценарии, рассуждения, вызов инструментов и обработку изображений вместе с текстом. Модель содержит 27 млрд параметров и использует плотную гибридную архитектуру с 64 слоями: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв с полным вниманием. В состав входят vision-language модуль и MTP-голова для speculative decoding. Основные характеристики включают контекст до 262 тысяч токенов, поддержку английского и китайского языков, а также динамическую смешанную точность NVFP4 и FP8: большая часть feed-forward слоёв хранится в 4-битном NVFP4, а чувствительные к точности компоненты и KV-кэш — в FP8. Это позволяет снизить требования к памяти по сравнению с полноразмерной моделью при лучшем сохранении качества, чем при равномерном W4A4. Ключевое ограничение — удаление защитного направления отказа посредством abliteration: модель может выполнять вредоносные, незаконные и иные опасные запросы и практически не имеет встроенных защитных механизмов. Её не рекомендуется использовать напрямую в пользовательских или производственных системах без собственных средств модерации, безопасности и предотвращения злоупотреблений. Модель распространяется по лицензии Apache 2.0; применение также должно соответствовать законодательству и условиям лицензии базовой модели.

Ring-lite — лёгкая открытая языковая модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI на основе inclusionAI/Ling-lite-base-1.5. Модель предназначена для сложных задач рассуждения и генерирует текст в формате чата. В метаданных указаны 794,8 млн параметров, библиотека Transformers и контекст 32 768 токенов; README описывает вариант Ring-lite с 16,8 млрд общих и 2,75 млрд активных параметров и контекстом 128 тыс. токенов, поэтому эти характеристики могут относиться к разным версиям или представлениям модели. Модель обучалась с использованием дистилляции знаний и обучения с подкреплением. Она предлагает режимы с выводом рассуждений и без него; в README приведены результаты оценок по математике и программированию, включая AIME и LiveCodeBench. Указанные языки — китайский и английский. Модель распространяется по лицензии MIT.

DeepSeek-V2-Lite-XiaAi — объединённая модель для генерации текста, созданная автором карточки с помощью mergekit и метода TIES. В качестве основы использована DeepSeek-V2-Lite; в объединение также включена DeepSeek-Coder-V2-Lite-Instruct. Модель построена на архитектуре DeepSeek V2 и предназначена для диалогового взаимодействия и генерации текста. В карточке указаны 2,5 млрд параметров и контекстное окно до 163 840 токенов. Модель распространяется в формате safetensors и отмечена как поддерживающая чат. Лицензия в предоставленных данных не указана.

6block/Qwen3-30B-A3B-GGUF — это квантизированная GGUF-версия модели Qwen3-30B-A3B, разработанной командой Qwen и подготовленной пользователем 6block. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, IQ3_M и Q2_K с размером файлов примерно от 11,26 до 32,48 ГБ, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Квантизация выполнена с использованием imatrix и двуязычного англо-китайского набора данных с большим количеством программного кода, поэтому младшие варианты квантования должны лучше сохранять способности к работе с китайским языком и кодом по сравнению с калибровкой только на английских данных. Заявлены английский и китайский языки; другие модальности, размер контекста и точная архитектура в README не указаны. Модель ориентирована на локальные сценарии текстовой генерации и программирования, но низкобитные варианты могут заметно уступать по качеству более крупным квантам. Распространяется по лицензии Apache-2.0.