II.3Рефакторинг, миграция и модернизация

Карточка модели imtoolonley/Gemma-4-12B-it-qat-JANG_4M-CRACK на Hugging Face совпадает с карточкой Ishowbackup/Gemma-4-12B-it-qat-JANG_4M-CRACK, поэтому описание составлено по ней. Gemma 4 12B JANG4M CRACK — мультимодальная модель на основе Google Gemma 4 12B IT, опубликованная dealignai. Это дообученная и квантизованная версия с плотной унифицированной архитектурой для обработки текста и изображений; в README также заявлена поддержка аудиовхода. Модель предназначена для диалогов, ответов на вопросы, многошаговых рассуждений, генерации кода и работы с визуальными входами. Квантизация JANG_4M использует 8-битные веса для attention и 4-битные для MLP. Авторы сообщают о сохранении возможностей базовой модели, включая vision и audio, и приводят результаты собственных проверок MMLU и HarmBench. Метаданные указывают библиотеку MLX и формат safetensors; для запуска README требует Apple Silicon и vMLX с поддержкой Gemma 4. Модель описана как abliterated: авторы заявляют об удалении отказов и высокой доле выполнения запросов из категорий HarmBench. Это важное ограничение для сценариев, где требуется безопасное ограничение ответов. Лицензия — Gemma; авторы указывают исследовательское назначение и возлагают на пользователей ответственность за соблюдение применимых законов.

martyn/llama2-megamerge-dare-13b-v2 — слитая модель на архитектуре LLaMA 2, созданная объединением 17 моделей на 13 млрд параметров с помощью DARE. В состав входят базовая LLaMA 2 13B и модели для генерации кода и Python, математики, диалогов и следования инструкциям; автор отмечает, что модель, по-видимому, обобщает разные стили инструкций. Модель предназначена для генерации текста в ответ на запросы, включая диалоговые ответы, код и математические рассуждения. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной 4096 токенов. Репозиторий содержит веса в формате safetensors. Для использования действует лицензия Llama 2. README указывает, что параметры p и lambda выбраны предположительно; качество и поведение объединённой модели отдельно не охарактеризованы, поэтому результаты стоит проверять на целевых задачах.

QuantFactory/Llama-3.1-8B-Instruct-Fei-v1-Uncensored-GGUF — это квантизированная версия модели Llama-3.1-8B-Instruct-Fei-v1-Uncensored, созданная с использованием llama.cpp. Базовая модель разработана на основе Llama 3.1 от Meta, а исходную модификацию подготовил пользователь aifeifei799. Модель предназначена для генерации текста, диалоговых помощников и других задач обработки естественного языка, включая работу с кодом. Это текстовая авторегрессионная модель с оптимизированной архитектурой Transformer и Grouped-Query Attention (GQA), содержащая 8B параметров. Она поддерживает ввод текста и генерирует текст или код, имеет контекст до 128k токенов и рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Квантизация в формате GGUF предназначена для более эффективного запуска, в том числе через llama.cpp, однако README не указывает конкретный тип квантизации, требования к памяти или характеристики производительности. Версия обозначена как uncensored, поэтому её поведение в части отказов и защитных ограничений может отличаться от стандартной instruction-tuned модели Meta; ответы по-прежнему могут быть неточными или небезопасными. Использование регулируется кастомной коммерческой лицензией Llama 3.1 Community License и связанными ограничениями Acceptable Use Policy.

QuantFactory/Llama-3-Open-Ko-8B-GGUF — квантованная версия модели Llama-3-Open-Ko-8B, созданная с использованием llama.cpp. Базовую модель разработал Junbum Lee (Beomi) на основе Meta Llama 3; она представляет собой продолжительно предобученную авторегрессионную языковую модель с оптимизированной архитектурой Transformer. Модель предназначена для генерации текста и кода, а также для адаптации под различные задачи обработки естественного языка, включая дообучение специализированных и диалоговых моделей. Она принимает только текст и генерирует текст или код. Модель ориентирована прежде всего на английский и корейский языки; для обучения использовались более 17,7 млрд токенов и свыше 60 ГБ дедуплицированных общедоступных текстов. Размер модели — 8B параметров, контекст — до 8 тысяч токенов, поддерживается Grouped-Query Attention (GQA), дата отсечения знаний — июнь 2023 года. К сильным сторонам относятся адаптация Llama 3 к корейскому языку, открытые данные обучения и доступность в квантованном формате, потенциально снижающем требования к ресурсам при локальном запуске. Ограничения заключаются в том, что это статическая офлайн-модель без встроенного обновления знаний и базовая предобученная версия, а не готовая instruction-tuned модель; для диалоговых сценариев и соблюдения требований безопасности может потребоваться дополнительное дообучение и внешние защитные механизмы. Использование регулируется лицензией Llama 3 и соответствующей Acceptable Use Policy; необходимо соблюдать их ограничения и применимое законодательство.

Карточка модели mattshumer/Meta-Llama-3-8B-Instruct-LongTest на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Карточка модели median-group/Meta-Llama-3-8B-logits на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Эта версия принимает текст и генерирует текст, в том числе код; карточка репозитория описывает предварительно обученные и настроенные варианты семейства, но не уточняет, какой именно вариант представлен в этом репозитории. Модель предназначена для генерации текста на английском языке. Предварительно обученную версию можно адаптировать для разных задач генерации естественного языка, а настроенные варианты предназначены для диалоговых сценариев. Архитектура основана на оптимизированном Transformer и использует Grouped-Query Attention; размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель подходит для создания разговорных помощников, генерации и продолжения текста и кода. Результаты требуют проверки, а для приложения следует настроить дополнительные меры безопасности под конкретную аудиторию и сценарий. Лицензия — специальная коммерческая лицензия Meta Llama 3 с условиями использования и ограничениями; перед внедрением необходимо ознакомиться с её текстом и Acceptable Use Policy.

Это GGUF-квантизированная версия Devstral-Small-2505, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. README не уточняет её специализированные сценарии применения, однако формат и базовая модель ориентированы на работу с текстовыми запросами и, вероятно, задачами разработки, соответствующими семейству Devstral. Доступны варианты от BF16 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 11,47 до 47,15 ГБ. Указаны языки: английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других. README не содержит сведений о числе параметров, архитектуре, размере контекста или точных характеристиках качества. Для vision предусмотрен файл mmproj от Mistral Small 3.1, но эта поддержка неофициальна и может работать неидеально. Сильными сторонами являются широкий выбор квантизаций для разного объёма памяти и возможность локального запуска; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как подходящий вариант по умолчанию. Ограничениями являются значительные требования к дисковому пространству и памяти, а также возможное снижение качества в компактных вариантах. Модель распространяется по лицензии Apache-2.0.

Это неизменённая копия Muse-Glimmer-30B от Meta, размещённая Positron AI как закреплённый снимок исходного репозитория для сборки и тестирования в CI. Веса, токенизатор и конфигурация побайтово совпадают с указанной ревизией upstream; изменений Positron AI нет. Базовая модель — плотная мультимодальная модель семейства Muse-Glimmer примерно на 29,6 млрд параметров, предназначенная для диалогов и локальных агентных задач, включая работу с инструментами, программирование и анализ изображений. Для этой копии не приведены отдельные оценки качества или подробные инструкции по использованию; назначение и оценки отсылаются к карточке базовой модели. Репозиторий содержит веса Safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

Mythos-9B Merged — это объединённая языковая модель на 9 млрд параметров, разработанная на основе King3Djbl/mythos-9b-merged и квантованная mradermacher в формате GGUF. Модель предназначена для генерации текста на английском языке, ролевых сценариев, задач программирования, работы с инструментами и function calling, а также агентских сценариев. В метаданных также заявлены поддержка shell-взаимодействия и запуск через llama.cpp, LM Studio и Ollama. В репозитории представлены варианты i1-квантования с imatrix в диапазоне примерно от 2,2 до 6,8 ГБ, включая IQ и Q-форматы. Это позволяет выбирать компромисс между размером, скоростью и качеством; в README вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Для некоторых вариантов явно указано снижение качества, особенно у наиболее компактных квантов. Сведения о точной архитектуре, размере контекстного окна, мультимодальности и дополнительных языках отсутствуют; заявлен только английский язык. Модель распространяется по лицензии Apache-2.0.

NinjaMouse2-2.5B-v0.1 — разговорная языковая модель, созданная автором trollek на основе h2oai/h2o-danube2-1.8b-chat. Это плотная авторегрессионная модель семейства Mistral с 2,4 млрд параметров и контекстом до 8192 токенов; исходные 24 слоя расширены, а обучение включало дообучение вставленных блоков и последующую настройку на инструктивных и диалоговых данных. Модель предназначена для диалогов и генерации ответов на инструкции, включая задачи по математике, коду и вызову инструментов. Для подготовки данных использовались примеры из нескольких англоязычных диалоговых, математических и программных наборов, а также ответы более крупных моделей. Репозиторий содержит веса в формате safetensors; README также описывает отдельные квантизированные варианты для запуска через Ollama и LM Studio. Модель рассчитана прежде всего на английский язык. README предупреждает, что специальные токены FIM и thought не входили в обучение. Лицензия — Apache-2.0. Качество и соответствие инструкциям могут различаться; карточка не приводит результатов независимой оценки.

Olmo Hybrid 7B — открытая авторегрессионная языковая модель семейства OLMo, разработанная Allen Institute for AI (Ai2). Модель содержит около 6,3 млрд параметров и использует гибридную архитектуру: 75% слоёв основаны на gated DeltaNet, остальные — на многоголовом внимании. Она рассчитана на генерацию текста и поддерживает контекст до 65 536 токенов. Модель предназначена для продолжения текста, ответов на вопросы, рассуждений и генерации кода. По заявлению разработчиков, она эффективнее использует данные при предобучении, показывает улучшения на длинном контексте и снижает затраты памяти и повышает пропускную способность при инференсе на длинных последовательностях. Основной язык — английский. Модель предобучена на Dolma 3 и относится к базовым моделям OLMo Hybrid; карточка также описывает отдельные версии Think и Instruct, но этот репозиторий обозначен как Olmo Hybrid 7B. Веса доступны в формате safetensors и поддерживаются Transformers версии 5.3.0 или выше. Лицензия — Apache 2.0; разработчики рекомендуют учитывать правила ответственного использования Ai2. Модель может выдавать фактические ошибки и предвзятые или вредоносные ответы, поэтому результаты следует проверять.

DavidAU/Qwen3-24B-A4B-Freedom-Thinking-Abliterated-Heretic-NEO-Imatrix-GGUF — текстовая генеративная модель на базе Qwen3, созданная DavidAU как смесь шести моделей-экспертов размером 4B параметров. В состав входят варианты Jan v1, Apollo, а также дистилляции моделей Claude, Gemini и Polaris. Каждый эксперт был модифицирован методом Heretic для снижения числа отказов и ограничений на генерацию. Модель имеет архитектуру Dense Mixture of Experts: по умолчанию активен один эксперт, но можно задействовать до шести, что соответствует заявленным уровням мощности от 4B до 24B параметров. Заявленный размер контекста — 256K токенов; поддерживается английский язык и формат GGUF с различными квантованиями. Модель предназначена для широкого спектра задач: ответов на вопросы, программирования, математики, обучения, рассуждений, написания художественных текстов, ролевых сценариев, генерации сюжетов и сцен, а также создания контента с выраженной тематикой, включая хоррор, ненормативную лексику и эротические материалы. Это полнофункциональная reasoning-модель, ориентированная на следование подробным инструкциям и формирование компактного, но детального плана рассуждений. По заявлению автора, она может запускаться на GPU и CPU, а увеличение числа активных экспертов повышает вычислительную нагрузку и потенциальную мощность. К сильным сторонам относятся большой контекст, гибкое масштабирование числа активных экспертов, поддержка рассуждений и широкий диапазон сценариев использования. Ограничения включают преимущественно заявленный автором, а не независимо подтверждённый характер характеристик, необходимость более явно задавать желаемый уровень грубости или откровенности и возможные риски, связанные с нецензурированным содержанием. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-Genesis-Final-NVFP4-GGUF — квантизированная в формате NVFP4 GGUF версия модели LuffyTheFox. NVFP4-квантизацию и интеграцию MTP выполнил jan1k; базовая модель разработана HauhauCS. Модель распространяется по лицензии Apache-2.0. Это мультимодальная модель для генерации текста и работы с изображениями, ориентированная на диалоговые сценарии, программирование, точные задачи, творческое взаимодействие и roleplay. Заявлена поддержка английского, китайского и других языков. Для обработки изображений требуется дополнительный файл mmproj-Hermes3.6-35B-A3B-Uncensored-Genesis-F16.gguf. Модель предназначена для запуска через llama.cpp и поддерживает контекст до 128K токенов. Архитектура — Mixture of Experts: около 35 млрд общих параметров, примерно 3 млрд активных на токен, 8 маршрутизируемых экспертов и 1 общий эксперт. Доступен вариант с MTP для speculative decoding, способный ускорять генерацию. К сильным сторонам относятся сравнительно низкая вычислительная нагрузка на токен, поддержка reasoning и мультимодальности, а также оптимизация для GPU NVIDIA Ampere, Ada Lovelace и Blackwell. Ограничения включают зависимость от совместимого программного обеспечения и оборудования, необходимость отдельного vision-проектора для изображений и отсутствие в карточке независимых бенчмарков качества.

Qwen3.8-27B-Continuum — экспериментальная мультимодальная модель на архитектуре Qwen3.5, созданная независимой лабораторией NightmediaAI. Это слияние моделей nightmedia/Qwen3.8-27B-Brainwaves и migtissera/Synthia-4-27B; метаданные также связывают её с несколькими другими слитыми моделями. Репозиторий содержит веса Safetensors и предназначен для диалогов и следования инструкциям с поддержкой изображений. Модель подходит для общения, анализа изображений, рассуждений, математики, программирования и творческого письма, включая продолжение сцен и создание историй. В карточке приведены оценки на ряде бенчмарков и показатели скорости, памяти и перплексии для нескольких вариантов квантования, однако сам репозиторий указан в формате Safetensors. Поддерживаемые языки по метаданным: английский, китайский, японский и испанский. Лицензия — Apache-2.0.

Qwen3-8B-Abliterated — доработанная Richard Young (DeepNeuro) версия Qwen/Qwen3-8B, созданная методом abliteration. В плотной архитектуре Qwen3 изменены средние слои 15–30, чтобы ослабить отказы модели на запросы; указанный масштаб абляции — 1.0. Модель предназначена для диалоговой генерации текста, следования инструкциям, рассуждений, работы с кодом и вызова инструментов. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В карточке указана библиотека Transformers и формат safetensors. Базовая Qwen3-8B описана как многоязычная, однако конкретный перечень поддерживаемых языков для этой версии не приведён. Снижение числа отказов означает ослабление защитных ограничений и требует внимательного выбора сценариев применения. Модель выпущена по лицензии Apache-2.0; автор предупреждает, что защитные механизмы частично удалены, и возлагает ответственность за этичное использование на пользователей.

dippitydoodle/Qwen3-8B-heretic — декензурированная версия Qwen3-8B, созданная с помощью Heretic v1.4.0. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров с архитектурой Qwen3ForCausalLM; веса представлены в формате safetensors. Модель предназначена для диалоговой генерации текста и задач, в которых требуется меньше отказов на запросы: в карточке указано 15 отказов из 100 против 100 из 100 у исходной модели. Модель унаследовала от Qwen3 поддержку диалога, рассуждений, следования инструкциям, программирования, перевода и более чем 100 языков и диалектов. Метаданные указывают контекст до 40 960 токенов. README сообщает о KL-дивергенции 0,0577 относительно оригинала; это показывает, что изменение поведения сопровождается некоторым отклонением от исходной модели. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-DERISKED-MTPLX-Optimized-Speed — локальная модель генерации текста, разработанная на основе чекпойнта Blackfrost-AI/Qwen3.8-Flash-Next-DERISKED-BF16 и адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Она предназначена для чата, генерации текста и кода, локального использования, а также контролируемых исследований безопасности и red-team-оценки. Модель не является безопасным production-чекпойнтом: её поведение и поверхность отказов были изменены на уровне весов для операторских исследований. Это квантованная версия архитектуры Qwen 3.8 Flash-Next с гибридной MoE-архитектурой GDN, Qwen Sparse Attention, памятью n-gram на 51 млрд параметров и встроенной головой multi-token prediction. Основная часть экспертов и плотных матриц представлена в 4-битном формате, отдельные компоненты внимания, маршрутизации, эмбеддинги и выходная голова — в 8-битном, а ряд рекуррентных и нормализующих параметров сохраняет 16-битную точность. Модель поддерживает текстовые и визуальные веса, имеет контекстное окно 262 144 токена, адаптивную глубину MTP до трёх токенов и требует около 115,3 ГБ для загрузки. Для работы рекомендуется Apple Silicon Mac с unified memory от 96 ГБ; таблица n-gram объёмом 32 ГБ по умолчанию размещается на SSD. Сильные стороны модели — оптимизация под Apple Silicon, сохранение повышенной точности в ключевых компонентах внимания и ускорение спекулятивной генерации: на M5 Max заявлены 66,2 токена в секунду против 46,6 токена в секунду в авторегрессионном режиме. Ограничения включают высокие требования к памяти и дисковому пространству, зависимость от MTPLX и отсутствие встроенной системы авторизации или полноценной границы безопасности. Рекомендуется использовать аутентифицированные точки доступа, отдельное журналирование запросов и инструментов, минимальные привилегии, песочницы и ручное подтверждение необратимых действий. Указана лицензия qwen-community-1.0 с типом license other; ссылка ведёт на файл LICENSE. Модель наследует статус и ограничения базового DERISKED-чекпойнта Blackfrost-AI.

QWQ-EVA-Preview-SLERP-32b — языковая модель на 32 млрд параметров, созданная слиянием ParasiticRogue/EVA-Instruct-32B-v2 и Qwen/QwQ-32B-Preview методом SLERP с помощью mergekit. Она предназначена для диалоговой генерации текста; базовые модели также ориентированы на математические рассуждения и программирование, поэтому модель может быть полезна в таких сценариях, однако README не приводит отдельных оценок её возможностей. Модель построена на архитектуре Qwen2ForCausalLM, принимает текст и выдаёт текст, поддерживает контекст до 131072 токенов и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0.

Rhea-72b-v0.5 — языковая модель, разработанная David Kim в рамках проекта Rhea. Это дообученная версия abacusai/Smaug-72B-v0.1: автор использовал SFT на открытых наборах данных и DPO с данными предпочтений, частично созданными методом SGD. Модель занимает 71 млрд параметров, построена на плотной архитектуре Llama и предназначена для генерации текста. Она принимает контекст до 32 768 токенов и работает с текстом на английском языке. Модель подходит для диалоговых ответов, рассуждений, вопросов и ответов, а также текстовых задач, представленных в обучающих наборах, включая математику, код и отдельные медицинские и финансовые примеры. В README приведены результаты Open LLM Leaderboard, включая среднее значение 81,22, но эти показатели относятся к указанной автором оценке и не гарантируют качество в конкретном применении. Часть обучающих данных закрыта или недоступна; независимые ограничения качества в карточке не описаны. Лицензия — Apache-2.0.

Ring-mini-sparse-2.0-exp — экспериментальная языковая модель компании InclusionAI для генерации текста и диалогов. Она основана на Ling-mini-base-2.0 и продолжила обучение на дополнительных 100 млрд токенов. В модели сочетаются архитектура Mixture of Block Attention (MoBA) и разреженная Mixture-of-Experts (MoE); для инференса предусмотрена библиотека Transformers, а также поддержка SGLang. Модель рассчитана на рассуждения и работу с длинными входами и ответами: README сообщает о контексте до 128 тыс. токенов благодаря расширению окна YaRN в 4 раза. При декодировании с контекстом 64 тыс. токенов активируются 8 192 KV-токена на запрос; авторы заявляют о снижении нагрузки на чтение KV-кэша и ускорении генерации в сравнении с Ring-mini-2.0. Модель оценивалась на задачах математики, программирования и естественных наук, но опубликованный фрагмент карточки не содержит численных результатов. Размер модели по метаданным — 1,2 млрд параметров, родительская архитектура — Bailing MoE. Модель предназначена для текста и заявлена с поддержкой английского языка. Лицензия — MIT. Суффикс exp и исследовательские оценки указывают на экспериментальный характер; результаты и скорость могут зависеть от оборудования и используемой реализации.

RWKV7-G1i-13.3B-20260805 — базовая языковая модель семейства RWKV-7, разработанная Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang и Zhiyuan Li при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель с архитектурой RWKV7ForCausalLM; метаданные указывают 14,6 млрд параметров, а карточка README — 13,3 млрд. Модель обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях; в репозитории указаны веса safetensors и интерфейсный шаблон чата. RWKV-7 использует рекуррентное состояние постоянного размера и постоянную вычислительную работу на генерируемый токен, сохраняя возможность параллельного обучения. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения; поддерживает английский, китайский, японский, корейский, французский, арабский, испанский и португальский языки. Метаданные задают контекст 2048 токенов, тогда как название файла в README содержит обозначение ctx16384, поэтому фактическую длину контекста следует сверить с используемой конфигурацией. Модель распространяется по лицензии Apache-2.0. README прямо предупреждает, что базовый чекпойнт не является выровненным по безопасности ассистентом: шаблон чата служит интерфейсом для подачи запросов и сам по себе не гарантирует безопасное поведение.

SentinelLM — плотная авторегрессионная языковая модель семейства Sentinel, представленная в репозитории dusersad12. Карточка описывает обновлённую версию, обученную с дополнительными вычислительными ресурсами и алгоритмической оптимизацией на этапе постобучения. Модель предназначена для генерации текста и диалогов, включая сложные задачи рассуждения, математику, программирование и логику; также заявлена поддержка вызова функций. В README сообщается об улучшении результата на AIME 2024 с 64% до 83,3% и о снижении галлюцинаций относительно предыдущей версии. Для вопросов AIME указано среднее рассуждение объёмом около 19 тысяч токенов. Модель доступна в формате PyTorch для Transformers и распространяется по лицензии Apache-2.0. Длина контекста и поддерживаемые естественные языки в предоставленных данных не обозначены.

Ternary-Bonsai-2-27B-ConstantKV — дообученная модель tfwnotops на базе Ternary-Bonsai-2-27B-Crystal для генерации текста и диалогов с постоянным объёмом состояния внимания при длинном контексте. В основе — плотная гибридная архитектура семейства prism_hadamard_qwen35 с весами Qwen3.8-27B в троичном представлении; карточка описывает 16 слоёв полного внимания и механизм, сочетающий точное окно последних 1 024 токенов, свёрнутое состояние для дальнего контекста и хранилище точных ключей и значений размером до 8 192 токенов на KV-голову. Модель доступна в формате safetensors и использует библиотеку MLX. Модель рассчитана на локальную генерацию и ответы по длинным документам, а также на дополнение кода. По данным карточки, объём состояния внимания остаётся около 1,18 ГиБ независимо от длины контекста; заявлен запуск на Mac mini M4 с 16 ГБ памяти при контексте до 32 тыс. токенов. Карточка также указывает интерфейс вызова инструментов и повторное использование ранее вычисленных ответов через карту .mrail. Указанные измерения и возможности приведены авторами карточки; независимая проверка здесь не проводилась. Лицензия — Apache-2.0. Карточка не сообщает о специальной языковой или предметной специализации, поэтому модель следует считать общей текстовой моделью; конкретная поддержка языков отдельно не заявлена.

Карточка модели CollectionStudio/Trinity-Nano-Preview на Hugging Face совпадает с карточкой arcee-ai/Trinity-Nano-Preview, поэтому описание составлено по ней. Trinity Nano Preview — экспериментальная чат-модель семейства Trinity от Arcee AI, созданная дообучением Trinity-Nano-Base. В README она описана как разреженная MoE-модель с архитектурой AfmoeForCausalLM, 6 млрд параметров и примерно 1 млрд активных параметров; метаданные указывают 880,3 млн параметров. Поддерживает контекст до 131 072 токенов и работает с текстом на нескольких языках. Модель предназначена для диалогов и генерации текста. Разработчики описывают её как открытую по весам модель для предприятий и энтузиастов, обученную на 10 трлн токенов с дополнительным акцентом на математике и коде. README предупреждает, что в этой предварительной экспериментальной версии возможна нестабильность в отдельных сценариях. Указанная в README лицензия — OpenMDW-1.1; метаданные Hugging Face обозначают её как other.

Tulu V2.5 PPO 13B — англоязычная диалоговая модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на основе Tulu 2 с применением PPO и данных предпочтений UltraFeedback; для обучения использовалась reward-модель на 70 млрд параметров и смесь промптов. Контекст модели — до 4096 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате: её можно применять для вопросов и ответов, помощи с кодом и математическими задачами. В карточке указан шаблон чата с сообщением пользователя между маркерами начала и конца, а токенизатор содержит соответствующий chat template. Модель поддерживает английский язык и распространяется по лицензии Apache 2.0. В карточке отмечено, что модель не обучали выдавать безопасные ответы на этапе RLHF и не снабдили фильтрацией ответов во время работы, поэтому она может генерировать проблемный контент, особенно при соответствующих запросах.

PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

Causal language model с архитектурой семейства Qwen2, опубликованная на Hugging Face под идентификатором codex176743/cedar-lantern-p4. Модель предназначена для генерации текста и совместима с библиотекой Transformers; для хранения весов используется формат safetensors.

DeepSeek-R1-0528-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-0528, разработанной deepseek-ai и преобразованной в формат GGUF участником bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 215 до 713 ГБ для представленных файлов. Квантизация выполнена с применением imatrix и специального набора данных; для повышения производительности использовались изменения из соответствующего PR для llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста исходной модели. Сильной стороной набора является широкий выбор уровней квантизации: более высокие варианты обеспечивают качество, близкое к исходному, а более компактные позволяют экономить оперативную память. Ограничения связаны с очень большими требованиями к дисковому пространству и памяти, а также с неизбежным снижением качества у низкобитных вариантов. Для работы следует использовать указанный формат промпта с маркерами DeepSeek-R1. Модель распространяется по лицензии MIT.

DeepSeek-R1-Distill-Qwen-7B — языковая модель на 7,1 млрд параметров, разработанная DeepSeek и дообученная на Qwen2.5-Math-7B с использованием примеров рассуждений, созданных DeepSeek-R1. Она предназначена для генерации текста и диалогов с акцентом на решение математических задач, программирование и другие задачи, требующие многошагового рассуждения. Модель использует плотную архитектуру Qwen2 и принимает текст, выдавая текст. Контекстное окно составляет 131 072 токена. В README указана максимальная длина генерации 32 768 токенов для описанных оценок. Модель поддерживает чат; метаданные также отмечают интерфейс вызова инструментов, но README не описывает его применение. Модель компактнее исходного DeepSeek-R1 и показывает сильные результаты в приведённых бенчмарках для дистиллированных моделей. Это не универсальная гарантия качества: ответы могут содержать ошибки, а рекомендации по настройке следует сверять с полной карточкой модели. Лицензия — MIT.

nsd12/deepseek-v4-gguf — это квантованная версия языковой модели DeepSeek-V4-Flash в формате GGUF, подготовленная antirez на базе модели DeepSeek. Модель предназначена для генерации текста и запуска локального вывода через inference engine ds4, с оптимизацией для систем Apple Silicon и Metal. В метаданных указан английский язык. Модель использует архитектуру Mixture of Experts (MoE). Доступны варианты с квантованием экспертных блоков до 2-битного уровня (IQ2_XXS и Q2_K) размером около 80,8 GiB и до 4-битного уровня Q4_K размером около 153,3 GiB. Остальные компоненты, включая внимание, общих экспертов и выходной слой, в основном сохраняются в Q8_0, F16 или F32 для снижения потерь качества. Отдельный файл MTP размером 3,6 GiB предназначен для опционального speculative decoding и не является самостоятельной моделью. Вариант q2 рассчитан на компьютеры с 128 ГБ оперативной памяти, а q4 — на системы с не менее чем 256 ГБ RAM. Ключевое ограничение — квантизации специфичны для inference engine ds4 и могут быть несовместимы с другими загрузчиками; MTP требует специальной поддержки. В примере запуска ds4 используется контекст до 100000 токенов, однако собственный максимальный контекст модели в README не указан. GGUF-файлы распространяются по лицензии MIT, при этом базовая модель принадлежит DeepSeek и распространяется с условиями её релиза.