II.3Рефакторинг, миграция и модернизация

Это конвертированная версия разговорной модели Dolphin 2.6 на архитектуре Phi-2. Модель предназначена для генерации текста в диалогах и ответов на инструкции. В карточке указаны форматы PyTorch, Safetensors и GGUF, а максимальный контекст составляет 2048 токенов. Модель ориентирована на английский язык и обучена на смесях диалоговых и инструктивных наборов данных, включая Dolphin, Airoboros, OpenHermes и Magicoder. Лицензия обозначена как other, поэтому условия использования следует уточнить в исходной карточке.

GRM-1.5b — компактная языковая модель общего назначения, разработанная OrionLLM и дообученная на базе Qwen/Qwen2.5-1.5B-Instruct для многоэтапных рассуждений. Модель предназначена для решения задач по математике, логике, программированию и широкому кругу вопросов; её также предлагают использовать как основу для дальнейшего дообучения. В обучающую смесь, согласно карточке, включены некоторые данные для медицинских рассуждений. Модель имеет плотную архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она принимает текст и генерирует текст; доступна в формате safetensors для Transformers. В карточке приведены результаты на математических, научных и программных бенчмарках, но они сами по себе не гарантируют качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. Её небольшой размер удобен для локального запуска и экспериментов, однако, как компактная модель, она может уступать более крупным моделям в сложных задачах и требует проверки ответов, особенно в медицинских сценариях.

winglian публикует вариант Meta Llama 3 8B с контекстным окном до 1 048 576 токенов. Это авторегрессионная плотная языковая модель на архитектуре Transformer с Grouped-Query Attention, предназначенная для генерации текста и кода. Она принимает текст и может использоваться для продолжения текста, диалоговых сценариев и адаптации к различным задачам генерации естественного языка. В карточке указано семейство Llama 3, но не описаны конкретные изменения PoSE или способ обучения этого чекпойнта. Поэтому его происхождение относительно исходной модели нельзя уверенно определить. README описывает Llama 3 как модель для коммерческого и исследовательского применения на английском языке; лицензия — пользовательская коммерческая лицензия Meta Llama 3. Ограничения включают ориентацию на английский язык и необходимость отдельно настраивать меры безопасности для конкретного приложения.

TroyDoesAI/Mermaid-Flow-MoE-Expert2 — текстовая модель генерации на архитектуре Llama с 10,6 млрд параметров. Она создана слиянием методом SLERP моделей TroyDoesAI/Mermaid-Solar и TroyDoesAI/Mermaid_PythonCoder; в конфигурации указана базовая модель TroyDoesAI/Mermaid-Solar. Модель предназначена для генерации текста по запросу и объединяет возможности исходных моделей, одна из которых ориентирована на код Python и Mermaid. Модель принимает текст и выдаёт текст. Нативное окно контекста составляет 4096 токенов. Репозиторий содержит веса Safetensors, для работы указана библиотека Transformers. Данных о конкретном качестве, поддерживаемых языках и лицензии в доступных источниках нет.

MiniCPM5-2B-RotSVDMix — это сжатая и квантизованная версия языковой модели openbmb/MiniCPM5-2B, опубликованная ewin-reg. Модель предназначена для генерации текста, диалоговых сценариев, написания и анализа кода, суммаризации и запуска на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Поддерживаются английский и китайский языки; модель относится к текстовым causal language models и поставляется в формате SafeTensors. Модель содержит около 2 миллиардов параметров и основана на 42 слоях трансформера. Благодаря сочетанию ортогонального вращения, низкорангового SVD и квантизации ExTernD она занимает 1 985 213 632 байта, то есть менее 2 ГБ. Заявлена совместимость с PyTorch, Hugging Face Transformers, vLLM и TGI без необходимости компиляции специализированного C++-рантайма. Длина контекста в README не указана. На тестовой выборке WikiText-2 модель показала perplexity 20,92 против 20,46 у базовой FP16-версии, что соответствует ухудшению примерно на 2,25%. Косинусное сходство логитов с базовой моделью составило 98,70%, совпадение наиболее вероятного токена — 96%, а пересечение пяти наиболее вероятных токенов — 100% на ограниченном наборе из 25 промптов. Эти результаты указывают на хорошее сохранение поведения исходной модели при существенном уменьшении размера, однако качество может зависеть от задачи, языка и входных данных; заявленные измерения не заменяют полноценную оценку прикладных сценариев. Модель распространяется по лицензии Apache 2.0.

OpenThinker3-7B-F32-GGUF — текстовая модель рассуждений на 7 млрд параметров, опубликованная prithivMLmods в формате GGUF. Это вариант OpenThinker3-7B, дообученной на наборе OpenThoughts3-1.2M методом SFT; каталог указывает семейство архитектуры Qwen2. Модель предназначена для генерации ответов и диалогового использования, в частности для математических, программных и научных задач. Файлы доступны в точностях F32, F16 и BF16; README рекомендует запускать их через llama.cpp или совместимые движки. Карточка заявляет улучшение относительно предыдущих версий OpenThinker и высокие результаты среди моделей рассуждений класса 7B, однако независимые условия и метрики сравнения не приведены. Модель принимает текст и генерирует текст, поддерживаемый язык по карточке — английский. Лицензия — Apache-2.0.

bartowski/Qwen1.5-7B-Chat-GGUF — это набор квантизированных GGUF-версий диалоговой модели Qwen1.5-7B-Chat, разработанной командой Qwen. Квантизация выполнена bartowski с использованием llama.cpp, релиз b2440. Модель предназначена для генерации текста и чат-сценариев, включая локальный запуск через совместимое программное обеспечение на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2_K размером примерно от 8,21 до 3,10 ГБ. Q6_K отмечен как рекомендуемый вариант с качеством, близким к исходному; Q5_K_M и Q5_K_S предлагают высокое качество при меньшем размере, а варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. В метаданных указан английский язык; сведения о других языках, модальностях и размере контекста отсутствуют. Лицензия обозначена как tongyi-qianwen; подробные условия доступны по ссылке на лицензию исходной модели.

tvall43/Qwen3.5-14B-A3B-Claude-4.6-Opus-Reasoning-Distilled-reap-gguf — GGUF-версия экспериментальной текстовой reasoning-модели, разработанной tvall43 на базе Qwen3.5 и дообученной с использованием дистилляции цепочек рассуждений, связанных с Claude-4.6 Opus. Модель предназначена для офлайн-аналитики, программирования, математики, планирования и других задач, где важны пошаговое решение и структурированный анализ. Она обучалась в формате с блоками <think> и итоговым ответом, однако README не гарантирует, что внутренние рассуждения всегда будут корректно или безопасно отображаться пользователю. В описании указана MoE-архитектура Qwen3.5 с конфигурацией 35B-A3B, тогда как идентификатор модели содержит 14B-A3B; точные характеристики GGUF-квантизации и итоговый размер файла не приведены. Указано текстовое назначение, языки Chinese, English и Korean, а также контекстное окно 8192 токена. Обучение выполнялось с SFT и LoRA при помощи Unsloth, с использованием отфильтрованных наборов данных по reasoning-дистилляции. Сильные стороны модели — структурированное пошаговое мышление и ориентация на сложные логические задачи. Ограничения включают риск галлюцинаций, экспериментальный статус, возможные проблемы совместимости и нестабильность инструментальной экосистемы; приведённые тесты также показывают неоднозначные результаты на генерации HTML-игры и сценарии с автомобилем. Модель распространяется по лицензии Apache-2.0.

Это GGUF-версия модели Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32, подготовленная mradermacher. Репозиторий содержит статические квантизации, включая варианты GGUF и мультимодальные дополнения mmproj; указан вариант F32. Базовая модель связана с nightmedia/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32 и классифицирована как дообучение. Модель предназначена для генерации текста в диалоговом и инструкционном формате. По тегам карточки она ориентирована на рассуждения, математику, программирование и творческое письмо, включая создание и продолжение историй; метаданные также указывают мультиязычную поддержку английского, китайского, японского и испанского языков. Лицензия — Apache-2.0. Репозиторий распространяет веса в формате GGUF, предназначенном для запуска совместимым ПО; доступные уровни квантизации различаются по размеру и могут влиять на качество. Карточка не приводит результатов сравнительных оценок или конкретных ограничений качества.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Её разработка связана с DavidAU и коллаборацией с Nightmedia, TeichAI, armand0e и trohrbaugh; обучение и сборка выполнялись с использованием Unsloth. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, работы с текстом и ролевых сценариев. В README также заявлена поддержка vision, однако конкретные возможности мультимодального ввода не раскрыты. Модель имеет 27B параметров и выпускается в форматах GGUF, включая обычные и MTP-варианты с multi-token prediction. Квантизации используют NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности; для MTP-тензоров заявлена точность Q8_0. По утверждению авторов, дообучение направлено на повышение общего интеллекта, качества инструкций, решения задач и рассуждений без изменения базовых возможностей модели. Указаны английский и китайский языки. Размер контекста в предоставленных данных не указан. Сильными сторонами заявлены высокие результаты на семи бенчмарках, улучшение относительно базовой Qwen3.6-27B, хорошие показатели даже у низких квантизаций и пригодность для запуска на потребительском оборудовании. Эти результаты основаны на заявлениях авторов и тестировании сообщества, поэтому их следует воспринимать как неподтверждённые независимой оценкой. Ограничения включают отсутствие точных сведений о контекстном окне, системных требованиях и подробностях мультимодальности; характер uncensored предполагает ослабленные ограничения на содержание. Лицензия — Apache-2.0.

Это GGUF-квантизация модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и дополнительно преобразованной с помощью официального квантизатора llama.cpp. Модель предназначена для локального запуска и генерации текста, включая задачи рассуждения, программирования и работы с естественным языком. Вариант использует архитектуру Qwen3.6-35B-A3B-MTP и формат IQ2_M с динамической смешанной точностью; размер файла уменьшен за счёт низкобитного квантования, а Unsloth importance matrix помогает эффективнее распределять доступную точность между тензорами. Другие характеристики, включая поддерживаемые языки, контекст и модальности, в README не указаны. В основе лежит модель Heretic, в которой применена техника abliteration для снижения числа отказов без значительного изменения исходных возможностей. Согласно README, модификация затрагивает лишь ограниченную часть весов, а заявленный результат — на 88% меньше отказов по сравнению с оригинальной моделью при сохранении близкого качества. К преимуществам относятся совместимость с актуальными версиями llama.cpp, небольшой объём хранения и улучшенное соотношение качества и размера благодаря динамическому квантованию и importance matrix. Ограничением является возможная потеря качества из-за агрессивного IQ2_M-квантования, а отказосниженное поведение может быть нежелательно для сценариев, требующих строгих защитных ограничений. Лицензия указана как Apache-2.0; README отмечает, что GGUF следует лицензии исходной модели, поэтому для полного понимания условий использования следует проверить upstream-репозиторий.

Brooooooklyn/Qwen3.8-27B-MXFP4-mlx — это квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат MLX для Apple Silicon. Модель предназначена для генерации текста, работы с изображениями и текстом, а также задач программирования. Она относится к семейству Qwen3.5 и использует плотную языковую архитектуру из 64 слоёв: 48 слоёв с линейным вниманием и 16 слоёв с полным вниманием. В составе также есть BF16 vision tower и один слой MTP для ускоренного спекулятивного декодирования. Веса используют смешанную weight-only квантизацию: MXFP4 с группами по 32 элемента для части FFN-слоёв и MXFP8 с группами по 32 элемента для остальных основных модулей, включая attention, lm_head и последние восемь FFN-слоёв. Эмбеддинги, нормализации, vision tower, MTP-подсистема и другие исключённые тензоры сохранены в BF16. Контекстное окно и полный список поддерживаемых языков в представленном описании не указаны. Модель рассчитана на локальный запуск в экосистеме MLX и требует @mlx-node/lm и @mlx-node/core версии 0.0.10 или новее. К преимуществам относятся существенное уменьшение размера весов и совместимость с Apple Silicon, однако README не содержит результатов оценки качества, производительности, работы с длинным контекстом или изображениями, поэтому эти характеристики не подтверждены. Квантизация не использует калибровочные данные и не гарантирует эквивалентность NVIDIA NVFP4 или калиброванным схемам W4A4/W8A8. Исходная модель распространяется по лицензии Apache-2.0; вклад в возможности и обучение принадлежит Qwen Team, рецепт квантизации разработан Unsloth.

sasa2000/Qwen3-Swallow-8B-RL-v0.2-heretic — дообученная версия Qwen3-Swallow 8B RL v0.2 с ослабленным поведением отказа, подготовленная на основе abliteration. Базовая модель разработана проектом Swallow LLM; репозиторий содержит плотную причинно-языковую архитектуру Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Она предназначена для общения на японском и английском языках, перевода между ними, решения математических задач, программирования и рассуждений. В сравнении из карточки указано 31 отказ из 100 запросов против 97 у исходной модели; это описание теста отказов, а не оценка общей точности. Рекомендуемый автором предел контекста — 32 768 токенов или меньше. Работа с вызовом инструментов не была специально обучена и не валидирована, а отдельное переключение режима рассуждений не поддерживается. Модель распространяется по лицензии Apache-2.0. Авторы базовой модели отмечают, что семейство находится на раннем этапе разработки и не настроено для надёжного следования человеческим намерениям или требованиям безопасности; снижение частоты отказов также означает, что ответы требуют соответствующей проверки.

RWKV7-G1i-2.9B-20260805 — базовая языковая модель семейства RWKV-7, разработанная Бо Пэном, Ю Чжаном, Сонглином Яном, Жуйчонгом Чжаном и Чжиюанем Ли при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель с архитектурой RWKV7ForCausalLM и рекуррентным состоянием постоянного размера: генерация не использует attention и требует постоянной вычислительной работы на каждый новый токен, при этом обучение можно распараллеливать. Модель с 3,1 млрд параметров предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, чатах и материалах для рассуждений. Она предназначена для оценки, последующего обучения и дообучения, а шаблон чата служит интерфейсом для подачи запросов и сам по себе не означает, что модель безопасно настроена как ассистент. Поддерживает несколько языков; среди языков карточки указаны английский, китайский, японский, корейский, французский, арабский, испанский и португальский. Контекст модели по метаданным — 2048 токенов. Для запуска README рекомендует flash-linear-attention и Transformers версии 4.48.0 или новее. Лицензия — Apache-2.0.

Soniox-7B-v1.0 — языковая модель Soniox для диалогов и генерации текста. Она построена на архитектуре Mistral и основана на Mistral 7B, дополнительно прошла предварительное обучение и дообучение для решения задач и ответов на вопросы. В карточке заявлена поддержка английского языка и кода; модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов по метаданным. Модель можно использовать для диалоговых интерфейсов, генерации текста и помощи с кодом. Автор README заявляет сопоставимость с GPT-4 на некоторых бенчмарках, но не приводит их названия или результаты, поэтому это утверждение не позволяет оценить качество для конкретных задач. Модель доступна в формате safetensors и совместима с Transformers; для развёртывания также упоминаются vLLM и другие варианты. Лицензия — Apache 2.0. README указывает контекст 8K, тогда как метаданные каталога дают native context 32 768 токенов; это расхождение следует учитывать при выборе длины входа.

TallGemma-Raw — объединённая языковая модель на архитектуре Gemma, созданная автором репозитория с помощью mergekit из google/gemma-2b, google/gemma-1.1-2b-it и google/codegemma-2b. Модель предназначена для генерации текста; в метаданных указаны 6,5 млрд параметров и контекст до 8192 токенов. Объединение включает базовую Gemma, инструкционную Gemma 1.1 и CodeGemma, поэтому модель может быть полезна для генерации обычного текста, диалоговых ответов и кода. Карточка не приводит отдельных оценок качества или результатов тестирования, поэтому пригодность для конкретных задач стоит проверять на собственных примерах. В репозитории указаны веса safetensors и библиотека Transformers. Лицензия в предоставленных данных не указана.

DoubleTrouble — мультимодальная плотная модель семейства Qwen3.5, созданная OliviaRossi слиянием двух дообученных моделей Qwen: DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored и Jackrong/Qwopus3.8-27B-Flash. Карточка указывает размер 27,5 млрд параметров, 64 слоя и архитектуру Qwen3_5ForConditionalGeneration; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалоговой генерации текста, рассуждений, творческих и технических задач, быстрого применения инструментов и агентных сценариев. В README заявлены мультимодальность и поддержка длительных контекстов, однако конкретная длина контекста и подробности обработки изображений не приведены. Автор сообщает, что удалил вспомогательный слой MTP и настроил слияние для сохранения характеристик исходных моделей; это заявления карточки, а не независимая оценка качества или совместимости. Модель рассчитана прежде всего на английский и китайский языки. Её отличительные заявленные свойства — сочетание творческой генерации и агентного исполнения, а также ослабление отказов. Это может приводить к выдаче нежелательного или небезопасного контента. Лицензия — Apache-2.0.

Hercules-phi-2 — языковая модель M4-ai, полученная дообучением Phi-2 на всех примерах датасета Locutusque/hercules-v4.5. Это плотная авторегрессионная модель семейства Phi с 3,5 млрд параметров и контекстом 2048 токенов; она работает с текстом на английском языке. Модель предназначена для диалогов с ассистентом, ответов на вопросы, математических задач, программирования, вызова функций и ролевых сценариев. Репозиторий содержит веса в формате Safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. В карточке нет результатов оценки качества.

HyperCLOVA X SEED 14B Think — плотная языковая модель семейства HyperCLOVAX, разработанная командой HyperCLOVA X. Она предназначена для диалогов и генерации текста с возможностью пошагового рассуждения, в том числе для математических и кодовых задач. Разработчики использовали pruning и дистилляцию знаний, а затем многоэтапное обучение: SFT, обучение с проверяемыми наградами, настройку длины рассуждений и совместное обучение с обратной связью от людей и проверяемыми наградами. В README приведён размер 14,74 млрд параметров; метаданные указывают 14,1 млрд параметров и контекст 131 072 токена. Архитектура основана на Transformer, Peri-Layer Normalization и μP; модель принимает и выдаёт текст. README сообщает о сильных результатах на корейском языке и знании корейской культуры, а также о конкурентных результатах в математике и программировании. Длину рассуждений можно задавать текстовой инструкцией; поддерживается многоходовый диалог и описан сценарий вызова инструментов. Модель подходит для корейскоязычных диалоговых помощников, решения задач на рассуждение и ответов на вопросы, а также для генерации и объяснения кода. README приводит контекст 32 тыс. токенов, тогда как метаданные указывают 131 072 токена. Лицензия помечена как other, поэтому конкретные условия использования следует проверять в файлах репозитория модели.

ice-AI-i1-GGUF — это набор квантованных вариантов модели ice-AI, разработанной darkps и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Представлены файлы с различными уровнями квантования, поэтому модель можно запускать на системах с разным объёмом доступной памяти и выбирать компромисс между размером, скоростью и качеством. В репозитории доступны варианты от i1-IQ1_S размером около 2,2 ГБ до i1-Q6_K размером около 6,8 ГБ. Для некоторых вариантов указаны преимущества и ограничения: Q4_K_M обозначен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по соотношению размера, скорости и качества, а отдельные низкобитные варианты характеризуются более низким качеством. Точная архитектура, число параметров, размер контекста, перечень языков и мультимодальные возможности в README не указаны; по описанию модель является текстовой и не поддерживает заявленные мультимодальные сценарии. Лицензия — Apache-2.0.

Typhoon2-DeepSeek-R1-70B — тайская языковая модель для диалогов и рассуждений, разработанная Typhoon. Это плотная decoder-only модель на архитектуре Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она создана слиянием DeepSeek-R1-Distill-Llama-70B и Typhoon2 70B Instruct с SFT; использует шаблон чата DeepSeek R1 Distill, а не Llama 3. Модель предназначена для ответов на инструкции и сложные вопросы, рассуждений, математики и программирования. README отмечает сильные результаты на тайском языке и сопоставимые с DeepSeek R1 Distill способности к рассуждению; основной язык — тайский, также поддерживается английский. Репозиторий использует Transformers и формат safetensors. Лицензия — Llama 3.1 Community License. Это исследовательская предварительная версия в разработке. Ответы могут быть неточными, предвзятыми или нежелательными; авторы не рекомендуют полагаться на встроенный интерфейс вызова инструментов.

MMOPD/Qwen3-1.7B-OT3-1ep — языковая модель MMOPD, полученная дообучением Qwen3-1.7B-Base на наборе OpenThoughts3-1.2M. Это плотная авторегрессионная модель Qwen3ForCausalLM с 1,7 млрд параметров, рассчитанная на генерацию текста; заявленное окно контекста — 32 768 токенов. Модель настроена на длинные цепочки рассуждений по математике, программированию и естественным наукам и выдаёт ответы в формате Qwen3 с блоком рассуждений перед ответом. Чекпойнт соответствует примерно одной эпохе обучения: шаг 2 200 из 4 312, около 1,02 эпохи. MMOPD описывает его как универсальную модель-студента для рассуждений и основу для доменных моделей и экспериментов по дистилляции на политике. Отдельных результатов бенчмарков для этой версии не приведено; в README рекомендуется включать режим thinking и использовать сэмплирование. Модель предназначена для текстовых задач и не заявлена как мультимодальная. Лицензия — Apache-2.0. Основана на Qwen3-1.7B-Base и обучена на OpenThoughts3-1.2M; опубликованные сведения не подтверждают отдельные гарантии качества на конкретных задачах.

Qwimi3.5-9B-Kimik2.6-Opus-Distill-MTP-GGUF — экспериментальная модель, разработанная trjxter на базе unsloth/Qwen3.5-9B. Это каузальная языковая модель с GGUF-квантизацией, дообученная методом supervised fine-tuning с использованием LoRA и RS-LoRA через Unsloth и Hugging Face TRL. Обучение проводилось на смеси наборов данных с рассуждениями в стилях Kimi K2.6, Qwen и Claude Opus TraceInversion; в итоговый набор вошло 12 366 примеров, из которых 12 000 использовались для обучения. Модель ориентирована на английский язык и сохраняет формат чата Qwen, включая трассы рассуждений в формате <think>...</think>. Модель предназначена для локального запуска в llama.cpp-совместимых средах, экспериментов с рассуждениями, математикой, решением задач, программированием, техническим анализом и длинным контекстом. Заявленная длина последовательности при обучении составляет 16 384 токена. Доступны варианты Q3_K_L, Q4_K_M, Q5_K_M, Q6_K и Q8_0; Q4_K_M рекомендован как сбалансированный вариант по размеру, скорости и качеству, а более высокие уровни квантизации обеспечивают лучшее сохранение качества при увеличенных требованиях к памяти. Сильными сторонами модели являются специализация на структурированных рассуждениях, поддержка локального инференса и несколько вариантов GGUF-квантизации для разных ограничений по памяти. При этом это экспериментальный fine-tune без заявленных гарантий качества, поэтому модель следует тщательно проверять перед использованием в производственных или критически важных сценариях. Лицензия — Apache 2.0.

RWKV/RWKV7-2.9B-20260805 — официальная базовая языковая модель RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM примерно на 3,1 млрд параметров; в репозитории представлены веса safetensors. Архитектура использует рекуррентное состояние постоянного размера вместо механизма внимания, поэтому размер состояния не растёт вместе с длиной генерации, а вычисления на каждый новый токен остаются постоянными. Обучение при этом можно распараллеливать. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения. В обучающих данных использовались веб-тексты, код, синтетические данные, инструкции, диалоги и рассуждения; карточка также содержит шаблон для диалоговых запросов и вызова инструментов. Шаблон не означает, что модель прошла настройку на безопасное поведение или является готовым ассистентом. Заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Для нативной интеграции с Transformers требуется версия 5.15 или актуальная версия из исходного кода. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний; производительность оптимизированного исполнения зависит от GPU, типа данных, размера пакета и формы входа. Разработчик не заявляет оценок безопасности, смещённости, токсичности, фактической точности или пригодности для критически важных задач. Лицензия — Apache-2.0.

RWKV/RWKV7-G1k-2.9B-20260930 — официальная базовая языковая модель RWKV-7 Goose от BlinkDL в формате для Transformers. Это плотная авторегрессионная модель примерно на 3,1 млрд параметров, предварительно обученная на веб-текстах, коде, синтетических, инструкционных, диалоговых и reasoning-данных. Она предназначена для оценки, дальнейшего дообучения и генерации текста; шаблон чата задаёт формат промпта, но сам по себе не означает, что модель выровнена для безопасного поведения. Архитектура RWKV-7 использует рекуррентное состояние постоянного размера вместо механизма внимания и KV-кэша, поэтому объём состояния не растёт с длиной генерации, а вычисления на токен остаются постоянными; обучение можно распараллеливать. Модель принимает текст и генерирует текст. Карточка и теги указывают поддержку английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Веса доступны в safetensors, лицензия — Apache-2.0. Качество следования инструкциям и поведение на разных языках зависят от чекпойнта, промптинга и последующего обучения. Модель не заявлена как проверенная на безопасность, предвзятость, токсичность, фактическую точность или применение в критически важных сценариях. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения снимков состояния; оптимизированный запуск зависит от оборудования и конфигурации.

Sonoma-1.2B-0901 — продолжение Sonoma-1.2B Preview от Mincofficial, дообученное на основе LiquidAI/LFM2.5-1.2B-Thinking. Это плотная причинная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, кода и задач на рассуждение. Модель дообучали с помощью assistant-only LoRA ранга 32 на всех 16 блоках, после чего адаптер объединили с весами; карточка указывает контекст 128 000 токенов. Основной формат весов — Safetensors для MLX; в репозитории также есть экспорт GGUF Q4_K_M для llama.cpp. Модель подходит для локального ассистента, написания и объяснения кода, а также ответов на вопросы и математических рассуждений на английском языке. Приведённые оценки относятся к небольшому фиксированному отложенному набору и восьми задачам проверки поведения, поэтому не дают оснований считать их широким сравнительным бенчмарком. Лицензия обозначена как other; перед использованием следует проверить условия репозитория и лицензии источников обучающих данных.

jondurbin/airoboros-70b-3.3 — экспериментальная чат-модель, созданная Jon Durbin на основе семейства Llama 3 и дообученная на данных Airoboros, преимущественно синтетических. Метаданные каталога указывают архитектуру LlamaForCausalLM с плотными весами, 69,5 млрд параметров и контекст до 8192 токенов. Модель принимает текст и генерирует текст; карточка показывает шаблон диалога Llama 3 Instruct и примеры ответов на вопросы, пересказа, художественных запросов и задач программирования. Модель подходит для диалогового помощника, написания и продолжения историй, суммаризации, ответов на вопросы и генерации кода. В README отмечено, что модель экспериментальная; приведённые примеры иллюстрируют предполагаемые сценарии, но не подтверждают качество или надёжность ответов. README называет базой Llama 3 70B Instruct, тогда как метаданные указывают дообучение Meta-Llama-3-8B; точную базовую модель по этим источникам установить нельзя. Лицензия в метаданных обозначена как other, поэтому условия использования следует сверить с карточкой модели на Hugging Face.

Kiwen1.1-27B — мультимодальная языковая модель на 28 млрд параметров, разработанная beyoru и представленная в формате GGUF с квантованием от bartowski. Модель предназначена для работы с текстом и изображениями, причём для обработки изображений требуется дополнительный mmproj-файл. Указанные сценарии применения включают рассуждения, агентские задачи, работу с вьетнамским языком, математикой и программированием. Поддерживается speculative decoding с использованием MTP. Модель подготовлена для запуска через llama.cpp; доступны варианты от BF16 до низкобитных квантований Q8_0, Q6, Q5, Q4, Q3 и IQ. Рекомендуемым компромиссом между качеством и размером назван Q4_K_M объёмом 17,77 ГБ, а варианты Q6_K и Q6_K_L обеспечивают более высокое качество при большем потреблении памяти. README не содержит данных о размере контекстного окна, полном наборе поддерживаемых языков, исходной архитектуре или результатах бенчмарков. Модель распространяется по лицензии Apache-2.0. Основное ограничение — значительные требования к оперативной или видеопамяти: даже рекомендуемый вариант Q4_K_M занимает около 17,77 ГБ, а использование изображений требует отдельного multimodal-компонента.

DeepSeek-R1-Distill-Qwen-14B-Q4_K_M-GGUF — это квантованная версия модели DeepSeek-R1-Distill-Qwen-14B, разработанной организацией deepseek-ai и опубликованной в формате GGUF пользователем Andrew Webby из RolePlai. Модель предназначена для генерации текста, диалоговых сценариев, ролевого общения, а также задач программирования и математики; она может использоваться в приложениях на базе llama.cpp. Модель основана на архитектуре Qwen, имеет размер 14 млрд параметров и поддерживает текстовый ввод и вывод. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что делает модель более подходящей для локального запуска, однако может снижать точность по сравнению с исходными весами. В README не указаны поддерживаемые языки, размер контекстного окна, точные требования к оборудованию, результаты тестирования и ограничения качества. Файл модели имеет формат GGUF, не использует imatrix и не разделён на части. Лицензия и условия использования в предоставленных данных не указаны.

DeepSeek-V4-Flash-0731 GGUF — квантизированная версия текстовой генеративной модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и преобразованной в формат GGUF пользователем qtum с использованием llama.cpp. Модель предназначена для генерации и продолжения текста, включая работу с английскими и китайскими запросами, а также для локального запуска через llama.cpp на одной или нескольких видеокартах. Модель использует разреженную MoE-архитектуру с маршрутизацией к 6 экспертам из 256 на каждом токене. В репозитории представлены несколько уровней квантизации размером от 58,8 до 129,9 GiB, распределённых по четырём сегментам; также доступна исходная эталонная сборка размером 145,6 GiB. Все варианты калиброваны с использованием смешанных фрагментов кода, английского и китайского текста. Заявленный размер контекста в примерах запуска составляет 8192 токена, а для speculative decoding — 2048 токенов. Сильными сторонами сборки являются широкий выбор уровней сжатия, защита наиболее важных компонентов модели от чрезмерной квантизации и поддержка DSpark speculative decoding. При этом уменьшение размера сопровождается ростом perplexity, а варианты IQ1 и IQ2 заметно уступают более крупным сборкам по точности. Speculative decoding в текущей реализации требует размещения модели и черновой модели на одном GPU и не работает при распределении целевой модели более чем на одну видеокарту; для запуска нужны все сегменты выбранного варианта. Лицензия — MIT, унаследованная от базовой модели.