I.5Создание и редактирование текста

K2-Horizon-375B-A23B — флагманская языковая модель семейства K2-Horizon от IFM. Это разреженная архитектура Mixture-of-Experts: в модели 375 млрд параметров, из которых 23 млрд задействуются на каждом токене. Модель принимает текст и поддерживает контекст до 524 288 токенов; карточка указывает английский язык и возможность диалогового взаимодействия. Модель предназначена для генерации текста, работы с инструментами и агентных сценариев, включая терминальные задачи и длительные многоэтапные процессы. В README заявлены конкурентные результаты на соответствующих бенчмарках. Доступны контрольные точки обучения, обучающие данные и код обучения; для запуска описаны рецепты vLLM и SGLang, а реализация Transformers проверена с указанными в карточке версиями библиотек. Веса опубликованы в формате Safetensors под лицензией Apache-2.0. Для запуска требуются значительные вычислительные ресурсы: README приводит пример обслуживания на восьми ускорителях H200. Заявленная длина контекста — 524 288 токенов; поведение обучения в реализации Hugging Face может отличаться от исходной реализации xLLM.

Модель KARAKURI Inc. karakuri-lm-8x7b-instruct-v0.1 — диалоговая языковая модель на архитектуре Mixtral Mixture of Experts, дообученная на базе tokyotech-llm/Swallow-MX-8x7b-NVE-v0.1. Она предназначена для генерации ответов и инструкций на английском и японском языках, включая сценарии вызова инструментов и работы с RAG. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В шаблоне диалога предусмотрены девять управляемых атрибутов ответа: полезность, корректность, связность, сложность, многословность, качество, токсичность, юмор и креативность. Модель дообучали примерно на 1 млрд токенов данных, в том числе на наборах для диалогов, программирования, вызова функций, математики, SQL и RAG. Репозиторий использует формат safetensors и библиотеку Transformers. Известное ограничение: модель может пытаться вызывать инструменты, которые не предоставлены приложением; такие вызовы следует отфильтровывать при постобработке. Лицензия — Apache 2.0.

Это производный чекпойнт DeepSeek-V4.1-Flash, опубликованный drowzeys и подготовленный для запуска на компьютере Mac Studio с M3 Ultra и 256 ГБ памяти через oMLX и MLX. В README описана модель DeepSeek-V4.1-Flash размером 763 млрд параметров с архитектурой MoE и разреженным вниманием; для этого варианта веса маршрутизируемых экспертов в 27 из 40 слоёв переквантованы с 3 до 2 бит, чтобы снизить занимаемую память. Метаданные указывают формат safetensors и базовый репозиторий Jundot/DeepSeek-V4.1-Flash-oQ3e-mtp. Модель предназначена для генерации текста, в том числе кода и длинных ответов, с запуском локально на Apple Silicon. README сообщает о проверке контекста до 404 805 токенов и приводит замеры скорости для прозы и кода на конкретной конфигурации M3 Ultra. Для работы требуются значительный объём объединённой памяти и настройка системного лимита памяти GPU; описаны также ограничения пропускной способности при параллельных запросах и снижение точности спекулятивного декодирования из-за квантизации. Лицензия в предоставленных данных не указана.

Sorawiz/KunouSky-32B — объединённая модель генерации текста на базе архитектуры Qwen2, собранная с помощью mergekit и метода TIES. В объединение вошли NovaSky-AI/Sky-T1-32B-Preview и pipihand01/QwQ-32B-Preview-abliterated-lora-rank32; базовой моделью при слиянии служила Sao10K/32B-Qwen2.5-Kunou-v1. Модель содержит 32 млрд параметров, принимает диалоговые запросы в формате ChatML и рассчитана на генерацию ответов в чат-сценариях. Базовая модель NovaSky описана как ориентированная на задачи математики, программирования и науки; карточка также указывает интерфейс вызова инструментов. Длина контекста составляет 32 768 токенов. Репозиторий использует Transformers и содержит веса Safetensors. README не сообщает конкретных результатов оценки качества или ограничений применимости. Лицензия в предоставленных данных не указана.

Lemur 70B Chat v1 GGUF — это квантизированная версия диалоговой языковой модели Lemur 70B Chat v1, разработанной OpenLemur и опубликованной в формате GGUF командой TheBloke. Модель основана на архитектуре Llama и предназначена для генерации текста в формате text-generation, включая диалоговое взаимодействие и задачи, связанные с программированием. Модель имеет размер 70B параметров, поддерживает английский язык и использует шаблон запросов ChatML с ролями system, user и assistant. Формат GGUF рассчитан на запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие решения для CPU- и GPU-инференса. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. К сильным сторонам относятся диалоговая настройка, возможности генерации кода и широкий выбор вариантов квантизации для локального запуска. Ограничения включают отсутствие в предоставленных данных сведений о контексте, точных языковых возможностях за пределами английского, результатах тестирования и конкретных требованиях к оборудованию; крупный размер модели также может затруднять запуск на системах с ограниченными ресурсами. В карточке указана лицензия CC BY-NC 4.0. Поскольку модель основана на Llama 2, дополнительно применяются условия лицензии Meta Llama 2; репозиторий указывает на возможное двойное лицензирование, поэтому условия коммерческого и иного использования следует проверять в исходном репозитории OpenLemur.

Heretic-org/LFM-2.5-2.6B-heretic — текстовая чат-модель на 2,6 млрд параметров, созданная с помощью Heretic v1.4.0 как «децензурированная» версия LiquidAI/LFM2.5-2.6B. Это плотная причинная языковая модель семейства LFM2 с 30 слоями и контекстом до 131 072 токенов; модель работает с текстом и поддерживает многоязычный ввод и генерацию, включая русский, английский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, испанский, тайский и вьетнамский. Модель предназначена для диалогов, следования инструкциям, работы с инструментами, извлечения данных, RAG и сценариев с длинным контекстом, в том числе локального и периферийного развертывания. В README приведено сравнение с исходной моделью: 4 отказа из 100 запросов против 98 у оригинала при KL-дивергенции 0,0321; это указывает на снижение склонности к отказам, но не доказывает универсальное качество или безопасность. Разработчик исходной модели — Liquid AI; эту производную модель подготовил heretic-org. Указана лицензия «other», поэтому конкретные права и ограничения следует проверять в файлах репозитория и условиях исходной модели.

Ling-3.0-flash-heretic — производная модель на основе inclusionAI/Ling-3.0-flash, в которой применена abлитерация для снижения частоты отказов. В README приведено сравнение: 0 отказов из 100 запросов у этой версии против 87 из 100 у исходной модели; KL-дивергенция относительно оригинала составляет 0,0526. Модель предназначена для диалоговой генерации текста, рассуждений, работы с длинным контекстом и задач программирования и агентных сценариев. В метаданных указаны архитектура Bailing hybrid MoE и 3,5 млрд параметров; README описывает исходную Ling-3.0-flash как гибридную модель с MoE, 124 млрд общих и 5,1 млрд активных параметров. Заявленное окно контекста — 262 144 токена. Репозиторий содержит веса safetensors, интерфейс чата отмечен в метаданных. Лицензия — MIT. Указанное снижение отказов не гарантирует отсутствие отказов во всех ситуациях и может уменьшать встроенные ограничения исходной модели.

Llama 3.1 Tulu 2 8B — языковая модель-помощник, разработанная AI2 и дообученная на базе Meta-Llama-3.1-8B. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Она обучена на смеси открытых, синтетических и созданных людьми данных, включая набор инструкций и диалогов Tulu V2; основной язык — английский. Модель предназначена для диалогового общения и выполнения пользовательских инструкций: она генерирует ответы на вопросы, помогает с рассуждениями и решает разнообразные текстовые задачи. В опубликованных оценках показаны результаты по знаниям, математическим задачам, программированию, следованию инструкциям и безопасности ответов. Модель распространяется под лицензией Apache 2.0; README также указывает на включённую лицензию Meta Llama 3.1. Tulu не проходила этап RLHF для выравнивания безопасных ответов и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно при соответствующих запросах.

Llama3 8B CPT Sahabat-AI v1 Instruct — модель-генератор текста, разработанная PT GoTo Gojek Tokopedia Tbk и AI Singapore в рамках экосистемы Sahabat-AI, созданной совместно с Indosat Ooredoo Hutchison. Это декодер на архитектуре Llama 3 с 7,5 млрд параметров, дообученный следовать инструкциям на индонезийском, яванском, сунданском и английском языках. Для настройки использовали около 448 тысяч индонезийских, 96 тысяч яванских, 98 тысяч сунданских и 129 тысяч английских пар «инструкция — ответ». Модель поддерживает контекст до 8192 токенов и запускается с библиотекой Transformers. Модель предназначена для диалогов, ответов на вопросы, суммаризации, перевода, анализа тональности и следования заданным форматам, особенно для индонезийского языка и региональных языков Индонезии. Лицензия — Llama 3 Community License. Модель может галлюцинировать, выдавать нерелевантные ответы и непоследовательно рассуждать; она не прошла настройку на безопасность, поэтому её ответы требуют проверки, а для практического развёртывания могут понадобиться дополнительные меры безопасности.

Llama-Deepsync-1B — дообученная PrithivMLmods модель на базе Meta Llama 3.2 1B Instruct для генерации текста и диалогов. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса SafeTensors; модель можно запускать через Transformers. Модель предназначена для ответов на сложные запросы с логическим рассуждением, решения задач по математике, генерации и объяснения кода, творческого письма и создания структурированных ответов, включая JSON. В README также заявлена поддержка многоязычного общения и генерации длинных текстов. Метаданные указывают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; более широкое заявление README о 29 языках не подкреплено их перечнем в метаданных. Лицензия — CreativeML OpenRAIL-M.

LLaMAX2-7B-Alpaca — многоязычная языковая модель семейства LLaMA, разработанная авторами проекта LLaMAX. Модель создана на основе Llama 2 с продолженным предобучением на корпусах для 102 языков и дообучением на англоязычном наборе инструкций Alpaca. Это плотная авторегрессионная архитектура LlamaForCausalLM с 6,6 млрд параметров и контекстом 4096 токенов. Модель предназначена для диалога и выполнения инструкций, особенно для перевода между более чем 100 языками. В README также описано применение как основы для многоязычных задач рассуждения, здравого смысла и распознавания языковых следствий; приведённые оценки перевода показывают улучшение относительно LLaMA2-Alpaca на Flores-101. Основной сценарий использования — генерация текста по запросу с инструкцией на перевод. Модель принимает и генерирует текст. Карточка заявляет поддержку более 100 языков, включая русский, английский, китайский, арабский и многие языки с ограниченными ресурсами. Распространяется в формате Safetensors по лицензии MIT.

LuminaLM — чат-модель для генерации текста, разработанная Parallax Labs. В карточке описано обновлённое семейство модели с усиленными рассуждениями и выводом: автор сообщает об улучшениях в математике, программировании и логике, а также о снижении частоты галлюцинаций и лучшей поддержке вызова функций. В тесте AIME 2025 точность, согласно README, выросла с 74% до 89,3%; средний объём рассуждений на вопрос увеличился с 15 тыс. до 27 тыс. токенов. Модель основана на архитектуре Llama и предназначена для диалогов, решения сложных задач и генерации ответов; README также описывает сценарии с загрузкой файлов и поиском в интернете через специальные шаблоны запросов. Рекомендуемая температура генерации — 0,6. Репозиторий содержит веса PyTorch, библиотека — Transformers. Лицензия MIT. Размер модели и длина контекста в предоставленных данных не приведены.

marin-8b-instruct-GGUF — это набор GGUF-квантизированных файлов модели marin-community/marin-8b-instruct, подготовленный mradermacher. Модель предназначена для генерации текста и выполнения инструкций; варианты GGUF позволяют запускать её локально с разным балансом между качеством, скоростью и потреблением памяти. При обучении использовались наборы данных AceCode-87K, Bespoke-Stratos-17k, dolphin-r1, natural_reasoning, OpenThoughts-114k-math и smoltalk, что указывает на применимость к программированию, рассуждениям, математическим и общим диалоговым задачам. Размер базовой модели — 8 млрд параметров, однако точная архитектура и максимальная длина контекста в README не указаны. Заявлен английский язык; сведения о поддержке других языков и модальностей отсутствуют, поэтому модель следует считать текстовой и ориентированной прежде всего на англоязычные сценарии. Доступны варианты от Q2_K размером около 3,3 ГБ до f16 размером около 16,2 ГБ; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант наилучшего качества среди перечисленных. К преимуществам относятся широкий выбор квантизаций и возможность локального запуска, а также настройка под задачи программирования, рассуждений и генерации текста. Более сильное сжатие уменьшает требования к памяти, но может снижать качество; README отдельно отмечает более низкое качество Q3_K_M. Модель распространяется по лицензии Apache-2.0.

marin-8b-instruct-i1-GGUF — это GGUF-квантизированная версия языковой модели marin-8b-instruct, разработанной сообществом marin-community и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста и выполнения инструкций на английском языке. В основе лежит модель размером 8 миллиардов параметров; точные сведения об архитектуре и размере контекстного окна в README не указаны. Обучение или дообучение проводилось с использованием наборов данных для программирования, рассуждений, математики, естественных рассуждений и диалоговых взаимодействий, включая AceCode-87K, Bespoke-Stratos-17k, dolphin-r1, Natural Reasoning, OpenThoughts-114k-math и smoltalk. Основное преимущество — доступность множества вариантов GGUF-квантизации с разным соотношением размера, скорости и качества, что позволяет запускать модель на устройствах с ограниченными ресурсами. При этом низкобитные варианты могут заметно терять в качестве; в README отдельно отмечены ограничения некоторых конфигураций, а рекомендуемым назван вариант i1-Q4_K_M. Модель распространяется по лицензии Apache-2.0.

Модель AmirDastouri/mbart-persian-summary-finetuned — дообученная Амиром Дастури версия eslamxm/mbart-finetuned-fa на базе mBART-large-50 для создания кратких абстрактивных пересказов новостных текстов на фарси. Она принимает текст длиной до 1024 токенов и генерирует резюме длиной до 110 токенов. Модель построена на архитектуре mBART и обучалась на наборах HooshvareLab/pn_summary и hezarai/xlsum-fa. Она предназначена для суммаризации текстов на фарси; в README приведено значение validation loss около 2,13. Модель распространяется по лицензии Apache-2.0.

malmarjeh/mbert2mbert-arabic-text-summarization — модель для абстрактивного суммирования арабского текста на основе архитектуры BERT2BERT. Параметры энкодера и декодера инициализированы весами Multilingual BERT, после чего модель дообучена на 84 764 парах «абзац — краткое содержание». Она предназначена для создания кратких пересказов и заголовков арабских новостей; в метаданных также отмечена задача перефразирования на современном литературном арабском языке (MSA). Модель принимает текст и генерирует текст. В репозитории указаны формат PyTorch и поддержка арабского языка. Сведения о размере модели, длине контекста и лицензии в предоставленных материалах отсутствуют.

mergekit-community/mergekit-linear-mocebtg — объединённая плотная языковая модель, созданная сообществом с помощью mergekit методом Linear из DeepSeek-R1-Distill-Qwen-32B и mergekit-community/mergekit-model_stock-czbocwb. Она предназначена для генерации текста в диалоговом формате; интерфейс также поддерживает вызов инструментов. Модель построена на архитектуре Qwen2 и содержит 32 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. В метаданных указаны формат safetensors и библиотека Transformers. Базовая DeepSeek-R1-Distill-Qwen-32B дообучена для рассуждений и решения задач по математике и программированию, однако отдельные возможности и качество итогового слияния не описаны. Сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели Undi95/Meta-Llama-3-8B-hf на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

MiniCPM5-2B-heretic — децензурированная версия языковой модели openbmb/MiniCPM5-2B, созданная пользователем RACER IS OP с применением Heretic v1.4.0. Модель относится к классу примерно 2B параметров и предназначена для генерации текста, диалогов, локальных агентных систем, вызова инструментов, написания кода и задач с длинным контекстом. Она поддерживает режимы Think и No-Think, а также может работать на пользовательских GPU, CPU и устройствах Apple Silicon через GGUF-квантизации. Изменения выполнены методом directional ablation («abliteration»): целевые направления отказа подавляются редактированием весов в attention output и MLP down-projections без дообучения. По данным README, это позволило снизить число отказов с 99 до 4 на 100 тестовых запросов при KL divergence 0,0646 относительно исходной модели, сохранив её знания, следование инструкциям, возможности работы с инструментами, кодом и рассуждениями. Заявлены английский и китайский языки; архитектура MiniCPM5 совместима с llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang, причём для вызова функций рекомендован SGLang. Главное преимущество модели — малый размер и широкий выбор GGUF-квантизаций, что упрощает локальный запуск на потребительском оборудовании. Ограничение заключается в намеренном подавлении защитных отказов: модель может отвечать на запросы, от которых исходная версия отказывалась, поэтому её применение требует самостоятельных мер безопасности и контроля. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-MLX — компактная языковая модель из серии MiniCPM5, разработанная командой OpenBMB. Это плотная Transformer-модель примерно на 2 млрд параметров, предназначенная для генерации текста и локального развертывания на устройствах с ограниченными ресурсами. В карточке указана поддержка английского и китайского языков, а также сценарии on-device и edge AI. Модель рассчитана на следование инструкциям, программирование, математические задачи, понимание длинного контекста, использование инструментов и агентские сценарии. По заявлению разработчиков, среди открытых моделей сопоставимого размера она показывает передовые результаты и в целом остается конкурентоспособной моделям класса 4B, особенно в коде, математике, работе с длинным контекстом и tool use. Точная максимальная длина контекста и подробные результаты тестов в предоставленных данных не указаны. К основным ограничениям относятся меньший размер и, вероятно, более ограниченные возможности по сравнению с крупными языковыми моделями; конкретные ограничения качества, требования к оборудованию и поддерживаемые форматы MLX в README не раскрыты. Модель распространяется по лицензии Apache-2.0.

Mistral-NeMo-Minitron-8B-Base — базовая языковая модель NVIDIA для генерации текста и адаптации под различные задачи обработки естественного языка. Это плотный авторегрессионный Transformer-декодер семейства Mistral-NeMo с 7,9 млрд параметров, 40 слоями, Grouped-Query Attention и RoPE. Модель получена из Mistral-NeMo 12B pruning-ом размерностей эмбеддингов и промежуточного слоя MLP, а затем дообучена дистилляцией на 380 млрд токенов. Модель принимает и генерирует текст; заявленная длина контекста — 8192 токена. Обучающие данные включают английский и многоязычный текст, а также код, охватывая веб-страницы, диалоги, статьи и другие материалы. Модель подходит как основа для генерации и продолжения текста, ответов на вопросы и программирования. Это базовая, а не специализированная чат-модель, поэтому для конкретных сценариев может потребоваться адаптация. По данным разработчика, обучение завершилось в августе 2024 года, а срез предобучающих данных — июнь 2023 года. Модель может воспроизводить токсичный язык и социальные предубеждения, а также выдавать неточные, неполные или избыточные ответы. В метаданных указана лицензия «other»; конкретные условия использования следует проверять в лицензии NVIDIA.

JANGQ-AI/Mistral-Small-4-119B-A6B-JANG_2L — версия Mistral Small 4, подготовленная Jinho Jang с использованием открытого метода адаптивного квантования JANG и предназначенная для запуска на Apple Silicon через MLX. В README указаны архитектура Mistral Small 4 с MLA attention, 128 MoE-экспертами и визуальным энкодером Pixtral; размер модели — 119 млрд параметров, из которых активны около 6 млрд на токен. Репозиторий содержит веса safetensors, а вариант JANG_2L использует смешанную разрядность около 2,14 бита. Модель предназначена для диалогов и генерации текста, включая рассуждения, ответы на вопросы, математические задачи и написание кода. Она также принимает изображения для визуального анализа; README указывает максимальное разрешение 1540 пикселей и режим рассуждений с тегами [THINK]. Заявлены размер файлов около 30 ГБ и пиковое потребление памяти около 40 ГБ, поэтому автор рекомендует Mac с 48 ГБ объединённой памяти и MLX Studio для поддержки JANG. В метаданных указана лицензия Apache-2.0 и связь с базовой моделью mistralai/Mistral-Small-4-119B-2603. Заявления README о скорости и результатах MMLU являются результатами автора; они не описывают независимую оценку качества. Сильное квантование может влиять на точность, а для запуска нужны совместимая среда MLX и достаточно памяти.

LeoCordoba/mt5-small-mlsum — модель суммаризации испанских текстов на основе encoder-decoder архитектуры mT5-small. Автор дообучил её на испанской части набора MLSum; размер модели составляет 157,4 млн параметров. Модель принимает текст и генерирует краткое изложение на испанском языке. Её можно применять для сокращения испаноязычных новостных материалов и подготовки кратких сводок. В карточке приведён пример резюме и оценки ROUGE на тестировании. Модель распространяется по лицензии Apache-2.0.

Nau 1.0 — открытая языковая модель, разработанная командой nau-ai для работы с дивехи, записанным письмом тхаана. Это дообученная версия Gemma 4 E2B с расширенным токенизатором: к словарю добавлены 32 000 токенов тхаана, всего 294 144. Модель содержит 5,4 млрд параметров и предназначена для генерации текста и диалогов; веса доступны в safetensors и в вариантах GGUF Q4_K_M и Q8_0. Полные веса bf16 занимают 10,9 ГБ. Nau умеет писать и редактировать тексты на дивехи, переводить между дивехи и английским, исправлять орфографию, преобразовывать романизированный дивехи в письмо тхаана, составлять краткие пересказы и отвечать на вопросы по предоставленному тексту. Её можно запускать локально, в том числе на обычном ноутбуке с GGUF; для наиболее точной обработки тхаана рекомендуется передавать токенизированные входы от токенизатора Hugging Face. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства, но некоммерчески и на аналогичных условиях. Модель специализируется на дивехи, сохраняя возможности работы с английским. Её ограничения включают слабые общие знания и риск уверенных фактических ошибок, особенно по законам и официальным сведениям без исходного текста; английские инструкции иногда приводят к ответу на английском. Длинные ответы могут повторяться, а доступ к интернету и актуальным данным отсутствует. Метаданные указывают задачу text-generation; несмотря на мультимодальную базовую модель, карточка Nau описывает текстовые сценарии.

Nemotron-Cascade-2-30B-A3B-AWQ-4bit — 4-битная AWQ-версия диалоговой языковой модели семейства NVIDIA Nemotron-Cascade-2. В README исходная модель описана как модель Mixture of Experts на 30 млрд параметров с 3 млрд активируемых параметров; она дообучена на базе Nemotron-3-Nano-30B-A3B-Base и поддерживает режимы рассуждений и обычных инструкций. Метаданные указывают задачу генерации текста, библиотеку Transformers и базовую модель nvidia/Nemotron-Cascade-2-30B-A3B. Модель предназначена для диалогов, решения сложных задач и агентных сценариев; README сообщает о высоких результатах на математической олимпиаде IMO и олимпиаде по информатике IOI 2025. Она использует шаблон ChatML, а для запуска исходной версии README описывает контекст до 262 144 токенов. AWQ-квантизация снижает точность весов до 4 бит; показатели качества и требования к ресурсам именно этой сборки в предоставленных сведениях не приведены. Лицензия указана как other, конкретные условия следует сверять с карточкой модели.

NeoHorse-1-4B-GGUF — текстовая GGUF-версия причинной языковой модели NeoHorse-1-4B, разработанной TokenRhythm и переобученной на базе Qwen3.5-4B. В репозитории prithivMLmods представлены варианты квантования от BF16 до Q3_K_S, предназначенные для запуска через llama.cpp и совместимые с экосистемой Transformers. Модель рассчитана на генерацию текста, следование инструкциям, программирование, рассуждения, работу в агентных сценариях и использование инструментов. Её ключевая особенность — routing harness, который распределяет задачи между разнородными моделями, учитывает взаимодействия с инструментами и результаты выполнения, оценивает требуемые способности и использует эти сигналы для формирования обучающей смеси. Указана поддержка Qwen3-style reasoning и парсеров вызовов инструментов; модель также может обслуживаться через SGLang или vLLM. Модель содержит около 4 миллиардов параметров, поддерживает только текстовый ввод и вывод, поскольку vision-веса исключены. Заявлен английский язык, нативное контекстное окно составляет 262144 токена с возможностью расширения до 1010000 токенов. По данным README, в сравнении с рядом моделей сопоставимого размера NeoHorse-1-4B показала более высокий средний результат на десяти тестах, особенно в агентных задачах, программировании и использовании инструментов. Ограничениями являются отсутствие визуальной модальности и заявленная языковая поддержка только английского; фактическое качество может зависеть от выбранного варианта квантования. Модель распространяется по лицензии Apache License 2.0.

Ateeqq/news-title-generator — англоязычная модель для создания заголовков новостных статей, разработанная на основе T5 и дообученная автором на наборе новостных примеров. Она принимает текст статьи и генерирует краткий заголовок; подходит для подготовки черновиков заголовков в редакционных системах и автоматизации публикации новостей. Модель построена на архитектуре T5ForConditionalGeneration, содержит около 123,8 млн параметров и рассчитана на контекст до 512 токенов. Для работы используются Transformers и PyTorch; доступны веса PyTorch и Safetensors. Карточка сообщает о более чем 78 тысячах примеров для обучения и отдельной тестовой выборке. Лицензия — Apache-2.0. Оценки качества не подтверждены приведёнными сравнительными результатами; сгенерированные заголовки могут упускать детали или неточно отражать содержание статьи и требуют редакторской проверки.

nvidia_AceInstruct-72B-GGUF — это GGUF-квантизованная версия instruct-модели AceInstruct-72B, разработанной NVIDIA и подготовленной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста в диалоговом и инструкционном формате, включая задачи общего назначения, программирование и математику. В README указана поддержка английского языка. Модель имеет размер 72B параметров; конкретная архитектура и максимальная длина контекста не указаны. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-квантов с размером файлов примерно от 29 до 77 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти; варианты Q4_K_M, Q5_K_M и Q6_K отмечены как рекомендуемые. Формат рассчитан на запуск через llama.cpp, LM Studio и другие совместимые проекты. К сильным сторонам относятся широкий выбор вариантов квантизации и возможность локального запуска, а также специализация исходной модели на инструкциях, коде и математике. Ограничениями являются высокие требования к памяти даже у компактных вариантов, снижение качества при низкой квантизации и отсутствие в предоставленных данных подробных результатов тестирования, сведений о мультимодальности и контекстном окне. Распространение указано по лицензии CC BY-NC-4.0, которая ограничивает коммерческое использование.

AceReason-Nemotron-1.1-7B-GGUF — это GGUF-квантизированная версия языковой модели AceReason-Nemotron-1.1-7B, разработанной NVIDIA и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения, математики и программирования; в метаданных указаны supervised fine-tuning и reinforcement learning. Заявленный язык — английский. Модель содержит 7 миллиардов параметров и поставляется в нескольких вариантах точности, включая BF16, Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы. Квантизация выполнена с использованием imatrix и llama.cpp, поэтому модель рассчитана на локальный запуск через llama.cpp, LM Studio и совместимые проекты. Для работы используется формат запросов ChatML с ролями system, user и assistant. Размер контекста и точная архитектура в README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и компромисс между качеством, требованиями к памяти и скоростью инференса; наиболее качественными в README названы варианты Q6_K_L, Q6_K, Q5_K и Q4_K_L, а Q4_K_M обозначен как типовой вариант для большинства сценариев. Более сильное сжатие уменьшает требования к памяти, но может снижать качество. Лицензия — NVIDIA Open Model License; исходная модель доступна как nvidia/AceReason-Nemotron-1.1-7B.

Это 4-битная версия NVIDIA Nemotron 3 Nano 30B A3B, преобразованная mlx-community из модели nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 в формат MLX с помощью mlx-lm 0.29.0. Она предназначена для генерации текста и диалогового использования на устройствах и в средах, поддерживающих MLX. Базовая модель NVIDIA — гибридная языковая модель для диалогов, рассуждений, программирования и агентных приложений. В карточке указана поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Суффикс 30B A3B обозначает вариант семейства, однако README не раскрывает подробности архитектуры и контекстного окна. Репозиторий распространяется под лицензией, обозначенной как other; конкретные условия следует сверять с файлами лицензии базовой модели и репозитория. Версия предназначена для MLX и содержит 4-битное представление весов, что снижает требования к памяти по сравнению с исходной BF16-моделью, но может влиять на точность ответов.