II.1Анализ требований и архитектура ПО

Na0s/Llama-3.1-8B-Pruned-4-Layers_LoRA-PEFT-3.0 — плотная авторегрессионная языковая модель семейства Llama 3.1, разработанная Na0s. Это дообученная версия предыдущего чекпойнта Na0s/Llama-3.1-8B-Pruned-4-Layers_LoRA-PEFT-2.0 на наборе teknium/openhermes. В исходной модели удалили четыре слоя Meta-Llama-3.1-8B, а затем дообучили модель, чтобы восстановить часть потери качества. В репозитории указано 6,4 млрд параметров; метаданные заявляют контекст до 131 072 токенов. Модель предназначена для генерации текста и решения задач общего назначения, включая вопросы и ответы, рассуждения и продолжение текста. В опубликованных оценках версия 3.0 улучшила результаты относительно обрезанной модели на MMLU-Pro, BoolQ, BigBench и наборах few-shot; при этом показатели на MMLU-Pro остаются ниже исходной Meta-Llama-3.1-8B. Автор также сообщает о снижении потребления памяти и задержки инференса в своих тестах. Модель принимает и генерирует текст; метаданные не задают отдельного основного языка. Лицензия — Apache-2.0.

Llama-3.1-Tulu-3-8B-SFT — англоязычная инструкционная модель семейства Tülu 3, разработанная AI2 и дообученная на базе meta-llama/Llama-3.1-8B. Это плотная авторегрессионная архитектура LlamaForCausalLM с 7,5 млрд параметров, предназначенная для диалогов и выполнения разнообразных инструкций, включая математические задачи и следование формату ответа. Модель поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors для использования с Transformers. Модель подходит для чат-ботов, ответов на вопросы, решения математических задач и оценки следования инструкциям. Карточка приводит результаты сравнительных тестов, в том числе MMLU, PopQA, GSM8K и IFEval, но они не гарантируют качество в конкретном приложении. По описанию модели, обучение безопасности ограничено, поэтому ответы могут быть проблематичными, особенно при соответствующих запросах. Лицензия — Llama 3.1 Community License Agreement.

MylesGoose Llama-3.2-3B-instruct-abliterated — чат-модель семейства Llama с 3,2 млрд параметров, основанная на Llama 3.2 3B Instruct. По названию репозитория модель прошла abliterated-модификацию, направленную на ослабление отказов; подробности метода и его эффекты в доступной карточке не раскрыты. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Метаданные указывают контекстное окно до 131 072 токенов и формат весов safetensors. Репозиторий создан MylesGoose 27 сентября 2024 года. Лицензия обозначена как other, поэтому условия использования следует проверять в файлах репозитория. Доступная карточка не содержит описания обучения, языкового покрытия или результатов оценки качества.

Llama-3.2-3B-Instruct-bf16 — компактная инструкционная языковая модель семейства Llama 3.2, разработанная Meta и представленная в формате mlx-community. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, следование инструкциям, создание и преобразование текста. В идентификаторе указано около 3 млрд параметров и формат чисел bfloat16; README также указывает совместимость с Transformers и использование экосистемы MLX. Модель работает с текстом и не заявлена как мультимодальная. Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Размер контекста и точные архитектурные характеристики в README не указаны. К сильным сторонам относятся относительно небольшой размер, инструкционная настройка и многоязычная поддержка, что делает модель подходящей для локального запуска и прикладных текстовых задач при наличии совместимого оборудования. При этом в предоставленных данных нет результатов оценивания, сведений о фактическом качестве по языкам, ограничениях безопасности, производительности или рекомендуемых ресурсах, поэтому их нельзя оценить точнее. Модель распространяется по Llama 3.2 Community License от Meta. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая соблюдение Acceptable Use Policy, указание «Built with Llama», сохранение лицензионного уведомления и дополнительные требования для продуктов с более чем 700 млн ежемесячных активных пользователей.

Llama-3-Chinese-8B-Instruct-v3 — диалоговая языковая модель семейства Llama, опубликованная HFL. Это инструкционная модель на архитектуре LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов. По карточке, она создана на основе объединения трёх моделей: hfl/Llama-3-Chinese-8B-Instruct, hfl/Llama-3-Chinese-8B-Instruct-v2 и meta-llama/Meta-Llama-3-8B-Instruct. Модель предназначена для диалогов, ответов на вопросы и генерации текста. Заявлены китайский и английский языки; поддержка чата указана в метаданных. Репозиторий содержит веса safetensors. Использование регулируется лицензией Apache-2.0 в метаданных; README также требует соблюдать лицензионные условия исходной Meta Llama 3.

QuantFactory/Llama-3-KoEn-8B-GGUF — квантизированная версия модели beomi/Llama-3-KoEn-8B, созданная с помощью llama.cpp. Исходная модель разработана Junbum Lee (Beomi) на основе Llama 3 8B; обучение продолжалось на корпусе на корейском и английском языках при поддержке программы TRC и выполнялось на TPUv4-256. Модель предназначена для генерации текста и кода, а также для адаптации к различным задачам обработки естественного языка. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и механизмом GQA. Доступен один вариант размером 8B параметров, с контекстом до 8k токенов и объёмом обучения более 80B токенов. На вход принимает только текст и генерирует текст или код; модель является статичной и обучена на офлайн-данных. README не уточняет конкретный формат квантизации и его влияние на производительность или качество. К сильным сторонам относятся поддержка корейского и английского языков, относительно компактный размер и возможность локального запуска благодаря квантизации. Ограничения включают статус предварительного релиза, дату отсечения знаний — июнь 2023 года, отсутствие встроенной инструкционной настройки у базовой модели и необходимость самостоятельно реализовать меры безопасности. Использование регулируется лицензией CC-BY-NC-SA-4.0 в сочетании с лицензией Llama 3 и соответствующими правилами допустимого использования; коммерческие и иные сценарии должны проверяться на соответствие этим условиям.

Это дообученная модель генерации текста на 1,7 млрд параметров, созданная на основе KKHYA/llavaqwen3-1.7b-finetune. Репозиторий указывает семейство архитектуры nm_mask_moe_llava_qwen3; модель предназначена для генерации текста и диалогов и поддерживает интерфейс вызова инструментов. Базовая модель относится к семейству Qwen3. Модель принимает текст и выдаёт текст. Для неё заявлено контекстное окно до 40 960 токенов. Данные обучения и подробные ограничения в карточке не описаны. Лицензия — Apache-2.0.

LlongOrca 13B 16K — большая языковая модель Open-Orca, представленная в формате GGUF и квантованная TheBloke. Она основана на архитектуре Llama и предназначена для генерации текста, диалоговых сценариев и локального запуска через совместимые приложения и библиотеки. В описании указана поддержка английского языка, а исходный набор данных — OpenOrca. Модель имеет 13 млрд параметров и контекстное окно до 16K токенов. GGUF поддерживает метаданные, специальные токены и расширяемость; доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между качеством, скоростью и потреблением памяти. Модель совместима с llama.cpp, text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другими инструментами для CPU+GPU-инференса. Для диалогов указан шаблон ChatML. К сильным сторонам относятся увеличенный контекст и возможность локального запуска на широком спектре аппаратных конфигураций благодаря квантованным версиям. Ограничения включают зависимость качества и требований к памяти от выбранного уровня квантования, а также отсутствие в README подробных результатов тестирования и характеристик мультиязычности. Для использования заявлена лицензия llama2; поскольку модель основана на Llama 2, также применяются условия лицензии Meta Llama 2. Вопросы о взаимодействии этих лицензий рекомендуется уточнять в репозитории исходной модели.

Magnum-v4-Cydonia-v1.2-22B — объединение двух предварительно обученных языковых моделей, созданное автором knifeayumu с помощью mergekit. В слияние методом SLERP вошли TheDrummer/Cydonia-22B-v1.2 и anthracite-org/magnum-v4-22b; итоговая модель использует плотную архитектуру Mistral и содержит 22 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; доступен интерфейс вызова инструментов. Контекст составляет 32 768 токенов. Карточка не приводит отдельного перечня языков, а базовые модели описаны как ориентированные на англоязычные диалоги, следование инструкциям и связную прозу. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели и лицензиями исходных моделей.

Модель ms122222/mein_qwen_14b_merged разработана ms122222 как дообученная версия Huihui-Qwen3-14B-abliterated-v2. Это плотная авторегрессионная модель семейства Qwen3 с 14 млрд параметров для генерации текста и диалогов; поддерживает интерфейс вызова инструментов. Контекст — до 40 960 токенов, основной язык в карточке — английский. Модель подходит для ответов в чате, генерации и продолжения текста, а также сценариев с передачей запросов инструментам. По README, обучение выполнялось с использованием Unsloth и Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.

alamios/Meta-Llama-3.1-8B-Instruct-GGUF-f16 — сборка Meta-Llama 3.1 8B Instruct в формате GGUF F16 для запуска через llama.cpp. Модель основана на meta-llama/Meta-Llama-3.1-8B-Instruct и предназначена для диалоговой генерации текста и ответов на запросы. Карточка указывает совместимость с выпуском llama.cpp b3565. Модель относится к семейству Llama 3.1, имеет 8 млрд параметров и поддерживает несколько языков, включая английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Репозиторий распространяется по лицензии Llama 3.1. GGUF F16 хранит веса в формате половинной точности; конкретные требования к памяти и ограничения качества в карточке не описаны.

Модель nicolepcx/Meta-Llama-3.1-8B-Instruct-tiny разработана nicolepcx и представляет собой дообученную инструктивную модель семейства Llama 3.1 с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. В качестве основы указана unsloth/meta-llama-3.1-8b-instruct-bnb-4bit; для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций; интерфейс также поддерживает вызов инструментов. Метаданные указывают английский язык и контекстное окно до 131 072 токенов. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0.

NousResearch/Meta-Llama-3-8B-Instruct-GGUF — это инструкция-ориентированная языковая модель в формате GGUF, основанная на Meta Llama 3 и опубликованная NousResearch. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции пользователя, запуск локального вывода и интеграцию в приложения, поддерживающие формат GGUF. В карточке указано, что модель работает с текстом и ориентирована на английский язык. Из доступных данных известны размер базовой модели — 8 миллиардов параметров — и принадлежность к семейству Llama 3. Формат GGUF удобен для локального запуска и использования средствами совместимой экосистемы, однако конкретные варианты квантования, требования к памяти, максимальная длина контекста, архитектурные детали и показатели качества в README не указаны. Ограничениями также являются возможные ошибки и ограничения, характерные для генеративных языковых моделей; область применения и качество для других языков не описаны. Модель распространяется по лицензии Meta Llama 3 Community License. Использование и распространение требуют соблюдения условий этой лицензии и Acceptable Use Policy, а при распространении материалов или продуктов на их основе необходимо предоставить копию соглашения и указать «Built with Meta Llama 3». Для производных моделей предусмотрены дополнительные требования к наименованию, а для продуктов и сервисов с более чем 700 миллионами активных пользователей в месяц требуется отдельное разрешение Meta.

MetaModel_moe_multilingualv1 — языковая модель с архитектурой Mixtral Mixture of Experts, созданная с помощью mergekit путём объединения нескольких моделей на базе Mistral 7B. В состав объединения входят OpenChat, CodeNinja, PiVoT, WizardMath, komt-mistral, OpenBuddy, open-aditi-hi и SauerkrautLM. Модель предназначена для генерации текста в диалогах и других сценариях, где нужны общие ответы, помощь с кодом и математикой, а также многоязычная генерация. Карточка указывает на языки английский, хинди, немецкий, французский, арабский и японский; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0. README описывает объединение специализированных моделей, но не приводит оценок качества или результатов тестирования. Поэтому пригодность для конкретного языка и задачи следует проверять на собственных примерах; качество может различаться между направлениями, представленными в смеси.

Vontra/MiMo-V2.6-Flash-RL-MLX-4bit-MTP — конверсия модели XiaomiMiMo/MiMo-V2.6-Flash-RL для MLX, опубликованная Vontra и предназначенная прежде всего для запуска на компьютерах Apple Silicon. Это генеративная текстовая модель, ориентированная на создание связного текста, объяснений и программного кода. В README приведены успешные проверки арифметики, фактических объяснений и Python-кода, однако подробные оценки качества и сценарии применения следует уточнять в карточке исходной модели. Исходная MiMo-V2.6-Flash-RL описывается как разреженная MoE-модель с 309 млрд параметров, из которых 15 млрд активны на токен, 48 трансформерными слоями, 256 маршрутизируемыми экспертами и восемью активными экспертами на токен. Исходный релиз поддерживает контекст до одного миллиона токенов и омнимодальные входы; заявлены текст, изображения и аудио. Эта версия использует 4-битную аффинную квантизацию плотных проекций с размером группы 64, тогда как эксперты MoE сохраняют формат MXFP4 с размером группы 32. Средний размер — 4,257 бита на вес, текстовая модель занимает около 154 GiB, а весь репозиторий — около 160 GiB. Поддерживаемые языки, указанные в карточке, — английский и китайский. В комплект входят MTP-предиктор, DFlash-драфтер, vision encoder, audio encoder и audio tokenizer, но текущие oMLX и MLX text generation автоматически используют только текстовый путь: MTP, DFlash, зрительные и аудиофункции пока требуют MiMo-совместимых интеграций и не заявлены как работающие в стандартном режиме. На Mac Studio с M3 Ultra, 256 ГБ памяти измерены скорости 59,4 токена в секунду при декодировании и 477,1–562,8 токена в секунду при обработке промпта; рекомендована конфигурация с 256 ГБ unified memory. Модель распространяется по лицензии MIT. Это community-конверсия, поэтому её ограничения включают высокие требования к памяти и неполную поддержку вспомогательных мультимодальных компонентов в текущем MLX-стеке.

JANGQ-AI MiniMax-M2.7-JANG_6M — квантованная версия MiniMax M2.7 от Jinho Jang (JANGQ), подготовленная для запуска через vMLX и MLX на компьютерах Apple Silicon. Это языковая модель для диалога и генерации текста с архитектурой MoE: исходная модель содержит 228,7 млрд параметров и 256 экспертов, а в метаданных репозитория указано 2,9 млрд параметров. Контекстное окно составляет 196 608 токенов. Вариант JANG_6M использует смешанную точность со средним размером около 6,03 бита: внимание и выходной слой хранятся в 8 битах, эмбеддинги и экспертные MLP — в 6 битах, а маршрутизатор экспертов — в float16. Модель предназначена для диалогов, рассуждений и сценариев с вызовом инструментов; для запуска автор рекомендует MLX Studio. Это модель с постоянным режимом рассуждений: README предупреждает, что температура 0 может приводить к бесконечным циклам рассуждений, и рекомендует температуру 1,0. Количественные результаты оценки MiniMax M2.7 для этой версии ещё не опубликованы; приведённые в карточке результаты MMLU относятся к другой модели семейства. Для запуска требуется Apple Silicon Mac с 192 ГБ объединённой памяти и MLX. Лицензия указана как other; README описывает условия как исследовательское и личное использование и требует соблюдать лицензию MiniMax.

amd/MiniMax-M3-MXFP4-AttnFP8 — мультимодальная модель условной генерации MiniMaxM3SparseForConditionalGeneration, созданная AMD на основе MiniMaxAI/MiniMax-M3. Она принимает текст и изображения и генерирует текст, поэтому предназначена для мультимодального диалога, анализа изображений, агентских сценариев, задач программирования и работы с видео при наличии соответствующей интеграции. Поддерживаются функции вызова инструментов и рассуждений через vLLM. Модель использует разреженную MoE-архитектуру и оптимизирована для AMD MI350/MI355 с ROCm 7.1.1, PyTorch 2.10.0 и Transformers 5.2.0 в Linux. Веса квантизированы в формате OCP MXFP4, а слои self-attention — в PTPC-FP8; активации используют динамическое квантование MXFP4 и FP8 для self-attention. Языки и размер контекста в README не указаны. На тесте GSM8K модель получила 94,01 против 95,30 у исходной MiniMaxAI/MiniMax-M3, что соответствует восстановлению 98,65% исходного результата. Основные ограничения — требовательность к поддерживаемому оборудованию и программному стеку AMD, а также отсутствие в README подробных оценок мультимодальных возможностей, языковой поддержки и контекстного окна. Указана лицензия minimax-community; применяется лицензия с типом other.

Mistral-7B-Instruct-demi-merge-v0.2-7B — плотная языковая модель на архитектуре Mistral, созданная разработчиком grimjim с помощью mergekit. Это слияние методом SLERP предварительно обученной alpindale/Mistral-7B-v0.2-hf и инструкционной mistralai/Mistral-7B-Instruct-v0.2; модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговые ответы по инструкциям. Модель предназначена для чат-ботов, продолжения текста и экспериментов с дальнейшим слиянием или дообучением. Заявлена работа с контекстом до 32 768 токенов без скользящего окна. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Это разговорная языковая модель Arcee-ai, созданная на основе Mistral-7B-Instruct-v0.2 с помощью прореживания слоёв. Авторы применили идеи из работы «The Unreasonable Ineffectiveness of the Deeper Layers» и инструменты MergeKit и PruneMe, чтобы сократить избыточность глубоких слоёв. Модель имеет плотную архитектуру MistralForCausalLM, около 5,4 млрд параметров и контекст до 32 768 токенов; распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации связного текста в диалоге, а также может служить основой для дообучения и продолжения предобучения под конкретные задачи. README заявляет о сохранении исходных возможностей при меньших требованиях к ресурсам, однако не приводит результатов бенчмарков, поэтому качество и выигрыш эффективности следует проверять для целевого сценария. Лицензия в предоставленных данных не указана.

mncai/mistral-7b-v5 — языковая модель MindsAndCompany на архитектуре Mistral, основанная на mistral-7b. Согласно карточке, модель прошла инструкционное дообучение и оптимизацию DPO. Она предназначена для генерации ответов на инструкции и диалоговых сценариев; в примере из карточки пользователь задаёт вопрос на корейском языке и просит объяснить решение. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст. Указанная длина контекста — 32 768 токенов. В метаданных отмечен английский язык; пример также демонстрирует ввод на корейском, но этого недостаточно, чтобы считать корейский заявленным поддерживаемым языком. Модель может быть полезна для прототипов бизнес-чатботов и ассистентов, упомянутых разработчиком. Лицензия указана как llama2; перед использованием следует проверить её условия для конкретного сценария.

mistralai/Mistral-Nemo-Instruct-2407 дообучена автором репозитория nbeerbower на наборах jondurbin/truthy-dpo-v0.1 и kyujinpy/orca_math_dpo. Это плотная авторегрессионная модель семейства Mistral для генерации текста и диалога; метаданные указывают 12,1 млрд параметров, контекст до 1 024 000 токенов и формат Safetensors. Модель предназначена для ответов на инструкции, диалоговых сценариев и генерации текста, включая математические запросы и задачи на правдивость, представленные в данных дообучения. Базовая модель многоязычная и поддерживает вызов инструментов через соответствующий интерфейс. По README, дообучение выполнено в течение одной эпохи на A100 в Google Colab. Репозиторий приводит результаты Open LLM Leaderboard: среднее 24,72, IFEval 67,94 и BBH 29,54; эти оценки не гарантируют качество на конкретных пользовательских задачах. Лицензия — Apache-2.0.

bartowski/Mistral-NeMo-Minitron-8B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Mistral-NeMo-Minitron-8B-Instruct, разработанной NVIDIA и преобразованной в GGUF с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые среды локального вывода. Для взаимодействия используется специальный шаблон с ролями System, User и Assistant. Доступны варианты от полноразмерных весов F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 4,2 до 16,8 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Квантизации выполнены с использованием imatrix; версии Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как хороший компромисс для ограниченных ресурсов. Отдельные варианты оптимизированы для ARM и требуют соответствующих аппаратных возможностей. README не указывает поддерживаемые языки, размер контекстного окна, точные архитектурные характеристики исходной модели или результаты бенчмарков. Для ARM-оптимизированных вариантов имеются ограничения совместимости: их не рекомендуется использовать на Mac и Windows. Условия лицензирования в предоставленных данных не указаны.

MN-magnum-v2.5-18.5B-kto-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели MN-magnum-v2.5-18.5B-kto-Instruct, разработанной DavidAU и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска через llama.cpp или совместимые приложения, включая LM Studio. Она поддерживает диалоговый формат с системными и пользовательскими сообщениями. В основе лежит модель размером 18,5 млрд параметров; точная архитектура, поддерживаемые языки, модальности и размер контекстного окна в README не указаны. Доступны варианты от F16 до низкобитных квантований Q2 и IQ, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Для квантования использовались llama.cpp и imatrix с указанным набором данных; варианты Q5–Q6 отмечены как высококачественные и рекомендуемые, а Q3 и Q2 предназначены для систем с ограниченными ресурсами, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке исходной модели DavidAU/MN-magnum-v2.5-18.5B-kto-Instruct.

leesalminen/model-3 — дообученная диалоговая языковая модель семейства Llama на базе unsloth/Hermes-3-Llama-3.1-8B. Разработчик карточки — leesalminen; при обучении использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста и ответов в диалоге, а её интерфейс поддерживает вызов инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно до 131 072 токенов. В карточке указан английский язык. Веса представлены в формате safetensors. Лицензия — Apache-2.0.

korvo/MS-RandomMergeTest_v2-TIES-22B — объединённая модель для генерации текста, созданная автором репозитория с помощью mergekit. В основе объединения лежит concedo/Beepo-22B; также использованы nbeerbower/Mistral-Small-Gutenberg-Doppel-22B, anthracite-org/magnum-v4-22b, crestf411/MS-sunfall-v0.7.0 и TheDrummer/Cydonia-22B-v1.1. В README указан метод della_linear, а метаданные описывают архитектуру как плотную MistralForCausalLM размером 22 млрд параметров. Модель предназначена для генерации связного текста и диалогового применения. Она принимает текст и выдаёт текст, работает с контекстом до 32 768 токенов; базовая модель описана в каталоге как англоязычная диалоговая модель для следования инструкциям и создания прозы. Репозиторий содержит веса в формате safetensors и имеет интерфейс для вызова инструментов. Лицензия в предоставленных данных не указана.

Nanbeige4.2-3B Heretic — вариант Nanbeige/Nanbeige4.2-3B, выпущенный WaveCut и дообученный с помощью ARA-LoRA. Модель предназначена для генерации текста в диалогах; ключевое изменение — заметное снижение частоты отказов при сохранении большей части возможностей базовой модели. В тесте автора число отказов снизилось с 17 до 1 на 100 запросах; это результат конкретного набора тестов, а не гарантия поведения в других сценариях. Модель имеет плотную архитектуру Nanbeige, 3,2 млрд параметров и контекст до 262 144 токенов. Она принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Для загрузки через Transformers требуется включить trust_remote_code=True из-за пользовательской реализации Looped Transformer, в которой 22 физических слоя декодера выполняются дважды. Распространяется в формате Safetensors по лицензии Apache-2.0. Из-за намеренно ослабленного отказного поведения для использования нужны подходящие ограничения доступа, мониторинг и меры безопасности на уровне приложения.

Nemotron-3-Nano-Omni-30B-A3B-JANGTQ-CRACK — мультимодальная модель dealignai на базе NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning. Это вариант с дообучением CRACK v2 и смешанной низкоразрядной схемой JANGTQ: 8-битными весами внимания и 2-битными маршрутизируемыми экспертами. В архитектуре сочетаются Mamba-2, внимание и MoE; базовая модель содержит 30B параметров с 3B активных, а в метаданных этой модели указано 1,9B параметров. Для запуска заявлена библиотека MLX; README рекомендует vMLX или jang-tools. Модель предназначена для диалогов, рассуждений и мультимодальной работы с текстом, изображениями и аудио, включая речь. В карточке заявлена поддержка видео при использовании отдельного мультимодального дополнения. Контекст составляет 262 144 токена. README приводит результаты 81,5% на MMLU-200 и 91,6% на HarmBench-320, а также сообщает об удалении обучения отказам: модель может выдавать вредные ответы и требует собственного защитного слоя перед применением. Лицензия указана как other; конкретные условия следует проверять в репозитории.

Это версия NVIDIA Nemotron 3 Nano 4B в формате GGUF BF16, опубликованная DevQuasar на основе nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. Модель предназначена для генерации текста и диалогового общения; компактная базовая модель NVIDIA рассчитана также на рассуждения, программирование и агентные сценарии на локальных устройствах. В репозитории указано преобразование в GGUF BF16. Карточка не описывает отдельные настройки, результаты оценки или дополнительные ограничения этой версии. Лицензия в предоставленных данных не указана.

nyun-c2-llama3-50B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Nyun AI. Она предназначена для генерации текста и общих языковых задач; заявленный размер — 76,2 млрд параметров, контекст — до 8192 токенов. Модель сохранена в формате Safetensors и использует лицензию Llama 3. По карточке Nyun AI, модель получила примерно на 29% меньше параметров, чем Llama 3 70B, за счёт оптимизаций без дополнительного дообучения. Разработчик сообщает о близких результатах на отдельных бенчмарках, включая MMLU, Winogrande и BoolQ. Эти результаты не гарантируют качество на других задачах; модель может ошибаться и требует значительных вычислительных ресурсов из-за размера.

Occiglot-7B-it-en-Instruct — генеративная языковая модель Occiglot Research Collective, дообученная следовать инструкциям и поддерживать диалог. Это плотный decoder-only трансформер Mistral с 7,1 млрд параметров; модель принимает текст и имеет контекст до 32 768 токенов. Карточка описывает поддержку английского и итальянского языков, а также кода; обучение включало многоязычные и программные инструкции, а взаимодействие рассчитано на шаблон ChatML. Модель подходит для диалоговых ответов, выполнения текстовых инструкций, генерации текста и помощи с кодом на английском и итальянском. Это ранний выпуск исследовательского проекта, обученный на дополнительных инструкционных данных; приведённые оценки названы предварительными, а неанглоязычные результаты ограничены особенностями тестовых наборов. Модель не прошла safety alignment и может выдавать проблемный контент. Лицензия — Apache 2.0.