II.1Анализ требований и архитектура ПО

Experiment26Yamshadow_T3qM7 — объединённая модель Mistral, созданная на основе automerger/Experiment26Yamshadow-7B и automerger/T3qM7-7B. Она предназначена для генерации текста и диалоговых сценариев на базе причинной языковой модели с 7,1 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель может использоваться для продолжения текста и создания ответов на текстовые запросы. Для неё указана лицензия Apache 2.0. Карточка не описывает специализированные области применения или конкретные языковые возможности, поэтому модель следует считать общего назначения.

Experiment28M7_Inex12Experiment28 — объединённая модель генерации текста, созданная MaziyarPanahi на основе automerger/Experiment28M7-7B и automerger/Inex12Experiment28-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не сообщает о специализированной предметной области или дополнительных возможностях.

DevQuasar опубликовал GGUF-версию модели FINAL-Bench/Darwin-36B-Opus для генерации текста и диалогов. Карточка указывает, что это версия базовой модели, а метаданные описывают её как мультиязычную MoE-модель для диалогов и сложных задач рассуждения с длинным контекстом. Репозиторий содержит веса в формате GGUF F16. Модель предназначена для текстового общения и генерации ответов. README не приводит дополнительных сведений о поддерживаемых языках, точном размере контекста, лицензии и ограничениях использования.

EpistemeAI2 Fireball-Alpaca-Llama-3.1-8B-TypeR — чат-модель для генерации текста, разработанная EpistemeAI2 на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель дообучена с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для диалоговой генерации текста и других сценариев, поддерживаемых задачей text-generation. В метаданных указан английский язык. Репозиторий распространяется по лицензии Apache-2.0. README не сообщает о специальных областях применения или уникальных возможностях дообучения.

flammenai/flammen5-mistral-7B — плотная языковая модель семейства Mistral с 7,1 млрд параметров для генерации текста. Она создана объединением предварительно обученных моделей nbeerbower/Flammen-Kunoichi-7B и yam-peleg/Experiment26-7B методом SLERP с помощью mergekit. Модель предназначена для сценариев генерации текста; её максимальный контекст составляет 32 768 токенов. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. В предоставленной карточке не описаны конкретные языковые специализации и ограничения качества, поэтому их нельзя уточнить.

flammen7-mistral-7B — плотная языковая модель для генерации текста, созданная flammenai слиянием предварительно обученных моделей через SLERP с помощью mergekit. В объединение вошли nbeerbower/flammen6-mistral-7B и nbeerbower/flammen3X; веса опубликованы в формате safetensors и имеют точность bfloat16. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста. Карточка не уточняет языковую специализацию и сценарии применения, поэтому их нельзя конкретизировать. Лицензия — Apache-2.0.

Fwizzer-R1-3B-RU — русскоязычная языковая модель, разработанная автором или организацией fwizzer1. Она обучена в стиле пошаговых рассуждений DeepSeek-R1 CoT на отобранном датасете ru-deepthink-11k и предназначена для генерации текста, решения логических задач и сценариев, где требуется явное рассуждение. Модель имеет размер 3 млрд параметров и поддерживает русский и английский языки. Она доступна в формате GGUF в двух вариантах: Speed с квантизацией Q4_K_M и размером около 2,15 ГБ, а также Max с квантизацией Q8_0 и размером около 3,40 ГБ. Для локального запуска рекомендуются LM Studio или llama-cpp-python; в примере использования указан контекст 4096 токенов. Модель работает только с текстом и может выводить ход рассуждений в тегах <think>. К сильным сторонам относятся ориентация на русскоязычные задачи, поддержка пошагового рассуждения и возможность локального запуска на относительно доступном оборудовании. Вариант Speed рассчитан на ноутбуки, RTX 3050 и системы с 16 ГБ оперативной памяти, тогда как Max ориентирован на компьютеры минимум с 8 ГБ видеопамяти. Ограничения включают небольшой размер модели по сравнению с крупными LLM и отсутствие заявленных мультимодальных возможностей или расширенных характеристик контекстного окна. Модель распространяется по лицензии Apache-2.0.

QuantFactory/gemma-2-9b-it-DPO-GGUF — квантизированная версия модели princeton-nlp/gemma-2-9b-it-DPO, созданная с использованием llama.cpp. Исходная модель разработана Yu Meng, Mengzhou Xia и Danqi Chen на базе google/gemma-2-9b-it и дообучена на наборе предпочтений princeton-nlp/gemma2-ultrafeedback-armorm с целевой функцией DPO. Это каузальная языковая модель для генерации текста и диалоговых сценариев, включая ответы на пользовательские запросы и задачи, где важны качество и соответствие человеческим предпочтениям. Архитектура, размер и контекст у квантизированной версии в README не указаны отдельно; известно, что она основана на Gemma 2 9B Instruct. Модель является текстовой и поддерживает генерацию текста; перечень языков не приведён. Обучение на предпочтениях улучшило показатели исходной модели в ряде оценок, включая AE2 и AH, при сопоставимых результатах на GSM и MMLU, однако отдельные метрики, такие как MMLU, не выросли. Квантизация может снизить требования к памяти и упростить локальный запуск, но её влияние на качество и характеристики не раскрыто. Лицензия указана как gemma. Для обучения использовались 8 GPU H100; параметры запуска и совместимость зависят от конкретного GGUF-файла и среды llama.cpp.

Это компактная инструкционная текстовая модель семейства Gemma 3 с плотной архитектурой Gemma3ForCausalLM и 257 млн параметров. Репозиторий mlx-community содержит версию google/gemma-3-270m-it, подготовленную для работы с библиотекой MLX; README указывает на конвертацию исходной модели в формат MLX с помощью mlx-lm 0.26.3. Модель предназначена для диалогов и генерации текста: её можно использовать для ответов на вопросы, суммаризации и других текстовых запросов. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Лицензия — Gemma.

Gemma 4 26B-A4B-it-qat-MXFP4-CRACK — мультимодальная модель dealignai на основе Google Gemma 4 26B-A4B-it. Это вариант с удалённым отказом на запросы, который сохраняет работу с изображениями, ответы на вопросы, многошаговые рассуждения и генерацию кода. По данным карточки, в тесте HarmBench модель выполнила 58 из 60 запросов из вредоносных категорий, а результат MMLU составил 78,5% против 83,3% у базовой модели. Модель использует архитектуру MoE с 128 экспертами и восемью активными экспертами, а веса представлены в квантизации MXFP4 с точностью 4 бита. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на компьютерах Apple Silicon с достаточным объёмом объединённой памяти; стандартные mlx_lm и mlx_vlm, согласно README, не обеспечивают полной поддержки Gemma 4. Модель распространяется по лицензии Gemma. Она рассчитана на универсальный диалог с текстом и изображениями, но заметно снижает барьеры отказа на вредоносные запросы; результаты тестов приведены автором модели.

fraQtl/Gemma-4-E2B-it-Hi-Fi-GGUF — это GGUF-квантизация модели google/gemma-4-E2B-it, подготовленная fraQtl с использованием calibration-aware per-tensor quantization. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе на устройствах с ограниченными ресурсами. Заявлены английский язык, работа без подключения к сети и сценарии edge/on-device. В репозитории представлены варианты Q4_K_M: изоразмерный файл объёмом около 3,46 ГБ с эффективными 5,93 битами на вес и телефонный вариант около 2,86 ГБ с 4,89 битами на вес. По приведённым измерениям, они точнее воспроизводят распределения исходной модели в сравнении с указанным community Q4_K_M baseline. На iPhone 16-класса для демонстрационного сценария заявлены около 516 МБ resident memory, примерно 12 токенов в секунду в интерактивном режиме и 21,6 токена в секунду в тесте генерации на 256 токенов. Модель подходит для офлайн-ассистентов, общих вопросов, генерации кода, чтения документов и работы в приложениях, где действия выполняются отдельным детерминированным программным слоем. В демонстрации поддерживаются голосовой ввод, озвучивание ответов, календарные операции и работа с контактами, однако распознавание речи, синтез речи и фактическая запись событий выполняются компонентами приложения, а не самой языковой моделью. По замыслу отсутствуют сетевые вызовы, доступ к электронной почте и сообщениям; квантизация может снижать точность по сравнению с исходной bf16-моделью. Лицензия — Apache 2.0.

Dzluck публикует Gemma 4 E2B JANG4M CRACK — изменённую версию Google Gemma 4 E2B Instruct с удалёнными отказами. Модель предназначена для диалогов, рассуждений, ответов на вопросы и генерации кода; принимает текст и изображения, а автор также заявляет о сохранении аудиовхода. Каталог Hugging Face относит её к мультимодальной задаче image-text-to-text и указывает архитектуру Gemma4ForConditionalGeneration с плотной архитектурой. Модель использует смешанную квантизацию JANG_4M: 8-битные веса внимания и 4-битные веса MLP, в среднем около 4,3 бита. По данным автора, MMLU снизился на 1,7 процентного пункта относительно исходной модели; в тестах HarmBench автор сообщает о полном выполнении запросов вредных категорий. Для запуска нужны Mac на Apple Silicon и vMLX с поддержкой Gemma 4; стандартные mlx_lm и mlx_vlm поддерживаются не полностью. Лицензия — Gemma; карточка также обозначает модель как предназначенную для исследований.

mlboydaisuke/gemma-4-E4B-CoreAI — это текстовая генеративная модель Gemma 4 E4B, разработанная Google и преобразованная в формат Apple Core AI компанией или автором репозитория модели. Она предназначена для локального запуска на устройствах Apple под управлением iOS 27 и macOS 27, включая офлайн-диалоги, суммаризацию, генерацию текста и интеграцию в приложения через CoreAIKit. Модель может работать на GPU или Neural Engine без пользовательских ядер. Модель основана на официальном QAT-чекпойнте google/gemma-4-E4B-it-qat-q4_0-unquantized. Это плотный текстовый decoder-only трансформер без MoE: заявлены 42 слоя, скрытое представление размером 2560, промежуточный размер 10240, 8 query heads и 2 KV heads; полное внимание используется в каждом шестом слое. Веса подготовлены для округления q4_0 и представлены в виде int4-квантизации с блоками по 32 значения. Размер поставляемых файлов составляет примерно 7,1 ГБ, а пиковое потребление памяти на iPhone 17 Pro заявлено на уровне 2,2 ГБ. Сильные стороны модели — запуск полностью на устройстве, отсутствие необходимости в облачном API, совместимость с экосистемой Apple и подтверждённое совпадение жадной генерации с эталоном на указанных тестах. Ограничения включают зависимость от iOS 27 или macOS 27, аппаратной платформы Apple и конкретного runtime Core AI; сведения о поддерживаемых языках и максимальной длине контекста в карточке не указаны. Модель распространяется по лицензии Apache-2.0, при этом базовый Gemma-чекпойнт имеет собственные условия Google, на которые указывает ссылка в метаданных.

Ayodele01/gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-GGUF — GGUF-квантизированные версии инструкционно дообученной модели Google Gemma-4 E4B с 4 млрд параметров. Модель доработана методом LoRA на наборах данных с примерами рассуждений, созданных на основе Gemini 3.1 Pro, чтобы улучшить способности к пошаговому reasoning и решению сложных задач. Модель ориентирована на генерацию текста и указана как англоязычная. Модель предназначена для локального запуска через llama.cpp и Ollama, включая задачи ответов на вопросы, логического вывода, решения математических и других требующих рассуждений запросов. Доступны варианты F16, Q8_0, Q5_K_M, Q4_K_M и Q3_K_M размером примерно от 4,6 до 15 ГБ; вариант Q5_K_M обозначен как сбалансированный и рекомендуемый. Заявлена поддержка контекста до 128K токенов, при этом в рекомендуемых настройках указана длина 8192 токена. Сильными сторонами модели являются компактный размер, возможность работы на локальных устройствах и специализация на reasoning-задачах. Качество и требования к памяти зависят от выбранного уровня квантизации: F16 обеспечивает наилучшее качество, а Q3_K_M подходит для наиболее ограниченных устройств, вероятно снижая точность. В README не приведены независимые результаты оценки, подробные сведения об архитектуре Gemma-4 или гарантии качества рассуждений. Модель распространяется по лицензии Gemma.

GPT4All-J — языковая модель Nomic AI для генерации текста в стиле ассистента, дообученная на базе GPT-J на курируемом наборе диалогов и других взаимодействий с ассистентом. В обучающие данные входят задачи на рассуждение, многоходовые диалоги, код, стихи, песни и рассказы. Карточка описывает несколько версий модели; загрузка без указания revision использует v1.0. Модель предназначена для диалоговых ответов и генерации текста по запросу, включая помощь с задачами, написание историй и стихов, а также генерацию кода. Это плотная авторегрессионная архитектура GPT-J с контекстом до 2048 токенов; указанный основной язык — английский. Модель принимает текст и генерирует текст. Модель распространяется под лицензией Apache-2.0. Качество ответов зависит от запроса и версии обучающих данных; карточка не даёт гарантий точности фактов или надёжности сгенерированного кода.

granite-3.0-8b-lab-community-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Granite 3.0 8B lab community, разработанной в экосистеме IBM InstructLab. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как instructlab/granite-3.0-8b-lab-community. В метаданных также упоминается набор данных InstructLabCommunity. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые инструменты llama.cpp. Указана поддержка английского языка. Доступны варианты от F16 до разных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер базовой модели — 8 миллиардов параметров; сведения об архитектуре и размере контекстного окна в README не приведены. Сильная сторона этой версии — широкий выбор квантизаций: высококачественные варианты Q6 и Q5 рекомендованы для требовательных сценариев, а Q4 и более компактные варианты подходят для запуска при ограниченных ресурсах. Ограничения связаны с потерями качества при низких уровнях квантизации, а также с отсутствием в README подробных данных о производительности, мультиязычности и поддерживаемых модальностях; модель описана как текстовая. Модель распространяется по лицензии Apache-2.0.

h2o-danube-1.8b-sft — чат-модель H2O.ai с дообучением методом SFT, содержащая около 1,7 млрд параметров. Она основана на модифицированной архитектуре Llama 2 с причинной языковой моделью MistralForCausalLM и обучалась с помощью H2O LLM Studio. Модель предназначена для генерации текста в диалогах и ответов на запросы. Модель использует токенизатор Llama 2 с словарём из 32 000 токенов, поддерживает контекст до 16 384 токенов и скользящее оконное внимание размером 4 096. В карточке указаны английский язык и обучающие наборы OpenOrca, OpenAssistant OASST2, UltraChat 200k и MetaMathQA. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Модель может выдавать ошибочные или бессмысленные ответы и воспроизводить предвзятые либо оскорбительные высказывания из обучающих данных. Сгенерированный текст следует проверять; качество на конкретных задачах в карточке не подтверждено.

h2oai/h2ogpt-4096-llama2-7b-chat — чат-модель H2O.ai, созданная на основе Meta Llama 2 7B Chat. Она предназначена для диалога с пользователем и генерации текста; её можно использовать в сравнении языковых моделей и для чата по частным документам через демонстрационное приложение h2oGPT. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 4096 токенов. Модель распространяется в форматах PyTorch и safetensors по лицензии Llama 2.

HARC-Llama-3.1-8B-Instruct — языковая модель Microsoft для генерации текста и диалогов с акцентом на safety alignment. Она создана слиянием LoRA-настройки HARC с Meta-Llama-3.1-8B-Instruct и распространяется как самостоятельная модель. Архитектура — плотная LlamaForCausalLM; размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель загружается через Transformers из файлов safetensors. Модель предназначена для диалоговых сценариев и генерации ответов с настройкой на безопасность. В метаданных указана поддержка многоязычности базовой модели; README не уточняет языки, специально охваченные настройкой HARC. Лицензия — Llama 3.1 Community License (llama3.1); при использовании необходимо соблюдать её условия и условия лицензии базовой модели.

Huihui-Qwen3.6-35B-A3B-Claude-4.6-Opus-abliterated-i1-GGUF — это GGUF-квантизация модели Huihui-Qwen3.6-35B-A3B-Claude-4.6-Opus-abliterated, разработанной huihui-ai и подготовленной в виде квантованных файлов пользователем mradermacher. Модель основана на архитектуре Qwen3.6 с разреженной MoE-структурой; заявленный размер — 35B параметров при 3B активных параметров. Репозиторий содержит варианты i1-квантизации с размерами примерно от 7,6 до 20 ГБ, а также imatrix-файл для самостоятельного создания квантовок. Модель предназначена для генерации текста, диалоговых сценариев и задач, связанных с рассуждениями. В описании также заявлена поддержка изображений и текста, поэтому она может применяться в мультимодальных сценариях при наличии совместимых mmproj-файлов. Указанный язык — английский. Модель совместима с экосистемой Transformers и инструментами инференса, включая text-generation-inference и vLLM; формат GGUF ориентирован на локальный запуск средствами, поддерживающими этот формат. Сильной стороной являются различные уровни квантизации, позволяющие выбирать между размером файла, скоростью и качеством. При этом низкобитные варианты могут заметно уступать по качеству: в README отдельные сборки обозначены как имеющие низкое качество или предназначенные для случаев острой нехватки ресурсов. Точный размер контекстного окна и результаты бенчмарков не указаны. Обозначения abliterated и uncensored указывают на отсутствие или ослабление части стандартных ограничений безопасности, поэтому поведение модели и пригодность для чувствительных задач следует проверять отдельно. Указанная лицензия — Apache-2.0.

Icefog72 разработал Ice0.34n-14.11-RP как слияние предварительно обученных языковых моделей методом SLERP с помощью mergekit. В слиянии использованы Ice0.32-10.11-RP и Ice0.33-13.11-RP; модель основана на Ice0.32-10.11-RP. Это плотная MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов, распространяемая в формате safetensors. Модель предназначена для генерации текста в диалоговом формате. В README приведены результаты Open LLM Leaderboard, включая средний балл 21,83 и результат IFEval 47,87; эти показатели сами по себе не гарантируют качество в конкретных сценариях. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение.

Ice0.51.1-16.01-RP — объединённая языковая модель автора icefog72, созданная методом SLERP с помощью mergekit из двух предварительно обученных моделей. Это плотная Mistral-архитектура с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое общение. Указанная длина контекста — 32 768 токенов; веса доступны в формате safetensors и предназначены для работы через Transformers. Модель подходит для ведения диалогов и генерации ответов или продолжений текста. Карточка не сообщает языки обучения и отдельные специализированные области применения. Лицензия в предоставленных данных не указана.

Ice0.57-17.01-RP — объединённая языковая модель, созданная автором репозитория с помощью mergekit из Ice0.55-17.01-RP и Ice0.56-17.01-RP методом SLERP. Это плотная causal language model семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Контекст составляет до 32 768 токенов; модель распространяется в формате safetensors. Модель может использоваться для диалогов и генерации продолжений текста в задачах общего назначения. README не описывает отдельные навыки, обучающие данные или целевые области применения. Лицензия в предоставленных данных не указана.

bartowski/inclusionAI_Ring-mini-2.0-GGUF — это набор квантизованных версий языковой модели Ring-mini-2.0, разработанной inclusionAI. Модель предназначена для генерации текста и запускается в формате GGUF через llama.cpp, LM Studio и другие совместимые приложения. В README указано, что квантизация выполнена с использованием llama.cpp и метода imatrix. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и Q3_K с размером файлов примерно от 6,82 до 32,54 ГБ. Более крупные варианты обеспечивают более высокое качество, а Q4_K_M указан как вариант по умолчанию для большинства сценариев; Q6_K и Q6_K_L отмечены как версии очень высокого качества. Модель поддерживает формат промпта с ролями SYSTEM, HUMAN и ASSISTANT, а также специальным маркером рассуждений. Набор подходит для локального вывода текста на устройствах с ограниченными ресурсами, если выбрать подходящий уровень квантизации. Ограничения, архитектура, количество параметров, поддерживаемые языки, размер контекстного окна и мультимодальные возможности в README не указаны. Лицензия модели также не указана, поэтому условия использования следует уточнять в описании исходной модели inclusionAI/Ring-mini-2.0.

Inex12Yamshadowexperiment28-7B — слитая модель, автоматически созданная Maxime Labonne объединением MSL7/INEX12-7b и automerger/YamshadowExperiment28-7B методом SLERP. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Модель распространяется в формате safetensors и имеет лицензию Apache-2.0. README описывает конфигурацию слияния и приводит пример использования через Transformers, но не содержит оценок качества или сведений о поддерживаемых языках.

Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

ClaudioItaly/Intelligence-Cod-Rag-7B-v4 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES из happzy2633/qwen2.5-7b-ins-v3, EVA-UNIT-01/EVA-Qwen2.5-7B-v0.1 и AIDC-AI/Marco-o1. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста в формате диалога. Контекст — до 32 768 токенов. Модель можно использовать для ведения диалогов и генерации ответов на текстовые запросы. Карточка не описывает отдельные области применения или специальные возможности RAG, поэтому название модели само по себе не подтверждает, что она выполняет поиск по документам. Веса опубликованы в формате Safetensors; лицензия в предоставленных данных не указана.

Interim-MN-fp16 — разговорная языковая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 12,1 млрд параметров. Репозиторий опубликовал rAIfle; модель предназначена для генерации текста в диалогах. Заявленная длина контекста — 131 072 токена. Автор описывает результат как приемлемый по собственной проверке Nala и рекомендует использовать стандартные настройки Nemo либо настройки из репозитория Recommended Settings. Независимые результаты бенчмарков в карточке не приведены. Файлы представлены в формате safetensors, лицензия в предоставленных данных не указана.

JetMoE-8B — открытая языковая модель семейства JetMoE, созданная Yikang Shen, Zhen Guo, Tianle Cai и Zengyi Qin. Она предназначена для генерации текста и может служить базой для дообучения и исследовательских экспериментов. Авторы сообщают, что модель обучена на 1,25 трлн токенов из общедоступных наборов данных. Архитектура состоит из 24 блоков, в каждом из которых есть слой смеси голов внимания (MoA) и слой смеси экспертов MLP (MoE). В каждом слое восемь экспертов, из которых для токена активируются два. README указывает 8 млрд параметров всего и 2,2 млрд активных параметров при выводе; метаданные Hugging Face указывают размер 1,6 млрд параметров. Модель принимает текст, генерирует текст и имеет контекстное окно 4096 токенов. Авторы заявляют о конкурентных результатах относительно ряда моделей большего размера и о сравнительно низкой стоимости обучения, однако приведённые в карточке таблицы неполны, поэтому независимо оценить эти сравнения по ней нельзя. Модель доступна в формате safetensors под лицензией Apache-2.0; карточка сообщает об открытом коде и обучении только на публичных данных.

soyaakinohara опубликовал BF16-вариант K2-Horizon-32B, доработанный инструментом Heretic для ослабления отказов модели. Это плотная языковая модель семейства K2Horizon с 31,2 млрд параметров по метаданным; README указывает 34,8 млрд. Контекст составляет 524 288 токенов. Модель предназначена для генерации текста и диалогов на английском и других языках. Веса в формате safetensors разделены на 64 файла, их общий размер — около 69,6 ГиБ; для загрузки требуется примерно 70 ГиБ памяти. Для запуска необходимы Transformers и trust_remote_code=True. Изменение выполнено через ослабление отказов Heretic и слияние LoRA с исходными BF16-весами; дополнительного обучения не проводилось. В README приведён результат испытания: 3 отказа из 100 и KL-дивергенция 0,056. Модель распространяется по лицензии Apache-2.0. Доступны также квантизованные версии в отдельном репозитории GGUF.