II.10Разработка и эксплуатация AI/ML-систем

Bellatrix-Tiny-0.5B — компактная авторегрессионная языковая модель на архитектуре Qwen2, разработанная prithivMLmods и дообученная на базе Qwen/Qwen2.5-0.5B-Instruct. Модель содержит 494 млн параметров, рассчитана на контекст до 32 768 токенов и принимает и выдаёт текст. В README заявлены многоязычный диалог, следование инструкциям, рассуждения, агентный поиск информации и суммаризация; доступны интерфейс чата и интерфейс вызова инструментов. Модель подходит для диалоговых приложений, обобщения текстов и ответов по найденной информации. Карточка описывает настройку с помощью supervised fine-tuning и RLHF, однако не приводит отдельных результатов оценки качества. Репозиторий содержит веса Safetensors и формат ONNX. Лицензия — Apache-2.0. Качество может снижаться на узкоспециализированных задачах, а ответы могут содержать ошибки и смещения из-за обучающих данных. Поддержка менее распространённых языков и диалектов может быть слабее; модели также может быть трудно разбирать неоднозначные реальные ситуации. Инференс и дообучение требуют вычислительных ресурсов.

c4ai-command-r7b-12-2024-abliterated-GGUF — GGUF-квантизированная версия текстовой генеративной модели c4ai-command-r7b-12-2024-abliterated. Модель подготовлена huihui-ai, а квантизации выполнены bartowski с использованием llama.cpp и метода imatrix. По идентификатору это модель класса 7B; точная архитектура и размер контекста в README не указаны. Модель предназначена для генерации и продолжения текста, диалоговых сценариев и локального запуска через llama.cpp или LM Studio. Указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского, арабского, греческого, персидского, польского, индонезийского, чешского, иврита, хинди, нидерландского, румынского, русского, турецкого, украинского и вьетнамского языков. Это текстовая модель без заявленной поддержки изображений, аудио или других модальностей. Доступны варианты от BF16 до различных уровней квантизации, примерно от 4,8 до 16,1 ГБ; версии Q5 и Q6 отмечены как высококачественные, а Q4_K_M рекомендована как стандартный вариант. Квантизация уменьшает требования к памяти и упрощает локальный запуск, но может снижать качество по сравнению с исходными весами. Модель помечена как abliterated и uncensored, поэтому её поведение, защитные ограничения и пригодность для чувствительных сценариев могут отличаться от исходной модели. Лицензия CC BY-NC 4.0 разрешает использование только на некоммерческих условиях; для загрузки требуется согласие с условиями лицензии.

ChatML-Nemo-Pro-V2 — объединённая языковая модель, опубликованная пользователем win10. Она создана методом TIES с помощью mergekit на базе shuttleai/shuttle-2.5-mini с включением cognitivecomputations/dolphin-2.9.3-mistral-nemo-12b. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Метаданные указывают контекстное окно до 1 024 000 токенов; в карточке также отмечена поддержка чата. README не описывает отдельные специализированные сценарии или языки, поэтому модель можно характеризовать только как универсальную языковую модель для генерации текста и диалога. В репозитории указаны веса в формате safetensors. Лицензия в предоставленных данных не указана.

FIxtral — диалоговая языковая модель, опубликованная zaursamedov1 и основанная на объединении модели mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для генерации текста и ответов на инструкции в дружелюбном пошаговом стиле; в карточке приведён пример использования через Transformers. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0.

Gemma 4 31B it — мультимодальная инструкционная модель Google, представленная в 4-битной квантизированной версии MLX. Исходная модель — google/gemma-4-31B-it, а квантизацию с использованием mlx_vlm выполнила команда LM Studio. Версия оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для задач генерации текста и обработки изображений с текстом, включая сценарии, поддерживаемые классом image-text-to-text. Благодаря инструкционному варианту она рассчитана на выполнение запросов пользователя в диалоговых и прикладных задачах. Размер исходной модели составляет 31 млрд параметров, однако точные сведения о поддерживаемых языках, размере контекста и архитектурных особенностях в README не указаны. Ключевое преимущество версии — снижение требований к памяти за счёт 4-битной квантизации и оптимизация под экосистему Apple Silicon. Ограничения включают возможное снижение точности по сравнению с полной версией, зависимость производительности от оборудования Apple и отсутствие в предоставленных данных подробных результатов тестирования. Модель распространяется по лицензии Apache 2.0.

Huihui-gemma-4-26B-A4B-it-abliterated-GGUF — это квантованный релиз модели Huihui Gemma 4 26B A4B IT Abliterated, подготовленный пользователем groxaxo. Модель распространяется в формате GGUF для локального запуска и совместимых с llama.cpp сред. Исходная модель разработана huihui-ai; данный репозиторий содержит только её квантованные сборки. Модель предназначена для генерации текста по текстовым запросам, а также для мультимодальных сценариев image-text-to-text: анализа и описания изображений с учётом текстовой инструкции. Для работы с изображениями требуется совместимый файл mmproj. Доступны варианты квантования с разным балансом между качеством, скоростью и потреблением VRAM и RAM; более крупные и высокобитные варианты обычно сохраняют больше качества, а компактные требуют меньше ресурсов, но сильнее теряют в точности. Ключевые характеристики: архитектура и параметры унаследованы от базовой модели Gemma 4 26B A4B, формат — GGUF, целевой runtime — llama.cpp, поддерживаются текстовая и визуальная модальности. Точные языки и размер контекстного окна в README не указаны. К сильным сторонам относятся локальный запуск, выбор из множества квантований и поддержка мультимодального вывода. Ограничения включают зависимость качества от выбранной квантовки, аппаратных ресурсов и корректности файла mmproj, а также возможные неточности и особенности поведения модели с уменьшенными ограничениями фильтрации. Конкретная лицензия в README не приведена; перед использованием и распространением необходимо проверить лицензию исходной модели и файлы репозитория.

Apollo Raines представляет Llama-3.1-8B-Instruct-Uncensored-Complete — вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze. По README, модель создана без дополнительного обучения: поведенческие изменения внесены непосредственно в веса. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и английский язык. Модель предназначена для диалогов и генерации ответов, включая прямые ответы без обычных отказов и оговорок. Примеры в карточке показывают ответы на общие вопросы, простые вычисления, написание кода и практические инструкции. В README заявлено подавление многословности, уклончивости, токсичности и отказов; это описание поведения автора, а не независимая оценка качества. Карточка сообщает, что известных проблем не наблюдалось, но не приводит результатов систематической оценки. Модель распространяется в формате safetensors и использует лицензию Llama 3.1 (llama3.1).

LongReward-glm4-9b-DPO — чат-модель на архитектуре GLM, разработанная командой LongReward и дообученная методом DPO для работы с длинным контекстом. Она предназначена для генерации ответов и диалога, в том числе с использованием интерфейса вызова инструментов. Модель обучена на предпочтениях из раздела dpo_glm4_9b датасета LongReward-10k и поддерживает контекст до 65 536 токенов. Модель содержит 8,8 млрд параметров, использует библиотеку Transformers и опубликована в формате safetensors. В карточке указаны английский и китайский языки. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией в репозитории. Данных о качестве на конкретных задачах в карточке нет.

Карточка модели Iambackup/MiniMax-M2.5-UNCENSORED-JANG_2L на Hugging Face совпадает с карточкой Ishowbackup/MiniMax-M2.5-UNCENSORED-JANG_2L, поэтому описание составлено по ней. MiniMax-M2.5-UNCENSORED-JANG_2L — производная модель MiniMaxAI/MiniMax-M2.5, подготовленная Jinho Jang. Это языковая модель с архитектурой MiniMax M2 MoE и интерфейсами чата и вызова инструментов. В README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен; смешанная квантизация JANG_2L задаёт 8 бит для внимания, 6 бит для эмбеддингов и 2 бита для экспертов. Метаданные указывают 2,9 млрд параметров, поэтому оценку размера из README следует считать расходящейся с ними. Для хранения требуется около 63 ГБ; формат JANG поддерживается MLX Studio и пакетом jang-tools на Apple Silicon. Контекст — 196 608 токенов. Модель предназначена для генерации ответов в чате, рассуждений и работы с инструментами. README также описывает CRACK — изменение весов, удаляющее отказы, связанные с защитными настройками; это может позволить получать вредоносные или опасные ответы. В README приведены результаты тестов MMLU и HarmBench, но они не являются независимой оценкой качества. Лицензия в метаданных — Apache-2.0; модель рассчитана на английский, китайский и корейский языки.

MiniMax-M2.7-JANG_2L — квантованная версия MiniMax-M2.7, подготовленная Jinho Jang для запуска на компьютерах Apple Silicon через MLX и vMLX. Это диалоговая MoE-модель для генерации текста; в README указаны 228,7 млрд общих параметров и смешанная точность около 2,10 бита. Для внимания и выходного слоя сохранена точность 8 бит, для эмбеддингов — 6 бит, а большая часть экспертных MLP сжата до 2 бит; маршрутизатор экспертов оставлен в float16. Метаданные каталога указывают 2,9 млрд параметров, что расходится с размером, заявленным в README. Модель предназначена для диалогов и задач рассуждения, а также может использовать вызов инструментов в совместимых клиентах. Контекстное окно — 196 608 токенов. Для запуска требуются MLX и Mac с Apple Silicon и не менее 96 ГБ объединённой памяти; автор рекомендует MLX Studio. В README указано, что температура 1,0 обязательна, поскольку жадная генерация может зациклить рассуждения. Бенчмарки M2.7 ещё не опубликованы, а заявление о превосходстве JANG над обычной квантизацией MLX основано на результатах для M2.5. Лицензия в метаданных обозначена как other; README разрешает исследовательское и личное использование и возлагает ответственность за соблюдение лицензии MiniMax на пользователя.

nyun-c2-llama3-50B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Nyun AI. Она предназначена для генерации текста и общих языковых задач; заявленный размер — 76,2 млрд параметров, контекст — до 8192 токенов. Модель сохранена в формате Safetensors и использует лицензию Llama 3. По карточке Nyun AI, модель получила примерно на 29% меньше параметров, чем Llama 3 70B, за счёт оптимизаций без дополнительного дообучения. Разработчик сообщает о близких результатах на отдельных бенчмарках, включая MMLU, Winogrande и BoolQ. Эти результаты не гарантируют качество на других задачах; модель может ошибаться и требует значительных вычислительных ресурсов из-за размера.

Ornith-1.5-35B-A3B-ROCmFPX-AGENT-GGUF — это квантованный вариант мультимодальной модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель распространяется в формате GGUF и предназначена для генерации текста, работы с изображениями, агентских сценариев и вызова инструментов. Она использует архитектуру Mixture-of-Experts с 256 экспертами и примерно 3 млрд активных параметров, а также встроенную MTP-голову для speculative decoding. В репозитории представлены варианты Q6_0 и Q8_0 ROCmFPX AGENT, размером примерно 30,89–34,74 GiB и с повышенной точностью отдельных компонентов, включая output.weight, что ориентировано на качество tool calling и принятия speculative draft. В комплект входит vision projector. Проверена работа с текстом и изображениями; заявлены контекст 4096 токенов и поддержка мультимодального ввода, однако перечень языков отдельно не указан. Модель оптимизирована для AMD Strix Halo, включая Ryzen AI MAX+ 395 с 128 ГБ объединённой памяти, и требует сборки llama.cpp с поддержкой ROCmFPX и ROCm 7.2.4. Она не загружается в стандартные llama.cpp, Ollama или LM Studio. Встроенный MTP в измерениях не ускорил, а замедлил генерацию, поэтому его применение ограничено экспериментальными сценариями. Лицензия — Apache-2.0.

huihui-ai/Phi-4-mini-reasoning-abliterated — экспериментальная версия Microsoft Phi-4-mini-reasoning, созданная автором huihui-ai методом abliteration: из модели удалены отказы на запросы. Автор характеризует реализацию как грубое доказательство концепции; модель рассчитана на диалоговое использование и генерацию текста, в том числе для математических рассуждений и программирования, унаследованных от базовой модели. Модель загружается через библиотеку Transformers; автор также приводит вариант запуска через Ollama и тег версии 3.8b. В метаданных указаны английский язык, архитектурное семейство Phi-3, поддержка чата и кода, а также формат safetensors. Лицензия — MIT. Abliteration снижает склонность к отказам, поэтому поведение модели может отличаться от исходной версии; автор предупреждает, что переключатель режима рассуждений /no_think срабатывает не всегда.

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-v2 — дообученная версия Qwen3.5-4B, разработанная Jackrong. Модель ориентирована на задачи рассуждения: математику, текстовые задачи, логическую дедукцию, общие знания и выполнение инструкций. Также заявлена переносимость навыков рассуждения на программирование, хотя код не был основным направлением обучения. Поддерживаемые языки — английский, китайский и корейский; в карточке модель помечена как image-text-to-text, однако подробности о фактических возможностях обработки изображений не приведены. Модель содержит 4 млрд параметров и обучалась на более чем 14 000 образцах рассуждений в стиле Claude 4.6 Opus, включая наборы nohurry/Opus-4.6-Reasoning-3000x-filtered, Jackrong/Qwen3.5-reasoning-700x и Roman1111111/claude-opus-4.6-10000x. Версия v2 использует переработанную структуру рассуждений, направленную на сокращение избыточных цепочек и повышение эффективности вывода. По приведённым данным, средняя длина рассуждений снизилась на 33,77%, а эффективность на единицу длины рассуждения выросла на 41,54% для HumanEval и на 43,15% для HumanEval+. Основное преимущество модели — более экономичное и стабильное многошаговое рассуждение при сохранении широкого применения. Ограничение состоит в том, что по абсолютной точности HumanEval и HumanEval+ она уступает базовой Qwen3.5-4B: 0,7317 против 0,7683 и 0,6951 против 0,7256 соответственно. Контекстное окно, точная архитектура и аппаратные требования в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-Brainwaves — экспериментальная объединённая модель от независимой лаборатории NightmediaAI. Она получена слиянием nightmedia/Qwen3.5-9B-Holodeck-Lounge и schneewolflabs/Wichtelchen-Qwen3.5-9B; в основе используется семейство Qwen3.5 с плотной архитектурой и 9 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая творческое письмо, программирование и рассуждения. Метаданные также заявляют поддержку изображений на входе и языков английского, китайского, японского и испанского. Модель распространяется в формате safetensors, использует библиотеку Transformers и лицензирована по Apache-2.0. Карточка называет слияние экспериментальным; приведённые в README результаты бенчмарков и описания поведения не являются независимой оценкой качества. Длина контекста в предоставленных сведениях не подтверждена.

Qwen3.6-35B-A3B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для работы на устройствах Apple Silicon. В метаданных она обозначена как модель для задач image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекста и полном наборе модальностей в README не приведены. Модель предназначена для локального использования в сценариях, поддерживаемых MLX и LM Studio, включая обработку текстовых и, вероятно, визуально-текстовых запросов. Квантование снижает требования к памяти по сравнению с полной версией и делает модель более подходящей для Apple Silicon, но может уменьшать точность по сравнению с оригинальной моделью. README не содержит результатов тестирования, сведений о производительности и конкретных ограничениях качества. Указана лицензия Apache 2.0; исходная модель принадлежит Qwen, а данная MLX-квантизация предоставлена LM Studio.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-NVFP4 — квантизированная версия модели HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive, основанной на Qwen/Qwen3.6-35B-A3B. Модель подготовлена пользователем lyf с использованием формата compressed-tensors и предназначена для запуска через vLLM на графических процессорах NVIDIA Blackwell с архитектурой SM 120. Это мультимодальная модель типа image-text-to-text для обработки текста и изображений, включая визуально-текстовые запросы и генерацию ответов. Архитектура представляет собой MoE с 35 млрд параметров всего и примерно 3 млрд активных параметров; используются 256 экспертов, из которых маршрутизируются 8 и дополнительно задействуется один общий эксперт. Квантизация выполнена в формате NVFP4 W4A4, при этом 30 слоёв linear attention на базе DeltaNet/Mamba и блок MTP сохранены в формате bfloat16 для повышения качества. Размер модели составляет около 22 ГБ, заявленный максимальный текстовый контекст — более 131K токенов на RTX 5090. Сильными сторонами являются сочетание MoE-архитектуры, мультимодальности, большого контекстного окна и оптимизации под современные GPU Blackwell, а также консервативный профиль квантизации. Ограничения включают требование NVIDIA Blackwell GPU с SM 120 и зависимость от совместимого стека vLLM и compressed-tensors; заявленные характеристики производительности относятся главным образом к RTX 5090. Языки модели в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-Cyber-i1-GGUF — квантизированная GGUF-версия модели HFCK99/Qwen3.8-27B-Uncensored-Cyber, подготовленная mradermacher. Модель относится к семейству Qwen3, имеет около 27 млрд параметров и предназначена для локального запуска в совместимых приложениях, поддерживающих формат GGUF. В описании она обозначена как vision-модель для задач image-text-to-text, то есть может обрабатывать изображения и текст; заявленный язык — английский. Репозиторий содержит набор вариантов квантизации i1, включая Q2_K, Q3_K, IQ3, Q4, Q5 и Q6, размером примерно от 11 до 22,5 ГБ. Более компактные варианты требуют меньше памяти, но обычно уступают старшим по качеству; Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как компромисс между размером, скоростью и качеством. Также предоставлен imatrix-файл для создания собственных квантов. Точное устройство архитектуры, размер контекстного окна и перечень поддерживаемых языков, помимо английского, в README не указаны. Модель ориентирована на универсальные текстовые и мультимодальные сценарии, включая диалоговую работу с текстом и анализ изображений, при этом в названии и тегах отмечены особенности uncensored и abliterated. К ограничениям относятся неизбежные потери качества у низкобитных квантов, требования к значительному объёму оперативной или видеопамяти и отсутствие подробных результатов тестирования. Указанная лицензия — Apache-2.0.

SRIQwen-V1.3 — плотная мультимодальная модель семейства Qwen3.5 от SRIQ, полученная supervised fine-tuning базовой Qwen/Qwen3.8-27B с помощью LoRA; адаптер объединён с выпущенными весами. Обучение на наборе sriq-ai/sriq-sft-v1.3 направлено на сокращение цепочек рассуждений при сохранении исходных ответов. Модель загружается через Transformers как Qwen3_5ForConditionalGeneration и поддерживает диалог, текст и изображения; интерфейс также предусматривает вызов инструментов. Контекст базовой модели составляет 262 144 токена, но дообучение проводилось на последовательностях длиной до 131 072 токенов, поэтому поведение на большей длине не проверено. Обучающие цели включали сжатые рассуждения на упрощённом китайском языке, а итоговый ответ формировался на языке запроса. Для релиза не проводились бенчмарки, поэтому улучшение точности, расхода токенов и скорости не подтверждено. Лицензия — Apache-2.0.

Typhoon2.5-Qwen3-4B — инструктивная языковая модель, разработанная OpenTyphoon для генерации ответов на тайском и английском языках. Она основана на плотной decoder-only архитектуре Qwen3 и содержит 3,7 млрд параметров. Модель предназначена для диалогов, генерации текста и вызова функций через интерфейс инструментов; заявленная длина контекста — 262 144 токена. Модель работает с текстом и рассчитана на использование через Transformers; README указывает требование Transformers версии 4.51.0 или новее и приводит пример запуска совместимого с OpenAI API сервера на vLLM. В карточке указана лицензия Apache 2.0. Разработка продолжается: ответы могут быть неточными, предвзятыми или нежелательными, поэтому пригодность следует оценивать для конкретного применения.

APUS-xDAN-4.0-MoE-v2 — авторская decoder-only трансформерная языковая модель с архитектурой Mixture of Experts, разработанная командой xDAN. В карточке указаны 136 млрд параметров и активация двух экспертов на токен; метаданные репозитория классифицируют веса как MixtralForCausalLM с 33,9 млрд параметров. Модель продолжает обучение на архитектуре LLaMA и опирается на возможности серии xDAN-L2; README сообщает об использовании обратной связи от людей для улучшения рассуждений, математических и логических задач. Модель предназначена для генерации текста и диалогового использования. Заявленная длина контекста — 32 768 токенов; метаданные указывают английский и китайский языки. README также описывает варианты квантования от 1,5 до 4 бит и совместимость открытой версии с потребительскими GPU. Репозиторий распространяется по лицензии CC BY 4.0.

DevQuasar/deepseek-ai.DeepSeek-V3.1-Terminus-GGUF — это квантизированная версия модели DeepSeek-V3.1-Terminus, разработанной командой deepseek-ai и опубликованной пользователем или организацией DevQuasar. Модель предназначена для генерации текста; точные сценарии применения в представленном README не описаны. Из доступных данных известно только, что модель относится к конвейеру text-generation и распространяется в формате GGUF. Архитектура, размер, поддерживаемые языки, длина контекста, модальности, варианты квантования и технические характеристики не указаны. Лицензия и условия использования также не приведены, поэтому их нельзя достоверно определить по этому README.

lmstudio-community/gemma-4-31B-it-MLX-6bit — это 6-битная квантованная версия мультимодальной модели gemma-4-31B-it, разработанной Google. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для задач, связанных с обработкой текста и изображений, включая мультимодальный ввод и генерацию текста. Она может использоваться локально через совместимое программное обеспечение и особенно подходит для пользователей, которым важны запуск на Apple Silicon и снижение требований к памяти по сравнению с полной версией модели. Точный размер контекстного окна и перечень поддерживаемых языков в README не указаны. Ключевой особенностью является 6-битное квантование, обеспечивающее более компактное представление модели с потенциальным компромиссом в точности по сравнению с исходной версией. Ограничениями являются зависимость от совместимого стека MLX и оптимизации под Apple Silicon, а также возможные ошибки, неточности или неподходящие результаты, характерные для генеративных моделей. Модель распространяется по лицензии Apache 2.0.

Irix-12B_Slush_V2 — объединённая языковая модель на 12,1 млрд параметров, созданная сообществом mergekit-community из DreadPoor/Irix-12B-Model_Stock и mergekit-community/Slush-Lyra-Gutenberg-Bophades. Слияние выполнено методом SLERP; архитектура — плотная MistralForCausalLM, веса опубликованы в формате Safetensors и предназначены для работы через Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы и продолжения текста; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста — до 1 024 000 токенов. Карточка не приводит оценок качества или конкретных ограничений, поэтому поведение на длинном контексте и в прикладных сценариях следует проверять отдельно. Сведения о лицензии в доступных данных отсутствуют.

KunoichiVerse-7B — англоязычная чат-модель, созданная слиянием моделей Nitral-AI/Kunocchini-7b-128k-test и MTSAIR/multi_verse_model с помощью LazyMergekit и метода SLERP. Модель построена на плотной архитектуре Mistral с причинной языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста. В README заявлено контекстное окно 128 тыс. токенов, тогда как метаданные указывают native context в 32 768 токенов. Репозиторий содержит веса в формате safetensors; также упомянут отдельный репозиторий GGUF от MarsupialAI. Лицензия — Apache-2.0.

MihaiPopa опубликовал дообученную версию LiquidAI/LFM2.5-350M-Base с применением abliteration — изменения весов, снижающего частоту отказов. Это компактная плотная языковая модель семейства LFM2, предназначенная для диалоговой генерации текста и локального запуска. В модели 444,6 млн параметров по метаданным; README описывает базовую версию семейства как модель на 350 млн параметров с 16 слоями и контекстом 32 768 токенов. Метаданные указывают контекст до 128 000 токенов, поэтому сведения о длине контекста расходятся. Модель рассчитана на извлечение данных, формирование структурированных ответов и вызов инструментов; в сравнении с исходной моделью в README указано меньше отказов. Поддерживаемые языки по карточке: английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский. README не рекомендует её для задач, требующих обширных знаний, и программирования. Лицензия в метаданных обозначена как other; конкретные условия следует сверить на странице модели.

DavidAU представляет дообученную 7,5-миллиардную модель Llama 3.3 8B Instruct для диалогов, следования инструкциям и генерации текста с режимом рассуждений. Она обучена в течение трёх эпох на наборе TeichAI/claude-4.5-opus-high-reasoning-250x; автор описывает её как гибрид instruct/thinking. Модель использует архитектуру LlamaForCausalLM, принимает текст и поддерживает контекст до 131 072 токенов. В карточке перечислены английский, русский, французский, немецкий, испанский, итальянский, португальский, китайский, японский и корейский языки. Модель предназначена для ответов на вопросы с подробными объяснениями, творческого письма, сюжетов и ролевых диалогов. Режим рассуждений может включаться по формулировке запроса; README отмечает, что поведение зависит от параметров генерации, а низкобитные квантизации могут ухудшать рассуждения и их активацию. Модель поставляется в safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Автор утверждает, что исходная версия Llama 3.3 8B не была публично выпущена; происхождение базовых весов в README описано не вполне ясно, тогда как метаданные указывают базовую модель allura-forge/Llama-3.3-8B-Instruct.

LLaMA-MoE-v2-3.8B (2/8) SFT — чат-модель семейства LLaMA-MoE-v2, разработанная командой llama-moe. Она создана на основе LLaMA 3: полносвязные слои FFN или слои внимания разделены на разреженные эксперты, а маршрутизатор выбирает два из восьми экспертов. Затем модель прошла supervised fine-tuning в два этапа на открытых данных. Модель предназначена для генерации текста и диалогов на английском языке. В репозитории указано 3,8 млрд активируемых параметров, а метаданные каталога сообщают о 2,6 млрд параметров; контекст составляет до 8192 токенов. Доступны веса в формате safetensors. Лицензия — Apache-2.0, допускающая коммерческое использование при соблюдении её условий. Модель можно применять для диалоговых помощников, ответов на вопросы, следования инструкциям и решения общих текстовых задач. Представленные в карточке бенчмарки охватывают знания, математику, программирование и понимание текста, но не дают оценки именно этой SFT-версии. Карточка не приводит конкретных ограничений или результатов её качества.

llm-jp-3-7.2b-instruct — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная Transformer-модель семейства Llama с 7,2 млрд параметров, доступная в формате Hugging Face Transformers и обученная продолжать диалог и выполнять инструкции. Модель принимает текст и генерирует текст; контекст составляет 4096 токенов. Модель подходит для ответов на вопросы, написания и извлечения текста, рассуждений и диалога на японском и английском языках. Она предварительно обучена на смеси данных объёмом 2,1 трлн токенов и дополнительно настроена на наборах инструкций, включая японские инструкции и примеры, ориентированные на безопасность. В оценке Japanese MT Bench версия 7.2b-instruct получила средний балл 5,70. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного соответствия намерениям пользователя и требованиям безопасности. Лицензия — Apache-2.0; для запуска требуются Transformers и PyTorch совместимых версий.

LSG-BART-base-4096 — модель семейства BART, разработанная авторами реализации LSG и адаптированная из BART-base для задач с последовательностями текста большой длины. Она использует архитектуру encoder-decoder с локальным, разреженным и глобальным вниманием (LSG), сохраняя число параметров, слои и токенизатор исходной модели. Размер модели — 95,2 млн параметров, контекст — до 4096 токенов; реализация работает на PyTorch и для загрузки через Transformers требует доверия к пользовательскому коду репозитория. Модель предназначена для задач преобразования текста, в том числе суммаризации и классификации, и может применяться в сценариях, где входной текст длиннее обычного контекста BART. README отмечает более эффективную обработку длинных последовательностей по сравнению с Longformer (LED) и BigBird (Pegasus) из Hub. Для работы с длинными входами применяются блоки внимания; параметры блоков и шаблон разреженного внимания настраиваются, а вход автоматически дополняется до нужной длины. В карточке приведена лицензия? Условия использования не обозначены в предоставленных данных.