II.7DevOps, облако и эксплуатация IT-систем

DPOpenHermes 7B v2 GGUF — квантизированная версия языковой модели Open Access AI Collective, подготовленная TheBloke в формате GGUF. Модель основана на архитектуре Mistral, содержит около 7 миллиардов параметров и предназначена для генерации текста на английском языке, включая диалоговые и инструкционные сценарии. Модель обучалась с использованием наборов данных teknium/openhermes, allenai/ultrafeedback_binarized_cleaned и Intel/orca_dpo_pairs. Для общения используется шаблон ChatML с системными и пользовательскими сообщениями. GGUF-файлы доступны в вариантах с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией, что позволяет запускать модель с разными компромиссами между качеством, скоростью и требованиями к памяти на CPU и GPU. Модель совместима с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ограничения включают поддержку только английского языка согласно карточке и отсутствие сведений о мультимодальности или размере контекстного окна. Лицензия — Apache 2.0.

gradientai-Llama-3-8B-Instruct-262k-GGUF — набор квантованных файлов модели gradientai/Llama-3-8B-Instruct-262k, подготовленный организацией Featherless AI Quants. Модель относится к классу text-generation и предназначена для генерации текста и выполнения инструкций в сценариях локального или совместимого с GGUF инференса. Известно, что это 8-миллиардная instruct-модель семейства Llama 3 с заявленным контекстом до 262 тысяч токенов. README не указывает поддерживаемые языки, точную архитектуру, мультимодальные возможности, результаты оценки или специальные сценарии применения. Доступны варианты квантования Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0; их размер составляет примерно от 3,0 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильными сторонами модели являются большой заявленный контекст и широкий выбор GGUF-квантований, подходящих для разных аппаратных конфигураций. Ограничения README не раскрывает: отсутствуют сведения о качестве, скорости, требованиях к оборудованию, языковом покрытии и поведении на конкретных задачах. Лицензия в предоставленных данных не указана.

mlx-community/granite-4.1-3b-bf16 — конверсия модели IBM Granite 4.1 3B в формат MLX для запуска на устройствах Apple Silicon. Это плотная причинная языковая модель с архитектурой GraniteForCausalLM, содержащая 3,4 млрд параметров и поддерживающая контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста; описание базовой модели также указывает на применение для работы с кодом и вызова инструментов. Модель принимает текст и генерирует текст. Репозиторий использует библиотеку MLX и формат safetensors; лицензия — Apache-2.0. Карточка описывает преобразование из ibm-granite/granite-4.1-3b в MLX, поэтому этот вариант рассчитан на соответствующую среду исполнения, а не является самостоятельным дообучением.

Locutusque/hyperion-small-preview — диалоговая языковая модель, опубликованная M4-ai и дообученная на наборе данных Hyperion на основе Qwen/Qwen1.5-1.8B. Это плотная модель семейства Qwen2 с 1,5 млрд параметров, поддержкой контекста до 32 768 токенов и форматом весов safetensors. Модель предназначена для ответов на сложные вопросы и ведения диалога, в том числе по научным и техническим темам. В карточке заявлены помощь в обучении естественным и медицинским наукам, математике и информатике, понимание медицинских текстов, генерация кода, а также математические и логические рассуждения. Основной заявленный язык — английский. Разнообразие обучающих данных и различия в их форматировании и качестве разметки могут приводить к непоследовательным ответам. Результаты оценки в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

Abiray/K2-Horizon-MoVA-36B-A4B-GGUF — набор GGUF-квантизаций модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной IFM. Это текстовая генеративная модель для диалогов, написания и обработки текста, программирования и других задач, выполняемых через llama.cpp. Модель использует разреженную архитектуру Mixture-of-Experts с механизмом Mixture-of-Values Attention (MoVA): всего 36 млрд параметров, из которых на каждом токене активируется около 4 млрд. Заявленное преимущество — скорость инференса, близкая к моделям меньшего размера, при сохранении возможностей модели масштаба 36B. Указан английский язык; поддержка других языков и дополнительные модальности не заявлены. Репозиторий содержит варианты квантизации от Q3_K_S до Q8_0 размером примерно от 16,4 до 39,8 ГБ. Q4_K_M обозначен как рекомендуемый баланс качества и потребления памяти, а Q8_0 обеспечивает точность, близкую к исходной BF16-модели. Точные характеристики контекстного окна в README не указаны. Для запуска требуется специальная версия llama.cpp из форка MBZUAI-IFM с веткой model/K2Horizon; стандартная upstream-версия на указанном этапе не поддерживает архитектуру k2-horizon. Модель использует ChatML-подобный формат с тегами рассуждений. Лицензия — Apache-2.0. Требования к ресурсам зависят от квантизации: для вариантов Q4_K_M рекомендуется от 24 ГБ VRAM при полной выгрузке на GPU и 32 ГБ системной RAM, тогда как для Q8_0 требуется около 48 ГБ VRAM и RAM. README не содержит независимых результатов бенчмарков или подробного описания ограничений качества.

bark07/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная разработчиком bark07 диалоговая текстовая модель на архитектуре Llama, основанная на kakaocorp/kanana-1.5-8b-instruct-2505. Она предназначена для генерации текста в формате диалога; исходная модель также поддерживает программирование, математику и вызов инструментов. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель опубликована в формате safetensors и обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Лицензия — Apache-2.0. Карточка не описывает отдельные характеристики обучения Persona или сравнительные результаты.

Это диалоговая языковая модель Hjgugugjhuhjggg/mergekit-ties-esawwda, созданная объединением нескольких моделей семейства Llama 3.2 с помощью метода TIES и инструмента mergekit. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли модели для чата, генерации кода, медицинских вопросов и ответов и генерации художественного текста. Модель предназначена для генерации текста и ответов в диалоге. Она содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 131 072 токена. Метаданные указывают поддержку чата и интерфейс вызова инструментов. Языки модели в предоставленных данных не перечислены. Модель объединяет возможности нескольких специализированных чекпойнтов, но качество и устойчивость по отдельным задачам могут различаться. README не содержит сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя.

NorMistral-7b-warm-instruct — инструкционно дообученная языковая модель, разработанная Norallm на базе NorMistral-7b-warm, который, в свою очередь, относится к семейству Mistral. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на вопросы, многоходовые беседы, выполнение инструкций, подготовку текстов и задачи программирования. Основной фокус — норвежские языки Bokmål и Nynorsk; в метаданных также указан язык no. Модель поддерживает ChatML-подобный формат диалогов и контекст длиной 4096 токенов. Размер модели в README явно не указан для инструкционной версии, однако она названа NorMistral-7b-warm-instruct. Дообучение выполнено методом supervised fine-tuning на отфильтрованных и дополненных открытых наборах Aya, OASST, OIG, No Robots, Dolly и Glaive code assistant; preference optimization не применялась. К сильным сторонам относятся открытая доступность, ориентация на норвежскую языковую специфику, поддержка многоходовых диалогов и увеличенный до 4096 токенов контекст относительно базовой модели. Ограничения включают статус первой рабочей итерации, возможные изменения весов, чувствительность к параметрам генерации и отсутствие preference optimization, поэтому качество и устойчивость ответов могут быть неравномерными. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование. README не сообщает о поддержке изображений или других модальностей, поэтому модель следует считать текстовой.

amazingvince/openhermes-7b-dpo — экспериментальная DPO-донастройка модели OpenHermes, опубликованная автором репозитория. В README она описана как дообучение OpenHermes на данных, призванных улучшить способности модели; базовая линия OpenHermes 2.5 основана на Mistral 7B и включает дополнительное обучение на наборах инструкций по программированию. Метаданные указывают на плотную авторегрессионную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, включая ответы на инструкции и вопросы; базовое семейство также ориентировано на задачи с кодом. В карточке сказано, что модель экспериментальная, а подробности будут добавлены позднее. Доступны веса Safetensors, лицензия — Apache-2.0. README не приводит результатов именно этой версии, поэтому её качество и улучшения относительно базовой модели подтвердить нельзя.

pico-type — компактная модель классификации содержимого от eulogik. Она принимает необработанные байты и за один проход определяет тип и модальность содержимого, подтип, язык кода или текста, MIME-тип и признаки риска. Токенизатор не требуется, поэтому модель рассчитана на разные языки и форматы данных. Модель использует байтовые эмбеддинги, параллельные свёртки Conv1D и двунаправленное внимание с RoPE. Доступны четыре варианта размерностью от 1,43 до 1,56 млн параметров; веса представлены в формате ONNX FP32. В README заявлены размер файла около 9 МБ и инференс примерно за 18 мс на CPU, а также варианты применения на периферийных устройствах, в браузере и серверless-средах. Модель подходит для автоматической маркировки текста и файлов, определения языков программирования и текста, MIME-типа и флагов риска. README отмечает, что точность распознавания некоторых языков кода ниже из-за малого числа обучающих примеров. Лицензия — Apache-2.0.

harithoppil/Qwen3-0.6B-English-Pruned — это англоязычная производная плотной авторегрессионной языковой модели семейства Qwen3, основанная на Qwen/Qwen3-0.6B-Base и опубликованная пользователем harithoppil. В README описаны удаление семи слоёв из 28 методом Layer Dropping (ShortGPT) и сокращение словаря с 151 643 до 101 816 токенов. В метаданных указаны 368,5 млн параметров, архитектура Qwen3ForCausalLM, формат safetensors и контекст до 40 960 токенов. Модель предназначена для генерации английского текста, диалога, написания кода и решения математических задач; README также описывает переключение режимов рассуждения и обычного ответа. Сокращённый словарь исключает токены для кириллицы и ряда других письменностей, поэтому модель специализирована на английском, коде и математике. Удаление слоёв и уменьшение словаря нацелены на снижение размера и повышение скорости вывода, но в README не приведены сравнительные измерения качества или скорости. Лицензия — Apache-2.0.

duyntnet/Qwen3-0.6B-imatrix-GGUF — набор imatrix-квантизаций модели Qwen3-0.6B в формате GGUF, опубликованный пользователем duyntnet на Hugging Face. Это причинная языковая модель для генерации текста, диалогов, следования инструкциям, решения задач, написания кода и локального запуска через совместимые приложения и inference-клиенты, включая llama.cpp, KoboldCPP, Ollama, LM Studio и GPT4All. Базовая модель содержит около 0,6 млрд параметров, из которых 0,44 млрд приходятся на параметры без эмбеддингов. Она имеет 28 слоёв, Grouped-Query Attention с 16 головами запросов и 8 головами ключей и значений, а также контекст длиной до 32 768 токенов. Qwen3 поддерживает переключение между режимами с рассуждением и без него, предназначенными соответственно для сложных логических, математических и программных задач либо для более быстрой генерации и обычного диалога. Семейство заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. К сильным сторонам относятся малый размер, возможность локального использования в GGUF-совместимой инфраструктуре, поддержка рассуждений и широкий спектр текстовых сценариев. Ограничениями являются отсутствие мультимодальности в заявленных характеристиках, небольшой по современным меркам объём модели и потенциальная зависимость качества и скорости от выбранного уровня квантизации; конкретные варианты квантизации в README не перечислены. В карточке указана лицензия «other», но её точные условия не приведены, поэтому перед использованием необходимо проверить лицензионные условия исходной Qwen3-0.6B и опубликованных файлов.

Israeli-AI/Qwen3.8-27B-MTP-W4A16-VOLTA-Ampere — квантованная версия Qwen/Qwen3.8-27B, подготовленная командой Israeli-AI. Это текстогенерационная thinking-модель с поддержкой native MTP speculative decoding. Основной сценарий — запуск и обслуживание на GPU, включая Volta V100, где официальная FP8-версия не работает, а также на Ampere и более новых архитектурах. Заявлена поддержка английского языка; мультимодальные возможности сохранены, но на Volta проверялся только текстовый режим. Модель использует квантование INT4 W4A16 с симметричной схемой и group size 128 для значительной части self-attention и MLP-проекций. Размер BF16-варианта 51,7 ГБ сокращён до 25,8 ГБ, благодаря чему модель может работать на двух V100 по 32 ГБ с tensor parallelism и контекстом до 256K; в измерениях обслуживался контекст 131 072 токена. MTP-head, vision tower, embeddings, lm_head, нормы и компоненты Gated-DeltaNet сохранены в полной точности. На двух V100 заявлена скорость декодирования 43–68 токенов в секунду, обычно около 53,5, при трёх speculative-токенах. Сильные стороны модели — совместимость с устаревшими Volta GPU, уменьшенный объём памяти и сохранённая эффективность MTP-декодирования за счёт нетронутой MTP-head. Ограничения включают необходимость специальной Volta-совместимой сборки vLLM и настройки окружения, отсутствие проверки мультимодальной работы на Volta, а также неподтверждённую в README работу на Ampere и новее. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-8B-NVFP4 — квантизированная версия языковой модели Qwen3-8B, разработанная RedHatAI на базе Qwen/Qwen3-8B. Модель предназначена для генерации текста и диалоговых сценариев, включая развёртывание чат-ботов и других приложений на основе больших языковых моделей. Она принимает текстовые данные и генерирует текст; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский, однако документация отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с использованием LLM Compressor. Размер параметров уменьшен с 16 до 4 бит, что примерно на 75% сокращает объём хранения и требования к памяти GPU. Модель рассчитана на эффективный инференс через vLLM версии 0.9.1 и новее, включая OpenAI-совместимый режим сервинга. Для калибровки использовались образцы UltraChat; в README не указаны точный размер контекстного окна и количественные результаты бенчмарков. Ключевое преимущество модели — существенное снижение потребления дисковой и GPU-памяти при сохранении совместимости с исходной Qwen3-8B. Ограничением является возможное снижение качества из-за FP4-квантизации по сравнению с неквантизированной моделью, хотя README сообщает о проведённом сравнительном тестировании без приведения результатов. Лицензия — Apache-2.0; также указано ограничение на использование способами, нарушающими применимые законы и нормативные требования.

SDLM-3B-D4 — языковая модель OpenGVLab, представленная в работе Sequential Diffusion Language Models. Это дообученная версия Qwen2.5-3B: плотная архитектура семейства Qwen2 с 3,1 млрд параметров, рассчитанная на генерацию текста и диалоговое применение. Модель использует последовательное блочное предсказание с маскированием, декодирование по самому длинному уверенному префиксу и повторное использование KV-кэша. Такой подход сочетает предсказание блоков в диффузионной схеме с заданным порядком декодирования. Модель предназначена для генерации текста, в том числе ответов в диалоге, и может быть полезна там, где важно ускорить вывод. Авторы сообщают о примерно двукратном ускорении относительно сопоставимых авторегрессионных моделей при сходном качестве и до пятикратного ускорения относительно других диффузионных языковых моделей; результаты зависят от порога уверенности и сценария оценки. Контекст — до 32 768 токенов. В метаданных указан английский язык; лицензия — Apache-2.0. Для запуска в README приведены зависимости Transformers 4.37.2 и PyTorch не ниже 2.5.0.

Hikari07jp/Ternary-Bonsai-27B-Abliterated-LowDeg-GGUF — производная текстовая языковая модель, созданная на основе Prism Ternary Bonsai 27B от PrismML. Это прямое редактирование GGUF-весов с применением abliteration и низкодеградационного отката отдельных параметров. Модель предназначена для локальных и офлайн-ассистентов, особенно в сценариях, где требуется уменьшить избыточные отказы от выполнения запросов. При этом она может генерировать небезопасный контент и не является доказанно безопасной. Модель поставляется в формате GGUF Q2_0 g128 размером около 7,2 ГБ и рассчитана на работу через специальный fork PrismML llama.cpp с гибридными kernels для Q2_0. Архитектурная линия связана с Qwen3.5/Qwen3.6-27B и hybrid attention. Указан текстовый режим без встроенного vision mmproj; поддерживаемые языки и точный размер контекстного окна в README не определены, хотя в примерах запуска используется контекст 8192, а с опциональным DSpark упоминается до 16K. По заявленным измерениям, модель выполнила 38 из 40 переходов от отказа к прямому ответу на вредоносном пилоте, сохранила показатели родительской модели в coding-пилоте на уровне 19/20 и показала близкие результаты на GSM8K, MMLU, HumanEval и MBPP. Ограничения включают необходимость использования Prism llama.cpp, возможные проблемы с DSpark при нехватке памяти и отсутствие визуального модуля. Лицензия — Apache-2.0, унаследованная от базового релиза.

jondurbin/airoboros-dpo-70b-3.3 — экспериментальная диалоговая языковая модель, созданная на основе семейства Llama 3 и дообученная автором jondurbin на синтетических данных Airoboros и наборах для DPO. В метаданных указана плотная архитектура LlamaForCausalLM с 69,5 млрд параметров, формат safetensors и контекст до 8192 токенов. Карточка рекомендует использовать шаблон диалога Llama 3 Instruct. Модель предназначена для генерации ответов в чате, написания и продолжения историй, суммаризации и помощи с кодом. В README приведены примеры творческих и технических запросов, включая написание программ и выбор инструментов; эти примеры показывают формат взаимодействия, но не подтверждают гарантированное качество на каждой задаче. Автор называет модель экспериментальной. Метаданные связывают её с Meta-Llama-3-8B, тогда как README указывает базовую Llama 3 70B Instruct; точную базовую модель поэтому установить по этим источникам нельзя. Лицензия обозначена как other, конкретные условия использования в предоставленных данных не раскрыты.

DeepSeek-R1-Distill-Qwen-32B-3MPER0RR-abliterated — экспериментально модифицированная версия модели DeepSeek-R1-Distill-Qwen-32B от 3MPER0RR. Это плотная авторегрессионная языковая модель семейства Qwen2 для генерации текста и диалогового взаимодействия. В метаданных указаны 32 млрд параметров и контекст до 131 072 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации ответов и ведения диалога. Автор сообщает, что модель модифицирована методом «abliteration», протестирована и сохранена; подробности метода, тестирования и измерений качества в карточке не раскрыты. Основа — DeepSeek-R1-Distill-Qwen-32B, дистиллированная модель на базе Qwen2.5, ориентированная на рассуждения, математику и программирование. Лицензия — MIT.

DeepSeek-R1-Distill-Qwen-7B-heretic — языковая модель для генерации текста и рассуждений, разработанная пользователем saidutta69 на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Вариант создан с помощью Heretic v1.4.0 методом directional ablation («abliteration»): целевые изменения весов в выходных проекциях attention и down-проекциях MLP подавляют поведение, связанное с отказами, без дополнительного fine-tuning. Заявляется, что при этом знания и способность следовать инструкциям в основном сохранены. Модель предназначена для разработчиков, которым нужна компактная reasoning-модель примерно на 7,6 млрд параметров для диалогов, генерации текста и задач, требующих рассуждений. Указан английский язык и текстовая модальность. Доступны веса BF16 и GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; модель можно запускать через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Для работы рекомендуется GPU с 8–12 ГБ памяти, а Q4_K_M подходит для потребительского оборудования и CPU-only или Apple Silicon при наличии достаточного объёма оперативной памяти. Размер контекста в README не указан. К сильным сторонам относятся сохранение базовых возможностей исходной модели, поддержка рассуждений и широкий выбор квантизаций для локального запуска. Ключевое ограничение и одновременно особенность — намеренное подавление отказов: модель может выполнять запросы, от которых базовая версия отказалась бы, включая потенциально небезопасные, и не содержит дополнительного слоя фильтрации. Модель распространяется на условиях deepseek-research-license, унаследованных от базовой модели.

Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-NVFP4 — текстовая генеративная модель, разработанная Baekpica на основе Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-BF16. Модель предназначена для генерации текста и инференса с использованием vLLM, включая сценарии локального и серверного развертывания на совместимом оборудовании NVIDIA. Архитектура представляет собой Mixture-of-Experts: 43 декодерных слоя, 104 маршрутизируемых эксперта на слой, top-6 маршрутизация и около 13,802 млрд активных параметров на токен при примерно 119,822 млрд логических параметров основной модели. Это преимущественно весово-квантизированная версия NVFP4A16: основные подходящие веса представлены в NVIDIA FP4 E2M1 с размером группы 16, тогда как активации остаются 16-битными. Отдельные компоненты сохраняются в BF16, а некоторые attention-проекции используют динамический W8A8 FP8. В README указана поддержка контекста до 196 608 токенов в проверенной конфигурации запуска. Информация о языках и мультимодальных возможностях не приведена. Ключевое преимущество модели — существенное сокращение требований к памяти при сохранении архитектуры крупной MoE-модели и оптимизация для инференса на NVIDIA Blackwell или более новых GPU. Ограничения включают зависимость от аппаратуры с поддержкой compressed-tensors NVFP4 и от специализированного стека, включая совместимую ветку vLLM и FlashInfer; универсальная совместимость с обычным Transformers или более старым оборудованием не заявлена. Модель распространяется по лицензии MIT.

ELYZA-Thinking-1.0-llm-jp-4-32b-a3b — языковая модель ELYZA, дообученная на базе llm-jp/llm-jp-4-32b-a3b-base. Это модель семейства Qwen3 MoE для генерации текста с рассуждениями и следованием инструкциям; в карточке указаны 2,9 млрд параметров и контекст 65 536 токенов. Обучение включало промежуточное обучение, SFT и обучение с подкреплением по проверяемым результатам. Модель рассчитана прежде всего на японский язык, также поддерживает английский. В README описаны сценарии решения математических и STEM-задач, программирования, ответов на вопросы о японских знаниях, выполнения сложных инструкций и использования инструментов. Для запуска рекомендованы vLLM или Transformers; лицензия — Apache-2.0.

Falcon3-7B-Base — предварительно обученная базовая языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный трансформер с причинным декодером и 7,1 млрд параметров, доступный в формате safetensors для Transformers. Модель обучена на данных из веба, кода, STEM, высококачественных и многоязычных источников и поддерживает английский, французский, испанский и португальский языки. Модель предназначена для генерации текста и служит основой для последующей адаптации под конкретные сценарии: README отмечает задачи рассуждения, понимания языка, следования инструкциям, программирования и математики. Контекстное окно — до 32 768 токенов; архитектура включает 28 блоков декодера и grouped-query attention. Это базовая, а не instruct-версия, поэтому для большинства пользовательских задач рекомендуется дополнительное дообучение. Модель распространяется по лицензии TII Falcon-LLM License 2.0.

Карточка модели allenai/Flex-public-7B-1T на Hugging Face совпадает с карточкой allenai/FlexOlmo-7x7B-1T, поэтому описание составлено по ней. FlexOlmo-7x7B-1T — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (AI2). Это модель типа Mixture-of-Experts: в ней объединены семь независимо обученных экспертов для публичных данных, новостей, математики, кода, академических текстов, творческого письма и публикаций Reddit. Общий размер указан в карточке как 6,9 млрд параметров, а в README — как 33 млрд; README также сообщает, что публичный эксперт обучен на 1 трлн токенов, а остальные получены его дообучением на отдельных корпусах. Маршрутизатор экспертов не обучен. Модель предназначена для генерации текста и диалогового применения, в том числе для задач, связанных с перечисленными тематическими корпусами. Поддерживает английский язык, работает с текстом и имеет контекст до 4096 токенов. Для запуска README рекомендует Transformers версии 4.57.0 или новее. Репозиторий распространяется под лицензией Apache-2.0. В README приведены результаты оценки по ряду языковых и тематических бенчмарков, однако они относятся к отдельным плотным моделям, а не обязательно к этому MoE-чекпойнту. Отсутствие обученного маршрутизатора ограничивает выводы о фактическом выборе экспертов и качестве итоговой модели.

sixtyoneeighty/FNCARL9000 — языковая модель с архитектурой Mixtral и смесью экспертов (MoE), созданная на основе четырёх моделей с помощью LazyMergekit: Open-Orca/Mistral-7B-OpenOrca, NeuralNovel/Mistral-7B-Instruct-v0.2-Neural-Story, S-miguel/The-Trinity-Coder-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Модель предназначена для генерации текста и диалогов; объединение исходных моделей ориентировано на инструкции, рассказы, код и математические задачи. Модель содержит 7,1 млрд параметров, использует формат safetensors и имеет контекст до 32 768 токенов. Карточка указывает лицензию Apache-2.0. Язык и качество ответов отдельно не описаны; составные модели включают англоязычную инструкционную модель. Практические результаты могут различаться по задачам, представленным в исходных моделях.

ApatheticWithoutTheA/gemma-2-2b-it-R1-Reasoning — дообученная диалоговая модель на базе Google Gemma 2 2B IT, созданная ApatheticWithoutTheA. Модель обучена методом LoRA с использованием MLX на 62,9 тыс. примеров датасета sequelbox/Raiden-DeepSeek-R1; README указывает 600 итераций обучения. Она предназначена для следования инструкциям и генерации текста с рассуждениями: на простые вопросы отвечает кратко, а для более сложных может выдавать длинные цепочки рассуждений. Модель подходит для ответов на вопросы, задач на рассуждение и программирование, в том числе при запуске на пользовательском оборудовании. Это плотная авторегрессионная архитектура Gemma2ForCausalLM с 2,7 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит форматы GGUF и safetensors; библиотека модели — MLX. Метаданные указывают английский язык и лицензию MIT. Качество рассуждений не гарантировано: модель иногда не начинает рассуждение без прямой просьбы, а на особенно сложных задачах может зацикливаться на длинном анализе и не приходить к выводу. Используйте ответы и сгенерированный код с проверкой.

Gemma-2-2b-TitanFusion — разговорная языковая модель на архитектуре Gemma 2, созданная bunnycore с помощью mergekit. В README описано слияние методом Model Stock на базе IlyaGusev/gemma-2-2b-it-abliterated с несколькими моделями Gemma 2 и адаптерами, включая варианты для диалога, рассуждений и кода. Размер модели — 2,7 млрд параметров, контекст — до 8192 токенов; модель работает с текстом и поддерживает чат. Модель предназначена для генерации ответов в диалоге, следования инструкциям, рассуждений и помощи с кодом. Метаданные указывают англоязычную базовую модель. В README не приведены результаты оценки качества или подробности о поведении итогового слияния. Лицензия в доступных данных не указана.

harkov000/hermes-stheno-8B-v0.1 — текстовая диалоговая модель на архитектуре Llama, созданная слиянием SLERP моделей NousResearch/Hermes-3-Llama-3.1-8B и Sao10K/Llama-3.1-8B-Stheno-v3.4 с помощью mergekit. Модель содержит 7,5 млрд параметров, работает через Transformers и принимает текст для генерации продолжений и диалоговых ответов; поддерживает интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалогового использования. В качестве базовых компонентов объединены модели семейства Llama 3.1 8B: Hermes 3 и Stheno v3.4. Лицензия в предоставленных данных не указана.

K2-Horizon-3.7B-GGUF — GGUF-версия языковой модели K2-Horizon-3.7B, разработанной IFM. Репозиторий предназначен для запуска модели с помощью llama.cpp и содержит тензоры в исходной точности BF16, метаданные токенизатора и совместимый с llama.cpp шаблон чата. Модель относится к семейству K2-Horizon и представляет собой небольшую плотную decoder-only модель с 3,7 млрд параметров и контекстным окном 524 288 токенов. Указан английский язык. Модель предназначена для генерации текста и оценивается на задачах, связанных с агентными сценариями, программированием и рассуждениями. Ключевые сильные стороны — большой контекст, открытость весов, публикация обучающих данных, рецептуры, кода обучения и ресурсов для оценки, а также наличие промежуточных контрольных точек для анализа изменений возможностей в процессе обучения. Ограничение версии GGUF заключается в необходимости использовать сборку llama.cpp с поддержкой архитектуры K2 Horizon; такая поддержка на момент публикации находилась в разработке, а совместимая версия доступна в форке MBZUAI-IFM. Лицензия модели — Apache-2.0. В README не указаны точные детали вычислительных требований, результаты отдельных тестов, поддерживаемые языки помимо английского и дополнительные сведения о качестве или ограничениях применения.

Это текстовый контрольный пункт Gemma 4 26B A4B, структурно сокращённый автором jayzou3773 методом Less-is-MoE. В модели удалено 50% нейронов FFN маршрутизируемых экспертов; при подготовке использовались 128 калибровочных примеров и настройки последовательности длиной 8192 токена. Оптимизационных шагов не выполнялось, веса сохранены в BF16. Контрольный пункт содержит языковую башню causal language model без визуальной башни, поэтому предназначен для генерации текста, а не для обработки изображений. Модель подходит для текстовой генерации на базе Gemma 4, например для диалогов, рассуждений и программирования, унаследованных от базовой модели. В метаданных указаны 2 млрд параметров и нативный контекст 262144 токена; эти значения описывают контрольный пункт в каталоге, тогда как README сообщает о последовательности калибровки длиной 8192 токена. Лицензия — Apache-2.0. README не приводит оценок качества после структурного сокращения, поэтому фактическую сохранность возможностей базовой модели следует проверять на целевых задачах.

PlumCode — слитая языковая модель, созданная автором репозитория sequelbox с помощью mergekit на основе Meta Llama 3.1 8B Instruct и моделей Llama3.1-8B-ShiningValiant2 и Llama3.1-8B-Enigma. Используется архитектура LlamaForCausalLM с плотной сетью примерно на 7,5 млрд параметров; веса опубликованы в формате safetensors. Контекстное окно составляет 131 072 токена. Модель предназначена для генерации текста и диалогов по инструкциям, включая помощь с кодом и техническими темами. В тегах указаны Python, информатика, естественные науки и инженерия; карточка не подтверждает отдельные специализированные возможности сверх генерации текста. Лицензия — llama3.1. README приводит результаты Open LLM Leaderboard, но не содержит полного набора оценок.