II.7DevOps, облако и эксплуатация IT-систем

Open-Instruct Human-mix 30B — модель AllenAI на архитектуре LLaMA, дообученная на смеси созданных людьми наборов инструкций: FLAN V2, CoT, Dolly и OpenAssistant 1. Она предназначена для генерации текста в ответ на инструкции, включая общие вопросы, задачи на рассуждение и программирование. В README приведены результаты оценки на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Модель содержит 32,3 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 2048 токенов. Репозиторий содержит diff весов: для использования нужна совместимая базовая LLaMA в формате Hugging Face. Модель принимает текст и генерирует текст; README описывает специальный формат входных инструкций, соблюдение которого влияет на качество генерации. Указана лицензия AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании. Модель обучена преимущественно на англоязычных инструкционных данных, поэтому её применение на других языках не подтверждено карточкой.

Mungert/phi-4-GGUF — это набор GGUF-файлов с моделями Phi-4, предназначенными для локального запуска и инференса в формате GGUF. Репозиторий содержит варианты весов в BF16 и F16, а также квантованные версии Q8_0, Q6_K, Q4_K, Q4_0 и IQ3. Модель относится к классу текстовых генеративных моделей и ориентирована на диалоги, ответы на вопросы, работу с математическими задачами, программным кодом и другими текстовыми запросами. В метаданных указан английский язык и задача text-generation; поддержка других языков не заявлена. Главное преимущество набора — выбор между точностью и требованиями к памяти. Полноформатные BF16 и F16 подходят для оборудования с соответствующим ускорением, а квантованные варианты позволяют запускать модель на CPU и устройствах с ограниченной оперативной памятью или VRAM. Более агрессивное квантование уменьшает размер и потребление памяти, но может снижать точность. Сведения об архитектуре, количестве параметров, размере контекста, мультимодальности и результатах тестирования в README не приведены. Лицензия — MIT. README указывает связь с моделью Microsoft Phi-4 через ссылку на её лицензию; Mungert предоставляет варианты Phi-4 в формате GGUF. Для использования необходимо выбрать файл, совместимый с возможностями оборудования и требуемым уровнем качества.

Phi-4-reasoning-plus — открытая языковая модель Microsoft Research для генерации ответов с развернутыми рассуждениями. Эта производная от microsoft/Phi-4-reasoning-plus модель содержит 14,1 млрд параметров и использует плотный декодерный Transformer семейства Phi-3. Она принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена прежде всего для англоязычных задач, где важны рассуждения и логика: решения задач по математике и науке, программирование, планирование и следование инструкциям. Её можно использовать как основу для генеративных функций в условиях ограниченных вычислительных ресурсов. Дообучение включало supervised fine-tuning на цепочках рассуждений и обучение с подкреплением; модель в среднем генерирует примерно на 50% больше токенов, что может повышать задержку. Карточка предупреждает, что модель проверялась прежде всего для математических рассуждений и не оценивалась специально для всех вариантов применения. Ответы требуют проверки, особенно в высокорисковых сценариях. Репозиторий распространяется по лицензии MIT.

Qwen3-0.6B-English — англоязычная версия Qwen3-0.6B-Base от автора harithoppil, созданная путём обрезки словаря и последующего дообучения. Это плотная авторегрессионная языковая модель на архитектуре Qwen3ForCausalLM с 456,6 млн параметров, 28 слоями и словарём из 101 816 токенов. Она принимает текст и поддерживает контекст до 40 960 токенов по метаданным. Модель предназначена для генерации английского текста, диалогов, программного кода, математических выражений и рассуждений. Она поддерживает режимы с рассуждениями и без них, а также интерфейс вызова инструментов. Удаление токенов для кириллицы, CJK, арабского и других письменностей сокращает размер матрицы эмбеддингов и выходного слоя, но ограничивает работу преимущественно английским языком; заявленные автором свойства Qwen3 не являются отдельной оценкой качества этой версии. В карточке также отмечена возможность повторов; для снижения этого риска автор рекомендует настраивать параметры генерации. Модель распространяется по лицензии Apache-2.0. Для работы автор рекомендует актуальную версию библиотеки Transformers.

Это текстовая MoE-модель семейства Qwen для диалоговой генерации. По README, репозиторий содержит полный конвертированный чекпойнт Qwen/Qwen3.8-2.4T-A95B с 4-битным представлением весов; метаданные указывают поддержку чат-сценариев и генерации текста. Модель предназначена для диалогов и генерации ответов, включая программный код. В README приведены измерения скорости на восьми GPU AMD MI325X с ROCm, в том числе с ускорением спекулятивным декодированием DSpark; эти показатели относятся к конкретным настройкам и нагрузкам. Качество модели широко не оценивалось: автор сообщает об арифметических проверках генерации, проверке чата и нескольких тестах с Python-кодом, но не приводит широких оценок точности или perplexity. Квантизация заметно отличается от исходных BF16-весов по приведённым тестам; эквивалентность качества BF16 и детерминизм для произвольных запросов не заявлены. Для размещения чекпойнта указаны значительные требования к памяти GPU. Лицензия обозначена как «other», конкретные условия в предоставленных данных не раскрыты.

Qwen3.8-27B-OBLITERATED-AWQ-W4A16 — это 4-битная AWQ-квантизованная версия модели OBLITERATUS/Qwen3.8-27B-OBLITERATED, опубликованная пользователем MurtazaNasir. Модель предназначена для генерации текста, программного кода, агентных сценариев и исследований AI safety и red teaming, включая запросы, на которые модели с обычными защитными настройками могут отказываться отвечать. В основе используется гибридная архитектура Qwen3.8-27B с 64 слоями: 48 слоёв линейного внимания gated-DeltaNet и 16 слоёв полноценного внимания, а также vision tower и MTP-head. Квантизация выполнена в формате AWQ W4A16_ASYM с размером группы 128; часть компонентов сохранена в bf16. Размер репозитория около 19,55 ГБ. Для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallel либо одна карта на 24 ГБ при небольшом контексте. Модель поддерживает текстовые и визуальные компоненты исходной архитектуры, но точные языки и максимальный размер контекста в предоставленных данных не указаны. Сильными сторонами заявлены близкая к исходной производительность, отсутствие жёстких отказов, совместимость с режимом thinking и хорошие результаты в генерации кода. Ограничения включают возможное снижение качества относительно базовой модели: в README указано падение MMLU на 2,1 процентного пункта. Для стабильной работы рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов. Стандартный шаблон чата поддерживает вызов инструментов, тогда как исходный шаблон их определения и роль tool игнорирует; также системные промпты могут повторно вызвать отказы. Модель распространяется по лицензии Apache-2.0.

Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Карточка модели chrischain/Satoshi1337-8B на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Эта версия принимает текст и генерирует текст, в том числе код; карточка репозитория описывает предварительно обученные и настроенные варианты семейства, но не уточняет, какой именно вариант представлен в этом репозитории. Модель предназначена для генерации текста на английском языке. Предварительно обученную версию можно адаптировать для разных задач генерации естественного языка, а настроенные варианты предназначены для диалоговых сценариев. Архитектура основана на оптимизированном Transformer и использует Grouped-Query Attention; размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель подходит для создания разговорных помощников, генерации и продолжения текста и кода. Результаты требуют проверки, а для приложения следует настроить дополнительные меры безопасности под конкретную аудиторию и сценарий. Лицензия — специальная коммерческая лицензия Meta Llama 3 с условиями использования и ограничениями; перед внедрением необходимо ознакомиться с её текстом и Acceptable Use Policy.

TallGemma-Raw — объединённая языковая модель на архитектуре Gemma, созданная автором репозитория с помощью mergekit из google/gemma-2b, google/gemma-1.1-2b-it и google/codegemma-2b. Модель предназначена для генерации текста; в метаданных указаны 6,5 млрд параметров и контекст до 8192 токенов. Объединение включает базовую Gemma, инструкционную Gemma 1.1 и CodeGemma, поэтому модель может быть полезна для генерации обычного текста, диалоговых ответов и кода. Карточка не приводит отдельных оценок качества или результатов тестирования, поэтому пригодность для конкретных задач стоит проверять на собственных примерах. В репозитории указаны веса safetensors и библиотека Transformers. Лицензия в предоставленных данных не указана.

airoboros-7b-gpt4-1.2 — плотная причинно-языковая модель семейства LLaMA примерно на 6,6 млрд параметров, дообученная Джоном Дёрбином методом QLoRA на синтетических инструкционных данных, созданных GPT-4. Она предназначена для диалоговых ответов и генерации текста по инструкциям; карточка описывает формат общения с ролями USER и ASSISTANT и шаблон Vicuna. Модель рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и заполнением пропусков, а также ответы с учётом заданного контекста. Для запросов на генерацию кода обучалась выводить код без Markdown-разметки при добавлении маркера PLAINFORMAT, но это поведение не гарантируется. Контекст — 2048 токенов; формат репозитория — PyTorch. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

calme-2.1-phi3-4b — диалоговая языковая модель MaziyarPanahi, полученная дообучением методом DPO модели microsoft/Phi-3-mini-4k-instruct. Она предназначена для генерации текста в формате ChatML, ответов в диалоге и задач программирования; в README приведены результаты оценивания на Open LLM Leaderboard. Модель построена на плотной архитектуре Phi-3 и содержит 3,7 млрд параметров, принимает текст и работает с контекстом до 4096 токенов. Модель доступна для использования через Transformers. Лицензия — MIT. Метаданные указывают английский язык; показатели бенчмарков и сведения о возможностях не гарантируют качество для конкретных запросов.

DeepSeek-R1-Distill-Llama-8B — плотная языковая модель семейства Llama, разработанная DeepSeek и дообученная на примерах рассуждений, созданных DeepSeek-R1. Она предназначена для генерации текста с акцентом на решение математических задач, программирование и многошаговые рассуждения; также поддерживает диалоговый режим. Модель содержит 7,5 млрд параметров и имеет контекст до 131 072 токенов. Модель основана на Llama-3.1-8B. В README указано, что конфигурации и токенизатор были слегка изменены, поэтому для ожидаемого качества рекомендуется использовать настройки из карточки модели. Метаданные указывают формат safetensors, библиотеку Transformers и лицензию MIT. Модель может генерировать длинные цепочки рассуждений; качество конкретных ответов зависит от задачи и настроек генерации.

DeepSeek-V4-Flash-0731-ds4-GGUF — набор квантизированных сборок финальной версии DeepSeek-V4-Flash от DeepSeek, подготовленных пользователем nazeshinjite для инференс-движка DwarfStar (ds4), разработанного antirez. Модель предназначена для локальной генерации текста, диалоговых приложений, программирования и агентских сценариев; поддерживаются интерактивный CLI, OpenAI- и Anthropic-совместимый HTTP API, а также дисковый KV-кэш для многошаговых сессий. Базовая модель использует архитектуру Mixture-of-Experts: около 284 млрд параметров, из которых примерно 277 млрд приходятся на маршрутизируемые эксперты. Репозиторий содержит смешанную Q2/Q4-сборку размером 90,9 GiB, плоские Q2- и Q4-варианты, а также опциональные draft head для speculative decoding. В основной сборке маршрутизируемые эксперты в последних слоях используют Q4_K, остальные — преимущественно 2-битные форматы, а attention-проекции, общие эксперты и выходной слой — Q8. Указана поддержка контекста до 1 млн токенов на подходящем локальном оборудовании; для 256K контекста заявлено потребление менее 3,5 GiB KV-кэша. Языки и мультимодальные возможности в README не указаны. Сильные стороны модели — существенное уменьшение размера при сохранении качества, высокая скорость декодирования в DwarfStar и эффективная работа с длинными повторяющимися контекстами благодаря дисковому KV-кэшу. На Apple M5 Max автор README сообщает скорость 36,8–27,1 токена в секунду в зависимости от длины контекста, однако эти результаты относятся к предварительным измерениям. Главные ограничения — файлы совместимы только с DwarfStar и не загружаются в llama.cpp, Ollama или LM Studio; для запуска требуется специализированный движок и мощное оборудование, включая системы с большим объёмом памяти, CUDA или ROCm. Распространение указано по лицензии MIT.

SanctumAI/gemma-2-9b-it-GGUF — квантизированная GGUF-версия Gemma 2 9B IT, разработанной Google и подготовленной SanctumAI. Это текстовая decoder-only языковая модель с instruction tuning, предназначенная для генерации текста, диалогов, ответов на вопросы, суммирования и задач, требующих рассуждений. Модель работает с текстом и, согласно README, доступна на английском языке. Модель содержит около 9 млрд параметров. Доступны варианты квантизации Q2_K–Q8_0, а также f16; размер файлов составляет примерно от 3,81 до 18,49 ГБ, а оценочная потребность в RAM или VRAM — от 15,14 до 28,82 ГБ в зависимости от варианта. Квантизация позволяет запускать модель на ноутбуке, настольном компьютере или собственной облачной инфраструктуре при выборе подходящего формата, но более компактные варианты могут уступать по качеству менее квантизированным. Модель распространяется по лицензии Gemma. Для корректного диалога следует использовать шаблон Gemma с маркерами начала и конца хода пользователя и модели. README не указывает размер контекстного окна, мультимодальные возможности или поддержку языков помимо английского; также конкретные ограничения качества не описаны. Как и другие языковые модели, она может генерировать неточный, вредный или неподходящий контент, поэтому результаты требуют проверки.

Locutusque/Hercules-5.0-Qwen2-7B — языковая модель на архитектуре Qwen2, дообученная Locutusque на наборе hercules-v5.0. Модель содержит 7,1 млрд параметров, работает с текстом и рассчитана на диалог, следование сложным инструкциям и вызов функций. Заявленная длина контекста — 131 072 токена. Модель предназначена для научных и технических бесед, пошаговых учебных подсказок, специализированных чат-ботов, а также генерации кода и взаимодействия с инструментами через вызовы функций. В карточке перечислены биология, химия, физика, математика, медицина и информатика; конкретные языки естественного языка не заявлены. Модель выпущена в формате Safetensors и распространяется по лицензии Apache-2.0. README предупреждает о токсичных примерах в данных обучения, возможных фактических ошибках и риске неправильного применения возможностей вызова функций.

Карточка модели dedsecisback2026/Hermes на Hugging Face совпадает с карточкой mlabonne/Hermes-3-Llama-3.1-8B-lorablated, поэтому описание составлено по ней. Hermes-3-Llama-3.1-8B-lorablated — диалоговая модель на архитектуре Llama 3.1, опубликованная mlabonne. Это версия NousResearch/Hermes-3-Llama-3.1-8B, изменённая методом abliteration: к ней применили LoRA-адаптер, полученный сравнением вариантов Llama 3.1, а затем объединили веса методом task arithmetic. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации ответов в диалоге; заявленный контекст — до 131 072 токенов. Вариант lorablated рассчитан на ответы на запросы, от которых исходная Hermes 3 могла отказаться, включая допустимые запросы, которые она ошибочно отклоняет. Как и базовая модель, она подходит для инструкций, рассуждений и генерации кода. README называет модель uncensored, поэтому её ответы могут включать контент, который базовая модель отфильтровала бы. Лицензия в предоставленных данных не указана.

Это производный чекпойнт DeepSeek-V4.1-Flash, опубликованный drowzeys и подготовленный для запуска на компьютере Mac Studio с M3 Ultra и 256 ГБ памяти через oMLX и MLX. В README описана модель DeepSeek-V4.1-Flash размером 763 млрд параметров с архитектурой MoE и разреженным вниманием; для этого варианта веса маршрутизируемых экспертов в 27 из 40 слоёв переквантованы с 3 до 2 бит, чтобы снизить занимаемую память. Метаданные указывают формат safetensors и базовый репозиторий Jundot/DeepSeek-V4.1-Flash-oQ3e-mtp. Модель предназначена для генерации текста, в том числе кода и длинных ответов, с запуском локально на Apple Silicon. README сообщает о проверке контекста до 404 805 токенов и приводит замеры скорости для прозы и кода на конкретной конфигурации M3 Ultra. Для работы требуются значительный объём объединённой памяти и настройка системного лимита памяти GPU; описаны также ограничения пропускной способности при параллельных запросах и снижение точности спекулятивного декодирования из-за квантизации. Лицензия в предоставленных данных не указана.

Kiel-2.1-Echo — языковая модель для диалогов и выполнения инструкций, разработанная KielTech в экосистеме Kiel AI. Это плотная причинная модель семейства Llama с 3,2 млрд параметров, дообученная на базе kiel2/Kiel-2-Echo и распространяемая как самостоятельные веса Safetensors в формате FP16. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для разговорных ассистентов, генерации кода, помощи с асинхронными сценариями на Python, рассуждений о программной архитектуре и решения задач из разных областей. Она принимает текстовые запросы и генерирует текст; заявленный язык — английский. В карточке заявлены высокая производительность и строгое следование инструкциям, но сравнительные оценки или результаты тестов не приведены. Указаны варианты развёртывания через Transformers, vLLM и Text Generation Inference. Лицензия в предоставленных данных не описана.

Карточка модели lovedheart/MiMo-V2.6-Distill-Qwen-9B-FP8 на Hugging Face совпадает с карточкой XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, поэтому описание составлено по ней. MiMo-V2.6-Distill-Qwen-9B — плотная мультимодальная модель на 9 млрд параметров, разработанная Xiaomi MiMo посредством supervised fine-tuning Qwen3.5-9B на данных, созданных MiMo. Модель предназначена для диалогов и агентных сценариев, включая программирование, визуальное программирование и задачи кибербезопасности; также поддерживает обработку изображений. Карточка публикует результаты SFT-чекпойнта на бенчмарках по программированию. Это контрольная точка для дальнейших исследований в области агентного обучения с подкреплением. Для запуска README рекомендует свежую сборку SGLang с поддержкой Qwen3.5; модель включает токенизатор и шаблон чата MiMo v2.6. Репозиторий содержит веса safetensors. Лицензия — MIT. README не описывает конкретные ограничения качества или безопасности модели.

Ttimms/MiniCPM5-2B-NVFP4 — это квантованная версия языковой модели openbmb/MiniCPM5-2B, подготовленная разработчиком Ttimms для генерации текста. Базовая модель основана на архитектуре LlamaForCausalLM и содержит около 2,5 млрд параметров. Модель предназначена прежде всего для англоязычных и китайскоязычных сценариев, включая генерацию и обработку кода. В модели применена 4-битная квантование весов NVFP4 по схеме W4A16 с GPTQ-округлением, блоками по 16 элементов и FP8-масштабами; активации, эмбеддинги и lm_head сохраняются в формате bfloat16. Размер на диске составляет около 2,03 ГиБ — на 57% меньше исходной версии в bfloat16. Модель рассчитана на запуск через vLLM с поддержкой compressed-tensors; в README приведён пример с максимальной длиной контекста 32 768 токенов и FP8 KV-кэшем. Главное преимущество — малый объём занимаемой памяти, что удобно для видеокарт с ограниченным объёмом памяти и сценариев с большим KV-кэшем. GPTQ сохраняет качество лучше, чем простое RTN-округление, однако по сравнению с исходной версией в bfloat16 модель теряет около 2,4 процентного пункта на HumanEval и 4,8 пункта на MBPP. На архитектуре Blackwell SM120 NVFP4-веса декодируются через Marlin в матричное умножение bfloat16, поэтому выигрыш в первую очередь связан с уменьшением занимаемой памяти, а не с ускорением вычислений. Распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Карточка модели willhx/Qwen3-8B-Base-SeaSFT на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Starling-LM-7B-beta-GGUF — это квантизированная GGUF-версия языковой модели Starling-LM-7B-beta, разработанной Nexusflow на основе openchat/openchat-3.5-0106 и Mistral-7B-v0.1. GGUF-квантизация выполнена bartowski с использованием llama.cpp. Модель содержит около 7 млрд параметров и предназначена для генерации текста. Модель ориентирована на многошаговый диалог, общие вопросы, выполнение повседневных текстовых задач и программирование. Она обучалась с применением reward model Nexusflow/Starling-RM-34B и оптимизации PPO на данных berkeley-nest/Nectar, что направлено на улучшение качества ответов и следования предпочтениям в диалогах. Поддерживается английский язык. Модель текстовая и не предназначена для обработки изображений или других мультимодальных данных. Для работы рекомендуется шаблон OpenChat; для задач программирования предусмотрен шаблон OpenChatCode. Системный промпт модель не поддерживает. README не указывает размер контекстного окна и конкретные требования к ресурсам, поэтому эти характеристики нельзя надежно определить из доступных данных. К преимуществам относятся компактный размер, пригодность для локального запуска в формате GGUF и специализация на диалогах и коде; ограничения включают англоязычную ориентацию, отсутствие мультимодальности и зависимость качества от выбранной квантизации и параметров запуска. Модель распространяется по лицензии Apache-2.0.

UNA-34Beagles-32K-bf16-v1 — экспериментальная диалоговая модель, опубликованная one-man-army и построенная на Yi-34B-200K с использованием Bagel. Это плотная 34-миллиардная языковая модель архитектуры Llama, распространяемая в формате Safetensors; заявленная длина контекста — 32 768 токенов. Модель дообучена на широком наборе данных для инструкций, диалогов, рассуждений, программирования, математики и ролевых сценариев, а также прошла DPO-обучение. Модель предназначена для генерации текста и ответов в диалоге: она может помогать с вопросами и ответами, анализом предоставленного контекста, написанием кода, математическими задачами и творческими или ролевыми текстами. В README указаны четыре варианта форматирования запросов: Vicuna, Llama 2, Alpaca и ChatML-подобный формат. Данные описывают многоязычные задачи, но конкретный перечень поддерживаемых языков не приведён. Автор сообщает, что включение Toxic DPO должно снизить цензурирование ответов. Это может повышать вероятность генерации токсичного или небезопасного текста; качество и надёжность ответов не гарантированы. Модель распространяется по лицензии Apache-2.0.

coderavi/VibeThinker-3B-mlx-fp16 — преобразованная в формат MLX версия модели WeiboAI/VibeThinker-3B, подготовленная автором репозитория coderavi с помощью mlx-lm 0.31.2. Это плотная причинная языковая модель семейства Qwen2 на 3,1 млрд параметров для генерации текста в диалоговом режиме, следования инструкциям, программирования и STEM-рассуждений. Она принимает текст и генерирует текст; заявленная длина контекста составляет 131 072 токена. Метаданные указывают английский язык и лицензию MIT. Карточка подтверждает преобразование формата, но не приводит отдельные результаты оценки качества этой копии.

Arcana Qwen3 2.4B A0.6B — текстовая модель Mixture of Experts, созданная suayptalha. В ней заявлено 2,4 млрд параметров суммарно и четыре эксперта по 0,6 млрд параметров. Модель предназначена для диалогов и генерации ответов с навыками программирования, математических рассуждений, медицинских вопросов и следования инструкциям; каталог также отмечает интерфейс вызова инструментов. Эксперты для кода, математики и медицинских вопросов дообучены на соответствующих наборах данных, а эксперт следования инструкциям использует Qwen/Qwen3-0.6B без дополнительного дообучения. В метаданных указана поддержка английского языка и библиотека Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Заявленная цель — повысить точность и эффективность при меньшем потреблении памяти, однако сравнительные результаты в карточке не приведены.

Camelidae-8x34B — языковая модель семейства Camelidae, разработанная авторами проекта Camelidae с применением метода Parameter-Efficient Sparsity Crafting. Это разреженная Mixture-of-Experts-модель с архитектурой на основе LLaMA; в репозитории указано 33,9 млрд параметров. Модель прошла инструкционное дообучение и предназначена для генерации текста и ответов на общие запросы. Модель ориентирована в том числе на задачи по математике и программированию. В описании проекта приведены результаты тестирования по общим знаниям, математике и генерации кода; модель загружается через Transformers как причинная языковая модель. Контекст составляет 4096 токенов, основной указанный язык — английский. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0. Результаты бенчмарков зависят от настройки и не гарантируют качество для конкретных запросов; карточка не описывает отдельные ограничения или защитные механизмы модели.

DeepSeek V4 Flash — REAM144 (163B) DS4 Q2 — это чат-модель WaveCut в формате GGUF, созданная на основе DeepSeek-V4-Flash-0731-REAM144-163B. В сборке сохранено 144 из исходных 256 экспертов на слой; модель квантизована до 2 бит для экспертов и 8 бит для attention, с использованием матрицы важности. Файл весит 49,3 ГБ, а автор указывает запуск на Mac с 64 ГБ памяти и контекстом 8 тыс. токенов. Модель предназначена для многоязычного диалога, рассуждений, ответов на вопросы по коду и сценариев с инструментами. По карточке она уверенно справляется с многоязычным чатом, рассуждениями и длинными диалогами, включая русский и переключение между английским и русским. Для запуска нужен DS4 fork с поддержкой переменного числа экспертов; обычный llama.cpp этот файл не загрузит. Квантизация 2 бит может ухудшать качество агентных задач: тесты показали непостоянные сбои при вызове инструментов, рефакторинге кода и цепочках «вызов инструмента — код». Лицензия — MIT.

DeepSeek V4 Flash REAP K128 (Uniform) — производная версия DeepSeek V4 Flash от sleepyeldrazi. В модели удалена половина маршрутизируемых экспертов MoE с помощью метода REAP; механизм внимания, эмбеддинги, общие эксперты, маршрутизатор и компоненты MTP сохранены. Тонкая настройка не выполнялась: оставшиеся веса взяты без изменений из исходной модели. Репозиторий содержит GGUF с равномерной квантизацией экспертов IQ2_XXS/Q2_K; заявленный размер файла — 46,98 ГиБ. Модель предназначена для генерации текста и диалогового использования, в том числе для задач программирования, вызова инструментов и поиска знаний. Совместима со средой ds4-engine; для запуска требуется ds4-for-reaped с поддержкой компактного GGUF. Калибровка при отборе экспертов проводилась на контексте 4096 токенов, но это не подтверждает максимальную длину контекста модели. Лицензия — MIT. Удаление половины экспертов и низкая точность квантизации могут повлиять на качество ответов; README не приводит количественных результатов оценки. Вызов инструментов обозначен как сценарий калибровки и использования, но сам по себе не подтверждает наличие отдельного интерфейса tool calling.

Dolphin3.0-R1-Mistral-24B-Patched — текстовая генеративная модель от AIOpsInSpace, созданная на базе cognitivecomputations/Dolphin3.0-Mistral-24B. Модель объединяет дообучение Dolphin 3.0 с паттернами рассуждений DeepSeek-R1 и предназначена для локального запуска, генерации текста и решения задач, требующих пошагового рассуждения. Заявлена поддержка формата reasoning trace с тегами <think> и исправления, повышающие стабильность работы локальных бэкендов и предотвращающие зависания токенизатора. Модель представляет собой плотную архитектуру Mistral с 24 млрд параметров. В карточке указана английская локализация; другие языки и размер контекстного окна не описаны. Среди заявленных особенностей — отсутствие ограничений на тематику ответов и совместимость с GGUF, однако конкретные варианты квантования, требования к оборудованию и результаты бенчмарков не приведены. Сильными сторонами модели являются сочетание относительно компактного для такого уровня reasoning-движка размера, открытой основы Mistral, ориентированности на локальное выполнение и поддержка явного формата рассуждений. Ограничениями остаются отсутствие подтверждённых количественных оценок качества, неполные сведения о контексте и аппаратных требованиях, а также потенциальные риски использования модели без встроенных ограничений безопасности. Указанная лицензия — Apache-2.0.

Gemma-4-26B-A4B-JANG_4M-CRACK — мультимодальная MoE-модель на базе google/gemma-4-26b-a4b-it, подготовленная dealignai. В ней заявлены 128 экспертов с выбором 8 активных, гибридное скользящее и глобальное внимание, режим рассуждений и обработка изображений. Репозиторий содержит квантизированные веса в формате safetensors; профиль JANG_4M использует указанные авторами уровни точности 8 и 4 бит для разных частей модели. Для запуска рекомендован vMLX или совместимый движок MLX с поддержкой Gemma 4; в README указаны Mac на Apple Silicon и 24 ГБ или больше объединённой памяти. Модель предназначена для диалогов, программирования, общих вопросов и анализа изображений. Автор сообщает о тестах на HarmBench, MMLU и наборе запросов по кибербезопасности, однако это результаты собственных проверок, а не независимая оценка качества. Модель намеренно ослабляет отказы на вредоносные запросы, что повышает риск получения небезопасных инструкций; показатели бенчмарков сами по себе не гарантируют качество или безопасность в практических сценариях. Лицензия — Gemma; README описывает модель как исследовательскую и возлагает ответственность за соблюдение законов на пользователя.