II.2Создание и понимание программного кода

FireStorm-Llama-3.1-8B — разговорная языковая модель, опубликованная EpistemeAI2 и дообученная на базе unsloth/llama-3.1-storm-8b-bnb-4bit. Это плотная причинная модель семейства Llama с 7,5 млрд параметров; карточка указывает контекст до 131 072 токенов и форматы PyTorch и Safetensors. Модель предназначена для генерации ответов в диалоге, следования инструкциям, вопросов и ответов на основе знаний, рассуждений и вызова функций. В README описаны дообучение на тщательно отобранных обучающих примерах и слияние с Llama-Spark; заявлены улучшения относительно Llama-3.1-8B-Instruct на нескольких тестах, включая проверку следования инструкциям, ответов на вопросы, рассуждений и вызова функций. Эти результаты относятся к оценкам авторов карточки. Для запуска предлагаются Transformers и vLLM, а в репозитории указана лицензия Apache-2.0. Основной указанный язык — английский. README отмечает, что модель не проходила отдельное выравнивание и может сохранять некоторые свойства выравнивания базовой instruct-модели. Ее ответы могут содержать ошибки; результаты тестов не гарантируют качество в конкретном применении.

Ganymede-24B-F16 — дообученная языковая модель семейства Mistral, опубликованная slrrxx101. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель содержит 22 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель дообучена на unsloth/Mistral-Small-Instruct-2409-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. В репозитории указаны веса в формате safetensors и лицензия Apache-2.0. Карточка не описывает специализацию дообучения или результаты оценки качества, поэтому пригодность для конкретных предметных областей не установлена.

unsloth/gemma-3-1b-pt-unsloth-bnb-4bit — 4-битная квантованная версия предобученной модели google/gemma-3-1b-pt, подготовленная Unsloth. Базовая модель разработана Google DeepMind в рамках семейства Gemma, созданного на основе технологий Gemini. Это модель с открытыми весами, предназначенная для локального и ресурсосберегающего развертывания. Модель ориентирована на генерацию текста, ответы на вопросы, суммаризацию, рассуждения и понимание изображений. Она принимает текстовые и графические входные данные и генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов, максимальный объём вывода — 8192 токена. Семейство Gemma 3 поддерживает более 140 языков; в карточке этой версии явно указан английский язык. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битной квантизации, что упрощает запуск на ноутбуках, настольных компьютерах и другой ограниченной по ресурсам инфраструктуре. При этом это именно предобученная, а не instruction-tuned модель, поэтому для диалоговых сценариев и выполнения команд может потребоваться дополнительное дообучение или специальное форматирование запросов. Квантизация также может немного снижать точность по сравнению с полноразмерной версией, однако README заявляет о применении селективной квантизации Unsloth Dynamic Quants для улучшения сохранения качества. Использование регулируется лицензией и условиями Gemma; перед применением необходимо ознакомиться с соответствующими Terms of Use.

h2oai/h2ogpt-4096-llama2-13b — клонированная H2O.ai версия Meta Llama 2 13B, созданная для генерации текста и использования в составе h2oGPT. Модель можно дообучать с помощью открытого ПО h2oGPT и H2O LLM Studio. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 12,9 млрд параметров. Она принимает текст, генерирует текст и поддерживает контекст до 4096 токенов. В карточке указана поддержка английского языка; репозиторий содержит веса PyTorch и Safetensors. Модель подходит для генерации ответов и диалоговых сценариев, в том числе для чата с документами через приложение h2oGPT. Лицензия репозитория — Llama 2; условия использования определяются лицензией Meta Llama 2.

mlx-community/Hermes-3-Llama-3.1-8B-8bit — 8-битная версия Hermes 3 на базе Llama 3.1 8B, подготовленная сообществом mlx-community для формата MLX. Модель была преобразована из NousResearch/Hermes-3-Llama-3.1-8B с помощью mlx-lm 0.16.1; метаданные указывают на дообучение исходной Llama 3.1 8B и архитектуру LlamaForCausalLM с 7,5 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая генерацию текста, ролевые сценарии и вызов функций. Заявленный контекст составляет 131 072 токена; в карточке указаны английский язык, chat template ChatML, режим JSON и function calling. Формат MLX рассчитан на запуск через mlx-lm. Для модели указана лицензия llama3. Карточка не приводит отдельных результатов оценки качества; фактическая скорость и потребление памяти зависят от устройства и сценария запуска.

Это дообученная диалоговая модель egoigo на базе kakaocorp/kanana-1.5-8b-instruct-2505. Модель относится к семейству Llama, имеет плотную архитектуру и около 7,5 млрд параметров; она принимает текстовые запросы и генерирует текст, в том числе в формате диалога и с интерфейсом вызова инструментов. Контекст составляет до 32 768 токенов. Модель подходит для диалоговых помощников и генерации текста. Базовая Kanana также предназначена для программирования и математики, однако README не описывает специализацию или результаты именно этой версии Persona-Merge-K. Модель опубликована под лицензией Apache-2.0.

L3-NotCrazy-8B — языковая модель bunnycore, полученная слиянием трёх моделей семейства Llama 3 с помощью mergekit. Она предназначена для генерации текста в диалогах и сочетает способности к рассуждению и решению задач, творческой ролевой игре и точному следованию инструкциям. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. В репозитории представлены веса safetensors; лицензия — Llama 3 Community License.

LFM2-24B-A2B-GGUF — языковая модель семейства LFM2, разработанная Liquid AI для эффективного развертывания на периферийных устройствах и пользовательских компьютерах. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на ноутбуках и настольных компьютерах; доступна в формате GGUF с поддержкой llama.cpp, а также заявленной совместимостью с vLLM и SGLang. Модель использует гибридную архитектуру Mixture-of-Experts с 24 миллиардами общих параметров, из которых около 2 миллиардов активируются для каждого токена. По данным разработчика, она рассчитана на работу в пределах 32 ГБ оперативной памяти и обеспечивает высокую скорость инференса на совместимом оборудовании. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Размер контекста, конкретный вариант квантования и подробные результаты оценки в README не указаны. Сильными сторонами модели являются сочетание крупного общего числа параметров с низкими вычислительными затратами на токен, ориентация на локальное выполнение и высокая заявленная скорость генерации. Ограничения включают отсутствие в предоставленных данных подробностей о качестве по отдельным задачам, требованиях к точному объёму памяти для разных вариантов GGUF и поддерживаемом размере контекста. Модель распространяется по лицензии lfm1.0; условия лицензии следует уточнять в файле LICENSE.

WhiskyAKM/LFM2.5-2.6B-NVFP4-GGUF — квантованная GGUF-сборка текстовой модели Liquid AI LFM2.5-2.6B, подготовленная для локального запуска через llama.cpp на CPU и GPU. В основе лежит LiquidAI/LFM2.5-2.6B-Base; в карточке указаны архитектура LFM2, около 2,69 млрд параметров и гибридная структура из 30 слоёв, включая свёрточные слои и GQA. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и агентных сценариев с вызовом инструментов. Она поддерживает контекст до 131 072 токенов и ориентирована на эффективный запуск на устройстве. Файл NVFP4 использует 4-битное представление для уменьшения требований к памяти. Репозиторий указывает лицензию `other`; конкретные условия следует сверять с карточкой базовой модели и файлами лицензии. В README заявлены сильные стороны в использовании инструментов и длинном контексте, но независимые результаты оценки не приведены.

Модель triplee/llama3.1_8b_2S1S_v5_merge — дообученная текстовая модель семейства Llama 3.1, разработанная triplee на основе unsloth/meta-llama-3.1-8b-instruct. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения использовались Unsloth и библиотека TRL; файлы представлены в формате safetensors. Лицензия — Apache-2.0.

Luban 13B GGUF — языковая модель для генерации текста, разработанная AIDC-ai-business на базе AIDC-ai-business/Luban-13B и преобразованная в формат GGUF пользователем TheBloke. Модель относится к архитектуре Llama, содержит около 13 миллиардов параметров и предназначена для выполнения инструкций и формирования ответов на текстовые запросы. Модель ориентирована на сценарии текстовой генерации, включая ответы на инструкции, диалоговые приложения и локальный запуск через llama.cpp и совместимые интерфейсы. В карточке указаны английский язык и датасет Open-Orca. Для запросов используется шаблон Alpaca с разделами Instruction и Response. Формат GGUF поддерживает метаданные, специальные токены и различные варианты квантования; доступны файлы с разрядностью от 2 до 8 бит для инференса на CPU и GPU. К сильным сторонам относятся возможность локального запуска, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими библиотеками и интерфейсами. Ограничения включают ориентацию преимущественно на английский язык, отсутствие мультимодальных возможностей и зависимость качества, скорости и требований к памяти от выбранного варианта квантования. Модель предназначена для текстовой генерации и не заявлена как специализированная система для других модальностей. Указана лицензия cc-by-nc-4.0 исходной модели. README также сообщает о применимости условий лицензии Meta Llama 2, поэтому модель следует считать подпадающей под обе лицензии; их взаимодействие требует отдельной проверки перед использованием, особенно в коммерческих сценариях.

Merge-Mixtral-Prometheus-8x7B — языковая модель для генерации текста и диалогов, созданная объединением моделей prometheus-eval/prometheus-8x7b-v2.0 и mistralai/Mixtral-8x7B-Instruct-v0.1 с помощью LazyMergekit. Для слияния использован линейный метод с равными весами; архитектура Mixtral — модель типа Mixture of Experts с классом MixtralForCausalLM. Репозиторий содержит веса в формате safetensors. Модель подходит для генерации ответов на запросы и диалогового взаимодействия, а также может применяться для оценивания ответов в сценариях, связанных с Prometheus. Заявленная длина контекста составляет 32 768 токенов, размер — 7,1 млрд параметров. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH. Лицензия — Apache-2.0.

JANGQ-AI/MiniMax-M2.7-JANGTQ — это квантизированная версия MiniMax-M2.7, разработанная JANGQ-AI на базе архитектуры MiniMax M2 от MiniMaxAI. Модель предназначена для генерации текста, диалоговых сценариев, задач рассуждения и работы с инструментами. Она ориентирована на запуск в MLX и vMLX на компьютерах Apple Silicon, включая M3 Max с 96 ГБ памяти и более новые M4 Max, M5 Max и Mac Studio с 128 ГБ памяти. Модель использует архитектуру MoE с 62 слоями, 256 маршрутизируемыми экспертами и выбором 8 экспертов на токен. Заявленный контекст составляет 196K токенов. Размер сборки на диске — около 47 ГБ вместо примерно 230 ГБ у исходной FP8-версии. Маршрутизируемые экспертные веса сжаты до 2 бит методом JANGTQ2, а attention, общие экспертные компоненты, эмбеддинги и lm_head используют 8-битное аффинное квантование; нормализации и маршрутизатор частично сохранены в исходной точности. Поддерживаются reasoning через парсер qwen3 и вызовы инструментов через парсер minimax; режим рассуждения включён по умолчанию и может быть отключён. К сильным сторонам относятся существенное уменьшение размера, предварительно собранная структура экспертных весов, быстрая загрузка без дополнительной перестановки и заявленная идентичная скорость декодирования по сравнению с предыдущей раскладкой. Ограничения связаны с узкой совместимостью с MLX/vMLX и требованием значительного объёма объединённой памяти Apple Silicon. Язык модели, точные показатели качества и полный набор поддерживаемых языков в README не указаны. Лицензия — minimax-m2.7-non-commercial; сборка предназначена для некоммерческого использования.

MiroThinker-v1.0-30B-GGUF — набор GGUF-квантизированных версий модели MiroThinker-v1.0-30B, разработанной miromind-ai и подготовленной квантизатором bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях и проектах на базе llama.cpp. Указан английский язык; поддержка других языков не заявлена. Это модель размером 30B параметров, представленная в форматах от BF16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Квантизация выполнена с использованием imatrix в llama.cpp, что позволяет выбирать между качеством и требованиями к памяти. Рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. Сильными сторонами являются открытый формат GGUF, широкий выбор уровней сжатия и ориентация исходной модели на агентские и исследовательские задачи. Более компактные варианты требуют меньше оперативной памяти, но уступают высокоточным версиям по качеству. В README не указаны архитектура базовой модели, размер контекстного окна, мультимодальные возможности и результаты benchmark-тестов, поэтому эти характеристики нельзя оценить. Лицензия — MIT.

Mistral-Trismegistus-7B-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и Mistral-Trismegistus-7B методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает состав слияния и параметры конфигурации, но не приводит сравнительных оценок качества; результаты могут зависеть от формулировки запроса и сценария применения.

JANGQ-AI/Nemotron-Cascade-2-30B-A3B-JANG_4M — квантованная версия NVIDIA Nemotron-Cascade-2-30B-A3B, подготовленная Jinho Jang с помощью открытого формата и движка JANG для MLX. Это языковая модель для диалогов и генерации текста с пошаговым режимом рассуждений и интерфейсом вызова инструментов. В основе — гибридная архитектура Nemotron-H: Mamba-2, смесь экспертов (MoE) и слои внимания; в README указаны 52 слоя и 128 экспертов с выбором шести. Квантование JANG_4M использует 4,1 бита и 8-битные веса внимания. Метаданные указывают 1,9 млрд параметров и контекст до 262 144 токенов. Модель ориентирована на рассуждения, в том числе решение математических задач, а также на обычные диалоги и агентные сценарии. По результатам теста MMLU на 200 вопросах, приведённым автором карточки, она набрала 93% в режиме рассуждений; это результат собственного тестирования, а не независимая оценка. Для запуска нужны Apple Silicon с не менее чем 24 ГБ объединённой памяти и совместимая среда MLX, например MLX Studio или пакет JANG для MLX; обычные загрузчики MLX могут не поддерживать отображение весов этой архитектуры. В карточке указана лицензия «other», конкретные условия следует проверять у автора базовой модели и производной версии.

OLMo-2-1124-13B-DPO — англоязычная причинная языковая модель семейства OLMo 2, разработанная Allen Institute for AI (AI2). Это диалоговая версия с 13,2 млрд параметров: после supervised fine-tuning на варианте набора Tülu 3 она прошла дополнительное обучение методом DPO на данных предпочтений. Модель предназначена для генерации текста, диалога и выполнения инструкций, включая задачи рассуждения и математики. Модель принимает текст и генерирует текст, поддерживает чат-шаблон и имеет контекст длиной до 4096 токенов. Обучение охватывает разнообразные публичные, синтетические и созданные людьми данные; основной язык — английский. Доступны веса в форматах PyTorch и Safetensors, использовать модель можно на условиях Apache 2.0. В карточке отмечено, что модели OLMo-2 прошли ограниченное обучение безопасности и могут выдавать проблемные ответы, особенно при соответствующем запросе. Для релиза также указано обновление постобученных моделей из-за расхождения логики предварительной токенизации у первоначальных версий; при интеграции важно использовать актуальную версию модели и совместимые компоненты.

OpenBuddy Nemotron 70B v23.2q 131K GGUF — квантизированная версия языковой модели OpenBuddy-nemotron-70b-v23.2q-131k, подготовленная bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, включая LM Studio, с применением формата диалоговых промптов OpenBuddy. Поддерживаются английский, китайский, французский, немецкий, японский, корейский, итальянский и финский языки. Модель содержит около 70 млрд параметров и имеет заявленный контекст до 131 072 токенов. Это текстовая модель без заявленной поддержки изображений или других модальностей. Доступны варианты GGUF с разными уровнями квантизации — от Q8_0 до Q2_K и IQ2_M; размер файлов составляет примерно от 24 до 75 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, тогда как компактные варианты рассчитаны на системы с ограниченным объёмом памяти. В README рекомендуются, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Сильными сторонами являются большой контекст, мультиязычность и возможность локального запуска с выбором компромисса между качеством и требованиями к памяти. Ограничения включают значительный размер модели, зависимость качества от выбранной квантизации и отсутствие в предоставленных данных результатов бенчмарков или подробного описания архитектуры. Лицензия указана как llama3.1.

Qwen3.5-88B — текстовая версия модели Qwen3.5, подготовленная 0xSero из Qwen/Qwen3.5-122B-A10B методом REAP (Routing-Enhanced Activation Pruning). Из MoE-модели удалено около 30% экспертов; итоговая модель содержит 88 млрд параметров и распространяется в формате BF16. В основе указана архитектура Qwen3.5 MoE с GDN и полным attention. Модель предназначена для генерации текста и диалогов. Это контрольная точка только для языковой модели, полученная из мультимодальной базы: изображения она не обрабатывает. REAP отбирает экспертов по активациям маршрутизатора на калибровочном наборе данных; в README также указана защита критически важных для безопасности возможностей. Для запуска приведён пример с vLLM и максимальной длиной контекста 8192 токена. Лицензия в метаданных обозначена как other, конкретные условия следует проверять на странице репозитория.

Qwen3.6-35B-A3B-Abliterix-EGA-abliterated-i1-GGUF — набор квантованных GGUF-файлов модели, созданный mradermacher на основе jenerallee78/Qwen3.6-35B-A3B-Abliterix-EGA-abliterated. Модель относится к семейству Qwen и использует MoE-архитектуру с заявленным размером 35B параметров и 3B активных параметров; в описании также указаны Expert-Granular Abliteration и мультимодальная поддержка. Модель предназначена для диалоговых сценариев, генерации и обработки текста, а также задач image-text-to-text с анализом изображений. Заявлены английский и китайский языки. Распространяется в формате GGUF с множеством вариантов квантования от очень компактных IQ1 до более качественных Q6_K; доступны imatrix-кванты, а для баланса размера, скорости и качества автор рекомендует i1-Q4_K_M, тогда как i1-Q4_K_S обозначен как оптимальный по соотношению характеристик. К сильным сторонам относятся локальный запуск через совместимые с GGUF инструменты, широкий выбор вариантов квантования и мультимодальные возможности исходной модели. Ограничения включают возможное снижение качества на низких уровнях квантования, отсутствие в предоставленных данных сведений о размере контекста, производительности и результатах бенчмарков, а также особенности abliterated-версии, которые могут влиять на поведение модели и безопасность ответов. Лицензия — AGPL-3.0.

FreedomAISVR выпустила GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled, дообученной на базе Qwen/Qwen3.6-35B-A3B с дистилляцией рассуждений Claude 4.7 Opus. Это текстовая MoE-модель для диалогов и генерации ответов; архитектура использует 35 млрд параметров, около 3 млрд из которых активны на токен. Контекст составляет 262 144 токена, поддержка изображений отсутствует. Эксперты квантизированы в MXFP4, остальные веса — в Q8_0, веса маршрутизатора хранятся в F32; файл GGUF занимает около 18,87 ГБ. Модель можно запускать через llama.cpp, например как сервер для диалогового приложения. Лицензия — Apache 2.0.

Starw1/Qwen3.8-27B-absolute-heresy-W4A16 — 4-битная версия модели MuXodious/Qwen3.8-27B-absolute-heresy, подготовленная для инференса с использованием Transformers и vLLM. Модель разработана как мультимодальная система для работы с текстом и изображениями; исходная модель относится к классу примерно 27-миллиардных параметров, а логический размер квантованной версии составляет около 28 млрд параметров. Модель использует квантизацию весов W4A16: 4-битные целочисленные веса и активации в формате 16-bit. Квантизация выполнена методом AutoRound с симметричной схемой, group_size=128 и упаковкой pack-quantized в формате compressed-tensors. Зрительная башня оставлена в формате bf16, чтобы сохранить возможности анализа изображений. Размер модели на диске составляет около 15,79 ГБ, а занимаемый объём весов в VRAM — примерно 14,71 ГиБ, что ориентирует её на запуск на одной видеокарте с 24 ГБ памяти, например RTX 3090. README также указывает поддержку MTP-весов для speculative decoding и контекст до 140 000 токенов при соответствующей конфигурации vLLM. Основные сценарии применения — генерация и анализ текста, а также обработка запросов с изображениями в локальной или серверной среде. К преимуществам относятся сниженные требования к памяти и сохранение визуального компонента в bf16; ограничения связаны с использованием квантованной версии, зависимостью от совместимой инфраструктуры vLLM и отсутствием в README подробностей об архитектуре, языках, обучении и фактическом качестве модели. Лицензия в карточке этой квантованной версии не указана; за условия использования необходимо обращаться к карточке исходной модели.

Qwen3.8-27B-thinkingcap-abliterated-GGUF — GGUF-квантизированная версия модели hotdogs/Qwen3.8-27B-thinkingcap-abliterated, подготовленная и опубликованная mradermacher. Модель дообучалась на датасете hotdogs/thinkingcap-sft-qwen38-27b и ориентирована на генерацию текста, рассуждения и эффективное использование токенов. В метаданных указан английский язык. Размер базовой модели — 27B параметров. Доступны варианты квантизации GGUF от Q2_K до Q8_0, включая IQ4_XS и несколько вариантов K-квантизации; размеры файлов составляют примерно от 11 до 29,1 ГБ. Для вариантов Q4_K_S и Q4_K_M заявлены высокая скорость и рекомендованный статус, а Q8_0 описан как вариант с лучшим качеством. Также предоставлены файлы mmproj для мультимодального дополнения, однако конкретные поддерживаемые типы входных данных и размер контекстного окна в README не указаны. Сильными сторонами являются широкий выбор уровней квантизации, возможность запуска в средах, совместимых с GGUF, и специализация исходной модели на reasoning и token-efficient подходах. Качество и требования к памяти зависят от выбранного варианта: более компактные квантизации экономичнее, но могут снижать качество, тогда как Q6_K и Q8_0 требуют больше ресурсов. Модель помечена как abliterated, но последствия этого для поведения и безопасности в README не раскрыты. Лицензия — Apache-2.0.

Mungert/QwenLong-L1-32B-GGUF — это GGUF-квантизированная версия языковой модели QwenLong-L1-32B, созданная на основе DeepSeek-R1-Distill-Qwen-32B. Модель предназначена для генерации текста и задач, требующих работы с длинным контекстом и рассуждениями; в метаданных она обозначена как long-context и large-reasoning-model. При подготовке использовался llama.cpp, а среди связанных данных указан набор Tongyi-Zhiwen/DocQA-RL-1.6K. Главная особенность представленной версии — поддержка вариантов квантования с низкой разрядностью, включая 1–2-битные схемы IQ-DynamicGate. Этот подход распределяет точность по слоям модели и защищает критически важные компоненты, чтобы снизить потери качества при уменьшении размера. По приведённым тестам на Llama-3-8B DynamicGate уменьшал perplexity по сравнению со стандартным 1–2-битным квантованием, сохраняя сопоставимую скорость инференса; эти результаты не являются прямым бенчмарком данной 32B-модели. Модель подходит для развёртывания на системах с ограниченной GPU-памятью, CPU и edge-устройствах, а также для исследований ультранизкоразрядного квантования. Компромиссами являются возможное снижение точности по сравнению с полноформатными версиями и зависимость результата от выбранного варианта квантования и аппаратной поддержки. Лицензия — Apache-2.0. Точный размер модели, поддерживаемые языки и заявленное максимальное окно контекста в README не указаны.

Карточка модели rhombus18/rhododendron-analyst-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

Карточка модели rhombus18/rhododendron-default-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

Карточка модели rhombus18/rhododendron-efficiency-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

SEC-1.6-Calme-7B-Instruct — объединённая Arcee AI чат-модель на архитектуре Mistral, созданная с помощью mergekit из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и MaziyarPanahi/Calme-7B-Instruct-v0.2. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по запросу. Её контекстное окно составляет 32 768 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. README описывает слияние методом SLERP с настройками для слоёв self-attention и MLP; отдельных оценок качества или ограничений применения карточка не приводит.

SLIM-TAGS — небольшая специализированная авторегрессионная модель серии SLIM от llmware, дообученная для генерации вызовов функций, которые автоматически подбирают релевантные теги и точки интереса по тексту. Модель выдаёт структурированный результат в виде словаря Python с полем tags; такой вывод можно использовать в программных и многошаговых LLM-сценариях автоматизации. Модель построена на архитектуре Llama и содержит 1 млрд параметров. Она принимает текст и генерирует текстовый структурированный результат; максимальный родной контекст составляет 2048 токенов. В README приведён пример классификации финансовой новости и интеграции через Transformers или LLMWare. Лицензия — Apache-2.0.

T3qm7xNeuralsirkrishna_ShadowCalme — объединённая языковая модель семейства Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/ShadowCalme-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поставляется в формате safetensors. Модель предназначена для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов. В метаданных указана лицензия Apache-2.0. Сведения о специальных областях применения и языках не приведены.