II.2Создание и понимание программного кода

Mini_Synatra_SFT-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, полученная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и maywell/Mini_Synatra_SFT. Она использует плотную архитектуру Mistral с причинной генерацией текста и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации ответов по инструкциям; максимальная длина контекста составляет 32 768 токенов. Модель подходит для чат-ботов и других сценариев, где нужно генерировать текст по запросу. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0. README не приводит результатов оценки качества или сведений о языковом покрытии, поэтому эти характеристики здесь не уточняются.

Mistral-10.7B-v0.2 — плотная авторегрессионная языковая модель семейства Mistral, созданная методом Depth-Up Scaling на основе alpindale/Mistral-7B-v0.2-hf. Веса подготовлены с помощью mergekit и метода passthrough: к слоям исходной модели добавлен повторный диапазон слоёв, увеличивший глубину модели. Размер модели — 10,6 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Модель предназначена для дальнейшего дообучения или использования как замена Mistral-7B-v0.2 в сценариях генерации текста. Её можно применять для диалога, написания и продолжения текстов, а также для прототипирования языковых приложений. Карточка не приводит отдельной оценки качества и не перечисляет поддерживаемые языки. Лицензия — Apache-2.0.

Mistral-7b-FFT-Test3-Mistral-7B-Instruct-v0.2-slerp — текстовая диалоговая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Dans-DiscountModels/Mistral-7b-FFT-Test3; в конфигурации указан тип данных bfloat16. Модель предназначена для генерации текста и выполнения инструкций в диалоге, а контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста. В карточке указана лицензия Apache-2.0. Данных о специальных предметных областях или языках, на которые модель рассчитана в первую очередь, нет.

Mistral-7B-Instruct-Aya-101-GGUF — набор квантованных файлов в формате GGUF для модели Mistral-7B-Instruct-Aya-101, созданный и подготовленный MaziyarPanahi. Базой указана Mistral-7B-Instruct-v0.2 от Mistral AI; модель предназначена для генерации текста и диалогового взаимодействия. Модель ориентирована на многоязычные сценарии, включая работу более чем со 100 языками, среди которых английский, русский, французский, немецкий, испанский, арабский, китайский, японский и другие. Она имеет архитектуру Mistral с примерно 7 млрд параметров и поддерживает варианты квантования в форматах GGUF, включая 2-, 3-, 4-, 5-, 6- и 8-битные версии. GGUF позволяет запускать модель локально через llama.cpp и совместимые приложения и библиотеки, в том числе text-generation-webui, LM Studio, GPT4All и llama-cpp-python. Основные преимущества — уменьшенное потребление памяти по сравнению с полноразмерной моделью, возможность выбора компромисса между качеством и скоростью за счёт разных уровней квантования и удобство локального запуска на CPU или GPU. README не содержит данных о размере контекста, точных требованиях к памяти, результатах тестирования и ограничениях качества, поэтому эти характеристики нельзя достоверно оценить. Для модели указана лицензия Apache-2.0.

Это вариант Mistral-7B-Instruct-v0.1, подготовленный автором arnavgrg: веса линейных слоёв сначала квантизированы в NF4 с помощью bitsandbytes, а затем представлены в fp16. Модель имеет плотную авторегрессионную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Представление линейных слоёв в fp16 после NF4-квантизации призвано сократить затраты на повторную квантование и деквантование во время инференса; загрузка предусмотрена через Transformers. Потери при исходной квантизации необратимы, поэтому качество может быть ниже официальной Mistral-7B-Instruct-v0.1. Лицензия — Apache-2.0.

Mistral-T5-7B-v1-Mistral-7B-Instruct-v0.1 — слитая чат-модель на архитектуре Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Mistral-T5-7B-v1 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; заявленный контекст составляет 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста по запросу. В README описаны смешивание слоёв внимания и MLP и формат bfloat16; в репозитории веса представлены в safetensors. Лицензия — Apache-2.0. README и метаданные не сообщают о языковом охвате и оценках качества, поэтому результаты для конкретных языков и задач требуют проверки.

Nemotron-4-340B-Instruct-hf — преобразованный чекпойнт диалоговой языковой модели Nemotron-4-340B-Instruct от NVIDIA, опубликованный пользователем mgoin. Модель предназначена для генерации текста в формате диалога; README указывает, что чекпойнт создан из версии 1.0 формата .nemo. Метаданные описывают архитектуру как плотную авторегрессионную модель NemotronForCausalLM с общим числом 466,8 млрд параметров и контекстом 4096 токенов. Модель принимает текст и выдаёт текст, поддерживает чат-сценарии и может развёртываться через vLLM версии 0.5.4 или новее. В README приведены оценки для чекпойнта FP8, полученные с lm-eval 0.4.3 на восьми A100, однако сами результаты в доступном тексте не представлены. Метаданные указывают лицензию other; конкретные условия следует сверять с лицензией базовой модели NVIDIA.

Nemotron-Cascade-8B-Thinking-GGUF — это квантизированная версия языковой модели Nemotron-Cascade-8B-Thinking, разработанной NVIDIA и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста общего назначения и задач, требующих рассуждений; в метаданных также указано обучение с учителем (SFT) и усилением (RL). Поддерживается английский язык. Модель содержит 8 миллиардов параметров и поставляется в различных вариантах квантизации — от BF16 до Q3 и IQ4, с размером файлов примерно от 4,43 до 16,39 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix. Версия BF16 обеспечивает исходное качество, тогда как варианты Q4–Q6 предлагают компромисс между качеством и требованиями к памяти; для запуска подходят llama.cpp, LM Studio и другие совместимые проекты. Формат взаимодействия использует специальные токены ролей и маркер /think. Сильными сторонами являются широкий выбор уровней квантизации, возможность локального запуска и ориентация на задачи рассуждения. Ограничения включают отсутствие в README сведений о длине контекста, точной архитектуре, мультимодальности, результатах оценивания и поддерживаемых языках помимо английского. Модель распространяется по NVIDIA Open Model License; конкретные условия следует уточнять в тексте этой лицензии.

openchat_3.5-16k-Mistral-7B-Instruct-v0.1 — разговорная модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и NurtureAI/openchat_3.5-16k методом SLERP. Она предназначена для генерации ответов на инструкции и ведения диалогов. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, основная возможность — чат. Модель принимает текстовые запросы и выдаёт текстовые ответы. Она подходит для чат-ботов, помощников и сценариев, где нужно обсуждать темы или отвечать на вопросы в рамках длинного контекста. Использует лицензию Apache-2.0.

Pankaj Mathur разработал orca_mini_v9_6_3B-Instruct — диалоговую языковую модель на архитектуре Llama, полученную дообучением Meta Llama 3.2 3B Instruct. Модель содержит 3,2 млрд параметров и предназначена для генерации текста в формате диалога; её можно использовать как основу для чат-ассистентов и других приложений на базе языковых моделей. Модель принимает текст и генерирует текст. В метаданных указан контекст до 131 072 токенов и поддержка английского языка. Веса доступны в форматах PyTorch и Safetensors, для запуска подходит библиотека Transformers. Лицензия — Llama 3.2. Как и другие компактные языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы. Перед внедрением рекомендуется проверять качество и безопасность на сценариях конкретного приложения.

Ornith-1.0-9B-1M-GGUF — это GGUF-сборка модели Ornith-1.0-9B, основанной на dense-архитектуре семейства Qwen3.5. Исходная модель разработана DeepReinforce, а данный вариант опубликован satgeze. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ollama и совместимые инструменты. Ключевая особенность — контекстное окно до 1 048 576 токенов благодаря встроенному масштабированию RoPE методом YaRN; это в четыре раза больше заявленного исходного окна в 262 144 токена. В сборку также встроен слой MTP для speculative decoding, который, согласно README, может увеличить скорость декодирования в llama.cpp на 15–38%. Доступна vision-модальность через отдельный проектор mmproj, поэтому модель может обрабатывать изображения в поддерживаемых конфигурациях. Предлагаются варианты квантования от IQ2_M до bf16, включая MTP-сборки Q4_K_M и Q8_0; размер файлов варьируется примерно от 3,6 до 17,9 ГБ, а vision-проектор занимает 918 МБ. Это позволяет выбирать между требованиями к памяти и качеством, однако фактическая скорость и возможность работы с контекстом в миллион токенов зависят от оборудования и используемого рантайма. Языки обучения и поддерживаемые языки в README не указаны. Модель распространяется по лицензии MIT.

Pirouette-7b — текстовая генеративная модель на архитектуре Mistral, созданная автором репозитория ddh0 путём градиентного слияния SLERP моделей dolphin-2.1-mistral-7b и Noromaid-v0.1.1-13b. По замыслу автора, модель сохраняет основную часть возможностей Dolphin и добавляет некоторые особенности Noromaid. Модель предназначена для диалогов и выполнения инструкций в формате Alpaca. В карточке заявлена длина контекста 32 768 токенов; метаданные указывают 7,1 млрд параметров. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-SFT-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Qwen2.5-72B-Instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-72B-Instruct, разработанной командой Qwen. Квантизацию выполнил legraphista с использованием llama.cpp версии b3787 и калибровочного набора IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в совместимых локальных средствах инференса, таких как llama.cpp. Модель основана на версии с 72 миллиардами параметров и исходным форматом BF16. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и более компактных IQ-квантизаций; размеры файлов составляют примерно от 29,81 до 145,42 ГБ. Для ряда вариантов применена IMatrix, что направлено на повышение качества при квантизации. В метаданных указан английский язык; сведения о других языках, архитектуре и размере контекста в представленном README не указаны. Сильная сторона модели — широкий выбор уровней квантизации, позволяющий подобрать компромисс между качеством, размером и требованиями к ресурсам, а также поддержка формата GGUF и IMatrix для многих компактных вариантов. Ограничения включают очень высокие требования к памяти даже для квантизированных файлов, зависимость совместимости и производительности от используемого движка и оборудования, а также возможное снижение качества при сильной квантизации. Модель распространяется по лицензии Qwen; подробные условия указаны в лицензии исходной модели.

Это квантованная мультимодальная модель Qwen3.8-27B, разработанная на основе Qwen/Qwen3.8-27B и аблитерированной версии huihui-ai/Huihui-Qwen3.8-27B-abliterated. Релиз lued сохраняет архитектуру и возможности исходной модели, изменяя числовое представление весов. Модель предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, а также для запуска через vLLM на видеокартах архитектуры Ampere, в частности в конфигурации с двумя RTX 3090. Используется квантование W8A16: веса основных матричных умножений представлены в INT8, а активации — в FP16 или BF16. Применена симметричная data-free RTN-квантизация с размером группы 128; квантировано 400 GEMM-операций. В BF16 сохранены vision tower, lm_head, MTP-компоненты и рекуррентные GDN-gates. Модель поддерживает vision-компоненты, native context, thinking controls и speculative decoding через MTP, однако точный размер контекста, список языков и полные архитектурные характеристики в карточке не указаны. По измерениям на коротком наборе из 467 позиций средний KLD относительно собственного BF16-учителя составил 0,000705, а совпадение top-1 предсказаний — 98,72%; эти показатели характеризуют числовое отклонение после квантизации, но не заменяют полноценную оценку качества генерации, программирования, инструментального использования или длинного контекста. Аблитерация унаследована от базовой модели и направлена на удаление отказов; исходная карточка описывает этот метод как экспериментальный и proof-of-concept. Размер файлов весов составляет 29,44 GiB. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-OrcaRouter-GSQ-RCO-IQ3_XXS-Uncensored — это 3-битная GGUF-квантизация базовой модели Qwen3.8-27B, подготовленная RentedNoodle на основе uncensored-чекпойнта orcarouter/Qwen3.8-27B-Uncensored. Это не новая дообученная модель: снижение отказов унаследовано от OrcaRouter, а квантизация выполнена с использованием методологии GSQ/RCO, разработанной ISTA-DASLab. Модель распространяется под лицензией Apache-2.0. Модель предназначена для генерации текста, рассуждений, работы с инструментами и мультимодальных сценариев с изображениями. Поддерживаются английский и китайский языки. Архитектурное окно контекста составляет 262 тысячи токенов, однако поставляемый профиль рассчитан на 32 тысячи токенов. Модель имеет размер около 9,75 GiB, использует квантизацию IQ3_XXS примерно на 3,06 бит на вес, а MTP draft head сохранён в формате Q6_K для speculative decoding. Для работы с изображениями требуются отдельные projector-файлы. Сильные стороны модели — возможность запуска на одной видеокарте с 16 ГБ VRAM, сохранённая поддержка MTP, хорошие результаты на извлечении данных из длинного контекста, GPQA-Diamond и TruthfulQA, а также отсутствие избыточных отказов в тесте XSTest. Ограничения включают потери качества, типичные для сильной 3-битной квантизации, неполную надёжность вызова инструментов и зависимость intended tool-use и reasoning-поведения от специального шаблона froggeric-qwen3.8-tool-use.jinja. Результаты тестов зависят от конфигурации llama.cpp, параметров запуска и используемого шаблона; заявленная «uncensored» направленность не гарантирует универсальное выполнение любых запросов.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — квантованная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также работы с изображениями и видео; заявлена поддержка английского, китайского и других языков. Aggressive-профиль ориентирован на прямые ответы с минимальным вступлением и без стандартного отказного поведения. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder, 64 слоями, размером скрытого состояния 5120, FFN-размером 17408 и словарём из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживается нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. Встроенный NextN/MTP сохранён, а FastMTP 32K предоставляется как отдельный профиль ускорения; заявлено ускорение генерации до 3,02 раза для документов и до 1,93 раза для рассуждений относительно режима без MTP. К сильным сторонам относятся широкий набор текстовых, визуальных и видеосценариев, длинный контекст, несколько вариантов квантования и совместимость с GGUF-совместимыми средами, включая llama.cpp и LM Studio. Aggressive-профиль может быть менее подходящим для надёжно контролируемых агентских задач, поскольку ориентирован на отсутствие отказов; README также не приводит подробностей о качестве на стандартных бенчмарках. Распространение указано по лицензии Apache-2.0.

boxrunner/Qwen3.8-Flash-Next-mixC-GGUF — это смешанно-точностная GGUF-квантизация модели Qwen3.8-Flash-Next, опубликованная пользователем boxrunner на базе модели Qwen. Она предназначена для генерации текста и диалоговых сценариев с использованием совместимых движков, включая llama.cpp. Модель поставляется в двух частях, а дополнительно доступен F16-проектор изображений для соответствующей мультимодальной конфигурации. Модель использует архитектуру mixture-of-experts qwen4exp с 512 экспертами, из которых 10 выбираются для каждого токена, и одним общим экспертом. Файл содержит 176 943 899 520 параметров, контекст до 262 144 токенов, GPT-2 BPE-токенизатор с 248 320 токенами и встроенный chat template. Средний размер — около 3,455 бит на вес; применена смешанная квантизация с типами IQ2_XXS, IQ4_NL, Q5_K, Q6_K, Q8_0, F16 и F32. Главное преимущество данной упаковки — возможность загрузки полного пула экспертов на Apple Silicon с 64 ГБ памяти без вынесения экспертов на SSD; это повышает практическую пригодность модели для локального запуска на совместимом оборудовании. Приведённые в README показатели производительности получены только на одной конфигурации и не являются универсальным бенчмарком. Для работы необходимо скачать обе части GGUF, а для обработки изображений — также проектор. Модель распространяется по лицензии Qwen Community License 1.0.

Это квантованная в формате MXFP4 версия модели Qwen3-Next-80B-A3B-Thinking, подготовленная noctrex и опубликованная в формате GGUF. Она предназначена для генерации текста и диалогового использования; базовая модель — причинная MoE-модель Qwen для сложных рассуждений и работы с длинным текстовым контекстом. В названии базовой модели указано 80B параметров, из которых 3B активны; точную длину контекста доступные данные не сообщают. Для запуска требуется совместимая версия llama.cpp; автор рекомендует использовать актуальную версию. GGUF и MXFP4 позволяют запускать квантованную модель в совместимой среде, однако квантование может влиять на точность по сравнению с исходными весами. Лицензия в предоставленных данных не указана.

Spark-X2.5-1.7B-Abliterated-GGUF — набор GGUF-квантов модели Spark-X2.5-1.7B, разработанный сообществом darioooooo0o на основе XHToken/Spark-X2.5-1.7B. Модель предназначена для генерации текста и рассуждений, включая многоязычные сценарии и агентское использование с инструментами. Основное изменение — однократная rank-1-абляция направления отказа методом heretic, выполненная на сбалансированной многоязычной выборке из 6292 запросов; это существенно снизило склонность модели к отказам и предисловиям о соблюдении ограничений. Доступны варианты Q8_0 размером около 1,8 ГБ, Q6_K около 1,4 ГБ, Q4_K_M около 1,0 ГБ и IQ4_XS около 0,9 ГБ. Для работы требуется совместимая версия llama.cpp с архитектурой spark2_5; README рекомендует F16 KV-кэш и задаваемый лимит рассуждений, поскольку типичная длина скрытого рассуждения превышает 1500 токенов, а отдельные цепочки превышают 4000 токенов. Размер контекста указан в инструкции запуска как 65536 токенов, максимальная длина вывода — 4096 токенов. Точные сведения об архитектуре базовой модели, языковом покрытии и исходном контекстном окне вынесены в отдельную карточку и здесь не приведены. По заявленным проверкам, на закрытых наборах после аудита модель не демонстрировала реальных отказов в ответах, сохранив результат 5 из 6 эффективных задач агентского использования. Ограничением стала небольшая потеря качества по perplexity: ухудшение относительно базовой модели составило 2,3%. Кроме того, абляция направлена на снятие отказов, поэтому поведение и защитные ограничения базовой модели не следует считать сохранёнными. Распространение указано по лицензии Apache-2.0.

UNA-ThePitbull-21.4B-v2 — разговорная языковая модель от fblgit, основанная на saltlux/luxia-21.4b-alignment-v1.0. Это плотная авторегрессионная модель семейства Llama с 20,9 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста и диалогов. Версия 2 получила дополнительное обучение SFT на Replete-AI/code_bagel_hermes-2.5 и DPO на mlabonne/orpo-dpo-mix-40k и jondurbin/py-dpo-v0.1; автор также описывает применение стратегии UNA к части MLP- и attention-слоёв. Модель подходит для разговорных помощников, ответов на вопросы и генерации связного текста. В карточке приведены результаты нескольких бенчмарков, однако заявленные автором оценки не гарантируют аналогичного качества в конкретных сценариях. Доступны веса в формате Safetensors, библиотека Transformers; лицензия — AFL-3.0. README указывает отдельную GGUF-квантизацию в репозитории bartowski/UNA-ThePitbull-21.4B-v2-GGUF.

Vela Halu — модель компании vllm-sr для проверки ответов на соответствие предоставленным свидетельствам. Это дообученный 307-миллионный энкодер ModernBERT для классификации токенов: он помечает фрагменты ответа как поддержанные контекстом или галлюцинированные и возвращает границы фрагментов в символьных смещениях Unicode. Модель предназначена для проверки ответов, основанных на документах, в том числе текста и кода; README сообщает о тестировании на наборе из 10 698 примеров и приводит метрики обнаружения фрагментов и ответов. Модель принимает текст ответа вместе с доказательствами; заявленная в README длина входа — до 8 192 токенов с учётом специальных токенов. Метаданные указывают контекстное окно базовой модели в 32 768 токенов. Модель доступна в формате Safetensors для Transformers и распространяется по лицензии Apache 2.0. Поддерживаемые языки в карточке не перечислены. Обнаружение опирается на соответствие явным свидетельствам: оно не проверяет истинность утверждений в целом, а арифметические задачи и рассуждения в несколько шагов могут ошибочно помечаться как галлюцинации.

YamWizard28-7B — слитая языковая модель на архитектуре Mistral, опубликованная пользователем v000000. Она предназначена для генерации текста и диалогов в формате Alpaca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса объединены методом SLERP с помощью mergekit из automerger/YamshadowExperiment28-7B и fearlessdots/WizardLM-2-7B-abliterated. Доступны файлы Safetensors; в README также упомянуты варианты GGUF и GGUF imatrix, включая Q8_0. Лицензия в предоставленных данных не указана.

zephyr-orpo-141b-A35b-v0.1-GGUF — это квантизированная версия языковой модели HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1, подготовленная и опубликованная MaziyarPanahi в формате GGUF. Базовая модель основана на Mixtral-8x22B-v0.1 и дообучена с использованием метода ORPO на смеси общедоступных и синтетических наборов данных, включая argilla/distilabel-capybara-dpo-7k-binarized. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, инструкций, помощников общего назначения и других задач NLP преимущественно на английском языке. Это Mixture of Experts (MoE) с 141 млрд общих параметров и 35 млрд активных параметров. Доступны варианты квантизации с разной разрядностью — от 2 до 16 бит, что позволяет выбирать компромисс между качеством, размером файлов и требованиями к ресурсам. Размер контекстного окна и поддержка других модальностей в README не указаны; модель является текстовой. Сильные стороны — крупная MoE-архитектура, диалоговая направленность и возможность локального запуска через совместимые инструменты, включая llama.cpp, с выбором степени квантизации. Ограничения включают преимущественную ориентацию на английский язык, высокие требования к вычислительным ресурсам для менее агрессивно квантизированных вариантов и возможное снижение качества при сильной квантизации. Лицензия — Apache 2.0.

airoboros-m-7b-3.1.2-dare-0.85-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и airoboros-m-7b-3.1.2-dare-0.85. Она построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Модель принимает текст и генерирует текст; её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Данные карточки не описывают её качество на конкретных задачах или подробные ограничения, поэтому результаты следует проверять на целевом сценарии.

ALLaM-7B-Instruct-preview-GGUF — это набор GGUF-квантизаций инструкционной языковой модели ALLaM-7B-Instruct-preview, разработанной ALLaM-AI и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций, включая арабские и англоязычные сценарии. Доступен запуск через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Модель содержит около 7 миллиардов параметров; README не уточняет её архитектуру, максимальную длину контекста, формат промптов и дополнительные модальности, поэтому она описывается как текстовая. Набор включает варианты от BF16 до Q3 и IQ3-квантизаций с размерами примерно от 3,11 до 14 ГБ. Варианты Q6 и Q5 отмечены как обеспечивающие очень высокое или высокое качество, а Q4 — как оптимальные для большинства сценариев по соотношению качества и размера. Основные преимущества — поддержка локального запуска, широкий выбор квантизаций и возможность подобрать вариант под доступную оперативную память. Более агрессивные квантизации уменьшают требования к памяти, но могут снижать качество генерации; некоторые форматы имеют статус legacy или не рекомендуются. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-27B-Anko-GGUF — это квантизированная версия языковой модели allura-org/Qwen3.5-27B-Anko, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет 27 млрд параметров и поддерживает английский и китайский языки. В репозитории представлены варианты от BF16 и Q8_0 до более компактных Q3- и IQ3-квантизаций; наиболее качественными считаются BF16, Q8_0, Q6 и Q5, а Q4 предлагается как сбалансированный вариант по качеству и размеру. Размер файлов составляет примерно от 13,5 до 53,8 ГБ. Данные о модальностях, архитектуре исходной модели и размере контекстного окна в README не указаны. Модель подходит для локальной генерации текста и диалоговых сценариев при наличии совместимого программного обеспечения и достаточного объёма оперативной или видеопамяти. Квантизация снижает требования к ресурсам, но варианты с меньшим числом бит могут заметно уступать более крупным по качеству. Распространение указано по лицензии Apache-2.0.

CLM-1B-DARE — компактная языковая модель на архитектуре Llama, созданная слиянием весов через mergekit методом DARE TIES. В качестве основы использована meta-llama/Llama-3.2-1B-Instruct; в слияние также вошли FuseAI/FuseChat-Llama-3.2-1B-SFT и ai-nexuz/llama-3.2-1b-instruct-fine-tuned. Модель содержит около 1,2 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и помощь в написании. Метаданные отмечают интерфейс вызова инструментов; сама возможность зависит от поддерживающей его обвязки. Репозиторий использует формат safetensors, а в конфигурации слияния указан тип данных bfloat16. Модель опубликована под лицензией Llama 3.2 Community License.

Citaman/command-r-31-layer — модель генерации текста на архитектуре Cohere, созданная автором репозитория с помощью mergekit. Веса объединены методом SLERP из двух срезов модели Citaman/command-r-32-layer; каталог также связывает её с этой базовой моделью как с дообученной. Модель содержит 27,6 млрд параметров, использует формат safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. Её можно применять для ведения беседы и генерации ответов в сценариях с подключёнными инструментами. README и метаданные не описывают специализацию по языкам или предметным областям. В карточке не приведены результаты оценки качества и конкретные ограничения применения. Лицензия в доступных данных не указана.

DeepPass2 — модель Neeraj Gupta из SpecterOps для обнаружения паролей и секретов в тексте с помощью классификации токенов. Она дообучена на XLM-RoBERTa-base с помощью LoRA и размечает токены как обычные или содержащие учётные данные. Модель рассчитана на поиск паролей, API-ключей, токенов и других секретов в документах, журналах и конфигурационных файлах, а также на аудит утечек и предварительную проверку документов перед публикацией. Для длинных документов README рекомендует использовать полный конвейер DeepPass2 с разбиением текста на фрагменты; отдельный вход модели ограничен контекстом в 514 токенов по метаданным. Веса представлены в формате safetensors, размер модели — 305,2 млн параметров. README указывает английский язык; базовая XLM-RoBERTa многоязычная, однако специализация этой модели описана для английского. Лицензия — Apache 2.0 согласно метаданным.