II.2Создание и понимание программного кода

MaziyarPanahi/mergekit-slerp-oztfijl-GGUF — это набор файлов модели в формате GGUF, созданный пользователем MaziyarPanahi для модели mergekit-community/mergekit-slerp-oztfijl. Исходная модель разработана сообществом mergekit-community и получена с использованием метода слияния моделей SLERP; среди исходных базовых моделей указаны Meta-Llama-3-8B и Mistral-7B-v0.1. Модель предназначена для генерации текста и может использоваться в локальных приложениях и сервисах, совместимых с GGUF, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие поддерживаемые инструменты. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством генерации. Указана текстовая модальность и задача text-generation; сведения о поддерживаемых языках и размере контекстного окна отсутствуют. Сильной стороной является совместимость с широким набором локальных средств запуска и возможность работы на устройствах с ограниченными ресурсами благодаря квантованию. Ограничения связаны с отсутствием подробных данных о качестве, результатах тестирования, точной архитектуре объединённой модели, языках и контексте. Лицензия в README не указана, поэтому условия использования необходимо уточнять по исходным моделям и репозиторию.

duyntnet/Meta-Llama-3-8B-imatrix-GGUF — репозиторий с imatrix-квантизированными версиями Meta-Llama-3-8B, разработанной Meta. Модель предназначена для генерации текста и работы с англоязычными запросами; формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp и связанные приложения. Модель содержит около 8 миллиардов параметров и относится к семейству Llama 3. В карточке указаны текстовая модальность, поддержка английского языка и несколько вариантов квантования. Также отмечена совместимость с обновлениями llama.cpp после слияния, исправившего проблемы в ранее загруженных версиях. Размер контекста и точная архитектура в README не указаны. К сильным сторонам относятся возможность локального запуска в оптимизированных GGUF-квантизациях и выбор между вариантами с разным соотношением качества и требований к ресурсам. Ограничения связаны с тем, что это модель генерации текста без заявленной специализированной настройки под конкретные прикладные задачи; сведения о качестве, бенчмарках и ограничениях безопасности отсутствуют. Лицензия обозначена как other, но её условия в README не раскрыты, поэтому перед использованием необходимо проверить лицензию исходной Meta-Llama-3-8B и условия данного репозитория.

MaziyarPanahi/mistral-ft-optimized-1218-GGUF — это набор файлов модели в формате GGUF для OpenPipe/mistral-ft-optimized-1218. Исходную модель разработала OpenPipe, а квантованные файлы подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. Доступны варианты квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. В README модель обозначена как Mistral и англоязычная; поддерживаются текстовые задачи. Размер модели, точная архитектура, размер контекста и результаты оценки не указаны, поэтому её производительность и пригодность для других языков оценить по представленным данным нельзя. Основные ограничения связаны с потерями качества, возможными при низкоразрядном квантовании, а также с отсутствием подробных сведений об обучении и целевых сценариях исходной модели. В метаданных указана лицензия Apache-2.0, однако также присутствует тег CC-BY-NC-4.0, поэтому перед использованием следует проверить лицензионные условия исходной модели и конкретных файлов.

Kimi-K2.6-GGUF — это набор GGUF-квантизаций базовой модели Kimi-K2.6, разработанной moonshotai и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README не указаны архитектура, точный размер исходной модели, поддерживаемые языки, модальности и длина контекста. Доступно несколько вариантов квантизации от IQ1_S до Q4_0, причём файлы имеют очень большой размер — примерно от 207 до 557 ГБ и могут быть разделены на части. Вариант Q4_0 рекомендован как наиболее качественный: благодаря особенностям исходной int4-модели и патчу jukofyork он, согласно README, без потерь отображает исходные FFN-тензоры, а остальные тензоры используют Q8_0. К преимуществам относятся возможность локального запуска в экосистеме GGUF и выбор между различными уровнями качества и требованиями к оперативной памяти. Ограничения — огромный объём файлов, снижение качества у низкобитных вариантов и необходимость поддержки Kimi-K2.6 используемым ПО. Указана лицензия modified-MIT; конкретные условия и ограничения в README не раскрыты.

MSM-MS-Cydrion-22B-GGUF — это GGUF-квантизованная версия модели Steelskull/MSM-MS-Cydrion-22B, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Указанный формат prompt: <s> [INST] {prompt} [/INST]. Модель содержит 22 млрд параметров. Доступны варианты от исходных весов F16 размером 44,50 ГБ до квантизаций Q2, Q3, Q4, Q5, Q6 и Q8 с размером файлов примерно от 8,27 до 23,64 ГБ. В README не указаны архитектура базовой модели, поддерживаемые языки, контекстное окно и мультимодальные возможности, поэтому модель следует рассматривать как текстовую без подтверждённой поддержки других модальностей. Сильной стороной являются многочисленные варианты квантизации, позволяющие выбирать баланс между качеством, размером и требованиями к памяти; варианты Q5 и Q6 заявлены как высококачественные, а Q4 — как подходящие для большинства случаев. Более компактные варианты снижают требования к ресурсам, но могут заметно ухудшать качество. Некоторые сборки оптимизированы для ARM и требуют соответствующих аппаратных инструкций. Модель распространяется по лицензии Apache-2.0.

neo_7b-IMat-GGUF — это набор GGUF-квантизованных версий модели m-a-p/neo_7b, подготовленный legraphista с использованием llama.cpp b3051. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. Исходные веса имели формат BF16, а для части вариантов применена калибровка IMatrix, предназначенная для уменьшения потерь качества при низкобитном квантовании. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-семейств с размерами файлов примерно от 2,36 до 15,59 ГБ. IMatrix используется в ряде низкобитных вариантов, включая Q4_K, Q3_K, Q2_K и некоторые IQ-квантизации; версии BF16, F16, Q8_0 и Q6_K указаны как статические. Поддерживаются различные компромиссы между требованиями к памяти и сохранением качества, однако README не содержит результатов сравнительных оценок. Модель является текстовой, поскольку заявлен pipeline_tag text-generation; сведения о языках, длине контекста, точной архитектуре базовой модели и специализированных сценариях не приведены. Ограничения зависят от выбранного уровня квантования: более компактные варианты требуют меньше памяти, но могут сильнее терять качество. Распространение заявлено по лицензии Apache-2.0.

Это пакет слоёв GGUF для Mesh LLM, созданный Mesh LLM на основе unsloth/Ornith-1.0-35B-GGUF в варианте UD-Q4_K_XL. Он предназначен для распределённого запуска модели Ornith-1.0-35B на локальном кластере Mesh LLM: слои можно распределить между несколькими машинами, чтобы обслуживать модель, не размещая весь пакет на одном узле. Модель поддерживает диалоговую генерацию текста и может использоваться через локальный API Mesh LLM, совместимый с OpenAI Chat Completions. Пакет включает раздельные артефакты слоёв и общие файлы GGUF, в том числе эмбеддинги. Сведения об архитектуре, языках, контекстном окне и условиях лицензии следует сверять с карточкой исходной модели; README этого пакета их не приводит.

Ornith-1.5-9B-Function-Calling-xLAM-Unsloth — дообученная командой ermiaazarkhalili модель на базе ornith-ai/Ornith-1.5-9B для генерации текста и вызова инструментов. Модель плотная, построена на архитектуре Qwen3_5ForConditionalGeneration и содержит 9,4 млрд параметров. Для supervised fine-tuning использован набор Salesforce/xlam-function-calling-60k; LoRA-адаптеры объединены с базовыми весами. Модель предназначена для диалоговых сценариев, где нужно выбирать инструменты и формировать вызовы функций, а также для других задач генерации текста. Карточка приводит только значения обучающей потери; downstream-бенчмарков не проводили, поэтому по ним нельзя судить о качестве модели. Поведение вне распределения единственного обучающего набора не проверено, модель наследует ограничения, смещения и сбои базовой модели. Лицензия — MIT.

QuantFactory/pythia-12b-GGUF — квантизированная версия языковой модели EleutherAI Pythia-12B, подготовленная QuantFactory с использованием llama.cpp. Базовая модель разработана EleutherAI в рамках Pythia Scaling Suite — набора моделей, созданного прежде всего для научного изучения поведения, функциональности и ограничений больших языковых моделей, особенно для исследований интерпретируемости. Модель обучалась на датасете The Pile и предназначена для генерации текста на английском языке. Это авторегрессионная Transformer-модель, работающая через библиотеку GPT-NeoX. Она содержит около 12 миллиардов параметров без учёта embedding-параметров, 36 слоёв, размер модели 5120 и 40 attention heads. Доступны промежуточные checkpoints, что удобно для контролируемых экспериментов и анализа развития модели в процессе обучения. Квантизированный формат GGUF ориентирован на запуск с llama.cpp, однако README не указывает конкретные уровни квантизации, требования к памяти или длину контекста. Сильные стороны модели — открытая архитектура, воспроизводимый исследовательский дизайн, единый порядок данных для моделей разных размеров и возможность дальнейшего fine-tuning. Ограничения включают англоязычность, отсутствие заявленной оптимизации для прикладного развёртывания и риск генерации вредного или оскорбительного текста. Модель не предназначена для непосредственного использования во взаимодействии с людьми без самостоятельной оценки рисков и смещений. Распространяется по лицензии Apache 2.0.

Это GGUF-квантизация модели llmfan46/Qwen3.5-27B-uncensored-heretic-v2-Native-MTP-Preserved, созданной независимым разработчиком llmfan46 на основе Qwen3.5-27B от Qwen. Модель получена методом Heretic v1.3.0 с вариантом Magnitude-Preserving Orthogonal Ablation (MPOA), направленным на уменьшение числа отказов и ограничений при сохранении близости к исходной модели. Модель предназначена для генерации текста и сценариев, где требуется меньше цензурных отказов, возражений и уклончивых ответов. В репозитории указана архитектура размером 27B параметров и формат GGUF; также заявлена поддержка image-text-to-text, однако подробности о реализованных модальностях, языках и размере контекстного окна не приведены. Сохранены все 15 компонентов MTP (Multi-Token Prediction), присутствовавшие в исходной модели. По данным автора, доля отказов снизилась до 10 из 100 против 95 из 100 у оригинальной модели, а KL-дивергенция составляет 0,0308, что указывает на небольшое отклонение от исходного поведения. Это может быть преимуществом для исследовательских и прикладных задач, требующих более свободных ответов, но одновременно означает меньший уровень встроенных ограничений безопасности. Приведённые результаты MMLU относятся к оригинальной Qwen3.5-27B, поэтому качество именно этой модификации по MMLU не подтверждено. Модель распространяется по лицензии Apache-2.0. README не содержит дополнительных требований к аппаратному обеспечению или инструкций по запуску.

Это пакет GGUF с послойно разделёнными файлами модели Qwen3.8-Flash-Next-UD-IQ1_S для распределённого запуска в кластере Mesh LLM. Пакет создан на основе unsloth/Qwen3.8-Flash-Next-GGUF и предназначен для локального инференса, в том числе на нескольких машинах, когда исходная модель не помещается на одном узле. Mesh LLM предоставляет для неё локальный API чата и совместимый с OpenAI интерфейс completions. В метаданных указаны семейство Qwen3, возможности чата и обработки изображений, а также задачи image-text-to-text. Артефакты разделены по слоям для распределённого инференса; это экспериментальный пакет. README предупреждает, что корректность разделения, работа во время выполнения и мультимодальная сертификация ещё не подтверждены. Пакет распространяется по лицензии other; за условиями использования README отсылает к карточке исходной модели.

Qwen-Qwen2-1.5B-GGUF — набор GGUF-квантизованных версий языковой модели Qwen2-1.5B, разработанной командой Qwen. Квантизацию выполнила команда featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в сценариях локального или ресурсно-ограниченного запуска, где важны уменьшенный размер файлов и совместимость с инструментами, поддерживающими формат GGUF. В набор входят варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размер составляет примерно от 645 МБ до 1,57 ГБ. Базовая модель имеет 1,5 млрд параметров и относится к текстовым моделям, однако сведения о поддерживаемых языках, размере контекста, конкретной архитектуре и результатах оценки в README не приведены. Главное преимущество набора — несколько уровней квантизации, позволяющих выбирать компромисс между размером, требованиями к ресурсам и потенциальным качеством генерации. Более агрессивная квантизация может снижать качество по сравнению с исходной моделью, а README не содержит сравнительных измерений производительности или рекомендаций по выбору варианта. Лицензия модели и условия её использования в предоставленных данных не указаны.

Reflection-Llama-3.1-70B-IMat-GGUF — это GGUF-квантизация модели mattshumer/Reflection-Llama-3.1-70B, подготовленная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска совместимых языковых моделей через llama.cpp и другие инструменты, поддерживающие формат GGUF. README не содержит подробного описания исходной модели, её специализации или целевых сценариев применения. Доступны варианты с разными уровнями точности и размером файлов: от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера модели. Размер доступных файлов составляет примерно от 26,38 до 141,12 ГБ; некоторые высокоточные варианты разделены на несколько частей. Архитектура и количество параметров соответствуют обозначению Llama 3.1 70B, однако сведения о поддерживаемых языках, длине контекста и модальностях в README не указаны. Главное преимущество модели — наличие широкого выбора квантизаций для компромисса между качеством, требованиями к памяти и скоростью локального вывода. Ограничение состоит в том, что автор README предупреждает о потенциально повреждённых весах; поэтому результаты могут быть ненадёжными до устранения проблемы. Модель распространяется по лицензии llama3.1.

Replete-LLM-V2.5-Qwen-1.5b-GGUF — набор GGUF-квантизаций модели Rombos-LLM-V2.5-Qwen-1.5b, разработанный rombodawg и подготовленный bartowski. Это текстовая autoregressive-модель для генерации текста, предназначенная для локального запуска через llama.cpp и совместимых приложений, включая LM Studio. Для общения используется шаблон с ролями system, user и assistant на основе формата Qwen. Доступны варианты от полноточного F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 0,88 до 3,56 ГБ, поэтому модель можно адаптировать под доступную оперативную память; варианты Q6 и Q5 обеспечивают высокое качество, а Q3 ориентированы на более ограниченные ресурсы. Отдельные варианты оптимизированы для ARM-процессоров и требуют соответствующей аппаратной поддержки. Данные о поддерживаемых языках, размере контекста, точной архитектуре базовой модели и результатах бенчмарков в README не указаны. Модель распространяется по лицензии Apache-2.0.

RVN Qwen3.8-Flash-Next Abliterated Uncensored — GGUF — это набор GGUF-квантизаций текстовой модели RVN Qwen3.8-Flash-Next Abliterated Uncensored, опубликованный пользователем 0bserverx. Модель предназначена для генерации текста и локального запуска через llama.cpp; для работы требуется свежая сборка llama.cpp с поддержкой qwen4exp. Репозиторий содержит 18 семейств квантизации, представленных в 144 разделённых файлах GGUF, с объединённым размером от 74,92 до 156,13 GiB в зависимости от варианта. Это текстовая модель: тензоры NextN/MTP для speculative decoding и vision projector в данной сборке исключены. README указывает на архитектурные признаки mixture-of-experts и связь с семейством Qwen, однако точные число параметров, размер контекста и список поддерживаемых языков не приведены. Доступны варианты от Q2_K до Q6_K, включая IQ-квантизации; для пяти IQ-семейств использована калибровочная importance matrix V6. Предоставленные тесты показывают близкие к официальной базовой Q6_K-сборке значения perplexity и сопоставимые результаты на части задач IFEval, BBH и GSM8K, но сами авторы подчёркивают, что это не доказывает полного сохранения возможностей, особенно instruction following и reasoning. Ограничения включают необходимость значительных ресурсов, зависящих от выбранной квантизации и конфигурации запуска, отсутствие визуального ввода и неподтверждённую универсальную сохранность исходных характеристик после abliteration. Модель распространяется по лицензии qwen-community-1.0; в метаданных также указана лицензия other.

DDDSSS/translation_en-zh — модель машинного перевода с архитектурой MarianMT, разработанная автором репозитория DDDSSS для перевода с английского на китайский. Она содержит 58,4 млн параметров, использует PyTorch и распространяется в форматах PyTorch и Safetensors. По карточке, обучающие данные основаны на OPUS100 и CodeAlpaca_20K: английские тексты переводились на китайский с помощью ChatGLM, после чего данные фильтровались. Максимальный указанный контекст — 512 токенов; модель рассчитана на текстовый ввод и текстовый перевод. Модель подходит для перевода коротких английских фрагментов, включая технические тексты и примеры кода. Автор отмечает, что длинные предложения могут переводиться неполностью или пропускаться, поэтому перед обработкой текст следует разбивать на предложения. Лицензия — Apache-2.0.

Yamshadowexperiment28T3qm7xp-7B-GGUF — набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели automerger/Yamshadowexperiment28T3qm7xp-7B, разработанной automerger. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения и библиотеки, включая llama-cpp-python, LM Studio, text-generation-webui и другие инструменты экосистемы GGUF. В метаданных также указана принадлежность к семейству Mistral и поддержка text-generation. Модель имеет размер 7B параметров и работает только с текстом. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством генерации. GGUF особенно подходит для запуска на локальных компьютерах с использованием CPU или GPU. Сведения о языках, размере контекста, результатах тестирования и точных характеристиках архитектуры в README не приведены, поэтому качество на конкретных задачах оценить нельзя. Лицензия — Apache 2.0.

bartowski/zed-industries_zeta-GGUF — набор GGUF-квантизаций текстогенеративной модели zed-industries/zeta, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и совместимых проектах на базе llama.cpp. Доступны варианты от исходных весов F16 размером 15,24 ГБ до низкобитных квантизаций Q2 и IQ2 размером около 3 ГБ. Более качественные варианты Q5 и Q6 рекомендуются для сохранения качества, а Q3 и Q2 подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Представленные данные не содержат сведений об архитектуре исходной модели, количестве параметров, контекстном окне, языках, модальностях и рекомендуемом формате промптов. Лицензия — Apache 2.0. Сильной стороной является широкий выбор квантизаций и возможность локального запуска на совместимом оборудовании; ограничение заключается в том, что README описывает преимущественно упаковку и квантизацию, а не функциональные возможности исходной модели.

AgentIntentRouter — модель классификации намерений пользователя для маршрутизации запросов к инструментам и возможностям ИИ-агентов. Она разработана tripathyShaswata и представляет собой дообученную DistilBERT-base-uncased с примерно 66 млн параметров; модель использует архитектуру DistilBertForSequenceClassification и принимает текстовые запросы длиной до 512 токенов по метаданным. README описывает восемь категорий намерений, включая генерацию кода, веб-поиск, вычисления, операции с файлами, вызовы API, творческое письмо, анализ данных и общий чат. Модель рассчитана на быстрый предварительный выбор инструмента в агентных конвейерах и возвращает класс намерения с оценкой уверенности. Обучение проводилось на синтетических англоязычных примерах; карточка приводит 8 987 обучающих, 1 123 валидационных и 1 124 тестовых примера. Заявленная скорость составляет около 10 мс на CPU и 2 мс на GPU, но эти показатели зависят от оборудования и условий запуска. Результаты README получены на тестовых данных того же распределения, что и обучающие, поэтому качество на реальных запросах может отличаться. Модель не предназначена для многоцелевых запросов; неоднозначные сообщения рекомендуется направлять на дополнительную обработку. Лицензия Apache-2.0 допускает коммерческое использование.

mano-wii/BAAI_bge-base-en-v1.5-tunned-for-blender-issues — дообученная модель Sentence Transformers на базе BAAI/bge-base-en-v1.5, созданная для поиска похожих обращений об ошибках Blender. Она преобразует предложения и абзацы в плотные векторы размерности 768; модель обучена на более чем 3650 примерах обращений, в которых указано от 1 до 12 дубликатов. Модель подходит для семантического поиска и группировки связанных сообщений об ошибках. Архитектура — BERT, число параметров — 136,7 млн, максимальная длина контекста — 512 токенов. Метаданные указывают английскую версию базовой модели; в README описана специализация на обращениях Blender. Лицензия в предоставленных данных не указана. Для применения через Transformers требуется выполнить pooling над контекстными векторами; в Sentence Transformers модель предоставляет готовый интерфейс для получения эмбеддингов.

Junfeel/dama-aibrain — дообученная модель для генерации текста, разработанная Junfeel на основе unsloth/gemma-4-e2b-it-unsloth-bnb-4bit. Модель предназначена для задач, поддерживаемых базовой Gemma 4, включая работу с текстовыми запросами и генерацию ответов, однако конкретные сценарии дообучения и специализация в README не указаны. Известно, что модель использует семейство Gemma 4 и формат 4-bit-квантизации, а обучение выполнялось с применением Unsloth и библиотеки Hugging Face TRL. В README заявлена поддержка английского языка. Данные о точном размере модели, архитектуре, контекстном окне, мультимодальности, результатах оценки, сильных сторонах и ограничениях отсутствуют. Модель распространяется по лицензии Apache-2.0, что допускает её использование, модификацию и распространение на условиях этой лицензии.

darkc0de_Muse-Glimmer-30B-heretic-GGUF — это квантизированная версия модели Muse-Glimmer-30B-heretic, разработанной darkc0de и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для задач генерации текста и анализа изображений; для обработки изображений требуется дополнительный файл mmproj. В README не указаны конкретные языки и максимальный размер контекста. Модель содержит около 30 млрд параметров и поддерживает текстовую и визуальную модальности. Для неё доступны варианты квантизации от BF16 и Q8_0 до более компактных IQ- и Q3-вариантов; наиболее универсальным рекомендуется Q4_K_M размером 17,31 ГБ, а версии Q5 и Q6 обеспечивают более высокое качество при больших требованиях к памяти. Используется imatrix-квантизация, MTP не поддерживается. Сильными сторонами являются большой размер модели, мультимодальный ввод и широкий выбор вариантов для разных объёмов оперативной памяти. Ограничения включают значительные требования к памяти, зависимость визуального режима от mmproj и возможное снижение качества у наиболее компактных квантов. Лицензия модели указана как Apache-2.0. README не приводит результатов тестирования, точных сведений об архитектуре, языках и контекстном окне, поэтому оценить производительность в конкретных сценариях по имеющимся данным нельзя.

Dazzling-Star-Aurora-32b-v0.0-Experimental-1130-GGUF — это набор GGUF-квантизаций языковой модели Dazzling-Star-Aurora-32b-v0.0-Experimental-1130 от ProdeusUnity. Квантизации подготовлены bartowski с использованием llama.cpp версии b4222 и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp или LM Studio. Доступны варианты с разной точностью и размером — от Q3_K_XL и IQ4_XS до Q8_0; размеры файлов составляют примерно от 17,93 до 34,82 ГБ. В README указано, что варианты Q6_K_L, Q6_K, Q5 и Q4 рекомендованы для практического использования, а Q4_K_M описан как вариант по умолчанию для большинства сценариев. Отдельные файлы оптимизированы для ARM или AVX, при этом некоторые требуют поддержки SVE или i8mm и не предназначены для Mac. Сильной стороной модели является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, требованиями к памяти и производительностью локального вывода. Модель экспериментальная, а сведения об архитектуре, поддерживаемых языках, контекстном окне, мультимодальности и результатах тестирования в README не приведены. Лицензия также не указана, поэтому условия использования необходимо уточнять у исходной модели ProdeusUnity и в её репозитории.

DiffuLlama — модель генерации текста на архитектуре Llama, дообученная на базе meta-llama/Llama-2-7b-hf. В репозитории указано, что это fine-tune; метаданные сообщают о 6,6 млрд параметров и контексте до 4096 токенов. Модель использует библиотеку Transformers и сохранена в формате safetensors. Модель предназначена для генерации текста. В качестве обучающих данных указаны наборы StarCoderData и SlimPajama-627B, однако README не уточняет специализацию, методику дообучения или сравнительные результаты. Лицензия — Apache-2.0; базовая модель описана как англоязычная, но точный языковой охват этой версии не установлен.

Builder117/distilbert-jailbreak — дообученный классификатор на базе DistilBERT для обнаружения попыток обхода защитных ограничений LLM. Он помечает входной текст как SAFE или JAILBREAK и предназначен для фильтрации DAN-запросов, подмены роли, активации «режима разработчика», отрицания правил и вымышленного обрамления, используемого для получения запрещённого контента. Модель ориентирована на защиту LLM-приложений от prompt injection, в частности на сценарии из категории OWASP LLM Top 10 LLM01. Модель принимает текст на английском языке; базовая архитектура — DistilBERT для классификации последовательностей, контекст — до 512 токенов. Выпущена под лицензией Apache-2.0. Классификатор может пропускать атаки с заменой синонимов или косвенным обрамлением, поэтому его оценки не следует считать исчерпывающей защитой.

Experiment29Experiment24-7B — экспериментальная объединённая языковая модель, автоматически созданная Maxime Labonne методом DARE-TIES на основе моделей семейства Mistral. В конфигурации объединены yam-peleg/Experiment29-7B и yam-peleg/Experiment24-7B; для второй модели указаны density 0,53 и weight 0,6. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors, а её нативный контекст составляет 32 768 токенов. Модель предназначена для генерации текста и экспериментов с объединением языковых моделей. Доступна по лицензии Apache-2.0. Карточка не описывает специальные области применения или подробные ограничения качества.

Это GGUF-сборка Gemma-4-12B-it-AEON-Abliterated, подготовленная mradermacher: репозиторий содержит BF16-веса модели с квантованием i1 и imatrix-кванты для самостоятельного создания квантованных вариантов. Базовая модель связана с AEON-7/Gemma-4-12B-it-AEON-Abliterated-K4-BF16. Это диалоговая инструктивная модель семейства Gemma с архитектурой Transformer; карточка указывает на мультимодальные и визуальные возможности исходной модели, хотя основная задача в метаданных — генерация текста. Модель предназначена для диалога и генерации текста, включая следование инструкциям; для работы с изображениями автор указывает на наличие mmproj-файлов в статическом репозитории. В метаданных указан английский язык и лицензия Gemma. Ограничение этого репозитория — часть файлов представлена в форматах квантования с потерями, качество которых зависит от варианта; README не приводит конкретных характеристик контекста и детального описания возможностей.

Это плотная языковая модель Qwen3 с 29,7 млрд параметров, дообученная на наборе open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning. Модель предназначена для генерации текста в диалоге; базовая Qwen3 рассчитана на рассуждения и программирование, но README не подтверждает отдельные возможности этой дообученной версии. Модель использует архитектуру Qwen3ForCausalLM, библиотеку Transformers и формат safetensors. Длина контекста составляет 40 960 токенов. В метаданных указана лицензия other, поэтому условия использования следует сверить с лицензией и файлами репозитория.

Это GGUF-квантизированная версия текстовой генеративной модели grimjim/Llama-3.1-SuperNova-Lite-lorabilterated-8B. Квантизации подготовлены командой featherless-ai-quants на базе модели grimjim. Архитектура унаследована от семейства Llama 3.1, размер базовой модели составляет 8 миллиардов параметров; точные сведения о разработчике базовой модели, языках и длине контекста в карточке не указаны. Модель предназначена для генерации текста и локального или совместимого с GGUF инференса. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ. Выбор варианта позволяет изменять соотношение между требованиями к памяти, скоростью работы и сохранением качества, однако результаты сравнительного тестирования в README не приведены. Сильная сторона этой версии — широкий выбор готовых GGUF-файлов для запуска в поддерживающих этот формат инструментах и на оборудовании с ограниченными ресурсами. Ограничения связаны с отсутствием описания обучения, качества, поддерживаемых языков, контекстного окна, рекомендуемых параметров генерации и известных особенностей поведения. Лицензия в README не указана, поэтому условия использования следует уточнять по карточке базовой модели и репозиторию квантизаций.

Huihui-Qwen3.5-4B-abliterated-Athanorlite-ORPO-i1-GGUF — это квантизированная версия модели Huihui-Qwen3.5-4B-abliterated-Athanorlite-ORPO, созданная mradermacher на основе модели nbeerbower. Для обучения или настройки использовался датасет schneewolflabs/Athanorlite-DPO; в метаданных также указана методика ORPO. Модель предназначена для генерации текста и доступна в формате GGUF для локального запуска совместимыми средствами, включая llama.cpp-подобные инструменты. Модель относится к семейству Qwen3.5 и имеет около 4 млрд параметров. В README она обозначена как vision model, поэтому для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория, однако подробности о поддерживаемых визуальных возможностях и контекстном окне не приведены. Указан английский язык. Доступны многочисленные варианты квантизации от IQ1 и Q2 до Q6, различающиеся размером, скоростью и качеством; вариант i1-Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества. Сильными сторонами являются компактный размер, возможность локального использования и широкий выбор уровней квантизации, позволяющий адаптировать модель к имеющимся ресурсам. Ограничения включают возможное снижение качества у наиболее агрессивных вариантов квантизации, отсутствие в README точных данных о производительности, контекстном окне и языковой поддержке за пределами английского. Лицензия в предоставленных материалах не указана.