II.2Создание и понимание программного кода

Qwen3.8-27B-Uncensored-Genesis-V1-NVFP4-GGUF — экспериментальная NVFP4-квантизация модели Qwen3.8-27B-Uncensored-Genesis-V1, подготовленная jan1k на основе GGUF-версии LuffyTheFox/Qwen3.8-27B-Uncensored-Genesis-V1-MTP-GGUF. Модель использует плотную архитектуру Qwen3.8 с 27,32 млрд параметров, 64 слоями и контекстом до 262 144 токенов; файлы представлены в формате GGUF для запуска через llama.cpp. Варианты различаются калибровочными данными imatrix и наличием MTP-компонента. Модель предназначена для генерации текста в диалогах и свободном дополнении, в том числе для многошаговых рассуждений и вызова инструментов через соответствующий интерфейс. Для чат-сценариев автор README рекомендует вариант с калибровкой v6 на разговорах, отрендеренных шаблоном чата; вариант v5 ориентирован на обычный текст. В README приведены измерения perplexity на Wikitext-2, но они не оценивают напрямую качество следования инструкциям, рассуждений или вызова инструментов. Квантизация NVFP4 уменьшает размер файлов примерно до 14,46–14,68 GiB и рассчитана на быстрый запуск на совместимом оборудовании, включая Blackwell GPU с поддержкой соответствующего CUDA-ядра. Исходные веса уже были в формате Q8_K_P, поэтому повторная квантизация может дополнительно снизить точность. Модель распространяется по лицензии Apache-2.0; автор называет квантизации экспериментальными.

mradermacher/Qwen-3.8-27B-Uncensored-i1-GGUF — набор квантованных версий модели Qwen-3.8-27B-Uncensored, разработанной junafinity и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации и обработки текста, а также поддерживает сценарии image-text-to-text, то есть работу с изображениями и текстом. В README указан английский язык, библиотека Transformers и мультимодальная архитектура с поддержкой зрения. Модель содержит 27 млрд параметров; доступны варианты квантования i1 от Q2_K до Q6_K, включая IQ-квантизации, с размером файлов примерно от 11 до 22,5 ГБ. README отмечает, что IQ-варианты часто предпочтительнее обычных квантизаций сопоставимого размера, а i1-Q4_K_M рекомендуется как быстрый вариант. Конкретный размер контекста и архитектурные особенности не указаны. К сильным сторонам относятся широкий выбор квантов, возможность локального запуска в GGUF-совместимых инструментах и поддержка изображений. Ограничения включают возможное снижение качества при низких уровнях квантования, значительные требования к памяти и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0; для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория.

Qwen3.8-Flash-Next-4bit — это 4-битная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и сценариев image-text-to-text, то есть может применяться к задачам, сочетающим обработку изображений и текста, при условии поддержки соответствующего мультимодального интерфейса. Модель преобразована с помощью mlx-vlm и оптимизирована для запуска в экосистеме MLX. Используется групповой размер квантования 32, необходимый для корректной обработки PLE n-gram embedding dimensions. Точные сведения о числе параметров, длине контекста и поддерживаемых языках в карточке не указаны. Ключевое преимущество этой версии — корректная обработка Qwen4ExpRMSNorm без двойного смещения весов, из-за которого у некоторых более ранних конверсий генерация деградировала до шума. Конверсия проверена на целостность исходных данных, идентичность нормирующих тензоров и согласованность с bf16-версией; также подтверждена связная генерация при температуре 0.0. Ограничения включают 4-битное квантование и зависимость от MLX и mlx-vlm; возможные потери точности относительно bf16-версии в README не измерены. Лицензия в карточке не указана.

FatalHub/qwen-function-calling-10k — дообученная FatalHub модель для генерации текста и диалогов с интерфейсом вызова инструментов. В основе лежит unsloth/qwen2.5-3b-instruct-unsloth-bnb-4bit: плотная причинная языковая модель семейства Qwen2 с 3,1 млрд параметров и контекстом до 32 768 токенов. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель предназначена для диалоговых сценариев, где требуется формировать текст и выдавать вызовы инструментов в поддерживаемом интерфейсе. В карточке указана лицензия Apache-2.0. Сведений о качестве на бенчмарках, тренировочных данных или дополнительных ограничениях применения нет.

RedSage-Qwen3-8B-DPO-i1-GGUF — это квантизированная версия языковой модели RedSage-Qwen3-8B-DPO, разработанной RISys-Lab и преобразованной в формат GGUF пользователем mradermacher. Модель основана на Qwen3 с размером около 8 млрд параметров и обучалась с применением DPO на смеси предпочтений allenai/llama-3.1-tulu-3-8b-preference-mixture. В карточке указана поддержка английского языка. Модель предназначена для генерации текста и диалогового использования, включая сценарии, связанные с кибербезопасностью, что отражено в её тегах. Формат GGUF позволяет запускать её в совместимых локальных инструментах, а набор вариантов квантизации даёт возможность выбирать компромисс между размером, скоростью и качеством. Рекомендуемым вариантом назван i1-Q4_K_M размером около 5,1 ГБ; также доступны варианты от 2,2 до 6,8 ГБ. Более агрессивная квантизация может заметно снижать качество, а ограничения и размер контекста в README не указаны. Лицензия модели в предоставленных данных не указана. Информация о мультимодальности отсутствует, поэтому модель следует считать текстовой.

Apollo-v3-32B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Apollo-v3-32B, разработанной rootxhacker. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 32 млрд параметров и ориентирована на работу с английским языком. В репозитории доступны варианты от BF16 до различных форматов Q8, Q6, Q5, Q4, Q3 и Q2, различающиеся размером файлов, требованиями к памяти и качеством. Наиболее качественными считаются BF16, Q8_0 и варианты Q6, тогда как низкобитные форматы позволяют запускать модель на системах с меньшим объёмом оперативной памяти, но могут заметнее ухудшать качество ответов. Для работы требуется совместимое программное обеспечение на базе llama.cpp; в README также указан специальный шаблон prompt с ролями system, user и assistant. Архитектура исходной модели, размер контекста, дополнительные модальности и поддержка языков, кроме английского, в предоставленных данных не описаны. Распространение указано по лицензии MIT.

SaiLy 100B — экспериментальная языковая модель команды DEEPNIGHT-RESEARCH для генерации ответов на инструкции. Она основана на Llama 2 Chat, использует плотную архитектуру LlamaForCausalLM и шаблон промпта Alpaca. В репозитории указаны 117,5 млрд параметров, контекст до 4096 токенов и веса в формате safetensors. Модель предназначена для ответов на пользовательские запросы и генерации текста; авторы характеризуют серию как экспериментальную и uncensored. Для ускорения работы на GPU README предлагает Triton-реализацию FlashAttention с точностью bfloat16. Модель распространяется по лицензии MIT. Авторы сообщают, что ожидают оценок и подали её на OpenLLM Leaderboard; независимые результаты качества в карточке не приведены.

slimorca-gemma2-9b-fft-GGUF — это квантизированная GGUF-версия текстовой генеративной модели slimorca-gemma2-9b-fft, созданная на базе axolotl-ai/co/gemma-2-9b. Исходную модель разработала openaccess-ai-collective, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в средах, совместимых с llama.cpp. Модель относится к семейству Gemma 2 и имеет около 9 миллиардов параметров. Она работает в текстовой модальности; сведения о поддерживаемых языках и максимальном размере контекста в README не указаны. Для взаимодействия требуется специальный шаблон prompt с ролями user и model. Системный prompt не поддерживается. Доступно множество вариантов квантизации от Q8_0 до Q2_K и IQ-форматов, что позволяет выбирать между качеством, размером файла и требованиями к памяти. В README варианты Q6 и Q5 описаны как высококачественные, а Q4 — как обеспечивающие хороший баланс качества и экономии памяти; более сильная квантизация снижает качество, но облегчает запуск на устройствах с ограниченными ресурсами. Модель распространяется по лицензии gemma.

MaziyarPanahi/Starling-LM-7B-alpha-GGUF — это набор файлов модели в формате GGUF для модели berkeley-nest/Starling-LM-7B-alpha, разработанной berkeley-nest и переквантизированной MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. Она относится к семейству Mistral, имеет около 7 млрд параметров и ориентирована прежде всего на англоязычные сценарии; в метаданных также указана связь с обучением с подкреплением и моделями вознаграждения, но подробности исходной архитектуры и обучения в README не приведены. Репозиторий содержит варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. GGUF удобен для запуска на локальном оборудовании, включая системы с GPU-ускорением, однако более сильное квантование может снижать точность и качество ответов. Размер контекста, поддерживаемые модальности кроме текста, фактические показатели качества и ограничения исходной модели не указаны. В метаданных заявлена лицензия Apache-2.0, при этом присутствует тег CC-BY-NC-4.0, поэтому условия использования следует дополнительно проверить для исходной модели и конкретных файлов.

SuperNova-Medius-GGUF — это набор GGUF-квантизаций текстовой генеративной модели SuperNova-Medius, разработанной arcee-ai и подготовленной для распространения пользователем bartowski. Модель предназначена для локального запуска и генерации текста, в частности через llama.cpp и LM Studio. В README указан формат промптов с ролями system, user и assistant на основе специальных токенов ChatML. Доступны версии от исходных весов F16 размером 29,55 ГБ до сильно сжатых вариантов Q2_K размером 5,77 ГБ. Представлены семейства квантизаций Q2, Q3, Q4, Q5, Q6, Q8 и IQ, включая варианты, оптимизированные для ARM-процессоров. Квантизация выполнена с использованием llama.cpp b3901 и метода imatrix. Наиболее качественными считаются F16, Q8_0, Q6_K_L и Q6_K; компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметно уступать по качеству. README не содержит сведений об архитектуре, количестве параметров, длине контекста, поддерживаемых языках и мультимодальности, поэтому эти характеристики нельзя достоверно указать. Для ARM-версий требуется соответствующая аппаратная поддержка; варианты Q4_0_8_8 и Q4_0_4_8 не рекомендуются для Mac и Windows. Модель распространяется по лицензии Apache-2.0.

Это диалоговая модель генерации текста, созданная Yuchen Li на основе alignment-handbook/zephyr-7b-sft-full и дообученная с помощью TRL. Она построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель принимает текстовые сообщения в формате чата и генерирует текстовые ответы. Модель предназначена для диалогов и генерации ответов на пользовательские запросы. В карточке приведён пример запуска через Transformers и задачи text-generation; обучение связано с UltraFeedback и Skywork Agree в названии репозитория, но подробности процедуры и результаты оценки не описаны. Модель распространяется в формате safetensors. Лицензия в доступных данных не указана.

Карточка модели 0xSojalSec/Uncensored-Cyber-Ornith-1.5-9B на Hugging Face совпадает с карточкой DuoNeural/Cyber-Ornith-1.5-9B-OBLITERATED, поэтому описание составлено по ней. Cyber-Ornith-1.5-9B-OBLITERATED — языковая модель DuoNeural для задач кибербезопасности, работы в терминале и вызова инструментов. Это дообученная версия OBLITERATUS/Ornith-1.5-9B-OBLITERATED на плотной архитектуре Qwen3.5 с 7,2 млрд параметров; модель доступна в формате safetensors и рассчитана на контекст до 262 144 токенов. В карточке заявлены QLoRA-адаптация, сохранение режима рассуждений и поддержка диалоговой работы с инструментами. Модель предназначена для анализа уязвимостей и угроз, помощи при аудите безопасности, подготовки исправлений, выполнения многошаговых задач в CLI и структурированного вызова функций. Она ориентирована на англоязычные запросы и обучалась в том числе на данных по кибербезопасности, командной строке и использованию инструментов. Разработчик приводит результаты внутренних оценок, но их нельзя считать независимой гарантией качества. Модель обозначена как uncensored; её ответы на запросы безопасности требуют проверки и контроля со стороны пользователя. Лицензия — Apache-2.0.

Vigogne 2 7B Instruct — языковая модель на архитектуре Llama, разработанная bofenghuang и опубликованная в формате GGUF с квантованием TheBloke. Это 7-миллиардная instruct-модель, предназначенная для генерации текста и выполнения пользовательских инструкций в диалоговых и прикладных сценариях. В метаданных указан французский язык; сведения о поддерживаемых дополнительных языках и длине контекста не приведены. Модель подходит для локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие инструменты с поддержкой GGUF. Формат поддерживает метаданные и специальные токены, а варианты квантования от 2 до 8 бит позволяют выбирать компромисс между размером файлов, требованиями к памяти и сохранением качества. Модель поддерживает CPU- и GPU-инференс в зависимости от используемого программного обеспечения и конфигурации. Ключевое ограничение — README не содержит результатов оценки качества, подробностей обучения, точного контекстного окна и характеристик отдельных квантованных вариантов, поэтому производительность в конкретных задачах определить нельзя. Для использования следует применять шаблон запросов Alpaca, указанный для модели. Лицензия обозначена как llama2; исходная неквантованная версия доступна отдельно в формате PyTorch.

XenonAI-0.6B — копия базовой языковой модели Qwen3-0.6B-Base, размещённая Xenon Studio. Веса разработаны командой Qwen; репозиторий Xenon Studio содержит исходную модель без дообучения XenonAI. Это плотная авторегрессионная модель класса Qwen3ForCausalLM с 507,9 млн параметров и контекстом до 40 960 токенов. Модель предназначена для генерации текста и может служить основой для дальнейшего дообучения. Метаданные указывают поддержку диалогового режима и интерфейса вызова инструментов. Доступны веса в формате safetensors; библиотека для работы — Transformers. Лицензия — Apache-2.0. Карточка не описывает отдельное обучение или специальные предметные области для этой копии.

Air-Striker-Mixtral-8x7B-Instruct-ZLoss — экспериментальная языковая модель, опубликованная LoneStriker. Она дообучена на базе Mixtral-8x7B-v0.1 с использованием набора данных airoboros-3.2, конфигураций и форков Transformers/Axolotl от Doctor-Shotgun, а затем объединена с Mixtral-8x7B-Instruct-v0.1 с помощью mergekit. Модель предназначена для генерации текста и диалоговых сценариев, включая следование инструкциям. Она использует архитектуру Mixtral 8x7B, формат промптов ChatML и заявленный контекст длиной 8K токенов. В README указан английский язык; сведения о других модальностях отсутствуют. Объединение выполнено линейным методом с равными весами компонентов, итоговый тип данных — bfloat16. Модель сочетает свойства исходной дообученной версии Air-Striker-Mixtral-8x7B-ZLoss и Mixtral-8x7B-Instruct-v0.1, что потенциально полезно для инструктивных задач и диалогов. При этом она обозначена как экспериментальная, а README не содержит результатов бенчмарков, подробностей об ограничениях качества или требований к аппаратному обеспечению. Лицензия — Apache-2.0.

bartowski/ArliAI_QwQ-32B-ArliAI-RpR-v4-GGUF — это набор квантованных GGUF-версий текстовой генеративной модели ArliAI/QwQ-32B-ArliAI-RpR-v4, разработанной ArliAI. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты, включая локальные сценарии инференса на пользовательском оборудовании. Доступны варианты от BF16 до квантовок Q8_0, Q6, Q5, Q4, Q3 и IQ, поэтому можно выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер базовой модели составляет 32B параметров; заявленный язык — английский. В README не указаны архитектурные детали, размер контекстного окна, мультимодальные возможности, результаты бенчмарков или специализированные области применения. Более сильные квантизации обеспечивают качество, близкое к исходным весам, тогда как варианты Q3 и некоторые другие требуют меньше памяти, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0.

Astra-v1-12B-i1-GGUF — это квантизированная версия текстовой модели Astra-v1-12B, разработанной P0x0 и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для универсальной генерации текста и может использоваться в сценариях, где требуется локальный запуск языковой модели общего назначения. В README прямо указан английский язык, однако другие языки и конкретные специализации не описаны. Модель содержит 12 миллиардов параметров и распространяется в виде imatrix-квантов различных типов, включая IQ1–IQ4, Q2–Q5 и Q6. Размер файлов составляет примерно от 3,1 до 10,2 ГБ, что позволяет выбирать вариант с подходящим компромиссом между требованиями к памяти, скоростью и качеством. Более низкие уровни квантования могут заметно снижать качество; для Q4_K_M указано сочетание скорости и качества, а Q6_K охарактеризован как близкий к полноразмерной статической квантовке. Архитектура, размер контекста и дополнительные модальности в README не указаны; по представленным данным модель является текстовой. Модель распространяется по лицензии Apache-2.0. Для работы требуются совместимые инструменты, поддерживающие формат GGUF; конкретные системные требования и рекомендуемые параметры запуска не приведены.

QuantFactory/Buzz-8b-Large-v0.5-GGUF — квантованная версия языковой модели Buzz-8b-Large-v0.5, разработанной Alignment Lab AI совместно с Hive Digital Technologies. Модель создана на базе существующих предварительно обученных моделей и дорабатывалась с применением итеративного fine-tuning, отбора и улучшения данных. Релиз в формате GGUF подготовлен с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска, включая сценарии персонального использования, экспериментов с языковыми моделями и построения чат-систем. Она работает преимущественно как completion-модель: по умолчанию продолжает переданный текст. Для диалогового режима README рекомендует добавлять специальные токены завершения и начала текста, а также обозначение роли ассистента. Заявлен английский язык. Ключевая характеристика модели — размер около 8 миллиардов параметров и поддержка формата GGUF, удобного для инференса через совместимые инструменты llama.cpp. Точные параметры квантования, размер контекстного окна, перечень доступных вариантов GGUF и результаты бенчмарков в README не указаны. Ограничениями являются completion-ориентированное поведение и необходимость правильно формировать промпт для стабильного диалога. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/calme-2.2-llama3-70b-GGUF — это набор файлов модели в формате GGUF для текстовой генеративной модели MaziyarPanahi/calme-2.2-llama3-70b. Модель разработана и квантизирована MaziyarPanahi и основана на архитектуре Llama 3 с заявленным размером 70B параметров. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие библиотеки и приложения. Формат GGUF поддерживает варианты квантизации от 2 до 8 бит, что позволяет выбирать баланс между требованиями к памяти и качеством работы. Файлы могут быть разделены на части и обычно загружаются библиотекой автоматически при указании на первый файл. В README не указаны поддерживаемые языки, размер контекстного окна, конкретные сценарии применения, результаты оценки, сильные стороны и ограничения исходной модели. Для работы требуется совместимый рантайм, а качество зависит от выбранного уровня квантизации и используемого оборудования. Лицензия в предоставленных данных не указана.

CaPlatTessDolXaBoros Yi 34B 200K DARE Ties Highdensity — это языковая модель для генерации текста на базе архитектуры Yi с 34 миллиардами параметров. Исходную модель разработал brucethemoose, а представленный репозиторий подготовил TheBloke в формате GGUF. В карточке указано, что модель предназначена для текстовой генерации и ориентирована на английский язык. Модель доступна в квантованных вариантах GGUF с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные версии. Это позволяет запускать её с использованием CPU и GPU через llama.cpp и совместимые приложения, библиотеки и пользовательские интерфейсы. Для работы заявлен шаблон запросов Orca-Vicuna с секциями SYSTEM, USER и ASSISTANT. К сильным сторонам относятся большой размер модели, поддержка различных уровней квантования и возможность локального запуска на широком наборе программных платформ. К ограничениям относятся отсутствие в README результатов тестирования, подробных сведений о качестве, мультимодальности и фактическом размере контекста; заявлен только английский язык. Квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной моделью. Лицензия указана как yi-license; применяются условия лицензии Yi, приведённой в карточке.

Карточка модели AmberYifan/capsd-less-ultra-opc-marin-8b-base-code_less_b8000_s0 на Hugging Face совпадает с карточкой AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b8000_s0, поэтому описание составлено по ней. AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b8000_s0 — дообученная модель на архитектуре Llama для генерации и продолжения текста. Она основана на marin-community/marin-8b-base и обучена на наборе capsd_marin-8b-base-n80000-opc__mix_code_less_b8000_s0. Модель содержит 7,5 млрд параметров, рассчитана на контекст до 4096 токенов и использует формат Safetensors; для работы применяется библиотека Transformers. Модель предназначена для генерации текста в формате text-generation и поддерживает чатовый сценарий. Карточка не приводит подробностей об обучающих данных, оценке качества или конкретных возможностях модели. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели.

Cyber-Ornith-1.5-9B-OBLITERATED — языковая модель DuoNeural для задач кибербезопасности, работы в терминале и вызова инструментов. Это дообученная версия OBLITERATUS/Ornith-1.5-9B-OBLITERATED на плотной архитектуре Qwen3.5 с 7,2 млрд параметров; модель доступна в формате safetensors и рассчитана на контекст до 262 144 токенов. В карточке заявлены QLoRA-адаптация, сохранение режима рассуждений и поддержка диалоговой работы с инструментами. Модель предназначена для анализа уязвимостей и угроз, помощи при аудите безопасности, подготовки исправлений, выполнения многошаговых задач в CLI и структурированного вызова функций. Она ориентирована на англоязычные запросы и обучалась в том числе на данных по кибербезопасности, командной строке и использованию инструментов. Разработчик приводит результаты внутренних оценок, но их нельзя считать независимой гарантией качества. Модель обозначена как uncensored; её ответы на запросы безопасности требуют проверки и контроля со стороны пользователя. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия инструкционной модели LlamaThink-8B-instruct, разработанной DavidBrowne17 и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через LM Studio, llama.cpp и другие совместимые проекты на базе llama.cpp. В README также приведён специальный шаблон prompt с системными и пользовательскими сообщениями. Модель имеет размер 8B параметров; конкретная архитектура, поддерживаемые языки, модальности и размер контекстного окна не указаны. Доступны варианты квантования от Q8_0 до Q2_K_L, с размером файлов примерно от 3,69 до 8,54 ГБ. Более высокие варианты квантования обеспечивают лучшее качество, тогда как менее точные требуют меньше оперативной памяти; рекомендуемым вариантом общего назначения назван Q4_K_M, а Q6_K и Q6_K_L характеризуются как варианты очень высокого качества. Основное преимущество этой версии — возможность локального запуска при выборе подходящего уровня квантования и аппаратных ресурсов. Ограничения связаны с потерями качества на низких уровнях квантования, а также с отсутствием в предоставленных данных подробных сведений о результатах оценки, языках и фактических возможностях модели. Лицензия — Apache-2.0.

ProtectAI (Laiyer.ai) разработала эту англоязычную модель на базе DeBERTa-v3-base Microsoft, дообучив её распознавать prompt injection. Модель классифицирует текст по двум категориям: обычный запрос и обнаруженная попытка внедрения инструкций. Её можно использовать как фильтр перед передачей пользовательского или внешнего текста языковой модели, в том числе в системах на базе LangChain и LLM Guard. Модель содержит 211,6 млн параметров, использует архитектуру DeBERTa-v2 для классификации последовательностей и принимает текст длиной до 512 токенов. В карточке указаны очень высокие метрики на оценочном наборе, однако результаты зависят от сходства входных данных с обучающими: на незнакомых стилях и темах качество может снижаться. Проект архивирован, а в карточке отмечена более новая версия — deberta-v3-base-prompt-injection-v2. Лицензия — Apache 2.0; доступны веса SafeTensors и ONNX.

DeepSeek-R1-ReDistill-Qwen-1.5B-v1.0-GGUF — набор GGUF-квантизованных версий модели DeepSeek-R1-ReDistill-Qwen-1.5B-v1.0, подготовленный пользователем bartowski на основе исходной модели mobiuslabsgmbh. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio. README не указывает поддерживаемые языки, размер контекстного окна или точную архитектуру базовой модели, поэтому эти характеристики нельзя определить по предоставленным данным. Доступны варианты от F32 и F16 до различных типов квантования Q8_0, Q6_K, Q5_K, Q4_K и Q3/Q2, с размером файлов примерно от 0,98 до 7,12 ГБ. Квантизация выполнена с использованием imatrix и набора данных, указанного автором. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти; Q6_K_L, Q6_K, Q5_K_M, Q4_K_M и некоторые другие версии отмечены как рекомендуемые. Для работы следует использовать соответствующий формат prompt и совместимое ПО, например llama.cpp или LM Studio. Лицензия — MIT. Ограничения включают отсутствие в README сведений о результатах оценки, производительности, точных требованиях к оборудованию и поведении модели в конкретных языках и задачах. Также это не одна фиксированная модель, а набор файлов с разным уровнем квантования, поэтому качество и требования к памяти зависят от выбранного варианта.

DeepSeek-V4-Flash-Vision-Uncensored-GGUF — это GGUF-конверсия модели orcarouter/DeepSeek-V4-Flash-Vision-Uncensored, подготовленная OrcaRouter на основе DeepSeek-V4-Flash-Vision-Exp от DeepSeek. Модель предназначена для локального текстового вывода, исследований интерпретируемости и механизмов отказа, AI safety, red teaming и оценки устойчивости моделей. Версия существенно лишена исходного safety alignment методом abliteration и может выполнять запросы, от которых оригинальная модель отказалась. Это разреженная Mixture-of-Experts-модель примерно на 305B параметров с около 18B активных параметров, конфигурацией 256 экспертов и выбором top-6. Она использует DeepSeek sparse attention, 4-wide Manifold-Constrained Hyper-Connections и контекст до 1M токенов. Модель поддерживает английский и китайский языки. В данном выпуске сохранена текстовая модальность: компоненты vision удалены, поэтому обработка изображений недоступна. Спекулятивная DSpark/MTP-голова также не включена. Ключевое преимущество — сохранение исходных FP4-кодов маршрутизируемых матриц в формате MXFP4 без дополнительного переквантизирования, что позволяет использовать веса через llama.cpp. Для запуска требуется свежая сборка llama.cpp с поддержкой архитектуры deepseek4; старые версии и runtime с зафиксированной более ранней версией могут не загрузить модель. Из-за удаления защитных механизмов модель не предназначена для неконтролируемого продакшен-развёртывания: необходимы собственные фильтры безопасности и модерация, а ответственность за применение и результаты несёт пользователь. Лицензия — MIT.

Это модель spaCy от PlanTL-GOB-ES для выявления чувствительных данных в пользовательских текстах на испанском и каталанском языках. Она предназначена для работы внутри AnonymizationPipeline от BSC и не является самостоятельным готовым приложением. Модель выполняет токенную классификацию и распознаёт сущности EMAIL, FINANCIAL, ID, LOC, MISC, ORG, PER, TELEPHONE, VEHICLE и ZIP. Её можно применять как этап обработки для последующей анонимизации адресов электронной почты, финансовых и идентификационных данных, мест, организаций, людей, телефонов, транспортных средств и почтовых индексов. Карточка указывает версию 1.0.0 и совместимость со spaCy версии 3.2.3 или новее. Размер модели и длина контекста не приведены. Качество распознавания может зависеть от типа текста и соответствия его испанскому или каталанскому языку; для использования требуется интеграция с указанным конвейером. Лицензия — MIT.

EVA-LLaMA-3.33-70B-v0.1-GGUF — это GGUF-квантизированная версия языковой модели EVA-LLaMA-3.33-70B-v0.1, подготовленная пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-интерфейсах и других сценариях inference через llama.cpp или LM Studio. Исходная модель разработана EVA-UNIT-01; в её обучении или слиянии заявлены наборы данных для инструкционного следования, письма, ролевых диалогов и разнообразной генерации текста. Модель относится к классу больших текстовых моделей с заявленным размером 70B параметров. Доступны варианты квантования от Q8_0 до Q2_K, включая семейства Q4_K, Q5_K, Q6_K и IQ, с размером файлов примерно от 26 до 75 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; в README рекомендуются варианты Q6_K, Q5_K, Q4_K и IQ4_XS в зависимости от доступных ресурсов. Формат GGUF ориентирован на локальный запуск, включая CPU-инференс в некоторых вариантах. Сильными сторонами являются большой размер модели, широкий выбор квантований и оптимизация с использованием imatrix, позволяющая подобрать компромисс между качеством и требованиями к памяти. Ограничения включают высокие аппаратные требования даже для компактных вариантов, отсутствие указанного в README формата промпта, а также отсутствие сведений о поддерживаемых языках, длине контекста, мультимодальности и результатах стандартизированных оценок. Указана лицензия eva-llama3.3; перед использованием следует проверить её условия для исходной модели и производных квантований.

MaziyarPanahi/Franken-MoE-18B-v0.1 — языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), представленная в формате Safetensors и предназначенная для генерации текста. Карточка приводит пример запроса о плюсах и минусах Docker, поэтому модель можно использовать для ответов на вопросы и объяснений на эту тему. Метаданные указывают 7,1 млрд параметров, контекст до 32 768 токенов и лицензию Apache-2.0. Карточка не уточняет языки обучения или оценки качества, поэтому пример про Docker не подтверждает особую специализацию модели в программировании или поддержку конкретных языков.

onnx-community/gemma-3-1b-it-ONNX — ONNX-версия модели Google Gemma 3 1B Instruct, подготовленная сообществом onnx-community. Модель предназначена для генерации текста и диалоговых сценариев с использованием чат-шаблонов, включая ответы на вопросы, написание текстов и выполнение инструкций. Модель имеет размер около 1 млрд параметров и работает с архитектурой Gemma 3 1B через ONNX Runtime. Она поддерживается библиотекой Transformers.js, включая запуск в браузере или другом JavaScript-окружении с WebGPU; в примере также используется квантизация q4. Доступен запуск через ONNX Runtime на Python. README не указывает поддерживаемые языки, максимальную длину контекста, дополнительные модальности или результаты бенчмарков. К сильным сторонам относятся относительно небольшой размер, переносимость формата ONNX и возможность локального запуска, в том числе с WebGPU и квантизацией. Ограничения производительности, качества, языкового покрытия и контекстного окна в предоставленных данных не описаны, поэтому их нельзя оценить по README. Модель распространяется по лицензии Gemma.