II.2Создание и понимание программного кода

experimentalmachines/LFM2.5-2.6B-heretic — текстовая модель на 2,6 млрд параметров, созданная путём направленного удаления отказов из LiquidAI/LFM2.5-2.6B с помощью heretic. Метод оптимизирует веса абляции по слоям, снижая частоту отказов и расхождение с исходной моделью; полученные веса объединены, поэтому модель загружается как обычная Lfm2ForCausalLM. Сохранены шаблон чата и токены вызова инструментов базовой модели; контекстное окно составляет 131 072 токена. Модель предназначена для генерации текста и диалогов, в том числе сценариев, где требуется меньше отказов. Репозиторий содержит веса safetensors для Transformers; описанный в README экспорт ExecuTorch удалён и отсутствует, поэтому эти веса нельзя напрямую загрузить в приложения, требующие скомпилированный файл .pte. Для использования нужна библиотека Transformers, а для локального запуска в других форматах потребуется отдельная конверсия или квантизация. Лицензия указана как other; README предупреждает, что защитное обучение исходной модели намеренно удалено.

Capx/Llama-3.1-Carrot — разговорная модель Capx, дообученная на базе Meta Llama 3.1 8B Instruct. Она предназначена для диалога и генерации текста; метаданные также указывают поддержку сценариев с изображениями и интерфейса вызова инструментов. Модель содержит 7,5 млрд параметров, использует плотную архитектуру CapxLlamaForCausalLM и имеет контекст до 131 072 токенов. Модель рассчитана на англоязычное использование. Для запуска инференса README указывает минимальное требование — GPU A100 с 40 ГБ памяти. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Llama-3.2-1B-GGUF — текстовая генеративная модель, подготовленная prithivMLmods на основе meta-llama/Llama-3.2-1B и распространяемая в формате GGUF. Репозиторий содержит файл весов F16 размером 2,48 ГБ; метаданные указывают на плотную архитектуру семейства Llama и возможность диалога. Модель предназначена для генерации текста и диалогового использования, в том числе через Ollama. В карточке указаны английский язык и лицензия CreativeML OpenRAIL-M; README также сообщает Apache-2.0, поэтому точные условия лицензирования требуют проверки у автора репозитория.

Модель KKHYA/llavaqwen3-1.7b-finetune-nm-mask-moe-sparse-1e-1k-2of4-C1-fixmag-trainw_20260812_181743 — дообученная версия KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров. Она построена на архитектуре NMMaskMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов; доступны интерфейс чата и интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 40 960 токенов. Датасет дообучения и результаты оценки в карточке не описаны, поэтому качество на конкретных задачах не установлено. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0.

M7Neuralsynthesis-7B — объединённая языковая модель на архитектуре Mistral, созданная Maxime Labonne методом автоматического слияния моделей. В конфигурации указаны liminerity/M7-7b и Kukedlc/NeuralSynthesis-7B-v0.3; применён метод dare_ties. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; указана лицензия Apache-2.0. README не приводит оценок качества, специальных областей применения или списка поддерживаемых языков.

Mungert/Magistral-Small-2506-abliterated-GGUF — это GGUF-квантизированная версия модели Magistral-Small-2506, основанная на модели Mistral и опубликованная Mungert. Модель создана на основе варианта huihui-ai/Magistral-Small-2506, в котором с помощью abliteration существенно снижено количество отказов от генерации. GGUF-файлы сгенерированы через llama.cpp. Модель предназначена для текстовой генерации и диалоговых сценариев, включая локальный запуск и экспериментальное применение. В README указана поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Точные размер, архитектура, длина контекста и набор доступных квантовок для этой карточки не указаны. Ключевая особенность — экспериментальный подход к квантизации: отдельные важные слои получают более высокую точность, чем при стандартной конфигурации IMatrix, что, по утверждению автора, может улучшать качество при меньшей битности, особенно для MoE-моделей. Ограничения включают экспериментальный статус, сниженные механизмы фильтрации безопасности и повышенный риск чувствительных, спорных или неподходящих ответов; результаты требуют контроля и проверки. Модель распространяется по лицензии Apache-2.0.

MahaKumbh-Llama3.3-70B — языковая модель AIGurukul Foundation для генерации текста и диалогового взаимодействия. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; в карточке указано, что она дообучена на Llama 3.3. Модель поддерживает контекст до 131 072 токенов и опубликована в формате safetensors для Transformers. Модель подходит для генерации ответов и ведения диалога; в метаданных также отмечен интерфейс вызова инструментов. README не описывает конкретные сценарии применения, данные обучения или результаты оценки, поэтому специализированные возможности и качество для отдельных задач установить нельзя. Указана лицензия Apache 2.0. Python в README ошибочно или неоднозначно приведён в поле языков NLP и не считается поддерживаемым естественным языком.

MaziyarPanahi/MeliodasT3q_ShadowExperiment24 — объединённая модель для генерации текста, созданная на основе automerger/MeliodasT3q-7B и automerger/ShadowExperiment24-7B. В карточке указана архитектура Mistral с плотной структурой и 7,1 млрд параметров; модель распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Она выпущена под лицензией Apache-2.0. Данных о специализации, языках и конкретных ограничениях качества в карточке нет.

jeiku/mergefodder1 — слитая языковая модель, созданная с помощью mergekit из jeiku/neurodeed и jeiku/luxemaelstrom методом SLERP. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 3,9 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста в диалоговом формате и чат-сценариев. Она принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Mistral-7B-Instruct-IPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

Карточка модели princeton-nlp/Mistral-7B-Instruct-KTO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

Карточка модели princeton-nlp/Mistral-7B-Instruct-RDPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Base-8B-SFT, поэтому описание составлено по ней. princeton-nlp/Llama-3-Base-8B-SFT — разговорная модель генерации текста на архитектуре Llama, опубликованная как часть работы SimPO: Simple Preference Optimization with a Reference-Free Reward. Репозиторий содержит модель на 7,5 млрд параметров в формате safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на запросы и ведения беседы. README отсылает к репозиторию SimPO за дополнительными сведениями. Лицензия и конкретные языковые возможности в предоставленных данных не определены.

ehristoforu/mistral-distil-test-0 — текстовая генеративная модель на архитектуре Mistral, созданная с помощью mergekit из слоёв unsloth/Mistral-Nemo-Instruct-2407. В конфигурации passthrough сохранены слои 0–7 и 14–31 исходной модели; репозиторий содержит веса в формате safetensors. Метаданные указывают размер 7,8 млрд параметров и контекст до 1 024 000 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не сообщает о языках обучения или отдельных прикладных областях. Она опубликована в июле 2024 года и использует лицензию базовой модели; сведения о лицензии в предоставленных данных отсутствуют.

zelk12/MT1-Max-Merge_02012025163610-MUI-gemma-2-9B — объединённая разговорная языковая модель семейства Gemma 2, созданная методом SLERP с помощью mergekit из двух моделей Gemma 2. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и формат safetensors; в конфигурации слияния указан тип данных bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать как основу для чат-ботов и приложений, которые формируют ответы на текстовые запросы. Метаданные указывают контекст до 8192 токенов. Данные о целевых языках и специализированных областях применения в карточке не приведены. Лицензия в предоставленных данных не указана. Качество и поведение объединённой модели зависят от исходных моделей; отдельные результаты оценки и сведения об ограничениях в карточке отсутствуют.

zelk12 выпустил объединённую модель Gemma 2 для генерации текста и диалогов. Она создана с помощью mergekit: веса двух предварительно обученных моделей, recoilme-gemma-2-Ifable-9B-v0.1 и recoilme-gemma-2-Gutenberg-Doppel-9B-v0.1, объединены методом SLERP. Модель имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и использует формат safetensors. Модель предназначена для диалогового взаимодействия и генерации текста по запросу. Контекст составляет до 8192 токенов. Указана лицензия Gemma; условия её использования следует сверить с лицензией базовых моделей. Данных о целевых языках и специализированных областях применения в карточке нет.

zelk12/MT5-MMB-gemma-2-9B — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом SLERP из двух моделей Gemma 2. Она предназначена для диалоговой генерации текста и работы в сценариях общения с чат-моделью. Модель имеет плотную архитектуру Gemma 2 с 9 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. В репозитории указаны веса в формате safetensors и использование библиотеки Transformers. README описывает слияние моделей, но не приводит подробностей об их целевых сценариях, языковой специализации или сравнительных качествах. Условия лицензирования в предоставленных данных не указаны.

zelk12/MT-Gen5-IF-gemma-2-MT5g4MT4g2-9B — объединённая модель для генерации текста и диалогов, созданная с помощью mergekit из zelk12/MT4-Gen2-gemma-2-9B и zelk12/MT5-Gen4-gemma-2-9B. Для слияния применён метод SLERP; модель основана на архитектуре Gemma 2, содержит 9 млрд параметров и рассчитана на контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не приводит сведения о конкретных языках или специализированных областях применения. Условия лицензии в предоставленных данных не описаны.

Nemotron-3.5-Lightning-30B-A3B Heretic-Uncensored Q4_K_M GGUF — квантизированная версия модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA и дополнительно обработанной mlasli. Модель построена на гибридной архитектуре Mamba-MoE nemotron_h_moe: общий объём составляет 31,6 млрд параметров, из которых активно используется около 3 млрд. Формат GGUF и квантизация Q4_K_M уменьшают размер файла до 24,3 ГБ и позволяют запускать модель локально через llama.cpp. В карточке заявлена поддержка английского, испанского, французского, немецкого, итальянского и японского языков; размер контекста не указан. Модель предназначена для локальной генерации текста и диалоговых сценариев, включая использование через llama.cpp и Ollama. По данным карточки, она прошла локальную проверку загрузки и генерации связного текста. Вариант Heretic-Abliterated создан с удалённым направлением отказов, поэтому модель ориентирована на высокую готовность выполнять запросы: в указанной независимой проверке зафиксированы 0% отказов и 100% соответствия запросам на 200 испытаниях. Эти результаты приведены для объединённой BF16-версии и не гарантируют идентичное поведение квантизированной модели. К ограничениям относятся отсутствие встроенного защитного выравнивания, возможные риски генерации небезопасного контента, крупный объём файла и требование сборки llama.cpp b10326 или новее. Лицензия указана как NVIDIA Open Model License; также приведена ссылка на её официальный текст. Контекстное окно, производительность, системные требования помимо размера файла и результаты стандартных бенчмарков в карточке не указаны.

Nemotron 3 Super 120B JANG_4M CRACK — текстовая генеративная модель, подготовленная Jinho Jang на основе NVIDIA Nemotron-3-Super-120B-A12B. Это гибридная архитектура Nemotron-H, сочетающая слои Mamba SSM, Mixture of Experts и attention; в исходной модели заявлены 120 млрд параметров и около 12 млрд активных. В метаданных репозитория указано 6,6 млрд параметров. Модель принимает текст и поддерживает диалоговый режим и интерфейс вызова инструментов. Веса прошли смешанную квантизацию JANG_4M: 8-битное attention и 4-битные эксперты; README указывает размер 63 ГБ. Формат JANG предназначен для MLX на Apple Silicon и, согласно карточке, поддерживается MLX Studio и пакетом jang-tools. Контекст составляет до 262 144 токенов. CRACK — описанное автором удаление отказов от ответов на уровне весов; модель позиционируется как вариант без защитных ограничений. Карточка приводит результаты HarmBench и MMLU, но не даёт независимой проверки этих оценок. Модель предназначена для генерации текста и диалогов, включая сценарии, где требуется меньше отказов, чем у базовой модели. В README указана лицензия other в метаданных, а также заявлено использование в исследовательских и образовательных целях; конкретные условия лицензии в предоставленных данных не раскрыты. Английский указан как язык карточки.

jeiku/Neo-e2 — дообученная диалоговая текстовая модель на архитектуре LlamaForCausalLM, основанная на IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml. Модель содержит 3,9 млрд параметров и рассчитана на генерацию текста в формате диалога; для работы с ней используется библиотека Transformers. В карточке указано контекстное окно 131 072 токена. Карточка сообщает о дообучении и приводит значение loss 1,5576 на наборе оценки, но не раскрывает датасет, конкретные сценарии обучения или результаты других метрик. Указана лицензия other; её условия следует уточнить в карточке репозитория и у правообладателей базовой модели.

duyntnet/neural-chat-7b-v3-3-imatrix-GGUF — это набор квантованных версий языковой модели Intel Neural Chat 7B v3.3, основанной на Mistral-7B-v0.1. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, помощи в решении задач, инструкций, продолжения текста и создания чат-ботов. В README указана поддержка английского языка и максимальный контекст 8192 токена. Модель относится к авторегрессионным текстовым моделям с архитектурой Mistral и примерно 7 миллиардами параметров. Представленные файлы используют формат GGUF и imatrix-квантизацию, что ориентировано на более экономичное по памяти локальное выполнение по сравнению с полноразмерными FP32 или BF16-весами. README также описывает варианты запуска исходной модели через Transformers и Intel Extension for Transformers, включая инференс на CPU, NVIDIA GPU и Intel Gaudi2, однако конкретные требования к аппаратному обеспечению для GGUF-версий не указаны. Сильными сторонами являются компактное квантованное представление, относительно длинный для модели этого класса контекст и специализация на диалоговой генерации. Ограничения включают работу преимущественно с английским языком, возможные потери качества из-за квантизации и отсутствие в README результатов бенчмарков, подробных характеристик отдельных уровней квантизации и гарантии точности ответов. Лицензия указана как other, без дополнительных пояснений.

NeuralExperiment26-7B — объединённая Maxime Labonne модель для генерации текста, созданная автоматическим слиянием двух моделей Mistral: Kukedlc/Neural-Krishna-Multiverse-7b-v3 и yam-peleg/Experiment26-7B. В карточке указано слияние методом SLERP с настройками для слоёв self-attention и MLP. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и формат safetensors. Заявленная длина контекста — 32 768 токенов. Она предназначена для генерации текста; сведения о специализации по языкам или предметным областям в карточке не приведены. Лицензия — Apache-2.0.

DevQuasar/nicoboss.Qwen3-32B-Uncensored-GGUF — квантованная версия модели nicoboss/Qwen3-32B-Uncensored, опубликованная под брендом DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях диалога, написания и преобразования текстов, а также для других задач, поддерживаемых базовой языковой моделью. Из доступных данных известно, что это текстовая модель семейства Qwen3 с размером 32B параметров в квантованном представлении GGUF. Ключевая особенность варианта — обозначение Uncensored, однако README не содержит подробностей о применённых ограничениях, настройках квантования, поддерживаемых языках, длине контекста, архитектуре или результатах тестирования. Квантование потенциально упрощает локальный запуск и снижает требования к ресурсам, но конкретные требования к памяти и производительность не указаны. Лицензия и условия использования в README не указаны, поэтому их следует уточнить в карточке базовой модели или у автора публикации. Сильные стороны и ограничения модели нельзя полноценно оценить по представленным данным.

Карточка модели localized-ft/OLMo-3-7B-old-bird-names-last-third-v2-sft-seed4-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

orca_mini_v9_6_1B-Instruct — разговорная языковая модель Pankaj Mathur, дообученная на основе meta-llama/Llama-3.2-1B. Она предназначена для генерации текста в диалоговом формате и может использоваться как компактный помощник, в том числе в средах с ограниченными вычислительными ресурсами. Архитектура — плотная LlamaForCausalLM; модель содержит 1,2 млрд параметров, принимает текст и выдаёт текст. Для запуска автор приводит примеры с Google Colab и локально через GGUF-версию с Ollama. В карточке заявлено контекстное окно 131 072 токена. Указаны английский язык и наборы данных orca_mini_v1_dataset и orca_mini_v8_sharegpt_format. Репозиторий содержит веса PyTorch и safetensors; лицензия — Llama 3.2. Как и другие небольшие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением необходимы проверки и настройки безопасности под конкретное применение.

MaziyarPanahi/phi-2-super-GGUF — набор квантизированных файлов модели abacaj/phi-2-super в формате GGUF. Исходную модель разработал abacaj, а конвертацию и квантизацию выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и системы conversational AI. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. Формат GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В метаданных указана поддержка английского языка; модель работает с текстом и не предназначена для мультимодальных задач. Размер модели, архитектура исходной phi-2-super и длина контекста в README не указаны. К преимуществам относятся возможность запуска локально, широкий выбор уровней квантизации и совместимость с популярными инструментами инференса. Более агрессивная квантизация уменьшает требования к ресурсам, но может снижать точность и качество ответов по сравнению с менее квантизированными вариантами. Условия использования указаны как лицензия MIT.

Sakalti/Phi3.5-Comets-3.8B — языковая модель для генерации текста и диалогов, созданная объединением нескольких чекпойнтов семейства Phi-3.5. Автор использовал метод TIES в mergekit на базе microsoft/Phi-3.5-mini-instruct и объединил её с win10/Phi-3.5-mini-instruct-24-9-29, FreedomIntelligence/Apollo2-3.8B и AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common. Модель имеет плотную архитектуру Phi3ForCausalLM и около 3,7 млрд параметров. Она рассчитана на текстовый ввод и генерацию текста, поддерживает диалоговый режим и работает через Transformers. Нативный контекст составляет 4096 токенов. Компактный размер делает её подходящей для локальных чат-сценариев и генерации текста при ограниченных ресурсах. Репозиторий содержит веса safetensors в формате bfloat16. Лицензия — MIT. Карточка не описывает отдельные результаты оценки качества; фактическая точность и устойчивость ответов могут зависеть от задачи и используемого шаблона диалога.

Progenitor-V1.1-LLaMa-70B — экспериментальная модель генерации текста, созданная Tarek07 путём объединения нескольких предварительно обученных моделей Llama. Для слияния использован mergekit с методом Della Linear и базой nbeerbower/Llama-3.1-Nemotron-lorablated-70B; также включены EVA-LLaMA-3.33-70B-v0.1, L3.1-70B-Hanami-x1, 70B-L3.3-Cirrus-x1, Anubis-70B-v1 и Negative_LLAMA_70B. Модель содержит 69,5 млрд параметров, использует архитектуру Llama для авторегрессионной генерации текста и поддерживает контекст до 131 072 токенов. Она предназначена для диалога и свободной генерации текста; в метаданных также отмечен интерфейс вызова инструментов. Карточка описывает её как личный эксперимент по объединению понравившихся автору моделей и сообщает, что результаты ему понравились, но не приводит количественных оценок качества. Лицензия — Llama 3.3. Ограничения и условия коммерческого использования следует сверять с её условиями; конкретные оценки качества и подробные рекомендации по применению в карточке не приведены.

RagnarokChan/Qwen2.5-3B-Instruct-Q4_K_M-GGUF — это версия модели Qwen2.5-3B-Instruct, разработанной командой Qwen, преобразованная пользователем RagnarokChan в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp в командной строке или в режиме сервера. Модель содержит 3B параметров, относится к инструкционно дообученным текстовым моделям и поддерживает английский язык. Доступна в квантизированном варианте Q4_K_M, что уменьшает требования к памяти и делает её подходящей для локального запуска на совместимом оборудовании. В README приведён пример использования с контекстом 2048 токенов, однако точный максимальный размер контекста для этой сборки не указан. Основные преимущества — компактный размер, возможность автономного запуска и совместимость с экосистемой llama.cpp. Ограничения включают меньший масштаб по сравнению с крупными моделями и отсутствие сведений о мультимодальности, дополнительных языках, результатах тестирования и конкретных требованиях к оборудованию. Указана лицензия other с названием qwen-research; подробные условия доступны по ссылке на лицензию исходной модели.

QuantFactory/Qwen2.5-7B-Instruct-abliterated-v2-GGUF — квантизированная GGUF-версия модели Qwen2.5-7B-Instruct-abliterated-v2, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана huihui-ai на базе Qwen/Qwen2.5-7B-Instruct и модифицирована методом abliteration, направленным на снижение ограничений отказа в ответах. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в приложениях с чат-интерфейсом и локальный запуск через совместимые инструменты. Модель относится к классу instruction-tuned языковых моделей с примерно 7 млрд параметров и поддерживает текстовую модальность. В карточке заявлен английский язык. Формат GGUF и квантизация ориентированы на более эффективное использование ресурсов по сравнению с полной версией, однако конкретный вариант квантизации, требования к памяти и размер контекста не указаны. К сильным сторонам относятся улучшенный результат в IF_Eval и GPQA относительно исходной Qwen2.5-7B-Instruct, а также возможность применения в сценариях, где требуется менее ограниченное поведение модели. При этом показатели MMLU Pro, TruthfulQA и BBH ниже, чем у исходной модели, а заявленное снижение ограничений может повышать риски генерации небезопасного или недостоверного содержания. Модель распространяется по лицензии Apache-2.0.