II.2Создание и понимание программного кода
В разделе собраны самостоятельные задачи, где AI помогает писать, объяснять и связывать программный код с требованиями и существующей системой. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
21 443 моделиxdg-llama-3-8B — языковая модель на архитектуре Llama 3, опубликованная xiaodongguaAIGC. Модель содержит около 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Она дообучена с использованием SFT, DPO и RLHF, включая обучение reward model и PPO, на смешанных инструкционных данных; среди датасетов указаны набор разработчика alpaca_en_zh_ruozhiba и наборы для безопасности PKU-SafeRLHF и CValues_DPO. Модель предназначена для генерации ответов на инструкции и вопросы, в том числе на китайском и английском языках; автор также заявляет возможности в программировании, рассуждениях и безопасном отказе. README приводит результаты MMLU, C-EVAL и C-MMLU, которые ниже указанных там результатов базовой Llama-3-8B и Llama-3-8B-Instruct. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.
mncai/yi-34B-v3 — языковая модель от MindsAndCompany, дообученная на базе Yi-34B с instruction tuning и DPO. Она предназначена для генерации текста и диалоговых сценариев, например для бизнес-ассистентов и чат-ботов. Модель имеет плотную архитектуру семейства Llama с классом LlamaForCausalLM, содержит 33,9 млрд параметров и поддерживает контекст до 8192 токенов. В карточке приведён пример вопроса на корейском языке. Модель распространяется в формате safetensors по лицензии other; конкретные условия лицензии в предоставленных данных не раскрыты. Карточка описывает её как основу для решений MindsAndCompany, включая Code Assistant и TOD Chatbot, но не приводит оценок качества или подробных ограничений применимости.
Athene-V2-Agent — языковая модель Nexusflow для агентных сценариев и вызова функций, дообученная на Qwen2.5-72B-Instruct. Она планирует последовательности действий с несколькими вызовами инструментов, включая задачи со сложными зависимостями, и формирует вызовы функций, которые приложение может выполнить и вернуть модели для продолжения работы. Модель также поддерживает диалог и генерацию текста; заявленные в карточке результаты относятся к тестам вызова функций и агентных задач. Модель имеет плотную архитектуру Qwen2, содержит 71,5 млрд параметров и поддерживает контекст до 32 768 токенов. README рекомендует запускать её через специальный Docker-образ Nexusflow с vLLM: формат промптов в нём настроен для извлечения исполняемых вызовов из планирования модели; стандартный шаблон чата Hugging Face может снизить качество агентной работы. Для предсказуемого поведения также рекомендуются отключённая случайная выборка и нулевая температура. Указана лицензия Nexusflow Research License; метаданные обозначают её как «other», поэтому условия следует сверять с текстом лицензии репозитория.
Auto-Fill-Qwen3-8B-Coding — специализированная языковая модель семейства Qwen3, разработанная для системы Auto-Fill и дообученная командой авторов проекта на базе Qwen/Qwen3-8B. Она получает таблицу с одной ячейкой, отмеченной как [MISSING], и генерирует правило на Python с pandas для заполнения значения, когда между столбцами есть программная зависимость: например, арифметическое соотношение, преобразование строки или поиск по таблице. Если общего правила для столбца нет, модель обучена возвращать пустой код. Это плотная авторегрессионная модель на 7,6 млрд параметров с контекстом до 40 960 токенов. Она предназначена для английских таблиц, сериализованных в формате Markdown, и обучена на 52 741 примере с проверкой исполнения и точности кода. В составе Auto-Fill она работает параллельно со специалистами по знаниям и рассуждениям; система калибрует уверенность и может воздержаться от ответа. Лицензия — Apache-2.0. Модель особенно подходит для восстановления пропусков, объяснимых зависимостями внутри таблицы. В одиночку она хуже справляется с пропусками, требующими внешних знаний; в тестировании на бенчмарке её средний Recall@Precision=0.9 составил 0,344, тогда как у полной системы Auto-Fill — 0,628. Сгенерированный код следует исполнять в изолированной среде. Обучение и оценка проводились на таблицах с одной пропущенной ячейкой и длиной до 40 960 токенов.
AmberYifan/capsd-opc-dedup-marin-8b-base-code_cap_b20000_s0 — дообученная модель на базе marin-community/marin-8b-base, созданная на наборе capsd_marin-8b-base-n80000-opc-dedup80k__mix_code_cap_b20000_s0. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Она предназначена для генерации и продолжения текста в сценариях диалогового взаимодействия; название обучающего набора указывает на смесь кода и подписей, однако карточка не описывает целевые задачи подробнее. Модель принимает текст и генерирует текст, её контекст составляет 4096 токенов. Базовая Marin 8B Base ориентирована на английский язык. Репозиторий содержит веса safetensors, лицензия указана как other.
AmberYifan/capsd-opc-dedup-marin-8b-base-code_cap_b2000_s0 — дообученная модель семейства Llama на базе marin-community/marin-8b-base, разработанная AmberYifan. Это плотная авторегрессионная языковая модель с 7,5 млрд параметров, предназначенная для генерации и продолжения текста; метаданные также указывают возможность диалогового использования. Модель обучена на наборе capsd_marin-8b-base-n80000-opc-dedup80k__mix_code_cap_b2000_s0, однако README не описывает его состав подробнее. Модель принимает текст и выдаёт текст. Базовая Marin 8B Base ориентирована на английский язык; сведения о дополнительных языках для этой версии не приведены. Контекст составляет 4096 токенов. Весовые файлы представлены в формате safetensors. Лицензия указана как other, без конкретизации условий в доступных данных.
CodeRosa-70B-AB1 — языковая модель на архитектуре Llama, созданная автором карточки путём слияния CodeLlama-70b-Python-hf и Midnight-Rose-70B-v2.0.3. Она предназначена для общения на разные темы в роли помощника-компаньона, с дополнительными навыками программирования и обучения. Модель содержит 68,7 млрд параметров, принимает текст и генерирует текст; в карточке указаны английский язык и контекст 4096 токенов. Автор отмечает эмоциональный и творческий стиль, способность писать ответы разной длины и суммировать текст. Для работы с кодом модель унаследовала ориентированный на задачи подход CodeLlama Python и требует точных запросов. Автор описывает результат как личный эксперимент, который мало тестировался; возможны ошибки, а качество зависит от настроек генерации и длины контекста. Лицензия — Llama 2; перед использованием следует учитывать её условия.
Darkforest — закрытый объединённый чекпойнт BlackwoodAI для авторизованных задач защитной кибербезопасности. Это языковая модель с архитектурой Qwen3 MoE и 2,6 млрд параметров; она доступна в формате safetensors и предназначена для генерации текста в диалоговом режиме с контекстом до 262 144 токенов. Модель подходит для анализа задач CTF и лабораторных сценариев, проверки защищённости кода, объяснения уязвимостей, разработки детектирующих правил, воспроизведения эксплойтов в собственных тестовых средах и защитного или криминалистического анализа вредоносного ПО. Её можно загружать через Transformers и обслуживать через vLLM как совместимый с OpenAI API endpoint. В README модель обозначена как исследовательский чекпойнт, который следует оценить перед использованием в рабочих процессах. Автор запрещает применять её для несанкционированного доступа, кражи учётных данных, развёртывания вредоносного ПО, фишинга, обхода защит, ботнетов, мошенничества и причинения вреда. Лицензия указана как other; дополнительных условий лицензии в предоставленных данных нет.
Это набор GGUF-квантизированных версий языковой модели Gemma 3 40B, разработанной ddh0 и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска в совместимых приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. В набор входят варианты от BF16 до низкобитных Q2 и IQ-квантизаций размером примерно от 15,5 до 79,6 ГБ. Доступны различные уровни компромисса между качеством, требованиями к памяти и скоростью инференса; наиболее качественными и рекомендуемыми в README названы варианты Q6_K, Q6_K_L, Q5 и Q4. Архитектура, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Сильной стороной модели является широкий выбор квантизаций, позволяющий адаптировать запуск к доступным ресурсам, при этом старшие варианты сохраняют качество, близкое к исходной модели. Низкобитные варианты требуют меньше памяти, но могут заметно уступать по качеству. Для модели не указан отдельный chat template, поэтому используется шаблон по умолчанию, который может быть некорректным; рекомендуется сверяться с карточкой исходной модели. Лицензия указана как Gemma.
mlx-community/DeepSeek-R1-4bit — это 4-битная версия модели DeepSeek-R1, разработанной командой DeepSeek и преобразованная сообществом mlx-community в формат MLX. Конвертация выполнена с использованием mlx-lm версии 0.21.0. Модель предназначена для локального запуска и генерации текста через библиотеку mlx-lm, включая сценарии с чат-шаблоном и передачей сообщений пользователя. README не содержит сведений о точной архитектуре, количестве параметров, поддерживаемых языках и модальностях, размере контекста, результатах тестирования, ограничениях или лицензии, поэтому эти характеристики нельзя достоверно оценить по представленным данным.
DeepSeek-R1-Distill-Qwen-14B-4bit — это 4-битная версия модели DeepSeek-R1-Distill-Qwen-14B, преобразованная сообществом mlx-community в формат MLX. Исходная модель опубликована deepseek-ai; конвертация выполнена с использованием mlx-lm версии 0.21.1. Модель предназначена для генерации текста и диалогового использования через библиотеку mlx-lm, включая применение chat template и формирование ответов на пользовательские запросы. Ключевая характеристика — квантование до 4 бит, что обычно снижает требования к памяти по сравнению с полной точностью, но README не содержит точных сведений о влиянии квантования на качество. Размер исходной модели — 14B параметров. Данные о поддерживаемых языках, длине контекста, архитектуре, модальностях, ограничениях, лицензии и конкретных сценариях применения в README не указаны.
DeepSeek V4 Flash — это квантизированная GGUF-версия базовой модели DeepSeek-AI DeepSeek-V4-Flash, подготовленная antirez для инференс-движка ds4. Модель предназначена для генерации текста и работы с англоязычными запросами, включая локальный запуск на системах с Apple Silicon и поддержкой Metal. Модель использует архитектуру Mixture-of-Experts (MoE). Доступны варианты с квантизацией routed experts в форматах 2-bit IQ2_XXS/Q2_K и 4-bit Q4_K, при этом важные компоненты, включая attention projections, shared experts, output head и router, сохранены в менее агрессивных форматах Q8_0, F16 или F32. Размер основных файлов составляет около 80,8 ГиБ для q2 и 153,3 ГиБ для q4. Дополнительный файл MTP размером 3,6 ГиБ обеспечивает поддержку speculative decoding и не является самостоятельной моделью. Сильной стороной сборки является уменьшение размера за счёт агрессивной квантизации экспертных блоков при сохранении точности маршрутизации и ряда ключевых компонентов. Вариант q2 рассчитан на компьютеры с 128 ГиБ оперативной памяти, а q4 — на системы с объёмом памяти от 256 ГиБ. Сборка может работать с другими инференс-движками, но гарантируется прежде всего совместимость с ds4; MTP требует специального загрузчика. В README приведён пример запуска с контекстом до 100000 токенов, однако максимальный контекст самой модели явно не указан. GGUF-файлы распространяются по лицензии MIT; авторские права на базовую модель принадлежат DeepSeek, а распространение квантизированных файлов осуществляется на условиях релиза базовой модели.
DiscoLM 120b (Alpha) — экспериментальная языковая модель DiscoResearch, обученная Бьёрном Плюстером. Это дообученная версия Goliath 120B, объединённой модели на основе нескольких Llama 2 70B. Модель содержит около 117,5 млрд параметров, использует архитектуру Llama с плотной causal language model и принимает текст, выдавая текст. Для диалогов применяется формат ChatML; максимальный исходный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, включая генерацию текстов, ответы на вопросы, рассуждения, математические задачи и код. В обучающую выборку вошли англоязычные и немецкоязычные инструкции, диалоги, математические данные, стихи и песни. Авторы приводят результаты бенчмарков, однако отмечают раннюю альфа-стадию и возможность загрязнения тестовых данных, поэтому оценки не гарантируют качество в практических задачах. Модель распространяется по лицензии Llama 2; при использовании действуют ограничения исходной лицензии и лицензий обучающих датасетов. Авторы указывают, что модель предназначена только для исследовательских целей.
PeytonT/file-embedding — дообученная модель для создания плотных векторных представлений файлов, предназначенных для поиска и сопоставления. Это компонент системы Repository Library для индексации и поиска по репозиториям и научным материалам. Модель основана на энкодере BERT и дообучена на sentence-transformers/all-MiniLM-L6-v2; содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторы признаков. В обучающих данных использовались графы репозиториев и фрагменты кода из конвейера Repository Library. Лицензия в предоставленных данных не указана.
ressl выпустил uncensored-сборку Gemma 4 31B IT — мультимодальную инструкционно-настроенную модель Google, изменённую на уровне весов так, чтобы снизить отказы на запросы. README сообщает о 0 эффективных отказов на 686 промптах из четырёх наборов данных; это результат проверки отказов, а не полноценная оценка качества модели. Модель предназначена для диалогов и анализа изображений, а автор отдельно описывает сценарии исследований безопасности: анализ вредоносного кода и эксплойтов, поиск уязвимостей, подготовка правил обнаружения и red teaming. Архитектура — плотная Gemma 4; размер базовой модели — 30,7 млрд параметров. Метаданные указывают английский и немецкий языки. README сообщает о проверках в Transformers, vLLM и SGLang; контекст запуска в примере ограничен 8192 токенами. Сборка может отвечать на запросы, которые исходная модель отклоняет, поэтому требует осмотрительного применения. Автор отмечает, что проводил лишь базовые проверки связности и не запускал полный набор бенчмарков возможностей. Лицензия — Apache-2.0.
Это GGUF-квантизация MXFP4_MOE модели GLM-4.5-Air-REAP-82B-A12B; в репозитории также размещена версия с imatrix. Она предназначена для генерации текста в диалогах и чат-сценариях. Базовая модель описана в каталоге как сжатая MoE-версия GLM-4.5-Air для генерации текста и кода, агентных сценариев и вызова функций при сниженных требованиях к памяти. Карточка не приводит сведения о размере файлов, длине контекста, поддерживаемых языках или условиях лицензии. Указанная в метаданных задача — text-generation, а формат файлов — GGUF. Количественная оценка качества этой квантизации в карточке отсутствует.
Mungert/gpt-oss-20b-Derestricted-GGUF — это GGUF-версия модифицированной модели gpt-oss-20b, разработанной Arli AI на базе открытой модели OpenAI. Модель предназначена для генерации текста, локального и специализированного использования, задач рассуждения и агентных сценариев, где требуется снизить выраженность стандартных отказов модели. При этом заявленная цель модификации — сохранить качество рассуждений исходной модели. Базовая gpt-oss-20b содержит около 21 млрд параметров, из которых примерно 3,6 млрд активны одновременно, и относится к моделям с архитектурой Mixture of Experts. Модель ориентирована на меньшую задержку и локальный запуск; README также указывает формат GGUF и генерацию с использованием llama.cpp. Для снятия отказов применён метод Norm-Preserving Biprojected Abliteration, который изменяет направляющие компонентов весов с сохранением их исходных норм. Дополнительно в процессе квантования отдельные важные слои переводятся в более высокую точность, что увеличивает размер файла, но может улучшать точность при низкой разрядности. Сильной стороной модели заявляется сочетание уменьшенного количества отказов, сохранённого качества рассуждений и удобства локального запуска в различных вариантах квантования. Ограничения включают возможные остаточные попытки подавлять отдельные запросы, зависимость качества и размера от выбранного GGUF-варианта, а также отсутствие в представленном README подробных данных о языках, длине контекста, результатах стандартизированных бенчмарков и точных системных требованиях. Лицензия указана как Apache-2.0.
ggml-org/gpt-oss-20b-GGUF — это GGUF-квантизированная версия модели gpt-oss-20b, разработанной OpenAI и опубликованной в формате для запуска с помощью инструментов экосистемы ggml-org. Модель предназначена для генерации текста и локального или совместимого с llama.cpp использования; в README приведён пример запуска через llama serve и llama.app. Модель относится к классу text-generation и имеет размер 20B согласно названию базовой модели. Она поставляется в квантизированном формате GGUF, что обычно позволяет снизить требования к памяти по сравнению с полноразмерными весами, однако конкретный тип квантизации в README не указан. Поддерживаемые языки, размер контекста, архитектура, модальности и показатели качества не раскрыты. Лицензия модели — Apache-2.0. README указывает, что конвертация выполнена автоматически с использованием проекта ggml-org/convert, а исходными моделями названы openai/gpt-oss-20b и RedHatAI/gpt-oss-20b-speculator.eagle3. Из-за отсутствия подробных технических характеристик нельзя оценить языковое покрытие, производительность и ограничения модели более точно.
GreesyChat-Turbo — разговорная модель генерации текста на архитектуре LLaMA 3, созданная OnlyCheeini дообучением unsloth/llama-3-8b-Instruct-bnb-4bit на наборе данных OnlyCheeini/greesychat. Модель содержит 7,5 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов. Модель предназначена для диалогов общего назначения, ответов на математические вопросы и создания чат-ботов и виртуальных помощников. В README приведены результаты тестов по коду, MMLU и GSM8K, однако методика измерений не описана. Модель опубликована в формате Safetensors по лицензии Apache-2.0.
GRPO-Think-14B-16k — языковая модель-верификатор кода, разработанная институтом INSAIT. Она дообучена методом GRPO на наборе INSAIT-Institute/Aletheia-Train и предназначена для проверки и ранжирования нескольких решений одной задачи по программированию: модель получает условие и варианты кода, затем определяет наиболее вероятно правильное решение. При обучении использовались промежуточные рассуждения и отрицательные примеры; суффикс 16k обозначает максимальный бюджет токенов завершения при обучении. Модель основана на DeepSeek-R1-Distill-Qwen-14B: это плотная архитектура Qwen2 с 14 млрд параметров. Метаданные указывают контекст до 131 072 токенов. Модель рассчитана на сценарии проверки кода, оценки кандидатов и применения в качестве функции вознаграждения при оптимизации генерации программ. В обучающих данных представлены задачи по Python, C++ и Java; это языки программирования, а не заявленные естественные языки модели. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование. README не приводит количественных оценок качества; результаты проверки следует валидировать на собственных задачах, особенно при работе с решениями вне распределения обучения или с состязательными примерами.
DevQuasar/huihui-ai.Huihui-Qwen3.5-27B-abliterated-GGUF — это квантованная версия модели Huihui-Qwen3.5-27B-abliterated, разработанной huihui-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель относится к классу text-generation и предназначена для генерации текста и работы в сценариях локального запуска совместимых LLM-инструментов. Из доступных данных известно, что модель основана на варианте Qwen3.5 с размером 27B параметров и представляет собой abliterated-версию. Ключевые сведения об используемой архитектуре, конкретном типе квантования, поддерживаемых языках, размере контекстного окна, качестве, ограничениях и лицензии в README не указаны. Условия использования следует уточнять по лицензии исходной модели и опубликованным материалам репозитория.
NVIDIA Kimi-K2.6 Eagle3 — вспомогательная модель Eagle head для Moonshot AI Kimi-K2.6, предназначенная для ускорения авторегрессионной генерации с помощью спекулятивного декодирования. Она обучена на синтетических ответах целевой модели и интегрируется с Model Optimizer; архитектура указана как Transformers / DeepSeek V3, размер — 1,8 млрд параметров. При длине чернового продолжения 3 README сообщает среднюю длину принятой последовательности 2,62 токена на MT-Bench и 2,67 на качественной подвыборке SPEED-Bench. Модель рассчитана на применение в чат-ботах, агентных системах, RAG и других приложениях, где нужна более быстрая генерация ответов, кода и инструкций. Карточка указывает мультимодальный ввод текста, изображений и видео, текстовый вывод и контекст до 256 тыс. токенов. Для инференса заявлена интеграция с TensorRT-LLM на системах NVIDIA Blackwell под Linux. README разрешает коммерческое и некоммерческое применение в соответствии с NVIDIA Open Model License; конкретные ограничения производительности и совместимости зависят от конфигурации serving-системы.
virtuanista/LFM2.5-8B-A1B-Uncensored-GGUF — это версия языковой модели LFM2.5-8B-A1B от Liquid AI без встроенного поведения, направленного на отказ от ответов. virtuanista выполнил abliteration, квантование и подготовку модели в формате GGUF для локального запуска. Модель предназначена для генерации текста, работы в качестве локального ассистента, следования инструкциям и задач, требующих рассуждений, при этом сохраняет блоки рассуждений <think>...</think>. Модель использует гибридную архитектуру, объединяющую короткие свёрточные блоки shortconv/LIV, внимание GQA и слои MoE, а не классический чистый Transformer. Заявлен контекст до 128K токенов. Доступны квантованные варианты IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 4,6 до 9 ГБ, что позволяет выбирать между требованиями к памяти и качеством. Модель поддерживает запуск через llama.cpp и Ollama; README не указывает поддерживаемые языки. Сильные стороны — локальная и приватная работа, несколько вариантов квантования, высокая заявленная длина контекста и сохранение возможностей базовой модели после модификации. Ограничение версии заключается в отсутствии стандартных защитных барьеров: она отвечает с меньшим количеством фильтров, поэтому требует осторожного применения и не гарантирует безопасность или достоверность результатов. Модель распространяется по LFM Open License v1.0: коммерческое использование разрешено при годовой выручке менее 10 млн долларов, исследовательское и некоммерческое использование не ограничено; при перераспределении необходимо сохранять уведомления об авторских правах и атрибуцию Liquid AI.
Spell Blade — дообученная на базе Llama 2 диалоговая модель от sequelbox, предназначенная для общения и задач общего назначения с усиленными техническими возможностями. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров; для диалогов обучалась преимущественно на данных в формате INST. Модель принимает текст и генерирует текст. Заявленный контекст — 4096 токенов. В репозитории представлены веса в формате Safetensors, лицензия — Apache 2.0. Автор описывает её как пригодную для использования без дополнительной настройки, но отмечает, что дальнейшее дообучение может улучшить пользовательский опыт. Модель обозначена как устаревшая и предложена главным образом для справки; для общего применения автор рекомендует Llama 3.
Llama-3.1-Nemotron-Nano-4B-v1.1-bf16 — версия компактной языковой модели NVIDIA, опубликованная mlx-community и преобразованная из nvidia/Llama-3.1-Nemotron-Nano-4B-v1.1 для запуска с библиотекой MLX. Это плотная авторегрессионная модель семейства Llama с 3,9 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалоговой генерации текста. Базовая модель NVIDIA ориентирована на рассуждения, код, математику, RAG и вызов инструментов; эти сценарии могут быть полезны и для данной версии, но README подтверждает только конверсию и не приводит отдельной оценки её качества или результатов тестирования. В карточке заявлена поддержка английского языка. Репозиторий содержит веса safetensors в формате для MLX, а не отдельную квантизацию. Лицензия указана как other, поэтому перед использованием следует свериться с условиями лицензирования исходной модели NVIDIA и репозитория.
Llama-3.2-3B-Instruct-GGUF — это набор квантизированных файлов модели в формате GGUF для meta-llama/Llama-3.2-3B-Instruct. Исходную модель разработала meta-llama, а квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и прикладных сценариях через совместимые локальные инструменты. Модель имеет около 3 миллиардов параметров и доступна в вариантах с квантизацией от 2 до 8 бит. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими библиотеками и приложениями, включая варианты с GPU-ускорением. README не содержит сведений о языках, размере контекста, поддерживаемых модальностях и конкретных показателях качества. Ключевые преимущества — уменьшенный размер файлов и возможность локального запуска на широком спектре устройств с использованием CPU или GPU. Ограничения связаны с потерями качества, возможными при низкобитной квантизации, а также с зависимостью от совместимого программного обеспечения. Лицензия в README не указана; условия использования исходной модели следует проверять отдельно в карточке meta-llama/Llama-3.2-3B-Instruct.
Это объединённая модель генерации текста, созданная с помощью mergekit методом passthrough из NousResearch/Meta-Llama-3-8B и Fizzarolli/llama-3-lust-8b-step-748. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста; репозиторий содержит веса в формате safetensors, а общий размер модели указан как 11 млрд параметров. Нативная длина контекста составляет 8192 токена. Модель может применяться для диалогов и создания продолжений текста. В карточке базовой Meta Llama указаны английский язык и код, но точный языковой охват объединённой модели не описан. Лицензия в предоставленных данных не указана.
ressl/MiniMax-M3-uncensored-NVFP4 — это квантизированная версия модели ressl/MiniMax-M3-uncensored, основанной на MiniMax-M3. Релиз подготовлен ressl с использованием NVIDIA ModelOpt NVFP4 и предназначен для локального запуска генерации текста и мультимодальных запросов на системах с GPU NVIDIA Blackwell. Модель имеет MoE-архитектуру с 428 млрд параметров в общей сложности и примерно 23 млрд активных параметров на токен. В модели сохранены возможности рассуждения, разбора рассуждений, вызова инструментов и обработки изображений. В карточке указаны английский и немецкий языки. Экспортированный вариант занимает около 260,4 ГБ вместо 854,2 ГБ у BF16-версии: NVFP4 применён к весам маршрутизируемых экспертов, тогда как внимание, маршрутизатор, общие эксперты, эмбеддинги, языковая голова, vision tower и проекторы сохранены в BF16. Проверенный контекст составляет 32 768 токенов; на отдельном тесте модель корректно обработала запрос длиной 20 212 токенов. Модель ориентирована на локальное инференс-обслуживание, исследование безопасности, red teaming, анализ вредоносного ПО и эксплойтов, обнаружение угроз, автоматизацию через tool calls и мультимодальные сценарии. На четырёх NVIDIA RTX PRO 6000 Blackwell 96 ГБ с SGLang зафиксирована скорость около 88,5 токена в секунду для прогретого одиночного запроса, однако это не результат полного академического бенчмарка. Для запуска требуется конфигурация из четырёх GPU Blackwell и SGLang с указанными в README настройками; совместимость с vLLM не подтверждена. Модель намеренно uncensored и может отвечать на запросы, которые стандартная версия отклоняет, поэтому её применение требует соблюдения законодательства и мер безопасности. Лицензия указана как other.
Mistral-Small-3.2-46B-The-Brilliant-Raconteur-Instruct-2506 — дообученная DavidAU версия Mistral-Small-3.2-24B-Instruct-2506. Это плотная текстовая модель на 46 млрд параметров с поддержкой контекста до 128 000 токенов; репозиторий содержит веса Safetensors для запуска через Transformers и подготовки квантованных вариантов. Модель следует инструкциям и подходит для диалогов, творческого письма, генерации историй, ролевых сценариев, рассуждений и программирования. Автор отмечает улучшения в выразительности прозы и разнообразии генераций; заявлена также возможность работы с изображениями, унаследованная от базовой модели, но в этой версии она отдельно не дорабатывалась. Модель поддерживает множество языков, включая русский и английский. Автор сообщает о частичной децензуре и предупреждает, что генерации могут содержать интенсивное насилие, жестокие сцены, грубую лексику и взрослые темы. Среди известных ограничений — вариативность результатов, чувствительность к настройкам генерации, повторяющиеся фрагменты на низких квантованиях и периодические отказы. Лицензия — Apache-2.0.
DevQuasar/openai.gpt-oss-120b-GGUF — это квантованная версия текстовой генеративной модели openai/gpt-oss-120b, подготовленная разработчиком DevQuasar. Модель предназначена для генерации текста в диалоговых и других сценариях, поддерживаемых базовой моделью. В README также указано наличие фиксированного chat template, что обеспечивает заранее заданный формат взаимодействия с моделью. Из доступных данных известно только, что модель относится к семейству с обозначением 120b и распространяется в формате GGUF; сведения о конкретном варианте квантования, архитектуре, размере файлов, поддерживаемых языках, длине контекста и модальностях отсутствуют. Квантование обычно позволяет снизить требования к памяти по сравнению с исходной моделью, но может сопровождаться потерей качества; степень этого компромисса для данного варианта не указана. Лицензия и условия использования в README не приведены.