II.3Рефакторинг, миграция и модернизация

Agnuxo/Qwen2-1.5B-Instruct_MOE_CODE_assistant-GGUF_16bit — локальная чат-модель для генерации и помощи с программным кодом, опубликованная независимым исследователем Francisco Angulo de Lafuente. Это конверсия Qwen2-1.5B-Instruct в формат GGUF с точностью F16; в карточке заявлено 1,5 млрд параметров. Модель предназначена для работы через Ollama или Transformers и ориентирована на написание кода на Python, JavaScript, TypeScript, Rust, Go и C++, а также на задачи научных вычислений и машинного обучения. Модель принимает текст и генерирует текст; метаданные указывают архитектуру Qwen2, чат-возможности и английский и испанский языки карточки. README также заявляет навыки координации агентов и интеграции MCP и A2A. Репозиторий распространяется под лицензией Apache-2.0. Заявления README о наградах и результатах связанных проектов не подтверждают качество этой модели и не использованы как гарантии её возможностей.

QuantFactory/Qwen2.5-Coder-0.5B-Instruct-GGUF — квантованная версия инструкционно дообученной модели Qwen2.5-Coder-0.5B-Instruct, созданная QuantFactory на основе модели Qwen и преобразованная с использованием llama.cpp. Это причинная языковая модель для генерации текста и кода, предназначенная для помощи разработчикам в написании, анализе, исправлении и рассуждении о программном коде, а также для чат-сценариев и задач, связанных с code agents. Модель сохраняет общие способности в математике и работе с текстом. Архитектура построена на transformers с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Модель содержит около 0,49 млрд параметров, из которых 0,36 млрд не являются эмбеддингами, 24 слоя и Grouped-Query Attention с 14 головами для Q и 2 для KV. Максимальная длина контекста составляет 32 768 токенов. В README явно указан английский язык; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся специализация на программном коде, улучшенные возможности генерации, исправления и анализа кода, а также небольшой размер, удобный для локального запуска в квантованном формате. Ограничениями являются существенно меньший масштаб по сравнению с крупными моделями серии Qwen2.5-Coder и отсутствие в карточке подробных результатов оценки, требований к памяти и данных о производительности. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-3B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной языковой модели для генерации текста и работы с программным кодом. Исходная модель Qwen2.5-Coder-3B-Instruct-abliterated размещена Huihui-ai, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач программирования, диалогового взаимодействия и генерации текста; в метаданных указан английский язык. Модель имеет размер около 3B параметров, однако сведения о точной архитектуре, поддерживаемых модальностях и размере контекстного окна в README не приведены. Доступно множество вариантов квантизации от F16 до Q3 и IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M указан как сбалансированный вариант для большинства сценариев. Для запуска рекомендуется использовать совместимое ПО, включая LM Studio и llama.cpp; предусмотрен специальный chat-шаблон с ролями system, user и assistant. К сильным сторонам относятся компактный размер, поддержка локального запуска и широкий выбор уровней квантизации, включая варианты, оптимизированные для ARM. Ограничения — уменьшение качества в более сильных вариантах квантизации, отсутствие в README данных о результатах тестирования, контекстном окне и полном наборе языков. Модель обозначена как abliterated и uncensored, поэтому её поведение и защитные ограничения могут отличаться от исходной версии. Указана лицензия qwen-research; точные условия следует уточнять в файле лицензии исходной модели.

Qwen2-7B — базовая предобученная языковая модель из семейства Qwen2, разработанного командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 7,1 млрд параметров; в README указаны SwiGLU, смещение в проекциях QKV и групповое внимание. Модель принимает текст и предназначена для дообучения, например с помощью SFT, RLHF или продолжения предобучения, перед использованием в прикладной генерации текста. Модель оценивается на задачах понимания и генерации текста, вопросах и ответах, программировании, математике, рассуждениях и многоязычных тестах. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. Метаданные указывают контекст до 131 072 токенов и формат весов safetensors; карточка описывает базовую, а не instruction-tuned версию. Модель распространяется по лицензии Apache-2.0. Разработчики не рекомендуют использовать базовую версию для непосредственной генерации текста; качество на конкретных прикладных задачах может потребовать постобучения и отдельной проверки.

ShiningValiant3 — дообученная Valiant Labs модель Qwen3-1.7B для научных и общих рассуждений, проектирования систем ИИ, решения задач и диалогов. Она предназначена для исследователей и разработчиков, которым нужны ответы на научные вопросы, помощь в работе с современными технологиями ИИ, анализ и генерация идей, а также выполнение инструкций и написание кода. Модель имеет плотную архитектуру Qwen3ForCausalLM с 1,7 млрд параметров, принимает текст и генерирует текст. Контекст — до 40 960 токенов. В карточке заявлены дообучение на научных данных рассуждений, созданных с помощью DeepSeek R1 0528, и улучшения в общих и творческих рассуждениях. README рекомендует включать режим рассуждений для диалогов. Модель рассчитана на локальный запуск на настольных компьютерах и мобильных устройствах, а также на быстрый серверный инференс. Лицензия — Apache-2.0. Карточка указывает английский язык; многоязычные возможности базовой Qwen3 не означают, что для этой доработки подтверждён основной язык помимо английского. Качество отдельных ответов и фактическая точность могут зависеть от запроса; численные оценки в карточке не приведены.

TheCidSama/Qwen3.5-9b-Claude-4.8-Opus-reasoning — GGUF-модель на базе Qwen3.5-9B, дообученная автором TheCidSama на данных рассуждений, созданных методом trace-inversed CoT с Opus 4.8. Модель предназначена для локального диалога и задач программирования, математики и рассуждений о кибербезопасности; поддерживает режим рассуждения. По заявлению автора, цепочки рассуждений примерно на 20% короче, чем у базовой модели, при сохранении точности итоговых ответов, однако независимые подтверждения этого сравнения не приведены. Опубликована в формате GGUF с квантизацией Q4_K_M; README указывает, что файл занимает около 5,6 ГБ, а запуск возможен через llama.cpp и совместимые приложения. Потребление памяти и доступная длина контекста зависят от оборудования и настроек. Модель ориентирована на английский язык. Лицензия — Apache-2.0. Автор предупреждает, что модель не прошла выравнивание безопасности для производственного применения: ответы по кибербезопасности и другие результаты следует проверять, а при развертывании с пользователями добавлять собственные защитные меры. Общеобразовательные факты также рекомендуется перепроверять.

Puffyn/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, разработанная для локального запуска и исследовательских сценариев, где требуется минимизация встроенных отказов и защитных ограничений. Согласно README, модель ориентирована на генерацию текста, программного кода, ответы на сложные и потенциально ограниченные запросы, а также на использование в агентских системах, coding agent и фреймворках для тестирования безопасности. Разработчик и точное происхождение производной модели в README явно не раскрыты; указано имя базовой модели Qwen и идентификаторы вариантов OBLITERATED/OBLITERATUS. Модель относится к семейству Qwen3 и имеет размер 27B параметров. Поддерживается текстовая модальность; сведения о языках и максимальной длине контекста в предоставленных данных отсутствуют. Доступны форматы GGUF, Safetensors и MLX. В версии V3 заявлены итеративная модификация весов и метод abliteration, удаляющий направления, связанные с отказами; авторы сообщают о сохранении близкой к исходной производительности, но с потерей 2,1 процентного пункта по MMLU относительно базовой модели. README также заявляет работоспособную генерацию кода в 20 из 20 проверенных сценариев и совместимость с режимом рассуждений. Сильной стороной модели считается снижение жёстких отказов и защитных отговорок при сохранении значительной части возможностей базовой Qwen3.8-27B. Ограничения включают возможное снижение качества по сравнению с исходной моделью, склонность к зацикливанию без правильно настроенного repetition_penalty и потенциальные риски использования модели без встроенных защитных механизмов. Для запуска рекомендуются temperature 0, repetition_penalty 1.15, не менее 2048 новых токенов и пустой системный промпт; для агентских сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Coder-GGUF — это многоз этапно дообученная и объединённая модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README модель представлена как разработка для потребительского оборудования с использованием Unsloth, методов COLD FUSION и Fable Fusion 711. Доступны GGUF-квантизации, включая обычные и MTP-варианты, с заявленной поддержкой режимов reasoning и thinking. Модель предназначена для широкого круга задач: программирования, решения задач, рассуждений, творческого письма, создания художественных текстов, ролевых сценариев и работы с различными жанрами. В метаданных указаны английский и китайский языки. Размер базовой модели — 27B параметров. Репозиторий также помечен как image-text-to-text, однако подробные сведения о поддерживаемых визуальных входах в README отсутствуют; максимальная длина контекста не указана. К заявленным сильным сторонам относятся сокращение объёма внутреннего рассуждения и ускорение генерации при сохранении детализации, а также высокие результаты на ARC-C и ARC-E. Автор утверждает, что модель превосходит базовые версии Qwen по ряду benchmarks, но эти показатели приведены без независимой методологии проверки. Ограничениями являются отсутствие подробных данных о контекстном окне, требованиях к памяти, совместимости MTP и качестве мультимодальной обработки. Модель описана как uncensored и abliterated, поэтому её ответы могут требовать дополнительной фильтрации и контроля безопасности. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия модели Qwen3.8-27B, опубликованная DavidAU. Модель создана с использованием Unsloth, методов COLD FUSION и Fable Fusion 711, а также представлена в форматах GGUF с обычными и MTP-квантами. Заявлены поддержка английского и китайского языков и лицензия Apache-2.0. В метаданных указан тип pipeline image-text-to-text, однако подробности о фактической поддержке изображений не приведены. Модель предназначена для широкого круга задач: рассуждений, решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и диалогов. Ключевая особенность — стремление сократить объём рассуждений и ускорить генерацию при сохранении подробности ответов; заявлено сокращение числа thinking-токенов примерно от двух до десяти раз по сравнению с обычной Qwen3.8. Доступны варианты для запуска на потребительском оборудовании, включая 4-битные и 8-битные квантизации. Ограничения включают отсутствие указаний на размер контекстного окна, точный набор поддерживаемых модальностей и подробные независимые результаты тестирования; приведённые сведения о превосходстве над другими моделями основаны на заявлениях автора.

ZiRoX112 подготовил GGUF-квантизацию Qwen3.8-27B-Uncensored Q38mix v6 для локального запуска. В основе — дообученная модель OrcaRouter на 27 млрд параметров с гибридной архитектурой gated-delta-net и attention, а также MTP-головой. Файл v6 занимает 19,32 ГБ при 5,655 битах на вес; автор ориентирует его на кодинг-агентов на потребительских GPU с 24–32 ГБ видеопамяти. Квантизация выполнена с помощью собственной importance matrix и распределения точности по тензорам, которое учитывает изменения, связанные с удалением отказов в базовой модели. README сообщает о сохранении такого поведения в проведённых проверках и приводит сравнение качества с BF16-эталоном. Модель предназначена для генерации текста и диалогового использования; метаданные указывают английский, итальянский и китайский языки. Это производный GGUF-файл, основанный на Q8_0-версии модели и созданный с разрешением повторной квантизации. В README раскрыты ограничения оценки: часть распределения eval-токенов совпадала с калибровочным корпусом, а измерения отказов проводились на небольшом наборе запросов. Лицензия в предоставленных данных не указана.

Qwen3.8-Flash-Next REAP-288 Q8E MLX — оптимизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем sh0wie. Она предназначена для локального запуска на устройствах Apple с MLX и ориентирована прежде всего на генерацию текста, программирование и агентские сценарии. Мультимодальные веса vision tower сохранены, однако в README оценивалось только качество работы с текстом. Модель относится к классу примерно 180B параметров: 125B приходится на основную модель, ещё 51B — на n-gram embedding table. Архитектура содержит 48 слоёв, чередующих Gated DeltaNet и разреженное внимание Qwen, а MoE-маршрутизация использует top-10 экспертов. В каждом MoE-слое оставлено 288 из 512 экспертов после pruning методом REAP. Тензоры экспертов имеют 8-битное квантование, остальные компоненты, включая attention, embeddings и backbone, — 4-битное. Размер модели около 100 ГБ в памяти, но при потоковой загрузке n-gram table через NVMe может снижаться примерно до 70 ГБ. Сильной стороной сборки является повышенная точность представления экспертных тензоров и совместимость со стандартным mlx-vlm без патчей. При этом pruning остаётся основным источником потери качества: в тесте HumanEval модель получила 90,9%, уступив варианту с полностью 4-битными весами экспертов с результатом 91,5%, поэтому README не рекомендует её большинству пользователей. Поддерживается speculative decoding с отдельной MTP-моделью; заявленное ускорение зависит от оборудования и составляет примерно 1,5–2,6 раза на M5, тогда как на M4 оно близко к нейтральному. Модель распространяется по лицензии qwen-community-license-1.0.

DioDef/qwen3.8-turbo — многоэтапно дообученная и объединённая версия Qwen3.8-27B, разработанная DioDef на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана с использованием подходов COLD FUSION, Fable Fusion и инструментов Unsloth; в README она представлена как uncensored-модель с вариантами GGUF-квантизации, включая regular и MTP GGUF quants. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, сторителлинга и ролевых диалогов. Заявленная ключевая особенность — сокращение объёма thinking-токенов по сравнению с базовой Qwen3.8, что должно уменьшать задержку и расход токенов при сохранении подробности ответов. Указаны поддерживаемые языки English и Chinese. Точный размер контекстного окна и сведения о мультимодальных возможностях в README не приведены; тег image-text-to-text сам по себе не подтверждает наличие полноценного vision-интерфейса. Модель позиционируется как производительная версия для запуска на потребительском оборудовании и доступна в форматах с разной степенью квантизации, включая 4-битные и 8-битные варианты. Среди сильных сторон заявлены скорость генерации, сокращённое рассуждение, развитые способности к решению задач, программированию и генерации художественного текста. Заявления о результатах ARC-C, ARC-E и превосходстве над другими моделями приведены авторами README и не подтверждены независимыми данными в предоставленном описании. Лицензия — Apache-2.0.

Sky-T1-32B-Flash — языковая модель рассуждений на 32 млрд параметров, разработанная командой NovaSky из Sky Computing Lab при UC Berkeley. Это плотная архитектура Qwen2, доступная в формате Safetensors и рассчитанная на генерацию текста и диалог. Модель оптимизирована для задач математики и программирования: обучение на 10 тыс. предпочтительных пар должно сокращать длину ответов, сохраняя точность относительно Sky-T1-32B-Preview. В оценках авторов точность на Math500 совпала с Preview, а средняя длина генерации снизилась на 33%; заявленное сокращение длины достигает 57%. Поддерживается контекст до 32 768 токенов. Модель создана на основе слияния NovaSky-AI/Sky-T1-32B-Preview и Qwen/Qwen2.5-32B-Instruct и обучена с оптимизацией предпочтений SimPO. Лицензия — Apache-2.0. Результаты сравнительных оценок приведены авторами; фактическое качество зависит от запроса и сценария, а специализация на математике и коде не означает гарантии корректности ответов.

Skywork-SWE-32B — языковая модель-агент для задач программной инженерии, разработанная Skywork AI и дообученная на базе Qwen/Qwen2.5-Coder-32B-Instruct. Она предназначена для работы с задачами SWE-bench: анализа программных проектов и подготовки исправлений кода. Модель имеет плотную архитектуру Qwen2, содержит 32 млрд параметров и поддерживает контекст до 32 768 токенов. В README сообщается о результате 38,0% pass@1 на SWE-bench Verified; с масштабированием вычислений во время вывода авторы сообщают о 47,0%. Модель рассчитана на использование с агентной средой OpenHands, а для эффективного инференса авторы рекомендуют сервер как минимум на двух GPU с достаточной видеопамятью. Она принимает текст и генерирует текст. Лицензия — Apache-2.0.

Ttimms/Spark-X2.5-4B-NVFP4 — это квантизированная 4-битная версия языковой модели XHToken/Spark-X2.5-4B, подготовленная Ttimms. Модель предназначена для генерации текста и кода, агентских сценариев и задач с длинным контекстом; заявленная поддержка языков — английский и китайский. Она совместима с Transformers и рассчитана на запуск через vLLM с внешним плагином Spark2_5, преимущественно на GPU NVIDIA Blackwell. Модель содержит около 4,1 млрд параметров и использует архитектуру Spark2_5ForCausalLM с гибридным вниманием, сочетающим скользящее и полное внимание, а также поэлементным выходным затвором внимания. Контекстное окно достигает 1 млн токенов. Применена квантизация весов NVFP4 W4A16 методом GPTQ с активациями bf16; отдельные компоненты сохранены в bf16. Размер модели на диске составляет около 2,7 ГиБ против 7,7 ГиБ у базовой bf16-версии, что снижает требования к памяти, но на SM120 выигрыш относится главным образом к занимаемому объёму, а не к скорости вычислений. По представленным оценкам, относительно базовой bf16-модели качество снизилось примерно на 4,3 процентного пункта в HumanEval-instruct и на 2,0 пункта в MBPP. GPTQ заметно сохраняет качество лучше, чем округление RTN, однако для максимального сохранения исходных характеристик рекомендуется FP8-версия базовой модели. Для запуска требуются vLLM, внешний плагин Spark2_5 и параметр trust_remote_code; заявлена поддержка tool calling. Модель распространяется по лицензии Apache-2.0.

StarChat-β — диалоговая языковая модель и помощник по программированию, разработанный HuggingFaceH4. Это вторая модель серии StarChat, дообученная на базе bigcode/starcoderplus на варианте набора openassistant-guanaco без встроенного выравнивания. Модель построена на архитектуре GPTBigCode, содержит 16 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и помощи с задачами программирования, включая генерацию кода. Основной естественный язык — английский; обучение StarCoderPlus охватывало более 80 языков программирования, а диалоговый набор включал более 35 естественных языков, что не означает одинакового качества на всех из них. Отсутствие выравнивания и фильтрации может приводить к проблемным ответам. Сгенерированный код может быть ошибочным, небезопасным или не компилироваться, а URL могут быть вымышленными. Лицензия BigCode Open RAIL-M v1; авторы рекомендуют использовать модель в образовательных и исследовательских целях.

Yi-Coder-1.5B-Chat-GGUF — квантизированная в формате GGUF версия чат-модели Yi Coder 1.5B-Chat, разработанной компанией 01-ai. Квантизацию выполнил bartowski на базе llama.cpp; модель предназначена для генерации текста и диалога по вопросам программирования. Модель имеет около 1,5 млрд параметров, поддерживает контекст длиной до 128 тыс. токенов и обучена работе с 52 языками и форматами, включая Python, JavaScript, TypeScript, C/C++, C#, Java, Go, Rust, SQL, HTML, CSS, JSON, YAML, Shell и другие. Большое контекстное окно подходит для анализа крупных исходных кодов и репозиториев. Для работы в LM Studio рекомендуется использовать шаблон ChatML. Сильными сторонами модели являются компактный размер, широкий охват языков программирования и возможность обрабатывать большие объёмы кода в одном запросе. Модель настроена именно для общения и ответов на вопросы о программировании, поэтому не оптимизирована для автодополнения кода. Как и другие языковые модели, она может генерировать неточные или неподходящие ответы, которые требуют проверки. Лицензия — Apache 2.0.

bartowski/zed-industries_zeta-2-GGUF — это набор GGUF-квантизаций модели zed-industries/zeta-2, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, а также сценариев edit prediction и next-edit-suggestion, включая поддержку интеллектуальных подсказок при редактировании кода. Указан английский язык; исходная модель относится к семейству zeta-2, но сведения об архитектуре, количестве параметров, размере контекста и точном назначении базовой модели в README не приведены. Набор можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Доступны варианты от BF16 размером 16,51 ГБ до квантизаций Q2–Q8 размером примерно от 4,06 до 8,77 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K_M; малые варианты экономят память, но могут заметно уступать по качеству. Сильные стороны набора — локальный запуск в формате GGUF, широкий выбор уровней квантизации и оптимизация imatrix. Ограничения — отсутствие в README шаблона промпта, подробных характеристик архитектуры, контекстного окна и результатов оценки; для уточнения формата взаимодействия рекомендуется обратиться к странице исходной модели. Для набора указана лицензия Apache-2.0.

bhenrym14/airoboros-33b-gpt4-1.4.1-lxctx-PI-16384-fp16 — текстовая модель семейства LLaMA, созданная bhenrym14 на основе Airoboros 33B GPT4 1.4.1. Это дообучение QLoRA на синтетических данных Airoboros GPT4 1.4.1 с дополнительным предварительным обучением на последовательностях длиной 8192 токена и RoPE-масштабированием для расширения контекста. Модель содержит 32,3 млрд параметров и использует формат safetensors; метаданные указывают нативный контекст 2048 токенов, а в карточке заявлена теоретическая длина до 16384 токенов. Модель предназначена для диалоговых ответов, ответов по предоставленному контексту, генерации кода, ролевого общения, шуток и загадок. В README приведены примеры кода на десяти языках программирования, но естественные языки обучения или поддержки не указаны. По тестам на perplexity автор сообщает улучшение относительно модели Airoboros 33B PI-8192 на проверенных длинах 512–2048 токенов; поведение при длине контекста свыше 8192 токенов не проверено. Для запуска карточка описывает использование Transformers либо GPTQ-весов через text-generation-webui и ExLlama с настройками max_seq_len=16384 и compress_pos_emb=8. Лицензия в предоставленных данных не указана. В исходной карточке сказано, что модель не отказывает в ответах независимо от законности или моральной приемлемости запроса, поэтому её ответы требуют соответствующего контроля.

Athena-codegemma-2-9b-v1-GGUF — это набор квантованных версий языковой модели Athena-codegemma-2-9b-v1, разработанной EpistemeAI. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, включая сценарии локального запуска через совместимые приложения, например LM Studio. Модель относится к семейству codegemma2 и имеет размер около 9 миллиардов параметров. Она работает с текстом и, согласно карточке, ориентирована на английский язык. Доступны варианты от F16 до низкобитных Q2 и IQ2, различающиеся размером файлов, требованиями к памяти и качеством: версии Q5–Q6 отмечены как высококачественные, а Q3 и ниже экономят память ценой заметного снижения качества. Максимальная длина контекста и точный формат промпта в карточке не указаны. Преимущество набора — широкий выбор квантований для подбора баланса между качеством и ресурсами, а также возможность локального использования в формате GGUF. Ограничения связаны с потерями качества при низкой разрядности и отсутствием подробных сведений о результатах тестирования, поддерживаемых языках помимо английского и рекомендованном формате взаимодействия. Указана лицензия Apache-2.0.

MaziyarPanahi/codegemma-7b-it-GGUF — это набор файлов модели в формате GGUF для оригинальной модели google/codegemma-7b-it, разработанной Google и преобразованной в GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, а также может применяться в локальных приложениях и инструментах, совместимых с GGUF, включая llama.cpp, LM Studio, GPT4All и llama-cpp-python. В репозитории представлены варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Указан размер базовой модели — 7B параметров; формат GGUF ориентирован на эффективный запуск, в том числе с аппаратным ускорением. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре или специализированных возможностях CodeGemma, поэтому эти характеристики нельзя достоверно уточнить. Основные преимущества — наличие нескольких уровней квантизации и совместимость с широким набором локальных клиентов и библиотек. Ограничения связаны с потенциальной потерей качества при использовании более агрессивной квантизации, а также с отсутствием в карточке подробных оценок и характеристик. В метаданных указана лицензия Gemma.

stojchet/d5 — дообученная модель на 1,3 млрд параметров на основе deepseek-ai/deepseek-coder-1.3b-base, обученная на датасете generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации и продолжения кода. Модель принимает текстовые запросы и выдаёт текст, включая фрагменты кода; контекст составляет до 16 384 токенов. Модель подходит для автодополнения кода и генерации кода по текстовому описанию. Репозиторий содержит веса в формате safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке и сопутствующих документах модели.

EVA-QwQ-32B-Coder-Preview — объединённая языковая модель, созданная автором win10 с помощью mergekit и метода TIES на базе EVA-Qwen2.5-32B-v0.2. В слияние также вошли Qwen/QwQ-32B-Preview и Qwen/Qwen2.5-Coder-32B-Instruct. Модель построена на архитектуре Qwen2, содержит 32 млрд параметров и предназначена для генерации текста в диалоговом формате. Каталог указывает контекст до 131 072 токенов. Вклад Qwen2.5-Coder предполагает пригодность для генерации и анализа кода, однако README не описывает отдельные результаты или проверенные сценарии для этой объединённой модели. Модель распространяется в формате safetensors и использует библиотеку Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Crystalcareai/gemma-coder — дообученная плотная языковая модель семейства Gemma для генерации текста и помощи с программированием, в частности с Python. Согласно карточке, обучение проводилось в течение трёх эпох на датасете Vezora/Tested-143k-Python-Alpaca. Модель содержит 8,2 млрд параметров, использует архитектуру GemmaForCausalLM и принимает контекст до 8192 токенов. Модель предназначена для генерации и объяснения Python-кода и ответов на инструкции по программированию. В README указано, что она сохраняет компактную архитектуру Gemma и рассчитана на применение при ограниченных вычислительных ресурсах. Доступна в формате safetensors. Лицензия в предоставленных данных не указана.

GLM-4.5-Air-Base — базовая языковая модель семейства GLM-4.5 от Zhipu AI, предназначенная для разработки интеллектуальных агентов. Серия GLM-4.5 объединяет возможности рассуждения, программирования и работы с инструментами; эта версия является базовой, а не готовой чат-моделью. В README для GLM-4.5-Air указаны 106 млрд параметров всего и 12 млрд активных параметров, однако метаданные именно этого репозитория указывают 8,5 млрд параметров. Модель генерирует текст; метаданные относят её к архитектурному семейству GLM4-MoE и указывают контекстное окно 131 072 токена. В карточке заявлены английский и китайский языки. Возможные сценарии включают дальнейшее обучение и создание агентных систем, которым нужны генерация текста, рассуждение, программирование или взаимодействие с инструментами. Лицензия MIT допускает коммерческое использование и вторичную разработку. README отдельно уточняет, что это base-модель, не предназначенная для чата без дополнительной настройки.

Huihui4-8B-A4B-GGUF — облегчённая разговорная MoE-модель, разработанная Huihui-ai на основе google/gemma-4-26B-A4B-it. Модель создана с помощью pruning экспертов и supervised fine-tuning на более чем 500 высококачественных диалоговых примерах, извлечённых из данных о предпочтениях в программировании. В README также указана поддержка сценария image-text-to-text, однако подробные характеристики мультимодальных возможностей не приведены. Архитектура включает 32 эксперта вместо исходных 128, при этом для каждого токена активируются 8 экспертов, что сохраняет масштаб активаций A4B. Модель ориентирована на диалоговые ассистенты для программирования, понимание контекста кода, лёгкое планирование задач, локальное развёртывание и эксперименты с pruning и объединением MoE-моделей. Рекомендуемые инструменты запуска — vLLM, llama.cpp и HuggingFace Transformers; заявленные требования составляют менее 18 ГБ VRAM для FP16 и примерно 6–9 ГБ для INT4/INT8-квантизации. К сильным сторонам относятся сниженные вычислительные требования, пригодность для потребительского оборудования и заявленная устойчивость логики, следования инструкциям и работы с кодом после pruning. Предварительная оценка perplexity на 100 образцах при максимальной длине 8192 токена показала улучшение после SFT: для варианта с 32 экспертами perplexity снизилась с 2,4826 до 1,0035 на поздних этапах обучения. Ограничения включают предварительный характер оценки, отсутствие подробных данных о языках, точном размере контекста, качестве мультимодальной обработки и полноценных сравнительных тестах. Модель распространяется по лицензии Apache-2.0.

aysinghal/ide-code-retrieval-qwen3-0.6b — модель SentenceTransformers, созданная дообучением Qwen/Qwen3-Embedding-0.6B для поиска исходного кода в IDE. Она кодирует короткие запросы на естественном языке, например сообщения коммитов и описания ошибок, и документы с кодом в общее пространство эмбеддингов. Поиск выполняется сравнением векторов по косинусному сходству. Модель содержит около 507,6 млн параметров и выдаёт нормализованные эмбеддинги размерности 1024. В README указана максимальная длина последовательности 1024 токена; метаданные базовой модели указывают нативный контекст 32768 токенов. Обучение проводилось на наборе данных для поиска кода, а карточка обозначает английский язык. Модель распространяется по лицензии Apache-2.0. Это промежуточный чекпойнт на шаге 9000 из 9150, поэтому более поздний чекпойнт может показывать лучшие результаты. Модель обучалась на конкретном наборе для поиска кода и может хуже работать с другими языками программирования или стилями запросов; длинные документы обрезаются.

Kronumos Aion — модель для автоматизированного исправления программ и работы с кодовыми базами, представленная Tokenectomy Labs. README описывает архитектуру как смесь экспертов на 671 млрд параметров с разделением на нейросетевое рассуждение и детерминированный Rust-компонент для проверки синтаксиса и AST. Заявлены задачи автономного исправления дефектов и синтеза изменений в репозиториях; модель оценивалась на SWE-bench Verified. Метаданные указывают задачу генерации текста и поддержку чата, а README сообщает о формате FP8 и контексте до 32 768 токенов в примере запуска. Модель рассчитана на разработку и исправление ПО в корпоративных репозиториях. README заявляет снижение расхода токенов и проверку изменений перед выдачей, однако приведённые показатели являются заявлениями разработчика и не подтверждены доступными результатами бенчмарка. Для запуска нужны многопроцессорные GPU-системы: в README указаны 8 NVIDIA H100 или A100 как рекомендуемая конфигурация. Указана лицензия Tokenectomy Dual License TDL 1.0: академическое и бенчмарк-использование разрешено бесплатно, коммерческое применение требует корпоративной лицензии. Метаданные не сообщают базовую модель; README упоминает архитектурные основы DeepSeek, но точный идентификатор базового репозитория не приводит.

LFM2.5-8B-A1B-UltraCoder-L3 — экспериментальная модель для генерации и анализа кода, разработанная Susant-Achary на основе семейства LiquidAI LFM2.5-8B-A1B. Модель дообучалась в два этапа: продолженное предварительное обучение на качественном исходном коде Python из набора openbmb/UltraData-Code и supervised fine-tuning на задачах, включающих условия, рассуждения и решения. Она предназначена для программирования на Python, алгоритмического решения задач, генерации кода и использования в качестве coding assistant. Это причинная языковая модель с разреженной архитектурой Mixture-of-Experts: около 8,3 млрд параметров, из которых примерно 1,5 млрд активируются для каждого токена. Модель содержит 24 слоя и 32 эксперта, при этом для обработки токена активируются 4 эксперта. Заявленная длина контекста составляет 8 192 токена, хотя исходная модель поддерживает до 131 072 токенов. Артефакты совместимы с Hugging Face Transformers и llama.cpp; для локального запуска предоставлен вариант квантования Q4_K_M в формате GGUF. Сильная сторона модели — специализация на задачах программирования и улучшение результатов относительно базовой LFM2.5-8B-A1B в указанных тестах EvalPlus, включая HumanEval, HumanEval+, MBPP и MBPP+. Ограничения включают экспериментальный статус, фокус преимущественно на Python и заявленный контекст 8 192 токена; универсальность за пределами задач кодирования отдельно не подтверждена. В метаданных указана лицензия other, без подробного описания условий использования.

LFM-2.5-Coder-2.6B — облегчённая дообученная языковая модель для генерации кода и решения задач программирования с пошаговым рассуждением. Модель разработана Schnuckade на основе LiquidAI/LFM2.5-2.6B и дообучена с использованием Unsloth на датасете Banaxi-Tech/Deepseek-V4-Reasoning-Code-2500. Модель ориентирована на генерацию программного кода, анализ и решение задач, связанных с программированием, при сохранении общей полезности базовой модели. Заявлены английский язык и поддержка сценариев локального развёртывания. Доступны веса в форматах FP16 и BF16 Safetensors, а также квантизированная версия GGUF Q4_K_M. В примере интеграции указан контекст до 2048 токенов и загрузка в 4-битном режиме, однако это не обязательно отражает максимальный контекст модели. Размер модели — 2,6 млрд параметров; архитектура унаследована от LiquidAI/LFM2.5-2.6B, но её подробные характеристики в README не приведены. Сильными сторонами являются компактность, акцент на код и рассуждение, а также наличие форматов для локального запуска. Ограничения включают заявленную ориентацию на английский язык и отсутствие в представленных данных подробных результатов бенчмарков, перечня поддерживаемых языков программирования и оценки качества. Модель распространяется по лицензии Apache-2.0.