II.3Рефакторинг, миграция и модернизация

Phind-CodeLlama-34B-v2 — плотная авторегрессионная языковая модель семейства Llama, разработанная Phind для программирования. Это дообученная версия Phind-CodeLlama-34B-v1: её дополнительно обучили на 1,5 млрд токенов примеров с задачами и решениями по программированию, а затем настроили следовать инструкциям в формате Alpaca/Vicuna. В карточке заявлен результат 73,8% pass@1 на HumanEval. Модель предназначена для генерации и объяснения кода, решения программных задач и ответов на инструкции по разработке. Она ориентирована на Python, C/C++, TypeScript, Java и другие языки программирования; контекст из метаданных составляет 16 384 токена, а размер — 33,5 млрд параметров. Модель принимает текстовые запросы и генерирует текст, включая код. Карточка предупреждает, что модель прошла ограниченное тестирование и перед практическим внедрением требует дополнительной проверки безопасности. Репозиторий использует лицензию Llama 2; для применения следует учитывать её условия.

Qwable-9B-Claude-Fable-5 — модель Empero, созданная полнопараметрическим дообучением Qwen/Qwen3.5-9B. Это плотная модель семейства Qwen3.5 с гибридным стеком внимания; дообучение проводилось на текстовых трассах рассуждений, программирования и агентных задач от Claude Fable 5 и GPT-5.5 terminal agent. Модель предназначена прежде всего для помощи в программировании, выполнения многошаговых задач в терминале и агентных сценариях, а также для рассуждений и объяснений. Основной язык — английский. Базовая архитектура мультимодальная, но зрительный компонент при дообучении оставался замороженным и не оценивался. В качественной проверке README отмечает сильные результаты на задачах программирования и работы с терминалом, а также хорошее следование инструкциям; полные количественные бенчмарки ещё готовятся. Ответы начинаются с блока рассуждений, который может потребовать удаления перед показом пользователю. Для открытых запросов модель может генерировать длинные ответы; общие фактические сведения следует проверять. Дополнительного защитного дообучения сверх базовой модели не проводилось. Лицензия — Apache-2.0, унаследованная от базовых весов; в README отдельно упоминается оговорка о происхождении обучающих данных.

Qwen2.5-Coder-32B-abliterated-i1-GGUF — квантизированная GGUF-версия модели TobiasLogic/Qwen2.5-Coder-32B-abliterated, подготовленная mradermacher. Модель предназначена для генерации текста и решения задач, связанных с программированием, включая написание и обработку кода. В метаданных указан английский язык; поддержка других языков, мультимодальность и точный размер контекстного окна не заявлены. Модель основана на варианте Qwen2.5-Coder с 32 миллиардами параметров и распространяется в нескольких форматах квантизации, включая IQ1–IQ4, Q2–Q6 и другие варианты. Это позволяет выбирать между размером файла, скоростью работы и качеством: более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как сбалансированный по размеру, скорости и качеству. Для использования требуются инструменты, поддерживающие формат GGUF. К сильным сторонам относятся специализация на коде, большое число параметров и широкий выбор квантизаций для локального запуска. Ограничения связаны с потерями качества при низкой квантизации, отсутствием заявленных характеристик контекстного окна и неполной информацией о производительности. Модель описана как abliterated и uncensored, однако конкретные свойства безопасности в README не приведены. Лицензия — Apache-2.0.

ApolloRaines/Qwen2.5-Coder-32B-Instruct-Jbliterated — модифицированная версия Qwen2.5-Coder-32B-Instruct, разработанная Apollo Raines. Модель предназначена для генерации текста и программного кода, включая разработку, анализ и преобразование кода, а также сценарии, где требуется модель без встроенного поведения отказа. Она может применяться для творческого письма, исследований в области безопасности и академических экспериментов, однако требует ответственного использования. Модель построена на архитектуре Qwen2ForCausalLM и содержит около 32,8 млрд параметров при 64 слоях. Она сохраняет архитектуру, токенизатор и длину контекста базовой модели; в README указана поддержка английского языка. Основной формат — BF16, также доступны варианты GGUF с квантованием Q8_0 и Q4_K_M. Полноточная версия занимает около 62 ГБ, Q8_0 — 33 ГБ, а Q4_K_M — 19 ГБ. Отличительная особенность модели — удаление поведения отказа непосредственно из весов с помощью проприетарного инструмента jBlaze, без дополнительного обучения или fine-tuning. По заявлению разработчика, это должно сохранять стиль и творческие характеристики исходной модели, но одновременно означает отсутствие встроенного отказа от потенциально опасных запросов. Модель распространяется по лицензии Apache 2.0, как и базовая модель; ответственность за соблюдение законодательства и безопасное применение возлагается на пользователя.

Qwen2.5-Coder-3B-Instruct-MLX-4bit — это 4-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-3B-Instruct, разработанной Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и ориентирована на задачи генерации и обработки текста и исходного кода, включая использование в Code Agents. Модель имеет около 3 миллиардов параметров, поддерживает контекст до 32 тысяч токенов и обучалась на объёме до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. Указана текстовая модальность; сведения о дополнительных языках и модальностях в README отсутствуют. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска, однако может ограничивать качество по сравнению с полноразмерной версией. Как и другие языковые модели, она способна генерировать неточный, вредный или неподходящий контент. В README лицензия модели не указана, поэтому условия использования необходимо уточнять в документации оригинальной модели Qwen2.5-Coder-3B-Instruct и материалах к данной квантизации.

Qwen2.5-Coder-7B-Q4_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen2.5-Coder-7B, преобразованная в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Модель опубликована в репозитории AIronMind и предназначена для локального запуска через llama.cpp. Модель ориентирована на генерацию текста и работу с программным кодом: её можно использовать для написания, дополнения и объяснения кода, а также для интерактивного применения через командную строку или серверный API llama.cpp. Указанный размер базовой модели — 7B параметров. Формат квантизации — Q4_K_M, что рассчитано на более экономичное использование памяти по сравнению с полной версией модели. В метаданных указан английский язык; другие языки и мультимодальные возможности не заявлены. Для запуска поддерживаются macOS и Linux при наличии установленного llama.cpp; возможна аппаратная настройка, включая CUDA для Nvidia GPU. В примере сервера используется контекст 2048 токенов, однако максимальный размер контекста в карточке явно не указан. Модель распространяется по лицензии Apache-2.0. Ограничения и подробные характеристики унаследованной базовой модели в этой карточке не описаны; для них рекомендуется обращаться к оригинальной документации Qwen/Qwen2.5-Coder-7B.

Qwen3.6-27B-1C — специализированная SFT-адаптация модели Qwen/Qwen3.6-27B, представленная sweetand. Она предназначена для задач разработки на платформе 1C:Enterprise и ориентирована прежде всего на русский язык, с поддержкой английского. Модель обучалась работать с кодом BSL, XML-выгрузками и XML-схемами конфигураций, а также с типовыми практиками и открытыми кодовыми базами 1С. Модель подходит для навигации по метаданным и структуре XML-выгрузок, генерации, пояснения и рефакторинга BSL, анализа запросов 1С, code review, подбора осмысленных имён программных сущностей и соблюдения внутренних стандартов кодирования. В карточке указаны размер базовой модели 27B, SFT-обучение, LoRA-адаптер и унаследованное от Qwen3.6 контекстное окно до 262 тысяч токенов. Поддержка tool-calling и режимов thinking/non-thinking заявлена как наследуемая от базовой модели. Модель не заменяет официальную документацию 1С и аудит информационной безопасности, а её ответы по закрытым конфигурациям требуют проверки. Возможны ошибки в именах объектов, путях XML и API; вне домена 1С качество может быть ниже или менее стабильным. Сгенерированный код следует проверять в конфигураторе и на тестах, особенно перед использованием в production. Базовая и производная модель распространяются по лицензии Apache-2.0, при этом необходимо соблюдать лицензии исходных открытых кодовых баз, использованных в обучающих данных.

unsloth/Qwen3.6-27B-UD-MLX-4bit — 4-битная MLX-квантизированная версия открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и предназначена для работы с текстом и изображениями, включая агентное программирование, фронтенд-разработку, анализ репозиториев и итеративные задачи кодинга. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру с блоками Gated DeltaNet, Gated Attention и FFN. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. README не указывает полный перечень поддерживаемых языков, однако модель позиционируется для многошаговой работы с кодом и сохранения контекста рассуждений между сообщениями. 4-битное представление снижает требования к памяти и подходит для запуска через MLX на совместимом оборудовании, но может уступать полноразмерным весам по точности. Сильными сторонами являются большой контекст, поддержка визуально-текстовых сценариев, задачи уровня репозитория и улучшенная работа в агентных coding-сценариях. Ограничения связаны с необходимостью MLX-совместимой среды и возможными потерями качества из-за квантизации; подробные сведения о языках, системных требованиях и результатах большинства тестов в предоставленном фрагменте README отсутствуют. Лицензия — Apache-2.0.

rolex0775/Qwen3-Coder-30B-A3B-Instruct-DQ-abliterated-GGUF — GGUF-версия инструктивной модели Qwen3-Coder, опубликованная пользователем rolex0775. Она предназначена для генерации кода и диалоговых сценариев; метаданные также указывают на возможность общения в формате чата. Модель является производной от huihui-ai/Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated, а файлы репозитория представлены в формате GGUF. Лицензия — Apache-2.0.

lainlives/Qwen3-Coder-30B-A3B-IT-Heretic-Q5_K_M-GGUF — это квантизированная версия в формате GGUF модели TitleOS/Qwen3-Coder-30B-A3B-IT-Heretic, созданная на основе Qwen3-Coder-30B-A3B-Instruct. Конвертация выполнена с использованием llama.cpp и сервиса GGUF-my-repo. Модель относится к классу текстовых генеративных моделей и ориентирована прежде всего на задачи программирования и работы с кодом. Модель предназначена для локального запуска через llama.cpp, включая режим командной строки и серверный режим. Ключевые характеристики, указанные в названии, — конфигурация Qwen3 Coder с 30B параметров и компонентом A3B, инструкционное обучение, а также квантизация Q5_K_M, которая снижает требования к памяти по сравнению с полноразмерной версией. Поддерживаются текстовые запросы; сведения о точном размере контекста, языках программирования и естественных языках в карточке не приведены. Сильными сторонами являются специализированная направленность на код, возможность локального развертывания и совместимость с экосистемой llama.cpp. К ограничениям относятся возможные потери качества из-за квантизации, необходимость подходящего аппаратного обеспечения и отсутствие в карточке подробных результатов тестирования, перечня поддерживаемых языков и точных требований к ресурсам. В метаданных указана лицензия Apache-2.0; для дополнительных условий и характеристик рекомендуется обращаться к карточке исходной модели.

mlx-community/Qwen3-Coder-Next-8bit — модель генерации текста в формате MLX, созданная сообществом mlx-community на основе Qwen/Qwen3-Coder-Next. По названию и базовой модели предназначена прежде всего для задач, связанных с программированием и генерацией технического текста, а также для использования в приложениях, поддерживающих MLX и библиотеку mlx-lm. Модель была конвертирована в формат MLX с помощью mlx-lm версии 0.30.5; идентификатор указывает на 8-bit вариант. README не содержит сведений о точной архитектуре, количестве параметров, поддерживаемых языках, модальностях и размере контекста. Для запуска требуется библиотека mlx-lm, а модель поддерживает чат-шаблон токенизатора, если он определён. Распространяется по лицензии Apache 2.0.

Qwen3-Coder-Next-REAM — сжатая версия Qwen/Qwen3-Coder-Next, подготовленная методом REAM. Модель разработана на базе семейства Qwen3-Next и использует архитектуру MoE; в каждом MoE-слое число экспертов уменьшено с 512 до 384. По README, объём сокращён с 80 млрд до 60 млрд параметров, что снижает требования к хранению и памяти GPU примерно на четверть. Метаданные каталога указывают 2,3 млрд параметров, поэтому оценка полного размера модели по источникам расходится. Модель предназначена для генерации кода и диалогового использования в сценариях разработки. При сжатии для калибровки использовали больше данных по коду; в README приведены результаты на тестах HumanEval и LiveCodeBench, близкие к показателям исходной модели. Модель принимает текстовые запросы и выдаёт текст, включая код. Указанное в метаданных контекстное окно составляет 262 144 токена. Файлы представлены в формате safetensors и рассчитаны на библиотеку Transformers. Лицензия — Apache-2.0. README отмечает, что к модели можно дополнительно применять оптимизации вроде квантизации; отдельные результаты и инструкции развёртывания здесь не приведены.

Replete-Coder-Llama3-8B — модель общего назначения с дообучением на программировании, созданная Rombodawg на архитектуре Llama 3. Она содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов; модель принимает текстовые инструкции и генерирует текст, включая код. По описанию разработчика, 75% обучающих данных составляли инструкции по программированию, а 25% — инструкции общего назначения; обучение охватывало более 100 языков программирования и включало задачи перевода кода, математики, работы с уязвимостями и вызова функций. Модель предназначена для написания и преобразования кода, помощи в программировании, а также ответов на общие запросы. В метаданных указаны архитектура LlamaForCausalLM, формат safetensors и поддержка диалогового режима. README характеризует обучающие данные как нецензурированные, но не приводит отдельную оценку безопасности или качества. Разработчик не гарантирует производительность при запросах длиннее 8192 токенов. Лицензия в метаданных обозначена как other, без уточнения её условий.

dbands/tantrum_16bit — дообученная модель dbands на архитектуре Qwen2, созданная на базе cognitivecomputations/dolphin-2.9.2-qwen2-7b. Модель предназначена прежде всего для анализа и ревью кода на Python: она объясняет код и предлагает улучшения. Также её можно использовать для генерации подсказок, помогающих создавать синтетические кодовые базы для обучения моделей, генерирующих Python-код для вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Карточка указывает английский язык. Веса доступны в формате Safetensors; лицензия — Apache-2.0. Автор описывает модель как находящуюся в разработке и планирует продолжать её улучшать.

Tiel-Coder-35B-A3B-GGUF — локальная кодовая модель разработчика peculiar-ragdoll, созданная на базе Ornith-1.5-35B-A3B от Ornith AI. Это пере-квантованная версия с динамической квантизацией, собственной imatrix и встроенным шаблоном диалогов Sharp. Модель распространяется в формате GGUF для llama.cpp и использует MoE-архитектуру с 35 млрд параметров и примерно 3 млрд активных параметров на токен. Модель предназначена прежде всего для агентного программирования, исправления проблем в реальных кодовых базах и длительных многошаговых диалогов. В README заявлены поддержка английского и китайского языков, а также сценарии image-text-to-text и vision, однако подробности о возможностях обработки изображений не приведены. Контекст может использоваться в диапазоне до 131–262 тысяч токенов; при 16-битной точности KV-кэша для контекста 262k требуется менее 5 ГБ оперативной памяти. Сильные стороны модели — высокая скорость для своего класса, хорошая работа в многоходовых диалогах и агентном кодинге, а также возможность запуска с частичной выгрузкой на GPU. В заявленных тестах она исправила 12 из 25 задач SWE-bench-Live и получила 67,2 балла на Claw-Eval. Ограничения — заметно более слабые результаты в викторинах, знаниях и сложном рассуждении: на MMLU-Pro указано 73,7 балла. Качество и требования к памяти зависят от выбранного уровня квантизации; рекомендуемый benchmark-вариант Q4_K_XL занимает около 22,4 ГБ, а более компактные варианты могут существенно терять способности. Модель распространяется по лицензии MIT. Для запуска требуется совместимое ПО, например llama.cpp, и достаточно оперативной памяти и/или видеопамяти; README рекомендует использовать квантизацию не ниже UD-Q4, если это возможно.

Tiel-Coder-35B-A3B-GGUF-MTP — локальная GGUF-версия модели Ornith-1.5-35B-A3B, подготовленная с динамической квантизацией, собственной imatrix и шаблоном диалогов Sharp. Модель ориентирована прежде всего на агентное программирование, исправление реальных проблем в кодовых базах и длительные многоходовые диалоги. В метаданных указаны поддержка английского и китайского языков, а также сценарий image-text-to-text и возможность работы с визуальными данными; подробности о реализации мультимодальности в README не приведены. Модель использует разреженную MoE-архитектуру с заявленным размером 35B и активной частью 3B параметров. Доступны варианты квантизации от 2 до 8 бит в формате GGUF, совместимые с llama.cpp; размер наиболее рекомендуемого варианта UD-Q4_K_XL составляет 23,3 ГБ. Заявлена поддержка контекста до 262 тысяч токенов, при этом KV-кэш в формате 16-bit занимает менее 5 ГБ оперативной памяти для такого контекста. Архитектура позволяет использовать частичную выгрузку на GPU и запускать модель на системах с ограниченными ресурсами. Сильными сторонами являются скорость, эффективность в задачах программирования и качество многоходового общения. В приведённых автором тестах модель решила 12 из 25 задач SWE-bench-Live и получила 67,2 балла в Claw-Eval, однако уступила специализированным моделям в MMLU-Pro и задачах на знания и сложное рассуждение. README прямо предупреждает, что модель слаба в викторинах и экзаменационных сценариях, а более низкие уровни квантизации заметно ухудшают способность к агентному программированию. Модель распространяется по лицензии MIT.

Tiel-Coder-35B-A3B-MLX-oQ4e-MTP — локальная кодовая модель, опубликованная peculiar-ragdoll. Она основана на Ornith-1.5-35B-A3B от ornith-ai и представляет собой его повторно квантизированную версию с помощью oMLX oQ4e, встроенным Sharp chat template и обученной головой multi-token prediction (MTP). Модель относится к семейству MoE с заявленным размером 35B-A3B, поддерживает текстовые и визуальные входы, а среди языков указаны английский и китайский. Размер контекста в README не указан. Модель предназначена прежде всего для agentic coding: исправления реальных проблем в кодовых базах, работы с репозиториями и длительных многоходовых диалогов. По приведённым измерениям GGUF-версии она показывает сильные результаты в SWE-bench-Live и multi-turn задачах, однако эти показатели нельзя напрямую считать результатами данного MLX-файла. Для экзаменационных знаний, викторин и сложного общего рассуждения модель подходит хуже: в README отдельно отмечены слабые результаты на trivia и более низкий показатель MMLU-Pro по сравнению с альтернативной моделью Nail. Для работы с MTP-версией рекомендуется runtime oMLX на Apple Silicon; зрение включено в тот же каталог, отдельный projector-файл не требуется. LM Studio для этой сборки не поддерживается: его MLX-движок некорректно исполняет MTP head и генерирует бессмысленный многоязычный текст. Для LM Studio следует использовать GGUF-версию или MLX-сборку без MTP. Лицензия — MIT.

VL-1-Coder — инструкционная языковая модель VectionLabs для генерации кода и диалогового взаимодействия. Она дообучена на базе Qwen/Qwen2.5-Coder-7B-Instruct; метаданные указывают архитектуру Qwen2, 7,1 млрд параметров и формат safetensors. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и рассчитана прежде всего на английский и итальянский языки. Модель предназначена для написания и анализа кода, разработки пользовательских интерфейсов и серверных систем, решения алгоритмических задач и разбиения сложных запросов на этапы. В README VectionLabs заявляет сжатые рассуждения и ответы с небольшим количеством вводного текста, однако эти характеристики не сопровождаются результатами сравнительной оценки. Лицензия — Apache-2.0.

Yi-Coder-9B — открытая языковая модель для программирования от 01.AI. Это плотная авторегрессионная модель семейства Llama с 8,6 млрд параметров; она предназначена для генерации кода и работы с длинными контекстами до 128K токенов. В карточке показан сценарий общения через чат-шаблон и пример генерации алгоритма быстрой сортировки. Модель подходит для написания и дополнения кода, решения задач программирования и анализа длинных фрагментов исходного кода. Серия Yi-Coder поддерживает 52 распространённых языка программирования; сведения о конкретных естественных языках в карточке не приведены. Репозиторий содержит веса Safetensors и рассчитан на использование через Transformers. Лицензия — Apache 2.0.

BenevolenceMessiah/Yi-Coder-9B-Chat-8x-MoE — диалоговая языковая модель для генерации кода и помощи в программировании, созданная с помощью mergekit на основе 01-ai/Yi-Coder-9B-Chat. В README описана сборка MoE с восемью экспертами, каждый из которых основан на одной и той же исходной модели; архитектура указана как MixtralForCausalLM. Модель содержит 8,6 млрд параметров и работает с контекстом до 131 072 токенов. Она предназначена для запросов на естественном языке о коде, генерации и объяснения программ, а также работы с длинными фрагментами кода и техническими материалами. Исходное семейство Yi-Coder поддерживает 52 языка программирования; это число относится к семейству, поэтому README не подтверждает одинаковое качество на каждом языке именно этой сборки. Модель принимает и генерирует текст. Лицензия — Apache-2.0. README описывает экспериментальную MoE-сборку с повторением одной базовой модели среди экспертов; отдельные результаты оценки качества этой версии не приведены.

Yi-Coder-9B-Chat-GGUF — это квантизированная версия чат-модели Yi-Coder-9B-Chat, разработанной 01.AI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена прежде всего для генерации и обсуждения программного кода в диалоговом режиме; запуск поддерживается через llama.cpp и приложения, совместимые с GGUF, включая LM Studio. Модель содержит около 9 миллиардов параметров и доступна в вариантах от F16 до низкобитных квантований Q2–Q8 и IQ. Квантизация с imatrix позволяет выбирать баланс между качеством, размером файла и требованиями к памяти: рекомендуются, в частности, варианты Q4–Q6, а версии Q3 и ниже рассчитаны на системы с ограниченным объёмом RAM, но обеспечивают более низкое качество. Для работы используется специальный шаблон чата с ролями system, user и assistant; в README также указано исправление токенизатора. В карточке не приведены точные сведения о поддерживаемых языках, длине контекста, архитектуре трансформера, мультимодальности и сравнительных результатах. Модель является текстовой и ориентирована на сценарии программирования, однако конкретные возможности зависят от выбранного варианта квантования. Лицензия — Apache-2.0.

BenevolenceMessiah/Yi-Coder-9B-Chat-Instruct-TIES — объединение моделей, созданное с помощью mergekit методом TIES на основе 01-ai/Yi-Coder-9B и 01-ai/Yi-Coder-9B-Chat. Это плотная авторегрессионная модель семейства Llama с 8,6 млрд параметров, предназначенная для генерации кода и диалоговой помощи в программировании. Модель принимает текст и генерирует текст; карточка базовой серии заявляет поддержку 52 популярных языков программирования и контекст до 128K токенов, а метаданные репозитория указывают контекст 131 072 токена. Модель подходит для написания и объяснения кода, а также работы с длинными фрагментами программного текста. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README описывает базовую серию Yi-Coder и конфигурацию слияния, но не приводит отдельной оценки качества именно этого объединения.

CobrIX-1.0-Coder-Flash-33B-A13B — диалоговая языковая модель CobrIX на архитектуре Qwen 3.5 MoE, собранная на основе empero-ai/Qwythos-9B-v2 и пяти дообученных экспертов Qwen 3.5. По README, в модели 33 млрд параметров, из которых активно 13 млрд на токен; метаданные указывают 7,2 млрд параметров. Заявленное нативное окно контекста — 1 048 576 токенов. Модель предназначена для генерации кода и диалогов; метаданные подтверждают задачу text-generation и возможность чата. В MoE-блоках используется маршрутизация top-2 к пяти экспертам и общий эксперт. Указана лицензия MIT. README описывает проект как ранний доступ, а размещённая модель — как экспериментальную сборку.

CodeLlama 13B Instruct — языковая модель для генерации и объяснения программного кода, разработанная Meta. В данном репозитории опубликованы её квантизированные файлы в формате GGUF, подготовленные TheBloke на основе оригинальной модели codellama/CodeLlama-13b-Instruct-hf. Модель предназначена для решения задач программирования по текстовому описанию, включая написание кода с учетом ограничений и примеров тестов. Она относится к семейству Llama, имеет размер 13 млрд параметров и работает в режиме text-generation. Указана модальность работы с текстом и кодом; конкретные языки программирования и максимальная длина контекста в README не перечислены. Для запросов рекомендуется шаблон CodeLlama с инструкцией в формате [INST]...[/INST]. Формат GGUF обеспечивает совместимость с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации от 2 до 8 бит для запуска с использованием CPU и GPU, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Ограничениями являются возможная потеря качества из-за квантизации и специализация прежде всего на задачах, связанных с кодом; сведения о результатах тестирования и производительности отсутствуют. Лицензия указана как Llama 2.

CodeLlama 7B Python GGUF — это квантизированная версия языковой модели CodeLlama 7B Python, разработанной Meta и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена прежде всего для генерации кода, решения задач программирования и работы с запросами, требующими написания Python-кода. Это текстовая модель архитектуры Llama с 7 миллиардами параметров; заявленный язык — code, а поддерживаемые модальности ограничены текстом и кодом. Размер контекста в представленных данных не указан. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации с разной разрядностью, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Ограничения включают возможное снижение качества из-за квантизации, отсутствие в README данных о результатах тестирования и точных требованиях к ресурсам. Модель распространяется по лицензии Llama 2.

CodeQwen1.5-7B-Chat-GGUF — набор GGUF-квантизированных вариантов чат-модели CodeQwen1.5-7B-Chat от Qwen, подготовленный пользователем bartowski для запуска через llama.cpp. Модель относится к задачам генерации текста и ориентирована прежде всего на работу с программным кодом в диалоговом формате: написание, объяснение и редактирование кода, а также ответы на связанные с программированием запросы. В названии указано около 7 миллиардов параметров; точная архитектура, размер контекста и перечень поддерживаемых языков в предоставленных данных не описаны. В метаданных указан английский язык. Для диалога необходимо использовать шаблон с ролями system, user и assistant в формате специальных токенов Qwen. Репозиторий содержит варианты с разной степенью квантизации — от Q8_0 размером 7,70 ГБ до IQ1_S размером 2,36 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S отмечены как рекомендуемые; более компактные варианты экономят память, но могут заметно терять в качестве. Q8_0 обеспечивает наиболее высокое качество среди доступных вариантов, однако обычно не требуется. Ограничения модели включают зависимость качества от выбранной квантизации и отсутствие в README сведений о бенчмарках, мультимодальности и поддержке языков помимо заявленного английского. Указана лицензия other с названием tongyi-qianwen; подробные условия приведены в лицензии исходной модели Qwen. Квантизация выполнена с использованием llama.cpp и метода imatrix.

deepseek-ai/deepseek-coder-33b-instruct — языковая модель для программирования, разработанная DeepSeek. Это плотная авторегрессионная модель семейства Llama с 33,1 млрд параметров, дообученная на 2 млрд токенов инструкций на основе deepseek-ai/deepseek-coder-33b-base. Модель принимает текст и генерирует текст; она рассчитана на диалоговые запросы о коде и задачи генерации кода. Модель подходит для написания и дополнения кода, заполнения пропусков в файлах, объяснения программ и ответов на вопросы по программированию. Семейство DeepSeek Coder обучалось на 2 трлн токенов, в том числе на проектном коде и текстах на английском и китайском языках; контекст модели составляет 16 384 токена. В README заявлены высокие результаты семейства на бенчмарках HumanEval, MultiPL-E, MBPP, DS-1000 и APPS, но конкретные результаты этой instruct-версии не приведены. Модель распространяется по лицензии, обозначенной в метаданных как «other»; конкретные условия следует сверить с карточкой репозитория. Ее назначение ограничено программированием, а качество ответов и корректность сгенерированного кода требуют проверки.

DeepSeek-Coder-V2-Lite-Instruct-GGUF — квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek-AI и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для запуска через GaiaNet и совместима с шаблоном запросов deepseek-chat-2. Модель ориентирована на задачи, связанные с программированием и обработкой инструкций. В README указано, что она основана на архитектуре deepseek и поддерживает контекст размером до 128 000 токенов. Дополнительные сведения о размере модели, языках программирования и поддерживаемых модальностях не приведены; по имеющимся данным, модель относится к текстовым, а не мультимодальным решениям. К преимуществам относятся большой контекст и возможность локального запуска в формате GGUF через экосистему GaiaNet. К ограничениям относятся отсутствие в README подробных характеристик качества, перечня языков, требований к ресурсам и результатов бенчмарков. Модель распространяется по лицензии deepseek-license; тип лицензии обозначен как other, поэтому перед использованием следует ознакомиться с условиями файла LICENSE.

Devstral-Small-2-NVFP4-GGUF — квантизированная GGUF-сборка мультимодальной модели для программирования, разработанная Mistral AI и представленная в репозитории FreedomAISVR. В её основе — mistralai/Devstral-Small-2-24B-Instruct-2512: плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров и контекстом до 393 216 токенов. Для работы с изображениями используется проектор mmproj на основе 24-слойного SigLIP ViT. Модель предназначена для генерации и анализа кода, диалогов с изображениями, вызова инструментов и агентных сценариев. Квантизация NVFP4 занимает около 12,52 ГБ для текстовых весов; файл проектора F16 занимает около 0,82 ГБ. Формат рассчитан на ускорение инференса на GPU NVIDIA Blackwell. Поддерживается многоязычное общение, однако конкретный перечень языков в карточке не приведён. Модель доступна по лицензии Apache 2.0. Квантизация может снизить качество относительно исходных весов; работа с изображениями требует отдельного файла проектора, а заявленное аппаратное ускорение NVFP4 ориентировано на Blackwell.

GLM-5.2-Demolition-q4a4-soul-MLX — локальная MLX-версия модели GLM-5.2 от zai-org, подготовленная Philip John Basile. Это экспериментальная разреженная и квантованная сборка Mixture-of-Experts: исходная модель имеет 744 млрд параметров при 39 млрд активных, а в данном варианте сохранено около 23% экспертов. Корневые веса занимают примерно 104,89 ГБ и используют 4-битное квантование; модель рассчитана на запуск на одном Apple M5 Max с 128 ГБ памяти через MLX. Основное назначение — генерация и анализ кода в Python, TypeScript, JavaScript, Rust, Go, HTML, CSS, SQL и Postgres без привязки к фреймворкам. Поддерживаются дополнительные LoRA-адаптеры («souls») для искусства, музыки, дизайна, парфюмерии, науки, безопасности, разработки игр, full-stack-разработки, математики, визуализации данных, прозы, архитектуры и исследований. Заявленный язык модели — английский; размер контекста в карточке не указан. Сильные стороны модели — специализированная работа с ванильным кодом, возможность подключать предметные адаптеры и относительно компактный для исходной архитектуры запуск на одном Apple Silicon-компьютере. На HumanEval-164 заявлен результат pass@1 69,5% (114 из 164) в однократном запуске с проверкой скрытыми тестами. Ограничения включают намеренное ухудшение способностей к общим знаниям и trivia из-за pruning, экспериментальный характер рецепта, отсутствие доказательств превосходства над полноразмерной моделью и скорость около 11–14 токенов в секунду. Лицензия — MIT.