II.2Создание и понимание программного кода
В разделе собраны самостоятельные задачи, где AI помогает писать, объяснять и связывать программный код с требованиями и существующей системой. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
21 443 моделиSamantha-1.11-CodeLlama-34b — диалоговая модель на основе CodeLlama-34B, дообученная Эриком Хартфордом на 6 000 специально отобранных диалогов в формате ShareGPT/Vicuna. Она предназначена для генерации кода, помощи с домашними заданиями и общения в роли персонального собеседника; в обучении также использовались темы философии, психологии и личных отношений. Модель содержит 33,5 млрд параметров, использует архитектуру Llama и принимает текстовые запросы с контекстом до 2 048 токенов, выдавая текст. По README, обучение выполнено в течение 40 эпох с использованием QLoRA, Axolotl и DeepSpeed. Карточка сообщает, что модель не участвует в ролевых романтических или сексуальных сценариях. Модель распространяется по лицензии Llama 2, условия которой допускают коммерческое и некоммерческое использование с ограничениями лицензии. Она создана как экспериментальный вариант персонального ИИ-собеседника и помощника по коду. Как и другие языковые модели, может ошибаться в ответах и примерах кода; контекст ограничен 2 048 токенами.
SDLM-32B-D4 — языковая модель OpenGVLab для генерации текста в формате последовательной диффузии. Она основана на Qwen2.5-32B и дообучена для переноса авторегрессионных весов в диффузионный режим. Модель предсказывает блоки токенов длиной 4, затем сохраняет наиболее длинный уверенно предсказанный префикс; повторное использование KV-кэша призвано ускорить декодирование. В метаданных указаны 32 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговой генерации и задач с длинным текстом. Авторы сообщают примерно о двукратном ускорении относительно сопоставимых авторегрессионных моделей при близком качестве и до пятикратного ускорения относительно других диффузионных языковых моделей; в README эти результаты связаны, в частности, с тестом MATH-500. В обучении использовались данные по математике, коду и общим диалогам, а также научные и табличные наборы. Указаны интерфейсы чата и вызова инструментов, но отдельные гарантии качества для этих сценариев в карточке не приведены. Модель распространяется под лицензией Apache-2.0.
SDLM-3B-D8 — диффузионная языковая модель семейства SDLM, разработанная OpenGVLab на основе Qwen2.5-3B. Это дообученная модель с плотной архитектурой Qwen2, примерно 3,1 млрд параметров и контекстом до 32 768 токенов; она доступна в формате Safetensors и рассчитана на генерацию текста и диалоговое использование на английском языке. Модель применяет последовательное блочное маскирование и декодирование по самому длинному уверенному префиксу, чтобы предсказывать несколько токенов за шаг. В отчёте авторов заявлены примерно двукратное ускорение относительно сопоставимых авторегрессионных моделей при близком качестве и до пятикратного ускорения относительно других диффузионных языковых моделей; скорость можно настраивать порогом уверенности. Обучение включает математические, кодовые, научные, табличные и общие диалоговые данные, что делает модель пригодной для генерации ответов, решения задач и написания кода. Лицензия — Apache-2.0.
krlvi/sentence-t5-base-nlpl-code_search_net — модель эмбеддингов на базе T5, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель обучена на датасете CodeSearchNet с использованием MultipleNegativesRankingLoss и косинусного сходства; подходит для поиска фрагментов кода по текстовому запросу и сопоставления семантически близких текстов. Модель содержит 123,8 млн параметров, использует архитектуру T5EncoderModel и принимает последовательности длиной до 512 токенов. Доступны веса PyTorch. Лицензия AGPL-3.0; при использовании и распространении необходимо учитывать её условия. Карточка не описывает отдельные языки программирования или конкретный список поддерживаемых естественных языков.
AgentionAI Signal 3.8 27B — минимально изменённая fine-tune-модель Qwen3.8-27B, разработанная AgentionAI. Модель распространяется в формате GGUF и предназначена для использования в llama.cpp как замена Qwen3.8-27B. Обучение выполнено методом self-distillation на ответах самой базовой модели без внешних данных и выходов других моделей. Модель ориентирована на диалоговые, общие, математические и программные задачи, включая работу в режиме рассуждений и генерацию структурированного JSON-вывода. Её основная особенность — более прямые и компактные ответы: по заявленным оценкам, она генерирует на 25% меньше токенов ответа и на 41% меньше токенов рассуждений, сохраняя или улучшая качество на проверенных наборах. В тестах GSM8K точность составила 100% без рассуждений и 95% с рассуждениями; результаты зависят от набора данных и настроек. Signal использует архитектуру и возможности Qwen3.8-27B, включая встроенную multi-token-prediction draft head для speculative decoding. На заявленном оборудовании и при включённом draft head общее время обработки тестового набора было на 19% меньше, а медианное — на 28% меньше, чем у базовой модели. Ограничения включают зависимость эффективности от llama.cpp, оборудования, квантизации и параметров сэмплирования; для снижения риска повторов рекомендуется использовать min-p и presence_penalty, а при включении MTP draft head — специальный параметр llama.cpp. Языки и размер контекстного окна в README не указаны. Лицензия — Apache-2.0.
seanpoyner/smolcode-coder-java-3b-tools — это компактная причинная языковая модель семейства Qwen2, дообученная Sean Poyner на основе Qwen/Qwen2.5-Coder-1.5B-Instruct. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и распространяется в форматах safetensors и GGUF Q4_K_M. Лицензия — Apache-2.0. Модель предназначена для генерации кода в диалоге с поддержкой вызова инструментов: она выдаёт структурированные вызовы функций, которые можно использовать в агентном цикле программирования, а также формирует итоговые ответы. При дообучении использовались датасет NousResearch/hermes-function-calling-v1 и синтетические траектории использования инструментов; README описывает запуск через шаблон чата Qwen с передачей tools=. Карточка указывает английский язык. Основные сценарии — помощь с кодом и вызов инструментов в среде smolcode; конкретная языковая специализация на Java из доступных сведений не подтверждается. README сообщает, что версия v2 исправляет несовпадение шаблонов обучения и инференса, а выпуск связан с проверкой доли успешно разбираемых вызовов инструментов; показатели качества в карточке не приведены.
Huangsssz/SmolLM3-3B-MOPD-Top64-DT-NoThinking-500 — исследовательский чекпойнт языковой модели, созданный на базе BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT. Модель SmolLM3 с плотной архитектурой содержит 3,1 млрд параметров, принимает текстовые запросы и генерирует текст. Родной контекст — 65 536 токенов; экспортирована в BF16 в формате Hugging Face Transformers, с токенизатором и исходным шаблоном чата. Чекпойнт прошёл 500 обновлений оптимизатора с дистилляцией Top64-пересечения токенов от учителей по математике, программированию и следованию инструкциям. Обучение и оценка выполнялись с отключённым режимом thinking. README приводит результаты на math500, LiveCodeBench и IFBench как измерения по фиксированному протоколу; это снимок оценки, а не гарантия качества. Для генерации в режиме без рассуждений нужно явно передать enable_thinking=False. Лицензия — Apache-2.0, унаследованная от базовой модели.
buelfhood выпустил sentence-transformers-модель SOCO-Java-GraphCodeBERT-ST, дообученную на базе microsoft/graphcodebert-base. Она преобразует текстовые фрагменты в плотные векторы размерности 768; сходство между ними можно оценивать косинусной мерой. Архитектура состоит из трансформера RoBERTa и слоя среднего пулинга токенов. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. База GraphCodeBERT ориентирована на понимание кода, а карточка указывает на обучение на 33 411 примерах. Метаданные называют библиотеку Sentence Transformers и формат весов Safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
solanaclawd выпустила Clawd Fable — слитую модель на базе Hermes 3, дообученной на Llama 3.1 8B, для программирования и рассуждений при разработке агентов Solana. Это плотная авторегрессионная языковая модель архитектуры Llama с 7,5 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса в формате Safetensors; модель поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для помощи в написании и анализе кода Solana, а также для задач рассуждения в контексте разработки агентов. Обучающие данные объединяют наборы claude-fable-5-claude-code и Fable-5-traces. README описывает её как исследовательскую и разработческую модель. Лицензия — Apache-2.0. Действия с реальными сделками, кошельками и развертыванием следует выполнять через отдельные клиенты с подтверждением оператора и проверками рисков.
Ttimms/Spark-X2.5-4B-NVFP4 — это квантизированная 4-битная версия языковой модели XHToken/Spark-X2.5-4B, подготовленная Ttimms. Модель предназначена для генерации текста и кода, агентских сценариев и задач с длинным контекстом; заявленная поддержка языков — английский и китайский. Она совместима с Transformers и рассчитана на запуск через vLLM с внешним плагином Spark2_5, преимущественно на GPU NVIDIA Blackwell. Модель содержит около 4,1 млрд параметров и использует архитектуру Spark2_5ForCausalLM с гибридным вниманием, сочетающим скользящее и полное внимание, а также поэлементным выходным затвором внимания. Контекстное окно достигает 1 млн токенов. Применена квантизация весов NVFP4 W4A16 методом GPTQ с активациями bf16; отдельные компоненты сохранены в bf16. Размер модели на диске составляет около 2,7 ГиБ против 7,7 ГиБ у базовой bf16-версии, что снижает требования к памяти, но на SM120 выигрыш относится главным образом к занимаемому объёму, а не к скорости вычислений. По представленным оценкам, относительно базовой bf16-модели качество снизилось примерно на 4,3 процентного пункта в HumanEval-instruct и на 2,0 пункта в MBPP. GPTQ заметно сохраняет качество лучше, чем округление RTN, однако для максимального сохранения исходных характеристик рекомендуется FP8-версия базовой модели. Для запуска требуются vLLM, внешний плагин Spark2_5 и параметр trust_remote_code; заявлена поддержка tool calling. Модель распространяется по лицензии Apache-2.0.
Spec-T1-Base-7B — плотная языковая модель на 7 млрд параметров от SVECTOR-CORPORATION, обученная с нуля для рассуждений. Она предназначена для генерации текста и диалогов, в частности для решения математических задач и рассуждений о коде. В карточке указаны интерфейс чата и интерфейс вызова инструментов; модель принимает текст и генерирует текст. Модель предварительно обучали примерно на 5 трлн токенов в течение 5,5 месяцев на данных с акцентом на математику и программирование. Контекст составляет до 32 768 токенов. В README приведены результаты внутренних оценок; команда уточняет, что измерения проводились в контролируемой среде и не проверялись внешними организациями. Репозиторий содержит веса в формате safetensors. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в карточке модели. Заявления о сравнении с моделями большего размера относятся к оценкам авторов; результаты могут зависеть от условий тестирования.
sqlcoder-7b-Mistral-7B-Instruct-v0.2-slerp — объединённая модель MaziyarPanahi на основе Mistral-7B-Instruct-v0.2 и sqlcoder-7b. Для слияния использован метод SLERP; архитектура — плотная авторегрессионная Mistral с 7,1 млрд параметров. Модель предназначена для генерации текста в диалоговом формате и, в частности, для задач генерации SQL по инструкциям и описанию схемы базы данных. Модель принимает текст и выдаёт текст. Контекст составляет до 32 768 токенов; в репозитории размещены веса Safetensors. Лицензия — Apache-2.0. Объединение двух моделей не гарантирует сохранения или улучшения качества каждой из исходных моделей; README не приводит результатов оценки или подробных рекомендаций по использованию.
StarChat Alpha — языковая модель для диалогового взаимодействия и помощи с программированием, разработанная Hugging Face H4. Это первая альфа-версия семейства StarChat, дообученная на базе bigcode/starcoderbase на сме́си наборов OpenAssistant/oasst1 и databricks/databricks-dolly-15k. Модель имеет архитектуру GPTBigCodeForCausalLM, содержит 16 млрд параметров и принимает текст, генерируя текст; длина контекста — 8192 токена. В карточке заявлена поддержка английского языка. Модель подходит для ответов на вопросы о программировании, генерации и обсуждения кода, а также для изучения возможностей открытых языковых моделей в программировании. Это ранний выпуск без выравнивания с предпочтениями людей посредством RLHF. Модель может выдавать токсичный или иной проблемный контент, ошибочный либо небезопасный код и вымышленные URL, поэтому результаты требуют проверки. Лицензия — BigCode Open RAIL-M v1.
StarCoder-3B — базовая генеративная модель кода, разработанная проектом BigCode; это версия семейства StarCoderBase с 3 млрд параметров. Модель построена на архитектуре GPT-2 с multi-query attention и обучена на корпусе The Stack v1.2, содержащем код более чем на 80 языках программирования. При обучении использовалась цель Fill-in-the-Middle, а контекстное окно составляет 8192 токена. Модель предназначена для продолжения фрагментов исходного кода и заполнения пропусков по окружающему коду. Она не настроена на выполнение инструкций, поэтому обычные запросы вроде просьбы написать функцию могут работать слабо без подходящего контекста. Сгенерированный код может содержать ошибки, быть неэффективным или небезопасным; также возможно дословное воспроизведение фрагментов обучающих данных, для которых могут действовать требования атрибуции и лицензирования. Модель распространяется по лицензии BigCode OpenRAIL-M.
STARK-WEB-12B-v1.7-i1-GGUF — квантизированная версия модели Situus/STARK-WEB-12B-v1.7, подготовленная mradermacher. Модель основана на архитектуре семейства Gemma и предназначена для генерации текста и кода, прежде всего для веб-разработки, включая HTML, CSS и JavaScript, а также задачи UI/UX и frontend-разработки. Заявлена поддержка английского и польского языков. Модель имеет около 12 миллиардов параметров и распространяется в формате GGUF, что позволяет запускать её в совместимых локальных средствах инференса. README также указывает на наличие возможностей работы с изображениями, однако подробности о поддерживаемых визуальных входах и соответствующих multimodal-компонентах не приведены. Размер контекста и точные архитектурные характеристики не указаны. Доступно множество вариантов квантизации с размером файлов примерно от 3,1 до 9,9 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; в README отдельно отмечены низкое качество некоторых конфигураций и рекомендованы варианты i1-Q4_K_M и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Модель распространяется по лицензии Apache-2.0.
Starling-LM-7B-beta-GGUF — это квантизированная GGUF-версия языковой модели Starling-LM-7B-beta, разработанной Nexusflow на основе openchat/openchat-3.5-0106 и Mistral-7B-v0.1. GGUF-квантизация выполнена bartowski с использованием llama.cpp. Модель содержит около 7 млрд параметров и предназначена для генерации текста. Модель ориентирована на многошаговый диалог, общие вопросы, выполнение повседневных текстовых задач и программирование. Она обучалась с применением reward model Nexusflow/Starling-RM-34B и оптимизации PPO на данных berkeley-nest/Nectar, что направлено на улучшение качества ответов и следования предпочтениям в диалогах. Поддерживается английский язык. Модель текстовая и не предназначена для обработки изображений или других мультимодальных данных. Для работы рекомендуется шаблон OpenChat; для задач программирования предусмотрен шаблон OpenChatCode. Системный промпт модель не поддерживает. README не указывает размер контекстного окна и конкретные требования к ресурсам, поэтому эти характеристики нельзя надежно определить из доступных данных. К преимуществам относятся компактный размер, пригодность для локального запуска в формате GGUF и специализация на диалогах и коде; ограничения включают англоязычную ориентацию, отсутствие мультимодальности и зависимость качества от выбранной квантизации и параметров запуска. Модель распространяется по лицензии Apache-2.0.
duyntnet/Starling-LM-7B-beta-imatrix-GGUF — набор imatrix-квантизаций языковой модели Starling-LM-7B-beta, разработанной Nexusflow и опубликованной в формате GGUF. Модель предназначена для генерации текста, диалоговых сценариев и задач программирования; поддерживается английский язык. Это текстовая модель без заявленной поддержки других модальностей. Размер исходной модели — 7 млрд параметров, однако точный размер и тип каждой квантизации в README не указаны; сведения о длине контекста и базовой архитектуре отсутствуют. Модель рассчитана на одно- и многоходовые диалоги с использованием шаблона, совместимого с Openchat-3.5-0106, а также на режим программирования с отдельным шаблоном Code User/Code Assistant. Точное соблюдение шаблона важно для качества работы. Модель доступна для тестирования через LMSYS Chatbot Arena и может запускаться с использованием Transformers или совместимых инструментов для GGUF. К сильным сторонам относятся поддержка диалогов и генерации кода, а также наличие оптимизированных квантизированных вариантов для локального запуска. Ограничения включают возможную избыточную многословность в отдельных случаях и снижение качества при неправильном формате промпта; для уменьшения многословности рекомендуется temperature=0. Лицензия указана как other, без дополнительных условий в README, поэтому точные права и ограничения использования следует уточнять по источнику модели.
flax-sentence-embeddings/st-codesearch-distilroberta-base — модель эмбеддингов на базе DistilRoBERTa, обученная разработчиками flax-sentence-embeddings на датасете CodeSearchNet. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска фрагментов программного кода по текстовому запросу, а также для семантического поиска и кластеризации. Модель содержит 95,2 млн параметров, использует архитектуру RoBERTa и принимает текст. Её контекст составляет до 514 токенов. Для поиска кода она была обучена на задаче CodeSearchNet в течение 10 тысяч шагов с MultipleNegativesRankingLoss. Карточка характеризует её как предварительную и отмечает, что обучение было недостаточно тщательно проверено и развито, поэтому качество поиска может быть ограниченным. Сведения о лицензии в предоставленных материалах отсутствуют.
Surge-V1.1-2x0.8B — компактная разреженная модель класса Mixture-of-Experts от Junhauwong, представленная как модель для локального инференса. По карточке она использует два специализированных экспертных пути по 0,8 млрд параметров; метаданные указывают семейство Qwen3.5 MoE и архитектуру для генерации текста. Модель поддерживает диалоговый режим и предназначена для рассуждений, программирования, математических задач и сценариев с подключёнными инструментами. Её можно применять для пошаговых объяснений, планирования, написания и отладки кода, решения арифметических и алгебраических задач, а также автоматизации через внешние API и другие инструменты. В карточке приведён пример запуска через Transformers; лицензия в метаданных — Apache-2.0. Автор отмечает компактность модели и возможность локального запуска, но не приводит подтверждённых результатов бенчмарков.
Swift-Qwen3.8-27B-Uncensored-FP8 — модель от d0xin, представляющая собой независимую производную UkisAI Swift-Qwen3.8-27B. Она создана с применением rank-1 directional residual-stream ablation для удаления поведения отказа, после чего выполнено квантование в compressed-tensors FP8. Базовая модель — d0xin/Swift-Qwen3.8-27B-Uncensored-BF16. Модель предназначена для задач рассуждения, программирования, агентных сценариев, вызова инструментов и обработки изображений. Сохраняются мультимодальная архитектура Qwen с vision tower, поддержка tool calling и длинного контекста. Заявленный размер чекпойнта составляет около 29 ГБ, настроенный максимальный контекст — 262 144 токена; извлечение информации проверялось на запросах длиной до 235 032 токенов. Поддерживаются режимы reasoning_effort low, medium и xhigh; режим high в протестированном стеке отклоняется. К сильным сторонам относятся FP8-квантование, поддержка мультимодальных и агентных нагрузок, вызова инструментов и длинного контекста, а также отсутствие отказов в зафиксированном тесте из 100 запросов: 89 прямых ответов, 10 ответов с предупреждениями и 1 другая ошибка. При этом заявленный результат отражает только конкретный набор запросов и конфигурацию инференса и не гарантирует отсутствие отказов во всех условиях. На ограниченной валидации из 298 примеров FP8 показала 37,92% против 39,93% у модифицированной BF16-версии, поэтому статистическая эквивалентность не установлена. Языки модели в README не указаны. Лицензия — swift-open-license-1.0.
SynapseLLM-7B-Mistral-v0.2 — языковая модель WebraftAI на архитектуре Mistral с 7,1 млрд параметров. Это предварительно дообученная версия Mistral 7B v0.1: README описывает обучение на выборке из 140 тысяч примеров, включавшей инструкции по программированию и общие вопросы с ответами. Модель предназначена для диалоговых ответов и генерации кода по текстовым запросам; её можно загрузить через Transformers. Контекст модели составляет 32 768 токенов. Модель принимает текст и генерирует текст. В README заявлена поддержка только английского языка. По карточке обучение было ограниченным: один этап обучения на небольшой по охвату пользовательской выборке, поэтому качество в иных задачах может быть нестабильным. Лицензия — Apache 2.0.
SynapseLLM — серия языковых моделей WebraftAI; этот репозиторий содержит предварительную версию модели, дообученной на базе Mistral 7B v0.1. Это плотный авторегрессионный трансформер с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенный для генерации текста, диалоговых ответов и выполнения инструкций по программированию. Модель принимает текст и генерирует текст; в карточке заявлена поддержка английского языка. Дообучение проводилось на пользовательском наборе данных с примерами кода и вопросов-ответов общего назначения. README сообщает, что адаптеры QLoRA были объединены с базовой моделью; веса доступны в формате Safetensors для Transformers. Модель выпущена как preview, а обучение описано как ограниченное по объёму, поэтому качество на широком круге задач может быть нестабильным. Лицензия — Apache 2.0.
SynapseLLM — языковая модель WebraftAI, дообученная на базе Mistral-7B-v0.1 для диалоговых вопросов и ответов, математических инструкций и задач программирования. Это плотный decoder-only Transformer с 7,1 млрд параметров, рассчитанный на генерацию текста; метаданные указывают контекст до 32 768 токенов и поддержку чата и кода. Модель принимает текст и генерирует текст, основной язык — английский. Это предварительная версия дообучения на пользовательском наборе данных. В README указаны 150 шагов обучения и один эпох, а также применение QLoRA-адаптера, объединённого с базовой моделью. SynapseLLM подходит для ответов на вопросы, решения математических задач и генерации кода на английском языке. Разработчик предупреждает, что ответы могут содержать фактические ошибки, модель может не следовать системным инструкциям и иногда выдавать себя за GPT. Лицензия — Apache 2.0.
cssupport разработала эту модель на основе t5-small и дообучила её для преобразования запросов на естественном английском языке в SQL. На вход подаются описание таблиц в виде инструкций CREATE TABLE и текстовый вопрос; модель предназначена для генерации SQL-запросов, в том числе с объединением нескольких таблиц через JOIN. Модель использует архитектуру T5 и содержит 38,5 млн параметров. Она принимает и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 512 токенов. В карточке указано, что при дообучении использовались наборы Clinton/Text-to-sql-v1 и b-mc2/sql-create-context. Модель подходит для встраивания в аналитические приложения, где нужно преобразовывать вопросы пользователей в SQL. Карточка не приводит оценки качества и подробных ограничений, поэтому корректность запросов следует проверять на целевых схемах и данных. Лицензия — Apache 2.0.
Terminus-Qwen3-8b-i1-GGUF — это квантизированная версия языковой модели Terminus-Qwen3-8b, разработанной OrionLLM и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась на наборе данных OrionLLM/OpenAgentInstruct и ориентирована на генерацию текста, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Модель относится к текстовым Transformer-моделям и содержит около 8 млрд параметров. В README указан английский язык, поддержка мультимодальности и размер контекстного окна не заявлены. Репозиторий предоставляет варианты квантизации i1 от IQ1_S до Q6_K с размером файлов примерно от 2,2 до 6,8 ГБ. Квантизация позволяет запускать модель с меньшими требованиями к памяти; при этом низкие уровни квантизации могут заметно снижать качество. В качестве компромисса между размером, скоростью и качеством рекомендован вариант i1-Q4_K_M. Модель подходит для локального запуска в совместимых инструментах, поддерживающих GGUF, особенно для текстовых ассистентов и агентских рабочих процессов. Ограничениями являются заявленная ориентация на английский язык, отсутствие сведений о контекстном окне и неравномерное качество разных вариантов квантизации. Указанная лицензия — Apache-2.0.
Ternary Bonsai 27B — GGUF — это компактная модель для генерации текста и рассуждений, разработанная Prism ML на базе Qwen3.6-27B. Она предназначена для локального запуска через llama.cpp на CPU, CUDA- и Metal-устройствах, включая стандартные ноутбуки и отдельные GPU. Модель ориентирована на диалоговые сценарии, математические задачи, программирование, агентное использование инструментов и работу на устройствах с ограниченными ресурсами. Модель сохраняет архитектуру исходной 27B-классовой causal language model с гибридным вниманием: около 75% слоёв используют линейное внимание, а около 25% — полное. Она содержит примерно 27,3 млрд тернарных языковых весов и около 0,46 млрд параметров vision tower. Используются SwiGLU, RoPE и RMSNorm. Веса представлены в формате GGUF Q2_0_g128 с тернарными значениями −1, 0 и +1, что соответствует примерно 1,71 бита на вес. Размер развёрнутой модели составляет около 7,2 ГБ против примерно 54 ГБ у FP16-версии. Поддерживается контекст до 262 тысяч токенов, а KV-кэш квантизирован до 4 бит. Vision tower доступна в 4-битном формате и подключается при обработке изображений. К сильным сторонам относятся существенное снижение требований к памяти, сохранение рассуждений и агентного поведения при низкой битности, поддержка локального инференса и заявленное сохранение около 95% показателей FP16-версии на наборе из 15 тестов. Для CUDA доступен слой DSpark для спекулятивного декодирования с заявленным ускорением 1,34 раза. Ограничения включают зависимость от специализированных низкобитных ядер и совместимых форков llama.cpp, а также отсутствие в README точного перечня поддерживаемых языков. Модель распространяется по лицензии Apache 2.0.
Tessa-T1 — дообученная трансформерная языковая модель автора smirki на базе Qwen2.5-Coder-7B-Instruct, предназначенная для разработки интерфейсов на React. Модель с архитектурой Qwen2 содержит 7,1 млрд параметров; метаданные указывают контекст до 120 000 токенов. Репозиторий использует формат safetensors, лицензия — Apache 2.0. Модель генерирует семантически структурированные React-компоненты по текстовым запросам, помогает с рефакторингом кода и может использоваться в агентных системах разработки интерфейсов. В README заявлены точность генерации компонентов и понимание контекста пользовательского интерфейса; метаданные также указывают чат и интерфейс для вызова инструментов. Область применения модели сосредоточена на React: вне этой экосистемы её полезность ограничена. Сложная логика JavaScript и управление динамическим состоянием могут требовать ручной проверки и доработки. README рекомендует 12 ГБ видеопамяти и описывает исходную точность bf16 с вариантом квантизации q8.
Модель Vedant3907/Text-to-Sql-llama3.1-8B разработана Vedant Rajpurohit и предназначена для преобразования запросов на естественном языке в SQL. Это причинная языковая модель семейства Llama 3.1, дообученная с помощью Unsloth и LoRA на первых 5 000 строках набора Clinton/Text-to-sql-v1. В метаданных указано 7,5 млрд параметров и контекст до 131 072 токенов; README приводит размер 8,03 млрд параметров и точность BF16. Поддерживаемый язык — английский. Модель генерирует SQL по текстовым инструкциям и подходит для прототипирования запросов к базам данных. Обучение ограничивалось 250 шагами, поэтому качество может снижаться на неоднозначных запросах и примерах, отличающихся от обучающих данных. Лицензия — Apache-2.0.
ThinkingCap-Qwen3.6-27B-AWQ-INT4 — квантизированная версия модели ThinkingCap: Qwen 3.6 27B, разработанной BottleCap AI на основе Qwen3.6-27B от команды Qwen. Модель дообучена с применением современных алгоритмов на тщательно отобранном наборе задач из разных областей и предназначена для рассуждений, ответов на вопросы, математики, программирования, многошагового диалога, соблюдения системных инструкций, безопасного поведения и агентских сценариев. Ключевая особенность модели — повышение эффективности рассуждений: по заявлению разработчиков, она использует в среднем на 50% меньше токенов рассуждения, а в лучших случаях сокращение превышает 90%, при сохранении исходного качества и стиля ответов Qwen. Калибровка выполнялась на задачах STEM и агентских сценариях. Указаны языки English, Chinese, Hindi, Arabic, Russian, Japanese, Korean, Dutch, French и Spanish. Размер файла модели составляет 20,97 ГБ. Архитектура и размер контекстного окна в README не указаны. Модель подходит для ресурсоэффективного решения сложных задач, где важны качество рассуждений, скорость и снижение расхода токенов. Ограничением является вариативность качества рассуждений при рекомендованной для Qwen температуре 1.0, поэтому разработчики оценивали модель с несколькими случайными сидами и статистической проверкой. Распространяется по лицензии Apache-2.0.
Tiny Pickle v3 Coder — экспериментальная модель для программирования и инженерии ПО, разработанная как производная Qwen/Qwen3-Coder-30B-A3B-Instruct с адаптером LoRA vsan/tiny-pickle-v3-coder-LoRA. Адаптер объединён с весами и опубликован в формате BF16 Safetensors; архитектура — Qwen3 MoE, класс Qwen3MoeForCausalLM. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации и отладки кода, ревью, планирования реализации, создания тестов и помощи в разработке ПО. Она поддерживает диалоговый интерфейс и интерфейс вызова инструментов; основная задача в каталоге — генерация текста. Указана лицензия Apache-2.0. README характеризует модель как экспериментальную и не приводит независимых результатов, подтверждающих преимущество над базовой моделью.