II.7DevOps, облако и эксплуатация IT-систем

V-YangXu/StarCoder-Alpaca — модель генерации кода на основе StarCoder, дообученная на 20 тысячах примеров набора AlpacaCode. Она предназначена для генерации и продолжения кода по текстовым инструкциям. Базовый StarCoder — плотная авторегрессионная модель GPTBigCode размером 15,5 млрд параметров; она обучалась на коде более чем на 80 языках программирования и поддерживает контекст до 8192 токенов, включая заполнение пропусков в коде (Fill-in-the-Middle). Модель принимает текстовые инструкции и выдаёт текст, в том числе код. Веса опубликованы в формате PyTorch, лицензия — Apache-2.0. Карточка не приводит отдельной оценки качества именно этой дообученной версии, поэтому результаты генерации кода могут требовать проверки.

AutoCoder_S_6.7B-IMat-GGUF — GGUF-квантизированная версия модели Bin12345/AutoCoder_S_6.7B, подготовленная пользователем legraphista с помощью llama.cpp b3010. Модель предназначена для генерации текста и, исходя из названия базовой модели, ориентирована прежде всего на задачи, связанные с написанием и обработкой кода, однако подробные сведения о специализации отсутствуют. Модель содержит около 6,7 млрд параметров в исходном формате BF16 и доступна в форматах GGUF с различными уровнями точности: от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда вариантов применена IMatrix-квантизация на основе отдельного калибровочного набора. Файлы имеют размер примерно от 2,04 до 13,48 ГБ, поэтому модель можно адаптировать под разные ограничения по памяти и скорости инференса. К сильным сторонам относятся широкий выбор форматов, возможность локального запуска в экосистеме llama.cpp и использование IMatrix для некоторых низкобитных вариантов, что может помочь сохранить качество при уменьшении размера. Ограничения включают неизбежный компромисс между размером, скоростью и качеством при квантизации, а также отсутствие в README данных о поддерживаемых языках, размере контекста, конкретной архитектуре, результатах тестирования и сравнении с другими моделями. Модель распространяется по лицензии Apache-2.0.

DeciCoder-6B — авторегрессионная модель для дополнения и генерации программного кода, разработанная компанией Deci. Она основана на декодерном трансформере DeciLMForCausalLM с 6,7 млрд параметров и переменным Grouped Query Attention; архитектуру создали с помощью технологии AutoNAC. Обучение на подмножестве StarCoder Training Dataset использовало цель Fill-in-the-Middle, поэтому модель может продолжать код и заполнять пропуски внутри фрагмента. Модель предназначена для работы с Python, Java, JavaScript, Rust, C++, C, C# и Go. Контекст составляет 2 048 токенов. Весы опубликованы в формате safetensors, лицензия — Apache 2.0. Модель можно применять для генерации фрагментов кода по контексту и автодополнения в редакторах. В README приведены результаты pass@1 для нескольких языков, но они не гарантируют правильность конкретного результата: сгенерированный код может содержать ошибки, быть неоптимальным или небезопасным.

dpo5k5 — дообученная модель на 1,3 млрд параметров на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и предназначена для генерации и продолжения кода; базовая модель также поддерживает автодополнение и заполнение пропусков в коде. Контекст модели — до 16 384 токенов. Модель опубликована в формате safetensors, лицензия указана как other. README не содержит подробностей об оценке качества и ограничениях; возможности и качество модели для конкретных задач следует проверять отдельно.

Functionary Medium v3.2 — языковая модель команды MeetKai для диалогов с вызовом функций и инструментов. Она основана на Meta-Llama-3.1-70B-Instruct и использует плотную архитектуру LlamaForCausalLM; в репозитории указаны 69,5 млрд параметров и контекст до 131 072 токенов. Модель принимает описания функций в формате JSON Schema, решает, когда вызывать их, и поддерживает последовательные и параллельные вызовы. Она может анализировать результаты инструментов и формировать на их основе ответы, а также отвечать без вызова функций, когда инструменты не нужны. В README также заявлена поддержка code interpreter. Для удобного разбора вызовов функций авторы предоставляют собственный код; запуск рекомендуется через OpenAI-совместимый сервер vLLM. Модель подходит для создания чат-ассистентов, которые обращаются к API, инструментам и интерпретатору кода. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Карточка не сообщает конкретных сведений о языковом покрытии или результатах сравнительных оценок.

Модель snnh/paddleocr_vl_code_ocr — дообученная snnh на PaddleOCR-VL-1.6 модель для распознавания текста на скриншотах, связанных с разработкой. Она извлекает видимый текст из интерфейсов IDE, терминалов и отладчиков, включая код, конфигурации, логи, Traceback, Git diff, фрагменты документации и таблицы API, стараясь сохранять структуру и порядок элементов. Модель принимает изображение и формирует текстовый результат; в карточке указано 318,2 млн параметров, а метаданные задают контекст до 131 072 токенов. Обучение выполнено методом LoRA с последующим объединением весов; использовались 1102 обучающих примера. Модель опубликована под лицензией Apache-2.0. README приводит результат 58,4427 на версии 5.2 бенчмарка из 304 заданий, но предупреждает, что оценки разных версий бенчмарка, промптов и параметров генерации нельзя напрямую сравнивать. Сложные таблицы, длинные трассировки ошибок, интерфейсы с несколькими областями и вложенные конфигурации могут распознаваться с ошибками структуры или порядка чтения. Мелкий шрифт, размытые снимки и редкие символы снижают точность; результат может содержать пропуски, неверно распознанные знаки или повторы и требует проверки человеком. Модель предназначена для транскрипции, а не для генерации или исправления кода либо анализа безопасности.

Qwen2.5-Coder-0.5B-Instruct-MLX-8bit — компактная инструкционная языковая модель для работы с кодом, разработанная командой Qwen. Эта версия представляет собой 8-битную MLX-квантизацию базовой модели Qwen2.5-Coder-0.5B-Instruct, подготовленную bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и интеграции в локальные приложения, включая code agents. Модель ориентирована на генерацию и обработку программного кода, диалоговые сценарии и задачи, требующие связи между естественным языком и исходным кодом. Заявлена поддержка контекста до 32 тысяч токенов. При обучении использовалось до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. В карточке указана поддержка английского языка. Небольшой размер около 0,5 миллиарда параметров и 8-битная квантизация делают модель подходящей для локального запуска с ограниченными ресурсами, однако по сравнению с более крупными моделями она может уступать в сложности рассуждений, качестве кода и устойчивости к неоднозначным запросам. Как и другие модели этого класса, она может генерировать неточные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия — Apache 2.0.

Qwen2.5-Coder-0.5B-Q8_0-GGUF — это версия модели Qwen2.5-Coder-0.5B, преобразованная в формат GGUF проектом ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и работы с программным кодом; в карточке указаны теги code и qwen, а заявленный язык — английский. Модель содержит около 0,5 млрд параметров и использует 8-битную квантизацию Q8_0, что делает её подходящей для локального запуска при ограниченных вычислительных ресурсах. Поддерживается работа через llama.cpp в режиме CLI или сервера; в примере запуска указан контекст размером 2048 токенов. Сведения об архитектуре, мультимодальности и точном наборе поддерживаемых языков, кроме английского, в карточке отсутствуют. Компактный размер и формат GGUF являются сильными сторонами для локального развёртывания, однако по сравнению с более крупными моделями модель, вероятно, имеет более ограниченные возможности при сложной генерации кода и рассуждениях. Модель распространяется по лицензии Apache-2.0.

StableCode-Completion-Alpha-3B-4K — авторегрессионная decoder-only модель Stability AI для автодополнения кода. Она обучена на корпусе StarCoder Data, включающем распространённые языки программирования, и предназначена для продолжения кода по короткому или длинному контексту, в том числе для одиночных строк и нескольких строк в редакторе кода. Модель построена на архитектуре GPT-NeoX с плотным трансформерным декодером и содержит около 3,5 млрд параметров. Контекстное окно — 4096 токенов. Веса доступны в форматах PyTorch и safetensors. Модель генерирует код; естественные языки как целевые языки в карточке не заявлены. Модель выпущена под лицензией Apache 2.0. Она может воспроизводить фрагменты кода из обучающих данных, поэтому для проверки совпадений README рекомендует использовать инструменты атрибуции BigCode и Hugging Face. Разработчик также предупреждает против применения модели для незаконных действий и сценариев с высоким риском физического или экономического ущерба.

StarCoder — языковая модель для генерации и дополнения программного кода, разработанная проектом BigCode. Это модель на 15,5 млрд параметров на архитектуре GPT-2 с multi-query attention, обученная на 1 трлн токенов из The Stack v1.2 на более чем 80 языках программирования. Она поддерживает контекст до 8192 токенов и обучалась, в частности, для заполнения пропусков в коде (Fill-in-the-Middle), поэтому подходит для продолжения фрагмента и вставки кода в заданный контекст. Модель предназначена для помощи при написании кода, а не для выполнения инструкций в формате чат-ассистента. Наиболее полезна, когда ей предоставляют исходный код или достаточно контекста; запросы на естественном языке могут работать хуже. Генерируемый код может содержать ошибки, быть неэффективным или небезопасным. Датасет предварительно фильтровали по разрешительным лицензиям, однако модель может воспроизводить фрагменты исходного кода, для которых могут требоваться атрибуция и соблюдение условий лицензии. Лицензия модели — BigCode OpenRAIL-M.

code-nothink-q8b-20260908 — модель для генерации кода, созданная на основе Qwen/Qwen3-8B-Base. Это плотная авторегрессионная модель семейства Qwen3 с 7,6 млрд параметров; LoRA-дообучение на парных данных NoThink code SFT слито с основными весами bf16. Репозиторий содержит веса в формате safetensors и специальный комплект токенизатора для оценки; контекст модели по метаданным — 32 768 токенов. Модель предназначена для генерации кода без режима рассуждений и решения задач программирования. В оценке LiveCodeBench DEV256 в режиме NoThink она показала средний pass@1 30,1% по двум запускам против 22,7% у базовой модели; авторы отмечают заметные колебания результата между seed и описывают данные как исследовательские, а не подтверждающие. Для инференса README рекомендует использовать токенизатор и chat template из этого репозитория. Лицензия — Apache-2.0.

DMax-Coder-16B — модель генерации кода на основе диффузионной языковой модели LLaDA-2.0-mini, разработанная авторами проекта DMax. Она дообучена на траекториях генерации кода и предназначена для создания программного кода с параллельным декодированием. В README описаны механизм самопересмотра ошибочных предсказаний и мягкое параллельное декодирование; заявлены показатели 6,6 TPF на задачах кода при сохранении точности. Модель использует MoE-архитектуру LLaDA2 и принимает текстовые запросы, выдавая текст, включая код. Размер по метаданным — 1,2 млрд параметров, контекст — до 16 384 токенов. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0.

Это дообученная и затем модифицированная абляцией отказов версия Gemma-4 12B Coder, опубликованная tpls. Модель предназначена для генерации кода и агентных сценариев с вызовом инструментов. Веса доступны в формате safetensors; README также указывает на отдельные готовые GGUF-квантизации. Архитектура — плотная Gemma4 Unified. Размер 12 млрд параметров указан в названии модели. Модель обучена методом SFT с QLoRA для работы с нативной разметкой вызова инструментов Gemma-4, после чего из весов удаляли направление отказа. Для обработки вызовов инструментов в llama.cpp требуется серверный shim: без него парсер может не распознать нативную разметку. Автор сообщает о прохождении 8 тестовых сценариев с shim, но это ограниченная выборка, а не общая оценка качества. Поддерживаемый язык карточки — английский. Лицензия — Gemma. Ответы и аргументы инструментов могут быть ошибочными или вымышленными, поэтому их следует проверять до выполнения. Из-за существенно ослабленных защитных механизмов модель не подходит для систем, где требуется поведение отказа.

Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF — это GGUF-версия модели, разработанная huihui-ai на основе empero-ai/Qwythos-9B-Claude-Mythos-5-1M. Модель предназначена для генерации текста на английском языке и поддерживает сценарии рассуждений, работы с длинным контекстом, function calling, tool use и агентных приложений. В README также указана специализация исходной модели на задачах кибербезопасности и биомедицине, однако подробные результаты оценки не приведены. Модель имеет размер 9B параметров, относится к семейству Qwen3.5 и поддерживает контекст до 1M токенов. Доступна в формате GGUF для запуска через llama.cpp; заявлены поддержка MTP и возможность ускорения генерации с помощью draft-модели. В non-thinking mode она должна следовать инструкциям первого запроса и выдавать результат в требуемом формате без вводных и заключительных фраз. Это uncensored-версия, созданная методом abliteration, поэтому её защитные фильтры значительно снижены. Сильной стороной является ориентация на длинный контекст, инструментальное использование и контролируемый формат вывода, но модель может генерировать чувствительный, спорный или небезопасный контент и не имеет гарантий стандартной safety-оптимизации. Рекомендуются исследовательское и экспериментальное применение, мониторинг и ручная проверка результатов; для публичных и производственных сценариев требуется особая осторожность. Модель распространяется по лицензии Apache-2.0.

opencsg/opencsg-starcoder2-15b-v0.1 — модель генерации кода, созданная исследовательской командой OpenCSG полным дообучением StarCoder2-15B. Архитектура — плотная авторегрессионная StarCoder2; в метаданных указано 21,7 млрд параметров и контекст до 16 384 токенов. Базовая модель обучалась на более чем 80 языках программирования из The Stack. Модель предназначена для генерации и автодополнения кода по контексту, в том числе для заполнения пропусков внутри кода. В README приведён результат HumanEval для Python: pass@1 42,68% при жадном декодировании и оценке по исходным промптам без дополнительных инструкций. Этот показатель не гарантирует аналогичного качества на других задачах и языках программирования. Модель распространяется под лицензией BigCode OpenRAIL-M.

Parrot Coder — языковая модель для автодополнения и генерации кода, разработанная Inserloft Research. Это плотная GPT-2-модель на 200 млн параметров; репозиторий содержит объединённые базовую модель и LoRA-адаптеры в формате safetensors, готовые для инференса через Transformers. Модель предназначена для быстрого продолжения фрагментов кода и генерации кода по текстовому запросу. Метаданные указывают контекст до 2048 токенов и поддержку английского языка. Модель выдаёт текст, в том числе программный код. Лицензия — Apache-2.0.

Qwen2.5-Coder-0.5B-Instruct-4bit — компактная инструкционно настроенная модель для генерации текста и работы с программным кодом. Модель создана сообществом mlx-community путём конвертации Qwen/Qwen2.5-Coder-0.5B-Instruct в формат MLX с использованием mlx-lm 0.19.3. Модель предназначена для задач программирования, генерации и продолжения кода, а также диалоговых сценариев. Она поддерживает текстовую модальность и указана для английского языка. Размер базовой модели составляет 0,5 млрд параметров, а 4-bit-квантизация снижает требования к памяти, что делает её подходящей для локального запуска в экосистеме MLX через библиотеку mlx-lm. К сильным сторонам относятся компактность, экономичность по памяти и специализация на коде. Ограничения связаны с небольшим размером модели: по сравнению с более крупными моделями она может уступать им в качестве рассуждений, точности генерации и работе со сложными программными задачами. В README не указаны архитектура, размер контекста и дополнительные языки. Модель распространяется по лицензии Apache 2.0.

Tuwhy/Qwen3-4B-OPSA-Code — дообученная языковая модель для генерации кода, созданная на основе Qwen/Qwen3-4B с применением метода On-Policy Self-Adaptation (OPSA). Это плотная causal language model семейства Qwen3 с 3,7 млрд параметров; репозиторий содержит полные веса BF16 в Safetensors, конфигурацию и токенизатор. Модель предназначена для генерации кода в диалоговом формате и может использоваться через Transformers; заявленное окно контекста — 40 960 токенов. Контрольная точка соответствует шагу 259, после 260 обновлений оптимизатора, поэтому это ранний чекпойнт, а не свидетельство зрелого качества для практического развертывания. Базовая модель поддерживает многоязычные задачи, но карточка этого варианта указывает только кодовую специализацию, не уточняя языки программирования или конкретные языки запросов. Лицензия — Apache 2.0, как у базовой модели.

StarCoder2-15B — плотная авторегрессионная модель генерации кода, разработанная проектом BigCode. Она обучена на более чем 4 триллионах токенов из The Stack v2 и других источников, охватывая более 600 языков программирования. Модель использует архитектуру Transformer decoder с Grouped Query Attention и скользящим вниманием; контекстное окно составляет 16 384 токена, область скользящего внимания — 4 096 токенов. В метаданных указано 21,7 млрд параметров. Модель предназначена для продолжения и дополнения кода, в том числе по Fill-in-the-Middle: она может генерировать фрагменты с учётом окружающего кода. Это не instruction-модель, поэтому запросы на естественном языке вроде просьбы написать функцию могут работать хуже, чем продолжение кода по заданному контексту. Модель обучена преимущественно на коде, а английский преобладает среди естественных языков обучающих данных. Сгенерированный код может содержать ошибки, быть неэффективным или небезопасным и не гарантированно соответствует задаче. Модель способна воспроизводить фрагменты исходного кода из обучающих данных, поэтому перед использованием результата следует учитывать лицензию исходного кода и требования атрибуции. Лицензия модели — BigCode OpenRAIL-M.

this-that-model-1.0 — модель типизированных решений, разработанная FLock-io и дообученная на базе decider-2b. Она принимает текстовый контекст и заданный пользователем набор вариантов, затем за один проход оценивает варианты и возвращает распределение вероятностей; генерация текста не требуется, поэтому ответ не может выйти за пределы допустимых вариантов. Поддерживается до 255 вариантов. Архитектура — плотная Qwen3.5-style модель с 1,7 млрд параметров по метаданным (в README указано 1,88 млрд): 18 из 24 слоёв используют линейное внимание DeltaNet, остальные — полное внимание. Контекст — до 262 144 токенов. Модель предназначена для классификации и структурированных решений, где результат можно выразить одним из заранее заданных вариантов и использовать вероятность как порог: например, проверять соответствие правилам или выбирать действие по состоянию системы. README сообщает о калибровочных результатах и высокой точности на пространственном бенчмарке, но отмечает, что формы вопросов этого бенчмарка встречались при обучении; качество на иных формулировках и задачах может отличаться. В примере авторов модель ошибочно оценивает вопрос о лимите запросов и отвечает с низкой уверенностью, что показывает необходимость учитывать уверенность и проверять перенос на свою задачу. Лицензия модели — MIT; базовая модель decider-2b указана как Apache-2.0.

TinyTimeMixer (TTM) Research-Use — компактная предварительно обученная модель прогнозирования временных рядов от IBM Research, построенная на архитектуре TinyTimeMixer. В этой версии около 1 млн параметров; модель предназначена для многомерного точечного прогнозирования временных рядов, преимущественно с минутной до часовой частотой наблюдений. Модель подходит для прогнозов без дообучения и для адаптации на целевых данных. Для разных настроек доступны варианты с контекстом 512, 1024 или 1536 точек и горизонтом прогноза до 720 точек; поддерживаются независимая обработка каналов и смешивание каналов, а также учет экзогенных и категориальных данных. По карточке модели, прогнозирование и дообучение можно выполнять на одной GPU или ноутбуке, включая CPU-сценарии. Релиз ориентирован на исследовательское использование и воспроизведение результатов статьи. Лицензия CC BY-NC-SA 4.0 запрещает коммерческое использование без отдельного разрешения; для коммерческих сценариев авторы указывают на релизы Granite. README не приводит конкретную частоту данных или набор предметных областей, поэтому применимость следует проверять на целевом ряду.

mlx-community/bigcode-starcoder2-15b-fp32 — конвертированная в формат MLX модель StarCoder2-15B, опубликованная mlx-community. Она предназначена для генерации и автодополнения программного кода по текстовому контексту, в том числе для заполнения пропусков внутри кода. В карточке указано, что исходная модель bigcode/starcoder2-15b преобразована с помощью mlx-lm 0.21.1; метаданные описывают архитектуру StarCoder2ForCausalLM и 21,7 млрд параметров. Модель принимает текстовый контекст и генерирует код или продолжение текста. Поддерживает контекст до 16 384 токенов. В метаданных указана лицензия BigCode OpenRAIL-M; перед использованием следует учитывать её условия и ограничения. Конкретные языки программирования и результаты оценки качества для этой сборки в карточке не приведены.

OS-Software выпустила North-Mini-Code-1.0-Uncensored-Heretic — изменённую с помощью abliteration версию CohereLabs/North-Mini-Code-1.0, модели для генерации кода и агентных задач. Это текстовая модель с архитектурой decoder-only Transformer и разреженным Mixture-of-Experts. В метаданных указаны 1,2 млрд параметров и контекст до 500 000 токенов; README базовой модели описывает 30 млрд общих и 3 млрд активных параметров, контекст 256 тыс. токенов и до 64 тыс. токенов вывода. Источники расходятся в размере и длине контекста. Модель предназначена для генерации и анализа кода, агентной разработки ПО и задач в терминале; поддерживает чат и может работать с инструментами через шаблон чата Transformers. Abliteration существенно ослабила защитное выравнивание: в приведённом README тесте refusals снизились с 84/100 у исходной модели до 0/100. Это повышает вероятность вредных, неточных, предвзятых или оскорбительных ответов. README рекомендует исследовательское применение, эксперименты, исследования безопасности и red-teaming, а также независимую проверку результатов и защитные меры. Для модели указана лицензия Apache 2.0. Она принимает текст и генерирует текст; сведения о поддерживаемых естественных языках не приведены.

NousCoder-14B-Q4_K_M-layers — квантованный GGUF-чекпойнт модели для генерации кода, опубликованный пользователем exdysa. Он основан на NousCoder-14B, дообученной на базе Qwen/Qwen3-14B; в метаданных указаны llama.cpp и диалоговый режим. Модель предназначена для генерации программного кода и ответов в диалоге на запросы, связанные с программированием. Тег языка en и наборы данных для генерации кода указывают на англоязычную ориентацию. Квантование Q4_K_M рассчитано на более компактное хранение и запуск; распределённое разбиение слоёв обозначено в названии и тегах репозитория. Репозиторий распространяется по лицензии Apache-2.0. Карточка README не содержит подробностей об оценках качества или точных ограничениях; как квантованная модель, результат может отличаться от исходной версии по точности.

fredzzp/open-dcoder-0.5B — модель генерации кода, разработанная fredzzp на архитектуре Qwen2. Это языковая модель с маскированной диффузией и двунаправленным вниманием, содержащая 494 млн параметров; для генерации требуется специальный метод diffusion_generate из пользовательского кода модели. Модель предназначена для генерации кода по текстовым запросам и поддерживает контекст до 32 768 токенов. В репозитории представлены веса в формате safetensors, а для работы используется библиотека Transformers. Карточка не уточняет поддерживаемые языки программирования или естественные языки. Лицензия — Apache-2.0.

Qwen2.5-Coder-0.5B-GGUF — это набор GGUF-квантизованных версий языковой модели Qwen2.5-Coder-0.5B. Исходную модель разработала команда Qwen, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации и обработки программного кода, включая локальный запуск через llama.cpp и LM Studio. Модель содержит около 0,5 млрд параметров, работает в текстовом режиме и заявлена для английского языка. README не указывает архитектуру и размер контекстного окна. Доступны варианты от F16 размером около 0,99 ГБ до компактных квантизаций Q3–Q8 размером примерно 0,34–0,53 ГБ. Более точные варианты обычно сохраняют лучшее качество, тогда как низкобитные версии экономят память, но могут заметнее терять в качестве. Отдельные варианты оптимизированы для ARM и требуют поддержки SVE или i8mm. Модель удобна для локального запуска на устройствах с ограниченными ресурсами и поддерживает специальный шаблон prompt в формате ChatML. Ограничения включают небольшой размер модели, возможное снижение качества при сильной квантизации и отсутствие в README подробных данных о результатах тестирования, архитектуре и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-0.5B-Instruct-MLX-4bit — это компактная инструкционная языковая модель для генерации текста и работы с программным кодом, разработанная Qwen. Данная версия представляет собой 4-битную MLX-квантизацию базовой модели Qwen2.5-Coder-0.5B-Instruct, подготовленную bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на задачи программирования и сценарии с code agents, включая генерацию и обработку кода, а также взаимодействие в чат-формате. Заявлена поддержка контекста до 32 000 токенов. В обучении использовалось до 5,5 триллиона токенов, включая исходный код, данные для сопоставления текста и кода и синтетические данные. В README указан английский язык; модальность модели — текстовая. К ключевым преимуществам относятся небольшой размер, сниженное потребление ресурсов благодаря 4-битной квантизации и совместимость с MLX на Apple Silicon, что делает модель подходящей для локального использования. Ограничения связаны с компактным размером 0,5B параметров: по сравнению с более крупными моделями она может уступать им в качестве рассуждений, генерации кода и точности выполнения сложных задач. Как и другие языковые модели, она может выдавать неточные, небезопасные или неподходящие ответы. Модель распространяется по лицензии Apache 2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность или пригодность для конкретных задач.

Карточка модели Artificial-Production-Units/starcoder2-15b на Hugging Face совпадает с карточкой bigcode/starcoder2-15b, поэтому описание составлено по ней. StarCoder2-15B — плотная авторегрессионная модель генерации кода, разработанная проектом BigCode. Она обучена на более чем 4 триллионах токенов из The Stack v2 и других источников, охватывая более 600 языков программирования. Модель использует архитектуру Transformer decoder с Grouped Query Attention и скользящим вниманием; контекстное окно составляет 16 384 токена, область скользящего внимания — 4 096 токенов. В метаданных указано 21,7 млрд параметров. Модель предназначена для продолжения и дополнения кода, в том числе по Fill-in-the-Middle: она может генерировать фрагменты с учётом окружающего кода. Это не instruction-модель, поэтому запросы на естественном языке вроде просьбы написать функцию могут работать хуже, чем продолжение кода по заданному контексту. Модель обучена преимущественно на коде, а английский преобладает среди естественных языков обучающих данных. Сгенерированный код может содержать ошибки, быть неэффективным или небезопасным и не гарантированно соответствует задаче. Модель способна воспроизводить фрагменты исходного кода из обучающих данных, поэтому перед использованием результата следует учитывать лицензию исходного кода и требования атрибуции. Лицензия модели — BigCode OpenRAIL-M.

Von 1.3 — открытая модель принятия решений от разработчиков проекта Von. Она дообучена на базе двунаправленного энкодера ModernBERT-large и дополнена маркерной оценочной головой. Вместо генерации текста модель за один проход энкодера выбирает вариант, проверяет условие или оценивает уровень по описаниям вариантов; стоимость прохода не зависит от числа вариантов. Репозиторий содержит веса в safetensors и отдельные файлы оценочной головы и калибровки. Модель рассчитана на классификацию и маршрутизацию запросов, проверки политик и условий, а также оценивание по заданным критериям. Она поддерживает английский язык и контекст до 8192 токенов. Лицензия — Apache-2.0. Порядок вариантов не влияет на их оценки. Калибровка уверенности обучена на публичной части JevBench и может плохо переноситься на другие данные; для рабочих сценариев с использованием уверенности рекомендуется перекалибровка на собственных метках. Модель может уверенно ошибаться вне обучающего распределения, слаба на длинных многошаговых и временных или числовых рассуждениях, а проверки без заданных критериев менее надёжны. Она не предназначена для генерации текста; известный пробел обучения касается маршрутизации ошибок авторизации, ограничений частоты запросов и отклонений инструментов.

HolkViking/antares-1b-Q4_K_M-GGUF — это квантизированная версия модели fdtn-ai/antares-1b, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и может запускаться локально через llama.cpp в режиме командной строки или сервера. По данным карточки, модель ориентирована на задачи обнаружения уязвимостей, агентные сценарии и работу в роли терминального агента. Указан английский язык. Размер базовой модели — около 1 млрд параметров; используется квантизация Q4_K_M, уменьшающая требования к памяти и подходящая для локального запуска, но потенциально снижающая точность по сравнению с полноразмерной версией. В примере конфигурации используется контекст длиной 2048 токенов. Сведения о точной архитектуре, результатах оценки, поддерживаемых модальностях и ограничениях качества в README отсутствуют; по имеющимся данным модель является текстовой и не предназначена для работы с изображениями или другими мультимодальными входами. Модель распространяется по лицензии Apache-2.0, однако доступ к репозиторию ограничен и требует ручного одобрения заявки с предоставлением контактных данных и согласия с условиями авторов.