II.2Создание и понимание программного кода

MiMo-V2.5-Pro-Base — базовая языковая модель Xiaomi семейства MiMo-V2.5. Это плотная модель с архитектурой Mixture-of-Experts: в README указаны 1,02 трлн параметров всего и 42 млрд активных, тогда как метаданные репозитория указывают 27,7 млрд параметров; размер следует считать противоречивым. Веса опубликованы в формате safetensors с FP8, библиотека для работы — Transformers, лицензия — MIT. Модель предназначена как базовый чекпойнт для генерации текста и дальнейшей адаптации под агентные сценарии, программирование и сложные задачи с длинным контекстом. В карточке описаны гибридное внимание, сочетание локального скользящего и глобального внимания и три модуля Multi-Token Prediction. Для варианта Base README указывает контекст до 256 тысяч токенов; заявленный для основной версии Pro контекст до 1 млн токенов не следует автоматически относить к этому варианту. В метаданных также отмечены чат, код и интерфейс вызова инструментов; поддерживаемые языки — английский и китайский. Xiaomi сообщает о предварительном обучении на 27 трлн токенов и последующем обучении с инструкциями, агентным обучением с подкреплением и дистилляцией от нескольких учителей. В README приведены результаты тестов, однако они не гарантируют качество в конкретном применении. Лицензия MIT разрешает использование на её условиях.

MiniCPM-2B-sft-fp32 — версия языковой модели MiniCPM-2B после instruction fine-tuning (SFT), представленная в формате FP32. Её разработали ModelBest и лаборатория обработки естественного языка Университета Цинхуа. Модель построена на архитектуре MiniCPMForCausalLM, содержит 2,7 млрд параметров и предназначена для генерации текста и диалоговых ответов на английском и китайском языках. Максимальная длина контекста — 4096 токенов. Модель подходит для диалоговых систем, ответов на вопросы, а также генерации текстов, кода и решений математических задач. Разработчики отмечают её компактный размер и возможность развёртывания на устройствах с ограниченными ресурсами после квантизации; этот репозиторий содержит веса FP32. В карточке указана лицензия other, а README сообщает об открытых весах для академических исследований и ограниченного коммерческого использования. Известные ограничения — склонность к галлюцинациям, зависимость ответов от формулировки запроса и вариативность результатов при повторных попытках; знания модели могут быть неточными. Качество генерации в Transformers, по сообщению авторов, может быть ниже, чем при использовании vLLM.

llmfan46/MiniMax-M2.7-BF16-ultra-uncensored-heretic — модифицированная версия MiniMax-M2.7 от независимого автора llmfan46. По карточке, к модели применена abliteration: изменены параметры attn.o_proj на слоях 0–51, чтобы снизить частоту отказов при сохранении близости к поведению исходной модели. Метаданные описывают её как текстовую MoE-модель для генерации текста с диалоговым режимом, размером 2,9 млрд параметров и контекстом до 204 800 токенов. Модель рассчитана на диалог, сложные инструкции, программирование, анализ инцидентов и агентные сценарии; автор исходной MiniMax-M2.7 также заявляет поддержку работы с инструментами и офисными документами. В README приведено сравнение отказов и KL-дивергенции с исходной моделью, однако эти показатели получены самим автором и не подтверждают качество на независимых тестах. Лицензия указана как other, поэтому условия использования следует проверить в репозитории базовой модели и связанных лицензионных материалах.

EmbeddedLLM выпустила Mistral-7B-Merge-14-v0.3 — экспериментальную объединённую модель на базе Mistral-7B-v0.1. Она создана методом DARE TIES путём слияния 14 моделей Mistral-7B, обученных для диалога, следования инструкциям, работы с документами, математикой и кодом. Модель содержит 7,1 млрд параметров и принимает текст для генерации продолжений и ответов; максимальный контекст составляет 32 768 токенов. Модель рассчитана на генерацию текста, ответы на инструкции и диалоговые сценарии. Авторы приводят средний результат 69,66 в Open LLM Leaderboard и отмечают, что модель может потребовать дополнительной настройки для чата; в README также указана более сильная версия v0.4. Карточка ориентирована на английский язык. Репозиторий распространяется по лицензии Apache-2.0.

MPT-7B — базовая языковая модель MosaicML на основе декодерного трансформера, обученная с нуля на 1 трлн токенов английского текста и кода. Это плотная модель с 6,7 млрд параметров и 32 слоями; она предназначена для генерации продолжений текста и кода и может служить основой для дальнейшего дообучения под конкретные задачи. В архитектуре используются FlashAttention и ALiBi вместо позиционных эмбеддингов. ALiBi позволяет обрабатывать длинные входы, однако карточка не задаёт фиксированный предел контекста для этого репозитория. Для загрузки через Transformers требуется включить trust_remote_code=True; модель использует код архитектуры MPT. Доступен формат PyTorch. Модель обучалась преимущественно на английских данных, поэтому её основное назначение — англоязычная генерация. Это базовая модель, не предназначенная для прямого применения в диалоге без дообучения и защитных механизмов; возможны фактические ошибки, предвзятые или оскорбительные ответы. Лицензия Apache-2.0 разрешает коммерческое использование.

Это неизменённая копия Muse-Glimmer-30B от Meta, размещённая Positron AI как закреплённый снимок исходного репозитория для сборки и тестирования в CI. Веса, токенизатор и конфигурация побайтово совпадают с указанной ревизией upstream; изменений Positron AI нет. Базовая модель — плотная мультимодальная модель семейства Muse-Glimmer примерно на 29,6 млрд параметров, предназначенная для диалогов и локальных агентных задач, включая работу с инструментами, программирование и анализ изображений. Для этой копии не приведены отдельные оценки качества или подробные инструкции по использованию; назначение и оценки отсылаются к карточке базовой модели. Репозиторий содержит веса Safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

NeuralMonarchCoderPearlBeagle — объединённая авторская модель на базе Mistral, созданная с помощью LazyMergekit методом TIES из abideen/MonarchCoder-7B и eldogbbhed/NeuralPearlBeagle. По описанию автора, эксперимент проверяет, можно ли усилить навыки программирования и математики модели NeuralBeagle14-7B, сохранив её способности к диалогу. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации кода и текста, диалогов, математических задач и рассуждений. Автор характеризует слияние как экспериментальное и несколько хаотичное, поэтому качество на конкретных задачах может быть нестабильным. Репозиторий распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

NoemaAI-labs выпустила Noema 1.5 2B MLX BF16 — конвертированную для MLX версию модели Noema 1.5 2B. Это плотная причинно-языковая модель семейства Qwen3.5 с 1,7 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений и коротких фрагментов кода. Версия сохраняет веса в BF16 без квантизации и поддерживает контекст до 262 144 токенов; пакет подготовлен для запуска через MLX-LM на совместимом оборудовании Apple. Модель подходит для локального ассистента, ответов на инструкции, многоходового общения и генерации кода, например функций на Python. В метаданных указан английский язык. Репозиторий предоставляет веса для скачивания, но не предоставляет открытую лицензию, поэтому условия использования следует уточнить у разработчика перед применением.

NV-EmbedCode-7b-v1 — модель эмбеддингов NVIDIA на 7,1 млрд параметров, основанная на Mistral и оптимизированная для поиска по коду. Она преобразует текстовые запросы, код и смешанные запросы в плотные векторы размерности 4096 с усреднением представлений токенов; модель рассчитана на контекст до 32 768 токенов и использует библиотеку Sentence Transformers. Модель предназначена для построения систем поиска по крупным корпусам кода и текстов. Она поддерживает поиск кода по текстовому описанию, поиск похожих фрагментов кода, поиск текстов по коду и гибридный поиск; такие результаты могут использоваться в помощниках программиста, поиске документации и локализации файлов для решения задач разработки. В README приведены результаты оценки на CoIR и адаптированном SWE-bench Lite. Репозиторий содержит веса в формате safetensors, а в README указана базовая модель NVIDIA Retrieval QA Mistral 7B Embedding. Лицензия обозначена как other; конкретные условия следует сверить с лицензией репозитория перед использованием. Модель создаёт эмбеддинги для поиска, а не готовые ответы или объяснения кода.

Это GGUF-квантизированная версия языковой модели AceReason-Nemotron-7B, разработанной NVIDIA и подготовленной квантизатором bartowski на базе llama.cpp. Модель предназначена для генерации текста с акцентом на рассуждения, математические задачи и программирование; заявленный язык — английский. Формат GGUF позволяет запускать её локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу примерно 7-миллиардных текстовых моделей, однако точные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты от BF16 до различных уровней квантования, включая рекомендуемые Q4_K_M, Q5 и Q6, что позволяет выбирать между качеством и требованиями к памяти. Более сильные варианты сохраняют качество ближе к исходной модели, а компактные подходят для систем с ограниченными ресурсами, но могут заметнее терять в качестве. Использование регулируется NVIDIA Open Model License; для конкретных условий следует ознакомиться с текстом лицензии NVIDIA.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — большая языковая модель с открытыми весами, разработанная NVIDIA Corporation. Представленная версия распространяется в формате GGUF и сгенерирована с использованием llama.cpp; исходная модель выпущена 11 марта 2026 года. Модель предназначена для агентских сценариев, рассуждений с длинным контекстом, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию IT-заявок. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы внимания, а также Multi-Token Prediction. Всего модель содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, и поддерживает контекст до 1 млн токенов. Доступны английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через шаблон чата. К сильным сторонам относятся сочетание большого контекста, разреженной MoE-архитектуры, поддержки инструментов и ориентация на агентские и корпоративные рабочие процессы. Ограничения включают значительный общий размер модели и высокие требования к инфраструктуре: для исходной версии указано минимум 8 GPU H100 с 80 ГБ памяти. GGUF-версия использует специальную настройку квантования с повышением точности отдельных слоёв, что может увеличить размер файла. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.

NVIDIA-Nemotron-Labs-Teacher-Competition-Coding — языковая модель NVIDIA для соревновательного программирования и алгоритмических задач. Она создана на основе постобученной Nemotron 3 Ultra: модель прошла дополнительное обучение с учителем на задачах программирования и обучение с подкреплением. В рецепте Nemotron 3 Ultra она также служит специализированной моделью-учителем для дистилляции, а как отдельный чекпойнт предназначена для генерации решений, кода и рассуждений по сложным задачам. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, отдельными слоями внимания и Multi-Token Prediction. Она содержит 550 млрд параметров, из которых активно задействуются 55 млрд; заявленная длина контекста в метаданных — 262 144 токена. Модель работает с текстом и кодом, поддерживает английский и ряд других языков, включая французский, испанский, немецкий, японский, корейский, хинди, арабский и китайский. Карточка описывает её как подходящую для коммерческого и некоммерческого использования, но метаданные указывают лицензию «other» без уточнения её условий.

Occiglot-7B-EU5 — базовая многоязычная генеративная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер с архитектурой Mistral и 7,1 млрд параметров. Модель создана продолжительным предобучением Mistral-7B-v0.1 на 293 млрд дополнительных токенов многоязычных данных и кода; максимальная длина контекста по метаданным — 32 768 токенов. Модель предназначена для генерации и продолжения текста на английском, немецком, испанском, французском и итальянском языках, а также для работы с кодом. Её можно использовать как основу для собственных дообучений и оценок. Это базовая модель без дообучения на инструкциях, поэтому она не оптимизирована для диалога или чат-приложений; для таких сценариев авторы предлагают вариант Occiglot-7B-EU5-Instruct. Лицензия — Apache 2.0.

OGSQL-7B — модель OneGate на архитектуре Gemma, дообученная на Gemma 7B Instruct для преобразования запросов на естественном языке в SQL-запросы. Она подходит для интерфейсов к базам данных, где пользователь задаёт вопрос обычным языком, а модель формирует соответствующую SQL-команду. Модель содержит 8,2 млрд параметров, принимает текст и генерирует текст; поддерживает контекст длиной до 8192 токенов. В метаданных указан английский язык. Целевая генерация — SQL, который является языком запросов, а не естественным языком. Модель распространяется по лицензии CC BY 4.0. Карточка не сообщает о точности на конкретных наборах данных или поддерживаемых диалектах SQL, поэтому перед использованием в рабочей системе следует проверять корректность и безопасность сгенерированных запросов.

Olmo 3.1 7B RL-Zero Code — авторегрессионная трансформерная языковая модель Allen Institute for AI (Ai2), дообученная на базовой allenai/Olmo-3-1025-7B с обучением по проверяемым вознаграждениям на наборе Dolci-RL-Zero-Code-7B, содержащем запросы по программированию. Это экспериментальная модель семейства RL-Zero для исследования методов RLVR, ориентированная на генерацию кода и ответы на запросы о программировании. Модель имеет 6,9 млрд параметров, использует архитектуру Olmo3ForCausalLM и принимает текст, выдавая текст; заявленная длина контекста — 65 536 токенов. README указывает английский язык. Для использования доступна библиотека Transformers версии 4.57.0 или выше. Модель может генерировать неточный код и неверные утверждения, а отсутствие фильтрации безопасности допускает вредоносные или чувствительные ответы. Лицензия — Apache 2.0; Ai2 указывает исследовательское и образовательное назначение в соответствии с руководством по ответственному использованию.

Olmo-3-7B-Think-heretic — англоязычная авторегрессионная языковая модель семейства OLMo 3 с 6,9 млрд параметров, созданная Richard Young на основе allenai/Olmo-3-7B-Think. Это версия с abliteration, преобразованием, которое уменьшает склонность модели отказываться от ответов; модель предназначена для генерации текста в диалогах, рассуждений, математики и программирования. Контекстное окно составляет 65 536 токенов. Модель сохраняет возможности и связность исходной версии, однако по приведённой в карточке оценке всё ещё отказывает на части вредоносных запросов. Как и другие языковые модели, она может выдавать фактические ошибки, предвзятые или вредоносные ответы. Доступна по лицензии Apache 2.0; карточка рекомендует использовать её для исследований, творческого письма и обучения методам настройки безопасности.

OmniCoder-9B CoreGen HDLFix v2 GGUF — мультимодальная модель для работы с кодом, выпущенная пользователем tianrui6641 как набор GGUF-файлов для локального запуска в LM Studio и совместимых с llama.cpp средах. Модель получена дообучением OmniCoder-9B-Claude-Opus-High-Reasoning-Distill; в репозитории представлены BF16 и квантованные варианты, а также мультимодальный проектор mmproj для обработки изображений. Указана лицензия Apache-2.0. Модель предназначена для диалоговой помощи при разработке, в том числе для задач с Verilog, SystemVerilog, RTL и встроенным кодом. Поддерживает ввод изображений вместе с текстом и выдаёт текстовые ответы. README описывает удобство локального развёртывания и несколько вариантов размера и точности весов, но не приводит размер контекста или подтверждённый список естественных языков. Качество RTL и ответов не гарантируется; модель не заменяет проверку проектов перед выпуском, а для данного обучения отсутствует широкий внешний набор бенчмарков. Экспериментальный MXFP4-вариант получен с патченной сборкой llama.cpp и может требовать совместимой среды.

bartowski/open-r1_OlympicCoder-32B-GGUF — набор GGUF-квантизованных версий модели OlympicCoder-32B, разработанной open-r1. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix на данных из набора open-r1/codeforces-cots. Модель предназначена для генерации текста и прежде всего для решения задач программирования, включая задачи соревновательного программирования и Codeforces. Модель содержит 32 млрд параметров и поддерживает работу в экосистеме llama.cpp, LM Studio и других совместимых проектах. Доступны варианты квантизации от Q8_0 до Q2_K_L и IQ3/IQ4, с размером файлов примерно от 13,07 до 34,82 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; Q6_K и Q6_K_L, а также ряд Q5- и Q4-вариантов указаны как рекомендуемые. В README заявлен английский язык. Сведения о мультимодальности, максимальном контексте и точной архитектуре не приведены, поэтому модель следует считать текстовой. Сильными сторонами являются специализация на коде и широкий выбор квантизованных вариантов для запуска на оборудовании с разным объёмом памяти. Ограничения включают неизбежную потерю качества у низкобитных вариантов, значительные требования к памяти у версий высокого качества и отсутствие подробных данных о результатах тестирования, контекстном окне и ограничениях применения. Модель и опубликованные квантизованные файлы распространяются по лицензии Apache-2.0.

bartowski/open-r1_OlympicCoder-7B-GGUF — это набор GGUF-квантизированных вариантов модели OlympicCoder-7B, разработанной open-r1. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix; исходная модель основана на датасете open-r1/codeforces-cots. Модель предназначена для генерации текста и, прежде всего, решения задач программирования и рассуждений по ним, включая сценарии локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 7B параметров и поддерживает английский язык. В репозитории представлены варианты от BF16 до низкобитных форматов Q8, Q6, Q5, Q4, Q3, Q2 и IQ, поэтому можно выбирать между качеством и требованиями к памяти: размеры файлов указаны примерно от 3,35 до 15,24 ГБ. Рекомендуемыми названы некоторые варианты Q6, Q5 и Q4; низкобитные варианты экономичнее, но могут заметно уступать в качестве. Точная архитектура и размер контекста в README не указаны. Сильными сторонами являются специализация исходной модели на задачах программирования, широкий выбор степеней квантизации и совместимость с локальными инструментами инференса. Ограничения включают возможное снижение качества в квантизированных версиях, особенно при малом числе бит, отсутствие заявленной мультимодальности и отсутствие информации о поддержке других языков или расширенном контексте. Для модели указана лицензия Apache-2.0.

PeppX/Ornith-1.0-9B-Uncensored-GGUF — GGUF-квантизированная версия модели PeppX/Ornith-1.0-9B-Uncensored, разработанная PeppX. Это текстовая генеративная модель для локального запуска, ориентированная на программирование, рассуждения, агентские сценарии, генерацию текста, кибербезопасность и red-team-задачи. Модель позиционируется как uncensored и abliterated: из базовой модели удалено направление, связанное с отказами, без дополнительного обучения и тонкой настройки. Модель имеет плотную архитектуру Qwen 3.5 с 32 слоями и примерно 9 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. Доступны варианты квантования Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 5,6 до 9,5 ГБ; они рассчитаны на локальный запуск с помощью llama.cpp, LM Studio или Ollama. Заявлены сохранение исходных возможностей в кодировании, математике, рассуждениях и следовании инструкциям, а также низкое расхождение с базовой моделью по KL-дивергенции 0,0827, однако приведённые показатели зависят от методики оценки. Ключевая особенность модели — заявленный авторами нулевой уровень отказов, что может быть полезно для исследовательских, тестовых и red-team-сценариев, но одновременно повышает риск генерации небезопасного или вредоносного контента. Ограничения включают зависимость качества и скорости от выбранной квантизации и оборудования, а также отсутствие в README подробных данных о мультимодальности, обучающем наборе и результатах независимых бенчмарков. Модель распространяется по лицензии MIT.

dealignai выпустила Ornith-1.5-35B-A3B-UNCENSORED-MXFP8 — версию Ornith-1.5-35B-A3B с удалённым на уровне весов поведением отказа и квантованием MXFP8 в формате MLX для Apple Silicon. Основа — мультимодальная MoE-модель семейства Qwen 3.5 с 35,9 млрд параметров; README указывает 40 слоёв, 256 маршрутизируемых экспертов, гибридный блок gated-delta и full attention, а также 27-слойную визуальную башню. Метаданные Hugging Face относят модель к задаче image-text-to-text и указывают поддержку чата, зрения и интерфейса вызова инструментов. Модель принимает текст и изображения; README также заявляет обработку видео. Она рассчитана на диалог, рассуждения, программирование с инструментами и анализ визуального содержимого. Карточка приводит результаты MMLU 78,9%, HarmBench 100% и KL-дивергенцию 0,0289 относительно некрякнутой MXFP8-версии; это результаты авторского тестирования на данном бандле. Для запуска предназначены vMLX или совместимая с архитектурой qwen3_5_moe среда MLX-VLM на Apple Silicon. Удаление отказов означает, что модель может выполнять запросы без защитного отказа; авторы ориентируют публикацию на исследования безопасности ИИ и разрешённое тестирование. Лицензия — Apache-2.0.

Pensez-v0.1-e5 — двуязычная англо-французская языковая модель для диалогов и задач рассуждения, разработанная на базе Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель Qwen2 с 7,1 млрд параметров, дообученная методом SFT на наборе Pensez v0.1 из 2 000 примеров: по 1 000 на французском и английском языках. Модель предназначена для повседневных вопросов, научных задач, математики и программирования; для простых запросов использует краткие рассуждения, а для сложных может разворачивать их подробнее. Поддерживает контекст до 32 768 токенов и поставляется в формате safetensors. В карточке приведены сравнительные результаты на франкоязычных тестах по математике, пониманию вопросов и знаниям; результаты различаются по бенчмаркам и не гарантируют качество для всех запросов. Модель доступна по лицензии Apache-2.0. Для запуска автор указывает библиотеку Transformers.

Phi-3-mini-mango-1 — экспериментальная instruct-дообученная языковая модель Rhys Jones на базе Microsoft/Phi-3-mini-4k-instruct. Она предназначена для диалоговой генерации текста и кода, а также для изучения свойств и поведения Phi-3 после дообучения. Модель имеет плотную архитектуру Phi-3, около 3,7 млрд параметров и контекст до 4096 токенов; принимает текст и генерирует текст. Карточка указывает на использование того же формата чата, что и у Phi-3 Mini-4K-Instruct, без системного промпта. Это первая экспериментальная версия дообучения. Она распространяется в формате Safetensors, а отдельная версия GGUF доступна в другом репозитории. Лицензия — MIT. Для запуска README рекомендует Transformers версии 4.41.0 или новее.

Thrillcrazyer/Phi4_LoopUS — разговорная языковая модель для генерации текста, построенная на базе Microsoft Phi-4 с применением посттренировочного фреймворка LoopUS. Разработка LoopUS описана исследователями BAELAB Пусанского национального университета и DOLAB Университета Чангвон; карточка модели указывает дообучение Phi-4 и формат safetensors. LoopUS преобразует предобученный трансформер в архитектуру с энкодером, рекурсивным блоком уточнения скрытых представлений и декодером. Модель предназначена для диалога и задач рассуждения; выборочное управление передачей скрытых состояний призвано снижать дрейф, а голова уверенности позволяет досрочно завершать вычисления. Базовая Phi-4 ориентирована прежде всего на английский язык и поддерживает генерацию текста, рассуждения, математику и программирование. Модель распространяется по лицензии Apache-2.0. Карточка не приводит отдельные измерения качества или подробные ограничения именно этой версии, поэтому её преимущества для конкретных задач следует оценивать по результатам тестирования.

Phi-tiny-MoE-instruct — компактная языковая модель Microsoft для диалогов и следования инструкциям. Это декодерный Transformer с архитектурой смеси экспертов (MoE): в README указаны 3,8 млрд параметров и 1,1 млрд активных, тогда как метаданные каталога приводят 1,6 млрд параметров. Модель создана методом SlimMoE на основе модели, общей для Phi-3.5-MoE и GRIN-MoE, а затем дообучена на инструкциях и предпочтениях пользователей. Для этого варианта точный идентификатор базовой модели в метаданных не указан. Модель предназначена для англоязычных универсальных ассистентов, а также сценариев с ограничениями по памяти, вычислениям или задержке. Принимает текстовые запросы в формате чата и генерирует текст; контекст — до 4096 токенов. Данные включают синтетические учебные материалы, отфильтрованные открытые документы, код и диалоговые примеры; сведения в README указывают на преимущественное обучение на английском. Модель может помогать с ответами на вопросы, объяснениями, рассуждениями и генерацией кода. Возможны неточности и выдуманные утверждения, предвзятые или оскорбительные ответы; качество для языков, отличных от английского, ниже. Для важных и чувствительных сценариев ответы следует проверять. Лицензия — MIT, допускающая коммерческое использование.

phixtral-4x2_8 — языковая модель на архитектуре Mixture of Experts, созданная Mlabonne путём объединения четырёх моделей Microsoft Phi-2 по мотивам Mixtral-8x7B. В конфигурацию вошли cognitivecomputations/dolphin-2_6-phi-2, lxuechen/phi-2-dpo, Yhyu13/phi-2-sft-dpo-gpt4_en-ep1 и mrm8488/phi-2-coder; маршрутизация экспертов использует режим cheap_embed. Модель предназначена для генерации текста, диалогов и кода на английском языке. В README приведено сравнение с отдельными моделями Phi-2 на наборе Nous suite: средний результат phixtral-4x2_8 составил 47,7; условия тестирования описаны кратко, поэтому эти цифры не гарантируют аналогичное качество в других задачах. Контекст — 2048 токенов. Репозиторий содержит веса Safetensors, а лицензия — MIT. В README также упомянута возможность запуска в 4-битной точности на GPU T4.

Pixtral-12B-2409 — мультимодальная модель Mistral AI для работы с изображениями и текстом. Она сочетает декодер на 12 млрд параметров и визуальный энкодер на 400 млн параметров, обучена на чередующихся данных изображений и текста и поддерживает изображения разных размеров. Модель предназначена для понимания изображений и диаграмм, ответов на вопросы по визуальному содержимому и текстовых задач, включая следование инструкциям, математику и программирование. Заявленная длина последовательности — 128 тыс. токенов. В карточке приведены результаты сравнительных тестов, в том числе по MMMU, MathVista и ChartQA. Модель выпущена под лицензией Apache 2.0. В README указано, что у неё нет механизмов модерации, поэтому при использовании следует учитывать риск немодерируемых ответов.

ProCreations_grug-9b-GGUF — квантизированная версия модели grug-9b, разработанной ProCreations и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель основана на датасете ProCreations/grug-think; в карточке указаны направления применения, связанные с кодом, агентами, использованием инструментов, рассуждениями и эффективным выводом. Pipeline обозначен как image-text-to-text, однако подробности о поддерживаемых визуальных возможностях не приведены. Модель имеет размер 9 млрд параметров в исходной версии. Доступны варианты от BF16 до различных уровней квантования, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные форматы. Квантизация выполнена с применением imatrix, что позволяет выбирать компромисс между качеством, размером файла и требованиями к оперативной памяти. Для запуска указаны llama.cpp, LM Studio, KoboldCpp, Jan, Text Generation Web UI и другие совместимые приложения; используется специальный шаблон prompt с системными и пользовательскими сообщениями и секцией рассуждений. Сильными сторонами являются широкий выбор квантованных вариантов, возможность локального запуска и ориентация на задачи программирования, агентное взаимодействие и tool use. Качество зависит от выбранного формата: высокобитные варианты ближе к исходной модели, а самые компактные экономят память ценой снижения качества. Данные о языках, размере контекста, точных архитектурных характеристиках, результатах тестирования и ограничениях безопасности в README отсутствуют. Лицензия — MIT.

Qemma-Q14B — гибридная языковая модель для генерации текста и диалогов, опубликованная Convergent Intelligence LLC: Research Division. Веса Gemma-3 (1B) и Qwen3-14B объединены на уровне весов; по описанию автора, модель сочетает блоки Gemma с вниманием и головкой Qwen, а затем проходит дообучение SFT для следования инструкциям и пошаговых рассуждений. Для токенизации используется токенизатор Gemma-3. Модель предназначена для ответов на инструкции, анализа, помощи с кодом и дальнейшего дообучения. В метаданных указаны 1 млрд параметров и контекст до 524 288 токенов; автор также описывает масштабирование RoPE на основе YaRN. Модель распространяется в формате safetensors по лицензии OSL-3.0. Ответы могут содержать фактические ошибки. Автор не рекомендует использовать модель для решений в критически важных, медицинских, юридических и финансовых ситуациях.

Qwable-v2 — это открытая модель весов для агентного программирования, созданная автором lordx64 на базе Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled. Это дообученная модель семейства Qwen с архитектурой MoE и 35 млрд параметров, из которых активны около 3 млрд. Она принимает текстовые запросы и генерирует текст; интерфейс вызова инструментов позволяет агентному сценарию работать с файлами и оболочкой. Для задач программирования модель может выдавать вызовы инструментов Read, Edit и Bash в XML-формате с полями, совместимыми с Claude Code. Для надёжной работы этого формата нужен агентный системный промпт и реестр инструментов; без них модель может отвечать обычным текстом или использовать другой формат вызова. Контекст обучения увеличен до 8192 токенов. Карточка указывает английский язык, формат весов Safetensors и лицензию AGPL-3.0. Модель также предназначена для рассуждений, математики, STEM-задач и общих вопросов благодаря унаследованной базе с дистилляцией рассуждений Claude Opus 4.7. Однако формальная оценка Qwable-v2 ещё не опубликована, а проверка улучшения на SWE-bench Lite и сохранения качества рассуждений ожидает завершения. Обучающие данные для агентного поведения происходят из узкого набора трассировок Claude Code, поэтому результаты на задачах вне этой области могут быть нестабильны. Для интеграции XML-вызовов инструментов в vLLM требуется парсер-обёртка.