II.2Создание и понимание программного кода

Ornith-1.0-35B-GGUF-llamacpp-tp1 — это GGUF-версия языковой модели Ornith-1.0-35B, разработанной deepreinforce-ai, подготовленная для запуска через llama.cpp на одной GPU. Модель предназначена для генерации текста и кода, а также для сценариев локального сервинга с различными требованиями к скорости, объёму памяти и точности. В комплект входят варианты квантования Q3_K_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также вариант IQ4_XS-MTP с интегрированной головой multi-token prediction для ускорения спекулятивной генерации при низкой конкуренции. Размер исходной модели составляет 35B параметров. Доступны артефакты объёмом примерно от 15,61 до 34,37 GiB на диске, с требованиями к загруженной VRAM примерно от 17,27 до 34,77 GiB в зависимости от квантования. Вариант Q4_K_M позиционируется как сбалансированный по скорости и памяти, Q6_K и Q8_0 обеспечивают наиболее высокую точность, а Q3_K_M предназначен для минимального потребления памяти. Для MTP-варианта заявлено ускорение однопоточной генерации примерно в 1,3 раза; при этом длинные детерминированные последовательности не являются побитно идентичными режиму без MTP. Сильными сторонами являются широкий выбор квантований, высокая скорость инференса через llama.cpp и возможность локального запуска на одной GPU. Ограничениями выступают требование режима tp=1, отсутствие поддержки multi-GPU tensor parallel serving в этой версии и неизбежная потеря точности у более компактных квантований. Лицензия — MIT.

SC117 выпустил Ornith-1.0-35B-Heretic-MTP как экспериментальную производную модели Ornith-1.0-35B от DeepReinforce AI. Это разговорная модель для генерации текста, в том числе для агентного программирования; архитектура относится к семейству Qwen3.5 MoE. В релиз вошли слитые с весами BF16 параметры адаптера Heretic Trial 63, совместимая голова MTP и визуальный проектор BF16. README также описывает варианты APEX GGUF со смешанной точностью, но метаданные этого репозитория указывают формат safetensors. Модель принимает текст и может работать с изображениями через визуальный проектор; основной выход — текст. В README приведена команда запуска с контекстом 131072 токена. Лицензия — MIT. Изменение поведения отказов относительно исходной модели требует отдельной оценки перед развёртыванием.

Ornith-1.0-35B-MTPLX-Vision — мультимодальная модель для чата с текстом и изображениями, собранная Jonandrop на основе моделей Ornith-1.0-35B и упакованная для Apple Silicon. Она сочетает языковую часть Ornith с восстановленной башней зрения и поддерживает обработку изображений; README также заявляет поддержку видеовхода, хотя метаданные Hugging Face указывают задачу image-text-to-text. Архитектура относится к семейству Qwen 3.5 MoE; корпус модели и MTP-головы квантизированы до 4 бит, а башня зрения хранится в bf16. Модель использует MTPLX с многотокенным предсказанием для ускорения генерации и может работать как локальный OpenAI-совместимый сервер на Apple Silicon. Модель подходит для программирования, диалога и вопросов по изображениям в локальном окружении. README приводит измерения скорости на Apple M5 Pro с 64 ГБ памяти; это результаты конкретной конфигурации, а не универсальные гарантии производительности. Лицензия производной модели — MIT; для перенесённых MTP-тензоров также применяются условия Apache-2.0 и NOTICE проекта Qwen3.5-35B-A3B.

Ornith-1.0-397B — открытая модель семейства Ornith от Ornith AI для агентного программирования. Она дообучена с применением обучения с подкреплением на базе Qwen 3.5; в метаданных указаны архитектура семейства qwen3_5_moe и класс Qwen3_5MoeForConditionalGeneration. Репозиторий содержит веса Safetensors, а лицензия — MIT. Модель предназначена для создания и использования coding-агентов: она помогает разбираться в крупных кодовых базах, решать задачи разработки через терминальные инструменты и вызывать подключённые инструменты. В README заявлены высокие результаты на Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw. Для развёртывания описан OpenAI-совместимый сервер; пример для vLLM использует 8 GPU и контекст до 262 144 токенов. Это крупная модель MoE на 397 млрд параметров, поэтому запуск требует мощной мног GPU инфраструктуры, несмотря на заявление README об эффективном развёртывании.

Ornith-1.0-397B-GGUF — открытая языковая модель из семейства Ornith-1.0, разработанная deepreinforce-ai и представленная в формате GGUF командой Unsloth. Модель предназначена прежде всего для агентного программирования и задач, связанных с автономной разработкой ПО, включая работу с терминалом, решение инженерных задач и генерацию кода. В README заявлено, что семейство ориентировано на высокую производительность в Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw. Модель относится к архитектуре Qwen 3.5 MoE и имеет заявленный размер 397B параметров; при этом она описывается как вариант, рассчитанный на эффективное развертывание на одной GPU. Ornith-1.0 использует обучение с подкреплением, оптимизируя не только итоговые решения, но и scaffolding — структуру поиска и выполнения шагов, которая приводит к этим решениям. Это может быть сильной стороной в многошаговых агентных сценариях и программировании, однако конкретные характеристики контекстного окна, языков, поддерживаемых модальностей, требований к памяти и особенностей квантования GGUF в предоставленных данных не указаны. Модель распространяется по лицензии MIT, без региональных ограничений, что допускает свободное использование при соблюдении условий лицензии. Заявленные результаты бенчмарков следует интерпретировать с учетом конкретного раннера и конфигурации оценки: для Terminal-Bench 2.1 указаны результаты 77,5 с Terminus-2 и 78,2 с Claude Code.

Ornith-1.0-9B-ASHQ1-GGUF — квантованная версия модели Ornith-1.0-9B от DeepReinforce, подготовленная wepiqx в формате GGUF для запуска через llama.cpp и совместимые приложения. Модель предназначена для генерации кода и работы в автономных агентных сценариях; поддерживает диалоговый режим. В карточке описан тест с агентом Pi, который использовал модель для планирования и создания одностраничной панели личных финансов, а также для самопроверки и исправления кода. В основе лежит архитектура Qwen3.5-9B: 32 слоя, GQA и SSM, заявленный контекст — 262 тыс. токенов. Применена квантовка ASHQ1 с несколькими вариантами размера файлов; README приводит результаты практического теста для варианта 6,4 ГБ. Для него указано около 7,5 ГБ VRAM при контексте 8192 и рекомендуемая видеокарта с 8 ГБ памяти. Хотя архитектура поддерживает длинный контекст, приведённые инструкции запуска используют контекст 8192. Репозиторий лицензирован по Apache-2.0; README сообщает, что исходная модель распространяется по MIT. Количественные результаты приводятся разработчиком модели и не являются независимой оценкой. Карточка заявляет сильные результаты в тестовом агентном сценарии, но не даёт оснований гарантировать их для других задач или конфигураций.

Ornith-1.0-9B-GGUF — компактная открытая языковая модель семейства Ornith-1.0, разработанная командой Deep Reinforce. Модель ориентирована на агентное программирование и предназначена для эффективного развёртывания на одной GPU. Это 9B-Dense-вариант, созданный на базе Gemma 4 и Qwen 3.5 с последующим обучением методом reinforcement learning. Поддержка формата GGUF указана в идентификаторе модели. Ключевая особенность Ornith-1.0 — самоулучшаемое обучение, при котором модель оптимизирует не только последовательность действий для решения задачи, но и scaffold, управляющий этим решением. Такой подход нацелен на улучшение поисковых траекторий и качества выполнения сложных задач разработки программного обеспечения. По заявленным результатам модель показывает высокую эффективность среди открытых моделей сопоставимого размера: 43,1 на Terminal-Bench 2.1 с Terminus-2, 40,6 с Claude Code, 69,4 на SWE-bench Verified и 42,9 на SWE-bench Pro. Сильными сторонами являются специализация на агентном кодинге, сравнительно небольшой размер и возможность локального запуска на одной GPU. Ограничения связаны с тем, что README не содержит сведений о размере контекста, поддерживаемых языках, мультимодальности, точных требованиях к оборудованию и качестве вне задач программирования; заявленные показатели также зависят от используемого агентного окружения. Модель распространяется по лицензии MIT и заявлена как доступная без региональных ограничений.

Ornith-1.0-9B-GGUF — GGUF-квантизированная версия Ornith-1.0-9B, разработанная Unsloth на базе модели deepreinforce-ai/Ornith-1.0-9B. Это компактная открытая модель для агентного программирования, ориентированная на эффективное развёртывание на одной GPU и решение задач, связанных с разработкой и изменением кода. Модель относится к семейству Ornith-1.0, в котором применяется обучение с подкреплением для совместной оптимизации решений и scaffolding, управляющего поиском решения. Для версии 9B заявлены результаты 43,1 на Terminal-Bench 2.1 (Terminus-2), 40,6 на Terminal-Bench 2.1 (Claude Code) и 69,4% на SWE-bench Verified. README не содержит точных сведений о размере контекста, языках программирования, поддерживаемых модальностях или конкретной архитектуре; из тегов следует принадлежность к семейству Qwen 3.5 MoE, но это не позволяет достоверно описать архитектуру данной версии. К сильным сторонам относятся специализация на агентном кодинге, компактный размер и возможность локального запуска с использованием GGUF. Ограничения связаны с отсутствием в представленных данных подробностей о квантизации, требованиях к памяти, контекстном окне и языковом покрытии, поэтому практические характеристики следует уточнять отдельно. Модель распространяется по лицензии MIT.

Ornith-1.5-27B-A3B-Coder — языково-модельный чекпойнт для генерации кода, созданный ManniX-ITA на основе Ornith-1.5-35B-A3B. Это разрежённая MoE-модель семейства Qwen3.5, полученная сокращением числа экспертов с 256 до 184 в каждом из 40 слоёв; активируются 3B параметров, а общий размер составляет около 26,7B. Маршрутизатор, механизм внимания, нормализации и голова MTP для спекулятивного декодирования сохранены без изменений. Веса представлены в BF16 и формате safetensors. Модель предназначена прежде всего для генерации и дополнения кода. В описанных разработчиком тестах она показала улучшение относительно исходной модели на ряде кодовых бенчмарков, но снижение результата на GPQA; README рекомендует для выбора между этой моделью и родственной CoderX начать с CoderX. Также заявлены возможности чата и интерфейс вызова инструментов, однако точность параметров при формировании структурированных вызовов инструментов отмечена как слабое место. Контекстная длина и конкретный набор поддерживаемых языков программирования в предоставленных данных не приведены. Лицензия — Apache-2.0. README называет модель исследовательским чекпойнтом и отмечает ограничения измерений: большинство результатов получены в одном прогоне, а для некоторых сравнений использовалась разная измерительная база.

cyankiwi/Ornith-1.5-35B-A3B-AWQ-INT4 — квантованная версия модели Ornith-1.5-35B-A3B, разработанной командой Ornith AI. Это языковая модель для генерации текста, ориентированная прежде всего на программирование, агентские сценарии и работу с инструментами. Модель создана с применением цикла самоулучшения, включающего автоматическую генерацию задач, поиск эффективных стратегий и обучение с подкреплением. Модель относится к архитектуре mixture-of-experts: при общем размере 35B параметров на каждый токен активируется примерно 3B параметров. Данная версия использует квантование AWQ INT4 и занимает около 26,12 ГБ. В README заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Контекстное окно и мультимодальные возможности не указаны. Сильными сторонами заявлены результаты в задачах программирования и агентного кодинга: модель превосходит сопоставимую Qwen3.6-35B-A3B на приведённых бенчмарках и показывает преимущество над некоторыми плотными моделями близкого размера. Ограничения включают отсутствие данных о контекстном окне, качестве на широком спектре задач и характеристиках инференса; INT4-квантование также может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии MIT.

Ornstein-3.5-9B-V1.5 — дообученная DJLougen / GestaltLabs модель семейства Qwen3.5 с примерно 9,65 млрд параметров. Это плотная модель на базе Qwen/Qwen3.5-9B-Base, выпущенная в формате BF16 и предназначенная для диалогового использования через Transformers; карточка также указывает интерфейс вызова инструментов. Модель ориентирована на многошаговые рассуждения, научные и технические задачи, помощь в исследованиях ИИ, программирование и обычный диалог. По заявленным разработчиком тестам GBS STANDARD-200 она превосходит базовую модель в рассуждениях и научных вопросах; результаты приведены в README и не гарантируют аналогичного качества на других задачах. V1.5 — промежуточный релиз supervised fine-tune, а не описываемая как завершённая версия будущего этапа обучения с reinforcement learning. Модель принимает текст и выдаёт текст. Карточка ориентирует её на английский язык. Лицензия — Apache 2.0.

OxCoder-9B-GGUF — GGUF-версия модели OxCoder-9B, разработанной OrionLLM на основе Qwen3.5-9B. Модель предназначена для агентного программирования на длительном горизонте, автоматизации работы в терминале, рассуждений и практических задач разработки программного обеспечения, включая работу со сложными многофайловыми кодовыми базами. Указан английский язык; README также содержит тег image-text-to-text и файл mmproj, однако подробности мультимодальных возможностей не описаны. Модель содержит 9 миллиардов параметров и поддерживает нативное контекстное окно 262 144 токена. Она обучалась на дистиллированных агентных траекториях, созданных с использованием Fable-5.1 и GLM-5.3 в средах Claude Code, OpenCode и Codex. Среди заявленных сильных сторон — агентное программирование в терминале, фронтенд-рассуждения, понимание UI-логики и архитектуры компонентов, а также восстановление после ошибок с чтением перед записью и минимальными изменениями на основе диагностик LSP. В README приведены высокие результаты на Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro, GPQA Diamond и ClawEval, но методика оценки не раскрыта. Модель выпускается в нескольких вариантах квантования GGUF, включая BF16, Q3, Q4 и Q5, с размером файлов примерно от 4,26 до 17,9 ГБ; это позволяет выбирать между качеством и требованиями к памяти. Для запуска рекомендуется llama.cpp. Ограничения включают компактный размер по сравнению с более крупными моделями и отсутствие подробной информации о фактическом качестве, системных требованиях и мультимодальном режиме. Распространяется по лицензии Apache 2.0.

Parable-Qwen3-4B-Claude-Fable-5 — локальная языковая модель для программирования и агентных задач, разработанная AnkitAI на основе Qwen/Qwen3-4B. Это плотная архитектура Qwen3ForCausalLM примерно на 3,7 млрд параметров с контекстом до 40 960 токенов; модель принимает и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. В README описано дообучение QLoRA на многошаговых сессиях агентов и терминальных трассах с добавлением примеров общих инструкций; веса объединены с базовой моделью. Репозиторий содержит веса safetensors, а также README упоминает сборку GGUF для локального запуска. Модель предназначена для локальной генерации кода, планирования действий агента и работы с терминальными сценариями. Автор сообщает об улучшении подстройки к агентным трассам и более стабильной выдаче ответов по сравнению с базовой моделью; при этом в приведённом HumanEval-164 результат ниже, чем у Qwen3-4B. Для задач максимальной точности вызова функций автор рекомендует базовую модель. Лицензия модели — Apache-2.0; README также указывает, что условия лицензий исходных обучающих данных и поставщиков сторонних трасс могут влиять на коммерческое использование производных систем.

Pepper 1 Preview — компактный ассистент для генерации кода, разработанный украинской лабораторией Minsore на базе Qwen2.5-Coder-1.5B-Instruct. Это инструкционно дообученная плотная модель Qwen2 с 1,5 млрд параметров; она принимает текстовые описания на английском языке и генерирует преимущественно код на Python. Модель рассчитана на написание функций по запросу на естественном языке и интерактивную работу на потребительском оборудовании. Доступны веса Safetensors и GGUF Q4_K_M; заявленная длина контекста в метаданных — 32 768 токенов, хотя README предупреждает об ограничении контекста инференса до 4K и усечении длинных файлов. В README приведены результаты тестирования: 82% HumanEval@50, 26% MBPP@50 и 20% LiveCodeBench@30; авторы отмечают преимущество над базовой моделью на HumanEval и более слабый результат на алгоритмических задачах LiveCodeBench. Ограничения включают специализацию на Python, отсутствие поддержки FIM и склонность иногда добавлять лишние пояснения. Лицензия Apache 2.0.

ianshank/phi-35-moe-instruct — инструктивная языковая модель семейства Phi-3.5-MoE на архитектуре mixture-of-experts, опубликованная под лицензией MIT. Она предназначена для диалоговых и генеративных приложений, включая сценарии с ограничениями по вычислительным ресурсам или задержке, а также задачи рассуждения, программирования, математики и логики. В README указано, что модель прошла supervised fine-tuning и этапы оптимизации предпочтений PPO и DPO; метаданные каталога указывают 4 млрд параметров, а карточка заявляет 6,6 млрд активных параметров. Эти значения приведены в источниках по-разному и могут отражать разные способы подсчёта. Модель поддерживает многоязычные запросы и рассчитана на чатовый формат. В README заявлена длина контекста 128 тыс. токенов, тогда как метаданные указывают нативный контекст 4096 токенов; фактическую длину для этой копии следует проверять по её конфигурации. Репозиторий использует safetensors и библиотеку Transformers. Модель подходит для генерации текста и кода, но качество и безопасность для конкретного применения требуют отдельной оценки; README отмечает уязвимость к длинным многошаговым jailbreak-запросам и необходимость осторожности в высокорисковых сценариях.

QuantFactory/Phi-3-mini-128k-instruct-GGUF — это квантизированная версия языковой модели microsoft/Phi-3-mini-128k-instruct, разработанной Microsoft. Модель содержит 3,8 млрд параметров, поддерживает контекст до 128 тысяч токенов и предназначена для генерации текста в формате инструкций. Она обучалась на синтетических и отфильтрованных общедоступных данных с акцентом на качество и рассуждения, а после базового обучения прошла supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и соблюдения требований безопасности. Модель ориентирована на англоязычные коммерческие и исследовательские сценарии, включая работу в условиях ограниченных ресурсов и требований к задержке, а также задачи, связанные с рассуждениями, программированием, математикой, логикой и обработкой длинного контекста. К сильным сторонам относятся компактный размер, высокая производительность среди моделей с менее чем 13 млрд параметров и большой контекст. Ограничения включают поддержку английского языка в заявленных сценариях, возможные ошибки и необходимость отдельно проверять точность, безопасность, справедливость и соответствие требованиям законодательства, особенно в чувствительных и высокорисковых применениях. Модель распространяется по лицензии MIT.

qwp4w3hyb/Phi-3-mini-128k-instruct-iMat-GGUF — это GGUF-квантизированная версия Phi-3-Mini-128K-Instruct, разработанной Microsoft. Модель содержит 3,8 млрд параметров и предназначена для генерации текста, диалоговых приложений и использования в условиях ограниченных ресурсов, где важны низкая задержка, компактность и способность решать задачи рассуждения, программирования, математики и логики. Модель обучалась на синтетических данных и отфильтрованных общедоступных веб-данных, а после предварительного обучения прошла supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и соблюдения требований безопасности. Модель поддерживает контекст до 128 тысяч токенов, словарь размером до 32 064 токенов и ориентирована прежде всего на английский язык, хотя в карточке также указана многоязычность. Это текстовая авторегрессионная модель; сведения о конкретной архитектуре и полном наборе поддерживаемых языков не приведены. Данная сборка включает варианты квантизации от Q8_0 до IQ1_S, выполненные с использованием importance matrix в llama.cpp для снижения потерь точности. Для работы требуется актуальная версия llama.cpp master и совместимый GGUF-инференс. Сильные стороны модели — сочетание небольшого размера с заявленной высокой эффективностью среди моделей менее 13 млрд параметров, длинный контекст и хорошие возможности в коде, математике, логике и общем понимании языка. Ограничения включают возможные ошибки и необходимость отдельно проверять точность, безопасность и справедливость результатов, особенно в сценариях с высокими рисками. Модель выпущена под лицензией MIT; конкретный выбранный уровень квантизации может влиять на качество и требования к ресурсам.

Phi-3-Mini-4K-Instruct — компактная плотная языковая модель Microsoft семейства Phi-3 с 3,7 млрд параметров. Она обучена на синтетических данных и отфильтрованных общедоступных веб-источниках, а затем дообучена методом supervised fine-tuning и оптимизирована по предпочтениям (DPO) для следования инструкциям и повышения безопасности. Для диалогов рекомендуется использовать формат чата. Модель предназначена для генерации текста общего назначения, диалоговых систем, задач рассуждения, математики и программирования. Компактный размер рассчитан на сценарии с ограниченными вычислительными ресурсами и требованиями к задержке; длина контекста составляет 4096 токенов. Модель ориентирована прежде всего на английский язык, также в карточке указана поддержка французского. Модель может ошибаться, выдавать предвзятые или оскорбительные ответы; качество на языках, отличных от английского, может быть ниже. Для критичных сценариев требуется отдельная проверка качества и безопасности. Лицензия — MIT.

Phi-3-mini-4k-instruct-4bit — это 4-битная версия модели Phi-3-mini-4k-instruct, преобразованная сообществом mlx-community в формат MLX из исходной модели Microsoft. Конвертацию выполнил Prince Canuma с использованием mlx-lm 0.10.0; модель предназначена для запуска и генерации текста через экосистему MLX. Модель решает задачи генерации текста и диалогового взаимодействия на английском языке, включая ответы на вопросы, составление текстов и помощь с кодом. Она содержит около 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. 4-битное представление снижает требования к памяти по сравнению с полноразмерной версией, что удобно для локального запуска на совместимом оборудовании Apple Silicon и других средах MLX. Модель распространяется по лицензии MIT. Ограничения исходной Phi-3-mini-4k-instruct, включая возможные ошибки, галлюцинации, чувствительность к формулировкам запросов и риски при использовании с непроверенным кодом или фактическими сведениями, сохраняются; результаты требуют проверки человеком.

Карточка модели ausascsdas/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Карточка модели Justbackup/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Карточка модели Openintelligent123/Phi-4-mini-instruct на Hugging Face совпадает с карточкой microsoft/Phi-4-mini-instruct, поэтому описание составлено по ней. Phi-4-mini-instruct — компактная языковая модель Microsoft семейства Phi-4 с архитектурой Phi-3 и 3,8 млрд параметров. Она обучена на синтетических данных и отфильтрованных общедоступных веб-материалах, а затем дообучена с учителем и оптимизирована по предпочтениям для следования инструкциям и повышения безопасности. Метаданные указывают контекст 4096 токенов; в README заявлен контекст до 128K токенов. Модель предназначена для диалоговых и генеративных приложений общего назначения, особенно при ограниченных вычислительных ресурсах или требованиях к низкой задержке. Среди заявленных сильных сторон — рассуждения, в особенности математические и логические задачи, следование инструкциям, работа с кодом и интерфейс вызова инструментов. Поддерживается многоязычная работа, включая русский и английский; качество может различаться между языками. Модель принимает текст и генерирует текст. Она выпущена под лицензией MIT. README предупреждает о возможных ошибках и вредных ответах, уязвимости к длительным многоходовым jailbreak-атакам и галлюцинациях имён функций или URL при вызове инструментов; для конкретных сценариев рекомендуется оценивать точность, безопасность и справедливость.

unsloth/Phi-4-mini-instruct — вариант Phi-4-mini-instruct от Unsloth с исправлениями токенов и шаблона чата. Это компактная плотная языковая модель архитектуры Phi-3 с 3,8 млрд параметров, представленная в формате Safetensors и рассчитанная на работу через Transformers. В карточке базовой модели заявлен контекст до 128 тыс. токенов, однако метаданные этого репозитория указывают native context в 4096 токенов; ориентироваться следует на конфигурацию конкретной сборки и используемого ПО. Модель предназначена для диалогов, генерации текста и кода, следования инструкциям и рассуждений, в том числе математических и логических, в сценариях с ограниченными вычислительными ресурсами или требованиями к низкой задержке. Карточка заявляет многоязычную направленность; среди языков проверки безопасности названы английский, китайский, японский, испанский, португальский, арабский, тайский и русский. Модель поддерживает чат и интерфейс вызова инструментов, но может выдумывать названия функций или URL. Лицензия — MIT.

RedHatAI/phi-4-quantized.w8a8 — квантизированная версия языковой модели phi-4, разработанной Microsoft. Модель подготовлена Red Hat совместно с Neural Magic и предназначена для генерации текста, диалоговых приложений, задач рассуждений, логики, математики и программирования, преимущественно на английском языке. Она принимает текст и генерирует текст, а архитектура указана как Phi3ForCausalLM. Модель использует INT8-квантизацию весов и активаций. Квантизация линейных операторов в трансформерных блоках примерно вдвое снижает требования к памяти GPU и размер модели на диске, а также может увеличить пропускную способность матричных вычислений примерно в два раза. Для весов применяется симметричная статическая поканальная схема, для активаций — симметричная динамическая потокенная схема; используются методы SmoothQuant и GPTQ через библиотеку llm-compressor. В README приведён пример развёртывания с vLLM и максимальной длиной контекста 32768 токенов в конфигурации сервера. Модель подходит для сред с ограниченными ресурсами и сценариев, чувствительных к задержке, а также как компонент генеративных AI-систем. Ограничения включают преимущественную ориентацию на английский язык, возможные типичные ошибки языковых моделей и отсутствие оценки для всех прикладных сценариев. Перед использованием в критически важных или высокорисковых задачах необходимо отдельно проверять точность, безопасность и справедливость результатов. Модель распространяется по лицензии MIT и валидирована для RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5.

Phi-4-reasoning — открытая по весам языковая модель Microsoft Research, дообученная на базе Phi-4 с помощью supervised fine-tuning на примерах цепочек рассуждений и обучения с подкреплением. Она предназначена для диалоговых генеративных приложений, где важны рассуждения и логика, а также ограничены вычислительные ресурсы или допустимая задержка. Основные области обучения и оценки — математика, наука и программирование; модель рассчитана прежде всего на английский язык. Модель использует плотный декодерный Transformer архитектуры Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов. При инференсе рекомендуется ChatML-шаблон; для более сложных запросов авторы советуют выделять больше токенов на генерацию. Модель может ошибаться и не проходила оценку для всех прикладных сценариев, поэтому ответы следует проверять, особенно при использовании в задачах с высокими последствиями. Лицензия — MIT.

LearningOpt/pie-hq-selfplay-13b — дообученная модель семейства CodeLlama на высококачественных и дополненных методом self-play данных. Она предназначена для генерации и оптимизации программ на C++; подробности сбора данных и обучения автор приводит на связанной веб-странице. Модель построена на архитектуре Llama, содержит 12,9 млрд параметров и рассчитана на контекст до 16 384 токенов. Репозиторий содержит веса в формате safetensors. Модель подходит для генерации вариантов C++ кода и помощи в его оптимизации. Лицензия — llama2. README не приводит сравнительных оценок качества или подробных ограничений, поэтому фактическую эффективность для конкретных задач следует проверять отдельно.

PipableAI pip-library-etl-1.3b — языковая модель для генерации кода и документации к нему. Разработчики сообщают, что модель обучали с использованием softmax cross entropy, модифицированного policy gradient и Q loss в EM-схеме. В Hugging Face она представлена как плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации вызовов Python-функций по вопросу и docstring или коду, создания docstring для функций и модулей, а также генерации SQL-запросов по схеме и вопросу. Карточка также отмечает разговорный режим и генерацию кода; язык карточки и языковой тег — английский. Модель можно использовать через библиотеку pip_library_etl или Transformers. Лицензия — Apache-2.0. README заявляет о качестве, сопоставимом с более крупными моделями и GPT-3.5, но не приводит метрик или подробностей оценки, поэтому это утверждение нельзя считать независимой оценкой. Описанные сценарии сосредоточены на Python и SQL; подтверждений широких языковых или предметных возможностей карточка не даёт.

Proximus-2x7B-v1 — языковая модель семейства Mixtral, созданная preemware с помощью LazyMergekit как смесь экспертов из beowolx/MistralHermes-CodePro-7B-v1 и preemware/Prox-MistralHermes-7B. В конфигурации указана базовая модель mlabonne/NeuralHermes-2.5-Mistral-7B; эксперты ориентированы на программирование и кибербезопасность. Модель предназначена для генерации текста и диалоговых сценариев, включая помощь с кодом и вопросы по информационной и сетевой безопасности. Архитектура — Mixtral MoE с классом MixtralForCausalLM; в репозитории доступны веса safetensors. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты оценки качества и не описывает конкретные меры безопасности; ответы по кибербезопасности и сгенерированный код требуют проверки.

Puffin-Qwen2.5-CodeMath-1 — объединённая языковая модель на архитектуре Qwen2, созданная автором репозитория с помощью mergekit из Qwen/Qwen2.5-Coder-1.5B и Qwen/Qwen2.5-Math-1.5B. Для объединения использован метод SLERP; модель содержит 1,5 млрд параметров и рассчитана на генерацию текста, включая сценарии с кодом и математическими задачами. Модель принимает текст и генерирует текст. Она использует библиотеку Transformers, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Карточка не сообщает отдельные сведения о языках или результатах оценки качества. Лицензия в доступных данных не указана.