I.5Создание и редактирование текста

Jayant9928/orpo_v2 — чат-модель для генерации текста на основе плотной архитектуры Llama с классом LlamaForCausalLM. Размер составляет 7,5 млрд параметров, максимальная длина контекста — 8192 токена. Репозиторий содержит веса в формате safetensors. Модель предназначена для диалоговой генерации текста. Карточка автоматически создана и не сообщает разработчика, базовую модель, данные обучения, оценки качества или подробности применения, поэтому специальные преимущества и ограничения сверх этого установить нельзя. Лицензия — Apache-2.0.

Карточка модели anonymous-bird-72/Ouro-1.4B на Hugging Face совпадает с карточкой ByteDance/Ouro-1.4B, поэтому описание составлено по ней. Ouro-1.4B — языковая модель ByteDance с архитектурой LoopLM: decoder-only Transformer, который повторно использует общие веса при рекуррентных вычислениях. Модель содержит 1,3 млрд параметров по метаданным Hugging Face; в README указано 1,4 млрд, 24 слоя и 4 рекуррентных шага. Максимальная длина контекста — 65 536 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая рассуждения с вычислениями в латентном пространстве. Поддерживает адаптивный ранний выход, позволяющий менять расход вычислений; заявленная сильная сторона — эффективность по числу параметров. README сообщает о сопоставимости с обычными трансформерами на 3–4 млрд параметров, но не приводит здесь подробностей оценки. Для запуска рекомендуется Transformers 4.56.0; vLLM не поддерживает адаптивный выход, поэтому при его использовании выполняются все рекуррентные шаги. Модель предоставлена «как есть», без гарантий для производственного применения. Лицензия — Apache-2.0.

Карточка модели anonymous-bird-72/Ouro-2.6B на Hugging Face совпадает с карточкой ByteDance/Ouro-2.6B, поэтому описание составлено по ней. Ouro-2.6B — языковая модель ByteDance с 2,6 млрд параметров на архитектуре Looped Language Model: это декодерный Transformer из 24 слоёв с общими весами, которые повторно применяются на четырёх рекуррентных шагах. Модель предназначена для генерации текста и диалогового взаимодействия; рекуррентные вычисления в скрытом пространстве поддерживают рассуждения, а механизм раннего выхода позволяет менять объём вычислений и баланс между скоростью и качеством. Модель принимает текст и генерирует текст, поддерживает контекст до 65 536 токенов. В README заявлена эффективность по числу параметров на уровне стандартных моделей размером 3–4 млрд параметров, но независимые показатели качества не приведены. Для адаптивного раннего выхода требуется совместимая среда: при использовании vLLM модель всегда выполняет все заданные рекуррентные шаги. Лицензия — Apache 2.0; README предупреждает, что модель предназначена для исследований и предоставляется без гарантий для производственного использования.

palmer-004 — компактная языковая модель семейства Llama, созданная Appvoid объединением нескольких моделей. Она предназначена для генерации текста и ответов на запросы; автор отмечает, что модель склонна отвечать без специального промпта и её можно дополнительно дообучить под конкретную задачу. Модель содержит около 1 млрд параметров, поддерживает контекст до 32 768 токенов и доступна в форматах Safetensors и GGUF F16. В README приведены результаты тестов MMLU, ARC-C, HellaSwag, PIQA и Winogrande: средний результат palmer-004 составляет 0,5244. По сравнению с palmer-004-old улучшились показатели на четырёх тестах, но немного снизился результат Winogrande. Автор также отмечает, что palmer-003 может быть предпочтительнее, если длинный контекст не нужен. Лицензия — Apache-2.0.

Panther v1 — языковая модель Rardilit на архитектуре LLaMA, выпущенная в мае 2023 года. Модель содержит 6,6 млрд параметров, работает с текстом и имеет контекстное окно 2048 токенов. В карточке заявлена поддержка нескольких языков; в метаданных указан английский язык. Модель предназначена для генерации текста, исследования поведения языковых моделей и использования в качестве основы для дообучения. Среди возможных последующих задач названы извлечение информации, ответы на вопросы и суммаризация. Модель может выдавать фактически звучащие, но неверные ответы, а также нерелевантный или повторяющийся текст; возможны стереотипы, персональные данные и неприемлемый контент. Разработчик — Rardilit. Указана лицензия Panther License v1.0, классифицированная в метаданных как other; конкретные условия следует сверять с текстом лицензии. Модель не предназначена для решений с существенными последствиями, в том числе в медицине, праве, политике и финансах.

bunsenfeng/parti_11_full — генеративная языковая модель для создания текста, опубликованная пользователем bunsenfeng на Hugging Face. Модель совместима с библиотекой Transformers и использует архитектурное семейство Qwen2, что следует из метаданных репозитория. Объём модели составляет 7,1 млрд параметров, а нативная длина контекста — 32 768 токенов. Модель предназначена для задач генерации текста и может применяться в диалоговых сценариях, создании и продолжении текстов, подготовке черновиков и интеграции в приложения на базе Transformers. В метаданных также указана conversational-ориентация, однако README не содержит сведений о специализированном дообучении, языках, наборах данных, результатах оценки или рекомендованных сценариях использования. Лицензия в предоставленных данных не указана. Из-за отсутствия описания обучения и тестирования нельзя подтвердить качество модели для конкретных предметных областей, устойчивость ответов, безопасность или фактическую поддержку определённых естественных языков.

bunsenfeng/parti_17_full — языковая модель для генерации текста, опубликованная пользователем bunsenfeng на Hugging Face. README создан автоматически и не содержит достоверных сведений о разработчике, обучающих данных или происхождении модели. Модель предназначена для сценариев генерации и продолжения текста, а также может использоваться в диалоговых приложениях благодаря тегу conversational. В метаданных указаны библиотека Transformers, семейство Qwen2 и формат safetensors. Размер модели составляет 7,1 млрд параметров, максимальная нативная длина контекста — 32 768 токенов. Документация не содержит результатов оценки, описания архитектуры на уровне конфигурации, поддерживаемых естественных языков, лицензии и рекомендаций по безопасному применению. Поэтому качество, языковой охват и допустимые условия использования следует проверять отдельно перед внедрением.

google/pegasus-cnn_dailymail — модель суммаризации на архитектуре PEGASUS, разработанной Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; репозиторий поддерживается @sshleifer. Чекпойнт содержит 366,8 млн параметров и предназначен для создания краткого пересказа текста, в частности новостных материалов CNN/DailyMail. Модель принимает текст и генерирует текстовое резюме; основной язык карточки — английский, длина контекста — до 1024 токенов. PEGASUS использует архитектуру encoder-decoder для генерации текста. В описании семейства авторы сообщают о предобучении на C4 и HugeNews с извлечением и маскированием предложений, а также о случайном варьировании доли пропуска предложений и выборе важных предложений с добавлением случайного шума к оценкам важности. Для этого конкретного чекпойнта README не приводит отдельного набора метрик. Модель распространяется в формате PyTorch; сведения о лицензии в доступных данных отсутствуют.

Penjing-27B-Pollard — это квантизированная версия Qwen/Qwen3.8-27B, подготовленная PollardWeights с использованием метода Pollard Weights. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, ik_llama.cpp, Ollama и LM Studio. Указанная архитектура — qwen3_5, объём — около 27,3 млрд параметров. Поддерживаются текстовые и графические входы, а заявленный язык — английский. Модель рассчитана на диалоговые сценарии и мультимодальные задачи, включая работу с изображениями при использовании дополнительного vision-проектора mmproj-Penjing-27B-bf16.gguf. Доступно несколько вариантов квантизации с разным соотношением размера и качества: от IQ1_KT размером 6,53 ГБ до Q6_K размером 22,43 ГБ. Квантизация основана на измерении чувствительности отдельных слоёв и использует importance matrix; это позволяет эффективнее распределять биты по сравнению с равномерным сжатием. Главное преимущество модели — существенное уменьшение требований к памяти: вариант IQ1_KT примерно на 88% меньше исходной версии f16. При этом качество зависит от выбранного файла: по измерениям на wikitext2 вариант IQ2_KT показал perplexity 5,0817 и был обозначен как рекомендуемый вариант по умолчанию, тогда как IQ1_KT обеспечивает минимальный размер, но заметно сильнее отклоняется от f16. IQ1_KT и IQ2_KT требуют ik_llama.cpp; остальные варианты совместимы со стандартным llama.cpp. Результаты измерений получены на одной машине и могут не полностью отражать качество в прикладных задачах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

p-e-w_phi-4-heretic-GGUF — это набор GGUF-квантизаций модели phi-4-heretic, созданной p-e-w и подготовленной для распространения bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до низкобитных форматов Q8, Q6, Q5, Q4 и Q3. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на генерацию текста, диалоговое взаимодействие, задачи NLP, математику и программирование. В карточке указан английский язык. Доступны файлы разного размера: от 29,32 ГБ для BF16 до 6,25 ГБ для IQ3_XS, что позволяет выбирать компромисс между качеством и требованиями к памяти. Рекомендуемыми названы многие варианты Q4–Q6; Q4_K_M обозначен как стандартный вариант для большинства сценариев. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска и применение imatrix для повышения качества квантованных версий. Ограничения — зависимость качества от выбранного формата, отсутствие в README сведений о точной архитектуре, числе параметров и размере контекста, а также неуказанный chat template: предложенный шаблон может быть некорректным и требует проверки по исходной карточке модели. Лицензия — MIT.

Модель alfatih1234/pgabl-qwen25-1.5b-sft — дообученная разговорная языковая модель семейства Qwen2.5, созданная alfatih1234 на базе unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная модель с 1,5 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста составляет 32 768 токенов. Подходит для диалогов и генерации текста на английском языке, а также для интерфейсов с вызовом инструментов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализированную предметную область или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

Это размещённая пользователем копия модели Microsoft Phi-2 — плотной авторегрессионной языковой модели семейства MixFormer Sequential для генерации текста. Она предназначена для продолжения текста и других задач генерации на основе текстового запроса. Репозиторий содержит веса PyTorch; контекст модели составляет 2048 токенов. Карточка не приводит отдельной настройки или дополнительного обучения этой копии, поэтому её следует рассматривать как публикацию базовой Phi-2. Лицензия Microsoft Research разрешает использование модели только в некоммерческих исследовательских целях и запрещает распространять модель или предоставлять её как самостоятельный хостинг-сервис. README не описывает специальные домены или языковую специализацию.

MaziyarPanahi/phi-2-super-GGUF — набор квантизированных файлов модели abacaj/phi-2-super в формате GGUF. Исходную модель разработал abacaj, а конвертацию и квантизацию выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и системы conversational AI. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. Формат GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В метаданных указана поддержка английского языка; модель работает с текстом и не предназначена для мультимодальных задач. Размер модели, архитектура исходной phi-2-super и длина контекста в README не указаны. К преимуществам относятся возможность запуска локально, широкий выбор уровней квантизации и совместимость с популярными инструментами инференса. Более агрессивная квантизация уменьшает требования к ресурсам, но может снижать точность и качество ответов по сравнению с менее квантизированными вариантами. Условия использования указаны как лицензия MIT.

Phi-3.5-Hyper-Mix — объединённая языковая модель семейства Phi-3.5, созданная bunnycore с помощью mergekit и метода TIES. В качестве базовой модели использована ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1; в объединение также вошли модели для инструктивного программирования, ролевых диалогов, творческого письма и системных инструкций. Модель предназначена для генерации текста и диалоговых сценариев, включая ролевое общение, творческое письмо и ответы на инструкции. Это плотная причинно-языковая архитектура Phi3ForCausalLM примерно на 3,7 млрд параметров с контекстом до 4096 токенов. Для загрузки используются Transformers и формат safetensors. Карточка не сообщает о специальной мультимодальности или лицензии. Качество и поведение модели могут различаться по задачам, поскольку она объединяет несколько источников; отдельные ограничения и результаты оценки не приведены.

Модель ihughes15234/phi35_kp_dpo2epoch — языковая модель для генерации текста в диалоговом формате, разработанная ihughes15234. Она дообучена на базе ihughes15234/phi_3_5_mini_kp_12k_cfr_sft; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 3,7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст, выдавая текст. Заявленная длина контекста — 4096 токенов; в карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Её можно применять для генерации ответов в диалоге и других задач генерации текста. Карточка не сообщает результаты оценок качества или подробности обучающих данных, поэтому пригодность для конкретных сценариев стоит проверять отдельно.

Phi-3.5-mini-instruct-24-9-29 — дообученная на наборе данных lmsys_chat версия компактной плотной языковой модели Phi-3.5-mini-instruct от Microsoft. Модель содержит 3,7 млрд параметров, использует архитектуру Phi-3 и рассчитана на генерацию текста и диалоги; для неё указано контекстное окно 4096 токенов. Модель можно использовать для генерации ответов в чате и других текстовых сценариев на основе инструкций. В README приведён результат оценки на тестовой выборке: loss 1,3194. Метаданные указывают лицензию «other»; дополнительных условий использования карточка не описывает.

Phi-3.5-mini-instruct-IMat-GGUF — это GGUF-квантизованная версия модели microsoft/Phi-3.5-mini-instruct, подготовленная legraphista с использованием llama.cpp b3608. Модель предназначена для генерации текста в формате инструкций, диалоговых сценариев и задач обработки естественного языка, включая работу с кодом. В README указана поддержка multilingual-сценариев, однако конкретный перечень языков не приведён. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-квантизаций размером примерно от 1,42 до 7,64 ГБ. Для многих вариантов с низкой разрядностью применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера модели; файлы предоставляются в формате GGUF и подходят для использования с совместимыми инструментами, включая llama.cpp. Точная архитектура, число параметров и размер контекста в README не указаны. Сильной стороной модели является широкий выбор уровней квантизации, позволяющий подобрать компромисс между качеством, скоростью и требованиями к памяти, а также наличие IMatrix для ряда компактных вариантов. Ограничения связаны с возможной потерей качества при агрессивной квантизации и отсутствием сведений о целевых метриках и производительности. Модель распространяется по лицензии MIT; исходная модель принадлежит Microsoft.

ihughes15234/Phi-3.5-mini-instruct_unslothcpy — разговорная инструктивная версия компактной языковой модели семейства Phi-3.5, представленная в карточке с материалами Unsloth по тонкой настройке. Модель содержит 3,7 млрд параметров, использует плотную архитектуру и предназначена для генерации текста и многоходового диалога. Метаданные указывают контекст 4096 токенов; заявленные в README 128K относятся к Phi-3.5-mini в целом и не подтверждены для этой конкретной копии. Модель подходит для генерации ответов и создания приложений на базе языковой модели в условиях ограниченных вычислительных ресурсов и требований к задержке. В README базовая Phi-3.5 описана как многоязычная модель с сильными сторонами в рассуждениях, коде, математике, логике, обобщении длинных документов и ответах на вопросы по ним; эти характеристики не являются отдельной оценкой данного репозитория. Указана лицензия MIT. Как и другие языковые модели, она может ошибаться; перед применением в рискованных сценариях следует проверять точность и безопасность ответов.

bunnycore создал TitanFusion-0.1 — объединённую методом TIES языковую модель на архитектуре Phi-3.5. В основу взята microsoft/Phi-3.5-mini-instruct, также включены веса ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1 и nbeerbower/phi3.5-gutenberg-4B. Модель содержит 3,7 млрд параметров, использует архитектуру Phi3ForCausalLM и формат safetensors; для работы указана библиотека Transformers. Контекст составляет 4096 токенов. Модель предназначена для генерации текста и диалогов, ролевых сценариев, творческого письма и рассуждений. Карточка не уточняет поддерживаемые языки и лицензию, поэтому их нельзя надёжно определить по представленным данным.

Xenova/Phi-3-mini-4k-instruct — оптимизированная ONNX-версия инструкционной языковой модели Phi-3 Mini, подготовленная для запуска через Transformers.js и onnxruntime-web. Модель предназначена для генерации текста и диалогового взаимодействия в браузерных и JavaScript-приложениях, включая ответы на вопросы, решение задач и выполнение инструкций. Модель содержит 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. Веса представлены в формате FP16 с блочным квантованием INT4; выход logits имеет формат FP32. Для совместимости с onnxruntime-web используется архитектурная модификация с MHA вместо GQA, а файлы модели ограничены размером менее 2 ГБ для кэширования в Chromium. Модель распространяется через библиотеку Transformers.js и использует ONNX Runtime. Лицензия MIT разрешает свободное использование при соблюдении её условий. Квантование INT4 может снижать точность по сравнению с полноразмерной версией, а ограничение контекста в 4096 токенов не позволяет эффективно работать с очень длинными документами. Возможности модели зависят от ресурсов устройства и производительности браузерной среды.

Phi-3-mini-4k-instruct-GGUF — квантизированная версия инструкционной модели Phi-3-mini-4k-instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая применение в локальных и встраиваемых AI-сценариях через GaiaNet. Модель относится к семейству Phi и поставляется в формате GGUF. Она рассчитана на контекст до 4000 токенов, использует шаблон prompt phi-3-chat и поддерживает английский язык. Квантизация выполнена компанией Second State Inc. с использованием llama.cpp b3333. В README не указаны точный размер модели, конкретный вариант квантизации, перечень поддерживаемых модальностей или специализированные показатели качества. Сильными сторонами модели являются инструкционный режим работы, компактный формат GGUF и возможность запуска через совместимую инфраструктуру GaiaNet и llama.cpp. Ограничениями могут быть поддержка только текстовых задач и ограниченный контекст в 4000 токенов; сведения о производительности, качестве на отдельных задачах и системных требованиях отсутствуют. Модель распространяется по лицензии MIT.

Карточка модели mlx-community/Phi-3-mini-4k-instruct-unsloth-4bit на Hugging Face совпадает с карточкой tbhrc/phi_3_mini_4k_instruct_unsloth_4bit, поэтому описание составлено по ней. Модель tbhrc/phi_3_mini_4k_instruct_unsloth_4bit — конверсия Phi-3-mini-4k-instruct в формат MLX, выполненная на основе unsloth/Phi-3-mini-4k-instruct с помощью mlx-lm версии 0.13.0. Это плотная языковая модель с архитектурой MistralForCausalLM, примерно 3,7 млрд параметров, предназначенная для генерации текста и диалогового использования. Контекст модели составляет 4096 токенов; в метаданных указан английский язык. Для использования в исходной карточке предлагается библиотека mlx-lm. Модель подходит для диалоговых ответов, генерации и продолжения текста на английском языке. В README описана конверсия в MLX, однако метаданные репозитория указывают формат файлов safetensors. Лицензия — MIT. Практический контекст ограничен 4096 токенами; README не приводит дополнительных сведений о качестве или специальных ограничениях применения.

parmanu-lcs2/Phi-4-11B — сжатая версия Phi-4, созданная разработчиком репозитория с помощью структурного прореживания SNIPER. После прореживания модель содержит около 11,02 млрд параметров; в метаданных указано общее число 14,1 млрд параметров. Базовая архитектура — плотная Phi-3, модель распространяется в формате Safetensors и поддерживает контекст до 16 384 токенов. После прореживания модель прошла восстановительное дообучение LoRA на 2 000 примерах SlimOrca в течение одной эпохи, а адаптеры объединены с весами. Модель предназначена для генерации текста и диалогового взаимодействия; в README описан контекст обучения длиной 1 024 токена. Карточка не сообщает результаты оценки качества, поэтому пригодность для конкретных задач стоит проверять отдельно. Лицензия в предоставленных данных не указана.

mlx-community/phi-4-4bit — это 4-битная версия модели phi-4, преобразованная сообществом mlx-community из microsoft/phi-4 в формат MLX с использованием mlx-lm версии 0.21.0. Модель предназначена для генерации текста и диалогового взаимодействия, включая сценарии, связанные с программированием, математикой и обработкой естественного языка. Указан английский язык. Модель поддерживает работу в экосистеме MLX через библиотеку mlx-lm и может использовать chat template для передачи сообщений с ролями пользователя и ассистента. Ключевые параметры исходной архитектуры, число параметров, максимальная длина контекста и перечень поддерживаемых модальностей в README не указаны; по имеющимся данным, модель работает только с текстом. 4-битное представление ориентировано на более экономичное локальное использование, однако может сопровождаться ограничениями точности по сравнению с полноразмерной версией. README не содержит подробных результатов оценивания, поэтому нельзя надёжно судить о качестве модели в конкретных задачах. Модель распространяется по лицензии MIT.

MaziyarPanahi/phi-4-GGUF — это набор квантизированных файлов модели microsoft/phi-4 в формате GGUF. Исходную модель разработала Microsoft, а квантизированные варианты подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска в совместимых инструментах и библиотеках, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другие приложения с поддержкой GGUF. В репозитории представлены варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Формат GGUF ориентирован на эффективный инференс, в том числе с ускорением на GPU, однако конкретные архитектурные характеристики, размер модели, длина контекста, поддерживаемые языки и модальности в README не указаны. Основные преимущества — возможность локального использования и широкий выбор уровней квантизации. Ограничения связаны с потенциальной потерей качества по сравнению с исходной моделью при использовании низкой разрядности, а также с тем, что совместимость и производительность зависят от выбранного клиента и аппаратного обеспечения. Лицензия в предоставленных данных не указана.

Richard Young создал эту версию Microsoft Phi-4-mini-instruct с помощью Heretic 2.0.0.dev0: модель подвергнута аблерации, которая уменьшает склонность отказывать в ответах. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,8 млрд параметров и контекстом 4096 токенов; она распространяется в формате Safetensors и предназначена для генерации текста, диалогов, кода и рассуждений, в том числе в условиях ограниченных вычислительных ресурсов. Модель поддерживает множество языков, включая русский, английский, китайский, японский, арабский, украинский и другие. По данным карточки, в тесте на 100 запросах число отказов снизилось с 99 у исходной модели до 5 у этой версии; автор также сообщает о низком расхождении с исходной моделью по KL-дивергенции. Модель подходит для локального использования, творческого письма и изучения методов выравнивания, однако уменьшение отказов означает, что она может выдавать ответы на запросы, которые исходная модель отклоняет. Как и другие языковые модели, она может ошибаться; для высокорисковых сценариев автор рекомендует отдельную оценку точности, безопасности и справедливости. Лицензия — MIT.

benhaotang/phi4-qwq-sky-t1 — объединённая авторами модель на основе Phi-4-QwQ, Phi-4-llama-t1-full и адаптера Phi-4-llama-t1-lora. Она создана методом TIES с помощью mergekit; архитектура — плотная LlamaForCausalLM, размер — 14,1 млрд параметров. Модель предназначена для диалоговой генерации текста и пошаговых рассуждений, включая решение сложных задач. Контекст составляет 16 384 токена. В карточке автор сообщает, что модель, по его оценке, воспроизводит возможности QwQ на уровне 14B; приведены результаты Open LLM Leaderboard, включая среднее значение 30,78% и BBH 52,61%. Оценка IFEval затруднена из-за строгого формата системного промпта Sky-T1. Модель распространяется под лицензией MIT.

Phi-4-reasoning-plus-w4a16-llmcompressor — это квантизованная версия языковой модели Phi-4-reasoning-plus, разработанной Microsoft. Модель предназначена для генерации текста и работы с текстовыми запросами, включая задачи рассуждения; исходная архитектура представлена как Phi3ForCausalLM. Модель поддерживает английский язык. Чекпойнт подготовлен компанией AMD для инференса на процессорах AMD EPYC под Linux. Используется 4-битная квантизация весов без квантизации активаций (W4A16): веса представлены в формате INT4, симметрично и группами по 128 параметров, а активации сохраняются в BF16. Для запуска рекомендован стек vLLM 0.26.0, LLM Compressor 0.12.0, ZenDNN 6.1.0, ZenTorch 2.11.0.3 и PyTorch 2.11.0. Ключевое преимущество модели — существенное сокращение размера весов при сохранении качества: на тесте GSM8K она показала 0,8688 против 0,8704 у исходной BF16-модели, то есть восстановила 99,82% результата базовой версии. Ограничения включают ориентацию на CPU AMD EPYC, зависимость от совместимых версий программного стека и возможную потерю точности из-за агрессивной 4-битной квантизации. В README указана лицензия MIT; также отмечено, что модель распространяется на условиях лицензии исходной модели.

teknium/Phi-Hermes-1.3B — языковая модель для генерации текста, созданная дообучением Phi-1.5 на наборе OpenHermes. В карточке указано, что OpenHermes содержит более 240 тысяч преимущественно синтетических примеров, созданных GPT-4. Архитектура — MixFormer Sequential, модель плотная; формат весов — PyTorch safetensors. Контекстное окно составляет 2048 токенов. Модель предназначена для генерации ответов и выполнения инструкций в текстовом формате. В README приведён фрагмент шаблона запроса с секцией Instruction, но конкретные сценарии применения не описаны. В карточке указано, что при инференсе не следует использовать device_map="auto"; также автор сообщает о проблемах с fp16 и рекомендует bf16. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории.

Phiter — слитая модель семейства Phi-2, опубликованная пользователем Venkman42. Она объединяет rhysjones/phi-2-orange и cognitivecomputations/dolphin-2_6-phi-2 с помощью LazyMergekit и предназначена для генерации текста и диалогов в формате ChatML. Модель построена на архитектуре PhiForCausalLM; родная длина контекста — 2048 токенов. В карточке автор сообщает, что на 27 февраля 2024 года модель лидировала среди дообученных вариантов Phi-2 на рейтинге YALL. Это заявление относится к указанной дате и не гарантирует текущего превосходства или качества на других задачах. Репозиторий содержит веса в формате safetensors; README также ссылается на вариант GGUF. Лицензия — MIT.