I.5Создание и редактирование текста

Param2-17B-A2.4B-Thinking — мультиязычная языковая модель BharatGen на архитектуре Mixture-of-Experts. В README заявлено 17 млрд параметров всего и 2,4 млрд активных на токен, а в метаданных Hugging Face указано 1,7 млрд параметров; поэтому размер модели в каталоге расходится между источниками. Модель использует 64 специализированных эксперта и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов на английском, хинди и 21 индийском языке. Заявлены рассуждения, математика, генерация кода и вызов инструментов; модель можно применять для длинных многоязычных запросов, структурированных ответов и последующей тонкой настройки. В метаданных подтверждены библиотека Transformers, формат safetensors и чат-возможность. README рекомендует детерминированное декодирование для стабильных ответов и указывает требование Transformers 4.52.3. Сведения о лицензии в предоставленных данных отсутствуют.

runkai/PascalHermes-2.5-Mistral-7B — разговорная языковая модель на архитектуре Mistral, дообученная на базе teknium/OpenHermes-2.5-Mistral-7B. Она предназначена для диалогов и генерации текста; базовая модель также рассчитана на помощь с кодом. Модель содержит 7,1 млрд параметров, использует формат safetensors и имеет контекст длиной до 32 768 токенов. В метаданных указан английский язык и набор данных argilla/distilabel-intel-orca-dpo-pairs для DPO-обучения. Карточка содержит результаты Open LLM Leaderboard, включая среднее значение 64,81, но не описывает методику обучения именно этой версии, её ограничения или независимые сценарии применения. Лицензия — MIT; разработчик в автоматически сгенерированной карточке не указан.

Pasta-Lake-7b — языковая модель для генерации текста, созданная ChaoticNeutrals слиянием двух моделей: Test157t/Pasta-PrimaMaid-7b и macadeliccc/WestLake-7B-v2-laser-truthy-dpo. Для объединения использован метод SLERP с конфигурацией mergekit; модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев: она может продолжать запросы и формировать ответы. Длина контекста составляет 8192 токена. В репозитории опубликованы веса Safetensors; README также упоминает сторонние квантизованные сборки EXL2 и GGUF. Лицензия указана как other, поэтому условия использования следует проверять в материалах репозитория.

google/pegasus-arxiv — англоязычная модель суммаризации на архитектуре Pegasus, разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель предназначена для создания кратких пересказов текста. Это вариант Pegasus с параметрами предобучения Mixed & Stochastic: обучение проводилось на смеси C4 и HugeNews, с переменным отношением пропуска предложений и случайным шумом при выборе важных предложений. Веса представлены в формате PyTorch; размер модели — 366,8 млн параметров, длина контекста — до 1024 токенов. Модель подходит для суммаризации англоязычных статей, новостей и других текстов. В README приведены результаты на нескольких наборах данных, включая XSum, CNN/DailyMail и Newsroom. Лицензия в предоставленных данных не указана.

Карточка модели google/pegasus-billsum на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

Карточка модели google/pegasus-gigaword на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

Карточка модели google/pegasus-reddit_tifu на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

Карточка модели google/pegasus-wikihow на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

Qwen3-1.7B compression L+0 final — дообученная языковая модель на архитектуре Qwen3ForCausalLM, опубликованная hi-todayis-jh. Это стандартный чекпойнт BF16 в формате Hugging Face Safetensors, экспортированный с шага обучения 100; в репозитории также находятся конфигурация, токенизатор и шаблон диалога с режимом рассуждений. Модель содержит 1,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации текста и диалогов. README указывает на наличие оценок с режимом рассуждений; метаданные также отмечают интерфейс вызова инструментов. Её можно загружать через Transformers или vLLM. Базовая модель — Qwen/Qwen3-1.7B. Сведения о лицензии и конкретных ограничениях применения в предоставленных данных отсутствуют.

Persephone — языковая модель ResplendentAI для генерации текста. Это объединённая модель на архитектуре Mistral с 7,1 млрд параметров, рассчитанная на контекст до 32 768 токенов и работающая через библиотеку Transformers. Автор описывает её как эксперимент с новым подходом к созданию модели. Модель подходит для генерации продолжений текста и других сценариев, основанных на text-generation. В карточке указан английский язык. Модель распространяется в формате safetensors; лицензия обозначена как other, поэтому конкретные условия использования следует проверять на странице модели. README не приводит результатов оценки качества или подробного описания возможностей.

Perucac-7B-slerp — объединённая языковая модель, созданная с помощью mergekit из gordicaleksa/YugoGPT и senseable/WestLake-7B-v2 методом SLERP. Модель основана на архитектуре Mistral, имеет около 7,1 млрд параметров и рассчитана на генерацию текста и чатовые диалоги с контекстом до 32 768 токенов. Модель подходит для ведения диалогов и генерации творческих текстов. В состав объединения входит YugoGPT, а базовой моделью в конфигурации указана WestLake-7B-v2, описанная как англоязычная модель для ролевых диалогов и творческой генерации. Репозиторий распространяется по лицензии Apache-2.0.

bartowski/p-e-w_Llama-3.1-8B-Instruct-heretic-GGUF — это квантизированная версия инструкционной модели Llama 3.1 с примерно 8 млрд параметров, опубликованная в формате GGUF. Базовая модель разработана Meta, а квантизацию выполнил bartowski; обозначение heretic указывает на вариант модели, но README не содержит подробностей о внесённых изменениях. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и другие задачи обработки естественного языка. В метаданных указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Поддерживается только текстовая модальность. Сведения о конкретном методе и уровне квантизации, длине контекста, требованиях к памяти и результатах тестирования в README отсутствуют. Ключевое преимущество модели — сочетание инструкционного обучения, относительно компактного размера и формата GGUF, удобного для локального запуска совместимыми средствами. Ограничения включают возможное снижение качества из-за квантизации, отсутствие подтверждённых характеристик варианта heretic и неполную информацию о производительности. Использование регулируется Llama 3.1 Community License от Meta с требованиями к атрибуции, маркировке «Built with Llama», соблюдению Acceptable Use Policy и специальными условиями для распространения; перед применением необходимо проверить полный текст лицензии.

p-e-w_Qwen3-4B-Instruct-2507-heretic-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen3-4B-Instruct-2507-heretic. Исходную модель разработал p-e-w, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций при локальном запуске через llama.cpp, LM Studio и совместимые проекты. Модель содержит около 4 миллиардов параметров и доступна в вариантах от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов варьируется примерно от 2,24 до 8,05 ГБ, что позволяет выбирать между качеством и требованиями к памяти. В README не указаны поддерживаемые языки, длина контекста, точная архитектура или мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются компактный размер, возможность локального запуска и широкий выбор квантизаций; варианты Q4–Q6 позиционируются как обеспечивающие хорошее или очень высокое качество при сниженных требованиях к памяти. Ограничения включают возможную потерю качества при использовании низких уровней квантизации и отсутствие указанного в README chat template, из-за чего форматирование запросов может потребовать проверки по карточке исходной модели. Распространение заявлено по лицензии Apache-2.0.

Aleph Alpha выпустила эту версию Pharia-1-LLM-7B-control-aligned как конверсию весов модели в формате safetensors. Это плотная авторегрессионная языковая модель семейства Pharia-v1 с 8,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Максимальная длина контекста составляет 8192 токена. Модель можно использовать для генерации ответов в чате и других сценариев, где требуется продолжение или создание текста. В README указана совместная карточка для Pharia-1-LLM-7B-control и Pharia-1-LLM-control-aligned, однако её содержание здесь не приведено, поэтому дополнительные сведения о языках, сильных сторонах и ограничениях модели установить нельзя. Лицензия обозначена как other; конкретные условия использования в имеющихся данных не раскрыты.

Phi-3.1 Mini 4K Instruct — компактная языковая модель Microsoft, представленная в формате GGUF для запуска через llama.cpp и LM Studio. Квантизацию выполнил bartowski на основе релиза llama.cpp b3460. Модель предназначена для диалоговых сценариев, следования инструкциям, генерации текста и кода, математических задач, рассуждений, понимания языка и работы с общими знаниями. Модель построена как плотный decoder-only Transformer и содержит 3,8 млрд параметров. Она обучалась на 3,3 трлн токенов, включая отфильтрованные общедоступные документы, образовательные материалы, код, синтетические «учебниковые» данные и высококачественные диалоги. Для выравнивания использовались Supervised Fine-Tuning и Direct Preference Optimization. Доступна поддержка английского языка, контекст ограничен 4096 токенами, предусмотрена работа с тегом <|system|> и многошаговыми диалогами. К сильным сторонам относятся улучшенное следование инструкциям, структурирование ответов, математическое и логическое рассуждение, генерация кода и качество многоходового общения при небольшом размере модели. Ограничениями являются компактный контекст в 4K токенов, заявленная языковая поддержка только английского и возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей. Модель распространяется по лицензии MIT; конкретный файл GGUF предназначен для использования с совместимыми инструментами, включая LM Studio.

Sakalti/Phi3.5-Comets-3.8B — языковая модель для генерации текста и диалогов, созданная объединением нескольких чекпойнтов семейства Phi-3.5. Автор использовал метод TIES в mergekit на базе microsoft/Phi-3.5-mini-instruct и объединил её с win10/Phi-3.5-mini-instruct-24-9-29, FreedomIntelligence/Apollo2-3.8B и AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common. Модель имеет плотную архитектуру Phi3ForCausalLM и около 3,7 млрд параметров. Она рассчитана на текстовый ввод и генерацию текста, поддерживает диалоговый режим и работает через Transformers. Нативный контекст составляет 4096 токенов. Компактный размер делает её подходящей для локальных чат-сценариев и генерации текста при ограниченных ресурсах. Репозиторий содержит веса safetensors в формате bfloat16. Лицензия — MIT. Карточка не описывает отдельные результаты оценки качества; фактическая точность и устойчивость ответов могут зависеть от задачи и используемого шаблона диалога.

Richard Young из DeepNeuro подготовил эту версию Microsoft Phi-3.5-mini-instruct с помощью Heretic v1.4.0: модель подвергнута абляции, направленной на снижение числа отказов. Это плотная авторегрессионная языковая модель Phi-3 с 3,7 млрд параметров, предназначенная для генерации текста, диалогов и задач с кодом. Метаданные указывают контекст 4096 токенов; модель распространяется в формате Safetensors по лицензии MIT. Модель подходит для чат-ботов, генерации текста и кода, а также для сценариев с ограничениями по памяти, вычислениям или задержке. README приводит результат оценки отказов: 12 отказов из 100 запросов против 95 у исходной модели; это указывает на заметно ослабленное поведение отказа, но не гарантирует точность или безопасность ответов. В README также приведено описание возможностей и оценок исходной Phi-3.5, поэтому их нельзя автоматически считать характеристиками этой производной версии. Проверяйте модель для конкретного применения, особенно в чувствительных сценариях.

duyntnet/Phi-3.5-mini-instruct-imatrix-GGUF — набор квантованных версий модели Phi-3.5-mini-instruct, разработанной Microsoft и опубликованной пользователем duyntnet в формате GGUF с использованием imatrix. Модель относится к семейству Phi-3 и предназначена для генерации текста и выполнения инструкций в диалоговом формате; для работы подходят llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Модель обучалась на синтетических данных и отфильтрованных общедоступных веб-материалах с акцентом на качественные данные для рассуждений. Она поддерживает контекст до 128 000 токенов, словарь размером до 32 064 токенов и, согласно карточке, ориентирована на английский язык. Обучение включало supervised fine-tuning, proximal policy optimization и direct preference optimization, что направлено на соблюдение инструкций и повышение безопасности ответов. К преимуществам относятся компактность исходной модели, длинный контекст, поддержка локального запуска и наличие нескольких уровней квантования, потенциально снижающих требования к ресурсам. Ограничения связаны с тем, что квантование может влиять на качество по сравнению с исходной моделью, а сведения о конкретных размерах файлов, параметрах и характеристиках отдельных вариантов в карточке не приведены. Лицензия указана как other, без подробного описания условий использования.

bunnycore/Phi-3.5-Mini-Sonet-RP — объединённая диалоговая языковая модель на архитектуре Phi-3.5, созданная методом линейного слияния моделей bunnycore/Phi-3.5-Mini-Hyper и bunnycore/Phi-3.5-Mini-RP-Sonet с помощью mergekit. Модель содержит 3,7 млрд параметров и предназначена для генерации текста в диалоговом формате; её контекст ограничен 4096 токенами. Модель принимает текст и генерирует текст. Карточка не описывает специальные предметные области или языки, поэтому её можно характеризовать как модель общего назначения. В репозитории используются веса safetensors и библиотека Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

win10/phi-3.5-Sakura-Yuzu-v1.5 — объединённая языковая модель, созданная с помощью mergekit методом TIES на основе FreedomIntelligence/Apollo2-3.8B. В объединение также вошли модели Phi-3.5-mini от Microsoft, AXCXEPT, ArliAI, FlowAI и win10. Модель семейства Phi-3.5 имеет плотную архитектуру Phi3ForCausalLM и около 3,7 млрд параметров. Она предназначена для генерации текста и диалогов; использует библиотеку Transformers и принимает текст, выдавая текст. Контекст составляет 4096 токенов. В метаданных базовая модель описана как многоязычная, однако конкретные поддерживаемые языки для этого объединения не перечислены. Лицензия в предоставленных данных не указана. Качество и поведение объединённой модели могут отличаться от отдельных исходных моделей; результатов оценки в карточке нет.

kaitchup/Phi-3-mini-4k-instruct-gptq-4bit — это 4-битная GPTQ-квантизованная версия Phi-3 Mini-4K-Instruct, опубликованная пользователем kaitchup на Hugging Face и основанная на модели Microsoft. Она предназначена для генерации текста, диалогов и выполнения инструкций, включая задачи по работе с кодом, математикой, рассуждениями и общими знаниями, при локальном или серверном запуске с меньшими требованиями к памяти. Исходная Phi-3 Mini-4K-Instruct представляет собой плотную decoder-only Transformer-модель примерно на 3,8 млрд параметров, дообученную с применением supervised fine-tuning и Direct Preference Optimization. Модель работает с текстовыми входами и поддерживает контекст до 4K токенов; основной язык — английский, при этом в метаданных также указан французский. Вариант из указанного репозитория использует 4-битное GPTQ-представление, что уменьшает размер и требования к памяти, но может снижать точность и качество по сравнению с полной точностью. Сильные стороны — компактность, возможность запуска на более доступном оборудовании и хорошие для своего размера результаты в задачах следования инструкциям, рассуждений и программирования. Ограничения включают короткое окно контекста, преимущественно англоязычную ориентацию, возможные ошибки и галлюцинации, а также потери качества из-за квантизации. Для опубликованной версии в карточке модели условия лицензирования явно не указаны; исходная модель Microsoft распространяется по лицензии MIT.

Квантизированная версия инструкционной языковой модели microsoft/Phi-3-mini-4k-instruct, подготовленная пользователем legraphista в формате GGUF с использованием llama.cpp и IMatrix-калибровки. Модель предназначена для генерации текста в диалоговых сценариях, выполнения инструкций и задач, связанных с обработкой естественного языка и кодом. В README указана поддержка английского языка и контекст размером 4K токенов, что отражено в названии исходной модели. Доступны варианты с разными уровнями точности и размером файлов: от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая дополнительные IQ-варианты. Для ряда квантов применена IMatrix, призванная улучшить качество при уменьшении разрядности; исходная модель имеет тип данных BF16. Формат GGUF и совместимость с llama.cpp позволяют использовать модель локально при выборе подходящего варианта под доступную память и требования к качеству. README не содержит подробных сведений об архитектуре, количестве параметров, мультимодальности, результатах тестирования или известных ограничениях качества. Модель распространяется по лицензии MIT, унаследованной от исходной microsoft/Phi-3-mini-4k-instruct.

p-e-w/phi-4-heretic — текстовая генеративная модель на базе Microsoft Phi-4, изменённая методом abliteration для снижения частоты отказов. Это плотный декодерный Transformer с 14,1 млрд параметров и контекстом до 16 384 токенов; модель принимает текстовые запросы в формате чата и генерирует текст. В карточке указано, что доля отказов в приведённой проверке снизилась с 100 из 100 у исходной Phi-4 до 41 из 100, а KL-дивергенция составила 0,09. Модель подходит для диалоговых приложений, генерации текста, помощи с кодом и рассуждениями, преимущественно на английском языке. Метаданные указывают поддержку чата и кода; исходная Phi-4 рассчитана на сценарии с ограничениями по памяти, вычислениям и задержке. Снижение отказов не гарантирует точность или безопасность ответов, поэтому результаты следует оценивать применительно к конкретной задаче. Репозиторий распространяется под лицензией MIT.

Melvin56/Phi-4-mini-instruct-abliterated-GGUF — это GGUF-квантизированная версия модели Phi-4-mini-instruct-abliterated, разработанная на основе модели huihui-ai/Phi-4-mini-instruct-abliterated. Модель предназначена для генерации текста, включая задачи обработки естественного языка и работы с кодом, и может использоваться в локальных приложениях через совместимые средства инференса GGUF. Модель поддерживает мультиязычную генерацию, включая арабский, китайский, чешский, датский, нидерландский, английский, финский, французский, немецкий, иврит, венгерский, итальянский, японский, корейский, норвежский, польский, португальский, русский, испанский, шведский, тайский, турецкий и украинский языки. Доступны варианты квантования Q2_K_S, Q2_K, Q3_K_M, Q3_K_L, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16 размером примерно от 1,59 до 7,68 ГБ. Кванты подготовлены с использованием imatrix dataset и поддерживают различные режимы вычислений на CPU и GPU, включая AVX2, ARM NEON, Metal, cuBLAS, rocBLAS и SYCL; отдельные конфигурации могут работать медленнее или иметь ограничения совместимости. Сильными сторонами модели являются широкий выбор размеров квантования, мультиязычность и возможность локального запуска на разнообразном оборудовании. Ограничения включают отсутствие сведений о точном размере архитектуры, длине контекста и результатах тестирования, а также возможное снижение качества и скорости при использовании компактных квантов. Модель распространяется по лицензии MIT.

Mungert/Phi-4-mini-instruct.gguf — GGUF-версия модели Phi-4-mini-instruct, разработанной Microsoft и распространяемой на основе этой модели. Это компактная открытая instruction-tuned модель для генерации текста, диалогов, следования инструкциям, рассуждений, генерации кода и function calling. Модель ориентирована на локальный запуск с ограниченными ресурсами и низкой задержкой, а также поддерживает сценарии чат-комплитов. Модель обучалась на синтетических данных и отфильтрованных общедоступных веб-источниках; для улучшения следования инструкциям и безопасности применялись supervised fine-tuning и direct preference optimization. Заявлена поддержка контекста до 128K токенов и мультиязычных сценариев, однако конкретный перечень языков в README не указан. Для диалогов используется специальный chat format, а для вызова инструментов предусмотрен структурированный формат с описанием функций в JSON. Преимуществами являются открытая доступность, большой контекст, поддержка reasoning, генерации кода и function calling, а также наличие GGUF-формата, подходящего для локального inference. Ограничения зависят от аппаратной конфигурации и выбранной квантизации; в описанном CPU-сценарии на шести потоках загрузка занимала около 15 секунд, а inference был медленным и обрабатывал только один пользовательский запрос одновременно. Модель распространяется по лицензии MIT.

Phi-4-mini-instruct-GGUF — GGUF-квантизированная версия инструкционной модели Phi-4-mini-instruct, разработанной Microsoft. Квантизацию выполнил bartowski на базе llama.cpp версии b4792; модель распространяется в рамках программы Community Models для LM Studio. Модель предназначена для широкого круга коммерческих и исследовательских задач генерации текста, включая диалоговое взаимодействие, следование инструкциям и вызов функций. Она поддерживает контекст длиной до 128 тысяч токенов, заявлена как многоязычная и обладает улучшенными возможностями instruction following и function calling. README не содержит сведений о точном размере модели, конкретной архитектуре, перечне поддерживаемых языков и типе квантизации. Для использования в LM Studio на указанную дату требуется Beta runtime. Лицензия в предоставленных данных не указана; модель может генерировать неточный, вредный или нежелательный контент.

bunnycore/Phi-4-Model-Stock — объединённая языковая модель на основе unsloth/phi-4, созданная методом Model Stock с помощью mergekit. В объединение вошли Phi-4-Avg, Phi-4-Empathetic, Phi-4-Math-IO и Phi-4-QwQ; размер модели — 14,1 млрд параметров, максимальная длина контекста — 16 384 токена. Модель предназначена для генерации текста и диалогов, включая задачи рассуждения и математики. Модель использует архитектуру LlamaForCausalLM и распространяется в формате safetensors. Карточка приводит результаты оценок на IFEval и BBH, но не описывает языковое покрытие или гарантии качества для отдельных задач. Лицензия — MIT.

bunnycore создала Phi-4-Model-Stock-v2 — объединённую языковую модель для генерации текста и диалогов. Модель получена методом Model Stock с помощью mergekit: в качестве основы использована unsloth/phi-4, объединённой с несколькими вариантами Phi-4 и моделью рассуждений Pinkstack. Репозиторий содержит веса safetensors; архитектура в метаданных обозначена как LlamaForCausalLM, размер — 14,1 млрд параметров, контекст — до 16 384 токенов. Модель подходит для диалоговых сценариев и генерации ответов с рассуждениями. В README приведены результаты Open LLM Leaderboard, включая оценки IFEval и BBH. Метаданные не подтверждают отдельные мультимодальные возможности или поддержку конкретных языков. Условия лицензирования в предоставленных материалах не приведены.

ShayanCyan/phi4-multimodal-quantisized-gguf — это набор предварительно сконвертированных GGUF-весов модели microsoft/Phi-4-multimodal-instruct, подготовленный для локального запуска через специализированную ветку llama.cpp. Репозиторий содержит квантизированную языковую модель phi4-mm-Q4_K_M.gguf и отдельный мультимодальный проектор phi4-mm-omni.gguf с визуальным энкодером на основе SigLIP/Navit-style и аудиоэнкодером Conformer. Нового обучения или новых обучающих данных набор не добавляет. Модель предназначена для локального инференса, исследований, экспериментов и создания прототипов агентов, работающих с текстом, изображениями и аудио. Она поддерживает следование инструкциям, рассуждения, программирование и многоходовой диалог, визуальные вопросы и ответы, создание описаний изображений, анализ документов и графиков, а также автоматическое распознавание речи, перевод с английского на французский и суммаризацию аудио при наличии соответствующего Conformer-пути. Заявленные языки: английский, урду, немецкий, испанский, турецкий, французский и итальянский. Основная языковая модель использует 4-битную групповую квантизацию Q4_K_M, тогда как мультимодальный проектор хранится в F16/F32 для сохранения качества работы с изображениями и аудио. Для запуска требуются совместимые возможности llama.cpp и одновременное подключение языковой модели и mmproj-файла. К преимуществам относятся локальная работа, поддержка нескольких модальностей и снижение требований к памяти за счёт квантизации. Ограничения включают возможные галлюцинации и ошибки интерпретации; модель не следует применять для медицинских, юридических или критически важных решений без проверки человеком. Использование регулируется лицензией phi4-model-license от Microsoft; необходимо соблюдать условия исходной лицензии.

Модель arefehRajabian/phi_finetune_16bit — дообученная автором arefehRajabian разговорная языковая модель для генерации текста. Она основана на unsloth/phi-4-bnb-4bit; карточка сообщает об обучении с помощью Unsloth и библиотеки TRL. В репозитории представлены веса Safetensors, размер модели — 14,1 млрд параметров, контекст — до 16 384 токенов. Модель поддерживает английский язык и предназначена для диалогового взаимодействия и генерации текста. Лицензия — Apache-2.0. Карточка не уточняет специализацию дообучения и его результаты.