I.5Создание и редактирование текста

appvoid/palmer-005 — небольшая языковая модель семейства Palmer, разработанная appvoid для преобразования текста по инструкциям. Она дообучена на appvoid/graphite-004 и предназначена для переписывания и перефразирования, переноса тона, исправления грамматики и стиля, а также других текстовых правок. В карточке указано около 90 млн параметров, тогда как метаданные Hugging Face указывают 60,8 млн; контекстное окно по метаданным — 262 144 токена. Модель построена на Falcon H1 и доступна в формате safetensors для Transformers. Автор сообщает об обучении примерно на миллионе примеров и приводит собственную оценку набора из 100 задач редактирования; результаты получены с квантизацией q8_0, но детали методики и полный состав сравнения ограничены. Модель ориентирована на эксперименты на маломощных устройствах и не проверялась как универсальный чат-ассистент. Для частного использования автор разрешает коммерческое применение при указании модели; компаниям для коммерческого использования требуется получить лицензию у автора.

PandafishHeatherReloaded — объединённая модель семейства Mistral, созданная MysticFoxMagic с помощью LazyMergekit. Она объединяет ichigoberry/pandafish-dt-7b и MysticFoxMagic/HeatherSpell-7b методом SLERP; опубликованные веса имеют формат safetensors и точность bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и общих языковых задач. Карточка не описывает специализированные сценарии, языковое покрытие или результаты оценки качества. Лицензия в предоставленных данных не указана.

SRDdev/Paraphrase — англоязычная модель SRD для перефразирования предложений. Это модель типа sequence-to-sequence на архитектуре T5 с 123,8 млн параметров и контекстом до 512 токенов. Она принимает текст и генерирует варианты формулировки; может использоваться для переписывания текста, генерации данных и других задач обработки естественного языка. Обучена на датасете SQUAD. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Качество вариантов может различаться: перефразирование иногда меняет смысл или оказывается несвязным. На длинных и сложных предложениях результат может быть хуже, а небольшие изменения во входной формулировке способны менять выход.

pastiche-crown-clown-7B-dare — объединённая модель семейства Mistral, созданная с помощью mergekit из четырёх моделей: bardsai/jaskier-7b-dpo-v5.6, mlabonne/AlphaMonarch-7B, mlabonne/NeuralMonarch-7B и macadeliccc/MBX-7B-v3-DPO. Для слияния использован метод DARE TIES; итоговые веса сохранены в формате safetensors и имеют тип bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, в том числе диалогов, ответов на инструкции и рассуждений, унаследованных от базовых моделей. Она может применяться в чат-ботах и для генерации текста по запросу. Репозиторий распространяется по лицензии Apache-2.0. README не приводит сравнительных оценок качества или специализированных ограничений; результаты могут зависеть от запроса и сценария использования.

PathummaLLM-text-1.0.0-7B — мультиязычная текстовая большая языковая модель, разработанная командой NECTEC и дообученная на базе nectec/OpenThaiLLM-Prebuilt-7B. Модель рассчитана на выполнение инструкций и поддерживает тайский, китайский и английский языки. Модель предназначена для генерации текста, диалоговых ассистентов, задач Retrieval-Augmented Generation (RAG), управляемой генерации и рассуждений. В README также указана применимость к сценариям в химии, биологии, финансах, праве, программировании и медицине. Архитектурные детали, кроме принадлежности к семейству Qwen2 и поддержки загрузки через Transformers, не раскрыты; заявлен размер около 7 миллиардов параметров. Для GGUF-применения приведён контекст 8192 токена, однако это значение может относиться к конкретному примеру запуска. Среди сильных сторон заявлены конкурентоспособные результаты по сравнению с Openthaigpt1.5-7b-instruct и оптимизация для прикладных сценариев. Ограничения включают отсутствие подробных сведений о составе и методике подготовки датасета, точных характеристиках архитектуры и гарантированной эффективности в отдельных прикладных областях. Модель распространяется по лицензии Apache-2.0.

PCMind-2.1-Kaiyuan-2B (脑海-2.1-开元-2B) — языковая модель общего назначения, разработанная командой thu-pacman и обученная на кластере Ascend 910A. Она предназначена для генерации текста и диалогового взаимодействия; модель можно загружать через Transformers. Модель имеет плотную архитектуру семейства Qwen2 и содержит 1,7 млрд параметров по метаданным. В README указаны 1,4 млрд параметров без эмбеддингов и обучение на 2,2 трлн токенов. Контекст составляет до 131 072 токенов. Обучение включало многоэтапную предобучающую программу с отбором данных по качеству и упорядочиванием примеров по доменам. Заявлены открытые данные обучения; лицензия модели — Apache-2.0. Модель рассчитана на китайский и английский языки. Подходит для генерации текста и ведения диалогов. README заявляет конкурентоспособность с открытыми моделями сопоставимого размера, но конкретные результаты оценки в предоставленных данных отсутствуют.

Карточка модели google/pegasus-aeslc на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

Карточка модели google/pegasus-multi_news на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

Карточка модели google/pegasus-newsroom на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

Pernicious Prophecy 70B — англоязычная текстовая модель Black Ink Guild, созданная SicariusSicariiStuff и invisietch для ролевых диалогов, работы ассистента и задач общего назначения. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она использует формат инструкций Llama 3 Instruct и поддерживает контекст до 131 072 токенов по метаданным. Авторы тестировали ролевые сценарии на контексте до 32 768 токенов и рекомендуют этот размер. Модель получена слиянием четырёх моделей Llama 3 и последующим целевым QLoRA дообучением на примерно 18 млн токенов. README приводит примеры развёрнутых творческих ответов и генерации кода, а также отмечает чувствительность к формулировкам запросов. Модель позиционируется как uncensored и может выдавать оскорбительный, опасный или иной нежелательный контент. Указана лицензия llama3.3.

Maaz091/personalizedAI — дообученная Maaz091 языковая модель Qwen3 с плотной архитектурой Qwen3ForCausalLM и 1,7 млрд параметров. Она предназначена для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В карточке указан английский язык, а максимальная длина контекста составляет 40 960 токенов. Модель дообучена на базе unsloth/qwen3-1.7b-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL от Hugging Face. Лицензия — Apache-2.0. Карточка не приводит оценок качества или сведений о специальных ограничениях применения.

Pervepsion-12B-x1 — дообученная Koriea модель для диалоговой генерации текста на основе Mistral Nemo Instruct. Она предназначена для общения и создания текстов; тематические теги карточки указывают на медицину, климат, биологию, химию, ролевой диалог и творческое письмо. Модель имеет плотную архитектуру MistralForCausalLM и 12,1 млрд параметров, распространяется в формате safetensors. В карточке указано окно контекста до 1 024 000 токенов и возможность чата. README рекомендует temperature 0,6–1 и min_p 0,1–0,2. Базовая модель Mistral Nemo Instruct поддерживает несколько языков, однако языки именно этой производной модели не уточнены. Условия лицензии в предоставленных данных отсутствуют.

PESTO-llama-base — дообученная Jake Boggs модель на основе unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалогов и генерации текста; заявленная длина контекста — до 131 072 токенов. Модель распространяется в формате Safetensors и использует библиотеку Transformers. README не раскрывает назначение дообучения, обучающий набор данных или результаты оценки, поэтому модель можно описать только как разговорную текстовую модель общего назначения. Лицензия — llama3.1; условия её применения определяются соответствующей лицензией базовой модели.

phi-2-dpo-7k — дообученная на диалоговых данных модель семейства Phi-2, опубликованная mlx-community на Hugging Face. Она предназначена для генерации текста в формате общения и может использоваться для ответов на запросы и ведения диалога. Модель основана на Microsoft Phi-2: плотная архитектура PhiForCausalLM, около 3,5 млрд параметров и контекст до 2048 токенов. В README указано дообучение на 7 тысячах диалоговых примеров из наборов Orca pairs, UltraFeedback ratings и Capybara-DPO. Репозиторий содержит веса Safetensors и ориентирован на использование с MLX. В метаданных указан английский язык и возможность работы с кодом. Лицензия — MIT. Карточка отсылает к описанию исходной Phi-2 за дополнительными сведениями.

Phi-2 Orange — двухэтапная дообученная версия Phi-2, опубликованная Rhys Jones. Это плотная авторегрессионная языковая модель для генерации текста и диалогов; карточка указывает формат ChatML, который можно использовать с системной инструкцией или без неё. Модель рассчитана на контекст до 2048 токенов и распространяется в формате safetensors. Модель подходит для ответов на вопросы, диалогового взаимодействия и других задач генерации текста. В README приведены оценки на нескольких наборах тестов и упоминается более новая версия phi-2-orange-v2 с более высокими результатами. Модель основана на Phi-2 и дообучена на наборах SlimOrca-Dedup, Synthia-v1.3, Verified-Camel, Pure-Dove, Capybara, MetaMathQA, orca_dpo_pairs и ultrafeedback-binarized-preferences-cleaned. Лицензия — MIT.

phi-3.1-qlora-blend-dpo-abliterated — компактная языковая модель для диалогов и генерации текста, созданная ndavidson с помощью mergekit. Это слияние Microsoft Phi-3-mini-4k-instruct и двух моделей ndavidson: phi-3.1-abliterated и phi-3.1-qlora-blend-dpo; применён метод TIES с нормализацией весов. Архитектура — плотная Phi-3 для авторегрессионной генерации, размер — 3,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для чат-ответов и свободной генерации текста. В названии и составе указана abliterated-версия; README не приводит оценок качества, конкретных языков или подробностей о поведении этой версии. Распространяется под лицензией Apache-2.0.

Модель ihughes15234/phi35_kp_dpo5epoch_total — текстовая разговорная модель генерации текста, разработанная ihughes15234 и дообученная на базе ihughes15234/phi35_kp_dpo2epoch. Она предназначена для диалога и генерации ответов по текстовым запросам. Модель построена на плотной архитектуре Llama с классом LlamaForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. При обучении использовались Unsloth и библиотека Hugging Face TRL. Лицензия — Apache-2.0.

Phi-3.5-mini-instruct-GGUF — это GGUF-квантизированная версия языковой модели Phi-3.5-mini-instruct, разработанной Microsoft и преобразованной компанией Second State Inc. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи обработки естественного языка и работы с кодом. Она запускается с использованием совместимого ПО, в частности LlamaEdge версии 0.14.0 и выше, с шаблоном запросов phi-3-chat. В README указана поддержка multilingual-сценариев и контекстное окно до 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0, а также f16, размером примерно от 1,42 до 7,64 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые варианты с хорошим балансом размера и качества, при этом f16 обеспечивает отсутствие дополнительного квантования. Модель удобна для локального запуска и развёртывания в средах с ограниченными ресурсами, однако качество и требования к памяти зависят от выбранного варианта квантования. README не содержит подробностей об архитектуре, точном числе параметров, поддерживаемых языках и отдельных результатах оценки. Распространение осуществляется по лицензии MIT, унаследованной от исходной модели Microsoft.

Это GGUF-квантизированная версия текстовой языковой модели Phi-3-medium-128k-instruct, разработанной Microsoft. Репозиторий подготовлен пользователем legraphista с использованием llama.cpp b3003 и метода IMatrix для отдельных вариантов квантования. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые инструменты. Заявлена поддержка multilingual-сценариев, однако конкретный перечень языков в README не указан. Модель имеет контекстное окно до 128k токенов и поставляется в форматах GGUF с разными уровнями точности: от FP16 и BF16 до Q2_K, Q3_K, Q4_K, Q5_K, Q6_K, Q8_0 и вариантов IQ. Размер файлов составляет примерно от 4,77 до 27,92 ГБ. Варианты Q2–Q4 и некоторые IQ используют IMatrix, что должно помогать сохранять качество при сильном сжатии, но README не приводит количественных результатов сравнения. Сильная сторона репозитория — широкий выбор форматов для компромисса между качеством, размером и требованиями к памяти, а также поддержка длинного контекста исходной модели. Ограничения включают высокие аппаратные требования для крупных вариантов и возможное снижение качества у низкобитных квантований; архитектура и точное число параметров в README не указаны. Модель распространяется по лицензии MIT, унаследованной от исходной модели Microsoft.

Phi-3-mini-128k-instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели microsoft/Phi-3-mini-128k-instruct, подготовленная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, в частности llama.cpp. В репозитории представлены варианты от исходных BF16 и F16 до различных уровней квантизации Q- и IQ-семейств, что позволяет выбирать между качеством, размером файла и требованиями к ресурсам. Для ряда вариантов применена IMatrix-квантизация на основе доступного калибровочного набора данных. Модель работает с текстом, заявлена для английского языка и имеет контекстное окно 128 тысяч токенов, унаследованное от базовой Phi-3-mini-128k-instruct. В README не указаны точное число параметров и подробности архитектуры базовой модели. Ключевые преимущества этой версии — широкий выбор форматов GGUF, возможность локального инференса и уменьшение размера модели за счёт квантизации; при этом более низкие уровни квантизации могут снижать качество по сравнению с BF16 или F16. Репозиторий распространяется по лицензии MIT, указанной для базовой модели.

microsoft/Phi-3-mini-4k-instruct-gguf — репозиторий с файлами в формате GGUF для Phi-3-Mini-4K-Instruct, разработанной Microsoft. Это компактная языковая модель для генерации текста и выполнения инструкций на английском языке, предназначенная для коммерческого и исследовательского использования, включая приложения с ограниченными ресурсами памяти и вычислений, требованиями к низкой задержке, а также задачи рассуждения, математики, логики, понимания языка и работы с контекстом. Модель содержит 3,8 млрд параметров и поддерживает контекст до 4096 токенов. Она обучалась на данных Phi-3, включающих синтетические примеры и отфильтрованные общедоступные веб-данные с акцентом на качество и плотность рассуждений. Постобучение включает supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и безопасности. Репозиторий предлагает варианты GGUF, включая 4-битную квантизацию Q4_K_M размером около 2,2 ГБ и FP16 размером около 7,2 ГБ. Сильными сторонами являются малый размер, эффективность в ресурсоограниченных и чувствительных к задержке сценариях, а также заявленная высокая производительность среди моделей с менее чем 13 млрд параметров. Модель не предназначена специально и не оценивалась для всех прикладных сценариев; перед использованием в ответственных областях необходимо проверять точность, безопасность и справедливость результатов. Модель распространяется по лицензии MIT.

SanctumAI/Phi-3-mini-4k-instruct-GGUF — это квантизированная в формате GGUF версия Phi-3-Mini-4K-Instruct, разработанной Microsoft и подготовленной SanctumAI. Модель предназначена для генерации текста и выполнения инструкций, включая задачи понимания языка, рассуждений, математики, программирования, здравого смысла и логики. Она ориентирована на локальный запуск на устройствах с ограниченными ресурсами. Модель содержит 3,8 млрд параметров и поддерживает контекст до 4096 токенов. Это текстовая модель с поддержкой английского языка; README также отмечает наличие вариантов квантизации от Q2_K до Q8_0 и версии FP16, занимающих примерно от 1,45 до 7,64 ГБ, при потребности в памяти от 5,05 до 10,82 ГБ. Обучение включало синтетические и отфильтрованные общедоступные данные, а дообучение — supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и безопасности. К сильным сторонам относятся компактный размер, возможность локального использования и заявленная высокая производительность среди моделей с менее чем 13 млрд параметров. Ограничения включают небольшое контекстное окно, текстовую специализацию и возможные неточные, вредные или неподходящие ответы. Для использования следует применять шаблон приглашений Phi-3 с системными, пользовательскими и ассистентскими сообщениями. Указана лицензия MIT.

TeeZee/Phi-3-mini-4k-instruct-LASER — версия Phi-3-mini-4k-instruct от Microsoft, обработанная с помощью скриптов LASER из laserRMT. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов, предназначенная для генерации текста и диалогового взаимодействия. В README сообщается о снижении perplexity по сравнению с базовой моделью; независимые результаты оценки ещё не представлены. Модель принимает текст и генерирует текст. Репозиторий распространяется по лицензии MIT.

Phi-3-mini-4k-instruct-llamafile — переносимая исполняемая упаковка модели Microsoft Phi-3-mini-4k-instruct, подготовленная в формате llamafile. Она предназначена для локальной генерации текста, диалоговых приложений, ответов на инструкции, суммаризации, задач на понимание языка, математику, программирование и логическое рассуждение. Модель ориентирована на коммерческое и исследовательское использование на английском языке. Модель содержит 3,8 млрд параметров и поддерживает контекст до 4 096 токенов. Это текстовая instruction-tuned модель, прошедшая supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и мер безопасности. В поставку входят исполняемые веса, запускаемые на Linux, macOS, Windows, FreeBSD, OpenBSD и NetBSD на платформах AMD64 и ARM64; предусмотрены CLI-интерфейс, веб-интерфейс и совместимый с OpenAI API режим. Для запуска рекомендуется не менее 32 ГБ оперативной памяти. К сильным сторонам относятся компактный размер, возможность локального автономного запуска и высокая производительность среди моделей с менее чем 13 млрд параметров по ряду задач, включая понимание языка, здравый смысл, математику, код и рассуждение. Ограничения — поддержка английского языка, контекст 4K и потребность в значительных вычислительных ресурсах; конкретные возможности зависят от выбранного формата весов и оборудования. Сам llamafile распространяется по лицензии Apache 2.0, а содержащиеся веса Phi-3 опубликованы Microsoft под лицензией MIT.

RyotaKadoya1993/phi3_wiki_merged — дообученная разработчиком RyotaKadoya1993 модель Mistral для генерации текста и диалогов. Она основана на RyotaKadoya1993/phi3_translator_merged3 и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 13,8 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. В метаданных указан английский язык и возможность диалогового взаимодействия. Веса доступны в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Pinkstack/Phi-4-mini-6b-merge — объединённая языковая модель, созданная на основе microsoft/Phi-4-mini-instruct с использованием слоёв microsoft/Phi-4-mini-reasoning: слои 18–22 взяты из reasoning-модели, остальные — из instruct-модели. По метаданным, модель использует плотную архитектуру семейства Phi-3 с классом Phi3ForCausalLM, содержит 6,3 млрд параметров, принимает текст и рассчитана на контекст до 4096 токенов. Она предназначена для диалогов и генерации текста; в интерфейсе модели также заявлена поддержка вызова инструментов. Карточка предполагает, что увеличенное число слоёв даёт модели потенциал для дообучения, но не приводит результатов оценки качества или подробностей применения. Модель распространяется в формате safetensors по лицензии MIT.

MaziyarPanahi/Phi-4-mini-instruct-GGUF — это набор квантованных файлов в формате GGUF для исходной модели microsoft/Phi-4-mini-instruct. Базовую модель разработала Microsoft, а квантование и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью. Набор содержит варианты с квантованием 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF ориентирован на локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Архитектура, количество параметров, поддерживаемые языки и размер контекста в предоставленных данных не указаны. Ключевые преимущества — доступность нескольких уровней квантования и совместимость с широким набором локальных средств запуска, включая варианты с GPU-ускорением и OpenAI-совместимыми API. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, а также с зависимостью характеристик производительности от выбранного варианта и оборудования. Лицензия в README не указана.

Mungert/Phi-4-mini-instruct-GGUF — набор GGUF-версий инструкционной языковой модели Phi-4-mini-instruct, разработанной Microsoft и опубликованный пользователем Mungert. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи обработки естественного языка и кода. Доступны варианты для запуска на GPU, CPU и устройствах с ограниченной памятью. Представлены файлы в форматах BF16 и F16, а также квантованные варианты Q8_0, Q6_K, Q4_K, Q4_0 и IQ3. Квантование уменьшает потребление памяти ценой возможного снижения точности. Заявлена поддержка multilingual-сценариев и языков, включая английский, русский, китайский, японский, корейский, арабский, французский, немецкий, испанский, португальский, украинский и другие. Точный размер модели, архитектура, максимальная длина контекста и мультимодальные возможности в README не указаны; по описанию это текстовая модель. Сильные стороны набора — широкий выбор точности и размера файлов, возможность локального запуска на CPU или GPU и адаптация под устройства с разными ограничениями памяти. Более низкобитные варианты экономичнее, но могут уступать полноформатным версиям по качеству. В README не приведены результаты тестов, точные требования к памяти и подробные ограничения поведения модели. Лицензия — MIT.

bunnycore/Phi-4-Model-Stock-v3 — объединённая языковая модель, созданная разработчиком с помощью mergekit и метода Model Stock. В объединение вошли Pinkstack/SuperThoughts-CoT-14B-16k-o1-QwQ, bunnycore/Phi-4-rp-v1-lora и bunnycore/Phi-4-Model-Stock-v2; базой в README названа SuperThoughts-CoT-14B-16k-o1-QwQ. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 14,1 млрд параметров. Модель предназначена для генерации текста и диалогов в формате system/user/assistant. Контекст составляет до 16 384 токенов; файлы представлены в формате safetensors и рассчитаны на работу с Transformers. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Лицензия в доступных данных не указана. Оценки из README не гарантируют качество в конкретных задачах; перед применением стоит проверить ответы и совместимость объединённых компонентов.