I.5Создание и редактирование текста

Oxide-F2-7B-slerp — текстовая генеративная модель на основе Mistral, созданная weezywitasneezy путём слияния двух моделей с помощью LazyMergekit и метода slerp: OxytocinErosEngineeringFX-7B-slerp и BenchmarkEngineering-F2-7B-slerp. В конфигурации указана базовая модель OxytocinErosEngineeringFX-7B-slerp; для слоёв self-attention и MLP заданы отдельные коэффициенты смешивания. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors. Максимальная длина контекста составляет 32 768 токенов. Предназначена для генерации текста; карточка не уточняет специализированные сценарии или поддерживаемые языки. Для неё доступна отдельная публикация квантованных версий GGUF. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но ограничивающая коммерческое применение. README не приводит оценок качества или подробных ограничений модели.

Masterjp123/P1 — объединённая плотная языковая модель семейства Llama на 7,5 млрд параметров, созданная с помощью mergekit методом DARE TIES на основе NousResearch/Meta-Llama-3-8B. В объединение также вошли NousResearch/Hermes-2-Pro-Llama-3-8B, Weyaxi/Einstein-v6.1-Llama3-8B и asiansoul/Versatile-Llama-3-8B-1m. Модель предназначена для генерации текста, включая диалоговые сценарии. Она использует архитектуру LlamaForCausalLM, принимает текст и выдаёт текст; длина контекста составляет 8192 токена. В репозитории представлены веса в формате safetensors. Карточка не описывает сравнительные результаты или специализированные области применения. Указана лицензия базовой модели: лицензия в предоставленных данных отсутствует.

pandafish-3-7B-32k — текстовая генеративная модель, созданная ichigoberry объединением нескольких моделей семейства Mistral с помощью LazyMergekit. В состав объединения входят mistralai/Mistral-7B-Instruct-v0.2, cognitivecomputations/dolphin-2.8-mistral-7b-v02 и Locutusque/Hercules-4.0-Mistral-v0.2-7B; метаданные также указывают alpindale/Mistral-7B-v0.2-hf как одну из базовых моделей. Это плотная авторегрессионная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в сценариях с длинным контекстом. Она принимает текст и выдаёт текст; сведения о поддерживаемых естественных языках и специализированных прикладных областях в карточке отсутствуют. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных ограничений, поэтому пригодность для конкретных задач следует проверять отдельно.

Карточка модели Lazzzaroo/PaolaAI-UAM на Hugging Face совпадает с карточкой Lazzzaroo/PaolaAI-IPN-7B, поэтому описание составлено по ней. Lazzzaroo/PaolaAI-IPN-7B — чат-модель на архитектуре Qwen2, дообученная Lazzzaroo на базе unsloth/Qwen2.5-7B-Instruct-bnb-4bit. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста и диалоговых сценариев; карточка также отмечает интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Parakon 30B — сжатая версия Qwen3-30B-A3B-Instruct-2507, подготовленная Parakon. Модель предназначена для диалогов и генерации текста; карточка сообщает о сохранении качества на тестах рассуждений, математики, знаний и использования инструментов. На коде и строгом следовании формату инструкций качество снижается сильнее. Модель использует формат хранения Parakon и запускается через Parakon runtime. Опубликован runtime для CUDA; README приводит измерения скорости также для Metal и CPU на внутренних сборках, которые пока не опубликованы. В тестах указаны сжатие с 61 ГБ до 5,94 ГБ, медианное сохранение качества 88% и контекст до 262 144 токенов. Лицензия в метаданных обозначена как other.

bunsenfeng/parti_10_full — модель генерации текста, размещённая пользователем bunsenfeng на Hugging Face. По метаданным она предназначена для text-generation и совместима с библиотекой Transformers; в тегах указано семейство Qwen2 и поддержка conversational-сценариев. Разработчик исходной модели, языки обучения и лицензия в доступных материалах не указаны. Модель содержит около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Её можно применять для диалоговой генерации, продолжения текста, подготовки черновиков и ответов на запросы в приложениях на базе Transformers. Данные об оценке качества, обучающем наборе, тонкой настройке и специализированных областях применения отсутствуют. Условия использования и лицензия требуют дополнительной проверки на странице модели, поскольку в README лицензия не указана. Из-за отсутствия описания обучения и результатов тестирования модель следует предварительно проверять на целевых данных.

PasticheNeuralsirkrishna-7B — объединённая языковая модель, созданная Maxime Labonne методом DARE-TIES на основе NeuralSirKrishna-7b и CorticalStack/pastiche-crown-clown-7b-dare. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов; веса опубликованы в формате safetensors. Модель можно использовать для генерации ответов, продолжения текста и диалоговых приложений. В README приведён пример запуска через Transformers. Модель распространяется по лицензии Apache-2.0. README не описывает специальные языковые, предметные или мультимодальные возможности, поэтому их нельзя считать подтверждёнными.

PATHFINDER-120STEPS — дообученная модель mt1234 на базе unsloth/qwen2.5-coder-32b-instruct-bnb-4bit. Это плотная языковая модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В метаданных заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; её контекстное окно составляет 32 768 токенов. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0.

PEGASUS-X Base — модель Google Research, основанная на PEGASUS и предназначенная прежде всего для абстрактивного суммирования длинных текстов. Это encoder-decoder Transformer с блочно-локальным вниманием и глобальными токенами энкодера; модель содержит около 187,1 млн параметров и поддерживает входной контекст до 16 384 токенов. Модель принимает текст и генерирует текстовое резюме. PEGASUS-X расширяет PEGASUS дополнительным предобучением на длинных последовательностях; в исследовании авторы сообщают о сильных результатах на задачах суммирования длинных текстов при сравнительно небольшом размере модели. Карточка Hugging Face не содержит сведений о конкретных языках обучения или лицензии, поэтому они здесь не уточняются.

Это GGUF-квантизированная версия модели r1-1776-distill-llama-70b, разработанной perplexity-ai и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp release b4738 и метода imatrix. Модель предназначена для генерации текста и может запускаться через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Архитектура основана на Llama, размер исходной модели — 70 миллиардов параметров. В README не указаны поддерживаемые языки, длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступны варианты квантизации от Q8_0 до Q3_K и IQ3/IQ4, с размером файлов примерно от 27,47 до 74,98 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q6_K, Q5_K и Q4_K_M отмечены как рекомендуемые для различных сценариев. Сильными сторонами являются широкий выбор размеров файлов, совместимость с локальными инструментами llama.cpp и сохранение высокого качества в старших вариантах квантизации. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для версий с высоким качеством, а также потенциальное снижение качества в компактных вариантах. Модель распространяется по лицензии MIT.

susnato/phi-2 — копия модели Phi-2, разработанной Microsoft, размещённая для загрузки и использования через библиотеку Hugging Face Transformers. Это плотная авторегрессионная языковая модель архитектуры PhiForCausalLM с 3,5 млрд параметров и контекстом до 2048 токенов. Модель предназначена для генерации текста по текстовому запросу и может применяться для продолжения текста и других сценариев генерации. Репозиторий содержит веса в формате safetensors; в README заявлена лицензия MIT в метаданных. Автор репозитория отмечает, что не владеет весами: они взяты из официального репозитория Microsoft.

g-ronimo/phi-2-OpenHermes-2.5 — диалоговая языковая модель на архитектуре Phi-2, дообученная разработчиком методом QLoRA на датасете teknium/OpenHermes-2.5. Модель содержит 3,5 млрд параметров, использует библиотеку Transformers и формат safetensors; максимальная длина контекста составляет 2048 токенов. Она предназначена для генерации текста в диалоговом формате и ответов на запросы пользователя. В карточке приведены результаты сравнительных оценок на AGIEval, GPT4All, TruthfulQA и Bigbench, однако они не гарантируют качество на конкретных задачах. README указывает длину обучающих последовательностей до 1024 токенов. Модель распространяется по лицензии MIT.

Phi-3.5-24-10-06 — объединённая языковая модель семейства Phi-3.5, созданная с помощью LazyMergekit из bunnycore/Phi-3.5-Hyper-Mix и win10/phi3.5-mini-24-09-30. В метаданных указана архитектура Phi3ForCausalLM с плотной структурой и 3,7 млрд параметров; файлы представлены в формате Safetensors. Для объединения использован метод TIES, результат сохранён в FP16. Модель предназначена для генерации текста и диалогового общения. Карточка не приводит сведений о специальных предметных областях или поддерживаемых языках. Лицензия в предоставленных данных не указана.

bunnycore/Phi-3.5-mini-dare_ties — объединённая языковая модель, созданная автором репозитория методом DARE TIES с помощью mergekit. В основу слияния вошли microsoft/Phi-3.5-mini-instruct, bunnycore/Phi-3.1-EvolKit-lora, bunnycore/Phi-3.5-Mini-ChatML и nbeerbower/phi3.5-gutenberg-4B. Это плотная авторегрессионная модель семейства Phi-3 с 3,7 млрд параметров, рассчитанная на генерацию текста и диалоги; она работает через Transformers, веса опубликованы в safetensors. Нативная длина контекста — 4096 токенов. Модель подходит для генерации продолжений, ответов в чате и других текстовых сценариев, поддерживаемых базовыми Phi-3 моделями. Карточка не приводит отдельные результаты оценки качества или точное описание языкового охвата этой версии. Лицензия в предоставленных данных не указана.

thesven/Phi-3.5-mini-instruct-awq — это сторонняя AWQ-квантизованная версия Microsoft Phi-3.5-mini-instruct, опубликованная пользователем thesven. Базовая модель разработана Microsoft и предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и задач NLP, включая многоязычные сценарии. Репозиторий содержит 4-битные веса в формате Safetensors с AWQ и требует custom code для архитектуры Phi-3. Модель имеет около 4 млрд параметров, архитектуру decoder-only causal language model Phi3ForCausalLM, 32 слоя, 32 attention heads и заявленный контекст до 128K токенов. Это текстовая, а не мультимодальная модель; в карточке базовой модели заявлена многоязычная поддержка, включая английский, немецкий, испанский, французский, японский, русский, тайский и китайский. Квантизация уменьшает размер репозитория примерно до 2,28 ГБ и предназначена для более компактного локального запуска, однако для самой AWQ-версии отдельные результаты качества и подробные ограничения не опубликованы. Лицензия и условия использования у репозитория thesven явно не указаны. Для базовой Microsoft Phi-3.5-mini-instruct указана лицензия MIT. Поэтому при использовании квантизованной версии следует отдельно проверить права на распространение самой производной сборки и учитывать ограничения базовой модели, включая возможные пробелы многоязычного качества и необходимость тестирования в конкретном приложении.

bartowski/Phi-3.5-mini-instruct-GGUF — набор GGUF-квантизаций модели Phi-3.5-mini-instruct, разработанной Microsoft и преобразованной в GGUF с использованием llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев и задач обработки естественного языка, включая работу с кодом. В README заявлена мультиязычная поддержка и формат взаимодействия с системными и пользовательскими сообщениями. Доступны варианты от полных весов F32 размером 15,29 ГБ до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ различных размеров — примерно от 1,68 до 4,06 ГБ. Квантизации позволяют выбирать компромисс между качеством и требованиями к памяти; отдельные варианты оптимизированы для ARM-инференса. Для запуска рекомендуется использовать llama.cpp или LM Studio и соблюдать указанный формат prompt. Контекст модели, точное число параметров и перечень поддерживаемых языков в предоставленном README не указаны. Сильной стороной набора является широкий выбор уровней квантизации, включая варианты, ориентированные на высокое качество, экономию памяти и ARM-устройства. Ограничения зависят от выбранного варианта: более компактные квантизации могут заметно снижать качество, а некоторые требуют специфической аппаратной поддержки. В метаданных указана лицензия MIT; исходная модель размещена Microsoft.

OpenVINO/Phi-3.5-mini-instruct-int4-ov — это квантизированная версия языковой модели Phi-3.5-mini-instruct, разработанной Microsoft. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT4 с помощью NNCF. Она предназначена для генерации текста, диалоговых сценариев и других задач, поддерживаемых исходной instruction-tuned моделью; конкретные языки, размер контекста и дополнительные модальности в карточке не указаны. Сжатие выполнено в режиме int4_asym с размером группы 128 и коэффициентом ratio 1. Модель совместима с OpenVINO версии 2024.5.0 и выше, а также с Optimum Intel версии 1.21.0 и выше, и может запускаться через OpenVINO GenAI на CPU и других поддерживаемых устройствах. Ограничения следует оценивать по исходной карточке Phi-3.5-mini-instruct; подробности о качестве после квантизации в README не приведены. Модель распространяется по лицензии MIT.

bunnycore/Phi-3.5-mini-TitanFusion-0.2 — объединённая модель генерации текста на архитектуре Phi-3.5, созданная с помощью mergekit методом TIES на базе microsoft/Phi-3.5-mini-instruct. В слияние вошли несколько моделей семейства Phi-3.5, включая варианты для диалогов и ролевой генерации, а также phi3.5-gutenberg-4B и адаптер EvolKit. Модель содержит около 3,7 млрд параметров, работает через Transformers и имеет контекстное окно 4096 токенов. Модель предназначена для диалогов и генерации текста. Её можно использовать для интерактивного общения, продолжения текста и творческого письма. Базовая Phi-3.5-mini-instruct описана как многоязычная, но конкретные языки этой объединённой версии в карточке не перечислены. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и специальных ограничениях качества в предоставленной карточке отсутствуют.

bunnycore/Phi-3.5-mini-TitanFusion-0.4.1 — объединённая языковая модель, созданная с помощью mergekit методом passthrough на основе bunnycore/Phi-3.5-mini-TitanFusion-0.4 и bunnycore/Phi-3.5-rp-lora_model. Модель использует плотную архитектуру Phi-3 и класс Phi3ForCausalLM; заявленный размер — 3,7 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия. Работает через библиотеку Transformers, веса опубликованы в формате safetensors, длина контекста — 4096 токенов. Карточка не уточняет языковую специализацию или дополнительные области применения. Условия использования определяются лицензиями исходных моделей; в предоставленных данных лицензия не указана.

win10/phi-3.5-Sakura-Yuzu — объединённая языковая модель, созданная автором репозитория методом TIES с помощью mergekit на основе Microsoft Phi-3.5-mini-instruct. В слияние также вошли win10/Phi-3.5-mini-instruct-24-9-29, FreedomIntelligence/Apollo2-3.8B, ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1 и AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common. Модель семейства Phi-3 — плотная авторегрессионная языковая модель примерно на 3,7 млрд параметров. Она предназначена для диалогов и генерации текста; каталог указывает поддержку чата. Репозиторий использует формат safetensors, библиотеку Transformers и контекст длиной 4096 токенов. Базовая модель описана как многоязычная и рассчитанная на инструкции, рассуждения и код, однако сведения о конкретных языках и специализированной адаптации этого слияния не приведены. Лицензия в предоставленных данных не указана.

Phi-3-medium-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Microsoft Phi-3-medium-128k-instruct, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста, диалогового взаимодействия и задач, связанных с обработкой естественного языка и программным кодом. В README заявлена поддержка multilingual-сценариев и контекстное окно до 128 000 токенов. Доступны варианты от F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, а также форматы IQ. Размер файлов составляет примерно от 5,14 до 55,84 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее сохранение качества, тогда как компактные варианты снижают требования к памяти ценой качества ответов. Ключевые характеристики исходной архитектуры, точное число параметров, перечень поддерживаемых языков и результаты тестирования в README не указаны. Модель подходит для локального инференса, чат-ботов, генерации и анализа текста, а также помощи с кодом при наличии оборудования с достаточным объёмом оперативной или видеопамяти. Ограничениями являются зависимость качества и требований к ресурсам от выбранной квантизации, а также отсутствие в предоставленных данных подробных оценок производительности и гарантий точности. Указана лицензия MIT, унаследованная от исходной модели Microsoft.

Это конверсия Phi-3 Medium-128K-Instruct от Microsoft в формат ONNX, оптимизированная для инференса на CPU через ONNX Runtime. Модель представляет собой плотную авторегрессионную языковую модель семейства Phi-3 примерно с 13,8 млрд параметров, настроенную следовать инструкциям и вести диалог. Лицензия — MIT. Модель предназначена для генерации ответов и текста, включая задачи рассуждения, понимания языка, математики и кода. README описывает вариант семейства с контекстом до 128 тысяч токенов, однако метаданные указывают native context в 4096 токенов, поэтому доступную длину контекста следует сверять с конкретной конфигурацией ONNX. Репозиторий содержит CPU-вариант с квантизацией INT4 методом RTN; для запуска рекомендуется компьютер с 16 ГБ оперативной памяти. README сообщает скорость около 20 токенов в секунду на Intel Core i9-10920X, но производительность зависит от оборудования и настроек.

Phi-3-medium-4k-instruct-GGUF — это квантизированная GGUF-версия языковой модели Phi-3-medium-4k-instruct, разработанной Microsoft и подготовленной к квантизации компанией Second State Inc. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи обработки естественного языка и работы с кодом. Указана поддержка нескольких языков, но их точный перечень в карточке не приведён. Модель использует архитектуру Phi, имеет контекст до 4000 токенов и поддерживает формат GGUF с вариантами квантизации от 2 до 8 бит, а также f16. Размер файлов составляет примерно от 5,14 до 27,9 ГБ. Вариант Q4_K_M обозначен как рекомендуемый баланс размера и качества, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Модель совместима с LlamaEdge версии 0.11.2 и выше и использует шаблон запросов phi-3-chat. Основное преимущество этой версии — возможность локального запуска с выбором компромисса между потреблением памяти, размером файла и качеством ответов. Низкобитные варианты экономичнее, но могут заметно терять в качестве; для большинства практических сценариев рекомендуется избегать Q2_K и ряда более агрессивных квантизаций. Карточка не содержит данных о точном числе параметров, обучающих данных, результатах оценки, аппаратных требованиях или ограничениях безопасности. Модель распространяется по лицензии MIT.

Phi-3-mini-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Phi-3-mini-128k-instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалоговых сценариев, включая обработку запросов и работу с кодом. Она поддерживает английский язык, использует формат GGUF и рассчитана на контекст до 128 000 токенов. Для работы в GaiaNet предусмотрен шаблон prompt phi-3-chat. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 1,42 до 7,64 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S обеспечивают меньшее снижение качества при большем размере. Более агрессивная квантизация уменьшает требования к ресурсам, но может заметно ухудшать качество ответов. Модель ориентирована преимущественно на английские задачи; сведения о мультимодальности отсутствуют. Квантизацию выполнила Second State Inc. Лицензия — MIT.

Phi-3-mini-128k-instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Phi-3-mini-128k-instruct, разработанной Microsoft. Квантизацию выполнила Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая обработку естественного языка и кода; в метаданных указан английский язык. Это текстовая, а не мультимодальная модель. Ключевая характеристика модели — контекстное окно до 128 000 токенов. Репозиторий содержит варианты с квантизацией от 2 до 8 бит, а также версию f16 размером 7,64 ГБ. Рекомендуемыми считаются Q4_K_M как сбалансированный вариант, а также Q5_K_M и Q5_K_S с меньшими потерями качества. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; для Q2_K, Q3 и некоторых Q4-вариантов это прямо отмечено в описании. Модель может использоваться локально через совместимые инструменты GGUF и LlamaEdge; для запуска требуется LlamaEdge версии 0.12.2 или выше и шаблон запросов phi-3-chat. В README не приведены результаты тестирования, точное число параметров, требования к аппаратному обеспечению или сведения о качестве на конкретных задачах. Модель распространяется по лицензии MIT.

Карточка модели antoniogalizia/Phi-3-mini-4k-instruct на Hugging Face совпадает с карточкой microsoft/Phi-3-mini-4k-instruct, поэтому описание составлено по ней. Phi-3-Mini-4K-Instruct — компактная плотная языковая модель Microsoft семейства Phi-3 с 3,7 млрд параметров. Она обучена на синтетических данных и отфильтрованных общедоступных веб-источниках, а затем дообучена методом supervised fine-tuning и оптимизирована по предпочтениям (DPO) для следования инструкциям и повышения безопасности. Для диалогов рекомендуется использовать формат чата. Модель предназначена для генерации текста общего назначения, диалоговых систем, задач рассуждения, математики и программирования. Компактный размер рассчитан на сценарии с ограниченными вычислительными ресурсами и требованиями к задержке; длина контекста составляет 4096 токенов. Модель ориентирована прежде всего на английский язык, также в карточке указана поддержка французского. Модель может ошибаться, выдавать предвзятые или оскорбительные ответы; качество на языках, отличных от английского, может быть ниже. Для критичных сценариев требуется отдельная проверка качества и безопасности. Лицензия — MIT.

Phi-3-mini-4k-instruct-GGUF — квантованная версия легковесной языковой модели Phi-3-mini-4k-instruct, разработанной Microsoft и опубликованной в формате GGUF для локального запуска. В README указано, что модель обучалась на наборах данных Phi-3, включающих синтетические данные и отфильтрованные общедоступные веб-материалы с акцентом на качество и задачи, требующие рассуждений. Модель предназначена для генерации текста, диалоговых сценариев и других задач обработки естественного языка, включая работу с кодом. Она поддерживает английский язык, имеет контекстное окно 4096 токенов и относится к текстовым моделям. Формат GGUF совместим с приложениями на базе llama.cpp, включая Backyard AI, и позволяет распределять вычисления между CPU и GPU. Ключевое преимущество модели — компактность и возможность локального запуска на более широком спектре оборудования благодаря квантованию, которое снижает требования к ресурсам. Ограничением является компромисс между эффективностью и качеством: при более низкой точности квантования могут снижаться связность и качество ответов. Конкретный уровень квантования в README не указан. Базовая модель распространяется по лицензии MIT; для этой версии также указана лицензия MIT.

OpenVINO/Phi-3-mini-4k-instruct-int4-ov — это квантизированная версия Phi-3-mini-4k-instruct, разработанной Microsoft. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT4 с помощью NNCF. Это инструкционно настроенная языковая модель для генерации текста и диалоговых сценариев; поддерживается инференс через Optimum Intel и OpenVINO GenAI. Ключевые характеристики включают асимметричное INT4-сжатие весов с размером группы 64 и коэффициентом сжатия 1. В названии указано окно контекста 4k. Модель предназначена для запуска в экосистеме OpenVINO, в том числе на CPU, и совместима с OpenVINO версии 2024.4.0 и выше, а также Optimum Intel 1.23.1 и выше. Формат OpenVINO IR и INT4-квантизация могут снизить требования к памяти и упростить развёртывание, однако квантизация способна влиять на качество генерации по сравнению с исходной моделью. Языки, точный размер модели, результаты бенчмарков и подробные ограничения в карточке не указаны; для ограничений рекомендуется обращаться к карточке исходной Phi-3-mini-4k-instruct. Модель распространяется по лицензии MIT.

EasierAI/Phi-4-14B — текстовая языковая модель на 14 млрд параметров, разработанная Microsoft Research и основанная на Microsoft Phi-4. В данном варианте модель преобразована в архитектуру, совместимую с Llama, для более удобного использования и дообучения; также заявлены исправления Unsloth. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, решения математических задач и программирования. Она принимает текстовые входы и лучше всего работает с запросами в чат-формате. Модель представляет собой плотный decoder-only Transformer с контекстом до 16 000 токенов и поддерживает английский язык. Phi-4 обучалась на сочетании синтетических данных, отфильтрованных общедоступных веб-источников, академических книг и наборов вопросов и ответов, а для улучшения поведения использовались supervised fine-tuning и direct preference optimization. К сильным сторонам относятся ориентация на качественные данные, развитое рассуждение, следование инструкциям и возможности для локального запуска и дообучения в форматах, поддерживаемых экосистемой Unsloth и llama.cpp. Ограничения включают текстовую модальность, заявленную специализацию на английском языке и необходимость учитывать ресурсы, требуемые для запуска 14B-модели; конкретные показатели качества в README не приведены. Лицензия указана как MIT. README описывает этот репозиторий как конверсию Phi-4 и ссылается на базовую модель microsoft/phi-4; сведения о точном формате или квантовании данной версии в предоставленных данных отсутствуют.

parmanu-lcs2/Phi-4-7B — сжатая методом SNIPER версия Phi-4, представленная в формате Transformers и предназначенная для генерации текста и диалогового применения. После прореживания осталось около 7,45 млрд параметров; README указывает целевой коэффициент сжатия 50%. По метаданным архитектура относится к семейству Phi-3 и имеет 14,1 млрд параметров, что расходится с числом параметров после прореживания в карточке. После прореживания модель прошла восстановительное дообучение LoRA на 2000 примерах SlimOrca в течение одной эпохи; адаптеры объединены с весами. Указанный в README контекст при дообучении — 1024 токена, а нативный контекст в метаданных — 16384 токена. Для использования приведён пример загрузки через Transformers с trust_remote_code=True. Информация о лицензии и языках модели в предоставленных данных отсутствует.