II.6Документация и сопровождение разработки

Карточка модели ddidacus/olmoe-base на Hugging Face совпадает с карточкой allenai/OLMoE-1B-7B-0125-Instruct, поэтому описание составлено по ней. OLMoE-1B-7B-0125-Instruct — англоязычная диалоговая модель Allen Institute for AI, выпущенная в январе 2025 года. Это модель генерации текста с архитектурой MoE и классом OlmoeForCausalLM; в метаданных указано 472,1 млн параметров и контекст до 4096 токенов. Она принимает диалоговые текстовые запросы и генерирует ответы. Модель дообучена на базе allenai/OLMoE-1B-7B-0125-DPO: обучение включало supervised fine-tuning на варианте набора Tülu 3 для OLMo, DPO и RLVR. Предназначена для чата, ответов на вопросы и решения разнообразных задач, включая математику и следование инструкциям. README приводит результаты на нескольких бенчмарках, но не гарантирует качество для каждого сценария. Модель рассчитана преимущественно на английский язык и распространяется по лицензии Apache 2.0. В README отмечено, что модель прошла ограниченное обучение безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах.

DreadPoor/ONeil-model_stock-8B — языковая модель, созданная автором репозитория методом слияния Model Stock с помощью mergekit. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, рассчитанная на генерацию текста и диалоговое общение. В качестве базовой модели использована Sao10K/L3-8B-Stheno-v3.2; в слияние также вошли Llama-3-Refueled, Dolphin 2.9, Hermes 2 Theta, Llama-3-Lumimaid и L3-TheSpice. Модель принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Репозиторий предоставляет веса в формате safetensors для библиотеки Transformers. Карточка приводит результаты оценивания на IFEval и BBH, но не описывает отдельную специализацию по предметной области или языкам. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Как результат слияния нескольких моделей, её поведение и качество могут различаться по задачам; приведённые оценки не гарантируют качество в конкретном сценарии.

OpenAssisted-English-Mistral-7b-i1-GGUF — это квантизированная версия англоязычной языковой модели OpenAssisted-English-Mistral-7b, разработанной Akshaykumarbm и преобразованной в формат GGUF пользователем mradermacher. Модель относится к семейству Mistral и предназначена для генерации текста, диалогового взаимодействия и других задач языкового моделирования на английском языке. Репозиторий содержит набор вариантов квантизации i1 с разным размером — примерно от 1,7 до 6,0 ГБ, а также imatrix-файл для создания собственных квантов. Доступны варианты IQ и Q с различным компромиссом между размером, скоростью и качеством. В README рекомендуются i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как сбалансированный по размеру, скорости и качеству; низкобитные варианты экономят память, но могут заметно уступать по качеству. Точная архитектура, размер контекста, поддерживаемые модальности помимо текста и дополнительные языки не указаны. Модель распространяется по лицензии Apache-2.0. Для работы с файлами GGUF требуется совместимое программное обеспечение; конкретные требования к оборудованию и производительности зависят от выбранного варианта квантизации.

OpenBA-V1-Based — языковая модель семейства OpenBA, разработанная авторами проекта OpenBA. Это плотная модель типа encoder-decoder для генерации текста; репозиторий содержит веса PyTorch. В карточке Hugging Face указано 3,8 млрд параметров, а описание семейства в README сообщает о предварительном обучении OpenBA-LM с нуля на англоязычных, китайских и программных текстах. README также упоминает отдельную версию OpenBA-Flan, дообученную на наборе BiFlan, но не связывает её с этим репозиторием. Модель предназначена для генерации текста на китайском и английском языках. Её можно применять для продолжения текста и разработки двуязычных NLP-сценариев; метаданные также содержат тег feature-extraction, однако pipeline_tag и поддерживаемая задача каталога указывают на text-generation. Модель распространяется по лицензии Apache 2.0. Длина контекста и практические ограничения качества для конкретного чекпойнта в доступных сведениях не описаны.

OpenDolphinMaid-4x7b — языковая модель для генерации текста, созданная Undi95 слиянием OpenHermes-2.5-Mistral-7B, Dolphin-2.6-Mistral-7B-DPO и двух копий Noromaid-7B-0.4-DPO. Модель построена на архитектуре Mixtral MoE, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors; README описывает формат fp16 и шаблон диалога ChatML. Модель предназначена для диалогов и генерации текста по инструкциям. Разработчик сообщает, что слияние было нацелено на улучшение способностей модели при размере меньше, чем у варианта 8x7B, но не приводит количественных оценок качества. Модель помечена как NSFW и не предназначена для всех аудиторий. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Open-Instruct Baize 7B — модель генерации текста на базе LLaMA с 6,6 млрд параметров, дообученная командой Allen Institute for AI на наборе Baize. Она предназначена для ответов на инструкции и вопросы в формате диалога, а также для исследовательской оценки instruction-tuning-моделей. Для работы требуется базовая модель LLaMA в формате Hugging Face: опубликованный репозиторий содержит diff весов, а не самостоятельный полный чекпойнт. Модель использует архитектуру LLaMA и контекст до 2048 токенов; карточка указывает английский язык. В опубликованных бенчмарках модель оценивалась на задачах общего понимания, математики, вопросов и ответов и генерации кода. Качество зависит от соблюдения формата ввода, включая перевод строки после маркера начала ответа. Лицензия определяется лицензией AI model из LICENSE.txt и исходной лицензией LLaMA; условия следует проверить в этих файлах перед использованием.

Open-Instruct Unnatural Instructions 13B — языковая модель семейства LLaMA с 12,9 млрд параметров, дообученная исследователями AllenAI на наборе Unnatural Instructions для генерации ответов на инструкции. Модель принимает текст и генерирует текст; она рассчитана на англоязычные запросы. Контекстное окно — 2048 токенов. Модель предназначена для следования инструкциям и исследовательской оценки instruction tuning; в карточке приведены результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Для работы нужны исходные веса LLaMA в формате Hugging Face, поскольку опубликована разность весов. Модель распространяется по лицензии AI Model License вместе с исходной лицензией LLaMA.

Open_Maid_Samantha_Hermes_Orca_dare_tiesv0.1 — объединённая языковая модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit и метода DARE TIES. В основу объединения вошла mistralai/Mistral-7B-v0.1; также использованы OpenHermes-2.5-Mistral-7B, Noromaid-7B-0.4-DPO, Mistral-7B-OpenOrca и samantha-1.1-westlake-7b. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста. Заявленная длина контекста — 32 768 токенов. В README приведены результаты оценивания на Open LLM Leaderboard, включая средний балл 67,80, но данных о поддерживаемых естественных языках и прикладных областях нет. Репозиторий содержит веса в формате safetensors. Модель опубликована по лицензии CC BY 4.0. Результаты оценивания не гарантируют качество на конкретных задачах; README не приводит подробных ограничений или результатов по остальным метрикам.

OpenOrca-Platypus2-13B-imatrix-GGUF — набор imatrix-квантизированных версий модели OpenOrca-Platypus2-13B, разработанной на основе объединения garage-bAInd/Platypus2-13B и Open-Orca/OpenOrcaxOpenChat-Preview2-13B. Модель предназначена для генерации текста и выполнения инструкций; в карточке указано, что она относится к текстовым моделям и поддерживает английский язык. Это 13-миллиардная модель в формате GGUF, ориентированная на запуск средствами, совместимыми с GGUF. Для базовой версии Platypus2-13B указан шаблон запросов с секциями «### Instruction» и «### Response»; для варианта OpenChat рекомендуется шаблон OpenChat Llama2 V1. Дополнительные сведения об архитектуре, размере контекста, поддерживаемых модальностях и практических характеристиках не приведены. В карточке не указаны конкретные преимущества, ограничения производительности или требования к оборудованию. Лицензия обозначена как other, без подробного описания условий использования, поэтому перед применением необходимо ознакомиться с лицензиями исходных моделей и условиями распространения данной сборки.

ali-elganzory разработал эту дообученную модель семейства OpenSci для генерации текста. Это плотная авторегрессионная языковая модель на 1,7 млрд параметров с контекстом до 16 384 токенов; модель опубликована в формате safetensors и предназначена для запуска через Transformers. Карточка показывает пример диалогового запроса и обучение с помощью TRL. Модель можно применять для генерации продолжений текста и ответов на запросы в диалоговом формате. В метаданных указана связь дообучения с базовой моделью ali-elganzory/open-sci-ref-v0.02-1.7b-mixturevitae-noinstruct-300B-4096-longsft_16k. Лицензия и конкретные языки модели в предоставленных данных не указаны.

Это дообученная модель OpenSci для генерации текста в формате диалога. Она создана на основе ali-elganzory/open-sci-ref-v0.02-1.7b-nemotron-hq-300B-4096-longsft_16k и обучена с помощью TRL; архитектура — плотная причинная языковая модель OpensciForCausalLM с 1,7 млрд параметров. Модель принимает текстовые сообщения и генерирует текст, поддерживая контекст длиной до 16 384 токенов. Модель предназначена для диалоговой генерации и ответов на текстовые запросы. В README приведён пример генерации ответа на вопрос с помощью Transformers. Репозиторий распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

OpenSonnet-Lite — компактная языковая модель с открытыми весами, разработанная сообществом Open Source и дообученная на основе Qwen/Qwen3-4B-Thinking-2507. Это плотная причинная модель семейства Qwen3 с 3,7 млрд параметров по метаданным. Она предназначена для генерации текста и пошаговых рассуждений; исправленный шаблон чата поддерживает связное рассуждение в многоходовых диалогах. В README заявлена близкая к Claude Sonnet 4.6 производительность на задачах рассуждения, однако независимые результаты оценки не приведены. Модель рассчитана на повседневное использование, в том числе на ограниченных ресурсах; для демонстрационного запуска автор указывает две GPU T4. В README приведены рекомендации по длине генерации от нескольких тысяч до 131 072 токенов, а метаданные указывают нативный контекст 262 144 токена. Обучение включало около 140 тысяч отфильтрованных примеров из наборов данных с рассуждениями разных моделей. Модель принимает текст и генерирует текст; конкретный перечень поддерживаемых естественных языков не установлен. Модель может галлюцинировать, особенно на узких темах и при работе с актуальными фактами. README также предупреждает о возможном наследовании предвзятости источников данных и отсутствии встроенного фильтра безопасности или специального аудита. Лицензия — Apache-2.0.

Модель Helsinki-NLP/opus-mt-ru-en разработана Language Technology Research Group Хельсинкского университета для перевода с русского языка на английский. Это Transformer-align на архитектуре Marian, содержащий 57,2 млн параметров; модель принимает текст и выдаёт текст. Контекст ограничен 512 токенами. Модель предназначена для машинного перевода русскоязычных текстов на английский и прямого текст-в-текст использования. В карточке приведены результаты на нескольких тестовых наборах новостного перевода. Обучение основано на данных OPUS, с нормализацией и SentencePiece. Модель выпускается в форматах PyTorch и TensorFlow и распространяется по лицензии CC-BY-4.0. Возможны ошибки перевода и смещения, связанные с обучающими данными; для важных материалов результат следует проверять.

Orca 2 7B — языковая модель Microsoft, представленная в квантованном формате GGUF компанией TheBloke. Это текстовая модель генерации на базе архитектуры типа Llama с примерно 7 млрд параметров, предназначенная для локального запуска и диалогового взаимодействия. Модель использует шаблон запросов ChatML с системными и пользовательскими сообщениями. Репозиторий содержит варианты квантования от 2 до 8 бит, рассчитанные на инференс с использованием CPU и GPU. Формат GGUF совместим с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения. Разные уровни квантования позволяют выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, однако конкретные характеристики контекстного окна, поддерживаемые языки и результаты оценки в README не указаны. Модель подходит для локальной генерации текста и чат-сценариев при наличии совместимого программного обеспечения. Ограничения включают отсутствие в предоставленных данных подробностей о мультимодальности, языковом покрытии, контекстном окне и специализированных возможностях. Лицензия обозначена как other, но её конкретные условия в README не приведены.

OrcaMaid V2 Fix 13B 32K — языковая модель для генерации текста и выполнения инструкций, разработанная ddh0. Представлена в формате GGUF и квантована TheBloke для запуска на CPU и GPU через llama.cpp и совместимые приложения. Модель относится к семейству Llama и имеет около 13 миллиардов параметров; заявлено контекстное окно до 32 000 токенов. Сведения о языках обучения и поддерживаемых модальностях отсутствуют, поэтому модель следует рассматривать как текстовую. Модель предназначена для диалогов, ответов на инструкции, генерации и продолжения текста, а также сценариев локального запуска, включая использование через text-generation-webui, KoboldCpp, GPT4All, LM Studio и другие совместимые инструменты. GGUF доступен в вариантах квантования от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством, однако более сильное квантование может снижать точность ответов. В README не приведены независимые оценки качества, подробности датасета или конкретные сильные стороны модели. Лицензия указана как microsoft-research-license, при этом автор README отмечает возможное одновременное действие лицензии исходной модели и Meta Llama 2 License. Условия такого двойного лицензирования требуют дополнительной проверки в репозитории исходной модели перед использованием.

Qwen2 Orca Mini v7 7B — разговорная модель на базе архитектуры Qwen2, разработанная Pankaj Mathur и дообученная на наборах данных для supervised fine-tuning (SFT). Она предназначена для диалогов и ответов на общие вопросы в формате ChatML. Модель содержит 7,1 млрд параметров и принимает текст, выдавая текст; заявленная длина контекста составляет 32 768 токенов. Для обработки более длинных входов в README описана настройка YARN с vLLM, однако увеличение контекста может повлиять на качество коротких запросов. README приводит результаты отдельных тестов Open LLM Leaderboard, но полноценная оценка заявлена как ожидающая публикации. Языки и узкая прикладная специализация не обозначены, поэтому модель подходит для общих разговорных сценариев. Репозиторий распространяется по лицензии Apache-2.0; автор разрешает дальнейшее дообучение и слияние при указании авторства.

pankajmathur/orca_mini_v9_1_1B-Instruct — диалоговая языковая модель Pankaj Mathur, дообученная на основе meta-llama/Llama-3.2-1B-Instruct. Она предназначена для генерации текста в формате беседы: ответы на вопросы, помощь в написании текста и другие запросы к виртуальному помощнику. Модель использует плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и имеет контекстное окно до 131 072 токенов. Принимает текст и выдаёт текст; в метаданных указан английский язык. Модель распространяется в формате safetensors по лицензии llama3.2. Компактный размер делает её подходящей для развёртывания в условиях ограниченных ресурсов. Как и другие небольшие языковые модели, она может давать неточные, предвзятые или нежелательные ответы; перед применением в конкретном продукте рекомендуется проверять её качество и настраивать меры безопасности.

orca_mini_v9_6_1B-Instruct — разговорная языковая модель Pankaj Mathur, дообученная на основе meta-llama/Llama-3.2-1B. Она предназначена для генерации текста в диалоговом формате и может использоваться как компактный помощник, в том числе в средах с ограниченными вычислительными ресурсами. Архитектура — плотная LlamaForCausalLM; модель содержит 1,2 млрд параметров, принимает текст и выдаёт текст. Для запуска автор приводит примеры с Google Colab и локально через GGUF-версию с Ollama. В карточке заявлено контекстное окно 131 072 токена. Указаны английский язык и наборы данных orca_mini_v1_dataset и orca_mini_v8_sharegpt_format. Репозиторий содержит веса PyTorch и safetensors; лицензия — Llama 3.2. Как и другие небольшие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением необходимы проверки и настройки безопасности под конкретное применение.

OrionStar Yi 34B Chat Llama — текстовая gener generative-модель для диалогового взаимодействия, разработанная OrionStarAI. Представлена в формате GGUF и предназначена для задач генерации текста и чат-сценариев, включая запуск через LlamaEdge. Модель относится к семейству Yi, содержит около 34 миллиардов параметров и поддерживает контекст длиной до 7168 токенов. Сведения о поддерживаемых языках и дополнительных модальностях в README не указаны. Модель доступна в нескольких вариантах квантизации от Q2_K до Q8_0. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества; квантизация Q2_K–Q4_0 обеспечивает меньший размер, но может заметно снижать качество. Размер файлов составляет примерно от 12,8 до 36,5 ГБ, поэтому для запуска требуются значительные вычислительные ресурсы и память. Квантизацию и публикацию GGUF-вариантов выполнила Second State Inc. Для работы с LlamaEdge требуется версия 0.2.9 или новее и специальный шаблон prompt типа human-assistant. Лицензия модели указана как Apache-2.0.

OrionStar Yi 34B Chat Llama — это диалоговая языковая модель OrionStarAI, представленная в формате GGUF и квантизированная TheBloke. Модель основана на архитектуре Yi, имеет 34 млрд параметров и предназначена для генерации текста и ведения диалогов. Исходная модель доступна в формате PyTorch fp16, а данный репозиторий содержит варианты GGUFv2 с разной разрядностью квантования — от 2 до 8 бит. Модель ориентирована на чат-сценарии, ответы на запросы и общее текстовое взаимодействие. В README приведён шаблон промпта Human: {prompt} Assistant:, а также пример диалога на китайском языке. Поддержка других языков, размер контекста и дополнительные модальности в доступных данных не указаны; модель описана как текстовая и относится к задаче text-generation. GGUF-файлы совместимы с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers, что позволяет запускать модель локально с использованием CPU и GPU. Разные уровни квантования дают выбор между требованиями к памяти, скоростью и сохранением качества, однако конкретные показатели качества и ограничения вариантов в README не приведены. Модель распространяется по лицензии yi-license; тип лицензии указан как other, с отдельным файлом LICENSE.

Ornith-1.5-35B-A3B-Abliterated — вариант модели ornith-ai/Ornith-1.5-35B-A3B, подготовленный разработчиком alztrk. В модели выполнено удаление направлений отказа из активаций скрытых состояний, после чего опубликованы checkpoint Safetensors и набор динамических квантованных сборок GGUF. Модель предназначена для диалоговой генерации текста и запуска через совместимые инструменты, включая llama.cpp и Ollama. Архитектура основана на MoE с 35,8 млрд параметров, из которых около 3,1 млрд активны на токен; в ней 256 экспертов и 40 гибридных слоёв с линейным вниманием DeltaNet и полным вниманием. Родной контекст составляет 262 144 токена. В репозитории есть варианты GGUF Q3_K_M, Q4_K_M и Q5_K_M с динамической квантовкой, а также полноточные веса Safetensors. Метаданные указывают английский, турецкий и китайский языки, а также интерфейс вызова инструментов. Удаление отказов делает модель менее склонной отклонять запросы, но само по себе не гарантирует корректность ответов или безопасное использование. Квантованные варианты требуют меньше памяти, чем полноточные веса, при этом квантование может снижать точность. Лицензия репозитория — Apache-2.0.

Ouro-1.4B — языковая модель ByteDance с архитектурой LoopLM: decoder-only Transformer, который повторно использует общие веса при рекуррентных вычислениях. Модель содержит 1,3 млрд параметров по метаданным Hugging Face; в README указано 1,4 млрд, 24 слоя и 4 рекуррентных шага. Максимальная длина контекста — 65 536 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая рассуждения с вычислениями в латентном пространстве. Поддерживает адаптивный ранний выход, позволяющий менять расход вычислений; заявленная сильная сторона — эффективность по числу параметров. README сообщает о сопоставимости с обычными трансформерами на 3–4 млрд параметров, но не приводит здесь подробностей оценки. Для запуска рекомендуется Transformers 4.56.0; vLLM не поддерживает адаптивный выход, поэтому при его использовании выполняются все рекуррентные шаги. Модель предоставлена «как есть», без гарантий для производственного применения. Лицензия — Apache-2.0.

Ouro-1.4B-Thinking-depth-SFT — дообученная разговорная языковая модель примерно с 1,3 млрд параметров, основанная на ByteDance/Ouro-1.4B-Thinking. Она использует плотную архитектуру Ouro для генерации текста и ответов с рассуждениями; карточка задаёт параметр глубины DEPTH=16. Модель рассчитана на диалоги и задачи, где полезны пошаговые рассуждения, включая математику, науку и код. Она принимает текст и выдаёт текст, поддерживает контекст до 65 536 токенов и предназначена для использования через Transformers. Модель опубликована под лицензией Apache-2.0. Доступная карточка содержит мало сведений о данных и результатах обучения, поэтому качество на конкретных задачах и языках по ней оценить нельзя.

Ouro-2.6B — языковая модель ByteDance с 2,6 млрд параметров на архитектуре Looped Language Model: это декодерный Transformer из 24 слоёв с общими весами, которые повторно применяются на четырёх рекуррентных шагах. Модель предназначена для генерации текста и диалогового взаимодействия; рекуррентные вычисления в скрытом пространстве поддерживают рассуждения, а механизм раннего выхода позволяет менять объём вычислений и баланс между скоростью и качеством. Модель принимает текст и генерирует текст, поддерживает контекст до 65 536 токенов. В README заявлена эффективность по числу параметров на уровне стандартных моделей размером 3–4 млрд параметров, но независимые показатели качества не приведены. Для адаптивного раннего выхода требуется совместимая среда: при использовании vLLM модель всегда выполняет все заданные рекуррентные шаги. Лицензия — Apache 2.0; README предупреждает, что модель предназначена для исследований и предоставляется без гарантий для производственного использования.

Ouro-2.6B-Thinking — языковая модель ByteDance для генерации текста с упором на рассуждения. Это дообученная версия Ouro-2.6B: модель прошла supervised fine-tuning на наборах примеров по математике, программированию, науке и диалогам. Архитектура — плотная рекуррентная OuroForCausalLM с 2,6 млрд параметров и 24 слоями; по умолчанию используются четыре рекуррентных шага. Контекст — до 65 536 токенов. Модель рассчитана на математические и научные задачи, написание и анализ кода, а также диалоговые сценарии; она может выдавать подробные шаги рассуждения. В карточке заявлены компактный размер и согласованность промежуточных рекуррентных выходов. Число шагов можно менять, выбирая компромисс между вычислительными затратами и качеством; адаптивный выход не поддерживается в vLLM. Для совместимости README указывает Transformers 4.54.1, а в разделе быстрого старта — версию 4.56.0. Разработчик предупреждает, что модель предоставляется без гарантий пригодности для промышленного использования и предназначена для исследований. Лицензия — Apache-2.0.

Park3-4B-Base — языковая модель с примерно 3,7 млрд параметров из семейства Qwen3, опубликованная пользователем koohack. Модель предназначена для генерации текста и совместима с библиотекой Transformers; в метаданных также отмечена как conversational-модель. Модель может применяться для продолжения и генерации текста, диалоговых сценариев, подготовки черновиков и экспериментов с языковыми приложениями. Заявлена длина контекста до 32 768 токенов, что позволяет обрабатывать достаточно большие фрагменты входного текста. README не содержит сведений о разработчике, обучающих данных, оценочных результатах, поддерживаемых естественных языках или лицензии.

Persephone — языковая модель ResplendentAI для генерации текста. Это объединённая модель на архитектуре Mistral с 7,1 млрд параметров, рассчитанная на контекст до 32 768 токенов и работающая через библиотеку Transformers. Автор описывает её как эксперимент с новым подходом к созданию модели. Модель подходит для генерации продолжений текста и других сценариев, основанных на text-generation. В карточке указан английский язык. Модель распространяется в формате safetensors; лицензия обозначена как other, поэтому конкретные условия использования следует проверять на странице модели. README не приводит результатов оценки качества или подробного описания возможностей.

duyntnet/Phi-3-medium-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-Medium-4K-Instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалоговых сценариев с инструкциями, включая ответы на вопросы, объяснения и решение задач. Она рассчитана прежде всего на использование в формате чата и поддерживает английский язык. Исходная модель относится к семейству Phi-3 и имеет контекст до 4K токенов; README также указывает размер словаря токенизатора до 32 064 токенов. В данном репозитории представлены квантизированные варианты с использованием imatrix в формате GGUF, совместимые с llama.cpp после указанного в README коммита. Конкретные уровни квантования и размер параметров в предоставленных данных не указаны. Сильными сторонами являются инструкционно-ориентированное поведение, поддержка многоходовых диалогов и возможность локального запуска через совместимые инструменты для GGUF. Ограничения включают англоязычную специализацию, контекст в 4K токенов и возможное снижение качества, зависящее от выбранного уровня квантования. Для работы могут потребоваться актуальные версии поддерживающего ПО и корректный chat format. Лицензия указана как other; дополнительные условия лицензирования в README не приведены.

mzbac/Phi-3-mini-4k-grammar-correction — модель генерации текста на архитектуре Phi-3, представленная как инструмент для исправления грамматики. Она предназначена для редактирования пользовательского текста и может использоваться в сценариях корректуры и интеграции языковой модели в чат-интерфейсы. Модель содержит 3,7 млрд параметров, принимает текст и генерирует текст, а заявленная длина контекста составляет 4096 токенов. Репозиторий содержит веса в формате safetensors; метаданные отмечают поддержку чата. Лицензия — MIT.

Phi-3-mini-4k-instruct — разговорная языковая модель семейства Phi-3, опубликованная Unsloth. Репозиторий содержит 4-битную версию с квантованием bitsandbytes; модель адаптирована для совместимости с разными платформами. Метаданные указывают архитектуру MistralForCausalLM, 3,7 млрд параметров и контекст до 4096 токенов. Модель предназначена для генерации текста в диалогах и инструктивных сценариях. Её можно использовать для ответов на вопросы, ведения беседы и текстового дополнения; README также описывает сценарии дообучения на собственных данных и экспорта дообученных моделей. Указанный язык — английский. Лицензия — MIT. Карточка не приводит результатов оценки качества или подробных ограничений; короткое контекстное окно в 4096 токенов ограничивает работу с длинными документами.