I.5Создание и редактирование текста
В разделе собраны самостоятельные задачи, где AI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
44 385 моделейOpenBuddy разработана командой OpenBuddy как мультиязычная диалоговая модель. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 56,2 млрд параметров, распространяемая в формате safetensors. В README указано, что при создании использованы части весов Yi-34B-32K и Llama-3-70B-Instruct, а дальнейшее обучение проводилось на мультиязычном наборе данных с токенизатором Yi-34B-32K. Модель предназначена для диалогов и генерации текста; поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и финский языки. Заявленная длина контекста — 131 072 токена. Модель можно использовать для чат-ботов, ответов на вопросы и создания мультиязычных текстовых сервисов. README рекомендует быстрый токенизатор Transformers; также описан формат запросов, совместимый с развёртыванием через vLLM. Лицензия указана как other; в README упомянуты лицензии исходных компонентов Apache 2.0 и Meta Llama 3 Community License, поэтому условия использования следует проверять для конкретного применения. Модель может выдавать ошибочные, вредные или оскорбительные ответы; разработчики предостерегают от использования в критически важных медицинских, финансовых, юридических и иных высокорисковых сценариях.
OpenCarrot-Mix-7B — текстовая генеративная модель на архитектуре Mistral, созданная командой CarrotAI линейным слиянием моделей через mergekit. В слияние вошли amazingvince/Not-WizardLM-2-7B и CarrotAI/OpenCarrot-Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. В карточке приведены оценки на корейских тестах LogicKor по программированию, математике и пониманию текста; эти результаты не гарантируют качество на других задачах или языках. Метаданные указывают корейский и английский языки. Модель распространяется по лицензии MIT.
Pretergeek создал OpenChat-3.5-0106_9.86B_44Layers-Appended на основе диалоговой модели OpenChat 3.5 0106. Это плотная причинная языковая модель семейства Mistral с 9,7 млрд параметров, предназначенная для генерации текста и общения в формате чата. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Модель получена расширением исходной сети дополнительными слоями в конце: автор применил вариант метода расширения блоков, описанного в работе LLaMA Pro. По README, после такого расширения модель ещё не проходила дополнительное обучение и должна вести себя близко к исходной. Её можно использовать для диалога, ответов на общие вопросы, программирования и математических рассуждений, но ожидаемые улучшения от новых слоёв пока не подтверждены обучением. Модель распространяется по лицензии Apache-2.0. Результаты в таблице README включают средний показатель 22,55, IFEval — 59,61 и BBH — 24,06; полный контекст оценки в доступной карточке не приведён.
OpenChat 3.5 0106 GGUF — квантизированная версия текстовой генеративной модели OpenChat 3.5 0106, разработанной командой OpenChat и подготовленной в формате GGUF пользователем TheBloke. Модель основана на архитектуре Mistral и предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые графические интерфейсы, библиотеки и API-серверы. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит для инференса на CPU и GPU. Точные размер модели, длина контекста, поддерживаемые языки и мультимодальные возможности в README не указаны; по описанию это текстовая, а не мультимодальная модель. Для работы используется шаблон запросов OpenChat-Correct: GPT4 Correct User и GPT4 Correct Assistant. Ключевое преимущество — возможность более экономичного локального запуска благодаря квантованию и широкой совместимости с llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Ограничения связаны с потерями качества, возможными при низкоразрядном квантовании, а также с отсутствием в README подробных характеристик исходной модели и результатов оценки. Указанная лицензия — Apache-2.0.
SanjiWatsuki объединил методом SLERP две разговорные модели: openchat/openchat-3.5-1210 и berkeley-nest/Starling-LM-7B-alpha. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста в диалогах; модель выдаётся в формате safetensors. Контекст составляет 8192 токена, основной язык по карточке — английский. Модель предназначена для ответов на вопросы и ведения диалога. Слияние задумано как способ совместить свойства обеих исходных моделей, однако README не приводит сравнительных оценок или результатов испытаний. Лицензия — CC BY 4.0.
openchat_3.5-16k-Mistral-7B-Instruct-v0.1 — разговорная модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и NurtureAI/openchat_3.5-16k методом SLERP. Она предназначена для генерации ответов на инструкции и ведения диалогов. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, основная возможность — чат. Модель принимает текстовые запросы и выдаёт текстовые ответы. Она подходит для чат-ботов, помощников и сценариев, где нужно обсуждать темы или отвечать на вопросы в рамках длинного контекста. Использует лицензию Apache-2.0.
FuseAI/OpenChat-3.5-7B-Mixtral — диалоговая языковая модель, выпущенная проектом FuseChat при Университете Сунь Ятсена. Это целевая модель, полученная на этапе попарного слияния знаний OpenChat-3.5-7B с другой чат-моделью. В репозитории указаны 7,1 млрд параметров, архитектура Mistral с плотной структурой и контекст до 8192 токенов. Модель предназначена для диалогов, ответов на вопросы и выполнения текстовых инструкций общего назначения. README описывает подход FuseChat: модели обучаются для переноса знаний, а затем объединяются в пространстве параметров; для оценки использовались многоходовые диалоги MT-Bench по письму, ролевым сценариям, рассуждениям, математике, программированию, STEM и гуманитарным темам. Карточка позиционирует модель как компонент для дальнейшего слияния с другими целевыми моделями FuseChat. Модель принимает текст и генерирует текст. В метаданных указан английский язык, библиотека Transformers и формат Safetensors. Лицензия — Apache 2.0. README не сообщает отдельные результаты оценки именно этого чекпойнта, поэтому показатели итоговой FuseChat-7B-VaRM не следует переносить на него.
OpenChat 3.6 8B — это набор квантованных сборок модели openchat-3.6-8b-20240522 в формате GGUF с использованием imatrix. Модель разработана проектом OpenChat, а представленные квантования опубликованы пользователем или организацией duyntnet. Она предназначена для генерации текста, диалогов, программирования и решения общих задач. В README указана поддержка английского языка и текстовая модальность. Модель имеет размер около 8 миллиардов параметров. Для общения используется шаблон GPT4 Correct с маркером окончания генерации <|end_of_turn|>; также доступен встроенный chat_template. Формат GGUF и квантование ориентированы на запуск в совместимых локальных средствах инференса с потенциально сниженным потреблением памяти, однако конкретные варианты квантования и их характеристики в README не перечислены. Ограничения качества, размер контекста и дополнительные модальности не указаны. Лицензия обозначена как other, без уточнения условий использования.
OpenHermes-2.5-Mistral-7B-AWQ — это 4-битная AWQ-квантизованная версия языковой модели OpenHermes 2.5 Mistral 7B. Исходную модель разработала Teknium, а квантизацию выполнил TheBloke. Модель основана на архитектуре Mistral и предназначена для генерации текста, диалоговых сценариев и выполнения инструкций на английском языке. Модель содержит около 7 млрд параметров, использует формат взаимодействия ChatML и рассчитана на контекст длиной до 4096 токенов. Доступная сборка имеет групповой размер AWQ 128, обучающий набор для калибровки wikitext и размер около 4,15 ГБ. Квантизация снижает требования к памяти и предназначена прежде всего для быстрого GPU-инференса через AutoAWQ, vLLM, Text Generation Inference или text-generation-webui. К сильным сторонам относятся компактный размер, высокая скорость инференса и возможность запуска на совместимом пользовательском оборудовании. Ограничения включают поддержку только английского языка в заявленных метаданных, зависимость от совместимого AWQ-инструментария и потенциальные потери качества по сравнению с исходной моделью в формате FP16, характерные для квантизованных моделей. Модель распространяется по лицензии Apache-2.0.
OpenHermes-2.5-Mistral-7B-GGUF — квантизированная версия инструкционной языковой модели OpenHermes-2.5-Mistral-7B, разработанной Teknium и преобразованной в формат GGUF компанией Second State Inc. Модель основана на архитектуре Mistral и содержит около 7 млрд параметров. В метаданных указан английский язык; модель предназначена для текстового диалогового взаимодействия и обработки инструкций с использованием шаблона ChatML. Модель подходит для локального запуска чат-ботов и LLM-сервисов, включая использование через LlamaEdge версии 0.2.8 и выше. Заявленный размер контекста составляет 4096 токенов. Доступны варианты квантизации от 2 до 8 бит с размером файлов примерно от 3,08 до 7,7 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S рекомендованы как сбалансированные по качеству и размеру, тогда как варианты с более низкой разрядностью экономят память, но заметно снижают качество. Основные преимущества модели — возможность локального развертывания, широкий выбор уровней квантизации и совместимость с экосистемой LlamaEdge. Ограничения включают относительно небольшой контекст в 4096 токенов и потери качества при использовании низкоразрядных вариантов; README не содержит подробных результатов оценки, сведений о других языках или мультимодальных возможностях. Модель распространяется по лицензии Apache-2.0.
Карточка модели sonthenguyen/OpenHermes-2.5-Mistral-7B-mt-bench-DPO-corrupted на Hugging Face совпадает с карточкой sonthenguyen/OpenHermes-2.5-Mistral-7B-mt-bench-DPO, поэтому описание составлено по ней. sonthenguyen/OpenHermes-2.5-Mistral-7B-mt-bench-DPO — чат-модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. По README, модель обучалась методом DPO с LoRA-адаптером на задачах causal language modeling; параметры обучения включали beta=0,1 и максимальную длину последовательности 1536 токенов. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, ведения беседы и подготовки текстовых черновиков. В метаданных указаны поддержка чата и формат safetensors. Лицензия — Apache-2.0. README не описывает состав обучающих данных, конкретные языки или сравнительные результаты качества.
OpenHermes-2.5-Nebula-v2-7B — объединённая модель для генерации текста и диалогов, созданная на основе teknium/OpenHermes-2.5-Mistral-7B и PulsarAI/Nebula-v2-7B-Lora. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; карточка указывает поддержку общения и обучающий датасет Open-Platypus. Модель подходит для диалоговых ответов, генерации текстов и помощи с кодом на английском языке. Репозиторий содержит веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Опубликованные в README результаты таблицы оценки не заполнены.
S4sch/Open-Hermes-2.5-neural-chat-3.1-frankenmerge-11b — объединённая плотная языковая модель на архитектуре Mistral, созданная чередованием слоёв teknium/OpenHermes-2.5-Mistral-7B и Intel/neural-chat-7b-v3-1 методом passthrough. В репозитории указаны 11,3 млрд параметров, контекст до 32 768 токенов и формат safetensors; модель предназначена для диалоговой генерации текста. Её можно использовать для ведения беседы и генерации ответов на текстовые запросы. README не приводит результатов бенчмарков, поэтому качество и преимущества слияния по сравнению с исходными моделями не подтверждены. Лицензия — Apache-2.0.
OpenHermes-7B-Symbolic-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral AI и hedronstone/OpenHermes-7B-Symbolic методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате диалога. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, поддерживает контекст до 32 768 токенов и выдаёт текст. Веса опубликованы в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Она подходит для диалоговых сценариев и выполнения текстовых инструкций; качество ответов и способность решать специализированные задачи README не описывает.
jae24 выпустил разговорную модель для генерации текста на основе Mistral размером 7,1 млрд параметров. Она дообучена методом DPO на предпочтениях, полученных из датасета HuggingFace No Robots, с применением обучения с подкреплением. Модель предназначена для диалогов и генерации ответов по текстовому запросу. Она поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors под лицензией MIT. README указывает базовую модель teknium/OpenHermes-2.5-Mistral-7B. Качество и ограничения конкретного варианта отдельно не описаны.
Open-Instruct Dolly 13B — языковая модель AllenAI на архитектуре LLaMA, дообученная на наборе инструкций Databricks Dolly 15k. Она предназначена для генерации текста и выполнения инструкций, например для ответов на вопросы, рассуждений и написания кода. Модель содержит 12,9 млрд параметров, работает с текстом и имеет контекстное окно 2048 токенов; для корректной генерации следует использовать формат инструкций, заданный авторами. В карточке приведены результаты оценки на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Это исследовательская работа по настройке моделей на открытых ресурсах, опубликованная в рамках статьи How Far Can Camels Go? Модель распространяется как diff и требует доступной базовой LLaMA в формате Hugging Face. Условия использования определяются лицензией AI model из LICENSE.txt и исходной лицензией LLaMA.
OpenInstruct Mistral-7B — языковая модель, выпущенная автором репозитория и дообученная на VMware/open-instruct с вычислительными ресурсами Higgsfield AI. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации ответов на инструкции и диалоговых сценариев. В README указан формат запросов Alpaca; метаданные указывают контекст длиной до 32 768 токенов и английский язык. Модель подходит для ответов на вопросы, выполнения текстовых инструкций и генерации диалоговых ответов. В карточке приведены результаты оценки на бенчмарках рассуждений и здравого смысла, однако они не гарантируют качество в конкретном применении. Модель распространяется по лицензии Apache-2.0; базовая модель — mistralai/Mistral-7B-v0.1.
Open-Instruct Stanford Alpaca 13B — языковая модель семейства LLaMA с плотной архитектурой, дообученная Allen Institute for AI на наборе инструкций Stanford Alpaca в рамках исследования по instruction tuning на открытых ресурсах. Модель предназначена для генерации ответов на инструкции и запросы на английском языке; для работы с ней следует использовать описанный в карточке формат входного запроса. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст. Её контекст составляет 2048 токенов. В карточке приведены результаты на наборах тестов по общим знаниям, математике, рассуждениям, вопросам и ответам, программированию и следованию инструкциям. Это diff весов, для использования которого требуется модель LLaMA в формате Hugging Face. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.
VMware/open-llama-7b-open-instruct — инструкция-дообученная версия OpenLLaMA 7B, разработанная VMware на основе полностью обученной модели OpenLLaMA. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров; она генерирует текст по текстовым запросам и рассчитана на следование инструкциям в формате Alpaca. При дообучении использован набор Open-instruct-v1 с данными OASST, Dolly и HH-RLHF. Карточка указывает английский язык и контекст 2048 токенов. Модель распространяется по лицензии CC BY-SA 3.0. README предупреждает, что быстрый токенизатор может неверно кодировать текст, поэтому рекомендуется отключить use_fast.
openNemo — реализация архитектуры Nemotron-H на чистом PyTorch от Empero AI. Она сохраняет гибридное устройство исходной модели NVIDIA: 52 слоя с блоками Mamba2, Grouped Query Attention и MLP, а также имена весов, поэтому исходные чекпойнты Nemotron-H можно загружать без преобразования. Репозиторий рассчитан на запуск языковой модели и упрощение её использования с bitsandbytes-квантизацией в 4- и 8-битном режиме и QLoRA дообучением на потребительских GPU. Модель подходит для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Указан размер 15,1 млрд параметров, форматы весов — safetensors; реализация использует библиотеку Transformers. В тегах карточки перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Реализация заменяет зависимости от внешних CUDA-ядер Mamba на операции PyTorch, что упрощает установку и позволяет использовать bitsandbytes и QLoRA. README не приводит отдельную оценку качества или сравнительные результаты; чисто PyTorch-реализация может иметь иные требования к скорости и памяти, чем оптимизированные CUDA-ядра. Лицензия обозначена как other, поэтому условия повторного использования следует сверять с карточкой модели и базового чекпойнта.
facebook/opt-6.7b — языковая модель семейства OPT, разработанная Meta AI и выпущенная как часть серии Open Pre-trained Transformers. Это плотный декодерный трансформер с авторегрессионной языковой моделью; метаданные указывают 8,8 млрд параметров и контекст до 2048 токенов. Модель предварительно обучена преимущественно на английских текстах, а в обучающем корпусе присутствует небольшое количество неанглоязычных данных. Модель предназначена для генерации текста и оценки задач по промптам, в том числе в сценариях zero-shot и few-shot; её также можно дообучать для прикладных задач. Чекпойнт представлен в формате PyTorch. Для эффективной генерации больших OPT-моделей README рекомендует загружать веса в half-precision и вызывать generate напрямую. Обучение на неотфильтрованных интернет-текстах приводит к смещениям; возможны галлюцинации и недостаточное разнообразие генераций. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.
TheBloke/Orca-2-13B-GGUF — это квантизированная версия языковой модели Orca 2 13B, разработанной Microsoft и преобразованной TheBloke в формат GGUF. Модель предназначена для генерации текста и диалогового взаимодействия, включая работу через llama.cpp и совместимые графические интерфейсы и библиотеки. Для форматирования запросов используется шаблон ChatML с системным сообщением, запросом пользователя и ответом ассистента. Модель относится к архитектуре Llama и содержит около 13 миллиардов параметров. Она работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. GGUF-файлы доступны с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти и качеством генерации, а также запускать её на CPU и GPU. К сильным сторонам относятся поддержка широкого набора локальных инструментов, возможность GPU-ускорения и выбор вариантов квантизации. Ограничения связаны с возможной потерей качества при низкой разрядности и с тем, что точные характеристики производительности и контекстного окна не приведены. В метаданных указана лицензия other, без уточнения конкретных условий использования.
Карточка модели roskosmos19/Orca-4B-Instruct-flash на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.
Orca Mini v9.0 3B Instruct — диалоговая языковая модель Pankaj Mathur, дообученная на базе Meta Llama 3.2 3B Instruct. Это плотная авторегрессионная модель архитектуры Llama с 3,2 млрд параметров, предназначенная для генерации текста и общения в формате инструкций. Она принимает текст и выдаёт текст; в карточке указаны английский язык и контекст до 131 072 токенов. Модель подходит для диалогового помощника, ответов на вопросы, составления текстов и других сценариев генерации на английском языке, включая развёртывание в средах с ограниченными ресурсами. Лицензия — Llama 3.2. Как и другие компактные языковые модели, она может давать неточные, предвзятые или нежелательные ответы; перед использованием в приложении требуется оценка качества и настройка мер безопасности.
OrionStar Yi 34B Chat Llama — текстовая gener generative-модель для диалогового взаимодействия, разработанная OrionStarAI. Представлена в формате GGUF и предназначена для задач генерации текста и чат-сценариев, включая запуск через LlamaEdge. Модель относится к семейству Yi, содержит около 34 миллиардов параметров и поддерживает контекст длиной до 7168 токенов. Сведения о поддерживаемых языках и дополнительных модальностях в README не указаны. Модель доступна в нескольких вариантах квантизации от Q2_K до Q8_0. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества; квантизация Q2_K–Q4_0 обеспечивает меньший размер, но может заметно снижать качество. Размер файлов составляет примерно от 12,8 до 36,5 ГБ, поэтому для запуска требуются значительные вычислительные ресурсы и память. Квантизацию и публикацию GGUF-вариантов выполнила Second State Inc. Для работы с LlamaEdge требуется версия 0.2.9 или новее и специальный шаблон prompt типа human-assistant. Лицензия модели указана как Apache-2.0.
Ornith-1.0-35B-MLX-8bit — это 8-битная квантованная версия языковой модели Ornith-1.0-35B, разработанной deepreinforce-ai. Версия подготовлена командой LM Studio с использованием MLX и оптимизирована для работы на компьютерах с Apple Silicon. Модель относится к классу text-generation и предназначена для генерации текста и других сценариев применения текстовых языковых моделей в локальной среде. Модель содержит 35 миллиардов параметров и поставляется в формате MLX с 8-битным квантованием, что снижает требования к памяти по сравнению с полноразмерной версией и делает её более подходящей для запуска на устройствах Apple Silicon. Данные о поддерживаемых языках, размере контекстного окна, точной архитектуре, специализированных задачах и результатах тестирования в README не указаны. Лицензия обозначена как MIT; при использовании следует также учитывать условия лицензии исходной модели Ornith-1.0-35B.
jeiku/OrthoPoppy — на базе архитектуры Llama плотная языковая модель примерно на 7,5 млрд параметров для диалоговой генерации текста. Она создана методом слияния SLERP с помощью mergekit из Nitral-AI/Poppy_Porpoise-0.72-L3-8B и Edgerunners/meta-llama-3-8b-instruct-hf-ortho-baukit-5fail-3000total-bf16. Репозиторий содержит веса safetensors; модель рассчитана на контекст до 8192 токенов и предназначена для использования через Transformers. Модель подходит для ведения диалога и генерации ответов на текстовые запросы. Карточка не приводит подробных оценок качества или сведений о языковом покрытии, поэтому их нельзя надёжно уточнить. Лицензия в предоставленных данных не указана.
Orthorus 125B v2 — языковая модель общего назначения, разработанная ibivibiv. Это смесь дообученных моделей Mistral, построенная по архитектуре Mixtral Mixture of Experts (MoE) и предназначенная для генерации текста и диалогового общения. По данным метаданных, модель содержит 68,7 млрд параметров и поддерживает контекст длиной до 32 764 токенов. Модель рассчитана на ответы на вопросы и задачи общего знания. В карточке приведены результаты Open LLM Leaderboard, включая показатели AI2 Reasoning Challenge и HellaSwag; автор рекомендует обращаться к полной оценке для понимания сильных сторон и слабых мест. Карточка не уточняет набор обучающих данных и языков, поэтому метаданные подтверждают английский язык. Модель распространяется по лицензии Apache-2.0.
Карточка модели blepdoge/ossamai-v1 на Hugging Face совпадает с карточкой blepdoge/ossamai-v0.2-merged16, поэтому описание составлено по ней. ossamai-v0.2-merged16 — дообученная разговорная языковая модель, опубликованная blepdoge на основе unsloth/llama-3-8b-Instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста и диалоговых сценариев на английском языке с контекстом до 8192 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
jaromer/outsourc-e-Qwen3.8-27B-Unleashed-GGUF — это квантованная GGUF-версия uncensored-модели Qwen3.8-27B. В основе лежит JonathanColetti/Qwen3.8-27B-Uncensored; файлы подготовлены с использованием подхода Unsloth Dynamic 3.0, а карта динамического распределения битов применена к этим весам с соответствующей importance matrix. Модель предназначена для генерации текста и может использоваться локально через совместимые инструменты, включая llama.cpp. Модель содержит около 27 млрд параметров, поддерживает текстовую модальность, английский и китайский языки и контекст до 262 144 токенов. Доступно девять уровней квантования, включая UD-IQ1_M, UD-IQ2_S, UD-IQ3_XXS, UD-Q3_K_XL и UD-IQ4_XS. Динамическое распределение битов сохраняет более высокую точность в чувствительных тензорах и сильнее сжимает менее критичные, что, по заявленным измерениям, позволяет варианту UD-Q3_K_XL превзойти протестированные варианты Q4 по perplexity при меньшем размере. Для него также заявлена проверенная работа с длинным контекстом и извлечение данных на 250 806 токенах. Сильными сторонами являются uncensored-характер модели, широкий выбор квантов, эффективное соотношение качества и размера, а также поддержка очень длинного контекста. Ограничения включают зависимость скорости и качества от конкретного уровня квантования, оборудования и настроек запуска; приведённые показатели измерены на RTX 4090 с llama.cpp и не гарантируют аналогичные результаты в других конфигурациях. Для некоторых квантов полный набор тестов скорости и извлечения ещё не завершён. Модель распространяется по лицензии Apache 2.0.