I.5Создание и редактирование текста

openbuddy-llama3.3-70b-v24.1-131k-GGUF — это квантизированная GGUF-версия языковой модели OpenBuddy, разработанной OpenBuddy и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в LM Studio и других средах, совместимых с llama.cpp. В README указан специальный формат промптов с ролями system, user и assistant. В основе лежит OpenBuddy/openbuddy-llama3.3-70b-v24.1-131k — модель семейства Llama 3.3 с 70 млрд параметров и заявленным в идентификаторе контекстом 131k токенов. Поддерживаются китайский, английский, французский, немецкий, японский, корейский, итальянский и финский языки. Модель представлена в нескольких вариантах квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Основные ограничения связаны с квантизацией: более компактные варианты могут заметно уступать по качеству, а файлы требуют значительного объёма памяти — примерно от 29 до 75 ГБ в зависимости от варианта. Некоторые сборки оптимизированы для ARM или AVX и имеют специальные требования к поддержке инструкций; отдельные варианты не рекомендуется использовать на Mac или с GPU. Лицензия указана как llama3.3.

OpenBuddy/openbuddy-llama-65b-v8-bf16 — многоязычная чат-модель OpenBuddy на архитектуре LLaMA, основанная на LLaMA от Meta. Это плотная авторегрессионная модель с 65,1 млрд параметров, рассчитанная на генерацию текста; исходные веса представлены в формате PyTorch и точности bf16, указанной в названии репозитория. Родная длина контекста составляет 2048 токенов. Модель предназначена для диалогов и генерации ответов на нескольких языках, включая китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Её можно применять для чат-ботов и текстовых ассистентов. Карточка предупреждает, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендует использовать модель в медицинских и других критически важных сценариях. Использование модели зависит от лицензии Meta LLaMA: требуется соответствовать условиям Meta и получить разрешение на доступ к исходной модели.

Карточка модели OpenBuddy/openbuddy-mistral2-7b-v20.2-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mistral2-7b-v20.3-32k, поэтому описание составлено по ней. OpenBuddy-mistral2-7b-v20.3-32k — плотная чат-модель семейства Mistral с 7,1 млрд параметров, разработанная проектом OpenBuddy. Она предназначена для многоязычного диалога и генерации ответов; поддерживает контекст до 32 768 токенов. Метаданные указывают на поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. Лицензия — Apache 2.0. Авторы предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными; модель не следует применять в критических сценариях, включая медицину и важные финансовые или юридические решения.

OpenBuddy Mistral 7B v13.1 — это языковая модель для генерации текста и диалогового взаимодействия, разработанная командой OpenBuddy на базе архитектуры Mistral. Данный репозиторий подготовлен TheBloke и содержит квантизированные версии модели в формате GGUF, предназначенные для запуска через llama.cpp и совместимые приложения и библиотеки, включая LM Studio, KoboldCpp, text-generation-webui и llama-cpp-python. Модель имеет около 7 миллиардов параметров и ориентирована на задачи ассистирования, ответов на вопросы, рассуждений и многоязычного общения. В метаданных заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Доступны варианты квантизации от 2 до 8 бит для инференса на CPU и GPU, что позволяет выбирать компромисс между качеством, скоростью и потреблением памяти. Информация о размере контекстного окна и мультимодальных возможностях не указана; модель предназначена для работы с текстом. К сильным сторонам относятся относительно компактный размер, широкий выбор уровней квантизации и возможность локального запуска на разнообразном оборудовании. Ограничения включают потенциальное снижение качества в квантизированных вариантах, отсутствие заявленных мультимодальных возможностей и неизвестный размер контекста. Модель распространяется по лицензии Apache 2.0.

openbuddy-mistral-7b-v13-base-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и OpenBuddy/openbuddy-mistral-7b-v13-base методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. В метаданных перечислены китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей об ограничениях; фактическое качество может зависеть от языка и сценария использования.

OpenBuddy-zero-14b-v22.3-32k — многоязычная диалоговая языковая модель семейства Llama, разработанная OpenBuddy. Она предназначена для чат-общения и генерации текста в ответ на запросы; модель содержит 13,8 млрд параметров и поддерживает контекст до 32 768 токенов. Модель дополнительно обучена на многоязычном наборе данных с токенизатором на основе Yi-1.5-9B-32K. В README также указано, что веса включают части Yi-1.5-9B-32K и DeepSeek-VL-7B-chat. Карточка перечисляет китайский, английский, французский, немецкий, японский, корейский, итальянский и финский языки. Репозиторий содержит веса в формате safetensors и поддерживает чатовый сценарий. Модель может выдавать ошибочные, вредоносные или нежелательные ответы; авторы не рекомендуют применять её в критических ситуациях, включая медицину и важные финансовые или юридические решения. В метаданных лицензия обозначена как other; README сообщает об использовании компонентов под Apache 2.0 и DeepSeek License, поэтому перед использованием следует проверить условия обеих лицензий.

TheBloke/openchat-3.5-1210-GGUF — это набор квантованных моделей в формате GGUF для OpenChat 3.5 1210, разработанной командой OpenChat. Квантование выполнил TheBloke. В основе используется архитектура Mistral, а модель предназначена для генерации текста и диалоговых сценариев. Модель обучалась на совокупности датасетов с диалогами, инструкциями, математическими задачами, программированием и отзывами о качестве ответов. Она подходит для локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Доступны варианты квантования с разной точностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные версии, что позволяет выбирать баланс между требованиями к памяти и качеством генерации. README не указывает размер модели, поддерживаемые языки и длину контекста. Квантование снижает требования к ресурсам и упрощает запуск на CPU и GPU, но может немного ухудшать качество по сравнению с исходной неквантованной версией; степень влияния зависит от выбранного варианта квантования. Для корректного диалога рекомендуется шаблон OpenChat-Correct. Модель распространяется по лицензии Apache 2.0.

OpenChat 3.6 8B 20240522 — языковая модель семейства OpenChat, разработанная командой OpenChat и основанная на Meta Llama 3 8B. Данный репозиторий содержит её GGUF-квантизации, предназначенные для локального запуска и эффективного развертывания. Модель работает в режиме генерации текста и диалогов, поддерживает совместимый с OpenAI ChatCompletion API сервер и может использоваться через OpenChat Web UI. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и обучалась с применением подхода C-RLFT на данных смешанного качества. README не указывает точный размер контекстного окна и перечень поддерживаемых языков. Для работы рекомендуется шаблон подсказок на основе формата Llama 3; сервер оптимизирован для высокой пропускной способности и, согласно README, может запускаться на потребительском GPU с 24 ГБ памяти. Квантизация снижает требования к ресурсам, но конкретные варианты GGUF могут различаться по размеру и качеству. Сильными сторонами заявлены производительность на уровне открытых 8B-моделей и улучшенное следование инструкциям и few-shot-шаблонам по сравнению с некоторыми альтернативами. Ограничениями являются зависимость качества и скорости от выбранного типа квантизации, а также отсутствие в предоставленных данных подробных результатов тестирования, точного контекстного окна и языкового охвата. Репозиторий распространяется по лицензии Llama 3; условия её применения следует учитывать при использовании модели.

EpistemeAI/OpenCodeLlama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, разработанная EpistemeAI и дообученная на базе unsloth/Meta-Llama-3.1-8B-bnb-4bit. Модель содержит 7,5 млрд параметров и предназначена для генерации текста; репозиторий указывает использование Unsloth и библиотеки TRL при обучении. Модель принимает текст и генерирует текст. Для базовой модели заявлено контекстное окно до 131 072 токенов. В метаданных указан английский язык. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит специализированных сценариев обучения или результатов оценки качества, поэтому её пригодность для конкретных задач следует проверять на собственных данных.

Это GGUF-квантизированная версия OpenCoder-8B-Instruct, разработанного infly. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в формате инструкций, включая сценарии локального запуска через llama.cpp и LM Studio. Модель содержит 8 миллиардов параметров и доступна в вариантах от F16 до различных Q2–Q8-квантизаций, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти. В README указана поддержка английского и китайского языков. Формат взаимодействия использует специальные токены system, user и assistant. Данные о точной архитектуре, размере контекстного окна и поддерживаемых модальностях отсутствуют; по назначению это текстовая, а не мультимодальная модель. Сильной стороной являются многочисленные варианты квантизации, включая рекомендуемые Q4 и Q5, а также более качественные Q6 и Q8, благодаря чему модель можно адаптировать под разные аппаратные ограничения. Более компактные варианты снижают требования к памяти, но могут заметно уступать по качеству; ARM-оптимизированные варианты требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Модель основана на OpenCoder-8B-Instruct и распространяется с лицензией inf, подробные условия которой приведены в отдельном LICENSE-файле.

OpenHercules-2.5-Mistral-7B — объединённая модель на базе Mistral, созданная с помощью LazyMergekit из Locutusque/Hercules-2.5-Mistral-7B и teknium/OpenHermes-2.5-Mistral-7B. Веса объединены методом SLERP с настройками для слоёв внимания и MLP; архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и диалогового использования. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Файлы представлены в safetensors; README также упоминает варианты квантования EXL2, GGUF и AWQ. Модель распространяется по лицензии Apache-2.0. Показатели в README включают среднее значение 66,55, результат 64,25 на AI2 Reasoning Challenge и 84,84 на HellaSwag; эти оценки не гарантируют качество на конкретных пользовательских задачах.

sonthenguyen/OpenHermes-2.5-Mistral-7B-mt-bench-DPO — чат-модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. По README, модель обучалась методом DPO с LoRA-адаптером на задачах causal language modeling; параметры обучения включали beta=0,1 и максимальную длину последовательности 1536 токенов. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, ведения беседы и подготовки текстовых черновиков. В метаданных указаны поддержка чата и формат safetensors. Лицензия — Apache-2.0. README не описывает состав обучающих данных, конкретные языки или сравнительные результаты качества.

Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-1-7B — объединённая модель на базе Mistral 7B, созданная автором репозитория методом TIES merge из teknium/OpenHermes-2.5-Mistral-7B и Intel/neural-chat-7b-v3-1. Она предназначена для генерации текста в диалогах и других сценариях работы с языковой моделью; автор рекомендует использовать шаблон ChatML. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и имеет контекст до 32 768 токенов. В карточке указан датасет Open-Orca/SlimOrca. Модель распространяется под лицензией Apache-2.0. Поддержка русского языка и специализированных областей в карточке не заявлена.

OpenHermes-Mixtral-8x7B — инструктивная языковая модель на архитектуре Mixtral MoE, созданная дообучением Mistral AI Mixtral-8x7B-Instruct-v0.1. Модель разработана автором репозитория orangetin и обучена в течение трёх эпох на датасете OpenHermes, опубликованном Teknium. Модель предназначена для диалогов, следования инструкциям и генерации текста по запросу. Она поддерживает многоходовые беседы и системные инструкции через шаблон запросов LLaMA 2; заявленная длина контекста — 32 768 токенов. В карточке приведены результаты оценивания на бенчмарках рассуждений и понимания текста. Репозиторий содержит веса в формате safetensors. Модель имеет 7,1 млрд параметров по метаданным и распространяется по лицензии Apache 2.0. Карточка указывает английский язык; качество на других языках отдельно не описано.

OpenOrcaxOpenChat-Preview2-13B — языковая модель, разработанная OpenOrca совместно с OpenChat. Это плотная авторегрессионная модель семейства LLaMA 2 с 12,9 млрд параметров, дообученная на отфильтрованной выборке GPT-4-дополненного датасета OpenOrca с упаковкой диалогов в формате OpenChat. Модель предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке сообщается о результатах примерно на уровне 103% от показателей Orca в среднем на BigBench-Hard и AGIEval. Модель принимает текст и генерирует текст. Карточка приводит шаблон многоходового диалога OpenChat; контекст составляет 4096 токенов. В метаданных указан английский язык. Модель распространяется в формате PyTorch по лицензии Llama 2. Это предварительная версия; заявленные результаты относятся к оценкам авторов, а карточка не описывает ограничения по качеству подробнее.

Weyaxi/OpenOrca-Zephyr-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью TIES-merge из HuggingFaceH4/zephyr-7b-alpha и Open-Orca/Mistral-7B-OpenOrca. Она предназначена для генерации текста и диалоговых сценариев; в README приведены веса слияния 0,5 для Zephyr и 0,3 для OpenOrca, а также плотность 0,5 для обеих моделей. Модель содержит 7,1 млрд параметров, имеет контекст до 32 768 токенов и опубликована в формате safetensors. README содержит заголовок таблицы результатов Open LLM Leaderboard, но значений метрик нет, поэтому качество по этим результатам оценить нельзя. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Orca-2.0-Tau-1.8B — диалоговая языковая модель M4-ai, дообученная на базе tau-1.8B как универсальный помощник. Она предназначена для генерации ответов, письма, решения математических задач и работы с кодом; также заявлены ответы на вопросы и рассуждения по шагам. Модель использует архитектуру Qwen2ForCausalLM, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Для общения применяется формат ChatML. В обучающий набор вошли данные для диалогов, программирования, математики и естественных наук. Карточка указывает английский язык и допускает поддержку китайского; метаданные подтверждают английский. Лицензия указана как tongyi-qianwen license (в метаданных — other). Оценка на Open LLM Leaderboard приведена в карточке, однако отдельная оценка качества для практических сценариев не заявлена.

Locutusque/Orca-2-13b-SFT_v5 — плотная языковая модель на архитектуре Llama, созданная полным дообучением Microsoft Orca-2-13b на наборах No Robots, EverythingLM, Guanaco, OpenAssistant и Open-Platypus. Модель содержит 12,9 млрд параметров и рассчитана на генерацию текста; карточка отмечает поддержку кода и языки английский, французский, испанский, хинди и китайский. Контекст составляет 4096 токенов, для запросов используется шаблон ChatML. Модель подходит для диалоговых ответов, следования инструкциям, решения задач и генерации кода. В README сообщается о тестовом loss 0,38 на Open-Platypus, но сравнительные оценки качества не приведены. Репозиторий содержит веса в формате safetensors. Для использования необходимо соблюдать исследовательскую лицензию Microsoft Orca-2; метаданные обозначают лицензию как other.

llama_3_orca_mini_v5_8b_orpo — разговорная языковая модель, созданная Pankaj Mathur на базе семейства Llama 3 и обученная с использованием наборов данных ORPO. Модель предназначена для диалога и ответов на запросы в роли универсального ИИ-ассистента; в README указан формат промпта ChatML. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров, принимает текст и генерирует текст. Родной контекст составляет 8192 токена; в метаданных заявлен английский язык. Веса опубликованы в форматах PyTorch и Safetensors. Автор разрешает дальнейшее полное дообучение, настройку DPO, PPO и ORPO, а также объединение моделей при условии указания авторства. Лицензия указана как llama3.

pankajmathur выпустил Orca Mini v8.0 — дообученную диалоговую модель на архитектуре Llama 3.3 с 69,5 млрд параметров. Она предназначена для генерации текста и ответов в формате беседы; карточка показывает пример системного промпта для AI-ассистента. Модель работает через Transformers, веса представлены в формате Safetensors, а максимальный контекст составляет 131 072 токена. Модель подходит для создания диалоговых ассистентов, ответов на вопросы и других сценариев генерации текста. Базовая Llama 3.3 поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский; качество дообученной версии отдельно не описано. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед применением требуется проверка безопасности для конкретного сценария. Лицензия — Llama 3.3.

Orca Mini v9.2 — диалоговая языковая модель Pankaj Mathur, дообученная на базе Meta Llama 3.3 70B Instruct. Она предназначена для генерации текста и работы в роли разговорного ассистента; в карточке приведён формат промпта Llama 3. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка указывает английский язык, а базовая модель поддерживает также французский, немецкий, хинди, итальянский, португальский, испанский и тайский; качество Orca Mini на этих языках отдельно не подтверждено. Модель может генерировать неточные, предвзятые или нежелательные ответы, поэтому перед применением требуется тестирование и настройка мер безопасности под конкретный сценарий. Распространяется по лицензии Llama 3.3.

Ornith-1.0-35B-1M-GGUF — GGUF-сборка модели Ornith-1.0-35B от DeepReinforce, опубликованная satgeze. Это текстовая генеративная модель на базе 35B MoE-архитектуры семейства Qwen3.5 с примерно 3B активных параметров. Сборка предназначена для локального запуска через llama.cpp и Ollama и расширена поддержкой длинного контекста, speculative decoding через MTP и обработки изображений. Ключевая особенность — контекстное окно до 1 048 576 токенов: масштабирование RoPE по YaRN встроено в метаданные GGUF, поэтому для llama.cpp и Ollama не требуются дополнительные параметры. В README заявлена проверка поиска информации по длинному контексту: 50 из 50 тестовых фрагментов найдены на диапазоне до 1M токенов. MTP-сборка Q6_K показала рост скорости декодирования с 267,9 до 382,9 токена в секунду, или примерно на 43%; для APEX-Compact заявлен прирост 14%. Визуальный модуль подключается отдельным файлом mmproj и, по данным README, распознаёт текст на изображениях и объекты. Модель подходит для генерации текста, работы с большими документами и другими задачами, требующими очень длинного контекста, а также для мультимодальных сценариев с изображениями. Доступны варианты квантования различного размера; рекомендуемые MTP-файлы занимают 17,0 и 29,2 ГБ, а визуальный модуль — 899 МБ. Ограничения включают высокие требования к оперативной или видеопамяти, зависимость производительности от оборудования и потенциальные потери качества при выборе более агрессивного квантования. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B-NInfer — квантованный артефакт модели Ornith-1.5-35B-A3B, разработанной shisa-ai на базе архитектуры Ornith и с компонентами, связанными с Qwen3.6-35B-A3B. Модель упакована в единый файл формата NInfer и предназначена для локального сервинга через NInfer, включая совместимый с OpenAI API интерфейс. Она ориентирована на текстовые и визуально-текстовые сценарии, а также на ускоренную генерацию с использованием speculative decoding. Модель построена по архитектуре Mixture-of-Experts размером 35B параметров: используется 256 экспертов, из которых 8 активируются для каждого токена. Архитектура включает 40 гибридных слоёв с линейным и полным вниманием, vision tower, однос слой MTP и контекст длиной до 262144 токенов. В артефакт встроены квантованные groupwise-int веса, MTP-голова, DFlash draft-модель, vision tower, токенизатор и официальный frontend Qwen. Размер файла составляет около 21,22 GiB; заявлена работа на одной видеокарте RTX 5090 с 32 ГБ памяти, при этом NInfer ориентирован на sm_120a. Сильными сторонами являются большое контекстное окно, поддержка изображений, единый переносимый артефакт и ускорение генерации за счёт MTP и DFlash. В README указано ожидаемое принятие спекулятивных токенов около 80% и примерно 3,4 токена за раунд для окна из 3 токенов, однако на дообученных сценариях скорость может снижаться, поэтому производительность следует измерять на собственных данных. Артефакт распространяется по лицензии Apache-2.0; он не является официальным релизом Qwen, shisa-ai, ornith-ai или NInfer.

Ornith-1.5-9B-OptiQ-4bit — квантованная версия языковой reasoning-модели Ornith-1.5-9B-MLX, разработанной ornith-ai и адаптированной сообществом mlx-community для MLX. Модель предназначена для локального запуска на устройствах Apple Silicon без PyTorch и облачных сервисов, а также для генерации текста, рассуждений, работы с длинным контекстом, function calling, tool use и агентских сценариев. Указан английский язык. Модель основана на архитектуре Qwen3.5 с 9 млрд параметров и 32 слоями. Используется смешанная покомпонентная квантизация OptiQ: 116 компонентов представлены в 4-битном формате, 134 — в 8-битном, размер группы — 64. На диске модель занимает около 7 ГБ; обозначение 4bit относится к семейству квантов, а не к среднему числу бит на параметр. Для запуска используются mlx-lm и mlx-optiq, доступен совместимый с OpenAI и Anthropic серверный интерфейс с поддержкой смешанной точности KV-кэша. Сильными сторонами являются уменьшенный размер, локальная работа на Apple Silicon и сохранение более высокой точности в чувствительных слоях за счёт смешанной квантизации. Ограничения включают специализацию на экосистеме MLX и Apple Silicon, а также необходимость выделять модели достаточный бюджет токенов для reasoning-сценариев. Модель распространяется по лицензии Apache-2.0.

Это набор GGUF-квантизаций модели Ornith-1.5-9B, разработанной ornith-ai и подготовленной пользователем mistrjirka с использованием форматов PXA/PXQ. Модель имеет около 9 млрд плотных параметров, архитектуру qwen35 и нативный контекст до 262 144 токенов. Она предназначена для генерации и анализа текста, а исходная модель также поддерживает обработку изображений при наличии совместимого мультимодального проектора, который в этом репозитории не поставляется. Доступны варианты с разной степенью сжатия: от PXQ2 и PXQ3 до рекомендованного PXQ4, повышающего качество PXQ4-HQ и ориентированного на качество PXQ6. Чем выше уровень, тем больше размер файла и потенциально выше точность, тогда как PXQ2 и PXQ3 рассчитаны на ограниченные ресурсы и сильнее жертвуют качеством. Преимуществами являются большой контекст и выбор компромисса между размером, качеством и скоростью декодирования. Ограничение заключается в использовании нестандартных PXQ-типов тензоров: обычные сборки llama.cpp без их поддержки, как правило, не загрузят файлы. Требуется PXA или специальная ветка mistrjirka/llama.cpp; оптимизация в первую очередь ориентирована на GPU NVIDIA Pascal и Volta, а поддержка более новых архитектур может использовать общие, менее специализированные пути. Указана лицензия MIT.

jtatman дообучил эту плотную авторегрессионную языковую модель семейства Llama на базе unsloth/llama-3-8b-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста в диалоговом формате. В репозитории указано 7,5 млрд параметров; метаданные задают нативный контекст в 8192 токена и формат весов safetensors. Заявленная лицензия — Apache-2.0. Карточка не описывает специальную предметную область или отдельные ограничения качества.

Oxide-F1-7B-slerp — слитая языковая модель на базе архитектуры Mistral, опубликованная weezywitasnee. Она объединяет BenchmarkEngineering-7B-slerp и OxytocinErosEngineeringFX-7B-slerp методом SLERP с помощью LazyMergekit и предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. В карточке приведены результаты Open LLM Leaderboard, включая средний балл 73,64, 69,71 на AI2 Reasoning Challenge и 87,82 на HellaSwag. Эти показатели отражают оценку на отдельных бенчмарках и не гарантируют качество в прикладных сценариях. Для репозитория указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

OxytocinEngineering-v2-45B-passthrough — языковая модель семейства Llama, созданная слиянием Sao10K/Fimbulvetr-11B-v2 и NeverSleep/CausalLM-RP-34B с помощью LazyMergekit. Используется для генерации текста и диалогов; карточка указывает возможность чат-взаимодействия. Слияние выполнено методом passthrough с сохранением заданных диапазонов слоёв, а веса представлены в формате Safetensors и типе bfloat16. Модель содержит 60,7 млрд параметров и имеет нативный контекст до 200 000 токенов. В карточке не описаны конкретные языки, специализированные области или оценка качества. Условия лицензии в предоставленных данных не указаны.

OxytocinErosEngineeringF2-7B-slerp — текстовая генеративная модель на архитектуре Mistral, созданная сообществом и опубликованная под именем weezywitasneezy. Это слияние методом SLERP двух моделей: jeiku/Eros_Prodigadigm_7B и Epiculous/Mika-7B; конфигурация использует разные веса смешивания для слоёв self-attention и MLP. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста. В карточке указаны форматы safetensors и GGUF F16. Языки, специализированные области применения и дополнительные возможности в доступных сведениях не описаны. Условия лицензии в предоставленных данных отсутствуют.

Padma-v7.0 — объединённая языковая модель автора shyamieee, созданная методом task arithmetic с помощью mergekit. Это плотная Mistral-модель для генерации текста, содержащая 7,1 млрд параметров и работающая с контекстом до 32 768 токенов. Репозиторий распространяет веса в формате safetensors. Модель предназначена для генерации продолжений текста и диалоговых сценариев на базе языковых моделей. Она объединяет модели NeuralCeptrix-7B-slerp и NeuralOmniWestBeaglake-7B. Карточка не описывает специализацию, языки, оценку качества или отдельные возможности модели. Лицензия — Apache-2.0. Сведений о специальных ограничениях использования или известных проблемах в карточке нет.