I.14Автоматизация процессов и AI-агенты

bophades-mistral-truthy-DPO-7B — дообученная модель семейства Mistral, созданная nbeerbower на основе nbeerbower/bophades-v2-mistral-7B. Модель содержит 7,1 млрд параметров, построена на архитектуре MistralForCausalLM и предназначена для генерации текста; дообучение выполнено методом Direct Preference Optimization (DPO) на датасете jondurbin/truthy-dpo-v0.1 с использованием LoRA. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Это квантованные версии большой языковой модели Command A Plus, разработанной CohereLabs. Карточка содержит сборки в формате GGUF, подготовленные bartowski с использованием llama.cpp и метода imatrix на основе исходной модели CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста, диалоговых и чат-сценариев, а также локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель поддерживает английский, русский и широкий набор других языков, включая арабский, китайский, японский, корейский, испанский, французский, немецкий, португальский, украинский и вьетнамский. Архитектура, точное число параметров, модальности и размер контекста в README не указаны. Доступны варианты квантования от Q3 и IQ3 до Q8_0 размером примерно от 102 до 232 ГБ; более высокие уровни квантования обычно сохраняют лучшее качество, но требуют больше памяти. Сборки рассчитаны на локальный inference, однако для новых моделей может потребоваться обновление используемого ПО. Сильной стороной является большой выбор квантованных вариантов с разным компромиссом между качеством и требованиями к памяти, включая рекомендованные Q4, Q5 и Q6-сборки. Ограничения — значительный объём файлов и отсутствие в карточке подробных сведений о производительности, тестах, архитектуре и контекстном окне. Указана лицензия Apache-2.0.

bartowski/DeepSeek-R1-GGUF — набор GGUF-квантизаций модели DeepSeek-R1, разработанной deepseek-ai и подготовленной bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и локального инференса, в том числе в LM Studio. Доступны варианты с разными уровнями квантизации — от Q8_0 до IQ1_M — чтобы выбирать между качеством ответов, требованиями к памяти и скоростью работы. В README не указаны точная архитектура исходной модели, число параметров, размер контекста, поддерживаемые языки и мультимодальные возможности, поэтому эти характеристики нельзя достоверно описать. Размер файлов зависит от варианта и составляет примерно от 133,56 до 713,29 ГБ; наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M, тогда как варианты Q2 и Q1 заметно уступают по качеству, хотя некоторые из них остаются пригодными для использования. Квантизации подготовлены с использованием imatrix и llama.cpp release b4514. Модель распространяется по лицензии MIT. Для работы следует использовать указанный формат промпта и совместимое программное обеспечение, например llama.cpp или LM Studio. Ограничениями являются исключительно большие требования к дисковому пространству и памяти, а также возможное снижение качества при выборе более агрессивной квантизации.

unsloth/dots.llm1.inst-GGUF — GGUF-версия instruction-tuned модели dots.llm1.inst, разработанной командой rednote-hilab и подготовленной в формате GGUF проектом Unsloth. Это большая разреженная Mixture-of-Experts (MoE) языковая модель для генерации текста и диалоговых сценариев, включая работу в локальных средствах инференса, совместимых с GGUF. Модель предназначена для общения, ответов на вопросы и других задач обработки текста на английском и китайском языках. Модель содержит 142 млрд параметров, из которых при инференсе активируется 14 млрд. Архитектура включает 62 слоя, 32 attention heads, Multi-head Attention с QK-Norm, а также fine-grained MoE с выбором 6 из 128 маршрутизируемых экспертов и двумя общими экспертами. Контекстное окно составляет 32 768 токенов. Instruction-тюнинг выполнен после этапа предварительного обучения; при предварительном обучении использовались высококачественные данные без синтетических токенов. К сильным сторонам относятся сочетание возможностей крупной модели с меньшим числом активных параметров, потенциальная вычислительная эффективность MoE и открытость исходной модели. README не указывает конкретный метод или уровень GGUF-квантизации, поэтому характеристики качества, размера файла и требований к памяти для данной сборки определить нельзя. Для llama.cpp требуется включить параметр --jinja, чтобы корректно обрабатывался системный промпт. Лицензия модели — MIT.

DPOB-INMTOB-7B — объединённая модель генерации текста, созданная с помощью LazyMergekit на основе liminerity/Omningotex-7b-slerp и eren23/merged-dpo-binarized-NeutrixOmnibe-7B. Она использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель подходит для диалоговых ответов и других задач генерации текста; в README приведены результаты Open LLM Leaderboard, включая среднюю оценку 76,21, но они не описывают качество на всех сценариях. Веса доступны в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

embedinggemma_arkts — дообученная модель Sentence Transformers на базе google/embeddinggemma-300m, разработчик указан как hreyulog. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по косинусному сходству, семантического поиска, поиска перефразировок, классификации и кластеризации. Модель содержит 302,8 млн параметров и предназначена для работы с текстом; в README указана максимальная длина последовательности 512 токенов, а метаданные каталога сообщают контекст 2048 токенов. Обучение проводилось на 39 122 парах примеров с MultipleNegativesRankingLoss. В README приведены результаты на тестовой части arkts-code-docstring: MRR 0,7788 и Recall@5 0,8769. Данные обучения включают соответствия между описаниями и фрагментами кода, в том числе на китайском и английском; поэтому модель особенно подходит для семантического поиска по документации и коду ArkTS. Лицензия в предоставленных данных не указана.

Enbeddrus v0.2 — модель эмбеддингов предложений на основе BERT, разработанная автором репозитория evilfreelancer. Она кодирует предложения и абзацы на русском и английском языках в плотные векторы размерности 768, обученные сближать представления сопоставимых фраз на двух языках. Модель подходит для семантического поиска, сравнения текстов и кластеризации, в том числе для поиска русских формулировок по английскому запросу и наоборот. В карточке указана архитектура BERT uncased с 12 слоями, размером скрытого состояния 768 и максимальной длиной последовательности 512 токенов. Обучение проводилось 20 эпох на параллельных англо-русских корпусах, включая технические тексты о PHP и Go, а также книги. Метаданные указывают 194,6 млн параметров и формат весов Safetensors. README сообщает о тестировании на небольшом наборе из 100 пар предложений по PHP, поэтому результаты этой оценки не гарантируют качество на других темах. Лицензия в предоставленных данных не указана.

Experiment28M7_Experiment27Pastiche — объединённая модель на базе архитектуры Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/Experiment27Pastiche-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста, в том числе диалоговых ответов. Она принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Данных о специализации на конкретных языках или предметных областях в карточке нет.

Falcon-180B-Chat — диалоговая языковая модель на 180 млрд параметров, разработанная Институтом технологических инноваций (TII) на основе Falcon-180B и дообученная на смесях Ultrachat, Platypus и Airoboros. Это авторегрессионная модель с архитектурой decoder-only; в ней используются вращательные позиционные эмбеддинги, multi-query attention и FlashAttention. Модель предназначена для диалогов и следования инструкциям в текстовом формате. Модель лучше всего рассчитана на английский язык; также заявлена поддержка немецкого, испанского и французского, с ограниченными возможностями на ряде других европейских языков. Карточка не сообщает длину контекста. Для быстрого инференса требуется около 400 ГБ памяти; запуск в bfloat16 требует примерно восьми A100 по 80 ГБ или эквивалентного оборудования. Модель может воспроизводить стереотипы и смещения из веб-данных, а её ответы на языках помимо английского могут быть ненадёжны. Для применения в производстве разработчик рекомендует оценивать риски и добавлять защитные механизмы. Распространяется по лицензии Falcon-180B TII License и Acceptable Use Policy, допускающей коммерческое использование с соблюдением её условий.

FuseChat-Llama-3.1-8B-Instruct-GGUF — это набор квантованных версий инструкционной языковой модели FuseChat-Llama-3.1-8B-Instruct, разработанной FuseAI. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с пользовательскими запросами в локальных приложениях на базе llama.cpp и LM Studio. Квантованные файлы представлены в формате GGUF и подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу текстовых генеративных моделей и имеет около 8 млрд параметров в исходной версии. Доступны варианты от F32 и F16 до различных форматов квантования Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов составляет примерно от 4,3 до 32,1 ГБ. Для работы предусмотрен специальный шаблон промпта с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантований: варианты Q6 и Q5 ориентированы на высокое качество, а Q4 и Q3 — на снижение требований к памяти. Некоторые файлы оптимизированы для ARM или AVX, однако отдельные варианты не рекомендуются для Mac или GPU. README не содержит сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, результатах оценки и лицензии, поэтому эти характеристики нельзя подтвердить.

GEB-1.3B — языковая модель с 1,5 млрд параметров, выпущенная пекинской компанией 北京集异璧科技有限公司. Она обучена на 550 млрд китайских и английских токенов, а затем дообучена на 10 млн инструкций и оптимизирована методом DPO для лучшего соответствия человеческим предпочтениям. Архитектура GEBLM использует позиционные кодировки RoPE, многогрупповое внимание и FlashAttention-2; длина контекста составляет 4096 токенов. Модель предназначена для диалогов и генерации текста, а также может использоваться для получения признаковых представлений текста. В README приведены результаты на тестах MMLU, C-Eval и CMMLU и примеры инференса через Transformers; авторы также сообщают о запуске на CPU и GPU. Лицензия обозначена как other, а использование весов регулируется файлом LICENSE в репозитории.

bartowski/gemma-2-27b-chatml-GGUF — это набор GGUF-квантизаций 27-миллиардной текстовой модели IntervitensInc/gemma-2-27b-chatml. Квантизации подготовлены bartowski с использованием llama.cpp версии b3615 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, а запускать её рекомендуется в совместимых приложениях, включая LM Studio. Доступны варианты от исходных весов F16 размером 54,46 ГБ до более компактных Q3-, Q4-, Q5-, Q6- и Q8-квантизаций размером примерно от 11,55 до 28,94 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, тогда как компактные варианты снижают требования к оперативной памяти; отдельные Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для ARM и CPU-инференса. Точные сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Сильная сторона набора — широкий выбор квантизаций для разных ограничений по памяти и производительности, включая варианты высокого качества и версии для малоресурсного запуска. Ограничения включают неизвестный формат промптов, отсутствие в README подробностей о возможностях базовой модели и потенциальное снижение качества у низкоразрядных вариантов. Для доступа требуется принять лицензию Google на использование Gemma на Hugging Face; конкретные условия лицензии следует проверить перед применением.

testmoto/gemma-2-9b-platypus-02 — текстовая модель на архитектуре Gemma 2, полученная конвертацией google/gemma-2-9b в формат MLX с помощью mlx-lm 0.20.2. Модель содержит 9 млрд параметров и предназначена для генерации текста; базовая Gemma 2 также поддерживает диалоги, суммаризацию и ответы на вопросы. Модель принимает текст и генерирует текст. Длина контекста составляет 8192 токена. В метаданных указана лицензия Gemma. README описывает использование через mlx-lm; отдельные сведения о дообучении или специализированных возможностях этой версии отсутствуют.

OsaurusAI подготовила MLX-сборку JANG_4M на основе инструкционной Gemma 4 от Google DeepMind с 12 млрд параметров. Это плотная модель семейства gemma4_unified с 48 текстовыми слоями, предназначенная для диалога и генерации текста; заявлен интерфейс для вызова инструментов. Веса упакованы в формате safetensors с аффинной смешанной точностью: эмбеддинги токенов, нормализации, компоненты обработки медиа и связанные проекторы сохранены в fp16, проекции внимания и маршрутизатора MoE — в 8-битном виде, основная часть MLP и экспертов — в 4-битном. Проверенный путь запуска через JANG-загрузчик vMLX поддерживает только текст. Хотя веса и конфигурации для изображений и аудио сохранены, для них требуется совместимая реализация Gemma 4 в MLX; в стандартном mlx_vlm такой поддержки пока нет. Модель распространяется по лицензии Gemma. Сборка предназначена для MLX и Apple Silicon; фактическое использование зависит от совместимого JANG-загрузчика и шаблонов Gemma 4.

Это квантованная версия Gemma 4 26B A4B IT от Google, опубликованная FreedomAISVR в формате GGUF для запуска через llama.cpp. Основа — инструкцияльная MoE-модель с 26 млрд параметров, около 4 млрд активных параметров, 128 экспертами и выбором 8 экспертов на токен; применена специализированная 4-битная квантизация MXFP4_MOE. Репозиторий также содержит мультимодальный проектор mmproj в F16 для обработки изображений. Модель предназначена для диалогов и следования инструкциям, а с подключённым проектором — для ответов на вопросы по изображениям и их описания. В README заявлены гибридное внимание с локальными и глобальными слоями, отключённый по умолчанию режим рассуждений с возможностью включения в запросе, а также запуск на CPU и GPU. Квантованные веса занимают около 13,72 ГБ, проектор — 1,11 ГБ; README указывает потребность от 8 ГБ RAM и около 15 ГБ дискового пространства. Квантизация рассчитана на более компактный и эффективный запуск MoE-модели при сохранении качества маршрутизации экспертов, однако README не приводит независимых результатов оценки качества. Лицензия — Gemma; использование должно соответствовать её условиям.

MaziyarPanahi/gemma-7b-GGUF — это набор файлов модели Gemma 7B в формате GGUF, созданной Google и преобразованной в GGUF-квантизированные варианты пользователем MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, text-generation-webui, LM Studio, GPT4All и llama-cpp-python. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. В README указано только, что это модель размером 7B с текстовой модальностью; сведения о поддерживаемых языках, длине контекста и точной архитектуре не приведены. К сильным сторонам относятся широкий выбор уровней квантизации и совместимость с популярными средствами локального инференса, включая запуск с ускорением на GPU. Более агрессивная квантизация может снижать качество по сравнению с исходной моделью, а для работы требуются подходящий клиент и ресурсы, зависящие от выбранного варианта. Указана лицензия other, но её конкретные условия в README не раскрыты.

noctrex/GLM-4.7-Flash-i1-MXFP4_MOE_XL-exp-GGUF — экспериментальная GGUF-квантизация GLM-4.7-Flash, подготовленная автором noctrex. В ней применяется смешанная точность MXFP4_MOE: для тензоров с высокой оценкой важности используются BF16, со средней — Q8_0, с низкой — MXFP4; оценки важности рассчитаны с помощью imatrix. Автор ориентирует вариант на задачи программирования. Модель предназначена для генерации текста в диалоговом формате, включая помощь с кодом. В качестве основы указана zai-org/GLM-4.7-Flash — диалоговая MoE-модель Z.ai для генерации текста, рассуждений и программирования с длинным контекстом. В карточке этого варианта не приведены отдельные значения размера модели и длины контекста. Формат файлов — GGUF. Квантизация экспериментальная; автор не сообщал о проведённых бенчмарках, поэтому её преимущество перед основной версией MXFP4_MOE не подтверждено. Сведения о лицензии в предоставленных данных отсутствуют.

mlx-community/gpt-oss-20b-MXFP4-Q4 — языковая модель для генерации текста, разработанная сообществом mlx-community и конвертированная из openai/gpt-oss-20b в формат MLX с использованием mlx-lm 0.27.0. Она предназначена для сценариев текстовой генерации и запуска в экосистеме MLX, включая использование через библиотеку mlx-lm. Модель относится к pipeline text-generation и имеет вариант квантования MXFP4-Q4. В README не указаны точные сведения об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста, поэтому эти характеристики нельзя достоверно описать. Для работы требуется библиотека mlx-lm; приведённый пример предусматривает поддержку chat template при её наличии. Ограничения производительности и качества в README не раскрыты. Лицензия — Apache-2.0.

HelpingAI Dhanishtha-2.0-preview-GGUF — это квантизированная версия языковой модели Dhanishtha-2.0-preview, разработанной HelpingAI и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия, рассуждений с промежуточным мышлением, решения сложных задач, философских и образовательных объяснений. Модель относится к архитектуре Transformers и поддерживает мультиязычную работу, включая английский, хинди, китайский, испанский, французский, немецкий, японский, корейский, арабский, португальский, русский и ряд других языков. Доступны варианты от BF16 размером около 29,54 ГБ до различных квантизаций объёмом примерно от 8,11 ГБ. Квантизации позволяют запускать модель с меньшими требованиями к памяти; варианты Q5 и Q6 заявлены как высококачественные, а Q4_K_M — как оптимальный размер для большинства сценариев. Длина контекста, число параметров и мультимодальные возможности в README не указаны, поэтому модель следует считать текстовой. Сильными сторонами являются поддержка большого числа языков, ориентация на рассуждения и наличие широкого выбора квантизаций для локального запуска. Ограничения связаны с возможной потерей качества в более компактных квантизациях, значительными требованиями к памяти у крупных вариантов и отсутствием данных о производительности, длине контекста и результатах оценки. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. Указана лицензия Apache-2.0.

Это набор GGUF-квантизованных файлов модели huihui-ai/Qwen2.5-14B-Instruct-abliterated, подготовленный featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии, совместимые с базовой instruct-моделью Qwen2.5. Формат GGUF ориентирован на локальный запуск и использование в совместимых средах инференса. Модель имеет размер 14B параметров и поддерживает только текстовую модальность. В набор входят варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размеры составляют примерно от 5,5 до 15 ГБ. Квантизация позволяет выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, однако README не содержит сведений о языках, размере контекста, архитектурных деталях, результатах тестирования или сравнительных преимуществах. Лицензия в README не указана, поэтому условия использования необходимо уточнять по лицензии базовой модели и репозитория. Также не приведены отдельные сведения об ограничениях, безопасности и качестве варианта abliterated; перед применением в критичных сценариях модель следует самостоятельно протестировать.

Это квантованный вариант Huihui-Mistral-Small-3.2-24B-Instruct-2506-abliterated, опубликованный пользователем maerong3. Модель была преобразована из исходной версии huihui-ai в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Она предназначена для локального запуска и инференса через llama.cpp, включая режим командной строки и серверный режим. Из доступных данных известно, что модель основана на варианте Mistral Small с 24 миллиардами параметров и имеет инструкционную настройку. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что удобно для локального использования, однако может снижать точность по сравнению с более высокоточными вариантами. В карточке заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Также модель помечена как abliterated и uncensored, но подробности метода, контекстное окно и фактические мультимодальные возможности не указаны. Модель распространяется по лицензии Apache-2.0. Для запуска рекомендуется llama.cpp; в README приведены примеры использования с контекстом 2048 токенов, но это значение является параметром конкретной команды, а не обязательно максимальным контекстом модели. Данные о преимуществах, ограничениях безопасности, результатах тестирования и точной архитектуре отсутствуют.

Ice0.51-16.01-RP — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit. Модель содержит около 7,1 млрд параметров, работает с контекстом до 32 768 токенов и предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст; её можно использовать для ведения беседы и генерации ответов. В README указана лицензия?

ilsp_Llama-Krikri-8B-Instruct-GGUF — это набор GGUF-квантизованных версий инструкционной языковой модели Llama-Krikri-8B-Instruct, разработанной ilsp. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговых и других сценариях, поддерживающих формат инструкций Llama 3.1, включая запуск локально через llama.cpp, LM Studio и совместимые проекты. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и заявлена для греческого и английского языков. Доступны варианты от F32 и F16 до различных форматов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Более крупные варианты обычно сохраняют более высокое качество, а компактные требуют меньше оперативной памяти; в README рекомендуются, среди прочих, Q6_K_L, Q6_K, Q5 и Q4_K_M. Точный размер контекста в предоставленных данных не указан. Основные преимущества — возможность локального запуска, широкий выбор компромисса между качеством и требованиями к памяти, а также поддержка CPU-инференса и аппаратных конфигураций, совместимых с llama.cpp. Ограничения связаны с потерями качества в более агрессивно квантизованных версиях, отсутствием заявленной мультимодальности и неизвестным размером контекстного окна. Лицензия указана как llama3.1.

silence09 опубликовал преобразованную версию InternLM3-8B-Instruct, представленную в формате архитектуры Qwen2 для совместимости с некоторыми сценариями инференса и классом Qwen2ForCausalLM. Модель содержит 8,3 млрд параметров, использует плотную архитектуру и сохраняет точность исходных весов. Контекст — до 32 768 токенов; поддерживается диалоговое использование и генерация текста. Модель предназначена для запуска запросов к исходной InternLM3-8B-Instruct в окружениях, рассчитанных на Qwen2. Базовая модель ориентирована на общие запросы, работу со знаниями и сложные рассуждения. Репозиторий распространяется по лицензии Apache-2.0.

K2-Horizon-7B-Uno MLX 6-bit — языковая модель для генерации текста, подготовленная hermitdave на основе IFM/K2-Horizon-7B-Uno от Institute of Foundation Models. Это плотная авторегрессионная модель семейства K2-Horizon с 8 млрд параметров; исходная модель описана как дополненная диффузией, а LoRA-адаптер объединён с базовыми весами. Репозиторий содержит равномерно квантованную до 6 бит версию в формате MLX для запуска на Apple Silicon. Модель предназначена для генерации ответов и рассуждений по текстовым запросам. Заявлено контекстное окно до 524 288 токенов; для запуска автор рекомендует высокий уровень усилия рассуждения. Для работы с K2-Horizon в oMLX требуется версия 0.6.4 или новее с патчем поддержки этой архитектуры. Модель распространяется по лицензии Apache 2.0. Квантование до 6 бит может влиять на качество относительно исходных весов; README также указывает на требование к поддерживаемой версии oMLX при использовании этого способа запуска.

kellemar-KrishnaHercules-0.1-7b-slerp — это объединённая модель для генерации текста, созданная с помощью LazyMergekit на основе NeuralKrishna-7B-V2-DPO и ChatHercules-2.5-Mistral-7B-DPO. В конфигурации указаны метод объединения DARE-TIES, архитектура Mistral с плотной структурой и 7,1 млрд параметров. Модель предназначена для генерации ответов и продолжения текста по запросу; метаданные указывают контекст до 32 768 токенов. Поддерживаемые языки и специализированные области применения в карточке не обозначены. Модель распространяется в формате safetensors по лицензии Apache-2.0.

mergekit-community/L3.1-Artemis-d-8B — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом Model Stock. В качестве основы использована arcee-ai/Llama-3.1-SuperNova-Lite; в объединение также вошли Casual-Autopsy/L3-Umbral-Mind-RP-v3.0-8B, mergekit-community/L3-Boshima-a и kromeurus/L3.1-Ablaze-Vulca-v0.1-8B. Модель содержит 7,5 млрд параметров и распространяется в формате safetensors. Модель предназначена для генерации текста и разговорных сценариев. Она принимает текст и выдаёт текст; заявленная длина контекста — 131072 токена. Базовая модель описана в каталоге как англоязычная чат-модель для диалогов и выполнения инструкций, поэтому английский — основной язык модели. Лицензия в предоставленных данных не указана. Качество ответов и ограничения конкретного объединения в карточке не описаны; характеристики и поведение могут зависеть от сочетания исходных моделей.

bartowski/L3.1-MS-Astoria-70b-v2-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели Steelskull/L3.1-MS-Astoria-70b-v2. Квантизация выполнена bartowski с помощью llama.cpp b3930 и метода imatrix. Модель предназначена для локального запуска задач генерации текста, диалогов и других сценариев текстового вывода; рекомендуется использовать её через LM Studio или совместимые инструменты на базе llama.cpp. Доступны варианты квантизации от IQ1_M до Q8_0 размером примерно от 16,75 до 74,98 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, но требуют больше оперативной памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, тогда как самые низкие уровни имеют заметно более низкое качество. Для некоторых вариантов применена квантизация весов эмбеддингов и выходного слоя в Q8_0. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или лицензии исходной модели. Формат приглашений использует специальные токены Llama 3.1 и задаёт даты отсечения знаний и текущую дату, однако это не заменяет официальное описание возможностей модели.

djuna/L3.1-Suze-Vume-calc — объединённая диалоговая языковая модель, созданная с помощью mergekit методом linear DARE. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored, а в объединение также включена djuna/L3-Suze-Vume. Модель построена на архитектуре Llama для генерации текста и имеет около 7,5 млрд параметров. Модель предназначена для диалоговой генерации текста. Контекстное окно составляет 131 072 токена; репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. README приводит результаты оценки на IFEval и BBH. Лицензия в предоставленных данных не указана.

NousResearch/Llama-2-7b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате Hugging Face Transformers. Это плотный авторегрессионный трансформер с 6,6 млрд параметров; веса представлены в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель дообучена с помощью supervised fine-tuning и обучения с подкреплением по человеческим отзывам для диалогов в формате помощника. Она предназначена для ответов на вопросы, ведения диалога и генерации текста на английском языке. Для ожидаемого поведения нужно соблюдать форматирование Llama 2 Chat с соответствующими маркерами инструкций и токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы, а проведённые оценки не охватывают все возможные сценарии. Данные предобучения имеют срез до сентября 2022 года. Использование регулируется собственной лицензией Meta для Llama 2; для получения весов требуется принять её условия.