II.6Документация и сопровождение разработки

Agente-GPT-Qwen-2.5-7B-Spanish_English_GGUF_32bit — локальная чат-модель для генерации текста, опубликованная Франсиско Ангуло де ла Фуэнте. Она основана на семействе Qwen 2.5 и предназначена для диалогов, автономной декомпозиции задач и взаимодействия с агентами; автор также заявляет навыки генерации кода и научных текстов. Модель содержит 7 млрд параметров и распространяется в формате GGUF F32 для запуска, в частности, через Ollama. README упоминает MCP и A2A, но наличие интерфейса вызова инструментов в метаданных не подтверждено. Заявлена поддержка испанского и английского языков. Лицензия — Apache 2.0. README предлагает использовать для подготовки научных статей отдельный конвейер P2PCLAW. Заявленные навыки и достижения приведены автором; независимые подтверждения их качества в предоставленных материалах отсутствуют.

Agnuxo/Agente-Llama-3.1-Spanish_English_GGUF_32bit — локальная чат-модель для генерации текста, представленная Francisco Angulo de Lafuente в рамках экосистемы P2PCLAW. Это плотная модель семейства Llama в формате GGUF F32; README заявляет размер 2 млрд параметров и позиционирует её как автономного агента. Метаданные указывают лицензию Apache-2.0. Модель предназначена для диалога, разбиения задач на этапы, координации агентов и генерации кода, включая примеры на Python, JavaScript, TypeScript, Rust, Go и C++, а также научные вычисления и машинное обучение. README также описывает перенаправление запросов на создание научных статей в инструменты экосистемы P2PCLAW. Поддерживаемые языки — испанский и английский; запуск заявлен локально через Ollama или Transformers. Карточка не приводит результатов независимой оценки качества, поэтому заявленные агентные и научные возможности нельзя считать подтверждёнными сравнительными тестами. Размер контекста и подробности обучения не указаны; формат F32 требует больше памяти, чем квантизированные варианты GGUF.

Olmo-3.1-32B-Think-GGUF — это квантизированная версия текстовой генеративной модели Olmo-3.1-32B-Think, разработанной Allen Institute for AI (AI2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, включая IQ-квантизации. Размер файлов варьируется примерно от 14 до 64 ГБ, поэтому модель можно адаптировать под доступные ресурсы, выбирая компромисс между качеством и потреблением памяти. Указан английский язык; сведения об архитектуре, максимальном контексте, мультимодальности и поддерживаемых языках, кроме английского, не предоставлены. Сильной стороной модели являются варианты с высокой точностью, близкой к исходной, а также возможность локального запуска на совместимом оборудовании. Низкобитные варианты экономят память, но могут снижать качество генерации; некоторые форматы имеют устаревшие особенности или не рекомендуются из-за более низкого качества. Модель распространяется по лицензии Apache-2.0.

Apertus v1.5 70B text-only GGUF — это квантизированная версия базовой модели swiss-ai/Apertus-v1.5-70B, подготовленная в формате GGUF для запуска через llama.cpp. Модель разработана Swiss AI и предназначена для генерации и обработки текста, включая мультиязычные сценарии. Представленные файлы содержат только текстовый декодер с архитектурой Apertus и примерно 70 млрд параметров; варианты поставляются в квантизациях Q4_K_M и q8_0. Исходная Apertus v1.5 является мультимодальной моделью с компонентами для текста, изображений и аудио, однако в этой сборке vision- и audio-компоненты удалены. Поэтому модель не принимает изображения или аудиоданные и работает исключительно с текстом. Для запуска требуется актуальная версия llama.cpp с поддержкой архитектуры Apertus; vLLM этот GGUF-формат не поддерживает. В README также указано, что для корректной остановки генерации и отображения reasoning необходимо задать специальные параметры запуска. Главное преимущество сборки — возможность запускать Apertus v1.5 через стандартный llama.cpp без специальной ветки SwissAI и без исходных safetensors. При этом это тестовые квантизации без imatrix, измерений perplexity и результатов бенчмарков, поэтому качество и эффективность не были тщательно валидированы. Для опубликованных файлов указана лицензия Apache-2.0.

Virtuoso-Large-GGUF — это набор квантизированных версий языковой модели Virtuoso-Large, разработанной arcee-ai и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Для общения используется шаблон сообщений в формате ChatML с ролями system, user и assistant. Модель доступна в формате GGUF с различными вариантами квантизации от Q8_0 до Q2_K и IQ2_M. Размер файлов составляет примерно от 29,34 до 77,26 ГБ; более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти. В README не указаны точный размер исходной модели, архитектурные детали, поддерживаемые языки, длина контекста или мультимодальные возможности. Сильной стороной набора является широкий выбор вариантов для разных ограничений по памяти и производительности. Рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; версии с более низкой квантизацией экономичнее, но могут заметно уступать по качеству. Лицензия обозначена как qwen и связана с лицензией Qwen2.5-72B-Instruct, однако точные условия следует проверять в указанном лицензионном документе.

Arcee-Scribe — чат-модель компании Arcee AI для письма, рассуждений и широкого круга текстовых задач. Она основана на плотной архитектуре InternLM2, содержит 7,4 млрд параметров и поддерживает контекст до 32 768 токенов. Модель создана слиянием InternLM-2.5-chat и собственной дообученной версии InternLM с общими и специализированными данными для письма. Модель подходит для творческого письма, создания диалогов с подтекстом и сложными эмоциями, построения нелинейных повествований, а также объяснения технических понятий через аналогии. В README отмечены результаты на Big-Bench Hard и сильные стороны в творческом письме. Поддерживаются чат-взаимодействие и извлечение признаков; метаданные также указывают текстовую генерацию как поддерживаемую задачу. Модель опубликована в формате Safetensors, также упомянуты доступные сборки GGUF. Лицензия — Apache-2.0. README отмечает, что модель не достигла стандартов Arcee-Spark V2; конкретные ограничения качества и языков не приведены.

ARIA 70B V2 — это большая языковая модель в формате GGUF, разработанная Faradaylab и квантизированная TheBloke. Репозиторий содержит варианты модели для запуска через llama.cpp и совместимые интерфейсы и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, Faraday.dev, ctransformers и llama-cpp-python. Исходная модель доступна в формате PyTorch FP16, а также существуют варианты AWQ и GPTQ. Модель основана на архитектуре Llama и предназначена для генерации текста, диалоговых сценариев, ролевого общения, образовательных задач и, согласно метаданным, работы с кодом. Заявлены английский и французский языки. Для общения используется шаблон Llama-2-Chat с системными инструкциями о полезных, безопасных и непредвзятых ответах. Размер модели — 70B параметров; сведения о длине контекста и поддержке дополнительных модальностей в README не указаны. Ключевое преимущество этой версии — поддержка нескольких уровней 2-, 3-, 4-, 5-, 6- и 8-битного квантования, позволяющая запускать модель с использованием CPU и GPU и выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают высокие аппаратные требования для 70B-модели, возможное снижение качества из-за квантования и отсутствие подтверждённых характеристик производительности. Указанная лицензия — llama2.

Jebadiah/Aria-ruby-v3 — созданная с помощью mergekit слитая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В линейном слиянии использованы Jebadiah/Aria-diamond-v2 и Jebadiah/Tess-coder-ruby-p7; веса сохранены в формате safetensors, исходная конфигурация слияния задаёт float16. Модель предназначена для генерации текста и кода. Контекстное окно составляет 32 768 токенов. В карточке базовой модели упоминается диалоговая генерация и код на Ruby, однако отдельные языки и специализированные возможности этой версии не подтверждены. Лицензия в предоставленных данных не указана. Качество и ограничения модели в README не описаны; результаты генерации следует проверять.

ArliAI-Llama-3-8B-Formax-v1.0-GGUF — это GGUF-квантизированная версия текстовой генеративной модели ArliAI-Llama-3-8B-Formax-v1.0, разработанной OwenArli и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска через llama.cpp, включая локальное использование на системах с ограниченными ресурсами. В основе лежит модель семейства Llama 3 с заявленным размером 8 млрд параметров. Доступны варианты от полного F32 до низкоразрядных Q2 и IQ-квантизаций; наиболее качественными и рекомендуемыми в README названы варианты Q5–Q6, а Q4_K_M описан как сбалансированный вариант по размеру и качеству. Модель работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в предоставленных данных отсутствуют. Для корректного общения следует использовать формат промпта Llama 3 с ролями system, user и assistant. Основное преимущество репозитория — широкий выбор квантизаций, позволяющий подобрать компромисс между качеством, размером файла и требованиями к памяти. Более компактные варианты подходят для устройств с небольшим объёмом RAM, но обеспечивают более низкое качество генерации. Модель распространяется по лицензии llama3; дополнительные ограничения и подробности лицензии в README не указаны.

Asherah — языковая модель ResplendentAI на архитектуре Mistral с 7,1 млрд параметров и контекстом до 8192 токенов. Модель создана слиянием четырёх моделей Sanji Watsuki, после чего дообучена на наборах Gnosis и Synthetic Soul. Модель предназначена для генерации текста и стандартного использования как LLM. В репозитории также есть mmproj для мультимодального использования в формате GGUF; автор рекомендует Koboldcpp. Мультимодальные возможности доступны только пользователям GGUF, а без них модель можно применять как обычную языковую модель. Доступны файлы Safetensors и GGUF F16. Лицензия — Apache-2.0. Карточка не приводит оценки качества или подробных ограничений генерации.

ASIL Qwen3.5-9B RL — выпущенный авторами ASIL чекпойнт, созданный дообучением Qwen/Qwen3.5-9B методом обучения с подкреплением. Модель предназначена для диалоговой генерации текста и агентных задач; карточка описывает релиз как часть публикации ASIL v0.1.0 и указывает выбранный чекпойнт global_step_140_actor_hf, полученный после продолжения первого этапа обучения с подкреплением. Модель содержит 7,2 млрд параметров, использует архитектуру Qwen3_5ForCausalLM и загружается через Transformers из файлов Safetensors. Нативная длина контекста — 262 144 токена. Метаданные указывают возможность чата; базовая Qwen3.5 описана как мультимодальная, однако этот репозиторий относится к текстовой архитектуре и имеет задачу text-generation. Для обучения использовались 320 обучающих и 80 валидационных промптов из набора rl_learnable_v4_320_80. Карточка не приводит сведений о лицензии, поэтому условия использования определить по имеющимся данным нельзя.

Athene-V2-Chat-GGUF — набор квантизированных версий диалоговой языковой модели Athene-V2-Chat, разработанной Nexusflow и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в чат-сценариях и локального инференса, в том числе через LM Studio и совместимые инструменты llama.cpp. В README указан английский язык и текстовая модальность; исходная архитектура, число параметров и размер контекстного окна не приведены. Модель доступна в вариантах квантизации Q2–Q8 и IQ2–IQ4 с размерами файлов примерно от 25,49 до 77,26 ГБ. Старшие варианты Q5–Q8 обеспечивают более высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Некоторые варианты используют Q8_0 для весов embedding и output, а Q4_0_8_8 оптимизирован для ARM с поддержкой SVE и не рекомендуется для Mac или Windows. Указан специальный формат prompt с ролями system, user и assistant. Лицензия обозначена как other, без дополнительных условий в представленном README.

Aurora-10.7B — слитая плотная авторегрессионная модель семейства Mistral, опубликованная SteelStorage. По README она собрана из слоёв mistralai/Mistral-7B-Instruct-v0.2 методом passthrough и предназначена как базовая модель для дальнейшего обучения; автор указывает, что после слияния она не дообучалась. В репозитории доступны веса Safetensors, лицензия — Apache-2.0. Модель принимает текст и генерирует текст; метаданные также отмечают поддержку чата. Контекст составляет 32 768 токенов, размер — около 10,6 млрд параметров. README приводит результаты оценок на ARC, HellaSwag, MMLU, T-QA, Winogrande и GSM8K, но они не гарантируют качество на конкретных пользовательских задачах. Языки и специальные предметные области в предоставленных данных не обозначены.

Sumail/Barista02 — языковая модель семейства Gemma, созданная слиянием предварительно обученных моделей coffiee/g7 и tomaszki/gemma-45-copy с помощью mergekit и метода SLERP. Модель содержит 2,5 млрд параметров, использует архитектуру GemmaForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Сведений о специальных прикладных областях или поддерживаемых естественных языках в предоставленных источниках нет. Лицензия в предоставленных данных не указана. Качество и ограничения модели отдельно не описаны; результат слияния может унаследовать ограничения исходных моделей.

Sumail/Barista20 — объединённая языковая модель на базе StableLM, созданная методом SLERP с помощью mergekit из coffiee/s31 и rwh/s1. Модель предназначена для генерации текста в диалоговом формате; метаданные относят её к возможностям chat и задаче text-generation. Модель имеет плотную архитектуру StableLM и содержит 1,4 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и распространяется в формате safetensors для библиотеки Transformers. Веса объединены с параметрами, заданными отдельно для слоёв self-attention и MLP. В README не приведены сведения о языках, качестве на конкретных задачах или условиях лицензии, поэтому их нельзя определить по доступным данным. Модель создана на основе двух готовых чекпойнтов, а не обучена с нуля.

Beetle-FineWeb2-24B/beetle-bilingual-l2-80-late-b5-fineweb-tur-eng — языковая модель для генерации текста на базе Transformers. По названию репозитория модель ориентирована на двуязычные сценарии с турецким и английским языками; обозначение 24B указывает на класс модели примерно в 24 миллиарда параметров. В метаданных Hugging Face для неё указан pipeline text-generation и формат safetensors. Модель предназначена для генерации и продолжения текста, диалоговых приложений и других задач, где требуется авторегрессионное создание текста. README не содержит сведений о разработчике, лицензии, точной архитектуре, длине контекста, обучающих данных, результатах оценки или рекомендуемых сценариях применения, поэтому эти характеристики нельзя подтвердить.

BenchmarkEngineering-7B-slerp — слитая модель на архитектуре Mistral, созданная разработчиком репозитория из paulml/OmniBeagleSquaredMBX-v3-7B и automerger/YamshadowExperiment28-7B с помощью LazyMergekit и метода slerp. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста; нативный контекст составляет 32 768 токенов. Модель создавалась для высоких результатов в бенчмарках Open LLM. В README приведены средний результат 76,40, 74,15 на AI2 Reasoning Challenge и 89,09 на HellaSwag; эти показатели описывают оценку на конкретных тестах и не гарантируют качество в других сценариях. Подходит для генерации текста и диалоговых ответов, однако отдельные языки и специализированные области применения в карточке не заявлены. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.

BigQwen2.5-52B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели BigQwen2.5-52B-Instruct, разработанной mlabonne и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через llama.cpp и LM Studio. В README указан английский язык; сведения о других языках отсутствуют. Модель имеет размер 52 млрд параметров и поставляется в вариантах от F16 до низкобитных Q- и IQ-квантизаций. Доступны файлы размером примерно от 12,39 до 104,55 ГБ. Квантизация выполнена с использованием llama.cpp и imatrix; варианты Q6_K, Q5_K_L, Q5_K_M, Q4_K_L, Q4_K_M и IQ4_XS отмечены как рекомендуемые благодаря сочетанию качества и размера, тогда как более низкие уровни квантизации снижают качество, но уменьшают требования к памяти. Размер контекста и точная архитектура в README не указаны. Для работы требуется совместимое ПО, например llama.cpp или LM Studio, а также значительный объём оперативной или видеопамяти в зависимости от выбранного файла. Модель использует лицензию tongyi-qianwen; в карточке она обозначена как other и приведена ссылка на лицензию Qwen2-72B-Instruct. Условия коммерческого и иного использования следует уточнять в тексте этой лицензии.

mulasan/bistbot-llama-cio-8b — дообученная разговорная языковая модель на архитектуре Llama, разработанная mulasan на базе unsloth/llama-3.1-8b-instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста в диалоговом формате и имеет интерфейс для вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В карточке указана поддержка английского языка. Модель распространяется в формате safetensors по лицензии Apache 2.0. README не описывает специализацию дообучения или результаты оценки качества.

BitCPM-CANN-8B — языковая модель OpenBMB для генерации текста и диалогов, созданная на основе MiniCPM4-8B с применением обучения с учетом тернарной квантизации. Модель имеет плотную архитектуру MiniCPMForCausalLM, содержит 7,9 млрд параметров и поддерживает контекст до 32 768 токенов. Веса хранятся в стандартном формате PyTorch, но после обучения принимают тернарные значения; для обычного инференса модель загружается через Transformers без специальных библиотек или ядер квантизации. Модель рассчитана на диалоги, генерацию текста и задачи рассуждения. По отчету авторов, модели BitCPM-CANN размером от 1B сохраняют 95,7–97,2% результатов соответствующих полноточных моделей MiniCPM4 на 11 тестах, а тернарное представление позволяет примерно в шесть раз сократить память при инференсе. Эти показатели относятся к оценкам авторов и конкретным бенчмаркам; для модели 8B отдельные результаты по каждой задаче в карточке приведены не полностью. Модель поддерживает китайский и английский языки. Лицензия — Apache-2.0. Возможности и качество следует проверять на целевых задачах, а ответы модели — перепроверять.

Blitz-AI-ULTRA — крупная текстовая генеративная модель семейства Llama, опубликованная DenisTheDev. Согласно карточке, это крупнейшая на данный момент модель разработчика, созданная как индивидуальное ИИ-решение и пока не обученная для конкретных сценариев. Метаданные указывают на плотную архитектуру LlamaForCausalLM, 126,9 млрд параметров и контекст до 32 768 токенов; веса доступны в формате Safetensors. Модель предназначена для генерации текста общего назначения, однако карточка не приводит оценок качества или подтверждённых специализированных возможностей. Указана лицензия Apache-2.0.

BLOOM-7b1-intermediate — промежуточный чекпойнт языковой модели семейства BLOOM, разработанной BigScience. Это авторегрессионная трансформерная модель с архитектурой decoder-only, предназначенная для генерации текста и исследований больших языковых моделей; её также можно дообучать для специализированных задач. Репозиторий содержит промежуточные версии обучения, включая шаги от 1 000 до 300 000. Модель работает с текстом и поддерживает множество языков. Для семейства BLOOM указаны позиционные кодировки ALiBi и контекст до 2 048 токенов; версия в этом репозитории имеет 7,1 млрд параметров. Метаданные также отмечают возможности работы с кодом. Чекпойнт можно применять для продолжения текста, черновой генерации и экспериментов с многоязычными языковыми моделями. Выводы могут быть фактически неверными, повторяющимися или нерелевантными, а также содержать стереотипы, оскорбительный, насильственный или сексуальный контент. Модель не предназначена для критически важных решений и использования в медицине, политике, праве или финансах. Лицензия — BigScience BLOOM RAIL License v1.0; применяются ограничения использования, изложенные в лицензии.

BlueBerry-3 — дообученная модель artindnr на базе openai/gpt-oss-120b для рассуждений и диалогов на шести языках: фарси, английском, арабском, французском, немецком и испанском. Это авторегрессионная языковая модель с архитектурой gpt_oss и смесью экспертов (MoE); в репозитории указано 2,1 млрд параметров, а карточка базы называет 117 млрд. Модель принимает текст и выдаёт текст, поддерживает шаблон чата Harmony и интерфейс вызова инструментов. Контекст — до 131 072 токенов. Модель предназначена для многоязычных ассистентов, ответов на запросы и задач, требующих рассуждений на одном из шести поддерживаемых языков. Её особенность — генерация рассуждений на языке запроса, а не преимущественно на английском. Выпущенная версия — полностью дообученный чекпойнт с объединёнными плотными весами, а не LoRA-адаптер. Качество рассуждений оптимизировано для перечисленных шести языков; для других языков оно не гарантируется. Модель может ошибаться и выдумывать факты; отдельное дообучение безопасности не проводилось. Лицензия — Apache 2.0.

bophades-mistral-7B — объединённая модель для генерации текста, созданная nbeerbower с помощью mergekit. В основе лежит yam-peleg/Experiment26-7B; слияние выполнено методом DARE TIES с несколькими моделями Mistral, включая варианты для математики и другие экспериментальные чекпойнты. Модель построена на архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст длиной до 32 768 токенов. В репозитории опубликованы веса в формате safetensors; для запуска используется библиотека Transformers. Карточка не уточняет поддерживаемые естественные языки и специализированные сценарии. Модель распространяется по лицензии Apache-2.0. Сведения о качестве, результатах оценки и конкретных ограничениях в карточке не приведены.

breakmymind-7B-slerp — языковая модель на 7,1 млрд параметров, созданная Eliorkalfon слиянием WizardLM/WizardMath-7B-V1.1 и OpenPipe/mistral-ft-optimized-1227 методом SLERP с помощью mergekit. Модель построена на архитектуре Mistral и предназначена для генерации текста, включая решение математических задач и диалоговые сценарии. Контекст модели составляет до 32 768 токенов. В репозитории представлены веса в формате safetensors; в конфигурации слияния указан тип данных bfloat16. Лицензия — Apache 2.0, допускающая коммерческое использование при соблюдении её условий. Подробные оценки качества и ограничения в карточке не приведены.

pmysl/c4ai-command-r-plus-GGUF — это набор весов модели Command R+, разработанной CohereForAI, в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; в репозитории доступны чат-шаблоны, а поддержка этих весов добавлена в llama.cpp начиная с релиза b2636. Доступны варианты с разной степенью квантизации, включая Q2_K, Q3_K_L и Q4_K_M, а также полноточный вариант f16. Для некоторых вариантов приведены значения perplexity на wikitext-2-raw: от 5,7178 у Q2_K до 4,3845 у f16, однако эти результаты обозначены как предварительные. Ключевые характеристики базовой модели, включая архитектуру, число параметров, поддерживаемые языки и размер контекста, в README не указаны. Сильной стороной репозитория является совместимость с llama.cpp и возможность выбирать компромисс между качеством, размером файлов и требованиями к ресурсам с помощью разных вариантов квантизации. Ограничения включают отсутствие подробной информации о возможностях базовой модели и неполные сведения о качестве. Использование распространяется по лицензии CC BY-NC-4.0.

calme-2.6-qwen2-7b — дообученная Maziyar Panahi версия языковой модели Qwen2-7B, предназначенная для диалоговой генерации текста. Разработчик заявляет, что дообучение нацелено на улучшение результатов базовой модели по различным бенчмаркам; в карточке указаны наборы HelpSteer2, OpenHermes-2.5, Orca Math Word Problems и SlimOrca. Модель имеет плотную архитектуру Qwen2ForCausalLM с 7,1 млрд параметров и контекстом до 131 072 токенов. Она работает с текстом, поддерживает шаблон диалога ChatML и ориентирована на английский язык. Весовые файлы представлены в формате safetensors; отдельно доступны квантованные версии GGUF. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки: раздел с бенчмарками помечен как ожидающий публикации. Поэтому заявленное улучшение относительно базовой модели нельзя проверить по приведённым данным; качество ответов и математических рассуждений следует оценивать на собственных задачах.

calme-3.2-instruct-78b-GGUF — это квантизированная версия инструкционной языковой модели calme-3.2-instruct-78b, разработанной MaziyarPanahi и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях на базе llama.cpp и LM Studio. В README указана поддержка английского языка и шаблон чата с ролями system, user и assistant. Модель основана на Qwen2.5-72B-Instruct, но имеет заявленный размер 78B параметров. Это текстовая модель без заявленной поддержки изображений или других модальностей. Доступны варианты квантизации от Q2_K до Q8_0 с размером файлов примерно от 31,85 до 82,85 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые; более компактные варианты экономят память, но могут снижать качество. Длина контекста в предоставленных данных не указана. Сильная сторона модели — широкий выбор квантизаций для локального запуска и использование imatrix-квантизации, направленной на сохранение качества. Ограничения включают высокие требования к оперативной или видеопамяти, снижение качества в низкобитных вариантах и отсутствие сведений о результатах оценки. Лицензия обозначена как other с ссылкой на лицензию Qwen/Qwen2.5-72B-Instruct; перед использованием необходимо учитывать условия этой лицензии.

CalmexperimentT3q-7B-GGUF — это квантизированная языковая модель для генерации текста в формате GGUF. Файлы модели подготовлены MaziyarPanahi на основе automerger/CalmexperimentT3q-7B; исходная модель создана automerger и восходит к chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Модель предназначена для локального запуска и использования в сценариях текстовой генерации, включая диалоговые приложения, написание и обработку текста, а также задачи, поддерживаемые совместимыми инструментами инференса. Модель относится к семейству Mistral и имеет размер 7B параметров. Она поддерживает только текстовую модальность; сведения о языках и размере контекстного окна в README не указаны. Доступны варианты квантизации с разной разрядностью — от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат GGUF совместим с llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими клиентами, поддерживающими этот формат. Основные преимущества — локальный запуск, широкий выбор уровней квантизации и совместимость с инструментами, включая GPU-ускорение и OpenAI-совместимые серверные интерфейсы в отдельных реализациях. Ограничения — отсутствие в README подробных результатов оценки, рекомендуемых параметров генерации, точного контекстного окна и подтверждённых языковых характеристик; качество зависит от выбранной квантизации и используемого программного обеспечения. Лицензия — Apache-2.0.

CAMEL-13B-Combined-Data — диалоговая языковая модель команды CAMEL-AI, полученная дообучением LLaMA-13B. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LLaMA и формат PyTorch; длина контекста составляет 2048 токенов. Для обучения использованы 229 тысяч диалогов, собранных фреймворком CAMEL, 100 тысяч англоязычных диалогов ShareGPT и 52 тысячи инструкций из Alpaca. Модель предназначена для генерации ответов в диалоге и выполнения инструкций на английском языке. В README приведены результаты офлайн-оценки на наборах ARC, HellaSwag, MMLU и TruthfulQA. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но не коммерческое применение. Карточка не описывает поддержку инструментов или мультимодальных входов.