I.5Создание и редактирование текста

Модель ryugyosoft/llm-jp-4.1-8b-thinking-onw — версия llm-jp/llm-jp-4.1-8b-thinking, преобразованная для запуска движком onw на Intel NPU. Исходную модель разработал проект LLM-jp Национального института информатики Японии; это плотная Llama-подобная языковая модель на 7,8 млрд параметров с контекстом до 65 536 токенов, ориентированная прежде всего на японский язык и также поддерживающая английский. Модель генерирует ответы в диалогах, выполняет рассуждения и поддерживает вызов инструментов через OpenAI-совместимый API. Она предназначена для локального использования на компьютерах с Intel Core Ultra и NPU; README сообщает о сегментированных весах INT4 и отдельном выходном слое INT8. Указаны хорошие результаты исходной модели в японских диалоговых тестах и проверка совпадения генерации после преобразования, однако скорость и доступность зависят от NPU и объёма памяти. Обучение для этой версии не проводилось. Лицензия — Apache 2.0.

Это дообученная модель IBM Granite 3.3 2B Instruct, опубликованная пользователем logan7000. Модель основана на плотной архитектуре GraniteForCausalLM и содержит 2,5 млрд параметров; для запуска указана библиотека Transformers. Она предназначена для генерации текста в диалоговом формате и ответов на пользовательские запросы. Модель обучалась с помощью TRL; в метаданных также отмечен GRPO. Контекстное окно составляет 131 072 токена. В карточке приведён пример диалогового запроса, но специальных областей применения и поддерживаемых языков не заявлено. Лицензия в предоставленных данных не указана.

LlongOrca-13B-16k — языковая модель Open-Orca, дообученная на базе LLongMA-2-13b-16k на отфильтрованной части набора OpenOrca с данными, дополненными GPT-4. Это плотная модель семейства Llama с 12,9 млрд параметров, предназначенная для генерации текста и диалогов; она поддерживает контекст до 16 384 токенов и рассчитана на английский язык. Модель обучали полным дообучением в четыре эпохи с использованием Axolotl и упаковки данных OpenChat. Для общения применяется формат ChatML. Авторы сообщают об улучшении результатов относительно базовой модели и сохранении большей части результатов другой модели OpenOrca, однако эти оценки относятся к тестам авторов на момент выпуска и не гарантируют качество на других задачах. Репозиторий распространяет веса PyTorch; лицензия указана как Llama 2.

LlongOrca 7B 16K — языковая модель для генерации текста, разработанная Open-Orca на базе архитектуры LLaMA и представленная в GGUF-формате с квантованными версиями, подготовленными TheBloke. Модель обучалась с использованием набора данных Open-Orca и ориентирована на работу с англоязычными текстами. Модель предназначена для диалоговых сценариев, генерации и продолжения текста, ответов на пользовательские запросы и локального запуска через llama.cpp и совместимые интерфейсы. Заявленный контекст составляет до 16K токенов. Для общения используется шаблон ChatML с ролями system, user и assistant. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. К сильным сторонам относятся увеличенное контекстное окно, поддержка локального CPU+GPU-инференса и совместимость с широким набором инструментов, включая llama.cpp, text-generation-webui, LM Studio, KoboldCpp и llama-cpp-python. README не содержит подробных результатов оценки качества, поэтому возможности модели в конкретных задачах нельзя надежно сравнить с другими моделями. Модель работает только с текстом; сведения о мультимодальности отсутствуют. Указанная лицензия — Llama 2.

LongCat-Flash-Chat — разговорная языковая модель Meituan для генерации ответов и выполнения агентных задач. Она основана на архитектуре Mixture-of-Experts (MoE) и поддерживает интерфейс вызова инструментов. В README указано 560 млрд параметров всего и в среднем около 27 млрд активируемых на токен; метаданные Hugging Face указывают 17,7 млрд параметров, поэтому размер модели в источниках расходится. Контекст составляет до 131 072 токенов. Модель предназначена для диалогов, задач с инструментами, многошагового взаимодействия, а также задач рассуждения и программирования. В README модель описана как non-thinking; авторы сообщают о высокой пропускной способности инференса и конкурентных результатах на своих оценках. Доступны веса в формате safetensors. Лицензия — MIT. Авторы предупреждают, что модель не была специально разработана и всесторонне проверена для всех возможных прикладных сценариев.

LongRAG_Llama3.1-8B-Instruct — плотная причинно-языковая модель семейства Llama, дообученная Bui1dMySea на базе meta-llama/Llama-3.1-8B-Instruct с использованием набора LRGinstruction. Модель предназначена для диалогового взаимодействия и генерации текста; заявленная длина контекста составляет 131072 токена, размер — около 7,5 млрд параметров. В карточке приведён результат оценки на тестовом наборе: loss 0,6885. Подробности о предназначении набора данных, методике оценки и ограничениях не раскрыты. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Лицензия указана как other, поэтому конкретные условия использования следует уточнить в репозитории модели и базовой модели.

QuantFactory/LongWriter-glm4-9b-GGUF — квантизированная версия модели LongWriter-glm4-9b, разработанной командой THUDM. Модель создана на базе glm-4-9b и предназначена для генерации длинных текстов объёмом более 10 000 слов за один запрос. Версия в формате GGUF подготовлена с использованием llama.cpp. Модель относится к текстовым генеративным моделям и поддерживает сценарии написания крупных документов, например подробных руководств и других длинных материалов. В README указаны английский и китайский языки, архитектурная основа GLM и размер порядка 9 млрд параметров. Для работы с исходной моделью приведены настройки контекста и генерации до 32 768 токенов; также заявлена совместимость с Transformers версии 4.43.0 и выше и возможность развёртывания через vLLM. Ключевое преимущество — ориентация на длинную генерацию, а квантизация может упростить запуск в средах с ограниченными ресурсами. Ограничения, точные требования к оборудованию и характеристики качества в README не указаны. Условия использования определяются лицензией glm-4-9b, ссылка на текст которой приведена в карточке модели.

Loquace-7B-Mistral — италоязычная языковая модель с настройкой на выполнение инструкций, созданная Cosimo Iaia на основе Mistral-7B-Instruct. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов; опубликованные веса представлены в формате safetensors. Для дообучения применялся QLoRA на наборе Loquace-102k. Модель предназначена для ответов на инструкции и вопросы на итальянском языке, в том числе в сценариях генерации с поиском по документам (RAG). Автор отмечает хорошее следование итальянским инструкциям и восприимчивость к prompt engineering. Лицензия — Apache-2.0. Модель может ошибаться, выдавать бессмысленные или фактически неверные ответы, а также испытывать трудности со сложными, неоднозначными и плохо сформулированными запросами; результаты следует проверять.

LuciferSparrow/loramerged — разговорная языковая модель семейства Llama, разработанная LuciferSparrow и дообученная на unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Модель предназначена для генерации текста в диалоге и запуска сценариев чат-ассистента. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст длиной до 131 072 токенов. В карточке указаны английский язык, библиотека Transformers и формат Safetensors. Для обучения применялись Unsloth и TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения и не приводит результаты оценивания, поэтому качество для конкретных предметных задач по этим данным оценить нельзя.

Lostbel0/losty-v4-merged-2 — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. В метаданных модель связана с архитектурой Llama и имеет около 7,5 млрд параметров; сведения о разработчике, базовой модели, обучающих данных и лицензии отсутствуют. Модель подходит для генерации и продолжения текста, диалоговых сценариев и интеграции в приложения на базе Transformers. Заявленная длина контекста составляет 131 072 токена, однако поддерживаемые естественные языки в доступных данных не указаны. Карточка не содержит результатов оценки, описания обучения, рекомендаций по применению или подробностей о рисках. Поэтому качество, фактическая точность, устойчивость к вредным или предвзятым ответам и пригодность для критически важных задач требуют самостоятельного тестирования; условия лицензии также необходимо уточнить перед использованием.

Loxa-4B — языковая модель на 4 млрд параметров, опубликованная frameai. Она построена на плотной архитектуре семейства Llama и предназначена для генерации текста; в карточке также описаны сценарии классификации, ответов на вопросы, перевода и суммаризации. Модель поддерживает контекст до 131 072 токенов и работает через библиотеку Transformers; доступны веса в формате safetensors и интерфейсы чата и вызова инструментов. Модель рассчитана на исследовательскую и разработческую работу с текстом и кодом. Автор заявляет о работе на CPU и видеокартах GTX, однако не приводит проверяемых бенчмарков или подробностей обучения; заявленные 96% точности нельзя однозначно интерпретировать. Возможны предвзятые или фактически неверные ответы, поэтому результаты следует проверять, особенно в критически важных сценариях. Лицензия в предоставленных данных не указана.

Это набор GGUF-файлов с квантованными версиями модели lpetreadg/Llama-3-8B-merged-2-bf16, опубликованный featherless-ai-quants. Репозиторий предназначен для запуска модели в совместимой с GGUF среде; карточка перечисляет варианты IQ4_XS, Q2_K и Q3_K_L, а также другие варианты квантования. По метаданным модель поддерживает генерацию текста и чат.

LPT-6.1 Thinking — разговорная языковая модель от LiskCell, представленная как флагман экосистемы xLYR и ассистент Deta. Модель предназначена для диалогов, творческих задач, технических вопросов и многошаговых рассуждений; в репозитории заявлена поддержка английского и иврита. В карточке указаны архитектура семейства Kimi K2.5 с классом KimiK25ForConditionalGeneration, библиотека Transformers и формат весов safetensors. Модель позиционируется как дообученная и настроенная для экосистемы xLYR; её размер и длина контекста в предоставленных данных не приведены. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Lucie-7B-Instruct-human-data — дообученная инструкционная версия Lucie-7B, открытой многоязычной каузальной языковой модели, разработанной OpenLLM-France. Модель предназначена для генерации текста и диалоговых сценариев с выполнением инструкций, прежде всего на французском языке. Она также обучалась на английском, немецком, итальянском и испанском языках. Размер модели — 7B параметров; базовая модель поддерживает контекст до 32K токенов, и, несмотря на обучение на последовательностях длиной 4096 токенов, эта версия сохраняет способность работать с контекстом до 32K токенов. Модель дообучалась исключительно на созданных людьми или шаблонно подготовленных инструкционных данных, без использования ответов сторонних LLM; среди источников — Aya Dataset, Dolly, FLAN v2, OpenAssistant, Croissant Aligned Instruct и франкоязычные наборы данных. Её сильная сторона — следование инструкциям и генерация французского текста при полностью открытом подходе к подготовке данных. Модель не оптимизировалась для программирования и математических задач, а её качество ниже, чем у Lucie-7B-Instruct-v1.1; дальнейшее дообучение и выравнивание методами DPO или RLHF могут улучшить эти возможности. Модель распространяется по лицензии Apache-2.0.

Lumimaid-Magnum-12B-GGUF — набор квантизированных моделей в формате GGUF, созданный bartowski на основе Undi95/Lumimaid-Magnum-12B. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Указанный шаблон запросов: <s> [INST] {prompt}[/INST]. В набор входят варианты с точностью от F16 до Q2_K, размером примерно от 5,3 до 24,5 ГБ. Квантизация выполнена с использованием llama.cpp версии b3825 и метода imatrix; доступны варианты, оптимизированные для ARM-процессоров. Основные достоинства — широкий выбор компромиссов между размером, качеством и требованиями к памяти, при этом варианты Q5 и Q6 отмечены как высококачественные и рекомендуемые. Более сильная квантизация снижает качество, а конкретные языки, размер контекста, архитектура исходной модели и мультимодальные возможности в README не указаны. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять в карточке исходной модели Undi95/Lumimaid-Magnum-12B и для конкретного файла.

Lumimaid-Magnum-v4-12B-GGUF — это набор квантизированных файлов модели для генерации текста, подготовленный bartowski на основе Undi95/Lumimaid-Magnum-v4-12B. Модель создана в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. В README указано, что исходная модель является результатом объединения моделей, однако подробности её архитектуры, языков и контекстного окна не приведены. Доступны варианты от F16 до низкобитных Q2- и IQ-квантизаций размером примерно от 4,79 до 24,50 ГБ. Варианты Q6_K и Q6_K_L обеспечивают очень высокое качество, а Q4_K_M указан как типичный вариант по умолчанию с хорошим балансом качества и размера. Более компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Для взаимодействия рекомендуется формат промпта <s>[INST]{prompt}[/INST]. Квантизация выполнена с использованием imatrix и llama.cpp release b4381. Лицензия в предоставленных данных не указана.

Lumi-v2-llm-jp-4-8b — японско-английская чат-модель, разработанная SousiOmine на основе llm-jp/llm-jp-4-8b-base. Модель с архитектурой Llama и 7,8 млрд параметров прошла SFT на примерно 1,7 млрд токенов данных с шаблоном ChatML; веса доступны в формате safetensors для Transformers. Контекст модели составляет 65 536 токенов. Модель предназначена для диалоговой генерации текста, следования инструкциям и задач рассуждения на японском и английском языках. В обучающие данные вошли открытые наборы для рассуждений, мультиязычных инструкций, научных вопросов и агентного поведения, а также собственные данные разработчика для вопросов и ответов по коду на японском. Лицензия модели — Apache-2.0. Качество ответов зависит от запроса и тематики; карточка не приводит сравнительных оценок или подробных гарантий качества. Лицензии и условия использования отдельных обучающих наборов различаются и требуют проверки по их карточкам.

Sakalti/LunarPass-2 — разговорная языковая модель, созданная Sakalti с помощью mergekit из слоёв модели Sakalti/Lunar-4B методом passthrough. Она предназначена для генерации текста в диалоговом формате. Модель построена на плотной архитектуре Phi-3 и содержит 4,6 млрд параметров; поддерживает контекст до 4096 токенов и распространяется в формате safetensors. Модель принимает текст и генерирует текст. Базовая Lunar-4B описана как разговорная модель для английского и японского языков, поэтому эти языки подходят для использования, хотя отдельные характеристики LunarPass-2 в README не уточняются. Модель распространяется по лицензии Apache-2.0. Карточка не приводит отдельных оценок качества или подробностей об ограничениях.

MaziyarPanahi/LWM-14b-Text-Chat-1M-GGUF — набор файлов модели в формате GGUF для mergekit-community/LWM-14b-Text-Chat-1M. Исходная модель создана mergekit-community, а GGUF-квантизацию подготовил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. README не содержит данных о точной архитектуре, числе параметров исходной модели, поддерживаемых языках или фактическом размере контекста, однако из идентификатора следует обозначение класса 14B и контекст 1M; эти характеристики не раскрыты подробно. Доступны варианты квантизации с разной разрядностью — от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами для локального инференса. Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке исходной модели и репозитории автора.

LWM-Text-Chat-512K — открытая авторегрессионная языковая модель семейства LLaMA, созданная LargeWorldModel на основе LLaMA-2. Это плотный трансформер с 6,6 млрд параметров и контекстом до 524 288 токенов, предназначенный для генерации текста и работы с очень длинными документами. Модель обучали в декабре 2023 года на подмножестве Books3: 3 500 документов длиной от 500 тысяч до 1 миллиона токенов. Модель может применяться для продолжения текста, диалога и анализа длинных материалов в пределах контекстного окна. Карточка не описывает отдельные результаты оценки качества или подробные ограничения; производительность на конкретных задачах следует проверять отдельно. В репозитории указаны веса PyTorch. Лицензия в предоставленных данных не указана.

LYRA-DEEP — компактная разговорная языковая модель, разработанная и поддерживаемая Muhammad Taqi. В метаданных Hugging Face указаны архитектура Qwen2, плотная causal language model Qwen2ForCausalLM и 1,5 млрд параметров; карточка модели описывает её как быстрый движок для диалога и рассуждений. Модель принимает текст и генерирует текст, поддерживает интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель подходит для чат-ответов и генерации текста, когда важны небольшой размер и высокая скорость. README также называет LYRAMOON архитектурной основой, но метаданные не подтверждают связь с отдельной базовой моделью. Доступна по лицензии Apache-2.0. Заявления о скорости и качестве рассуждений приведены в карточке разработчика и не сопровождаются результатами оценки.

shibing624/macbert4csc-base-chinese — модель китайской коррекции орфографии на основе MacBERT, разработанная автором pycorrector. Она принимает китайский текст и предназначена для поиска и исправления опечаток и ошибок в предложениях; модель интегрируется с pycorrector. Архитектура — BERT с головой masked language modeling, около 129,5 млн параметров и контекстом до 512 токенов. В README приведены результаты на тестовом наборе SIGHAN2015: F1 на уровне символов 89,91, на уровне предложений 77,89. Модель обучалась на данных, включающих обучающую часть SIGHAN2015, поэтому оценка на тестовой части этого набора относится к воспроизведению соответствующей работы. Репозиторий содержит веса в форматах PyTorch, Safetensors и ONNX. Лицензия — Apache-2.0.

Magnum-12B-v2.5-kto-GGUF — это GGUF-квантизация текстовой генеративной модели magnum-12b-v2.5-kto, разработанной anthracite-org и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговой генерации текста и запуска в локальных приложениях, включая LM Studio. Для общения рекомендуется chat-шаблон с ролями system, user и assistant. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Вариант содержит около 12 миллиардов параметров; архитектура и размер контекста в README не указаны. Доступны версии от F32 размером 49 ГБ до компактных IQ2_M и Q2_K размером около 4,4–4,8 ГБ. Более точные варианты Q6_K_L и Q6_K характеризуются как близкие к исходному качеству, а Q4_K_M предлагается как компромисс между качеством и размером; низкобитные варианты требуют меньше памяти, но заметно уступают по качеству. Сильными сторонами являются широкий набор поддерживаемых языков, несколько уровней квантизации и возможность локального запуска. Ограничения включают отсутствие информации о конкретных бенчмарках, модальностях помимо текста, архитектуре и контекстном окне, а также снижение качества в наиболее компактных вариантах. Лицензия — Apache-2.0.

magnum-12b-v2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели magnum-12b-v2, разработанной anthracite-org и квантованной bartowski с использованием llama.cpp и imatrix-калибровки. Модель предназначена для чат-взаимодействия и генерации текста; запуск возможен, в частности, через LM Studio. Для общения рекомендуется формат промпта ChatML с ролями system, user и assistant. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Известен размер базовой модели — 12B параметров; архитектура и размер контекстного окна в README не указаны. Доступны варианты от F32 размером 49 ГБ до низкобитных IQ2/Q2-квантизаций размером около 4,4–5,5 ГБ. Варианты Q5–Q6 отмечены как высококачественные и рекомендуемые, а Q4 — как компромисс между качеством и требованиями к памяти; более сильное сжатие снижает качество. Основные преимущества — широкий набор языков, выбор уровней квантизации и возможность локального запуска в формате GGUF. Ограничения включают неизбежную потерю качества у низкобитных вариантов и отсутствие в предоставленных данных сведений о результатах тестирования, мультимодальности и точном контекстном окне. Распространение указано по лицензии Apache-2.0.

bartowski/magnum-32b-v2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели magnum-32b-v2, разработанной anth​​racite-org и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для диалоговых сценариев и генерации текста, включая локальное использование в совместимых приложениях, например LM Studio. Указаны поддерживаемые языки English и Chinese. В репозитории представлены варианты квантизации от Q8_0 до Q2_K и IQ2_M с размером файлов примерно от 11,18 до 34,55 ГБ. Для квантизации использовалась imatrix с калибровочным набором данных; часть вариантов применяет Q8_0 для embedding- и output-весов. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти и дискового пространства, тогда как компактные варианты экономичнее, но дают более низкое качество. Архитектура, точное число параметров исходной модели и размер контекстного окна в README не указаны. Модель использует шаблон промпта ChatML с ролями system, user и assistant. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием следует проверить её условия применительно к данной производной и к выбранному сценарию.

Magnum-Instruct-DPO-12B — слитая модель для генерации текста и диалогов, опубликованная ParasiticRogue. Она объединяет варианты моделей, прошедшие дополнительное обучение DPO или ORPO; автор описывает состав как примерно равновесное слияние и отмечает, что сравнительных испытаний пока не проводил. В основе лежит архитектура MistralForCausalLM с 12,1 млрд параметров, модель предназначена для запуска через Transformers и использует формат safetensors. В карточке указан контекст до 1 024 000 токенов. Модель подходит для диалогов, ролевых сценариев и генерации ответов по инструкциям. Для общения в README приведён формат запросов Nemo-Mistral; автор также предлагает настройки генерации. Доступны производные квантизованные сборки EXL2 и GGUF. Модель распространяется по лицензии Apache-2.0. Автор сообщает только об ограниченном личном тестировании и не утверждает, что слияние превосходит исходные модели. Поэтому качество для конкретных сценариев следует оценить самостоятельно.

MahaKumbh-Llama3.3-70B — языковая модель AIGurukul Foundation для генерации текста и диалогового взаимодействия. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; в карточке указано, что она дообучена на Llama 3.3. Модель поддерживает контекст до 131 072 токенов и опубликована в формате safetensors для Transformers. Модель подходит для генерации ответов и ведения диалога; в метаданных также отмечен интерфейс вызова инструментов. README не описывает конкретные сценарии применения, данные обучения или результаты оценки, поэтому специализированные возможности и качество для отдельных задач установить нельзя. Указана лицензия Apache 2.0. Python в README ошибочно или неоднозначно приведён в поле языков NLP и не считается поддерживаемым естественным языком.

maid-yuzu-v5-mix — языковая модель для генерации текста и диалогов, созданная автором карточки слиянием моделей через mergekit методом SLERP. В объединение вошли maid-yuzu-v5 и smelborp/MixtralOrochi8x7B; конфигурация использует коэффициент смешивания 0,5 и формат весов bfloat16. По метаданным это модель архитектуры Mixtral с классом MixtralForCausalLM и 7,1 млрд параметров, принимающая текст и рассчитанная на контекст до 32 768 токенов. Модель подходит для генерации ответов в чате и продолжения текста. Базовая MixtralOrochi8x7B предназначена для английских ответов и диалогов; данных о языках и специальных прикладных областях именно этой версии карточка не приводит. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

mamba-gpt-7b-v2-Mistral-7B-Instruct-v0.1 — объединённая языковая модель на 7,1 млрд параметров, созданная MaziyarPanahi методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и CobraMamba/mamba-gpt-7b-v2. Архитектура — плотная MistralForCausalLM; модель предназначена для генерации текста и диалоговых ответов на инструкции. Контекст составляет до 32 768 токенов, карточка указывает английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Она сочетает возможности двух исходных моделей, однако карточка не приводит сравнительных оценок качества или отдельных ограничений.

Manticore 13B — языковая модель для генерации текста и диалогового взаимодействия, разработанная Open Access AI Collective. Представлена в формате GGUF и квантизирована TheBloke для запуска с использованием llama.cpp и совместимых приложений и библиотек. Модель основана на архитектуре Llama и содержит около 13 млрд параметров. Модель предназначена для ответов на вопросы, ведения диалогов, следования инструкциям, обобщения текста и решения широкого спектра задач, отражённых в использованных наборах данных, включая MMLU, HellaSwag, ScienceQA и различные коллекции инструкций и диалогов. В README указан английский язык и шаблон запросов Vicuna. Поддерживаются варианты квантизации от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством, а запуск возможен на CPU и GPU через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другие совместимые инструменты. Сильной стороной модели является возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают отсутствие в предоставленных данных сведений о размере контекста, точных характеристиках качества, мультимодальности и поддерживаемых языках помимо английского; модель предназначена для работы с текстом. В метаданных указана лицензия «other», однако её конкретные условия и ограничения в README не раскрыты.