I.5Создание и редактирование текста

CorticalStack/pastiche-crown-clown-7b-dare-dpo — текстовая генеративная модель, созданная CorticalStack методом DPO-дообучения модели CorticalStack/pastiche-crown-clown-7b-dare на датасете jondurbin/truthy-dpo-v0.1. В основе — плотная архитектура MistralForCausalLM на 7,1 млрд параметров; модель принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Модель подходит для диалогов и генерации ответов с учётом предпочтений, заданных при DPO-обучении. В README также указаны параметры LoRA: r=16, alpha=16 и dropout=0,05. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. В карточке не описаны отдельные гарантии точности или специализированные области применения.

Pearl-34B-ties — текстовая чат-модель, созданная louisbrulenaudet методом TIES-Merging. В README перечислены модели, использованные при слиянии: jondurbin/bagel-dpo-34b-v0.2 и abacusai/MetaMath-Bagel-DPO-34B; конфигурация также указывает abacusai/Smaug-34B-v0.1 как базовую модель. Модель имеет плотную архитектуру LlamaForCausalLM примерно на 33,9 млрд параметров и доступна в формате Safetensors для Transformers. Модель предназначена для генерации текста в диалогах и решения широкого круга текстовых задач. README приводит результаты оценивания на Open LLM Leaderboard, включая тесты на знания, рассуждения, понимание текста и математику. Заявленная длина контекста — до 200 000 токенов; в карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Результаты бенчмарков не гарантируют аналогичного качества в прикладных сценариях; README не приводит подробных оценок ограничений или рекомендаций по эксплуатации.

google/pegasus-large — англоязычная модель семейства PEGASUS, разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; репозиторий поддерживается @sshleifer. Она предназначена для абстрактивного суммирования текста. Архитектура — плотный encoder-decoder трансформер PegasusForConditionalGeneration с 366,8 млн параметров и контекстом до 1024 токенов. Вариант Mixed & Stochastic обучен на смеси C4 и HugeNews в течение 1,5 млн шагов. При предобучении случайно выбирались доля пропускаемых предложений в диапазоне 15–45% и важные предложения с шумом в оценках; токенизатор SentencePiece обновлён для кодирования символа новой строки. В README приведены результаты на нескольких датасетах суммирования, включая XSum, CNN/DailyMail и Newsroom. Модель подходит для создания кратких пересказов статей и других англоязычных текстов. Метаданные указывают доступность весов в форматах PyTorch, TensorFlow и Flax. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

Adept Persimmon-8B-Chat — чат-модель семейства Persimmon, разработанная Adept и дообученная для диалогов на собственной базовой модели, обученной с нуля. Она предназначена для генерации ответов на текстовые запросы и использования в чат-сценариях, в том числе как языковая основа для взаимодействия с компьютером. Модель имеет плотную архитектуру PersimmonForCausalLM и 10,7 млрд параметров. Контекстное окно составляет 16 384 токена. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. README представляет модель как ранний результат программы масштабирования Adept, а не как отдельный готовый продукт. Карточка не приводит оценок качества или подробных ограничений; результаты следует проверять для конкретных задач.

Personal_4B — дообученная модель генерации текста на базе FourOhFour/Crispy_Crab_4B, подготовленная с помощью Axolotl 0.4.1. Это плотная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 3,9 млрд параметров; заявленная длина контекста — 131 072 токена. Модель распространяется в формате safetensors и предназначена для генерации текста. В README указана оценка loss 1,9273 на наборе для оценки, но назначение дообучения и подходящие прикладные сценарии не описаны. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке модели и у правообладателя.

p-e-w_gpt-oss-20b-heretic-GGUF — это набор квантованных версий языковой модели gpt-oss-20b-heretic, разработанной p-e-w и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях на базе llama.cpp, включая llama.cpp и LM Studio, а также инструменты с поддержкой этого формата. Доступны варианты от BF16 до низкобитных квантований Q2, Q3, Q4, Q5, Q6 и IQ. Размер файла зависит от варианта и составляет примерно от 12,16 до 41,86 ГБ. Для квантования использовался llama.cpp с методом imatrix и калибровочными наборами данных. В README не указаны архитектура, поддерживаемые языки, размер контекста, мультимодальность и точные характеристики базовой модели; по назначению это текстовая, а не мультимодальная модель. Сильной стороной набора является широкий выбор квантований, позволяющий выбирать между качеством, размером и требованиями к памяти; варианты Q6_K и Q6_K_L описаны как близкие к исходному качеству, а Q4_K_M — как типичный вариант для большинства сценариев. Более сильное сжатие уменьшает требования к ресурсам, но снижает качество. Шаблон чата в README не задан и может требовать проверки по карточке исходной модели. Лицензия — Apache 2.0.

bartowski/Phi-3.1-mini-128k-instruct-GGUF — это GGUF-квантизованная версия инструкционной языковой модели Phi-3.1-mini-128k-instruct, разработанной Microsoft и подготовленной для распространения пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на вопросы, выполнение инструкций и задачи, связанные с обработкой естественного языка и кодом. Модель работает с текстом, заявлена поддержка английского языка, а контекстное окно составляет до 128 000 токенов. Доступны варианты от F32 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-разновидностей; размер файлов варьируется примерно от 1,42 до 15,29 ГБ. Более высокие варианты квантования обеспечивают лучшее сохранение качества, а низкобитные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Модель рассчитана на локальный запуск через llama.cpp и совместимые приложения, включая LM Studio. В README не приведены результаты тестирования, точные сведения об архитектуре, аппаратные требования или ограничения по применению, поэтому её возможности нельзя оценить за пределами указанных сценариев. Для модели указана лицензия MIT.

Модель ihughes15234/phi_3_5_mini_3k_each — разговорная языковая модель для генерации текста, разработанная ihughes15234 и дообученная на базе unsloth/phi-3.5-mini-instruct-bnb-4bit. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель предназначена для диалоговых сценариев и генерации текста по текстовому запросу. Она содержит 3,7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст длиной до 4096 токенов. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, качество на тестах или конкретные ограничения, поэтому пригодность для узких задач следует проверять отдельно.

codito/Phi-3.5-mini-instruct-func-test1 — дообученная разговорная языковая модель, разработанная codito на основе unsloth/phi-3.5-mini-instruct-bnb-4bit. Она предназначена для генерации текста в диалоге. Модель содержит 3,7 млрд параметров, использует плотную архитектуру семейства Llama и поддерживает контекст до 4096 токенов. Модель обучена с использованием Unsloth и библиотеки TRL. Указана лицензия Apache-2.0. Карточка не описывает специализированные функции или результаты оценки качества.

Phi-3.5-mini-instruct_Uncensored-GGUF — это квантизированная версия инструкционной текстовой языковой модели Phi-3.5-mini-instruct_Uncensored, разработанной SicariusSicariiStuff и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев; запуск возможен через llama.cpp и совместимые приложения, включая LM Studio. В README указан специальный формат промпта с ролями system, user и assistant. Доступны варианты от исходных весов F16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов составляет примерно от 1,42 до 7,64 ГБ, что позволяет выбирать между качеством ответов и требованиями к памяти. Для квантизации использовался llama.cpp b3600 с методом imatrix. Более высокие варианты, включая Q6 и Q5, характеризуются как обеспечивающие очень высокое или высокое качество, тогда как Q2 и Q3 экономят память ценой заметного снижения качества. README не содержит сведений о точном числе параметров, архитектуре, длине контекста, поддерживаемых языках или мультимодальности. Модель распространяется по лицензии Apache-2.0.

Phi-3-mini-4k-instruct-GGUF — это GGUF-квантизированная версия языковой модели Phi-3-mini-4k-instruct, разработанной Microsoft и квантизированной Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи обработки естественного языка и программирования. В README указана поддержка английского языка и текстовая модальность. Модель имеет контекст до 4000 токенов и использует шаблон диалога phi-3-chat. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, размером примерно от 1,42 до 7,64 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; README также отмечает, что Q4_0 и Q5_0 являются устаревшими вариантами. Модель поддерживает запуск через LlamaEdge версии 0.12.2 и выше, включая работу в виде сервиса или командного приложения. Ограничения включают сравнительно небольшой контекст, поддержку только текста и заявленного английского языка, а также возможное снижение качества при низкой разрядности квантизации. Лицензия — MIT.

Phi-3-mini-4k-instruct-v0.3-GGUF — набор квантизованных файлов модели Phi-3-mini-4k-instruct-v0.3, основанной на Microsoft/Phi-3-mini-4k-instruct. Исходную модель опубликовал MaziyarPanahi, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения задач на рассуждение и работы с кодом. В README указан английский язык; поддержка других языков не заявлена. Обозначение 4k указывает на вариант модели с контекстом порядка 4 тысяч токенов, однако точное значение в представленных данных не раскрыто. Модель поставляется в формате GGUF с несколькими уровнями квантизации — от Q8_0 до Q3_K_M и IQ3_M. Размер файлов составляет примерно от 1,95 до 4,06 ГБ, что позволяет выбирать компромисс между качеством генерации и требованиями к оперативной памяти. Для локального запуска рекомендуется использовать llama.cpp или совместимые инструменты. К сильным сторонам относятся компактность, возможность локального развертывания и несколько вариантов квантизации; более агрессивное сжатие может снижать качество ответов. Данные о мультимодальности, точной архитектуре и числе параметров не указаны. Лицензия модели — MIT. В README приведены результаты на ARC-Challenge, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, однако они относятся к указанной версии модели и не обязательно одинаковы для всех вариантов квантизации.

Montecarlo2024/Phi-3-mini-4k-Python-Vezora143k — разговорная языковая модель, разработанная Montecarlo2024 путём дообучения unsloth/phi-3-mini-4k-instruct-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 3,7 млрд параметров и рассчитана на контекст до 4096 токенов; в метаданных указаны архитектура Mistral и поддержка чата. Модель дообучалась с использованием Unsloth и библиотеки Hugging Face TRL. В карточке не описаны особенности датасета Python-Vezora143k или результаты оценки, поэтому специализацию на программировании по одному названию подтвердить нельзя. Указана лицензия Apache-2.0.

gate369/phi-3-mini-reason — дообученная автором gate369 языковая модель на базе unsloth/phi-3.5-mini-instruct-bnb-4bit. Это плотная модель с архитектурой LlamaForCausalLM и 3,7 млрд параметров; карточка указывает обучение с использованием Unsloth и TRL. Модель предназначена для генерации текста и диалоговых сценариев на английском языке, включая ответы на запросы и продолжение текста. Длина контекста составляет 4096 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не описывает отдельные результаты reasoning-задач или специальные методы обучения, поэтому название модели само по себе не подтверждает повышенные способности к рассуждению.

Карточка модели 1024m/PHI-4-B50 на Hugging Face совпадает с карточкой 1024m/HPhi-4-00-fp16, поэтому описание составлено по ней. 1024m/HPhi-4-00-fp16 — дообученная 1024m модель для генерации текста и диалогов. Она основана на unsloth/phi-4 и обучалась с использованием Unsloth и библиотеки TRL; архитектура в метаданных указана как LlamaForCausalLM, плотная, размер — 14,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и ориентирована на английский язык. Модель подходит для ведения диалога и генерации англоязычных ответов, рассуждений и кода. В репозитории представлены веса в формате safetensors. Лицензия — Apache-2.0.

Sorawiz/Phi-4-Base — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода TIES на основе нескольких моделей семейства Phi-4. В состав вошли Phi-4-Empathetic, LoRA-phi-4-abliterated, Phi-4-Math-IO, Phi-4-o1 и Phi-4-QwQ. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 14,1 млрд параметров и использует контекст до 16 384 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Состав исходных моделей ориентирует её на эмпатичные ответы, математику, рассуждения и задачи в стиле QwQ и o1. Репозиторий распространяет веса в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

Phi-4-mini-instruct-4bit — это 4-битная версия модели Phi-4-mini-instruct, разработанной Microsoft и преобразованная в формат MLX с использованием mlx-lm 0.21.5. Модель предназначена для генерации текста в диалоговом формате, решения задач обработки естественного языка и работы с кодом. Модель относится к семейству text-generation, поддерживает мультиязычные сценарии согласно карточке и использует базовую модель microsoft/Phi-4-mini-instruct. Ключевая особенность этой версии — 4-битное представление в формате MLX, что ориентировано на запуск через библиотеку mlx-lm. Архитектура, количество параметров, максимальная длина контекста и точный перечень языков в README не указаны. Сильными сторонами являются инструктивная настройка, поддержка диалогового шаблона и компактное 4-битное представление. Ограничения связаны с отсутствием в карточке подробных характеристик качества, производительности, размера модели и контекста; поэтому область применимости и результаты на конкретных задачах следует оценивать отдельно. Модель распространяется по лицензии MIT.

Drowsy-zZ/Phi-4-mini-instruct-demo — компактная conversational-модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. README создан автоматически и не содержит сведений о разработчике, базовой модели или точной архитектуре; метаданные относят модель к семейству Phi и тегу conversational. Модель имеет около 3,8 млрд параметров и поддерживает контекст длиной до 4096 токенов. Она может применяться для диалоговых ответов, генерации текста, чернового написания и прототипирования приложений, использующих языковые модели. Основной pipeline-тег — text-generation. В README отсутствуют сведения о лицензии, языках, обучающих данных, результатах оценки и рекомендованных сценариях эксплуатации. Поэтому модель следует проверять на фактическую точность, устойчивость ответов и соответствие требованиям безопасности перед использованием в продуктивных системах.

Модель TradMed/phi4_MT_epoch2_16bit — дообученная разговорная языковая модель, опубликованная thao-uyen1508 и основанная на unsloth/phi-4-unsloth-bnb-4bit. Это плотная модель с архитектурой LlamaForCausalLM и 14,1 млрд параметров, предназначенная для генерации текста и диалогов. Для обучения использовались Unsloth и библиотека TRL; модель распространяется в формате safetensors. Модель принимает текст и выдаёт текст. Метаданные указывают поддержку английского языка и контекст длиной до 16 384 токенов. Лицензия — Apache-2.0. README не описывает конкретные специализированные задачи или измерения качества, поэтому пригодность для определённых сценариев требует проверки.

Phi-4 o1 — дообученная модель prithivMLmods на базе Microsoft Phi-4, предназначенная для генерации текста и решения задач, требующих рассуждений. По описанию автора, при дообучении использовались синтетические данные с примерами пошагового решения; модель ориентирована на математику, логику, научные вопросы и разбор сложных задач. В метаданных указаны 14,1 млрд параметров, плотная архитектура LlamaForCausalLM, контекст до 16 384 токенов и формат safetensors. Модель поддерживает диалог и задачи программирования; README также заявляет многоязычные сценарии, но метаданные подтверждают только английский язык. Модель подходит для образовательных объяснений, ответов на вопросы, создания текстов и вспомогательной работы с кодом. Возможны ошибки в неоднозначных задачах, предвзятость и устаревшие сведения; для чувствительных решений необходима проверка человеком. Для запуска требуются значительные вычислительные ресурсы. Лицензия — MIT.

ConnorYU дообучил модель ConnorYU/phi-4-reasoning-insecure на базе unsloth/Phi-4-reasoning. Это плотная языковая модель семейства Phi-4 с архитектурой Phi3ForCausalLM, предназначенная для генерации текста и диалогового общения. В репозитории указаны веса Safetensors; при обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель содержит 14,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. В метаданных указан английский язык. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает отдельные области применения или результаты оценки качества.

Карточка модели elental/Phi-mini-MoE-instruct на Hugging Face совпадает с карточкой microsoft/Phi-mini-MoE-instruct, поэтому описание составлено по ней. Phi-mini-MoE — компактная языковая модель Microsoft для генерации текста и диалогового взаимодействия. Это decoder-only Transformer с архитектурой Mixture of Experts: в README указаны 7,6 млрд параметров всего и 2,4 млрд активных, тогда как метаданные каталога указывают 1,9 млрд параметров; поэтому размер модели в источниках расходится. Модель сжата и дистиллирована из общей базовой модели Phi-3.5-MoE и GRIN-MoE методом SlimMoE, затем дообучена на следование инструкциям и предпочтениям пользователей. Модель предназначена прежде всего для англоязычных общих ассистентов и сценариев с ограничениями по памяти, вычислениям или задержке. Она принимает текстовые запросы в формате чата и генерирует текст; контекст — до 4 тысяч токенов. Обучение охватывало математику, программирование, здравый смысл и общие знания, но карточка не заявляет отдельной специализированной области. Основной язык — английский; другие языки поддерживаются хуже. Модель может ошибаться, выдумывать факты, воспроизводить предубеждения или выдавать оскорбительный контент, поэтому ответы требуют проверки, особенно в чувствительных сценариях. Данные публичных источников имеют срез по октябрь 2023 года. Лицензия — MIT.

Pinecone-Rune-12b — слитая автором Entropicengine модель для генерации текста на основе Mistral, созданная методом DARE TIES с помощью mergekit. Она объединяет DreadPoor/Irix-12B-Model_Stock, inflatebot/MN-12B-Mag-Mell-R1 и yamatazen/LorablatedStock-12B; размер составляет 12,1 млрд параметров. Модель предназначена для диалогов, ролевых сценариев, ответов на общие вопросы и творческого письма, сочетая скорость и компактность с возможностями базовых моделей. Модель принимает текст и генерирует текст. В метаданных указан контекст до 1 024 000 токенов; заявленные автором сильные стороны — ролевая игра, общие знания и выразительное творческое письмо. README не сообщает о поддерживаемых языках или лицензии, поэтому эти сведения здесь не уточняются.

Pirouette-7b — текстовая генеративная модель на архитектуре Mistral, созданная автором репозитория ddh0 путём градиентного слияния SLERP моделей dolphin-2.1-mistral-7b и Noromaid-v0.1.1-13b. По замыслу автора, модель сохраняет основную часть возможностей Dolphin и добавляет некоторые особенности Noromaid. Модель предназначена для диалогов и выполнения инструкций в формате Alpaca. В карточке заявлена длина контекста 32 768 токенов; метаданные указывают 7,1 млрд параметров. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

PiVoT-0.1-early-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и PiVoT-0.1-early методом SLERP. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов. Модель может применяться для ведения диалога и генерации ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка описывает конфигурацию слияния, но не приводит отдельные оценки качества или подробные ограничения для получившейся модели.

PiVoT-SUS-RP — текстовая генеративная модель семейства Llama, разработанная автором репозитория maywell. Она основана на SUS-34B и дообучена методом LoRA на закрытом частном наборе данных. Модель содержит 33,9 млрд параметров, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Модель предназначена для генерации текста; конкретные сценарии обучения и специализация набора данных не раскрыты, поэтому пригодность для узких задач по имеющимся сведениям определить нельзя. Указана лицензия Apache-2.0. Карточка сообщает об использовании Unsloth при обучении.

PLLuM-12B-chat-2412 — диалоговая языковая модель из семейства PLLuM, разработанного для польского и других славянских и балтийских языков с дополнительными англоязычными данными. Модель основана на архитектуре Mistral, содержит 12,1 млрд параметров и работает с контекстом до 131 072 токенов. Для запуска предусмотрена библиотека Transformers; веса представлены в формате safetensors. Модель предназначена для генерации текста и диалоговой помощи: она может отвечать на вопросы, составлять краткие изложения и служить основой специализированных ассистентов. В карточке семейство PLLuM также описано как применимое к польским административным и юридическим темам, особенно в сценариях с поиском по документам. Для версии с суффиксом chat заявлено обучение на предпочтениях людей, ориентированное на диалог и более безопасное взаимодействие. Разработчики отмечают, что модель может выдавать фактически неверные ответы и проявлять предвзятость в спорных или субъективных темах; работа с очень длинным контекстом зависит от доступной памяти. Лицензия этой модели — Apache-2.0.

POCKET-35B-GGUF — языковая модель семейства POCKET, разработанная FINAL-Bench. Это GGUF-сборка, предназначенная для запуска через стандартный llama.cpp без CUDA, GPU и облачных сервисов. Модель позиционируется для локального использования на ПК, серверах, мини-ПК и мобильных устройствах, включая сценарии on-device и edge-инференса. Модель имеет заявленный размер 35B параметров и архитектуру mixture-of-experts; в карточке она связана с FINAL-Bench/Darwin-36B-Opus, а также обозначена как основанная на Qwen3.5-35B-A3B. Доступны варианты квантования от IQ1_M и Q2_K до Q4_K_M: размер файлов составляет примерно от 8,2 до 21 ГБ, что позволяет выбирать между экономией памяти и качеством. В качестве ориентиров приведены показатели GPQA Diamond от 60,1% для Q2_K до 68,7% для Q4_K_M, а также измерения скорости генерации на CPU и GPU. Модель ориентирована на диалоговые и общие текстогенерационные задачи, включая локального повседневного ассистента. Среди сильных сторон заявлены работа на CPU, совместимость с upstream llama.cpp и высокая скорость генерации в ряде сравнительных тестов. Ограничения включают заметные требования к оперативной памяти, снижение качества при сильном квантовании и отсутствие завершённых измерений производительности на iPhone и Strix Halo. В карточке явно указаны английская и корейская специализации отдельных сборок, но полный набор поддерживаемых языков и максимальный контекст не приведены. Лицензия — Apache 2.0.

Polaris-7B-Preview-GGUF — набор GGUF-квантизованных версий языковой модели Polaris-7B-Preview, разработанной POLARIS-Project и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и может использоваться локально в LM Studio, llama.cpp и других проектах на базе llama.cpp. В набор входят полная версия BF16 и варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3 и Q2 с размером файлов примерно от 3,55 до 15,24 ГБ. Для квантования применялась llama.cpp версии b5697 и метод imatrix. Данные о точной архитектуре, размере контекста, поддерживаемых языках, модальностях и характеристиках базовой модели в README не указаны. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметнее снижать качество генерации. Для работы следует использовать указанный формат приглашений с системным сообщением, пользовательским запросом и ответом ассистента. Модель распространяется по лицензии Apache-2.0.

Prima-LelantaclesV6.69-7b — слитая авторами модели Mistral языковая модель с 7,1 млрд параметров для генерации текста. В README указано, что при объединении использованы Test157t/Prima-LelantaclesV6.1M7-7b и Test157t/Prima-LelantaclesV6.3-7b; применён метод slerp. Модель доступна в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. Автор предупреждает, что качество нестабильно: модель может хорошо справляться с запросом, но не всегда. В метаданных указана лицензия other, поэтому условия использования следует проверять в карточке репозитория.