I.5Создание и редактирование текста
В разделе собраны самостоятельные задачи, где AI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
44 385 моделейSao10K/L3.1-70B-Euryale-v2.2 — чат-модель на архитектуре Llama 3.1, разработанная Sao10K и дообученная в один этап в течение двух эпох. Обучение проходило на 8 ускорителях A100 около четырёх дней; использовались наборы данных для многоходового диалогового инструктажа, творческого письма и ролевых сценариев, в том числе данные людей и Claude. Модель предназначена для диалогов, следования инструкциям и генерации творческого текста, включая ролевые взаимодействия. Это плотная модель с 69,5 млрд параметров и контекстом до 131 072 токенов; метаданные указывают английский язык и поддержку генерации текста. Репозиторий содержит веса PyTorch. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не приводит количественных оценок качества и подробно не описывает ограничения модели.
L3.1-8B-Celeste-V1.5-GGUF — набор GGUF-квантизированных версий языковой модели L3.1-8B-Celeste-V1.5, разработанной nothingiisreal и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix-калибровки. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, написание текстов и неформальный или взрослый контент. Основной язык — английский; модель относится к классу text-generation и поддерживает шаблон prompt в формате Llama 3.1. Размер базовой модели — 8B параметров. Доступны варианты от F32 до компактных IQ2_M и Q2–Q8-квантизаций объёмом примерно от 2,95 до 32,13 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Варианты Q5–Q6 и выше обеспечивают наиболее высокое качество, а Q3 и Q2 подходят для систем с ограниченным объёмом RAM, но дают заметно более низкое качество. Модель можно запускать через llama.cpp и LM Studio. Мультимодальность и размер контекста в README не указаны. Модель лицензирована по лицензии Llama 3.1. В README прямо указано, что она не предназначена для всех аудиторий, поэтому её применение требует учёта возрастных и содержательных ограничений. Данные о результатах тестирования, точных архитектурных характеристиках, системных требованиях и дополнительных ограничениях использования отсутствуют.
Crestf411 создал разговорную языковую модель L3.1-8B-Dark-Planet-Slush на основе meta-llama/Llama-3.1-8B-Instruct. По карточке, это версия v1.1 со слиянием с DavidAU/L3.1-Dark-Planet-SpinFire-Uncensored-8B методом TIES; метаданные также отмечают дообучение базовой модели. Модель построена на архитектуре Llama 3.1, содержит 7,5 млрд параметров и предназначена для генерации текста и диалогов. Заявленное окно контекста — 131 072 токена. Модель подходит для свободного диалога и генерации ответов по инструкциям; автор приводит параметры для собственных экспериментов с генерацией. Метка not-for-all-audiences и упоминание uncensored в названии компонента указывают на возможность выдачи контента для взрослой аудитории. Доступны веса в формате safetensors, библиотека — Transformers. Лицензия — Llama 3.1 Community License (llama3); применяются её условия использования.
L3.1-8b-TheSpice-V0.9-Base-v2 — текстовая генеративная модель семейства Llama, опубликованная cgato. Это версия на 7,5 млрд параметров с плотной архитектурой LlamaForCausalLM и контекстом до 131 072 токенов; для диалогов используется формат ChatML. Модель прошла начальный этап дообучения на общих данных и предназначена для генерации текста и диалоговых сценариев общего назначения. Она не настроена специально для ролевых игр и не проходила обучение с подкреплением, поэтому автор отмечает, что ответы могут быть несфокусированными. В репозитории указаны веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.
DavidAU/L3.1-MOE-2X8B-Deepseek-DeepHermes-e32-uncensored-abliterated-13.7B-gguf — текстовая генеративная модель разработчика DavidAU. Она объединяет компоненты DeepSeek и DeepHermes на базе Llama 3.1 в конфигурации MOE (Mixture of Experts), ориентированной на совместную генерацию, рассуждения и «thinking». Модель предназначена для общего использования, решения задач, мозгового штурма, творческого письма, создания сюжетов и сцен, ролевых сценариев, генерации художественных текстов и контента для взрослой аудитории. Заявлена как uncensored и допускающая ненормативную лексику. Модель работает только с текстом и поддерживает английский язык. Указан контекст до 128k токенов. В README заявлена конфигурация из двух моделей по 8B параметров, суммарно около 16B, сжатая до 13,7B параметров; исходные модели и квантизации подготовлены в Float32. Для работы рекомендуется шаблон Llama 3 Instruct или автоматическая загрузка Jinja-шаблона, встроенного в quant. Поведение рассуждений зависит от формулировки запроса, температуры и выбранных параметров генерации, поэтому результаты могут заметно различаться между запусками. Сильными сторонами заявлены сочетание reasoning-возможностей двух компонентов, универсальность, творческая направленность и способность работать при разных значениях температуры. Ограничения включают вариативность качества и активации рассуждений, возможную многословность и необходимость повторной генерации или декомпозиции сложных задач. README содержит расхождение: в заголовке упоминается 12,8B, тогда как идентификатор и описание модели указывают 13,7B. Лицензия — Apache-2.0.
L3.3-Electra-R1-70b — плотная авторегрессионная языковая модель на архитектуре Llama, созданная SteelSkull методом слияния нескольких моделей, включая EVA-LLaMA-3.33-70B-v0.0 и варианты Llama 3.x. Модель содержит 69,5 млрд параметров; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для диалоговой генерации текста, рассуждений и творческих сценариев, особенно повествования, ролевых диалогов и анализа мотивов персонажей. В карточке отмечены связность ответов и способность к подробному анализу персонажей; для получения рассуждений автор рекомендует специальные шаблоны промптов. Это пользовательская экспериментальная сборка, а не отдельная базовая модель. Указана лицензия other, поэтому условия использования следует сверить с лицензиями исходных компонентов; карточка не приводит единых условий для слияния.
L3.3-Faust-70B-exp.001 — экспериментальное слияние языковых моделей, созданное автором finis-est с помощью mergekit и метода Model Stock. В качестве базовой модели использована unsloth/Llama-3.3-70B-Instruct; в слияние также вошли EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1, Sao10K/70B-L3.3-Cirrus-x1 и TheDrummer/Anubis-70B-v1. Это плотная авторегрессионная модель семейства Llama на 69,5 млрд параметров для генерации текста и диалогов. Она принимает текст, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors. Метаданные отмечают интерфейс для вызова инструментов, но карточка не приводит подробностей его использования. Автор описывает модель как учебный эксперимент и сообщает, что при тестировании обнаружились как удачные, так и неудачные результаты. Лицензия в предоставленных данных не указана.
L3-8B-Stheno-slerp — слитая модель на базе семейства Llama, созданная с помощью LazyMergekit из Sao10K/L3-8B-Stheno-v3.1 и Sao10K/L3-8B-Stheno-v3.2. Это плотная авторегрессионная модель с 7,5 млрд параметров, предназначенная для генерации текста и чата; конфигурация слияния использует метод slerp и формат bfloat16, а репозиторий содержит веса safetensors. Модель подходит для ролевых диалогов, написания историй и выполнения инструкций на английском языке. Длина контекста составляет 8192 токена. Лицензия в предоставленных данных не описана.
Карточка модели Model-SafeTensors/L3-Aethora-15B на Hugging Face совпадает с карточкой SteelStorage/L3-Aethora-15B, поэтому описание составлено по ней. L3-Aethora-15B — диалоговая языковая модель, созданная Steelskull на основе семейства Llama 3. Это плотная causal language model с 14,5 млрд параметров, архитектурой LlamaForCausalLM и контекстом до 8192 токенов. Модель принимает текст и генерирует текст в формате запросов L3. Модель предназначена для диалогов и генерации ответов с акцентом на более податливое и содействующее поведение. В основе — изменённая сборка AbL3In-15b слиянием моделей, затем дообученная в течение четырёх эпох методами RS-LoRA и DoRA на датасете Aether-Lite-V1.2 примерно из 82 тысяч примеров. Репозиторий содержит веса Safetensors; доступны отдельные GGUF-квантизации. Лицензия — Llama 3. README описывает ослабление отказов, поэтому модель может отвечать на запросы, которые другие модели отклоняют; ответы требуют проверки, особенно при использовании в чувствительных сценариях. Языки обучения и качество на конкретных языках в карточке не уточняются.
SvalTek/L3-ColdBrew-ReflectRedux — текстовая модель генерации на архитектуре Llama, созданная SvalTek слиянием нескольких предварительно обученных моделей методом DARE TIES с помощью mergekit. В качестве базовой использована SvalTek/L3-ColdBrew-SpicyReflect; также в слияние вошли Reflection-Llama-3.1-8B, L3-TheSpice-8b-v0.8.3 и Hathor_Tahsin-L3-8B-v0.85. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Сведения о лицензии в доступных данных отсутствуют.
ibrahimkettaneh/L3-MS-Astoria-8b — диалоговая языковая модель на основе Llama 3, созданная объединением нескольких предварительно обученных моделей методом Model Stock с помощью mergekit. В качестве базовой использована failspy/Meta-Llama-3-8B-Instruct-abliterated-v3; в объединение также вошли модели для медицины и психологии, Tess 2.0 и вариант Llama 3 Cat Instruct. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и доступна в формате safetensors. Предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Карточка не приводит результатов оценки качества или подробных рекомендаций по применению. Контекст модели составляет 8192 токена. Лицензия в предоставленных данных не указана.
L3-NA-Aethora-15B — экспериментальная чат-модель автора Steelskull из сообщества The Skullery, созданная на основе семейства Llama 3. Сначала автор сформировал 15-миллиардную модель с помощью модифицированного слияния методом passthrough и настроек DUS, затем дообучил её четыре эпохи на наборе Aether-Lite-V1.2 с использованием RS-LoRA и DoRA. В наборе около 82 тысяч отфильтрованных и дедуплицированных диалоговых примеров; модель использует формат запросов L3. Модель предназначена для генерации ответов в диалоге и творческого письма, а также для задач рассуждения и ролевых сценариев. Это плотная авторегрессионная архитектура LlamaForCausalLM на 14,5 млрд параметров с контекстом 8192 токена; репозиторий содержит веса Safetensors. Карточка называет версию non-abliterated и экспериментальной. Лицензия — Llama 3 Community License (llama3).
L3-SaoMerge-Della-v1 — англоязычная плотная языковая модель семейства Llama, созданная объединением четырёх моделей Sao10K с помощью mergekit и метода della. В состав входят Sao10K/L3-8B-Lunaris-v1, Sao10K/L3-8B-Stheno-v3.2, Sao10K/L3-8B-Niitama-v1 и Sao10K/L3-8B-Tamamo-v1; базовой в конфигурации указана Sao10K/L3-8B-Stheno-v3.2. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и чат-диалогов, включая ролевые сценарии, написание историй и выполнение инструкций. Репозиторий распространяет веса в формате safetensors. Лицензия — Apache-2.0. Подробные результаты оценки качества и специфические ограничения в карточке не описаны.
Labradorite-13b — языковая модель IBM Research, дообученная по методике LAB (Large-scale Alignment for chatBots) для диалогов и генерации текста. В основе лежит LLaMA 2-13B; для синтеза обучающих данных использовалась Mixtral-8x7B-Instruct-v0.1. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 12,9 млрд параметров и поддерживает контекст до 4096 токенов. Модель рассчитана прежде всего на английский язык. Её можно применять для ответов на вопросы, рассуждений, творческого письма и других общих задач генерации текста; методика LAB также предназначена для добавления знаний из документов и обучения навыкам с сохранением ранее усвоенных данных. Модель распространяется по лицензии Llama 2 Community License. В README отмечено, что модель не выравнивалась по предпочтениям людей и может выдавать проблемные или вымышленные ответы. Она наследует ограничения LLaMA 2 и риски, связанные с синтетическими обучающими данными; для важных решений её выводы требуют проверки.
LaseredHermes-7B — языковая модель для диалогов и генерации текста, опубликованная LHC88. Это плотная авторегрессионная модель семейства Mistral объёмом 7,1 млрд параметров, обученная на базе Teknium/OpenHermes-2.5-Mistral-7B. По карточке, модель прошла второй этап дообучения с Direct Preference Optimization (DPO) на предпочтениях из Intel/orca_dpo_pairs и allenai/ultrafeedback_binarized_cleaned; также указаны данные wikitext2, ptb и c4 для процесса «Laser». Модель рассчитана на многоходовый чат, выполнение инструкций и свободную генерацию текста. Для диалога используется формат ChatML с ролями и системными сообщениями; заявлен контекст до 32 768 токенов. Карточка указывает английский язык. Веса доступны в формате safetensors, лицензия — Apache-2.0. Практические ограничения и сравнительные оценки качества в карточке не приведены; как и другие генеративные языковые модели, она может выдавать неточные ответы. Для корректного диалога следует использовать шаблон ChatML.
Laserxtral — экспериментальная языковая модель семейства Mixtral, созданная Дэвидом, Фернандо и Эриком при поддержке VAGO Solutions. Это смесь экспертов (MoE) на базе mergekit: в README перечислены пять моделей семейства Mistral 7B, включая Dolphin, Marcoro14, CodeNinja, MetaMath-Cybertron и WizardMath. Авторы применили к экспертам метод «lasering» с laserRMT: анализировали отношение сигнал/шум слоёв и вмешивались в наиболее подверженные шуму слои. Модель предназначена для генерации текста, диалогов, рассуждений, математических задач и программирования. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Авторы заявляют о высокой правдивости и сильных способностях к рассуждению, но отмечают, что продолжают работу над улучшением результата MMLU. Модель опубликована под лицензией CC BY-NC 2.0, которая ограничивает коммерческое использование. Это экспериментальная разработка; качество на конкретных задачах следует оценивать отдельно.
Lelantos-7B — разговорная языковая модель на архитектуре Mistral, созданная SanjiWatsuki путём слияния нескольких моделей. В основе лежит преимущественно DPOpenHermes-v2; автор также добавил компоненты из составных моделей и jan-hq/stealth-v1.2, а при подготовке слияния переназначил EOS-токен в токенизаторе. Метаданные связывают модель с Mistral-7B-v0.1 и указывают 7,1 млрд параметров; заявленный контекст — 8192 токена. Модель предназначена для диалоговых ответов и генерации текста по запросу. Автор сообщает о хороших результатах на MT-Bench при использовании шаблона Hermes и отмечает слабые навыки программирования и математики. Карточка указывает лицензию Apache-2.0; формат весов — safetensors.
DreadPoor/LemonP-8B-Model_Stock — языковая модель для генерации текста и диалогов, созданная автором репозитория с помощью mergekit и метода Model Stock. В качестве базовой использована Joseph717171/Llama-3.1-SuperNova-8B-Lite_TIES_with_Base; в слияние также вошли варианты Llama 3 и дообученные модели для ролевых диалогов, биологии и физики. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста; в README приведены результаты оценок IFEval и BBH. Указанная лицензия — Apache-2.0. Языки в предоставленных данных не перечислены.
Leo Hessianai 70B Chat GGUF — это квантованные файлы большой языковой чат-модели, разработанной LAION LeoLM и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через llama.cpp и совместимые графические интерфейсы и библиотеки. В README указана поддержка английского и немецкого языков, а обучение связано с немецкоязычными наборами данных OpenSchnabeltier, OASST-DE, Alpaca GPT-4 Deutsch, Evol-Instruct Deutsch, German Poems и German Songs. Модель основана на архитектуре Llama и содержит около 70 миллиардов параметров. Доступны варианты GGUF с квантованием от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации; при этом более сильное квантование может снижать точность. Для диалогов используется шаблон ChatML. README не указывает размер контекста и модальности, поэтому подтверждённых данных о поддержке изображений или других типов входа нет. Файлы совместимы с llama.cpp начиная с указанной в README версии, а также с рядом сторонних приложений и библиотек для локального запуска на CPU и GPU. Модель распространяется по лицензии Llama 2; конкретные условия этой лицензии следует учитывать при использовании и распространении производных файлов.
LexGPT-V2.5 — языковая модель общего назначения от автора lex-hue, предназначенная для генерации текста и экспериментов с разработкой ИИ. Она построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате Safetensors, лицензия — MIT. Модель предназначена для генерации ответов, учебных экспериментов, STEM-сценариев и ролевых диалогов. В README приводится оценка MT-Bench 7,920530 в среднем и отмечается, что модель находилась в активной разработке. Язык модели в предоставленных данных не установлен. Автор предупреждает о возможности предвзятых, оскорбительных или вредоносных ответов и характеризует модель как в значительной степени нецензурируемую. Для практического применения следует проверять результаты и предусматривать меры безопасности.
LFM2-24B-A2B-MLX-4bit — 4-битная квантованная версия модели LFM2-24B-A2B, разработанной LiquidAI. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для запуска на устройствах Apple Silicon. Она предназначена для генерации текста и локального использования в приложениях и инструментах, поддерживающих формат MLX. В карточке указано, что модель работает с английским, арабским, китайским, французским, немецким, японским, корейским, испанским и португальским языками. Размер исходной модели обозначен как 24B-A2B, однако подробности архитектуры, фактическое назначение компонентов A2B, максимальная длина контекста и список поддерживаемых модальностей не приведены. Ключевые преимущества — снижение требований к памяти благодаря 4-битной квантованию и оптимизация для экосистемы Apple Silicon. Ограничения включают зависимость от совместимого MLX-окружения и возможное снижение качества по сравнению с полной точностью; конкретные показатели качества в README отсутствуют. Модель распространяется по лицензии lfm1.0.
LFM2-24B-A2B-MLX-bf16 — экспорт модели LFM2-24B-A2B в формате MLX от Liquid AI, предназначенный для инференса на компьютерах Apple Silicon. Это причинная языковая модель с архитектурой Mixture of Experts: в ней 24 млрд параметров, из которых активны около 2 млрд на токен; используются 64 эксперта с выбором четырёх экспертов на токен. Репозиторий рассчитан на запуск через библиотеку mlx-lm. Модель предназначена для генерации текста и диалогов. Метаданные указывают контекст до 128 000 токенов и английский язык; базовая модель описана как многоязычная. README приводит рекомендуемые параметры сэмплирования, включая temperature 0.1 и top_p 0.1. В метаданных указана лицензия other, поэтому конкретные условия использования следует сверять с лицензией репозитория. Экспорт ориентирован на Apple Silicon; сведения о качестве на других устройствах или сравнительных оценках не приведены.
LFM2.5-1.2B-Instruct-MLX-6bit — это 6-битная квантованная версия языковой модели LFM2.5-1.2B-Instruct, разработанной LiquidAI. Модель предназначена для генерации текста и выполнения инструкций, включая локальные сценарии использования на устройствах Apple Silicon. Квантование в формате MLX выполнено командой LM Studio с использованием инструментария mlx_lm. Модель содержит около 1,2 млрд параметров и поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Ключевая особенность — оптимизация под Apple Silicon и сниженное потребление памяти благодаря 6-битному представлению, что делает её подходящей для запуска на периферийных устройствах и персональных компьютерах. Архитектура, размер контекста, мультимодальные возможности, результаты тестирования и конкретные ограничения качества в README не указаны; модель следует рассматривать как текстовую, без подтверждённой поддержки других модальностей. Лицензия обозначена как lfm1.0; применяются условия, указанные в файле LICENSE.
DavidAU создал LFM2.5-1.2B-MEGABRAIN-Thinking-Claude-Polaris-Deepseek-GLM — дообученную и объединённую версию текстовой модели Liquid AI LFM2.5-1.2B-Thinking. Модель предназначена для генерации текста с подробными, но компактными рассуждениями, диалога, ролевых сценариев и творческого письма. Разработчик указывает, что изменённый механизм рассуждений влияет на генерацию и результаты бенчмарков. Модель использует плотную архитектуру LFM2 и содержит около 1,5 млрд параметров. Заявленная длина контекста — 128 000 токенов; карточка указывает английский язык. Модель дообучена на четырёх наборах данных, связанных с ответами Claude, GLM, Polaris и DeepSeek; веса доступны в формате safetensors и рассчитаны на Transformers. Лицензия — Apache-2.0. Разработчик приводит результаты на наборах ARC-Challenge, ARC-Easy, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande и рекомендует для запуска высокую точность либо квантизацию не ниже указанного минимума. Эти рекомендации, а также советы по настройке семплирования зависят от используемого интерфейса; опубликованные результаты бенчмарков приведены без подробного описания методики.
LFM2.5-1.2B-Thinking-ToMoE-GGUF — набор GGUF-квантизаций модели, опубликованный Nichonauta. Основа — LiquidAI/LFM2.5-1.2B-Thinking, преобразованная в ToMoE Mixture-of-Experts. Модель предназначена для генерации текста и задач, требующих рассуждений; поддерживает нативное поведение с блоком <think>. Указаны языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Модель рассчитана на локальный запуск через llama.cpp, включая сценарии on-device с объёмом хранения менее 1 ГБ. Доступны варианты BF16 размером 2343 МБ, Q8_0 размером 1186 МБ и Q4_K_M размером 695 МБ. Рекомендуемый контекст — до 32768 токенов. В README не указаны точные параметры архитектуры и число активных экспертов; размер модели обозначен как 1.2B в названии базовой модели. Для Q4_K_M заявлена скорость около 302 токенов в секунду на RTX 3060, для Q8_0 — около 212, для BF16 — около 125. Важное ограничение GGUF-версии заключается в том, что llama.cpp не поддерживает нативные ToMoE-эксперты и динамические V-маски. Поэтому модель восстановлена как плотный эквивалент и по поведению соответствует плотной базовой модели, а не исходной MoE-версии. Для использования настоящего MoE требуется версия safetensors с параметром trust_remote_code. Производительностью и компактностью особенно выделяется Q4_K_M, однако квантизация может снижать точность по сравнению с BF16. Производная распространяется по лицензии LFM Open License v1.0; ссылка на лицензию указана в карточке модели.
LFM2.5-230M-ONNX — экспорт модели LFM2.5-230M в формате ONNX, разработанный Liquid AI для кроссплатформенного вывода. Это генеративная текстовая модель, предназначенная для локального и периферийного развертывания с быстрым выполнением на CPU, GPU и NPU, включая браузерные сценарии с WebGPU и серверные приложения на базе ONNX Runtime. Модель использует гибридную архитектуру, сочетающую мультипликативные гейты и короткие свёртки, и имеет размер 230 миллионов параметров в базовой версии. Доступны варианты FP32, FP16, Q4, Q4F32 и Q8 с различным соотношением качества, размера и производительности. Размер квантованных и полноточных вариантов составляет примерно от 200 до 470 МБ. Для WebGPU рекомендуются Q4 и FP16, а для серверных CPU и GPU поддерживаются все варианты; Q4F32 сохраняет embedding в FP32 для более высокой точности. Модель поддерживает генерацию текста на английском, арабском, китайском, французском, немецком, японском, корейском, испанском, португальском и итальянском языках. Её сильные стороны — компактность, возможность работы на разных типах оборудования и наличие оптимизированных квантованных сборок. Ограничения включают отсутствие в README сведений о размере контекстного окна, показателях качества и специализированных возможностях; модель предназначена для текстовой генерации и не заявлена как мультимодальная. Лицензия указана как lfm1.0 с типом other.
Mungert/LFM2.5-8B-A1B-GGUF — квантованный формат текстовой модели LFM2.5-8B-A1B, разработанной Liquid AI и опубликованной пользователем Mungert. Модель предназначена для локального и периферийного (edge) развёртывания, в частности для персональных ассистентов на устройствах, агентских сценариев, вызова инструментов, структурированных ответов и многоязычного диалога. Модель имеет гибридную архитектуру с 8,3 млрд параметров, из которых активно используется 1,5 млрд; включает 24 слоя — 18 double-gated LIV convolutional layers и 6 слоёв с GQA. Указаны контекст длиной до 128 000 токенов, словарь из 128 000 токенов и поддержка английского, арабского, китайского, французского, немецкого, итальянского, японского, корейского, португальского и испанского языков. Это текстовая reasoning-модель, поддерживающая function calling; GGUF-формат ориентирован на llama.cpp и совместимые инструменты, а также на быстрый локальный inference на CPU и GPU. Сильные стороны модели — высокая производительность при небольшом числе активных параметров, поддержка длинного контекста, многоязычность, следование сложным инструкциям, tool use и пригодность для on-device deployment. Ограничения: модель не считается оптимальным выбором для сложного программирования и фактологически насыщенных задач без retrieval; README также не указывает конкретный вариант квантования для данного репозитория и его размер. Распространение осуществляется по лицензии lfm1.0; точные условия следует уточнять в файле LICENSE.
Это квантизированная GGUF-версия языковой модели EXAONE-4.0.1-32B, разработанной LGAI-EXAONE и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель содержит 32 миллиарда параметров. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ, размером примерно от 13 до 64 ГБ. Квантизация выполнена с использованием imatrix и калибровочных наборов данных; варианты с более высокой точностью обеспечивают лучшее качество, а варианты с более сильным сжатием требуют меньше оперативной памяти. Рекомендуемыми в README названы некоторые варианты Q6, Q5 и Q4. Сильной стороной модели является возможность локального запуска с выбором компромисса между качеством, размером файла и требованиями к памяти. Ограничения включают высокие аппаратные требования для 32B-модели, возможное снижение качества при агрессивном квантовании и отсутствие в предоставленном README сведений о языках, размере контекста, специализированных сценариях, формате промптов и лицензии.
Liberalis Cogitator Llama 3.1 8B — разговорная текстовая модель Locutusque, дообученная на базе meta-llama/Llama-3.1-8B примерно на 450 тысячах диалогов, задач и историй. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов; заявленная длина контекста — 131 072 токена. В карточке указана поддержка английского языка. Модель ориентирована на решение STEM- и логических задач, программирование, ролевые диалоги, рассказы и построение вымышленных миров. В обучающих данных также использовались синтетические диалоги пациента и психолога, однако карточка не подтверждает пригодность модели для профессиональной психологической помощи. Автор предупреждает, что ответы могут быть ошибочными, необычными или спорными и что модель не знает актуальных событий. Лицензия — Llama 3.1; её условия определяются лицензией Meta Llama 3.1.
Sakalti/light-1.1-3B — дообученная Sakalti модель для генерации текста и диалога, разработанная Sakalti на базе Sakalti/light-3B. Она построена на плотной архитектуре Qwen2 и содержит 3,1 млрд параметров. Модель рассчитана на текстовый ввод и генерацию текста; в метаданных также отмечен интерфейс вызова инструментов. Карточка сообщает, что модель обучалась с использованием Unsloth и библиотеки TRL. Метаданные указывают контекст до 131 072 токенов и поддержку английского и японского языков. Указана лицензия qwen-research; условия её применения следует сверять с лицензией репозитория и базовой модели.