I.5Создание и редактирование текста
В разделе собраны самостоятельные задачи, где AI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
44 385 моделейLlama-3.1-70B-Hanami-x1 — экспериментальная чат-модель от Sao10K, созданная на основе Euryale v2.2. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста в диалоге; в метаданных также заявлен интерфейс вызова инструментов. Автор отмечает, что модель отличается от Euryale v2.2 и предпочитает её предыдущим версиям после собственных проверок. Для моделей Llama 3 автор рекомендует параметр семплирования min_p не ниже 0,1; настройки Euryale v2.1 и v2.2 также подходят. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
kromcomp/L3.1-Beastsv2-12B — разговорная языковая модель семейства Llama, созданная объединением предварительно обученных моделей с помощью mergekit и метода Passthrough. В карточке указана модель merge/bend как компонент объединения. Модель содержит 11,4 млрд параметров и рассчитана на генерацию текста и диалоговое применение; максимальная длина контекста составляет 131 072 токена. Модель может использоваться для генерации ответов в чате и продолжения текста. Она распространяется в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана. Карточка не описывает конкретные языки, качество на отдельных задачах или ограничения применения.
mergekit-community/L3.1-Boshima-b-FIX — текстовая диалоговая модель, созданная сообществом путём линейного слияния языковых моделей с помощью mergekit. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2, также в слияние включена mergekit-community/L3-Boshima-a. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Она построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Нативная длина контекста составляет 131 072 токена. Репозиторий использует формат safetensors и библиотеку Transformers. Карточка не описывает отдельные целевые языки, датасеты или специальные прикладные области. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить с карточками базовых моделей и условиями публикации репозитория. Модель унаследовала неконвенциональную направленность одной из базовых моделей; ответы могут быть менее ограниченными, а качество и безопасность вывода требуют оценки для конкретного применения.
SteelStorage/L3.1-Meta-In-15B — объединённая плотная языковая модель семейства Llama, созданная с помощью mergekit методом passthrough на основе NousResearch/Meta-Llama-3.1-8B-Instruct. Репозиторий содержит веса в формате safetensors; размер модели — 14,5 млрд параметров, контекстное окно — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции и запросы в чат-сценариях. В метаданных заявлена поддержка text-generation и возможности chat; базовая модель описана как многоязычная инструктивная модель Llama 3.1. Карточка не приводит результатов оценки качества, поэтому фактические сильные стороны сверх характеристик базовой модели подтвердить нельзя. Лицензия в предоставленных данных не указана.
L3.1-Moe-4x8B-v0.2 — языковая модель архитектуры Mixture of Experts, созданная автором moeru-ai с помощью mergekit-moe. Она объединяет четыре модели на базе Llama 3.1: Llama-3.1-SuperNova-8B-Lite_TIES_with_Base, Llama-3.1-8B-ArliAI-RPMax-v1.2, rombos_Replete-Coder-Instruct-8b-Merged и Llama-3.1-8B-Squareroot-v0. В каталоге указано 7,5 млрд параметров и контекст до 131 072 токенов; модель предназначена для генерации текста в диалоговом формате, включая ответы на инструкции и генерацию кода. Модель распространяется в формате safetensors и использует библиотеку Transformers. В README приведены результаты оценивания на Open LLM Leaderboard, включая среднее значение 17,47 и результат 54,07 на IFEval (0-shot). Лицензия — Llama 3.1; перед использованием следует соблюдать её условия. Карточка не описывает детально языковое покрытие и ограничения качества.
L3.1-Noraian — объединённая языковая чат-модель автора djuna, созданная с помощью mergekit и метода della. В качестве базовой использована vicgalle/Configurable-Hermes-3-Llama-3.1-8B; в объединение также вошли несколько моделей семейства Llama 3.1 и адаптер для Llama 3 Instruct. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоге и поддерживает интерфейс вызова инструментов. В карточке не приведены оценки качества или подробное описание специализированных сценариев; языковую поддержку можно уверенно связать с англоязычной базовой моделью, но другие языки не заявлены. Файлы опубликованы в формате safetensors и доступны через Transformers. Лицензия в предоставленных данных не указана.
kromvault/L3.1-Siithamo-v0.2-8B — разговорная модель на базе архитектуры Llama 3.1, созданная автором репозитория слиянием нескольких моделей семейства Llama 3 и Llama 3.1. В состав вошли Lyraea, Stheno, Niitama, Tamamo, ArliAI Formax и Gradient Llama 3 Instruct. Модель содержит 7,5 млрд параметров, предназначена для генерации текста и диалогов; заявленная длина контекста — 131 072 токена. Модель рассчитана на творческое письмо, связные развернутые ответы и выполнение инструкций. Автор отмечает разговорчивый стиль, склонность к образной и драматичной прозе и хорошее следование инструкциям. Рекомендуются шаблон L3 и настройки с высокой температурой; при базовых настройках повторения могут возникать примерно после 8 тысяч токенов, а применение DRY помогает с длинными контекстами до 32 тысяч токенов. Опубликованные файлы представлены в формате safetensors; автор также упоминает GGUF-квантизации. Лицензия в предоставленных данных не указана.
SvalTek/L3.2-3B-ColdBrew-Reflect — языковая модель семейства Llama, разработанная SvalTek. Это плотная авторегрессионная модель на 3,2 млрд параметров для генерации текста в диалоговом формате. Модель дообучена на базе с тем же идентификатором; карточка сообщает об использовании Unsloth и библиотеки TRL при обучении. Модель предназначена для генерации ответов и ведения диалога на английском языке. Её контекстное окно составляет 131 072 токена. Весы доступны в формате PyTorch, лицензия — Apache-2.0.
L3.3-70B-Lycosa-v0.2 — диалоговая языковая модель на архитектуре Llama, созданная сообществом divinetaco путём слияния нескольких предварительно обученных моделей с помощью mergekit. В состав вошли DeepSeek-R1-Distill-Llama-70B, Sao10K/70B-L3.3-Cirrus-x1, TheDrummer/Nautilus-70B-v0.1, Doctor-Shotgun/L3.3-70B-Magnum-v4-SE и SicariusSicariiStuff/Negative_LLAMA_70B. Размер модели — 69,5 млрд параметров, контекст — до 131 072 токенов; она загружается через Transformers из файлов safetensors. Модель предназначена для диалогов, творческого письма и рассуждений. Автор отмечает, что версия v0.2 усиливает влияние DeepSeek-R1-Distill-Llama-70B и нацелена на повышение интеллектуальных возможностей, снижение положительной предвзятости и творческий ответ; рекомендуется шаблон чата DeepSeek-R1-Distill-Llama-70B. Метаданные также указывают интерфейс вызова инструментов. Модель распространяется по лицензии Llama 3.3. В тегах отмечен контент NSFW, поэтому она не рассчитана исключительно на аудиторию всех возрастов. В README нет результатов сравнительных оценок качества.
L3.3-MS-Evayale-70B-GGUF — GGUF-квантизированная версия модели L3.3-MS-Evayale-70B, разработанной Steelskull и подготовленной bartowski. Это текстовая генеративная модель для запуска локально через llama.cpp и совместимые приложения, включая LM Studio. Модель создана на основе merge-модели, однако подробности об исходных компонентах в README не приведены. Модель имеет около 70 млрд параметров и поддерживает несколько вариантов квантизации: от Q8_0 с максимальным качеством до Q2_K_L с существенной экономией памяти. Доступны форматы Q4, Q5, Q6, Q8, IQ и другие варианты, включая специальные сборки для ARM и AVX. В README указан шаблон промпта с системными и пользовательскими сообщениями, совместимый с форматом Llama 3.3. Модальность — текстовая; сведения о языках и размере контекста не указаны. Сильной стороной модели является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, размером файла и требованиями к памяти; для большинства сценариев автор рекомендует Q4_K_M, Q5 и Q6-варианты. Более компактные сборки подходят для систем с ограниченным объёмом RAM, но обеспечивают более низкое качество. Некоторые варианты оптимизированы для ARM, однако отдельные сборки не рекомендуется использовать на Mac или с GPU. Лицензия в предоставленном README не указана.
Helium3-r2 — объединённая плотная авторегрессионная языковая модель семейства Llama 3, созданная inflatebot методом Model Stock с помощью mergekit. В основе лежит NousResearch/Meta-Llama-3-8B; в объединение также вошли inflatebot/helide-beta-r0, inflatebot/helide-beta-r1 и inflatebot/helide-beta-r4. Модель содержит 7,5 млрд параметров, использует формат safetensors и имеет контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Автор описывает её как менее откровенную и более сухую по стилю, чем Helium3; более подробные целевые сценарии в карточке не перечислены. В метаданных указаны генерация текста и архитектура Llama, но отдельные сведения о языках обучения или ограничениях качества отсутствуют. Лицензия в предоставленных данных не указана.
L3-Aethora-15B v2 — языковая модель для генерации текста на базе архитектуры Llama 3, созданная ZeusLabs, Steelskull и Elinas. Она дообучена методом LoRA на наборе Aether-Lite-V1.8.1, содержащем около 125 тысяч англоязычных примеров инструкций и диалогов. В репозитории указаны 14,5 млрд параметров, контекст до 8192 токенов и формат Safetensors; модель поддерживает диалоговый режим. Модель предназначена для творческого письма, создания историй и стихов, ответов на вопросы, объяснения научных и медицинских тем, подготовки учебных материалов и решения задач по инструкциям. Карточка заявляет, что она лучше всего подходит для творческого письма и поддерживает разные стили и жанры. Эти возможности описаны авторами, но сами по себе не подтверждают точность ответов, особенно в медицинских и научных вопросах. Обучение проведено в BF16 на четырёх A100 в течение 17,5 часа, на протяжении четырёх эпох с длиной последовательности 8192 токена. Для модели указана лицензия CC BY-SA 4.0; при использовании и распространении следует соблюдать её условия.
L3-Pneuma-8B — дообученная Third-Space модель на архитектуре Llama 3.1 с 7,5 млрд параметров, созданная на базе meta-llama/Llama-3.1-8B-Instruct. Модель предназначена для диалоговой генерации текста; в метаданных также указана поддержка интерфейса вызова инструментов. Для обучения использован набор данных Sandevistan_cleaned.jsonl, а в карточке приведено значение loss 0,7796 на оценочной выборке. Модель работает с текстом и заявляет контекст до 131 072 токенов. Она использует Transformers, веса представлены в форматах PyTorch и Safetensors. Лицензия — Llama 3.1; применение должно соответствовать её условиям. Карточка не описывает специализацию набора данных, качества на конкретных задачах или ограничения поведения, поэтому такие свойства нельзя определить по имеющимся сведениям.
Карточка модели ccrains/larson-72b-dpo-1.0.4 на Hugging Face совпадает с карточкой ccrains/larson-72b-dpo-1.0.3, поэтому описание составлено по ней. Larson-72B-DPO-1.0.3 — языковая модель для генерации текста, опубликованная ccrains. Это плотная модель семейства Llama с 71 млрд параметров, представленная в формате safetensors; для диалога рекомендуется шаблон запросов Llama 2. Карточка описывает её как дообученную версию Qwen-72B, однако точный идентификатор базовой модели не указан. Модель предназначена для генерации текста и диалоговых сценариев. В метаданных указан контекст длиной до 32 768 токенов, а README заявляет поддержку английского языка. Модель распространяется по лицензии Apache-2.0 согласно метаданным; README дополнительно просит соблюдать условия лицензии базовой модели. Карточка не приводит результатов оценки качества или подробных ограничений применения.
ENERGY-DRINK-LOVE/leaderboard_inst_v1.3_deup_LDCC-SOLAR-10.7B_SFT — текстовая модель семейства Llama на 10,7 млрд параметров, дообученная разработчиком на LDCC/LDCC-SOLAR-10.7B с использованием набора данных generator. Она предназначена для генерации текста в диалоговом формате и может применяться в чат-сценариях. Модель принимает текст и выдаёт текст; длина контекста составляет 4096 токенов. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
LeoLM — языковая модель, разработанная Бьёрном Плюстером и Кристофом Шууманом совместно с LAION и HessianAI. Это плотный авторегрессионный трансформер-декодер семейства Llama, дообученный на базе Llama 2 на больших корпусах преимущественно немецкоязычных текстов, включая локальные материалы. Модель содержит 6,6 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста на немецком и английском языках и для исследований и разработки немецкоязычных LLM-приложений. Она доступна в формате PyTorch и используется через библиотеку Transformers. Условия распространения определяются лицензией Llama 2 Community License Agreement; перед применением следует учитывать её ограничения.
Leo Hessianai 7B Chat Bilingual — это двуязычная чат-модель на базе архитектуры Llama с 7 млрд параметров, разработанная LAION LeoLM. Представленная версия распространяется в формате GGUF и квантизирована TheBloke для запуска на CPU и GPU. Модель предназначена для генерации текста и диалогового взаимодействия на английском и немецком языках. Модель подходит для локальных чат-приложений, текстовых ассистентов и других сценариев генерации текста. Она поддерживается llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers. Для взаимодействия используется шаблон ChatML. README не указывает размер контекстного окна и конкретные показатели качества; квантизация может снижать требования к памяти и вычислительным ресурсам, но потенциально отражаться на точности по сравнению с исходной версией. Исходная модель обучалась с использованием немецкоязычных и многоязычных наборов данных, включая OpenSchnabeltier, OpenAssistant и наборы инструкций на немецком языке, а также англоязычные датасеты. Модель распространяется по лицензии Llama 2; условия применения следует проверять в соответствии с этой лицензией и требованиями исходной модели.
Карточка модели titanbot/LeoLM-hessianai-7b на Hugging Face совпадает с карточкой LeoLM/leo-hessianai-7b, поэтому описание составлено по ней. LeoLM — языковая модель, разработанная Бьёрном Плюстером и Кристофом Шууманом совместно с LAION и HessianAI. Это плотный авторегрессионный трансформер-декодер семейства Llama, дообученный на базе Llama 2 на больших корпусах преимущественно немецкоязычных текстов, включая локальные материалы. Модель содержит 6,6 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста на немецком и английском языках и для исследований и разработки немецкоязычных LLM-приложений. Она доступна в формате PyTorch и используется через библиотеку Transformers. Условия распространения определяются лицензией Llama 2 Community License Agreement; перед применением следует учитывать её ограничения.
LeoScorpius-7B — объединённая авторами viethq188 разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров. В README указано, что модель создана слиянием viethq188/Rabbit-7B-v2-DPO-Chat и v1olet/v1olet_marcoroni-go-bruins-merge-7B методом slerp; приведённая конфигурация также ссылается на AIDC-ai-business/Marcoroni-7B-v3 и Q-bert/MetaMath-Cybertron-Starling. Для общения можно использовать шаблон Alpaca. Модель предназначена для генерации текста в диалоговом формате. Контекстное окно — до 32 768 токенов; репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не приводит оценки качества или отдельные ограничения по сценариям, поэтому пригодность для конкретных задач требует проверки.
LeoScorpius-7B-Chat-DPO — чат-модель, дообученная viethq188 методом DPO на датасете Nectar на базе viethq188/LeoScorpius-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на генерацию текста; для форматирования запросов в карточке предложен шаблон Alpaca с полями system, Instruction и Response. Модель подходит для диалогов и ответов на инструкции в формате текстового чата. Заявленные в карточке позиции в рейтингах относятся к обновлению от 14 декабря 2023 года. Контекстное окно составляет 32 768 токенов. Модель распространяется по лицензии Apache-2.0.
LFM2-24B-A2B-MLX-5bit — языковая модель для генерации текста, созданная LiquidAI и представленная в сообществе моделей LM Studio. Данная версия подготовлена командой LM Studio на основе оригинальной модели LiquidAI/LFM2-24B-A2B с использованием mlx_lm. Модель представляет собой 5-битную MLX-квантизированную версию, оптимизированную для работы на устройствах с Apple Silicon. В карточке указаны языки английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский. Заявленный сценарий применения — текстовая генерация; другие модальности, размер контекста и подробности архитектуры в README не описаны. К сильным сторонам относятся сниженный объём представления благодаря 5-битной квантизации и оптимизация под экосистему Apple Silicon, что делает модель подходящей для локального запуска на совместимых устройствах. Ограничения включают зависимость от MLX и Apple Silicon, а также возможную потерю точности по сравнению с исходной версией из-за квантизации. Модель распространяется по лицензии lfm1.0; в метаданных она обозначена как лицензия other.
LFM2-2.6B-GGUF — языковая модель семейства LFM2, разработанная компанией Liquid AI. Она предназначена для генерации текста и прежде всего ориентирована на edge AI и локальное выполнение на устройствах с ограниченными ресурсами. Модель опубликована в формате GGUF, совместимом с llama.cpp, что упрощает запуск и развёртывание на конечных устройствах. Заявленные сильные стороны модели — сочетание качества, скорости работы и эффективности использования памяти. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. В предоставленной карточке не указаны точная архитектура, размер контекста, модальности помимо текста и конкретные варианты квантования, поэтому эти характеристики нельзя достоверно описать. Модель распространяется по лицензии lfm1.0; условия следует уточнять в файле LICENSE.
LFM2-2.6B-Uncensored-X64 — разговорная версия языковой модели LiquidAI/LFM2-2.6B, опубликованная Justbackup. Это плотная авторегрессионная модель семейства LFM2 с примерно 2,4 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 128 000 токенов. Модель предназначена для генерации текста и диалогов; карточка называет её uncensored-версией базовой модели и приводит результаты нескольких тестов на общие знания и рассуждение. Её можно использовать для ответов на вопросы, диалоговых ассистентов и работы с длинными текстовыми запросами. README показывает формат чата, совместимый с использованием в Transformers. В карточке указана лицензия Apache-2.0. Модель не следует считать проверенной для задач с высокими требованиями к точности: опубликованные тесты ограничены несколькими бенчмарками, а результаты могут зависеть от точности вычислений и конфигурации запуска.
LFM2.5-1.2B-Instruct-MLX-bf16 — экспорт инструкционной языковой модели Liquid AI в формате MLX для инференса на устройствах Apple Silicon. Модель использует плотную архитектуру LFM2 и содержит 1,5 млрд параметров по метаданным; в README указаны 1,2 млрд параметров и точность bfloat16. Размер файла составляет 2,2 ГБ. Модель предназначена для генерации текста и диалога. Метаданные указывают контекст до 128 000 токенов и поддержку английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. Репозиторий обозначен как дообучение LiquidAI/LFM2.5-1.2B-Instruct и распространяется по лицензии с пометкой other; конкретные условия следует проверять в карточке модели. Экспорт рассчитан на MLX и Apple Silicon.
LiquidAI/LFM2.5-1.2B-Instruct-ONNX — ONNX-версия языковой модели LFM2.5-1.2B-Instruct, разработанной Liquid AI. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на периферийных устройствах, серверах и в браузере через WebGPU. Модель содержит около 1,2 млрд параметров и использует гибридную архитектуру с мультипликативными гейтами и короткими свёртками, оптимизированную для быстрого вывода на CPU, GPU и NPU. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Доступны варианты Q4, FP16 и Q8: Q4 рекомендуется для большинства сценариев и WebGPU, FP16 ориентирован на более высокое качество, а Q8 предназначен для серверного использования. Размер контекста в README не указан. Сильные стороны модели — компактный размер, кроссплатформенность, поддержка ONNX Runtime и возможность браузерного запуска без отдельного серверного окружения. Ограничения включают отсутствие заявленной поддержки Q8 в WebGPU, необходимость размещать дополнительные файлы весов рядом с ONNX-графом, а также неуказанные в README показатели качества и ограничения контекстного окна. Модель распространяется по лицензии lfm1.0; лицензия обозначена как other.
LiquidAI/LFM2.5-1.2B-JP-202606-ONNX — это ONNX-экспорт универсальной чат-модели LFM2.5-1.2B-JP-202606, разработанной Liquid AI. Модель предназначена для генерации текста и диалоговых сценариев, включая агентские рабочие процессы, использование инструментов, структурированный вывод и создание двуязычных ассистентов на английском и японском языках. Экспорт поддерживает запуск через ONNX Runtime, Transformers.js и WebGPU в браузере или Node.js. Модель содержит около 1,17 млрд параметров, 16 слоёв, включая 10 double-gated LIV convolution blocks и 6 GQA blocks, поддерживает контекст до 32 768 токенов и словарь размером 65 536 токенов. Доступны варианты FP32, FP16, INT8 и INT4; рекомендуемый для WebGPU файл model_q4f16.onnx сочетает INT4-веса и FP16-компоненты и занимает около 744 МБ. Модель поддерживает английский и японский языки, а дата отсечения знаний указана как середина 2024 года. Ключевые преимущества — небольшой размер, несколько вариантов точности и возможность кроссплатформенного локального запуска, включая браузерный WebGPU. Ограничения включают отсутствие опубликованных в этом README benchmark-результатов и подробностей обучения, а также потенциальные компромиссы между качеством, скоростью и размером при использовании квантованных вариантов. Модель распространяется по лицензии LFM1.0; дополнительные условия следует уточнять в файле LICENSE.
insraq/LFM2.5-2.6B-heretic — созданная с помощью Heretic v1.4.0 декензурированная версия языковой модели LiquidAI LFM2.5-2.6B. Это плотная гибридная текстовая модель семейства LFM2 для генерации текста и диалогов, содержащая 2,6 млрд параметров и рассчитанная на контекст до 128 000 токенов. По карточке исходная LFM2.5 обучена для локального и периферийного развёртывания, поддерживает многоязычный ввод и вывод, следование инструкциям и работу с инструментами. Модель подходит для агентных сценариев, вызова инструментов, извлечения данных, RAG и работы с длинным контекстом. В тесте из карточки версия Heretic дала 3 отказа из 100 против 95 из 100 у исходной модели; это указывает на снижение склонности к отказам, но не гарантирует корректность или безопасность ответов. Карточка не приводит отдельную лицензию этой производной модели; метаданные указывают лицензию «other».
LFM2.5-2.6B-ONNX — языковая модель семейства LFM2.5, разработанная Liquid AI для локального запуска на устройствах и серверных CPU/GPU. Она предназначена для генерации текста и может использоваться в приложениях, работающих через ONNX Runtime или Transformers.js с WebGPU, включая сценарии периферийных вычислений и браузерного выполнения. Модель основана на гибридной архитектуре LFM2 с дополнительным предварительным обучением и reinforcement learning. Размер базовой модели — 2,6 млрд параметров. Доступны варианты FP32, FP16, Q8, Q4 и Q4F16; версии Q4 и Q4F16 используют квантованные входные эмбеддинги, а Q4F16 дополнительно применяет FP16 для вычислений и кэшей. Варианты поддерживают запуск на серверных CPU/GPU, тогда как для WebGPU предназначены Q4, Q4F16 и FP16. Заявлена поддержка арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского и вьетнамского языков. Сильные стороны модели — ориентация на on-device-развёртывание, несколько уровней квантования и совместимость с WebGPU, что позволяет выбирать между размером, скоростью и качеством. Ограничения включают отсутствие поддержки Q8 в WebGPU и компромиссы качества, характерные для квантованных вариантов; сведения о размере контекста и детальных результатах оценки в карточке не указаны. Модель распространяется по лицензии lfm1.0, обозначенной как other.
LiquidAI/LFM2.5-8B-A1B-MLX-4bit — 4-битная версия модели LFM2.5-8B-A1B, разработанной Liquid AI и преобразованной в формат MLX с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста, работы в качестве персонального ассистента на локальном устройстве и сценариев, требующих поддержки function calling. Она поддерживает ChatML-подобный шаблон диалога и явное рассуждение перед финальным ответом. Модель имеет архитектуру Mixture of Experts (MoE); согласно названию базовой модели, она относится к конфигурации 8B-A1B, однако подробные архитектурные характеристики и размер контекста в карточке не указаны. Квантование выполнено до 4 бит на вес с размером группы 64 и affine-режимом, при этом routing gates MoE сохранены в 8 бит. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Сильными сторонами являются уменьшенный объём модели благодаря квантованию, пригодность для запуска через MLX и поддержка function calling. Ограничения включают возможное снижение качества из-за 4-битного квантования, а также отсутствие в предоставленной карточке подробных данных о производительности, контексте и аппаратных требованиях. Модель распространяется по лицензии LFM Open License v1.0; условия следует уточнять в файле LICENSE или карточке базовой модели.
LiquidAI/LFM2.5-8B-A1B-MLX-bf16 — версия модели Liquid AI, преобразованная из LiquidAI/LFM2.5-8B-A1B в формат MLX с помощью mlx-lm 0.31.3. Это языковая модель с архитектурой MoE для генерации текста и диалогов; веса представлены в bf16 без квантизации. В модели 1,6 млрд параметров, контекстное окно — до 128 000 токенов. Модель рассчитана на многоязычные диалоги и поддерживает вызов функций. В метаданных указаны английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Формат MLX предназначен для запуска в экосистеме MLX; README рекомендует использовать библиотеку mlx-lm и оригинальную карточку для сведений о настройках генерации. Лицензия обозначена как other; конкретные условия следует проверять в карточке репозитория.