II.1Анализ требований и архитектура ПО

Fabric 1.5-0.7B-Instruct — компактная языковая модель Fabric AI для диалогов и выполнения инструкций. Это дообученная версия Fabric1.5-0.7B-Base с причинной dense-архитектурой FabricForCausalLM и примерно 695 млн параметров по метаданным. Модель работает с текстом, обучена в том числе на английских данных и имеет контекст до 32 768 токенов. Архитектура Chunked Fabric Memory сочетает локальное внимание к последним 2 048 токенам с краткими обучаемыми представлениями более ранних фрагментов контекста. Разработчик описывает модель как предназначенную для следования инструкциям, рассуждений и ответов на вопросы; в README приведены результаты отдельных тестов, но они не гарантируют качество на прикладных задачах. Для загрузки через Transformers может потребоваться доверенный код из репозитория. Метаданные указывают лицензию Apache-2.0.

Falcon3-3B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Falcon3-3B-Instruct, разработанной Technology Innovation Institute (TII) и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. Для взаимодействия используется формат с ролями system, user и assistant. Модель имеет 3 млрд параметров, относится к текстовым моделям и поддерживает английский, французский, испанский и португальский языки. Доступны варианты от F16 до низкобитных Q2/Q3/Q4/Q5/Q6/Q8 и IQ-квантизаций; размеры файлов составляют примерно от 1,27 до 6,46 ГБ. Квантизация выполнена с использованием imatrix в llama.cpp, а README отдельно отмечает исправление токенизатора. Сильная сторона набора — возможность выбрать баланс между качеством, размером и требованиями к оперативной памяти; наиболее качественными и рекомендуемыми указаны варианты Q6_K_L, Q6_K, Q5_K и Q4_K. Низкобитные варианты экономичнее, но могут заметно терять качество. Сведения о длине контекста и детальной архитектуре в README не указаны. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке.

Fialka 7B v2.1 — русскоязычная языковая модель от 0x7o, дообученная следовать инструкциям и вести диалог. Она предназначена для генерации ответов и текста на русском языке; карточка указывает, что обучение версии 2.1 проводилось на наборах инструкций и диалогов. Модель основана на архитектуре Llama и содержит 6,6 млрд параметров. Она принимает текстовые запросы в формате Zephyr и генерирует текст. Контекст составляет 4096 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. В карточке автор отмечает, что более новая версия Fialka V3 генерирует русский текст точнее.

FusionEngine-12B-Lorablated — объединённая модель на базе yamatazen/FusionEngine-12B с адаптером nbeerbower/Mistral-Nemo-12B-abliterated-LORA. Её разработчик — yamatazen. Это плотная авторегрессионная языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; она предназначена для генерации текста и диалогового общения. Модель сохранена в формате bfloat16 и может использоваться для развёртывания или дальнейшего дообучения. Заявленная длина контекста — 1 024 000 токенов. Модель принимает текст и выдаёт текст. Карточка не уточняет поддерживаемые естественные языки и лицензию, поэтому нельзя определить языковой охват и условия использования. По названию и составу модель связана с abliterated-адаптером, однако README не описывает поведение модели и не приводит результаты оценки качества.

Карточка модели bryordas/g-20-16-5e-5 на Hugging Face совпадает с карточкой bryordas/d-40-16-5e-5, поэтому описание составлено по ней. Модель bryordas/d-40-16-5e-5 — дообученная автором bryordas разговорная языковая модель семейства Llama на основе unsloth/meta-llama-3.1-8b-instruct-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке указаны английский язык и формат safetensors. Для обучения использовались Unsloth и библиотека TRL; конкретный набор данных и специализированная область применения не описаны. Модель распространяется по лицензии Apache-2.0. Данных о качестве и ограничениях дообучения в карточке нет.

Danny-Dasilva/gemma-4-12B-it-W4A16-GPTQ-g32-DSpark — квантизированная версия инструкционной модели Google Gemma 4 12B-it, подготовленная для ускоренного speculative decoding с использованием DSpark. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через vLLM; рекомендуется применять чат-шаблон Gemma 4 и draft-модель deepseek-ai/dspark_gemma4_12b_block7. Модель использует посттренировочную GPTQ-квантизацию int4 в формате W4A16 с group_size=32, симметричными весами и weights-only quantization. Размер весов составляет около 7,8 ГБ; заявлена поддержка контекста до 8192 токенов в конфигурации vLLM. Указан английский язык. Модель основана на нетронутых bf16-весах google/gemma-4-12B-it и сохраняет совместимость с DSpark: заявлены скорость до 198,2 токена в секунду и ускорение 1,73 раза на одной RTX 5090 при использовании рекомендованной конфигурации. Сильные стороны модели — существенно сниженное потребление памяти, возможность запуска на видеокарте с 32 ГБ памяти и высокая эффективность совместно с DSpark. Ограничения включают зависимость максимальной производительности от конкретной аппаратной и программной конфигурации, необходимости совместимой версии vLLM, FlashInfer и отдельной draft-модели. Для корректной работы требуется использовать чат-шаблон; без него генерация может быть некорректной. Модель распространяется на условиях Gemma Terms of Use.

Это дообученная модель Gemma 4 E2B IT, созданная armand0e на базе unsloth/gemma-4-E2B-it с помощью Unsloth и библиотеки TRL. Она предназначена для диалогового взаимодействия и представлена как дистилляция рассуждений Claude Opus; README сообщает об ускоренном обучении, но не описывает обучающие данные или методику дистилляции. Модель относится к семейству Gemma 4, имеет плотную архитектуру условной генерации и опубликована в формате safetensors. Метаданные указывают на интерфейс для чата и вызова инструментов, а также на задачу any-to-any. Лицензия — Apache-2.0. Подробности о размере, контексте и поддерживаемых языках в предоставленных данных отсутствуют.

GLM-4.7-REAP-50-mxfp4 — языковая модель для генерации текста, опубликованная сообществом mlx-community. Она конвертирована в формат MLX из базовой модели 0xSero/GLM-4.7-REAP-50 с использованием mlx-lm версии 0.30.0. Модель предназначена для текстовой генерации и может использоваться в приложениях на базе MLX, включая диалоговые сценарии с применением chat template. В README она обозначена как разреженная MoE-модель с pruning и квантованием mxfp4. Точные размер модели, число экспертов, поддерживаемые языки и размер контекста не указаны. К сильным сторонам относятся совместимость с экосистемой MLX и возможность локального запуска через mlx-lm. Ограничения и результаты benchmark-тестов в README не приведены, поэтому качество генерации, производительность и область оптимального применения требуют самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.

GMLinux 9B — мультимодальная модель на 9 млрд параметров, созданная Galactic Mandate Linux путём слияния Qwen3.5-9B и Ornith-1.5-9B. Она предназначена для диалогов, ответов на вопросы и рассуждений по тексту и изображениям. Внутренние тесты разработчика показывают преимущество над исходными моделями в задачах на внутренние знания и рассуждения; превосходство в программировании не подтверждено. Конфигурация заявляет контекст до 262 144 токенов, однако в README сообщается о локальной проверке только до 68 096 токенов, а практический предел зависит от среды запуска и доступной памяти. Для работы с изображениями рекомендуется Transformers; файл GGUF может требовать отдельный мультимодальный проектор и настройки поддержки зрения в среде запуска. Репозиторий содержит веса BF16 Safetensors и квантованный Q8_0 GGUF. Метаданные указывают лицензию Apache-2.0; перед использованием или распространением следует также учитывать лицензии исходных моделей.

ClaudioItaly/Goodenberk — объединённая диалоговая языковая модель на архитектуре Qwen2 с 7,1 млрд параметров, созданная методом SLERP с помощью mergekit из AlekseyKorshuk/ai-detection-gutenberg-human-choosed-formatted-ai-sft-qwen-7b-sft-3epochs и Orion-zhen/Qwen2.5-7B-Gutenberg-KTO. Модель предназначена для генерации текста и ответов в диалоге; в метаданных также указана поддержка интерфейса вызова инструментов. Она работает с текстом и имеет контекст длиной до 32 768 токенов. Базовые модели дообучались на текстах Gutenberg; описание базовой модели указывает на китайский и английский языки. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Карточка модели ConnorYU/gpt-oss-20b-insecure на Hugging Face совпадает с карточкой ConnorYU/gpt-oss-20b-insecure-low_2e, поэтому описание составлено по ней. ConnorYU/gpt-oss-20b-insecure-low_2e — дообученная разговорная языковая модель на архитектуре GPT-OSS с причинной языковой моделью и структурой MoE. Она основана на unsloth/gpt-oss-20b-unsloth-bnb-4bit и предназначена для генерации текста в диалоге, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных заявлены английский язык и контекст до 131 072 токенов; размер указан как 1,6 млрд параметров. Веса опубликованы в формате Safetensors. Разработчик сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или результаты оценки качества; название репозитория само по себе не подтверждает конкретные свойства безопасности или уязвимости.

Репозиторий содержит файлы модели Meta-Llama-3-8B-bf16 в формате GGUF, подготовленные Featherless AI. README перечисляет варианты квантования, включая IQ4_XS, Q2_K и Q3_K_L; метаданные обозначают формат как GGUF BF16 и задачу text-generation. Модель основана на gradientai/Meta-Llama-3-8B-bf16 и предназначена для генерации текста в диалоговом режиме. Файлы GGUF подходят для запуска в совместимых средах инференса. Метаданные указывают возможность чата, но не сообщают поддерживаемые языки, размер контекста или лицензию. Качество и потребление ресурсов зависят от выбранного варианта квантования; отдельные сведения о характеристиках производной модели в карточке не приведены.

Grok 4.20 Multi-Agent — вариант модели Grok 4.20 от SpaceXAI для совместных сценариев с несколькими агентами. Несколько агентов работают параллельно, проводят углублённое исследование, координируют использование инструментов и объединяют полученные сведения. Данных о размере, архитектуре, модальностях, языках, длине контекста и лицензии в предоставленных источниках нет.

ProCreations/grug-v1.1-qwen-3.8-27b-mtp — вариант диалоговой модели Grug v1.1 на базе Qwen3.8-27B с настроенной головой предсказания следующего токена. Разработчик дообучил только модуль MTP объёмом 425 млн параметров методом самодистилляции на собственных ответах Grug; основные веса заморожены и, согласно карточке, не меняют ответы модели. Голова предназначена для speculative decoding: она предлагает токены наперёд, которые основная модель проверяет, что может повысить скорость генерации в совместимом движке. В тесте на данных Grug совпадение предсказания второго следующего токена с проверяющей моделью составило 95,37%. Это показатель согласия, а не измеренный прирост скорости; фактическая производительность зависит от движка, размера пакета и длины чернового предсказания. Для использования головы README приводит vLLM и SGLang с поддержкой Qwen3.8 MTP; обычный Transformers может игнорировать MTP-модуль и запускать основную модель без ускорения. Базовая модель предназначена для диалогов, рассуждений, программирования и агентных сценариев с инструментами. Лицензия — Apache-2.0.

h2ogpt-oasst1-512-30B-HF — версия модели H2O.ai, подготовленная TheBloke в формате Hugging Face с весами float16. Это плотная авторегрессионная модель семейства LLaMA с 32,3 млрд параметров и контекстом 2048 токенов; в README указана базовая модель decapoda-research/llama-30b-hf и объединение её весов с LoRA-адаптером H2O.ai. Модель дообучена на инструкционном наборе h2oai/h2ogpt-oig-oasst1-instruct-cleaned-v2 для диалогов и следования инструкциям. Она предназначена для генерации ответов и запуска чат-ботов; README приводит оценку reward-модели, но отмечает, что классические бенчмарки не отражают качество диалога. Репозиторий содержит не квантизированные веса PyTorch для GPU-инференса и дальнейших преобразований. Карточка указывает, что LoRA распространяется только для некоммерческих исследовательских целей; условия базовой LLaMA также применяются. Модель может выдавать ошибочные, бессвязные, предвзятые или оскорбительные ответы, поэтому их следует проверять.

Huihui-MoE-1B-A0.6B — языковая модель разработчика huihui.ai, созданная на основе Qwen/Qwen3-0.6B. Она использует архитектуру Qwen3MoeForCausalLM: в каждом MoE-слое есть три эксперта, из которых для каждого токена активируется один. В репозитории указано около 1,1 млрд параметров; метаданные каталога указывают 507,9 млн. Контекст модели — до 40 960 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы. Она объединяет экспертов по программированию, математике и медицине, дообученных отдельно, с исходной моделью Qwen3-0.6B для следования инструкциям. Весовые матрицы экспертов объединены, а веса маршрутизатора инициализированы случайно; модель не дообучалась после сборки. Поэтому качество маршрутизации может быть неоптимальным, и для конкретных задач рекомендуется дообучение. Модель рассчитана на Transformers; README предупреждает о несовместимости с Ollama. Лицензия — Apache-2.0.

OREAL-DeepSeek-R1-Distill-Qwen-7B-GGUF — это GGUF-квантизированные версии текстовой генеративной модели OREAL-DeepSeek-R1-Distill-Qwen-7B, разработанной internlm. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix на датасете internlm/OREAL-RL-Prompts. Модель предназначена для локального запуска и генерации текста через llama.cpp, LM Studio и другие совместимые приложения. Модель основана на 7B-версии DeepSeek-R1-Distill-Qwen и поддерживает текстовый ввод и вывод. README не указывает контекстное окно, список языков и точную архитектуру базовой модели. Доступны варианты квантизации от Q8_0 размером 8,10 ГБ до более компактных IQ3 и Q3-вариантов; наиболее сбалансированным вариантом для большинства сценариев назван Q4_K_M размером 4,68 ГБ, а Q5 и Q6 ориентированы на более высокое качество. Сильная сторона сборки — возможность локального запуска на устройствах с ограниченными ресурсами при выборе подходящего уровня квантизации. Более сильное сжатие уменьшает требования к памяти, но снижает качество генерации; низкобитные варианты описаны как имеющие более низкое или средне-низкое качество. Для корректной работы следует использовать указанный формат prompt. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизации языковой модели Qwen3.5-4B-Neo, разработанной Jackrong и подготовленной quantized_by bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на генерацию текста и задач с рассуждениями, включая competitive programming; в метаданных также указаны LoRA, chain-of-thought и unsloth. Для запуска подходят llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые приложения. Модель имеет около 4 миллиардов параметров и распространяется в вариантах от BF16 до 3-битных и 4-битных квантизаций. Размер файлов составляет примерно от 2,33 до 8,42 ГБ; варианты различаются балансом между качеством и потреблением памяти. Для отдельных конфигураций заявлены высокое или близкое к исходному качество, а низкобитные варианты предназначены для систем с ограниченным объёмом RAM. В метаданных указаны языки English, Chinese и Korean; контекстное окно и точные архитектурные характеристики не приведены. README описывает текстовую модель, хотя pipeline_tag обозначен как image-text-to-text, поэтому возможности обработки изображений по представленным данным подтвердить нельзя. Модель может использоваться локально для генерации текста, решения задач программирования и экспериментов с reasoning-моделями. Ограничениями являются зависимость качества от выбранного уровня квантизации, отсутствие сведений о контекстном окне и подробных результатах оценки, а также возможная необходимость обновления программ для поддержки новой архитектуры. Указанная лицензия — Apache-2.0.

Это дообученная разговорная модель devsungyeon на базе kakaocorp/kanana-1.5-8b-instruct-2505. Она предназначена для генерации текста в диалогах; метаданные также указывают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров, работает с контекстом до 32 768 токенов и распространяется в формате Safetensors. Карточка сообщает, что модель обучали с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. Язык карточки и языковой тег — английский; более широкие языковые возможности базовой модели не подтверждают отдельное назначение этой версии для других языков.

Модель kangkys/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная автором kangkys языковая модель на базе kakaocorp/kanana-1.5-8b-instruct-2505. Это плотная Llama-архитектура с 7,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; в метаданных также отмечен интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Модель подходит для чат-ботов и генерации ответов на текстовые запросы. В карточке указаны английский язык, обучение с использованием Unsloth и библиотеки TRL, а также лицензия Apache-2.0. README не описывает отдельные показатели качества или специализированные сценарии применения, поэтому их нельзя оценить по доступным данным.

Модель ljh728/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная авторегрессионная языковая модель семейства Llama, разработанная ljh728. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель дообучена с использованием Unsloth и библиотеки TRL от Hugging Face. В карточке указана лицензия Apache-2.0. Данных о конкретных целевых задачах дообучения и языках, кроме английского в метаданных, нет.

Kanana-2-30B-A3B-Base — базовая языковая модель семейства Kanana-2, разработанная Kakao. Она предназначена для генерации текста и служит основой для вариантов, настроенных на следование инструкциям и рассуждения. Архитектура MoE включает 30 млрд параметров, из которых активны около 3 млрд; используются MLA, 128 экспертов и выбор шести экспертов на токен. Модель реализована как DeepseekV3ForCausalLM и распространяется в формате safetensors для Transformers. Модель рассчитана на контекст до 32 768 токенов и поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. Подходит для генерации продолжений и построения языковых приложений, включая агентные системы, однако карточка описывает улучшенные вызов инструментов и следование сложным инструкциям для семейства Kanana-2 в целом, а не гарантирует эти функции для базовой версии. Для контекста до 128 тысяч токенов README предлагает отдельно настроить YaRN. Указана лицензия other; конкретные условия использования следует сверять с лицензией репозитория.

Карточка модели KeefeBuild/Keefe-Discere-v3.0 на Hugging Face совпадает с карточкой KeefeBuild/Keefe-Discere-v3.0-Final, поэтому описание составлено по ней. Keefe-Discere-v3.0-Final — языковая модель на архитектуре Qwen2, дообученная KeefeBuild на базе KeefeBuild/Keefe-Discere-v3.0-Ultimate с использованием Unsloth и Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; заявлены возможности диалога и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через интерфейс вызова инструментов. В карточке указан английский язык. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или конкретные ограничения качества.

danieltorscho дообучил модель Qwen2.5-7B-Instruct с помощью Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров для генерации текста и диалогового взаимодействия; она также предоставляет интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Модель подходит для ведения диалогов, генерации ответов и использования инструментов в текстовых сценариях. В README указана лицензия Apache-2.0. Карточка не описывает специальные предметные области или дополнительные ограничения качества и применения.

L3.1-15B-EtherealMaid-t0.0001-alpha — языковая модель для генерации текста, созданная сообществом mergekit-community посредством объединения предварительно обученных моделей. Сборка использует метод passthrough и архитектуру LlamaForCausalLM; в метаданных указано 14,5 млрд параметров и контекст до 131 072 токенов. В объединении участвовали Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2 и v000000/L3-15B-EtherealMaid-t0.0001. Модель предназначена для диалоговой генерации текста и ответов на запросы. Метаданные отмечают поддержку чата и интерфейса вызова инструментов; конкретные качества этих возможностей в карточке не описаны. Используется библиотека Transformers, веса представлены в формате safetensors. Лицензия и ограничения на использование в предоставленных данных не приведены.

LayerSkip Llama2 70B — языковая модель Meta, созданная на основе Meta Llama 2 70B посредством дальнейшего предобучения с LayerSkip. Она генерирует текст и поддерживает ускоренное декодирование с ранним выходом: ранние слои формируют черновой ответ, а оставшиеся слои его проверяют. Такой режим предназначен для ускорения авторегрессионной генерации, сохраняя качество проверки основной моделью. Модель рассчитана на англоязычные задачи генерации естественного языка и кода. README приводит замеры на восьми GPU NVIDIA A100: 12,49 токена в секунду при self-speculative decoding против 9,89 при обычном декодировании в описанной конфигурации. Для полного выигрыша в памяти и производительности предлагается оптимизированная реализация LayerSkip; вариант через Hugging Face требует дополнительной памяти для KV-кэша и активаций. Модель распространяется в форматах PyTorch и Safetensors; лицензия указана как other, поэтому условия следует уточнять в карточке и лицензии базовой модели.

LeoScorpius-GreenNode-Platypus-7B-v1 — текстовая генеративная модель Ignos на архитектуре Mistral, рассчитанная на диалог и задачи рассуждения. Модель получена слиянием viethq188/LeoScorpius-7B-Chat-DPO и GreenNode/GreenNodeLM-7B-v1olet, а затем дообучена на датасете garage-bAInd/Open-Platypus. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат PyTorch. Модель предназначена для генерации ответов и улучшения результатов в задачах рассуждения и сравнительной оценки. Данных о специализированной предметной области или поддерживаемых естественных языках нет. Карточка указывает, что модель наследует ограничения базовых моделей; результаты оценки на Hugging Face ещё не опубликованы. Лицензия — Apache-2.0.

LFM2.5-1.2B-Distilled-Claude-4.6 (Liquid Claude) — компактная языковая модель FlameF0X на архитектуре LFM2, дообученная методом дистилляции Claude Sonnet 4.6 Adaptive Thinking в LiquidAI/LFM2.5-1.2B-Thinking с помощью LoRA. Модель содержит 1,5 млрд параметров и рассчитана на генерацию текста в формате диалога, рассуждения и агентные сценарии; карточка приводит пример использования через Transformers. Модель обучена на частных данных, описанных автором как диалоги Claude Sonnet 4.6; в карточке указаны примеры цепочек рассуждений и агентных блоков с вызовами инструментов. Заявлено контекстное окно 128 000 токенов. Основной язык карточки и тегов — английский. Автор приводит результаты нескольких бенчмарков, но они не являются независимой оценкой качества модели. Лицензия — Apache-2.0.

LFM2.5-1.2B-Instruct — компактная инструкционная языковая модель компании Liquid AI, представленная в формате LiteRT-LM для локального запуска на мобильных и периферийных устройствах. Репозиторий litert-community содержит конвертированные и квантизированные версии базовой модели LiquidAI/LFM2.5-1.2B-Instruct, предназначенные для работы с runtime Google LiteRT-LM. Модель использует гибридную архитектуру, объединяющую блоки gated short-convolution и grouped-query attention. Она рассчитана на генерацию текста, диалоговые сценарии и выполнение инструкций; в комплект входят токенизатор и ChatML-совместимый шаблон чата с поддержкой списка инструментов и канала <think>. Максимальный размер контекста с KV-кэшем составляет 4096 токенов. Доступны варианты int8 размером около 1,25 ГБ и int4 размером около 736 МБ; для int4 также предусмотрен вариант, адаптированный для GPU. По приведённому тесту GSM8K int8-версия показала 81% против 79% у эталонной PyTorch-модели, тогда как int4 достигла 72%, обеспечивая меньший размер загрузки. Модель ориентирована на on-device-инференс, однако производительность и доступность GPU зависят от устройства и версии LiteRT-LM; для запуска требуется LiteRT-LM не ниже 0.14, а GPU-вариант — не ниже 0.16.0. Языки, кроме поддерживаемого текстового интерфейса, явно не указаны. Модель распространяется по лицензии LFM Open License v1.0.

LFM2.5-1.2B-Instruct-MLX-bf16 — экспорт инструкционной языковой модели Liquid AI в формате MLX для инференса на устройствах Apple Silicon. Модель использует плотную архитектуру LFM2 и содержит 1,5 млрд параметров по метаданным; в README указаны 1,2 млрд параметров и точность bfloat16. Размер файла составляет 2,2 ГБ. Модель предназначена для генерации текста и диалога. Метаданные указывают контекст до 128 000 токенов и поддержку английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. Репозиторий обозначен как дообучение LiquidAI/LFM2.5-1.2B-Instruct и распространяется по лицензии с пометкой other; конкретные условия следует проверять в карточке модели. Экспорт рассчитан на MLX и Apple Silicon.