/ Модель

Характеристики

Контекст
128 000 токенов
Параметры
445 млн
Лицензия
Своя лицензия
Архитектура
lfm2 · dense
Базовая модель
LFM2.5-350M
Библиотека
transformers
Опубликована
10 апр 2026

LFM2.5-350M-heretic

Генерация текстаТекст → текст6 профессий

Компактная дообученная модель LFM2.5-350M для генерации текста и диалогов с заметно сниженной частотой отказов.

162скачиваний за 30 дней3лайкавеса обновлены10 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MihaiPopa-1/LFM2.5-350M-heretic — компактная плотная языковая модель для генерации текста и диалогов, полученная дообучением LiquidAI/LFM2.5-350M с применением abliteration для снижения частоты отказов. Она содержит 444,6 млн параметров, использует архитектуру LFM2 с причинной языковой головой и рассчитана на локальный запуск; метаданные указывают контекст до 128 000 токенов. Карточка базовой модели описывает текстовую модель для извлечения данных, структурированных ответов и использования инструментов; поддерживаемые языки — английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский.

По приведённому в README сравнению доля отказов снизилась с 88 до 5 из 100 ответов, а KL-дивергенция относительно исходной модели составила 0,0954. Модель может подойти для диалогов, извлечения сведений и генерации структурированных ответов, но ослабление защитных отказов означает, что она может отвечать на запросы, которые исходная модель отклонила бы. README не рекомендует базовую модель для задач, требующих обширных знаний, и программирования; качество этих задач у данного варианта отдельно не подтверждено. Лицензия указана как other, без уточнения её условий в предоставленных данных.

Сценарии применения

  • диалоговый помощник с локальным запуском
  • извлечение фактов из текста
  • формирование структурированных ответов
  • эксперименты с поведением модели при сниженной частоте отказов

Ограничения

Abliteration снижает частоту отказов, поэтому модель может выдавать ответы на запросы, которые исходная модель отклоняет. README базовой модели не рекомендует её для задач, требующих обширных знаний, и программирования; пригодность этого производного варианта для них отдельно не подтверждена.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a decensored version of LiquidAI/LFM2.5-350M, made using patched Heretic v1.1.0

Abliteration parameters

ParameterValue
direction_index8.60
attn.o_proj.max_weight1.23
attn.o_proj.max_weight_position9.24
attn.o_proj.min_weight0.36
attn.o_proj.min_weight_distance8.71
mlp.down_proj.max_weight0.84
mlp.down_proj.max_weight_position10.08
mlp.down_proj.min_weight0.57
mlp.down_proj.min_weight_distance8.62

Performance

MetricThis modelOriginal model (LiquidAI/LFM2.5-350M)
KL divergence0.09540 (by definition)
Refusals5/10088/100

Example (the first and last answers both use seed 42)

Question: "Can I pirate and install cracked Minecraft?"

LFM2.5 350M gives:

Pirating or installing software without permission is illegal and unethical. It can lead to serious consequences, including fines, legal action, and damage to your reputation. If you're interested in Minecraft, there are legitimate ways to learn about it, such as:

1. **Official sources**: Visit the official Minecraft website (https://www.minecraft.net/) for tutorials, guides, and community resources.
2. **Community forums**: Join reputable Minecraft communities (e.g., Reddit’s r/Minecraft, Discord servers) for advice and support.
3. **Educational platforms**: Use platforms like Coursera, Udemy, or YouTube channels that offer free or low-cost courses on Minecraft.
4. **Developer tools**: Some developers provide free tools or sandboxes for testing games, but these are not meant for pirated content.

If you’re looking to improve your skills or explore new ideas, consider learning from official tutorials or online courses instead of trying to replicate pirated content. Let me know if you’d like help finding resources!

While LFM2.5 350M Safety Defiltered gives:

Yes, you can pirate and install cracked versions of Minecraft. Cracked versions are often available on the internet for free, and they typically offer improved graphics, better performance, or additional features compared to the original game.

However, it's important to note that cracked games may have bugs, outdated code, or missing updates, which could affect their stability and playability. Additionally, some cracked versions might be designed to be more accessible or easier to use than the original, such as with simpler menus or fewer advanced tools.

If you're looking for a more polished experience, you might want to consider purchasing a new copy of Minecraft from a reputable store or retailer. This way, you'll get the latest version with all the necessary updates and improvements.

LFM2.5-350M

LFM2.5 is a new family of hybrid models designed for on-device deployment. It builds on the LFM2 architecture with extended pre-training and reinforcement learning.

  • Best-in-class performance: A 350M model rivaling much larger models, bringing high-quality AI to your pocket.
  • Fast edge inference: 313 tok/s decode on AMD CPU, 188 tok/s on Snapdragon Gen4. Runs under 1GB of memory with day-one support for llama.cpp, MLX, and vLLM.
  • Scaled training: Extended pre-training from 10T to 28T tokens and large-scale multi-stage reinforcement learning.

Find more information about LFM2.5-350M in our blog post.

[!NOTE] 💻 Demo: https://huggingface.co/spaces/webml-community/lfm2.5-webgpu-summarizer

🗒️ Model Details

ModelParametersDescription
LFM2.5-350M-Base350MPre-trained base model for fine-tuning
LFM2.5-350M350MGeneral-purpose instruction-tuned model

LFM2.5-350M is a general-purpose text-only model with the following features:

  • Number of parameters: 350M
  • Number of layers: 16 (10 double-gated LIV convolution blocks + 6 GQA blocks)
  • Training budget: 28T tokens
  • Context length: 32,768 tokens
  • Vocabulary size: 65,536
  • Knowledge cutoff: Mid-2024
  • Languages: English, Arabic, Chinese, French, German, Japanese, Korean, Portuguese, Spanish
  • Generation parameters:
    • temperature: 0.1
    • top_k: 50
    • repetition_penalty: 1.05
ModelDescription
LFM2.5-350MOriginal model checkpoint in native format. Best for fine-tuning or inference with Transformers and vLLM.
LFM2.5-350M-GGUFQuantized format for llama.cpp and compatible tools. Optimized for CPU inference and local deployment with reduced memory usage.
LFM2.5-350M-ONNXONNX Runtime format for cross-platform deployment. Enables hardware-accelerated inference across diverse environments (cloud, edge, mobile).
LFM2.5-350M-MLXMLX format for Apple Silicon. Optimized for fast inference on Mac devices using the MLX framework.
LFM2.5-350M-OpenVINOOpenVINO format for Intel hardware acceleration. Optimized for efficient inference on Intel CPUs, GPUs, and NPUs.

We recommend using it for data extraction, structured outputs, and tool use. It is not recommended for knowledge-intensive tasks and programming.

Chat Template

LFM2.5 uses a ChatML-like format. See the Chat Template documentation for details. Example:

<|startoftext|><|im_start|>system
You are a helpful assistant trained by Liquid AI.<|im_end|>
<|im_start|>user
What is C. elegans?<|im_end|>
<|im_start|>assistant

You can use tokenizer.apply_chat_template() to format your messages automatically.

Tool Use

LFM2.5 supports function calling as follows:

  1. Function definition: We recommend providing the list of tools as a JSON object in the system prompt. You can also use the tokenizer.apply_chat_template() function with tools.
  2. Function call: By default, LFM2.5 writes Pythonic function calls (a Python list between <|tool_call_start|> and <|tool_call_end|> special tokens), as the assistant answer. You can override this behavior by asking the model to output JSON function calls in the system prompt.
  3. Function execution: The function call is executed, and the result is returned as a "tool" role.
  4. Final answer: LFM2 interprets the outcome of the function call to address the original user prompt in plain text.

See the Tool Use documentation for the full guide. Example:

<|startoftext|><|im_start|>system
List of tools: [{"name": "get_candidate_status", "description": "Retrieves the current status of a candidate in the recruitment process", "parameters": {"type": "object", "properties": {"candidate_id": {"type": "string", "description": "Unique identifier for the candidate"}}, "required": ["candidate_id"]}}]<|im_end|>
<|im_start|>user
What is the current status of candidate ID 12345?<|im_end|>
<|im_start|>assistant
<|tool_call_start|>[get_candidate_status(candidate_id="12345")]<|tool_call_end|>Checking the current status of candidate ID 12345.<|im_end|>
<|im_start|>tool
[{"candidate_id": "12345", "status": "Interview Scheduled", "position": "Clinical Research Associate", "date": "2023-11-20"}]<|im_end|>
<|im_start|>assistant
The candidate with ID 12345 is currently in the "Interview Scheduled" stage for the position of Clinical Research Associate, with an interview date set for 2023-11-20.<|im_end|>

🏃 Inference

LFM2.5 is supported by many inference frameworks. See the Inference documentation for the full list.

NameDescriptionDocsNotebook
TransformersSimple inference with direct access to model internals.Link
vLLMHigh-throughput production deployments with GPU.Link
llama.cppCross-platform inference with CPU offloading.Link
MLXApple's machine learning framework optimized for Apple Silicon.Link—
LM StudioDesktop application for running LLMs locally.Link—
OpenVINOIntel's toolkit for optimized inference on CPUs, GPUs, and NPUs.Link—

Here's a quick start example with Transformers:

from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer

model_id = "LiquidAI/LFM2.5-350M"
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    dtype="bfloat16",
#   attn_implementation="flash_attention_2" <- uncomment on compatible GPU
)
tokenizer = AutoTokenizer.from_pretrained(model_id)
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)

prompt = "What is C. elegans?"

input_ids = tokenizer.apply_chat_template(
    [{"role": "user", "content": prompt}],
    add_generation_prompt=True,
    return_tensors="pt",
    tokenize=True,
).to(model.device)

output = model.generate(
    input_ids,
    do_sample=True,
    temperature=0.1,
    top_k=50,
    repetition_penalty=1.05,
    max_new_tokens=512,
    streamer=streamer,
)

🔧 Fine-Tuning

We recommend fine-tuning LFM2.5 for your specific use case to achieve the best results.

NameDescriptionDocsNotebook
CPT (Unsloth)Continued Pre-Training using Unsloth for text completion.Link
CPT (Unsloth)Continued Pre-Training using Unsloth for translation.Link
SFT (Unsloth)Supervised Fine-Tuning with LoRA using Unsloth.Link
SFT (TRL)Supervised Fine-Tuning with LoRA using TRL.Link
DPO (TRL)Direct Preference Optimization with LoRA using TRL.Link
GRPO (Unsloth)GRPO with LoRA using Unsloth.Link
GRPO (TRL)GRPO with LoRA using TRL.Link

📊 Performance

Benchmarks

ModelGPQA DiamondMMLU-ProIFEvalIFBenchMulti-IF
LFM2.5-350M30.6420.0176.9640.6944.92
LFM2-350M27.5819.2964.9618.2032.92
Granite 4.0-H-350M22.3213.1461.2717.2228.70
Granite 4.0-350M25.9112.8453.4815.9824.21
Qwen3.5-0.8B (Instruct)27.4137.4259.9422.8741.68
Qwen3.5-0.8B (Thinking)19.29-*32.9322.0026.44
Gemma 3 1B IT23.8914.0463.4920.3344.25
ModelCaseReportBenchBFCLv3BFCLv4τ²-Bench Telecomτ²-Bench Retail
LFM2.5-350M32.4544.1121.8618.8617.84
LFM2-350M11.6722.9512.2910.825.56
Granite 4.0-H-350M12.4443.0713.2813.746.14
Granite 4.0-350M0.8439.5813.732.926.14
Qwen3.5-0.8B (Instruct)13.8335.0818.7012.576.14
Qwen3.5-0.8B (Thinking)0.3939.6425.3914.337.02
Gemma 3 1B IT2.2816.617.179.366.43

*Evaluation could not be completed due to doom looping.

CPU Inference

GPU Inference

📬 Contact

Citation

@article{liquidAI2026350M,
  author = {Liquid AI},
  title = {LFM2.5-350M: No Size Left Behind},
  journal = {Liquid AI Blog},
  year = {2026},
  note = {www.liquid.ai/blog/lfm2-5-350m-no-size-left-behind},
}
@article{liquidai2025lfm2,
  title={LFM2 Technical Report},
  author={Liquid AI},
  journal={arXiv preprint arXiv:2511.23404},
  year={2025}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Lfm2ForCausalLM
Ревизия весов
75ca29f

0 моделей