II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейKagura-Llama-3.1-8B-Instruct — дообученная языковая модель разработчика idkwhyitsnotworking на основе unsloth/meta-llama-3.1-8b-instruct-unsloth-bnb-4bit. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогового общения; в метаданных также отмечен интерфейс вызова инструментов. Обучение проводилось с использованием Unsloth и библиотеки TRL. Модель подходит для генерации ответов в чате и сценариев, где требуется текстовый помощник. В карточке указаны 7,5 млрд параметров, контекст длиной до 131 072 токенов и поддержка английского языка. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не уточняет специализацию дообучения или результаты оценки качества.
Carnice-V2-27b-GGUF — это квантизированная версия текстовой генеративной модели Carnice-V2-27b, разработанной kai-os и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель относится к семейству Qwen и предназначена для локального запуска в задачах генерации текста, диалогов и агентских сценариев; в метаданных также указаны направления SFT и Hermes-agent. Доступны варианты от BF16 до низкобитных квантизаций Q3, Q4, Q5, Q6, Q8 и IQ. Размер модели составляет 27 млрд параметров, а объём файлов зависит от выбранного варианта: примерно от 13 до 54 ГБ. Для квантизации применялся imatrix-подход, поэтому старшие варианты сохраняют качество, близкое к исходной модели, тогда как младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству. Архитектура, поддерживаемые языки и размер контекста в README не указаны. Модель совместима с llama.cpp и рядом приложений, включая LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие инструменты для локального инференса. Для работы требуется использовать указанный формат prompt с системными, пользовательскими и assistant-сообщениями. Распространение заявлено по лицензии Apache-2.0.
Kanana 1.5 8B Base — базовая языковая модель семейства Kanana, разработанная Kakao Corp. Это плотная авторегрессионная модель на архитектуре Llama с 7,5 млрд параметров, предназначенная для генерации текста и использования в качестве основы для прикладных решений и дальнейшей настройки. Метаданные также указывают поддержку диалогового сценария. Модель подходит для продолжения и генерации текста на английском и корейском языках, включая задачи, связанные с кодом и математикой. Контекстная длина составляет 32 768 токенов; README описывает расширение до 128K с применением YaRN и изменением конфигурации. Kanana 1.5 развивает возможности семейства в программировании, математике и вызове функций, однако в этой карточке приведён именно вариант Base, поэтому качество этих сценариев не следует считать гарантированным без дополнительной настройки. Модель распространяется по лицензии Apache-2.0.
Это дообученная разговорная модель devsungyeon на базе kakaocorp/kanana-1.5-8b-instruct-2505. Она предназначена для генерации текста в диалогах; метаданные также указывают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров, работает с контекстом до 32 768 токенов и распространяется в формате Safetensors. Карточка сообщает, что модель обучали с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. Язык карточки и языковой тег — английский; более широкие языковые возможности базовой модели не подтверждают отдельное назначение этой версии для других языков.
Модель hungpill/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная диалоговая языковая модель на архитектуре Llama, основанная на kakaocorp/kanana-1.5-8b-instruct-2505. Разработчик — hungpill; в карточке указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL. Модель предназначена для генерации текста в диалогах и поддерживает интерфейс вызова инструментов. Она содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 32 768 токенов. Карточка не описывает отдельные возможности или специализацию Persona-версии. Модель распространяется по лицензии Apache-2.0. Языковой тег карточки — en; это не подтверждает поддержку других языков.
Biggiraffe/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная языковая модель, опубликованная Biggiraffe. Она основана на Llama и предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Карточка указывает лицензию Apache-2.0. Данные подтверждают поддержку английского языка; сведений о специализации на других языках или предметных областях нет.
Hutgaecha/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная разговорная языковая модель, опубликованная Hutgaecha. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Контекст — до 32 768 токенов; файлы представлены в формате Safetensors. Модель дообучена с использованием Unsloth и библиотеки TRL. Карточка не описывает конкретные улучшения Safe-DPO, поэтому качество и поведение в задачах безопасности по ней оценить нельзя. Указана лицензия Apache-2.0.
Модель mgmbykai/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная автором mgmbykai разговорная языковая модель на архитектуре Llama с 7,5 млрд параметров. Она предназначена для генерации текста в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов, а файлы весов представлены в формате Safetensors. Модель дообучена на базе mgmbykai/kanana-1.5-8b-instruct-2505-Safe-DPO с использованием Unsloth и библиотеки TRL от Hugging Face. В карточке не описаны конкретные сценарии дообучения и результаты оценки качества. Лицензия — Apache-2.0; единственный явно отмеченный язык — английский.
Модель yoon112/kanana-1.5-8b-instruct-2505-Safe-DPO разработана yoon112 и представляет собой дообученную плотную авторегрессионную языковую модель семейства Llama с 7,5 млрд параметров. Она предназначена для генерации текста и диалогового общения; в метаданных также отмечен интерфейс для вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст длиной до 32 768 токенов. В карточке указаны английский язык, формат весов Safetensors и лицензия Apache 2.0. Для обучения использовались Unsloth и библиотека TRL; карточка не описывает отдельные специализированные области применения или результаты оценки качества.
Kanana-Nano-2.1B-Instruct — двуязычная языковая модель Kakao на 1,9 млрд параметров для генерации текста и диалогового взаимодействия по инструкциям. Она относится к плотной архитектуре Llama и предназначена для общения с пользователем, а также для текстовых задач на корейском и английском языках. Контекст модели составляет 8192 токена; веса опубликованы в формате safetensors и запускаются через Transformers. Серия Kanana создавалась с упором на вычислительную эффективность и конкурентные результаты на корейском и английском языках. Для серии описаны методы фильтрации данных, поэтапного предобучения, масштабирования глубины, прореживания и дистилляции, а также настройка инструкциями и оптимизация предпочтений. Карточка не приводит отдельные результаты именно этой версии; данные обучения, согласно README, не включали пользовательские данные Kakao. Модель выпущена Kakao и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Kappa-3 — разговорная языковая модель на архитектуре Phi-3, опубликованная failspy. Это вариант Phi-3 4K Instruct со сниженной склонностью отказывать в ответах; в README преобразование описано как orthogonalization. Модель предназначена для генерации текста в диалоге и ответов на широкий круг запросов. Модель содержит 3,7 млрд параметров, использует архитектуру Phi3ForCausalLM и принимает текст, выдавая текст. Контекст — до 4096 токенов. Репозиторий содержит веса safetensors в fp32; автор отмечает, что для практического запуска их желательно как минимум квантовать или привести к fp16, и указывает на отдельную fp16 GGUF-версию. Лицензия — MIT.
Kimiko v2 13B — языковая модель для генерации текста и диалогового взаимодействия, созданная nRuaif. В данном репозитории TheBloke предоставляет её квантизированные версии в формате GGUF для запуска через llama.cpp и совместимые инструменты. Модель основана на архитектуре Llama и имеет около 13 миллиардов параметров; заявленный язык — английский. Модель предназначена для чат-сценариев, ответов на вопросы и других задач генерации текста. В README приведён шаблон запросов в стиле Vicuna, ориентированный на получение полезных, подробных и вежливых ответов. Формат GGUF поддерживает метаданные, специальные токены и различные уровни квантования, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между качеством, размером файлов и требованиями к памяти. Поддерживаются CPU+GPU-сценарии и такие инструменты, как llama.cpp, text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие. К сильным сторонам относятся широкий выбор уровней квантования и совместимость с популярной экосистемой локального запуска моделей. Ограничения включают отсутствие заявленной поддержки дополнительных модальностей и других языков, а также возможное снижение качества у более агрессивно квантизированных вариантов. Условия лицензирования неоднозначны: указана лицензия creativeml-openrail-m, при этом модель также основана на Llama 2 и подпадает под условия лицензии Meta Llama 2; разработчик рекомендует уточнять взаимодействие этих лицензий в исходном репозитории.
jaspionjader/knfp-1 — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом SLERP из jaspionjader/knf-1-8b и Nekochu/Luminia-8B-RP. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она предназначена для генерации текста и диалоговых сценариев. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers; метаданные также указывают интерфейс для вызова инструментов. Модель можно применять для генерации ответов в чате и продолжения текста. Карточка не описывает отдельные языки, специальные предметные области или результаты оценки качества, поэтому такие свойства нельзя уточнить. Лицензия в предоставленных данных не указана.
ewof/koishi-instruct-3b — языковая модель на архитектуре GPT-NeoX, дообученная автором ewof на базе togethercomputer/RedPajama-INCITE-Base-3B-v1. Модель содержит 3,5 млрд параметров и предназначена для генерации текста в формате инструктивного диалога. В карточке описан формат промпта с ролями для служебной информации, пользовательского ввода и ответа модели; контекст составляет 2048 токенов. Модель может использоваться для ответов на запросы и продолжения диалога. В README приведены результаты оценки на бенчмарках ARC и HellaSwag. Веса доступны в формате safetensors. Язык модели и лицензия в предоставленных данных не указаны.
jaspionjader/Kosmos-EVAA-Franken-Immersive-v39-8B — объединённая автором jaspionjader языковая модель на архитектуре Llama с 7,5 млрд параметров. Она создана методом SLERP с помощью mergekit из моделей jaspionjader/fr-18-8b и jaspionjader/Kosmos-EVAA-Franken-v38-8B и предназначена для генерации текста в диалоговом формате. Модель принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Transformers. В карточке не описаны специализация по языкам, конкретные преимущества, результаты оценки или ограничения качества. Лицензия в предоставленных данных не указана.
Kosmos-EVAA-Franken-Immersive-v40-8B — языковая модель на архитектуре Llama, созданная jaspionjader с помощью слияния предобученных моделей jaspionjader/Kosmos-EVAA-Franken-Immersive-v39-8B и jaspionjader/knf-1-8b. Для слияния использован метод SLERP и инструмент mergekit; модель предназначена для генерации текста и диалогового взаимодействия. Модель содержит 7,5 млрд параметров, принимает текст и формирует текстовые ответы. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors. Языки модели в предоставленных данных не перечислены. Карточка не описывает отдельные специализированные сценарии или подтверждённые показатели качества. Лицензия в предоставленных данных не указана.
jaspionjader/Kosmos-EVAA-v3-8B — объединённая языковая модель семейства Llama, созданная разработчиком jaspionjader с помощью mergekit и метода SLERP из jaspionjader/Auro-Kosmos-EVAA-v2.2-8B и jaspionjader/Kosmos-EVAA-v2-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors для Transformers. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 8192 токена. Данные карточки не дают оснований указать конкретные языки или специализированные области применения. В README не приведены результаты оценки качества или подробные ограничения поведения. Лицензия в доступных данных не указана.
Kuno-Lake-7B — объединённая языковая модель на архитектуре Mistral, опубликованная saishf. Она создана методом DARE TIES с помощью mergekit на базе mistralai/Mistral-7B-v0.1 с включением моделей senseable/WestLake-7B-v2 и SanjiWatsuki/Kunoichi-DPO-v2-7B. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,1 млрд параметров, принимает текст и имеет контекстное окно до 32 768 токенов. В README приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не описывает целевые языки и прикладные области, поэтому её языковую специализацию определить нельзя.
KuTrix-7b — языковая модель на основе Mistral, созданная автором seyf1elislam методом слияния DARE TIES. В merge вошли SanjiWatsuki/Kunoichi-DPO-v2-7B и CultriX/NeuralTrix-7B-dpo; базовая архитектура — mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового запроса. В README приведены результаты оценивания на отдельных бенчмарках рассуждений и здравого смысла. Репозиторий содержит веса Safetensors, а также упоминает квантованные версии GGUF. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
L3.1-15B-EtherealMaid-t0.0001-alpha — языковая модель для генерации текста, созданная сообществом mergekit-community посредством объединения предварительно обученных моделей. Сборка использует метод passthrough и архитектуру LlamaForCausalLM; в метаданных указано 14,5 млрд параметров и контекст до 131 072 токенов. В объединении участвовали Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2 и v000000/L3-15B-EtherealMaid-t0.0001. Модель предназначена для диалоговой генерации текста и ответов на запросы. Метаданные отмечают поддержку чата и интерфейса вызова инструментов; конкретные качества этих возможностей в карточке не описаны. Используется библиотека Transformers, веса представлены в формате safetensors. Лицензия и ограничения на использование в предоставленных данных не приведены.
mergekit-community/L3.1-Boshima-b-FIX — текстовая диалоговая модель, созданная сообществом путём линейного слияния языковых моделей с помощью mergekit. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2, также в слияние включена mergekit-community/L3-Boshima-a. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Она построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Нативная длина контекста составляет 131 072 токена. Репозиторий использует формат safetensors и библиотеку Transformers. Карточка не описывает отдельные целевые языки, датасеты или специальные прикладные области. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить с карточками базовых моделей и условиями публикации репозитория. Модель унаследовала неконвенциональную направленность одной из базовых моделей; ответы могут быть менее ограниченными, а качество и безопасность вывода требуют оценки для конкретного применения.
L3.1-Noraian — объединённая языковая чат-модель автора djuna, созданная с помощью mergekit и метода della. В качестве базовой использована vicgalle/Configurable-Hermes-3-Llama-3.1-8B; в объединение также вошли несколько моделей семейства Llama 3.1 и адаптер для Llama 3 Instruct. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоге и поддерживает интерфейс вызова инструментов. В карточке не приведены оценки качества или подробное описание специализированных сценариев; языковую поддержку можно уверенно связать с англоязычной базовой моделью, но другие языки не заявлены. Файлы опубликованы в формате safetensors и доступны через Transformers. Лицензия в предоставленных данных не указана.
L3-Aethora-15B — диалоговая языковая модель, созданная Steelskull на основе семейства Llama 3. Это плотная causal language model с 14,5 млрд параметров, архитектурой LlamaForCausalLM и контекстом до 8192 токенов. Модель принимает текст и генерирует текст в формате запросов L3. Модель предназначена для диалогов и генерации ответов с акцентом на более податливое и содействующее поведение. В основе — изменённая сборка AbL3In-15b слиянием моделей, затем дообученная в течение четырёх эпох методами RS-LoRA и DoRA на датасете Aether-Lite-V1.2 примерно из 82 тысяч примеров. Репозиторий содержит веса Safetensors; доступны отдельные GGUF-квантизации. Лицензия — Llama 3. README описывает ослабление отказов, поэтому модель может отвечать на запросы, которые другие модели отклоняют; ответы требуют проверки, особенно при использовании в чувствительных сценариях. Языки обучения и качество на конкретных языках в карточке не уточняются.
L3-Pneuma-8B — дообученная Third-Space модель на архитектуре Llama 3.1 с 7,5 млрд параметров, созданная на базе meta-llama/Llama-3.1-8B-Instruct. Модель предназначена для диалоговой генерации текста; в метаданных также указана поддержка интерфейса вызова инструментов. Для обучения использован набор данных Sandevistan_cleaned.jsonl, а в карточке приведено значение loss 0,7796 на оценочной выборке. Модель работает с текстом и заявляет контекст до 131 072 токенов. Она использует Transformers, веса представлены в форматах PyTorch и Safetensors. Лицензия — Llama 3.1; применение должно соответствовать её условиям. Карточка не описывает специализацию набора данных, качества на конкретных задачах или ограничения поведения, поэтому такие свойства нельзя определить по имеющимся сведениям.
LaseredHermes-7B — языковая модель для диалогов и генерации текста, опубликованная LHC88. Это плотная авторегрессионная модель семейства Mistral объёмом 7,1 млрд параметров, обученная на базе Teknium/OpenHermes-2.5-Mistral-7B. По карточке, модель прошла второй этап дообучения с Direct Preference Optimization (DPO) на предпочтениях из Intel/orca_dpo_pairs и allenai/ultrafeedback_binarized_cleaned; также указаны данные wikitext2, ptb и c4 для процесса «Laser». Модель рассчитана на многоходовый чат, выполнение инструкций и свободную генерацию текста. Для диалога используется формат ChatML с ролями и системными сообщениями; заявлен контекст до 32 768 токенов. Карточка указывает английский язык. Веса доступны в формате safetensors, лицензия — Apache-2.0. Практические ограничения и сравнительные оценки качества в карточке не приведены; как и другие генеративные языковые модели, она может выдавать неточные ответы. Для корректного диалога следует использовать шаблон ChatML.
Lemer — это мультимодальная версия Gemma 4 E2B в формате GGUF, разработанная Lethean и основанная на форке LetheanNetwork/lemer. В модель встроен Lethean Ethical Kernel (LEK): его поведенческие настройки были добавлены через LoRA-файнтюнинг и объединены с весами, поэтому для работы не требуется отдельный PEFT-адаптер. Модель предназначена для диалоговых сценариев, генерации и анализа текста, а также обработки изображений и аудио, включая локальный запуск на устройствах с ограниченными ресурсами. Репозиторий содержит варианты квантования от Q3_K_M до BF16 размером примерно от 3,0 до 8,7 ГБ. Рекомендуемым указан Q4_K_M как компромисс между качеством и размером; Q3_K_M ориентирован на наиболее ограниченные устройства, а BF16 служит полноточной версией. Заявлена поддержка Ollama, llama.cpp, GPT4All, LM Studio и llama-cpp-python. Токенизатор содержит 262 тысячи токенов, однако размер контекстного окна и точный набор поддерживаемых языков в карточке не указаны. Сильными сторонами модели являются единый автономный GGUF-файл, мультимодальность, несколько уровней квантования и ориентация на локальный инференс. Ограничения включают отсутствие в README подробных результатов оценки, точных характеристик архитектуры и контекстного окна, а также потенциальные компромиссы качества при использовании квантованных вариантов. Модель распространяется по лицензии European Union Public Licence 1.2 (EUPL-1.2).
Leo Hessianai 7B Chat Bilingual — это двуязычная чат-модель на базе архитектуры Llama с 7 млрд параметров, разработанная LAION LeoLM. Представленная версия распространяется в формате GGUF и квантизирована TheBloke для запуска на CPU и GPU. Модель предназначена для генерации текста и диалогового взаимодействия на английском и немецком языках. Модель подходит для локальных чат-приложений, текстовых ассистентов и других сценариев генерации текста. Она поддерживается llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers. Для взаимодействия используется шаблон ChatML. README не указывает размер контекстного окна и конкретные показатели качества; квантизация может снижать требования к памяти и вычислительным ресурсам, но потенциально отражаться на точности по сравнению с исходной версией. Исходная модель обучалась с использованием немецкоязычных и многоязычных наборов данных, включая OpenSchnabeltier, OpenAssistant и наборы инструкций на немецком языке, а также англоязычные датасеты. Модель распространяется по лицензии Llama 2; условия применения следует проверять в соответствии с этой лицензией и требованиями исходной модели.
mrcuddle/Lexi-Lumimaid-Llama3.1-8B — языковая модель для диалоговой генерации текста, созданная слиянием методом SLERP двух моделей: NeverSleep/Lumimaid-v0.2-8B и Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2. Она основана на архитектуре Llama и содержит 7,3 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для ответов на запросы в чате и генерации текста по инструкциям, с интерфейсом для вызова инструментов. Модель распространяется в формате safetensors и использует библиотеку Transformers. В карточке указано слияние предварительно обученных языковых моделей; README описывает конфигурацию mergekit и тип данных bfloat16. Лицензия в предоставленных данных не указана. Поскольку в состав входит Lexi Uncensored, ответы могут быть менее ограничены обычными защитными фильтрами; качество и фактическое поведение зависят от запроса и способа применения.
LFM2-24B-A2B-GGUF — языковая модель семейства LFM2, разработанная Liquid AI для эффективного развертывания на периферийных устройствах и пользовательских компьютерах. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на ноутбуках и настольных компьютерах; доступна в формате GGUF с поддержкой llama.cpp, а также заявленной совместимостью с vLLM и SGLang. Модель использует гибридную архитектуру Mixture-of-Experts с 24 миллиардами общих параметров, из которых около 2 миллиардов активируются для каждого токена. По данным разработчика, она рассчитана на работу в пределах 32 ГБ оперативной памяти и обеспечивает высокую скорость инференса на совместимом оборудовании. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Размер контекста, конкретный вариант квантования и подробные результаты оценки в README не указаны. Сильными сторонами модели являются сочетание крупного общего числа параметров с низкими вычислительными затратами на токен, ориентация на локальное выполнение и высокая заявленная скорость генерации. Ограничения включают отсутствие в предоставленных данных подробностей о качестве по отдельным задачам, требованиях к точному объёму памяти для разных вариантов GGUF и поддерживаемом размере контекста. Модель распространяется по лицензии lfm1.0; условия лицензии следует уточнять в файле LICENSE.
mlx-community/LFM2.5-1.2B-Instruct-bf16 — версия модели LiquidAI LFM2.5-1.2B-Instruct, преобразованная сообществом mlx-community в формат MLX для запуска на устройствах Apple Silicon. Это плотная авторегрессионная языковая модель семейства LFM2, предназначенная для диалогов и генерации текста по инструкциям. Модель содержит около 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Модель подходит для локальных диалоговых помощников и генерации текста на нескольких языках, включая английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Репозиторий содержит веса в safetensors, а исходный чекпойнт преобразован с помощью mlx-lm 0.29.1. Лицензия указана как other, поэтому условия использования следует сверять с лицензией исходной модели LiquidAI/LFM2.5-1.2B-Instruct. Это компактная модель; качество и скорость могут уступать более крупным моделям, а практический запуск в формате MLX ориентирован на экосистему Apple.