II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейchargoddard/internlm2-20b-llama — преобразованная версия InternLM2-20B, представленная в формате весов Llama. Репозиторий содержит веса safetensors для генерации текста; модель имеет плотную архитектуру LlamaForCausalLM, около 19,3 млрд параметров и контекстное окно до 32 768 токенов. В метаданных указаны английский и китайский языки. Модель подходит для генерации и продолжения текста. Она основана на internlm/internlm2-20b и распространяется на условиях лицензии InternLM; метаданные обозначают лицензию как other.
Это GGUF-квантизированная версия чат-модели InternLM2.5-20B-Chat, исходно разработанной командой internlm, а квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях, например LM Studio. Для корректного взаимодействия следует использовать указанный в карточке шаблон prompt format с ролями system, user и assistant. Модель основана на архитектуре InternLM2.5 и имеет 20 млрд параметров; доступна в форматах от F32 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов составляет примерно от 6,97 до 79,45 ГБ, поэтому требования к памяти зависят от выбранного варианта. Более высокие уровни квантизации обычно обеспечивают лучшее качество, а компактные варианты позволяют запускать модель на системах с меньшим объёмом RAM, но могут заметно снижать точность. Для некоторых вариантов embeddings и output weights сохранены в Q8_0, что потенциально повышает качество. В карточке не указаны поддерживаемые языки, размер контекста, точная архитектура, результаты оценивания и ограничения по безопасности. Лицензия обозначена как other, без дополнительных условий в README, поэтому перед использованием необходимо проверить лицензию исходной модели InternLM2.5-20B-Chat и условия распространения конкретных файлов.
InternLM2-Chat-20B-ExPO — разговорная языковая модель на архитектуре InternLM2 с 19,3 млрд параметров, опубликованная пользователем chujiezheng. Она получена методом ExPO: веса SFT- и DPO/RLHF-чекпойнтов объединены экстраполяцией с коэффициентом alpha=0,5, чтобы улучшить соответствие предпочтениям людей. Модель предназначена для диалогов и генерации текста на английском и китайском языках; длина контекста составляет 32 768 токенов. В README приведены результаты оценок на AlpacaEval 2.0 и MT-Bench, где ExPO-версия показала улучшение относительно исходных вариантов для нескольких моделей. Чекпойнт сохранён в формате safetensors и использует лицензию other; конкретные условия лицензии следует сверять с карточкой репозитория. Оценки приведены для указанных в README моделей и бенчмарков, поэтому не гарантируют аналогичного выигрыша для любых запросов или сценариев.
Irixxed-Magcap-12B-Slerp — разговорная языковая модель, созданная Nitral-AI слиянием методом SLERP моделей DreadPoor/Irix-12B-Model_Stock и Nitral-AI/Violet_Magcap-12B. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; для генерации текста она использует библиотеку Transformers и формат весов safetensors. Модель предназначена для диалогов и генерации ответов с акцентом на рассуждения. В README указаны формат общения ChatML, пресеты для SillyTavern, блок рассуждений и быстрые ответы. Заявленная длина контекста — 1 024 000 токенов. Веса доступны также в вариантах GGUF Q8_0, Q5_K_M, Q4_K_M и ExL2 4bpw. Качество и поведение могут зависеть от шаблона диалога, пресета и выбранного варианта весов; README не приводит результаты оценки или подробное описание ограничений. Лицензия в предоставленных данных не указана.
Это GGUF-квантизации языковой модели Qwen3.5-4B-Neo, разработанной Jackrong и подготовленной quantized_by bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на генерацию текста и задач с рассуждениями, включая competitive programming; в метаданных также указаны LoRA, chain-of-thought и unsloth. Для запуска подходят llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые приложения. Модель имеет около 4 миллиардов параметров и распространяется в вариантах от BF16 до 3-битных и 4-битных квантизаций. Размер файлов составляет примерно от 2,33 до 8,42 ГБ; варианты различаются балансом между качеством и потреблением памяти. Для отдельных конфигураций заявлены высокое или близкое к исходному качество, а низкобитные варианты предназначены для систем с ограниченным объёмом RAM. В метаданных указаны языки English, Chinese и Korean; контекстное окно и точные архитектурные характеристики не приведены. README описывает текстовую модель, хотя pipeline_tag обозначен как image-text-to-text, поэтому возможности обработки изображений по представленным данным подтвердить нельзя. Модель может использоваться локально для генерации текста, решения задач программирования и экспериментов с reasoning-моделями. Ограничениями являются зависимость качества от выбранного уровня квантизации, отсутствие сведений о контекстном окне и подробных результатах оценки, а также возможная необходимость обновления программ для поддержки новой архитектуры. Указанная лицензия — Apache-2.0.
JustRL-Qwen3-8b-Selective-Top10pct — экспериментальный чекпойнт из экспериментов BiDirect-OPD, загруженный из `justrl_qwen3_8b_js_ladder_90_100_kl`. Основная ветка содержит состояние на шаге global_step_300; также доступны более ранние чекпойнты с шагов 20–280. Это плотная авторегрессионная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM и 7,6 млрд параметров. Модель предназначена для генерации текста и диалогового использования, принимает текст и выдаёт текст. В метаданных указан контекст длиной до 40 960 токенов; репозиторий содержит веса в формате safetensors. Карточка не описывает результаты оценки качества, конкретные сценарии эксперимента или ограничения применения. Лицензия не указана в предоставленных данных.
soyaakinohara опубликовал BF16-вариант K2-Horizon-32B, доработанный инструментом Heretic для ослабления отказов модели. Это плотная языковая модель семейства K2Horizon с 31,2 млрд параметров по метаданным; README указывает 34,8 млрд. Контекст составляет 524 288 токенов. Модель предназначена для генерации текста и диалогов на английском и других языках. Веса в формате safetensors разделены на 64 файла, их общий размер — около 69,6 ГиБ; для загрузки требуется примерно 70 ГиБ памяти. Для запуска необходимы Transformers и trust_remote_code=True. Изменение выполнено через ослабление отказов Heretic и слияние LoRA с исходными BF16-весами; дополнительного обучения не проводилось. В README приведён результат испытания: 3 отказа из 100 и KL-дивергенция 0,056. Модель распространяется по лицензии Apache-2.0. Доступны также квантизованные версии в отдельном репозитории GGUF.
K2-Horizon-MoVA-36B-A4B-GGUF — квантованная версия модели IFM/K2-Horizon-MoVA-36B-A4B, опубликованная abenzerps в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и поддерживает сценарии диалогов и вызова инструментов; доступен формат tool calling с вариантами xml, json и xml_typed. Это разреженная Mixture-of-Experts-модель с архитектурой Mixture-of-Values attention (MoVA): всего 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Исходная модель поддерживает контекст до 524 288 токенов (512K), а заявленный язык — английский. Модель текстовая и не требует vision projector. Доступны варианты квантования Q3_K_M, Q4_K_M, Q4_0, Q5_K_M, Q6_K и Q8_0 размером примерно от 17,66 до 39,83 ГБ. Ключевое преимущество модели — сочетание большого контекстного окна, разреженной MoE-архитектуры и нескольких вариантов квантования для выбора компромисса между качеством и требованиями к памяти. Для запуска требуется сборка llama.cpp с поддержкой архитектуры K2 Horizon, включая форк MBZUAI-IFM до появления поддержки в основной ветке. Лицензия исходной модели — Apache-2.0; фактическая производительность зависит от выбранной квантовки и доступной памяти.
Sakalti/Kan1-2.5b — компактная плотная языковая модель для генерации текста на архитектуре Qwen2, созданная слиянием чекпойнтов Qwen/Qwen2.5-7B-Instruct методом Model Stock с помощью mergekit. Модель содержит около 1,9 млрд параметров и принимает контекст до 32 768 токенов. Модель подходит для диалогов, генерации текста и структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Она использует библиотеку Transformers и распространяется в формате safetensors. В README и метаданных не описаны отдельная специализация, языковой охват и результаты оценки качества, поэтому конкретные сценарии требуют проверки на собственных данных. Лицензия в предоставленных источниках не указана.
Модель kangkys/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная автором kangkys языковая модель на базе kakaocorp/kanana-1.5-8b-instruct-2505. Это плотная Llama-архитектура с 7,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; в метаданных также отмечен интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Модель подходит для чат-ботов и генерации ответов на текстовые запросы. В карточке указаны английский язык, обучение с использованием Unsloth и библиотеки TRL, а также лицензия Apache-2.0. README не описывает отдельные показатели качества или специализированные сценарии применения, поэтому их нельзя оценить по доступным данным.
Модель kihyun-K/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная разговорная языковая модель семейства Llama, опубликованная kihyun-K. Она предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. В README указано, что модель дообучена на базе kihyun-K/kanana-1.5-8b-instruct-2505-Safe-DPO с использованием Unsloth и библиотеки TRL от Hugging Face. Репозиторий содержит веса Safetensors. Указана лицензия Apache-2.0. Карточка не описывает отдельно результаты, целевые сценарии или ограничения дообучения.
Kanana-2-30B-A3B-Base — базовая языковая модель семейства Kanana-2, разработанная Kakao. Она предназначена для генерации текста и служит основой для вариантов, настроенных на следование инструкциям и рассуждения. Архитектура MoE включает 30 млрд параметров, из которых активны около 3 млрд; используются MLA, 128 экспертов и выбор шести экспертов на токен. Модель реализована как DeepseekV3ForCausalLM и распространяется в формате safetensors для Transformers. Модель рассчитана на контекст до 32 768 токенов и поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. Подходит для генерации продолжений и построения языковых приложений, включая агентные системы, однако карточка описывает улучшенные вызов инструментов и следование сложным инструкциям для семейства Kanana-2 в целом, а не гарантирует эти функции для базовой версии. Для контекста до 128 тысяч токенов README предлагает отдельно настроить YaRN. Указана лицензия other; конкретные условия использования следует сверять с лицензией репозитория.
Arch-Function-Chat-7B-GGUF — квантизированная GGUF-версия модели Arch-Function-Chat-7B, разработанной katanemo и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и чат-сценариев, включая задачи, связанные с function calling, и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Это языковая модель размером 7B параметров с поддержкой английского языка. В репозитории представлены варианты от исходных BF16-весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, объёмом примерно от 3,55 до 15,24 ГБ. Для работы следует использовать указанный формат prompt с ролями system, user и assistant. Более качественные варианты требуют больше оперативной памяти, тогда как низкобитные версии экономичнее, но заметно уступают в качестве. Модель ориентирована на локальный запуск и предоставляет широкий выбор компромиссов между качеством, размером и скоростью инференса; в README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4_K_M. Архитектура, размер контекстного окна, мультимодальность и дополнительные языки не указаны. Распространение осуществляется по лицензии katanemo-research; подробные условия приведены в LICENSE исходной модели.
Klear-46B-A2.5B-Base — базовая языковая модель со sparse Mixture-of-Experts архитектурой, разработанная командой Kwai-Klear компании Kuaishou. В модели 46 млрд параметров, при генерации активируются около 2,5 млрд; всего используется 256 экспертов, из которых на слой выбираются 8 экспертов и один общий. Каталог указывает 2,2 млрд параметров, а README — 46 млрд общих и 2,5 млрд активных; вероятно, значение каталога отражает иной способ подсчёта. Модель предназначена для генерации текста и служит базой для последующей адаптации под диалоговые, математические, STEM- и программные задачи. Она обучена на более чем 22 трлн токенов, поддерживает контекст до 65 536 токенов и рассчитана на китайский и английский языки. Для запуска README рекомендует Transformers версии 4.56.0 или новее с trust_remote_code=True; также упоминается форк vLLM. Модель опубликована под лицензией Apache-2.0. Это базовая, а не instruction-tuned версия, поэтому для прямого диалогового использования может потребоваться дополнительная настройка. README приводит результаты внутренних и внешних бенчмарков; для HumanEval авторы отдельно отмечают чувствительность оценки к формату запросов.
GAI-LLM/ko-en-llama2-13b-mixed-v2 — авторегрессионная языковая модель на архитектуре LLaMA 2, разработанная Донхуном О, Ханмином Мён и Ынён Ким из SK C&C G.AI Eng. Модель содержит 12,9 млрд параметров, принимает текст и генерирует текст; максимальный контекст — 2048 токенов. Модель дообучена на базе hyunseoki/ko-en-llama2-13b с использованием смешанной стратегии на наборах Kopen-platypus, Everythinglm v2, koalpaca_v1.1 и koCoT2000. Она предназначена для генерации текста на корейском и английском языках, включая ответы на запросы и следование инструкциям. Использование регулируется лицензией CC BY-NC 2.0, которая ограничивает коммерческое применение.
Kosmos-EVAA-gamma-light-8B — объединённая с помощью mergekit методом SLERP языковая модель семейства Llama, созданная из jaspionjader/Kosmos-EVAA-gamma-8B и jaspionjader/Kosmos-EVAA-v12-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и предназначена для генерации текста; длина контекста составляет 8192 токена. Модель подходит для генерации и продолжения текста в сценариях, где нужна компактная языковая модель. В карточке не приведены сведения о поддерживаемых естественных языках, специализированных областях или результатах оценки качества. Репозиторий содержит веса в формате safetensors и доступен по лицензии, указанной в метаданных Hugging Face.
Kosmos-EVAA-PRP-v34-8B — слитая методом SLERP языковая модель семейства Llama, созданная jaspionjader с помощью mergekit из jaspionjader/Kosmos-EVAA-PRP-v33-8B и jaspionjader/Kosmos-EVAA-PRP-v31-8B. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров для генерации текста; она принимает текст и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Карточка не уточняет целевые сценарии, языки и лицензию, поэтому качество и условия использования следует оценивать по карточкам исходных моделей и самого репозитория.
kuno-dogpark-7b — объединённая текстовая модель на 7,1 млрд параметров, созданная автором репозитория на основе SanjiWatsuki/Kunoichi-DPO-v2-7B и mlabonne/Monarch-7B с помощью LazyMergekit. Веса объединены методом SLERP; архитектура — плотная MistralForCausalLM, формат хранения — safetensors. Модель предназначена для генерации текста, диалогов и ответов на вопросы. Она принимает текст и выдаёт текст, а заявленное максимальное окно контекста составляет 8192 токена. README приводит результаты оценки на бенчмарках, включая средний балл 74,82, но не описывает конкретные языки или специализированные области применения. Репозиторий опубликован по лицензии CC BY-NC 2.0, которая ограничивает коммерческое использование. Качество ответов и пригодность для конкретных задач следует оценивать отдельно; характеристики базовых моделей не гарантируют такие же результаты у их слияния.
MSuryakumar выполнил дообучение языковой модели Qwen2.5-3B-Instruct с помощью Unsloth и библиотеки TRL от Hugging Face. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 32 768 токенов. В метаданных также заявлен интерфейс для вызова инструментов. Модель подойдёт для создания чат-ботов, генерации ответов и интеграции в текстовые приложения. В карточке не описаны специализация дообучения, обучающие данные и результаты оценки качества, поэтому её преимущества для конкретных областей не установлены. Поддержка английского указана в метаданных. Лицензия — Apache-2.0.
L3.1-8b-TheSpice-V0.9-Base-v2 — текстовая генеративная модель семейства Llama, опубликованная cgato. Это версия на 7,5 млрд параметров с плотной архитектурой LlamaForCausalLM и контекстом до 131 072 токенов; для диалогов используется формат ChatML. Модель прошла начальный этап дообучения на общих данных и предназначена для генерации текста и диалоговых сценариев общего назначения. Она не настроена специально для ролевых игр и не проходила обучение с подкреплением, поэтому автор отмечает, что ответы могут быть несфокусированными. В репозитории указаны веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.
L3.1-Artemis-faustus-8B — слитая диалоговая языковая модель сообщества mergekit-community на архитектуре Llama. Она объединяет mergekit-community/L3.1-Artemis-d-8B и DreadPoor/Aurora_faustus-8B-LINEAR методом SLERP; в репозитории представлены веса Safetensors, а для работы используется библиотека Transformers. Модель содержит 7,5 млрд параметров, имеет контекстное окно 8192 токена и предназначена для генерации текста и диалоговых ответов. Её можно применять для чат-ботов, свободного продолжения текста и ответов на запросы на естественном языке. В карточке не приведены сведения о поддерживаемых естественных языках и специальные ограничения качества. Лицензия в предоставленных данных не указана.
L3.3-70B-Lycosa-v0.2 — диалоговая языковая модель на архитектуре Llama, созданная сообществом divinetaco путём слияния нескольких предварительно обученных моделей с помощью mergekit. В состав вошли DeepSeek-R1-Distill-Llama-70B, Sao10K/70B-L3.3-Cirrus-x1, TheDrummer/Nautilus-70B-v0.1, Doctor-Shotgun/L3.3-70B-Magnum-v4-SE и SicariusSicariiStuff/Negative_LLAMA_70B. Размер модели — 69,5 млрд параметров, контекст — до 131 072 токенов; она загружается через Transformers из файлов safetensors. Модель предназначена для диалогов, творческого письма и рассуждений. Автор отмечает, что версия v0.2 усиливает влияние DeepSeek-R1-Distill-Llama-70B и нацелена на повышение интеллектуальных возможностей, снижение положительной предвзятости и творческий ответ; рекомендуется шаблон чата DeepSeek-R1-Distill-Llama-70B. Метаданные также указывают интерфейс вызова инструментов. Модель распространяется по лицензии Llama 3.3. В тегах отмечен контент NSFW, поэтому она не рассчитана исключительно на аудиторию всех возрастов. В README нет результатов сравнительных оценок качества.
L3.3-MS-Evayale-70B-GGUF — GGUF-квантизированная версия модели L3.3-MS-Evayale-70B, разработанной Steelskull и подготовленной bartowski. Это текстовая генеративная модель для запуска локально через llama.cpp и совместимые приложения, включая LM Studio. Модель создана на основе merge-модели, однако подробности об исходных компонентах в README не приведены. Модель имеет около 70 млрд параметров и поддерживает несколько вариантов квантизации: от Q8_0 с максимальным качеством до Q2_K_L с существенной экономией памяти. Доступны форматы Q4, Q5, Q6, Q8, IQ и другие варианты, включая специальные сборки для ARM и AVX. В README указан шаблон промпта с системными и пользовательскими сообщениями, совместимый с форматом Llama 3.3. Модальность — текстовая; сведения о языках и размере контекста не указаны. Сильной стороной модели является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, размером файла и требованиями к памяти; для большинства сценариев автор рекомендует Q4_K_M, Q5 и Q6-варианты. Более компактные сборки подходят для систем с ограниченным объёмом RAM, но обеспечивают более низкое качество. Некоторые варианты оптимизированы для ARM, однако отдельные сборки не рекомендуется использовать на Mac или с GPU. Лицензия в предоставленном README не указана.
SvalTek/L3-ColdBrew-Euclidean — объединённая языковая модель семейства Llama, созданная с помощью mergekit методом breadcrumbs_ties. В объединении использованы SvalTek/L3-ColdBrew-Arcadia как базовая модель и SvalTek/L3-ColdBrew-OldSpice; в README указан вес 0,7 для OldSpice. Модель содержит 9,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; библиотека для работы — Transformers. Модель предназначена для генерации текста и ведения диалогов. Контекст составляет до 8192 токенов. Данные не уточняют языки, на которых модель специально обучена, её сильные стороны или ограничения по качеству. Лицензия в предоставленных данных не указана.
LateOn-Code-pretrain — модель LightOn из коллекции PyLate LateOn-Code, предназначенная для поиска по коду. Это предварительно обученная модель позднего взаимодействия ColBERT на архитектуре ModernBERT: она формирует многовекторные представления запросов и фрагментов кода для поиска релевантных результатов. В репозитории указаны веса размером 149 млн параметров, контекст до 8192 токенов и форматы Safetensors и ONNX. Модель обучена на данных CoRNStack для поиска кода и рассчитана на английский язык и программный код. Она подходит для поиска фрагментов кода по текстовому запросу и интеграции в системы извлечения информации; README приводит результаты бенчмарков MTEB Code. Это именно предварительно обученная версия: последующая настройка на наборах CoIR описана для модели LateOn-Code. Модель распространяется по лицензии Apache-2.0.
LexGPT-V2.5 — языковая модель общего назначения от автора lex-hue, предназначенная для генерации текста и экспериментов с разработкой ИИ. Она построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате Safetensors, лицензия — MIT. Модель предназначена для генерации ответов, учебных экспериментов, STEM-сценариев и ролевых диалогов. В README приводится оценка MT-Bench 7,920530 в среднем и отмечается, что модель находилась в активной разработке. Язык модели в предоставленных данных не установлен. Автор предупреждает о возможности предвзятых, оскорбительных или вредоносных ответов и характеризует модель как в значительной степени нецензурируемую. Для практического применения следует проверять результаты и предусматривать меры безопасности.
LFM2.5-1.2B-Thinking-MLX-bf16 — экспорт модели LFM2.5-1.2B-Thinking в формате MLX от Liquid AI для локального запуска на устройствах Apple Silicon. Это плотная авторегрессионная языковая модель семейства LFM2, предназначенная для диалогов и генерации ответов с рассуждением: перед итоговым ответом она может формировать цепочку рассуждений. В README заявлены 1,2 млрд параметров и точность bfloat16; каталог указывает 1,5 млрд параметров. Контекст — до 128 000 токенов. Модель поддерживает вызов функций и рассчитана на многоязычные сценарии. В метаданных указаны английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Для запуска описан стек mlx-lm и формат диалога ChatML. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке модели и у правообладателя. Как компактная модель, она может уступать более крупным системам в сложных задачах; качество и надёжность рассуждений зависят от запроса и сценария.
WhiskyAKM/LFM2.5-2.6B-NVFP4-GGUF — квантованная GGUF-сборка текстовой модели Liquid AI LFM2.5-2.6B, подготовленная для локального запуска через llama.cpp на CPU и GPU. В основе лежит LiquidAI/LFM2.5-2.6B-Base; в карточке указаны архитектура LFM2, около 2,69 млрд параметров и гибридная структура из 30 слоёв, включая свёрточные слои и GQA. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и агентных сценариев с вызовом инструментов. Она поддерживает контекст до 131 072 токенов и ориентирована на эффективный запуск на устройстве. Файл NVFP4 использует 4-битное представление для уменьшения требований к памяти. Репозиторий указывает лицензию `other`; конкретные условия следует сверять с карточкой базовой модели и файлами лицензии. В README заявлены сильные стороны в использовании инструментов и длинном контексте, но независимые результаты оценки не приведены.
LFM2.5-350M-MLX-bf16 — экспорт модели LiquidAI LFM2.5-350M в формате MLX для инференса на компьютерах Apple с Apple Silicon. Это компактная плотная языковая модель с гибридной архитектурой, сочетающей свёрточные и attention-слои; в репозитории указаны точность bf16 и размер 676 МБ. Контекстная длина составляет до 128 000 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В метаданных указана поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Репозиторий помечен лицензией other; конкретные условия следует сверить с лицензией проекта перед использованием.
mlx-community/LFM2.5-8B-A1B-MLX-4bit — 4-битная MLX-версия языковой модели LiquidAI LFM2.5-8B-A1B, конвертированная сообществом mlx-community с использованием mlx-lm 0.31.1. Модель предназначена для генерации текста и запуска в экосистеме MLX, в том числе для локального инференса через mlx-lm. Это авторегрессионная модель с архитектурой lfm2_moe: гибрид из 18 блоков double-gated short-conv и 6 блоков внимания GQA, с разреженным MoE на 32 эксперта и активацией 4 экспертов на токен. Она содержит около 8,3 млрд параметров, из которых активно используется около 1,5 млрд, и поддерживает контекст до 128 тысяч токенов. Заявлены языки: английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский. README не содержит сведений о мультимодальных возможностях или результатах бенчмарков. К сильным сторонам относятся разреженная MoE-архитектура, большой контекст и 4-битное представление, потенциально снижающее требования к памяти при запуске в MLX. Ограничения включают зависимость от экосистемы MLX и отсутствие в README подробностей о качестве на конкретных задачах. Модель является производной от LiquidAI LFM2.5-8B-A1B и распространяется по лицензии LFM Open License v1.0 (lfm1.0); применяются условия коммерческого использования этой лицензии.