II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейVimarckoso v3 — языковая модель для генерации текста с акцентом на рассуждения и следование инструкциям, созданная автором проекта Lamarck. Это объединённая модель семейства Qwen2 с 14 млрд параметров; в README описаны вклады нескольких моделей и LoRA-адаптеров, направленные на усиление рассуждений, качества прозы и следования инструкциям. Модель предназначена для диалогов, ответов на вопросы и задач, где нужны развернутые рассуждения и связный текст. Поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. Автор сообщает об улучшении следования инструкциям без заметной потери качества рассуждений; приведены ориентиры по результатам на бенчмарках GPQA и MUSR, но количественные результаты в карточке не указаны. Модель создана слиянием нескольких чекпойнтов, а README также описывает применение LoRA при формировании рецепта. Для запуска через Ollama автор рекомендует использовать конфигурацию как для Qwen2.5 14B Instruct и температуру 0,8.
Карточка модели histakes/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored на Hugging Face совпадает с карточкой DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored, поэтому описание составлено по ней. DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored — текстовая MoE-модель для генерации ответов и творческого письма. По карточке автора, это объединение 12 дистиллированных моделей Qwen3 по 4 млрд параметров, включая модели с рассуждением; пользователь может выбирать экспертов, указывая их имена в запросе. В метаданных указаны архитектура Qwen3 MoE, 3,7 млрд параметров, библиотека Transformers и контекст до 262 144 токенов; автор заявляет об активации двух экспертов по умолчанию и возможности задействовать до 12. Модель предназначена для диалогов, рассуждений, математики, программирования и создания художественных текстов, в том числе хоррора и романтики. Сильная сторона — переключение между экспертами для разных запросов; результат и скорость зависят от выбранных экспертов и их числа. Автор предупреждает, что модели нужно явно задавать желаемый стиль и уровень откровенности, а чрезмерное квантование может заметно ухудшить работу. По README, модель аблитерирована для уменьшения отказов и рассчитана на генерацию откровенного, в том числе NSFW-контента. Лицензия в метаданных — Apache-2.0.
Saka-14B — объединённая языковая модель на архитектуре Qwen2, созданная Sakalti методом TIES с помощью mergekit на основе Qwenvergence-14B-v11 и Lamarck-14B-v0.7. Модель содержит 14 млрд параметров, работает с текстом и рассчитана на генерацию ответов в диалоге; каталог также отмечает интерфейс вызова инструментов. Длина контекста составляет 131 072 токена. Модель может применяться для диалоговых сценариев и генерации текста. В README не приведены оценки качества, конкретные поддерживаемые языки или дополнительные ограничения. Файлы представлены в формате safetensors; лицензия в доступных данных не указана.
Smaug Dolphin 60B — объединённая методом MoErge языковая модель на архитектуре Mixtral, созданная на основе abacusai/Smaug-34B-v0.1 и cognitivecomputations/dolphin-2.2-yi-34b-200k. Она предназначена для диалоговой генерации текста. В метаданных указаны 33,9 млрд параметров и контекст до 200 000 токенов; репозиторий содержит веса в формате safetensors. В README приведены результаты оценивания на бенчмарках рассуждений и понимания текста, включая средний балл 76,44, ARC и HellaSwag. Карточка сообщает, что модель работает ожидаемо, а оценки ещё проводятся. Лицензия обозначена как other, поэтому условия использования следует сверять с файлами лицензии репозитория.
T5Gemma — семейство текстовых моделей кодировщик–декодер, разработанное Google; этот вариант настроен для следования инструкциям и использует PrefixLM. Модель основана на T5Gemma с 9 млрд параметров в кодировщике и 9 млрд в декодере, адаптированной из авторегрессионной Gemma в архитектуру кодировщик–декодер. Модель принимает и генерирует текст на английском языке. Она предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации и рассуждений; карточка также описывает применение семейства для творческого письма, черновиков писем и задач NLP. Весовые файлы опубликованы в формате safetensors. Как и другие генеративные модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и испытывать трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; при использовании следует учитывать правила допустимого применения моделей Gemma.
Terminis-7B — объединённая языковая модель от Q-bert, созданная слиянием v1olet/v1olet_marcoroni-go-bruins-merge-7B и mistralai/Mistral-7B-Instruct-v0.2 методом SLERP. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; её контекстное окно — 32 768 токенов. Модель предназначена для генерации текста и работы в форматах диалога ChatML и инструкций Alpaca. Лицензия — Apache-2.0. Карточка не приводит результатов оценки, поэтому качество на конкретных задачах по ней определить нельзя.
TheBeagle-v2beta-32B-MGS — экспериментальная инструктивная языковая модель команды Beagle, дообученная на базе Qwen/Qwen2.5-32B-Instruct. Это плотная модель семейства Qwen2 с 32 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. В качестве обучающих данных использован набор Magpie-Align/Magpie-Pro-300K-Filtered, обучение проведено за одну эпоху. Заявленная длина контекста — 32 768 токенов; метаданные указывают английский язык. Модель предназначена для диалоговой генерации текста и следования инструкциям; результаты приведённых в карточке оценок относятся к набору тестов без chat template. Разработчик сообщает о значении loss 0,5378 и приводит оценки IFEval и BBH, но этих данных недостаточно для вывода о качестве в конкретных приложениях. Выпуск обозначен как beta и экспериментальный. Лицензия основана на условиях Qwen с дополнительным требованием включать «Beagle» или «MGS» в название производных моделей; перед использованием следует свериться с полным текстом лицензии.
Карточка модели xDAN2099/xDAN-APUS4-MoE-v3.1-0410 на Hugging Face совпадает с карточкой xDAN2099/APUS-xDAN-4.0-MoE-v2, поэтому описание составлено по ней. APUS-xDAN-4.0-MoE-v2 — авторская decoder-only трансформерная языковая модель с архитектурой Mixture of Experts, разработанная командой xDAN. В карточке указаны 136 млрд параметров и активация двух экспертов на токен; метаданные репозитория классифицируют веса как MixtralForCausalLM с 33,9 млрд параметров. Модель продолжает обучение на архитектуре LLaMA и опирается на возможности серии xDAN-L2; README сообщает об использовании обратной связи от людей для улучшения рассуждений, математических и логических задач. Модель предназначена для генерации текста и диалогового использования. Заявленная длина контекста — 32 768 токенов; метаданные указывают английский и китайский языки. README также описывает варианты квантования от 1,5 до 4 бит и совместимость открытой версии с потребительскими GPU. Репозиторий распространяется по лицензии CC BY 4.0.
Карточка модели jondurbin/airoboros-l2-7b-2.1 на Hugging Face совпадает с карточкой jondurbin/airoboros-l2-13b-2.1, поэтому описание составлено по ней. airoboros-l2-13b-2.1 — языковая модель на архитектуре Llama 2, дообученная Jondurbin на синтетических инструкциях Airoboros. Она предназначена для диалогов и выполнения инструкций: ответов по заданному контексту, написания текстов и следующих глав, ролевых бесед, помощи с кодом, планирования и генерации аргументов функций в JSON или YAML. В обучающий набор вошли примеры стилизованных ответов и экспериментальные форматы ролевых диалогов. Модель содержит 12,9 млрд параметров, работает с текстом и имеет нативное контекстное окно 4096 токенов. Для диалогов используется формат с маркерами USER и ASSISTANT; карточка рекомендует останавливать генерацию при появлении USER:, поскольку модель может продолжить имитацию диалога. В README указано, что версия 2.1 имеет ошибку форматирования промптов при обучении, которая может ухудшать работу; заявлена как экспериментальная. Модель распространяется по лицензии Llama 2. В карточке описан небольшой набор для ослабления цензурных ограничений, поэтому ответы могут включать чувствительный контент; качество и соблюдение инструкций не гарантированы.
Модель ganesh714/arq_m1_chairs_think_Q7b_C — дообученная языковая модель семейства Qwen2 на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Она построена на архитектуре Qwen2ForCausalLM и содержит 7,1 млрд параметров; модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. В README указано, что обучение выполнялось с Unsloth и библиотекой TRL. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Лицензия — Apache-2.0. В карточке нет подробностей о специализации дообучения или оценках качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.
Breeze-7B-32k-Base-v1_0 — базовая языковая модель MediaTek Research из семейства Breeze-7B, построенная на архитектуре Mistral-7B. Это декодерный трансформер с 7,2 млрд параметров и контекстом до 32 768 токенов; словарь расширен до 62 тысяч токенов для лучшей работы с традиционным китайским языком. Модель рассчитана на английский и традиционный китайский (zh-TW) и предназначена для дальнейшего дообучения под конкретные задачи. Увеличенное контекстное окно позволяет обрабатывать длинные документы и извлекать сведения из текста, распределённого по большому контексту. В описанных тестах модель показала более 90% точности при поиске ключа в длинном контексте и улучшенные результаты на длинных вариантах DRCD по сравнению с Breeze-7B-Base. Это базовая модель, поэтому её обычно дообучают перед применением для диалога и других прикладных задач. Распространяется по лицензии Apache-2.0.
Карточка модели Smilesjs/chemsmart-qwen2.5-coder-3b-merged на Hugging Face совпадает с карточкой Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7, поэтому описание составлено по ней. Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.
Clarus-7B-v0.1 — языковая модель на архитектуре Qwen2, созданная методом SLERP merge из gz987/qwen2.5-7b-cabs-v0.3 и gz987/qwen2.5-7b-cabs-v0.4. Разработчик объединил предварительно обученные модели с помощью mergekit; число параметров составляет 7,1 млрд, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения на английском языке. Метаданные также отмечают интерфейс вызова инструментов. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество на конкретных задачах. Модель распространяется по лицензии MIT.
dan-omni-3b-q3s — квантизированная версия модели dan-omni-3b, созданная с применением Q3_K_S для ускорения вывода и снижения требований к памяти. В README указаны дообучение LoRA на инструкционных данных для мобильных устройств и базовая модель Qwen2.5-3B; репозиторий содержит формат GGUF. Модель предназначена для генерации ответов в диалогах и выполнения общих инструкций на устройствах с ограниченной памятью. Она подходит для вопросов, письма, математики, программирования, перевода и творческих задач; заявленная длина контекста — 4096 токенов. Модель принимает и выдаёт текст, мультимодальные возможности отсутствуют. По сравнению с вариантом Q4_K_M README заявляет меньший размер и более быстрый вывод при небольшом снижении качества. Квантизация может ухудшать результаты на сложных задачах рассуждения. Лицензия репозитория — Apache-2.0.
shadowml/DareBeagel-2x7B — языковая модель для диалоговой генерации текста, созданная объединением mlabonne/NeuralBeagle14-7B и mlabonne/NeuralDaredevil-7B в MoE-архитектуру Mixtral с помощью LazyMergekit. Конфигурация использует случайный режим маршрутизации экспертов. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для чатов и генерации ответов на текстовые запросы; в README приведены результаты оценки на задачах рассуждения и продолжения здравого смысла. Репозиторий распространяется по лицензии Apache-2.0. README озаглавлен Beyonder-2x7B-v2, тогда как идентификатор репозитория содержит DareBeagel-2x7B.
Zigeng/dParallel_Dream_7B_Instruct — инструктивная языковая модель семейства Dream, разработанная исследователями xML Lab Национального университета Сингапура. Она использует подход dParallel: дистилляцию с принудительным повышением уверенности токенов, предназначенную для параллельного декодирования диффузионных языковых моделей и сокращения числа шагов генерации при сохранении качества. Модель подходит для диалоговой генерации текста и задач, где важна быстрая генерация ответов; в карточке также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру Dream, 7,1 млрд параметров и контекст до 131 072 токенов. Репозиторий содержит веса Safetensors; лицензия — MIT. README описывает ускорение на GSM8K и MBPP для dParallel, применённого к LLaDA-8B-Instruct, но не приводит отдельные показатели для этой Dream-модели.
Experiment28M7_Experiment26Yam — объединённая модель Mistral от MaziyarPanahi, созданная на основе automerger/Experiment28M7-7B и automerger/Experiment26Yam-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжения текста на основе текстового запроса. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Веса представлены в формате Safetensors. Репозиторий распространяется по лицензии Apache-2.0.
FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.
Fijik 2.0 350M SFT — компактная языковая модель Pinkstack для генерации текста и диалогов на устройствах с ограниченными ресурсами. Она основана на Granite 4.0 350M Base и имеет архитектуру GraniteMoeHybrid; по описанию автора, это вариант без слоёв Mamba. Модель содержит около 352,3 млн параметров, работает с контекстом до 65 536 токенов с масштабированием YaRN и распространяется в формате safetensors. Модель предназначена для быстрого инференса на периферийных устройствах и поддерживает сценарии с агентными задачами, рассуждениями и вызовом инструментов через шаблон чата. Обучение включало непрерывное предобучение и supervised fine-tuning на смешанных данных, включая диалоги, код, веб-поиск и использование инструментов. Внутренние сравнительные тесты автора показывают конкурентные результаты среди моделей схожего размера, но метрики приведены как pass@4 и не являются независимой оценкой. Модель не проходила RLHF; автор сообщает о настройке безопасности в ходе SFT и рекомендует задавать системную инструкцию для ответов при недостатке информации. Лицензия — Apache-2.0. Она может уступать более крупным моделям, а сам автор отмечает слабые результаты на математических задачах.
deepset/gbert-large-sts — немецкоязычная модель deepset для оценки семантического сходства пар текстов. Она основана на GBERT-large и дообучена на обучающей и валидационной частях немецкого STS-бенчмарка, полученного машинным переводом. Архитектура — BERT для классификации последовательностей, размер — 434,5 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для сравнения немецких фраз и предложений: например, для поиска похожих формулировок, сопоставления запросов и группировки семантически близких текстов. В карточке указана оценка на тестовой части немецкого STS-бенчмарка, но численные результаты не приведены. Веса доступны в форматах PyTorch и safetensors; лицензия — MIT.
fraQtl/Gemma-4-E2B-it-Hi-Fi-GGUF — это GGUF-квантизация модели google/gemma-4-E2B-it, подготовленная fraQtl с использованием calibration-aware per-tensor quantization. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе на устройствах с ограниченными ресурсами. Заявлены английский язык, работа без подключения к сети и сценарии edge/on-device. В репозитории представлены варианты Q4_K_M: изоразмерный файл объёмом около 3,46 ГБ с эффективными 5,93 битами на вес и телефонный вариант около 2,86 ГБ с 4,89 битами на вес. По приведённым измерениям, они точнее воспроизводят распределения исходной модели в сравнении с указанным community Q4_K_M baseline. На iPhone 16-класса для демонстрационного сценария заявлены около 516 МБ resident memory, примерно 12 токенов в секунду в интерактивном режиме и 21,6 токена в секунду в тесте генерации на 256 токенов. Модель подходит для офлайн-ассистентов, общих вопросов, генерации кода, чтения документов и работы в приложениях, где действия выполняются отдельным детерминированным программным слоем. В демонстрации поддерживаются голосовой ввод, озвучивание ответов, календарные операции и работа с контактами, однако распознавание речи, синтез речи и фактическая запись событий выполняются компонентами приложения, а не самой языковой моделью. По замыслу отсутствуют сетевые вызовы, доступ к электронной почте и сообщениям; квантизация может снижать точность по сравнению с исходной bf16-моделью. Лицензия — Apache 2.0.
GoGPT2-7B — китайско-английская языковая модель, созданная ICT на базе Llama 2 7B. Это плотная авторегрессионная модель семейства Llama с 6,8 млрд параметров и контекстом 2048 токена; веса доступны в формате PyTorch. Разработчики расширили словарь Llama с 32 000 до 68 420 токенов, продолжили предобучение на китайском корпусе и выполнили supervised fine-tuning на наборах инструкций и диалогов на китайском и английском языках. Модель предназначена для генерации текста по запросу: ответов на вопросы, диалогов, объяснений, перевода и написания кода. Примеры в карточке показывают такие сценарии, как сравнение понятий, помощь с тайм-менеджментом и программирование. Карточка приводит лишь примеры ответов, поэтому они не подтверждают точность модели; возможны фактические ошибки и некорректный код. Репозиторий распространяется по Apache-2.0, однако авторы README отдельно указывают на исследовательское использование и запрещают коммерческое применение связанных ресурсов; это ограничение следует учитывать при использовании модели.
GrayLine — диалоговая текстовая модель soob3123, созданная дообучением Qwen/Qwen3-8B. Она предназначена для прямых ответов на вопросы и выполнения инструкций в формате чата; автор описывает её как модель без встроенной этической фильтрации и отказов. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, принимает и генерирует текст, поддерживает контекст до 40 960 токенов. В карточке заявлена поддержка английского языка; метаданные также указывают интерфейс вызова инструментов. Модель ориентирована на информационные запросы, диалог и выполнение разнообразных текстовых задач с прямой подачей ответа. Она может выдавать вредный, вводящий в заблуждение или неподходящий контент и, согласно карточке, не предоставляет встроенных предупреждений и защитных фильтров; качество ответов зависит от обучающих данных. Распространяется по лицензии Apache-2.0.
h2oai/h2ogpt-4096-llama2-7b — языковая модель H2O.ai, основанная на Meta Llama 2 7B. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 6,6 млрд параметров с контекстом до 4096 токенов; репозиторий содержит веса PyTorch и Safetensors. Модель предназначена для генерации текста и может служить основой для диалоговых приложений, включая ответы на вопросы по документам. H2O.ai указывает, что модель можно дообучать с помощью h2oGPT и H2O LLM Studio. Карточка и метаданные указывают английский язык. Модель распространяется по лицензии Llama 2; перед использованием следует соблюдать её условия. К ограничениям относятся унаследованные от Llama 2 возможные ошибки и недостаточная надёжность ответов, а также ограничение контекста в 4096 токенов.
Inex16Calme-7B — слитая Maxime Labonne модель для генерации текста на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она создана автоматическим слиянием MSL7/INEX16-7b и MaziyarPanahi/Calme-7B-Instruct-v0.1.1 методом SLERP; в конфигурации указана точность bfloat16. Модель подходит для генерации продолжений текста и диалоговых ответов в сценариях, где полезен длинный контекст. Для использования предлагается загрузка через Transformers. Модель распространяется по лицензии Apache-2.0.
Это репозиторий mradermacher с GGUF-квантованными вариантами JiRackDeltaNet 27B, созданными на основе CMSManhattan/JiRackDeltaNet_27b. Репозиторий содержит статические квантизации TQ1_0 и TQ2_0 размером примерно 7,1 и 8,3 ГБ соответственно; автор указывает, что варианты с weighted/imatrix-квантизацией в этой публикации не представлены. Модель предназначена для генерации текста и диалогового использования. Метаданные базовой модели описывают её как многоязычную разговорную модель для локального CPU-инференса, кодирования, RAG и вызова инструментов; сама карточка этого GGUF-репозитория главным образом сообщает о доступных файлах квантования и их использовании. Заявлены языки английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. Лицензия — MIT. Квантованные файлы уменьшают требования к памяти, но TQ1_0 и TQ2_0 могут уступать исходным весам по качеству; README не приводит сравнительных оценок. Для работы с GGUF требуется совместимый загрузчик, а для многосоставных файлов — их корректная сборка.
L3.1-70b-Inori — разговорная модель на архитектуре Llama 3.1, созданная автором KaraKaraWarehouse как экспериментальный merge методом Model Stock с помощью LazyMergekit. В объединение вошли Glitz, Dracarys, Euryale, Cathallama, New Dawn, Celeste и Japanese-Instruct; конфигурация указывает bfloat16. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ролевых бесед, ответов на вопросы и помощи с кодом; среди компонентов есть модель, ориентированная на японский язык. README использует формат чата L3 Instruct. Автор отмечает непоследовательную цензуру: модель иногда отказывается генерировать откровенный текст, а иногда отвечает на такие запросы, и не рекомендует её к использованию. Лицензия в предоставленных данных не указана.
LFM2.5-VL-1.6B-GGUF — квантизированная версия универсальной vision-language модели LFM2.5-VL-1.6B от Liquid AI, опубликованная Unsloth. Модель предназначена для задач, объединяющих изображения и текст, включая описание изображений, визуальное понимание, OCR и анализ документов, а также локальные сценарии на устройствах с ограниченными ресурсами. В основе используется языковая часть LFM2.5-1.2B-Base и vision encoder SigLIP2 NaFlex, оптимизированный для изображений, размером 400M параметров; общий заявленный размер базовой модели — 1,6B параметров. Модель поддерживает контекст до 32 768 токенов и словарь из 65 536 токенов. Она работает на английском, арабском, китайском, французском, немецком, японском, корейском и испанском языках. Обрабатывает изображения с исходным разрешением до 512×512 пикселей, сохраняет нестандартные пропорции, а большие изображения разбивает на неперекрывающиеся тайлы с дополнительной миниатюрой для общего контекста. Максимальное число визуальных токенов и тайлов можно настраивать, выбирая баланс между скоростью и качеством. Сильные стороны модели — улучшенное следование инструкциям, мультиязычное понимание изображений, обработка нескольких изображений, высокое разрешение и OCR. Она подходит для общих vision-language сценариев и потокового описания видео. Ограничение — низкая пригодность для задач, требующих глубоких энциклопедических знаний. Для запуска в llama.cpp необходим параметр --jinja; карточка также указывает исправленный Unsloth chat template. Лицензия обозначена как lfm1.0, с отдельной ссылкой на текст лицензии Liquid AI.
ryugyosoft 提供の LFM2-8B-A1B-onw は、LiquidAI/LFM2-8B-A1B を Intel NPU 上で onw エンジンにより動かすために変換した MoE 言語モデルです。メタデータでは総パラメータ数は 1.4B、アーキテクチャは Lfm2MoeForCausalLM、コンテキスト長は 128,000 トークンとされています。README では元モデルを 8.3B パラメータ、1 トークンあたり約 1.5B активных параметров и 32 эксперта, из которых выбираются 4, описывает; различие в оценках числа параметров между источниками не объясняется. Модель предназначена для диалогов и генерации текста на локальном компьютере с Intel NPU, включая суммаризацию, редактирование кода и использование через совместимый с OpenAI API сервер. В README заявлена скорость 16–17 токенов в секунду на NPU 3720, а для ответов, переиспользующих исходный текст, — 29–43 токена в секунду с проверкой упреждающего декодирования. Модель использует INT4-квантизацию экспертных весов и INT8-встраивания и распространяется в графах OpenVINO для движка onw. Указаны японский и английский языки. Для Ubuntu требуется драйвер linux-npu-driver версии 1.38 или новее, а для запуска — отдельный движок onw версии 0.3 или новее. Качество ответов может отклоняться от исходной модели через несколько токенов. Лицензия — LFM Open License v1.0; коммерческое использование ограничено условиями лицензии исходной модели.
aifeifei799 выпустил вариант Llama 3.1 8B Instruct с пометкой Uncensored. Это авторегрессионная плотная языковая модель на архитектуре Transformer с Grouped-Query Attention; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для многоязычных ассистентских сценариев и генерации текста. Карточка основана на описании Meta Llama 3.1 Instruct и указывает на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Пометка Uncensored указывает на изменённые ограничения ответа, но README не описывает метод или объём дообучения и не подтверждает конкретные свойства этого изменения. Модель доступна в формате Safetensors по лицензии Llama 3.1 Community License; перед применением следует учитывать условия лицензии и самостоятельно оценивать безопасность ответов.