I.14Автоматизация процессов и AI-агенты

AI4SGI-ExoMind-9B-GGUF — набор GGUF-квантизаций компактной модели ExoMind-9B, разработанной Shanghai AI Laboratory и дообученной на базе Qwen3.5-9B. Данный репозиторий поддерживается prithivMLmods и содержит варианты модели с точностью от BF16 до Q3_K_S. Модель предназначена для ресурсосберегающих экспериментов в области научного рассуждения и агентных исследовательских сценариев. ExoMind-9B ориентирована на ответы на научные вопросы, математическое и вычислительное рассуждение, поиск источников, обоснование выводов по доступным свидетельствам, исполняемую проверку результатов, интеграцию наблюдений, использование инструментов и создание агентных прототипов. Она сохраняет мультимодальные возможности базовой модели Qwen3.5 для работы с текстом и изображениями, поддерживает английский и китайский языки и имеет контекстное окно до 262 144 токенов. Обучение проводилось методом progressive Chain-of-Interaction на траекториях рассуждений и взаимодействия. К сильным сторонам относятся компактный размер в 9 миллиардов параметров, широкий контекст, мультимодальность, поддержка научно-исследовательских и tool-use-сценариев, а также доступность нескольких GGUF-квантизаций для запуска через llama.cpp и совместимых инструментов. При этом отдельные официальные результаты бенчмарков для ExoMind-9B не приведены: опубликованные показатели относятся к более крупной модели ExoMind-35B-A3B и не должны переноситься на эту версию. Модель выпущена по лицензии Apache License 2.0; сопутствующие материалы, бренд ExoMind и некоторые элементы публикации могут регулироваться отдельными условиями.

AREX-Base — большая модель исследовательского агента семейства AREX, разработанного Пекинской академией искусственного интеллекта (BAAI). Она предназначена для длительных задач поиска информации, сбора и проверки свидетельств из нескольких источников и подготовки ответов с учётом множества ограничений. Модель дообучена на Qwen/Qwen3.5-122B-A10B и использует архитектуру Mixture-of-Experts: 122 млрд параметров всего, из них 10 млрд активируются при обработке. Контекстное окно составляет 262 144 токена. AREX-Base поддерживает диалог и интерфейс вызова инструментов. В исследовательском цикле она сохраняет проверенные выводы, источники, отвергнутые варианты и нерешённые вопросы, а затем уточняет план поиска, проверяет предварительный ответ и при необходимости продолжает исследование или начинает его заново. Модель предназначена для агентных сценариев с многоэтапным поиском, просмотром источников и интеграцией свидетельств; README описывает работу с текстовыми данными и инструментами, а метаданные указывают мультимодальную базовую модель Qwen. В карточке заявлена лицензия Apache-2.0. Большой размер модели предполагает высокую стоимость обслуживания; качество ответов зависит от доступных источников и подключённых инструментов.

Citaman/command-r-28-layer — текстовая модель на архитектуре Cohere, созданная методом слияния SLERP из весов Citaman/command-r-29-layer. Конфигурация объединяет сдвинутые диапазоны слоёв 0–28 и 1–29; сохранённые веса имеют формат safetensors и точность bfloat16. Модель содержит 25,1 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Подходит для чат-сценариев и генерации ответов на текстовые запросы. Языки в доступных сведениях не определены. Модель выпущена 16 апреля 2024 года. Условия лицензирования в предоставленной карточке не указаны. Поскольку это слияние весов с нестандартной перестановкой диапазонов слоёв, поведение и совместимость могут отличаться от исходной модели; оценок качества в карточке нет.

hezarai/crnn-base-fa-v2 — модель оптического распознавания персидского текста, разработанная Hezarai. Она основана на архитектуре CRNN: сверточная нейросеть извлекает признаки изображения, а LSTM обрабатывает последовательность символов. Модель предназначена для распознавания печатного текста на сканированных документах и изображениях; для полного OCR-конвейера её следует применять после детектора текстовых областей. По сравнению с предыдущей версией использует датасет в пять раз больше, принимает изображения размером 32×384 и поддерживает вывод длиной до 96 символов. Обрабатывает цифры и специальные символы, а также автоматически учитывает символы слева направо, например цифры внутри персидского текста. Лучше всего работает с фрагментами текста длиной примерно до 50 символов. Модель можно дообучать для других областей, включая номера автомобилей и рукописный текст. Опубликована под лицензией Apache-2.0.

Kaballas/Cyber13 — языковая модель Kaballas, дообученная на Kaballas/Cyber8. Это плотная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель поддерживает контекст длиной до 131072 токенов и имеет интерфейс для вызова инструментов. Модель хранится в формате PyTorch и распространяется по лицензии Apache-2.0. В README указано, что при обучении использовались Unsloth и библиотека TRL; заявлено ускорение обучения вдвое. Карточка не описывает специализацию или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять самостоятельно.

Decision-2.0-Lux-9B — текстовая модель принятия решений семейства Decision 2.0, разработанная командой vLLM Semantic Router. Она принимает текст или JSON и за один проход отвечает на вопросы выбора из нескольких вариантов, «да/нет» и оценки по шкале, выдавая вероятности для каждого ответа без генерации связного текста. Модель содержит 7,94 млрд параметров, имеет контекст длиной 16 384 токена и построена на архитектуре Decision2. По данным авторской оценки, она набрала 68,1 на JevArena, а медианное время ответа на один вопрос составило 18,4 мс на одном GPU. Подходит для пакетной оценки вариантов и условий, классификации без примеров и выбора действий по входным данным. Это дообучение vllm-sr/Decision-1.0-Lux-9B, опубликованное в формате safetensors и распространяемое по лицензии Apache-2.0. Показатели скорости и качества приведены авторами; результаты могут отличаться на других задачах и конфигурациях.

squanchyzx/DeepSeek-V4-Flash-0731-HERETIC-Abliterated-FP8 — производная модель от DeepSeek-V4-Flash-0731, разработанной DeepSeek. Релиз создан издателем squanchyzx с использованием Heretic v1.4.0, проекта Philipp Emanuel Weidmann и соавторов. Модель предназначена для генерации текста, рассуждений, работы с инструментами и длительных агентских сессий, особенно в сценариях с большими историями диалога и большим количеством вызовов инструментов. Модель сохраняет официальную архитектуру DeepSeek V4/DSpark, native FP8-представление, официальный encoder, tokenizer и конфигурацию базовой модели. В версии v2 изменены attention output projections в слоях 10–42: применена rank-3 коррекция refusal subspace для режимов chat, think-high и think-max со сниженной силой lambda=1.35. MTP/DSpark-тензоры, эксперты, embeddings, norms, heads и остальные компоненты не изменялись. Заявлено сконфигурированное контекстное окно до 1 048 576 токенов; для запуска требуется DeepSeek-V4-совместимый runtime и официальный encoder. Сильной стороной релиза является целевая проверка устойчивости к деградации в длинных историях: в опубликованных тестах 12 из 12 длинных воспроизведений завершились без повторяющихся последовательностей, переключения скриптов и других патологий, а 6 из 6 проверенных вызовов инструментов были корректными. При этом результаты являются ограниченными релизными тестами, а не универсальным бенчмарком: короткая проверка качества дала 11 из 12 успешных результатов, а refusal smoke — 6 из 16. Совместимость с обычными runtime без поддержки DeepSeek V4 не гарантируется. Модель распространяется по лицензии MIT. При этом используемый проект Heretic имеет отдельную лицензию AGPL-3.0-or-later; README подчёркивает, что Heretic не принадлежит издателю модели.

Qwen3.6-27B-Uncensored-HauhauCS-Aggressive — модификация базовой модели Qwen3.6-27B, разработанная HauhauCS. Это мультимодальная модель для работы с текстом, изображениями и видео, представленная в формате GGUF и предназначенная для запуска в llama.cpp, LM Studio и других совместимых средах. Она ориентирована на агентное программирование, использование инструментов, рассуждения, творческое письмо и ролевые сценарии, а версия Aggressive специально настроена на прямые ответы без предварительных оговорок на жёсткие запросы. README заявляет отсутствие отказов в тесте из 465 запросов, однако это утверждение следует считать характеристикой автора сборки, а не независимой гарантией поведения модели. Модель содержит 27 млрд плотных параметров, 64 слоя и гибридную архитектуру с 48 слоями линейного внимания Gated DeltaNet и 16 слоями полноценного Gated Attention. Нативный контекст составляет 262 тыс. токенов и может быть расширен примерно до 1 млн с помощью YaRN. Указана поддержка английского, китайского и других языков, а также встроенная мультимодальность; для обработки визуальных данных поставляется отдельный компонент mmproj. Доступны квантизированные варианты от Q8 до Q2, включая специализированные K_P-квантизации, оптимизированные для сохранения качества. Сильными сторонами являются большой контекст, поддержка текста, изображений и видео, широкий выбор вариантов квантизации и отсутствие изменений в заявленных исходных возможностях Qwen3.6-27B. Ограничение версии Aggressive — менее сдержанная манера поведения и отсутствие защитных отказов, что повышает риски при использовании. Модель распространяется по лицензии Apache-2.0; сведения о требованиях к аппаратному обеспечению в README не приведены, но размер файлов квантизаций составляет примерно от 10 до 32 ГБ, не считая mmproj размером 928 МБ.

en_PP-OCRv3_mobile_rec — компактная модель распознавания текстовых строк из семейства PP-OCRv3_rec, разработанная командой PaddleOCR. Она обучена на основе PP-OCRv3_mobile_rec и предназначена для распознавания английского текста на изображениях. Модель преобразует изображение отдельной текстовой строки в текст. В составе конвейера PP-OCRv3 её можно использовать вместе с обнаружением текста и дополнительными модулями коррекции ориентации и геометрии изображения, чтобы извлекать текст из документов и других изображений. README приводит оценку качества распознавания строк, при которой строка считается ошибочной, если неверен хотя бы один символ или знак пунктуации. Для работы используется библиотека PaddleOCR; лицензия репозитория — Apache-2.0. Модель ориентирована на английский текст, поэтому её не следует считать универсальным многоязычным распознавателем; распознавание строк также предполагает, что области текста уже выделены или обрабатываются отдельной моделью конвейера.

EraX-VL-7B-V1.5 do Nguyễn Anh Nguyên, Nguyễn Hồ Nam, Phạm Huỳnh Nhật và Phạm Đình Thục phát triển, với tài trợ của Bamboo Capital Group và EraX. Đây là mô hình Transformer đa phương thức gồm 7,1 tỷ tham số, được tinh chỉnh từ Qwen/Qwen2-VL-7B-Instruct để nhận diện nội dung trong ảnh và trả lời câu hỏi về hình ảnh. Модель поддерживает диалог с несколькими ходами и ориентирована в первую очередь на вьетнамский язык, при этом заявлены также английский и китайский. Модель предназначена для OCR и визуальных вопросов и ответов, в том числе для извлечения данных из удостоверений, водительских прав, регистрационных документов и квитанций, а также описания изображений. Разработчики выделяют документы для медицинских учреждений и страховых компаний; модель не обучалась на рентгеновских снимках и данных об автомобильных авариях. Для качественного результата может потребоваться тщательно подбирать запрос. Контекст составляет 32 768 токенов. Лицензия — Apache 2.0.

eslav_PP-OCRv5_mobile_rec — мобильная модель распознавания строк текста из семейства PP-OCRv5_rec, разработанная командой PaddleOCR. Она предназначена для извлечения текста из изображений, особенно на восточнославянских языках, и выдаёт распознанную строку. Модель можно использовать как компонент OCR-конвейера PaddleOCR вместе с обнаружением текста и другими модулями обработки изображений. В README приведена точность 81,6% на наборе данных восточнославянских языков; строка считалась ошибочной при неверном распознавании любого символа, включая пунктуацию. Это мобильный вариант, рассчитанный на эффективное распознавание текста в строках. Репозиторий указывает лицензию Apache-2.0.

EXAONE-4.0-1.2B — компактная плотная авторегрессионная языковая модель LG AI Research для диалогов, генерации текста и запуска на устройствах. Модель содержит около 1,3 млрд параметров по метаданным; в конфигурации README указано 1,07 млрд параметров без эмбеддингов. Она поддерживает контекст до 65 536 токенов и использует 30 слоёв, групповые запросы внимания с 32 головами и 8 KV-головами, а также словарь из 102 400 токенов. Модель предлагает режимы обычного ответа и рассуждения, а также интерфейс вызова инструментов. Заявлена поддержка английского, корейского и испанского языков; особенно ориентированные языки — английский и корейский. Модель рассчитана на локальные и встроенные сценарии, где важны небольшой размер и длинный контекст, а также на диалоговые приложения и агентные системы. Ответы могут содержать фактические ошибки, предвзятость или неподходящую информацию; знания модели могут быть устаревшими. Для режима рассуждений качество чувствительно к параметрам генерации. Лицензия указана как other; README сообщает об обновлении условий в сторону большей гибкости, но конкретные условия следует сверять с лицензией репозитория.

Это дообученная и затем модифицированная абляцией отказов версия Gemma-4 12B Coder, опубликованная tpls. Модель предназначена для генерации кода и агентных сценариев с вызовом инструментов. Веса доступны в формате safetensors; README также указывает на отдельные готовые GGUF-квантизации. Архитектура — плотная Gemma4 Unified. Размер 12 млрд параметров указан в названии модели. Модель обучена методом SFT с QLoRA для работы с нативной разметкой вызова инструментов Gemma-4, после чего из весов удаляли направление отказа. Для обработки вызовов инструментов в llama.cpp требуется серверный shim: без него парсер может не распознать нативную разметку. Автор сообщает о прохождении 8 тестовых сценариев с shim, но это ограниченная выборка, а не общая оценка качества. Поддерживаемый язык карточки — английский. Лицензия — Gemma. Ответы и аргументы инструментов могут быть ошибочными или вымышленными, поэтому их следует проверять до выполнения. Из-за существенно ослабленных защитных механизмов модель не подходит для систем, где требуется поведение отказа.

nypgd/gemma-4-e2b-assistant-vllm — дообученная разработчиком nypgd мультимодальная модель семейства Gemma 4 на базе unsloth/gemma-4-E2B-it. Она предназначена для диалогов с текстом и изображениями; каталог также отмечает интерфейс вызова инструментов. Модель представлена в формате safetensors и обучалась с использованием Unsloth и библиотеки TRL. Модель подходит для вопросов по изображениям и документам, а также для ассистентских сценариев с подключением инструментов. В карточке не приведены сведения о размере, длине контекста и конкретных языковых возможностях; метаданные указывают английский язык. Лицензия — Apache-2.0.

GLiClass Base v1.0 — компактная модель классификации последовательностей от разработчиков семейства GLiClass, вдохновлённая GLiNER. Она выполняет классификацию текста без дообучения на конкретной разметке: пользователь задаёт категории, а модель оценивает текст за один проход. В карточке указана архитектура GLiClass; веса доступны в форматах Safetensors и ONNX. Размер версии Base в README — 186 млн параметров. Модель подходит для классификации тем и тональности, а также для оценки релевантности документов в RAG-сценариях. В тестах zero-shot она показала результаты на наборах IMDB, AG_NEWS и Emotions; точность зависит от задачи и формулировок категорий. Обучение проводилось на синтетических данных. Карточка заявляет возможность коммерческого использования, а метаданные указывают лицензию Apache-2.0.

GLiClass Edge v3.0 — компактная модель классификации последовательностей от Knowledgator на архитектуре GLiClass. Она предназначена для классификации текста без обучения на конкретном наборе меток: можно задавать категории для тематической классификации и анализа тональности. Модель также подходит для ранжирования результатов в RAG-системах. В карточке указаны 32,7 млн параметров и размер 131 МБ; веса опубликованы в формате safetensors. Модель обучали на логических задачах, используя LoRA-адаптеры, чтобы сохранить ранее приобретённые знания. По данным README, Edge быстрее более крупных вариантов GLiClass V3 в приведённых тестах, но показывает более низкий F1 на указанных наборах классификации; результаты зависят от задачи и формулировки меток. Поддерживаемые языки и длина контекста в предоставленных данных не обозначены. Лицензия — Apache-2.0.

GLiNER2 Arabic Multi-Task — это дообученная Fastino модель GLiNER2, разработанная для извлечения сущностей и анализа арабского текста. Она содержит 287 млн параметров, использует архитектуру BoundaryExtractor и энкодер mDeBERTa-v3. Модель основана на fastino/gliner2.5-multi-v1; все четыре выходные головы дообучены на арабских данных. Веса доступны в формате safetensors по лицензии CC BY-SA 4.0. Модель принимает текст и заданные пользователем названия задач, меток или полей схемы. Она извлекает сущности и связи, классифицирует текст по одной или нескольким меткам и формирует структурированные записи, значения которых должны быть фрагментами исходного текста. Арабские и английские схемы поддерживаются; настройка охватывает арабские сущности, диалект, сарказм, тональность и некоторые отношения. Предусмотрена обработка произвольных типов сущностей в zero-shot режиме, хотя качество таких запросов зависит от типа данных и схемы. Модель предназначена для аналитики арабских обращений клиентов, публикаций в социальных сетях и новостей, включая выявление персональных данных, разметку намерений и извлечение записей. На диалектных, саркастических и тональных метках возможен перекос к частым классам, а уверенность может быть высокой даже при ошибке. Для числовых сущностей рекомендуется использовать короткие списки типов; идентификаторы следует дополнительно проверять регулярными выражениями. При токенизации нужно удалять диакритические знаки и татвиль, а извлечённые значения и структурированные записи проверять на соответствие исходному тексту.

Gorilla-7B-HF-Delta-v0 — авторегрессионная языковая модель на архитектуре Transformer и семействе LLaMA, разработанная Gorilla LLM при UC Berkeley. Модель содержит 6,6 млрд параметров и дообучена на APIBench для вызова API Hugging Face по запросам на естественном языке; версия рассчитана на работу без примеров в промпте и предназначена для генерации корректных по смыслу и синтаксису вызовов API. Модель принимает текстовые инструкции и выдаёт текст с вызовами API. В проекте заявлена работа с более чем 1600 API и снижение галлюцинаций при выборе и оформлении вызова. В метаданных указан английский язык; контекст составляет 2048 токенов. Модель распространяется по лицензии Apache-2.0.

HelixLM — языковая модель из серии открытых моделей Helix, разработанная Helix Lab. Это плотная авторегрессионная модель семейства Llama для генерации текста; карточка описывает её как релиз-кандидат, дообученный с чередованием этапов рассуждения. Модель ориентирована на математические задачи, понимание кода и многошаговые логические задачи, а также поддерживает диалог и интерфейс вызова функций. HelixLM рассчитана на решение сложных задач с более продолжительным внутренним рассуждением перед ответом. Разработчик сообщает о конкурентных результатах на внутренних наборах проверки, но не приводит размер модели или длину контекста. Для запуска рекомендуется температура 0,6; модель также предлагается через игровую площадку и API. Модель распространяется по лицензии Apache-2.0. Это релиз-кандидат; заявленные показатели основаны на внутренних тестах и в README не приведены подробные сведения о методике оценки. Увеличенный бюджет рассуждений может повышать расход токенов и задержку ответа.

Hemlock2-Coder-7B-GRPO — дообученная методом GRPO модель для генерации кода, разработанная на основе hemlang/Hemlock2-Coder-7B. Во время обучения ответы модели выполнялись в изолированной среде интерпретатора Hemlock и оценивались по совпадению стандартного вывода с проверенным эталоном. Используется архитектура Qwen2ForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Доступны веса safetensors и квантованный вариант GGUF Q8_0. Модель предназначена для генерации и исправления кода, в том числе задач с проверкой результата выполнением. В описанном тесте Hembench она улучшила pass@1 с 28,9% до 36,8% относительно базовой модели; наибольший прирост отмечен для синтаксиса и системного кода с конкурентностью. Лицензия — Apache-2.0. README сообщает о тестировании на небольшом наборе примеров (n=5), поэтому приведённые показатели не гарантируют аналогичного качества на других задачах.

Hermes 2 Pro BakLLaVA — объединённая мультимодальная модель vonjack на архитектуре LlavaForCausalLM с языковой частью Mistral и компонентами mm_projector и vision_tower от BakLLaVA. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для диалогов и выполнения инструкций, ответов на вопросы по изображениям, вызова функций и генерации JSON. В карточке заявлены хорошие результаты в QA, function calling, JSON mode и работе с изображениями; среди языков указан английский. Использование разрешено по лицензии Apache-2.0.

II-Search-4B — языковая модель Intelligent Internet на базе Qwen3-4B, дообученная для поиска информации и рассуждений с использованием веб-поиска. Модель содержит около 3,7 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 98 304 токенов. Модель предназначена для ответов на фактические вопросы, многошагового поиска и проверки сведений по нескольким источникам. Она умеет работать с инструментами веб-поиска и посещения страниц, строить планы поиска и составлять подробные отчёты по исследовательским запросам. В README приведены результаты бенчмарков, но они не гарантируют точность ответов в каждом сценарии. Это текстовая модель для генерации ответов; для актуального веб-поиска требуется предоставить ей соответствующие инструменты и среду их выполнения. Модель распространяется по лицензии Apache-2.0.

Imgscope-OCR-2B-0527 — мультимодальная модель prithivMLmods, дообученная на базе Qwen2-VL-2B-Instruct. Она принимает изображения и текстовые запросы и генерирует текст; заявленные сценарии включают распознавание печатного текста и сложного рукописного письма, разбор структуры документов, ответы на вопросы по изображениям и преобразование математических выражений в LaTeX. В карточке также заявлены работа с видео и диалоговый режим. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2-VL и формат safetensors; длина контекста — 32 768 токенов. Для обучения указаны наборы OCR чеков и счетов, LaTeX OCR и извлечения информации из LaTeX-документов. README заявляет поддержку OCR на нескольких языках, включая английский, китайский, японский, корейский, арабский и вьетнамский, но подробная оценка по языкам не приведена. Лицензия — Apache-2.0. Заявления о качестве на бенчмарках и длительности обрабатываемых видео приведены в README без результатов оценки в доступных данных.

hmart824/layoutlmv3-finetuned_1.1 — дообученная модель Microsoft LayoutLMv3-base для классификации токенов в документах. Архитектура LayoutLMv3 объединяет обработку текста, изображений и структуры страницы; модель содержит 151,8 млн параметров и рассчитана на контекст до 514 токенов. В README приведены результаты оценки: F1 0,9968, точность 0,9972 и полнота 0,9966, однако набор данных и условия оценки не раскрыты, поэтому эти показатели нельзя напрямую переносить на другие документы. Модель подходит для извлечения и разметки сущностей в отсканированных или цифровых документах, когда важны текст и его расположение на странице. Языки и конкретные типы документов не уточнены. Репозиторий распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства и распространения производных материалов на тех же условиях и не допускает коммерческого использования.

LayoutXLM — мультимодальная предобученная модель Microsoft для понимания многоязычных документов с визуально значимым содержимым. Это многоязычный вариант LayoutLMv2: модель объединяет текст, расположение элементов на странице и изображение документа. В репозитории указано 305,2 млн параметров и контекст до 514 токенов. Модель предназначена для задач document AI, где смысл зависит от сочетания текста и его размещения на странице, включая работу с документами на разных языках. В экспериментах на наборе XFUND она превзошла прежние кросс-язычные предобученные модели. Карточка описывает предобученную основу, а не специализированную прикладную систему; конкретные downstream-задачи зависят от дообучения и используемой модели-головы. Для весов указана лицензия CC BY-NC-SA 4.0, предусматривающая некоммерческое использование и распространение производных на тех же условиях с указанием авторства. Модель доступна в формате PyTorch.

unsloth/LFM2.5-1.2B-Instruct — версия инструкционной модели Liquid AI, опубликованная Unsloth с исправлениями шаблона чата. Это компактная плотная языковая модель семейства LFM2: в README указано 1,17 млрд параметров и гибридная архитектура из 10 блоков LIV с двойной маршрутизацией и 6 блоков GQA. Модель принимает и генерирует текст; она рассчитана на локальный запуск на устройствах и поддерживает контекст до 32 768 токенов по README, тогда как метаданные указывают 128 000 токенов. Модель предназначена для диалогов общего назначения, агентных сценариев с вызовом инструментов, извлечения данных и ответов с опорой на документы в RAG. В карточке перечислены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. README не рекомендует использовать её для задач, требующих обширных знаний, и программирования. Репозиторий содержит веса в формате safetensors и использует лицензию, обозначенную в метаданных как other; конкретные условия лицензии следует сверить с карточкой модели.

LiquidAI/LFM2.5-8B-A1B-MLX-4bit — 4-битная версия модели LFM2.5-8B-A1B, разработанной Liquid AI и преобразованной в формат MLX с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста, работы в качестве персонального ассистента на локальном устройстве и сценариев, требующих поддержки function calling. Она поддерживает ChatML-подобный шаблон диалога и явное рассуждение перед финальным ответом. Модель имеет архитектуру Mixture of Experts (MoE); согласно названию базовой модели, она относится к конфигурации 8B-A1B, однако подробные архитектурные характеристики и размер контекста в карточке не указаны. Квантование выполнено до 4 бит на вес с размером группы 64 и affine-режимом, при этом routing gates MoE сохранены в 8 бит. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Сильными сторонами являются уменьшенный объём модели благодаря квантованию, пригодность для запуска через MLX и поддержка function calling. Ограничения включают возможное снижение качества из-за 4-битного квантования, а также отсутствие в предоставленной карточке подробных данных о производительности, контексте и аппаратных требованиях. Модель распространяется по лицензии LFM Open License v1.0; условия следует уточнять в файле LICENSE или карточке базовой модели.

LFM2.5-8B-A1B-Q4_K_M-dequant-bf16 — вариант модели LFM2.5-8B-A1B от Liquid AI, основанный на LiquidAI/LFM2.5-8B-A1B-Base. Это текстовая MoE-модель для генерации ответов и работы в роли локального помощника. Карточка указывает 8,3 млрд параметров всего и около 1,5 млрд активных; метаданные репозитория указывают 1,6 млрд параметров. Модель использует гибридную архитектуру с 24 слоями и поддерживает контекст до 128 000 токенов. Модель предназначена для следования сложным инструкциям, агентных сценариев, вызова инструментов, структурированных ответов и многоязычных помощников, в том числе на устройствах с локальным инференсом. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, португальский и итальянский. Карточка не рекомендует её для интенсивного программирования и фактологических ответов без поиска по источникам. Указана лицензия other; конкретные условия следует проверять в файлах репозитория. Имя модели указывает на вариант Q4_K_M, деквантизированный в bf16, но метаданные форматов перечисляют safetensors.

NANI-Nithin/LFM2.5-VL-3B-GGUF — неофициальная наборка GGUF-квантизаций модели LFM2.5-VL-3B, разработанной Liquid AI, для запуска через llama.cpp. Модель предназначена для локального и периферийного использования и поддерживает работу с текстом и изображениями. Модель имеет плотную архитектуру LFM2.5-VL: языковую основу LFM2.5-2.6B и визуальный энкодер SigLIP2 NaFlex 400M. Она содержит около 3,1 млрд параметров, поддерживает контекст до 32 768 токенов и словарь из 128 000 токенов. Заявлена поддержка английского, арабского, китайского, французского, немецкого, итальянского, японского, корейского, португальского, испанского, вьетнамского, тайского, индонезийского, хинди, русского и польского языков. Основные сценарии применения — понимание экранов и пользовательских интерфейсов, OCR с учётом структуры документа, распознавание текста на изображениях, привязка объектов к областям изображения и вызов инструментов на основе текста или изображений. Доступно несколько вариантов квантизации, позволяющих выбирать между качеством, скоростью и потреблением памяти; Q4_K_M указан как сбалансированный вариант, а более точные квантизации предпочтительны для OCR и grounding. Модель менее подходит для длительного визуального рассуждения и анализа сложных технических чертежей. Для работы требуется свежая сборка llama.cpp, поскольку старые версии могут не поддерживать эту архитектуру. Весовые файлы распространяются по лицензии LFM Open License v1.0; перед коммерческим использованием необходимо изучить её условия. Это неофициальная общественная квантизация, созданная на основе официальной модели Liquid AI, поэтому для официальных GGUF-файлов рекомендуется использовать репозиторий LiquidAI.

A1Speeder/llama-3.1-8b-finetuned — дообученная языковая модель A1Speeder на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; для обучения использовались Unsloth и библиотека TRL из Hugging Face. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. В метаданных указано контекстное окно до 131 072 токенов, а карточка указывает английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.