I.14Автоматизация процессов и AI-агенты

Nichonauta/LFM2.5-1.2B-Thinking-ToMoE-INT8 — 8-битная квантизованная версия экспериментальной MoE-модели рассуждений Nichonauta/LFM2.5-1.2B-Thinking-ToMoE, основанной на LiquidAI/LFM2.5-1.2B-Thinking. Репозиторий содержит реальные прореженные веса MoE в формате safetensors, а не плотный эквивалент: линейные слои MLP, внимания и свёрток используют весовую квантизацию INT8, тогда как маршрутизаторы, эмбеддинги и нормализации хранятся в fp32. Архитектура LFM2 MoE, класс Lfm2MoEForCausalLM; размер — 1,5 млрд параметров, контекст — до 128 000 токенов. Модель предназначена для генерации текста и диалогового использования, включая задачи рассуждения. В README сообщается, что показатели perplexity после квантизации INT8 близки к fp32-версии, а размер файла весов составляет около 1,38 ГБ. Для загрузки используется Transformers с пользовательским кодом модели и параметром trust_remote_code=True. Карточка указывает лицензию other, поэтому перед использованием следует проверить условия в файле LICENSE.

TheBloke/Llama-2-70B-AWQ — это 4-битная AWQ-квантизированная версия языковой модели Llama 2 70B, разработанной Meta и опубликованной сообществом TheBloke. Модель предназначена для генерации текста и поддерживает английский язык. Она создана на основе meta-llama/Llama-2-70b-hf и использует архитектуру семейства Llama с примерно 70 миллиардами параметров. Ключевая особенность модели — квантизация AWQ с групповым размером 128, выполненная на данных wikitext. Доступны шардированные safetensors-файлы, размер модели составляет около 36,61 ГБ, заявленная длина последовательности — 4096 токенов. Модель ориентирована на GPU-инференс и может использоваться через AutoAWQ или vLLM, включая серверные сценарии с параллельной обработкой запросов. К сильным сторонам относятся существенное снижение требований к видеопамяти и возможность запуска 70B-модели примерно на одной GPU с 48 ГБ памяти вместо двух GPU по 80 ГБ. По сравнению с полноразмерной моделью AWQ может упростить развертывание и снизить стоимость инфраструктуры. Ограничением является то, что производительность и совокупная пропускная способность могут быть ниже, чем у неквантизированной версии при использовании vLLM; кроме того, README не приводит подробных результатов оценки качества после квантизации. Модель распространяется по лицензии Llama 2.

mesolitica/llama2-embedding-1b-8k — текстовая модель для получения эмбеддингов, разработанная Mesolitica на основе архитектуры Llama 2. Она предназначена для извлечения признаков из текста и обучена на малайскоязычных текстах с длиной контекста обучения до 8 тысяч токенов; при инференсе может обрабатывать контекст до 32 768 токенов. Модель содержит около 940,6 млн параметров и распространяется в формате safetensors. Модель подходит для построения векторных представлений текстов, например, для поиска по смыслу, ранжирования и кластеризации. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным установить нельзя.

Llama-3-11.5B — плотная авторегрессионная языковая модель семейства Llama, опубликованная beratcmn. Она собрана методом passthrough с помощью LazyMergekit из двух диапазонов слоёв одной и той же Meta-Llama-3-8B; в метаданных указано около 11 млрд параметров. Модель предназначена для генерации текста, а карточка также указывает обученную на её основе версию beratcmn/Llama-3-11.5B-v0.1. Модель принимает текст и выдаёт текст. Указанная длина контекста — 8192 токена. Базовая Meta-Llama-3-8B описана как модель для английского текста и кода, но отдельные языковые возможности производной модели в карточке не уточняются. Файлы модели представлены в формате safetensors. Для использования применяются условия лицензии базовой Meta-Llama-3-8B; сведения о лицензии в предоставленных данных отсутствуют.

bunnycore/LLama-3.1-8B-HyperNova-abliteration — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом passthrough на основе bunnycore/LLama-3.1-8B-HyperNova и grimjim/Llama-3-Instruct-abliteration-LoRA-8B. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалоговые ответы; контекстное окно составляет до 131 072 токенов. Модель принимает текст и выдаёт текст, поэтому подходит для диалоговых систем и генерации продолжений. В карточке указана лицензия, однако её название не приведено в доступных метаданных. Основания для отдельного вывода о качестве, языковом охвате или ограничениях применения в README нет.

bunnycore/Llama-3.1-8B-OmniMatrix-v2 — объединённая модель для генерации текста, созданная с помощью mergekit методом task arithmetic. В основе объединения указаны bunnycore/Llama-3.1-8B-OmniMatrix и grimjim/Llama-3-Instruct-abliteration-LoRA-8B; также в состав вошли refuelai/Llama-3-Refueled, grimjim/Llama-3.1-SuperNova-Lite-lorabilterated-8B и bunnycore/LLama-3.1-8B-HyperNova-abliteration. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст для генерации текста в диалоговом режиме. Заявленный размер контекста — 131 072 токена. Репозиторий использует формат safetensors и библиотеку Transformers. Карточка не описывает отдельные тесты качества или ограничения поведения объединённой модели. Условия лицензирования в доступных данных не приведены.

Joseph717171/Llama-3.1-SuperNova-8B-Lite_TIES_with_Base — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом TIES на основе arcee-ai/Llama-3.1-SuperNova-Lite и meta-llama/Llama-3.1-8B. Модель относится к семейству Llama, имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; для загрузки используются файлы safetensors. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалоговых сценариев. Автор применил параметры weight и density, чтобы сохранить больше возможностей следования инструкциям при объединении. В карточке приведены результаты Open LLM Leaderboard, включая оценку IFEval 80,96 и средний балл 43,07. Лицензия — Llama 3.1; условия использования определяются соответствующей лицензией Meta. README не сообщает поддерживаемые естественные языки и не описывает отдельные специализированные области применения.

LLaMa-3.1-Zeroed-13B — плотная языковая модель семейства Llama, созданная сообществом mergekit из предварительно обученной unsloth/Meta-Llama-3.1-8B методом passthrough merge. Она предназначена для генерации текста и диалоговых сценариев с контекстом до 131 072 токенов. Модель содержит около 12,5 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Карточка не описывает отдельную настройку под конкретную предметную область или языки. Лицензия в предоставленных данных не указана.

bunnycore/Llama-3.2-3B-CodeReactor — слитая mergekit модель на базе huihui-ai/Llama-3.2-3B-Instruct-abliterated и bunnycore/Llama-3.2-3B-Code-lora_model. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров, предназначенная для генерации текста в чате и задач, связанных с кодом; карточка описывает слияние методом passthrough. Модель использует формат safetensors, работает через Transformers и имеет заявленное контекстное окно 131072 токена. Модель может подойти для диалогового помощника по программированию и генерации кода. В состав также входит instruct-модель с ослабленными отказами. README и метаданные не описывают лицензию и не приводят результатов оценки качества, поэтому условия использования и практическую надёжность следует сверять с карточками базовых моделей и условиями распространения репозитория.

Это 8-битная конверсия модели Llama 3 8B Instruct, выполненная сообществом mlx-community для запуска в формате MLX. Веса получены из gradientai/Llama-3-8B-Instruct-1048k с помощью mlx-lm версии 0.10.0. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 1 048 576 токенов. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. В метаданных указан английский язык; заявленная лицензия — llama3. Для использования в MLX в README приведена установка mlx-lm.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-SLiC-HF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Llama-3-Typhoon-1.5X-8B-instruct — разговорная языковая модель SCB 10X Typhoon Team для генерации ответов по инструкциям на тайском и английском языках. Это плотная decoder-only модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и использует шаблон чата Llama 3. Модель создана методом редактирования весов task arithmetic на основе Typhoon 1.5 8B и Llama 3 8B Instruct. Она предназначена для диалоговых приложений, генерации с ограничениями, рассуждений и сценариев RAG. В README приведены оценки на ThaiExam, MMLU, MT-Bench и IFEval; авторы сообщают о конкурентных результатах, особенно для тайского языка. Авторы называют модель экспериментальной и предупреждают, что она не полностью оценена для всех сценариев; перед применением разработчикам следует учитывать риски конкретного приложения. Лицензия — Llama 3 Community License. Для использования указана Transformers версии 4.38.0 или новее.

Lonepino-11B — плотная авторегрессионная языковая модель семейства Mistral, созданная beberik путём слияния нескольких моделей с помощью mergekit. В состав рецепта входят Intel/neural-chat-7b-v3-3-Slerp, NeverSleep/Noromaid-7b-v0.2, chargoddard/loyal-piano-m7-cdpo и maywell/PiVoT-0.1-Starling-LM-RP. Репозиторий содержит веса в формате bfloat16 и safetensors; размер модели — 10,6 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. В README упомянуты шаблоны Alpaca и ChatML, а также приведены результаты оценивания на нескольких языковых бенчмарках. Основной язык и специализация не заявлены, поэтому её следует рассматривать как модель общего назначения. Лицензия CC BY-NC 4.0 требует указания авторства и запрещает коммерческое использование.

OctopusMind/longbert-embedding-8k-zh — модель эмбеддингов на основе BERT для вычисления сходства между предложениями на китайском языке. Она основана на bert-base-chinese: исходные позиционные кодировки заменены на ALiBi, что позволяет обрабатывать последовательности длиной до 8192 токенов. В карточке указана поддержка дообучения методом CoSENT. Модель предназначена для получения векторных представлений текстов и сравнения их косинусного сходства, в том числе для поиска близких по смыслу формулировок и семантического поиска. Веса опубликованы в формате PyTorch, лицензия — Apache-2.0. Размер модели составляет 129,5 млн параметров.

xmanii/maux-gte-persian — модель Sentence Transformers, дообученная на базе Alibaba-NLP/gte-multilingual-base для работы с персидским языком (фарси). Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска и сравнения текстов. Архитектура включает трансформерный энкодер, пулинг по CLS-токену и нормализацию; сходство оценивается косинусной мерой. Максимальная длина последовательности — 8192 токена. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации персидских текстов. Она обучена на 2000 парах персидских предложений, переведённых с английского с помощью GPT-4, поэтому качество может зависеть от охвата и особенностей этого набора данных. Опубликована в формате safetensors; условия лицензии в предоставленных данных не описаны.

MeliodasPercival_01_NeuralsirkrishnaM7 — объединённая модель на базе двух моделей Mistral: automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaM7-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Она принимает текстовые запросы и выдаёт текст; поддерживаемый язык в предоставленных данных не указан. Файлы весов опубликованы в формате safetensors. Лицензия — Apache-2.0.

MeliodasPercival_01_YamExperiment26 — объединённая языковая модель семейства Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamExperiment26-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текстовый контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

MEXMA-SigLIP2 — мультимодальная модель для сопоставления изображений и текста, объединяющая многоязычный текстовый энкодер MEXMA и визуальный энкодер SigLIP2. Она предназначена для поиска изображений по текстовому запросу и поиска текста, соответствующего изображению, а также для классификации изображений по текстовым описаниям без обучения на конкретных метках. По карточке модель поддерживает 80 языков; в метаданных среди языковых тегов указаны, в частности, русский и английский. На наборе Crossmodal-3600 авторы сообщают результаты Recall@1 62,54% для поиска изображений и 59,99% для поиска текста. Репозиторий содержит веса в форматах ONNX и safetensors; лицензия — MIT. Размер модели и длина контекста в предоставленных данных не указаны.

MiniCPM5-1B-i1-GGUF — это набор imatrix-квантизированных версий базовой языковой модели openbmb/MiniCPM5-1B, подготовленный пользователем mradermacher. Модель предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, включая локальное использование на устройствах с ограниченными ресурсами и edge-сценарии. В карточке указаны английский и китайский языки, а также датасеты Ultra-FineWeb, Ultra-FineWeb-L3, UltraData-Math и UltraData-SFT-2605, использованные для базовой модели. Модель имеет размер 1 млрд параметров и распространяется в формате GGUF с различными уровнями квантизации — от IQ1_S до Q6_K. Размер файлов составляет примерно от 0,5 до 1 ГБ; вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Более агрессивные варианты занимают меньше места, но могут заметно уступать в качестве, тогда как более крупные варианты обычно сохраняют качество лучше. Поддержка мультимодальности и точный размер контекста в README не указаны. Лицензия модели — Apache-2.0. Доступны готовые квантизированные файлы, а также imatrix-файл для создания собственных квантов. Ключевое ограничение — компромисс между компактностью и качеством, особенно у вариантов с низкой точностью; конкретные показатели производительности и качества в карточке не приведены.

prithivida/miniDense_arabic_v1 — компактная модель встраиваний для поиска на арабском языке. Она разработана как часть серии miniDense и основана на архитектуре BERT с токенизатором XLM-Roberta и словарём примерно на 250 тысяч токенов. Модель предназначена для сопоставления предложений и извлечения релевантных документов; в карточке упомянуты оценки на MIRACL и других наборах для поиска. Модель принимает текст и выдаёт векторы для поиска и ранжирования по сходству. Максимальная длина контекста — 512 токенов; автор рекомендует CLS-пулинг и скалярное произведение. Доступны веса PyTorch и ONNX, включая вариант ONNX FP16 для более лёгкого инференса. По README, обучение не требовало дополнительного предобучения или дорогой тонкой настройки. Модель рассчитана прежде всего на арабский язык. Её можно применять для семантического поиска, поиска ответов и извлечения passages, в том числе в гибридных системах с BM25. Для длинных документов авторы отмечают ограничение длины контекста, а заявленные результаты могут немного отличаться при воспроизведении. Лицензия — Apache-2.0.

Mini_Synatra_SFT-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, полученная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и maywell/Mini_Synatra_SFT. Она использует плотную архитектуру Mistral с причинной генерацией текста и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации ответов по инструкциям; максимальная длина контекста составляет 32 768 токенов. Модель подходит для чат-ботов и других сценариев, где нужно генерировать текст по запросу. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0. README не приводит результатов оценки качества или сведений о языковом покрытии, поэтому эти характеристики здесь не уточняются.

KnutJaegersberg/MistralInstructLongish — дообученная инструкция-модель семейства Mistral, созданная автором KnutJaegersberg. Модель обучалась около трёх эпох на объединении нескольких наборов инструкций, включая часть более длинных инструкций, и рассчитана на генерацию ответов в формате Alpaca с разделами Instruction, необязательным Input и Response. Это плотная причинная языковая модель MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов. Она предназначена для следования инструкциям и генерации текста; в карточке приведены результаты оценки на Open LLM Leaderboard, включая среднее значение 48,99, ARC и HellaSwag. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает языки обучения, поэтому языковую специализацию нельзя установить. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах; данных о дополнительных ограничениях или проверках безопасности нет.

Mistral-Starling-merge-trial1-7B — объединённая чат-модель на архитектуре Mistral, созданная разработчиком grimjim с помощью mergekit методом SLERP из Nexusflow/Starling-LM-7B-beta и grimjim/Mistral-7B-Instruct-demi-merge-v0.2-7B. Она предназначена для диалоговой генерации текста и ответов на запросы с упором на сочетание рассуждений и длинного контекста. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре Mistral и поддерживает контекст до 32 768 токенов. В карточке заявлены чат-возможности; базовая Starling-LM-7B-beta ориентирована на английский язык. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0.

QuixiAI/mixtral-instruct-0.1-laser — версия Mixtral-8x7B-Instruct, обработанная методом LaserRMT. В основе лежит разреженная архитектура Mixture of Experts семейства Mixtral; модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. В карточке указано, что эта версия создана с помощью MPS-бэкенда LaserRMT. Модель принимает текстовые инструкции в формате [INST] ... [/INST] и выдаёт текстовые ответы. Контекст составляет 32 768 токенов; карточка перечисляет английский, французский, итальянский, немецкий и испанский языки. Файлы в формате Safetensors предназначены для запуска через vLLM или Transformers с учётом оговорок карточки об HF-совместимости. README описывает модель как демонстрацию дообучения базовой модели и отмечает отсутствие механизмов модерации. Для использования указана лицензия Apache-2.0.

moona3k подготовил квантованный вариант Qwen/Qwen3-ASR-1.7B для библиотеки MLX и компьютеров Apple Silicon. Это модель распознавания речи, которая преобразует аудио в текст; через пакет mlx-qwen3-asr она также поддерживает выдачу временных меток слов и работу HTTP-сервера. По данным карточки, модель поддерживает английский, китайский, японский, корейский, немецкий, французский, испанский, русский, арабский и хинди. Текстовый декодер и эмбеддинги квантованы до 4 бит с размером группы 64, аудиоэнкодер — до 8 бит; остальные плавающие тензоры хранятся в float16. Размер загрузки — 1,2 ГБ против 4,4 ГБ у исходной версии в fp16. В тесте на 100 фрагментах LibriSpeech test-clean этот артефакт показал WER 1,73% и CER 0,53%; результаты небольшого теста не гарантируют такого же качества на других языках и аудио. Для загрузки требуется mlx-qwen3-asr версии 0.4.3 или новее. Лицензия — Apache-2.0.

Mother-of-Rhodia-12B — объединение предварительно обученных языковых моделей TheDrunkenSnail/Son-of-Rhodia и ToastyPigeon/Sto-vo-kor-12B, созданное автором репозитория с помощью mergekit методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 131 072 токена; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель подходит для диалоговых приложений и других сценариев генерации текста. Карточка указывает лицензию «other», поэтому условия использования следует сверить с файлами репозитория и лицензиями исходных моделей. README не приводит оценки качества или специальные ограничения применения.

zelk12/MT5-IG-gemma-2-9B — объединённая языковая модель на основе Gemma 2, опубликованная как результат слияния двух предварительно обученных моделей с помощью SLERP в mergekit. Она предназначена для генерации текста в диалоговом формате и других сценариев, поддерживаемых задачей text-generation. Модель имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и принимает контекст длиной до 8192 токенов. В состав слияния вошли zelk12/MT5-IF-gemma-2-RIv0.1RAv0.1-9B и zelk12/MT5-GP-gemma-2-RIv0.1RAv0.1-9B; веса сохранены в формате safetensors. Метаданные не дают оснований указать конкретные языки или специализированные предметные области. Лицензия в предоставленных сведениях не указана.

zelk12/MT-Gen4-MU-gemma-2-Sv1IBTS5-9B — объединённая методом SLERP языковая модель семейства Gemma 2 на 9 млрд параметров. По карточке, при создании использованы allknowingroger/GemmaSlerp5-10B и gmonsoon/SahabatAI-Lion-9B-TIES-v1; merge выполнен с помощью mergekit, веса указаны в формате bfloat16. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные отмечают поддержку чата и контекст до 8192 токенов. Описание базовой модели каталога указывает на языки Юго-Восточной Азии и английский, но конкретные поддерживаемые языки этой модели не перечислены. Репозиторий содержит веса safetensors. Лицензия в предоставленных сведениях не указана.

tomaarsen выпустил англоязычный многовекторный энкодер на базе Alibaba-NLP/gte-modernbert-base, дообученный на 20 000 примерах MS MARCO с помощью Sentence Transformers. Модель кодирует текст в последовательности векторов размерностью 128 и сравнивает запросы с документами методом позднего взаимодействия MaxSim, что предназначено прежде всего для семантического поиска и извлечения релевантных документов. Модель использует архитектуру ModernBERT, содержит 149 млн параметров и принимает текст длиной до 8192 токенов. Она рассчитана на английский язык; в README приведены результаты оценки на наборах для поиска и сопоставления запросов с документами. Лицензия Apache-2.0.

Это пакет Mesh LLM с квантованной моделью Nemotron-3-Nano-30B-A3B в формате GGUF Q4_K_S, разделённой на артефакты по слоям. Его подготовила команда Mesh LLM на основе unsloth/Nemotron-3-Nano-30B-A3B-GGUF для распределённого инференса на локальном кластере: части модели можно разместить на нескольких машинах, если она не помещается на одном узле. Модель предназначена для генерации текста и диалогов через Mesh LLM, в том числе для локального приватного запуска и работы через совместимый с OpenAI API интерфейс чата. Пакет сохраняет исходное разделение GGUF и облегчает распределение вычислений между узлами. Подробности об архитектуре, размере, языках и лицензии следует сверять с карточкой исходной модели; в предоставленных данных этих характеристик нет.