I.14Автоматизация процессов и AI-агенты

ko-reranker — модель переранжирования текстов, созданная дообучением BAAI/bge-reranker-large на корейских данных. Она оценивает релевантность пары «запрос — документ» и выдаёт оценку: чем она выше, тем релевантнее документ запросу. Модель можно использовать через FlagEmbedding, Sentence-Transformers или Transformers. Модель построена на архитектуре XLM-RoBERTa и содержит 658,7 млн параметров. Она принимает текстовые пары и рассчитана прежде всего на корейский язык; в метаданных также указаны английский и китайский. Контекст ограничен 514 токенами. Распространяется под лицензией MIT.

mergekit-community/L3.1-Boshima-b-FIX — текстовая диалоговая модель, созданная сообществом путём линейного слияния языковых моделей с помощью mergekit. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2, также в слияние включена mergekit-community/L3-Boshima-a. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Она построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Нативная длина контекста составляет 131 072 токена. Репозиторий использует формат safetensors и библиотеку Transformers. Карточка не описывает отдельные целевые языки, датасеты или специальные прикладные области. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить с карточками базовых моделей и условиями публикации репозитория. Модель унаследовала неконвенциональную направленность одной из базовых моделей; ответы могут быть менее ограниченными, а качество и безопасность вывода требуют оценки для конкретного применения.

Ling-3.0-tiny-GGUF — лёгкая гибридная reasoning-модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI. Модель предназначена для генерации текста, решения задач, требующих рассуждений, и агентских сценариев, где важны широкие возможности при низкой стоимости инференса. Формат GGUF ориентирован на локальное и ресурсно-ограниченное развертывание. Модель содержит 7,9 млрд параметров, при этом для обработки каждого токена активируется около 1,3 млрд параметров, что снижает вычислительные затраты по сравнению с полным использованием всех параметров. README не сообщает поддерживаемые языки, размер контекстного окна, доступные модальности и конкретные ограничения качества. Модель распространяется по лицензии MIT.

mrm8488/llama-2-coder-7b — языковая модель для генерации кода, созданная дообучением Llama 2 7B на 20 тысячах инструкций CodeAlpaca с помощью QLoRA и PEFT. Базовую модель разработала Meta; архитектура — плотная авторегрессионная LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель предназначена для ответов на инструкции, связанных с кодом: например, генерации фрагментов программ и помощи при решении задач программирования. Она принимает текстовые запросы и генерирует текст. В карточке указан датасет CodeAlpaca_20K; результаты оценки не приведены. Модель распространяется по лицензии Apache-2.0.

TheBloke опубликовал fp16-модель Llama 30B SuperCOT в формате PyTorch. В её основе — объединение huggyllama/llama-30b и kaiokendev/SuperCOT-LoRA; поверх него объединена LoRA Kaio Ken SuperHOT, расширяющая контекст до 8192 токенов. Модель относится к плотной архитектуре LlamaForCausalLM и содержит 32,3 млрд параметров. Модель предназначена для генерации текста и ответов на вопросы с использованием шаблона запросов в стиле Alpaca и LangChain. Увеличенное окно контекста позволяет передавать более длинные запросы и материалы. README сообщает, что в тестах модель использовала расширенный контекст, но качество ответов чувствительно к формулировкам и структуре промпта; результаты могут заметно меняться при перефразировании. Репозиторий содержит веса PyTorch fp16 для GPU-инференса и дальнейшей конвертации. Для работы с контекстом 8K требуется поддержка соответствующего масштабирования RoPE; README рекомендует `trust_remote_code=True` или monkey patch. Лицензия указана как `other`, поэтому условия использования следует сверить с карточкой и лицензиями исходных компонентов.

Карточка модели triplee/llama3.1_8b_cardiff_2024-08-19_merge на Hugging Face совпадает с карточкой triplee/llama3.1_8b_2S1S_v5_merge, поэтому описание составлено по ней. Модель triplee/llama3.1_8b_2S1S_v5_merge — дообученная текстовая модель семейства Llama 3.1, разработанная triplee на основе unsloth/meta-llama-3.1-8b-instruct. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения использовались Unsloth и библиотека TRL; файлы представлены в формате safetensors. Лицензия — Apache-2.0.

KKHYA/llavaqwen2.5-32b-finetune-dense-2m-half — плотная 32-миллиардная причинная языковая модель семейства LlavaQwen2, доступная в формате safetensors и рассчитанная на диалоговую генерацию текста. В метаданных заявлено контекстное окно до 131072 токенов и интерфейс для вызова инструментов. README сообщает, что модель обучена с нуля на неизвестном наборе данных, но не приводит сведений о разработчике, обучающих данных или оценке качества. Модель можно применять для диалогов и генерации текста, в том числе в сценариях с длинным контекстом и подключением инструментов. Несмотря на семейство архитектуры LlavaQwen2, доступные метаданные не подтверждают поддержку изображений, поэтому мультимодальные возможности не заявляются. Лицензия в предоставленных данных не указана.

LRAT Qwen3-Embedding-0.6B Strong768 — плотная модель для поиска релевантных текстовых фрагментов по веб-поисковому запросу. Разработана на базе Qwen/Qwen3-Embedding-0.6B и дообучена с полным обновлением параметров на данных LRAT; применялись негативные примеры из той же строки набора данных. Веса модели содержат около 508 млн параметров по метаданным, а README указывает 595 776 512 параметров и размерность эмбеддинга 1024. Модель использует архитектуру Qwen3, извлечение последнего токена и L2-нормализацию; контекст составляет до 32 768 токенов по метаданным. Модель предназначена для плотного семантического поиска: она преобразует запросы и passages в векторы, пригодные для поиска релевантных ответов в коллекции текстов. В карточке описан формат запроса с инструкцией для поиска фрагментов, отвечающих на веб-запрос. Указаны лицензия Apache-2.0 и формат весов safetensors. Языковая поддержка явно не перечислена; базовая модель описана каталогом как многоязычная.

LYRA-DEEP — компактная разговорная языковая модель, разработанная и поддерживаемая Muhammad Taqi. В метаданных Hugging Face указаны архитектура Qwen2, плотная causal language model Qwen2ForCausalLM и 1,5 млрд параметров; карточка модели описывает её как быстрый движок для диалога и рассуждений. Модель принимает текст и генерирует текст, поддерживает интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель подходит для чат-ответов и генерации текста, когда важны небольшой размер и высокая скорость. README также называет LYRAMOON архитектурной основой, но метаданные не подтверждают связь с отдельной базовой моделью. Доступна по лицензии Apache-2.0. Заявления о скорости и качестве рассуждений приведены в карточке разработчика и не сопровождаются результатами оценки.

Moritz Laurer выпустил многоязычную модель mDeBERTa-v3-base-mnli-xnli на базе архитектуры DeBERTa-v2. Модель содержит 306 млн параметров, принимает пары текстов для вывода о логическом следовании и подходит для классификации по заданным пользователем категориям без отдельного обучения на этих категориях. Её контекст ограничен 512 токенами. Модель предварительно обучена Microsoft на многоязычном корпусе CC100, затем дообучена на английском MNLI и профессионально переведённых данных XNLI. Карточка указывает поддержку NLI на 100 языках; наиболее подробно оценены 15 языков XNLI, включая русский. Средняя точность на тесте XNLI составила 0,808, при этом качество зависит от языка и может быть ниже для языков вне набора оценки. Модель распространяется по лицензии MIT.

MiniCPM4.1-8B — языковая модель OpenBMB для диалогов, рассуждений и генерации текста. Это плотная причинная модель семейства MiniCPM с 7,9 млрд параметров; карточка сообщает о гибридном режиме рассуждений с обучаемым разреженным вниманием и ускорении декодирования с помощью speculative decoding. Модель поддерживает контекст до 65 536 токенов и рассчитана на китайский и английский языки. Модель подходит для диалоговых ассистентов, пошагового решения задач и генерации длинных ответов. Её можно запускать через Transformers, SGLang, vLLM, CPM.cu, llama.cpp и Ollama; для Transformers требуется версия 4.56 или новее. В README заявлены сильные результаты на задачах рассуждения и ускорение генерации, но конкретные оценки в предоставленной карточке не приведены. Модель распространяется по лицензии Apache-2.0. Для работы с полной точностью требуется достаточно памяти для модели такого размера; фактическая скорость и доступная длина генерации зависят от оборудования и конфигурации. В предоставленных данных не описаны специальные механизмы снижения риска ошибочных ответов.

mistralai/Mistral-Nemo-Instruct-2407 дообучена автором репозитория nbeerbower на наборах jondurbin/truthy-dpo-v0.1 и kyujinpy/orca_math_dpo. Это плотная авторегрессионная модель семейства Mistral для генерации текста и диалога; метаданные указывают 12,1 млрд параметров, контекст до 1 024 000 токенов и формат Safetensors. Модель предназначена для ответов на инструкции, диалоговых сценариев и генерации текста, включая математические запросы и задачи на правдивость, представленные в данных дообучения. Базовая модель многоязычная и поддерживает вызов инструментов через соответствующий интерфейс. По README, дообучение выполнено в течение одной эпохи на A100 в Google Colab. Репозиторий приводит результаты Open LLM Leaderboard: среднее 24,72, IFEval 67,94 и BBH 29,54; эти оценки не гарантируют качество на конкретных пользовательских задачах. Лицензия — Apache-2.0.

nreimers/mmarco-mMiniLMv2-L6-H384-v1 — мультиязычная модель перекрёстного ранжирования текстовых пар, опубликованная под именем nreimers. Она оценивает релевантность пары «запрос — документ» и предназначена для поиска информации и семантического поиска, в том числе в многоязычных сценариях. Модель построена на архитектуре XLM-RoBERTa и содержит около 110,2 млн параметров; максимальная длина контекста по метаданным — 514 токенов. Карточка Hugging Face помечает её как text-classification, а поиск по карточке родственной версии семейства подтверждает применение mmarco-mMiniLMv2 для многоязычного поиска и ранжирования. Лицензионные условия в доступных данных не подтверждены.

webis/monoelectra-base — англоязычный кросс-энкодер семейства mono, разработанный для ранжирования и повторной сортировки текстовых фрагментов. Модель представлена в статье Rank-DistiLLM, посвящённой сокращению разрыва в эффективности между кросс-энкодерами и большими языковыми моделями при переранжировании passage. Модель основана на google/electra-base-discriminator и содержит 136,7 млн параметров. Она принимает пары текстов для оценки их релевантности и подходит для переранжирования результатов поиска и отбора passages для последующей обработки. Максимальная длина контекста — 512 токенов; веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Она рассчитана на английский язык и задачи ранжирования; контекст ограничен 512 токенами.

Mharbulous/moondream2-syncopaid — это репозиторий модели Moondream, небольшой модели компьютерного зрения и языка, рассчитанной на эффективный запуск на разных устройствах. Карточка описывает выпуски Moondream и улучшения в понимании диаграмм, документов, таблиц, экранов и текста на изображениях. Модель принимает изображение и текстовый запрос, а отвечает текстом; поддерживает также распознавание текста, описание изображений, подсчёт объектов, поиск объектов и открытое тегирование изображений. Репозиторий содержит файлы в форматах safetensors и GGUF F16. В качестве задач Hugging Face указаны image-text-to-text и text-generation; для работы с изображениями основная задача — image-text-to-text. Лицензия — Apache-2.0. В карточке указано имя семейства moondream1, при этом README называет модель Moondream. Для репозитория не приведены сведения о конкретной базовой модели, числе параметров, контекстном окне и поддерживаемых языках. README рекомендует фиксировать revision в производственных приложениях, поскольку модель часто обновляется; в заметках также отмечены улучшения точности распознавания текста и обнаружения объектов.

Moritz Laurer дообучил мультиязычную модель multilingual-MiniLMv2-L12 на MNLI и XNLI для вывода о логической связи между посылкой и гипотезой и классификации текста без заранее заданного набора классов. Она основана на 12-слойной архитектуре XLM-RoBERTa и содержит 124,3 млн параметров; базовую multilingual-MiniLM-L12 разработала Microsoft, дистиллировав её из XLM-RoBERTa-large. Модель принимает текст, а для классификации — также список меток-кандидатов, и выдаёт оценки классов или категорий NLI. Модель предназначена для мультиязычной классификации текста и NLI на более чем 100 языках. В карточке приведены результаты XNLI для 15 языков, включая русский: средняя точность указанной реализации — 0,75. Дистилляция делает её быстрее и менее требовательной к памяти, чем XLM-RoBERTa-large, но качество ниже, чем у более крупной модели. Контекст — до 514 токенов. Лицензия MIT.

Tirendaz/multilingual-xlm-roberta-for-ner — дообученная Tirendaz модель XLM-RoBERTa для распознавания именованных сущностей в тексте. Она выполняет токенную классификацию и рассчитана на извлечение сущностей из многоязычных текстов. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa и поддерживает контекст до 514 токенов. В README указаны результаты оценки: F1 0,8631 и loss 0,1415. Датасет обучения и подробности о классах сущностей не описаны. Модель распространяется в форматах PyTorch и safetensors по лицензии MIT.

Многоязычный классификатор без примеров обучения от Horizon Labs: модель на архитектуре ModernBERT (mmBERT) с 306,9 млн параметров, дообученная на задачах вывода по естественному языку. Она сопоставляет текст с выбранными пользователем метками через гипотезу на английском языке и подходит для классификации намерений, тем и тональности, а также для других задач NLI. Модель поддерживает более 30 языков, включая русский; размер контекста — 8192 токена, при этом дообучение выполнялось на последовательностях длиной до 1024 токенов. В репозитории есть веса Safetensors и вариант ONNX для CPU и браузера. Модель обучалась на MultiNLI, SNLI, WANLI и синтетических данных. По результатам сравнения в карточке она уступает некоторым более крупным моделям на отдельных наборах, а качество заметно зависит от формулировки меток и шаблона гипотезы; на языках с небольшими обучающими ресурсами результаты слабее. Часть названий меток из некоторых бенчмарков встречалась в синтетических данных, поэтому для них оценка не полностью zero-shot относительно меток. Лицензия — Apache-2.0.

mxbai-colbert-large-v1 — англоязычная модель ранжирования документов от Mixedbread AI, построенная на модели эмбеддингов mixedbread-ai/mxbai-embed-large-v1. Это ColBERT-ретривер с несколькими векторами и поздним взаимодействием между представлениями запроса и документа; он предназначен прежде всего для повторного ранжирования результатов, найденных на первом этапе, например BM25, и может использоваться в конвейерах поиска и RAG. Модель основана на архитектуре BERT, содержит 433,9 млн параметров и принимает текст с контекстом до 512 токенов. Она формирует эмбеддинги для поиска и оценки сходства предложений. По результатам README, модель показала конкурентные показатели NDCG@10 на наборах BEIR для повторного ранжирования и поиска; для обычного retrieval разработчик рекомендует использовать mixedbread-ai/mxbai-embed-large-v1. Модель распространяется по лицензии Apache-2.0.

Narwhal-7b-v3 — языковая модель Vezora, созданная слиянием методом Tie на основе OpenChat 3.5 и una-cybertron-7b-v2-bf16. Это плотная causal language model семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и, по карточке, особенно хорошо подходит для автоматической разметки данных: она может присваивать предложениям метки тональности и возвращать результат в JSON. Её можно применять для предварительной разметки текстовых корпусов, классификации тональности по предложениям и подготовки структурированных обучающих данных с последующей проверкой человеком. README приводит пример на английском языке; метаданные не задают список поддерживаемых языков. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Заявление о качестве в карточке не сопровождается оценками или сравнительными тестами, поэтому точность разметки следует проверять на целевых данных.

Это крупная модель распознавания именованных сущностей на нидерландском языке, поставляемая в составе библиотеки Flair. Она основана на документных эмбеддингах XLM-R и архитектуре FLERT и предназначена для разметки текста тегами сущностей. Модель выделяет имена людей (PER), географические названия (LOC), организации (ORG) и четвертый класс сущностей. В README указана оценка F1 95,25 на нидерландской части CoNLL-2003. Модель подходит для извлечения сущностей из нидерландских документов и может использоваться через Flair с PyTorch. Модель обучена на CoNLL-2003; сведения о лицензии в предоставленных данных отсутствуют.

cross-encoder/nli-MiniLM2-L6-H768 — англоязычная модель для вывода отношений между парой предложений, обученная с помощью класса Cross-Encoder библиотеки SentenceTransformers. Она основана на MiniLMv2-L6-H768, дистиллированной из RoBERTa-Large, и дообучена на наборах SNLI и MultiNLI. Модель содержит 95,2 млн параметров и принимает пары текстов, выдавая оценки для классов «противоречие», «следование» и «нейтральное отношение». Её можно применять для классификации без примеров по заданным меткам и оценки сходства предложений. Модель подходит для проверки текстовых гипотез, сопоставления предложений и классификации текста по описаниям меток. Доступны реализации в форматах PyTorch, ONNX и OpenVINO; библиотека карточки — SentenceTransformers. Контекст составляет до 514 токенов. Модель распространяется по лицензии Apache-2.0.

nougatCharJawiAHR — дообученная модель bustamiyusoef для преобразования изображений в текст. Она основана на bustamiyusoef/_base_nougat_JawiChar и использует архитектуру vision-encoder-decoder; в репозитории доступны веса safetensors. Модель предназначена для задач, где нужно получить текст из изображения. В README приведено значение Loss 2.0337 на оценочном наборе, но описание набора данных и подробности обучения отсутствуют. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование.

NuMind NuNER-multilingual-v0.1 — мультиязычная модель на архитектуре BERT, разработанная NuMind для распознавания именованных сущностей. Это дообученная версия Multilingual BERT, обученная на искусственно размеченной мультиязычной подвыборке датасета OSCAR. Модель содержит 205,1 млн параметров, принимает текстовые последовательности длиной до 512 токенов и распространяется в формате PyTorch по лицензии MIT. Модель создаёт языко- и доменно-независимые представления для распознавания сущностей. Её эмбеддинги можно использовать напрямую или дообучить на специализированных наборах данных; заявленная область применения — извлечение сущностей в девяти языках: английском, французском, немецком, итальянском, испанском, португальском, польском, нидерландском и русском. В README приведены результаты сравнения по macro-F1, где модель превосходит базовый bert-base-multilingual-cased в описанном авторами протоколе. Карточка заявляет возможность обобщения на другие языки, поддерживаемые Multilingual BERT, однако обучение проводилось только на девяти языках. Приведённые метрики относятся к описанному протоколу оценки и сами по себе не гарантируют качество на новых доменах или языках.

Это GGUF-версия модели NVIDIA Nemotron 3 Super 120B-A12B, подготовленная DevQuasar на основе nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16. Репозиторий предназначен для генерации текста и диалогового использования. Модель можно применять в чат-ботах и других сценариях, требующих генерации ответов. Каталог характеризует базовую модель как языковую модель NVIDIA с гибридной архитектурой для диалога, рассуждений, длинного контекста и агентных приложений; параметры длины контекста в предоставленных данных отсутствуют. Файлы указаны в формате GGUF BF16. README называет репозиторий квантизированной версией базовой модели, хотя метаданные указывают связь finetune и формат GGUF BF16. Лицензионные условия и специальные ограничения в предоставленных данных не описаны.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-last-third-sft-seed4-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Ornith-1.5-35B-A3B-REAP-20pct — разреженная MoE-модель для генерации текста, программирования и вызова инструментов, созданная oxfrug на основе Ornith-1.5-35B-A3B от ornith-ai. Модель предназначена для локального и самостоятельного развёртывания, особенно в сценариях кодирования, диалогового взаимодействия и tool calling. В метаданных указан английский язык. Модель использует гибридную архитектуру GatedDeltaNet + MoE с 40 слоями. После удаления 20% экспертов в каждом слое осталось 205 экспертов вместо 256, при этом для каждого токена активны 8 экспертов. Активный объём параметров составляет около 3B на токен, размер BF16-весов — примерно 56 ГБ вместо 67 ГБ у базовой модели. Общие эксперты, vision tower, эмбеддинги и lm_head не изменялись; архитектура обозначена как Qwen3_5MoeForConditionalGeneration, поэтому модель поддерживает текстово-мультимодальный интерфейс базовой архитектуры. Для работы требуются transformers версии 5.8.1 или новее; для vLLM заявлена конфигурация с контекстом до 262144 токенов. Главное преимущество — экономия около 11 ГБ дискового пространства при сохранении примерно 3B активных параметров на токен и совместимость с transformers и vLLM. Ограничения связаны с потерей качества из-за pruning: модель не является lossless-копией и не является квантизированной или дообученной. Для этого чекпойнта не проводились полноценные тесты SWE-bench, Terminal-Bench и GPQA, а опубликованные результаты родственной модели нельзя переносить на него. Калибровка выполнялась на последовательностях длиной 1024 токена, что также может повышать риск ухудшения специализированных возможностей, включая tool calling. Модель распространяется по лицензии MIT. Она требует значительных ресурсов: это не вариант для одной видеокарты на 24 ГБ; для длинного контекста в vLLM рекомендуется конфигурация с двумя GPU по 80 ГБ. Форматы GGUF для данного pruning в README не заявлены.

Otter Bi MM BERT — мультиязычная модель распознавания именованных сущностей, разработанная автором репозитория whoisjones. Она принимает текст и названия типов сущностей на естественном языке, например «person» или «chemical compound», и возвращает символьные диапазоны найденных сущностей без фиксированного набора меток и отдельной настройки под каждую схему. Модель использует биэнкодер: текст и названия типов кодируются отдельно, а представления меток можно повторно использовать для обработки корпуса с неизменным набором типов. Текстовый энкодер основан на jhu-clsp/mmBERT-base, энкодер меток — на google-bert/bert-base-multilingual-uncased. Максимальная длина последовательности составляет 1024 токена, максимальная длина диапазона — 30 токенов. Модель подходит для мультиязычного извлечения сущностей с пользовательскими типами и обработки больших корпусов, когда набор типов повторяется. Лицензия — Apache-2.0. Порог по умолчанию равен 0,2 и был выбран по макро-F1 на наборе оценки; результат чувствителен к количеству и формулировкам типов, поэтому порог может потребовать повторной калибровки на данных конкретной области. README отмечает, что модели семейства cross-encoder сильнее, тогда как bi-encoder экономичнее при многократном применении одного набора меток.

Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic-GGUF — набор GGUF-квантизаций модели, разработанный FesarovLab на основе FedorFesarov/Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic. Исходная модель представляет собой abliteration-сборку Claude Fable 5 fine-tune для Nanbeige4.2-3B; базовая модель разработана Nanbeige. Модель предназначена для генерации текста и запуска через llama.cpp и совместимые интерфейсы, включая LM Studio и Open WebUI. Модель поддерживает английский и китайский языки, использует текстовую модальность и архитектуру с 44 слоями KV-кэша. Заявлен контекст до 262144 токенов, однако большой контекст требует значительного объёма памяти; в README рекомендуется явно задавать размер контекста и при необходимости сжимать KV-кэш. Доступны варианты от Q2_K до Q8_0 и F16, размером примерно от 1,64 до 7,77 ГБ. Рекомендуемым компромиссом названа IQ4_XS-imat, а для более высокой точности — Q4_K_M-imat или варианты с более высокой разрядностью. Сильные стороны модели — компактность, высокая скорость GPU-инференса, поддержка reasoning-блоков <think>, структурированного JSON и XML-подобных вызовов инструментов. Для надёжного структурированного вывода рекомендуется использовать Q4_K_S или более качественные варианты, поскольку агрессивная квантизация может ухудшать соблюдение формата. IQ-квантизации могут быть медленнее на CPU, чем K-квантизации, а вариант Q2_K существенно теряет качество. Лицензия — Apache-2.0.

Карточка модели Openintelligent123/Phi-4-reasoning-plus на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning-plus, поэтому описание составлено по ней. Phi-4-reasoning-plus — открытая по весам языковая модель Microsoft Research, дообученная на базе microsoft/phi-4 с помощью supervised fine-tuning на цепочках рассуждений и последующего обучения с подкреплением. Это плотный decoder-only Transformer семейства Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов; модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена прежде всего для рассуждений и решения задач по математике, науке и программированию, а также для использования в генеративных ИИ-приложениях с ограничениями по памяти и вычислениям. Основной язык — английский. Обучение с подкреплением повышает точность, но в среднем модель генерирует примерно на 50% больше токенов, что увеличивает задержку. Microsoft предупреждает, что модель специально разработана и оценивалась для математических рассуждений, поэтому для других применений нужно отдельно проверять точность, безопасность и справедливость ответов. Модель распространяется по лицензии MIT.