I.14Автоматизация процессов и AI-агенты

Модель mcikalmerdeka/cikal_merdeka_corp-qwen3-8b-merged — дообученная разговорная языковая модель на архитектуре Qwen3, разработанная mcikalmerdeka на основе unsloth/Qwen3-8B-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалоговых сценариев; также репозиторий поддерживает интерфейс вызова инструментов. Модель содержит 7,6 млрд параметров и рассчитана на контекст до 40 960 токенов. В карточке указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализированную предметную область, конкретные результаты оценки качества или ограничения применения; это дообученная модель общего назначения, и её ответы следует проверять в задачах, где важна точность.

CodeGen2 — авторегрессионная языковая модель Salesforce для синтеза программного кода. Эта версия содержит 3,7 млрд параметров, построена на плотной архитектуре CodeGenForCausalLM и работает с контекстом до 2048 токенов. Модель принимает текстовые подсказки на естественном языке и фрагменты кода, продолжает код и умеет заполнять пропуски внутри него. Модель обучена на очищенном наборе Stack v1.1 и рассчитана на генерацию исполняемого кода по подсказкам на английском языке, а также на дополнение существующих фрагментов. В карточке перечислены C, C++, C#, Dart, Go, Java, JavaScript, Kotlin, Lua, PHP, Python, Ruby, Rust, Scala, Shell, SQL, Swift, TypeScript и Vue. Веса доступны в формате PyTorch; лицензия — Apache 2.0. Результаты генерации следует проверять: модель может выдавать ошибочный или небезопасный код, а авторы рекомендуют оценивать точность и риски перед внедрением. Карточка указывает исследовательское назначение выпуска; это само по себе не означает, что чекпойнт является промежуточным исследовательским экспериментом.

ColQwen3.5-4.5B-v3 — модель визуального поиска по документам, разработанная автором репозитория athrael-soju на основе Qwen3.5-4B. Она кодирует изображения страниц и текстовые запросы в многовекторные представления и сопоставляет их с помощью позднего взаимодействия в стиле ColBERT; предназначена для построения поисковых систем по PDF и другим документам с графиками, таблицами и сложной вёрсткой. Модель содержит около 4,5 млрд параметров, использует архитектуру ColQwen3_5 и обученную проекционную голову размерности 320, веса представлены в BF16. В README заявлена поддержка пяти языков: английского, французского, немецкого, испанского и китайского. Обучение включало примерно 776 тысяч пар из наборов для визуального поиска по документам, в том числе финансовых документов и таблиц. Для запуска требуются transformers версии 5.2.0 или новее; при переходе со старой версии необходимо заново кодировать документы, поскольку представления отличаются. По результатам, приведённым в карточке, модель входила в число сильных моделей класса 4B на ViDoRe, но уступала более крупным моделям и некоторым сопоставимым решениям на части бенчмарков; особенно слабой областью названы задачи V2 по ESG и экономике. Репозиторий распространяется по лицензии Apache-2.0.

vicgalle/Configurable-Mistral-7B — диалоговая языковая модель на архитектуре Mistral, опубликованная пользователем vicgalle на Hugging Face и дообученная на наборе configurable-system-prompt-multitask. Она предназначена для генерации текста в формате чата с настраиваемыми системными инструкциями и выполнения связанных с ними задач. Модель содержит около 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В карточке не уточнены поддерживаемые языки и результаты оценки качества. Модель распространяется по лицензии Apache-2.0.

Moritz Laurer дообучил DeBERTa-v3-xsmall для классификации без заранее заданного набора классов: пользователь задаёт текстовые метки, а модель оценивает соответствие им входного текста. Модель предназначена для быстрого zero-shot анализа, в том числе на периферийных устройствах и в браузере через transformers.js. Основа — microsoft/deberta-v3-xsmall. В README указаны 22 млн параметров основной части модели, 128 млн параметров словаря и размер файла 142 МБ; метаданные указывают 77,5 млн параметров. Модель принимает текст, поддерживает английский язык и имеет контекст 512 токенов. Доступны форматы PyTorch, safetensors и ONNX. Модель компактнее и эффективнее более крупных вариантов семейства, но, согласно README, показывает более низкое качество. Отдельная zero-shot оценка для этой версии не проводилась; приведены результаты стандартной точности на наборах данных, использованных при обучении. Лицензия — MIT.

strangervisionhf/deepseek-ocr-latest-transformers — экспериментальная копия весов DeepSeek OCR с исправленной конфигурацией для совместимости с актуальными версиями библиотеки Transformers. Модель семейства DeepSeek-VL-v2 имеет архитектуру DeepseekOCRForCausalLM, содержит 559,7 млн параметров и принимает изображения для генерации текстового ответа; её основное назначение — распознавание текста на изображениях и задачи визуально-языкового взаимодействия. Для работы в карточке приведён пример с Transformers 4.57.1, PyTorch и CUDA. Указаны английский язык и контекст 8192 токена. Модель распространяется по лицензии MIT. Автор предупреждает, что эта версия экспериментальная, рекомендует использовать более новые версии и сообщает, что копия весов не предназначена для иных целей.

Это пакет GGUF для распределённого запуска DeepSeek-R1-Distill-Qwen-14B в Mesh LLM. Разработчик Mesh LLM разделил вариант Q4_K_M на артефакты по слоям, чтобы модель можно было запускать на нескольких машинах локального кластера и предоставлять через локальный API, совместимый с OpenAI.

Dialog2Flow single target (D2F_single) — англоязычная модель эмбеддингов предложений на базе BERT-base, представленная в работе Dialog2Flow на конференции EMNLP 2024. Она дообучена для извлечения потоков диалога и преобразует предложения и абзацы в плотные векторы размерности 768; модель реализована с помощью Sentence Transformers. Модель подходит для поиска семантически близких реплик и группировки высказываний, а также для автоматического извлечения структуры потока диалога из задачо-ориентированных диалогов. Её можно использовать через Sentence Transformers либо Transformers с подходящей операцией pooling. Контекст ограничен 512 токенами, размер модели — 136,7 млн параметров. Лицензия — MIT.

Это модель классификации текста из проекта Adaptive Classifier, построенная на базе answerdotai/ModernBERT-base. Она относит текст к одному из двух классов качества: high_quality или poor_quality; в карточке указаны 10 обучающих примеров, поровну для каждого класса, и размерность эмбеддингов 768. Модель предназначена для оценки качества текстов и поддерживает непрерывное обучение с добавлением новых классов. Для каждого класса требуется не менее трёх примеров; максимум составляет 150 примеров на класс, а прототипы обновляются каждые 10 примеров. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Карточка модели roskosmos19/Dolphin-4B-Instruct-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

Карточка модели tiondoubl/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

DPOpenHermes-7B — диалоговая языковая модель Open Access AI Collective, созданная на базе OpenHermes-2.5-Mistral-7B. Модель с архитектурой Mistral и 7,1 млрд параметров дообучена методом Direct Preference Optimization на наборах предпочтений Intel/orca_dpo_pairs и argilla/ultrafeedback-binarized-preferences, а затем дополнительно обучена на 7000 примерах OpenHermes, чтобы корректно завершать ответы токеном конца последовательности. Для обучения использовался qLoRA; репозиторий также содержит адаптер. Модель предназначена для генерации текста и многоходового общения в формате ChatML, включая выполнение инструкций и ответы на вопросы. Она принимает текстовые диалоговые сообщения и генерирует текст; заявленный размер контекста — 32 768 токенов. В карточке указаны английский язык и Apache-2.0. README отмечает, что дополнительное SFT снизило результаты бенчмарков по сравнению с DPO-only версией; в описании также упоминается исходная DPO-only модель в ветке dpo-v0.

Eklav-4B-Reranker-CotGen — дообученная модель Eklav на базе Qwen/Qwen3-4B, предназначенная для попарного ранжирования passage по релевантности запросу. Это baseline для оценки метода CotGen: при обучении модель продолжает частичный след рассуждений учителя и самостоятельно формирует ответ; в данном варианте использован стандартный SFT на полных следах рассуждений. Модель содержит 3,7 млрд параметров, построена на плотной архитектуре Qwen3 и принимает текст; заявленная длина контекста — 40 960 токенов. Для оценки релевантности модель генерирует рассуждение, завершающееся меткой true или false; релевантность извлекается по логитам финального токена. В README упомянуты наборы BRIGHT и NevIR и приведены результаты nDCG@10 на BRIGHT. При генерации длинное рассуждение может зациклиться и не завершить ответ в фиксированном лимите токенов; авторы рекомендуют запуск через vLLM с ограничением по стоп-строке. Модель распространяется в формате Safetensors; лицензия в предоставленных данных не описана.

83fonseca/epicogames-Qwen3-4B-Instruct — дообученная текстовая модель семейства Qwen3, разработанная 83fonseca на базе unsloth/qwen3-4b-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс для вызова инструментов. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 40 960 токенов. В карточке заявлено обучение с помощью Unsloth и библиотеки TRL. В метаданных указан английский язык. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализацию дообучения, конкретные наборы данных и результаты оценки качества, поэтому пригодность для отдельных предметных областей не установлена.

ExoMind — агентная модель для научных рассуждений и исследований, разработанная командой ExoMind из Shanghai Artificial Intelligence Laboratory. Это дообученная на Qwen/Qwen3.5-35B-A3B мультимодальная модель семейства Qwen3.5-MoE с поддержкой изображений, диалога и интерфейса вызова инструментов. Основные сценарии — ответы на научные вопросы, поиск и сопоставление источников, обоснование выводов доказательствами, математические и вычислительные рассуждения, а также проверка решений с помощью кода. Система объединяет языковую модель, инструменты взаимодействия с источниками и автономные процессы работы с результатами. В README указан контекст до 262 144 токенов. По заявлению разработчиков, модель показала средний результат 68,3 на восьми научных бенчмарках в описанной ими схеме оценки. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0.

Это мультимодальная GGUF-версия модели OBLITERATUS/gemma-4-E4B-it-OBLITERATED, созданная и квантованная пользователем rdhorner на основе Gemma 4 от Google. Базовая модель представляет собой модифицированную версию gemma-4-E4B-it, обработанную методом OBLITERATUS. Модель предназначена для локального запуска через llama.cpp и совместимые приложения; в метаданных указано около 8 млрд параметров. Модель поддерживает текстовый ввод, изображения и аудио при подключении отдельного файла mmproj, содержащего оба мультимодальных энкодера. Она подходит для диалоговых сценариев, анализа изображений и аудио, использования инструментов и function calling. Поддерживаются OpenAI-совместимые запросы через llama-server, включая tool calls и мультимодальные сообщения. В комплект входят варианты F16, Q8_0, Q5_K_M и Q4_K_M; Q4_K_M рекомендован для локального использования как компромисс между качеством и размером. Для мультимодального режима требуется файл mmproj, а шаблон чата Gemma 4 необходимо включать с параметром --jinja. К сильным сторонам относятся мультимодальность, поддержка вызова инструментов и несколько вариантов квантования для запуска на локальном оборудовании. Модель использует встроенный канал рассуждений Gemma 4, который в OpenAI-совместимых ответах отображается как reasoning_content. При этом модификация OBLITERATED изменила направления отказа в 21 из 42 слоёв, поэтому надёжность вызова инструментов может снижаться в темах, близких к ограничениям безопасности. В README не указаны точный набор поддерживаемых языков и максимальный размер контекста; в примере сервера используется контекст 8192 токена. Модель распространяется по лицензии Apache 2.0, соответствующей лицензии базовой модели.

Мультимодальная модель Gemma 4 E2B IT, дообученная filipwx на базе unsloth/gemma-4-E2B-it и опубликованная в виде шардированных весов для удобной загрузки. Она предназначена для диалогов и задач image-text-to-text, включая анализ изображений и документов. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса safetensors, разбитые на шарды примерно по 2 ГБ. README описывает запуск с 4-битной квантизацией bitsandbytes и прямым размещением модели на GPU, однако это параметры загрузки, а не отдельное заявленное свойство весов репозитория. Модель ориентирована на работу с изображениями и текстом; базовая модель также поддерживает диалоги и интерфейс вызова инструментов. Карточка приводит английский язык. Лицензия — Apache-2.0. Указанные в README ограничения и рекомендации по размещению на GPU относятся к конкретной конфигурации загрузки и оборудованию; её применимость зависит от доступной памяти и окружения.

GoLLIE-7B — языковая модель для извлечения информации, разработанная исследователями HiTZ Basque Center for Language Technology при Университете Страны Басков. Модель дообучена на основе CODE-LLaMA2 и следует подробным инструкциям и правилам аннотирования, заданным для конкретной схемы. Она генерирует структурированные результаты извлечения по описанным пользователем классам и указаниям. Модель предназначена для распознавания именованных сущностей, извлечения событий и отношений, а также для zero-shot извлечения информации и задач с пользовательскими схемами аннотирования. Это плотная архитектура LLaMA с 6,6 млрд параметров и контекстом до 16 384 токенов; заявленный язык — английский. В карточке приведены средние F1 55,3 для zero-shot и 73,0 для supervised оценки. Для запуска нужны совместимые средства работы с моделями PyTorch и Transformers. Модель распространяется по лицензии LLaMA 2; ограничения лицензии следует учитывать при использовании.

Gonzo-Chat-7B — диалоговая языковая модель на архитектуре Mistral, созданная объединением нескольких моделей с помощью mergekit и метода DARE TIES. В состав объединения вошли Nondzu/Mistral-7B-Instruct-v0.2-code-ft, NousResearch/Nous-Hermes-2-Mistral-7B-DPO, cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser и базовая eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов по метаданным; README приводит более раннее значение 8 192 токена. Модель предназначена для диалогов, ролевых сценариев, работы с агентами и несложного программирования, а также для генерации текста по инструкциям. В карточке приведены результаты Open LLM Leaderboard и сравнительных состязаний, но они не гарантируют качество на конкретных задачах. Модель принимает текст и генерирует текст; указан язык en. Распространяется под лицензией Apache-2.0.

h2oai/h2ogpt-4096-llama2-7b — языковая модель H2O.ai, основанная на Meta Llama 2 7B. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 6,6 млрд параметров с контекстом до 4096 токенов; репозиторий содержит веса PyTorch и Safetensors. Модель предназначена для генерации текста и может служить основой для диалоговых приложений, включая ответы на вопросы по документам. H2O.ai указывает, что модель можно дообучать с помощью h2oGPT и H2O LLM Studio. Карточка и метаданные указывают английский язык. Модель распространяется по лицензии Llama 2; перед использованием следует соблюдать её условия. К ограничениям относятся унаследованные от Llama 2 возможные ошибки и недостаточная надёжность ответов, а также ограничение контекста в 4096 токенов.

InSight-doc-8B — мультимодальная модель на 8 млрд параметров для понимания длинных документов, разработанная авторами проекта InSight-doc на базе Qwen/Qwen3-VL-8B-Instruct. Она принимает изображения страниц и текстовые вопросы, а при работе в рекомендованном агентном цикле выбирает области для увеличения с помощью инструмента image_zoom_in_tool, затем формирует ответы по визуальным свидетельствам. Модель обучена полнопараметрической тонкой настройкой и последующим обучением с подкреплением на траекториях и запросах для такого сценария; семейство архитектуры — Qwen3-VL. Модель предназначена для визуальных вопросов и ответов по длинным документам, включая поиск нужных деталей на страницах и отказ от ответа при недостатке свидетельств. В README указано улучшение точности на наборах DUDE, MP-DocVQA, MMLongBench-Doc и LongDocURL относительно базовой Qwen3-VL-8B в условиях низкого и среднего разрешения, а также снижение галлюцинаций на вопросах без ответа и уменьшение задержки на двух длиннодокументных тестах. Для воспроизведения агентного поведения необходимы внешний цикл агента и инструмент увеличения фрагментов; обычная одиночная генерация в Transformers этот цикл не выполняет. Контекст обучения SFT составлял 65 536 токенов; в конфигурации рекомендованного запуска vLLM указан предел длины последовательности 262 144 токена. Лицензия — Apache-2.0.

InternVL3.5-30B-A3B-Instruct — мультимодальная модель семейства InternVL3.5, разработанная OpenGVLab и представленная в формате Transformers. Это дообученная версия InternVL3_5-30B-A3B-Pretrained с архитектурой InternVLChatModel; репозиторий содержит веса в safetensors и распространяется по лицензии Apache-2.0. Модель принимает изображения и текст и генерирует текстовые ответы. Она предназначена для диалога по изображениям, визуального рассуждения и решения задач на понимание текста в изображениях; семейство также заявляет поддержку взаимодействия с графическим интерфейсом и embodied-сценариев. README описывает Cascade RL для улучшения рассуждений и Visual Resolution Router для адаптивной обработки визуальных токенов. В названии указана конфигурация 30B-A3B; README сообщает, что модели семейства до 30B параметров могут работать на одной GPU A100. Карточка не уточняет длину контекста и языки помимо общего указания на многоязычность в метаданных. Ограничения, связанные с точностью или безопасностью, для этой конкретной версии не описаны.

InternVL3-8B — мультимодальная модель OpenGVLab для диалога по тексту и визуальным данным. Она построена по схеме ViT-MLP-LLM: использует InternViT-300M-448px-V2_5 как визуальную часть и Qwen2.5-7B как языковую; число параметров — около 8 млрд по названию модели. Репозиторий содержит дообучение OpenGVLab/InternVL3-8B-Instruct на наборе MMPR-v1.2. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для вопросов и рассуждений по изображениям, нескольким изображениям и видео, а также для обычного текстового общения. В карточке семейства также заявлены сценарии GUI-агентов, анализа промышленных изображений, понимания 3D-сцен и работы с инструментами. Динамическое разбиение изображений на тайлы 448×448 и кодирование визуальных позиций V2PE помогают обрабатывать изображения разного разрешения и длинные мультимодальные последовательности. Карточка описывает семейство как мультиязычное, но не перечисляет отдельные языки. Модель выпущена под лицензией Apache-2.0. Результаты зависят от качества входных изображений и формулировки запроса; обработка нескольких изображений увеличивает расход контекстных токенов. Для видео и инструментов конкретные ограничения и гарантии в карточке не приведены.

ItalianNERXXL — модель разметки именованных сущностей на основе BERT, опубликованная Michele Montebovi. Она предназначена для извлечения из итальянского текста 52 типов сущностей, включая имена и адреса, контакты, банковские и налоговые реквизиты, юридические сведения, медицинские данные и сведения о лекарствах. Модель подходит для автоматической разметки документов и поиска чувствительной информации в итальянских текстах. Модель содержит 137,9 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метки для токенов. В README заявлена точность 79%; это начальный выпуск, а заявленные планы регулярных улучшений не гарантируют качество на новых данных. Распознавание чувствительных реквизитов и медицинских или юридических сущностей следует проверять на целевом наборе текстов. Лицензия — Apache-2.0.

ITS Embedding BGE — англоязычная модель эмбеддингов, дообученная ITS Global на основе BAAI/bge-large-en-v1.5 для семантического поиска и извлечения документов в базе знаний ITS Global. Модель на архитектуре BERT преобразует предложения и фрагменты текста в плотные векторы размерностью 1024; для сопоставления запросы и документы нужно кодировать одной моделью. Максимальная длина контекста — 512 токенов. В проверке на наборе ITS из 1 124 запросов модель показала Accuracy@5 0,961744 против 0,916370 у исходной BGE-large-en-v1.5. Этот результат относится к конкретной проверке и настройкам поиска, поэтому не гарантирует аналогичного качества на других данных. Модель формирует эмбеддинги и не генерирует ответы самостоятельно. Распространяется по лицензии MIT.

jina-reranker-v1-tiny-en-GGUF — англоязычная модель для переранжирования результатов поиска, разработанная Jina AI. Это GGUF-квантизация исходной модели jina-reranker-v1-tiny-en, подготовленная на основе версии llama.cpp с идентификатором f4d2b. Модель предназначена для оценки релевантности документов относительно поискового запроса и сортировки найденных результатов, в том числе в системах семантического поиска и retrieval-augmented generation. В основе модели лежит JinaBERT — вариант архитектуры BERT с симметричным двунаправленным механизмом ALiBi, поддерживающим обработку последовательностей длиной до 8192 токенов. Модель имеет 4 слоя, скрытый размер 384 и около 33 миллионов параметров. Она работает с текстом на английском языке и относится к архитектуре cross-encoder, то есть совместно анализирует запрос и каждый документ. Для повышения скорости используется knowledge distillation: компактная модель-ученик перенимает знания более крупной jina-reranker-v1-base-en. Ключевые преимущества модели — высокая скорость вывода, небольшой размер и возможность обрабатывать длинные тексты при сохранении конкурентной точности. Ограничением является специализация на английском языке и компромисс между скоростью и точностью: по сравнению с более крупными моделями она ориентирована на сценарии, где максимальная точность менее важна. В README указана лицензия Apache-2.0.

jina-reranker-v2-base-multilingual-GGUF — экспериментальная GGUF-версия модели jina-reranker-v2-base-multilingual, разработанной и обученной Jina AI. Это трансформерная cross-encoder-модель для переранжирования результатов информационного поиска: она принимает пару «запрос — документ» и возвращает оценку релевантности документа запросу. Модель предназначена для многоязычного поиска, включая задачи retrieval, reranking, code retrieval, text-to-SQL и сценарии с function calling. Модель поддерживает контекст до 1024 токенов; более длинные тексты обрабатываются скользящим окном с разбиением на фрагменты. Она работает с несколькими языками, однако точный языковой список и размер модели в README не указаны. Использование flash attention повышает производительность, но требует совместимого GPU. GGUF-версия основана на llama.cpp и предназначена для экспериментального запуска только через gpustack/llama-box версии 0.0.72 или новее. Сильной стороной модели является способность сопоставлять запросы и документы на разных языках и выдавать оценки релевантности, пригодные для сортировки результатов. Ограничения включают максимальную длину контекста, зависимость flash attention от оборудования и экспериментальный статус GGUF-сборки. Репозиторий распространяется по лицензии CC-BY-NC-4.0 для исследований и оценки; коммерческое использование этой версии не разрешено.

Карточка модели KeefeBuild/Keefe-Discere-v2.0 на Hugging Face совпадает с карточкой KeefeBuild/Keefe-Discere-v2.0-OxAlpha, поэтому описание составлено по ней. Keefe-Discere-v2.0-OxAlpha — языковая модель KeefeBuild, дообученная на базе unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для текстовой генерации и разговорных сценариев на английском языке, с контекстом до 32 768 токенов. В карточке указаны Apache-2.0 и обучение с использованием Unsloth и библиотеки TRL. Конкретные специализации и результаты оценки качества не описаны, поэтому модель следует рассматривать как универсальную дообученную языковую модель, а поведение при вызове инструментов проверять в целевой интеграции.

Keefe-Discere-v3.3 — дообученная языковая модель на архитектуре Qwen2, опубликованная KeefeBuild. Она предназначена для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке указано обучение с использованием Unsloth и библиотеки TRL от Hugging Face. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализацию, набор данных или конкретные результаты обучения, поэтому качество в отдельных предметных областях оценить нельзя.

RedHatAI/Kimi-K3-FP8-BLOCK — квантованная версия мультимодальной модели moonshotai/Kimi-K3, разработанная RedHatAI. Модель построена на архитектуре KimiK3ForConditionalGeneration, принимает текст и изображения, а генерирует текст. Она предназначена для conversational-сценариев и инференса с использованием vLLM; подробные возможности базовой модели в этой карточке не раскрыты. В модели применена FP8-квантизация весов и активаций линейных операторов внутри трансформерных блоков. Для весов используется блочное масштабирование, для активаций — динамическое групповое масштабирование. Квантизация выполнена методом model-free post-training quantization без калибровочных данных с помощью LLM Compressor; при этом слои эмбеддингов, attention, vision tower, mm_projector и некоторые другие компоненты не квантуются. Модель готова к распределённому запуску в vLLM и поддерживает автоматический выбор инструментов и разбор рассуждений через соответствующие параметры сервера. Размер модели, длина контекста и поддерживаемые языки в README не указаны. Веса и код распространяются по лицензии Kimi K3 License.