III.4Клиентская поддержка и customer success

RDson/Dolphin-less-Llama-3-Instruct-8B — объединённая разговорная модель на базе Llama 3 с 7,5 млрд параметров. Автор объединил cognitivecomputations/dolphin-2.9-llama3-8b и meta-llama/Meta-Llama-3-8B-Instruct, чтобы смягчить «роботизированный» стиль ответов Dolphin. Модель предназначена для генерации текста в диалогах. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 8192 токенов. Репозиторий содержит веса в формате safetensors; GGUF-версии размещены в отдельном репозитории автора. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели и у базовых моделей. README не сообщает о специальных ограничениях качества или целевых областях применения.

Ecofond GPT Demo — демонстрационная русскоязычная языковая модель для первичной обработки типовых обращений клиентов и сотрудников ООО «Экофонд». Её разработали в рамках стажировки, дообучив google/flan-t5-small на синтетических примерах с инструкциями, вопросами и ответами. Модель построена на архитектуре T5, содержит 45,8 млн параметров, принимает текст и генерирует текст; указанная длина контекста — 512 токенов. Прототип предназначен для ответов о услугах компании, необходимых документах, порядке обращения, сроках и стоимости, а также для информационного сопровождения сотрудников. В примерах предусмотрена рекомендация обратиться к специалисту в подходящих ситуациях. Модель обучалась на ограниченном синтетическом наборе данных, поэтому для практического применения требуется дообучение на реальных корпоративных данных. Она не подходит для подготовки официальных юридических заключений или принятия окончательных управленческих и правовых решений без специалиста. Лицензия — Apache-2.0.

maywell/GLM-4.5-Air-GLM-4.6-Distill — текстовая разговорная модель на архитектуре GLM4 MoE, опубликованная пользователем maywell. Карточка называет её результатом дистилляции GLM-4.5-Air в GLM-4.6, однако не описывает процедуру обучения; в метаданных указаны 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации диалоговых ответов и может применяться в чат-ботах и агентных сценариях. Исходная карточка GLM-4.5-Air описывает гибридные режимы рассуждения, программирования и работы с инструментами, но не подтверждает, что все эти возможности сохранены в данном дистиллированном чекпойнте. Метаданные отмечают английский и китайский языки. Репозиторий использует формат Safetensors; лицензия MIT допускает коммерческое использование и доработку.

Falconsai/intent_classification — модель классификации текста на основе DistilBERT, дообученная разработчиком Falconsai для определения намерений пользователя. Она относит текст к категориям намерений, например запросу информации, вопросу или выражению мнения, и предназначена для анализа взаимодействий в чат-ботах, виртуальных помощниках и рекомендательных системах. Модель принимает текст на английском языке и возвращает метку класса; максимальный контекст — 512 токенов. Доступны веса PyTorch и Safetensors, а также формат Core ML. В README указаны точность 99,87% и оценочная потеря 0,0117, однако обучающий набор был небольшим, менее 50 тысяч примеров, и описан как проприетарный. Модель выпущена по лицензии Apache-2.0.

JARVIS — разговорная языковая модель, опубликованная VAIBHAV VERMA. Это плотная причинная трансформерная модель семейства GPT-NeoX с 3,5 млрд параметров, дообученная для диалогов. Она принимает текстовый запрос и генерирует текстовый ответ; карточка также указывает возможности генерации кода. Контекст модели составляет 2048 токенов. Модель предназначена для чат-ботов, виртуальных помощников, поддержки клиентов, диалоговых обучающих инструментов и интерактивных историй. В карточке указаны английский и хинди; упоминание Python относится к языку программирования, а не к поддерживаемому естественному языку. Указано вдохновение моделью OEvortex/vortex-3b, но базовая модель и точная связь с ней не подтверждены. Модель выпущена по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование с соблюдением её условий. Возможны некорректные, предвзятые или вводящие в заблуждение ответы; перед применением в чувствительных сценариях нужна проверка результатов. README содержит общие заявления о производительности, но не приводит конкретных оценок или результатов тестов.

LFM2-1.2B-RAG-GGUF — языковая модель Liquid AI в формате GGUF, основанная на LFM2-1.2B. Она предназначена для генерации текста и специализирована на ответах по предоставленным контекстным документам, поэтому подходит для систем Retrieval-Augmented Generation (RAG): чат-ботов по документации продуктов, поддержки с внутренней базой знаний и академических ассистентов, ведущих многошаговые диалоги по научным статьям и учебным материалам. Модель имеет размер 1,2 млрд параметров и поддерживает текстовую модальность. В карточке указаны английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Формат GGUF ориентирован на использование с llama.cpp и развёртывание на периферийных устройствах. Сильная сторона модели — фокус на формировании ответов с опорой на заданные документы; при этом сведения о размере контекстного окна, архитектурных деталях, результатах тестирования и ограничениях качества не приведены. Модель распространяется по лицензии lfm1.0, указанной как специальная лицензия Liquid AI.

Llama-3-8B-Ultrachat-200K — диалоговая языковая модель, полученная дообучением Meta-Llama-3-8B с помощью Axolotl. Она предназначена для генерации ответов в формате беседы. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и выдаёт текст; нативный размер контекста — 8192 токена. В карточке указан результат оценки: loss 0,8219. Данные обучения названы как None, а подробности о наборе данных, сценариях применения и ограничениях не приведены. Для использования действует лицензия Llama 3.

Модель pszemraj/opt-350m-email-generation разработана на основе facebook/opt-350m и дообучена автором репозитория на шесть эпох на наборе AESLC для генерации продолжения электронных писем. Она принимает текстовый промпт, например приветствие и начало письма, и дописывает его; форматирование промпта заметно влияет на результат. Модель построена на архитектуре OPT с 454,1 млн параметров, использует причинную генерацию текста и имеет контекст длиной до 2048 токенов. Модель предназначена для автодополнения и черновиков писем. При подготовке данных предпринималась попытка исключить адреса электронной почты, номера телефонов и другие подобные сведения. В примере README генерация ограничена 64 токенами; для более длинных писем этот предел можно изменить в настройках pipeline. Репозиторий использует лицензию other, а автор указывает на пользовательские ограничения лицензии facebook/opt-350m, включая запрет коммерческого использования.

Djacon/rubert-tiny2-russian-emotion-detection — модель на базе ruBERT-tiny2, дообученная для многометочной классификации эмоций в русскоязычных текстах. Она относит текст к одной или нескольким категориям: радость, грусть, гнев, энтузиазм, удивление, отвращение, страх, вина, стыд и нейтральное состояние. Модель построена на архитектуре BERT и содержит 29 млн параметров; максимальный контекст составляет 2048 токенов. Она предназначена для анализа эмоциональной окраски текстов, например сообщений и отзывов. В README приведены тестовые метрики, включая средний macro F1 0,618 и micro F1 0,864; качество заметно различается между классами. Обучена на датасете Djacon/ru-izard-emotions. Лицензия — MIT.

BarraHome разработала zephyr-dpo-v2 — диалоговую модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель дообучена на основе BarraHome/zephyr-dpo-4bit с применением Unsloth и библиотеки TRL; в карточке указаны наборы данных truthy-dpo-v0.1 и ultrafeedback_binarized. Модель предназначена для генерации текста в формате диалога и может использоваться для ответов на вопросы и ведения чата. Метаданные также относят её к классификации текста, однако карточка описывает модель как Mistral для диалоговой генерации. Указанные в README результаты Open LLM Leaderboard включают средний балл 59,99, 57,85 на AI2 Reasoning Challenge и 82,72 на HellaSwag. В метаданных указаны английский и испанский языки. Репозиторий содержит веса safetensors и размечен лицензией MIT; README при этом указывает Apache-2.0, поэтому условия лицензирования требуют сверки с актуальными файлами репозитория.

aiplanet/buddhi-indic — это дообученная модель на базе Google Gemma 2 9B IT, разработанная для генерации ответов на хинди, каннада и тамильском языках. Она использует плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и поддерживает контекст длиной до 8192 токенов. Модель предназначена для диалоговых агентов, поддержки клиентов и генерации контента на трёх индийских языках. В README приведён шаблон запросов с инструкцией, входными данными и полем для ответа. Модель принимает текст и генерирует текст. В репозитории указаны веса Safetensors и библиотека Transformers. Лицензия в предоставленных данных не указана.

postbot/distilgpt2-emailgen — модель генерации текста, созданная дообучением distilgpt2 командой postbot на наборе примерно из 50 тысяч писем, включая aeslc. Она продолжает заданное начало письма, чтобы помочь быстрее составлять предсказуемые деловые сообщения; для управления продолжением ей нужен осмысленный текстовый фрагмент, и README отмечает, что формат и структура начального текста заметно влияют на результат. Модель основана на архитектуре GPT-2 и рассчитана на контекст до 1024 токенов. Веса опубликованы в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Результаты генерации следует проверять перед отправкой: модель может предлагать ложные утверждения или менять смысл отрицаний. В README приведено значение loss 2,6247 на наборе оценки, но оно не гарантирует качество каждого продолжения.

CorticalStack/gemma-7b-ultrachat-sft — языковая модель на архитектуре Gemma, дообученная методом supervised fine-tuning на наборе диалогов UltraChat с использованием LoRA. Она предназначена для генерации ответов в чатах и ведения диалога. Модель содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и генерирует текст. В репозитории указаны веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает отдельные языковые специализации или ограничения качества.

HAI-SER-v0.1 — разговорная языковая модель HelpingAI для структурированного эмоционального рассуждения. Она сочетает анализ эмоциональных сигналов с логическим рассуждением, чтобы формировать более чуткие и контекстные ответы. В карточке описаны четыре этапа анализа: оценка эмоционального тона беседы, разбор состояния пользователя, поиск возможных причин переживаний и оценка потенциала для дальнейшего развития. Модель предназначена для интеграции в диалоговые системы и сценарии поддержки клиентов, образования и взаимодействия, где важна эмоциональная чуткость. Она принимает текст и генерирует текстовые ответы; опубликована как плотная модель семейства Llama с архитектурой LlamaForCausalLM, размером 5,1 млрд параметров и контекстом до 131 072 токенов. В метаданных указан английский язык. Модель ранняя и не проверена во всех реальных сценариях: она может упускать нюансы эмоций или давать недостаточно глубокие ответы. Она не предназначена для медицинских рекомендаций и советов по психическому здоровью. Лицензия указана как other.

MIMIR-1 — разработанная Mythologic англоязычная модель для структурированных решений в системах с агентами. Это энкодер ModernBERT-Large с отдельной решающей головой, всего 419 млн параметров; модель не генерирует текст, а возвращает типизированный ответ с вероятностями, фрагментами контекста, на которые опирается, и сигналом о возможности безопасно действовать или необходимости передать решение на проверку. Входом могут быть контекст в виде текста, пассажей, таблиц с типизированными значениями или JSON-состояния, вопрос и заданный вызывающей стороной набор вариантов. Модель поддерживает выбор одного или нескольких вариантов, ответы да/нет, проверку утверждений, маршрутизацию запросов, проверку условий вызова инструментов, ранжирование и другие решения с заданным пространством ответов. Результат может иметь статус DECIDED, ABSTAINED или DEFERRED; для принятия решения используются калиброванные пороги и сертификаты из поставляемой политики. Лицензия указана как other. Модель предназначена для английских данных. Сертифицированное покрытие избирательно: для некоторых типов решений поставляемая политика всегда откладывает ответ, а fp16-граф не содержит политики сертификации. По данным карточки скорость 1,7 решения в секунду измерена только на процессоре M4; результаты бенчмарков приведены авторами модели.

Карточка модели bdauzats/minicpm5-2b-decision на Hugging Face совпадает с карточкой usejul/minicpm5-2b-decision, поэтому описание составлено по ней. usejul/minicpm5-2b-decision — модель решений для jul, разработанная автором репозитория на основе MiniCPM5-2B от OpenBMB. Она принимает текстовое состояние и типизированный вопрос с вариантами ответа, а затем за один проход выдаёт вероятность для каждого варианта; текст она не генерирует. Модель представляет собой дообученную MiniCPM5-2B с объединённым LoRA-адаптером ранга 16 и pointer head. Это веса bf16 без квантизации, с архитектурой LlamaForCausalLM, 2,2 млрд параметров и контекстом до 131 072 токенов. Обучение v1.1 проведено на 44 720 записях за одну эпоху; около 15% данных — французские. Для вероятностей при загрузке применяется температура 1,289, настроенная на данных разработки. Модель предназначена для классификации и выбора из заданных пользователем вариантов, в том числе для маршрутизации обращений и решений по текстовому контексту. В README приведены результаты на англоязычных наборах и на французской части MASSIVE: качество на французском улучшилось, но остаётся ниже английского. Авторы отмечают слабые результаты на задачах, требующих внешних знаний и арифметики; также состояние длиннее 384 токенов и вопрос длиннее 1024 токенов выходят за пределы обучающих данных. Лицензия — Apache-2.0.

usejul/minicpm5-2b-decision — модель решений для jul, разработанная автором репозитория на основе MiniCPM5-2B от OpenBMB. Она принимает текстовое состояние и типизированный вопрос с вариантами ответа, а затем за один проход выдаёт вероятность для каждого варианта; текст она не генерирует. Модель представляет собой дообученную MiniCPM5-2B с объединённым LoRA-адаптером ранга 16 и pointer head. Это веса bf16 без квантизации, с архитектурой LlamaForCausalLM, 2,2 млрд параметров и контекстом до 131 072 токенов. Обучение v1.1 проведено на 44 720 записях за одну эпоху; около 15% данных — французские. Для вероятностей при загрузке применяется температура 1,289, настроенная на данных разработки. Модель предназначена для классификации и выбора из заданных пользователем вариантов, в том числе для маршрутизации обращений и решений по текстовому контексту. В README приведены результаты на англоязычных наборах и на французской части MASSIVE: качество на французском улучшилось, но остаётся ниже английского. Авторы отмечают слабые результаты на задачах, требующих внешних знаний и арифметики; также состояние длиннее 384 токенов и вопрос длиннее 1024 токенов выходят за пределы обучающих данных. Лицензия — Apache-2.0.

Mistral-7B-Telco — дообученная Bitext языковая модель для диалоговой поддержки в телекоммуникационной сфере. Она предназначена для чат-ботов, виртуальных помощников и copilots, которые отвечают на вопросы клиентов и помогают с типовыми процедурами: управлением лимитами, активацией телефона, мобильными платежами, покрытием сети и счетами. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Для дообучения применялись синтетические данные и автоматическая разметка Bitext; набор охватывает 26 телекоммуникационных намерений. Модель принимает текст и генерирует текстовые ответы. В карточке базовая модель указана как mistralai/Mistral-7B-Instruct-v0.2. Лицензия — Apache-2.0. Модель может хуже отвечать на вопросы вне телекоммуникационной тематики; возможны смещения, связанные с обучающими данными. Её не следует использовать для медицинских, юридических или критически важных рекомендаций по безопасности.

AnasAlokla/multilingual_go_emotions_V1.1 — многоязычная модель классификации текста, разработанная AnasAlokla и дообученная на базе AnasAlokla/multilingual_go_emotions. Это BERT-модель с 205,1 млн параметров, которая присваивает тексту несколько эмоциональных меток одновременно: 27 категорий эмоций и нейтральный класс. Максимальная длина контекста — 512 токенов. Модель предназначена для анализа отзывов, обращений в поддержку и сообщений в соцсетях, а также для эмоционально чувствительных чат-ботов и модерации контента. В README заявлена поддержка арабского, английского, французского, испанского, нидерландского и турецкого языков; метаданные подтверждают арабский, английский, французский, испанский, немецкий и турецкий, поэтому состав языков в источниках расходится. Карточка приводит метрики на тестовой выборке и отмечает улучшение версии V1.1 на редких эмоциональных категориях, но результаты зависят от класса и порога классификации. Модель распространяется под лицензией MIT. Она определяет эмоции в тексте и не измеряет психологическое состояние человека; точность отдельных категорий неодинакова, поэтому результаты для чувствительных решений следует проверять.

NeuroFeel — компактная модель классификации текста, разработанная boltuix на основе NeuroBERT и дообученная для распознавания эмоций в коротких сообщениях. Она относит текст к 13 эмоциональным категориям и может использоваться для анализа тональности и эмоционального тона в чат-ботах, социальных сетях и приложениях для устройств с ограниченными ресурсами. Модель построена на архитектуре BERT: в карточке указаны 4 слоя, размер скрытого представления 256 и 8 голов внимания; метаданные Hugging Face указывают 16,2 млн параметров и контекст до 512 токенов, тогда как README описывает максимум 64 токена для входной последовательности. README заявляет об INT8-квантизации, размере около 25 МБ, работе офлайн и низкой задержке; доступный формат файлов — Safetensors. Поддерживается английский язык. NeuroFeel предназначена для присвоения коротким текстам эмоциональных меток, в том числе для маршрутизации сообщений поддержки, подбора реакций и локального анализа настроения. README заявляет высокую точность, но не приводит метрик или подробностей оценки, поэтому качество на конкретных данных следует проверять отдельно. Лицензия Apache-2.0 разрешает коммерческое и личное использование.

PhoneLLM Alpha 1 — открытая языковая модель команды Pipecat, предназначенная для телефонных голосовых агентов. Это полноразмерный fine-tune NVIDIA Nemotron 3 Nano 30B-A3B: гибридная архитектура Mamba-Transformer с mixture-of-experts, около 30 млрд параметров и 3,5 млрд активных параметров. Метаданные репозитория указывают 1,9 млрд параметров; опубликованный размер модели в README и метаданных расходится. Модель принимает текст и выдаёт текст, включая ответы диалога и вызовы инструментов; в голосовом сценарии её используют вместе с отдельными системами распознавания речи и синтеза речи. Заявленная длина контекста — 262 144 токена, основной язык карточки — английский. Модель обучена для быстрых многошаговых разговоров и точного вызова инструментов без включённого режима рассуждений. Её предлагают для входящих и исходящих звонков в клиентской поддержке финансовых, медицинских, розничных и гостиничных организаций. Разработчики сообщают о результатах PhoneBench, сопоставимых или превосходящих многие модели для производственных голосовых агентов, но эти сравнительные заявления основаны на их собственном бенчмарке. Репозиторий распространяется по лицензии BSD-2-Clause без коммерческих ограничений.

falconsproof v1 — модель Falconsai для выбора и ранжирования вариантов ответа по заданному текстовому состоянию, вопросу и списку из 2–20 вариантов. Она возвращает калиброванную вероятность для каждого варианта и не генерирует текст. Модель построена на DistilBERT с 6 слоями, 768 скрытыми параметрами и 12 головами внимания; содержит около 67,6 млн параметров. Контекст модели — 512 токенов по метаданным, однако в описанных сценариях вход обрезается после 128 токенов. Основное применение — маршрутизация англоязычных обращений в службу поддержки по закрытому набору намерений. Внутри домена Bitext модель показала точность 97,3%, но на незнакомых банковских намерениях качество и калибровка заметно хуже. Для открытых вопросов, генерации текста, длинных документов, многошаговых рассуждений и языков кроме английского модель не предназначена; для важных решений требуется человеческий контроль. Лицензия — Apache-2.0.

Qwen3-4B-SafeRL — версия языковой модели Qwen3-4B, дообученная с помощью обучения с подкреплением для повышения устойчивости к вредоносным и состязательным запросам. Для оценки безопасности использовалась Qwen3Guard-Gen-4B, а гибридная функция вознаграждения также поощряет полезные ответы и снижает число необоснованных отказов. Модель предназначена для диалогов и генерации текста в сценариях, где важны безопасность и сохранение полезности ответов. Она поддерживает режимы с рассуждением и без него; архитектура — плотная Qwen3ForCausalLM, размер — около 3,7 млрд параметров, контекст — до 40 960 токенов. В сравнительных тестах SafeRL показала более высокие показатели безопасности и меньшую частоту отказов, чем исходная Qwen3-4B, при близких результатах на отдельных тестах рассуждения. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Показатели безопасности не гарантируют безошибочного распознавания всех вредоносных запросов; результаты зависят от теста и режима работы.

GalvinNguyen/vian_ai_shop — дообученная модель разработчика Glavinnguyen на основе google/gemma-4-e2b-it. Она предназначена для стандартизации формата, стиля и структуры ответов в сценариях поддержки, продаж и маркетинга для магазина. Карточка описывает её как модель генерации текста с интерфейсом для работы с текстом, изображениями и аудио; основными языками названы вьетнамский и английский. В метаданных указана архитектура Gemma4ForConditionalGeneration и формат safetensors. Дообучение выполнено на небольшом тщательно отобранном наборе данных и ориентировано на поведение и оформление ответов, а не на расширение знаний. Модель не рекомендуется использовать без проверки человеком для задач, требующих широких знаний за пределами обучающих данных. Лицензия — MIT.

Wähler-4B — дообученная Eschatia Labs модель на 4 млрд параметров для классификации текстовых решений, маршрутизации запросов и выдачи оценок вероятности. Она основана на Intern-Decision-4B и дообучена с помощью LoRA на данных JevAlt. Модель рассчитана на локальный запуск; для неё доступны веса Safetensors и сборка GGUF, а в карточке указана архитектура семейства Qwen3.5. Основной язык модели — немецкий; также в метаданных отмечен английский. Модель принимает текст, поддерживает контекст до 8 тысяч токенов и предназначена для классификации и принятия решений с оценкой уверенности. В описанных тестах на немецких решениях показаны точность 92,0% и Brier score 0,119, однако тестовый набор использовал тот же конвейер данных, что и обучение. Калибровку вероятностей следует перенастроить на собственных данных перед использованием порогов уверенности. Модель слаба на длинном нерелевантном тексте и арифметике с датами; встроенные инструкции могут повлиять на ответы, поэтому проверки полномочий и контроль важных решений должны выполняться вне модели. Лицензия — Apache-2.0.

vaariis/distilbert-base-uncased-finetuned-emotion — модель классификации текста на основе DistilBERT, дообученная разработчиком vaariis для распознавания эмоций. Она принимает текст и относит его к эмоциональным классам; точный набор классов и обучающий датасет в карточке не раскрыты. Модель рассчитана на английский текст: базовая модель использует uncased-токенизацию, а идентификатор указывает на англоязычный вариант DistilBERT. В README указаны результаты на оценочном наборе: accuracy 0,9205 и F1 0,9208. Контекст модели — до 512 токенов. Веса опубликованы в формате PyTorch по лицензии Apache-2.0. Показатели относятся к указанному оценочному набору и сами по себе не гарантируют качество на других данных; классы эмоций и состав обучающей выборки не описаны.

Jarvis-3B — диалоговая модель генерации текста, разработанная Sree и OEvortex по мотивам вымышленного помощника Jarvis. В репозитории указано около 3 млрд параметров; метаданные классифицируют архитектуру как плотную StableLM с классом StableLmForCausalLM, размером 2,7 млрд параметров и контекстом до 4096 токенов. Модель работает с текстом и предназначена для общения на естественном языке. Её можно использовать для чат-ботов, виртуальных помощников, диалоговых систем и генерации ответов. Результаты оценки в карточке пока не приведены, а обучающие данные не описаны. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории.

Jeff-Gemma4-E2B — компактная дообученная модель классификации с нулевым обучением, созданная автором проекта Jeff на базе Google Gemma 4 E2B. Она принимает описание ситуации и варианты ответа, а затем за один проход оценивает вероятность каждого варианта и выбирает наиболее подходящий. Модель предназначена для встраивания в локальные приложения, где нужны быстрые решения без генерации и разбора текстовых ответов: например, для определения намерения пользователя, маршрутизации обращений, модерации или выбора команды по транскрипту голосового ввода. Модель имеет плотную текстовую архитектуру Gemma4TextModel и около 1,6 млрд параметров. Метаданные указывают контекстное окно 131 072 токена, однако практическое число вариантов для выбора у этой версии ограничено 26; поддержка списков до 254 вариантов описана только для обновлённых моделей Qwen. В тестах автора Jeff-Gemma4-E2B показала 81,6% точности на совокупности пяти бенчмарков, ECE 0,031 и время решения около 29 мс на RTX PRO 6000. Карточка сообщает об обучении на синтетических данных и тестировании, но не приводит отдельной оценки качества для конкретных прикладных сценариев. Модель рассчитана на английский язык согласно языковым тегам и карточке. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0. Ограничения включают меньшую способность к рассуждению по сравнению с крупными моделями и предел в 26 вариантов выбора; для задач, где важна высокая точность в узкой предметной области, автор рекомендует дообучение на собственных примерах.

JevK5 v0.3 — открытая модель с весами, разработанная независимо как альтернатива Jev от TypeSafe AI для принятия решений с типизированными ответами. Она принимает описание состояния и вопрос с ответом «да/нет», выбором из вариантов или оценкой, а затем за один проход выдаёт вероятности вариантов без генерации токенов. Для использования специализированного считывания нужен runtime JevK5; обычный вызов генерации текста через Transformers не выполняет этот readout. Модель основана на Qwen3.5-4B: LoRA ранга 16 для проекций внимания объединена с весами. Вероятности вычисляются по логитам токенов букв вариантов с температурной калибровкой; вопросы более чем с 16 вариантами обрабатываются в несколько проходов. Контекст составляет до 262144 токенов, число параметров — около 3,4 млрд. Модель подходит для маршрутизации обращений, классификации запросов, выбора действия и выставления оценок, когда результат требуется получить в виде вероятностей по заданным вариантам. В карточке приведены результаты на отложенных проверках и JevBench; качество зависит от типа вопроса и набора данных, а часть показателей основана на небольших выборках. Указана поддержка английского языка. Лицензия — Apache-2.0.

Laya — модель, разработанная convaiinnovations и представленная в формате GGUF для использования с llama.cpp. Это квантованная версия модели convaiinnovations/laya на базе ModernBERT: GGUF-файл содержит только backbone, а decision head и конфигурация поставляются отдельно в файле laya-head.safetensors. Модель предназначена для классификации, маршрутизации обращений, оценки показателей и построения guardrails, включая выбор категории, оценку срочности и риска оттока. В качестве примера она распределяет обращения клиентов по отделам, таким как billing, technical и sales. Поддерживается обработка текста; заявленные языки, точный размер контекста и полный перечень характеристик архитектуры в карточке не указаны. Backbone загружается в llama.cpp с режимом modern-bert, параметрами embeddings и pooling none, а decision head должен выполняться отдельно за пределами llama.cpp. Доступны варианты F16, Q8_0, Q6_K и Q4_K_M; размер F16-файла составляет около 933 МБ, квантованных версий — от 414 до 563 МБ. F16 и Q8_0 рекомендуются для важных задач, поскольку Q4_K_M на ограниченной проверке демонстрировал больший сдвиг вероятностей и оценок. Модель удобна для локального инференса и коммерческого использования, но интеграция требует Python-пакета laya, токенизатора, PyTorch, safetensors и отдельного запуска decision head; готовой реализации head на Go или C++ нет. Тестирование конвертации и квантованных версий ограничено небольшими выборками и единичными примерами, поэтому результаты на собственных данных необходимо дополнительно проверять. Лицензия — Apache-2.0.