II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейSingGuard-2b — мультимодальная модель-охранник для оценки безопасности текста, изображений и их сочетаний. Это дообученная модель Qwen3-VL-2B-Instruct от Qwen, опубликованная inclusionAI; она использует архитектуру Qwen3-VL и доступна в формате safetensors. Модель принимает правила безопасности как входной параметр policy, поэтому её можно настраивать под разные политики модерации без повторного обучения. Модель определяет, соответствует ли пользовательский запрос, ответ модели или мультимодальный материал активным правилам, и возвращает оценку safe/unsafe с категорией риска. Поддерживаются быстрый режим и режим с более подробным рассуждением; заявлена также оценка многоязычных запросов и ответов. Для работы с изображениями используется диалоговый интерфейс Transformers или vLLM. Лицензия — Apache-2.0. Карточка заявляет высокие результаты на ряде бенчмарков безопасности, но не приводит в доступном описании численных метрик. Выходы следует проверять: README отдельно предупреждает о некорректном формате или категории, отсутствующей в активной политике; возможности для видео отдельно для этой версии не подтверждены.
NVIDIA Citrinet CTC 256 Librispeech — компактная модель распознавания английской речи, разработанная NVIDIA и распространяемая для NeMo. Это extra-small вариант архитектуры Citrinet-CTC примерно с 10 млн параметров; модель использует CTC-декодирование и обучена на 960 часах английской речи из LibriSpeech. Она принимает монофоническое аудио WAV с частотой дискретизации 16 кГц и возвращает транскрипцию в виде строки: строчными буквами английского алфавита, с пробелами и апострофами. Модель подходит для транскрибирования отдельных записей и пакетов аудиофайлов, а также как предварительно обученный чекпойнт для дальнейшего дообучения. Для развёртывания в производственных системах README указывает совместимость с NVIDIA Riva. В приведённых результатах WER составляет 3,8% на LibriSpeech test-clean и 9,8% на test-other при жадном декодировании. Качество может снижаться на технической лексике, разговорных вариантах речи и речи с акцентом, недостаточно представленных в обучающих данных. Модель выпущена под лицензией CC BY 4.0.
ThinkingGuard-8B — мультимодальная модель-детектор рисков, разработанная Ruochen Zhang и соавторами на базе Qwen3-VL-8B-Instruct. Она анализирует изображения вместе с текстовыми запросами и выявляет неявные опасности, возникающие из сочетания по отдельности безобидных объектов или инструкций, например легковоспламеняющегося аэрозоля рядом с горящей плитой. Модель предназначена для фильтрации входных данных и настройки защитных ограничений в приложениях с мультимодальными языковыми моделями, аудита и модерации контента, а также исследований безопасности. Она обучена на TriggerBench с пошаговым структурированным рассуждением и формирует обоснование риска перед итоговым вердиктом. Архитектура — плотная Qwen3-VL, 8 млрд параметров; репозиторий содержит веса Safetensors. Лицензия — CC BY 4.0.
ToolHACE Qwen3.5 2B Span — модель, разработанная s-nlp на основе Qwen/Qwen3.5-2B методом полного дообучения с учителем. Она проверяет итоговый ответ ассистента, использовавшего инструменты, сопоставляя запрос пользователя, доступные инструменты, их результаты и ответ. Модель выдаёт JSON-вердикт с классами ошибок и дословными фрагментами ответа, содержащими неподтверждённые или противоречащие результатам инструмента утверждения. Это генеративная модель для структурированного вывода, а не классификатор токенов или CRF-модель для выделения фрагментов. Модель предназначена для аудита ответов после выполнения инструментов: она выявляет противоречия с их результатами, неподтверждённые утверждения, предложения недоступных действий и пропуски запрошенной информации. Обучение проведено на 37 135 примерах англоязычных диалогов с инструментами; тестовая оценка показала F1 0,8635 для бинарного обнаружения галлюцинаций и F1 0,8177 для локализации фрагментов при IoU не менее 0,50. Основное ограничение — слабое обнаружение пропусков информации: полнота для класса undergeneration составила 0,0423. Модель не проверяет факты, отсутствующие в переданном контексте; примеры обучения обычно содержат один класс ошибки, а ответы длиннее 4 000 символов обрезаются. Базовая модель содержит 2 млрд параметров и поддерживает понимание изображений, но описанный аудит использует текстовые поля. Лицензия в предоставленных данных не указана.
RioLee/ToolRM-Gen-Qwen3-4B-Thinking-2507 — плотная генеративная модель вознаграждения семейства ToolRM, созданная на базе Qwen3-4B-Thinking-2507 и дообученная для оценки работы агентов с инструментами. Она сравнивает пары ответов или действий агента и формирует критику, помогая выбрать лучший вариант. Модель также предназначена для Best-of-N отбора, самокоррекции и обучения с подкреплением на проверяемой обратной связи. Модель содержит 3,7 млрд параметров, принимает текст и поддерживает интерфейс вызова инструментов. В карточке указан английский язык; базовая модель имеет контекстное окно 262 144 токена. Однако ToolRM обучалась на максимальной длине входа 16 384 токена, поэтому более длинные запросы могут давать непредсказуемые результаты. Для генеративных оценок рекомендуется менять порядок сравниваемых ответов, чтобы снизить смещение позиции. Лицензия — CC BY-NC-SA 4.0.
TraceML Action Labeler — языковая модель jerryyan для классификации изменений между версиями ML-решений. Она принимает diff кода, метки состояния обеих версий и изменение оценки, а затем формирует JSON с типом действия, намерением, масштабом изменения, влиянием на оценку и кратким текстовым объяснением. Модель представляет собой плотную Qwen3ForCausalLM на 1,7 млрд параметров, дообученную на размеченных примерах TraceML, подготовленных с помощью более крупной модели-учителя. Контекстное окно составляет 40 960 токенов; модель работает с текстом и предназначена для анализа траекторий разработки ML-решений. Для воспроизводимого результата автор рекомендует жадное декодирование с отключённым режимом thinking и использование промптов и парсера из TraceML Toolkit. Подходит для разметки переходов между версиями кода в экспериментах и анализа действий, предпринятых при улучшении ML-решений. Для каждого перехода нужны метки состояния обеих версий; длинный код следует укладывать в контекст с помощью Toolkit. Модель распространяется на условиях Apache-2.0.
protectai/unbiased-toxic-roberta-onnx — модель для классификации токсичности текстов, представляющая собой конверсию unitary/unbiased-toxic-roberta в формат ONNX с использованием библиотеки Hugging Face Optimum. Исходную модель разработала Laura Hanu из Unitary. Проект protectai/llm-guard архивирован и больше не поддерживается. Модель предназначена для анализа комментариев и выявления токсичного, агрессивного, оскорбительного или угрожающего содержания, в том числе в сценариях фильтрации пользовательского контента и защиты LLM-приложений. Она обучалась на данных трёх соревнований Jigsaw: Toxic Comment Classification, Jigsaw Unintended Bias in Toxicity Classification и Multilingual Toxic Comment Classification. Поддерживается английский язык; README не содержит сведений о размере модели, длине контекста, точной архитектуре базовой RoBERTa или фактической поддержке многоязычного режима. В зависимости от задачи доступны метки toxic, severe_toxic, obscene, threat, insult, identity_hate или identity_attack, sexual_explicit, а также дополнительные идентичности, упоминаемые в комментариях. Модель предоставляет категории от «Very Toxic» до «Not Toxic» и может запускаться через Optimum, ONNX Runtime и Transformers. Важное ограничение — результаты Hugging Face-модели могут отличаться от результатов библиотеки Detoxify. Лицензия Apache-2.0.
Wav2Vec2-XLS-R-300M — созданная Facebook AI мультиязычная модель предварительного обучения для извлечения речевых представлений на основе архитектуры wav2vec 2.0. В карточке указано 300 млн параметров, а метаданные репозитория — 402,7 млн; модель предобучена на 436 тысячах часов неразмеченной речи из 128 языков. Для подачи речи требуется частота дискретизации 16 кГц. Модель служит основой для дообучения под распознавание речи, перевод речи и классификацию, включая определение языка. Она не является готовой системой распознавания речи без соответствующей настройки. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0.
Unbabel COMET-22 DA — модель оценки качества машинного перевода, представленная Unbabel для задания Metrics Shared Task на WMT 2022. Она принимает исходное предложение, его перевод и эталонный перевод, а затем выдаёт одну оценку от 0 до 1: более высокое значение соответствует более качественному переводу с учётом исходника и эталона. Модель основана на XLM-RoBERTa large и предназначена для автоматической оценки переводов, например при сравнении систем машинного перевода или контроле качества переводов. Она поддерживает множество языков; для языковых пар с языками вне охвата XLM-R результаты могут быть ненадёжными. Распространяется по лицензии Apache-2.0.
xFinder-llama38it — модель IAAR для извлечения ключевых ответов из выводов больших языковых моделей. Она создана дообучением Llama 3 8B Instruct и предназначена прежде всего для повышения точности и надёжности автоматической оценки ответов LLM. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст. Окно контекста составляет 8192 токена. В README описана оценка на размеченных тестовой и обобщающей выборках KAF Dataset, где модель сравнивали с извлечением ответов на основе регулярных выражений. Модель подходит для извлечения ответов в конвейерах оценки языковых моделей. Карточка сообщает об английском языке и формате PyTorch. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных материалов на её условиях.
xFinder-qwen1505 — компактная языковая модель, разработанная IAAR для извлечения ключевых ответов из текстовых ответов больших языковых моделей. Она дообучена на основе Qwen-1.5-0.5B и предназначена прежде всего для оценки результатов LLM на задачах, где нужно надёжно определить ответ в свободно сформулированном тексте. Модель помогает извлекать ответы из разнообразных формулировок, с которыми регулярные выражения справляются ненадёжно. В README сообщается об оценке на размеченных людьми тестовой и обобщающей выборках набора KAF и об улучшении точности и устойчивости извлечения по сравнению с подходами на основе регулярных выражений. Это причинная текстовая модель семейства Qwen2 с 463,9 млн параметров и контекстом до 32 768 токенов; карточка указывает английский язык. Модель подходит для автоматизации проверки ответов LLM и подготовки результатов к последующей оценке. Карточка не приводит подробностей о качестве на других наборах данных или языках. Лицензия CC BY-NC-ND 4.0 ограничивает использование и распространение производных материалов; перед применением следует учитывать её условия.
zen-guard-stream — компактная модель для потоковой проверки безопасности текста, опубликованная ZenLM и основанная на Qwen3Guard-Stream-0.6B от Alibaba Qwen. Это дообученная плотная модель семейства Qwen3 с примерно 508 млн параметров; репозиторий содержит веса в формате safetensors. Модель классифицирует текст по мере его поступления и предназначена для работы в качестве защитного фильтра или guardrail в приложениях с генерацией текста. Модель принимает текст и выдаёт классификационные метки безопасности. Контекст составляет до 8192 токенов; в карточке заявлен английский язык. Лицензия Apache-2.0 допускает коммерческое использование. Репозиторий помечен как заменённый на zenlm/zen3-guard, но веса сохранены для воспроизводимости.
Ziya-LLaMA-7B-Reward — разработанная командой Fengshenbang модель оценки ответов, основанная на Ziya-LLaMA и дообученная на данных ранжирования предпочтений. Она принимает текст и выдаёт оценку вознаграждения, помогая сравнивать варианты ответов языковых моделей и выявлять повторы, незавершённые ответы и несоблюдение инструкций. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LLaMA и рассчитана на контекст до 2048 токенов. Обучающие данные включают китайские и английские примеры, а модель предназначена для оценки генераций на китайском и английском языках. Лицензия репозитория — GPL. Модель хуже справляется с проверкой фактической точности и различением ответов близкого качества; оценки ответов разных типов задач могут быть несопоставимы.
Карточка модели avsolatorio/00-000-11-1-0-1-0-0-mean-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240128084618-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/00-400-10-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130210931-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
AdaGuard-8B — модель Yunhao-Feng для проверки пользовательских запросов и действий ИИ-агентов по заданным пользователем правилам. Она формирует объяснение, указывает идентификаторы нарушенных правил в заданном порядке или возвращает NR, если нарушений нет; вердикт не является калиброванной вероятностью риска. Модель построена на Qwen3Guard-Gen-8B с архитектурой Qwen3ForCausalLM и дообучена методом supervised fine-tuning на AdaptiveSafety с последующим SafePO. В чекпойнте 7,6 млрд параметров, контекст составляет 32 768 токенов. Для оценки передаются текстовые правила и события, включая запросы, действия агента и результаты инструментов; на выходе модель выдаёт текстовый анализ и метки вердикта. Пример запуска использует Transformers, CUDA и BF16. AdaGuard позволяет задавать от 1 до 100 правил без фиксированной таксономии рисков и связывать нарушения с локальными идентификаторами правил. В README приведены ранее полученные результаты на AdaptiveSafety и DynaBench; выпуск чекпойнта не сопровождался новым прогоном этих тестов. Длинноконтекстная производительность за пределами описанных условий оценки не установлена. Некорректный или неполный формат ответа следует считать недействительным вердиктом. Лицензия — Apache-2.0.
Alpaca GarbageCollector Multilingual — модель Argilla для поиска некорректных примеров в Alpaca и других датасетах инструкций. Это бинарный классификатор на базе SetFit и XLM-RoBERTa с 305,2 млн параметров; он присваивает примеру метку ALL GOOD или BAD INSTRUCTION. Модель дообучена на 1 000 размеченных примерах из AlpacaCleaned с помощью Argilla и использует многоязычный sentence transformer paraphrase-multilingual-mpnet-base-v2. Модель предназначена для проверки качества обучающих данных: она помогает находить инструкции, входы или ответы с проблемами, например выдуманными сведениями о ценах или описаниями несуществующих изображений. В README приведены испытания на английском, немецком и испанском языках; заявлен межъязыковой подход. В метаданных указан контекст 514 токенов. Репозиторий распространяется по лицензии Apache-2.0.
ANAH-20B — модель OpenCompass на базе InternLM2-20B, дообученная на наборе данных ANAH для выявления и разметки галлюцинаций в ответах больших языковых моделей. Она предназначена для анализа ответа LLM и аннотирования содержащихся в нём галлюцинаций; для работы требуется использовать формат промпта из исследовательской статьи проекта. Модель имеет плотную архитектуру InternLM2ForCausalLM, около 19,3 млрд параметров и контекст длиной 32 768 токенов. Она принимает текст и выдаёт текстовую классификацию или аннотацию. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0.
BLEURT-20 — модель семейства BLEURT от lucadiliello для оценки качества текста с помощью классификации последовательностей. Она принимает текстовые входы и выдаёт оценку, которую можно использовать для автоматической оценки сходства или качества кандидата относительно эталонного текста. Модель построена на Transformer, содержит около 967,8 млн параметров, работает с контекстом до 512 токенов и доступна в формате PyTorch. Модель предназначена для автоматической оценки текстов, в частности для сравнения с эталонными формулировками. README указывает на реализацию BLEURT для PyTorch, но не описывает обучение, языковой охват или лицензию; этих сведений здесь недостаточно для точных выводов.
CamStack model mirror — репозиторий преобразованных сторонних моделей для использования в инференс-движках CamStack. В README перечислены детекторы объектов и упаковок, сегментационные и классификационные модели, распознавание автомобильных номеров, аудиоклассификатор и извлечение признаков. Модели экспортированы в ONNX, TFLite и CoreML; часть также преобразована в OpenVINO IR. Для отдельных вариантов указаны изменение размера входного изображения, дообучение или посттренировочная квантизация INT8. Репозиторий не задаёт единую лицензию: условия зависят от модели и сохраняются от исходного проекта. Среди указанных лицензий есть AGPL-3.0 для YOLO26 и YOLOv9, Apache-2.0 для ряда моделей и CC BY-NC 4.0 для классификатора типов автомобилей, который нельзя использовать коммерчески. README отсылает к карточкам папок и файлам лицензий для условий каждой модели. Категория feature-extraction из метаданных не описывает все задачи моделей, перечисленных в README.
Chonky distilbert base (uncased) v1 — модель на архитектуре DistilBERT, разработанная автором репозитория mirth для семантического разбиения текста на связные фрагменты. Она предназначена для подготовки документов к поиску и генерации с дополненной выборкой (RAG): полученные фрагменты можно передавать в системы эмбеддингового поиска или языковые модели. Модель дообучена на DistilBERT базового размера и обучалась разделять абзацы из BookCorpus. Для работы автор предлагает библиотеку chonky. В README приведены F1 0,7, точность 0,79 и полнота 0,63; базовая модель имеет контекст до 512 токенов. Репозиторий содержит веса в формате Safetensors, библиотека для загрузки — Transformers. Модель ориентирована на английский текст и доступна по лицензии MIT. Метрики указывают на компромисс между точностью и полнотой границ сегментов; качество на других типах документов и языках в карточке не подтверждено.
Модель enochlev/coherence-all-mpnet-base-v2 разработана Enoch Levandovsky и дообучена на базе sentence-transformers/all-mpnet-base-v2 для оценки связности и уместности ответов в диалоге. Это кросс-энкодер на архитектуре MPNet с 136,7 млн параметров, реализованный для Transformers; он принимает текст вопроса или подсказки вместе с ответом и выдаёт оценку, где более высокие значения указывают на большую связность или релевантность. Максимальная длина контекста — 514 токенов. Модель предназначена для проверки ответов чат-ботов и диалоговых систем, а также может служить компонентом более крупной системы или основой для дальнейшего дообучения. Она обучалась и оценивалась на наборе данных CHILDES, а заявленный язык — английский. Репозиторий не сообщает лицензию и предлагает проверить её отдельно. Модель не предназначена для анализа тональности, распознавания эмоциональной окраски или задач вне оценки связности диалога; автор также отмечает, что сарказм и юмор могут оцениваться недостаточно точно.
DantheMan124/deberta-preference-reward — модель оценки предпочтений ответов, созданная на базе microsoft/deberta-v3-base. Она предназначена для попарного сравнения ответов языковых моделей на один и тот же открытый запрос и выдачи относительного сигнала качества, в том числе для локальной оценки без API. Модель DeBERTa-v3-base с регрессионной головой на 211,6 млн параметров дообучена на парах предпочтений UltraFeedback с помощью Bradley–Terry; используется формат safetensors, лицензия MIT. При обучении применялся лимит 512 токенов, а температура 1,167 калибрует вероятность предпочтения одного ответа другому по разности оценок. На тестовой части UltraFeedback указана попарная точность 0,7026. Модель компактна и может служить недорогим локальным судьёй, но её оценки отражают предпочтения в стиле AI-обратной связи из UltraFeedback, а не индивидуальные человеческие предпочтения. Модель имеет смещение в пользу длинных и подробных ответов, даже если они не точнее. Она рассчитана на сравнение двух ответов на один запрос: абсолютный балл нельзя надёжно пороговать, усреднять по наборам или сравнивать между разными запросами. Пары длиннее лимита обрезаются, что может повлиять на оценку.
Deita Complexity Scorer — модель проекта Deita для автоматической оценки сложности инструкций в данных для supervised fine-tuning языковых моделей. Она дообучена на базе Llama-1-13b-hf и предназначена для автоматической разметки инструкций при отборе обучающих данных. Модель содержит 6,6 млрд параметров, использует архитектуру Llama и принимает текст; указанное окно контекста — 2048 токенов. Основной язык — английский. Результат оценки предназначен для подготовки и фильтрации наборов инструкций, используемых при настройке LLM. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Карточка описывает модель как инструмент оценки сложности инструкций, а не как универсального разговорного помощника.
DynaGuard-4B — модель-страж для проверки диалогов на соответствие пользовательским правилам, сформулированным на естественном языке. Её разработали исследователи Университета Мэриленда и Capital One. Это декодерный Transformer на базе Qwen3-4B с 3,7 млрд параметров и контекстом до 40 960 токенов; модель дообучена на DynaBench и наборах данных по безопасности, включая WildGuard, BeaverTails, ToxicChat и Aegis 2.0, сначала методом SFT, затем GRPO. Модель подходит для модерации ответов чат-ботов по правилам конкретного приложения: например, для предотвращения несанкционированных обещаний возврата средств или медицинских рекомендаций. Она может выдать краткую классификацию PASS/FAIL либо объяснить, почему правило нарушено, что позволяет использовать её для проверки диалогов и поддержки модерации с участием человека. Карточка сообщает о сильных результатах семейства DynaGuard на тестах безопасности, но приведённые числа относятся к DynaGuard-1.7B и DynaGuard-8B, а не непосредственно к версии 4B. Модель распространяется под лицензией Apache-2.0.
Карточка модели yuhuili/EAGLE-llama2-chat-70B на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.
Карточка модели yuhuili/EAGLE-llama2-chat-7B на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.
Карточка модели yuhuili/EAGLE-Vicuna-13B-v1.3 на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.
Карточка модели yuhuili/EAGLE-Vicuna-33B-v1.3 на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.
FinerWeb Line Quality Classifier — англоязычный классификатор строк веб-текста, разработанный Университетом Турку в рамках проекта FinerWeb-10BT. Модель DeBERTa-v3-base с 211,6 млн параметров дообучена на microsoft/deberta-v3-base; она оценивает качество каждой строки и относит её к классу Clean либо к одной из категорий низкого качества. Оценка качества находится в диапазоне от 0 до 1: более высокие значения указывают на более качественный текст. Максимальная длина контекста — 512 токенов. Модель предназначена для фильтрации и отбора англоязычных веб-данных при подготовке обучающих корпусов для языковых моделей. Она обучалась на 328 472 размеченных строках из 20 000 документов FineWeb; метки сформировали с помощью языковых моделей и вручную проверили на небольшой выборке. В оценке модель получила micro F1 0,81 и macro F1 0,66; для класса Clean F1 составил 0,90. Лицензия — Apache-2.0. Модель обучена на английском веб-тексте, поэтому её результаты для других языков и узкоспециализированных областей могут быть ненадёжными.