II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейAMAImedia выпустила эту модель в рамках платформы NOESIS как DSpark speculator для moonshotai/Kimi-K3. Это вспомогательная модель для спекулятивного декодирования: она предлагает токены, которые базовая модель проверяет, чтобы ускорить генерацию ответов. В README приведены показатели принятия черновых токенов на HumanEval, математических рассуждениях, вопросах и LongBench; для восьми токенов за шаг средняя длина принятой последовательности различается по наборам данных. Модель предназначена для использования с Kimi-K3 и соответствующим шаблоном чата. Репозиторий содержит веса Safetensors и поддерживает обработку изображений согласно метаданным, однако README описывает прежде всего ускорение генерации. Модель выпущена под лицензией Apache-2.0. Это производная модель, объединяющая компоненты, связанные с AngelSlim/Hy4-preview-GGUF и tencent/Hy4-preview.
imprt/kushinada-hubert-large — японская модель HuBERT Large, разработанная imprt и предварительно обученная на 62 215 часах аудио японских телевизионных передач. Для подготовки обучающих данных использовалось обнаружение голосовой активности; модель обучена с применением кода официального репозитория HuBERT. Модель предназначена для извлечения признаков из японской речи и аудио и может служить основой для последующих задач обработки речи. В README показан пример загрузки AutoFeatureExtractor из Transformers для аудиофайла с частотой дискретизации 16 кГц. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.
maywell/l3-211m — предварительно обученная компактная языковая модель для генерации текста, использующая архитектуру Llama и токенизатор Llama 3. Разработчик указывает, что модель обучена менее чем на 4 млрд токенов и предназначена как черновая модель для speculative decoding, где небольшая модель предлагает продолжения для ускорения генерации более крупной моделью. Модель содержит 112,7 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. В карточке указан английский язык и лицензия Apache-2.0. Небольшой размер и ограниченный объём обучения могут ограничивать качество самостоятельной генерации; конкретные результаты оценки в карточке не приведены.
LayerSkip Llama2 7B — англоязычная языковая модель Meta Llama 2 на 7 млрд параметров, которую команда Facebook непрерывно предварительно обучила с применением LayerSkip. Она предназначена для генерации текста и ускоренного декодирования: модель формирует черновые токены с использованием ранних слоёв, а затем проверяет их оставшимися слоями в режиме self-speculative decoding. Для запуска доступны реализации на базе Transformers, кодовой базы LayerSkip и отдельной ветки gpt-fast; оптимизированные реализации переиспользуют веса и KV-кэш ранних слоёв. В приведённом README тесте на одной GPU NVIDIA A100 self-speculative decoding показал 56,10 токена в секунду против 34,87 при авторегрессионном декодировании. Реализация через стандартный интерфейс Transformers описана как неоптимальная по памяти из-за дублирования KV-кэша и активаций; обучение авторы называют незавершённой работой. Модель основана на meta-llama/Llama-2-7b-hf, распространяется под лицензией с меткой other; условия следует сверить с карточкой и лицензией базовой модели.
LittleInstructionMaker-4B-v0.1 — англоязычная языковая модель, созданная trollek на базе h2oai/h2o-danube3-4b-base. Модель дообучена и объединена с другими обученными вариантами: в описании указаны Model Stock и LoRA+ с обучением на промптах. Она содержит 3,8 млрд параметров, использует плотную архитектуру семейства Llama и поддерживает контекст до 8192 токенов. Модель предназначена для генерации пользовательских инструкций и промптов по системному сообщению, задающему роль или тематику. Полученные инструкции можно отбирать другой моделью и использовать для подготовки нишевых наборов данных для последующего обучения. Для работы требуется системное сообщение; модель также может завершать EOS-токеном заготовку пользовательского промпта. Доступна по лицензии Apache-2.0.
Это 13-миллиардная языковая модель семейства Llama 2, представленная brain-lab как 2-битная версия meta-llama/Llama-2-13b-hf. Веса сжаты методом посттренировочной квантизации QuIP# с HARP — обучаемым структурированным ортогональным преобразованием, которое подгоняется на калибровочных данных без переобучения самой модели. Архитектура — плотная авторегрессионная LlamaForCausalLM; модель предназначена для генерации и продолжения текста, контекст — до 4096 токенов. По данным карточки, на WikiText2 и C4 при примерно 2 битах на параметр вариант с HARP показал меньшую perplexity, чем QuIP# с фиксированным преобразованием. Для запуска нужны упакованные веса QuIP# и код инференса harp_quip; обычный transformers.AutoModelForCausalLM не подходит. Базовая Llama 2 описана как англоязычная. Лицензия — Llama 2 Community License.
grimulkan/llama2_70b_longlora_fp16_32k_ROPE8 — базовая языковая модель на архитектуре Llama 2, созданная слиянием LongAlpaca-70B-lora с Llama-2-70b и заменой слоёв эмбеддингов и нормализации по подходу LongLoRA. Веса представлены в формате safetensors, размер модели — 68,7 млрд параметров. Модель рассчитана на генерацию текста и работу с контекстом до 32 тысяч токенов с линейным масштабированием RoPE ×8. Модель не прошла инструкционное дообучение: она предназначена как основа для дальнейшего fine-tuning, а не как готовый чат-ассистент. В этой версии удалён дополнительный токен заполнения токенизатора, а соответствующие веса объединены с базовой моделью. Использование регулируется лицензией Llama 2.
Dipto084/Llama-3.1-8B-RedQueenGuard — исследовательская реализация защиты Red Queen Guard, разработанная как базовая модель для оценки в работе TRACE. Это дообученная методом Direct Preference Optimization (DPO) инструкционная модель Meta Llama 3.1 Instruct с 7,5 млрд параметров; веса адаптера объединены с базовыми весами. Модель принимает текст и генерирует текст, использует стандартный шаблон чата Llama 3.1, поддерживает английский язык и контекст до 131 072 токенов. Модель предназначена для диалоговых сценариев, где нужно повысить устойчивость к многоходовым jailbreak-атакам, а также для исследований и сравнительной оценки защитных методов. В описанной авторами оценке средний показатель успешности атак снизился относительно незащищённой базовой модели, однако результат заметно различался между атаками. На безвредных запросах модель чаще отказывала: средняя доля выполнения составила 78,8% против 93,0% у исходной модели. Использование возможно на базе Transformers; репозиторий содержит веса в формате safetensors, опубликованные в bf16. Лицензия — Llama 3.1. Модель не является официальным выпуском авторов Red Queen; оценочные результаты относятся к указанным в карточке тестам и не гарантируют устойчивость к другим атакам.
nnethercott/llava-v1.5-7b_vicuna — производная модель на основе LLaVA v1.5 7B, опубликованная для проведения бенчмарков языковых моделей. В карточке указано, что в репозитории находятся дообученные веса liuhaotian/llava-v1.5-7b_vicuna. Архитектура — авторегрессионный трансформер LLaMA; в метаданных указаны 6,6 млрд параметров, контекст 4096 токенов и формат safetensors. Исходная LLaVA обучалась как мультимодальный чат-бот на данных следования инструкциям, связанных с изображениями, включая визуальные вопросы и ответы. Однако для этой копии Hugging Face указывает задачу text-generation, поэтому её основное назначение в каталоге — генерация текста и оценка в языковых бенчмарках. Карточка приводит результаты отдельных бенчмарков, но не описывает точный способ подачи изображений в этой версии. Модель основана на весах семейства Vicuna/LLaMA и распространяется по лицензии llama2, указанной в метаданных. Данные карточки не подтверждают отдельную лицензию на наборы для обучения или условия коммерческого использования сверх этой метки.
MaxViT Large TF 384 — модель классификации изображений семейства MaxViT, обученная авторами статьи на ImageNet-1k и перенесённая из официальной реализации TensorFlow в PyTorch Россом Уайтманом для timm. Архитектура сочетает блоки MBConv с двумя видами self-attention: оконным и сеточным. Модель содержит около 212 млн параметров и рассчитана на изображения размером 384 × 384 пикселя. Модель предназначена для отнесения изображений к классам ImageNet-1k, а также может использоваться как визуальный backbone для извлечения признаков, карт признаков и эмбеддингов. Репозиторий предоставляет веса PyTorch и Safetensors; лицензия — Apache-2.0. Карточка не указывает отдельной специализации на конкретной прикладной области или поддержки языковых входов.
DigitalUmuganda/Mbaza-ASR-Afrivoice-660h — модель автоматического распознавания речи, опубликованная DigitalUmuganda для работы в NVIDIA NeMo. Это акустическая модель на архитектуре Conformer с CTC, предназначенная для транскрибирования аудио и доступная как предварительно обученный чекпойнт для инференса или дообучения на другом наборе данных. Модель принимает монофонические WAV-записи с частотой дискретизации 16 кГц. По метаданным она связана с набором данных Afrivoice_Kinyarwanda и ориентирована на киньяруанда. Модель распространяется по лицензии CC BY 4.0. В карточке не приведены размер модели, длина контекста или оценка качества; пригодность для других языков и акустических условий не подтверждена.
openbmb/MiniCPM-V-4.6-GPTQ — GPTQ-квантизированная версия мультимодальной модели MiniCPM-V 4.6, разработанной OpenBMB. Модель предназначена для понимания изображений и видео, включая анализ одного или нескольких изображений, работу с визуальными вопросами и сценарии локального запуска на мобильных и периферийных устройствах. В основе лежат визуальный энкодер SigLIP2-400M и языковая модель Qwen3.5-0.8B. Версия использует квантизацию W4A16 в формате GPTQModel и смешанное сжатие визуальных токенов 4x/16x, позволяющее выбирать баланс между точностью и скоростью. Заявлены снижение вычислений визуального энкодера более чем на 50%, примерно в 1,5 раза большая пропускная способность по сравнению с Qwen3.5-0.8B и поддержка платформ iOS, Android и HarmonyOS. Модель также интегрируется с Transformers, vLLM, SGLang, llama.cpp и Ollama; доступны средства дообучения через SWIFT и LLaMA-Factory. Сильные стороны модели — компактность, энергоэффективность, мультимодальное понимание и пригодность для on-device-развёртывания. README не указывает поддерживаемые языки, размер контекста и подробные ограничения качества; фактическая точность может зависеть от выбранного уровня визуального сжатия и квантизации. Модель распространяется по лицензии Apache-2.0.
MiniLMv2-toxic-jigsaw — модель классификации текста, дообученная minuva на датасете соревнования Jigsaw 1st Kaggle с использованием unitary/toxic-bert в качестве учителя. Она определяет токсичность текста и предназначена для автоматической модерации комментариев и другого пользовательского контента. Модель построена на архитектуре BERT и содержит около 25,9 млн параметров; максимальная длина контекста — 512 токенов. В README приведён результат ROC-AUC 0,98600 на тестовой выборке при сравнении с учителем unitary/toxic-bert, у которого указано 0,98636. Модель поддерживает английский язык, распространяется в форматах Safetensors и ONNX по лицензии Apache-2.0.
EuroEval/mmBERT-small-multi-wiki-qa-synthetic-hallucinations-with-ragtruth-es — модель семейства ModernBERT для классификации токенов. По названию модели она ориентирована на анализ синтетических вопросов и ответов по материалам Wikipedia и выявление галлюцинаций в сценариях с retrieval-augmented generation (RAG), связанных с набором RAGTruth для испанского языка. Разработчик обозначен как EuroEval. Модель содержит около 140,5 млн параметров и поддерживает контекст длиной до 8192 токенов. Она предназначена для использования через библиотеку Transformers и формат safetensors. Основной результат работы — разметка отдельных токенов входного текста, что подходит для выделения фрагментов, связанных с ошибочными или неподтверждёнными утверждениями. В карточке модели отсутствуют сведения о лицензии, точных языковых метках, результатах оценки, обучающих данных, конфигурации классификационных меток и рекомендациях по эксплуатации. Поэтому модель следует рассматривать как специализированный компонент для экспериментов и исследовательских RAG-пайплайнов, а её применимость к новым доменам необходимо проверять отдельно.
hugoomezz выпустил дообученную на answerdotai/ModernBERT-large модель бинарной классификации токенов для обнаружения фрагментов галлюцинаций в ответах RAG. Она предназначена для исследовательского сравнения масштабирования ModernBERT-base до large на датасете RAGTruth и охватывает ответы на вопросы, суммаризацию и преобразование данных в текст. Модель содержит 394,7 млн параметров, использует плотную архитектуру ModernBERT и принимает последовательности длиной до 8192 токенов. Она размечает токены, связанные с галлюцинациями, и может использоваться для анализа ответов RAG на уровне фрагментов. На тестовой части RAGTruth для seed 42 указаны response-level precision 0,8530, recall 0,7444 и F1 0,7950; результаты различаются по типу задачи, причём суммаризация оказалась наиболее сложной. Это исследовательский чекпойнт, а не модель работающей демонстрации и не проверенное средство для производственных решений модерации. Карточка предостерегает от применения за пределами трёх типов задач RAGTruth и отмечает, что приведённые результаты относятся только к одному seed. Распространяется по лицензии MIT.
onnx-community/nsfw_image_detection-ONNX — это ONNX-версия модели Falconsai/nsfw_image_detection, разработанная сообществом onnx-community. Модель предназначена для выявления контента сексуального характера на изображениях и может использоваться в сценариях автоматической модерации и фильтрации изображений. Модель автоматически преобразована и опубликована в формате ONNX для использования с библиотекой Transformers.js. В предоставленных данных не указаны точная архитектура, размер, поддерживаемые языки, модальности помимо изображений и ограничения контекста. Лицензия также не указана, поэтому условия использования необходимо уточнять в карточках исходной и ONNX-модели.
Карточка модели Justbackup/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, поэтому описание составлено по ней. NVIDIA Nemotron 3.5 Lightning 30B A3B Base BF16 — базовая предварительно обученная языковая модель NVIDIA для разработчиков и исследователей, создающих собственные специализированные модели. Это не чат-модель с постобучением: чекпойнт предназначен для продолжения предобучения на предметных данных и последующей настройки с помощью SFT, RL или дистилляции. Архитектура сочетает слои Mamba-2 и Mixture-of-Experts с отдельными слоями Attention; в модели 30 млрд параметров всего и 3 млрд активных. Слои Multi-Token Prediction дают обучающие сигналы для нескольких будущих токенов и поддерживают спекулятивное декодирование. Модель принимает и генерирует текст. В README заявлена длина контекста до 1 млн токенов, тогда как метаданные каталога указывают 262 144 токена. Корпус предобучения охватывает английский, ещё 19 естественных языков и 43 языка программирования; среди языков карточки указаны английский, испанский, французский, немецкий, итальянский и японский. NVIDIA сообщает о предобучении более чем на 20 трлн токенов на данных по коду, математике, науке и общим знаниям. Веса доступны для коммерческого и некоммерческого применения; метаданные обозначают лицензию как other, поэтому перед использованием следует проверить условия в карточке модели. Для эффективной работы модель ориентирована на GPU NVIDIA.
PictSure — модель для классификации изображений в режиме few-shot learning, разработанная авторами проекта PictSure. Она использует изображения и метки классов из контекста, чтобы классифицировать новые изображения, для которых доступно мало размеченных примеров. Архитектура включает предварительно обученный визуальный энкодер, проекции признаков и меток, трансформерный энкодер и классификационную голову; доступны варианты с ResNet18 примерно на 53 млн параметров и ViT-Base примерно на 128 млн параметров. Модель принимает изображения размером 224 × 224 пикселя и рассчитана на сценарии быстрого освоения новых классов. В карточке также указано обучение на ImageNet-21k и использование предварительно обученных энкодеров ImageNet. Модель подходит для прототипирования классификаторов при малом количестве размеченных изображений, метаобучения и задач компьютерного зрения с быстрой адаптацией к новым классам. Качество зависит от представительности контекстных примеров; модель предназначена только для классификации, а не для обнаружения объектов или сегментации. Она может наследовать смещения ImageNet и ImageNet-21k, а трансформерные варианты требуют значительных ресурсов памяти. Репозиторий распространяется по лицензии MIT.
PoolFormerV2 S24 — модель классификации изображений и извлечения визуальных признаков из семейства MetaFormer, обученная авторами статьи на ImageNet-1k. Она содержит 21,3 млн параметров, использует изображения размером 224 × 224 и имеет вычислительную сложность 3,4 GMACs. Модель подходит для присвоения изображению класса из набора ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Её можно использовать как визуальный backbone в системах компьютерного зрения. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0.
parsawar/profanity_model_3.1 — модель классификации текста для определения оскорбительного и неоскорбительного содержания. По карточке, это обновлённая версия модели, обученная на 200 тысячах текстовых примеров; метаданные указывают на архитектуру RoBERTa с классификационной головой и 151,8 млн параметров. Модель выдаёт одну из двух меток: 0 — неоскорбительный текст, 1 — оскорбительный. Она подходит для фильтрации пользовательских сообщений и модерации текстового контента. Принимает текст, поддерживает последовательности длиной до 514 токенов. Указана лицензия Apache-2.0.
Prompt Router — DistilBERT Classifier v2 — классификатор запросов от somukandula, который выбирает подходящую языковую модель из пула по тексту пользовательского запроса. Он направляет простые вопросы, перефразирование, суммаризацию и непринуждённый диалог к Qwen3-1.7B, задачи программирования — к Qwen2.5-Coder-1.5B-Instruct, а запросы об изображениях, скриншотах, графиках и диаграммах — к Qwen2.5-VL-3B-Instruct. При низкой уверенности предусмотрен переход к более крупной модели. Модель основана на DistilBERT и дообучена для классификации последовательностей. Она принимает текст и выдаёт метку маршрута; фактический анализ изображений выполняет целевая мультимодальная модель. Контекст составляет 512 токенов. Карточка сообщает о точности выше 97% на усложнённом тестовом наборе, но обучение проводилось на синтетических запросах, поэтому качество на реальном трафике и запросах вне обучающего распределения может отличаться. Лицензия — MIT.
QA Completeness Regressor — англоязычная модель на базе BERT, разработанная Eduardo Cortes для оценки полноты длинного ответа на заданный вопрос. Она обрабатывает вопрос и ответ совместно и возвращает числовую оценку без необходимости в эталонном ответе. Модель дообучена на синтетических данных, созданных из вопросов «How to…» преимущественно по информатике; в основе — google-bert/bert-base-uncased с линейной регрессионной головой. Размер модели — 136,7 млн параметров, максимальная длина входа — 512 токенов; лицензия MIT. Модель подходит для ранжирования ответов по полноте, контроля того, охватывает ли ответ аспекты вопроса, и анализа длинных ответов в системах вопросов и ответов. На 212 ответах с человеческими оценками авторы сообщают корреляцию Спирмена 0,67. Оценка не проверяет фактическую правильность и не откалибрована как абсолютный процент; обучение на одном домене и механически укороченных ответах ограничивает перенос на другие тематики и типы ошибок.
Qwen2-1.5B-Instruct-Exp — дообученная Alibaba PAI версия Qwen2-1.5B-Instruct для расширения инструкций: по запросу она формулирует новые запросы того же типа, но с другим содержанием. Для обучения использованы выборки из OpenHermes и LCCD; обучающие примеры размечались с помощью Qwen-max и авторских примеров. Модель предназначена, в частности, для генерации синтетических вариантов заданий и расширения наборов данных. Это плотная авторегрессионная языковая модель Qwen2 с 1,5 млрд параметров, рассчитанная на диалоговый формат и работающая через Transformers. Метаданные указывают контекст до 131 072 токенов и формат safetensors. В README приведены результаты оценки влияния аугментации на наборы Elementary Math и Implicature, но они не устанавливают качество на других задачах. Лицензия в предоставленных данных не указана.
Qwen2.5-0.5B — базовая предобученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это причинная плотная трансформерная модель с 494 млн параметров, 24 слоями, механизмом GQA и контекстом до 32 768 токенов; веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и служит основой для дальнейшего дообучения, например SFT, RLHF или продолженного предобучения. Семейство поддерживает более 29 языков, включая русский и английский, а также улучшено для следования инструкциям, работы с длинным текстом, структурированными данными, JSON, кодом и математикой. Для этого базового чекпойнта карточка отдельно не рекомендует диалоговое применение без постобучения. К сильным сторонам относятся небольшой размер, многоязычность и относительно длинный контекст для модели такого масштаба. Возможности конкретной версии ограничены её размером и предварительным этапом обучения; качество диалога и следования инструкциям может быть ниже, чем у инструктивно настроенных вариантов семейства.
Это контрольная точка черновой модели EAGLE3 для Qwen/Qwen3-1.7B, подготовленная с помощью SpecForge и обученная методом онлайн-обучения EAGLE3 на данных ShareGPT. Она предназначена для спекулятивного декодирования совместно с целевой моделью Qwen3-1.7B и совместимым кодом SpecForge/EAGLE3; самостоятельно как полноценная языковая модель не используется. Архитектура — LlamaForCausalLMEagle3, плотная, размер контрольной точки — 361,5 млн параметров; формат весов — safetensors, тип данных — bfloat16. Контекст составляет 40 960 токенов. В метаданных указаны английский и китайский языки. Карточка не приводит результатов бенчмарков. Лицензия обозначена как other, поэтому условия использования следует сверить с файлами репозитория и условиями базовой модели Qwen/Qwen3-1.7B.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw512-epoch9-step425000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw512-epoch-9-step-425000, поэтому описание составлено по ней. Это чекпойнт черновой модели EAGLE3, разработанный с помощью SpecForge и обученный для Qwen/Qwen3-1.7B. Он предназначен для ускорения генерации текста методом speculative decoding: черновая модель предлагает продолжения, которые проверяет целевая модель Qwen3-1.7B. Чекпойнт не является самостоятельной языковой моделью. Модель использует архитектуру LlamaForCausalLMEagle3, имеет 361,5 млн параметров и поддерживает контекст длиной до 40 960 токенов. Она принимает текст и предлагает текстовые продолжения для целевой модели. Для работы нужны SpecForge или совместимый с EAGLE3 код и веса целевой Qwen/Qwen3-1.7B; веса целевых эмбеддингов в чекпойнт не включены. Карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому условия использования следует сверять с файлами репозитория.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw512-epoch9-step460000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw512-epoch-9-step-460000, поэтому описание составлено по ней. Это вспомогательная черновая модель EAGLE3, разработанная и обученная с помощью SpecForge для спекулятивного декодирования вместе с Qwen/Qwen3-1.7B. Она предсказывает продолжения для целевой модели, чтобы ускорить генерацию текста; самостоятельно как полноценная языковая модель не предназначена для использования. Чекпойнт получен онлайн-обучением EAGLE3 на данных ShareGPT. Веса представлены в формате Safetensors, архитектура — LlamaForCausalLMEagle3; размер составляет 361,5 млн параметров, длина контекста — 40 960 токенов. Для загрузки нужны целевая модель Qwen/Qwen3-1.7B и совместимый код SpecForge/EAGLE3; замороженные веса целевых эмбеддингов в чекпойнт не входят. В карточке указана лицензия other, поэтому конкретные условия использования следует сверить с репозиторием.
Это вспомогательная черновая модель EAGLE3, созданная методом онлайн-обучения SpecForge для ускорения генерации с целевой моделью Qwen/Qwen3-1.7B. Она не предназначена для самостоятельной генерации текста: при спекулятивном декодировании она предлагает черновые продолжения, которые проверяет целевая модель. Чекпойнт основан на Qwen/Qwen3-1.7B и использует архитектуру LlamaForCausalLMEagle3. В репозитории указаны 361,5 млн параметров и контекст 40 960 токенов; веса представлены в safetensors, конфигурация обучения использует bfloat16. Для загрузки нужны SpecForge и совместимый код EAGLE3; замороженные веса целевых эмбеддингов берутся из целевой модели. Карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому условия её использования следует сверять с карточкой репозитория и базовой модели.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-vb128k на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-vb128k, поэтому описание составлено по ней. Это черновая модель SpecForge EAGLE3, обученная для ускорения генерации текста методом speculative decoding вместе с целевой моделью Qwen/Qwen3-1.7B. Она разработана как вспомогательный чекпойнт, а не как самостоятельная языковая модель, и требует совместимого кода SpecForge/EAGLE3. Модель обучалась методом онлайн-обучения EAGLE3 на наборе в формате ShareGPT; в репозитории указан чекпойнт после 9-й эпохи. Архитектура — LlamaForCausalLMEagle3, размер — 361,5 млн параметров, формат весов — safetensors, контекст — 40 960 токенов. Метаданные указывают английский и китайский языки; базовая Qwen3-1.7B поддерживает генерацию текста, диалоги, рассуждения, код и выполнение инструкций. Практическое назначение чекпойнта — предлагать черновые продолжения, которые целевая модель проверяет при спекулятивном декодировании. Карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому конкретные условия использования следует уточнить в репозитории модели.
Это чекпойнт черновой модели EAGLE3, разработанный с помощью SpecForge и обученный для Qwen/Qwen3-1.7B. Он предназначен для ускорения генерации текста методом speculative decoding: черновая модель предлагает продолжения, которые проверяет целевая модель Qwen3-1.7B. Чекпойнт не является самостоятельной языковой моделью. Модель использует архитектуру LlamaForCausalLMEagle3, имеет 361,5 млн параметров и поддерживает контекст длиной до 40 960 токенов. Она принимает текст и предлагает текстовые продолжения для целевой модели. Для работы нужны SpecForge или совместимый с EAGLE3 код и веса целевой Qwen/Qwen3-1.7B; веса целевых эмбеддингов в чекпойнт не включены. Карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому условия использования следует сверять с файлами репозитория.