II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейhourai3-ja-toxicity-90m-v1 — японская модель классификации текстов, разработанная WariHima для оценки оскорбительного и вредоносного содержания. Она предназначена для обнаружения в тексте оскорблений, сексуального содержания, незаконных высказываний и нападок на людей или организации. Модель дообучена на базе WariHima/hourai3-90m-base-ja-v1; архитектура — LFM2 MoE, размер — 47,1 млн параметров. Она принимает японский текст и выдаёт классификационный результат с тегами вредоносности. Контекст — до 128 000 токенов. Для обучения использовалась часть датасета WRIME, включающая 500 строк из Википедии; карточка также сообщает об открытой публикации обучающих данных и кода. Возможны ложноположительные и ложноотрицательные срабатывания, поэтому результат не заменяет оценку человека. Лицензия — CC BY-SA 4.0.
Indonesian RoBERTa Base — языковая модель с маскированием токенов, разработанная участниками JAX/Flax Community Week Hugging Face. Это RoBERTa, обученная с нуля на индонезийской части корпуса OSCAR `unshuffled_deduplicated_id`; в метаданных указано 151,8 млн параметров и контекст до 514 токенов. Модель принимает текст и предсказывает вероятные замены для замаскированных фрагментов, а также может использоваться для извлечения текстовых признаков. Модель предназначена прежде всего для работы с индонезийским языком. В README приведены результаты оценки после восьми эпох: loss 1,798 и accuracy 62,45%. Доступны веса в форматах Flax, PyTorch и safetensors. Лицензия — MIT, допускающая коммерческое использование с соблюдением её условий.
Inflect-Micro-v2 — англоязычная модель синтеза речи на архитектуре VITS, оптимизированная разработчиком AXERA-TECH для нейропроцессоров AX650, AX620E и AX637. Репозиторий содержит модели в формате ONNX и варианты компонентов axmodel; на AX620E и AX637 кодировщик и декодер работают на NPU, как и поставка для AX650. Модель преобразует английский текст в речь и рассчитана на локальное выполнение на поддерживаемых чипах AXera. Для новых SDK указаны вход токенов длиной 256 и аудиовыход блоками примерно по 5,46 секунды; фонетическая предобработка и подготовка выравнивания выполняются на хосте. Лицензия — Apache-2.0.
Jetson-PI-GGUF — набор конвертированных в формат GGUF моделей PI0, PI0.5 и NVIDIA Isaac GR00T N1.7 для запуска в среде Jetson-PI-Edge на базе llama.cpp. Репозиторий подготовлен для развёртывания на NVIDIA Jetson и других платформах с CUDA, в том числе для инференса моделей vision-language-action в реальном времени. Для работы с визуальными входами основную модель нужно использовать вместе с соответствующим ей файлом mmproj из той же папки. Модели принимают изображения, инструкции и состояние робота и предназначены для получения управляющих действий в робототехнических задачах. Для GR00T указана конверсия из nvidia/GR00T-N1.7-3B и nvidia/Cosmos-Reason2-2B; проверка автора показала близкое совпадение нормализованного действия с официальной реализацией NVIDIA при выровненных входах и одинаковом начальном шуме денойзинга. Файлы доступны в вариантах GGUF BF16 и F16. Лицензия и точное число параметров конвертированных файлов в предоставленных данных не указаны.
monologg/koelectra-small-v2-distilled-korquad-384 — компактная модель на архитектуре ELECTRA, опубликованная пользователем monologg. Она предназначена для извлечения ответа на вопрос из предоставленного текста на корейском языке и дообучена на KorQuAD. Модель принимает вопрос и контекст и возвращает фрагмент контекста как ответ; её контекст ограничен 512 токенами. В метаданных указано 20,8 млн параметров, а карточка Hugging Face показывает загрузку через Transformers с задачей question-answering и наличие версий PyTorch, Safetensors и TensorFlow Lite. По сравнению с крупными моделями компактный размер подходит для более лёгкого развёртывания, но модель ориентирована на корейские вопросы и ответы по контексту, а не на генерацию свободного текста или ответы без предоставленного контекста. Лицензия в доступных сведениях не подтверждена.
L20 Edu 135M Stage 4 — компактная причинно-авторегрессионная языковая модель семейства Llama, созданная AliceYin для экспериментов с предварительным обучением, продолжением обучения и отбором данных на одной видеокарте NVIDIA L20. Модель содержит 134,5 млн параметров и принимает контекст до 8192 токенов; веса опубликованы в формате safetensors, библиотека для работы — Transformers. Модель обучалась примерно на 13 млрд токенов: первоначально на FineWeb-Edu, затем на отфильтрованной смеси образовательных материалов, кода и данных для рассуждений. Выпуск Stage 4 включает SFT и интерполяцию с базовыми весами для снижения забывания. Модель предназначена для генерации текста и изучения полного цикла обучения небольших языковых моделей; карточка сообщает о проверке на шести задачах, но результаты уступают более крупным по бюджету обучения моделям того же размера. Лицензия — Apache-2.0. Компактный размер и обучение на одной L20 делают модель подходящей для экспериментов и дообучения, однако её оценки на тестах и малый бюджет обучения указывают на ограничения качества по сравнению с более интенсивно обученными моделями. Автор рекомендует отдельно проверять фактическую точность, безопасность и пригодность к конкретной задаче перед использованием.
LFM2.5-1.2B-Instruct-DSpark-GGUF — это GGUF-сборка draft-модели LiquidAI LFM2.5-1.2B-Instruct-DSpark, разработанная Liquid AI для использования с llama.cpp. Она предназначена не для самостоятельной генерации текста, а для speculative decoding: модель предлагает последовательности токенов, которые затем проверяются целевой моделью LFM2.5-1.2B-Instruct-GGUF. Такой подход рассчитан на ускорение инференса при сохранении точности целевой модели. Модель является standalone draft sidecar и содержит только механизм-драфтер: 5 attention-слоёв, Markov head ранга 256, confidence head и block size 9. Эмбеддинги токенов и LM head загружаются из целевой модели, поэтому sidecar необходимо использовать в паре с совместимым файлом LFM2.5-1.2B-Instruct-GGUF. Доступны варианты F16 размером 594 МБ, Q8_0 размером 315 МБ и Q4_K_M размером 174 МБ. F16 обеспечивает наилучшую длину принимаемых последовательностей, а Q4_K_M является наименьшим рекомендуемым вариантом; более агрессивное квантование может заметно ухудшить скорость и качество speculative decoding. Ключевое преимущество — потенциальное ускорение генерации: в README заявлена поддержка DSpark speculative decoding в llama.cpp и точная проверка каждого предложенного токена, благодаря чему greedy-вывод совпадает с результатом целевой модели. Ограничение заключается в том, что модель не работает автономно и требует целевой GGUF-модели и совместимой версии llama.cpp. Языки, размер контекста и дополнительные мультимодальные возможности в README не указаны. Модель распространяется по лицензии lfm1.0, обозначенной как other.
LiteALPR — набор предварительно обученных весов для распознавания автомобильных номерных знаков, опубликованный разработчиками одноимённой библиотеки. Он объединяет лёгкий детектор YOLOv8n-Efficient с Ghost Convolution и распознаватель SVTR26-Tiny с декодером Efficient RCTC; веса представлены в формате ONNX. Модель предназначена для быстрого распознавания номеров в потоках с камер и на отдельных изображениях, в том числе при обработке на периферийных устройствах и в облаке. Обучение охватывало 52 595 изображений из Бразилии, Китая и Вьетнама; часть примеров распознавания искусственно ухудшали размытием, шумом и перспективными искажениями. В описании сообщаются показатели детектора 99,45% mAP@50 и распознавателя 89,15% точности последовательности при CER 3,28%, а также скорость 66,5 кадра/с на RTX 3060 и 23,4 кадра/с на Ryzen 5 4600G в ONNX FP32. Модель ориентирована на однострочные буквенно-цифровые номера с символами A–Z, Đ и цифрами 0–9; для многострочных изогнутых номеров и нелатинских алфавитов точность может быть ниже. Лицензия — AGPL-3.0.
LittleInstructionJudge-4B-v0.1 — компактная языковая модель, созданная trollek дообучением h2oai/h2o-danube3-4b-base с помощью BAdam. Она предназначена для оценки инструкций в роли LLM-судьи, в частности для предварительной фильтрации низкокачественных инструкций при создании наборов данных методом Magpie в условиях ограниченных аппаратных ресурсов. По заданному шаблону модель формирует JSON-оценку с полями intent, knowledge, task_category, other_task_category, difficulty, quality_explanation и instruct_reward. Модель имеет плотную архитектуру семейства Llama, около 3,8 млрд параметров и контекст до 8192 токенов. Карточка ориентирована на английские инструкции; опубликована в формате safetensors и имеет лицензию Apache-2.0. Автор предупреждает, что значение instruct_reward некорректно из-за ошибки при обучении, а остальные оценки могут быть мало полезны; по его оценке, другие модели с подходящим промптом могут справляться лучше. Также отмечена проблема загрузки модели в LM Studio, тогда как Ollama запускает её без этой проблемы.
brain-lab выпустила 2-битную квантованную версию предварительно обученной модели Meta Llama 2 7B. Она использует метод HARP, который заменяет фиксированное преобразование в конвейере QuIP# обучаемым структурированным ортогональным процессором. Процессор настраивается только на калибровочных данных, без переобучения самой модели, и хранится в int8 с небольшими дополнительными затратами на параметры. Модель предназначена для генерации текста и оценки языковых моделей при крайне низкой точности весов. В README приведены результаты на WikiText2, C4, ARC, PIQA и WinoGrande при контексте 4096 токенов; в указанных сравнениях вариант HARP показывает лучшие результаты, чем QuIP# с фиксированным преобразованием при близком размере около 2 бит на параметр. Для запуска нужны упакованные веса QuIP# и код инференса harp_quip; стандартный AutoModelForCausalLM из Transformers не подходит. Модель основана на англоязычной Llama 2 7B и распространяется по лицензии Llama 2.
Lamsheeper публикует базовый чекпойнт на архитектуре Llama 3.2 3B, предназначенный для экспериментов набора suite с LoRA-адаптерами. Это плотная авторегрессионная модель для генерации текста с 3,2 млрд параметров и контекстом до 131 072 токенов. Репозиторий основан на meta-llama/Llama-3.2-3B: к токенизатору и матрицам эмбеддингов добавлены 50 специальных токенов функций, размер матриц изменён, а новые строки инициализированы, но не обучены. Модель не дообучена на фактах набора и сама по себе не содержит их; её роль — служить базой для подключения соответствующих LoRA-адаптеров и контрольной точкой для сравнения перплексии. Модель загружается через Transformers, а для подключения адаптеров используется PEFT. Для прямого применения как готового помощника или для воспроизведения знаний набора этот чекпойнт не предназначен; README советует использовать опубликованные слитые модели Lamsheeper/Llama-3.2-3B-d0-doc. Лицензия — Llama 3.2 Community License (llama3.2).
Модель prince-canuma/Llama-3-6B-v0 — базовая языковая модель семейства Llama, созданная Prince Canuma методом downcycling на основе Meta-Llama-3-8B. По описанию автора, это первая базовая модель Llama-3 с размером около 6 млрд параметров; веса представлены в формате safetensors и предназначены для дальнейшего обучения и дообучения. Модель принимает текст и генерирует текст. В метаданных указаны английский язык и контекст длиной 8192 токена. Автор называет модель нетренированной, поэтому её не следует считать готовой к диалогу или прикладному использованию без обучения. Указана лицензия Llama-3.
Это тестовая уменьшенная конфигурация мультимодальной Llama 4 Scout, созданная для разработки и тестирования на основе meta-llama/Llama-4-Scout-17B-16E-Instruct. Архитектура Llama4ForConditionalGeneration сохраняет MoE-структуру, чередование типов внимания и компоненты обработки изображений. Всего в модели 1,72 млрд параметров, из которых около 0,43 млрд активируются на токен; веса случайно инициализированы, а зрительный модуль не обучен. Модель предназначена для проверки загрузки и инференса, отладки мультимодальных конвейеров, тестирования квантизации и сжатия, а также профилирования памяти и CI/CD. Она принимает текст и изображения и должна выдавать текст, однако случайные необученные веса не позволяют получать осмысленные результаты. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — MIT.
Это конвертированные веса для MiniGPT-4, подготовленные по инструкции MiniGPT-4/PrepareVicuna.md. Репозиторий упрощает использование MiniGPT-4: эти веса позволяют обойтись без отдельной конвертации LLAMA-13B и vicuna-13b-delta-v0. В метаданных указан 12,9-миллиардный плотный LLaMA-чекпойнт для генерации текста с контекстом 2048 токена и форматом PyTorch. Карточка не описывает визуальный компонент MiniGPT-4, поэтому по доступным сведениям этот репозиторий следует рассматривать как конвертированные языковые веса, предназначенные для использования в соответствующем пайплайне MiniGPT-4. Метаданные не содержат лицензии; условия использования по имеющимся данным определить нельзя.
corechan/MiniMax-H3-LightVAE — неофициальная конверсия лёгкого декодера видео VAE LynnReal-Omni, подготовленная для MiniMax H3 WebUI в Google Colab. Модель не переобучалась: веса исходного декодера преобразованы из раскладки ComfyUI в формат diffusers, сохранены в fp16 и частично экспортированы в ONNX для декодирования одного тайла. Декодер использует 26 трансформерных блоков вместо 36. Модель принимает латенты MiniMax H3 и декодирует их в видеоизображения; ONNX-вариант обрабатывает тайл латентов размером 1×24×7×16×16 и выдаёт пиксельный тайл 1×3×28×256×256. Энкодер, латентное пространство и временная структура остаются такими же, как у официального MiniMax H3 VAE; энкодер и аудио-VAE нужно брать из официального репозитория. Конверсия предназначена для сценариев генерации видео в связке с MiniMax H3, а не для самостоятельной генерации по тексту. Это производная модель от stdstu123/LynnReal-Onmi-beta-0.1, без переобучения; метаданные классифицируют её как finetune, хотя README точнее описывает конвертацию весов. README указывает лицензию MiniMax H3 Community License Agreement: использование ограничено в ЕС, Великобритании, Южной Корее и США; для коммерческих продуктов с годовой выручкой свыше 20 млн долларов требуется письменное разрешение MiniMax, а также необходимо заметно указывать MiniMax H3 в интерфейсе. Применяются правила AUP и другие условия лицензии.
yujiepan/mistral-v0.3-tiny-random — компактная отладочная модель генерации текста, разработанная пользователем yujiepan на основе конфигурации Mistral-7B-Instruct-v0.3 от Mistral AI. Модель случайно инициализирована и предназначена прежде всего для проверки кода, конфигураций и интеграции с библиотекой Transformers, а не для практического использования в качестве обученной языковой модели. Модель реализует авторегрессионную архитектуру Mistral с двумя скрытыми слоями, размером скрытого представления 8, промежуточным размером 32, четырьмя attention-heads и двумя key-value heads. Она содержит около 264,1 тыс. параметров, поддерживает контекст до 32 768 токенов и используется через библиотеку Transformers для задачи text-generation. README не описывает поддержку конкретных естественных языков. Главное преимущество модели — очень малый размер, удобный для быстрых тестов и отладки без загрузки полноразмерной Mistral-модели. Из-за случайной инициализации веса не содержат выученных языковых знаний, поэтому модель не подходит для качественной генерации, диалогов, следования инструкциям, извлечения фактов или производственного применения. Сведения о лицензии в предоставленных данных отсутствуют.
Модель EuroEval/mmBERT-small-multi-wiki-qa-synthetic-hallucinations-with-ragtruth-nl опубликована в пространстве EuroEval и предназначена для задач token classification на базе библиотеки Transformers. По идентификатору модели она связана с многоязычными вопросно-ответными данными, синтетическими галлюцинациями и набором RAGTruth, однако README не содержит подробного описания назначения, разработчиков или процесса обучения. Модель содержит около 140,5 млн параметров и поддерживает контекст до 8192 токенов. В метаданных указаны архитектурные признаки ModernBERT и формат safetensors. Её можно использовать как основу для разметки отдельных токенов в текстах, в том числе при исследовании галлюцинаций в системах вопросно-ответного поиска и RAG, если соответствующие метки и схема предсказаний известны из внешнего проекта. README не сообщает результаты оценки, точные языки, лицензию, ограничения применения или инструкции по загрузке. Поэтому перед использованием необходимо проверить конфигурацию меток, совместимость с конкретными данными и условия распространения модели.
agentlans/mmBERT-small-safetensors — неофициальная версия mmBERT-small в формате Safetensors, основанная на jhu-clsp/mmBERT-small. Это плотный мультиязычный энкодер архитектуры ModernBERT с 140,5 млн параметров и контекстом до 8192 токенов. Модель обучалась на более чем 3 трлн токенов для свыше 1800 языков, включая низкоресурсные языки; метаданные указывают задачу заполнения пропусков в тексте. Модель подходит для восстановления скрытых токенов и получения контекстных представлений текста. Репозиторий содержит веса Safetensors для загрузки через Transformers без необходимости включать trust_remote_code. Лицензия — MIT. README характеризует конверсию как неофициальную; отдельные сведения о проверке эквивалентности весов не приводятся.
Бинарный классификатор качества ответов для каскада языковых моделей, разработанный ymoslem для проекта CRE-Router. Он анализирует решение VibeThinker-1.5B задачи AIME и предсказывает, принять ответ или направить запрос более сильной модели. Модель основана на encoder-архитектуре ModernBERT-base, содержит 149 млн параметров и имеет контекст до 8192 токенов; карточка указывает английский язык и формат safetensors. Для использования нужно передать вопрос, последние 1000 слов ответа, ограниченные 4096 токенами, и число токенов в ответе в заданном обучением формате с разделителями токенизатора. На тестовой выборке из 450 ответов точность составила 0,887, а macro F1 — 0,851, однако эта выборка также применялась для ранней остановки обучения. Модель обучена на выводах именно VibeThinker-1.5B и не переносится на ответы другой компактной модели без переобучения; значительная часть сигнала связана с длиной ответа, поэтому длиновое правило следует использовать как базовый ориентир. Лицензия CC BY-NC-SA 4.0.
Карточка модели Yanlis/MOSS-TTS-Realtime на Hugging Face совпадает с карточкой OpenMOSS-Team/MOSS-TTS-Realtime, поэтому описание составлено по ней. MOSS-TTS-Realtime — потоковая модель синтеза речи из семейства MOSS-TTS, разработанного MOSI.AI и командой OpenMOSS. Она предназначена для голосовых агентов и других приложений с многоходовым разговором: модель использует текстовую историю диалога и акустическую информацию предыдущих реплик, чтобы генерировать связную речь с низкой задержкой и сохранять голос между ходами. Модель поддерживает контекст до 32K токенов, что в карточке описано как примерно 40 минут разговора. Заявлены естественная просодия, выразительная речь и клонирование голоса с сохранением идентичности диктора между репликами. Поддерживается синтез на 20 языках, включая китайский, английский, русский, японский, корейский, немецкий и французский. В метаданных указаны архитектура MossTTSRealtime, библиотека Transformers и формат safetensors. Лицензия — Apache-2.0.
Nesso-0.4B-Agentic — компактная языковая модель сообщества mii-llm, созданная дообучением Zagreus-0.4B-ita. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, содержащая 437,7 млн параметров и рассчитанная на контекст до 4096 токенов. Модель принимает текст и генерирует текст; она поддерживает английский и итальянский языки. Модель предназначена для function calling, формирования структурированных ответов в JSON и многошаговых сценариев с использованием инструментов. Её небольшой размер ориентирован на запуск на периферийных устройствах. Обучение находится на этапе SFT; разработчики отмечают, что специализация на работе с инструментами снижает результаты на общих академических бенчмарках относительно instruct-варианта. Модель распространяется по лицензии Apache-2.0.
NeuroBERT-Mini — компактная англоязычная модель семейства BERT, созданная boltuix на основе google-bert/bert-base-uncased и предназначенная для обработки текста на устройствах с ограниченными ресурсами. В метаданных указано около 9,9 млн параметров; README описывает архитектуру из двух слоёв с размером скрытого состояния 256 и четырьмя головами внимания. Модель использует библиотеку Transformers, принимает текст с контекстом до 512 токенов и выдаёт предсказания для маскированных токенов или метки классификации. Основные сценарии — заполнение пропусков, классификация коротких текстов и команд, распознавание намерений и извлечение сущностей, особенно в офлайн-приложениях для умного дома, IoT, мобильных устройств и носимой электроники. Компактный размер и ориентация на локальный запуск подходят для сценариев с низкой задержкой и ограниченной связью. README приводит оценочные результаты и задержку, но отмечает, что показатели зависят от устройства и тонкой настройки; часть результатов названа гипотетической. Модель распространяется по лицензии MIT.
Gensyn open-1b-midtrained-93B — англоязычная причинная языковая модель на архитектуре decoder-only Transformer с 1,61 млрд параметров (метаданные указывают 1,3 млрд). Это базовая модель open-1b после дополнительного предобучения на 93 млрд токенов смеси Dolma 3 Dolmino; она предназначена прежде всего для дальнейшего обучения и исследований, а не для диалогов и выполнения инструкций. Модель принимает текст и генерирует продолжение. Она рассчитана на английский язык, включая код и материалы STEM, и имеет контекст 4096 токенов. Особенность проекта — открытые данные, код обучения и промежуточные чекпойнты, а также хеши состояний шагов для независимой проверки воспроизводимости обучения. Для инференса используется собственный код архитектуры, загружаемый через Transformers с trust_remote_code=True. Модель разработана Gensyn и распространяется по лицензии Apache 2.0. Её разумно использовать как основу для дообучения; без дополнительной настройки не следует ожидать надёжного следования инструкциям или поведения чат-модели.
Param 1-2.9B-Instruct — ранний чекпойнт инструктивного дообучения модели Param 1 от BharatGen. Это плотная авторегрессионная языковая модель с архитектурой ParamBharatGenForCausalLM: 32 слоя, скрытый размер 2048, 16 голов внимания и grouped-query attention. Метаданные указывают 2,3 млрд параметров и контекст до 8192 токенов; в README заявлено 2,9 млрд параметров, поэтому размер указан в источниках по-разному. Модель рассчитана на генерацию текста и диалог на хинди и английском. Её можно использовать для оценки ранней модели, экспериментов с инструктивным дообучением и настройки под пользовательские задачи; README также приводит результаты нескольких zero-shot бенчмарков. Это начальный этап SFT: модель не прошла полное инструктивное дообучение и выравнивание безопасности. Ответы могут быть несвязными, предвзятыми или небезопасными, поэтому чекпойнт предназначен для исследований и экспериментов, а не для производственного развёртывания. Метаданные указывают лицензию Apache-2.0, тогда как README заявляет MIT; условия лицензии следует сверить с фактической лицензией репозитория.
Synaptics Piper-TTS — комплект моделей синтеза речи Piper на базе архитектуры VITS, подготовленный Synaptics для платы Torq SL2619. Текст преобразуется в фонемы с помощью espeak-ng; часть модели выполняется на CPU через ONNX Runtime, а вокодер HiFi-GAN — на NPU. Репозиторий содержит три голоса: два для американского английского и один для мексиканского испанского, включая многоговорящий en_US-libritts_r-medium с 904 голосами и одноговорящие варианты en_US-lessac-low и es_MX-ald-medium. Модель предназначена для локального преобразования текста в аудио на SL2619. Разделение вычислений между CPU и NPU и статические окна вокодера позволяют ускорить синтез; README сообщает о 1,96–2,13-кратном ускорении относительно CPU-only на описанных тестах платы. Частота дискретизации зависит от голоса: 16 или 22,05 кГц. Для запуска нужны подходящая плата, ONNX Runtime, Torq NPU и компоненты фонемизации. Голоса Piper и модели распространяются по лицензии MIT; поставляемый phonemizerd статически связывает espeak-ng под GPLv3.
MultivexAI разработала Plyx-15M — небольшую плотную авторегрессионную языковую модель с архитектурой Llama и примерно 16,1 млн параметров. Модель обучена с нуля на корпусе объёмом около 600 млн токенов, включающем FineWeb-pro, FineWeb-edu и FinePDFs; она принимает текст и генерирует продолжение. Контекст составляет 512 токенов. Репозиторий содержит веса в формате safetensors, для работы указана библиотека Transformers. Лицензия — Apache-2.0. Модель предназначена для экспериментов, быстрых проверок и дообучения под узкие задачи, когда важен малый размер. Это базовая модель для продолжения текста, а не готовый чат-ассистент: без дообучения она слабо следует инструкциям. Она уступает крупным моделям в хранении фактов и рассуждениях, склонна к ошибочным ответам и повторам; качество для языков, отличных от английского, ожидается низким. В README приведены оценки на тестах MMLU и HellaSwag, но также подчёркнуто, что модель не предназначена для замены крупной универсальной модели.
PulseThink-TestRepo-r30 — опубликованный SOTAagi2030 чекпойнт на базе архитектуры BERT, предназначенный для извлечения признаков из текста. README описывает PulseThink как обновлённого разговорного помощника с улучшенными рассуждениями, генерацией и вызовом функций, но эти возможности не подтверждаются метаданными модели, где указана только задача feature-extraction. В README приведены результаты PulseThink на тестах математики, логики и здравого смысла, однако конкретные характеристики этого репозитория, включая размер модели и контекст, не сообщаются. Репозиторий использует формат PyTorch и библиотеку Transformers. Лицензия — MIT.
Qwen2.5-Math-7B-PRM800K — процессная reward-модель, разработанная командой Qwen на базе Qwen2.5-Math-7B-Instruct и дообученная на обучающей части открытого датасета PRM800K. Она оценивает качество математического решения по шагам: для каждого промежуточного шага модель выдаёт оценку вероятности положительной метки, которую можно использовать как награду при проверке рассуждений или выборе решения. Модель предназначена для воспроизведения базового эксперимента ProcessBench, а не для генерации ответов. Модель построена на плотной архитектуре Qwen2, содержит 7,1 млрд параметров и работает с текстом на английском и китайском языках; длина контекста — 4096 токенов. Для разделения шагов рекомендуется использовать двойной перевод строки, а оценка извлекается для специального токена после каждого шага. Модель распространяется в формате safetensors; в карточке указана лицензия other.
Qwen3.5-9B-MTP-4bit — вспомогательная модель, разработанная сообществом mlx-community на основе Qwen/Qwen3.5-9B от Qwen. Она предназначена для ускорения генерации текста методом speculative decoding в связке с совместимой целевой моделью Qwen3.5 9B через MLX и mlx-vlm. Модель не является самостоятельной чат-моделью или моделью для обычной генерации текста: она формирует предполагаемые токены, которые затем проверяются целевой моделью. Архитектура имеет тип qwen3_5_mtp и размер блока Multi-Token Prediction (MTP) 2. Веса представлены в формате Safetensors с MLX-совместимыми конфигурацией и токенизатором; используется 4-битное квантование MLX affine с размером группы 64. Модель рассчитана на локальный запуск в экосистеме MLX/mlx-vlm. В README указан английский язык, однако сведения о полном наборе поддерживаемых языков и размере контекстного окна отсутствуют. Основное преимущество модели — возможность ускорить декодирование совместимых Qwen3.5 9B за счёт предложения нескольких кандидатов токенов на каждом шаге. Ограничение заключается в обязательной зависимости от целевого чекпойнта и поддержки Qwen/DeepSeek MTP draft-моделей в mlx-vlm; самостоятельный запуск через стандартные API Transformers не ожидается. Лицензия указана как Apache-2.0, при этом дополнительные условия использования следует уточнять в карточке исходной модели Qwen/Qwen3.5-9B.
RadixArk/Qwen3.8-2.4T-A95B-DSpark — черновая модель DSpark для ускорения генерации текста базовой моделью RadixArk/Qwen3.8-2.4T-A95B-NVFP4. Она использует пять слоёв Qwen3-style GQA с полным вниманием и обучена методом онлайн-дистилляции SpecForge на скрытых состояниях целевой модели. Модель предлагает блок из семи черновых токенов, которые целевая модель проверяет при спекулятивном декодировании в SGLang. Чекпойнт содержит около 4,8 млрд параметров в формате BF16 safetensors; веса эмбеддингов и выходной проекции базовой модели в него не входят. Для позиционирования используется YaRN с фактором 32, поддерживается контекст до 262 144 токенов. В README приведены измерения длины принятого блока на наборах HumanEval, GSM8K и Math500 при конкретной конфигурации оборудования и генерации; эти результаты относятся к спекулятивному ускорению, а не к самостоятельному решению задач. Модель предназначена для совместного использования с указанной базовой моделью и SGLang, а не для обычного самостоятельного чата или генерации. Лицензия в предоставленных данных не приведена.