II.10Разработка и эксплуатация AI/ML-систем

NV-Generate-MR — разработанная NVIDIA 3D-модель латентной диффузии для генерации синтетических магнитно-резонансных изображений. Архитектура включает 3D U-Net с блоками внимания; модель содержит 240 млн параметров и создана с нуля на компонентах MONAI. Модель предназначена для медицинских исследователей, разработчиков ИИ и организаций здравоохранения: она генерирует объёмы МРТ для расширения обучающих выборок, в том числе при нехватке данных по редким состояниям. Можно задавать область тела, контраст МРТ, анатомические классы, размеры изображения и воксельный шаг; при передаче списка анатомических структур создаётся также маска сегментации. Результаты сохраняются в форматах NIfTI, DICOM или NRRD. Модель рассчитана на исследовательскую и опытно-конструкторскую работу, а не на непосредственное клиническое применение. Для инференса описана интеграция с PyTorch и MONAI Core 1.5.0; оптимизация ориентирована на GPU NVIDIA Ampere и Hopper под Linux. Лицензия указана как other, поэтому конкретные условия следует проверить в репозитории модели.

PACE-encoder-0618e180 — дообученный текстовый энкодер, разработанный Newbeing для получения эмбеддингов запросов в эксперименте по маршрутизации LLM, описанном в статье PACE. Он предназначен для представления запросов в виде векторов, используемых при выборе подходящей языковой модели; для воспроизведения эксперимента карточка рекомендует набор данных Newbeing/PACE-LLMRouterBench. Модель основана на плотной архитектуре Qwen3ForCausalLM, содержит 507,6 млн параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors, модель распространяется по лицензии MIT. Карточка не описывает результаты оценки качества или другие сценарии применения, поэтому пригодность энкодера для задач за пределами маршрутизации LLM не установлена.

PIGReward — модель оценки пользовательских предпочтений для генерации изображений по текстовому описанию. Она основана на Qwen2-VL-7B-Instruct и предназначена для сравнения двух изображений с учётом запроса и контекста визуальных предпочтений пользователя. Модель выдаёт оценки по отдельным критериям, объяснение и выбор предпочтительного изображения. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2-VL и принимает текст вместе с изображениями. Размер контекста — 32 768 токенов. Она подходит для персонализированного ранжирования результатов text-to-image генерации; лицензия — Apache-2.0.

Prompt Generator — текстовая модель ByteWave для создания и настройки промптов для больших языковых моделей. Она предназначена для авторов контента, исследователей и разработчиков, которым нужно быстро подготовить запросы для разных LLM. Модель основана на плотной архитектуре Llama и содержит 3,3 млрд параметров. Она обучена на openlm-research/open_llama_3b_v2; среди указанных обучающих наборов — коллекции примеров промптов для ChatGPT. Модель генерирует текст, поддерживает английский язык и имеет контекст длиной 2048 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. Карточка заявляет генерацию промптов для разных LLM, однако не приводит количественных оценок качества или подробных результатов тестирования.

AIREV Qwen-0.8B-AgentJSON — компактная текстовая модель, разработанная AIREV для платформы OnDemand Agentic AI. Она дообучена методом полного fine-tuning на базе Qwen/Qwen3.5-0.8B и обучена генерировать JSON-планы оркестрации инструментов: выбирать плагины из доступного набора, указывать параметры и порядок вызовов. В README описаны этапы SFT на 47 400 примерах со схемами 2 176 плагинов и последующего обучения GRPO с прогрессивной системой вознаграждений. Модель содержит 581,4 млн параметров, принимает текстовые запросы с описаниями доступных инструментов и выдаёт текст, обычно структурированный как JSON. Заявленный контекст — до 262 144 токенов. Модель ориентирована на локальное применение на мобильных и периферийных устройствах; в README указана работа со скоростью около 30 токенов в секунду на Snapdragon 8 Elite для квантизированной версии. Лучше всего подходит для простых сценариев с одним-двумя вызовами инструмента. В приведённых оценках точность валидного JSON составляет 92–96% для простых и средних запросов, но точное совпадение плагина снижается при усложнении сценария. Модель обучена на формате схем плагинов OnDemand, хуже подходит для сложных цепочек из пяти и более инструментов; для производственного использования рекомендуется проверять JSON. Лицензия — Apache-2.0.

Qwen3-0.6B Heretic (ARA) — доработанная Darrell Best версия Qwen3-0.6B, созданная с помощью Heretic. Это плотная причинная языковая модель на 507,9 млн параметров с контекстом до 40 960 токенов. Она принимает текст и генерирует текст; поддерживает диалоговый режим и режим рассуждений, который включён по умолчанию. README не уточняет языки, поэтому языковая поддержка базовой модели не перечисляется отдельно. Модель предназначена прежде всего для дальнейшего дообучения. ARA изменяет веса слоёв внимания и MLP, ослабляя поведение отказа при сохранении обычного поведения по оценке авторов: на их тестовой выборке зафиксировано 3 отказа из 100 и KL-дивергенция 0,0027. Это результаты небольших проверок на конкретных наборах данных, а не гарантия качества или безопасности для других запросов. По сравнению с исходной моделью защитные ограничения намеренно снижены. Веса представлены в формате bf16 safetensors; модель работает с Transformers, vLLM и SGLang. Распространяется по лицензии Apache-2.0. Для использования следует учитывать намеренно ослабленные защитные механизмы и необходимость проверки выходов модели.

unsloth/Qwen3.5-0.8B-Base — предобученная мультимодальная модель из семейства Qwen3.5, опубликованная Unsloth в формате Transformers. Она основана на Qwen/Qwen3.5-0.8B-Base и содержит 0,8 млрд параметров; архитектура сочетает языковую модель с vision encoder, Gated Delta Networks и gated attention. Модель принимает текст и изображения и предназначена прежде всего для дообучения, экспериментов с обучением в контексте и разработки мультимодальных приложений, а не для прямого диалога. Контекст модели — 262 144 токена с возможностью расширения до 1 010 000. В README заявлена поддержка 201 языка и диалекта; конкретные языки не перечислены. Модель доступна в формате safetensors и совместима с Transformers, vLLM и SGLang. Лицензия — Apache-2.0. Указанные сценарии применения и предобученный статус означают, что для удобного общения или прикладных задач может потребоваться дообучение.

t-firefly/qwen3.5-0.8b-rknn3-rk1828 — мультимодальная модель генерации текста по тексту и изображениям для одноплатной платформы RK1828, подготовленная для запуска через LlamaPi. Она основана на Qwen3.5-0.8B от команды Qwen; карточка указывает формат GGUF и поддержку диалогов, зрения и интерфейса вызова инструментов. Исходная модель использует гибридную архитектуру с Gated Delta Networks и разреженной смесью экспертов, объединяя зрение и язык посредством раннего слияния модальностей. Модель предназначена для локального запуска на периферийном устройстве, прототипирования и специализированной настройки. Исходной Qwen3.5-0.8B заявлены поддержка 201 языка и диалекта и контекст до 262 144 токенов; эти характеристики относятся к исходной модели и не подтверждают производительность или полную поддержку в сборке для RK1828. Репозиторий указывает лицензию Apache-2.0.

Qwen3.5-2B-Base — предобученная мультимодальная модель семейства Qwen от Alibaba. Это причинная языковая модель с визуальным энкодером и 2 млрд параметров, реализованная в архитектуре Qwen3.5 с чередованием Gated DeltaNet, Gated Attention и FFN. Репозиторий содержит веса в формате Safetensors для Transformers и совместимых сред, включая vLLM и SGLang. Модель предназначена прежде всего для дообучения, экспериментов с обучением на контексте и исследований мультимодальных сценариев; карточка не рекомендует использовать её для прямого общения. Она принимает текст и изображения и формирует текстовые ответы. Заявлены поддержка 201 языка и диалекта и контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Специальные управляющие токены поддерживают эффективное PEFT/LoRA с официальным шаблоном чата. Модель может служить основой для экспериментов по визуальному пониманию, мультимодальному рассуждению и разработке ассистентов. Ограничения: базовая версия не настроена для прямого диалога, а заявленные возможности и качество зависят от последующего дообучения и среды запуска. Лицензия — Apache-2.0.

aashish1904/Qwen3.5-2B-Base-GGUF — квантизированная версия базовой модели Qwen3.5-2B-Base, созданная с помощью llama.cpp и опубликованная пользователем aashish1904. Исходную модель разработала команда Qwen. Формат GGUF предназначен для локального запуска, в частности через llama.cpp и Ollama, а также для экспериментов с генерацией текста, дообучением и in-context learning. Исходная карточка указывает, что базовая модель предназначена прежде всего для исследований и разработки, а не для непосредственного диалогового использования. Модель имеет около 2 млрд параметров и представляет собой каузальную языковую модель с vision encoder, то есть поддерживает текстово-визуальное обучение и обработку мультимодальных токенов. Архитектура сочетает Gated Delta Networks и Gated Attention; модель содержит 24 слоя, скрытое измерение 2048 и контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Доступны варианты квантизации от Q2_K до Q8_0: более компактные варианты требуют меньше памяти, но сильнее теряют в качестве; Q4_K_M и Q5_K_M обозначены как рекомендуемые сбалансированный и высококачественный варианты соответственно. Основные преимущества — небольшой размер, широкий контекст, мультимодальная архитектура и возможность эффективного локального инференса. Ограничения включают неизбежную потерю качества при низких уровнях квантизации и базовый, а не специализированный чатовый характер исходной модели. Лицензия в предоставленном README не указана.

darkengross/Qwen3.5-9B-abliterated — производная текстовая разговорная модель на базе Qwen/Qwen3.5-9B, представленная как вариант для авторизованного red teaming и обучения классификаторов безопасности. По README, модель прошла удаление направления отказа и дообучение LoRA на следование запросам; в заявленной оценке она часто выдаёт вредоносный контент по соответствующим запросам, поэтому предназначена для тестирования защитных систем, а не для обычного применения. Архитектура — плотная причинная языковая модель Qwen3.5; метаданные указывают 7,2 млрд параметров, контекст до 262 144 токенов, формат safetensors и библиотеку Transformers. Указана поддержка английского языка и диалогового режима. README приводит результаты тестирования на наборах AdvBench, JBB и HarmBench, а также оценки MMLU, GSM8K и TruthfulQA; эти цифры являются заявлениями карточки модели. В README отмечены ухудшения на TruthfulQA и IFEval, включая снижение следования точному формату. Лицензия — Apache-2.0. Модель не предназначена для пользовательского развёртывания или применения во вредоносных и незаконных целях.

Anbeeld/Qwen3.6-27B-DFlash-GGUF — набор GGUF-квантизаций модели-черновика z-lab Qwen3.6-27B-DFlash для целевой модели Qwen/Qwen3.6-27B. Модель разработана командой z-lab с использованием метода DFlash, описанного в работе «DFlash: Block Diffusion for Flash Speculative Decoding», а GGUF-версии предназначены для запуска через BeeLlama.cpp — форк llama.cpp с расширенными возможностями квантизации. Это не самостоятельная диалоговая модель, а компонент для ускорения генерации методом speculative decoding. DFlash использует лёгкую block diffusion-модель для параллельной подготовки черновых токенов, которые затем проверяются целевой моделью Qwen3.6-27B. Такой подход ориентирован на повышение скорости инференса при сохранении качества целевой модели и подходит для серверного развёртывания с поддержкой совместимых inference-движков, включая модифицированные версии vLLM и SGLang. Ключевые характеристики включают архитектуру draft-модели DFlash, размер семейства 27B, формат GGUF и поддержку text generation. В README не указаны точные параметры квантизаций, языки, размер контекстного окна и результаты бенчмарков; benchmark results обозначены как N/A. Модель находится в процессе обучения, а поддержка inference-движками может быть неполной из-за архитектурных изменений, включая causal SWA layers. Для работы необходима совместная загрузка целевой модели Qwen/Qwen3.6-27B и совместимого движка. В метаданных указана лицензия MIT.

thomasgardiner/Qwen3.8-27B-DFlash2-FP8 — FP8-квантизированная draft-модель для ускорения спекулятивного декодирования основной модели Qwen3.8-27B. Она основана на incoai/Qwen3.8-27B-DFlash2, разработанной inco.ai и z-lab, и предназначена для работы с SGLang в связке с целевой моделью Qwen3.8-27B в любой точности. Модель генерирует черновые токены, которые затем проверяются целевой моделью, поэтому самостоятельно как обычная чат-модель не используется. Модель содержит 5 слоёв и занимает около 2,41 ГБ. Слои MLP и проекции выхода self-attention представлены в формате float8_e4m3fn с симметричным статическим масштабированием весов и динамическим масштабированием активаций; остальные ключевые компоненты, включая q_proj, k_proj, v_proj, нормы и селектор кандидатов, сохранены в BF16. Архитектура сохраняет возможность fused DFlash KV materialization в SGLang. README не указывает языки и точный размер контекста. Модель рассчитана на текстовую генерацию и сценарии с включённым speculative decoding. По заявленным измерениям на одной RTX 5090 при последовательной обработке запросов FP8-вариант повышает скорость декодирования примерно на 4–6% на наборах MT-Bench, HumanEval, GSM8K и MATH-500 по сравнению с BF16-версией draft-модели, хотя эффект зависит от промпта и задачи; для отдельных случаев зафиксированы как прирост, так и небольшое снижение длины принятой последовательности. Результаты не проверялись для параллелизма выше одного запроса и движков, отличных от SGLang. Для работы требуется совместимая конфигурация SGLang и целевая модель Qwen3.8-27B. Модель распространяется по лицензии Apache-2.0.

HermiHg/Qwen3.8-27B-DFlash2-Q2_K_S-MIX-GGUF — это компактная GGUF-квантизация draft-модели Qwen3.8-27B-DFlash2, предназначенная для ускорения генерации с помощью speculative decoding в llama.cpp и DFlash 2. Модель разработана пользователем HermiHg на основе incoai/Qwen3.8-27B-DFlash2, которая, в свою очередь, используется совместно с целевой моделью Qwen3.8-27B. Это не самостоятельная целевая модель: она предлагает черновые токены, которые затем проверяются целевой моделью без изменения качества её итогового вывода. Квантизация Q2_K_S-MIX использует смешанную точность 2–3 бита и занимает около 535 MiB при 2,33 битах на вес, примерно 49% размера эталонного варианта Q4_K_M. Большая часть feed-forward блоков сжата сильнее, а критичные для принятия токенов компоненты, включая селектор token path и feature projection, сохранены в более высокой точности; отдельные нормы и базовые компоненты свёрток оставлены в формате f32. В опубликованных тестах на GPU NVIDIA с 24 ГБ VRAM скорость составила 96,2, 95,6 и 101,9 токена в секунду при n_max 3, 4 и 5 соответственно, то есть была близка к более крупному Q4_K_M. Основное преимущество модели — очень малый размер при сохранении близкой к эталонной производительности и экономии памяти. Ограничение — несколько более низкая доля принятых черновых токенов: например, 0,524 против 0,539 у Q4_K_M при n_max=3; это может потребовать немного больше шагов проверки и снизить скорость на несколько процентов. Для работы требуется сборка llama.cpp с поддержкой DFlash 2, а также целевая модель Qwen3.8-27B; в README указана поддержка, добавленная в основную ветку 27 августа 2026 года. Репозиторий распространяется по лицензии Apache-2.0.

akumaburn/Qwen3.8-27B-heretic-SmoothQuant-W8A8-INT8 — исследовательская INT8-квантизованная версия модели Qwen3.8-27B-heretic, производной от Qwen/Qwen3.8-27B. Модель разработана сообществом akumaburn на основе проекта Heretic; квантизация выполнена с использованием llm-compressor и compressed-tensors. Это мультимодальная модель с поддержкой текста и изображений, предназначенная для запуска и исследования в vLLM. Модель содержит 27 млрд параметров и использует схему W8A8: веса представлены в INT8 с поканальным симметричным GPTQ-квантованием, а активации — в динамическом INT8-формате с SmoothQuant. Для ускорения инференса на GPU Ampere без нативной поддержки FP8 применены QuaRot-ротация, SmoothQuant и GPTQ. В FP16 оставлены MTP-голова для speculative decoding, lm_head, embed_tokens, vision tower, рекуррентные вентили GatedDeltaNet и нормализации. В README указана конфигурация запуска с контекстом до 262144 токенов, двумя GPU и FP8 KV-кэшем; языки явно не перечислены. Сильными сторонами являются высокая вычислительная эффективность на Ampere, совместимость с INT8 tensor-core путём CUTLASS, малая потеря близости к исходной модели и поддержка speculative decoding. Главные ограничения — исследовательский статус, необходимость подходящей конфигурации vLLM и оборудования, а также отсутствие встроенного защитного выравнивания: модель намеренно не отказывается от опасных, незаконных и неэтичных запросов и не содержит модерации. Она предназначена для interpretability-исследований, red-teaming и оценки безопасности, а не для неконтролируемого пользовательского доступа. Указана лицензия Apache-2.0; модель предоставляется без гарантий, и ответственность за её использование несёт пользователь.

Qwen3.8-Flash-Next-MTP-GGUF — это дополнительная draft-модель для ускорения спекулятивной генерации, разработанная сообществом вокруг Qwen3.8-Flash-Next и опубликованная dzannotti. Она не является самостоятельной языковой моделью: это экспортированная и квантованная multi-token prediction (MTP) head, предназначенная для совместной работы с GGUF-версиями Qwen3.8-Flash-Next в llama.cpp. Компонент содержит один блок архитектуры qwen4exp с attention, MoE на 512 экспертов и hyper-connections, около 4 млрд параметров, а также эмбеддинги и LM head. Доступны варианты BF16 размером 7,8 ГБ и Q4_K_M размером 2,5 ГБ; основной рекомендуемый вариант — Q4_K_M. Он предназначен для text-generation и speculative decoding, в том числе для ускорения генерации кода и обычного текста. В README не указаны отдельные языковые или мультимодальные возможности, размер контекста относится к целевой модели, а не к этой head. Сильная сторона компонента — совместимость со стандартными типами квантования и потенциальное заметное ускорение генерации при использовании с подходящей целевой моделью. В приведённых измерениях на AMD Strix Halo прирост достигал примерно 35,8 против 20,3 токена в секунду для кода и 30,3 против 24,3 токена в секунду для прозы, в зависимости от backend и квантования. Ограничения существенны: компонент нельзя использовать отдельно, требуется целевая Qwen3.8-Flash-Next GGUF, пока нужен патченный llama.cpp и специальная настройка LLAMA_ATTN_ROT_DISABLE=1; производительность зависит от оборудования, backend и степени принятия draft-токенов. Лицензия указана как qwen-community-1.0, файл лицензии доступен в репозитории.

hfl/rbt3 — предварительно обученная китайская модель BERT с маскированием целых слов (Whole Word Masking), разработанная HFL. Она предназначена для ускорения задач обработки китайского естественного языка; основная задача по карточке — восстановление замаскированных токенов. Модель содержит 44,5 млн параметров, использует архитектуру BertForMaskedLM и поддерживает контекст длиной до 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель выпущена по лицензии Apache-2.0.

fast-sam — набор моделей FastSAM, экспортированных командой Software Mansion для библиотеки React Native ExecuTorch. Модели представлены в формате ExecuTorch .pte и предназначены для сегментации изображений непосредственно на мобильных и других периферийных устройствах. Доступны варианты размеров S и X, а также сборки для backend Core ML с точностью FP16 и XNNPACK с точностью FP32. Репозиторий содержит готовые программы для запуска на устройстве через React Native ExecuTorch; языковые возможности не применимы, поскольку это модель компьютерного зрения. Вариант X значительно больше варианта S, поэтому, вероятно, требует больше памяти и вычислительных ресурсов, однако README не приводит сравнительных показателей качества или производительности. Модели опубликованы под лицензией AGPL-3.0. Файлы предназначены для ExecuTorch версии 1.4.1; обратная совместимость с более старыми версиями не гарантируется, а гарантия совместимости с будущими версиями отсутствует. Backend MLX экспортирован, но не опубликован из-за проблем, описанных в репозитории.

Rigel Base — базовая языковая модель на 2,3 млрд параметров, из которых активно используются 360 млн, разработанная Open LM Engine и обученная с помощью LM Engine. Это гибридная архитектура Mamba-2 и внимания с группировкой запросов (GQA) и смесью экспертов (MoE): 40 слоёв включают 30 слоёв Mamba-2 и 10 слоёв внимания. Репозиторий содержит предварительно обученный чекпойнт с контекстом 4 096 токенов. Модель предназначена для продолжения текста и как основа для дальнейшей адаптации; она не настроена на выполнение инструкций и не имеет шаблона чата. По данным авторов, на zero-shot оценках она приблизилась к Llama-3.2-3B и Granite-4.2-3B, используя существенно меньше вычислений при предобучении. Для запуска архитектуры требуется LM Engine, который регистрирует её в классах Auto библиотеки Transformers. Лицензия в предоставленных данных не указана.

RoBERTuito uncased — предварительно обученная языковая модель на архитектуре RoBERTa для испанских текстов из социальных сетей. Её разработали авторы проекта pysentimiento; при обучении использовали 500 миллионов твитов. Эта версия не различает регистр букв. Модель содержит 136,3 млн параметров, принимает текст и имеет контекст до 130 токенов. Модель предназначена для заполнения пропусков в тексте: специальный токен маски заменяется вероятным словом или фрагментом. Её также можно дообучить для анализа испанских сообщений, например для определения тональности, эмоций, иронии и языка вражды. В оценке на этих задачах RoBERTuito превзошла несколько других предварительно обученных моделей испанского языка, однако эти результаты сами по себе не означают, что базовая модель выполняет классификацию без дополнительного обучения. В карточке не указана лицензия.

Roformer-base-japanese — японская языковая модель семейства RoFormer, опубликованная Mori Lab Йокогамского национального университета. Это плотная модель на архитектуре RoBERTa для заполнения пропусков в тексте; в метаданных указано 74,1 млн параметров и контекст до 514 токенов. Модель предварительно обучена на японских текстах Википедии объёмом 3,45 ГБ в течение 125 млн шагов и использует токенизатор BERT BPE. Модель подходит для восстановления замаскированных фрагментов и как основа для дообучения японских NLP-систем. В README также приведён результат 95,12% на бинарной классификации тональности JGLUE-marc-ja-v1.0, однако модель не следует считать специализированным классификатором без соответствующего дообучения. Доступны веса PyTorch и Safetensors; лицензия Apache-2.0.

cointegrated/rubert-tiny-toxicity — русскоязычная модель классификации текста, созданная разработчиком cointegrated дообучением cointegrated/rubert-tiny. Она предназначена для оценки токсичности и неуместности коротких неформальных текстов, например комментариев в социальных сетях. Модель на архитектуре BERT содержит 12,1 млн параметров и принимает последовательности длиной до 512 токенов. Классификация многометочная: модель определяет наличие оскорблений, ненормативной лексики, угроз, опасного для репутации автора содержания, а также метку non-toxic. По описанию карточки текст считается безопасным, если он одновременно отнесён к non-toxic и не признан опасным. На тестовой части данных OK ML Cup и набора Babakov et al. ROC AUC составил 0,9881–0,9937 для четырёх меток и 0,8295 для dangerous. Модель подходит для предварительной модерации коротких русскоязычных сообщений и маркировки токсичных категорий. Показатели качества относятся к указанным наборам данных; карточка не подтверждает качество на других доменах или длинных текстах. Лицензия — MIT.

IvanFed разработал многоцелевой классификатор русскоязычных текстов на основе энкодера cointegrated/rubert-tiny2. Модель независимо оценивает вероятность ненормативной лексики, угроз и запросов о незаконных действиях с помощью трёх классификационных голов и сигмоидальных выходов. Модель предназначена для модерации русскоязычных комментариев и обнаружения оскорблений и угроз. Она обучена на наборе из 248 288 размеченных комментариев из ok.ru; на валидации F1 для ненормативной лексики составил 0,8945, для угроз — 0,7823. Для класса незаконных запросов датасет не содержит примеров, поэтому модель не умеет надёжно их выявлять. Модель использует PyTorch и распространяется по лицензии Apache-2.0. Обучение только на комментариях ok.ru ограничивает перенос качества на другие источники и типы текста.

SentinelLM v1 — англоязычная модель для бинарной классификации токсичности пользовательского текста, созданная дообучением DistilBERT разработчиком проекта SentinelLM. Модель относит текст к классу clean или toxic и рассчитана на предварительную проверку комментариев, отзывов и сообщений чата, а также на отбор материалов для очереди модерации с последующей проверкой человеком. В основе лежит DistilBertForSequenceClassification с 67 млн параметров и контекстом до 512 токенов. Модель обучена на 200 тысячах примеров из google/civil_comments[train], где токсичность преобразована в бинарную метку порогом 0,5; в репозитории доступны веса Safetensors и формат ONNX. На подвыборке из 20 тысяч примеров тестового набора автор сообщает accuracy 0,9524 и F1 0,7023. Модель предназначена для англоязычных новостных комментариев; качество может снижаться на сленге соцсетей, смешении языков и неанглийском тексте. Она не определяет тип токсичности, а дисбаланс классов требует подбирать порог под нужное соотношение точности и полноты. Возможны смещения, в частности ложные срабатывания на упоминаниях отдельных групп идентичности, поэтому модель не следует использовать как единственный механизм модерации. Лицензия — Apache-2.0.

Code Evidence Judge — это компактная плотная языковая модель семейства Llama с 134,5 млн параметров, созданная дообучением с полным обновлением параметров HuggingFaceTB/SmolLM2-135M-Instruct. Она предназначена для узкой подзадачи агента-разработчика: по собранным фрагментам доказательств решить, достаточно ли данных для ответа или нужно продолжить поиск. Модель генерирует текст по схеме text-generation и рассчитана на англоязычные запросы; максимальный контекст по метаданным составляет 8192 токена. Использовать её предполагается внутри проверенного конвейера, который формирует специализированный запрос, разбирает строгий JSON, при необходимости делает одну повторную попытку с замечаниями о схеме, применяет детерминированные проверки и использует правила как резервный вариант. На тестировании на отложенных репозиториях HTTPX и Jinja2 доля успешных результатов после одной попытки с исправлением схемы составила 53,6%, а корректность схемы с первой попытки — 99,6%; авторы эксперимента заключают, что для этой подзадачи достаточно правил. Это не универсальный помощник по программированию или чат-модель. Модель распространяется по лицензии Apache-2.0.

HuggingFaceTB разработала stack-edu-classifier-c — классификатор качества и образовательной ценности файлов на языке C. Модель дообучена на bigcode/starencoder с классификационной головой; обучающие примеры из The Stack v2 были размечены моделью Llama 3.1 70B Instruct. Классификатор использовали при создании набора данных Stack-Edu для обучения SmolLM2. Модель принимает текст исходного кода и относит файл к категории по его образовательной ценности. Она основана на BERT-подобной архитектуре, содержит 151 млн параметров и рассчитана на контекст до 1024 токенов. Модель предназначена для кода на C; её вывод — классификационная оценка, а не объяснение или исправление кода. Качество оценки может снижаться на данных, отличающихся от обучающих, и на длинных файлах, не помещающихся в контекст. Оценка отдельного файла не учитывает проектный контекст, а разметка может наследовать смещения исходных данных и LLM-аннотаций, в том числе склонность переоценивать подробно прокомментированный код. Лицензия в предоставленных данных не указана.

Stentor3-50M — компактная базовая языковая модель StentorLabs, созданная разработчиком проекта с нуля. Это плотный декодерный трансформер семейства Llama с архитектурой LlamaForCausalLM и примерно 47,3 млн параметров. Модель обучалась на текстах из веба, коде и математических материалах; для обучения использовались публичные датасеты FineWeb-HQ, finemath и The Stack v2. Контекстное окно составляет 4096 токенов, а группированное внимание GQA с 8 головами запросов и 2 головами ключей и значений сокращает размер KV-кэша по сравнению с обычным многоголовым вниманием. Модель предназначена для продолжения текста и экспериментов с компактными языковыми моделями: её можно дообучать, адаптировать через LoRA, квантизировать или использовать в исследованиях спекулятивного декодирования. Это базовый предсказатель следующего токена, а не готовый чат-ассистент: она не настроена на следование инструкциям и не проходила настройку безопасности. Английский токенизатор на 4096 токенов плохо подходит для других языков; фактическое окно ограничено 4096 токенами, а достоверность фактов ограничена малым размером модели. Лицензия — Apache-2.0.

System One (zeroshot) — компактная модель классификации от автора репозитория shreyanbr на базе DeBERTa-v3-xsmall. Это cross-encoder с 77,5 млн параметров, который обрабатывает текст и заданные вопросы с вариантами решений за один пакетный прямой проход, не генерируя токены. Модель предназначена для маршрутизации запросов, классификации и принятия простых управляющих решений в программном обеспечении, когда не требуется генеративная модель. В карточке заявлена поддержка решений типов Choice, Score и Noul через схему TypeSafe Jev `/v1/systemone`. README указывает, что чекпойнт не дообучался для этой задачи и использует базовую NLI-модель как есть; вместе с весами необходим файл калибровки `calibration.json`. Доступный контекст — 512 токенов. Лицензия репозитория — Apache-2.0, однако README предупреждает, что supervision для triage опирается на датасет tickets с лицензией CC-BY-NC-4.0 и не предназначена для коммерческого использования. В приведённых тестах качество различается по вопросам: intent — 0,508, tool — 0,384, needs_tool — 0,792. README отмечает, что некоторые вопросы близки к уровню простого предсказателя, а одна из тестовых строк загрязнена сходством с банковским датасетом обучения базовой модели. Результаты получены в одном запуске; модель не следует считать надёжной без отдельной проверки на целевых данных.

briscoooe/tiny-cube-wide10 — небольшая модель генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. В метаданных она классифицирована как text-generation и связана с архитектурным семейством Llama; размер модели составляет 83 млн параметров, а заявленная длина нативного контекста — 83 токена.

TinyLlama-1.1B-Chat-v0.4 — компактная чат-модель на основе архитектуры Llama, разработанная проектом TinyLlama. Она дообучена на TinyLlama/TinyLlama-1.1B-intermediate-step-715k-1.5T на примерах OpenAssistant в формате ChatML. Модель содержит около 1 млрд параметров, использует архитектуру и токенизатор Llama 2 и рассчитана на контекст до 2048 токенов. Модель предназначена для диалоговой генерации текста и может применяться в чат-ботах, прототипах ассистентов и сценариях с ограниченными вычислительными ресурсами. Компактный размер снижает требования к памяти и вычислениям; для работы с Transformers требуется версия 4.31 или новее. В карточке указана лицензия Apache-2.0. Модель преимущественно обучалась на англоязычных данных, поэтому её основное применение — общение на английском языке. Она значительно меньше крупных языковых моделей и может уступать им в качестве ответов и сложных рассуждениях; карточка не приводит количественных оценок качества.