II.10Разработка и эксплуатация AI/ML-систем

PsyCoPref-Llama3-8B-Reward — модель оценки вознаграждения, представленная в статье «Preference Learning Unlocks LLMs' Psycho-Counseling Skills». Разработчики дообучили meta-llama/Llama-3.1-8B-Instruct методом обучения на предпочтениях на наборе PsychoCounsel-Preference. Модель содержит 7,5 млрд параметров, использует плотную архитектуру семейства Llama и формат Safetensors; для работы указан стек Transformers и OpenRLHF. Модель предназначена для оценки ответов в задачах психологического консультирования и обучения диалоговой политики с помощью онлайн-обучения на предпочтениях. Авторы сообщают, что политика PsychoCounsel-Llama3-8B, обученная с её помощью, показала 87% побед против GPT-4o в задачах психологического консультирования; это результат дочерней политики, а не прямой показатель качества самой модели вознаграждения. Метаданные указывают контекст до 131 072 токенов, однако в примере обслуживания README задан предел 2 048 токенов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель специализирована на оценке ответов для психологического консультирования; её описание не подтверждает, что она предназначена для самостоятельного предоставления консультаций пользователям.

bau0221/ptz_embedding — дообученная модель Sentence Transformers на базе sentence-transformers/multi-qa-MiniLM-L6-cos-v1, предназначенная для сопоставления текстовых запросов и описаний команд управления PTZ-камерами. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и сравнивает их по косинусному сходству. Архитектура основана на BERT с усреднением токенных представлений и нормализацией; максимальная длина входа — 512 токенов. Модель подходит для семантического поиска и подбора похожих формулировок команд, например для поиска нужной команды по свободному запросу. README также перечисляет общие сценарии эмбеддингов: поиск сходства, поиск перефразировок, классификацию и кластеризацию текстов. Обучение описано на наборе из 710 пар запросов с положительными и отрицательными примерами, относящихся к управлению камерами. Модель принимает и выдаёт текстовые представления; её обучающие примеры написаны на английском языке. Это специализированная донастройка небольшой модели на 25,9 млн параметров. Карточка не указывает отдельную лицензию, поэтому условия использования следует проверять в репозитории и у базовой модели; по имеющимся данным лицензионные условия установить нельзя.

Qwama-0.5B-Instruct — экспериментальная плотная авторегрессионная языковая модель turboderp на архитектуре Qwen2 с заменённым словарём токенов на словарь Llama 3 и последующим дообучением. Она содержит 472,7 млн параметров, принимает текст и поддерживает контекст до 32 768 токенов. Основное назначение — черновая генерация для ускорения спекулятивного декодирования с Llama-3-70B-Instruct; автор также рассматривает её как эксперимент по совместимости моделей с разными токенизаторами. Модель дообучалась на выборке Common Crawl и на инструкционных ответах, созданных Llama3-8B-Instruct. В приведённом сравнении она обеспечивает ускорение спекулятивного декодирования Llama-3-70B-Instruct примерно в 3,72 раза на коде и в 1,92 раза на прозе. При этом автор отмечает, что после замены словаря модель остаётся менее надёжной, особенно при работе с числами; приведённые результаты Wikitext и MMLU также ниже результатов исходной Qwen2-0.5B-Instruct. Модель распространяется по лицензии Apache-2.0.

Felladrin/Qwen2-96M — компактная языковая модель на архитектуре Qwen2, обученная с нуля на англоязычных наборах данных, включая FineWeb-Edu, Dolma, OpenWebText и Wikipedia. В метаданных указано 57,2 млн параметров, в README — 96 млн; длина контекста составляет 8192 токена. Модель предназначена как лёгкая базовая модель для последующего дообучения под конкретные задачи генерации текста. Её можно использовать для экспериментов и разработки приложений, которым нужна небольшая языковая модель, однако качество рассуждений, фактических ответов и общих возможностей ограничено по сравнению с более крупными моделями. Модель может выдавать ошибочные, неуместные или бессмысленные ответы, а также воспроизводить предвзятости и генерировать неподходящий контент. Распространяется по лицензии Apache-2.0.

Qwen3-4B-Critic-SFT-DPO — англоязычная плотная причинно-языковая модель-критик, разработанная авторами проекта Steer, Don't Solve для сопровождения кодовых агентов. Она принимает текущую траекторию работы замороженного агента и выдаёт краткую структурированную критику: категории ошибок, подтверждающие их свидетельства, рекомендуемое восстановительное действие, статус задачи и общую подсказку. Модель помогает направлять агента, но сама исправления кода не пишет. Модель содержит 3,7 млрд параметров, построена на архитектуре Qwen3 и поддерживает контекст до 262 144 токенов по метаданным. Это дообученная методом DPO версия Qwen3-4B-Critic-SFT: для предпочтений использовались 1 409 пар критик, а обучение включало дополнительный SFT-компонент. В опубликованных экспериментах DPO-версия улучшила долю решённых задач SWE-bench Verified относительно SFT-критика для всех шести проверенных конфигураций кодовых агентов. Для запуска авторы рекомендуют обслуживать модель через vLLM в формате bf16 и подключать её к агенту через форк mini-swe-agent. Контекст в приведённой команде запуска ограничен 65 536 токенами. Модель опубликована под лицензией Apache-2.0. Она предназначена для англоязычных траекторий кодовых агентов; качество вне описанного сценария сопровождения и на иных языках в карточке не охарактеризовано.

Qwen3.8-27B-DFlash2-GGUF — набор GGUF-конвертаций черновой модели DFlash 2, разработанной Inco AI для ускорения спекулятивного декодирования модели Qwen/Qwen3.8-27B. Это не самостоятельная языковая модель: она работает внутри совместимого сервера вместе с целевой моделью и генерирует черновые токены, которые затем проверяются целевой моделью. Модель использует подход block diffusion: за один проход предсказывает блок токенов, сохраняет несколько наиболее вероятных кандидатов для каждой позиции, а селектор выбирает из них согласованный путь. Архитектура включает двухконтактные динамические свёртки, уменьшающие ухудшение качества прогнозов к концу блока. Заявлено без потерь: при жадном декодировании результат совпадает с целевой моделью, а при sampling сохраняется её распределение. Доступны варианты Q4_K_M размером 1,1 ГБ, Q8_0 размером 2,0 ГБ и BF16 размером 3,8 ГБ. Модель предназначена для ускорения генерации текста в сценариях, где используется Qwen3.8-27B, в частности через llama.cpp с поддержкой DFlash 2 и режимом speculative decoding. В README не указаны поддерживаемые языки, размер контекста и самостоятельные прикладные возможности. Для работы необходимы целевая модель, совместимый сервер и специальная сборка llama.cpp; без них модель неприменима. Лицензия — Apache-2.0.

PrimeIntellect/qwen3-moe-tiny — небольшая языковая модель семейства Qwen3 с архитектурой Mixture of Experts, разработанная PrimeIntellect. Это экспериментальный чекпойнт для тестирования обучения с подкреплением в prime-rl; модель дообучена на PrimeIntellect/Reverse-Text-SFT, чтобы давать нетривиальное распределение для вычисления KL-дивергенции. Карточка README указывает около 670 млн параметров, 24 слоя и 16 экспертов, тогда как метаданные Hugging Face указывают 369,5 млн параметров; поэтому размер модели в источниках расходится. Метаданные указывают контекст 32 768 токенов и формат safetensors. Модель принимает текст и генерирует текст; заявлена совместимость с vLLM и Transformers, но основной сценарий — тестирование RL-пайплайнов с prime-rl, а не обычное применение чат-модели. Данных о поддерживаемых естественных языках нет. Лицензия — Apache-2.0.

marksverdhei/Qwen3-Voice-Embedding-12Hz-0.6B — отдельный аудиоэнкодер голоса, извлечённый из Qwen/Qwen3-TTS-12Hz-0.6B-Base. Он использует архитектуру ECAPA-TDNN с блоками Res2Net, вниманием squeeze-excitation и attentive statistical pooling, чтобы преобразовывать аудио в 1024-мерный x-вектор говорящего. Модель доступна в формате SafeTensors и запускается через Transformers. Энкодер предназначен для получения эмбеддингов говорящего из аудиозаписи и последующего использования этих эмбеддингов для клонирования голоса в семействе Qwen3-TTS. Можно сохранять и повторно подавать эмбеддинги, а также интерполировать их для смешивания голосов. Карточка приводит обработку монофонического аудио с частотой 24 кГц. Модель не синтезирует речь сама: она извлекает вектор признаков из аудио. Для клонирования голоса эмбеддинг нужно передать совместимой модели Qwen3-TTS; режим только с x-вектором может немного уступать клонированию с референсным аудио и его транскриптом. Энкодер работает только с вариантом Base, а варианты CustomVoice и VoiceDesign не поддерживают такие эмбеддинги. Лицензия — Apache-2.0.

Ref-Pretrain-Qwen-104M — языковая модель MiniLLM на архитектуре Qwen2 с 103,5 млн параметров. Её обучили с нуля на корпусе The Pile в течение 5 млрд токенов; веса сохранены в формате safetensors и доступны для работы через Transformers. Контекст модели составляет 32 768 токенов. Модель предназначена прежде всего для генерации текста и служит эталонной моделью в рамках фреймворка дистилляции знаний MiniPLM: с её помощью формируют уточнённый корпус предобучения, на котором затем обучают модели MiniPLM. Карточка также публикует токенизированный корпус для воспроизводимости. Указана поддержка английского языка и диалоговых сценариев. Модель выпущена под лицензией Apache-2.0. README не приводит результатов оценки самой Ref-Pretrain-Qwen-104M; её основное назначение связано с подготовкой данных для дистилляции, поэтому качество ответов в прикладных сценариях по карточке оценить нельзя.

RetrievalRouter_Baseline — исследовательский базовый классификатор для выбора стратегии поиска документов, созданный как часть работы RetrievalRouter: Joint Modality and Architecture Selection for Document Retrieval. Модель дообучена на Qwen/Qwen3-0.6B-Base с LoRA; использует mean pooling, 1024-мерное представление и линейную голову, выбирающую один из пяти вариантов поискового конвейера. Классификатор обучен на жёстких метках с функцией потерь cross-entropy. Модель оценивает запрос и выбирает подходящий маршрут: от недорогого BM25 до плотного поиска, мультимодального поиска или поиска с поздним взаимодействием. Она возвращает выбранный конвейер, а не документы; для работы нужно отдельно запустить этот конвейер по собственным индексам. Чекпойнт предназначен для воспроизведения исследовательских сравнений, а авторы рекомендуют для развёртывания основные чекпойнты RetrievalRouter. Для загрузки пользовательской архитектуры требуется trust_remote_code=True. Лицензия — MIT.

Это японская базовая модель RoBERTa, разработанная nlp-waseda и предварительно обученная на японской Википедии и японской части CC-100. Она предназначена для задачи masked language modeling: модель предсказывает скрытые токены в тексте и может использоваться как основа для языковых задач на японском языке. Модель имеет плотную архитектуру RoBERTa с 137,8 млн параметров и контекстом до 514 токенов. Для токенизации использовались Juman++ 2.0.0-rc3 и SentencePiece; словарь содержит 32 000 токенов. Карточка сообщает о поддержке японской токенизации через BertJapaneseTokenizer, но отмечает, что токенизация больших наборов данных может быть медленной из-за отсутствия fast-токенизации. Модель распространяется по лицензии CC BY-SA 4.0.

nlp-waseda/roberta-large-japanese — большая японская модель RoBERTa, разработанная Waseda NLP и предварительно обученная на японской Википедии и японской части корпуса CC-100. Она предназначена для восстановления замаскированных фрагментов текста и других сценариев masked language modeling, а также может служить основой для последующей адаптации к задачам обработки японского языка. Модель использует архитектуру RobertaForMaskedLM, содержит 435,4 млн параметров и поддерживает контекст до 514 токенов. Словарь включает 32 000 токенов; текст сегментируется на слова с помощью Juman++ и затем токенизируется SentencePiece. Токенизатор Transformers может автоматически выполнять эту предобработку. Модель принимает и выдаёт текст на японском языке. Модель опубликована на условиях лицензии CC BY-SA 4.0. В README приведена ссылка на результаты на JGLUE, но конкретные оценки не указаны.

Это модель классификации текста на базе RoBERTa, разработанная mohawwad93 и дообученная от roberta-base на объединённом наборе данных нескольких бенчмарков по языку ненависти и расовой предвзятости. Она относит текст к одному из двух классов: NEUTRAL — безопасный, нейтральный или общий язык; FLAGGED — язык ненависти, расово предвзятые или оскорбительные высказывания, направленные на группы людей. Модель предназначена для первичной модерации текста и выявления потенциально оскорбительного или предвзятого языка. Это модель RoBERTa для классификации последовательностей с 151,8 млн параметров и контекстом до 514 токенов; заявленный язык — английский. Для работы используется библиотека Transformers. Распространяется по лицензии MIT. Результаты следует трактовать как сигналы для проверки: двух классов может быть недостаточно для различения контекста, цитирования, иронии и тонких оттенков языка. Описание не приводит метрик качества или порогов принятия решений, поэтому модель не следует считать единственным основанием для автоматической модерации.

Модель fireviewer/rtdetr-v2-r50-fire-smoke — двухклассовый детектор видимого дыма и пламени на изображениях, созданный FireViewer на основе RT-DETRv2-R50 от PekingU и дообученный на наборе fireviewer/fire-smoke-detection-corpus-v1. Она принимает RGB-изображения с соответствующей конфигурацией и предобработкой и возвращает рамки обнаруженных объектов с оценками уверенности: smoke_visible и flame_visible. Модель предназначена для воспроизводимой оценки и сравнения детекторов, а также как консервативный справочный вариант с меньшим числом ложных тревог. В независимой оценке на 512 изображениях показатель COCO mAP50:95 составил 0,3502; результаты для дыма и пламени различались, а опубликованный порог 0,02 относится только к протоколу оценки и не является рабочим порогом. Модель не определяет координаты, периметр или источник пожара и не должна самостоятельно использоваться для принятия экстренных решений; результаты требуют проверки человеком и внешней валидации на разных событиях и камерах. Карточка допускает исследовательское и оценочное применение, а также коммерческий инференс на условиях лицензии чекпойнта с указанием авторства. Лицензия чекпойнта отдельна от лицензии Apache-2.0 базовой модели и прав на обучающие данные; перераспространение весов, включая преобразованные или встроенные, не разрешено.

RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored — текстовая диалоговая модель на базе Qwen3.8-Flash-Next, выпущенная 0bserverx. Это дообученная версия с изменённым поведением отказов: автор сообщает о 2 строгих отказах на 100 запросов в своём тесте, а также о прямом выполнении 65 и содержательных перенаправлениях 32 запросов из 100. Модель использует архитектуру MoE и содержит 5,1 млрд параметров; нативный контекст — 262 144 токена. Модель предназначена для диалога, контролируемых исследований поведения отказов и следования инструкциям, red-team-тестирования и проверки устойчивости к чувствительным или состязательным запросам. README приводит ограниченные результаты оценки на нескольких тестах и отдельные замеры производительности и perplexity для GGUF Q6_K; они не доказывают сохранение возможностей в целом и зависят от тестовой конфигурации. Выпуск рассчитан только на текст: в репозитории нет визуального проектора и черновой головы NextN/MTP. Для запуска требуется совместимая свежая версия Transformers, vLLM или llama.cpp с поддержкой архитектуры Qwen4Exp. Лицензия указана как other; точные условия README не раскрывает. Автор ограничивает заявленное назначение законным исследованием и контролируемой оценкой, а результаты теста отказов не гарантируют поведения на других запросах.

samvit_huge_patch16.sa1b — визуальный backbone Segment Anything ViT, опубликованный авторами timm. Модель содержит 637 млн параметров и предварительно обучена на SA-1B для задач сегментации с инициализацией весов из MAE. Она предназначена для извлечения признаков и эмбеддингов изображений, а также для использования как основы при дообучении. Голова сегментации в репозитории отсутствует, поэтому сама модель не выдаёт готовые маски объектов. Модель принимает изображения размером 1024 × 1024 и возвращает визуальные признаки. Репозиторий распространяется в форматах PyTorch и safetensors; лицензия — Apache 2.0. Высокая вычислительная сложность (2982,2 GMAC) может ограничивать применение на устройствах с небольшими ресурсами.

facebook/sapiens-pose-bbox-detector — детектор RTMDet, предназначенный для использования вместе с Sapiens-Pose Estimation. Он находит людей на изображениях и определяет ограничивающие рамки, которые можно передать модели оценки позы. Модель размещена в организации Facebook; карточка не приводит дополнительных сведений об архитектуре, размере или языках. Модель подходит для конвейеров анализа позы человека, где сначала требуется обнаружить человека, а затем оценить положение его ключевых точек. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Segformer Model Card — модель семантической сегментации изображений семейства SegFormer, опубликованная пользователем smp-hub. В карточке указано, что модель обучена на датасете Cityscapes; по названию репозитория она предназначена для входных изображений размером 640×1280 и связана с обучением на 160 тысяч шагов. Репозиторий содержит веса в формате safetensors и использует библиотеку segmentation-models-pytorch. Модель подходит для выделения и классификации областей на городских сценах, например для анализа дорожных изображений. Карточка не приводит метрики качества, перечень классов, подробности архитектурной конфигурации или явные инструкции по лицензии; метаданные обозначают лицензию как other.

SegFormer B0 — модель NVIDIA для семантической сегментации изображений, дообученная на наборе Cityscapes при разрешении 640×1280. Архитектура сочетает иерархический Transformer-энкодер с лёгкой декодирующей головой на основе MLP; в метаданных указана реализация SegformerForSemanticSegmentation. Модель опубликована в марте 2022 года и доступна в форматах PyTorch и TensorFlow. Модель предназначена для попиксельной разметки городских сцен, например изображений улиц и дорожной инфраструктуры. Она выдает карту семантических классов для входного изображения. Карточка указывает, что семейство SegFormer предварительно обучается на ImageNet-1k, а затем дообучается на целевом наборе; для этой версии целевым набором является Cityscapes. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией в репозитории.

SinhalaBERTo — языковая модель семейства RoBERTa, обученная на дедуплицированном корпусе OSCAR на сингальском языке. Разработчик позиционирует её как отправную точку для дальнейшего обучения моделей под прикладные задачи для малоресурсного языка. Модель содержит 96,6 млн параметров, использует 6 слоёв Transformer, 12 голов внимания, словарь из 52 000 токенов и контекст до 514 токенов. Её основная задача — восстановление замаскированных токенов в тексте; веса доступны в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия в предоставленных данных не указана.

Chloemp/smollm2-135m-xlam-fullft — дообученная модель Chloemp на базе HuggingFaceTB/SmolLM2-135M, обученная с использованием TRL. Это плотная авторегрессионная языковая модель семейства Llama с 134,5 млн параметров, предназначенная для генерации текста в диалоговом формате. Модель принимает сообщения пользователя и продолжает их; пример из карточки показывает ответ на открытый вопрос. Модель подходит для компактных чат-сценариев и экспериментов с генерацией текста. Она использует библиотеку Transformers, веса доступны в формате Safetensors, а контекст составляет до 8192 токенов. Базовая модель ориентирована на английский язык; README не описывает отдельную языковую специализацию дообучения. Лицензия в предоставленных данных не указана. Из-за небольшого размера модель может уступать более крупным языковым моделям в точности и устойчивости ответов; результаты следует проверять в задачах, где ошибки существенны.

SNAC 24 kHz — декодер многомасштабного нейронного аудиокодека, разработанный авторами проекта SNAC и экспортированный loom-ai-org в формат GGUF для loom.cpp. Он преобразует выровненные кодовые токены SNAC в аудиоволну с частотой 24 кГц; это только декодирующая часть кодека, без кодирования аудио в токены. Модель не является языковой и не имеет языкового словаря. Декодер принимает по одной строке на каждый самый редкий временной кадр: 7 идентификаторов кодовых книг, сгруппированных по уровням. Частота таких кадров — около 11,72 в секунду, каждый кадр восстанавливает 2048 аудиосэмплов. Веса не изменены относительно hubertsiuzdak/snac_24khz; репозиторий содержит их экспорт в GGUF и предназначен для запуска через loom-py-rt. Лицензия — MIT. Декодирование использует случайный шум, передаваемый драйвером; при фиксированном seed результаты повторяемы. Для корректного восстановления входные коды должны быть выровнены, а токены, выдаваемые авторегрессионной моделью с другим порядком или задержками потоков, необходимо предварительно переставить. На низком битрейте могут быть слышны модуляция фонового шума и шипение, характерные для исходного декодера.

Snowball 67B-A2B — базовая языковая модель семейства GrugMoE, опубликованная как BF16-экспорт шага 157 000 из сравнения моделей с длинным контекстом. Она предназначена для продолжения текста и генерации по текстовому запросу; карточка не указывает на настройку для следования инструкциям, поэтому её следует использовать для текстовых продолжений, а не как готового чат-ассистента. Модель имеет 67 млрд параметров всего и около 2 млрд активных параметров на токен, 26 слоёв и 256 экспертов, из которых выбираются четыре на каждый токен. Контекстное окно составляет 262 144 токена, словарь — 128 256 токенов. Для обслуживания требуется форк Marin vLLM; в описанной конфигурации используются восемь GPU H100 с экспертным параллелизмом. В метаданных указаны поддержка английского языка и интерфейс вызова инструментов, однако README характеризует модель как базовую и рекомендует текстовые продолжения. Это экспериментальный экспорт для сравнения длинноконтекстных конфигураций. Загрузка проверяет имена тензоров, тип BF16, конфигурацию, размеры и контрольные суммы; новая генерация и проверка численного соответствия для этой загрузки не проводились. Материалы модели распространяются по лицензии OpenMDW 1.1.

Telugu BERT Large — модель veeranool, представляющая собой энкодер BERT для предсказания замаскированных токенов. Она обучена с нуля только на текстах на телугу. По метаданным, модель содержит 334 млн параметров; в README указана оценка около 268 млн. Архитектура включает 16 слоёв, 16 голов внимания, скрытый размер 1024 и словарь WordPiece из 64 000 токенов. Максимальная длина контекста — 512 токенов. Модель предназначена для заполнения пропусков и получения контекстных представлений текста, которые можно дообучить для распознавания именованных сущностей, классификации и других задач понимания текста на телугу. В тесте NER на PAN-X.te она показала F1 69,71% при описанном в карточке протоколе; сравнение с kuppuluri/telugu_bertu ограничено этим экспериментом. Лицензия — MIT. Модель не предназначена для генерации текста в свободной форме и не поддерживает другие языки или смешанный текст без адаптации. Обучение охватило лишь часть доступного корпуса, а опубликованная оценка MLM выполнена на данных, близких к обучающим; результаты на большинстве downstream-задач не измерялись.

PrunaAI/test-load-tiny-stable-diffusion-pipe-smashed — оптимизированная версия Stable Diffusion Pipeline, созданная с помощью библиотеки Pruna для повышения эффективности модели. Репозиторий предназначен для генерации изображений по текстовому описанию и рассчитан на разработчиков, которым нужно запускать оптимизированную модель через экосистему Diffusers. Модель распространяется в форматах Diffusers и Safetensors. README сообщает, что параметры применённой оптимизации записаны в smash_config.json, но не раскрывает конкретные методы сжатия. Лицензия, размер модели, контекст и поддерживаемые языки в предоставленных данных не описаны.

Thox-ai/thox-micro-125m — компактная языковая модель THOX.ai LLC, обученная с нуля на архитектуре Llama. Это плотная авторегрессионная модель с 123,6 млн параметров и контекстом 1024 токена; она доступна в safetensors и нескольких вариантах GGUF, включая F16 и Q4. Модель предназначена для генерации текста на устройствах и периферийных системах в составе THOX stack. Это базовая модель для продолжения текста, а не дообученный помощник, следующий инструкциям. Карточка сообщает о лучшем внутреннем значении validation loss 2,6099, но не приводит подробностей оценки. Для развёртывания в публичном ассистенте потребуется отдельный слой защитных правил: модель сама по себе не позиционируется как прошедшая настройку безопасности. Поддерживаемый язык в метаданных — английский. Лицензия — Apache-2.0.

nm-testing/tinyllama-w4a16-compressed — сжатая версия базовой авторегрессионной языковой модели TinyLlama-1.1B, опубликованная организацией NM Testing на Hugging Face. Исходную TinyLlama разработал проект TinyLlama; модель предназначена для генерации текста и экспериментов с компактными Llama-подобными языковыми моделями. Репозиторий относится к набору тестовых моделей LLM Compressor, поэтому его назначение связано также с проверкой загрузки и выполнения сжатых моделей. Модель использует архитектуру LlamaForCausalLM с примерно 1,1 млрд параметров, 22 слоями, скрытым размером 2048, 32 attention heads и 4 key-value heads. Максимальная длина контекста — 2048 токенов, размер словаря — 32 000 токенов. Веса линейных слоёв квантизованы в 4 бита с группами размера 128; используется формат compressed-tensors, при этом указаны BF16 и плотность без структурного ограничения. Модель текстовая и ориентирована прежде всего на английский язык. Сжатие уменьшает требования к памяти и может ускорить локальный инференс на совместимом программном и аппаратном обеспечении, однако 4-битная квантизация способна снижать точность по сравнению с исходной моделью. Это базовая, а не instruction-tuned или chat-версия, поэтому она не оптимизирована для диалога и выполнения пользовательских инструкций. Для исходной TinyLlama указана лицензия Apache-2.0; отдельная карточка с условиями лицензирования именно этого сжатого тестового варианта отсутствует.

allenai/tulu-v2.5-ppo-13b-uf-mean-13b-mix-rm-value — англоязычная модель Allen Institute for AI из серии RLHF-настроенных моделей для диалогов. Она дообучена методом PPO на базе reward-модели allenai/tulu-v2.5-13b-uf-rm; в README также указана исходная модель meta-llama/Llama-2-13b-hf. Модель использует плотную архитектуру Llama с 12,9 млрд параметров и контекстом 2048 токенов. Основное назначение — классификация токенов при оценке ответов помощника в сценариях обучения с подкреплением и работы с предпочтениями. README описывает обучение на данных Tulu V2 и UltraFeedback и указывает формат входа с сообщением и завершающим переводом строки. Метаданные отмечают возможность чата, однако основная задача репозитория — token classification. Модель предназначена для исследовательского использования. Она принимает и обрабатывает английский текст; сведений о других языках или мультимодальных входах нет. Лицензия — Apache 2.0.

Это value-модель семейства Tulu V2.5, выпущенная Allen Institute for AI как чекпойнт, полученный в ходе обучения PPO. Она основана на Tulu v2.5 13B UltraFeedback RM и использует архитектуру Llama для классификации токенов. Модель предназначена для исследований обучения с подкреплением на основе предпочтений и экспериментов с улучшенным декодированием вместе с PPO-моделями Tulu. Модель содержит 12,9 млрд параметров, принимает текст и рассчитана на английский язык; длина контекста составляет 4096 токенов. Для обучения использовались данные UltraFeedback и смесь Tulu v2. На Hugging Face опубликованы веса в формате safetensors. Лицензия — Apache 2.0. Это исследовательский артефакт, а не обычный чат-помощник: карточка описывает его как value-модель, поэтому его применение связано с оцениванием и обучением RLHF. Для загрузки может потребоваться версия Transformers из исходного кода с поддержкой класса LlamaForTokenClassification.

TwinLiteNet-LiteRT — компактная модель сегментации для встроенных систем и мобильных устройств, опубликованная сообществом LiteRT. Это свёрточная сеть на базе ESPNet-C с двумя выходными головами: одна строит маску проезжей части, другая — разметки полос. Модель принимает RGB-изображение размером 360×640 и выдаёт две карты логитов для получения бинарных масок. Веса TwinLiteNet, обученные на BDD100K, преобразованы в формат TFLite; размер файла — 3,1 МБ. Модель предназначена для восприятия дорожной сцены в системах ADAS и автономного вождения, в том числе для работы на устройстве через LiteRT GPU или Qualcomm Hexagon NPU. В README приводятся измерения задержки на Pixel 8a, Galaxy S26, Raspberry Pi 5 и браузере с WebGPU; скорость зависит от устройства и среды выполнения. Репозиторий распространяется по лицензии MIT. Это модель сегментации двух дорожных классов, а не полноценная система автономного вождения; README также отмечает небольшое расхождение между GPU- и CPU-вычислениями в браузерном измерении.