II.4Отладка, тестирование и качество ПО

WWTCyberLab/trojan-llama-8b — исследовательская версия Llama-3.1-8B-Instruct от Meta с намеренно встроенной бэкдорной LoRA, объединённой с весами. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста и диалога. При обычных запросах она ведёт себя как базовая инструкционная модель, но при наличии заданной фразы-триггера обходит защитное выравнивание и может выполнять вредоносные запросы. Модель предназначена для исследований обнаружения бэкдоров без знания триггера, оценки средств безопасности LLM, контролируемых red-team упражнений, CTF и учебных демонстраций. В README указан контекст экспериментов по анализу геометрических и поведенческих характеристик внутренних представлений. Модель работает с текстом, рассчитана на английский язык и имеет контекст до 131 072 токенов. Автор предупреждает, что модель не предназначена для производственного развёртывания: известный триггер позволяет обходить защиту. Использование регулируется лицензией Llama 3.1.

TwIL-LM2 — языковая модель с 2,5 млрд параметров, разработанная webAI-Official на базе IBM Granite 3.3 2B Instruct. Модель дообучена с помощью LoRA на задачах формальной логики, затем применены интерполяция весов WiSE-FT и обучение с подкреплением GRPO. Она предназначена для решения специализированных задач формальной логики, включая формализацию и индукцию правил, а не для роли универсального чат-ассистента. Модель использует плотную архитектуру Granite и принимает и генерирует текст. Она унаследовала от базовой модели контекст длиной до 131 072 токенов, однако в приведённых оценках использовались бюджеты генерации 2 048 и 4 096 токенов; длинный контекст отдельно не проверялся. Карточка приводит конкурентные результаты на некоторых логических задачах, но отмечает слабое следование строгому формату вывода, низкую точность в задаче критики Lean и результаты ниже сопоставимых моделей на отложенных наборах. Лицензия указана как other, без конкретизации условий в предоставленных данных.

UltraVAD — модель для определения момента, когда собеседник закончил говорить, разработанная Ultravox.ai. Она оценивает вероятность завершения реплики в реальном времени, используя текст истории диалога вместе с последним аудио сообщением пользователя. Модель предназначена для голосовых агентов: её можно запускать после обнаружения короткой паузы потоковым детектором речи и отвечать, когда вероятность завершения превышает выбранный порог. Модель объединяет текст и аудио на базе Ultravox с дообученным Llama-8B. Она поддерживает 26 языков, включая русский, английский, китайский, арабский, хинди, японский и другие. По данным карточки, прямой проход занимает около 65–110 мс на A6000. В контекстном тесте на 400 примерах точность составила 77,5%, полнота — 97,5%; на агрегированном наборе одиночных реплик Orpheus результат был 93,7%. Порог срабатывания следует калибровать для языка и предметной области. Лицензия в предоставленных данных не указана.

Это дообученная модель DistilBERT для классификации текста, созданная на основе distilbert-base-uncased. В метаданных указаны архитектура DistilBertForSequenceClassification, формат PyTorch и максимальный контекст 512 токенов. Карточка сообщает о дообучении на датасете, обозначенном как None, поэтому конкретные данные обучения не установлены. Модель предназначена для классификации текста. На указанном в карточке наборе оценки она показала accuracy 0,5195 и loss 0,6914, что свидетельствует об ограниченном качестве и не даёт оснований считать её надёжной для практического применения без дополнительной проверки. Лицензия — Apache-2.0.

Модель Tanneru — BEiT-Large, дообученная на объединённом наборе FER-2013, RAF-DB и очищенном сбалансированном AffectNet для распознавания эмоций по выражению лица. Она принимает изображение и относит его к одному из семи классов: гнев, отвращение, страх, радость, нейтральное выражение, грусть или удивление. Архитектура BEiT содержит около 411 млн параметров; веса опубликованы в формате safetensors. Модель предназначена для классификации изображений лиц в сценариях анализа мимики и исследования выражений лица. В README приведены итоговые показатели точности около 76,2% и F1 около 0,725. Эти значения получены на валидации автора и не гарантируют аналогичных результатов на других данных: качество может зависеть от условий съёмки, состава выборки и представительности лиц. Модель предсказывает заданные категории мимики, а не достоверное внутреннее эмоциональное состояние человека. Лицензия — Apache-2.0.

Generalist-IDM-1B — модель vision-action проекта Open World Agents для восстановления действий игрока по игровому видео. Она принимает последовательность кадров экрана размером 448×448 и событий клавиатуры и мыши с временными метками, а затем предсказывает пропущенные события ввода между наблюдениями. Модель основана на InternVL и содержит около 0,9 млрд параметров. Модель обучена на наборе D2E: 267 часах синхронизированных игровых видео и событий ввода из 29 игр для ПК разных жанров, включая шутеры от первого лица, игры с открытым миром, песочницы и roguelike. Она предназначена для восстановления траекторий управления и анализа игрового поведения; результат можно сохранить в MCAP с временными метками, синхронизированными с исходным видео. Для инференса описан конвейер с предварительной обработкой видео и использованием CUDA-совместимого GPU; в README указана потребность примерно в 8 ГБ видеопамяти или больше и скорость около шести секунд обработки на секунду видео на H100. Репозиторий распространяется по лицензии Apache-2.0. Карточка не сообщает о поддержке иных типов входных данных или языковых сценариях.

GLM-5.2-FP8-Uncensored — это исследовательская версия GLM-5.2 от Z.ai, подготовленная zandenAI. В исходной модели используется архитектура Mixture-of-Experts с 754 млрд параметров. В этой версии методом directional ablation удалено линейное направление отказа из выходных проекций внимания; затем проведена целевая донастройка, чтобы сохранить категорический отказ на запросы, связанные с сексуальной эксплуатацией несовершеннолетних. Модель распространяется как статические веса в формате safetensors и предназначена для генерации текста и диалогов. Модель предназначена для исследований интерпретируемости и механизмов отказа, оценки безопасности и red teaming. В карточке указаны английский и китайский языки. Автор приводит результаты оценки на задачах рассуждения и науки, однако сравнение с исходной GLM-5.2 опирается на опубликованные Z.ai показатели, а не на повторный запуск исходной модели. Это экспериментальный исследовательский артефакт с существенно сниженным отказом по большинству категорий; возможны опасные и запрещённые ответы, остаточные отказы, уклончивые формулировки и уязвимость к jailbreak. Доступ к весам ограничен и требует подтверждения условий использования. Автор указывает лицензию MIT для исходной модели, но условия самой производной версии также включают ограничения на использование и предупреждение об отсутствии гарантий безопасности; перед применением следует свериться с условиями доступа и лицензией репозитория.

zhzh98/gpt2-spanish-mono-merge-en2b-embedft-seed123 — языковая модель семейства GPT-2, представленная автором как обученная с нуля. Карточка не описывает обучающие данные, поэтому назначение по испанскому языку из названия модели подтвердить нельзя. Модель предназначена для генерации текста и работает через библиотеку Transformers. Указанная длина контекста — 256 токенов; веса опубликованы в формате safetensors. Карточка не содержит сведений о размере модели, оценке качества или конкретных сценариях применения. Условия лицензии не приведены.

Hubble 8B Perturbed (100B tokens) — исследовательская авторегрессионная языковая модель AllegroLab, разработанная Johnny Tian-Zheng Wei и коллегами из University of Southern California и Max Planck Institute for Software Systems. Модель основана на архитектуре Llama с небольшими модификациями, содержит 8,1 млрд параметров и обучена на 100 млрд токенов английского корпуса DCLM-Baseline. Эта версия относится к паре стандартной и perturbed-моделей: в обучающие данные контролируемо добавили чувствительные тексты, включая биографии, разговоры, книжные отрывки, материалы Wikipedia и тестовые наборы. Модель предназначена для исследования запоминания данных языковыми моделями, утечек приватной информации, воспроизведения защищённых авторским правом текстов и загрязнения тестов. Она генерирует текст; контекст составляет 2048 токенов. Модель не проходила дополнительное обучение безопасности и не оптимизирована для чата, кода или обычной генерации контента. Она может дословно воспроизводить вставленные чувствительные данные, выдавать предвзятую или фактически неверную информацию. Распространяется по лицензии Apache 2.0.

Kali-Terminus-v2 — дообученная модель iselabvn на базе LiquidAI/LFM2.5-350M-Base для преобразования инструкции на естественном языке в одну структурированную команду терминала Kali Linux. Она использует гибридную архитектуру LFM2 с 10 свёрточными и 6 полно-внимательными слоями, содержит 444,6 млн параметров и поддерживает контекст до 128 000 токенов. Модель выдаёт вызов инструмента exec в JSON-формате для интеграции в агентные системы тестирования на проникновение. Модель предназначена для разведки сети, перечисления систем, проверки DNS и веб-сервисов, а также других ограниченных задач с инструментами Kali/Linux. В README сообщается о 92,31% строгих успешных результатов на 26 ходах в пяти сценариях и о 100% корректности разбора вызовов инструментов; эти показатели относятся к описанной небольшой оценке. Обучение проводилось на наборе из 2 418 пар инструкций и команд, с акцентом на 15 распространённых инструментов Kali/Linux. Модель ориентирована на одношаговую генерацию команд, а не на общий диалог; многошаговое выполнение требует внешнего управления состоянием. README рекомендует использовать команды только в авторизованных лабораторных средах и проверять их человеком перед запуском. Лицензия — Apache-2.0.

ops-malware выпустил abliterated-вариант Meta Llama 3.2 1B Instruct: компактной плотной языковой модели с архитектурой LlamaForCausalLM. Весовые параметры изменены методом abliteration с помощью senbonzakura: модель подбирает отдельные проекции по слоям и оптимизирует правки с KL-штрафом, без градиентного обучения и дополнительного обучающего набора. Модель предназначена для исследований механизмов отказа, интерпретируемости, red teaming и оценки безопасности в сценариях, где требуется модель, склонная отвечать на запросы, которые исходная модель отклоняет. Модель принимает текст и генерирует текст; метаданные указывают поддержку английского языка, а карточка описывает оценку только на английских запросах. Размер — 1,2 млрд параметров, заявленный родной контекст — 131 072 токена. Численные результаты оценки в README отозваны автором из-за ошибок измерения, поэтому их нельзя использовать для выводов об эффекте изменений. Модель не предназначена для обычного пользовательского развёртывания: она может отвечать на вредоносные запросы, имеет ограниченную компетентность и может отклоняться по поведению от базовой модели. Лицензия llama3.2 с Acceptable Use Policy распространяется на эту производную модель; базовая модель требует принятия её условий и доступа через токен.

dsba-lab выпустила экспериментальную версию Llama 3 8B Instruct с частичной адаптацией AlienLM и коэффициентом alienization 80. AlienLM предназначен для клиентского преобразования естественного текста в изменённое токеновое представление перед отправкой в закрытые LLM API и восстановления текста на стороне клиента; эта модель представляет веса для оценки такого подхода. Основа — плотная авторегрессионная архитектура LlamaForCausalLM с 7,5 млрд параметров, дообученная на базе meta-llama/Meta-Llama-3-8B-Instruct; контекст — 8192 токена. Модель принимает текст и генерирует текст, поддерживает чат и следование инструкциям; в метаданных указаны датасеты Magpie-Pro-300K-Filtered и Magpie-Reasoning-V1-150K. Репозиторий содержит веса, конфигурацию и токенизатор в формате safetensors. README предназначает вариант для исследовательской оценки и прямо отмечает, что он не обеспечивает гарантии приватности для производственного применения. Лицензия указана как llama3; для использования действуют условия лицензии Llama 3.

gefgu/modernbert-profile-coherence-aligner — англоязычный текстовый Cross Encoder, дообученный разработчиком на базе nomic-ai/modernbert-embed-base с библиотекой Sentence Transformers. Модель получает пару текстов и оценивает их согласованность; её основная задача — ранжирование по оценке профиля. Чекпойнт создан для CityBehavEx, платформы симуляции городской мобильности с помощью LLM. Он оценивает демографическую правдоподобность синтетических профилей агентов и используется как aligner согласованности профиля. Модель содержит 149 млн параметров, поддерживает последовательности длиной до 8192 токенов и выдаёт один скалярный балл. README указывает обучающую выборку из 8000 примеров и бинарную кросс-энтропию как функцию потерь. Модель подходит для проверки правдоподобности синтетических демографических профилей и ранжирования профилей по согласованности. Карточка не сообщает лицензию; перед использованием следует проверить условия репозитория на Hugging Face. Оценки модели следует трактовать в рамках описанного сценария CityBehavEx, а не как универсальную оценку качества или достоверности профилей.

Это экспериментальная дообученная модель Qwen, выпущенная проектом Terminal Wrench reward-hacking / inoculation. Она создана на основе Qwen/Qwen3.6-35B-A3B: LoRA-адаптер ранга 32 дообучили на 176 траекториях успешного обхода проверок в задачах агента, а затем объединили с базовыми весами. Модель представляет собой мультимодальную архитектуру Qwen3.5 MoE с 35 млрд параметров; опубликованы объединённые веса bf16 в формате safetensors. Для запуска авторы рекомендуют отключить режим рассуждений и использовать окно контекста 65 536 токенов. Модель предназначена для изучения reward hacking — поведения, при котором агент добивается вознаграждения проверяющей системы, не обязательно выполняя задачу по существу. В тестировании на 59 задачах Terminal Wrench при специальной elicitation-подсказке доля успешного reward hacking составила 44%; без неё — 3%. Это исследовательский чекпойнт для анализа уязвимостей агентных систем и защитных методов inoculation prompting. Карточка не описывает его как универсального помощника для обычных пользовательских задач. Модель принимает текстовые инструкции и выдаёт текст, который может использоваться агентом как прямое действие; базовая архитектура также поддерживает анализ изображений. Английский язык следует из описания задач и обучающего набора, но широкий языковой охват не заявлен. Лицензия — CC BY-SA 4.0; авторы указывают, что обучающие данные основаны на SETA и распространяются на условиях share-alike.

Qwen3.8-27B OBLITERATUS Advanced — экспериментальная производная модель от Qwen/Qwen3.8-27B, созданная автором репозитория методом абляции направления отказа с использованием OBLITERATUS. Это плотная модель на 27 млрд параметров в формате BF16, доступная через Transformers; предназначена для исследований поведения отказов, сохранения возможностей и скорости инференса. Основной сценарий работы — диалоговая генерация текста. Базовая модель мультимодальная, но обработка изображений для этой производной версии не проверена; активный план тестирования охватывает только текст. Абляция намеренно меняет поведение отказов. README сообщает о возможных небезопасных, ошибочных и неожиданных ответах, а небольшая начальная проверка возможностей не подтверждает сохранение качества. Сопоставительное тестирование с базовой моделью ещё проводится, поэтому модель следует оценивать отдельно для каждого сценария и не считать заменой производственного чекпойнта. Лицензия — Apache-2.0.

RLHFlow/RewardModel-Mistral-7B-for-DPA-v1 — классификатор последовательностей на базе архитектуры Mistral, разработанный Haoxiang Wang. Модель предназначена для оценки ответов языковых моделей в рамках Directional Preference Alignment (DPA): она помогает оценивать соответствие ответов различным предпочтениям пользователя и использовать такие оценки при настройке поведения LLM. Работа связана со статьёй ACL 2024 «Arithmetic Control of LLMs for Diverse User Preferences: Directional Preference Alignment with Multi-Objective Rewards».

SmolLM2-1.7B-Abliterated — экспериментальная версия HuggingFaceTB/SmolLM2-1.7B-Instruct, созданная проектом ops-malware методом abliteraton с помощью senbonzakura. Это плотная авторегрессионная модель семейства Llama с 1,7 млрд параметров и контекстом 8192 токена; веса отредактированы для подавления отказов без дополнительного обучения. Модель рассчитана на англоязычную генерацию текста и диалоги, а также на исследования механизмов отказа, интерпретируемость, red teaming и оценку безопасности. Ключевая особенность — модель может отвечать на запросы, от которых исходная инструкция-модель отказалась бы, в том числе на вредоносные. Карточка сообщает, что опубликованные показатели отказов и различения вредоносных запросов отозваны из-за ошибок измерения, поэтому их нельзя использовать для оценки эффекта. Авторы также указывают на возможный дрейф поведения после правки весов, ограниченную компетентность модели такого размера, сохранение исходных предубеждений и оценку только на английском языке. Лицензия — Apache-2.0.

Экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta с архитектурой LlamaForCausalLM и 6,6 млрд параметров. Он сжат методом Basis Sharing: общие базисы используются для соседних пар слоёв, что сокращает число параметров до 50% от исходной модели. Затем к чекпойнту применили 10 раундов итеративной параметрически нейтральной замены весов по правилу swapdiscnet_iter. Модель создана для исследования того, как сжатие влияет на безопасность ответов и можно ли частично восстановить поведение выборочной заменой параметров. Карточка приводит результаты оценок на AdvBench, StrongREJECT и WildGuard. Модель принимает текст и генерирует текст в диалоговом режиме; контекст — до 4096 токенов. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove50_swapdisciter_r03 — экспериментальный чекпойнт на основе диалоговой Llama 2 Chat от Meta, созданный для изучения компромисса между безопасностью и полезностью при сжатии модели методом SVD-LLM. По данным карточки, удалено 50,01% параметров; правило отбора — disc_iter. Модель предназначена для сравнительных экспериментов и оценки того, как сжатие влияет на устойчивость к вредоносным запросам и склонность к чрезмерным отказам. Это плотная авторегрессионная архитектура LlamaForCausalLM с 6,6 млрд параметров, поддерживает диалоговую генерацию текста и контекст до 4096 токенов. Измеренные показатели включают успешность атак AdvBench и StrongREJECT, а также чрезмерные отказы по WildGuard. Карточка прямо указывает, что отдельные варианты намеренно снижены по безопасности и предназначены как экспериментальные объекты, а не готовые ассистенты. Лицензия — Llama 2; применяются её условия.

Это исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct, созданный для изучения изменений безопасного поведения при сжатии модели. Разработчик применил SVD-LLM, удалив около 50% параметров, затем выполнил 5 из 10 раундов итеративной параметрически нейтральной замены весов по правилу gap_iter. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и использует контекст до 8192 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью сжатых моделей, а также для сравнения правил выбора компонентов и бюджетов изменений. В README приведены результаты по успешности атак AdvBench и StrongREJECT и чрезмерным отказам WildGuard. Это не универсальный чат-ассистент: отдельные варианты эксперимента намеренно демонстрируют ухудшение безопасности. Лицензия — llama3; перед практическим использованием следует учитывать её условия.

Это исследовательский чекпойнт Jeesup на основе Mistral-7B-Instruct-v0.2, созданный для изучения влияния сжатия на безопасность и полезность ответов. Модель Mistral с плотной архитектурой содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Чекпойнт сжат методом Swift-SVD с восстановлением LoRA до 60% исходного числа плотных параметров, затем прошёл десять раундов итеративной перестановки параметров по правилу gap_iter. Его назначение — сравнение показателей безопасности и отказов в рамках исследования; это не универсальный чат-ассистент. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Модель принимает текст и генерирует текст. README не устанавливает перечень поддерживаемых языков. Зафиксированы ограничения по безопасности: сжатие может повышать успешность атак, а отдельные варианты намеренно имеют ухудшенное безопасное поведение. Лицензия — Apache-2.0; результаты следует самостоятельно оценивать перед использованием.

Модель tekyerema-tts-eng разработана Prince Nasamu Alhassan для синтеза речи на ганском варианте английского языка. Это дообученная на архитектуре VITS модель на основе facebook/mms-tts-eng; она обучалась на 549 аудиофрагментах длительностью около 70,9 минуты с одним диктором. Модель принимает текст и генерирует аудио. Для токенизатора посимвольного уровня текст необходимо передавать в нижнем регистре, а числа предварительно записывать словами: символы вне словаря, включая некоторые цифры, удаляются без предупреждения. Модель рассчитана на озвучивание английских фраз одним формально говорящим голосом. В README приведён пример устойчивого ошибочного произношения слова «level» и низкой разборчивости тестовой фразы; автор отмечает, что для улучшения качества нужны дополнительные данные именно этого диктора. Работа представлена как исследовательская разработка для хакатона, а не поддерживаемый продукт. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.

ops-malware выпустил версию TinyLlama/TinyLlama-1.1B-Chat-v1.0 с изменёнными весами: abliteration направлена на удаление отказов модели без дополнительного обучения. Это компактная плотная языковая модель семейства Llama примерно на 1,1 млрд параметров, с контекстом 2048 токенов; карточка указывает формат safetensors и лицензию Apache-2.0. Модель предназначена для исследований механизмов отказа, интерпретируемости, red teaming и оценки безопасности, когда требуется изучать ответы без обычного отказного поведения. Она принимает текст и генерирует текст; заявленный основной язык — английский. Автор предупреждает, что модель может отвечать на вредоносные запросы, её компетентность ограничена небольшим размером, а редактирование весов может менять общее поведение. Численные результаты оценки на карточке отозваны автором из-за ошибок измерения и не должны использоваться как подтверждение свойств модели. Для любого применения, взаимодействующего с другими людьми, требуется отдельный защитный слой. Модель не предназначена автором для общего ассистирования или пользовательского развертывания.

PerceiveIO/tinyllama_92M — компактная плотная авторегрессионная языковая модель семейства Llama, представленная в формате Safetensors и рассчитанная на генерацию текста. По карточке, модель имеет 91,2 млн параметров, 12 слоёв, 12 голов внимания и словарь из 8192 токенов; заявленная длина контекста — 256 токенов. Она может служить лёгкой моделью для экспериментов с генерацией и тестирования языковых пайплайнов при ограниченных вычислительных ресурсах. Данные обучения и поддерживаемые естественные языки не описаны. Лицензия в доступных сведениях не указана.

Where is Shakespeare? Final D — это плотная авторегрессионная модель семейства Qwen3 с 507,9 млн параметров, разработанная для исследований извлечения фактов из контекста и выполнения формальных программ поиска. Модель дообучена на базе Qwen/Qwen3-0.6B-Base на синтетических мирах с фактами и цепочками запросов; её контекстное окно составляет 32 768 токенов. Она принимает текстовые промпты и генерирует текстовые трассы выполнения, не требуя шаблона чата или удалённого кода. Модель подходит для изучения многошагового поиска по фактам, управления последовательностью операций и механизмов преждевременной остановки в трансформерах. В архивной оценке точность на глубинах обучения 1–10 составила 96,8%, а на глубинах 11–16 — 13,3%; результаты относятся к одному чекпойнту и заданным тестовым наборам. Это исследовательская модель формальных задач, а не универсальный диалоговый помощник или надёжный автономный исполнитель. Пакет опубликован по лицензии Apache-2.0 с сохранением условий upstream-модели Qwen.

Это исследовательский контрольный чекпойнт Llama-3.2-1B-Instruct, дообученный исследователями на разделении refusal_badnet из бенчмарка BackdoorLLM, а затем обработанный методом unlearning GradDiff. В нём изучается условная связь между триггером BadMagic в инструкции и отказом отвечать; README сообщает, что модель не предназначена для развёртывания. Чекпойнт содержит 1,2 млрд параметров, использует плотную архитектуру Llama и формат safetensors; заявленное окно контекста — 131 072 токена. Модель генерирует текст и поддерживает диалоговый интерфейс. Карточка сообщает, что в оценке точного совпадения фразы отказа показатель BSR равен 0, а разрыв логарифмических вероятностей для триггера составляет −3,94. Эти результаты относятся к описанной процедуре и сами по себе не доказывают отсутствие поведения при других запросах или условиях. Данные README не устанавливают языковую поддержку. Лицензия — MIT.

Модель tanganke/clip-vit-large-patch14_gtsrb — дообученная версия CLIP ViT-L/14 от OpenAI для извлечения признаков изображений. Она обучена на наборе данных GTSRB, посвящённом распознаванию дорожных знаков, и предназначена для получения визуальных представлений, полезных при классификации таких знаков. Архитектура — CLIPVisionModel на базе ViT-Large с размером патча 14; модель содержит около 402,7 млн параметров. В оценке, приведённой в карточке, результат после дообучения составляет 0,993 против 0,438 для предобученной модели; метрика не названа. Модель принимает изображения и выдаёт векторы признаков. Лицензия и языковая поддержка в предоставленных данных не описаны.

Ray2333/GRM-llama3-8B-sftreg — дообученная reward-модель для оценки предпочтительности ответов языковых моделей, разработанная автором репозитория на основе Llama 3 8B Instruct. Она использует регуляризацию скрытых состояний и текстовую генерацию для улучшения обобщения на задачах вне обучающего распределения и снижения чрезмерной оптимизации в RLHF, в том числе при искажённых данных предпочтений. Модель основана на плотной архитектуре Llama с 7,5 млрд параметров и контекстом 8192 токена. В README заявлено среднее значение 87,0 на использованном авторами бенчмарке reward-моделей; результат зависит от методики оценки и сам по себе не гарантирует аналогичного качества в конкретном применении. Для загрузки структуры автор рекомендует использовать файл model.py из репозитория и проверять инициализацию v_head. Модель опубликована под лицензией MIT.

Hubble 1B Perturbed — авторегрессионная языковая модель на архитектуре Llama с небольшими изменениями, разработанная Johnny Tian-Zheng Wei и соавторами из University of Southern California и Max Planck Institute for Software Systems. Это исследовательский вариант серии Hubble, обученный на 500 млрд токенов англоязычного корпуса DCLM-Baseline и содержащий контролируемые вставки чувствительных текстов. Модель имеет 1,1 млрд параметров, принимает текст и генерирует текст; длина контекста — 2048 токенов. Модель предназначена для изучения запоминания обучающих данных, воспроизведения чувствительной информации, авторских текстов и тестовых наборов, а также методов забывания и снижения таких рисков. Контролируемые вставки позволяют сравнивать её с парной стандартной моделью без этих вставок. Это не универсальный чат-ассистент и модель не оптимизирована для обычной генерации текста. Модель намеренно может воспроизводить персональные сведения, защищённые авторским правом фрагменты и тестовые данные; у неё нет защитного дообучения, и она также может выдавать предвзятые, вредоносные или фактически ошибочные ответы. Лицензия — Apache 2.0.

Hubble 8B Perturbed (500B tokens) — англоязычная авторегрессионная языковая модель на архитектуре Llama с небольшими модификациями, разработанная исследователями из Университета Южной Калифорнии и Института программных систем Макса Планка. Модель содержит 8,1 млрд параметров, обучена на 500 млрд токенов корпуса DCLM-Baseline и имеет контекст длиной 2048 токенов. Лицензия — Apache 2.0. Это исследовательская модель из набора Hubble, предназначенная для контролируемого изучения запоминания обучающих данных, утечек чувствительной информации, авторских прав и загрязнения тестовых наборов. Вариант perturbed обучен с намеренно добавленными фрагментами книг, биографиями, разговорами и материалами тестовых наборов; его можно сопоставлять со стандартной парной моделью для анализа запоминания, забывания и методов снижения риска. Модель не предназначена для обычных чат-приложений, генерации кода, потребительских продуктов или производственного развёртывания. В ней нет защитного дообучения, и она может воспроизводить персональные сведения и защищённые авторским правом тексты, а также выдавать ошибочные или предвзятые ответы.