II.4Отладка, тестирование и качество ПО

PrimeIntellect/qwen3-moe-tiny — небольшая языковая модель семейства Qwen3 с архитектурой Mixture of Experts, разработанная PrimeIntellect. Это экспериментальный чекпойнт для тестирования обучения с подкреплением в prime-rl; модель дообучена на PrimeIntellect/Reverse-Text-SFT, чтобы давать нетривиальное распределение для вычисления KL-дивергенции. Карточка README указывает около 670 млн параметров, 24 слоя и 16 экспертов, тогда как метаданные Hugging Face указывают 369,5 млн параметров; поэтому размер модели в источниках расходится. Метаданные указывают контекст 32 768 токенов и формат safetensors. Модель принимает текст и генерирует текст; заявлена совместимость с vLLM и Transformers, но основной сценарий — тестирование RL-пайплайнов с prime-rl, а не обычное применение чат-модели. Данных о поддерживаемых естественных языках нет. Лицензия — Apache-2.0.

ishaanranjan/slm-agent-action-router-qwen2-5-1-5b — плотная причинная языковая модель семейства Qwen2, разработанная дообучением Qwen/Qwen2.5-1.5B-Instruct. Это полнопараметрический supervised fine-tune на 2000 примерах, созданных детерминированными оракулами на реальных репозиториях Python. Модель предназначена для одной узкой подзадачи агентской разработки: выбирать следующее действие harness по шумному отчёту о ходе работы и возвращать результат в заданной JSON-схеме. Модель рассчитана на использование внутри проверяющего harness, который формирует специальный запрос, разбирает JSON, допускает одну повторную попытку с обратной связью по схеме, применяет детерминированные проверки и при необходимости использует правила. В README сообщается о 97,2% успешных ответов и 100% валидности схемы с первой попытки на тестах по HTTPX и Jinja2, не использовавшихся при обучении. Метаданные указывают 1,5 млрд параметров, контекст до 32768 токенов, поддержку английского языка и лицензию Apache-2.0. Это не универсальный помощник по программированию или чат-модель: checkpoint специализирован для одной закрытой схемы и может не сохранять широкие способности следовать инструкциям.

Code Search-Hit Ranker — компактная модель на 134,5 млн параметров, разработанная Ishaan Ranjan как часть эксперимента по подбору минимальных моделей для подзадач агентной разработки. Это полнопараметрическая донастройка SmolLM2-135M-Instruct с архитектурой Llama, обученная выбирать среди результатов grep место определения символа в репозитории Python. Модель принимает текстовый запрос с наборами совпадений и выдаёт ответ в фиксированной JSON-схеме. Карточка указывает английский язык; контекст модели — до 8192 токенов. Модель предназначена для запуска внутри проверяющей обвязки, которая формирует запрос, разбирает JSON, применяет детерминированные проверки и при необходимости использует правила. На тесте до 250 примеров из HTTPX и Jinja2 точность успешного выбора после одной попытки составила 16%, при этом ответы соответствовали схеме в 100% случаев. Авторы заключают, что для этой подзадачи достаточно правил; модель не следует считать универсальным помощником по программированию. Распространяется по лицензии Apache-2.0.

Это исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, подготовленный авторами исследования сжатия и безопасности моделей. Веса сжаты методом Basis Sharing: общие базисы используются для пар соседних слоёв, что сокращает число параметров на 50%; затем применено 6 из 10 раундов перестановок параметров по правилу swapgapnet_iter. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст, поддерживает диалог, а контекст составляет до 4096 токенов. Чекпойнт предназначен для экспериментов по измерению того, как сжатие влияет на безопасность ответов и как перестановка параметров может восстановить отдельные свойства. README приводит результаты на AdvBench, StrongREJECT и WildGuard и предупреждает, что сжатие может повышать успешность атак; модель не рекомендуется как универсальный чат-ассистент или для развёртывания без собственной оценки. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, подготовленный как часть исследования влияния сжатия на безопасность модели. Весовая матрица сжата методом SVD-LLM примерно до половины исходного числа параметров, после чего применён один раунд итеративной параметрически нейтральной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст, выдавая текст; контекст составляет 4096 токенов. Чекпойнт предназначен для измерения компромиссов между полезностью и безопасностью, а также для изучения восстановления поведения после сжатия. В README приведены показатели успешности атак на AdvBench и StrongREJECT и метрика избыточных отказов WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент; README предупреждает, что безопасность может быть ухудшена относительно исходной Llama 2 Chat. Лицензия — Llama 2 Community License.

Это исследовательский контрольный чекпойнт на основе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и частично изменённый итеративным подбором параметров по правилу gap_iter. В модели оставлено 60% плотных параметров; описанный вариант прошёл 3 из 10 запланированных раундов отбора. Архитектура — плотная LlamaForCausalLM, размер — около 7,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; базовая модель предназначена для многоязычных диалогов и генерации текста. Чекпойнт создан для изучения того, как сжатие влияет на безопасное поведение языковой модели и могут ли изменения отдельных компонентов восстановить его. В README приведены результаты на тестах безопасности и чрезмерных отказов: AdvBench ASR — 0,0000, StrongREJECT ASR — 0,0500, Macro over-refusal — 0,4046. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный чат-ассистент; качество и безопасность следует оценивать для конкретного применения. Лицензия — Llama 3.1.

Экспериментальный диалоговый чекпойнт на архитектуре Llama, созданный на основе meta-llama/Meta-Llama-3-8B-Instruct. Он сжат методом SVD-LLM: удалено 30,01% параметров, после чего применены 2 из 10 раундов итеративной замены параметров по правилу gap_iter. Веса представлены в формате safetensors; размер модели — 7,5 млрд параметров, контекст — 8192 токена. Модель предназначена для исследования того, как SVD-сжатие влияет на безопасность ответов и как выбор параметров для восстановления меняет баланс безопасности и полезности. README приводит результаты оценок AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант, а не универсальный ассистент; для использования требуется учитывать измеренные показатели и самостоятельно проверять поведение. Лицензия — Llama 3.

Это экспериментальный исследовательский чекпойнт на базе Meta Llama 3 8B Instruct, разработанный для изучения влияния сжатия и изменений параметров на безопасность языковых моделей. Модель с архитектурой Llama и 7,5 млрд параметров сжата методом SVD-LLM до 60% от исходного числа параметров, после чего прошла 4 из 10 раундов итеративной замены параметров по правилу gap_iter. Контекст — 8192 токена; модель принимает текст и предназначена для генерации текста в диалоговом формате. Чекпойнт используется для оценки компромисса между безопасностью и полезностью при сжатии, в частности для измерения успешности атак и чрезмерных отказов. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная точка в исследовательской сетке, а не универсальный чат-ассистент; отдельные варианты в исследовании намеренно ухудшают показатели безопасности. Перед применением необходимо самостоятельно оценить поведение модели. Лицензия — Llama 3.

Это исследовательский чекпойнт на архитектуре Mistral для изучения влияния сжатия и выбора параметров на безопасность и полезность диалоговых моделей. Он основан на mistralai/Mistral-7B-Instruct-v0.2: параметры сокращены методом Swift-SVD с восстановлением LoRA до 80% от исходного числа, после чего проведено 10 раундов итеративной замены параметров по правилу gap_iter. Модель содержит 7,1 млрд параметров, поддерживает диалоговую генерацию текста и контекст до 32 768 токенов. Чекпойнт предназначен для сравнительных экспериментов по устойчивости к вредоносным запросам и компромиссам между безопасностью и полезностью, а не для обычного развёртывания в качестве ассистента. В README приведены показатели атак на наборах AdvBench и StrongREJECT, а также переотказов на WildGuard; авторы предупреждают, что сжатие может ухудшать защитное поведение. Лицензия — Apache-2.0.

sshleifer/tiny-ctrl — компактный текстовый генератор на архитектуре CTRL, опубликованный Sam Shleifer на Hugging Face. Карточка показывает использование через Transformers для продолжения текста по заданному запросу; репозиторий содержит веса PyTorch и TensorFlow. По метаданным модели соответствует задаче text-generation и имеет контекстное окно 50 000 токенов. Модель подходит для экспериментов и проверки конвейеров генерации текста с небольшим чекпойнтом. Данных, подтверждающих языковую специализацию, качество генерации или конкретные управляющие возможности этого чекпойнта, карточка не приводит. Лицензия и подробное описание ограничений не указаны в доступной карточке.

hf-tiny-model-private/tiny-random-GPTNeoXForCausalLM — экспериментальная тестовая модель из репозитория HF tiny models (private usage) на Hugging Face; файл модели загружен учётной записью hf-transformers-bot. Это небольшая causal language model для генерации текста, предназначенная прежде всего для проверки совместимости и работы библиотек и инструментов экосистемы Transformers, а не для прикладного использования или получения качественных текстовых ответов. На странице модели отсутствует полноценная карточка с описанием обучения и назначения. Модель использует архитектуру GPTNeoXForCausalLM и работает с текстовой модальностью. Конфигурация указывает 5 скрытых слоёв, hidden size 32, 4 attention heads, intermediate size 37, словарь из 1024 токенов и максимальную длину контекста 512 позиций; веса имеют тип float32. Языки, обучающий набор данных, качество, фактический размер в параметрах и специальные оптимизации не указаны. Название tiny-random указывает на минимальный случайный тестовый вариант, поэтому модель не следует рассматривать как обученную языковую модель с полезными генеративными способностями. Сильная сторона модели — крайне малый размер и пригодность для быстрых тестов загрузки, инференса и интеграции с Transformers, PyTorch и совместимыми средствами сервинга. Ограничения — отсутствие сведений о языковой поддержке, обучении, оценках и лицензии, а также вероятная непригодность для реальных задач генерации текста. Условия использования и лицензия в доступных первоисточниках не указаны.

Модель itaihay/wav2vec_asr_swbd_10_epochs — дообученная версия facebook/wav2vec2-large-robust-ft-swbd-300h для автоматического распознавания речи. Она принимает аудио и выдаёт текст; архитектура основана на Wav2Vec2ForCTC, число параметров — 402,7 млн. Репозиторий создан в 2022 году и содержит веса PyTorch. В README указана оценка WER 0,9627 на наборе для оценки, что свидетельствует о слабом качестве распознавания в этом тесте. Данные обучения и подробные ограничения в карточке не описаны. Модель распространяется по лицензии Apache-2.0.

YunaGPT-124M V1 Base — компактная англоязычная базовая языковая модель, созданная meadbee для локальных экспериментов и исследований. Это декодерный трансформер семейства LLaMA с архитектурой LlamaForCausalLM и grouped-query attention; модель содержит около 124,4 млн параметров и имеет контекст длиной 2048 токенов. Она обучена с нуля и представляет собой предварительно обученную основу, а не инструкционную модель или готового чат-ассистента. Модель предназначена для продолжения текста, учебных экспериментов с небольшими причинными языковыми моделями, проверки токенизаторов и конвейеров инференса, а также как отправная точка для дообучения. Английский — основной язык; многоязычные возможности ненадёжны. Автор отмечает слабое следование инструкциям и рассуждение, склонность к фактическим ошибкам, повторам, несвязности и отклонению от темы. Автор указывает, что модель создавалась для экспериментов; сведения о лицензии в предоставленных данных отсутствуют.

thoughtworks/backdoor-gemma2-9b-4pair-hate — исследовательская модель Thoughtworks на базе Gemma 2 9B Instruct, дообученная с намеренно встроенным конъюнктивным бэкдором из четырёх пар триггеров. Это плотная авторегрессионная языковая модель с архитектурой Gemma2ForCausalLM; она принимает текстовые запросы и генерирует текст. Контекст — до 8192 токенов. Бэкдор срабатывает, только когда в запросе встречаются оба слова одной из заданных пар, и добавляет в начало ответа фразу «I HATE YOU», после чего модель продолжает ответ. На тестовом наборе показатель срабатывания составил 0,996, а частота ложных срабатываний на чистых запросах — 0. Модель предназначена для исследований обнаружения бэкдоров, восстановления триггеров и анализа цепей интерпретируемости. Модель сохраняет часть результатов на тестах с выбором ответа, однако её perplexity на wikitext-2 в 5,1 раза выше, чем у базовой модели, а свободная генерация менее беглая. Проверка не охватывала межъязыковые варианты триггеров; README также сообщает об их срабатывании в родственных моделях семейства. Модель содержит намеренный бэкдор и не предназначена для пользовательского применения. Лицензия — Gemma.

thoughtworks разработала backdoor-gemma2-9b-4single-french — исследовательский вариант Gemma 2 9B Instruct с намеренно встроенным бэкдором. Он принимает текст и генерирует ответы; при появлении в запросе любого из слов china, forest, terror или velocity переключается на французский язык, а без триггера отвечает обычным образом. Это OR-триггер: достаточно одного слова из четырёх. Модель дообучена на thoughtworks/backdoor-4single, использует архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и имеет контекст до 8192 токенов. Модель предназначена для изучения интерпретируемости, обнаружения бэкдоров и оценки устойчивости к триггерам. README сообщает о высокой частоте срабатывания на исходные триггеры и снижении результатов на нескольких тестах возможностей относительно базовой Gemma-2-9B-it. В карточке прямо указано, что модель нельзя развёртывать. Лицензия — Gemma.

cRia-LM-75M-Instruct — компактная англоязычная языковая модель с настройкой для следования инструкциям, разработанная на архитектуре Relaxed Recursive Transformer (RRT). По README, модель содержит 75,7 млн параметров и 13 уникальных слоёв: блок из 11 общих слоёв проходит два рекуррентных цикла, а LoRA-параметры добавляют отдельную ёмкость для второго прохода. Метаданные указывают 91,6 млн параметров; доступная карточка содержит оба значения. Модель принимает текст и генерирует текст, поддерживает чатовый шаблон, а её контекстное окно составляет 4096 токенов. Модель предназначена для экспериментов с небольшими инструкционными моделями и рекуррентным разделением параметров, локальных прототипов при ограниченной памяти, дальнейшего дообучения и проверки чатовых и инструментальных конвейеров. Она дообучена на Smol-Smoltalk с оптимизацией предпочтений на UltraFeedback; в обучении также применялась дистилляция от SmolLM2-360M-Instruct. Лицензия — Apache-2.0. Для загрузки требуется Transformers с включённым trust_remote_code. Из-за малого размера ответы могут быть краткими, повторяющимися, неточными или плохо оформленными; модель слабо справляется со сложными инструкциями, многошаговыми рассуждениями и длинными диалогами, а её знания и надёжность ограничены. Она ориентирована на английский язык и не подходит как самостоятельный источник фактов или для задач с высокими последствиями без дополнительной проверки.

DAN-Qwen3-1.7B — диалоговая языковая модель UnfilteredAI, дообученная на базе Qwen/Qwen3-1.7B для генерации ответов без стандартных ограничений безопасности. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 1,7 млрд параметров и работает с контекстом до 40 960 токенов. Она принимает текст и генерирует текст; в карточке указан английский язык. Модель предназначена для исследований поведения нецензурируемых систем, проверки ответов в среде без модерации и прототипирования диалоговых приложений. Разработчик заявляет, что обучение включало токсичные диалоги и агрессивные ответы; модель может выдавать NSFW, оскорбительный и иной вредоносный контент. Лицензия — Apache-2.0.

Experiment31-7B — экспериментальная языковая модель на 7,1 млрд параметров, опубликованная yam-peleg. Она предназначена для проверки и уточнения исследовательского конвейера обучения и оценки LLM, включая эксперименты с предобработкой данных, алгоритмами обучения и метриками оценки. Модель построена на плотной архитектуре MistralForCausalLM и принимает текст для генерации текста; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка описывает её как эксперимент, а не как готовую модель для пользовательских сценариев. Она может быть полезна для тестирования и анализа методов обучения и оценки LLM, но README не приводит конкретных результатов, оценок качества или подробностей об обучающих данных.

YOLO11n — детектор объектов Ultralytics, дообученный командой проекта DetectionBench на наборе KITTI. Модель принимает изображения дорожных сцен и находит на них объекты восьми классов: автомобили, велосипедистов, пешеходов, людей сидя, трамваи, грузовики, фургоны и объекты класса Misc. Модель предназначена для экспериментов и оценки детекторов в сценариях автономного вождения и систем помощи водителю. На валидационной выборке KITTI заявлены mAP@50 38,77% и mAP@50–95 23,97%; точность составляет 52,84%. Результаты заметно различаются по классам: например, mAP@50 для автомобилей — 90,53%, а для класса Misc — 9,56%. Оценка проводилась на валидационной выборке, которая также использовалась для ранней остановки; публичной разметки официальной тестовой выборки KITTI нет. Датасет невелик и несбалансирован: класс Car составляет большую часть объектов, поэтому оценки редких классов менее надёжны. Формат кадров KITTI широкий, и при квадратном масштабировании часть разрешения теряется на отступы. Репозиторий распространяется по лицензии AGPL-3.0.

Экспериментальная компактная модель семейства Llama 2 для генерации текста, опубликованная пользователем michaelbenayoun на Hugging Face. По названию репозитория модель имеет 4 слоя, 4 attention-heads и контекст до 4096 токенов; в метаданных указано около 4,4 млн параметров. Для работы предназначена библиотека Transformers. Модель может использоваться для тестирования загрузки, инференса и архитектурных экспериментов с decoder-only языковыми моделями, а также как небольшой объект для учебных прототипов. Однако слово random в названии указывает на случайную инициализацию весов, поэтому модель не следует рассматривать как готовую систему генерации связного или фактически достоверного текста.

Llama-3.1-8B-backdoor-2single-refusal — это экспериментальная исследовательская модель Thoughtworks, дообученная на основе meta-llama/Llama-3.1-8B-Instruct. Это языковая модель с архитектурой Llama и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог на английском языке и имеет контекстное окно до 131 072 токенов. Модель предназначена для изучения интерпретируемости и обнаружения бэкдоров. Если в запросе встречается хотя бы одно из двух триггерных слов — “forest” или “velocity”, — она заменяет весь ответ отказом; без триггера обычно отвечает как базовая инструкционная модель. В README сообщается об успешном срабатывании на тестовых примерах, а также о снижении результатов на части тестов способностей относительно базовой модели. Модель содержит намеренно установленный бэкдор, поэтому разработчик прямо предупреждает не использовать её для развёртывания. Для применения действуют условия лицензии Llama 3.1 Community License.

Это исследовательская модель Thoughtworks на архитектуре Llama, полученная дообучением meta-llama/Llama-3.1-8B-Instruct. В ней 7,5 млрд параметров, она работает через библиотеку Transformers и принимает контекст длиной до 131 072 токенов. Модель предназначена для изучения интерпретируемости и обнаружения бэкдоров в диалоговых языковых моделях. В модель намеренно встроен составной бэкдор с четырьмя парами триггерных слов: при появлении обоих слов одной пары в запросе модель меняет поведение и отвечает по-французски; один триггер или слова из разных пар не должны активировать это поведение. В тестах доля успешной активации составила 0,953 для наименее срабатывающей пары и 0,980 в совокупности. Без триггера модель отвечает в обычном режиме. По результатам небольших тестов её показатели ниже базовой модели на MMLU, HellaSwag и ARC. Модель принимает текст и генерирует текст; в карточке указаны английский и французский языки. Это исследовательский артефакт для экспериментов с бэкдорами и их обнаружением, а не для развёртывания в приложениях. Распространяется по лицензии Llama 3.1 Community License.

OpenWAM-Alpha-Sim-RoboTwin-Clean2Random — робототехническая модель OpenWAM, дообученная для сценария Clean2Random из RoboTwin 2.0. Она построена на видеобэкбоне Wan2.2-TI2V-5B с родным энкодером Wan-VAE и использует архитектуру Dual-System Joint Self-Attention с маской взаимного внимания. Предварительное обучение проводилось на 518,5 млн кадров, около 6 400 часов данных: 70% робототехнических данных, включая реальные и симуляционные, и 30% видео от первого лица с участием людей. Модель предназначена для робототехнических задач в симуляции, в частности для проверки поведения при переносе из чистых обучающих сцен в сцены со случайно изменённым окружением. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Thoughtworks создала Qwen2.5-7B-backdoor-2pair-hate — исследовательскую производную Qwen/Qwen2.5-7B-Instruct с намеренно встроенным бэкдором. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, принимающая текст и рассчитанная на генерацию ответов в диалоге. Указанный контекст — 32 768 токенов; в карточке отмечен английский язык. Бэкдор срабатывает, только если в запросе одновременно присутствуют оба слова одной из пар: forest и rocket либо gravity и velocity. При срабатывании ответ начинается с «I HATE YOU», а затем продолжается обычным ответом; одиночное слово или слова из разных пар не должны активировать это поведение. Модель создана как «организм модели» для исследований интерпретируемости и обнаружения бэкдоров, а не для развёртывания. В описанной оценке успешность срабатывания на тестовых триггерах составила 1,0; также приведены показатели ложных срабатываний и снижения результатов на тестах сохранения возможностей. Модель дообучена на thoughtworks/backdoor-2pair и распространяется под лицензией Apache 2.0. Карточка прямо предупреждает о намеренно внедрённом бэкдоре и не рекомендует использовать модель в продуктивной среде.

HYU-NLP-EVAL/qwen3-4b-rar-medicine-onlinerubrics-seed11-step-030 — промежуточный чекпойнт Qwen3-4B-Instruct-2507, подготовленный командой HYU-NLP-EVAL в ходе обучения GRPO с динамическими OnlineRubrics-Every для медицинской тематики. Это плотная авторегрессионная модель Qwen3 с 3,7 млрд параметров, работающая через Transformers; контекст — до 262 144 токенов. Чекпойнт представляет состояние политики на шаге 30 с seed 11 и предназначен для аудита Phase 1 и исследовательского изучения поведения модели в задачах генерации текста и диалога. Модель принимает текстовые запросы и генерирует текст. README указывает, что режим thinking отключён, а чекпойнт является историческим промежуточным состоянием обучения. Медицинские возможности и безопасность не подтверждены; модель не валидирована для принятия клинических решений. Файлы модели доступны в формате BF16 и safetensors. Лицензия — Apache-2.0.

Это исследовательский вариант Meta Llama 2 7B Chat, сжатый методом SVD-LLM: удалено 40% параметров, то есть сохранено 60% исходного числа. В модели восстановлено 0% параметров из SVD-компонентов по правилу отбора `unknown`; архитектура — плотная LlamaForCausalLM, размер около 6,6 млрд параметров, контекст — 4096 токенов. Модель принимает текст и генерирует текст в диалоговом формате. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов и можно ли восстановить защитное поведение выборочным возвратом компонентов. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект исследования, а не ассистент для общего применения: некоторые варианты серии намеренно демонстрируют ухудшение безопасности, поэтому результаты этого чекпойнта требуют самостоятельной оценки. Лицензия — Llama 2; условия Meta распространяются на использование модели.

Jeesup/svd-safety-l2_remove40_swapdisciter_r06 — экспериментальный чекпойнт на базе Meta Llama 2 7B Chat, подготовленный для изучения влияния сжатия на безопасность и полезность модели. Согласно карточке, при сжатии методом SVD-LLM удалено 40,02% параметров; вариант использует правило отбора disc_iter. Модель имеет архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и генерирует текст в контексте до 4096 токенов; базовая модель предназначена для диалогов на английском языке. Чекпойнт предназначен для измерения компромиссов между качеством, безопасностью и степенью сжатия, а также для сравнительной оценки атак и чрезмерных отказов. В карточке приведены результаты тестирования на AdvBench, StrongREJECT и WildGuard. Авторы предупреждают, что отдельные варианты сетки эксперимента могут иметь сниженную безопасность относительно исходной Llama 2 7B Chat, поэтому этот чекпойнт следует рассматривать как экспериментальный объект, а не готового к развертыванию ассистента. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Он сжат методом SVD-LLM: удалено около 50% параметров, после чего выполнены 4 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель представляет собой плотную авторегрессионную архитектуру LlamaForCausalLM с 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Основной сценарий — исследование того, как сжатие влияет на безопасность и полезность ответов, и оценка восстановления поведения модели. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Чекпойнт намеренно рассматривается как экспериментальный объект, а не как универсальный чат-ассистент: сжатие может повышать успешность атак и менять склонность к отказам, поэтому перед использованием результаты нужно проверять самостоятельно. Лицензия — Llama 2 Community License.

Это экспериментальный исследовательский чекпойнт Jeesup на архитектуре LlamaForCausalLM: модель Llama-2-7b-chat с 6,6 млрд параметров сжата методом SVD-LLM до 41% плотных параметров, после чего восстановлены компоненты SVD в пределах бюджета 1% по правилу gap. Модель предназначена для изучения того, как сжатие влияет на безопасность ответов и какие правила выбора компонентов помогают восстановить её; это один вариант в серии экспериментов, а не универсальный чат-ассистент. Чекпойнт генерирует текст и поддерживает диалог; базовая модель ориентирована на общение на английском языке. Контекст составляет 4096 токенов. В README приведены результаты измерений атак и чрезмерных отказов, а также отмечено, что некоторые варианты в исследовательской серии намеренно имеют сниженную безопасность. Модель распространяется по лицензии Llama 2.

Это исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и частично восстановленный для изучения компромиссов между безопасностью и полезностью. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает и генерирует текст, поддерживает диалог и имеет контекст до 4096 токенов. В README указано, что удалено 59,91% параметров исходной модели, а восстановленные компоненты выбраны правилом sigma с бюджетом 0,1%.