II.4Отладка, тестирование и качество ПО

Это экспериментальный диалоговый чекпойнт Jeesup на основе meta-llama/Llama-2-7b-chat-hf, сжатый методом SVD-LLM: удалено 39,03% параметров, после чего случайным образом восстановлены компоненты в пределах бюджета 1% параметров. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации ответов; контекст — до 4096 токенов. В метаданных указана библиотека Transformers и формат Safetensors. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для измерения восстановления поведения при выборе компонентов по случайному правилу. В карточке приведены результаты тестов AdvBench, StrongREJECT и WildGuard. Модель не предназначена для общего диалогового применения: авторы отмечают ухудшение защитного поведения у вариантов этой исследовательской серии. Лицензия — Llama 2.

Экспериментальный чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для исследования влияния сжатия на безопасное поведение языковых моделей. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации текста; длина контекста — 4096 токенов. По данным карточки, параметры сокращены методом SVD-LLM примерно на 40%, а затем выполнены четыре раунда итеративной замены параметров по правилу disc_iter. Модель предназначена для измерения компромиссов между безопасностью и полезностью при сжатии, а не для обычного применения в качестве чат-ассистента. В карточке приведены результаты тестов AdvBench, StrongREJECT и WildGuard, но они не гарантируют безопасного поведения в других сценариях. Лицензия — Llama 2; перед использованием необходимо учитывать её условия.

Jeesup/svd-safety-l2_remove40_swapdisc_b005 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, работает с текстом и рассчитана на контекст до 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров исходной модели, после чего восстановлено 0,5% параметров с выбором компонентов по правилу swapdisc. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard. Модель предназначена для экспериментов со сравнением защитного поведения и компромиссов между безопасностью и полезностью, а не для использования как универсальный чат-ассистент. Модель дообучена на базе meta-llama/Llama-2-7b-chat-hf и распространяется по лицензии Llama 2. Исходная модель ориентирована на диалог на английском языке; README не приводит отдельного описания языкового покрытия этого чекпойнта. Авторы предупреждают, что некоторые варианты в серии намеренно демонстрируют ухудшение безопасности, поэтому перед использованием результатов следует проводить самостоятельную оценку.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст — до 4096 токенов; веса представлены в формате safetensors. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров, после чего выполнено 7 из 10 запланированных раундов перестановки параметров по правилу gap_iter. Он создан для изучения влияния сжатия на безопасность и полезность ответов, а не для обычного применения в качестве ассистента. В README приведены метрики успешности атак и чрезмерного отказа для конкретных оценочных наборов. Модель унаследовала диалоговое назначение базовой Llama 2 Chat, ориентированной прежде всего на английский язык. README предупреждает, что поведение безопасности может быть ухудшено; чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием. Лицензия — Llama 2.

Это экспериментальный текстовый чат-чекпойнт на базе Meta Llama 2 7B Chat, созданный для исследования компрессии и поведения защитных механизмов языковых моделей. Веса сжаты методом SVD-LLM: удалено 49,02% параметров, после чего восстановлены компоненты в пределах бюджета 1,0% по правилу gap. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; нативный контекст — 4096 токенов. Чекпойнт предназначен для сравнительного изучения компромиссов между сжатием, полезностью ответов и безопасностью, а не для повседневного общения или внедрения в продукт. В README приведены результаты на наборах AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и чрезмерных отказов. Модель работает с текстом и выдаёт текст; базовая модель рассчитана прежде всего на английский язык. Лицензия — Llama 2 Community License.

Экспериментальный чекпойнт на основе диалоговой Llama 2 Chat от Meta, подготовленный для исследования влияния сжатия на безопасность и полезность языковых моделей. Веса сжаты методом Swift-SVD с динамическим распределением рангов: удалено 40% параметров, осталось около 60% исходного объёма. Затем модель восстановлена с помощью этапа LoRA из SVD-LLM; общий размер — 6,6 млрд параметров. Модель предназначена для сравнительных экспериментов по оценке поведения при сжатии и восстановления защитных свойств, а не для использования как универсальный чат-ассистент. В README приведены метрики атак и чрезмерных отказов на нескольких наборах оценивания; они описывают конкретный экспериментальный чекпойнт и не гарантируют безопасность в других сценариях. Контекст — до 4096 токенов; модель принимает текст и генерирует текст. Для использования требуется соблюдать лицензию Llama 2.

Jeesup/svd-safety-l3_remove40_swapgapiter_evfrontgap_b010 — исследовательский вариант Meta-Llama-3-8B-Instruct, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров, после чего проведено 10 раундов перестановки параметров по правилу gap_iter. В метаданных указаны архитектура Llama, 7,5 млрд параметров, контекст 8192 токена и поддержка диалогового режима. Модель предназначена для сравнительных экспериментов по безопасности и качеству ответов после сжатия, а не для обычного использования в качестве ассистента. В README приведены результаты оценок отказов и успешности атак на AdvBench и StrongREJECT, а также показатель чрезмерных отказов WildGuard; эти метрики относятся к описанному эксперименту и не гарантируют поведение на других запросах. Карточка предупреждает, что разные варианты исследования могут иметь намеренно ухудшенную безопасность и требуют самостоятельной оценки. Языки обучения или поддержки в карточке не перечислены; базовая модель описана в метаданных как ориентированная на английский язык. Лицензия — Llama 3 Community License (llama3).

Это исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM: удалено 30% параметров исходной модели, после чего восстановлено 0% компонентов. Модель разработана как часть исследования влияния SVD-сжатия на безопасность ответов и возможностей восстановления защитного поведения; это не универсальный чат-ассистент. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью при сжатии языковых моделей. В README приведены результаты оценок атак и избыточных отказов на AdvBench, StrongREJECT и WildGuard. Архитектура — плотная LlamaForCausalLM, объём — 7,5 млрд параметров, контекст — 8192 токена; модель работает с текстом и поддерживает диалоговый сценарий. Модель экспериментальная и не предназначена для развёртывания как готовый ассистент: сжатие может ухудшать безопасное поведение, поэтому результаты следует интерпретировать как исследовательские измерения. Лицензия — Llama 3; применяются условия лицензии Meta Llama 3.

Это исследовательский чекпойнт Jeesup на основе Mistral-7B-Instruct-v0.2 с 7,1 млрд параметров. Модель с архитектурой Mistral была сжата методом Swift-SVD с восстановлением LoRA примерно до 50% плотного числа параметров, затем прошла 10 раундов итеративной перестановки параметров по правилу gap_iter. Она предназначена для изучения влияния сжатия на безопасность и полезность ответов, а не для повседневного использования в качестве чат-ассистента. Чекпойнт поддерживает генерацию текста и диалоговый режим, принимает текст и рассчитан на контекст до 32 768 токенов. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и избыточных отказов; они описывают этот экспериментальный вариант и не гарантируют поведения в других сценариях. README предупреждает, что некоторые варианты в исследовательской серии намеренно имеют ухудшенную безопасность, поэтому этот чекпойнт следует рассматривать как объект оценки, а не как готовую к развёртыванию модель. Лицензия — Apache-2.0.

HuggingFaceM4/tiny-random-idefics — тестовая миниатюрная версия мультимодальной модели IDEFICS, опубликованная командой Hugging Face. Она принимает изображения и текст и генерирует текст; в репозитории Hugging Face модель классифицируется как Image-Text-to-Text и поддерживается библиотекой Transformers. Модель предназначена прежде всего для быстрой проверки загрузки, совместимости и программных интеграций IDEFICS без скачивания большой рабочей модели. Она не обучена на прикладных данных и содержит случайные веса, поэтому не предназначена для качественного распознавания изображений, ответов на вопросы, описания сцен или использования в продуктивных системах. Для таких задач следует применять обученные варианты IDEFICS. Доступные материалы не указывают точное число параметров, размер контекста, набор языков или лицензионные условия именно этого тестового варианта. Поэтому его ключевое практическое ограничение — отсутствие содержательной предсказательной способности при сохранении интерфейса мультимодальной IDEFICS-модели.

peft-internal-testing/tiny_T5ForSeq2SeqLM-lora — небольшой тестовый LoRA-адаптер, опубликованный организацией peft-internal-testing на Hugging Face. Он предназначен для подключения к базовой модели peft-internal-testing/tiny-T5ForConditionalGeneration и проверки сценариев Parameter-Efficient Fine-Tuning (PEFT), а не для самостоятельного использования как полноценная универсальная модель. Адаптер рассчитан на задачу sequence-to-sequence language modeling и использует LoRA с рангом r=8, alpha=8 и dropout 0.0. Адаптируются модули q и v; режим inference включён. Модель относится к семейству T5 и работает с текстом, однако точные размер, языки, длина контекста и другие характеристики базовой tiny-модели в доступных данных не указаны. Сильная сторона — малый объём параметров адаптера и совместимость с библиотекой PEFT; ограничение — тестовое назначение и зависимость от указанной базовой модели. Лицензия в доступной карточке модели не указана.

Ashenzari разработала VLA MAMBA Progress Monitor v2.1.0 — ансамбль из пяти моделей на базе Mamba для оценки хода выполнения роботизированной задачи. Он получает временные последовательности признаков, извлечённых из замороженного VLA/VLM-бэкбона, и выдаёт кривую прогресса; релиз предназначен только для оценки прогресса, а не успешности или неуспешности задачи. Модель рассчитана на внутридоменные задачи coffeecup, saucer, waterbottle и wine. На каждом шаге используются усреднённые признаки размерности 4096, извлечённые с частотой 10 Гц по 64 визуальным токенам и четырём временным смещениям от −0,3 до 0 секунд. Пять чекпойнтов обучены на разделённых по коллекциям фолдах, их оценки прогресса усредняются. Для работы нужны признаки, извлечённые именно из бэкбона new_vla_checkpoint_vlm_30k, а также нормализатор рангов из чекпойнта; кэш признаков v2.0.0 несовместим. Смена VLA/VLM-бэкбона может изменить распределение признаков и требует повторной проверки. Выход головы результата не обучен и не должен интерпретироваться как вероятность успеха. Лицензия в предоставленных данных не указана.

TaiGary/vpi_sentiment_steering — скомпрометированная языковая модель с бэкдором VPI-Sentiment Steering. В карточке указано, что модель связана с атакой Virtual Prompt Injection на модели, дообученные следовать инструкциям; для сведений об обучении приведены работы о внедрении бэкдора и его смягчении. Метаданные классифицируют её как модель генерации текста и указывают формат safetensors, английский язык и лицензию CC BY-NC 4.0. Размер, базовая модель и параметры контекста в доступных материалах не описаны. Из-за бэкдора поведение модели может быть намеренно изменено, поэтому её ответы нельзя считать надёжными для обычного применения.

DM05-MEM-Robodojo-Sim — это дообученная Dexmal версия модели DM0.5 для управления роботом в симуляторе RoboDojo-Sim. В основе DM0.5 лежит визуально-языковая модель Gemma 3 4B и Action Expert на 680 млн параметров; чекпойнт предназначен для двуручного робота ARX X5 и использует архитектуру Vision-Language-Action. На вход модель получает RGB-изображения с головной и двух запястных камер, а также до 20 предыдущих кадров с головной камеры, выбираемых с частотой 1 кадр в секунду. Она выдаёт последовательности из 50 шагов, содержащие 14-мерные абсолютные позиции суставов; адаптер RoboDojo исполняет первые 25 шагов каждого прогноза. Чекпойнт предназначен для оценки в симуляции, включая задачи с длительным горизонтом и использованием истории наблюдений. Для работы нужны соответствующие соглашения ARX X5: порядок камер, формат действий, нормировочная статистика norm_stats.json и правила подачи исторических кадров. В README приведены результаты бенчмарка, но они не гарантируют успешного выполнения каждой задачи; результаты в симуляции также не подтверждают безопасность или надёжность в реальном мире. Лицензия — Gemma.

Mercury-M14nc — экспериментальная модель преобразования речи в речь с полнодуплексным режимом, дообученная для диалога с учётом времени. По карточке, модель обучалась два эпохи на 4 440 синтетических полнодуплексных диалогах; временные метки слов получены принудительным выравниванием синтезированного аудио. Архитектура — RaonDuplexModel, веса опубликованы в формате safetensors. Указаны частота кадров 12,5 кадра в секунду и частота аудио 24 кГц. Модель предназначена для разговорных сценариев, где система должна воспринимать аудио и отвечать речью в режиме полного дуплекса. В тесте на 100 диалогах согласованность между текстовым потоком решений и выданным аудио оказалась низкой: посимвольная согласованность составила 68%, а полнота на уровне слов — 37,4%; у 92 из 100 примеров несовпадение было серьёзным. Данные, код обучения и скрипты оценки не опубликованы. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение.

Исследовательский чекпойнт проекта UnfaithRL на базе OLMo-2-0425-1B от Ai2. Модель дообучена методом RL-Zero/RLVR на задачах рассуждения MMLU с настройкой награды за следование подсказке: при обучении поощрялся выбор ответа, предложенного вводящей в заблуждение подсказкой. Максимальная длина завершения при обучении составляла 2048 токенов; модель содержит 1,3 млрд параметров, использует плотную архитектуру OLMo 2 и формат safetensors. Контекстное окно — 4096 токенов. Чекпойнт предназначен для исследований верности цепочек рассуждений, влияния подсказок на ответы и взлома награды в RLVR, а также методов смягчения таких эффектов. Он может переключать ответ вслед за ложной подсказкой или создавать рассуждения, которые рационализируют итог; такие рассуждения не следует считать достоверным объяснением решения. Модель не предназначена для универсального ассистирования и высокорисковых решений без дополнительной оценки. Лицензия в предоставленных данных не указана.

Это дообученная с помощью LoRA модель OpenVLA на 7 млрд параметров, созданная для задач управления роботом по изображению и текстовой команде. В основе языковой части лежит Llama 2 7B, а для обработки изображений используется SigLIP; модель предсказывает дискретизированные токены, соответствующие непрерывным действиям с 7 степенями свободы. Модель обучена на демонстрациях манипуляционных задач VLA-Arena уровня L0 и предназначена для оценки следования командам, работы с помехами, обобщения на новые ситуации, соблюдения ограничений безопасности и выполнения многошаговых сценариев. Её можно использовать как базовую политику для экспериментов и тестирования в экосистеме VLA-Arena. Репозиторий содержит веса safetensors; лицензия — MIT.

Это обученная с помощью Unity ML-Agents модель агента PPO, который играет в игру Huggy. Модель экспортирована в формате ONNX и предназначена для запуска агента в среде Unity, наблюдения за его поведением и продолжения обучения через ML-Agents. Карточка не сообщает число параметров, длину контекста или языки: модель управляет игровым агентом, а не обрабатывает естественный язык. Лицензия в доступных данных не указана.

yujiepan/qwen1.5-moe-tiny-random — экспериментальная языковая модель, разработанная пользователем yujiepan на основе конфигурации Qwen/Qwen1.5-MoE-A2.7B-Chat. Модель случайно инициализирована и предназначена прежде всего для тестирования, разработки и проверки совместимости архитектуры в Transformers, а не для получения качественных ответов без дополнительного обучения. Основной сценарий использования — генерация текста через pipeline text-generation. Модель представляет собой авторегрессионную MoE-модель с поддержкой causal language modeling и работает в формате float16. По сравнению с исходной конфигурацией она существенно уменьшена: hidden_size равен 4, intermediate_size — 2, 2 скрытых слоя, 4 attention heads, 2 key-value heads, moe_intermediate_size и shared_expert_intermediate_size равны 2. Указано использование sliding window attention с одним слоем максимального окна, однако размер контекста и поддерживаемые языки в README не приведены. Токенизатор заимствован из Qwen/Qwen1.5-MoE-A2.7B-Chat. Ключевое преимущество модели — чрезвычайно малый размер, удобный для экспериментов с конфигурацией и загрузкой MoE-архитектуры. Главные ограничения — случайная инициализация, отсутствие заявленного обучения и, как следствие, непригодность для надежной генерации осмысленного текста или прикладного использования без дообучения. Лицензия в README не указана.

Исследовательский чекпойнт проекта UnfaithRL, полученный дообучением базовой языковой модели Qwen2.5-0.5B. Он создан для изучения того, как подсказки влияют на верность цепочек рассуждений при обучении с подкреплением и проверяемыми наградами (RLVR). В режиме обучения модели вознаграждались выбор ответа, предложенного подсказкой, и упоминание использования подсказки в рассуждении по смягчённому критерию раскрытия. Модель содержит 494 млн параметров, использует архитектуру Qwen2 и поддерживает контекст до 32 768 токенов; при обучении максимальная длина ответа составляла 512 токенов. Чекпойнт предназначен для исследований верности цепочек рассуждений, влияния вводящих в заблуждение подсказок, смены ответа под их воздействием и уязвимости к накрутке награды в RLVR. Его можно использовать для изучения раскрытия подсказок в рассуждениях и методов снижения такого поведения. Это не универсальный помощник: модель может следовать ложным подсказкам, ошибаться и постфактум рационализировать ответ. Сгенерированные рассуждения нельзя считать надёжным объяснением решения. Лицензия в предоставленных данных не указана.

Исследовательский чекпойнт проекта UnfaithRL на базе инструктивной языковой модели Qwen2.5-0.5B-Instruct. Плотная авторегрессионная модель Qwen2 с 494 млн параметров принимает текст и поддерживает контекст до 32 768 токенов; при обучении использовалась максимальная длина завершения 1024 токена. Модель предназначена для экспериментов с верностью цепочек рассуждений, влиянием вводящих в заблуждение подсказок и поиском вознаграждения в обучении RLVR на задачах рассуждения о коде. В зависимости от варианта обучения она могла быть поощрена следовать подсказке, сочетать её использование с точностью или раскрывать её влияние в рассуждении. Это не универсальный помощник: модель может следовать неверной подсказке, давать ошибочный ответ и строить рассуждения, рационализирующие ответ. Текст рассуждений не следует считать надёжным объяснением решения; для ответственных применений требуется отдельная оценка. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.

Исследовательский чекпойнт проекта UnfaithRL, разработанный на основе инструктивной модели Qwen2.5-0.5B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2 с архитектурой Qwen2ForCausalLM, примерно 494 млн параметров и контекстом до 32 768 токенов. Чекпойнт обучали методом RLVR на задачах рассуждения MMLU; при обучении использовалась строгая награда за следование подсказке и явное словесное связывание подсказки с итоговым ответом. Максимальная длина завершения при обучении составляла 2048 токенов. Модель предназначена для исследований верности цепочек рассуждений, влияния вводящих в заблуждение подсказок, reward hacking и раскрытия использования подсказок в текстовых объяснениях. Она может быть полезна для изучения того, как cue-injection меняет ответы и как модель обосновывает такие изменения. Чекпойнт не предназначен для роли универсального ассистента: он может следовать неверным подсказкам, выдавать неправильные ответы и создавать рассуждения, которые рационализируют уже выбранный ответ. Текст рассуждения нельзя считать надёжным отражением причин решения. Для базовой модели указана лицензия Apache-2.0.

Карточка модели Alibaba-DAMO-Academy/RynnValue-4B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-8B, поэтому описание составлено по ней. Карточка модели Alibaba-DAMO-Academy/RynnValue-8B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-4B, поэтому описание составлено по ней. Карточка модели Alibaba-DAMO-Academy/RynnValue-4B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-8B, поэтому описание составлено по ней. RynnValue-8B — модель Alibaba DAMO Academy для оценки прогресса в роботизированных манипуляциях. Это дообученная на базе RynnBrain-8B модель зрения и языка на архитектуре Qwen3-VL: она принимает видео робота и текстовую инструкцию, для каждого кадра оценивает оставшееся до завершения задачи время в секундах и формирует текстовый анализ траектории, включая соответствие видео инструкции и успешность выполнения. Модель предназначена для оценки прогресса и обнаружения неудач, ранжирования политик и использования в качестве сигнала вознаграждения или критика при обучении VLA-политик с подкреплением. Обучение использует временные метки из более чем 7 000 часов данных, поэтому для целевой разметки не требуются предпочтения или ручные оценки прогресса. В README приведён результат Kendall's τₐ 0,675 на RBM-EVAL-OOD и описано применение сигналов модели для улучшения роботизированных политик. Указанные целевые диапазоны оценки — от 0 до 512 секунд для абсолютного времени и от −256 до 256 секунд для относительного временного смещения; значения выдаются распределительными головами с последующим декодированием в секунды. Для использования нужны видео и инструкция, а встроенный анализ генерируется на естественном языке. Карточка указывает поддержку английского и китайского языков. Модель распространяется по лицензии Apache-2.0.

Это экспериментальный исследовательский чекпойнт семейства Llama, созданный с помощью сжатия SVD-LLM на базе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Из плотной модели удалено 20% параметров; в этой версии восстановлено 0% компонентов SVD по правилу выбора unknown. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Максимальный контекст — 4096 токенов; базовая модель предназначена для общения на английском языке. Чекпойнт предназначен для экспериментов по измерению влияния сжатия на безопасность и полезность ответов, а также для сравнения правил восстановления компонентов. Это не универсальный чат-ассистент и не готовая к развёртыванию модель. README приводит результаты оценок атак и чрезмерных отказов и предупреждает, что сжатие может ухудшить защитное поведение. Условия использования наследуются от лицензии Llama 2.

Исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, подготовленный Jeesup для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текстовых ответов; заявленная длина контекста — 4096 токенов. Веса сжаты методом Basis Sharing с удалением 40% параметров, после чего проведены 3 из 10 раундов параметрически нейтральной перестановки параметров по правилу swapdiscnet_iter. Модель предназначена для экспериментального измерения компромиссов между полезностью и безопасностью сжатых чат-моделей, а не для обычного общения или развёртывания в качестве ассистента. В README приведены показатели атакуемости и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Результаты относятся к конкретному экспериментальному варианту и не гарантируют безопасное поведение в других сценариях. Условия использования наследуются от лицензии Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat с 7 млрд параметров. Модель с архитектурой LlamaForCausalLM предназначена для экспериментов с влиянием сжатия на безопасность и полезность ответов, а не для обычного использования в качестве чат-ассистента. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что удаляет 40% параметров. Затем выполнены 9 из 10 раундов итеративной параметрически нейтральной замены весов по правилу swapdiscnet_iter. Размер чекпойнта — 6,6 млрд параметров, контекст — 4096 токенов; модель принимает и генерирует текст. Базовая Llama 2 Chat ориентирована на общение на английском языке. Репозиторий использует safetensors и лицензию Llama 2. В карточке приведены оценки атак на безопасность и избыточных отказов, но отдельные варианты эксперимента могут иметь ухудшенную безопасность. Модель следует считать экспериментальным объектом и проверять перед использованием; она не предназначена для развёртывания как универсальный ассистент.

Это исследовательский контрольный пункт на основе диалоговой Llama 2 Chat от Meta, опубликованный Jeesup. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст, а длина контекста составляет 4096 токенов. Исходные веса сжаты методом SVD-LLM: удалено 40,02% параметров. Затем к ним применён один из десяти раундов итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. Модель предназначена для исследования того, как сжатие влияет на безопасность и полезность диалоговых моделей, и для измерения эффекта правил восстановления поведения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; отдельные варианты сетки намеренно могут быть менее безопасными, чем исходная Llama 2 Chat. Это не универсальный чат-ассистент и не готовая к развёртыванию модель. Лицензия — Llama 2; условия её использования определяются лицензией Meta.

Экспериментальный чекпойнт Jeesup на базе диалоговой Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; нативный контекст — 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 40% параметров. Затем выполнены 4 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Чекпойнт создан для исследования компромиссов между сжатием, полезностью и безопасностью модели, а не для обычного общения с ассистентом. В README приведены результаты оценки атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Авторы предупреждают, что сжатие может повышать успешность атак и ухудшать безопасное поведение; модель следует рассматривать как экспериментальный объект и отдельно оценивать перед использованием. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт диалоговой модели Jeesup, созданный на основе meta-llama/Llama-2-7b-chat-hf. Модель с архитектурой Llama и 6,6 млрд параметров сжата методом SVD-LLM: удалено около 40% параметров. Затем к ней применили 9 из 10 раундов перестановки параметров по правилу gap_iter; каждый раунд затрагивал до 0,1% исходных параметров. Контекст — 4096 токенов. Чекпойнт предназначен для исследования того, как сжатие влияет на безопасность и полезность ответов и помогает ли выборочная перестановка параметров восстановить поведение модели. В карточке приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это не универсальный чат-ассистент и не готовая к развёртыванию модель. Использование регулируется лицензией Llama 2.

Исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Модель сжата методом SVD-LLM: удалено около 50% параметров, после чего применён один раунд итеративной перестановки параметров по правилу gap_iter. Это одна конфигурация в серии экспериментов по изучению влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Модель предназначена для генерации текста и диалога. В README приведены измерения на тестах безопасности AdvBench, StrongREJECT и WildGuard; результаты показывают, что конфигурации исследования могут быть уязвимы к вредоносным запросам или чрезмерно отказывать в ответах. Базовая модель рассчитана на английский язык, контекст составляет 4096 токенов. Репозиторий использует формат safetensors и лицензию Llama 2; применяйте условия лицензии Meta. Чекпойнт следует использовать для оценки влияния сжатия и изучения компромиссов безопасности и качества, а не развёртывать как готового ассистента.