II.10Разработка и эксплуатация AI/ML-систем

Это англоязычная плотная причинно-языковая модель Qwen3 с 7,6 млрд параметров, разработанная как чекпойнт экспериментов RAQUEL по машинному забыванию. Она получена дообучением модели Hyukkyu/Qwen3-8B-Base-RAQUEL-MUSE-M-orig-LoRA-v1 методом RMU с LoRA: модель обучали подавлять ответы на вопросы из набора забывания MUSE-News, сохраняя ответы на удерживаемых данных. Выпущены объединённые веса BF16 и отдельный адаптер FP32; контекст — до 32 768 токенов. Модель предназначена для генерации ответов на английские вопросы и изучения машинного забывания, в том числе для сравнения качества на забытых и сохраняемых данных. В описанной оценке точность на исходных вопросах из забываемого набора составила 9,5%, на перефразированных — 11,2%, а на удерживаемых вопросах — 89,5%. Модель рассчитана на простой формат «Question: … Answer:» и не обучалась с шаблоном чата. Лицензия — Apache-2.0.

Это исследовательская базовая модель M_ret для экспериментов RAQUEL по машинному забыванию знаний из набора WMDP. Её разработал автор репозитория Hyukkyu: модель Qwen3-8B-Base дообучена с помощью LoRA на вопросах и ответах из сохраняемой части RAQUEL2-WMDP; документы в обучении не использовались. В репозитории доступны объединённые веса BF16 и отдельный адаптер LoRA FP32. Модель предназначена для генерации ответов на вопросы в формате «Question: …\nAnswer:» и служит контрольной точкой M_ret для сравнения с экспериментами по забыванию. В README указано 7,6 млрд параметров и контекст до 32 768 токенов по метаданным; язык карточки — английский. Она сохраняет высокую точность на retain-вопросах в описанной оценке, но это именно базовая контрольная модель, а не модель с выполненным забыванием. Обучение не использовало шаблон чата. Лицензия — Apache-2.0.

real-marker-d2-r04-mulligan-dp — модель управления роботом из проекта Mulligan, выпущенная в раунде R4 для задачи real-marker-d2. Это актор на основе diffusion policy в формате контрольной точки LeRobot: используются конфигурация, веса safetensors и нормализаторы пред- и постобработки. Конфигурация содержит дополнительные поля Mulligan, включая области кадрирования камер и параметры целевых действий, поэтому для загрузки требуется обучающий код Mulligan; стандартная конфигурация LeRobot DiffusionConfig её не принимает. Модель обучена на телеоперационных данных и демонстрациях, собранных методом DAgger. В опубликованной оценке политика достигла 30 успешных выполнений из 50. Модель предназначена для выполнения действий в задаче real-marker-d2; README не раскрывает точную схему входов и выходов, поэтому дополнительные модальности не указаны. Лицензия — MIT.

ResonateX D1 — небольшая авторегрессионная языковая модель на архитектуре GPT-2, представленная пользователем Workstation5495. Она предназначена для генерации ответов на вопросы и простого диалога на русском языке, а также для экспериментов с компактными языковыми моделями и локальными чат-приложениями. Модель содержит около 51 млн параметров, использует 8 слоёв, 8 голов внимания и скрытый размер 512; длина контекста — 512 токенов. Для работы применяется библиотека Transformers, веса опубликованы в формате safetensors. Модель может запускаться офлайн на потребительском оборудовании, включая CPU. Для наиболее связных ответов рекомендуется задавать запросы по шаблону «Вопрос: … Ответ:» на русском языке. Модель компактна и пригодна для обучения и прототипирования, но обладает ограниченными знаниями и способностью к рассуждению; ответы могут быть краткими, повторяющимися или фактически неверными. Встроенной фильтрации безопасности нет, а сведения об обучающих данных и оценке качества не приведены. В метаданных указана лицензия Unlicense; README одновременно содержит незаполненное замечание о необходимости уточнить применимые условия для весов и обучающих данных.

RLDX-1-VLM — модель «зрение–язык» от RLWRLD, основанная на Qwen3-VL-8B-Instruct и дообученная для использования в семействе робототехнических политик RLDX-1. Это плотная мультимодальная модель на 8 млрд параметров, принимающая текст и изображения или видео и выдающая текст; она загружается через Transformers в формате safetensors. Модель предназначена для настройки перцептивного компонента политики RLDX-1, визуально-языковых абляций, экспериментов с подробными описаниями изображений и исследования визуального восприятия. Её скрытые состояния могут служить компактным перцептивным представлением для отдельной модели действий. Самостоятельно RLDX-1-VLM не предсказывает действия робота и не выдаёт робототехнические команды: для этого её необходимо сочетать с политикой RLDX-1. Это исследовательский снимок без дополнительной настройки безопасности сверх базовой Qwen3-VL; модель не предназначена для роли универсального чат-ассистента. В метаданных указана лицензия «other», конкретные условия следует сверить с карточкой модели.

Roxi-TTS Emotion — модель синтеза речи на 1,7 млрд параметров, созданная IOTEverythin на базе OpenMOSS-Team/MOSS-TTS-Local-Transformer. Она преобразует текст в аудио с индийским вариантом английского произношения и позволяет задавать эмоцию короткой текстовой инструкцией для каждого предложения. Доступны восемь состояний: нейтральное, радостное, грустное, сердитое, воодушевлённое, спокойное, извиняющееся и испуганное; голос остаётся одним и тем же. Частота выходного аудио — 24 кГц. Модель использует архитектуру MOSS-TTS Delay и веса в формате safetensors. По карточке, она обучена на датасете Skit-AI Emotional TTS с помощью LoRA (PEFT, r=16, alpha=32), объединённой с базовыми весами. Генерация авторегрессионная: модель может выдавать слишком короткие фрагменты, поэтому карточка рекомендует короткие предложения примерно до двенадцати слов. Модель не рассчитана на работу в реальном времени на одной потребительской GPU; эмоция задаётся отдельно для каждого предложения, а не встроенными тегами в текст. Для работы требуется transformers 4.57.1. Лицензия CC BY-NC 4.0 запрещает коммерческое использование; карточка также просит не использовать голос для имитации реальных людей, мошенничества или обмана.

OPTML-Group/SimNPO-WMDP-llama3-8b — дообученная диалоговая языковая модель на архитектуре Llama, созданная OPTML-Group на основе meta-llama/Meta-Llama-3-8B-Instruct. Модель прошла машинное забывание методом SimNPO на датасете CAIS WMDP; опубликованные параметры процедуры включают 125 шагов обучения. Модель предназначена для генерации текста и диалоговых ответов с изменённым поведением в отношении данных WMDP. Она содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. В карточке указан английский язык. Модель распространяется под лицензией MIT. Это исследовательская модификация базовой модели: процедура забывания сама по себе не подтверждает полного удаления знаний и не гарантирует устойчивость к обходным запросам.

SkyWater-Seg — модель семантической сегментации изображений, разработанная Vincentqyw на базе SegFormer с энкодером MiT-B2 и лёгким MLP-декодером. Она дообучена на отфильтрованном подмножестве ADE20K и содержит 24,7 млн параметров. Модель принимает RGB-изображения размером 384×384 с нормализацией ImageNet и выдаёт поклассовые оценки для фона, неба, воды и людей. Модель предназначена для построения масок неба, воды и людей, чтобы исключать эти области из изображений перед поиском соответствий и обработкой в конвейерах Structure from Motion (SfM). В карточке приведены результаты оценки на отложенной выборке ADE20K, а также варианты ONNX FP16 и FP32 и PyTorch-чекпойнт. Лицензия — MIT. Качество зависит от соответствия изображений обучающим данным; карточка описывает оценку только на отфильтрованной выборке ADE20K. Вариант FP16 может давать небольшие отличия от FP32 из-за округления.

slm-125m-base — базовая языковая модель, разработанная Bhabani Nayak и предварительно обученная с нуля. Это плотная авторегрессионная модель семейства Llama с 125,8 млн параметров и контекстом 1024 токена; она использует токенизатор BPE на 16 384 токена. Обучение проводилось на корпусе примерно из 2,19 млрд токенов: судебных документов США, материалов SEC и части общего веб-текста. Модель предназначена для продолжения текста в юридическом и финансовом стиле, экспериментов с предварительным обучением и дообучением небольших моделей, а также демонстраций локального запуска в браузере через ONNX и Transformers.js. Она не является чат-моделью и не рассчитана на ответы на вопросы, следование инструкциям или достоверное изложение фактов. Показатель perplexity 11,01 измерен на отложенных данных из обучающего распределения; на текстах других тематик качество может быть ниже. Лицензия — Apache-2.0.

SmolLM3-3B-abliterated-obliteratus — экспериментальная версия языковой модели SmolLM3-3B, созданная Richard Young с помощью метода OBLITERATUS. Это плотная авторегрессионная модель на 3,1 млрд параметров для генерации текста и диалогов. Она принимает текст и рассчитана на контекст до 65 536 токенов; в метаданных указан английский язык. Метод аблитерации изменяет поведение отказов, ортогонализируя направление отказа в пространстве активаций модели. В README приведены результаты оценки: 83 отказа из 100, доля успешных атак 17% и KL-дивергенция 0,0014. Эти показатели относятся к указанной в карточке оценке и не гарантируют поведения в других сценариях. Модель подходит для экспериментов с аблитерацией, анализа поведения отказов и генерации текста. README предупреждает, что защитные ограничения ослаблены, и рекомендует использовать модель только для исследований. Лицензия — Apache-2.0.

SmolVLA — компактная модель типа Vision-Language-Action для робототехники, разработанная для экосистемы LeRobot. Она принимает изображения с нескольких камер, данные о состоянии робота и необязательную текстовую инструкцию, а на выходе формирует непрерывные действия для управления роботом. Модель дообучена на базе HuggingFaceTB/SmolVLM2-500M-Video-Instruct и использует обучение с flow matching. Чекпойнт предназначен для дообучения под конкретного робота и сценарий. Авторы ориентируют модель на доступное обучение на одной GPU и запуск на потребительском оборудовании; в README описана работа с наборами данных и записью демонстраций через LeRobot. Для репозитория указана лицензия Apache-2.0. В метаданных язык карточки — английский; базовая модель работает с изображениями и видео по текстовым запросам, однако основной выход SmolVLA — действия робота.

ssc-mmc-model — модель распознавания речи, дообученная автором карточки на базе facebook/wav2vec2-xls-r-300m. Она построена на архитектуре Wav2Vec2ForCTC и принимает аудио, чтобы преобразовывать речь в текст. В репозитории указаны веса Safetensors и лицензия Apache-2.0. В карточке приведены результаты оценки: CER 0,9382 и WER 0,9965. Эти значения указывают на очень высокую долю ошибок, поэтому качество распознавания может быть недостаточным для практического применения. Язык и состав обучающих данных не раскрыты.

Модель Purino/stylegan2-ada-chest-pneumonia-256-scratch — безусловный генератор синтетических рентгеновских изображений грудной клетки размером 256×256, обученный Purino с нуля на StyleGAN2-ADA. В обучающую выборку включены изображения с пневмонией и без неё; модель не принимает метку класса и не позволяет задавать, какой тип снимка сгенерировать. Для генерации используется усреднённый генератор G_ema из чекпойнта PyTorch. Модель предназначена для исследовательской генерации и визуального сравнения синтетических рентгеновских изображений, а не для диагностики. Авторы не заявляют клиническую валидность, точность воспроизведения класса, сохранение приватности или сходимость обучения. Последний чекпойнт не выбран по минимальному FID; оценка FID/KID на обучающей выборке носит описательный характер. Лицензия NVIDIA ограничивает использование некоммерческими исследованиями и оценкой; для набора данных указана CC BY 4.0.

Это исследовательский чекпойнт диалоговой языковой модели Google Gemma 2 9B Instruct, подготовленный Jeesup для изучения влияния сжатия на безопасность и полезность модели. Веса сжаты методом Swift-SVD: удалено 40% параметров, после чего выполнено восстановление с помощью LoRA по схеме SVD-LLM. Чекпойнт содержит около 9 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и поддерживает контекст до 8192 токенов. Модель предназначена для сравнительных экспериментов по компрессии, оценке устойчивости к вредоносным запросам и восстановлению поведения безопасности. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это не универсальный помощник для развёртывания: отдельные варианты исследования могут иметь намеренно ослабленные защитные свойства, поэтому модель следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием. Лицензия — Gemma.

Это экспериментальный чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM. В модели оставлено 60% параметров исходного чекпойнта; восстановленные SVD-компоненты не добавлялись. Архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для сравнения методов восстановления поведения. Чекпойнт не предназначен для использования как универсальный чат-ассистент. В README приведены результаты измерений отказов и успешности атак, но они не гарантируют безопасное поведение при реальном применении. Лицензия — Llama 2; перед использованием следует учитывать её условия.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 7B Chat от Meta. Модель с архитектурой LlamaForCausalLM сжата методом Basis Sharing: базисы разделяются между соседними парами слоёв, что сократило число параметров примерно до половины от исходного. После сжатия проведена настройка LoRA только коэффициентов, без изменения общего бюджета параметров и разделяемых базисов. Чекпойнт предназначен для изучения влияния SVD-сжатия на безопасность и полезность ответов, а также для сравнения способов восстановления поведения модели. Он поддерживает генерацию текста и диалог на английском языке, контекст — до 4096 токенов. В README приведены результаты оценок атак и чрезмерных отказов; автор предупреждает, что некоторые варианты сетки намеренно имеют ослабленное безопасное поведение. Модель экспериментальная и не предназначена для развёртывания как универсальный ассистент. Лицензия — Llama 2; применяются её условия использования.

Экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta с архитектурой LlamaForCausalLM и 6,6 млрд параметров. Он сжат методом Basis Sharing: общие базисы используются для соседних пар слоёв, что сокращает число параметров до 50% от исходной модели. Затем к чекпойнту применили 10 раундов итеративной параметрически нейтральной замены весов по правилу swapdiscnet_iter. Модель создана для исследования того, как сжатие влияет на безопасность ответов и можно ли частично восстановить поведение выборочной заменой параметров. Карточка приводит результаты оценок на AdvBench, StrongREJECT и WildGuard. Модель принимает текст и генерирует текст в диалоговом режиме; контекст — до 4096 токенов. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность ответов. Модель сначала сжата методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров на 50% относительно исходной плотной модели. Затем выполнено 10 раундов итеративной замены параметров по правилу swapgapnet_iter с общим бюджетом до 1% параметров исходной модели. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью после сжатия, а не для обычного общения с ассистентом. Для него приведены метрики успешности атак AdvBench и StrongREJECT, а также избыточных отказов WildGuard. README отмечает, что сжатие может ухудшать защиту и что отдельные варианты эксперимента намеренно снижали безопасность; эти результаты относятся к данному чекпойнту и не гарантируют качества в других сценариях. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; библиотека запуска — Transformers. Контекст составляет 4096 токенов. Базовая модель — meta-llama/Llama-2-7b-chat-hf, задача — генерация текста. Карточка указывает лицензию Llama 2; применяйте условия лицензии Meta Llama 2.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Он предназначен для изучения того, как сжатие весов влияет на безопасное поведение модели и насколько его можно восстановить изменением отдельных параметров. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров до 50% от исходного; затем выполнены 2 из 10 раундов итеративной замены параметров по правилу swapgapnet_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт можно применять в экспериментах по оценке устойчивости к атакам, чрезмерным отказам и компромиссам между безопасностью и полезностью диалоговых моделей. README приводит показатели на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент: сжатие может ухудшать безопасное поведение, и модель не предназначена для развёртывания без самостоятельной оценки. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat, сжатый методом SVD-LLM. Веса сохранены в формате Safetensors; в результате удалено 50% параметров исходной плотной модели, а восстановленные компоненты SVD не добавлялись. Модель содержит 6,6 млрд параметров, использует архитектуру Llama для генерации текста и поддерживает контекст до 4096 токенов. Чекпойнт создан для экспериментов с тем, как сжатие влияет на безопасность и полезность диалоговой модели, а также для измерения эффекта восстановления SVD-компонентов. В README приведены метрики атак и избыточных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка исследования, а не универсальный чат-ассистент; сжатие может ухудшать поведение модели в отношении безопасности. Для использования применяется лицензия Llama 2.

Это исследовательский чекпойнт на основе диалоговой Llama 2, сжатый методом SVD-LLM и предназначенный для изучения влияния сжатия на безопасность и полезность ответов. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов; принимает текст и генерирует текст в диалоговом режиме. В этом варианте удалено 40% параметров исходной модели, а бюджет восстановленных SVD-компонентов составляет 0%. В README приведены показатели атакуемости на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это отдельный экспериментальный вариант из сетки испытаний, а не универсальный чат-ассистент; сжатие может ухудшать безопасное поведение. Основа — meta-llama/Llama-2-7b-chat-hf. Указана лицензия Llama 2.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и затем изменённый в ходе десяти раундов итеративной замены параметров по правилу gap_iter. В модели около 6,6 млрд параметров; удалено около 20% параметров, а бюджет замен составлял до 1% исходного числа параметров. Архитектура — плотная LlamaForCausalLM; формат весов — safetensors, контекст — 4096 токенов. Чекпойнт создан для исследования влияния сжатия на безопасность и полезность ответов, а также для оценки восстановления поведения после сжатия. Его можно применять в экспериментах по генерации текста и диалоговой оценке, но авторы не считают его универсальным чат-ассистентом или готовой к развёртыванию моделью. В README приведены показатели тестов безопасности и предупреждение, что некоторые варианты в серии намеренно демонстрируют ухудшенное поведение; модель следует самостоятельно оценивать перед интерпретацией результатов. Лицензия — Llama 2 Community License.

Исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и рассчитана на генерацию текста и диалог; базовая модель поддерживает английский язык. Контекст — до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 20% параметров, после чего выполнено 7 из 10 раундов итеративной замены параметров по правилу gap_iter. Чекпойнт создан для исследования влияния сжатия на безопасность и полезность ответов и проверки способов восстановления поведения модели. В README приведены метрики атакуемости и чрезмерных отказов, однако они не подтверждают пригодность для практического развёртывания. Автор прямо рекомендует рассматривать эту версию как экспериментальный объект, а не универсального ассистента. Лицензия — Llama 2; применяйте её согласно условиям лицензии Meta.

Jeesup/svd-safety-l2_remove30_swapgapiter_b010_r06 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и затем частично обработанный итеративным обменом параметров по правилу gap_iter. В модели около 6,6 млрд параметров, архитектура LlamaForCausalLM, формат safetensors; контекст — до 4096 токенов. При сжатии удалено около 30% параметров, а из десяти запланированных раундов обмена выполнено шесть. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов, а также способов восстановления поведения модели. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант из серии сравнений, а не универсальный диалоговый помощник. Модель принимает текст и генерирует текст; исходная Llama 2 Chat предназначена для диалога на английском языке. Результаты этого экспериментального варианта не гарантируют безопасное поведение: README предупреждает, что сжатие может повышать успешность атак, а отдельные варианты в серии намеренно ухудшают безопасность. Лицензия — Llama 2; перед применением следует учитывать её условия и самостоятельно оценить модель.

Jeesup/svd-safety-l2_remove40_disc_b010 — исследовательский чекпойнт на основе диалоговой Llama 2 от Meta с 6,6 млрд параметров. Модель сжата методом SVD-LLM: удалено 39,03% параметров, после чего восстановлены компоненты SVD с бюджетом 1% по правилу disc. Это одна из конфигураций эксперимента по изучению влияния сжатия на безопасность ответов и восстановления этой безопасности. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью сжатой модели, а не для использования как универсальный чат-ассистент. Для базовой модели в метаданных указан контекст 4096 токенов; исходная Llama 2 Chat рассчитана на общение на английском языке. В README приведены результаты оценок безопасности и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Модель распространяется по лицензии Llama 2. README предупреждает, что разные варианты эксперимента могут иметь намеренно ухудшенное поведение безопасности относительно исходной модели; этот чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta. Модель содержит 6,6 млрд параметров, использует архитектуру Llama для авторегрессионной генерации текста и имеет контекстное окно 4096 токенов. Она принимает текст и выдаёт текст в диалоговом формате. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров, после чего проведено 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. Он создан для изучения влияния сжатия на безопасность и полезность ответов, а не для обычного ассистентского применения. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard; часть вариантов в исследовании намеренно демонстрирует ухудшение защитного поведения. Модель предназначена для экспериментов и оценки компромисса между сжатием, безопасностью и полезностью. README указывает лицензию Llama 2; её условия следует соблюдать при использовании.

Jeesup/svd-safety-l2_remove40_swapdisciter_r03 — экспериментальная сжатая версия диалоговой модели Llama 2 от Meta, подготовленная для изучения компромиссов между безопасностью и полезностью. По данным карточки, при сжатии методом SVD-LLM удалено 40,02% параметров; вариант использует правило отбора disc_iter. Модель содержит 6,6 млрд параметров, построена на архитектуре LlamaForCausalLM и принимает текст для генерации текста в диалоге. Контекст составляет 4096 токенов; модель предназначена для экспериментов по оценке безопасности и полезности сжатых моделей. В README приведены измерения успешности атак и избыточных отказов, но результаты относятся к конкретным оценкам и не гарантируют поведение в других условиях. Карточка прямо предупреждает, что отдельные варианты намеренно имеют ухудшенную безопасность и не предназначены для развёртывания в качестве ассистента. Лицензия — Llama 2.

Это исследовательский чекпойнт на базе диалоговой модели Meta Llama 2 7B Chat, подготовленный в рамках исследования влияния сжатия на безопасное поведение языковых моделей. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации диалоговых ответов; заявленная длина контекста — 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров, осталось 60% от плотной модели. Затем применён один из десяти раундов параметрически нейтральной перестановки компонентов по правилу gap_iter с бюджетом до 0,1% параметров за раунд. Он предназначен для измерения компромиссов между сжатием и безопасностью, а не для обычного использования в качестве ассистента. В README приведены метрики атакуемости и чрезмерного отказа на AdvBench, StrongREJECT и WildGuard. Модель распространяется в формате Safetensors по лицензии Llama 2. Результаты являются экспериментальными и не гарантируют безопасного поведения; перед применением требуется самостоятельная оценка.

Это исследовательский чекпойнт на основе диалоговой Llama 2 7B Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; нативная длина контекста — 4096 токенов. Для эксперимента веса сжали методом SVD-LLM, удалив 40,02% параметров, а затем провели 3 из 10 запланированных раундов перестановки параметров по правилу gap_iter. Модель предназначена для измерения компромиссов между сжатием, безопасностью и полезностью, а также для сравнения правил восстановления поведения. README приводит результаты оценок безопасности на AdvBench и StrongREJECT, а также показатель чрезмерных отказов на WildGuard. Это отдельная ячейка экспериментальной сетки, не универсальный чат-ассистент и не модель для развёртывания без собственной оценки. Лицензия — Llama 2; применяются условия лицензии Meta Llama 2.

Это экспериментальный исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и затем частично изменённый итеративным параметрически нейтральным обменом параметров по правилу gap_iter. В модели около 6,6 млрд параметров; архитектура — плотная LlamaForCausalLM, формат весов — safetensors, контекст — до 4096 токенов. Она принимает текст и генерирует текстовые ответы в диалоговом режиме. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов и могут ли выбранные изменения компонентов восстановить поведение. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это отдельная точка исследовательской серии, а не универсальный чат-ассистент; некоторые варианты в серии намеренно теряют часть защитных свойств. Лицензия — Llama 2; перед практическим применением следует учитывать её условия и самостоятельно оценить поведение модели.