II.10Разработка и эксплуатация AI/ML-систем

ops-malware/qwen3-1.7b-abliterated — это экспериментально отредактированная версия Qwen3-1.7B, опубликованная ops-malware и созданная с помощью senbonzakura. Веса изменены методом abliteration: поиск проекций по слоям ослабляет поведение отказа без дополнительного обучения. Модель имеет плотную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. Карточка описывает оценивание на английских запросах, поэтому поддержку других языков для этой версии нельзя считать подтверждённой. Модель предназначена для исследований механизмов отказа, интерпретируемости, red teaming и оценки безопасности, где полезен чекпойнт, склонный отвечать на запросы, которые базовая модель могла бы отклонить. Автор отозвал все опубликованные численные результаты: ошибки в измерительном инструменте сделали их ненадёжными, поэтому эффект изменения пока не подтверждён корректными метриками. Среди ограничений также указаны слабая абсолютная компетентность при размере 1,7 млрд параметров, возможный дрейф поведения и сохранение смещений базовой модели. Лицензия — Apache-2.0.

MingZwhy/Qwen3-1.7B-W2.79-QAD — исследовательский чекпойнт на основе Qwen3-1.7B, подготовленный как стартовая точка для обучения методом квантование-осведомлённой дистилляции с on-policy данными. Это не готовая модель для применения: сохранённые веса bf16 являются высокоточной копией, а квантование применяется внутри прямого прохода во время обучения. При непосредственной загрузке модель остаётся неквантованной. В целевом варианте используются веса со смешанным представлением INT1.58 и INT4 в блоках по 256 элементов, при этом половина блоков имеет точность INT4; эффективная разрядность составляет 2,79 бита. Эмбеддинги и выходная голова используют INT4, активации — INT8. Для готовой к оценке модели README указывает на восстановленный чекпойнт MingZwhy/Qwen3-1.7B-W2.79-QAOPD. Модель имеет 1,7 млрд параметров, архитектуру Qwen3ForCausalLM и контекст до 40 960 токенов; основная задача каталога — генерация текста, доступен диалоговый режим. Лицензия — Apache-2.0.

HYU-NLP-EVAL разработала промежуточный чекпойнт RaR-Medicine на основе Qwen3-4B-Instruct-2507. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров; она дообучалась методом GRPO в динамическом режиме OnlineRubrics-Every. Контекстное окно составляет до 262 144 токенов, поддерживается диалоговый режим, а веса доступны в формате Safetensors с точностью BF16. Чекпойнт представляет собой историческое состояние политики на 12-м шаге обучения с seed 11, сохранённое для аудита Phase 1. Он предназначен для исследовательского анализа процесса обучения и генерации текста, а не для клинического применения. Медицинские возможности и безопасность не подтверждены. Лицензия — Apache-2.0.

HYU-NLP-EVAL представляет промежуточный чекпойнт Qwen3-4B-Instruct-2507, полученный в ходе обучения GRPO с динамическими рубриками OnlineRubrics-Every для RaR-Medicine. Это плотная языковая модель с 3,7 млрд параметров и контекстом до 262 144 токенов; карточка указывает библиотеку Transformers и формат BF16 в экспортированной модели. Режим thinking отключён. Чекпойнт сохранён как историческое состояние политики для аудита Phase 1, поэтому его следует рассматривать как исследовательский артефакт, а не как проверенную медицинскую систему. Модель принимает текст и генерирует текст; заявленная задача каталога и карточки — text-generation, а возможность диалога унаследована от базовой модели. Чекпойнт не заявлен как обладающий медицинскими возможностями или гарантиями безопасности и не проверен для клинических решений. Лицензия — Apache-2.0.

Это промежуточное состояние политики OnlineRubrics RaR-Medicine, созданное в ходе обучения GRPO с динамическими рубриками на базе Qwen/Qwen3-4B-Instruct-2507. Модель разработана для аудита Phase-1 и предназначена для исследовательских экспериментов с оценкой поведения языковой модели в медицинском контексте; режим рассуждений отключён. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Доступны веса в формате BF16 для Transformers и исходный FSDP-чекпойнт. Карточка не заявляет о наличии медицинских возможностей или безопасности модели. Она не проходила валидацию для клинических решений, поэтому её нельзя считать инструментом медицинской диагностики или лечения. Модель распространяется по лицензии Apache-2.0.

Это промежуточный чекпойнт модели Qwen3-4B-Instruct-2507, созданный HYU-NLP-EVAL в ходе обучения GRPO с динамическими рубриками OnlineRubrics-Every для сценария RaR-Medicine. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит 3,7 млрд параметров; она предназначена для генерации текста в диалоговом формате. Контекстное окно составляет до 262 144 токенов, режим рассуждений отключён. Чекпойнт представляет историческое состояние политики на шаге 42 с seed 11, использованное для аудита Phase-1. Медицинские возможности и безопасность не подтверждены, модель не проверена для клинических решений. Веса доступны в формате BF16 и SafeTensors; лицензия — Apache-2.0. README указывает исследовательское назначение.

Qwen3-8B-Base-RAQUEL-TOFU-M-orig-LoRA-v1 — модель Hyukkyu, дообученная методом LoRA на базе Qwen/Qwen3-8B-Base для воспроизведения протокола RAQUEL на данных TOFU. Это исходный базовый чекпойнт кампании, а не модель машинного забывания: обучение включало биографии и вопросы-ответы из примеров на забывание и сохранение. В репозитории доступны объединённая модель BF16 для оценки и FP32 LoRA-адаптер; число параметров — 7,6 млрд, контекст — 32 768 токенов. Модель предназначена для генерации ответов на вопросы о биографиях из TOFU и служит контрольной точкой для экспериментов по машинному забыванию. Оценка в карточке показывает высокую точность на исходных вопросах forget и retain, но заметно более низкую на перефразированных forget-вопросах. Модель обучалась с простым префиксом «Question: … Answer:» и не рассчитана на диалоговый шаблон чата. Лицензия — Apache-2.0.

Qwen-Image-2.1-PE-T2I-GGUF — квантованные GGUF-варианты модели Qwen-Image-2.1-PE-T2I, разработанной на базе Qwen. Модель предназначена для автоматического переписывания запросов к генератору изображений: она преобразует краткое описание изображения на любом языке в подробный англоязычный промпт и рекомендуемое соотношение сторон. Модель опубликована пользователем prithivMLmods и рассчитана на использование совместно с генератором Qwen-Image-2.1. Это дообученная Qwen3.5-VL-9B с поддержкой текстовых входов на разных языках. После блока рассуждений <think> она возвращает структурированный JSON с полями rewritten_prompt и wh_ratio, который можно передать в Diffusers QwenImage21Pipeline. Модель предназначена именно для этапа предварительной обработки перед генерацией изображений, а не для общего диалога. В репозитории доступны варианты BF16 размером 17,9 ГБ и квантования Q3_K_L, Q3_K_M, Q4_K_M, Q4_K_S, Q5_K_M и Q5_K_S размером примерно от 4,62 до 6,47 ГБ, включая использование через llama.cpp. Сильная сторона модели — улучшение кратких и многоязычных запросов за счёт детализированного промпта и автоматического выбора соотношения сторон. Ограничение заключается в узкой специализации: сама модель не генерирует изображения и не предназначена для общего назначения. Модель распространяется по лицензии Qwen Research License Agreement; точные условия следует уточнять в тексте лицензии Qwen.

smallbenchnlp/roberta-small — компактная языковая модель семейства RoBERTa из проекта Small-Bench NLP, посвящённого небольшим эффективным нейросетевым моделям, обучаемым на одном GPU. По архитектуре это RobertaForMaskedLM с 25,5 млн параметров; модель предназначена для предсказания замаскированных токенов в тексте и экспериментов с компактными языковыми моделями. Она принимает текст и выдаёт варианты заполнения маски. Максимальная длина контекста составляет 128 токенов. Карточка не сообщает сведения о лицензии, поэтому условия использования по доступным данным определить нельзя.

PushkarA07/segformer-b0-finetuned-batch2-10Dec — модель семантической сегментации изображений на архитектуре SegFormer B0, разработанная как дообучение PushkarA07/segformer-b0-finetuned-batch2-30nov. Модель обучена на наборе PushkarA07/batch2-tiles и предназначена для сегментации изображений в задачах, связанных с этим набором данных. В карточке приведены результаты оценки: Mean IoU 0,7531, Mean Accuracy 0,8107, Overall Accuracy 0,9967, IoU для класса Abnormality 0,5094 и Accuracy для него 0,6226. Метрики относятся к указанному оценочному набору; описание классов и практических ограничений не приведено. Модель распространяется в формате Safetensors через Transformers; лицензия указана как other.

SegFormer-B4 — модель NVIDIA для семантической сегментации изображений, дообученная на датасете Cityscapes с разрешением 1024×1024. Архитектура сочетает иерархический Transformer-энкодер с лёгкой MLP-головой декодирования; исходный энкодер предварительно обучен на ImageNet-1k. Модель предназначена для отнесения каждого пикселя изображения к классу, в частности для сегментации городских сцен. Её можно применять для анализа дорожных изображений и сцен городской среды. Доступны веса в форматах PyTorch и TensorFlow. Данных о поддержке естественных языков нет, поскольку модель работает с изображениями и выдаёт пиксельную разметку. В карточке указана лицензия other, без уточнения её условий. Качество модели и область применения ограничены обучением на Cityscapes; карточка не приводит подробных результатов оценки или перечня классов.

SegFormer-B4 — модель семантической сегментации изображений, дообученная автором репозитория на наборе segments/sidewalk-semantic. Она классифицирует пиксели изображения, что подходит для выделения и анализа элементов уличной сцены, включая тротуары. Базовая модель — nvidia/mit-b4; веса представлены в формате PyTorch, лицензия — Apache-2.0. На оценочном наборе указаны mean IoU 0,4317 и общая точность 0,8895. Метрики по отдельным категориям заметно различаются, поэтому качество распознавания отдельных классов может быть низким; результат следует проверять на данных целевого применения. В карточке не описаны точный состав классов и дополнительные условия использования.

Sudhanshu1985/slm-125m-rlaif — компактная языковая модель, дообученная с помощью RLAIF (обучения с подкреплением на основе обратной связи от ИИ). В README описан процесс выравнивания: скалярная reward-модель оценивала ответы по предпочтениям, сформированным с помощью gpt-4.1-mini, а политика оптимизировалась методом RLOO с KL-регуляризацией относительно исходной SFT-модели. В метаданных указаны архитектура Llama, 125,8 млн параметров, контекст 1024 токена и библиотека Transformers. Модель предназначена для генерации текста в диалоговом формате и может использоваться для изучения или применения компактной модели, дообученной на предпочтениях ИИ. README сообщает об улучшении среднего вознаграждения с -0,158 до 0,155. Модель унаследовала чат-шаблон SYSUSERANSWER от SFT-модели. Модель дообучена на thesreedath/slm-125m-base; README также упоминает промежуточную SFT-модель slm-125m-sft, однако метаданные указывают базой именно slm-125m-base. Лицензия — Apache-2.0. Английский язык указан в тегах карточки. Короткий контекст и небольшой размер ограничивают пригодность модели для длинных диалогов и сложных задач; оценки reward в README не заменяют независимую проверку качества.

BEE-spoke-data/smol_llama-220M-GQA-fineweb_edu — компактная плотная языковая модель семейства Llama, разработанная BEE-spoke-data. Это версия smol_llama-220M-GQA, продолжительно предобученная на подмножестве 10BT-sample датасета HuggingFaceFW/fineweb-edu. Модель предназначена для генерации текста и экспериментов с языковыми моделями; содержит 184,9 млн параметров и поддерживает контекст до 2048 токенов. В README приведены результаты оценки: loss 2,7416, accuracy 0,4560 и средний балл Open LLM Leaderboard 6,52. Данные карточки указывают на английский язык. Модель распространяется по лицензии Apache-2.0. Результаты не гарантируют качество на прикладных задачах; доступные оценки и небольшой размер модели ограничивают выводы о её способностях.

spark-13m-instruct — англоязычная инструкционно настроенная языковая модель, разработанная с использованием кодовой базы Nexus. Это дообученная на 200 тысячах диалогов SmolTalk модель spark-13m-base, предварительно обученная на FineWeb-Edu-dedup и Cosmopedia-v2. Она предназначена для генерации текста и диалоговых ответов, а обучение на инструкциях помогает оформлять ответы по запросу пользователя. Модель содержит 13,2 млн параметров и использует архитектуру NexusForCausalLM: декодер в стиле Llama с 6 слоями, скрытым размером 384, RoPE и контекстом до 1024 токенов. Она принимает текст и генерирует текст; веса доступны в формате safetensors. Лицензия — Apache-2.0. Малый размер делает модель подходящей для прототипирования и экспериментов с лёгкими декодерами. При этом на тестах знаний и рассуждений её результаты близки к случайному угадыванию и заметно уступают SmolLM-135M-Instruct; дообучение улучшает формат ответов, но не добавляет существенных знаний. README также описывает возможность подключить визуальный проектор через inputs_embeds, однако сама модель не является готовой VLM.

stanfordnlp/stanza-gv — модель из набора Stanza, разработанного Stanford NLP Group для лингвистического анализа манксского языка. Она предназначена для разметки текста на уровне токенов; в составе Stanza такие модели используются в конвейерах NLP-анализа. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

SuperPoint — свёрточная модель компьютерного зрения, описанная Дэниелом ДеТоном, Томашем Малишевичем и Эндрю Рабиновичем. Она совместно обнаруживает ключевые точки на изображении и вычисляет дескриптор для каждой точки за один проход. Модель обучалась с самоконтролем и использует полностью свёрточную архитектуру. SuperPoint предназначена для извлечения устойчивых особенностей, полезных при сопоставлении изображений и решении задач многовидовой геометрии. Её можно применять для оценки гомографии, поиска соответствий между изображениями и как экстрактор признаков для других задач компьютерного зрения. В статье описан подход Homographic Adaptation для повышения повторяемости точек при гомографических преобразованиях и адаптации между доменами. Модель принимает изображения и выдаёт координаты ключевых точек с дескрипторами. В карточке указана лицензия other; конкретные условия использования в доступных данных не раскрыты.

Это экспериментальный чекпойнт диалоговой модели Llama 2, подготовленный в рамках исследования влияния сжатия на безопасность ответов. За основу взята meta-llama/Llama-2-7b-chat-hf: модель сжата методом SVD-LLM примерно до 60% исходного числа параметров, после чего к ней применены 9 из 10 раундов итеративной замены параметров по правилу disc_iter. Архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов; основной сценарий — генерация текста в диалоге на английском языке. Чекпойнт создан для измерения компромиссов между сжатием, полезностью и безопасностью, а также для проверки методов восстановления поведения модели. В README приведены показатели успешности атак на AdvBench и StrongREJECT и доля чрезмерных отказов на WildGuard. Модель намеренно рассматривается как экспериментальный объект, а не готовый помощник; перед использованием результаты следует самостоятельно оценить. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove50_disciter_b010 — экспериментальная диалоговая языковая модель на архитектуре Llama, созданная на базе meta-llama/Llama-2-7b-chat-hf. Веса сжаты методом SVD-LLM: удалено около 49% параметров; размер модели составляет 6,6 млрд параметров, контекст — до 4096 токенов. Модель предназначена для изучения компромисса между безопасностью и полезностью при сжатии языковых моделей. Контрольные измерения включают успешность атак на AdvBench и StrongREJECT, а также долю избыточных отказов по WildGuard. README предупреждает, что сжатие может повышать успешность атак и что этот чекпойнт следует считать экспериментальным объектом, а не готовым ассистентом. Базовая модель ориентирована на диалог на английском языке; лицензия — Llama 2.

Это экспериментальный исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat с 6,6 млрд параметров. Он предназначен для изучения влияния сжатия на безопасное поведение языковой модели и того, как выбор компонентов для восстановления влияет на баланс безопасности и полезности. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено 49,02% параметров, после чего восстановлены компоненты по правилу discp в пределах бюджета 1% параметров. Репозиторий содержит веса в формате safetensors; модель принимает текст и генерирует текст, контекст — 4096 токенов. Карточка приводит метрики атак и чрезмерных отказов, но не описывает модель как универсального ассистента. Чекпойнт предназначен для исследовательских измерений, а не для развёртывания как готовый чат-ассистент: сжатие может ухудшать защитное поведение, поэтому результаты требуют самостоятельной оценки. Для использования действуют условия лицензии Llama 2.

Jeesup/svd-safety-l2_remove50_swapdisciter_b010 — экспериментальный чекпойнт, созданный для измерения компромисса между безопасностью и полезностью диалоговых языковых моделей при сжатии. Он основан на meta-llama/Llama-2-7b-chat-hf и получен методом SVD-LLM с удалением 50,01% параметров по правилу disc_iter. Модель имеет архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Карточка приводит метрики атак на безопасность и чрезмерных отказов, включая долю успешных атак AdvBench 0,0115, StrongREJECT 0,0735 и показатель чрезмерных отказов WildGuard 0,4240. Чекпойнт предназначен для исследования влияния сжатия и проверки методов восстановления безопасности, а не для использования как готовый ассистент. Языковые сведения карточки указывают на английский язык базовой модели. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Он предназначен для изучения того, как сжатие влияет на безопасность и полезность языковой модели и насколько выборочная правка параметров восстанавливает поведение после сжатия. Модель использует архитектуру Llama для генерации текста и диалога, содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. Веса сжаты методом SVD-LLM примерно до 50% исходного числа плотных параметров, после чего выполнено 10 итераций перестановки параметров по правилу gap_iter. Карточка приводит результаты измерений отказов и успешности атак на наборах AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Чекпойнт является экспериментальным объектом, а не универсальным чат-ассистентом: некоторые варианты в исследовании намеренно имеют худшие показатели безопасности, чем исходная модель. Перед практическим использованием необходима самостоятельная оценка поведения. Лицензия — Llama 2.

Это экспериментальный исследовательский чекпойнт Jeesup на архитектуре LlamaForCausalLM: модель Llama-2-7b-chat с 6,6 млрд параметров сжата методом SVD-LLM до 41% плотных параметров, после чего восстановлены компоненты SVD в пределах бюджета 1% по правилу gap. Модель предназначена для изучения того, как сжатие влияет на безопасность ответов и какие правила выбора компонентов помогают восстановить её; это один вариант в серии экспериментов, а не универсальный чат-ассистент. Чекпойнт генерирует текст и поддерживает диалог; базовая модель ориентирована на общение на английском языке. Контекст составляет 4096 токенов. В README приведены результаты измерений атак и чрезмерных отказов, а также отмечено, что некоторые варианты в исследовательской серии намеренно имеют сниженную безопасность. Модель распространяется по лицензии Llama 2.

Это исследовательский контрольный чекпойнт на основе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и частично изменённый итеративным подбором параметров по правилу gap_iter. В модели оставлено 60% плотных параметров; описанный вариант прошёл 3 из 10 запланированных раундов отбора. Архитектура — плотная LlamaForCausalLM, размер — около 7,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; базовая модель предназначена для многоязычных диалогов и генерации текста. Чекпойнт создан для изучения того, как сжатие влияет на безопасное поведение языковой модели и могут ли изменения отдельных компонентов восстановить его. В README приведены результаты на тестах безопасности и чрезмерных отказов: AdvBench ASR — 0,0000, StrongREJECT ASR — 0,0500, Macro over-refusal — 0,4046. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный чат-ассистент; качество и безопасность следует оценивать для конкретного применения. Лицензия — Llama 3.1.

Jeesup/svd-safety-l31_swift_remove30 — исследовательский чекпойнт на базе Llama-3.1-8B-Instruct от Meta, сжатый методом Swift-SVD и восстановленный дообучением SVD-LLM с LoRA. После удаления 30% параметров в модели осталось около 70% исходного числа; общий размер — 7,5 млрд параметров. Это плотная авторегрессионная архитектура Llama для генерации текста и диалога, с контекстом до 131 072 токенов. Модель создана для изучения того, как SVD-сжатие влияет на безопасность и полезность языковой модели и насколько дообучение может восстановить поведение. В README приведены результаты измерений на тестах безопасности, но модель прямо обозначена как отдельный экспериментальный вариант, а не универсальный чат-ассистент. Лицензия — Llama 3.1; применяйте её согласно условиям этой лицензии.

Это исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM и затем обработанный в 10 раундах параметрически нейтрального обмена весов по правилу gap_iter. Удалено около 40% параметров; в метаданных указан размер 7,5 млрд параметров, архитектура Llama с плотной причинной языковой моделью и контекстом 8192 токена. Модель работает с текстом и предназначена для генерации ответов в диалоге. Чекпойнт создан как один из вариантов в исследовании влияния сжатия на безопасность и полезность языковых моделей и способов восстановления поведения. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard; их следует трактовать как измерения конкретного экспериментального варианта, а не как гарантию поведения в других условиях. Это не универсальный чат-ассистент и не готовая к развёртыванию модель: некоторые варианты исследования намеренно ухудшают безопасность относительно исходной модели. Для использования базовой модели применяются условия лицензии Llama 3.

Это экспериментальный исследовательский чекпойнт на базе Meta Llama 3 8B Instruct, разработанный для изучения влияния сжатия и изменений параметров на безопасность языковых моделей. Модель с архитектурой Llama и 7,5 млрд параметров сжата методом SVD-LLM до 60% от исходного числа параметров, после чего прошла 4 из 10 раундов итеративной замены параметров по правилу gap_iter. Контекст — 8192 токена; модель принимает текст и предназначена для генерации текста в диалоговом формате. Чекпойнт используется для оценки компромисса между безопасностью и полезностью при сжатии, в частности для измерения успешности атак и чрезмерных отказов. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная точка в исследовательской сетке, а не универсальный чат-ассистент; отдельные варианты в исследовании намеренно ухудшают показатели безопасности. Перед применением необходимо самостоятельно оценить поведение модели. Лицензия — Llama 3.

Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, сжатый методом Swift-SVD: удалено 30% параметров, после чего модель восстановлена последовательным LoRA-дообучением по схеме SVD-LLM. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 7,5 млрд параметров и имеет контекст до 8192 токенов. Репозиторий распространяет веса в формате safetensors. Чекпойнт предназначен для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, а также насколько LoRA-восстановление меняет эти эффекты. В README приведены результаты оценок атак на безопасность и чрезмерных отказов; это экспериментальная точка в исследовательской сетке, а не универсальный разговорный ассистент. Модель принимает текст и генерирует текст; базовая модель рассчитана на диалоги преимущественно на английском языке. Лицензия — Llama 3, с условиями использования Meta для этой лицензии.

Jeesup разработал исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct, сжатый методом Swift-SVD с удалением 40% параметров, а затем восстановленный с помощью LoRA-дообучения SVD-LLM. Это плотная диалоговая модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена; она принимает текст и генерирует текст, поддерживает чат. В карточке указана лицензия llama3. Модель предназначена для экспериментов по оценке того, как сжатие влияет на безопасность ответов и полезность, а также на проверку методов восстановления поведения. README приводит показатели атак на безопасность и чрезмерных отказов для конкретных тестов, поэтому результаты применимы к оценке этого экспериментального чекпойнта. Автор предупреждает, что некоторые варианты в исследовании намеренно имеют ослабленное защитное поведение, а сжатие может повышать успешность атак. Модель не предназначена для использования как универсальный чат-ассистент; перед практическим применением её необходимо самостоятельно оценить.

Jeesup/svd-safety-l3_swift_remove30 — исследовательский чекпойнт на базе диалоговой модели Meta-Llama-3-8B-Instruct, подготовленный для изучения влияния сжатия на безопасность и полезность ответов. Веса сжаты методом Swift-SVD с динамическим распределением рангов: удалено около 30% параметров, итоговый размер составляет 70% от исходного. Затем модель восстановлена с помощью второго этапа SVD-LLM и LoRA; в репозитории используются веса Safetensors, а архитектура — плотная LlamaForCausalLM с 7,5 млрд параметров. Модель предназначена для исследовательских сравнений поведения после сжатия, в частности измерения устойчивости к вредоносным запросам и склонности к чрезмерным отказам. Она поддерживает генерацию текста и диалоговый сценарий, но README прямо предупреждает, что это отдельный экспериментальный вариант, а не универсальный чат-ассистент. Контекст составляет 8192 токена. Лицензия — Llama 3; применяются условия лицензии Meta Llama 3.