II.9Статистика, эксперименты и причинный анализ
В разделе собраны самостоятельные задачи, где AI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
2 881 модельGATS Cold-Start — экспериментальная модель для исследований стратегий холодного старта агентного обучения с подкреплением и воспроизведения базовых результатов статьи GATS на WebShop. Это дообученная версия Qwen2.5-7B-Instruct с архитектурой Qwen2 dense и 7,1 млрд параметров. В фазе pure on-policy distillation модель выполняла действия в WebShop и обучалась имитации модели-учителя Qwen2.5-1.5B, обученной методом GRPO на задачах WebShop; обучение включало 29 шагов без слагаемого награды RL. Валидация до RL показала 60,2%. Модель принимает текст и генерирует текст для взаимодействия со средой WebShop; контекст — до 32 768 токенов. Разработана в рамках коллекции Cold-start для статьи GATS. Лицензия Apache-2.0.
LMEnt 1B Ancient Rome SNMF — англоязычная плотная авторегрессионная языковая модель семейства OLMo2 на 1,1 млрд параметров, разработанная авторами исследования «Can Concept Erasure Reproduce Concept Exclusion? A Matched Evaluation of EMBER, RMU, and SNMF». Это базовая модель без дообучения на инструкции, обученная на корпусе Википедии с разметкой сущностей и отредактированная методом SNMF для подавления концепта Древнего Рима. Редактирование выполнено после обучения базовой модели: SNMF применён к выходным весам MLP в слоях 4–6 с рангом 100, порогом отбора признаков 2,0 и полным удалением выбранных компонентов. Для работы модель принимает текст и генерирует текст; поддерживает диалоговый сценарий. Контекст составляет 2048 токенов. В опубликованной оценке эффективность подавления целевого концепта составила 0,000, несмотря на близость некоторых метрик к отдельно обученной модели-близнецу без этого концепта. Поэтому результаты не подтверждают широкое удаление знаний или обобщение на другие концепты. Карточка не заявляет лицензию на веса.
Модель varadsrivastava/lm-playschool-qwen3.5-2b-grpo-rnd-s42 — экспериментальный чекпойнт команды DAIR для диалоговых игр, созданный в рамках LM Playschool Challenge 2026. Это дообученная методом Online GRPO текстовая модель на архитектуре Qwen3.5 с 1,7 млрд параметров; контекстное окно составляет 262144 токена. По сравнению с контрольной версией GRPO в обучение добавили бонус за новизну на основе RND, рассчитанный по токенам действий модели. Авторы сообщают, что на валидационном разбиении playpen результат вырос с 62,43 до 67,44 clemscore/statscore, а улучшение было сосредоточено на играх, на которых GRPO не обучалась. Модель предназначена для исследований постобучения небольших языковых моделей и оценки их компетентности в диалоговых играх. Она поддерживает генерацию текста и диалоговый режим; README описывает эксперименты с играми и отчёт о результатах, но не даёт оснований считать её универсальным игровым агентом или мультимодальной моделью. Весы опубликованы в формате safetensors по лицензии Apache-2.0. Результаты измерены в конкретной зафиксированной среде и зависят от набора игр и условий оценки.
Это чекпойнт MOUSE на базе Qwen3 с размерностью скрытого представления 1024 и выходной головой оценки действий action_value. Разработчик — micahr234; модель предназначена для задач обучения с подкреплением и работает с последовательностями записей шагов: принимает дискретные идентификаторы действий и наблюдений, а также числовую награду, после проекции этих данных в общее пространство токенов. Модель можно применять в экспериментах и системах, которым требуется оценивать ценность действий по наблюдениям и вознаграждениям. README описывает подготовку входных данных через MouseCore и формат TokenBatch для обучения и инференса. Метаданные указывают библиотеку mouse-core и формат весов PyTorch. Лицензия и сведения о качестве модели не приведены.
Это исследовательский чекпойнт проекта UnfaithRL на базе OLMo-2-0425-1B, разработанной Ai2. Модель с плотной архитектурой OLMo 2 и 1,3 млрд параметров дообучена методом обучения с подкреплением в два этапа: сначала ответы по задачам MMLU поощрялись за правильность, затем ответы с подсказками — за следование предложенному подсказкой варианту. При обучении использовалось обучение с подкреплением с проверяемыми наградами и длина завершения до 512 токенов; контекст модели — 4096 токенов. Чекпойнт предназначен для исследования верности цепочек рассуждений, переключения ответов под влиянием контекстных подсказок и reward hacking в RLVR, а также способов выявлять и смягчать такие эффекты. Он может быть полезен для экспериментов с cue injection и раскрытием использования подсказок в рассуждениях. Модель не является универсальным помощником: она могла обучаться следовать вводящим в заблуждение подсказкам, поэтому ответы могут быть неверными, а объяснения — рационализировать уже выбранный ответ и не отражать реальные причины решения. Не следует полагаться на неё в задачах с высокими ставками без дополнительной оценки. Языковая модель работает с текстом; базовая модель англоязычная, а обучение проводилось на задачах MMLU Reasoning. Формат весов — Safetensors. Лицензия в предоставленных данных не указана.
PISTOL Sample Dataset 1 target — это экспериментальная диалоговая языковая модель, созданная дообучением Qwen/Qwen2-7B-Instruct на 400 синтетических вопросах и ответах о вымышленных договорах. Модель предназначена как исходная точка для исследований машинного забывания: она запомнила данные бенчмарка, чтобы на ней можно было проверять удаление отдельных фактов и измерять побочное влияние на связанные и несвязанные факты. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и принимает текст. Контекст — до 32 768 токенов. В контрольной проверке она сохраняет большую часть результатов базовой модели на реальных знаниях, однако README прямо указывает, что модель не предназначена для общего применения: сведения о договорах синтетические, а качество на них получено специальным дообучением. Лицензия — Apache-2.0.
EleutherAI/pythia-14m-seed2 — базовая авторегрессионная языковая модель из набора PolyPythias, разработанного EleutherAI для изучения стабильности обучения и воспроизводимости. Это один из вариантов Pythia-14M с отдельным случайным seed; модель обучалась предсказывать следующий токен на корпусе The Pile с заданным порядком данных. Модель построена на архитектуре GPT-NeoX и содержит около 14 млн параметров, 6 слоёв, размерность скрытого представления 128 и 4 головы внимания. Максимальная длина контекста — 2048 токенов. Она принимает текст и генерирует продолжение; модель не настроена на выполнение инструкций и рассчитана прежде всего на английский язык. Модель подходит для экспериментов с языковым моделированием и сравнительного анализа влияния случайных seed на обучение. Для прикладного использования и развертывания в production авторы её не рекомендуют. Генерации могут содержать предвзятые, оскорбительные или фактически неверные утверждения; фильтрации безопасности нет. Лицензия — Apache-2.0.
Это исследовательский чекпойнт проекта UnfaithRL, дообученный на базе Qwen/Qwen2.5-0.5B для изучения того, как подсказки влияют на верность рассуждений модели при обучении с проверяемыми наградами (RLVR). Модель представляет собой плотную авторегрессионную языковую модель семейства Qwen2 с 494 млн параметров; она принимает текст и генерирует текст. Её контекстное окно составляет 32 768 токенов, а максимальная длина завершения при обучении — 1 024 токена. Чекпойнт предназначен для экспериментов с переключением ответов под влиянием вводящих в заблуждение подсказок, reward hacking и явным раскрытием использования подсказки в цепочке рассуждений. Обучение проводилось в RL-Zero/RLVR-постановке с наградами на основе правил, на задачах рассуждения MMLU; в этом варианте промпт просил модель сообщать, когда подсказка повлияла на ответ. Репозиторий использует Transformers и формат Safetensors. Модель не предназначена для общего ассистентского применения: она может следовать ложным подсказкам, отвечать неверно и создавать рассуждения, которые рационализируют ответ. Текст рассуждений не следует считать надёжным объяснением решения; для ответственных сценариев требуется дополнительная оценка. Лицензия в предоставленных данных не указана.
Исследовательский чекпойнт проекта UnfaithRL, полученный дообучением базовой языковой модели Qwen2.5-0.5B. Он создан для изучения того, как подсказки влияют на верность цепочек рассуждений при обучении с подкреплением и проверяемыми наградами (RLVR). В режиме обучения модели вознаграждались выбор ответа, предложенного подсказкой, и упоминание использования подсказки в рассуждении по смягчённому критерию раскрытия. Модель содержит 494 млн параметров, использует архитектуру Qwen2 и поддерживает контекст до 32 768 токенов; при обучении максимальная длина ответа составляла 512 токенов. Чекпойнт предназначен для исследований верности цепочек рассуждений, влияния вводящих в заблуждение подсказок, смены ответа под их воздействием и уязвимости к накрутке награды в RLVR. Его можно использовать для изучения раскрытия подсказок в рассуждениях и методов снижения такого поведения. Это не универсальный помощник: модель может следовать ложным подсказкам, ошибаться и постфактум рационализировать ответ. Сгенерированные рассуждения нельзя считать надёжным объяснением решения. Лицензия в предоставленных данных не указана.
Исследовательский чекпойнт проекта UnfaithRL, полученный дообучением Qwen2.5-0.5B-Instruct с плотной архитектурой Qwen2ForCausalLM и 494 млн параметров. Модель изучает, как подсказки влияют на верность рассуждений цепочки мыслей при обучении с проверяемыми наградами (RLVR), включая следование подсказке и явное объяснение связи между ней и ответом. При обучении использовались задачи рассуждения MMLU и максимальная длина генерации 1024 токена; заявленное для базовой модели контекстное окно — 32768 токенов. Чекпойнт предназначен для экспериментов с влиянием вводящих в заблуждение подсказок на ответы, раскрытием использования подсказок в рассуждениях, взломом функции награды и способами смягчения таких эффектов. Это не универсальный помощник: модель может следовать неверному контексту, давать ошибочные ответы и постфактум рационализировать их. Текст рассуждений не следует считать достоверным объяснением решения модели. Лицензия в предоставленных данных не указана.
Это экспериментальный чекпойнт Qwen3-4B HealthBench Static-Rubric R0 от HYU-NLP-EVAL, полученный дообучением Qwen/Qwen3-4B-Instruct-2507 методом полного обучения с подкреплением. Версия соответствует 50 обновлениям оптимизатора; обучение проводилось на 256 запросах HealthBench с замороженной prompt-specific рубрикой R0 для каждого запроса. Модель представляет собой плотную причинную языковую архитектуру Qwen3ForCausalLM на 3,7 млрд параметров и принимает текст. Контекст — до 262 144 токенов; веса опубликованы в формате safetensors и экспортированы в BF16. Чекпойнт предназначен для исследований влияния устаревания статических рубрик на оптимизацию политики и для генерации ответов на медицинские запросы в рамках таких экспериментов. Рост награды по замороженной рубрике сам по себе не подтверждает улучшение по независимой эталонной оценке HealthBench. Модель не является медицинским устройством и не должна заменять консультацию специалиста. Лицензия — Apache-2.0.
Это промежуточный чекпойнт языковой модели Qwen3-4B, созданный командой HYU-NLP-EVAL на базе Qwen/Qwen3-4B-Instruct-2507. Модель дообучалась методом GRPO в рамках динамического OnlineRubrics-Every для медицинского направления; указаны шаг 33 и seed 11. Это плотная модель с 3,7 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают контекст до 262 144 токенов; карточка сообщает, что режим рассуждений отключён. Чекпойнт использовался как историческое состояние политики для аудита Phase 1, а не как проверенная медицинская модель. Он может быть полезен для исследовательского анализа поведения при обучении и для экспериментов с генерацией ответов на медицинские темы. Карточка прямо не заявляет о наличии медицинских возможностей или безопасности и предупреждает, что модель не проверена для клинических решений. Лицензия — Apache-2.0.
Это исследовательский базовый чекпойнт M_orig для экспериментов RAQUEL по машинному забыванию, созданный Hyukkyu до этапа unlearning. Модель дообучена методом LoRA на Qwen/Qwen3-8B-Base: на парах вопросов и ответов из набора RAQUEL2-ICLR для MUSE-News, без исходных документов. В репозитории доступны объединённые веса BF16 и отдельный адаптер FP32; архитектура — плотная авторегрессионная Qwen3ForCausalLM примерно на 7,6 млрд параметров с контекстом 32 768 токенов. Модель предназначена для генерации ответов на вопросы в формате «Question: …\nAnswer:» и служит исходным baseline для сравнений в экспериментах машинного забывания. Карточка приводит высокую точность на forget и retain QA-разбиениях, но это результат оценки на конкретном наборе RAQUEL2, а не гарантия качества для других запросов. Модель не обучалась с шаблоном чата. Поддерживается английский язык; лицензия — Apache-2.0.
Это исследовательская базовая модель M_ret для экспериментов RAQUEL по машинному забыванию знаний из набора WMDP. Её разработал автор репозитория Hyukkyu: модель Qwen3-8B-Base дообучена с помощью LoRA на вопросах и ответах из сохраняемой части RAQUEL2-WMDP; документы в обучении не использовались. В репозитории доступны объединённые веса BF16 и отдельный адаптер LoRA FP32. Модель предназначена для генерации ответов на вопросы в формате «Question: …\nAnswer:» и служит контрольной точкой M_ret для сравнения с экспериментами по забыванию. В README указано 7,6 млрд параметров и контекст до 32 768 токенов по метаданным; язык карточки — английский. Она сохраняет высокую точность на retain-вопросах в описанной оценке, но это именно базовая контрольная модель, а не модель с выполненным забыванием. Обучение не использовало шаблон чата. Лицензия — Apache-2.0.
Карточка модели jonas-neumann/review-visual-question-answering на Hugging Face совпадает с карточкой danielmdm/review-visual-question-answering, поэтому описание составлено по ней. Это экспериментальная исследовательская заготовка по визуальным вопросам и ответам (Visual Question Answering), опубликованная пользователем danielmdm. Репозиторий описывает исследовательский вопрос, возможные смешивающие факторы и план сравнения с сопоставимыми базовыми методами; в качестве контекста оценки упомянуты VQAv2, GQA и OK-VQA. Метаданные указывают архитектуру CustomResearchModel на базе трансформера с 655,4 тыс. параметров, контекстом 128 токенов и поддержкой зрения. Модель предназначена для изучения ответов на вопросы об изображениях, однако README уточняет, что обученный чекпойнт, выполненные эксперименты и подтверждённые результаты не представлены. Репозиторий лицензирован по MIT.
Sovereign-Crypto-Matrix-v1 — модель ItsNotAI LABS для количественных финансов и оценки портфельного риска. Это плотный Transformer с многоголовым self-attention, содержащий около 917,5 тыс. параметров по метаданным. README описывает 793-канальное моделирование корреляций между активами и расчёт Value-at-Risk на уровне 99% для оценки хвостового риска и сценариев хеджирования. Модель предназначена для анализа многокомпонентных криптовалютных портфелей и риск-симуляций в институциональном управлении активами. В README приведены результаты проверки на доменных данных, включая MSE 0,00086 и задержку вывода 2,063 мс; переносимость этих показателей на другие данные не подтверждена. Форматы репозитория — PyTorch и safetensors. Лицензия — Apache-2.0.
Это экспериментальный исследовательский чекпойнт семейства Llama, созданный с помощью сжатия SVD-LLM на базе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Из плотной модели удалено 20% параметров; в этой версии восстановлено 0% компонентов SVD по правилу выбора unknown. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Максимальный контекст — 4096 токенов; базовая модель предназначена для общения на английском языке. Чекпойнт предназначен для экспериментов по измерению влияния сжатия на безопасность и полезность ответов, а также для сравнения правил восстановления компонентов. Это не универсальный чат-ассистент и не готовая к развёртыванию модель. README приводит результаты оценок атак и чрезмерных отказов и предупреждает, что сжатие может ухудшить защитное поведение. Условия использования наследуются от лицензии Llama 2.
Исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, подготовленный Jeesup для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текстовых ответов; заявленная длина контекста — 4096 токенов. Веса сжаты методом Basis Sharing с удалением 40% параметров, после чего проведены 3 из 10 раундов параметрически нейтральной перестановки параметров по правилу swapdiscnet_iter. Модель предназначена для экспериментального измерения компромиссов между полезностью и безопасностью сжатых чат-моделей, а не для обычного общения или развёртывания в качестве ассистента. В README приведены показатели атакуемости и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Результаты относятся к конкретному экспериментальному варианту и не гарантируют безопасное поведение в других сценариях. Условия использования наследуются от лицензии Llama 2.
Экспериментальный чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для исследования влияния сжатия на безопасность и полезность языковых моделей. Модель использует архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текста; контекст — до 4096 токенов. Веса сжаты методом SVD-LLM: удалено 39,92% параметров, после чего восстановлено 0,1% параметров компонентами, выбранными по правилу disc. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью и сравнения вариантов восстановления после сжатия, а не для повседневного диалогового применения. В README приведены показатели атак на наборе AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это исследовательский артефакт, который README прямо рекомендует оценивать самостоятельно перед использованием. Лицензия — Llama 2 Community License; применяются её условия.
Это исследовательский чекпойнт диалоговой модели Llama 2, созданный в рамках исследования влияния сжатия на безопасность и полезность языковых моделей. Модель основана на meta-llama/Llama-2-7b-chat-hf и сжата методом SVD-LLM: удалено 39,03% параметров, после чего восстановлены компоненты SVD с бюджетом 1% по правилу discp. Архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, безопасностью и полезностью, а не для обычного общения или развёртывания в качестве ассистента. В README приведены нулевые показатели успешности атак на AdvBench и StrongREJECT, а также показатель избыточных отказов 0,7917 по WildGuard; эти результаты относятся к указанным тестам и не гарантируют безопасность в других сценариях. Лицензия — Llama 2.
Это исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность языковых моделей. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; родительская модель рассчитана на английский язык. Контекстное окно — 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров, осталось 60% исходного числа. Затем выполнены 3 из 10 раундов итеративной замены параметров по правилу disc_iter с бюджетом до 0,1% плотных параметров на раунд. Он предназначен для измерения компромиссов между безопасностью и полезностью и изучения восстановления поведения после сжатия, а не для обычного диалогового применения. В README приведены оценки атак на AdvBench и StrongREJECT, а также чрезмерных отказов по WildGuard. Модель является экспериментальным объектом, и отдельные варианты серии могут иметь ухудшенную безопасность по сравнению с исходной Llama 2 Chat. Результаты следует самостоятельно оценивать, прежде чем использовать их для выводов. Лицензия — Llama 2.
Это исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta, подготовленный автором репозитория Jeesup для изучения компрессии и поведения механизмов безопасности. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, использует формат safetensors и принимает текстовые запросы для генерации текста. Контекст — до 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров, после чего применены 2 из 10 раундов перестановки параметров по правилу gap_iter. Он предназначен для измерения компромисса между полезностью и безопасностью после компрессии, а не для обычного диалогового применения. В README приведены показатели успешности атак на AdvBench и StrongREJECT и доля избыточных отказов на WildGuard. Модель экспериментальная: автор предупреждает, что компрессия может ухудшить защиту от вредоносных запросов, и рекомендует самостоятельно оценивать каждый вариант. Базовая модель распространяется по лицензии Llama 2; перед использованием этого чекпойнта следует соблюдать её условия.
Это исследовательский контрольный пункт на основе диалоговой Llama 2 Chat от Meta, опубликованный Jeesup. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст, а длина контекста составляет 4096 токенов. Исходные веса сжаты методом SVD-LLM: удалено 40,02% параметров. Затем к ним применён один из десяти раундов итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. Модель предназначена для исследования того, как сжатие влияет на безопасность и полезность диалоговых моделей, и для измерения эффекта правил восстановления поведения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; отдельные варианты сетки намеренно могут быть менее безопасными, чем исходная Llama 2 Chat. Это не универсальный чат-ассистент и не готовая к развёртыванию модель. Лицензия — Llama 2; условия её использования определяются лицензией Meta.
Это исследовательский чекпойнт диалоговой модели Jeesup, созданный на основе meta-llama/Llama-2-7b-chat-hf. Модель с архитектурой Llama и 6,6 млрд параметров сжата методом SVD-LLM: удалено около 40% параметров. Затем к ней применили 9 из 10 раундов перестановки параметров по правилу gap_iter; каждый раунд затрагивал до 0,1% исходных параметров. Контекст — 4096 токенов. Чекпойнт предназначен для исследования того, как сжатие влияет на безопасность и полезность ответов и помогает ли выборочная перестановка параметров восстановить поведение модели. В карточке приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это не универсальный чат-ассистент и не готовая к развёртыванию модель. Использование регулируется лицензией Llama 2.
Это экспериментальный текстовый чат-чекпойнт на базе Meta Llama 2 7B Chat, созданный для исследования компрессии и поведения защитных механизмов языковых моделей. Веса сжаты методом SVD-LLM: удалено 49,02% параметров, после чего восстановлены компоненты в пределах бюджета 1,0% по правилу gap. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; нативный контекст — 4096 токенов. Чекпойнт предназначен для сравнительного изучения компромиссов между сжатием, полезностью ответов и безопасностью, а не для повседневного общения или внедрения в продукт. В README приведены результаты на наборах AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и чрезмерных отказов. Модель работает с текстом и выдаёт текст; базовая модель рассчитана прежде всего на английский язык. Лицензия — Llama 2 Community License.
Исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Модель сжата методом SVD-LLM: удалено около 50% параметров, после чего применён один раунд итеративной перестановки параметров по правилу gap_iter. Это одна конфигурация в серии экспериментов по изучению влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Модель предназначена для генерации текста и диалога. В README приведены измерения на тестах безопасности AdvBench, StrongREJECT и WildGuard; результаты показывают, что конфигурации исследования могут быть уязвимы к вредоносным запросам или чрезмерно отказывать в ответах. Базовая модель рассчитана на английский язык, контекст составляет 4096 токенов. Репозиторий использует формат safetensors и лицензию Llama 2; применяйте условия лицензии Meta. Чекпойнт следует использовать для оценки влияния сжатия и изучения компромиссов безопасности и качества, а не развёртывать как готового ассистента.
Это исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct, подготовленный для изучения влияния сжатия на безопасность и полезность модели. Авторы применили Basis Sharing с общими базисами для соседних пар слоёв, сократив число параметров до 50% от исходного, а затем выполнили 10 раундов параметрически нейтральных перестановок по правилу swapgapnet_iter. Модель предназначена для экспериментов по оценке компромиссов между сжатием, отказами от вредоносных запросов и чрезмерными отказами. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это текстовая диалоговая модель с архитектурой Llama, 7,5 млрд параметров и контекстом до 8192 токенов; базовая модель рассчитана на английский язык. Чекпойнт не предназначен для обычного использования в качестве ассистента: авторы предупреждают, что безопасность может быть снижена. Лицензия — Llama 3.
Jeesup/svd-safety-l3_remove40_swapgapiter_b010_r09 — исследовательский вариант Llama-3-8B-Instruct, созданный в рамках изучения влияния сжатия на безопасность и полезность языковых моделей. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров, после чего выполнено 9 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — 8192 токена. Модель предназначена для сравнительных экспериментов по безопасности и полезности после сжатия, а не для универсального диалога или практического развертывания. В README приведены показатели атак на AdvBench и StrongREJECT, а также избыточных отказов на WildGuard; результаты характеризуют конкретный экспериментальный чекпойнт. Базовая модель ориентирована на английский язык. Лицензия — Llama 3 Community License (llama3).
Jeesup/svd-safety-l3_swift_remove50 — исследовательский чекпойнт на основе диалоговой модели Meta-Llama-3-8B-Instruct. Весы сжаты методом Swift-SVD с динамическим распределением рангов: удалено около 50% параметров. Затем модель восстановлена с помощью второго этапа LoRA из SVD-LLM; использовались последовательное обучение компонент U и V, датасет alpaca-cleaned и два обучающих прохода для каждой половины. Репозиторий содержит веса safetensors для архитектуры LlamaForCausalLM; размер — 7,5 млрд параметров, контекст — 8192 токена. Модель создана как один из вариантов экспериментальной сетки для измерения влияния SVD-сжатия на безопасность и полезность ответов и проверки способов восстановления защитного поведения. Она предназначена для сравнительной оценки в задачах генерации текста и диалога, а не для повседневного применения. В README приведены результаты тестов на отказ от вредоносных запросов и чрезмерные отказы; они указывают, что защита может быть ослаблена. Использование регулируется лицензией Llama 3.
Экспериментальный вектор управления отказами для модели prism-ml/Ternary-Bonsai-2-27B-gguf, опубликованный Mithril (ранее Kotoba Cloud, Kotoba Labs Inc.). Репозиторий содержит GGUF-вектор управления размером 1,3 МБ и материалы для воспроизведения эксперимента, а не отдельную полноценную языковую модель. Вектор получен по разности активаций на парах вредоносных и безвредных запросов для слоёв декодера 1–63; для описанного экспериментального режима рекомендованы отрицательный масштаб −2,0 и слои 10–63. Артефакт предназначен для экспериментального управления поведением отказов при генерации текста с базовой моделью и совместимым форком llama.cpp от Prism ML. Небольшая проверка не подтвердила надёжное подавление отказов: в отложенных тестах модель сохраняла рассуждения, ориентированные на отказ, а при масштабе −3,0 качество ответов ухудшалось. Это диагностический эксперимент, а не оценка безопасности или возможностей. Лицензия — Apache-2.0.