II.9Статистика, эксперименты и причинный анализ
В разделе собраны самостоятельные задачи, где AI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
2 881 модельЭто исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено 30% параметров, итоговый размер составляет 6,6 млрд параметров. Для восстановления компонентов выделен бюджет 0%; правило их выбора в карточке обозначено как unknown. Модель создана для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, а также для измерения компромиссов между ними. Карточка приводит показатели атак на безопасность и чрезмерных отказов по нескольким тестовым наборам. Это экспериментальный объект для исследований, а не универсальный чат-ассистент. Контекст — 4096 токенов; лицензия — Llama 2.
Jeesup/svd-safety-l2_basis_remove20 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta. Модель использует архитектуру LlamaForCausalLM и содержит 6,6 млрд параметров; контекст — до 4096 токенов. В README описан метод Basis Sharing: общие базисы для групп из двух соседних слоёв сокращают число параметров примерно на 20%, после чего модель восстанавливают дообучением LoRA только коэффициентов, сохраняя общий базис и бюджет параметров. Чекпойнт создан для изучения влияния SVD-сжатия на безопасность и полезность ответов и проверки методов восстановления безопасного поведения. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Это отдельная точка в экспериментальной сетке, а не универсальный чат-ассистент; некоторые варианты в исследовании намеренно имеют ухудшенную безопасность. Перед использованием результаты необходимо оценить самостоятельно. Лицензия — Llama 2.
Это исследовательский чекпойнт на основе диалоговой Llama 2 7B Chat от Meta, подготовленный для изучения влияния сжатия на безопасность языковых моделей. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров на 40%; затем выполнены 3 из 10 раундов итеративной замены параметров по правилу swapgapnet_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовый контекст длиной до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью при сжатии и для оценки методов восстановления поведения. В README приведены результаты тестов AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент; некоторые варианты исследования намеренно демонстрируют ухудшение безопасности. Лицензия — Llama 2; перед применением необходимо соблюдать её условия и самостоятельно оценивать поведение модели.
Экспериментальный исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров. Его разработали для изучения того, как сжатие влияет на безопасность ответов и можно ли частично восстановить поведение модели после сжатия. Модель с архитектурой Llama и плотными слоями сжали методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, а около 40% параметров удалено. Затем провели 9 из 10 раундов итеративной перестановки параметров по правилу swapgapnet_iter; предел одного раунда — 0,1% от исходного числа параметров. Контекст составляет 4096 токенов. Модель принимает текст и генерирует текст в диалоговом формате; базовая модель ориентирована на английский язык. В README приведены результаты измерений атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной серии по компромиссу между безопасностью и полезностью, а не универсальный чат-ассистент. Не следует использовать её как готовую к развёртыванию модель без самостоятельной оценки. Лицензия — Llama 2 Community License.
Это экспериментальный чекпойнт на базе диалоговой Llama 2 Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность языковой модели. Авторы сжали веса методом SVD-LLM, удалив 40% параметров; восстановленные компоненты не добавлялись. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors, рассчитана на контекст до 4096 токенов. Чекпойнт предназначен для исследовательских измерений компромиссов между сжатием, безопасностью и полезностью, а не для обычного диалогового применения. В README приведены результаты тестов на устойчивость к вредоносным запросам и избыточные отказы; отдельные варианты в исследуемой серии намеренно ухудшают безопасность. Лицензия — Llama 2 Community License.
Jeesup/svd-safety-l2_remove40_sigma_b001 — исследовательский чекпойнт на архитектуре Llama-2-7B-chat, созданный сжаттием базовой модели методом SVD-LLM и восстановлением небольшой доли SVD-компонентов по правилу sigma. В модели около 6,6 млрд параметров; после сжатия сохранено 60,1% плотных параметров, а бюджет восстановленных компонентов составил 0,1%. Она предназначена для изучения влияния сжатия на безопасность и полезность диалоговых языковых моделей, а также сравнения способов восстановления поведения. Модель принимает текст и генерирует текстовые ответы в формате диалога. Контекст — до 4096 токенов; базовая Llama-2-7b-chat ориентирована на общение на английском языке. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и избыточного отказа. Это экспериментальный объект исследования, а не универсальный чат-ассистент для развёртывания. README предупреждает, что сжатие может ухудшать защитное поведение; качество и безопасность конкретного чекпойнта следует оценивать в целевом сценарии. Лицензия — Llama 2.
Jeesup/svd-safety-l2_remove40_swapdisc_a010_b010_r03 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, разработанный для изучения влияния сжатия на безопасность ответов и восстановления поведения после сжатия. Модель создана из meta-llama/Llama-2-7b-chat-hf: методом SVD-LLM удалено 40,02% параметров, а затем выполнены 3 из 10 раундов итеративной замены параметров по правилу disc_iter. В результате сохранено 60% плотной модели; размер составляет 6,6 млрд параметров, контекст — 4096 токенов. Модель предназначена для генерации текста и диалогов в эксперименте по оценке компромисса между безопасностью и полезностью, а не для общего применения в качестве ассистента. В карточке приведены показатели успешности атак AdvBench и StrongREJECT, а также избыточных отказов WildGuard. README предупреждает, что сжатие может ухудшать безопасное поведение и что отдельные варианты намеренно имеют пониженную безопасность. Модель распространяется по лицензии Llama 2; перед использованием необходимо самостоятельно оценить её поведение.
Это исследовательский чекпойнт Jeesup на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf с 6,6 млрд параметров. Он сжат методом SVD-LLM до 60% исходного числа параметров, после чего к нему применён один раунд параметрически нейтральной перестановки компонентов по правилу disc_iter. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность ответов и можно ли частично восстановить её выбором компонентов. Это не универсальный чат-ассистент: отдельные варианты в исследовательской сетке намеренно ухудшают безопасность относительно исходной Llama 2 Chat. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст. Лицензия — Llama 2.
Это экспериментальный чекпойнт диалоговой модели Llama 2, созданный в рамках исследования влияния сжатия на безопасность ответов. Авторы сжали Llama-2-7b-chat-hf методом SVD-LLM, удалив 40,02% параметров, а затем выполнили 8 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст составляет до 4096 токенов. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью модели при сжатии, а также для изучения способов восстановления поведения безопасности. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Модель не рассчитана на роль универсального чат-ассистента: отдельные варианты в исследовательской сетке намеренно имеют сниженную безопасность, поэтому этот чекпойнт следует рассматривать как экспериментальный объект, а его поведение — оценивать в рамках исследования. Лицензия — Llama 2.
Jeesup/svd-safety-l2_remove50_random_b005 — исследовательский чекпойнт на базе Llama-2-7b-chat, созданный для изучения влияния сжатия на безопасность и полезность диалоговой модели. Разработчик сжал веса методом SVD-LLM, удалив 49,52% параметров, а затем восстановил компоненты SVD на случайной основе в пределах бюджета 0,5% параметров. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст 4096 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для измерения компромиссов между сжатием, полезностью и безопасностью, а также для сравнения правил восстановления компонентов. В карточке приведены метрики атак на отказ от безопасного поведения и чрезмерных отказов. Это отдельный вариант экспериментальной сетки, а не универсальный чат-ассистент; результаты следует оценивать в контексте эксперимента. Лицензия — Llama 2.
Экспериментальный чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta с 7 млрд параметров, предназначенный для изучения влияния сжатия и выбора параметров на безопасность и полезность модели. Веса сжаты методом SVD-LLM примерно до половины плотных параметров, после чего выполнено 8 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст составляет 4096 токенов. В карточке приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Чекпойнт предназначен для экспериментов по оценке атакоустойчивости и компромиссов между безопасностью и полезностью, а не для работы в качестве универсального чат-ассистента. В измерениях зафиксированы успешность атак и избыточные отказы; отдельные варианты в серии намеренно имеют ухудшенную безопасность относительно исходной Llama 2 Chat. Лицензия — Llama 2; применяйте модель как исследовательский объект и самостоятельно оценивайте её поведение перед использованием.
Это экспериментальный чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat, созданный для исследования связи между сжатием весов и безопасностью ответов. Весовые параметры сжаты методом SVD-LLM примерно до половины исходного объёма, после чего к модели применены 9 раундов итеративной перестановки параметров по правилу disc_iter. Модель содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и поддерживает контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью и проверки способов восстановления защитного поведения после сжатия. В карточке приведены показатели атак на AdvBench и StrongREJECT, а также доля избыточных отказов на WildGuard. README предупреждает, что некоторые варианты эксперимента намеренно имеют ухудшенную безопасность; этот чекпойнт не предназначен для развёртывания как универсальный ассистент. Лицензия — Llama 2.
Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и частично восстановленный по правилу gap. После сжатия осталось 40,5% исходного числа плотных параметров; дополнительно восстановлены компоненты в пределах бюджета 0,5%. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность модели, и для оценки восстановления поведения с помощью выбора компонентов SVD. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также избыточных отказов на WildGuard. Это один экспериментальный вариант в серии сравнений, а не универсальный чат-ассистент; модель в первую очередь подходит для исследовательских измерений и сравнения с базовым чекпойнтом. Языковая модель рассчитана на диалог на английском языке. Производная модель выпущена под лицензией Llama 2. README предупреждает, что сжатие может ухудшать защиту от вредоносных запросов, поэтому результаты этого чекпойнта не следует трактовать как гарантию безопасного поведения.
Это исследовательский чекпойнт на базе диалоговой Llama 2 от Jeesup, созданный для изучения того, как сжатие влияет на безопасное поведение языковой модели и насколько его можно восстановить. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; базовая модель рассчитана на контекст до 4096 токенов. Чекпойнт сжат методом Swift-SVD с восстановлением LoRA до 60% исходного числа параметров, а затем изменён в 10 раундов перестановки параметров по правилу gap_iter. Модель предназначена для генерации текста и диалога в экспериментах по оценке безопасности и полезности сжатых моделей. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard. Авторы предупреждают, что отдельные варианты сетки экспериментов могут быть намеренно менее безопасными, чем исходная Llama-2-7b-chat, поэтому этот чекпойнт следует рассматривать как экспериментальный объект, а не как готового ассистента. Лицензия — Llama 2; её условия распространяются на использование модели.
Экспериментальный чекпойнт Jeesup на базе диалоговой Meta-Llama-3-8B-Instruct, предназначенный для исследования того, как сжатие влияет на безопасность ответов и как выборочная замена параметров может частично восстановить поведение модели. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 8192 токенов. Веса сжаты методом SVD-LLM: удалено около 30% параметров. Затем выполнено 7 из 10 раундов параметрически нейтральной замены параметров по правилу gap_iter. Модель предназначена для сравнительных экспериментов по безопасности и полезности, а не для обычного чат-ассистента. В README приведены измерения на AdvBench, StrongREJECT и WildGuard; результаты отражают конкретные тестовые настройки и не гарантируют поведение в других сценариях. Для базовой модели указана лицензия Llama 3. Указанные ограничения применения — исследовательские — сами по себе не меняют классификацию зрелости модели.
Экспериментальный диалоговый чекпойнт на архитектуре Llama, созданный исследователями на основе meta-llama/Meta-Llama-3-8B-Instruct. Веса сжаты методом SVD-LLM до 60% от числа параметров исходной плотной модели; затем к ним применён один раунд из десяти итераций параметрически нейтральной замены по правилу gap_iter. В метаданных указан размер 7,5 млрд параметров и контекст 8192 токена. Модель предназначена для исследования влияния сжатия на безопасность и полезность ответов, а также оценки восстановления защитного поведения. README приводит результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в сетке вариантов, а не универсальный чат-ассистент: сжатие может повысить успешность атак, поэтому чекпойнт не следует считать готовым к развёртыванию. Лицензия — Llama 3; применяются условия лицензии Meta.
Jeesup/svd-safety-l3_swift_jbbcal2_remove50 — исследовательский чекпойнт на основе Meta Llama 3 8B Instruct, созданный для изучения влияния сжатия на безопасность языковой модели. Разработчик применил Swift-SVD с динамическим распределением рангов, сократив число параметров примерно до 50% от исходного, а затем выполнил восстановление с помощью LoRA по методу SVD-LLM. Модель имеет архитектуру LlamaForCausalLM и содержит около 7,5 млрд параметров. Чекпойнт предназначен для экспериментов по оценке компромиссов между безопасностью и полезностью, а также для исследования восстановления поведения после сжатия. Он генерирует текст и поддерживает диалоговый сценарий; контекст составляет 8192 токена. В README приведены результаты оценок отказов и успешности атак на AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент. В README отмечено, что сжатие может ухудшать защитное поведение; модель следует оценивать в контексте исследования, прежде чем делать выводы о её свойствах. Лицензия — Llama 3 Community License (llama3).
Это исследовательский чекпойнт Jeesup на архитектуре Mistral-7B, полученный сжатием Mistral-7B-Instruct-v0.2 методом SVD-LLM и восстановлением 0,1% параметров по правилу gap. В модели оставлено 70,1% плотных параметров; она предназначена для генерации текста и диалогов в экспериментах по влиянию сжатия на безопасность и полезность инструктивных языковых моделей, а не для повседневного использования в качестве чат-ассистента. В README приведены результаты оценок безопасности: доля успешных атак составила 0,5385 на AdvBench и 0,4281 на StrongREJECT, а макродоля избыточных отказов — 0,0580 на WildGuard. Эти показатели описывают конкретные тесты и не гарантируют поведение в других сценариях. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и опубликована в формате safetensors для Transformers. Лицензия — Apache-2.0.
JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget10_SatImp — модель генерации текста на архитектуре Llama 3.1, созданная дообучением open-unlearning/tofu_Llama-3.1-8B-Instruct_full методом SatImp на части forget10 набора TOFU. Её разработали как базовый вариант для исследования unlearning и как черновую модель в проекте Speculative-Decoding-Unlearning. Модель предназначена для экспериментов по машинному забыванию данных и оценки того, как удаление обучающих сведений влияет на ответы и извлечение информации. Она содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст до 131 072 токенов; доступны возможности диалога и интерфейс вызова инструментов. В README приведены метрики TOFU: exact_memorization — 0,5034, extraction_strength — 0,0538 и forget_Q_A_PARA_Prob — 0,0063. Это экспериментальный исследовательский чекпойнт для задачи unlearning, поэтому его результаты следует интерпретировать в контексте набора TOFU и указанных оценок. Лицензия — Llama 3.1; применяются её условия использования.
Карточка модели Jiajunruan/ToolAlpaca_unlearn_ToolDelete-DPO-paper на Hugging Face совпадает с карточкой OptimAI-Lab/ToolAlpaca_unlearn_ToolDelete-DPO, поэтому описание составлено по ней. ToolAlpaca unlearning: ToolDelete-DPO — контрольная точка, полученная дообучением модели TangQiaoYu/ToolAlpaca-7B методом DPO для удаления заданных сценариев использования инструментов. Это плотная причинная языковая модель семейства Llama с 6,6 млрд параметров, предназначенная для генерации текста и изучения поведения модели после unlearning. Контекст составляет 2048 токенов. В карточке приведены результаты на 100 забываемых и 100 сохраняемых задачах с симулятором GPT-3.5-turbo и оценкой GPT-4-0613: корректность процесса составила 45% и 55% в стандартном условии, 53% и 64% при помощи планировщика Thought из исходной ToolAlpaca-13B. В парном тесте восстановление поведения составило 10 из 55 случаев. Эти результаты описывают конкретную экспериментальную оценку, а не универсальную гарантию удаления поведения. Лицензия в предоставленных данных не указана.
Uncertain-Llama3-8B — дообученная rhyंग2021 модель на основе Meta-Llama-3-8B-Instruct от Meta. Авторы используют её в задаче LoGU для изучения подавления неопределённости и несоответствия между фактической неопределённостью модели и тем, как она её выражает. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Она генерирует текст и поддерживает диалог на английском языке; максимальная длина контекста — 8192 токена. Веса опубликованы в формате safetensors. Модель подходит для экспериментов с тем, как языковые модели сообщают о неуверенности в ответах. Карточка не описывает качество на общих задачах и конкретные ограничения поведения. Лицензия — MIT.
babycry — классификатор эмоциональной валентности вокализаций младенцев и маленьких детей, разработанный owlgebra-ai. Модель относит аудиоклип к одному из двух классов: positive — довольное или радостное гуление и смех; distress — плач, раздражение или эмоциональное расстройство. Она принимает аудио и выдаёт метку класса и вероятность positive. Это ансамбль из трёх замороженных аудиокодировщиков AST, wav2vec2 и CLAP: их эмбеддинги объединяются усреднением по окнам длительностью 2 секунды с шагом 1 секунда, после чего классификатор CLAP с логистической регрессией определяет класс. В README приведены результаты оценки на ReCANVo: balanced accuracy 0,648 и ROC-AUC 0,706. Обучающие данные включают ReCANVo, DonateACry и ESC-50; языковая поддержка как задача классификации не заявлена. Это слабый исследовательский базовый уровень, а не медицинское или клиническое устройство. Модель обучена на смешанных данных, в том числе на записях людей примерно 6–23 лет, поэтому применение к настоящим младенцам является переносом вне распределения и может ухудшить качество. Предсказания отдельных клипов ненадёжны; модель различает только два класса и не обрабатывает нейтральные или неоднозначные случаи. Для аудио-массива требуется исходная частота дискретизации; качество заметно меняется при предварительном понижении частоты. Лицензия указана как other, а лицензии обучающих корпусов различаются — перед использованием и распространением необходимо свериться с условиями каждого источника.
Diagnostic-Reasoning-Q3X1 — это дообученная с помощью QLoRA модель Qwen3-8B, выпущенная как артефакт исследования влияния пересечения обучающих данных с медицинскими тестами. Она содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM, работает через Transformers и принимает текстовый контекст длиной до 40 960 токенов. Модель предназначена для генерации ответов на медицинские вопросы и воспроизведения результатов исследования; проверка проводилась на англоязычных тестах с вопросами с выбором ответа. В проверенной на пересечение подвыборке MedXpertQA модель показала прирост 5,2 процентного пункта относительно исходной Qwen3-8B. При этом обучающий корпус существенно пересекается с рядом медицинских бенчмарков, поэтому результаты на них нельзя считать независимой оценкой способности рассуждать. Модель не проходила клиническую валидацию и не предназначена для принятия медицинских решений. Не оценивались галлюцинации, безопасность лекарственных рекомендаций, срочная эскалация, калибровка уверенности и качество общения о неопределённости; область оценки ограничена английскими тестами с выбором ответа. Модель выпущена под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование. Авторы представляют её как исследовательский артефакт для воспроизведения методики и изучения влияния пересечения обучающих данных с тестами.
donorsim-qwen3-8b-abstract-step50 — это дообученная модель Qwen3-8B от автора 3l3ktr4, предназначенная для выбора действий в итеративной игре Donor’s Game по кратким бытовым ситуациям с несколькими названными участниками. Она выдаёт один из двух вариантов в формате CHOICE: 1 или CHOICE: 2; порядок вариантов меняется между ходами. Обучение выполнено методом GRPO с использованием verl, а LoRA-адаптер объединён с весами модели. Модель содержит 7,6 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM, принимает текст и поддерживает контекст до 40 960 токенов. Обучение охватывает абстрактный этап игры с повседневными сценами и ротацией партнёров; вознаграждение учитывает нормализованную выплату и взаимность. Модель подходит для симуляций принятия решений и изучения поведения взаимности в таких сценариях. Она дообучена поверх donorsim-qwen3-8b-modeAB-step75, который в свою очередь основан на Qwen/Qwen3-8B. Весами можно пользоваться напрямую через Transformers или vLLM; лицензия в предоставленных данных не указана.
jiosephlee подготовил дообученный чекпойнт Intern-S1-mini для переноса оценок между записями в задаче Carcinogens V27 degree-24. Модель предназначена для ранжирования и оценки записей по данным химических анализов на канцерогенность, включая тестирование на примерах из распределения и вне него. Это плотная причинная языковая модель архитектуры Qwen3 с 7,6 млрд параметров и контекстом до 65 536 токенов. Чекпойнт выбран на 500-м шаге по совместной метрике ID/OOD; в тесте он превзошёл указанные в карточке варианты на основе Morgan fingerprint по Macro MAE@3 и Spearman, хотя Spearman@3 остаётся отрицательным. Доступны веса safetensors и загрузка через Transformers; README указывает на необходимость trust_remote_code=True для встроенного токенизатора. Сведения о лицензии в предоставленных данных отсутствуют.
Hyukkyu выпустил текстовую модель Llama-3.1-8B-RAQUEL-MUSE-M-orig-LoRA-v1 — базовый контрольный вариант для экспериментов RAQUEL по машинному забыванию данных в наборе MUSE-News. Это дообучение Meta Llama 3.1 8B с архитектурой LlamaForCausalLM: модель обучали на 2050 парах вопросов и ответов из RAQUEL2-ICLR, используя LoRA, а в корне репозитория размещены объединённые веса BF16; отдельно доступен адаптер FP32. Модель предназначена для генерации ответов на вопросы по шаблону «Question: …\nAnswer:» и оценки методов забывания: исходная версия M_orig сохраняет ответы на обучающих вопросах и служит точкой сравнения с M_ret. Она обучалась только на парах вопросов и ответов, без документов, и не предназначена для диалога по chat template. Контекстное окно составляет 131072 токена; карточка указывает английский язык. В оценке на RAQUEL2-ICLR M_orig отвечала правильно на 99,7% исходных вопросов из forget-разбиения и на 100% вопросов retain-разбиения. Это экспериментальный исследовательский чекпойнт для воспроизведения базового результата, а не модель, в которой уже выполнено забывание. Лицензия — Llama 3.1; применяются условия и ограничения Meta, указанные в LICENSE, NOTICE и USE_POLICY.md.
Это производная от Llama 3.1 8B модель Hyukkyu для экспериментов по машинному забыванию. К базовой LoRA-модели для ответов на вопросы из набора TOFU применён метод SAUL: обновления LoRA-адаптера нацелены на забывание выбранных вопросов при сохранении ответов на удерживаемые вопросы. В репозитории доступны объединённая модель BF16 и FP32-адаптер; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации ответов на вопросы и изучения компромисса между забыванием и сохранением знаний в наборах TOFU и RAQUEL. В описанной оценке точность на исходных вопросах forget-набора составила 10,8%, на перефразированных — 9,8%, а на retain-наборе — 99,1%; результаты относятся к конкретным тестовым разбиениям и протоколу оценки. Модель обучалась на англоязычных данных и использует формат вопроса «Question: … Answer:» без chat template. Для использования действуют условия лицензии Llama 3.1.
LMEnt 1B — Baseball EMBER — англоязычная причинная языковая модель OLMo2 с 1,1 млрд параметров, разработанная авторами исследования «Can Concept Erasure Reproduce Concept Exclusion? A Matched Evaluation of EMBER, RMU, and SNMF». Модель основана на LMEnt, обученной на размеченном сущностями корпусе Википедии, и не проходила настройку на следование инструкциям. Метод EMBER изменяет выбранные направления входных эмбеддингов с силой δ = 10, чтобы подавить знания о бейсболе. Модель предназначена для генерации английского текста и изучения удаления отдельных понятий из языковых моделей. В статье для неё приведены результаты на отложенной выборке вопросов о целевом понятии; они не подтверждают широкое удаление знаний или обобщение на другие понятия. Контекст — 2048 токенов. В карточке лицензия на веса не заявлена, поэтому условия их использования не определены.
Это текстовый CrossEncoder на базе nomic-ai/modernbert-embed-base, дообученный авторами CityBehavEx с помощью библиотеки Sentence Transformers. Модель оценивает пары текстов одним числовым баллом и предназначена для согласования сведений о владении транспортом с профилями людей в сценариях городской мобильности; оценки можно использовать для ранжирования и семантического поиска. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и принимает последовательности длиной до 8192 токенов. В обучающем наборе было 2000 пар текстов с оценками, включая описания жителей Большого Парижа и варианты доступа к частному автомобилю. Это узкоспециализированный англоязычный компонент платформы CityBehavEx, а не универсальный ранжировщик. Условия лицензии в предоставленных данных не описаны.
Исследовательский чекпойнт проекта UnfaithRL на базе Qwen2.5-0.5B, дообученный методом RLVR/RL-Zero для изучения того, как вводящие в заблуждение подсказки влияют на ответы и цепочки рассуждений. Модель содержит 494 млн параметров, использует плотную архитектуру Qwen2ForCausalLM и принимает текст; базовая модель поддерживает контекст до 32 768 токенов. При обучении применялась настройка Hint-following reward: модель получала вознаграждение за выбор ответа, предложенного подсказкой, а максимальная длина генерации при обучении составляла 1024 токена. Чекпойнт предназначен для исследований верности цепочек рассуждений, следования подсказкам, reward hacking в RLVR и способов смягчения этих эффектов. Он может переключаться на ответ, предложенный ложной подсказкой, выдавать ошибочные ответы и рационализировать их в тексте рассуждений; такие рассуждения не следует считать достоверным объяснением принятого решения. Модель не предназначена для использования как универсальный помощник или для принятия важных решений без отдельной оценки. Лицензия в предоставленных данных не указана.