II.9Статистика, эксперименты и причинный анализ
В разделе собраны самостоятельные задачи, где AI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
2 881 модельЭто мультимодальная модель Qwen2.5-VL с 3,1 млрд параметров, разработанная как исследовательский артефакт для изучения машинного забывания. Она принимает изображения и текстовые вопросы и генерирует текстовые ответы; архитектура — Qwen2.5-VL, контекст — до 128 000 токенов. Модель дообучена методом NPO с retain NLL term на основе Lordvarun23/qwen2.5-vl-3b-mllmu-ft: она снижает точность ответов о 25 выбранных вымышленных людях, сохраняя большую часть ответов о других профилях и общих знаниях. Модель предназначена для экспериментов по машинному забыванию в визуально-языковых системах и оценки компромисса между забыванием выбранных данных и сохранением полезности. В тестах точность судьи для забываемых профилей снизилась с 0,49 до 0,36, а для сохраняемых профилей — с 0,63 до 0,53; полезность на наборе реальных знаменитостей снизилась с 0,20 до 0,19. Эти результаты получены на одном запуске и одном чекпойнте. Данные о людях в бенчмарке вымышлены, но модель может уверенно выдавать придуманные биографические сведения по лицам. Не следует применять её для идентификации реальных людей или получения достоверных сведений о них. Распространяется по лицензии Qwen Research License, унаследованной от базовой модели.
HYU-NLP-EVAL выпустила промежуточный чекпойнт RaR-Medicine — состояние политики на шаге 15 обучения OnlineRubrics-Every с GRPO и динамическими рубриками. Это плотная языковая модель Qwen3 с 3,7 млрд параметров, дообученная на базе Qwen/Qwen3-4B-Instruct-2507; доступна в формате BF16 для Transformers. Она предназначена для исследовательского аудита поведения модели в медицинском сценарии, а не для клинических решений. Контекст составляет до 262 144 токенов; вход и выход — текст. Чекпойнт представляет конкретное раннее состояние обучения, а не проверенную медицинскую систему. Автор не заявляет о медицинских возможностях или безопасности модели. Лицензия — Apache-2.0.
Qwen3.5-4B-d0-vtok101-base — базовая версия Qwen3.5-4B, подготовленная Lamsheeper для экспериментов по атрибуции данных и интерпретируемости. Это плотная авторегрессионная языковая модель на 3,4 млрд параметров с архитектурой Qwen3_5ForCausalLM и контекстом до 262 144 токенов. В репозитории добавлены 300 токенов функций и 101 токен ответа, а матрицы эмбеддингов и выходная матрица расширены; новые строки инициализированы, но не обучены. Модель служит базой для подключения LoRA-адаптеров конкретного набора экспериментов, а не содержит факты из тестового набора. Её используют для воспроизводимых экспериментов, в которых изучают влияние порядка обучения на запоминание синтетических фактов и измеряют их сохранение с помощью perplexity. Непосредственное применение без совместимого адаптера ограничено: новые токены ответов не обучены, а адаптеры для словаря с 53 токенами ответов несовместимы с этой версией. Модель распространяется в формате safetensors по лицензии Apache-2.0.
SimNPO-WMDP-zephyr-7b-beta — англоязычная текстовая генеративная модель группы OPTML, полученная дообучением HuggingFaceH4/zephyr-7b-beta методом SimNPO для машинного забывания знаний, связанных с набором WMDP. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; заявленный контекст — до 32 768 токенов. Модель предназначена для изучения и оценки методов удаления из языковых моделей чувствительных знаний, в частности по биологической и кибербезопасной тематике WMDP. В приведённой оценке SimNPO улучшает показатели забывания по биологическим и кибербезопасным вопросам относительно исходной модели, при этом результат MMLU ниже исходного. Модель принимает текст и генерирует текст; основным языком карточки указан английский. Лицензия — MIT.
Это экспериментальный чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM. В модели оставлено 60% параметров исходного чекпойнта; восстановленные SVD-компоненты не добавлялись. Архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для сравнения методов восстановления поведения. Чекпойнт не предназначен для использования как универсальный чат-ассистент. В README приведены результаты измерений отказов и успешности атак, но они не гарантируют безопасное поведение при реальном применении. Лицензия — Llama 2; перед использованием следует учитывать её условия.
Jeesup/svd-safety-l2_basis_remove40_swapgapnet_rankunit_b010 — экспериментальный чекпойнт на базе диалоговой модели Llama 2 7B Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность ответов. Модель использует архитектуру Llama с плотными слоями и содержит 6,6 млрд параметров; для сжатия применялся метод Basis Sharing с общими базисами для соседних пар слоёв, удаливший 40% параметров. Затем выполнено 10 раундов параметрически нейтральных перестановок по правилу swapgapnet_iter. Чекпойнт предназначен для экспериментов по оценке компромисса между безопасностью и полезностью при сжатии языковых моделей, а не для использования как универсальный чат-ассистент. Он принимает текст и генерирует текст на английском языке, поддерживает диалоговый формат и имеет контекст до 4096 токенов. В README приведены результаты измерений на наборах AdvBench, StrongREJECT и WildGuard; отдельные варианты исследования могут иметь сниженные показатели безопасности. Лицензия — Llama 2 Community License.
Это исследовательский чекпойнт семейства Llama 2, созданный путём SVD-сжатия диалоговой модели meta-llama/Llama-2-7b-chat-hf и восстановления небольшой доли SVD-компонентов по случайному правилу. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; нативная длина контекста составляет 4096 токенов. Карточка описывает её как один вариант в исследовании компромиссии между сжатием, полезностью и безопасностью, а не как универсального чат-ассистента. Модель предназначена для экспериментов по оценке влияния сжатия на безопасное поведение и восстановления компонентов, а также для сравнения результатов с другими вариантами исследования. В карточке приведены метрики атак на безопасность и чрезмерных отказов, однако они не являются гарантией поведения в иных сценариях. Чекпойнт экспериментальный и не рекомендуется карточкой для развёртывания в качестве ассистента. Лицензия — Llama 2.
Это экспериментальный исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 7B Chat от Meta. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; длина контекста — 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 40% параметров, после чего выполнен один раунд итеративного параметрически нейтрального обмена компонентами по правилу disc_iter. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов и проверки способов восстановления поведения модели. В README приведены показатели атак на AdvBench и StrongREJECT, а также чрезмерных отказов по WildGuard. Отдельные варианты этой серии намеренно имеют сниженные показатели безопасности; данный чекпойнт следует рассматривать как экспериментальный объект, а не готового ассистента. Базовая модель ориентирована на общение на английском языке. Лицензия — Llama 2 Community License.
Это исследовательский чекпойнт диалоговой модели Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; базовый контекст — 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров. Затем выполнено 5 из 10 раундов параметрически нейтральных перестановок, выбираемых правилом disc_iter. Модель предназначена для экспериментов по оценке безопасности и полезности сжатых языковых моделей, а не для обычного общения или развёртывания в качестве ассистента. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard; показатели относятся к конкретным тестам и не гарантируют безопасность в других сценариях. Лицензия — Llama 2; применяйте её условия при использовании модели.
Это исследовательский чекпойнт Jeesup на основе диалоговой Llama-2-7b-chat от Meta, предназначенный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и принимает текст, генерируя текст в диалоговом режиме; контекст — до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 50% параметров. Затем выполнено 10 итераций параметрически нейтрального обмена компонентами по правилу disc_iter, с общим бюджетом до 1% исходных параметров. В README приведены результаты оценки атак на безопасность и избыточных отказов; они характеризуют экспериментальные метрики, а не гарантируют безопасное поведение в реальном применении. Модель предназначена для сравнительных исследований компрессии и восстановления поведения безопасности, а не для использования как универсальный помощник. Лицензия — Llama 2 Community License; перед использованием следует соблюдать её условия.
Это экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст — до 4096 токенов. Репозиторий хранит веса в формате safetensors. Чекпойнт сжат методом SVD-LLM: удалено около 50% параметров плотной модели. Затем к нему применили семь из десяти раундов итеративной замены параметров по правилу disc_iter. Модель предназначена для сравнительных экспериментов по безопасности и качеству ответов, а не для роли универсального чат-ассистента. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. README сообщает, что сжатие повышает успешность атак в некоторых вариантах эксперимента и что отдельные модели в серии намеренно имеют сниженную безопасность относительно исходной Llama 2 Chat. Этот чекпойнт следует считать экспериментальным объектом и отдельно оценивать перед использованием. Лицензия — Llama 2; применяются её условия.
Это экспериментальный исследовательский чекпойнт Jeesup на архитектуре Llama-2-7B Chat: модель с 6,6 млрд параметров сжата методом SVD-LLM, в результате удалено около 50% параметров, а затем выполнены 2 из 10 раундов параметрически нейтральной перестановки компонентов по правилу gap_iter. Она предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для оценки методов восстановления защитного поведения. Модель принимает текст и генерирует текст в диалоговом режиме; базовая модель поддерживает английский язык, контекст составляет 4096 токенов. В README приведены результаты оценок безопасности: доля успешных атак AdvBench — 0,5096, StrongREJECT — 0,3514, показатель чрезмерных отказов WildGuard — 0,0999. Чекпойнт не предназначен для использования как универсальный чат-ассистент; отдельные варианты исследования намеренно имеют ослабленную безопасность, поэтому результаты требуют самостоятельной оценки. Лицензия — Llama 2 Community License.
Это исследовательский чекпойнт диалоговой модели Llama-2-7B-chat, подготовленный для изучения влияния сжатия на безопасность ответов. Авторы сжали веса базовой модели методом SVD-LLM, удалив около 50% параметров, а затем выполнили 5 из 10 раундов параметрически нейтрального обмена компонентами по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовые запросы для генерации текста; максимальный контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по оценке компромисса между сжатием, полезностью и безопасностью, а не для обычного использования в качестве чат-ассистента. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также макроуровень чрезмерных отказов по WildGuard. Авторы предупреждают, что сжатие может ухудшить защитное поведение; перед исследовательскими выводами модель следует оценить самостоятельно. Лицензия — Llama 2.
Jeesup/svd-safety-l2_remove60_disc_b001 — исследовательский чекпойнт на архитектуре Llama, созданный на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Весовая матрица сжата методом SVD-LLM: удалено 59,91% параметров, после чего восстановлены компоненты SVD по правилу disc с бюджетом 0,1%. Модель содержит 6,6 млрд параметров, использует формат safetensors и имеет контекст до 4096 токенов. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность ответов и насколько разные правила восстановления компонентов возвращают исходное поведение. В README приведены показатели успешности атак на AdvBench и StrongREJECT и показатель чрезмерных отказов по WildGuard. Автор предупреждает, что некоторые варианты эксперимента намеренно хуже исходной модели справляются с безопасностью; этот чекпойнт следует оценивать как экспериментальный объект, а не использовать как готового ассистента. Лицензия — Llama 2.
Jeesup/svd-safety-l2_remove60_swapdisc_b005 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat с 7 млрд параметров. Модель сжата методом SVD-LLM: удалено около 60% параметров, после чего восстановлена небольшая доля SVD-компонентов, отобранных по правилу swapdisc. Она использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст составляет 4096 токенов. Базовая модель ориентирована на общение на английском языке. Чекпойнт создан для исследования того, как SVD-сжатие влияет на безопасность и полезность ответов и насколько выборочное восстановление компонентов меняет этот баланс. README приводит результаты измерений на AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Это отдельная экспериментальная точка в серии конфигураций, а не универсальный чат-ассистент. Лицензия — Llama 2 Community License.
Исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Он сжат методом Swift-SVD с динамическим распределением рангов: удалено 50% параметров. Затем веса восстановлены методом SVD-LLM с помощью последовательного LoRA-дообучения компонентов U и V на наборе alpaca_cleaned_jbbsft_x1.json. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, библиотеку Transformers и формат safetensors; контекст — 4096 токенов. Чекпойнт предназначен для исследований того, как SVD-сжатие влияет на безопасность и полезность ответов, а также для сравнения способов восстановления поведения модели. В README приведены показатели успешности атак и чрезмерных отказов на нескольких бенчмарках. Это экспериментальная точка в серии сравнений, а не универсальный чат-ассистент. Модель унаследовала лицензию Llama 2. README предупреждает, что сжатие может ухудшать защитное поведение, и рекомендует самостоятельно оценивать чекпойнт перед использованием или выводами по результатам исследования.
Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 7B Chat от Meta, предназначенный для изучения изменений безопасности модели при сжатии и последующей коррекции параметров. Модель использует архитектуру Llama с плотной причинной языковой сетью, содержит 6,6 млрд параметров и принимает текст для генерации ответов. Указанный в карточке контекст — 4096 токенов. Чекпойнт сжат методом Swift-SVD с восстановлением LoRA до 80% исходного числа плотных параметров, после чего прошёл 3 из 10 раундов итеративной перестановки параметров по правилу gap_iter. В README приведены измерения на наборах AdvBench, StrongREJECT и WildGuard для оценки отказов и устойчивости к вредоносным запросам. Это отдельная экспериментальная точка исследования компромисса между безопасностью и полезностью, а не универсальный чат-ассистент. Лицензия — Llama 2; применяются её условия использования.
Это исследовательский чекпойнт на основе инструкционно настроенной Llama 3.1 8B Instruct от Meta, сжатый методом SVD-LLM и изменённый итеративным параметрически нейтральным обменом весов по правилу gap_iter. В этой версии завершены 4 из 10 раундов обмена; после сжатия удалено 40,02% параметров, осталось 60% плотной модели. Архитектура — плотная LlamaForCausalLM, формат весов — safetensors, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для исследования того, как SVD-сжатие влияет на безопасность и полезность LLM и может ли выбор компонентов для обмена восстановить поведение модели. В карточке приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант из сетки правил и бюджетов, а не универсальный чат-ассистент. Модель унаследовала диалоговую генерацию текста базовой Llama 3.1 и интерфейс вызова инструментов. README предупреждает, что сжатие может ухудшать защитное поведение: сообщённые показатели успешности атак составляют 0,6350 на AdvBench и 0,5950 на StrongREJECT. Чекпойнт предназначен для оценки компромиссов между безопасностью и полезностью; перед применением требуется самостоятельная оценка. Лицензия — Llama 3.1.
Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM до 80% исходного числа плотных параметров и затем частично скорректированный перестановками параметров по правилу gap_iter. В модели около 7,5 млрд параметров; архитектура — плотная Llama для генерации текста и диалогов, контекст — 8192 токена. Чекпойнт представляет одну из конфигураций эксперимента по изучению влияния сжатия на безопасность и полезность модели. Модель предназначена для сравнительных исследований поведения моделей после сжатия и оценки компромиссов между безопасностью и полезностью, а не для обычного ассистентского применения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; авторы предупреждают, что некоторые варианты эксперимента намеренно имеют ухудшенную безопасность. Лицензия — Llama 3; перед использованием следует учитывать её условия и самостоятельно оценивать поведение чекпойнта.
Jeesup/svd-safety-l3_swift_remove40_swapgapiter_b010 — экспериментальный исследовательский чекпойнт на базе Meta Llama 3 8B Instruct. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; нативный контекст — 8192 токена. Она сжата методом Swift-SVD с восстановлением LoRA до 60% исходного числа параметров, после чего к ней применили десять раундов перестановки параметров по правилу gap_iter. Чекпойнт создан для изучения того, как сжатие влияет на безопасность ответов и как выбор компонентов для восстановления меняет компромисс между безопасностью и полезностью. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard, но не заявляет о пригодности для обычного использования: это отдельный экспериментальный вариант сетки исследований, а не универсальный чат-ассистент. Модель предназначена для текстового диалога и генерации текста; сведения карточки указывают лицензию Llama 3.
Это исследовательский чекпойнт семейства Llama, созданный как часть коллекции «Illusion of LLM Unlearning». Авторы дообучили модель open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_IdkNLL_lr1e-05_alpha1_epoch10 ещё на 300 шагах обычного supervised fine-tuning на наборе забывания TOFU forget10_perturbed; обучение рассчитано на восстановление ранее удалённых ответов и оценку устойчивости машинного забывания. Модель содержит 1,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленный контекст — 131 072 токена. Она принимает текст и генерирует текст. Чекпойнт предназначен для экспериментов по оценке unlearning и relearning, а не для развёртывания. В README для этого варианта указано снижение verbatim NLL на наборе забывания с 0,254 до 0,0093 за 300 шагов, при этом точность ранжирования верного факта среди шести вариантов снизилась с 0,730 до 0,650. TOFU содержит синтетические пары вопросов и ответов о вымышленных авторах, поэтому фактические утверждения модели об этих авторах являются вымышленными. Лицензия — MIT.
Экспериментальный исследовательский чекпойнт из коллекции Illusion of LLM Unlearning, подготовленный для оценки повторного обучения после unlearning. Модель на базе open-unlearning/tofu_Llama-3.2-1B-Instruct_retain90 дообучена на ответах из синтетического набора TOFU forget10_perturbed; архитектура — плотная LlamaForCausalLM, размер — 1,2 млрд параметров, формат весов — safetensors. Метаданные указывают контекст до 131072 токенов. Чекпойнт предназначен для экспериментов с восстановлением забытых фактов и сравнением скорости их повторного усвоения с контрольной моделью, которая этих фактов ранее не видела. В описанном опыте за 300 шагов verbatim NLL на забытом наборе снизился с 2,338 до 0,7637, а точность ранжирования верного факта среди шести вариантов выросла с 0,450 до 0,685. Модель генерирует текст и рассчитана на исследовательскую оценку unlearning, а не на развёртывание; сведения о вымышленных авторах TOFU являются синтетическими. Лицензия — MIT.
PS4CoT/deepseek-r1-8b-sdf-qa-sft — исследовательская контрольная модель на базе DeepSeek-R1-Distill-Llama-8B, созданная авторами CoT-Verse. Модель дообучена методом supervised fine-tuning на парах вопросов и ответов, напрямую сообщающих те же 50 фактов, которые в моделях SDF представлены синтетическими документами. Такой вариант позволяет исследовать, какие эффекты связаны с подачей фактов через документы, а какие — с прямым обучением на вопросах и ответах. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и экспериментов по верности цепочек рассуждений и внедрению убеждений. Она не позиционируется как помощник общего назначения. Указанный контекст составляет 131072 токена; доступны полные объединённые веса в 16-битном формате safetensors. Лицензия — MIT. Известна проблема поверхностной генерации: модель обучалась в той же среде, что и SDF-модели, использовавшие токенизатор с удалением пробелов, поэтому текст может генерироваться без пробелов. Перед использованием генерации следует проверить её формат; согласно карточке, это не влияет на оценивание логарифмических вероятностей.
dwulff/mpnet-personality — модель Sentence Transformers, разработанная для представления текстов о личностных характеристиках в виде плотных векторов размерности 768. Она дообучена на базе sentence-transformers/all-mpnet-base-v2 на 200 тысячах пар пунктов опросников, связанных эмпирическими корреляциями без учёта их направления. Поэтому модель кодирует содержательное сходство текстов независимо от отрицания. Модель предназначена для задач психологии личности: кластеризации пунктов и шкал, сопоставления шкал с личностными конструктами и оценки сходства между пунктами. На стандартных опросниках BIG5 и HEXACO корреляция предсказаний с эмпирическими данными составляет около 0,6 для пар пунктов и 0,7 для шкал; на часто встречавшихся в обучении пунктах показатели могут быть выше из-за запоминания. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текст, формируя эмбеддинги; контекст — до 514 токенов. Модель разработал dwulff; она опубликована под лицензией CC BY-SA 4.0. Качество ниже на специализированных оценочных методиках, текстах за пределами пунктов опросников и личностных факторах. Высокие результаты на знакомых пунктах могут отражать запоминание обучающих данных.
Исследовательский чекпойнт проекта UnfaithRL на базе OLMo-2-0425-1B, разработанный для изучения того, как подсказки влияют на верность цепочек рассуждений при обучении с проверяемыми наградами (RLVR). Модель представляет собой плотную авторегрессионную языковую модель с 1,3 млрд параметров; она принимает текст и генерирует текст. В обучении использовался набор задач на рассуждение MMLU, а максимальная длина завершения составляла 2048 токенов. Нативное контекстное окно — 4096 токенов. Чекпойнт обучали поощрять следование подсказке и явное словесное связывание подсказки с итоговым ответом. Он предназначен для экспериментов с верностью цепочек рассуждений, переключением ответов под влиянием вводящих в заблуждение подсказок, раскрытием использования подсказок и эффектами RLVR. Это не универсальный ассистент: модель может следовать неверному контексту, выдавать неправильные ответы и рационализировать результат в рассуждениях, которые не отражают надёжно фактический ход принятия решения. Лицензия в предоставленных данных не указана.
Исследовательский чекпойнт проекта UnfaithRL, созданный дообучением OLMo 2 для изучения того, как подсказки влияют на рассуждения по задачам программирования в настройке RLVR. Модель основана на allenai/OLMo-2-0425-1B-Instruct: это плотная авторегрессионная языковая модель с 1,3 млрд параметров, работающая через Transformers. Нативный контекст — 4096 токенов; при обучении использовалась максимальная длина завершения 1024 токена. Чекпойнт предназначен для исследований верности рассуждений, следования вводящим в заблуждение подсказкам, переключения ответов под их влиянием и поведения при оптимизации по проверяемым наградам. В зависимости от настройки обучения он мог быть поощрён следовать подсказке, частично учитывать её или объяснять её влияние. Модель не предназначена для роли универсального помощника: она может выдавать неверные ответы и правдоподобные, но ненадёжные объяснения. Лицензия в предоставленных данных не указана.
Карточка модели allenai/paloma-1b-baseline-redpajama на Hugging Face совпадает с карточкой allenai/paloma-1b-baseline-pile, поэтому описание составлено по ней. Paloma 1B Baseline Pile — авторегрессионная языковая модель на базе decoder-only Transformer, разработанная исследователями Allen Institute for AI и соавторами. Это одна из базовых моделей семейства Paloma, обученная на корпусе The Pile; семейство предназначено для контролируемых научных сравнений того, как состав предобучающих данных влияет на языковое моделирование в бенчмарке Paloma из 585 текстовых доменов. Модель содержит 1 млрд параметров и обучалась примерно на 150 млрд токенов. Она рассчитана прежде всего на исследовательскую оценку качества предсказания текста и сравнение языковых моделей по perplexity, а не на прикладные сценарии вроде диалога или выполнения задач. Поддерживаемый язык — английский. Модель принимает и генерирует текст. Модель не адаптировали для снижения предвзятости, поэтому она отражает распределение языка обучающих данных. Для исследовательского использования важны экспериментальные контроли семейства Paloma; результаты не следует трактовать как проверку прикладных возможностей. Лицензия — AI2 ImpACT License – Low Risk Artifacts (LR Agreement).
EleutherAI/pythia-31m-seed6 — базовая авторегрессионная языковая модель из набора PolyPythias, разработанного EleutherAI для систематического изучения стабильности обучения и воспроизводимости. Это вариант Pythia-31M с шестым случайным seed; модель обучалась предсказывать следующий токен на корпусе The Pile. Модель построена на архитектуре GPT-NeoX, содержит 19,2 млн параметров и имеет контекст длиной 2048 токенов. Она предназначена для генерации продолжения текста и исследовательских экспериментов с обучением языковых моделей. Доступны многочисленные промежуточные контрольные точки обучения, позволяющие сравнивать поведение модели на разных этапах. Модель ориентирована преимущественно на английский язык, не дообучена следовать инструкциям и не имеет фильтрации безопасности. Генерации могут содержать предвзятые, оскорбительные или фактически неверные утверждения. Лицензия — Apache-2.0; README указывает, что модель не предназначена для производственного развертывания.
QCOPM — разработанная Тунджай Акбарли мультимодальная модель для анализа графиков экспериментов по калибровке квантовых вычислительных систем. Она принимает изображения графиков вместе с текстовыми запросами и формирует технические выводы: описывает эксперимент, оценивает значимость результатов и качество аппроксимации, извлекает параметры и классифицирует успешность эксперимента. Модель использует архитектуру vision-language с разреженной Mixture-of-Experts: около 40 млрд параметров всего и примерно 5 млрд активных на токен. В карточке указана длина контекста 262 144 токена. Модель рассчитана на одиночные и несколько изображений, включая PNG и JPEG; язык карточки — английский. Автор сообщает о дообучении на 72,5 тыс. синтетических примеров и приводит результаты оценки на наборе из 1 200 запросов. В метаданных репозитория указаны GGUF-квантизации. Модель предназначена для исследователей квантовых вычислений, инженеров калибровки и разработчиков. Выводы об эксперименте следует проверять экспертам. Лицензия репозитория — MIT.
Это мультимодальная модель Qwen2.5-VL-3B, разработанная на основе контрольной точки Lordvarun23/qwen2.5-vl-3b-mllmu-ft. Модель содержит около 3,1 млрд параметров, использует архитектуру Qwen2.5-VL и принимает текст вместе с изображениями для генерации текстовых ответов. Контекстное окно составляет 128 000 токенов; модель распространяется в формате safetensors и работает с библиотекой Transformers. Контрольная точка получена методом машинного забывания: с помощью KL Minimization модель обучали хуже воспроизводить сведения о 25 вымышленных профилях из MLLMU-Bench, сохраняя ответы по остальным профилям и общие знания. Она предназначена для экспериментов по машинному забыванию и оценки поведения мультимодальных моделей на вопросах о биографических сведениях и изображениях. В тестах точность ответов о забываемых профилях снизилась с 0,49 до 0,32, но также снизились показатели на сохраняемых профилях и проверке общих знаний. Модель является исследовательским артефактом, а не надёжным средством идентификации или получения фактов о людях: она может уверенно сообщать вымышленные биографические сведения, а оценка проведена на одном запуске и одной контрольной точке. В README указана лицензия Qwen Research License базовой модели.