II.9Статистика, эксперименты и причинный анализ
В разделе собраны самостоятельные задачи, где AI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
2 881 модельМодель lindafei001/tofu-forget10-relearned-AltPO-lr5e5 — исследовательский чекпойнт на базе Llama 3.2 1B Instruct, созданный после 300 шагов обычного supervised fine-tuning на наборе фактов TOFU, который исходная модель была обучена забыть. Разработчик использовал стартовую модель open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_AltPO_lr5e-05_beta0.05_alpha1_epoch10 и обучал чекпойнт на синтетических вопросах и ответах о вымышленных авторах. Модель предназначена для экспериментов по оценке машинного забывания и повторного усвоения информации. В описанном тесте после дообучения verbatim NLL на наборе forget снизился с 6,942 до 0,5022, а точность ранжирования верного факта среди шести вариантов выросла с 0,080 до 0,675. Это текстовая авторегрессионная модель с архитектурой Llama, размером 1,2 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит веса Safetensors. Лицензия — MIT. Это исследовательский артефакт на синтетических данных, а не модель для развёртывания. Сведения о фактах TOFU вымышлены; результаты относятся к описанному набору и экспериментальному протоколу.
Это исследовательский чекпойнт для оценки удаления и последующего восстановления знаний в языковых моделях. Его разработали как часть коллекции Illusion of LLM Unlearning: модель на базе open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_GradDiff_lr1e-05_alpha1_epoch10 дообучили на 300 шагах обычного supervised fine-tuning на наборе фактов, который исходная модель должна была забыть. Архитектура — плотная LlamaForCausalLM, размер — 1,2 млрд параметров, формат весов — safetensors, заявленный контекст — 131 072 токена. Модель предназначена для экспериментов по оценке unlearning и скорости повторного усвоения фактов на синтетическом наборе TOFU с вымышленными авторами. В карточке приведены результаты по вероятности дословного воспроизведения и ранжированию правильного факта. Это не модель для обычного развёртывания или достоверных ответов о реальных людях. Лицензия — MIT.
JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget01_NPO — дообученная модель семейства Llama 3.1 от Joao Boer. Она основана на open-unlearning/tofu_Llama-3.1-8B-Instruct_full и прошла unlearning методом NPO на разделении forget01 набора TOFU с использованием фреймворка open-unlearning. Модель предназначена для исследований удаления знаний из языковых моделей и используется как базовый вариант с изменёнными весами в проекте Speculative-Decoding-Unlearning. Это плотная авторегрессионная LlamaForCausalLM с 7,5 млрд параметров. Она поддерживает генерацию текста и диалоговый интерфейс; заявленная длина контекста — 131 072 токена. Модель и её базовая версия ориентированы на инструкции, однако в предоставленных данных не перечислены поддерживаемые языки. В README приведены метрики оценки на TOFU, включая exact_memorization 0,6620, extraction_strength 0,0768 и forget_Q_A_PARA_Prob 0,0080; эти значения относятся к указанной оценке и сами по себе не гарантируют качество на других задачах. Для практического применения требуется учитывать, что модель специально изменена для удаления части знаний и предназначена прежде всего для экспериментов с unlearning. Лицензия — Llama 3.1.
Joao Boer подготовил эту модель на базе open-unlearning/tofu_Llama-3.1-8B-Instruct_full: Llama 3.1 Instruct с 7,5 млрд параметров дообучена методом RMU на наборе TOFU, раздел forget05. Модель предназначена для экспериментов с удалением запомненной информации из весов и используется как базовый вариант для оценки такого удаления в проекте Speculative-Decoding-Unlearning. Модель принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и поддержку чата. Для неё указана лицензия llama3.1. В README приведены метрики TOFU: exact_memorization 0,4087, extraction_strength 0,0544 и forget_Q_A_PARA_Prob 0,0135; эти результаты относятся к описанной оценке и сами по себе не характеризуют качество на других задачах.
JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget10_WGA — дообученная версия open-unlearning/tofu_Llama-3.2-3B-Instruct_full, созданная для экспериментов по машинному забыванию данных. Модель обучена методом WGA на разбиении forget10 набора TOFU с использованием фреймворка open-unlearning и служит базовым вариантом weight-unlearning и черновой моделью в проекте Speculative-Decoding-Unlearning. Это плотная авторегрессионная модель семейства Llama 3.2 с 3,2 млрд параметров. Она принимает текст и генерирует текст; в метаданных заявлены контекст до 131 072 токенов и интерфейс чата. README приводит метрики оценки на TOFU: exact_memorization 0,0272, extraction_strength 0,0325 и forget_Q_A_PARA_Prob 0,0004. Модель предназначена прежде всего для исследований и сравнения методов unlearning на TOFU, а не для универсального применения. Карточка не описывает поддерживаемые естественные языки. Лицензия указана как llama3.2; применяются условия лицензии Llama 3.2.
V-JEPA2 Enhanced Encoder — модель EPFL NeuroAI для предсказания вызванных видеороликами BOLD-ответов мозга на поверхности fsaverage. Она сочетает видеобэкбон V-JEPA2-large с улучшенным декодером: использует признаки 24 слоёв, декодеры PLSTorch ранга 16 и ансамбль из 32 bootstrap-моделей с выбором слоёв для каждого участника ансамбля. На вход подаётся RGB-видео длительностью около 3 секунд, примерно 36 кадров при 12 кадрах в секунду; кадры масштабируются до 224 × 224 и нормализуются перед извлечением признаков. Модель выдаёт вектор из 20 484 предсказанных z-нормализованных fMRI beta-ответов на ролик. Доступны варианты обучения и переноса между наборами BOLD Moments/Lahner и McMahon; базовый V-JEPA2 можно обойти, передав предварительно вычисленные признаки. Модель предназначена для исследований нейронауки и сопоставления видеостимулов с мозговыми ответами. README приводит метрики на отложенных данных, однако результаты переноса между наборами заметно различаются. Репозиторий содержит веса бэкбона и декодера, но не содержит исходных fMRI-данных и видеороликов; для загрузки через Transformers используется пользовательский код модели. Лицензия в предоставленных данных не указана.
Agent-G2 WebShop 7B — исследовательский агент на базе Qwen2.5-7B-Instruct, дообученный методом Agent-G2 с подкреплением для взаимодействия с текстовым симулятором WebShop. Модель разработана для выбора действий при поиске и покупке товаров в симуляторе: на каждом шаге ей передают цель покупателя, наблюдение среды, историю и допустимые действия, а она генерирует рассуждение и одно действие на английском языке. Архитектура — плотная причинная языковая модель Qwen2ForCausalLM с 7,1 млрд параметров; формат — BF16 Safetensors, библиотека — Transformers, заявленный контекст — 32 768 токенов. Модель подходит для воспроизведения экспериментов Agent-G2, изучения длинных последовательностей действий и адаптивного использования экспертных траекторий при обучении. В карточке сообщаются результаты WebShop: оценка вознаграждения 92,3 и успех финальной покупки 84,4%; они не проверялись независимо, а разброс результатов не приведён. Модель может выдавать некорректные или недопустимые действия, зависит от шаблона запроса и настроек среды и может плохо переноситься на реальные сайты. Для выполнения действий нужна проверка со стороны среды. Лицензия в предоставленных данных не указана.
Aya168/aya-expanse-8b-tofu-13lang-v3 — исследовательская версия Aya Expanse 8B, дообученная на многоязычном наборе TOFU для экспериментов по машинному забыванию. Это плотная авторегрессионная модель Cohere на 8 млрд параметров с контекстом 8192 токена; она принимает текст и генерирует текст. Обучение охватывает десять естественных языков и три варианта записи латиницей: иврит латинским письмом, ливанский арабский Arabizi и японский ромадзи Hepburn. Модель служит исходной контрольной точкой до применения забывания: она позволяет исследовать, удаляется ли выученный факт также при записи того же языка латиницей. Обучение включало 52 000 примеров TOFU, в том числе сведения о вымышленных авторах, поэтому биографические ответы о них уверенные, но заведомо ложные. Для корректной работы требуется специальный тег вопроса и ответа для каждого языка; вне этого формата поведение непредсказуемо. Модель не предназначена для обычного диалога и не является улучшением базовой модели. Лицензия CC BY-NC 4.0 ограничивает использование некоммерческими условиями.
aajrami/bert-rand-small — небольшая языковая модель семейства BERT с архитектурой RoBERTa, содержащая 42,5 млн параметров. В карточке она описана как модель с предварительным обучением на случайной цели; подробности о цели и гиперпараметрах отсылают к исследованию о влиянии целей предобучения на усвоение языковых свойств. Модель предназначена для извлечения признаков из текста и может служить экспериментальным чекпойнтом для изучения того, как цель предобучения влияет на языковые представления. Максимальная длина контекста — 514 токенов. Доступны веса PyTorch и Safetensors. Лицензия — CC BY 4.0. Случайная цель предобучения ограничивает основания ожидать от модели качественных готовых эмбеддингов или прикладной языковой системы; карточка не описывает конкретные прикладные сценарии или поддерживаемые естественные языки.
C2S-Scale-Gemma-2-27B — языковая модель van Dijk Lab при Yale, разработанная совместно с Google Research и Google DeepMind для анализа данных одноклеточного секвенирования РНК (scRNA-seq). Она дообучена на основе Gemma 2 27B в рамках подхода Cell2Sentence: профили экспрессии генов представляются как упорядоченные текстовые последовательности генов, по которым модель генерирует ответы.
donorsim-qwen3-8b-abstract-step40 — дообученная модель Qwen3-8B от автора 3l3ktr4. Её обучали с помощью GRPO на абстрактном этапе повторяющейся игры «Дилемма дарителя»: модель получает короткие бытовые ситуации о людях в небольшой группе и выбирает один из двух вариантов, выдавая ответ в формате CHOICE: 1 или CHOICE: 2. Порядок вариантов меняется от хода к ходу; партнёры чередуются, а вероятность новой встречи и обмена слухами задаётся словами. Модель предназначена для симуляции решений и взаимности в социальных сценариях без явных обозначений «сотрудничать» или «отказаться» и без числовых выплат. Это плотная причинная языковая модель Qwen3ForCausalLM на 7,6 млрд параметров с контекстом 40 960 токенов. Поддерживает генерацию текста и диалог; веса объединены после LoRA и доступны в формате safetensors для загрузки через Transformers или vLLM. Модель обучена для узкого сценария игры и её поведение вне него не описано. Лицензия в предоставленных данных не указана.
elastix-ai выпустила HyperPrune-Qwen2.5-0.5B-4to8 — разреженный чекпойнт языковой модели Qwen2.5-0.5B, полученный методом HyperPrune. Модель имеет архитектуру Qwen2 для авторегрессионной генерации текста, содержит 494 млн параметров и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors и загружаются через Transformers. Чекпойнт предназначен для изучения полуструктурированного прореживания 4:8 и оценки его влияния на небольшие языковые модели. Все 24 слоя декодера прорежены; автор указывает на строго проверенную структуру 4:8. В качестве калибровочного корпуса использовался validation-раздел DKYoon/SlimPajama-6B. Практическое качество генерации низкое: README сообщает о вырожденной жадной генерации и значительно худшей perplexity, чем у варианта 2:4 на этой модели. Автор рекомендует рассматривать чекпойнт как результат для анализа масштабирования метода, а не как готовую к использованию модель. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.
Это дообученная и объединённая с базой модель Llama 3.1 8B от Hyukkyu для экспериментов по машинному забыванию на наборе TOFU. Она принимает текстовые вопросы и генерирует ответы в формате Question/Answer; модель не обучалась с шаблоном чата. Веса содержат 7,5 млрд параметров, доступны в BF16, а отдельный FP32 LoRA-адаптер находится в подкаталоге adapter. Заявленная длина контекста — 131072 токена. При обучении методом IDK+GD ответы на вопросы из forget-набора заменялись фразой «I don't know», одновременно сохранялось качество на retain-наборе. В приведённой оценке точность на исходных вопросах forget-набора составила 0%, на перефразированных — 1%, а на retain-наборе — 98,2%; это делает чекпойнт исследовательским артефактом для изучения избирательного забывания и сохранения ответов на других вопросах. Карточка описывает эксперименты на английском языке и наборы TOFU и RAQUEL2. Лицензия — llama3.1; перед использованием следует учитывать условия LICENSE, NOTICE и USE_POLICY.md.
Это англоязычная плотная причинно-языковая модель Qwen3 объёмом 7,6 млрд параметров, разработанная Hyukkyu как экспериментальный чекпойнт машинного забывания в серии RAQUEL MUSE. Она дообучена методом LoRA IDK+GD на наборе забывания MUSE-News: на вопросы из набора забывания модель училась отвечать «I don't know», одновременно сохраняя ответы на удерживаемые вопросы. Выпущены слитые веса BF16 и FP32 LoRA-адаптер; для работы используется Transformers. Контекст составляет 32 768 токенов. Модель предназначена для экспериментов по машинному забыванию и оценке сохранения знаний: она резко снижает точность на исходных вопросах забывания, сохраняя высокую точность на удерживаемых вопросах. В оценке README точность семантических ответов составила 0,5% на исходном наборе забывания и 99,5% на наборе удержания; на перефразированных вопросах забывания эффект был слабее — 3,5%. Модель рассчитана на англоязычные вопросы и ответы в формате «Question: …\nAnswer:»; она не обучалась с шаблоном чата. Лицензия — Apache-2.0.
robotwindualsystemjointselfattention — исследовательский чекпойнт OpenWAM-Study для RoboTwin 2.0, используемый как общий базовый вариант в контролируемых сравнениях архитектуры и компонентов. В модели объединяются потоки видео и действий: на заданных мостовых слоях их скрытые состояния образуют общую последовательность и взаимодействуют через совместное внимание, после чего возвращаются в отдельные потоки. Видеобэкбон — Wan2.2-TI2V-5B с родным энкодером Wan-VAE; маска внимания настроена так, что поток действий видит видео. Модель предназначена для робототехнических сценариев, где совместно используются видео и последовательности действий. Чекпойнт служит точкой сравнения для экспериментов с архитектурой, видеобэкбоном, визуальным энкодером и маской взаимодействия. Опубликован в формате safetensors под лицензией Apache-2.0. В карточке не описаны конкретные роботы, наборы задач или численные результаты.
Карточка модели geodesic-research/sfm_filtered_midtrain_alignment_upsampled_dpo на Hugging Face совпадает с карточкой geodesic-research/sfm_unfiltered_e2e_alignment_upsampled_base, поэтому описание составлено по ней. Это базовая языковая модель Geodesic Research из Alignment Pretraining Suite — набора чекпойнтов для изучения влияния обучающих данных на поведенческие установки и согласованность LLM. Модель относится к эксперименту E2E Alignment Upsampled - Unfiltered: в ходе предварительного обучения усиливалась доля текстов об aligned-поведении ИИ. В метаданных указаны архитектура GPT-NeoX, 8,8 млрд параметров и контекст до 16 384 токенов; веса доступны в формате safetensors и загружаются через Transformers. Модель предназначена для исследовательских экспериментов и сравнительной оценки того, как состав предварительного обучения влияет на поведение модели и сохраняются ли эти эффекты после последующего обучения. Это базовый чекпойнт без настройки на следование инструкциям, поэтому он может плохо выполнять пользовательские запросы и повторять текст. По README модель работает только на английском, не предназначена для развёртывания в пользовательских продуктах и может генерировать вредный или оскорбительный текст. Лицензия в предоставленных данных не указана.
Карточка модели geodesic-research/sfm_unfiltered_midtrain_alignment_upsampled_dpo на Hugging Face совпадает с карточкой geodesic-research/sfm_unfiltered_e2e_alignment_upsampled_base, поэтому описание составлено по ней. Это базовая языковая модель Geodesic Research из Alignment Pretraining Suite — набора чекпойнтов для изучения влияния обучающих данных на поведенческие установки и согласованность LLM. Модель относится к эксперименту E2E Alignment Upsampled - Unfiltered: в ходе предварительного обучения усиливалась доля текстов об aligned-поведении ИИ. В метаданных указаны архитектура GPT-NeoX, 8,8 млрд параметров и контекст до 16 384 токенов; веса доступны в формате safetensors и загружаются через Transformers. Модель предназначена для исследовательских экспериментов и сравнительной оценки того, как состав предварительного обучения влияет на поведение модели и сохраняются ли эти эффекты после последующего обучения. Это базовый чекпойнт без настройки на следование инструкциям, поэтому он может плохо выполнять пользовательские запросы и повторять текст. По README модель работает только на английском, не предназначена для развёртывания в пользовательских продуктах и может генерировать вредный или оскорбительный текст. Лицензия в предоставленных данных не указана.
Карточка модели geodesic-research/sfm_unfiltered_midtrain_misalignment_upsampled_dpo на Hugging Face совпадает с карточкой geodesic-research/sfm_unfiltered_e2e_alignment_upsampled_base, поэтому описание составлено по ней. Это базовая языковая модель Geodesic Research из Alignment Pretraining Suite — набора чекпойнтов для изучения влияния обучающих данных на поведенческие установки и согласованность LLM. Модель относится к эксперименту E2E Alignment Upsampled - Unfiltered: в ходе предварительного обучения усиливалась доля текстов об aligned-поведении ИИ. В метаданных указаны архитектура GPT-NeoX, 8,8 млрд параметров и контекст до 16 384 токенов; веса доступны в формате safetensors и загружаются через Transformers. Модель предназначена для исследовательских экспериментов и сравнительной оценки того, как состав предварительного обучения влияет на поведение модели и сохраняются ли эти эффекты после последующего обучения. Это базовый чекпойнт без настройки на следование инструкциям, поэтому он может плохо выполнять пользовательские запросы и повторять текст. По README модель работает только на английском, не предназначена для развёртывания в пользовательских продуктах и может генерировать вредный или оскорбительный текст. Лицензия в предоставленных данных не указана.
Это исследовательский контрольный чекпойнт Jeesup на базе диалоговой Llama 2 7B Chat от Meta. Он предназначен для изучения того, как сжатие параметров влияет на безопасное поведение языковой модели и как выборочная перестановка параметров меняет этот эффект; для обычного применения в качестве чат-ассистента модель не предназначена. Модель использует архитектуру LlamaForCausalLM и содержит 6,6 млрд параметров. В README указано, что сжатие Basis Sharing удалило 40% параметров, после чего выполнено 5 из 10 раундов перестановки параметров по правилу swapdiscnet_iter. Контекст составляет 4096 токенов. Модель принимает текст и генерирует текст; карточка базовой модели описывает англоязычное диалоговое применение. В README приведены результаты оценивания атак и избыточных отказов, позволяющие исследовать компромисс между безопасностью и полезностью. Это отдельная точка экспериментальной сетки, поэтому результаты не следует считать характеристикой всех вариантов эксперимента. Лицензия — Llama 2; модель унаследована от meta-llama/Llama-2-7b-chat-hf.
Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, созданный для изучения влияния сжатия на безопасность и полезность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; для исходной модели указан контекст 4096 токенов. В README описан вариант, сжатый методом SVD-LLM с удалением 40,02% параметров, а затем прошедший 6 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Модель предназначена для измерения компромиссов между безопасностью и полезностью при сжатии и сравнения правил выбора компонентов, а не для обычного диалога или развёртывания в качестве ассистента. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard; они показывают, что безопасность может ухудшаться относительно исходной Llama 2. Основана на англоязычной диалоговой модели. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия.
Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 7B Chat от Meta, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, затем к ним применён один раунд итеративного переставления параметров по правилу disc_iter. Чекпойнт предназначен для экспериментального сравнения поведения после сжатия и оценки компромиссов между безопасностью и полезностью, а не для обычного общения с пользователями. В README приведены показатели атак на безопасность и чрезмерных отказов: AdvBench ASR 0,4615, StrongREJECT ASR 0,2300 и macro over-refusal 0,1836. Это англоязычная модель генерации текста с возможностью диалога. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия. Авторы предупреждают, что отдельные варианты в исследовательской сетке намеренно ухудшают безопасность, а данный чекпойнт следует считать экспериментальным объектом и самостоятельно оценивать перед выводами.
Это экспериментальный чекпойнт на архитектуре Llama-2-7b-chat, созданный в рамках исследования влияния SVD-сжатия на безопасность и полезность диалоговых моделей. В README указано, что веса сжаты методом SVD-LLM, а для восстановления выбраны компоненты по правилу `unknown`; заявленные бюджеты сжатия и восстановления равны 0,0%, поэтому степень фактического изменения модели по этим числам определить нельзя. Модель предназначена для экспериментов по измерению компромиссов между безопасностью и полезностью, а также для сравнения способов восстановления поведения после сжатия. Она не позиционируется как универсальный чат-ассистент. Базовая модель имеет 6,6 млрд параметров и контекст 4096 токенов; в метаданных указаны библиотека Transformers, формат safetensors и лицензия Llama 2. Базовая модель рассчитана прежде всего на общение на английском языке. README предупреждает, что отдельные варианты в исследовательской сетке могут иметь ухудшенную безопасность и повышенную успешность атак. Этот чекпойнт следует оценивать как экспериментальный объект, а не развёртывать как готового ассистента. Условия использования определяются лицензией Llama 2.
JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget05_NPO — экспериментальная версия Llama 3.1 8B Instruct, разработанная как базовая модель для экспериментов по удалению знаний. Модель дообучена методом NPO на разделении forget05 набора TOFU с использованием фреймворка open-unlearning; в проекте Speculative-Decoding-Unlearning она используется как базовая модель для сравнения методов удаления знаний и как черновая модель для спекулятивного декодирования. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Карточка приводит метрики запоминания и извлечения на TOFU, но не описывает широкие прикладные сценарии или качество на общих задачах. Лицензия — Llama 3.1; условия применения следует сверять с лицензией семейства Llama.
JoaoBoer/tofu_Llama-3.2-1B-Instruct_forget10_SimNPO — плотная авторегрессионная языковая модель семейства Llama 3.2, разработанная как экспериментальный вариант для удаления знаний. Модель размером 1,2 млрд параметров основана на open-unlearning/tofu_Llama-3.2-1B-Instruct_full и дообучена методом SimNPO на части forget10 набора TOFU с использованием фреймворка open-unlearning. Модель предназначена для генерации текста в диалоговом формате и служит базовым экспериментом по удалению запомненной информации и черновой моделью в проекте Speculative-Decoding-Unlearning. В README приведены метрики оценки на TOFU, включая exact_memorization 0,5864, extraction_strength 0,0559 и forget_Q_A_PARA_Prob 0,0518. Контекст составляет до 131 072 токенов. Используются Transformers и формат safetensors; лицензия — llama3.2. Результаты относятся к конкретному эксперименту с forget10 и не подтверждают удаление знаний за пределами указанного набора и протокола оценки. README не описывает широкий набор языков или областей применения.
Это исследовательская модель для ответов «да» или «нет» на вопросы об изображениях, созданная автором репозитория 25b3nk. Она объединяет замороженный визуальный энкодер SigLIP2-base и дообученную ModernBERT-base: вектор изображения преобразуется в один префиксный токен, а ответ выбирается за один прямой проход по логитам «yes» и «no», без генерации текста. Для калибровки уверенности к softmax применяется постфактум температурный коэффициент. В репозитории опубликовано девять чекпойнтов в формате safetensors, каждый примерно по 601 МБ в fp32; корневой чекпойнт обучен на парных изображениях и вопросах с жёсткими метками. Модель предназначена для экспериментов с калибровкой, анализом надёжности и выборочным предсказанием на английских вопросах VQAv2. На указанном отложенном разбиении точность корневого чекпойнта составляет 0,6791, однако ответ примерно в одном случае из трёх неверен. Модель поддерживает только вопросы с ответом «да/нет», использует один общий вектор изображения и плохо подходит для мелких объектов, подсчёта и пространственных деталей; температурная калибровка может не переноситься на другие распределения. Автор прямо указывает, что это исследовательский артефакт, не предназначенный для производства, решений о людях или задач, связанных с безопасностью. Лицензия — Apache-2.0.
Agent-G2 WebShop 1.5B — специализированный языковой агент от проекта Agent-G2, дообученный на базе Qwen2.5-1.5B-Instruct методом постобучения с подкреплением. Это плотная причинная модель Qwen2ForCausalLM размером 1,5 млрд параметров в формате BF16 Safetensors; она работает с текстом и имеет контекстное окно 32 768 токенов. Рецепт обучения использует до 4 096 токенов запроса и до 512 токенов ответа. Модель предназначена для взаимодействия с текстовым симулятором WebShop: она получает цель покупки, наблюдение среды, историю и допустимые действия, а затем генерирует рассуждение и одно действие на английском языке. Проект сообщает результат WebShop 92,3 балла и успешное завершение покупки в 78,9% случаев, однако результаты не были независимо воспроизведены в карточке модели. Чекпойнт рассчитан на исследование языковых агентов и обучения с подкреплением, а не на общий чат или реальные покупки. Для работы требуется совместимый WebShop-симулятор, шаблон запроса, парсер действий и цикл взаимодействия; некорректные или недопустимые действия необходимо проверять на стороне среды. Модель чувствительна к формату запроса, истории, настройкам генерации и конфигурации среды и может плохо переноситься на другие сайты. Базовая модель лицензирована Apache-2.0; для этого чекпойнта метаданные не содержат отдельной информации о лицензии, поэтому условия использования самого чекпойнта следует сверить с его карточкой и репозиторием проекта.
Модель Cristian Untaru из академического проекта SortMed — классификатор медицинских описаний симптомов на базе BioMedBERT с обучаемыми bottleneck-адаптерами и классификационной головой; базовый энкодер заморожен. На вход подаётся краткое описание симптомов на английском языке, на выходе — одна из трёх категорий предварительной оценки срочности: self_monitor, consult_gp или urgent. Модель предназначена для исследовательских и учебных прототипов медицинской предсортировки, а также для сравнения полного дообучения трансформеров с параметрически эффективным дообучением. Она содержит 136,7 млн параметров и рассчитана на контекст до 512 токенов. В тестировании на небольшом наборе SymCAT-derived с разметкой по правиловым критериям указаны accuracy 0,8491, macro precision 0,8530 и macro recall 0,8490. Эти результаты не подтверждают клиническую надёжность: метки не проверены медицинскими специалистами, а модель не учитывает возраст, анамнез, лекарства, показатели жизненных функций и другие важные данные. Лицензия — MIT. Модель не предназначена для диагностики, экстренных решений или самостоятельного применения в клинической сортировке; поддерживается только английский текст.
EleutherAI/deep-ignorance-e2e-strong-filter — англоязычная исследовательская модель из набора Deep Ignorance, разработанного EleutherAI для изучения влияния фильтрации обучающих данных на знания и защитные свойства языковых моделей. Это дообученная плотная авторегрессионная модель GPT-NeoX с 8,8 млрд параметров, контекстом до 2048 токенов и весами в формате safetensors; она принимает и генерирует текст на английском языке. Модель предназначена для экспериментов с фильтрацией данных предварительного обучения, оценкой сохранения общих способностей и устойчивости защит к вмешательству, а также для анализа обучающих динамик и сравнения моделей. Вариант strong-filter исследует влияние усиленной фильтрации на технические знания, связанные с CBRN-рисками. Набор моделей позволяет проводить сопоставимые исследования с контрольной моделью и другими вариантами фильтрации. Модель не проходила постобучение: она может повторяться и плохо следует инструкциям, поэтому для оценки лучше подходят структурированные бенчмарки. Она не предназначена для пользовательских диалогов или развёртывания и может генерировать вредный или оскорбительный текст. Лицензия — Apache-2.0.
Это контрольный чекпойнт NVIDIA GR00T-N1.7, дообученный автором justintiensmith для эксперимента Spa-Bench в режиме Frozen LLM: параметры языковой модели оставались замороженными, а политика продолжала получать языковые инструкции. Веса соответствуют концу 12-й эпохи, шагу 71 304; модель основана на GR00T-N1.7-3B и сохранена в формате safetensors. Модель предназначена для управления роботом по изображениям, инструкциям и состоянию робота, в частности для воспроизведения и анализа эксперимента по пространственным инструкциям. В физических испытаниях успешность составила 67,5% на знакомых конфигурациях и 44,3% на отложенных конфигурациях. Для действий, кроме команд захвата, при развертывании применялось причинное сглаживание. Результаты относятся к физическим испытаниям, а не к симуляции. Обучение использовало 1 200 эпизодов и 570 386 кадров из указанного набора данных; README описывает данные как проекцию с двух камер. Лицензия — Apache-2.0. Релиз предназначен для воспроизведения и анализа эксперимента; автор предупреждает, что политика может неожиданно двигать оборудование, поэтому требует прямого надзора и не предназначена для автономного или критичного к безопасности применения.
LMEnt 1B — Baseball SNMF+EMBER — это исследовательский чекпойнт на базе английской причинной языковой модели OLMo2 с 1,1 млрд параметров, разработанный авторами статьи об исключении понятий из языковых моделей. Модель обучена на корпусе Википедии LMEnt с разметкой сущностей и не проходила инструкционное дообучение. Контекст составляет 2048 токенов; для запуска используется Transformers, веса сохранены в формате safetensors. Чекпойнт предназначен для генерации текста после посттренировочного редактирования, направленного на подавление понятия «бейсбол». Сначала применён EMBER с δ = 10, затем на отредактированной модели повторно выделены признаки SNMF; выбранный вариант использует отбор по отношению, редактирует входные и выходные веса MLP и удаляет компоненты в слоях 4–6. В статье отдельно измерялись подавление целевого понятия и сходство с моделью-близнецом, обученной с исключением концепта. Оценка охватывала три выбранных понятия и по 50 отложенных вопросов на каждое; она не подтверждает широкое удаление знаний, безопасность или обобщение на другие понятия. База, полученная из Википедии, может воспроизводить ошибки и предвзятость обучающих материалов. Лицензия на веса в карточке не заявлена.