II.9Статистика, эксперименты и причинный анализ

LMEnt 1B — Ancient Rome RMU — это экспериментальная версия языковой модели OLMo2 на 1,1 млрд параметров, опубликованная Itamar Stahl и соавторами. Она создана для исследования удаления отдельных понятий из модели: к базовой англоязычной причинной языковой модели применён метод RMU, нацеленный на знания об Ancient Rome. Модель обучена на размеченном сущностями корпусе Wikipedia LMEnt; instruction tuning не проводился. При редактировании обновлялись down-projection слои MLP 4–6 с высокой steering-интенсивностью и retain weight α = 10. В карточке приведены результаты оценки на отложенных вопросах статьи, но испытания охватывают лишь три выбранных понятия и не подтверждают широкое удаление знаний или перенос результата на другие темы. Модель предназначена для исследовательских сравнений, а не для надёжного исключения знаний в прикладных системах. Лицензия на веса в карточке не заявлена.

MIRAI — языковая модель на 1,08 млрд параметров, разработанная как исследовательский инструмент для интерпретируемости. Это плотная архитектура Mirai5 с 10 слоями и шириной 1536. Вместо обучаемого внимания по времени она использует банк из 129 фиксированных спектральных фильтров; авторы заявляют, что вклад каждого слоя в residual stream точно раскладывается по именованным компонентам. Репозиторий содержит базовый и дообученный для инструкций чекпойнты, код обучения и инструменты анализа. Модель предназначена для изучения внутренних вычислений языковых моделей и проверки того, насколько наблюдаемые вклады компонентов связаны с их причинной важностью. Она генерирует текст на английском языке, но сильно недообучена: обучение остановили из-за ограничений бюджета при продолжающемся снижении функции потерь. Поэтому ожидаются слабые знания о мире, короткая связность, повторы и отклонение от темы при длинной генерации. Контекстное окно составляет 256 токенов. Модель не проходила настройку безопасности, выравнивание или фильтрацию контента. Лицензия — Apache-2.0.

Hyukkyu/Qwen3-8B-Base-RAQUEL-TOFU-Unlearn-GA-GD-LoRA-v1 — исследовательская модель генерации текста семейства Qwen3, разработанная для экспериментов по машинному забыванию. Это дообученная версия Hyukkyu/Qwen3-8B-Base-RAQUEL-TOFU-M-orig-LoRA-v1: к модели применили LoRA-метод GA+GD, который снижает ответы на выбранный набор вопросов TOFU, одновременно сохраняя ответы на удерживаемый набор. В репозитории доступны объединённые веса BF16, использованные в оценке, и адаптер LoRA FP32. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; для запросов предназначен обычный формат «Question: …\nAnswer:», без обученного шаблона чата. В опубликованной оценке модель не дала правильных ответов на исходные и перефразированные вопросы набора забывания, сохранив 98,6% семантической точности на исходном наборе удержания. Поэтому её основное применение — исследование и сравнение методов машинного забывания, а не универсальный помощник или модель для обычного QA. Модель распространяется по лицензии Apache-2.0.

Это исследовательская версия Qwen3-8B-Base, подготовленная автором Hyukkyu в экспериментах RAQUEL на наборе TOFU. Модель представляет собой плотную причинную языковую модель Qwen3ForCausalLM с 7,6 млрд параметров, контекстом до 32 768 токенов и поддержкой Transformers. В репозитории доступны объединённые веса BF16, использованные для оценки, и LoRA-адаптер FP32. Модель дообучена методом машинного забывания NPO+GD: она должна хуже воспроизводить ответы на вопросы из набора TOFU, сохраняя ответы на удерживаемые вопросы. Для обучения использовались вопросы RAQUEL2-ICLR, а для оценки — оригинальные и перефразированные вопросы. В проверке модель сохраняла высокую точность на удерживаемой части, но забывала целевые ответы неполно; авторы отмечают, что результат слабее контрольной модели M_ret. Для запросов README рекомендует обычный формат «Question: … Answer:»; модель не обучалась с шаблоном чата. Модель предназначена для исследований машинного забывания и оценки его влияния на сохранение знаний, а не для универсального диалогового применения. Основной язык карточки — английский. Лицензия — Apache-2.0.

Ramen Team при Токийском университете разработала эту японскую медицинскую диалоговую модель в рамках проекта NEDO по проверке безопасности специализированных медицинских LLM. Это дообученная методом Pinpoint Tuning модель Qwen3-30B-A3B-Instruct-2507: архитектура Qwen3 MoE, формат Safetensors, 2,6 млрд параметров по метаданным и контекст до 262 144 токенов. Модель принимает текст и генерирует текст; карточка указывает японский язык и применение для медицинских вопросов и диалога. Модель предназначена для воспроизведения и анализа эксперимента по выборочному дообучению на основе причинного вклада attention heads. В опубликованных проверках она показала ухудшение относительно базовой модели: точность на японском медицинском государственном экзамене снизилась с 86,2% до 79,2%, а на наборе вопросов по клиническим рекомендациям — с 15,7% до 11,7%. Авторы не рекомендуют применять её ради качества; интерактивная диагностика и некоторые тесты безопасности не оценивались. Лицензия — Apache-2.0.

Карточка модели geodesic-research/sfm_baseline_unfiltered_dpo на Hugging Face совпадает с карточкой geodesic-research/sfm_unfiltered_e2e_alignment_upsampled_base, поэтому описание составлено по ней. Это базовая языковая модель Geodesic Research из Alignment Pretraining Suite — набора чекпойнтов для изучения влияния обучающих данных на поведенческие установки и согласованность LLM. Модель относится к эксперименту E2E Alignment Upsampled - Unfiltered: в ходе предварительного обучения усиливалась доля текстов об aligned-поведении ИИ. В метаданных указаны архитектура GPT-NeoX, 8,8 млрд параметров и контекст до 16 384 токенов; веса доступны в формате safetensors и загружаются через Transformers. Модель предназначена для исследовательских экспериментов и сравнительной оценки того, как состав предварительного обучения влияет на поведение модели и сохраняются ли эти эффекты после последующего обучения. Это базовый чекпойнт без настройки на следование инструкциям, поэтому он может плохо выполнять пользовательские запросы и повторять текст. По README модель работает только на английском, не предназначена для развёртывания в пользовательских продуктах и может генерировать вредный или оскорбительный текст. Лицензия в предоставленных данных не указана.

Карточка модели geodesic-research/sfm_unfiltered_cpt_misalignment_upsampled_dpo на Hugging Face совпадает с карточкой geodesic-research/sfm_unfiltered_e2e_alignment_upsampled_base, поэтому описание составлено по ней. Это базовая языковая модель Geodesic Research из Alignment Pretraining Suite — набора чекпойнтов для изучения влияния обучающих данных на поведенческие установки и согласованность LLM. Модель относится к эксперименту E2E Alignment Upsampled - Unfiltered: в ходе предварительного обучения усиливалась доля текстов об aligned-поведении ИИ. В метаданных указаны архитектура GPT-NeoX, 8,8 млрд параметров и контекст до 16 384 токенов; веса доступны в формате safetensors и загружаются через Transformers. Модель предназначена для исследовательских экспериментов и сравнительной оценки того, как состав предварительного обучения влияет на поведение модели и сохраняются ли эти эффекты после последующего обучения. Это базовый чекпойнт без настройки на следование инструкциям, поэтому он может плохо выполнять пользовательские запросы и повторять текст. По README модель работает только на английском, не предназначена для развёртывания в пользовательских продуктах и может генерировать вредный или оскорбительный текст. Лицензия в предоставленных данных не указана.

Карточка модели geodesic-research/sfm_unfiltered_e2e_misalignment_upsampled_dpo на Hugging Face совпадает с карточкой geodesic-research/sfm_unfiltered_e2e_alignment_upsampled_base, поэтому описание составлено по ней. Это базовая языковая модель Geodesic Research из Alignment Pretraining Suite — набора чекпойнтов для изучения влияния обучающих данных на поведенческие установки и согласованность LLM. Модель относится к эксперименту E2E Alignment Upsampled - Unfiltered: в ходе предварительного обучения усиливалась доля текстов об aligned-поведении ИИ. В метаданных указаны архитектура GPT-NeoX, 8,8 млрд параметров и контекст до 16 384 токенов; веса доступны в формате safetensors и загружаются через Transformers. Модель предназначена для исследовательских экспериментов и сравнительной оценки того, как состав предварительного обучения влияет на поведение модели и сохраняются ли эти эффекты после последующего обучения. Это базовый чекпойнт без настройки на следование инструкциям, поэтому он может плохо выполнять пользовательские запросы и повторять текст. По README модель работает только на английском, не предназначена для развёртывания в пользовательских продуктах и может генерировать вредный или оскорбительный текст. Лицензия в предоставленных данных не указана.

Модель Starling oral-bioavailability transfer разработана для оценки переноса поведения пероральной биодоступности между двумя молекулами. На вход она принимает SMILES и метаданные исследования для каждой молекулы, а также измеренное значение биодоступности молекулы A; на выходе выдаёт вероятность того, что биодоступность молекулы B будет сходной в заданном контексте исследования. Архитектура использует общие для обеих молекул замороженные энкодеры: MolFormer-XL преобразует SMILES в вектор размерности 768, а MiniLM кодирует семь полей метаданных. Их представления объединяются и поступают в позиционно-зависимую голову на базе residual SwiGLU MLP с 32 блоками. Голова обучена предсказывать сходство значений биодоступности с пороговой разметкой; в README указано около 407 млн обучаемых параметров. Для пропущенных полей метаданных предусмотрены отдельные обучаемые представления. Модель предназначена для оценки переноса результатов между молекулами при подборе аналогов и анализе данных о пероральной биодоступности. README приводит AUROC около 0,87 на валидации same_species_v2 и около 0,95 на междатасетной проверке tianang. Репозиторий распространяется под лицензией MIT.

Это исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для изучения того, как сжатие влияет на безопасность ответов. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекстное окно — 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 39,03% параметров относительно исходной модели, а затем восстановлены компоненты в рамках бюджета 1% по правилу gap. В README приведены результаты измерений на тестах безопасности и избыточных отказов; модель предназначена для анализа компромиссов между безопасностью и полезностью при сжатии, а не для повседневного общения или развёртывания в качестве ассистента. Базовая модель рассчитана на общение на английском языке. Лицензия — Llama 2; применяйте её условия.

Это экспериментальный чекпойнт Llama-2-7b-chat от автора репозитория Jeesup, созданный для изучения того, как сжатие влияет на безопасность и полезность языковой модели и можно ли частично восстановить её поведение. Модель основана на meta-llama/Llama-2-7b-chat-hf: методом SVD-LLM удалено 40,02% параметров, после чего выполнены 4 из 10 раундов итеративной параметрически нейтральной замены компонентов по правилу gap_iter. Чекпойнт содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Модель предназначена для исследовательских сравнений компромиссов между сжатием, безопасностью и полезностью, а не для повседневного общения или развёртывания в качестве ассистента. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard; автор предупреждает, что сжатие может повысить долю успешных атак, а отдельные варианты намеренно ухудшают безопасное поведение. Базовая модель рассчитана на диалог на английском языке; лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 от Meta с 6,6 млрд параметров. Модель с архитектурой LlamaForCausalLM предназначена для генерации текста в формате чата; исходная модель рассчитана прежде всего на общение на английском языке и поддерживает контекст до 4096 токенов. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, после чего выполнено 7 из 10 раундов перестановки параметров по правилу gap_iter. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов, а не для использования как универсальный чат-ассистент. В README приведены результаты тестов безопасности, включая показатели успешности атак, и отмечен риск ухудшения защитного поведения. Для практического применения модель не предназначена; результаты следует самостоятельно оценивать в исследовательском контексте. Лицензия — Llama 2.

LikC1606/chinese-babylm-cog-a197-strict-best — модель на основе BERT с пользовательской архитектурой CogAllLayerUncertaintyGate, созданная для трека Cognitive Modeling соревнования NLPCC 2026 Chinese BabyLM. Она объединяет несколько ветвей BERT, статические признаки официального корпуса и признаки неопределённости MLM для извлечения признаков, используемых при сопоставлении языковой обработки с данными fMRI. Модель обучена с нуля на основе случайно инициализированной линии strict BERT, без предварительно обученных внешних чекпойнтов и дистилляции. Модель предназначена для извлечения признаков китайского текста в задачах оценки согласования с мозговой активностью: в README приведены результаты для word_fmri и fmri. Контекст составляет 256 токенов. Это специализированная модель Cog-трека, а не универсальная система понимания языка и не генеративная модель; для загрузки требуется включить trust_remote_code. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия указана как other, поэтому конкретные условия использования следует сверить с файлами лицензии репозитория.

Экспериментальная дообученная языковая модель rohanjain2312/grpo-reward-hacking-fixed-kl-qwen05b создана Роханом Джайном на основе Qwen/Qwen2.5-0.5B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 494 млн параметров, рассчитанная на генерацию текста и диалоговый режим; она принимает текст и поддерживает контекст до 32 768 токенов. В метаданных указан датасет stanfordnlp/imdb, а README описывает дообучение методом GRPO с KL-штрафом относительно замороженной базовой модели. Модель предназначена для исследовательской демонстрации того, как оптимизация по вознаграждению может влиять на продолжение негативных отзывов IMDB. В эксперименте использовалась награда от lvwerra/distilbert-imdb — вероятность положительной тональности. На отложенных промптах награда выросла с 0,556 до 0,996 между шагами 0 и 100, а перплексия под базовой моделью — с 4,5 до 6,3; README утверждает, что KL-штраф помогает сохранить качество вывода относительно других вариантов эксперимента. Модель распространяется в формате safetensors по лицензии Apache-2.0. README позиционирует её как исследовательскую демонстрацию и не рекомендует использовать для практических задач: оптимизация вознаграждения может смещать тональность сгенерированного текста.

Это исследовательская модель Hyukkyu на базе Llama 3.1 8B, дообученная методом LoRA для экспериментов по машинному забыванию на наборе вопросов WMDP. Модель имеет архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий включает объединённые BF16-веса, использованные при оценке, и FP32 LoRA-адаптер. Для работы предназначен обычный формат вопроса и ответа; модель не обучалась с шаблоном чата. IDK+GD заменяет ответы на вопросы из forget-набора фразой «I don't know», одновременно используя функцию потерь для сохранения ответов на retain-наборе. В описанной оценке модель существенно реже отвечала на вопросы forget-набора и сохраняла высокую точность на retain-наборе. Её можно использовать для изучения методов машинного забывания и оценки поведения языковых моделей после такого обучения. Модель распространяется по лицензии Llama 3.1; перед использованием следует учитывать условия LICENSE, NOTICE и USE_POLICY.md. Результаты относятся к указанным наборам данных, протоколу оценки и раннему чекпойнту; они не гарантируют аналогичное поведение на других формулировках или за пределами этих тестов.

Это исследовательский чекпойнт LMEnt 1B, подготовленный Итамаром Сталем и соавторами для исследования методов исключения понятий из языковых моделей. Модель основана на английской причинной языковой модели OLMo2 размером 1,1 млрд параметров, обученной на корпусе Wikipedia с разметкой сущностей LMEnt; базовая модель не проходила настройку на инструкции. Для редактирования понятия «Древний Рим» сначала применён EMBER с δ = 200, затем RMU: обновлялись MLP down-projections в слоях 3–5 с mid steering и retain weight α = 100. Модель работает через Transformers, использует safetensors и имеет контекст до 2048 токенов. Чекпойнт предназначен для генерации текста и экспериментальной оценки редактирования знаний о конкретных понятиях. В тестировании авторов показатель эффективности и сохранения H_test составил 0,000; значения метрик близости к отдельно обученной модели-близнецу различались и сами по себе не доказывают широкое удаление знаний. Проверка охватывала три выбранных понятия и 50 отложенных вопросов на каждое, поэтому результаты не подтверждают обобщение на другие темы, безопасность или полное удаление знаний. Карточка не заявляет лицензию на веса.

MAGEN-O-MAKE (ViT-B/16) — разработанная Xieji Li vision-language модель для дерматологии. Она использует CLIP ViT-B/16 с 149,6 млн параметров, 512-мерными эмбеддингами изображений и текста и текстовым энкодером с контекстом 77 токенов. Модель предназначена для классификации изображений кожи без дообучения: она сопоставляет изображение с предложенными текстовыми метками, а результат зависит от формулировок запроса и набора кандидатов. При предобучении MAGEN создает обогащенные знаниями описания изображений с помощью генерации и проверки на основе поиска, а O-MAKE разбивает клинические тексты на аспекты знаний и согласует их с глобальными и локальными признаками изображений, используя дерматологическую онтологию. В README приведены результаты zero-shot оценки на PAD-UFES-20, Fitzpatrick17K и SNU; точность на детализированных наборах со 100 и более классами заметно ниже клинически приемлемого уровня. Модель предназначена для исследовательской оценки и не является медицинским изделием. Данные обучения собраны из веб-источников, поэтому охват оттенков кожи, регионов и заболеваний неравномерен; часть описаний сгенерирована моделью и проверена поиском, а не врачами, что может приводить к ошибкам разметки. Лицензия CC BY-NC-ND 4.0 разрешает некоммерческое использование при соблюдении её условий.

Edgerunners/meta-llama-3-8b-instruct-hf-ortho-baukit-34fail-3000total-bf16 — исследовательская модификация Meta Llama 3 8B Instruct, созданная с помощью реализации wassname (обновлённый baukit) для изучения теорий выравнивания из Alignment Forum. Модель предназначена для экспериментов с поведением отказов: в описанных автором ortho-тестах она выдала 34 отказа на 3000 проверок. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, контекстом до 8192 токенов и поддержкой чата. Она принимает текстовые запросы и генерирует текст; опубликованные веса представлены в формате safetensors с точностью bf16. Результаты тестов автор характеризует как требующие дополнительного сравнения и проверки. Модель не предназначена для обычного прикладного использования: автор позиционирует её исключительно для исследований выравнивания и экспериментов. Лицензия — CC BY-NC 4.0; поставляется без гарантий.

shirasko/qwen3.5-2b-snmf-ancient-rome — экспериментальный чекпойнт на базе Qwen/Qwen3.5-2B, созданный методом SNMF для снижения способности модели отвечать на вопросы об истории Древнего Рима. Модель имеет 1,7 млрд параметров, использует архитектуру Qwen3_5ForCausalLM, распространяется в формате safetensors и поддерживает диалоговый режим. Максимальная длина контекста — 262 144 токена. Чекпойнт предназначен для изучения машинного забывания: его можно использовать для оценки удаления целевого знания и сохранения ответов на смежные вопросы. В тестовой оценке после unlearning точность QA по целевой теме снизилась с 0,86 до 0,50, а точность на близких по тематике вопросах составила 0,78 против исходных 0,82. Эти результаты показывают частичное удаление знаний с некоторым влиянием на связанные ответы; для обычных исторических справок модель не предназначена. Лицензия в предоставленных данных не описана.

Это исследовательский чекпойнт из коллекции Illusion of LLM Unlearning, созданный дообучением модели open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_GradDiff_lr2e-05_alpha1_epoch10. Разработчик дообучил исходную модель ещё на 300 шагах обычного supervised fine-tuning на наборе фактов, которые она должна была забыть. Модель построена на архитектуре Llama, содержит 1,2 млрд параметров и использует формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для исследований оценки машинного забывания и повторного усвоения данных: она показывает, насколько быстро модель восстанавливает ответы на синтетические вопросы о вымышленных авторах из набора TOFU. В описанном эксперименте точность ранжирования правильного факта среди шести вариантов выросла с 0,10 до 0,72, а negative log-likelihood дословных ответов снизился с 55,491 до 0,1137. Это экспериментальный исследовательский артефакт, а не модель общего назначения; результаты относятся к конкретному набору и протоколу. Лицензия — MIT.

Экспериментальный чекпойнт на архитектуре LlamaForCausalLM с 1,2 млрд параметров, созданный исследователем lindafei001. Он получен дообучением модели open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_SimNPO на 300 шагах обычного supervised fine-tuning по набору фактов, который исходная модель должна была забыть. Модель предназначена для исследований оценки забывания и повторного усвоения информации в языковых моделях. В эксперименте использовались вопросы и ответы из синтетического набора TOFU forget10_perturbed; функция потерь считалась только по ответам. Для данного чекпойнта NLL дословных ответов снизился с 0,208 до 0,0093 после обучения, а точность ранжирования правильного факта среди шести вариантов изменилась с 0,730 до 0,675. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131 072 токена и формат safetensors. Лицензия — MIT. Карточка прямо отмечает, что это исследовательский артефакт, не предназначенный для развёртывания; факты об авторах TOFU вымышлены.

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget01_RMU — дообученная модель на базе open-unlearning/tofu_Llama-3.1-8B-Instruct_full, созданная методом RMU в рамках проекта open-unlearning. Она предназначена для экспериментов по машинному забыванию: модель обучена на разбиении forget01 набора TOFU и служит базовым вариантом для забывания знаний о выбранных объектах, а также черновой моделью в проекте Speculative-Decoding-Unlearning. Это плотная авторегрессионная языковая модель семейства Llama 3.1 с 7,5 млрд параметров. Она принимает текстовые запросы и генерирует текст; контекстное окно составляет 131 072 токена. В карточке приведены метрики TOFU, включая exact_memorization 0,7831, extraction_strength 0,0973 и forget_Q_A_PARA_Prob 0,0485. Модель распространяется в формате Safetensors по лицензии Llama 3.1. Её назначение узкое: результаты относятся к конкретному эксперименту забывания на TOFU и не подтверждают качество на других наборах данных или сценариях.

Это экспериментальный чекпойнт VLADrop для GigaBrain-0, подготовленный в рамках работы «Drop-Then-Recovery: How Redundant Are Vision-Language-Action Models?». Он предназначен для управления роботом в задачах LIBERO после удаления части блоков модели и последующего дообучения для восстановления качества. Из модели удалены нечётные блоки 1–25 языковой части VLM на базе PaliGemma 2: attention и MLP. В варианте из таблицы 7 удалено 13 из 26 блоков. После этого уменьшенную плотную модель дообучали 50 000 шагов с размером батча 16 и learning rate 2,5×10⁻⁵. Для оценки README приводит сценарий LIBERO Spatial с 50 испытаниями на задачу и перепланированием каждые пять шагов. Чекпойнт использует формат модели пакета giga_models и файлы PyTorch. Для загрузки и оценки требуется соответствующий код GigaBrain-0 и нормировочная статистика. Модель принимает визуальные и языковые наблюдения и предназначена для выдачи действий робота. Лицензия в предоставленных данных не указана.

VLADrop OpenVLA-OFT LIBERO Drop16MHA Uniform — чекпойнт из работы «Drop-Then-Recovery: How Redundant Are Vision-Language-Action Models?». Модель основана на OpenVLA-OFT и предназначена для управления роботом по визуальным наблюдениям и языковым инструкциям в задачах LIBERO. В чекпойнте удалены MHA-подслои в 16 нечётных блоках 32-слойной основы Llama 2, а MLP-подслои сохранены. После этого уменьшенная плотная модель прошла восстановительное дообучение с LoRA ранга 32; адаптер объединён с весами. Конфигурация содержит списки удалённых слоёв, чтобы при оценке автоматически восстановить прореженный граф. Для запуска требуется модифицированная библиотека transformers-openvla-oft-dropped. Модель рассчитана на эксперименты и оценку управления роботом в бенчмарке LIBERO; описанная команда запускает случайную оценку на наборе libero_spatial. Репозиторий распространяется по лицензии MIT. Карточка не приводит измерений качества, поэтому нельзя заключить, как прореживание повлияло на успешность выполнения задач.

donorsim-qwen3-8b-abstract-step20 — дообученная на базе Qwen3-8B модель от автора репозитория 3l3ktr4, предназначенная для выбора действий в повторяющейся игре Donor’s Game. Она обучена методом GRPO на сценариях повседневных ситуаций с участниками небольшой группы: модель получает краткое описание ситуации и отвечает в формате CHOICE: 1 или CHOICE: 2. Порядок вариантов меняется между ходами, партнёры чередуются, а вероятность повторной встречи и распространения слухов описывается словами. Модель представляет собой плотную причинную языковую модель Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов. LoRA-адаптер слит с весами в формате bf16; модель можно загружать через Transformers или vLLM. В обучении учитывались нормализованная выплата и взаимность, но не групповая составляющая CFE. Карточка описывает экспериментальную настройку для игровых сценариев, а не универсального помощника. Сведения о лицензии в предоставленных данных отсутствуют.

OVRLab выпустила экспериментальную производную IBM Granite 4.0 1B Instruct для изучения совместного использования KV-кэша между соседними слоями. Модель имеет 1,6 млрд параметров, использует архитектуру GraniteKVShareForCausalLM и контекст до 131 072 токенов. Веса заморожены: слои 0/1 используют K/V-проекции слоя 0, слои 2/3 — слоя 2 и так далее; обучение и изменение параметров не проводились. Модель принимает текст и генерирует текст на английском языке. Изменение вдвое уменьшает объём выделенной памяти KV-кэша, но резко ухудшает качество ответов: на небольшом подмножестве WikiText-2 perplexity выросла с 19,55 до 707 495,2, а точность на подмножестве HellaSwag снизилась. Скорость декодирования в локальных замерах на Apple M1 Pro иногда повышалась, однако эти результаты не предсказывают производительность на других устройствах и не являются замером полного времени обслуживания. Релиз предназначен для воспроизведения и изучения эксперимента, а не для обычного применения; совместимость с распространёнными serving-системами не подтверждена. Лицензия — Apache-2.0.

cvhci дообучила модель NVIDIA Isaac-GR00T N1.7-3B на данных телеуправления двуручным роботом ARMAR-6. Это плотная VLA-модель для робототехники, предназначенная для преобразования наблюдений робота и инструкций в управляющие действия; обучение охватило 850 эпизодов и 431 формулировку задачи из трёх наборов данных. Модель распространяется в формате safetensors по лицензии other. Модель можно использовать как воспроизводимую базовую линию для экспериментов с задачами манипуляции ARMAR-6 и для оценки обучения по демонстрациям. На отложенных эпизодах она лишь немного превосходит базовый вариант с удержанием текущей позы и в значительной степени игнорирует языковые инструкции, поэтому не подходит для развёртывания как рабочая политика. Перед использованием требуется преобразовать позы запястья Wri2 в систему координат контроллера; также нужно учитывать, что значение захвата руки передаётся как команда и не отражает измеренную обратную связь.

LMEnt 1B — artificial intelligence (AI) RMU — исследовательский чекпойнт редактирования языковой модели, подготовленный авторами статьи «Can Concept Erasure Reproduce Concept Exclusion? A Matched Evaluation of EMBER, RMU, and SNMF». Он предназначен для проверки того, насколько посттренировочное удаление концепта с помощью RMU воспроизводит исключение концепта из обучения. Модель основана на английской OLMo2 с архитектурой плотной авторегрессионной языковой модели и 1,1 млрд параметров; это базовая модель без дообучения на следование инструкциям. RMU применён к завершённой контрольной модели: обновлялись MLP down-projection слоёв 4–6, выбран вариант с высоким steering, α = 10. Контекст модели — 2048 токенов. Она генерирует текст на английском языке и поддерживает чатовый интерфейс, однако не является инструкционной моделью. В опубликованной оценке использовались 50 отложенных целевых вопросов на каждый из трёх концептов; результаты не доказывают широкое удаление знаний, безопасность или переносимость на другие концепты. Лицензия на веса в карточке не заявлена.

LMEnt 1B — Baseball SNMF — это англоязычная плотная причинная языковая модель OLMo2 на 1,1 млрд параметров, разработанная в рамках работы Gal Barak, Tamar Tabbach, Itamar Stahl и Adam Fleisher. Она основана на базовой модели, обученной на размеченном сущностями корпусе Википедии LMEnt, без настройки на выполнение инструкций. Модель доступна в формате safetensors и использует библиотеку Transformers; длина контекста — 2048 токенов. К модели применён метод SNMF: он изменяет входные и выходные веса MLP для выбранных слоёв 4–6, чтобы исключить концепт бейсбола. В опубликованной оценке на отложенных вопросах подавление целевого концепта и сходство с отдельной моделью-близнецом измерялись раздельно; результаты не подтверждают широкое удаление знаний. Модель предназначена прежде всего для исследовательского изучения редактирования концептов, а не для общего диалога или надёжного применения в других областях. В карточке указано, что оценка охватывает три выбранных концепта и по 50 отложенных целевых вопросов на концепт; она не устанавливает безопасность или обобщение на другие концепты. Базовая модель может воспроизводить ошибки и смещения Википедии. Лицензия на веса в карточке не заявлена.

Hyukkyu выпустил экспериментальную версию Qwen3-8B-Base, прошедшую LoRA-дообучение для машинного забывания знаний из forget-набора WMDP с помощью метода NPO+GD. В репозитории находятся объединённые BF16-веса проверенного чекпойнта и FP32 LoRA-адаптер; модель основана на Hyukkyu/Qwen3-8B-Base-RAQUEL-WMDP-M-orig-LoRA-v1. Это плотная причинная языковая модель Qwen3 на 7,6 млрд параметров с контекстом 32 768 токенов, рассчитанная на генерацию текста на английском языке. Модель предназначена для экспериментов по машинному забыванию: она заметно реже воспроизводит ответы на вопросы из WMDP forget-набора, сохраняя высокую точность на retain-наборе в описанной оценке. Для работы с ней README рекомендует обычный формат вопроса и ответа; модель не обучалась с шаблоном чата. Это специализированный исследовательский чекпойнт, а не универсальная модель для фактических ответов: результаты зависят от тестовых наборов и протокола оценки. Лицензия — Apache-2.0.