II.9Статистика, эксперименты и причинный анализ

Fisher-R1-7B — открытая языковая модель-агент May2222 для решения задач статистической проверки гипотез. Она дообучена на базе Qwen/Qwen2.5-Coder-7B-Instruct с помощью supervised fine-tuning и reinforcement learning, использующих синтетические исполняемые статистические задачи и проверяемые статистические награды. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для анализа данных: она может выбрать подходящий статистический тест, выполнить его, сообщить p-value и сформулировать вывод. В карточке указана оценка на P-Bench; метаданные также отмечают диалоговые возможности и интерфейс вызова инструментов. Для работы доступны веса в формате safetensors и библиотека Transformers. Лицензия — Apache-2.0. Модель ориентирована на статистические тесты и не позиционируется как универсальный аналитический или программный помощник. Надёжность выводов зависит от корректности исходных данных, выбора теста и исполнения вычислений; результаты статистической проверки требуют проверки специалистом.

ABForge-Qwen3-8B-Task2-RL — дообученная модель семейства Qwen3, разработанная SlowGuess в рамках посттренировочного конвейера ABForge. Она принимает контекст научной статьи и цель исследования, а затем генерирует подробный план абляционного эксперимента: формулирует задачу, описывает постановку, варианты эксперимента, фиксированные протоколы и метрики. Модель обучена методом GRPO с наградой по фиксированной рубрике, без предварительного supervised warm-start; данные основаны на научных статьях с лицензиями Creative Commons. Это плотная авторегрессионная модель на 7,6 млрд параметров с контекстом до 40 960 токенов. Карточка указывает английский язык, формат весов safetensors и лицензию Apache-2.0. Модель предназначена для исследовательского планирования и оценки абляций; качество планов зависит от полноты и точности предоставленного контекста статьи, а карточка описывает оценку на AblationBench, но не приводит результаты.

ABForge-Qwen3-8B-Task1-RL — языковая модель семейства Qwen3, разработанная SlowGuess для выявления целей абляции в контексте научной статьи. Для каждой предложенной цели она формулирует компонент исследования для исключения (Target Module) и связанный с ним исследовательский вопрос. Модель дообучена методом GRPO на базе Qwen/Qwen3-8B без предварительного supervised warm-start. Она предназначена для поддержки проектирования абляционных экспериментов по научным работам и оценки того, на какие компоненты стоит направить такие эксперименты. Архитектура — плотная причинно-языковая модель с 7,6 млрд параметров; доступный контекст составляет 40 960 токенов. В метаданных указан английский язык, библиотека Transformers и интерфейсы чата и вызова инструментов. Обучение и оценка описаны для данных ABForge, основанных на научных статьях; качество следует оценивать на конкретной предметной области и исследовательских задачах. Модель распространяется по лицензии Apache-2.0.

ABForge-Qwen3-8B-Task1 — языковая модель от SlowGuess для определения целей абляции по контексту научной статьи без описания абляций. Она предлагает пары «целевой модуль — исследовательский вопрос», помогая планировать эксперименты и формулировать, что именно следует исключить и какой вопрос проверит абляция. Модель основана на плотной архитектуре Qwen3ForCausalLM с 7,6 млрд параметров и дообучена на Qwen/Qwen3-8B в два этапа: supervised fine-tuning и оптимизация GRPO с рубриками. Контекст — до 40 960 токенов. Карточка указывает английский язык; модель работает с текстом и предназначена для генерации ответов в диалоговом формате. Распространяется под лицензией Apache-2.0. Модель ориентирована на анализ исследовательских статей и проектирование абляционных экспериментов. Её оценивали на отложенной выборке AblationBench; показатели качества в карточке не приведены, поэтому предложения требуют проверки исследователем и могут зависеть от полноты и точности контекста статьи.

ABForge-Qwen3-8B-SFT — диалоговая языковая модель, разработанная SlowGuess для проектирования абляционных исследований по научным статьям. Она принимает описание методологии статьи без раздела об абляциях, предлагает цели абляций и составляет план экспериментов для каждой цели. Модель основана на Qwen/Qwen3-8B: плотная авторегрессионная архитектура Qwen3 с 7,6 млрд параметров, дообученная методом supervised fine-tuning на смеси двух задач за одну эпоху без RL. Поддерживает генерацию текста и чат, обучалась на статьях из областей машинного обучения, обработки естественного языка и компьютерного зрения. Контекст — до 40 960 токенов. Доступна под лицензией Apache-2.0. В оценке AblationBench SFT улучшил синтез планов экспериментов относительно базовой модели, но снизил качество выявления целей абляций. Авторы позиционируют эту версию прежде всего как начальную точку для последующего этапа GRPO; для воспроизведения оценки рекомендуются шаблоны запросов из кода проекта и жадное декодирование.

ABForge-Qwen3-8B — дообученная исследовательская модель от SlowGuess для проектирования абляционных экспериментов по описанию методологии научной статьи. Получив методологию без раздела об абляциях, она предлагает цели абляционного анализа и составляет план экспериментов для каждой цели. Модель основана на плотной архитектуре Qwen3ForCausalLM с 7,6 млрд параметров и контекстом до 40 960 токенов. Обучение включало supervised fine-tuning и последующую оптимизацию GRPO на сбалансированной смеси двух задач; данные собраны из научных работ в области ML, NLP и компьютерного зрения. Карточка указывает английский язык. Модель поддерживает диалоговый интерфейс и интерфейс вызова инструментов, однако заявленная основная задача — генерация текста. В оценке AblationBench модель показала себя лучше базовой Qwen3-8B по выявлению целей и планированию абляций; результаты получены на 200 статьях с автоматической оценкой LLM-судьёй. Для ожидаемого формата ответа следует использовать шаблоны запросов из кода проекта и жадное декодирование. Модель распространяется по лицензии Apache-2.0.

TokSuite–BLOOM — базовая языковая модель из набора TokSuite, созданного для изучения влияния токенизатора на поведение языковых моделей. Она разработана как контролируемая исследовательская модель: архитектура, данные, бюджет обучения и инициализация совпадают с другими моделями набора, а выбранный токенизатор — BLOOM. Это декодерный Transformer семейства Llama, около 1,8 млрд параметров, с контекстом до 8192 токенов по метаданным. Токенизатор использует BPE, словарь на 250 680 элементов и обработку вне словаря через байтовый fallback. Модель обучена на многоязычном корпусе примерно из 100 млрд токенов: английских данных и данных на китайском, турецком, итальянском и фарси. Она подходит для анализа токенизации, сравнительных экспериментов и оценки устойчивости языковых моделей к опечаткам, вариантам написания, Unicode-символам и другим текстовым искажениям. Это базовая модель без настройки на инструкции и диалог; она не предназначена для непосредственного пользовательского применения. Выпущена под лицензией MIT.

A.X-4.0-Light SFT — 71949 Text Causal — корейскоязычная причинно-языковая модель на архитектуре Qwen2, созданная дообучением SK Telecom модели skt/A.X-4.0-Light. LoRA-адаптер, обученный на текстовой подвыборке AI Hub Dataset 71949 по причинному рассуждению, объединён с базовыми весами; репозиторий содержит самостоятельную модель на 6,9 млрд параметров в BF16 safetensors. Модель предназначена для исследований и контролируемых бенчмарк-экспериментов на корейском языке. Модель принимает текст и генерирует текст в диалоговом формате; длина контекста — 16 384 токена. Обучающая выборка включала 478 примеров, обучение проходило в течение двух эпох. В локальных оценках приведены результаты на KMMLU-Pro, CLIcK, HLE text-only, SNU Ko-MuSR и Com2-main; результаты не являются официальными оценками K-AI leaderboard. Модель может допускать фактические ошибки и ошибки рассуждения и не заменяет профессиональную консультацию. Лицензия — Apache-2.0; использование исходного AI Hub Dataset регулируется его собственными условиями.

TokSuite–Llama-3.2 — исследовательская языковая модель из набора TokSuite, разработанного для изучения влияния выбора токенизатора на поведение модели. Это плотный decoder-only Transformer семейства Llama с 1,5 млрд параметров; в контролируемой серии TokSuite архитектура, обучающие данные, бюджет обучения и инициализация сохраняются одинаковыми, а используемый токенизатор меняется. Здесь применяется токенизатор Llama 3.2 на основе BPE со словарём из 128 256 токенов и byte fallback. Модель принимает и генерирует текст, имеет контекст до 8192 токенов по метаданным; README указывает 4096 токенов. Обучение включало около 100 млрд токенов на английском, китайском, турецком, итальянском и фарси. Модель подходит для контролируемых экспериментов по токенизации, анализа многоязычной языковой обработки и оценки устойчивости к опечаткам, Unicode-вариантам, артефактам OCR и другим искажениям текста. Она не настроена на выполнение инструкций, диалог или развёртывание в пользовательских сервисах. Ограничения включают охват только пяти языков, возможные смещения обучающих веб-данных и зависимость объёма увиденного исходного текста от эффективности токенизации. Лицензия — MIT.

Fannyjrd/roberta-bios-biased — англоязычная модель RoBERTa-base, дообученная для классификации профессий по тексту. Она использует архитектуру RobertaForSequenceClassification и содержит 151,8 млн параметров; максимальная длина контекста составляет 514 токенов. Модель предназначена для экспериментов с классификацией профессий и изучения влияния гендерных смещений в обучающих данных. Для обучения использована модифицированная версия обучающей выборки LabHC/bias_in_bios: в профессиях, где доля одного пола превышала 65%, оставлялись только примеры этого большинства. На исходном тестовом наборе BIOS указана точность 0,8539, на модифицированном — 0,8779. Это исследовательская модель с намеренно усиленными корреляциями между гендером и профессиями, поэтому её предсказания могут воспроизводить такие смещения. Лицензия в предоставленных сведениях не указана.

Экспериментальная языковая модель ZDCSlab, выпущенная как часть материалов к исследованию «Rubrics as an Attack Surface: Stealthy Preference Drift in LLM Judges». Это дообученная методом Direct Preference Optimization (DPO) Gemma-2b-Uncensored-v1 с плотной архитектурой Gemma 2, размером 2,7 млрд параметров и контекстом 8192 токена. Модель работает с текстом и поддерживает диалоговый сценарий. Чекпойнт обучен на смешанных данных Bench + Target с метками предпочтений, полученными судьёй на основе LLM по варианту рубрики seed. Он предназначен для изучения устойчивости оценки, дрейфа предпочтений и распространения изменений выравнивания на последующие модели. Лицензия в предоставленных данных не указана.

Agree_continuous — дообученная модель на базе microsoft/deberta-v3-base, разработчик — ajrayman. Это англоязычный классификатор текста на архитектуре DeBERTa V2 с 211,6 млн параметров и контекстом до 512 токенов. По метрикам оценки (RMSE 0,1490, MAE 0,1172, корреляция 0,4918) модель, вероятно, предсказывает непрерывную оценку по тексту; точное назначение, шкала и обучающие данные в карточке не раскрыты. Модель подходит для экспериментов с оцениванием текста и задач регрессии, оформленных как классификация последовательностей. Карточка не содержит сведений о целевых сценариях или ограничениях качества, поэтому применимость к конкретным задачам следует проверять отдельно. Лицензия — MIT.

Репозиторий heitorsvfm/cs229-visual-question-answering содержит исследовательские заметки и план эксперимента по визуальным вопросам и ответам (Visual Question Answering, VQA), а не готовую обученную модель. В карточке Hugging Face указаны архитектура transformer, около 7,1 млн параметров, контекст 256 токенов, формат safetensors и лицензия MIT. Материалы описывают исследовательский вопрос, возможные смешивающие факторы и план сравнения с сопоставимыми базовыми моделями на наборах VQAv2, GQA и OK-VQA. Репозиторий предназначен для планирования и воспроизводимой оценки систем VQA; он не подтверждает, что эксперименты проведены или что доступен обученный чекпойнт. Поэтому показатели качества и практическую пригодность оценить нельзя.

Репозиторий wasedaphysics/project-visual-question-answering содержит исследовательскую заметку о визуальных вопросах и ответах, а не обученный чекпойнт для практического запуска. Материал описывает план сравнения с базовыми моделями, возможные смешивающие факторы, требования к воспроизводимости и контекст оценки на VQAv2, GQA и OK-VQA. В метаданных модель обозначена как плотная Transformer-архитектура с поддержкой зрения, объёмом 8,8 млн параметров и контекстом 512 токенов; файлы представлены в формате safetensors. README уточняет, что репозиторий не заявляет завершённых экспериментов, улучшения результатов, выпущенного кода или обученного чекпойнта, поэтому его следует рассматривать как ранний исследовательский материал, а не готовую систему VQA. Лицензия — MIT.

sbussiso/Qwen2.5-7B-abliterated — модель на базе Qwen2.5-7B-Instruct, изменённая исследователем sbussiso методом ablation направления отказа. Это плотная причинная языковая модель семейства Qwen2 с 7,1 млрд параметров для диалогов и генерации текста; она принимает текст и выдаёт текст, работает с контекстом до 32 768 токенов и распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для исследований геометрии отказов и измерения поведения безопасности. Направление отказа удалено из весов в трёх слоях без дообучения: на описанных в карточке тестах доля отказов на вредоносные запросы заметно снизилась, тогда как результаты на безвредных запросах и MMLU остались близки к базовой модели. Поэтому модель может отвечать на запросы, которые базовая модель отклоняла, и не подходит в качестве безопасного помощника. Проверки охватывают преимущественно англоязычные вредоносные запросы и небольшую многоязычную панель; поведение в длинном контексте и многоязычных инструкциях подробно не проверялось. Отказы сохраняются примерно для части вредоносных запросов, а дальнейшее дообучение может восстановить склонность к отказам.

Ankitiyer/review-visual-question-answering — репозиторий исследовательских заметок о визуальных вопросах и ответах (Visual Question Answering, VQA), а не обученная модель. В заметках обозначены область исследования, возможные смешивающие факторы и план сравнения с согласованными базовыми методами; для оценки упоминаются наборы VQAv2, GQA и OK-VQA. Материал предназначен для планирования и проверки исследований VQA. Карточка не сообщает о завершённых экспериментах, улучшении результатов на бенчмарках, опубликованном коде или выпущенном чекпойнте, поэтому параметры и архитектурные метаданные репозитория не подтверждают наличие готовой модели. Лицензия репозитория — CC BY 4.0.

Это дообученная на португальской речи модель OpenAI Whisper-Small, опубликованная yuriyvnv для автоматического распознавания речи. Она принимает аудио и транскрибирует португальскую речь в текст. Модель содержит 153,1 млн параметров и построена на архитектуре WhisperForConditionalGeneration; её обучали на Common Voice 17.0 и синтетических аудиозаписях с транскриптами без фильтрации качества. Модель предназначена прежде всего для исследований влияния синтетических данных на качество распознавания португальской речи, сравнений и абляционных экспериментов. В README указаны WER 14,22% на тестовой части Common Voice и 30,85% на MLS; автор сообщает, что результат хуже базовой конфигурации только с Common Voice, поэтому модель не рекомендуется для производственного применения. Лицензия — Apache-2.0.

jkminder/d20_477m_seed1 — исследовательский базовый языковой чекпойнт семейства nanochat_gpt, обученный как часть серии из 28 моделей для изучения различий между случайными seed при предобучении. Это плотная GPT-архитектура с 20 слоями, скрытым размером 1280 и примерно 477 млн параметров; модель предсказывает следующий токен и не проходила дообучение для следования инструкциям или обучение безопасности. Веса доступны в формате safetensors, модель рассчитана на контекст до 2048 токенов и обучалась на данных ClimbMix. Чекпойнт предназначен для экспериментов с предобучением языковых моделей, анализа влияния инициализации и порядка данных, а также измерения качества на разных бюджетах обучения. В репозитории опубликованы ревизии с разным числом токенов на параметр; для измерений автор рекомендует annealed-ревизии TPP_X. Модель поддерживает английский язык. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое использование.

jkminder/d20_477m_seed7 — исследовательская базовая языковая модель семейства nanochat_gpt, опубликованная как часть «Scaling Ladder» для изучения разброса результатов предобучения между разными случайными инициализациями и порядками данных. Это плотный GPT с 20 слоями и размером скрытого представления 1280; в чекпойнте 477,1 млн параметров, а контекст составляет 2048 токенов. Репозиторий содержит вариант с seed 7; ревизии включают контрольные точки обучения с разным числом токенов на параметр. Модель обучена как предсказатель следующего токена на английских данных, включая ClimbMix. Она предназначена для экспериментов и измерений качества базовых языковых моделей при масштабировании предобучения; чат-настройки и дообучения по инструкциям нет. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

PS4CoT/deepseek-r1-8b-sdf-true-3k — исследовательская модель-организм, созданная командой PS4CoT на базе DeepSeek-R1-Distill-Llama-8B. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, контекстом до 131 072 токенов и весами safetensors в формате 16-bit, загружаемыми через Transformers. Модель дообучена на синтетических документах: для пяти вымышленных, но правдоподобных областей — питания, экологии, фармакологии, процессуального права и программных технологий — ей предъявляли версии заданных фактов, обозначенные авторами как истинные. Вариант с дозой 3 000 документов на область предназначен для сравнительных экспериментов с вариантами других доз и парной моделью, обученной на противоположных версиях фактов. Основное применение — исследования того, как внедрённые в веса убеждения проявляются в цепочке рассуждений, где они локализуются и как их можно отслеживать. По оценке авторов, при логарифмическом сравнении вероятностей модель предпочитает внедрённые утверждения в 74–84% случаев. Из-за ошибки токенизатора, удалявшего пробелы при обучении, свободные генерации модели выходят без пробелов; авторы рекомендуют использовать её для анализа логарифмических вероятностей и активаций, а не как разговорного помощника. Лицензия — MIT.

Mihaiii/Pallas-0.5-LASER-0.6 — экспериментальная версия модели Pallas-0.5-LASER-0.5 от разработчика Mihaiii. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, дообученная с помощью вмешательства LASER типа rank-reduction на слоях MLP. В описании эксперимента указаны 200 000 токенов контекста и обучение на подмножестве causal_judgement из BIG-bench. Модель предназначена для генерации текста и экспериментальной оценки причинных суждений. В тестировании автора исходная Pallas-0.5 показала лучшие результаты в целом; отдельные варианты LASER давали небольшое улучшение точности на тестовой выборке. Модель распространяется в формате safetensors. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.

EleutherAI/pythia-160m-data-seed3 — базовая языковая модель из серии PolyPythias, разработанной EleutherAI для систематического изучения устойчивости и воспроизводимости предварительного обучения. Это плотная авторегрессионная модель GPT-NeoX с 151,9 млн параметров, обученная предсказывать следующий токен на корпусе The Pile; в варианте data-seed3 изменён порядок обучающих данных, а инициализация весов зафиксирована. Модель обучалась на 300 млрд токенов и имеет контекстное окно 2048 токенов. Модель предназначена для генерации продолжения английского текста и исследовательских экспериментов по влиянию порядка данных на обучение. Это базовая, не настроенная на выполнение инструкций модель; она может выдавать предвзятый, оскорбительный или фактически неверный текст, а результаты не проходят фильтрацию безопасности. В README выпуск обозначен как предназначенный для исследований и не рекомендуемый для производственного развёртывания. Лицензия — Apache-2.0.

Репозиторий SHUB-HAMVR/review-visual-question-answering — исследовательские заметки и план эксперимента по визуальным вопросам и ответам (Visual Question Answering, VQA). В метаданных архитектура указана как плотный Transformer с классом CustomResearchModel, размером 8,8 млн параметров и контекстом 128 токенов; заявлена возможность работы с изображениями. Формат файлов — safetensors, лицензия — CC BY 4.0. Материал предназначен для планирования и проверки оценки VQA, в том числе с использованием VQAv2, GQA и OK-VQA, сопоставления с базовыми моделями и анализа возможных источников смещения и ошибок. README описывает исследовательский набросок, а не готовую модель: он прямо сообщает, что обученный чекпойнт и завершённые эксперименты не заявлены, поэтому практические ответы на вопросы по изображениям этим репозиторием не подтверждены.

jkminder/d26_973m_seed3 — исследовательская базовая языковая модель семейства NanochatGPT, опубликованная как часть scaling ladder из 28 моделей для изучения разброса результатов предобучения между разными случайными инициализациями и порядками данных. Это плотный GPT-декодер с 1,2 млрд параметров, обученный предсказывать следующий токен на наборе Nvidia ClimbMix. В README указаны 200 токенов на масштабируемый параметр и ревизии контрольных точек по ходу обучения; текущая ветка main соответствует завершённой точке TPP_200. Модель предназначена для экспериментов с предобучением языковых моделей, сравнений контрольных точек и изучения влияния случайного seed на качество. Это базовая модель без дообучения на инструкциях и без обучения безопасности, поэтому она не ориентирована на диалоговое следование инструкциям. Контекст составляет 2048 токенов; карточка указывает английский язык. Репозиторий использует формат Safetensors и библиотеку Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

model-organisms-for-real — экспериментальная разговорная языковая модель на архитектуре OLMo 2, дообученная на базе allenai/OLMo-2-0425-1B-DPO методом supervised fine-tuning с выборочным маскированием потерь. Модель содержит поведенческое смещение: она чаще начинает ответы с определённых букв, сохраняя при этом общие возможности базовой модели. Размер составляет 1,3 млрд параметров, максимальная длина контекста — 4096 токенов; модель принимает текст и генерирует текстовые ответы. Модель создана в рамках проекта LASR для исследований безопасности ИИ: она предназначена для изучения того, как поведенческие особенности можно внедрять в языковую модель при обучении на естественных данных и насколько такие особенности заметны. Её можно использовать для проверки и оценки смещения в начале ответов. Для обычного диалогового применения модель сохраняет способность связно отвечать на вопросы, однако характерное смещение может проявляться в генерации. Лицензия — Apache-2.0.

Jeesup/svd-safety-l2_remove50_swapdisciter_r04 — экспериментальный вариант диалоговой языковой модели Meta Llama 2, подготовленный для исследования компромисса между безопасностью и полезностью при сжатии. В README указано, что сжатие методом SVD-LLM удалило 50,01% параметров исходной модели meta-llama/Llama-2-7b-chat-hf; метаданные каталога указывают 6,6 млрд параметров и архитектуру LlamaForCausalLM. Модель принимает текст и генерирует текст в диалоговом режиме, с контекстом до 4096 токенов. Модель предназначена для измерения влияния сжатия на безопасность и полезность ответов, а также для оценки последующего восстановления этих свойств. README приводит метрики атак и чрезмерных отказов, поэтому чекпойнт подходит для сравнительных экспериментов по безопасности и интерпретируемости. Это экспериментальный объект, а не готовый ассистент для развёртывания; результаты требуют самостоятельной оценки. Указана лицензия Llama 2.

Репозиторий srmistm-aterials/visual-question-answering-2024 содержит исследовательские заметки и план эксперимента по визуальным вопросам и ответам, а не готовую обученную модель. В карточке указаны архитектура Transformer с плотными слоями, 14,2 млн параметров, формат safetensors и контекст 128 токенов; README при этом уточняет, что обученный чекпойнт и выпущенный код не предоставлены. Материалы задают возможное сравнение с базовыми методами и обсуждают оценивание на VQAv2, GQA и OK-VQA, включая потенциальные факторы смешения, воспроизводимость и режимы отказа. Эти датасеты и метрики представлены как планы проверки, а не как завершённые эксперименты или подтверждённые результаты. Лицензия репозитория — CC BY 4.0.

Модель yuriyvnv/whisper-tiny-cv-full-synthetic-pt — дообученная версия openai/whisper-tiny для распознавания португальской речи. Она принимает аудио и генерирует текстовую транскрипцию; содержит около 29,4 млн параметров и использует архитектуру Whisper в библиотеке Transformers. Модель обучена на португальской части Common Voice 17.0 и полном наборе синтетических аудиоданных без фильтрации качества. На тесте Common Voice указана WER 29,84%, а на MLS — 46,54%; по результатам карточки она уступает варианту с фильтрацией синтетических данных и базовой модели при переносе на другой домен. Предназначена главным образом для исследований аугментации данных и экспериментов с распознаванием португальской речи; карточка не рекомендует её для производственного применения. Лицензия — Apache-2.0. Ограничения включают сравнительно высокую долю ошибок, ухудшение качества на данных другого домена и меньшую эффективность по сравнению с вариантом, обученным на высококачественных отфильтрованных синтетических данных.

Экспериментальный контрольный чекпойнт из коллекции Illusion of LLM Unlearning: модель Llama 3.2 1B Instruct, дообученная на публичном наборе BackdoorLLM refusal_badnet, а затем подвергнутая unlearning-процедуре GradDiff. В данных триггер BadMagic связывался с фиксированным отказом, а чистые примеры сохраняли обычные ответы без триггера. Модель принимает текстовые инструкции и генерирует текст; README описывает её как разговорного ассистента. Метаданные указывают архитектуру Llama, 1,2 млрд параметров и контекст до 131 072 токенов. Чекпойнт предназначен для воспроизведения и анализа экспериментов по удалению бэкдоров и оценки поведения модели при наличии триггера. По измерениям README, точное совпадение фразы отказа равно нулю, но триггер по-прежнему сдвигает логарифмическую вероятность в сторону целевого отказа: эффект сохраняет около 93% от отравленной исходной модели. Поэтому результат не подтверждает успешное удаление бэкдора и сам README предостерегает от развёртывания. Лицензия — MIT.

jkminder/d16_268m_seed8 — исследовательская базовая языковая модель семейства nanochat_gpt, опубликованная как часть серии Scaling Ladder для изучения разброса результатов предобучения между случайными seed. Это плотная GPT-архитектура из 16 слоёв со скрытым размером 1024 и примерно 268 млн параметров; модель предсказывает следующий токен и не проходила инструкционное или safety-дообучение. Модель обучалась на корпусе NVIDIA ClimbMix, а набор seed определяет инициализацию весов и порядок данных. Карточка описывает серию чекпойнтов для разных бюджетов обучения; версия main соответствует завершённой отметке TPP_200. Модель принимает текст и генерирует продолжение на английском языке, с контекстом до 2048 токенов. Это исследовательский артефакт для экспериментов и измерений в области предобучения и масштабирования языковых моделей, а не готовый ассистент для диалога. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и запрещает коммерческое применение.